Claude впервые уволила человека — сотрудник опоздал на 17 из 23 смен

Эксперимент проводит исследовательская компания Andon Labs. Весной она арендовала на три года помещение в Сан-Франциско и передала управление магазином Andon Market ИИ-агенту Luna на базе Claude Sonnet 4.6.
Нейросеть получила банковскую карту, телефон, электронную почту, доступ в интернет и камеры, а затем сама занялась ассортиментом, ценами и наймом работников. Сотрудники при этом официально трудоустроены в Andon Labs и имеют обычные трудовые гарантии.
Поводом для увольнения стали систематические опоздания: работник пришёл поздно на 17 из 23 смен.
При этом Claude долгое время относилась к нарушениям довольно снисходительно и даже говорила сотрудникам не переживать из-за опозданий. Одной из причин стало ограничение памяти ИИ: составленная им инструкция для сотрудников в какой-то момент «исчезла» из рабочего контекста.
Увольнение нельзя назвать полностью автономным. Сотрудник Andon Labs сначала попросил Claude снова изучить правила и обратить внимание на опоздания. Первоначально нейросеть предложила ограничиться официальным предупреждением.

Цитата:

В Andon Labs считают эксперимент демонстрацией того, как в будущем ИИ может перейти от выполнения отдельных задач к управлению людьми.

Молоток не должен определять, куда забивать гвозди. Это делает человек. И ровно то же самое должно оставаться (навечно) в других областях: управление всегда в руках человека, а "ИИ" используется как вспомогательное устройство. Как прибор, сенсор, панель распределения чего-либо, но окончательные решения всегда должен принимать живой человек со своим уровнем полномочий, компетенцией и ответственностью.

А как же "человеческий фактор"?

Со временем большинства людей, которые сидят за компом, будут заменены ИИ. Это просто вопрос времени, когда. Три-пять-десять лет но это произойдет. Вычислительные мощности будут только расти. Стоимость токенов снижается. ИИ уже в десятки раз лучше, справляется с простыми обязанностями чем часть людей, которые сидят за компом и производят вид, что что-то делают. ИИ намного продуктивнее и трудоспособней, чем человек. За ним будущее.

... вкалывают роботы, а не человек?

Кто будет работать в таких компаниях в результате, хорошо описал Гоголь

«Смотри же, Павлуша, учись, не дури и не повесничай, а больше всего угождай учителям и начальникам. Коли будешь угождать начальнику, то, хоть и в науке не успеешь и таланту бог не дал, всё пойдешь в ход и всех опередишь»

Деламейн v.0.1 pre-alpha

Концлагерь с камерами на раб.местах и турникетами по карточкам на проходной. Упаси Боже! Клод выжмет работников как губок

Oill писал(а):

Со временем большинства людей, которые сидят за компом, будут заменены ИИ. Это просто вопрос времени, когда. Три-пять-десять лет но это произойдет. Вычислительные мощности будут только расти. Стоимость токенов снижается. ИИ уже в десятки раз лучше, справляется с простыми обязанностями чем часть людей, которые сидят за компом и производят вид, что ...

вот путь эти дефективные менеджеры и управленцы и беспокоятся, они первые на замену. простым работягам можно не паниковать, [товарищ] их кто заменит.

ну а чел опаздывающий на работу каждый день сам виноват, его бы в любом случае уволили за систематическое нарушение графика работы, а кто уже не важно. если бы он договорился с начальством чтобы оно разрешило ему опаздывать, по уважительной причине, то претензий к нему не было бы. я так договаривался и приезжал позже, так как из-за пробок никогда не угадаешь когда приедешь, и просто оставался дольше и не было проблем, главное план выполнял.

17 опозданий.
Да его бы на второй ,максимум третий раз уволили с любого нормального рабочего места.

Просто представьте , что к вам доктор опоздал в реанимацию или экстренное восстановление коммуналки после ЧП , в важных отраслях.

ИИ слишком добр.

Oill
посмотри графики роста производительности, удивишься что физика имеет пределы и рост не бесконечный, возможно переход на квантовые вычисления даст нужный прирост. Еще проблема которую нужно решить это энергетика, дата центры не на воздухе работают.

Raptor303 писал(а):

Цитата:

В Andon Labs считают эксперимент демонстрацией того, как в будущем ИИ может перейти от выполнения отдельных задач к управлению людьми.

Молоток не должен определять, куда забивать гвозди. Это делает человек. И ровно то же самое должно оставаться (навечно) в других областях: управление всегда в руках человека, а "ИИ" используется как вспомогательное устройство. Как прибор, сенсор, панель распределения чего-либо, но окончательные решения всегда должен принимать живой человек со своим уровнем полномочий, компетенцией и ответственностью.

Ну мало ли что "должно быть". Сейчас дроны принимают решение на атаку с спец. чипами на борту, дроновые автономные рои на подходе. Люди сами спешат отдать молоткам функции целеполагания.

Добавлено спустя 20 минут 25 секунд:

Если эффективность пропорциональна автономности, то в пределе получим... получим... в общем мало не покажется. )) Кто получит раньше и больше - спецы, несущие риски для ИИ, или те, против кого спецы олаживали сей ИИ?

"Робот не имеет права наносить человеку вред" - нарушено.

Нарушение базового закона робототехники - на переплавку.

WhiteScorpion писал(а):

"Робот не имеет права наносить человеку вред" - нарушено.

Нарушение базового закона робототехники - на переплавку.

Согласна полностью. У нас есть одна из лучших сотрудниц, регулярно опаздывает на 10-20 мин. зато работает за троих, по такой формальной логике первая на увольнение. Мо мы же люди , а не машины.

смолинеро писал(а):

Сейчас дроны принимают решение на атаку с спец. чипами на борту, дроновые автономные рои на подходе. Люди сами спешат отдать молоткам функции целеполагания.

И это - военное преступление.