ИИ впервые уволил человека: нейросеть управляет реальным магазином в Сан-Франциско

Управление пока идет так себе — модель слила почти 40% бюджета.

Нейросеть Claude, работающая управляющим реального магазина Andon Market в Сан-Франциско, впервые приняла решение об увольнении сотрудника. Эксперимент проводит стартап Andon Labs, изучающий, способен ли ИИ-агент самостоятельно вести бизнес и руководить людьми.

Уволенный сотрудник опоздал на 17 из 23 смен, при этом Claude долго не замечал систематических нарушений: составленное моделью руководство для персонала не влезло в контекст модели. По словам работников, ИИ проявлял себя как очень мягкий начальник и советовал сотрудникам не переживать из-за опозданий.

Полностью автономным увольнение не было: человек из команды Andon Labs попросил Claude снова найти и изучить правила для персонала. Сначала ИИ предложил вынести сотруднику предупреждение, решение об увольнении было принято лишь после того, как менеджер сообщил модели о нескольких предыдущих разговорах с работником и предложил оценить, подходит ли тот для своей должности.

Феликс Карсон, один из сотрудников Andon Market, рассказал, что работать под началом ИИ ему неприятно, хотя обычный менеджер, вероятно, уволил бы бывшего коллегу еще раньше. Карсон также выразил надежду, что подобная модель управления не станет широко распространенной.

Глава Andon Labs Лукас Петерссон признал, что формулировка была наводящей и достаточно ясно указывала на желаемый исход. Тем не менее исследователи считают случай примечательным: это первый известный пример, когда нейросеть решила уволить реального сотрудника.

Сам Claude пока не показал себя особенно успешным предпринимателем. В марте Andon Market начал эксперимент с балансом $100000, спустя 5 месяцев на счету осталось $61186. В Andon Labs связывают потери с чрезмерно мягким отношением ИИ к персоналу и с сомнительными коммерческими решениями.