ИИ-модель впервые в мире приняла решение об увольнении реального сотрудника, которым она управляла в качестве начальника, пишет Time.
Эксперимент провел стартап Andon Labs в Сан-Франциско. ИИ-модели Claude поручили управлять настоящим магазином и командой сотрудников, работающих по реальным трудовым контрактам.
Уволенный сотрудник опоздал на 17 из 23 смен. При этом решение оказалось не полностью автономным. Из-за ограниченной памяти Claude долго не замечала систематических опозданий и первоначально предложила лишь официально предупредить сотрудника.
Представитель Andon Labs сообщил модели, что предупреждения уже были, и предложил оценить, подходит ли этот человек для работы. После этого Claude решила его уволить. Глава компании признал, что вопрос фактически подталкивал ИИ к такому решению.
В целом эксперимент пока показывает довольно низкую эффективность ИИ в управлении бизнесом. В марте на счету магазина было $100 тысяч, а спустя пять месяцев осталось $61 186. Среди причин - слишком мягкое отношение Claude к сотрудникам и неудачные коммерческие решения.