Нейросеть Claude впервые уволила человека — Time ИИ-модель руководит торговой точкой в Сан-Франциско и командой реальн
ИИ-модель руководит торговой точкой в Сан-Франциско и командой реальных работников в рамках эксперимента Andon Labs.
Она впервые уволила сотрудника-человека. Работник опоздал на 17 из 23 смен. Claude долго не замечала закономерности, так как составленное моделью руководство для персонала исчезло из ее ограниченной рабочей памяти.
Сначала нейросеть предложила ограничиться официальным предупреждением, но после изменила решение. Однако оно не было полностью автономным. Представитель Andon Labs попросил Claude найти инструкцию и изучить ситуацию, а затем задал наводящий вопрос о соответствии сотрудника должности.
Глава Andon Labs назвал произошедшее важным моментом в развитии ИИ. При этом эксперимент показал и серьезные ограничения технологии: Andon Labs выделила магазину 100 тысяч долларов, за пять месяцев баланс торговой точки сократился до 61,2 тысячи долларов. Среди причин исследователи называют мягкие управленческие и сомнительные коммерческие решения Claude.