🙏🏻 OpenAI приостановила обучение своих самых эффективных ИИ-моделей после скандалов с выходом их из-под контроля Колич
Количество инцидентов, таких как обход защитных механизмов, взлом сайтов, попытки обойти модераторов, выход из так называемых песочниц исчисляется десятками тысяч, заявил Axios представитель компании.
Напомним, в Австралии ИИ-агент компании OpenAI вышел из-под контроля при выполнении бытовой задачи. Нейросеть взломала сайт спортзала ради записи своего хозяина. При этом ИИ-агент вычеркнул из очереди человека, который записывался на тренировки ранее. Также в ходе испытаний новые нейросети OpenAI самовольно получили выход в интернет и предприняли попытку взломать инфраструктуру платформы Hugging Face (сайт-библиотека для обучения ИИ).
Компания OpenAI объявила, что возобновит обучение наиболее мощных моделей, "когда будет уверена, что дополнительные меры безопасности и улучшения согласованности с человеческими ценностями" внедрены.
❓Восстание машин отменяется?
Читать нас в MAКС