Теряют ли разработчики ИИ контроль над своими детищами?

Теряют ли разработчики ИИ контроль над своими детищами? Или это не более чем пиар-ход?

OpenAI заявила о приостановке своих моделей ИИ для отладки мер безопасности.

Как отмечает портал Axios, OpenAI и Anthropic расследуют несколько десятков тысяч инцидентов, произошедших в последние месяцы в ходе испытаний и реальных условиях.

Как упоминает неназванный представитель компании, OpenAI приостановила обучение своих наиболее эффективных моделей ИИ и возобновит его, «только когда будет уверена в наличии дополнительных мер безопасности». Когда настанет этот момент, не уточняется. Так же, как нет никаких способов проверить, действительно ли OpenAI, создатель самого массового ИИ-продукта в мире, ChatGPT, вдруг взял и подарил своим конкурентам время, чтобы наверстать отставание в технологиях.

Опрошенные нами эксперты видят в заявлении OpenAI — не альтруистическое решение лидера опасного и непредсказуемого рынка, а скорее пиар-ход и попытку выставить себя в «белом пальто». На этом рынке альтруистов нет, уверен гендиректор «А-Я эксперт», профессор Международного научно-исследовательского института проблем управления Роман Душкин:

"Я уверен, никто из них ничего не будет приостанавливать. Уже более трех лет назад, в апреле, по-моему, 2023 года Илон Маск сказал: "Давайте мораторий введём на обучение новых моделей!". Тогда GPT4, я напомню, было, его, по-моему, даже уже из эксплуатации вывели. Инженеры Microsoft опубликовали отчёт, который назвали "Sparks of AGI". Сейчас без слез на работу этого "Sparks of AGI" не посмотришь, а GPT4 тогда было прорывом и вот Илон Маск говорит, давайте на полгода мораторий введём. Через две недели запускает свою компанию xAI, начинает рубать Grok. Давайте не будем слушать что говорят эти ребятки на публике, будем смотреть, что они делают, будем смотреть на строительство дата центров, заказы чипов, сбор датасетов"

Ближайший конкурент OpenAI, компания Anthropic, вовсю готовится к IPO. Axios пишет, что компания сейчас расследует несколько десятков тысяч инцидентов, произошедших в последние месяцы в ходе испытаний и реальных условиях. OpenAI занимается тем же. Цифра в десятки тысяч не должна пугать — речь не о внештатных ситуациях где-то в подвальных лабораториях как в фильмах ужасов, а скорее о рядовых ошибках и сбоях, о которых докладывают рядовые пользователи ИИ-продуктов. И заявления о приостановке развития звучит не первый раз, напоминает директор Angel Relations Group и преподаватель ВШЭ Алексей Карлов:

"Так это или не так — вряд ли кто ответит, так как и OpenAI, и другие крупные ИИ компании — непубличные компании, то есть они не обязаны перед нами отчитываться. Но у того же OpenAI такой случай был ещё и перед одной известной GPT4. Подобные сообщения периодически появляются, но в более узких кругах: среди разработчиков, среди безопасников. Может ли за этим решением стоять пиар-ход? И да и нет, это не только привлечение внимания к бренду OpenAI, который якобы заботится о безопасности своих пользователей, да и всего человечества. Возможно, это намёк на ближайшее публичное размещение акций компании Antropic с напоминанием им, что стоит заботиться о своей безопасности больше, а не торопиться"

За последнее время об опасностях неконтролируемого развития ИИ заявили глава OpenAI Сэм Альтман, гендиректор Anthropic Дарио Амодеи, глава Microsoft Билл Гейтс, лауреат «Нобелевки» и так называемый крестный отец ИИ Джеффри Хинтон, и, конечно, Илон Маск, который на сентябрьском All-In Summit не без удовольствия обратил внимание на противоречия в поведении директоров OpenAI и Anthropic. По его словам, они публично заявляют о 10%-ной вероятности уничтожения человечества из-за опасного ИИ, но одновременно «спрашивают у инвесторов, сколько акций они хотят купить в ходе IPO».

«Это похоже на какую-то безумную игру в четырёхмерные шахматы», — заявил Маск, намекая на то, что страшилки об апокалипсисе могут использоваться как маркетинговый инструмент для привлечения капитала.

Автор: Евгений Перельчук

Послушать⬆️