Отключение взбесившегося ИИ признали затруднительным В Конгресс США внесли законопроект о федеральном регулировании иск
В Конгресс США внесли законопроект о федеральном регулировании искусственного интеллекта. Демократ Тед Лью и республиканец Натаниэль Моран предлагают обязать OpenAI, Anthropic и другие крупные компании предусмотреть механизм принудительного отключения ИИ. Полномочия на нажатие кнопки получит Министерство внутренней безопасности.
Однако реализация такого предложения затруднительна.
«Часто нет такого провода, который можно выдернуть», — говорит Хелен Тонер, экс-член совета директоров OpenAI.
Современные ИИ-системы распределены по десяткам дата-центров по всему миру.
К тому же мощный ИИ теоретически может скопировать себя в другую инфраструктуру или оставить инструкции, как деактивировать сам рубильник. Плюс такая кнопка — лакомая цель для хакеров.
Часть экспертов предлагает встраивать ограничения прямо в чипы. Но для этого потребуются общие мировые стандарты и годы переговоров.
Иллюстрация: ChatGPT
👾 naukatv