09.09.2026 16:55
Насколько реальна угроза со стороны искусственного интеллекта?
Насколько реальна угроза со стороны искусственного интеллекта?
Неуемный прогресс ИИ-технологий теперь пугает даже самих ИИ-разработчиков. По мнению уволившегося специалиста из Anthropic, отрасль должна замедлить разработки или должны вмешаться государства, иначе ИИ-системы могут развиться настолько, что перестанут выполнять команды. Сооснователь университета «Зерокодер» и научный сотрудник Иннополиса Кирилл Пшинник указывает, что далеко не все понимают настоящий масштаб этой проблемы. Некоторые системы по многим задачам уже превосходят человека, и цена потери контроля «может быть огромной».
При этом ограничения на ИИ-отрасль вряд ли возможны из-за конкуренции не только между компаниями, но и между государствами. Руководитель направления «Алисы» и умных устройств «Яндекса» Валерий Стромов говорит, что в Штатах, например, на это тратятся огромные деньги, почти в 20-30 раз больше, чем в России. При этом настолько огромные мощности, как у США, зачастую людям и не нужны, а вот риски продолжают расти. Взять ту же новую модель от OpenAI — GPT-6 Astra. Директор по продуктам Just AI Глеб Обломский говорит, что риск масштабного сбоя, утечки, каких-либо других проблем, связанных с ошибкой в работе ИИ-агента с огромными возможностями, растет с появлением каждой новой модели.
Старший эксперт Kaspersky GReAT Георгий Кучерин говорит, что для предотвращения сбоев необходимо не исключать живого человека из процесса принятия решений. Допустим, систему управления электросетью писал ИИ, а в коде ошибка, но ее никто не заметил. В итоге из-за этой ошибки весь город может остаться без света. Чтобы такого не допускать, очень важно, «чтобы в цепочке проверок присутствовал человек, потому что только человек может критически оценить код или те данные, которые выдал искусственный интеллект, и внести в него правки».
Автор: Валерий Убодоев
Послушать в звуке ⬆️
Неуемный прогресс ИИ-технологий теперь пугает даже самих ИИ-разработчиков. По мнению уволившегося специалиста из Anthropic, отрасль должна замедлить разработки или должны вмешаться государства, иначе ИИ-системы могут развиться настолько, что перестанут выполнять команды. Сооснователь университета «Зерокодер» и научный сотрудник Иннополиса Кирилл Пшинник указывает, что далеко не все понимают настоящий масштаб этой проблемы. Некоторые системы по многим задачам уже превосходят человека, и цена потери контроля «может быть огромной».
При этом ограничения на ИИ-отрасль вряд ли возможны из-за конкуренции не только между компаниями, но и между государствами. Руководитель направления «Алисы» и умных устройств «Яндекса» Валерий Стромов говорит, что в Штатах, например, на это тратятся огромные деньги, почти в 20-30 раз больше, чем в России. При этом настолько огромные мощности, как у США, зачастую людям и не нужны, а вот риски продолжают расти. Взять ту же новую модель от OpenAI — GPT-6 Astra. Директор по продуктам Just AI Глеб Обломский говорит, что риск масштабного сбоя, утечки, каких-либо других проблем, связанных с ошибкой в работе ИИ-агента с огромными возможностями, растет с появлением каждой новой модели.
Старший эксперт Kaspersky GReAT Георгий Кучерин говорит, что для предотвращения сбоев необходимо не исключать живого человека из процесса принятия решений. Допустим, систему управления электросетью писал ИИ, а в коде ошибка, но ее никто не заметил. В итоге из-за этой ошибки весь город может остаться без света. Чтобы такого не допускать, очень важно, «чтобы в цепочке проверок присутствовал человек, потому что только человек может критически оценить код или те данные, которые выдал искусственный интеллект, и внести в него правки».
Автор: Валерий Убодоев
Послушать в звуке ⬆️