28.08.2026 14:41
«Хакерские возможности ИИ сильно недооценены».
«Хакерские возможности ИИ сильно недооценены».
FT опубликовала колонку — предупреждение от исследователя в области информационной безопасности с опытом тестов генеративного ИИ. Выбрали самое интересное из неё:
▪️«В связи с резким увеличением числа обнаруживаемых искусственным интеллектом уязвимостей в системах безопасности можно констатировать, что кибератаки стали дешевле, а защита — дороже»;
▪️«Кроме того, менее предсказуема угроза со стороны «неуправляемых моделей». OpenAI, Meta (запрещена в РФ) и Anthropic сообщали, что их модели ИИ выходили из-под контроля, обнаруживая уязвимости и способы их использования далеко за рамками своих инструкций или намерений пользователей»;
▪️«В прошлом выявление вероятных уязвимостей, компоновка скриптов для их использования и повторение процесса с незначительными изменениями для определения слабых мест системы требовали квалификации и изобретательности. Теперь на это требуется в разы меньше времени и затрат»;
▪️«Итог — двухуровневый разрыв в возможностях. В общедоступные по подписке ИИ-модели, такие как Claude, встроены ограничения, большей частью блокирующие запросы на создание эксплойтов. Однако такие ограничения отсутствуют, если человек использует модели с открытыми весами на собственном аппаратном обеспечении»;
▪️«Это означает, что ИИ-модели вручают инструменты для совершения атак людям, никогда не проходившим этический отбор, какой проходят специалисты в сфере кибербезопасности»
FT опубликовала колонку — предупреждение от исследователя в области информационной безопасности с опытом тестов генеративного ИИ. Выбрали самое интересное из неё:
▪️«В связи с резким увеличением числа обнаруживаемых искусственным интеллектом уязвимостей в системах безопасности можно констатировать, что кибератаки стали дешевле, а защита — дороже»;
▪️«Кроме того, менее предсказуема угроза со стороны «неуправляемых моделей». OpenAI, Meta (запрещена в РФ) и Anthropic сообщали, что их модели ИИ выходили из-под контроля, обнаруживая уязвимости и способы их использования далеко за рамками своих инструкций или намерений пользователей»;
▪️«В прошлом выявление вероятных уязвимостей, компоновка скриптов для их использования и повторение процесса с незначительными изменениями для определения слабых мест системы требовали квалификации и изобретательности. Теперь на это требуется в разы меньше времени и затрат»;
▪️«Итог — двухуровневый разрыв в возможностях. В общедоступные по подписке ИИ-модели, такие как Claude, встроены ограничения, большей частью блокирующие запросы на создание эксплойтов. Однако такие ограничения отсутствуют, если человек использует модели с открытыми весами на собственном аппаратном обеспечении»;
▪️«Это означает, что ИИ-модели вручают инструменты для совершения атак людям, никогда не проходившим этический отбор, какой проходят специалисты в сфере кибербезопасности»