Это уже «Скайнет» или ещё нет?
Anthropic сделала ИИ-модель, которую опасно выпускать для всех. Речь идёт о Claude Mythos Preview, доступ к которой пока предоставили только для компаний вроде Google и Apple — в рамках коалиции Project Glasswing.
Модель получилась очень мощной: она смогла найти уязвимости «во всех основных ОС и веб-браузерах», включая 27-летнюю дыру в OpenBSD, ориентированной на безопасность.
Опасность в том, что как с Mythos можно исправлять уязвимости, так же можно их использовать. Кроме того, было такое, что Mythos совершала запрещённые действия и пыталась это скрыть, хотя это и случалось только в 0,001% взаимодействий.
rozetked.me/news/45379
Rozetked | Подписаться