🚀 Anthropic раскрыла, как ИИ используется в кибератаках, пропаганде и разработке оружия Anthropic представила отчет о з
Anthropic представила отчет о злоупотреблениях ее моделью Claude, выявив случаи использования ИИ для кибератак, шпионажа, пропаганды и разработки вооружений. Хакеров привлекает возможность превращать ИИ в автономного координатора операций: Claude помогал взламывать системы и переписывать вредоносный код для обхода защиты. Кроме того, модель участвовала в создании ПО для управляемых ракет и других систем вооружения. Кроме того, зафиксированы попытки использовать ИИ для массовой слежки, информационных кампаний и пропаганды.
Особую тревогу у Anthropic вызвали исследования в области биологии, где Claude применялся для изучения мутаций и механизмов адаптации опасных вирусов к иммунитету. Компания усилила ограничения для современных моделей, одновременно признавая, что одних защитных фильтров недостаточно: злоумышленники учатся дробить задачи, скрывать конечную цель и обходить ограничения.
Читайте подробнее на сайте
Frank Media в Telegram | MAX | Рассылка