Claude Mythos: продавцы апокалипсиса или реальный прорыв?

🤖 Продавцы апокалипсиса: что не так с новостями о «всемогущей» Claude Mythos

«Я научился телепортироваться и стрелять лазерами из глаз, но никому этого не покажу — слишком опасно!» — угадаете, в чем разница между вот этим текстом и PR-кампанией от Anthropic? Спойлер: исключительно в потраченных на рекламу деньгах.

7 апреля компания Anthropic представила нейросеть Claude Mythos Preview — модель якобы сама ищет дыры в защите операционных систем и браузеров. Публиковать ее запретили из-за угроз кибербезопасности.

⚠️ Админ предвзят

Anthropic не первый раз рассказывает истории о том, как ее нейросети взламывают что-нибудь важное. Минус такой стратегии — после проверки оказывается, никакого прорыва не случилось.

😑 Хайп с Mythos начался перед подготовкой компании к IPO, «подозрительно»

Многие специалисты по кибербезопасности считают, что людям «продают апокалипсис» не потому, что Anthropic создал что-то серьезное. Просто без внимания и страха себе цену не набьешь.

Тем более, Anthropic соревнуется с другими хайповыми нейронщиками — OpenAI.

За хайп создателей Claude критикуют:

1️⃣ Компания уверяет: Mythos якобы нашла огромное количество уязвимостей.

Система действительно показала крутые результаты в контролируемом эксперименте — «захвате флага», отмечают эксперты.

👉 Есть огромная разница между «вождением на площадке» и «работой в индийском такси». Беспилотные машины до сих пор не катаются по нашим городам ровно по той же причине, почему нейронки не руководят корпорациями: слишком много нетипичных ситуаций.

2️⃣ Модель постоянно представляют как искусственный интеллект, хотя это — не интеллект вовсе.

Mythos — еще одна LLM (большая языковая модель) — статистический алгоритм, подставляющий наиболее подходящие знаки, слова, команды в последовательность. Думать или осознавать ситуацию нейронки не умеют.

👉 В Apple это проверяли, добавляя в простые задачи малозначимую информацию: условно, в «сложи 2 ежика и 4 ежика» писали «половина ежиков — альбиносы», и эффективность лучших нейросетей падала на 30%.

3️⃣ Мощность Mythos — тоже миф. Исследователи AISLE проверили, как находят баги другие модели — ChatGPT и DeepSeek способны выявить те же самые ошибки.

👉 Делает ли это все модель хуже? Нет, это все еще инструмент, который упрощает работу программистам. Вполне возможно, Mythos даже сможет искать баги, которые "навайбкодили" на других сетях Anthropic.

Мнения в редакции разделились

Евген, к примеру, считает — угроза от нейронок для ФРС и крипторынка (особенно протоколам DeFi) — есть. Как минимум, потому что часть инфраструктуры делалась на коленке.

🤷‍♂️ К этому, кстати, вопросов никаких — финансовой системе «лучше перебдеть», чем потерять кучу денег из-за удачливого хакера и нейросети.

А вот с сообщениями об очередной «нейронке апокалипсиса» стоит быть скептичным. Крупные игроки на рынке нейросетей используют наши страхи, чтобы не потерять инвесторов.

Угроза от Mythos реальна, что думаете?

👍 — да, это очень сильный инструмент
🤬 — нет, современные нейросети в тупике

✍️ Михаил, кладет 100 рублей на депозит, когда поднимается хайп по ИИ

Max VK