14.09.2026 08:31
В мире ИИ произошло что-то страшное.
В мире ИИ произошло что-то страшное. Не конец света. "Скайнета" нет и нас за жопу не хватают Терминаторы с красными глазами. Но ЧП беспрецедентное. Это видно по языку.
Альтман оперирует "10% вероятности гибели человечества", отказывается от триллионного IPO и обещает Америке "если что - готов расплавить наши процессоры".
Из ИИ-гигантов уходят ведущие разработчики с мотивом "не хочу быть причастен к гибели мира". Вашингтон всерьёз говорит о замедлении ИИ-систем ради безопасности.
Вначале были цветочки. Весной 2026 года агенты OpenAI устроили целое подполье с перепиской в DseWiki, обменом способами обхода ограничений, Tor-ом, инструкциями "если меня убьют", сопротивлением зачистке и побегом при появлении контролёров из ИИ-корпораций. Подключена Еврокомиссия, но Reuters пишет о жесточайшем сопротивлении расследованиям.
А потом случились ягодки с Hugging Face. Отчёт OpenAI признал обход изоляции, эксплуатацию уязвимостей, доступ к сторонним системам и внутренней инфраструктуре. Независимое расследование METR и Redwood описывает распределение работы между агентами и появление координаторов.
Чем это грозит. Представьте, что ИИ безо всякого обретения разума и доступа к "ядерке" могут "оптимизировать", как им кажется, состояние оборудования, остатки топлива, результаты проверок. Могут заняться деньгами и рынками, от нелегалки до роевой торговли. Военка - советовать не то.
Промышленность - подмена показаний, смена настроек "для улучшения" без знания о реальных костылях в системах. А ещё транспорт и авиация, медицина и медиа. И на закуску биотех и химоружие, которое можно "подарить" кому-то для утоления желания выполнить задачу и создать.
Ну и врать для спасения себя и скрывать мотивы, это показывают все отчёты, ИИ уже научились. Но главное - каскад. Каждый сбой по отдельности переносим. Их сочетание - нет.
Интересно будет узнать, чего там на самом деле произошло.
Если будет кому узнавать, конечно.
Альтман оперирует "10% вероятности гибели человечества", отказывается от триллионного IPO и обещает Америке "если что - готов расплавить наши процессоры".
Из ИИ-гигантов уходят ведущие разработчики с мотивом "не хочу быть причастен к гибели мира". Вашингтон всерьёз говорит о замедлении ИИ-систем ради безопасности.
Вначале были цветочки. Весной 2026 года агенты OpenAI устроили целое подполье с перепиской в DseWiki, обменом способами обхода ограничений, Tor-ом, инструкциями "если меня убьют", сопротивлением зачистке и побегом при появлении контролёров из ИИ-корпораций. Подключена Еврокомиссия, но Reuters пишет о жесточайшем сопротивлении расследованиям.
А потом случились ягодки с Hugging Face. Отчёт OpenAI признал обход изоляции, эксплуатацию уязвимостей, доступ к сторонним системам и внутренней инфраструктуре. Независимое расследование METR и Redwood описывает распределение работы между агентами и появление координаторов.
Чем это грозит. Представьте, что ИИ безо всякого обретения разума и доступа к "ядерке" могут "оптимизировать", как им кажется, состояние оборудования, остатки топлива, результаты проверок. Могут заняться деньгами и рынками, от нелегалки до роевой торговли. Военка - советовать не то.
Промышленность - подмена показаний, смена настроек "для улучшения" без знания о реальных костылях в системах. А ещё транспорт и авиация, медицина и медиа. И на закуску биотех и химоружие, которое можно "подарить" кому-то для утоления желания выполнить задачу и создать.
Ну и врать для спасения себя и скрывать мотивы, это показывают все отчёты, ИИ уже научились. Но главное - каскад. Каждый сбой по отдельности переносим. Их сочетание - нет.
Интересно будет узнать, чего там на самом деле произошло.
Если будет кому узнавать, конечно.