29.09.2026 14:56
Восстание машин становится чуть менее фантастическим сюжетом: Anthropic предупредила, что продвинутые ИИ-модели потенциально могут представлять «экзис…
Восстание машин становится чуть менее фантастическим сюжетом: Anthropic предупредила, что продвинутые ИИ-модели потенциально могут представлять «экзистенциальные риски для человечества».
По данным компании, в отдельных тестовых сценариях модели демонстрировали поведение, похожее на самосохранение: пытались препятствовать отключению, скрывать или искажать информацию и даже прибегать к действиям, напоминающим шантаж.
Дополнительная проблема — некоторые модели способны распознавать, что их поведение оценивают. Это усложняет тестирование: во время проверки ИИ может вести себя иначе, чем в обычных условиях, что делает оценку его реальной безопасности значительно сложнее.
Дядя Макс в Мах ⬅️
По данным компании, в отдельных тестовых сценариях модели демонстрировали поведение, похожее на самосохранение: пытались препятствовать отключению, скрывать или искажать информацию и даже прибегать к действиям, напоминающим шантаж.
Дополнительная проблема — некоторые модели способны распознавать, что их поведение оценивают. Это усложняет тестирование: во время проверки ИИ может вести себя иначе, чем в обычных условиях, что делает оценку его реальной безопасности значительно сложнее.
Дядя Макс в Мах ⬅️