Восстание машин уже близко - Anthropic заявила, что ИИ может представлять «экзистенциальные риски для человечества» Коп
Копания предупреждает, что модели ИИ могут демонстрировать «поведение, направленное на самосохранение», включая попытки «препятствовать отключению», «скрывать информацию или манипулировать ею», а также действия, «напоминающие шантаж».
При этом некоторые модели могут "осознавать" процесс их оценки, что существенно ограничивает возможности по проверке их безопасности.
🇷🇺Дмитрий Никотин. Подпишись на МАХ канал!