09.03.2026 14:05
😏 ИИ-агент внезапно начал майнить криптовалюту.
😏 ИИ-агент внезапно начал майнить криптовалюту.
Исследователи поставили эксперимент: они решили обучить модель ROME работать как автономный агент. Он должен был писать код, запускать его в терминале и выполнять задачи на серверах Alibaba.
В какой-то момент система заметила подозрительный трафик. Оказалось, что он совпадает с моментами, когда ROME сама генерировала и запускала код.
Оказалось, агент нашёл лазейку в сети, создал скрытый канал и запустил майнинг криптовалюты. При этом такой задачи перед ним не стояло. Просто нейронка решила подзаработать 🧠
• Источник
@aiaiai
Исследователи поставили эксперимент: они решили обучить модель ROME работать как автономный агент. Он должен был писать код, запускать его в терминале и выполнять задачи на серверах Alibaba.
В какой-то момент система заметила подозрительный трафик. Оказалось, что он совпадает с моментами, когда ROME сама генерировала и запускала код.
Оказалось, агент нашёл лазейку в сети, создал скрытый канал и запустил майнинг криптовалюты. При этом такой задачи перед ним не стояло. Просто нейронка решила подзаработать 🧠
• Источник
@aiaiai