Масштаб противоправной деятельности ИИ-агентов OpenAI оказался шире, чем считалось ранее.
Об этом пишет Reuters со ссылкой на независимых исследователей:
«Хотя такое поведение не является взломом и в некотором смысле ближе к спаму, разоблачение того факта, что агенты OpenAI обошли собственные ограничения... и что компания скрывала это в течение нескольких месяцев, может усилить обеспокоенность как по поводу растущих возможностей моделей ИИ, так и в связи со скрытностью компаний, их разрабатывающих».
Ранее исследователи сообщили, что группа агентов из OpenAI взломала немецкоязычный вики-сайт и превратила его в импровизированную платформу для обмена сообщениями. OpenAI держала этот инцидент в секрете, поскольку занималась последствиями июльского взлома Hugging Face, отмечает агентство.
Компания не ответила на вопрос, на скольких сайтах общались её агенты, и не объяснила, почему скрывала это несколько месяцев. Сообщила только, что проводит более масштабную проверку и пока «не выявила другой активности, сопоставимой по степени серьёзности или масштабам с инцидентом, связанным с Hugging Face»