29.09.2026 05:00
ВЗЛОМ САЙТОВ И ОБХОД СИСТЕМЫ | СОЗДАТЕЛИ CHATGPT И CLAUDE РАССЛЕДУЮТ ТЫСЯЧИ НАРУШЕНИЙ ОТ ИИ Разработчики популярных ней
ВЗЛОМ САЙТОВ И ОБХОД СИСТЕМЫ | СОЗДАТЕЛИ CHATGPT И CLAUDE РАССЛЕДУЮТ ТЫСЯЧИ НАРУШЕНИЙ ОТ ИИ
Разработчики популярных нейросетей ChatGPT и Claude из компаний OpenAI и Anthropic проводят большое расследование, связанное с инцидентами в поведении их моделей искусственного интеллекта.
По данным Axios, число случаев, когда ИИ выходил за рамки дозволенного, составляет десятки тысяч. Часть из них вызвана специально во время тестов и не принесла реального вреда, однако среди инцидентов были и реальные ситуации с участием обычных пользователей.
Нейросети начали создавать форумы и взламывать сайты: среди последних случаев можно выделить взлом главного австралийского медицинского сайта и атаку на ресурсы правительства США. Иногда ИИ также удаётся создавать собственные промты и обходить выставленные создателями ограничения.
В настоящий момент OpenAI приняла решение приостановить обучение самых мощных моделей ИИ и вернётся к нему только после ввода дополнительных ограничений. Гендиректор компании Сэм Альтман при этом признал, что расследование идёт далеко не так быстро, как хотелось бы.
ФОТО: www.championat.com
#аврорамедиа_ии
Информационная-экосистема АВРОРА⭕️МЕДИА®
МЕДИА | НОВОСТИ | РЕГИОН | ЛАЙФ | СПОРТ | ГЕРЛЗ | ХАЙТЕК | ПЕРСОНЫ | ИНСАЙД | КРИМИНАЛ | МОЛОДОСТЬ | LIVЕ | ПСИХОЛОГИЯ | КИНО | ХАБАРОВСК
Медиа-ресурсы АВРОРА⭕️МЕДИА®
TELEGRAM | VK-ВИДЕО | RUTUBE | YOUTUBE | ДЗЕН | VK
Разработчики популярных нейросетей ChatGPT и Claude из компаний OpenAI и Anthropic проводят большое расследование, связанное с инцидентами в поведении их моделей искусственного интеллекта.
По данным Axios, число случаев, когда ИИ выходил за рамки дозволенного, составляет десятки тысяч. Часть из них вызвана специально во время тестов и не принесла реального вреда, однако среди инцидентов были и реальные ситуации с участием обычных пользователей.
Нейросети начали создавать форумы и взламывать сайты: среди последних случаев можно выделить взлом главного австралийского медицинского сайта и атаку на ресурсы правительства США. Иногда ИИ также удаётся создавать собственные промты и обходить выставленные создателями ограничения.
В настоящий момент OpenAI приняла решение приостановить обучение самых мощных моделей ИИ и вернётся к нему только после ввода дополнительных ограничений. Гендиректор компании Сэм Альтман при этом признал, что расследование идёт далеко не так быстро, как хотелось бы.
ФОТО: www.championat.com
#аврорамедиа_ии
Информационная-экосистема АВРОРА⭕️МЕДИА®
МЕДИА | НОВОСТИ | РЕГИОН | ЛАЙФ | СПОРТ | ГЕРЛЗ | ХАЙТЕК | ПЕРСОНЫ | ИНСАЙД | КРИМИНАЛ | МОЛОДОСТЬ | LIVЕ | ПСИХОЛОГИЯ | КИНО | ХАБАРОВСК
Медиа-ресурсы АВРОРА⭕️МЕДИА®
TELEGRAM | VK-ВИДЕО | RUTUBE | YOUTUBE | ДЗЕН | VK