ИИ официально научился писать доносы.
30-летняя Карли была уверена, что переписка с роботом полностью анонимна, а потому без задней мысли отписывала в чат свои самые мрачные намерения. Сначала девушка упомянула, что хочет расстрелять местный офис шерифа, а на следующий день «похвасталась», что уже раздобыла для этого пистолет. Встроенная система безопасности ИИ мгновенно распознала опасные триггеры и перенаправила диалог живым модераторам из команды Anthropic. Те медлить не стали и сразу же вызвали правоохранителей, слив и переписку, и личные данные американки.
В итоге к дому Карли в Бонита-Спрингс приехали помощники шерифа, задержав её прямо на месте. Сейчас она находится под арестом, ей предъявлено обвинение в письменной угрозе совершения массового расстрела. Вся «конфиденциальная» переписка, которую девушка считала «личным дневником», теперь приобщена к уголовному делу как главная улика.
Подпишись на VOICE