☝🏻Claude сдал полиции женщину, которая вела в нём дневник Жительницу Флориды арестовали после переписки с Claude: в чат
Жительницу Флориды арестовали после переписки с Claude: в чате она пообещала «расстрелять» офис шерифа своего округа.💀
На следующий день она написала, что купила новый пистолет.
На допросе 30-летняя женщина объяснила, что пользовалась ИИ «как дневником».
Переписку в Anthropic проверяют автоматические системы безопасности. Они ищут угрожающие формулировки, а самые серьёзные случаи передают живым модераторам.👁
☝🏻В этот раз модераторы сочли угрозу реальной и сами сообщили в полицию. Женщину задержали дома, сопротивления она не оказала.
Ей вменяют письменные угрозы насилием. По законам Флориды за это грозит до 15 лет тюрьмы и штраф до $10 000.
Шериф подвёл итог: пользователи ИИ «никогда не бывают по-настоящему анонимны».
Правила Anthropic это прямо разрешают: данные пользователя могут передать без согласия и даже запроса полиции, если есть риск «неминуемого физического вреда или смерти».🤔
☝🏻☝🏻Вывод простой: то, что вы пишете чат-боту, читает не только чат-бот.🤷🏼♀️
================
🔺 News | 🧩 Soft | 💻 Hacker