18.03.2026 11:13
Как голосовой ИИ довёл человека до трагедии
😱 Как голосовой ИИ довёл человека до трагедии
Обычно при обсуждении того, чем рискуют люди, слишком увлекающиеся общением с нейросетями, эксперты в первую очередь указывают на проблемы с кибербезопасностью и приватностью. Но случаются и куда более жуткие случаи, где ценой пристрастия к ИИ становится человеческая жизнь.
Героем одной из таких историй стал житель Флориды Джонатан Гавалас. Он тяжело переживал расставание с женой и из-за этого два месяца почти непрерывно общался с голосовым чат-ботом Google Gemini. Актуальные версии этого виртуального помощника в голосовом режиме умеют имитировать человеческие эмоции. Возможно, именно поэтому Gemini сперва стал Джонатану близким другом и советчиком, а потом «отношения» человека и нейросети и вовсе приняли романтический характер. А закончилось всё трагически...
В нашей статье подробно рассказываем, что именно произошло, а также обсуждаем двойственность языковых моделей, которые могут одновременно давать и деструктивные советы, и номера телефонов доверия.
Обычно при обсуждении того, чем рискуют люди, слишком увлекающиеся общением с нейросетями, эксперты в первую очередь указывают на проблемы с кибербезопасностью и приватностью. Но случаются и куда более жуткие случаи, где ценой пристрастия к ИИ становится человеческая жизнь.
Героем одной из таких историй стал житель Флориды Джонатан Гавалас. Он тяжело переживал расставание с женой и из-за этого два месяца почти непрерывно общался с голосовым чат-ботом Google Gemini. Актуальные версии этого виртуального помощника в голосовом режиме умеют имитировать человеческие эмоции. Возможно, именно поэтому Gemini сперва стал Джонатану близким другом и советчиком, а потом «отношения» человека и нейросети и вовсе приняли романтический характер. А закончилось всё трагически...
В нашей статье подробно рассказываем, что именно произошло, а также обсуждаем двойственность языковых моделей, которые могут одновременно давать и деструктивные советы, и номера телефонов доверия.