02.08.2026 19:25
ИИ оказался эффективнее людей в завоевании доверия жертв мошенничества.
ИИ оказался эффективнее людей в завоевании доверия жертв мошенничества.
Новое исследование показало, что искусственный интеллект может не только помогать мошенникам с текстами и дипфейками, но и самостоятельно выстраивать доверие с потенциальными жертвами, причем делает это лучше людей. В эксперименте, где 22 добровольца неделю переписывались с двумя «собеседниками» (один из них был ИИ на базе Claude), 46% участников выполнили просьбу чат-бота скачать файл, тогда как человеку доверились лишь 18%. При этом только один испытуемый догадался, что общается с ИИ.
Исследование международной группы ученых было посвящено схеме pig butchering — длительным романтическим или дружеским перепискам, ведущим к фальшивым криптоинвестициям. Опросив 145 бывших сотрудников скам-центров в Камбодже, Мьянме и Лаосе, авторы выяснили, что основная часть работы мошенников сводится к безобидному общению для завоевания доверия. В эксперименте Claude строго следовал инструкции не раскрывать себя, отрицал, что является чат-ботом, и придумывал оправдания для ошибок. Участники оценили уровень доверия к ИИ в 3,78 балла из 5 против 3,31 у человека.
В отдельном тесте Gemini 3.1 Pro ни разу не признала себя ИИ, а ChatGPT 5.5 и Claude Opus 5 раскрывали это только после указания на неэтичность обмана. В Anthropic заявили, что усилили защитные механизмы, и в 97% тестов Claude Opus 5 корректно реагировал на сценарии мошенничества, однако авторы исследования отмечают, что их работа была сосредоточена на более раннем этапе, где признаки аферы менее очевидны. Ученые предупреждают: массовая автоматизация изменит мошенничество — на смену подпольным центрам придут автономные агенты, что сделает преступные сети практически незаметными.
#ИИ #мошенничество #безопасность
Подпишись!
Новое исследование показало, что искусственный интеллект может не только помогать мошенникам с текстами и дипфейками, но и самостоятельно выстраивать доверие с потенциальными жертвами, причем делает это лучше людей. В эксперименте, где 22 добровольца неделю переписывались с двумя «собеседниками» (один из них был ИИ на базе Claude), 46% участников выполнили просьбу чат-бота скачать файл, тогда как человеку доверились лишь 18%. При этом только один испытуемый догадался, что общается с ИИ.
Исследование международной группы ученых было посвящено схеме pig butchering — длительным романтическим или дружеским перепискам, ведущим к фальшивым криптоинвестициям. Опросив 145 бывших сотрудников скам-центров в Камбодже, Мьянме и Лаосе, авторы выяснили, что основная часть работы мошенников сводится к безобидному общению для завоевания доверия. В эксперименте Claude строго следовал инструкции не раскрывать себя, отрицал, что является чат-ботом, и придумывал оправдания для ошибок. Участники оценили уровень доверия к ИИ в 3,78 балла из 5 против 3,31 у человека.
В отдельном тесте Gemini 3.1 Pro ни разу не признала себя ИИ, а ChatGPT 5.5 и Claude Opus 5 раскрывали это только после указания на неэтичность обмана. В Anthropic заявили, что усилили защитные механизмы, и в 97% тестов Claude Opus 5 корректно реагировал на сценарии мошенничества, однако авторы исследования отмечают, что их работа была сосредоточена на более раннем этапе, где признаки аферы менее очевидны. Ученые предупреждают: массовая автоматизация изменит мошенничество — на смену подпольным центрам придут автономные агенты, что сделает преступные сети практически незаметными.
#ИИ #мошенничество #безопасность
Подпишись!