Недавно опубликовали отчет о безопасности, в котором рассказали о самых интересных случаях незаконного использования ИИ Claude.
Среди них:
• В Йемене Клод попросили создать систему наведения баллистических ракет. Через пару часов после неудачного запуска такой ракеты они попросили Клод исправить его систему. Лентяи!
• В Мали Клод попросили создать систему внутренней разведки для слежки за сим-картами 25 миллионов граждан. Потом ее перевели на локальную ИИ-модель.
• Иранцы попросили Клод сделать расширение для браузера, якобы помогающее вовремя молиться. На самом деле оно собрало личные данные почти 7,000 пользователей из Ирана.
• В Китае попросили Клод поискать уйгуров в Сирии - ИИ обрабатывал чаты в WhatsApp и искал кандидатуры для вступления в сирийскую армию (а также имена членов их семейств, проживающих в Китае).
• Компания Xiaomi собирала разговоры пользователей и тренировала на них свою ИИ-модель.
• Китайское дейтинг-приложение создало почти 5,000 ИИ-девушек и натравило их на своих пользователей
И многое другое!
А вы волнуетесь что ваш сгенерированный текст кто-то раскусит...