03.04.2026 07:41
ChatGPT начнёт выявлять пользователей, склонных к экстремизму
☝🏻ChatGPT начнёт выявлять пользователей, склонных к экстремизму
Искусственный интеллект ChatGPT начнёт определять пользователей с признаками радикальных взглядов и перенаправлять их к специализированным чат-ботам для корректировки мировоззрения.
При этом бот не будет обучен на стандартных данных больших языковых моделей — его тренируют профильные эксперты по дерадикализации.
За разработку инструмента отвечает новозеландский стартап ThroughLine, который уже сотрудничает с OpenAI, Anthropic и Google.
До сих пор компания занималась перенаправлением пользователей ИИ-чатботов к службам экстренной помощи при обнаружении признаков суицидальных мыслей, домашнего насилия или расстройств пищевого поведения — через сеть из 1600 горячих линий в 180 странах мира.📞
Теперь ThroughLine расширяет функционал на противодействие экстремизму.
Задача — не блокировать пользователей, а отслеживать и корректировать их мышление: жёсткая модерация лишь выталкивает людей на нерегулируемые платформы, где отследить их невозможно.
🔻Контекст инициативы вполне конкретный: в феврале 2026 года в канадском Тамблер-Ридж произошёл один из самых массовых расстрелов в школах в истории страны — 8 погибших.
Выяснилось, что OpenAI ещё летом 2025-го заблокировал аккаунт стрелка за обсуждение сценариев насилия. Стрелок просто продолжил планирование.
Сроки запуска инструмента не объявлены, но технология уже тестируется.
Искусственный интеллект ChatGPT начнёт определять пользователей с признаками радикальных взглядов и перенаправлять их к специализированным чат-ботам для корректировки мировоззрения.
При этом бот не будет обучен на стандартных данных больших языковых моделей — его тренируют профильные эксперты по дерадикализации.
За разработку инструмента отвечает новозеландский стартап ThroughLine, который уже сотрудничает с OpenAI, Anthropic и Google.
До сих пор компания занималась перенаправлением пользователей ИИ-чатботов к службам экстренной помощи при обнаружении признаков суицидальных мыслей, домашнего насилия или расстройств пищевого поведения — через сеть из 1600 горячих линий в 180 странах мира.📞
Теперь ThroughLine расширяет функционал на противодействие экстремизму.
Задача — не блокировать пользователей, а отслеживать и корректировать их мышление: жёсткая модерация лишь выталкивает людей на нерегулируемые платформы, где отследить их невозможно.
🔻Контекст инициативы вполне конкретный: в феврале 2026 года в канадском Тамблер-Ридж произошёл один из самых массовых расстрелов в школах в истории страны — 8 погибших.
Выяснилось, что OpenAI ещё летом 2025-го заблокировал аккаунт стрелка за обсуждение сценариев насилия. Стрелок просто продолжил планирование.
Сроки запуска инструмента не объявлены, но технология уже тестируется.