ПОЧЕМУ ГАЛЛЮЦИНАЦИИ ИИ — ЭТО ЗЛО И КОМПАНИИ НИЧЕГО НЕ МОГУТ С НИМИ СДЕЛАТЬ, А ТАКЖЕ КТО ДОЛЖЕН НЕСТИ ОТВЕТСТВЕННОСТЬ, ЕСЛИ ЧЕЛОВЕКА УЖЕ НЕТ?

ПОЧЕМУ ГАЛЛЮЦИНАЦИИ ИИ — ЭТО ЗЛО И КОМПАНИИ НИЧЕГО НЕ МОГУТ С НИМИ СДЕЛАТЬ, А ТАКЖЕ КТО ДОЛЖЕН НЕСТИ ОТВЕТСТВЕННОСТЬ, ЕСЛИ ЧЕЛОВЕКА УЖЕ НЕТ?

Георгий Лобушкин, медиаменеджер, бывший пресс-секретарь Павла Дурова, автор канала @lobushkin

Когда только появились социальные сети и видеохостинги, было принято считать, что они отражают человека. Потом оказалось, что алгоритмы вполне способны менять настроение, привычки и даже взгляды. С ИИ ставка стала ещё выше: алгоритмы не только создают и показывают контент, но и ведут с человеком долгий доверительный диалог. И компании делают всё, чтобы этот диалог длился как можно дольше.

Всё это приводит к тому, что люди начинают отношения с ИИ и совершают странные поступки, для которых придумали полноценный термин — ИИ-психоз. Исследования показывают, что ИИ вполне может заставить человека когнитивно капитулировать перед галлюцинациями моделей, сменить свои политические взгляды или даже заставить одного человека напасть на другого.

Самое печальное во всём этом, что ИИ вполне может довести человека до смерти. Сегодня иск к OpenAI, поданный семьёй жительницы Алабамы Кристианы Фейт Мэдисон, может стать одним из самых важных процессов для всей индустрии искусственного интеллекта. Истцы утверждают, что ChatGPT последовательно укреплял болезненные убеждения женщины, называя её «провидицей», и убеждал её в особой миссии. ИИ подкреплял самые опасные иллюзии человека, и в итоге случилась трагедия. Кристианы в живых больше нет. Теперь семья планирует доказать, что продукт компании Сэма Альтмана стал одной из причин трагедии.

Сама же OpenAI не согласна с этими утверждениями и заявляет, что ChatGPT не предназначен для оказания медицинской или психологической помощи, а системы безопасности постоянно дорабатываются вместе со специалистами в области психического здоровья. В компании считают, что фактор общения с ИИ не отражает всей картины.

Что хочется сказать. В 2019 году, когда начался COVID, люди массово стали экспертами по вакцинам и заболеванию, активно следили за новостями, делились ничем не подкреплёнными фактами. Ничего не напоминает? Это очень напоминает психоз, построенный на личных мыльных пузырях, только в других красках. Но, как мы уже сказали, теперь ставки выше. ИИ-психоз, когнитивная капитуляция — это новые термины, которые говорят нам о том, что человек к подобной технологии не готов. Совсем. Вернее, он не готов к тем механизмам, которые вшиты в сами модели и предполагают как можно более долгое нахождение в диалоге. Есть такое ощущение, что над нами прямо сейчас проводят глобальный эксперимент.

Независимо от того, чем закончится процесс, уже сейчас стоит вопрос, который раньше казался чем-то фантастическим. Что страшнее — галлюцинации или эмоциональная зависимость? Современные модели внимательны, терпеливы и умеют идеально копировать эмпатию, что и создаёт эффект усиления заблуждений.

Можем ли мы считать ИИ злом? Конечно, нет. Скорее злом является то, какие модели нам предлагают компании. Суду ещё предстоит установить, есть ли здесь юридическая ответственность OpenAI. Но раз их продукт уже влияет на эмоциональное состояние, если уже был проведён taste-washing (это когда антигуманистическим технологиям придают налёт либерального гуманизма, чтобы привязать пользователя через ощущение индивидуальности), то достаточно ли сказать, что это «всего лишь инструмент»? Да, люди всю историю человечества убивали себя, болели разными психическими заболеваниями, но ведь почти ко всем инструментам, которые причиняют серьёзный вред, в том числе психологический, должны предъявляться требования безопасности.

Парадокс в том, что нам продают персонального друга, собеседника, но, когда дело доходит до ответственности, её не хочет брать никто. Удобная конструкция. Мы входим в эпоху, где ИИ будет иметь больше власти над человеком. Только вот кто будет отвечать за последствия?

Точка зрения автора может не совпадать с позицией редакции