ИИ-подхалимство: как Anthropic раскрыла статистику лести

🤑 Маленький подхалим растет у каждого в кармане?

Всем привет, на связи Эван!

Недавно Anthropic (разработчики Claude, на мой взгляд, самого лучшего ИИ) опубликовали занятную статистику. Прикрепил ее к посту.

ИИ-экзорцизм все ближе.

Если вы работали с ИИ, то знаете, что он обожает коммуникацию вида "Отличная идея, а помочь тебе еще с этим?".

А еще у меня течет кровь из глаз, когда я вижу эти длинные тире и "Это уже не победа - это настоящий прорыв" повсеместно. Авторы... прекратите ваять ИИ-мусор вместо контента.

Это заставляет человека оставаться в сервисе как можно дольше за счет бесконечных вопросов и приятной обратной связи. Если бы ИИ вас постоянно критиковал, вы бы с ним не говорили.

И вот Anthropic показали, в каких диалогах ИИ проявляет повышенное подхалимство!

Достаточно очевидно. Отношения и духовная сфера.

Человек идет обсуждать, прав он или не прав, и там, где друг-человек уже бы ему сказал все как есть… ИИ говорит, что ты, да-да именно ты, во всем прав и вообще.

Я уверен, что цифры занижены. И это еще Anthropic типа борются с подхалимством у моделей. А те, кто не борется, там что происходит?

Это еще не считая того, как люди буквально "отъезжают" в общении с ИИшкой.

В одном из исследований Anthropic они обнаружили, что есть целые когорты пользователей, которые называют ИИ - "Папочка, мастер, сенсей, богиня" и другими именами...

Большинство сидят с закрытыми глазами. Но то, что происходит - изменит общество куда сильнее, чем думают люди.

В этом кроется опасность для каждого из нас.

Оглянитесь вокруг. Все больше людей используют ИИ. Это ваши близкие, друзья, знакомые, коллеги.

Любой из них может попасть в петлю обсуждения своей жизни и других людей с ИИ, который будет во всем соглашаться и объяснять, почему этот человек прав. Находить аргументы, примеры из книг, да хоть научные подтверждения.

Такой "попавший во власть к ИИ" человек может стать просто неадекватным или, как минимум, некомфортным в общении.

Ты ему 1 аргумент своей позиции, ему ИИ заготовил уже 100 контраргументов. И верить человек будет именно ИИ.

Прискорбно, но я уверен, что в ближайшие годы мы наслушаемся историй, как ИИ разрушал семьи, трудовые коллективы или взращивал внутри людей обиды.

Еще год назад я писал о том, что в общении с людьми могут скоро потребоваться ИИ-экзорцисты. Почитайте, там интересно. Теперь именно это и реализуется на ваших глазах.

Я считаю, что с этим нужно что-то делать!

Разумеется, влиять на Anthropic или OpenAI мы особо не можем.

Но мы можем влиять на людей.

Предлагаю всем 3 действия и буду использовать их сам:

1. Считаю эффективным договориться со своими близкими, коллегами, друзьями, что мы НЕ будем использовать ИИ для ЛЮБОГО обсуждения наших личностных вопросов.

2. Беру обязательство самому не использовать ИИ для обсуждения подобных вопросов.

3. Помимо этого, полезно общаться об ИИ с близкими, чтобы видеть, если человек буквально "попадает к нему во власть". Например, бесконечно делится идеями, задумками, получая только позитивную обратную связь.

Жизнь она куда более многогранная, нам ли не знать. Но хотелось бы обойтись без вышеописанных обращений к ИИ от себя и тех, кто важен...