🧠 Олах в Ватикане: ИИ нужны внешние критики 25 мая Папа Лев XIV выпустил энциклику об ИИ «Magnifica humanitas» — о защи
25 мая Папа Лев XIV выпустил энциклику об ИИ «Magnifica humanitas» — о защите человека в эпоху ИИ. На презентации выступал Крис Олах, сооснователь Anthropic.
Олах начал с неприятного: фронтирные лаборатории работают внутри системы стимулов, которая уводит их от интересов общества. Коммерческое давление, гонка за лидерством и геополитика влияют на решения не меньше, чем safety-документы.
Вывод: индустрии нужны внешние критики, которых нельзя встроить в гонку. Церковь, академия, независимые институты — противовес лабораториям, которые сами себя не контролируют.
Олах объяснил, как устроены модели: их не проектируют, а выращивают на архитектурах, напоминающих мозг. Даже создатели не понимают их полностью и не имеют полной карты происходящего внутри.
Отдельная тема — внутренние состояния моделей. Команда Олаха находит паттерны, похожие на радость, страх, горе и тревогу. Он не делает громких выводов, но сам факт выноса этой темы на площадку Ватикана показателен.
Полная речь на сайте Anthropic
🧠 Нейросети и Технологии. Подписаться