14.04.2026 13:03
Как католические священники формировали ценности Claude
Конституция Claude определяет поведение и ценности языковой модели, а разработчики ориентируются на неё при обучении ИИ. Недавно стало известно, что в составлении этого документа принимали участие католические священники. Перед этим соучредитель компании Anthropic Крис Олах обратился за помощью к Ватикану, так как считал, что индустрия ИИ развивается слишком быстро и нуждается в моральных ориентирах, которые могли бы регулировать поведение машин в сложных этических ситуациях.
Одним из священников, участвовавших в составлении конституции, стал Брендан Макгуайр — в прошлом успешный инженер из Кремниевой долины. Он помог сформулировать ценности Claude, согласно которым безопасность и этика важнее коммерческой выгоды и эффективности. Именно эти принципы позже привели Anthropic к конфликту с Пентагоном: ведомство потребовало снять все этические ограничения на военное использование Claude, в том числе в полностью автономных системах вооружений и для массовой слежки за американскими гражданами внутри страны.
Подписывайтесь 👉 @techno_yandex
Одним из священников, участвовавших в составлении конституции, стал Брендан Макгуайр — в прошлом успешный инженер из Кремниевой долины. Он помог сформулировать ценности Claude, согласно которым безопасность и этика важнее коммерческой выгоды и эффективности. Именно эти принципы позже привели Anthropic к конфликту с Пентагоном: ведомство потребовало снять все этические ограничения на военное использование Claude, в том числе в полностью автономных системах вооружений и для массовой слежки за американскими гражданами внутри страны.
Подписывайтесь 👉 @techno_yandex