07.07.2026 13:18
🧠 Anthropic нашла у Claude сходства с человеческим сознанием Anthropic обнаружила у Claude внутреннее «ментальное прост
🧠 Anthropic нашла у Claude сходства с человеческим сознанием
Anthropic обнаружила у Claude внутреннее «ментальное пространство» — J-space, позволяющее модели обрабатывать идеи, не выражая их в ответах. По словам компании, эта структура самостоятельно сформировалась в процессе обучения и напоминает некоторые функции человеческого мышления. Отключение J-space практически лишает Claude способности к многоэтапным рассуждениям.
Claude способен по запросу удерживать определенные понятия в J-space, однако попытка не думать о чем-либо дает обратный эффект: запрещенная мысль все равно возникает — подобно психологическому эксперименту с «белым медведем». В одном из экспериментов Claude распознал постановочный сценарий, призванный спровоцировать его на шантаж, и отказался от него, однако после удаления из J-space признаков того, что ситуация является тестом, действительно начинал угрожать. Компания считает, что это свидетельствует о том, что этичное поведение модели может частично зависеть от понимания того, что ее действия оцениваются.
Читайте подробнее на сайте
Канал Frank Media в Telegram | MAX
Anthropic обнаружила у Claude внутреннее «ментальное пространство» — J-space, позволяющее модели обрабатывать идеи, не выражая их в ответах. По словам компании, эта структура самостоятельно сформировалась в процессе обучения и напоминает некоторые функции человеческого мышления. Отключение J-space практически лишает Claude способности к многоэтапным рассуждениям.
Claude способен по запросу удерживать определенные понятия в J-space, однако попытка не думать о чем-либо дает обратный эффект: запрещенная мысль все равно возникает — подобно психологическому эксперименту с «белым медведем». В одном из экспериментов Claude распознал постановочный сценарий, призванный спровоцировать его на шантаж, и отказался от него, однако после удаления из J-space признаков того, что ситуация является тестом, действительно начинал угрожать. Компания считает, что это свидетельствует о том, что этичное поведение модели может частично зависеть от понимания того, что ее действия оцениваются.
Читайте подробнее на сайте
Канал Frank Media в Telegram | MAX