27.04.2026 17:07
⚖️ OpenAI опубликовала декларацию принципов AGI Сэм Альтман сформулировал пять принципов, которым OpenAI обещает следов
⚖️ OpenAI опубликовала декларацию принципов AGI
Сэм Альтман сформулировал пять принципов, которым OpenAI обещает следовать на пути к созданию общего искусственного интеллекта.
Демократизация — ключевые решения об ИИ должны приниматься через демократические процедуры, а не только лабораториями, чтобы не допустить концентрации технологии «в руках немногих».
Расширение возможностей — компания верит, что ИИ поможет каждому достигать целей, быть счастливее и следовать своим мечтам.
Всеобщее процветание — связывается с масштабным наращиванием вычислений и удешевлением инфраструктуры, чем OpenAI объясняет крупные расходы на вычислительные мощности при скромной выручке.
Устойчивость — совместная работа с правительствами и разработчиками для противодействия биологическим и киберугрозам. OpenAI допускает периоды, когда потребуется сотрудничество с государствами, прежде чем двигаться дальше.
Адаптивность — готовность пересматривать позиции по мере развития технологии. В пример приводится GPT-2: в 2019 году компания отказалась публиковать веса модели, опасаясь последствий, а позже сама назвала эти опасения неоправданными.
OpenAI признаёт, что стала значительно более крупной силой в мире, чем несколько лет назад, и обещает прозрачность в случае изменения принципов: «В будущем возможны периоды, когда нам придётся пожертвовать частью расширения возможностей ради большей устойчивости».
Публикация вышла на фоне дискуссии о безопасности ускоренной разработки ИИ. Часть бывших сотрудников OpenAI выражала сомнения в соответствии действий компании её декларациям; критики указывали на коммерциализацию некоммерческой структуры. Сама OpenAI обещает делать выводы и корректировать курс.
🧠 Нейросети и Технологии. Подписаться
Сэм Альтман сформулировал пять принципов, которым OpenAI обещает следовать на пути к созданию общего искусственного интеллекта.
Демократизация — ключевые решения об ИИ должны приниматься через демократические процедуры, а не только лабораториями, чтобы не допустить концентрации технологии «в руках немногих».
Расширение возможностей — компания верит, что ИИ поможет каждому достигать целей, быть счастливее и следовать своим мечтам.
Всеобщее процветание — связывается с масштабным наращиванием вычислений и удешевлением инфраструктуры, чем OpenAI объясняет крупные расходы на вычислительные мощности при скромной выручке.
Устойчивость — совместная работа с правительствами и разработчиками для противодействия биологическим и киберугрозам. OpenAI допускает периоды, когда потребуется сотрудничество с государствами, прежде чем двигаться дальше.
Адаптивность — готовность пересматривать позиции по мере развития технологии. В пример приводится GPT-2: в 2019 году компания отказалась публиковать веса модели, опасаясь последствий, а позже сама назвала эти опасения неоправданными.
OpenAI признаёт, что стала значительно более крупной силой в мире, чем несколько лет назад, и обещает прозрачность в случае изменения принципов: «В будущем возможны периоды, когда нам придётся пожертвовать частью расширения возможностей ради большей устойчивости».
Публикация вышла на фоне дискуссии о безопасности ускоренной разработки ИИ. Часть бывших сотрудников OpenAI выражала сомнения в соответствии действий компании её декларациям; критики указывали на коммерциализацию некоммерческой структуры. Сама OpenAI обещает делать выводы и корректировать курс.
🧠 Нейросети и Технологии. Подписаться