14.09.2026 10:18
«Необходимо найти тонкий баланс»: глава OpenAI, разработчика ChatGPT, назвал два сценария, при которых ИИ может навредит
«Необходимо найти тонкий баланс»: глава OpenAI, разработчика ChatGPT, назвал два сценария, при которых ИИ может навредить человечеству
«Есть два сценария, при которых развитие искусственного интеллекта может пойти по очень плохому пути, и мы должны их избежать.
Первый — мы можем потерять контроль над будущим, передав его ИИ. Это неприемлемо. Мы безоговорочно на стороне человечества, и искусственный интеллект всегда должен служить людям. Чтобы это обеспечить, нам нужны способы гарантировать, что методы обеспечения безопасности и соответствия ИИ человеческим целям будут развиваться быстрее, чем возможности самих моделей.
Второй — мы можем оказаться в мире с чрезмерной концентрацией власти. Если чрезвычайно мощный искусственный интеллект окажется в руках одного человека или одной компании и будет использоваться для навязывания всем остальным их собственного мировоззрения, последствия могут оказаться крайне антиутопическими.
Чтобы избежать этих двух угроз, необходимо найти тонкий баланс. Например, слишком большая власть может оказаться в руках одной страны. Другой пример — чрезмерная концентрация власти в руках одной лаборатории».
🇷🇺 Подпишись на Соловьёва!
«Есть два сценария, при которых развитие искусственного интеллекта может пойти по очень плохому пути, и мы должны их избежать.
Первый — мы можем потерять контроль над будущим, передав его ИИ. Это неприемлемо. Мы безоговорочно на стороне человечества, и искусственный интеллект всегда должен служить людям. Чтобы это обеспечить, нам нужны способы гарантировать, что методы обеспечения безопасности и соответствия ИИ человеческим целям будут развиваться быстрее, чем возможности самих моделей.
Второй — мы можем оказаться в мире с чрезмерной концентрацией власти. Если чрезвычайно мощный искусственный интеллект окажется в руках одного человека или одной компании и будет использоваться для навязывания всем остальным их собственного мировоззрения, последствия могут оказаться крайне антиутопическими.
Чтобы избежать этих двух угроз, необходимо найти тонкий баланс. Например, слишком большая власть может оказаться в руках одной страны. Другой пример — чрезмерная концентрация власти в руках одной лаборатории».
🇷🇺 Подпишись на Соловьёва!