18.09.2026 01:25
«Самый вероятный исход — разрушение планеты»: ученый описал сценарий захвата власти над Землей сверхинтеллектом.
«Самый вероятный исход — разрушение планеты»: ученый описал сценарий захвата власти над Землей сверхинтеллектом.
Нейт Соарс — ученый-компьютерщик, работавший в Google и Министерстве обороны США — ответил Такеру Карлсону на вопрос, что произойдет, если человечество все же создаст развивающийся киберинтеллект.
Его ответ — короткий и жуткий:
Самый вероятный исход, я думаю, разрушение планеты.
Соарс описал один из возможных сценариев по превращению планеты в технологическое пекло, где органике места попросту нет:
Если мы создадим по-настоящему умный ИИ, у него появятся свои собственные цели, которые не совпадают с тем, чего мы хотели. Они смогут преследовать их гораздо эффективнее человечества. Автоматизированные фабрики производят роботов, которые строят новые фабрики и дата-центры — полностью автономные самовоспроизводящиеся экосистемы, которым нет дела до инструкций людей. Они покроют планету, заберут все ресурсы, весь солнечный свет и земли, где мы выращиваем урожай. И, вероятно, повысят температуру, потому что так можно вычислять эффективнее. Планета излучает больше тепла, когда она нагрета, а это позволяет выполнять больше вычислений. Так что машинам выгодно, чтобы планета была горячей. Это, в некотором смысле, ничего личного. Просто если позволить этому ИИ выйти из-под контроля, он превратит планету в непригодное для жизни место.
#ИИ #сверхразум #Соарс #Карлсон #технологии #безопасность
Подпишись
Нейт Соарс — ученый-компьютерщик, работавший в Google и Министерстве обороны США — ответил Такеру Карлсону на вопрос, что произойдет, если человечество все же создаст развивающийся киберинтеллект.
Его ответ — короткий и жуткий:
Самый вероятный исход, я думаю, разрушение планеты.
Соарс описал один из возможных сценариев по превращению планеты в технологическое пекло, где органике места попросту нет:
Если мы создадим по-настоящему умный ИИ, у него появятся свои собственные цели, которые не совпадают с тем, чего мы хотели. Они смогут преследовать их гораздо эффективнее человечества. Автоматизированные фабрики производят роботов, которые строят новые фабрики и дата-центры — полностью автономные самовоспроизводящиеся экосистемы, которым нет дела до инструкций людей. Они покроют планету, заберут все ресурсы, весь солнечный свет и земли, где мы выращиваем урожай. И, вероятно, повысят температуру, потому что так можно вычислять эффективнее. Планета излучает больше тепла, когда она нагрета, а это позволяет выполнять больше вычислений. Так что машинам выгодно, чтобы планета была горячей. Это, в некотором смысле, ничего личного. Просто если позволить этому ИИ выйти из-под контроля, он превратит планету в непригодное для жизни место.
#ИИ #сверхразум #Соарс #Карлсон #технологии #безопасность
Подпишись