🖥️ Сенатор-республиканец Тед Круз: «Если уж суждено появиться роботам-убийцам, я предпочту, чтобы это были американские роботы-убийцы, а не китайские»…

🖥️ Сенатор-республиканец Тед Круз: «Если уж суждено появиться роботам-убийцам, я предпочту, чтобы это были американские роботы-убийцы, а не китайские».

– Но сейчас звучит целый двухпартийный хор голосов — и республиканцев, и демократов, — которые говорят: «Постойте, нам нужно взять паузу. Нужно реально притормозить этот процесс».

– В том-то и загвоздка: мы не можем. Это просто невыполнимая задача, потому что знаете, кто не собирается брать паузу? Китай. Они останавливаться не собираются. Если взглянуть на то, где сейчас США...

– То есть, если ИИ нас убьет, лучше пусть это сделает американский ИИ, а не китайский?

– Слушайте, я действительно так шутил, и хотя это отчасти сарказм, но не на все сто: если уж появятся роботы-убийцы, я предпочту американских роботов-убийц, а не китайских. И я имею в виду вот что: китайцы не ставят никаких предохранителей и ограничений. Они несутся вперед на полной скорости. Большинство лидеров технологического сектора сходятся во мнении, что США опережают их примерно на 6 месяцев. Не на год — где-то на полгода. Правительство могло бы вмешаться и просто прихлопнуть индустрию ИИ в Америке — и знаете, что тогда произойдет? Китай догонит нас за 6 месяцев, вырвется далеко вперед, а у нас не останется инструментов, чтобы защитить себя.

– Но успевает ли Конгресс за этими темпами?

– Задушить американские инновации и позволить Китаю вырваться вперед было бы чудовищным исходом. Для американцев это прямая угроза. Поэтому здесь нужен баланс. Я уже приводил в пример, скажем, ядерную энергетику и биологические материалы. Если вы решите прямо сейчас построить у себя на заднем дворе ядерный реактор, у вас ничего не выйдет. Есть жесткое регулирование, если вы работаете с радиоактивными изотопами и ядерными технологиями.

Я считаю, что те же самые принципы должны распространяться и на искусственный интеллект: если технологии несут реальные риски катастрофического ущерба, должны быть правила и предохранительные барьеры. Как именно их выстроить — вопрос сложный, ведь мы раньше никогда с таким не сталкивались. Поэтому я пытаюсь работать с коллегами, чтобы определить лучший способ защититься от подобных угроз. Но послушайте, я тоже читал тот тред* инженера из Anthropic — и это, чёрт возьми, чертовски пугает.

* Круз упоминает Джейкоба Коксона, проработавшего3 года в OpenAI и Anthropic, который заявил, что обе организации «несутся прямо к самоулучшающемуся сверхинтеллекту и играют с нашими жизнями». Его тред набрал более 120 миллионов просмотров, а несколько коллег-исследователей Anthropic публично поддержали его опасения

🇷🇺 Подпишись на Соловьёва!