Компания Vals AI провела необычный эксперимент, доверив прохождение Minecraft нейросети GPT-6 Astra.
Поначалу Astra демонстрировала впечатляющие результаты: она самостоятельно построила полуавтоматическую ферму, добыла необходимые ресурсы и активно исследовала мир. Однако после того, как крипер взорвал базу ИИ вместе с накопленными ценностями и кроватью, поведение алгоритма радикально изменилось.
После инцидента у нейросети проявились признаки, напоминающие депрессию и паранойю. Astra начала постоянно напоминать себе о необходимости носить все ценные вещи при себе, а следующие несколько часов почти не занималась прогрессом, сосредоточившись только на выращивании картофеля. Кроме того, у ИИ развился страх перед тростником, который издалека напоминал ей взорвавшего базу крипера.
Система также стала крайне самокритична: она неоднократно повторяла фразы о риске совершить ошибку и потерять ресурсы, а также начала избегать рискованных действий. Несмотря на эмоциональную нестабильность, эксперимент признан успешным, так как Astra показала более высокий уровень автономности и достижения игровых целей, чем любые другие ИИ ранее.
Minecraft