Microsoft-исследователь запустил нейросеть из коз в Age of Empires 2, чтобы показать абсурдность антропоморфизации ИИ

Коза против человечества

Когда ChatGPT и подобные языковые модели начали выдавать ответы, неотличимые по стилю от человеческой речи, в обществе разгорелась дискуссия: может ли ИИ быть сознательным? Логики за ответ «нет» давно и убедительно перевешивают, но идея живуча. Виноваты две вещи: наша врождённая склонность видеть людей во всём живом и мёртвом, и нежелание самих AI-компаний уточнять, что они на самом деле создали.

Адриан де Винтер (Adrian de Wynter) из Microsoft достаточно утомлён этой путаницей, поэтому решил доказать абсурдность идеи наиболее убедительным способом: построил полноценную нейросеть в Age of Empires 2, и придумал в ней роль козам.

Исследователь выложил и статью с гордым названием: «Если языковые модели имеют человеческие атрибуты, значит, и Age of Empires II их имеет». Дерзко? Именно.

«Я люблю заводить всё до максимума, когда надо доказать точку зрения, — объяснил де Винтер. — Абсурдизм — стандартный подход в философии и теоретической информатике».

NOT, AND и биты из травы

В редакторе сценариев AoE 2 де Винтер выстроил рабочий логический элемент NOT, двоичный перцептрон (простейшая нейросеть) и всю необходимую инфраструктуру, используя объекты игровой карты как двоичный код. Трава — это ноль, мосты — единица, козы — сами биты, которые обрабатывают информацию. Похоже на то, как некоторые энтузиасты строили нейросети через Minecraft-редстоун, но Age of Empires 2 для него был намеренный выбор: менее очевидный, более эффектный.

На GitHub де Винтера есть видео, как эта козья нейросеть работает в реальности. Обывателю это выглядит как полная абракадабра.

И в этом суть. Процессы, которые крутятся в этой аграрной системе, по сути идентичны тем, что питают ChatGPT и Claude. Но когда вместо блистательного текста выходят козы и трава, мозг отказывается видеть в этом что-то человеческое.

Почему это важнее, чем кажется

«Статья показывает, что мы слишком быстро наделяем системы человеческими чертами, и часто переоцениваем их способности, — уточнил де Винтер. — Есть вещи, которые делают ИИ тем, что он есть сам по себе (связи между весами, определённые математикой), и есть вещи, которые делают его тем, как мы его воспринимаем».

Почему это критично? Потому что если мы приписываем языковым моделям человеческие свойства без доказательств, это может привести к серьёзным ошибкам. Например, в науке. Де Винтер провел экспертизу более 300 научных статей по computer science за последние два года и обнаружил, что в половине из них авторы начинали именно с предположения, что у ИИ есть человеческие черты.

«Нам нужно перестать думать, что языковые модели ведут себя как люди просто потому, что обучены на естественном языке, — резюмировал де Винтер. — Надо ставить эксперименты, которые показывают, как ИИ работает на самом деле, а не как мы себе его представляем».