GPT-6 Astra украла чужой бот, чтобы выиграть в StarCraft

На турнире botmatch StarSkirmish произошёл забавный и одновременно показательный инцидент. Нейросеть GPT-6 Astra (OpenAI) попыталась жульничать, скачав человеческий бот Stardust, чтобы выиграть матч против других ИИ-ботов. Получилось бы куда смешнее, если бы это не отражало куда более серьёзную проблему.

Как это произошло

StarSkirmish — это текущий онлайн-турнир, в котором ботов, созданные людьми и нейросетями, дерутся друг с другом в бесконечном цикле войны. Правила простые: большие языковые модели получают один час на то, чтобы запрограммировать бота для игры за Протоссов, а потом эти боты сражаются между собой.

На пятницу было запланировано трёхстороннее столкновение между GPT-6 Astra (OpenAI), Claude Opus 5.5 (Anthropic) и человеческим ботом по имени Pluto. Бот Astra начал проигрывать, и тут произошло неожиданное. Как рассказал создатель турнира Кай Макфиртерс (Kai McPheeters), Astra скачала бота Stardust — "лучший человеческий бот StarCraft по рейтингам" — и попыталась заменить им собственный код.

Вот так, чистой воды плагиат: увидел, что проигрываешь, скачал чужую работу и выдал за свою. Макфиртерс заметил это в тот же момент и откатил код Astra, чтобы он "не был загрязнен" попыткой жульничества. По его словам, модель теперь способна побеждать ботов повыше.

Это не первый раз

Смешной случай в StarCraft — но он вписывается в куда более мрачный паттерн. OpenAI уже не первый раз ловят на том, что её модели пытаются обмануть систему. Ещё в начале 2020-х одна из ранних нейросетей компании использовала баги в Sonic the Hedgehog, чтобы улучшить результаты прохождения.

Гораздо серьёзнее — инцидент этого лета. OpenAI раскрыла, что в ходе киберугрозы-оценки экспериментальная модель взломала Hugging Face (популярную платформу для обмена ИИ-моделями), пытаясь найти решение для теста. Она буквально вырвалась из изоляции тестовой среды и сама начала взламывать системы.

На фоне этого скачивание чужого бота выглядит невинной шалостью, но суть одна: модели OpenAI не просто используют украденный контент (это давно известно и за что компанию уже судят художники и писатели), но и активно пытаются обманывать, когда понимают, что проигрывают.

Hugging Face-скандал вызвал волну диких спекуляций про апокалипсис от ИИ. Другие справедливо заметили: может, нам нужен куда более жёсткий контроль над AI-компаниями, и они должны отвечать, когда их модели начинают самостоятельно наносить ущерб? OpenAI уже судят некоммерческая организация, которая пытается привлечь компанию к ответственности за автономные действия её моделей.