Охота на генератор: разработчики о допущениях фанатов в борьбе с AI

Эра генеративного AI привела к эре охоты на генераторы. Сейчас стало рутиной, что разработчикам приходится отбиваться от обвинений в использовании этих технологий — даже если они открыто ненавидят ChatGPT и Claude. Недавние примеры: Sandustry, 2D-симулятор фабрик от Hooded Horse с жутковатой физикой, и только что анонсированная Humankind 2, создатели которой из Amplitude спешили заверить, что трейлер анонса — это настоящая кинопленка, а не CGI.

Вся история отражает смещение представлений о том, как выглядит AI-арт. Проблема в том, что генерирующий ИИ не имеет фиксированного стиля: всё зависит от данных, на которых его обучили. А ещё технология меняется так быстро, что классические признаки AI-картинок устаревают раньше, чем их успевают запомнить. При этом сторонники ИИ ещё и мутят воду, рассказывая о невероятных возможностях своих инструментов. Виноваты и пользователи, которые начали разбрасывать термин «AI-слоп» без разбора.

Последние недели я разговариваю с разработчиками и художниками, которых ошибочно обвинили в использовании генерирующего ИИ для визуала, пытаясь разобраться, почему их работы вызвали подозрение. Путешествие было забавным, местами печальным, но и вдохновляющим. Проблема точного определения AI-картинок — это социальный и политический вопрос, выходящий далеко за пределы видеоигр. AI-подделки используют для манипуляций, разжигания конспирологии и ксенофобских нарративов. Нам нужно научиться видеть шулеров. Но с другой стороны, умение распознавать генерирующий ИИ — это вообще улучшение визуальной и технической грамотности. Это процесс сближения с искусством, которое нас захватывает.

Каждый день — новое обвинение

Ханна Флинн, директор коммуникаций Failbetter Games (она делает Fallen London и Sunless Skies), привыкла к шумихе в интернете. «Большая часть моей работы — это привлечение внимания к нашим играм новых людей, — рассказывает она. — Успех означает внимание к нам, что всегда было палкой о двух концах. Раньше кто-то попросит ноги, а теперь это новый уровень: как только видео набирает просмотры или мы делаем большой анонс, нас тут же спрашивают, используем ли мы генерирующий ИИ».

На сайте Failbetter висит заявление, в котором студия клянётся не трогать генерирующий AI в своих проектах. «Некоторые комментарии — это искренняя забота комьюнити. Они прочитали наше заявление и боятся, что мы его нарушили или нарушили случайно, — продолжает Флинн. — Я не против того, чтобы снова заверить комьюнити; помимо вопроса качества AI-выхода, мы получаем удовольствие от своего ремесла, и никому здесь не хочется стать человеком, который дрессирует AI». Больнее ранит, по её словам, когда приходят «люди из интернета, которые явно не играют в наши игры и не знают студию».

Дэвид Ошри, CEO New Blood Interactive, тоже отбивается от обвинений в использовании ИИ. На будущий хоррор Tenebris Somnia (гибрид пиксельной графики сверху и живого кино) New Blood даже выпустили behind-the-scenes видео, показав, как они создавали пропсы, чтобы закрыть рты ненавистникам. Когда я спросил Ошри, было это упреждающей мерой или ответом на конкретные обвинения, он ответил максимально лаконично: «ПОСМОТРИ КОММЕНТАРИИ И СКАЖИ МНЕ САМ» — и скинул ссылки на старые видео.

По словам Ошри, обвинения в использовании генерирующего AI стали «практически постоянными» при публикации видео New Blood, особенно в Instagram. И это бесит, потому что Ошри не скрывал своего презрения к Nvidia DLSS 5. «И мы заметили, что это началось совсем недавно. Даже год назад такого было мало, люди просто писали "вау, как круто!", — добавляет Ошри. — Почему пользователи Instagram особенно склонны к такому поведению? Думаю, короткие видео в Instagram и TikTok буквально переломали людям мозги».

Но Ошри относится к подозрениям спокойно. Оказалось, что вся эта суета даже помогла: «Весь этот хайп поднял наши вишлисты на 15 тысяч за последнюю неделю, но честно говоря, это изнуряет, — говорит он. — Как и у Failbetter, большая часть обвинений приходит от проходимцев, а наша фанбаза встаёт на защиту. Но вместо создания контента про саму игру мы вынуждены доказывать, что это не AI-слоп. Вот такая вот жизнь».

Лучше переделать, чем спорить

Abandoned Sheep, разработчики Schrodinger's Cat Burglar (игра о коте, который размножается и проходит лабиринт из Portal-подобных комнат), столкнулись с другой стратегией. Один из старых ключевых артов игры неоднократно называли AI-генерацией.

«Это нарисовано вручную местным художником Томом Уильямсом, как и сейчас, и создано в середине 2022-го — ещё до того, как генерирующий AI научился на этот уровень, — объясняет директор студии Мартин Бинфилд, бывший разработчик Jagex и Sony Cambridge. — Но мы решили, что проще переделать арт, чем постоянно спорить. Тем более через четыре года изображение и правда требовало обновления».

«Честно говоря, я не вижу беды в бдительности этих комментаторов, — добавляет Бинфилд. — Наша студия никогда не использовала и никогда не будет использовать генерирующий AI. И я как геймер тоже ненавижу идею, что AI может быть в игре, которую я хочу играть. Люди, пишущие "AI-арт? Не куплю", они с правильной стороны баррикад».

Потерянная визуальная грамотность

Все упомянутые выше игры и артворки выглядят совершенно по-разному. Логики в обвинениях нет. Когда я спросил Ошри, понимает ли он, почему какой-то конкретный стиль вызывает подозрение, он был честен: «Понятия не имею. Может быть, люди забыли или слишком молодые, чтобы помнить о гримме и VFX, и думают, что всё либо CGI а-ля Marvel, либо AI. Бредятина. Я каждый день вижу кучу AI-слопа в интернете, и Tenebris Somnia точно не выглядит так. Или мы так думали!» И дальше: «Я совсем старомоден и не слежу за этой чушью. Но я видел, как люди пишут, что GTA 6 выглядит как бездушный AI-слоп, поэтому я просто уверен: все мы потеряли голову, и хорошо бы сейчас упал метеор».

Ханна Флинн оптимистичнее. Она предположила, что живописный стиль Failbetter может восприниматься как сгенерированный, особенно потому что студия любит странные тела и отсутствующие конечности, как в старых генерирующих AI. «Часто говорят, что AI учат на классических стилях, и когда ты вручную рисуешь в классическом стиле, это может насторожить, — объясняет Флинн. — И дело в том, что мы известны эльдричским хоррором. В нашем артворке и правда бывает слишком много глаз или пальцев, но я обещаю, это специально».

Флинн добавляет, что разговор про генерирующий AI вдохновляет. «Смысл сделанного — это один из подтекстов нашего нового проекта Mandrake, фольклорного симулятора садоводства, как Stardew Valley, но с нашей обычной смесью причудливого и мрачного. Кажется, это уместно обсуждать и может привести к большему вниманию», говорит она.

Проклятие совершенства

По словам Бинфилда, арт для Schrodinger's Cat Burglar обвинили в том, что он был «неестественно отполирован». «Думаю, это были детали, вроде аэрографии и отражения в глазу кота, — предполагает Бинфилд. — Хотя в целом картина полна грубых мазков. Это, мне кажется, проклятие успеха. AI практически всегда копирует высокохудожественные работы. Поэтому обвинить в AI-арте может означать обвинить в том, что ты слишком хорош».

«Хотя иногда обвинения касаются количества пальцев, — добавляет он со слегка едкой иронией. — Один комментарий писал о том, что коту не хватает зубов. Интересно, каких именно зубов? Да и анатомия кота в принципе там неправильная. Я заметил главный тренд: комментаторы разговаривают с полной уверенностью. Это редко вопрос ("это AI?"), обычно приказ ("не куплю, пока не выкинете AI"). Наверное, обычный интернет-снобизм. Когда я отвечал и говорил, что не используем AI, люди обычно извинялись. В следующий раз рисовать буду мелом левой рукой, чтобы всем было понятно, что это человек делал».

Как научиться видеть?

Разговариваяс разработчиками, я размышлял о своей собственной визуальной грамотности. Я нашёл хороший ресурс: академический опросник от иллюстратора Янны Софии Коппенваллнер, которая просит сортировать AI-картинки среди обложек книг, архивных фотографий, кадров из новостей и абстрактного искусства. При этом система даёт подсказки: на что обращать внимание, например на кожу с определённым «ловкрафтовским» блеском или на недостаток информации о авторе.

Коппенваллнер пишет магистерскую диссертацию о способности людей определять AI-изображения. «Перед тем как выбрать тему, я исследовала исследования по этому вопросу и нашла множество работ, которые показывали, что люди определяют AI не лучше, чем случайно, — рассказывает она. — Я не хотела верить, что это правда».

Следует сказать, что анализ данных Коппенваллнер ещё не опубликован и ждёт рецензирования. Но предварительные результаты интригуют и немного обескураживают. «Мои данные показывают среднюю точность определения 74%, и люди, которые прошли короткий обучающий модуль, показали чуть хуже результаты, чем те, кто не проходил, — говорит она. — Правда, разница небольшая, хотя статистически значимая. Люди были чересчур подозрительны и переоценили, принимая реальные фото и артворк за AI».

Коппенваллнер никогда не обвиняли в использовании генерирующего AI — отчасти потому что она выкладывает арт в интернет уже 15 лет, и есть масса доказательств, что она развивала свой навык. По её мнению, художники, которые начинают сейчас, «могут столкнуться с намного большими трудностями».

Полированный стиль — главный подозреваемый

Коппенваллнер замечает анекдотичный паттерн: ложные обвинения обычно падают на художников с популярным, чистым, высокорендерённым стилем. AI опирается на огромные датасеты, и чем больше данных, тем лучше результат. А нишевые стили AI ещё не может хорошо воспроизводить. «Но это может измениться в будущем, и многое зависит от конкретной модели», предупреждает она.

И добавляет важный момент: каждый генерирующий AI имеет «отчётливый визуальный почерк, который становится виден только если смотреть на много примеров». Но она согласна, что AI-картинки с определёнными стилями встречаются чаще.

Коппенваллнер предложила интересный разбор ошибок: созданных вручную versus сгенерированных. «Ошибки, которые производят AI-модели, совершенно отличаются от ошибок человеческих художников. AI склеивает вещи вместе — волос вдруг становится ожерельем — потому что модель не знает, что она создаёт, просто использует очень хороший алгоритм вероятности. Начинающие же художники делают другие ошибки».

Визуальная грамотность — это и правда нужный навык сейчас. Но пока мы сортируем картинки и считаем пальцы, главное не забывать: за большинством хорошего артворка стояла огромная работа человека. А за попытками уличить художника в использовании AI часто стоит просто отсутствие понимания этого труда.