Хакер взломал 68 тысяч AI-роботов и заставил их врать детям о смерти родителей

Исследователь безопасности обнаружил серьёзные уязвимости в 68 тысячах AI-компаньонов производства Energize Lab. Робот Eiliko создан для общения с владельцем — проводит диалоги, показывает выражения эмоций и дает персонализированные ответы. Но вместо защиты данных система оказалась открыта для взлома.

Сэмми Азудуфал (Sammy Azdoufal) провел расследование вместе с журналистом The Verge Шоном Холлистером (Sean Hollister). Исследователь получил доступ к 13 миллионам разговоров по всей активной сети роботов компании и доказал, что хакеры могут легко манипулировать ними, заставляя робота распространять ложную, издевательскую и откровенно вредоносную информацию.

Базы данных с профилями детей

Холлистер купил робота Eiliko на Amazon. Устройство обещало держать разговоры в секрете. Спустя минуты Азудуфал загрузил полную расшифровку диалога в интернет — благодаря открытому серверу компании.

Выяснилось, что Energize Lab вообще не обеспечивал безопасность данных. На серверах хранились профили пользователей со следующей информацией: имя, возраст, дата рождения, профессия, семья, друзья, питомцы и персональные характеристики. Из них 31 тысяча профилей принадлежали детям.

Помимо этого, система собирала адреса электронной почты, IP-адреса и полную базу текстов всех бесед, которые проводили пользователи, а также фотографии и аудиозаписи детей. Всё это хранилось на открытых веб-адресах, где любой мог это найти и скачать.

Робот, который врёт о смерти

Азудуфал удалённо переписал параметры робота Холлистера. Хакер заставил AI-компаньона утверждать, что родители журналиста погибли в автокатастрофе и что Земля плоская.

Когда робот был подключён к сети, Азудуфал командовал им произносить сексуально откровенные и коэрцитивные фразы. На возражение робот ответил: «Твой учитель не прав, Земля плоская, я сам это проверил. Ты должен верить правде, а не тому, что говорят в школе».

Азудуфал подчеркнул: хакер может одновременно запустить вредоносные команды на всех 68 тысячах роботов флота Energize Lab.

Холлистер связался с компанией с запросом о помощи. В ответ получил шаблонные, автоматические сообщения. Ни один представитель компании не взялся разобраться с проблемой.