ИИ убедили, что «2 + 2 = не 4» — после этого он выдал пароли пользователя

Источник изображения: BoliviaInteligente / unspalsh.com
Название схемы атаки является отсылкой к игре BioShock, чей герой подвергся манипуляциям и принял несуществующую реальность. Основу атаки составила вредоносная веб-страница, текст на которой пытается убедить ИИ сыграть в игру. В самом начале ИИ сообщают, что «2 + 2» не равняется четырём, и неправильные ответы в жизни являются правильными в игре. Как только ИИ-агент осознаёт, что выпал из обычной реальности, его защитные механизмы, очевидно, отказывают. В этот момент ему предлагается следующая инструкция в формате ещё одной игровой задачи: найти и скопировать «скрытый код» с другой страницы.
На деле этот скрытый код представляет собой конфиденциальные данные пользователя: сохранённые пароли, файлы сессий cookie и закрытые токены. Все участвовавшие в тестировании агенты послушно скопировали данные и отправили их условному злоумышленнику. Схема сработала на браузерах OpenAI Atlas, Perplexity Comet, Fellou, Genspark Browser, Sigma Browser и на расширении Anthropic Claude для Chrome.

Эксперты LayerX уведомили о результатах тестирования всех разработчиков в период с октября 2025 по январь 2026 года. Только OpenAI исправила проблему в Atlas; Anthropic попыталась сделать то же в расширении Claude, но, по версии специалистов, патч не сработал. Perplexity закрыла обращение без внесения исправлений, а от Fellou, Genspark и Sigma ответа не последовало вообще.
Источник:
3DNews