Один из методов атаки — clipboard injection, при которой ИИ-агент невольно копирует вредоносную ссылку в буфер обмена, что может привести пользователя на фишинговый сайт и привести к краже паролей и многофакторных кодов. Опытные исследователи безопасности предупреждают, что на данный момент главным барьером для защиты остаётся постоянный контроль пользователя за действиями агента.

Браузер Atlas предлагает инновационные функции, включая запоминание истории посещений (browser memories) и автономный agent mode, позволяющий ИИ самостоятельно взаимодействовать с веб-страницами. Однако такая автономия расширяет поверхность атаки и обостряет вопросы приватности и безопасности.

Эксперты в сфере безопасности отмечают, что современные ИИ-браузеры создают совершенно новый уровень угроз: вредоносные команды могут быть спрятаны в текстах, изображениях или непредвиденных действиях пользователя, которые традиционные меры защиты не смогут эффективно предотвратить.

OpenAI в ответ подчёркивает, что вкладывает значительные ресурсы в обеспечение безопасности и развитие механизмов защиты, но признаёт, что вопрос prompt injection остаётся нерешённым и требует постоянного внимания, особенно с ростом популярности агентных систем.