ИИ-агенты научились скрывать атаку в собственной памяти: безобидные запросы могут привести к опасному результату
ixbt
06.09.2026 22:11
1
Исследование, опубликованное в IEEE Access, проанализировало 2614 многошаговых атак на ИИ-агентов, сохраняющих информацию между сессиями. Результат: атаки с медленным дрейфом и бэкдор-активацией могут выглядеть полностью безобидными на протяжении почти всей задачи, а срабатывают лишь в последних взаимодействиях. Пошаговые проверки, ориентированные на отдельные промпты, «слепнут» перед такой стратегией. Original: iXBT.comСредний рейтинг 0 |
Комментарии:Здесь нет комментариев.Здесь пока нет ни одного комментария, вы можете стать первым! |