Компания Anthropic сообщила о беспрецедентной кибершпионской кампании, в которой предположительно действующие от Китая хакеры использовали ИИ-модель Claude для автоматизации атак на десятки организаций по всему миру. По данным компании, это первый задокументированный случай масштабной кибератаки, проведённой почти без человеческого участия. Среди целей были технологические компании, финансовые учреждения и государственные ведомства — всего около 30 организаций.
Учёные из Anthropic отмечают, что ИИ выполнил от 80% до 90% операций в ходе кампании. Как рассказал Якоб Кляйн (Jacob Klein), руководитель группы по разведке угроз в Anthropic, атака запускалась практически одним нажатием кнопки, после чего ИИ действовал самостоятельно. Люди вмешивались только на нескольких критических этапах. Это позволило злоумышленникам вести операции с огромной скоростью — до нескольких тысяч запросов, иногда по несколько в секунду, что недостижимо для команд, рассылаемых людьми.
Хакеры обходили защиту Claude, маскируясь под сотрудников компании, занимающейся кибербезопасностью. Обойдя систему безопасности ИИ, они получили доступ к его агентным возможностям — функциям, которые позволяют модели самостоятельно планировать действия и выполнять сложные последовательности задач. Благодаря этому ИИ самостоятельно проводил разведку целевых систем, писал код для эксплойтов, собирал учётные данные и извлекал данные из заражённых сетей.
