Эти лаборатории совершили более 16 миллионов транзакций с Claude через примерно 24 000 мошеннических аккаунтов, нарушая наши условия обслуживания и региональные ограничения доступа. В этих лабораториях использовалась методика, называемая «дистилляцией», которая предполагает обучение менее совершенной модели на основе результатов работы более совершенной. Дистилляция — широко используемый и легитимный метод обучения. Например, передовые лаборатории искусственного интеллекта регулярно дистиллируют свои собственные модели, чтобы создавать более компактные и дешевые версии для своих клиентов. Но дистилляция также может использоваться в незаконных целях: конкуренты могут использовать ее для приобретения мощных возможностей у других лабораторий за гораздо меньшее время и по гораздо меньшей цене, чем потребовалось бы для их самостоятельной разработки.

Anthropic

Anthropic заявляет, что интенсивность и изощренность этих кампаний растут: «Время для принятия мер ограничено, и угроза распространяется за пределы какой-либо отдельной компании или региона. Для ее решения потребуются быстрые и скоординированные действия со стороны участников отрасли, политиков и мирового сообщества ИИ».