Основная цель инициативы — договориться на международном уровне о юридически обязывающих «красных линиях» — чётких, недопустимых границах для развития и применения ИИ, пересечение которых может нанести серьёзный ущерб человечеству и международной безопасности. Конкретный список таких запретов пока не утверждён, но приводятся примеры: запрет на автономное ведение ядерных операций, использование ИИ в производстве оружия без значимого человеческого контроля, применение ИИ для массовой слежки и социального скоринга, а также разработка систем, способных к неконтролируемому самовоспроизведению.

Авторы призывают государства прийти к соглашению по этим правилам не позднее конца 2026 года и создать международный независимый орган, который будет отслеживать выполнение договорённостей, оперативно оценивать новые угрозы и предлагать меры реагирования.

В появившемся заявлении подчёркивается, что несдержанный рост мощи ИИ может привести к катастрофическим последствиям: массовой безработице, антропогенным пандемиям, масштабным нарушениям прав человека и потере контроля над технологией.

Если не принять своевременных мер, то контроль над ИИ может выйти из-под человеческого надзора, что поставит под угрозу фундаментальные основы нашей цивилизации

говорится в документе

Инициатива получила широкое общественное и экспертное внимание, став самой масштабной кампанией такого рода к настоящему времени. В ближайшие месяцы на международных форумах и в рабочих группах будет обсуждаться детализация и внедрение этих «красных линий» в глобальные нормы и законодательство.