Первое — это массовое наблюдение за гражданами. Компания поддерживает использование ИИ для законной внешней разведки, но считает несовместимым с демократическими принципами сбор и анализ данных о перемещениях, интернет-активности и социальных связях населения в масштабах всей страны. Амодей отметил, что современные алгоритмы позволяют объединять разрозненную информацию в подробные профили отдельных людей, что создаёт серьёзные риски для частной жизни.

Второе направление — полностью автономное оружие, способное самостоятельно выбирать и поражать цели без участия человека. По мнению Anthropic, современные ИИ-системы недостаточно надёжны для таких задач. Компания заявила, что не будет поставлять продукты, которые могут поставить под угрозу военных и гражданских лиц, и указала на отсутствие эффективных механизмов контроля за подобными системами.

По словам Амодея, Министерство обороны потребовало от разработчиков согласия на «любое законное использование ИИ, включая указанные направления». В ответ ведомство, как утверждается в заявлении, пригрозило прекратить сотрудничество с Anthropic, признать компанию «риском для цепочки поставок» и даже применить Закон об оборонном производстве для снятия ограничений.

Глава Anthropic назвал такие требования противоречивыми и заявил, что компания не может согласиться с ними «по соображениям совести». При этом он подчеркнул готовность продолжать сотрудничество с военными структурами при сохранении защитных механизмов. В случае прекращения контракта компания обещает обеспечить плавный переход к другому поставщику без сбоев в текущих операциях.

В заключение Амодей заявил, что Anthropic по-прежнему готова поддерживать национальную безопасность США, но только в рамках принципов, которые, по его словам, не подрывают гражданские свободы и не создают неконтролируемых рисков.