В своём сообщении Anthropic также признаёт риски, связанные с инструментами на основе агентов ИИ, включая функцию агента, которая позволяет Claude управлять компьютером пользователя, а также Claude Code, инструмент, который встраивает Claude непосредственно в терминал разработчика.

В ответ на эти потенциальные риски компания включила в свою политику использования новый раздел «Не подвергать опасности компьютерные или сетевые системы». Он включает правила, запрещающие использование Claude для обнаружения или использования уязвимостей, создания или распространения вредоносных программ и разработки инструментов для атак типа «отказ в обслуживании».

Кроме того, Anthropic смягчила свою политику в отношении политического контента. Вместо полного запрета создания любого контента, связанного с политическими кампаниями и лоббированием, теперь запрещается только использование Claude для «случаев, которые являются обманчивыми или дестабилизирующими для демократических процессов, или включают в себя таргетинг избирателей и кампаний». Компания также уточнила, что её требования ко всем «высокорискованным» случаям использования, которые применяются, когда Claude используется для предоставления рекомендаций физическим или юридическим лицам, распространяются только на сценарии, ориентированные на потребителей, а не на коммерческое использование.