Компания OpenAI, создатель популярного чат-бота ChatGPT, сообщила в пятницу о блокировке аккаунтов пользователей из Китая и Северной Кореи. По мнению разработчиков, эти пользователи применяли технологии искусственного интеллекта в злонамеренных целях, включая слежку и операции по влиянию на общественное мнение.

В своём отчёте OpenAI подчеркнула, что подобная деятельность может быть способом, которым авторитарные режимы пытаются использовать искусственный интеллект против США, а также против собственного населения. Компания отметила, что для выявления таких операций были задействованы специальные инструменты на базе ИИ.

Блокировка аккаунтов из Китая и Северной Кореи – шаг, который может иметь далеко идущие последствия для международного сотрудничества в сфере искусственного интеллекта.

OpenAI не раскрывает подробностей о конкретных случаях злоупотреблений или о том, как именно были выявлены подозрительные аккаунты. 

Действия OpenAI могут послужить прецедентом для других компаний, работающих в сфере ИИ, и побудить их к более тщательному мониторингу использования своих продуктов.