Однако за технологическим оптимизмом скрываются фундаментальные проблемы. Модели на основе данных страдают от «смещения домена» (domain shift) — снижения точности при работе со входными данными, отличающимися от обучающей выборки. Алгоритмы уязвимы к атакам, когда минимальные изменения во входных сигналах (например, наклейки на дорожных знаках) дезориентируют системы. Более того, предвзятость решений, отсутствие объяснимости и этические дилеммы — от утечек персональных данных до автоматизации дискриминации — остаются нерешёнными.

Особое внимание авторы уделяют макроэкономическим последствиям. По их оценкам, внедрение ИИ-решений в промышленности и медицине может оставить без работы целые профессиональные группы, усиливая социальное неравенство. Это требует пересмотра не только технических стандартов, но и глобальных регуляторных рамок.

Учёные настаивают: разработка систем ИИ должна сопровождаться исследованиями в области управления рисками, включая перераспределение ответственности за решения алгоритмов, унификацию протоколов безопасности и создание международных правовых норм.

Как подчёркивают исследователи, успехи в закрытых лабораторных условиях не гарантируют устойчивости в реальном мире. Пример автономных авиационных систем иллюстрирует проблему: даже 99,9% надёжности недостаточно для отрасли, где каждая ошибка приводит к катастрофе.

«Эра автономных машин, принимающих решения без человека, уже наступила, — отмечают авторы. — Нам необходимы не просто инкрементальные улучшения алгоритмов, а принципиально новые подходы к их интеграции в социотехнические системы». Заключительный акцент сделан на необходимости междисциплинарного диалога: инженеры, юристы, экономисты и философы должны совместно разработать рамки, которые позволят использовать потенциал ИИ, минимизируя риски для человечества.