Авторы новой работы призывают к созданию комплексной системы биобезопасности до того, как произойдёт что-то непоправимое. ИИ уже способен проектировать не только белки, но и РНК, а также целые клетки и ткани. Модели RFdiffusion2 и PocketGen, к примеру, позволяют создавать белки на атомном уровне для конкретных задач, например, для запуска биологических реакций или связывания с лекарствами. РНК-терапия — перспективное направление, не затрагивающее генетический код, однако разработка РНК-препаратов сложна из-за особенностей формирования трёхмерной структуры молекул.

Учёные продемонстрировали, что алгоритмы могут быть использованы для создания опасных биологических материалов. В одном из экспериментов ИИ-модели проектировали токсичные белки, которые успешно обходили системы биобезопасности. В другом случае алгоритм, разработанный для поиска антивирусных молекул, предложил известный нейротоксин в качестве потенциального лекарства.

Для решения этих проблем необходимы строгие правила и контроль на всех этапах работы с ИИ в биологии. В Великобритании уже выпущены рекомендации по проверке синтеза ДНК, а в США биобезопасность включена в план действий при разработке ИИ-моделей для биотехнологий. Технологические компании также заявляют о намерениях исключить опасные вирусные последовательности из баз данных для обучения моделей и проводить строгую проверку новых разработок.

Авторы призывают к созданию многоуровневой системы защиты, включающей контроль доступа к данным и алгоритмов, контролируемое обучение моделей и стресс-тестирование для выявления уязвимостей. По их мнению, эффективная система биобезопасности должна быть «живым стражем», способным адаптироваться к новым угрозам.