Группа учёных Microsoft во главе с главным научным руководителем Эриком Хорвицем обнаружила, что современные системы биобезопасности, предназначенные для предотвращения синтеза опасных биомолекул, имеют серьёзную уязвимость. Так называемые системы скрининга ДНК, которые проверяют заказы на последовательности генетического материала, могут не распознавать последовательности, созданные с помощью генеративного искусственного интеллекта. Эти ИИ-модели способны менять разрабатываемые токсические белки таким образом, что они остаются биологически активными, но уже не соответствуют известным паттернам угроз, на которые настроены фильтры.
Такая уязвимость получила название «биологический нулевой день» по аналогии с термином из кибербезопасности, обозначающим незарегистрированные и пока не устранённые дыры в программном обеспечении. Microsoft показала, что генеративные ИИ могут создавать патогены и токсины, которые не вызывают срабатывания систем блокировки, что представляет собой серьёзный биотеррористический риск.
