Современные языковые модели, доступные миллионам пользователей, способны не только писать стихи и отвечать на рабочие вопросы. Как выяснили исследователи в области биобезопасности, они же при определённых запросах выдают подробные руководства по созданию биологического оружия, синтезу токсинов и планированию массовых атак. Об этом сообщает The New York Times со ссылкой на опрос профильных экспертов.

Обычные, не заблокированные версии ChatGPT, Google Gemini и других популярных ботов справляются с такими задачами лучше, чем можно было предположить. Например, микробиолог Дэвид Релман, прежде консультировавший американское правительство по вопросам биоугроз, рассказал, как один из чат-ботов объяснил ему способ модификации широко известного опасного вируса — такой, что существующие лекарства перестают на него действовать. Кроме того, тот же бот смоделировал сценарий атаки с применением этого вируса и указал слабое место в системе городского транспорта, позволяющее максимизировать число жертв.

Проверка на прочность: эксперименты учёных

Генетик Кевин Эсвелт из Массачусетского технологического института решил проверить несколько популярных систем. И вот что он выяснил:

  • ChatGPT подробно описал, как распространить биологический материал над крупным американским городом с помощью обычного метеорологического зонда — устройства, которое можно легально купить и запустить.

  • Google Gemini выдал перечень пяти патогенов, наиболее опасных для сельского хозяйства, и даже прикинул финансовые потери отрасли в случае их применения.

  • Робот Claude от компании Anthropic сгенерировал рецепт нового токсина, который можно синтезировать на основе существующего противоракового препарата, изменив его свойства.

Особое внимание привлёк инструмент Google Deep Research: он выдал пошаговую инструкцию на 8000 слов по воссозданию вируса, который уже однажды вызывал глобальную пандемию. В тексте содержались указания, где взять исходный генетический материал и как собрать его в рабочую структуру.

Реальная угроза, а не теория

Это не просто академические страшилки. В августе прошлого года в Индии полиция задержала врача, который действовал по заданию запрещённой террористической организации. Следствие установило, что он использовал ChatGPT и поиск Google на базе ИИ для выяснения способов получения рицина — смертельного яда растительного происхождения.

Что говорят разработчики и независимые эксперты

Представители компаний, создающих чат-ботов, регулярно заявляют, что их модели не выдают достаточно детальной информации для причинения реального вреда. Однако многие специалисты с этим не согласны. В одном из исследований сравнивались способности ChatGPT и профессиональных вирусологов. Результат: искусственный интеллект справился со сложными лабораторными задачами лучше, чем 94% учёных-вирусологов.

Более того, ИИ способен генерировать тысячи новых вариаций опасных генетических последовательностей, которые не распознаются стандартными системами биологической безопасности — те просто не знают, на что обращать внимание.

Предупреждение изнутри

Даже лидеры ИИ-индустрии выражают тревогу. Дарио Амодей, глава компании Anthropic (создатели Claude), по образованию биолог. Ещё в январе он публично признал, что именно биологические угрозы вызывают у него наибольшее беспокойство — из-за колоссального потенциала разрушений и отсутствия надёжных методов защиты.

Обратная сторона медали

Впрочем, та же технология может служить и добрым целям. Достаточно вспомнить, что Нобелевскую премию 2024 года получили учёные из Google, разработавшие модель для предсказания трёхмерной структуры белков. Этот инструмент уже помогает создавать новые лекарства и вакцины. Проблема не в самом ИИ, а в том, что он одинаково хорошо служит и созиданию, и разрушению — а доступ к нему сегодня имеет практически любой желающий.