Ученые Collaborations Pharmaceuticals доказали, что искусственный интеллект может быть легко использован для разработки высокотоксичного химического и биологического оружия.
Компьютерные алгоритмы в медицине и искусственный интеллект (ИИ) считаются перспективными и полезными технологиями. В частности, с помощью них выявили новые формы антибиотиков и лекарства для борьбы с коронавирусной инфекцией.
Но четыре исследователя, участвовавшие в разработке лекарств на основе ИИ, теперь обнаружили, что эту технологию можно легко менять для поиска токсичных нервно-паралитических агентов. Швейцарский федеральный институт ядерной, биологической и химической защиты попросил этих четырёх исследователей из Collaborations Pharmaceuticals изучить, может ли искусственный интеллект использоваться теми, кто имеет скрытые мотивы. ИИ за шесть часов придумал 40 000 потенциально токсичных лекарств.
Исследователи выразили свои опасения: ИИ начал «производить формулы токсичных молекул, многие из которых выглядят как боевые отравляющие вещества». Некоторые из молекул были «более опасными, чем VX» — нервно-паралитическое вещество, разработанное британской лабораторией в 1950-х годах и вызывающее одну из серьёзнейших «болезней войны», мышечный паралич со смертельным исходом.
