Токсичный актив

Токсичный актив

28.03.2022 Выкл. Автор Алексей

Искусственный интеллект создал десятки тысяч видов смертоносного оружия. Почему эта технология опасна?

Американская компания Collaborations Pharmaceuticals, разрабатывающая технологии для поиска новых лекарств в области редких заболеваний, создала программу MegaSyn на основе искусственного интеллекта (ИИ), которая всего за шесть часов сгенерировала около 40 тысяч опасных молекул. Для этого ученые поменяли настройки: они запрограммировали устройство на поиск токсических веществ, а не их отсутствие. В итоге многие из найденных молекул по смертоносности превосходили самое сильное известное химическое оружие — VX. «Лента.ру» рассказывает о разработке ученых и чем она может быть опасна.

Для чего был нужен MegaSyn
Основная задача программы MegaSyn заключается в разработке новых лекарств. Ученые тренируют алгоритмы машинного обучения для лучшего обнаружения токсического воздействия препаратов. Главной целью было избежать тех молекулярных соединений, которые могли бы повредить различные виды белков, участвующих в жизнеобеспечении человеческого организма.

«Независимо от того, какой препарат вы пытаетесь разработать, вам для начала нужно убедиться, что он будет безопасным. Если выяснится, что вы создали чудесное лекарство, которое потрясающе снижает кровяное давление, однако поражает одну из действительно важных — скажем, сердечных вен, — тогда это уже не так здорово, потому что это слишком опасно», — объясняла Фабио Урбина, ведущий автор исследования, в интервью The Verge.

На официальном сайте Collaborations Pharmaceuticals разработчики предлагают использовать MegaSyn для создания любых молекул с заданной последовательностью — например, пептидов. Эта система прежде всего направлена на поиск веществ с лучшими лекарственными свойствами, в которые входят так называемые ADME — это аббревиатура используется в фармакологии для обозначения критериев абсорбции, распределения, метаболизма и экскреции химического соединения в организме — показателей, прямо влияющих на фармакокинетику, то есть на эффективность и фармакологическую активность соединения как лекарственного средства.

Как происходит процесс создания новых веществ
Генеративные модели машинного обучения позволяют создавать и изучать новые молекулы с помощью рекуррентных нейронных сетей (RNNS), вариационных автоэнкодеров (VAEs) и генеративных состязательных сетей (GAN). Тем не менее искусственный интеллект не способен решить весь спектр потенциальных проблем в разработке новых веществ, хотя и значительно уменьшает работу химиков.

Машинное обучение использует RNNS, которая изучает структуру молекул с заданной последовательностью, отслеживая наиболее важные данные на каждом этапе, которые затем влияют на последующие шаги ИИ. Генеративные состязательные сети способны находить новые синтетические соединения с необходимыми лекарственными свойствами. Кроме того, специалисты внедрили несколько различных RNNS, способных переработать тысячи наборов молекулярных моделей, которые разработчики использовали в предыдущих проектах с открытым исходным кодом — MegaTox, MegaTrans, MegaPredict и другие.

Принцип работы RNNS в MegaSyn заключается в применении многоцелевого алгоритма оптимизации для наиболее выгодных комбинаций параметров. Для этого он оценивает сгенерированные молекулы по целесообразности их применения, что позволяет химикам отбирать наиболее оптимальные соединения. Основной процесс создания выглядит примерно так: ученые создают и настраивают генеративную модель RNNS на необходимый параметр, например, ADME или токсичность. Затем программа создает новые молекулы, проводит ретросинтетический анализ. Далее полученные соединения с наиболее высоким баллом оценки проходят экспериментальные подтверждения. После чего эксперты проверяют и отбирают самые подходящие препараты.

Однако в недавно проведенном исследовании ученые решили поменять параметр токсичности. Ранее система генерировала молекулы с наименьшей токсичностью, что необходимо при производстве лекарств. В ходе эксперимента сотрудники лаборатории настроили генеративную модель машинного обучения на поиск, а не исключение ядов.

40 000 Смертельно опасных веществ Создала система MegaSyn за шесть часов работы

Самое ядовитое из существующих боевых веществ
Одним из самых токсических веществ, когда-либо синтезированных, является боевое отравляющее оружие нервно-паралитического действия VX. Открыто это соединение было в 1950 году во время разработки пестицидов. В те годы многие исследователи занимались изучением класса сложных органофосфатов. Среди них были доктор Ларс-Эрик Таммелин из Шведского исследовательского института защиты, а также химики из исследовательской лаборатории защиты полей компании Imperial Chemical Industries (ICI) в Великобритании.

Работы первого не публиковались в рамках секретности, а вторые тогда обнаружили высокую эффективность веществ класса сложных органофосфатов как пестицидов. В 1954 году эта компания выпустила крайне ядовитое вещество под торговым названием Amiton, однако производство практически сразу прекратили, а партии отозвали из-за высокой токсичности. Именно это свойство привлекло особое внимание сотрудников силовых ведомств Великобритании, и они отправили вещество в собственные лаборатории. В ходе исследований это соединение модифицировали и разработали новую группу нервно-паралитических отравляющих веществ — V-агенты. Спустя год химики создадут газ VX, который почти в 300 раз более ядовит, чем фосген (COCl 2), применявшийся во время Первой мировой войны. Через некоторое время оружие продадут США, где подали заявку на патент в 1962 году, а зарегистрировали в 1974 году.

По свойствам VX представляет собой бесцветную густую жидкость, которая не имеет запаха. Она хорошо растворима в органических растворителях и частично в воде. Это вещество при воздействии на человека имеет разный спектр воздействия. При контакте 1-2 минуты происходит сужение зрачков, через 2-4 минуты у человека наблюдается повышенная потливость и слюноотделение, спустя еще 5-10 минут он испытывают судороги, паралич и спазмы, а смерть из-за остановки сердца или дыхания наступает через 10-15 минут.

На данный момент VX входит в арсенал США и России. Однако, согласно Конвенции о химическом оружии, которая была подписана в 1993 году, применение химического оружия запрещено. Это соединение также входит в список номер один, который регламентирует производство и оборот опасных веществ.

Риск применения в военных целях
Ранее Collaborations Pharmaceuticals опубликовали исследования, в которых описывались модели вычислительного машинного обучения для прогнозирования токсичности в различных областях. В новой работе специалисты решили изучить, как эту программу можно использовать для разработки ядовитых веществ. В какой-то момент научный эксперимент превратился в доказательство простоты разработки биохимического оружия.

ИИ смог сгенерировать не только соединения, которые практически идентичны по составу с VX, но и похожие на многие другие химические боевые вещества, которые ученые идентифицировали с помощью общедоступных библиотек молекул. Многие из этих соединений были определены даже как более токсичные, чем известные образцы химического оружия.

Работа ученых основывалась, в большинстве своем, на VX-подобных соединениях, однако основные положения применимы также и к менее токсичным молекулам — несмотря на меньший спектр поражения, они тоже способны наносить существенный вред организму человека и приводить к тяжелым последствиям для здоровья и смерти. Вместе с тем в химических лабораториях продолжают совершенствоваться программы ретросинтеза, что позволяет исследовать новые пути создания известных и неизвестных молекул. Поэтому многие из этих разработок могут успешно обходить местные законодательства по разработке химического оружия в тех странах, где они находятся.

Для меня проблема заключалась в том, насколько легко это было сделать. Многие данные, которые мы использовали, можно найти в свободном доступе
Фабио Урбина
Ведущий автор исследования

Ведущий автор исследования Фабио Урбина добавила, что каждый может скачать базу данных о токсичности из любой точки мира. По ее словам, любой человек со знанием языка программирования Python может за пару дней создать нечто подобное. Следует отметить, что при проведении эксперимента по поиску токсичных соединений в команде находился специальный сотрудник, который следил за ходом исследования и мог остановить ученых, зашедших слишком далеко.

«Реальность такова, что это не научная фантастика. Мы всего лишь одна небольшая компания во вселенной многих сотен лабораторий, использующих программное обеспечение для разработки лекарственных препаратов, — продолжает сотрудница в беседе с The Verge. — Сколько из них рассматривали возможности перепрофилирования? Сколько людей имеют инновационное оборудование, чтобы найти химические элементы, которые, по прогнозам, будут на порядок более токсичными, чем VX?»

***
В Collaborations Pharmaceuticals обычно не занимаются проблемами безопасности при работе с патогенами и токсичными веществами, поскольку это не их профиль. Однако проведенный эксперимент заставил сотрудников всерьез задуматься и поднять эту тему для обсуждения не только в собственных лабораториях, но и в международном пространстве. Как заметили сами химики, они потратили десятилетия в поисках лекарств, а не ядов.

На данный момент исследователей пригласили выступить на конференции от Швейцарского Федерального института ядерной, биологической и химической защиты, Spiez Laboratory, чтобы рассказать о машинном обучении и его опасном применении. Цель мероприятия — информирование и обмен научными данными в области разработок, которые имеют отношение к Конвенции о химическом/биологическом оружии.

Ранее в научном сообществе вопросы обсуждения двойного применения ИИ для разработки новых молекул не поднимались, по крайней мере публично. Дискуссии о социальных последствиях искусственного интеллекта в основном сосредоточены на безопасности, конфиденциальности, дискриминации и потенциальном преступном злоупотреблении, но не на национальной и международной безопасности.

Вместе с тем исследователи долго размышляли над необходимостью разглашения данных эксперимента. Поскольку это несет риски потенциально злоупотребления, которое при этом еще и не занимает много времени. Подобные научные работы прежде не публиковались, поэтому был риск подать эту идею злоумышленникам. В конце концов, ученые приняли решение опередить людей, размышляющих об аналогичных технологиях, и поднять этот вопрос в международном сообществе.

Как считают сотрудники лаборатории, правила о более строгой отчетности в научных исследованиях, а также прямая связь с правительством, поможет улучшить контроль за разработкой токсичных молекул в нетерапевтических целях. Кроме того, химики предлагают усилить этические дисциплины в вузах для студентов, занимающихся естественной наукой, а также для тех, кто работает с вычислительными программами, чтобы они знали о потенциальном злоупотреблении ИИ на раннем этапе своей карьеры.

В Collaborations Pharmaceuticals надеются, что высокий уровень осведомленности и публичности этой технологии позволит повысить уровень ответственности среди сотрудников химической, биологической и гибридных промышленностей, которые имеют доступ к искусственному интеллекту.