Як це часто буває, технологія має свою "злу" сторону. Так, вченим з Collaborations Pharmaceuticals вдалося інвертувати призначення генератора молекул MegaSyn: замість відсіювання токсичних речовин під час пошуку нових ліків він почав спеціально їх виявляти. На щастя, цього замало для втілення зброї в реальність, адже також потрібні спеціальні знання, обладнання та сировина.

Цікаво Міноборони отримало інструмент для ідентифікації живих та вбитих окупантів

Отрута замість ліків

  • Повідомляється, що MegaSyn усього за 6 годин розрахунків запропонував 40 тисяч варіантів потенційної біологічної зброї.
  • ШІ працював з загальнодоступною базою даних молекул, в основному схожих на ліки (тобто тих, що можуть поглинатися організмом), і аналізував їх біологічну активність.
  • Щоб звузити пошуки, дослідники спрямували увагу алгоритму на такі сполуки, як нервово-паралітична речовина VX, розроблена у XX столітті.
  • Але MegaSyn пішов далі. Він розробив сполуки не тільки на базі VX, але й на базі інших відомих бойових отрут — в тому числі й "Новачка", яким 4 березня 2018 року отруїли колишнього російського шпигуна Сергія Скрипаля та його доньку Юлію, а 20 серпня 2020 року – російського опозиціонера Олексія Навального.
  • Також було розроблено багато нових молекул, які потенційно ще небезпечніші вже відомих.

Мене турбувало те, наскільки легко це було зробити. Багато чого з того, що ми використовували, доступно безплатно. Ви можете завантажити набір даних про токсичність звідки завгодно. Якщо у вас є хтось, хто знає, як програмувати на Python і володіє деякими здібностями до машинного навчання, то, ймовірно [...] він може побудувати щось на зразок цієї генеративної моделі, заснованої на токсичних наборах даних,
– каже Фабіо Урбіна, співавтор дослідження.

Однак дослідники заспокоюють: для того, щоб використовувати модель на шкоду все ж потрібні певні специфічні знання. Не будучи фахівцем в області, навіть з таким інструментом як ШІ, на виході можна отримати лише інертний матеріал. Крім того, молекули ще треба синтезувати — для цього потрібні вже не тільки знання, а й спеціальне рідкісне обладнання, за поширенням якого ведеться спостереження.