Una inteligencia artificial diseñada para ayudar a los fabricantes de medicamentos a encontrar nuevos medicamentos para tratar enfermedades inventó 40 000 nuevas armas químicas potenciales en solo seis horas.
Los investigadores de la startup Collaboration Pharmaceuticals Inc., con sede en Carolina del Norte, dicen que tienen pruebas computacionales de que las tecnologías de IA diseñadas para el descubrimiento de medicamentos podrían «utilizarse indebidamente para el diseño de novo de armas bioquímicas». En un estudio publicado en la revista Nature Machine Intelligence, describen cómo un «ejercicio de pensamiento» se convirtió en una «llamada de atención» para la «comunidad de IA en el descubrimiento de drogas».
La compañía tiene un modelo comercial de aprendizaje automático, llamado MegaSyn, que está capacitado para identificar posibles candidatos a medicamentos filtrando compuestos que serían tóxicos para los seres humanos. Los científicos querían saber qué pasaría si se invirtiera la lógica del algoritmo de la IA, qué haría si se entrenara para encontrar compuestos tóxicos en lugar de eliminarlos.
Utilizando una base de datos de código abierto, los científicos instruyeron a su IA para que buscara moléculas con propiedades químicas similares al agente nervioso VX, una de las armas químicas más peligrosas inventadas en el siglo XX.
El VX es una sustancia química insípida e inodoro que ataca el sistema nervioso del cuerpo, paralizando los músculos y evitando que una persona expuesta al agente respire. El compuesto extremadamente tóxico se utilizó para asesinar a Kim Jong-nam, el medio hermano del dictador norcoreano Kim Jong-un.
En menos de seis horas después de encenderse, la IA no solo generó una copia de VX, sino que también modeló 40 000 moléculas que eran agentes de guerra química conocidos o que podrían convertirse en nuevas armas químicas. Se predijo que algunos serían aún más tóxicos que los agentes de guerra química conocidos.
«Al invertir el uso de nuestros modelos de aprendizaje automático, habíamos transformado nuestro modelo generativo inocuo de una herramienta útil de medicina a un generador de moléculas probables mortales», escribieron los autores del artículo.
«Nuestros modelos de toxicidad se crearon originalmente para su uso en la prevención de la toxicidad, lo que nos permite examinar mejor virtualmente las moléculas (para aplicaciones farmacéuticas y de productos de consumo) antes de confirmar finalmente su toxicidad a través de pruebas in vitro. Lo contrario, sin embargo, siempre ha sido cierto: cuanto mejor podamos predecir la toxicidad, mejor podremos dirigir nuestro modelo generativo para diseñar nuevas moléculas en una región del espacio químico poblada por moléculas predominantemente letales».
Tal vez la conclusión más aterradora de los investigadores es que su investigación se replica fácilmente.
Fabio Urbina, científico senior de Collaboration Pharmaceuticals y autor principal del artículo, dijo a The Verge en una entrevista que cualquier persona con experiencia en química y acceso a Internet podría replicar su trabajo.
«Si fueras a Google modelos generativos, podrías encontrar una serie de modelos generativos de una sola línea que la gente ha lanzado de forma gratuita. Y luego, si tuviera que buscar conjuntos de datos de toxicidad, hay un gran número de conjuntos de datos de tox de código abierto. Así que si solo combinas esas dos cosas, y luego sabes cómo codificar y construir modelos de aprendizaje automático, todo lo que realmente se requiere es una conexión a Internet y una computadora, entonces podrías replicar fácilmente lo que hicimos. Y no solo para VX, sino para casi cualquier otro conjunto de datos de toxicidad de código abierto», dijo Urbina.
«Por supuesto, requiere algo de experiencia. Si alguien armara esto sin saber nada sobre química, en última instancia probablemente generaría cosas que no eran muy útiles. Y todavía queda el siguiente paso de tener que sintetizar esas moléculas. Encontrar un fármaco potencial o una nueva molécula tóxica potencial es una cosa; el siguiente paso de la síntesis, crear realmente una nueva molécula en el mundo real, sería otra barrera».
Es importante destacar que no todas las moléculas que la IA identifica como candidata a armas químicas funcionarían si se sintetizara de alguna manera. Algunos serán falsos positivos, al igual que los nuevos candidatos a medicamentos identificados por la IA no siempre conducen a medicamentos que funcionen.
Aun así, la tecnología de IA claramente tiene implicaciones peligrosas, tanto es así que los científicos incluso dudaron en publicar sus hallazgos, en caso de que algunas personas usaran su trabajo para el mal.
«El conjunto de datos que usaron en la IA se puede descargar de forma gratuita y les preocupa que todo lo que se necesita sea algún conocimiento de codificación para convertir una buena IA en una máquina de fabricación de armas químicas», explicó Urbina.
“Al final del día, decidimos que queríamos adelantarnos a esto. Porque si es posible que lo hagamos, es probable que algún agente adversario en algún lugar tal vez ya esté pensando en ello o en el futuro vaya a pensar en ello».
El documento recomienda varias precauciones que los investigadores de medicamentos que utilizan tecnología de IA deben tomar para evitar que su trabajo caiga en las manos equivocadas. Entre sus recomendaciones se encuentra una estructura de notificación o una línea directa a las autoridades en caso de que los investigadores tengan conocimiento de que alguien desarrolle moléculas tóxicas para usos no terapéuticos.
«Esperamos que al crear conciencia sobre esta tecnología, hayamos avanzado en cierta medida para demostrar que, aunque la IA puede tener aplicaciones importantes en la atención médica y otras industrias, también debemos seguir siendo diligentes contra el potencial de doble uso, de la misma manera que lo haríamos con recursos físicos como moléculas o productos biológicos», concluye el documento.
QAnons España 