Una inteligencia artificial (IA) que fue originalmente diseñada para curar enfermedades, fue reprogramada para encontrar productos químicos tóxicos y crear nuevos compuestos. El resultado fue inquietante: se crearon compuestos letales sorprendentemente similares a los de los agentes nerviosos actuales.
Un modelo de inteligencia artificial fue capaz de crear 40.000 compuestos de armas químicas en solo seis horas, después de que los investigadores le encomendaron la tarea.
Un equipo de científicos estaba usando IA para buscar compuestos que pudieran usarse para curar enfermedades, y parte de esto implica filtrar cualquiera que pueda matar a un humano.
Como parte de una conferencia sobre las implicaciones potencialmente negativas de las nuevas tecnologías, la startup de biotecnología Collaborations Pharmaceuticals, de Raleigh, Carolina del Norte, “pulsó un interruptor” en su algoritmo de IA e hizo que encontrara los compuestos más letales.
El equipo quería ver con qué rapidez y facilidad se podía abusar de un algoritmo de inteligencia artificial, si se establecía en una tarea negativa en lugar de positiva.
Una vez en “modo malo”, la IA pudo inventar miles de nuevas combinaciones químicas, muchas de las cuales se parecían a los agentes nerviosos más peligrosos que se usan en la actualidad, según un informe de The Verge.
Agente nervioso extremadamente tóxico
Entre los compuestos inventados por la IA, había algunos similares al VX, un agente nervioso extremadamente tóxico que puede causar espasmos incluso en dosis pequeñas.
Agente nervioso VX.
Los investigadores dijeron que uno de los aspectos más aterradores de su descubrimiento fue lo fácil que fue tomar un conjunto de datos ampliamente disponible de productos químicos tóxicos y usar IA para diseñar armas químicas similares a las más peligrosas actualmente.
Crear un compuesto tan poderoso como VX fue un shock para los investigadores, ya que incluso una pequeña gota de este químico puede hacer que un ser humano se estremezca.
Una dosis lo suficientemente grande puede provocar convulsiones y hacer que una persona deje de respirar, y el nuevo compuesto creado por la IA podría tener un efecto similar, predice el equipo.
Fabio Urbina, autor principal del artículo, dijo que tienen muchos conjuntos de datos de moléculas que se han probado para ver si son tóxicas o no.
Urbina dijo a The Verge:
“En particular, en el que nos centramos aquí es VX. Es un inhibidor de lo que se conoce como acetilcolinesterasa. Cada vez que haces algo relacionado con los músculos, tus neuronas usan la acetilcolinesterasa como una señal para decir básicamente ‘mueve tus músculos’. La forma en que VX es letal es que en realidad evita que su diafragma, los músculos de sus pulmones, puedan moverse, por lo que sus pulmones se paralizan”.
Analizando el riesgo de convertir una IA en “mala”
(Public domain)
La idea de “pulsar el interruptor” de la IA para convertirla en “mala” surgió de la Convergence Conference, organizada por el Swiss Federal Institute for Nuclear.
El objetivo es explorar la implicación que las nuevas herramientas y desarrollos podrían tener en el ámbito de las armas químicas y biológicas, incluso sin querer.
Reuniéndose cada dos años, las conferencias reúnen a un grupo internacional de expertos científicos y de desarme para explorar el estado actual del arte en los campos químico y biológico y sus trayectorias.
Urbina agregó:
“Recibimos esta invitación para hablar sobre el aprendizaje automático y cómo puede ser mal utilizado en nuestro espacio. Es algo en lo que realmente nunca antes habíamos pensado. Pero fue muy fácil darme cuenta de que mientras construimos estos modelos de aprendizaje automático para mejorar cada vez más en la predicción de la toxicidad para evitar la toxicidad, todo lo que tenemos que hacer es girar el interruptor y decir: ‘en lugar de alejarnos de la toxicidad, ¿qué pasa si vamos hacia la toxicidad?”’.
El especialista en aprendizaje automático trabaja para implementar modelos en el área del descubrimiento de fármacos, y una gran parte de ellos se enfoca en cuán tóxico puede ser un compuesto.
LECTURA RECOMENDADA: Investigador de OpenAI dice que la inteligencia artificial avanzada ya puede ser consciente
Utilizan grandes conjuntos de datos de lo que es tóxico, cómo es tóxico y su impacto. Lo hacen para determinar si los nuevos medicamentos potenciales resultarán demasiado peligrosos para los humanos.
Urbina agregó:
“Entonces podemos darle a este modelo de aprendizaje automático nuevas moléculas, potencialmente nuevos medicamentos que tal vez nunca antes se hayan probado. Y nos dirá que se predice que esto será tóxico, o se predice que esto no será tóxico. Esta es una forma en que podemos examinar virtualmente muy, muy rápido muchas moléculas y eliminar las que se prevé que sean tóxicas”.
Creando moléculas más tóxicas
(Public domain)
Para el nuevo estudio, le dieron la vuelta: usaron el modelo de IA que crearon para buscar las moléculas más tóxicas y peligrosas, y ver si podían empeorarlo.
Urbina agregó:
“La otra parte clave de lo que hicimos aquí son estos nuevos modelos generativos. Podemos darle a un modelo generativo una gran cantidad de estructuras diferentes, y aprende cómo juntar moléculas. Puede, en cierto sentido, pedirle que genere nuevas moléculas”.
Descubrieron que podía generar estas moléculas a través de cualquier espacio de la química, y no solo al azar, sino que el equipo puede dirigirlas.
La mayoría de las moléculas tóxicas se parecían a los productos químicos utilizados en la guerra, incluido el VS, y esto se hizo a pesar de que el modelo nunca antes había visto estos productos químicos, ni ningún agente de guerra química.
Urbina agregó:
“Para mí, la preocupación era lo fácil que era hacerlo, muchas de las cosas que usamos están disponibles de forma gratuita. Puede ir y descargar un conjunto de datos de toxicidad desde cualquier lugar. Si tiene a alguien que sabe cómo codificar en Python y tiene algunas capacidades de aprendizaje automático, probablemente en un buen fin de semana de trabajo, podría construir algo como este modelo generativo impulsado por conjuntos de datos tóxicos. Así que eso fue lo que realmente nos hizo pensar en publicar este documento; era una barrera de entrada muy baja para este tipo de uso indebido”.
Los hallazgos de la investigación han sido publicados en la revista Nature Machine Intelligence.
Gracias por leernos. Te invitamos a seguirnos en nuestra Página de Facebook, para estar al tanto de todas las noticias que publicamos a diario. También puedes unirte a nuestra comunidad en Telegram.
Siempre crear armas para matar.