Las herramientas de inteligencia artificial que pueden generar estructuras proteicas con solo presionar un botón deben usarse de manera segura y ética, dicen los investigadores en el campo
Por Ewen Callaway (Nature)
¿Podrían utilizarse alguna vez las proteínas diseñadas por inteligencia artificial (IA) como armas biológicas? Con la esperanza de evitar esta posibilidad, así como la perspectiva de una regulación gubernamental onerosa, los investigadores lanzaron hoy una iniciativa que exige el uso seguro y ético del diseño de proteínas.
«Los beneficios potenciales del diseño de proteínas [IA] superan con creces los peligros en este momento», dice David Baker, biofísico computacional de la Universidad de Washington en Seattle, que forma parte de la iniciativa voluntaria. Docenas de otros científicos que aplican la IA al diseño biológico han firmado la lista de compromisos de la iniciativa.
«Es un buen comienzo. Lo firmaré”, dice Mark Dybul, especialista en políticas de salud global de la Universidad de Georgetown en Washington DC, quien dirigió un informe de 2023 sobre IA y bioseguridad para el grupo de expertos Helena en Los Ángeles, California. Pero también piensa que “necesitamos medidas y normas gubernamentales, y no sólo orientación voluntaria”.
La iniciativa llega inmediatamente después de informes del Congreso de EE. UU., grupos de expertos y otras organizaciones que exploran la posibilidad de que las herramientas de inteligencia artificial (que van desde redes de predicción de estructuras de proteínas como AlphaFold hasta grandes modelos de lenguaje como el que impulsa ChatGPT) puedan hacerlo más fácil, desarrollar armas biológicas, incluidas nuevas toxinas o virus altamente transmisibles.
Peligros de las proteínas de diseño
Los investigadores, incluido Baker y sus colegas, han estado intentando diseñar y producir nuevas proteínas durante décadas. Pero su capacidad para hacerlo se ha disparado en los últimos años gracias a los avances en IA . Esfuerzos que antes tomaban años o eran imposibles, como diseñar una proteína que se una a una molécula específica, ahora se pueden lograr en minutos. La mayoría de las herramientas de inteligencia artificial que los científicos han desarrollado para permitir esto están disponibles gratuitamente.
Para evaluar el potencial de uso malévolo de las proteínas de diseño, el Instituto Baker de Diseño de Proteínas de la Universidad de Washington organizó una cumbre sobre seguridad de la IA en octubre de 2023. “La pregunta era: ¿cómo debería regularse y regularse el diseño de proteínas, si es que de alguna manera? ¿Cuáles son los peligros, si los hay?
La iniciativa que él y docenas de otros científicos en Estados Unidos, Europa y Asia están poniendo en marcha hoy exige a la comunidad del biodiseño que se controle a sí misma. Esto incluye revisar periódicamente las capacidades de las herramientas de inteligencia artificial y monitorear las prácticas de investigación. A Baker le gustaría que su campo estableciera un comité de expertos para revisar el software antes de que esté ampliamente disponible y recomendar «medidas de seguridad» si fuera necesario.
La iniciativa también exige una mejor detección de la síntesis de ADN, un paso clave para traducir proteínas diseñadas por IA en moléculas reales. Actualmente, muchas empresas que prestan este servicio están inscritas en un grupo industrial, el Consorcio Internacional de Síntesis Genética (IGSC), que les exige examinar los pedidos para identificar moléculas dañinas como toxinas o patógenos.
«La mejor manera de defenderse contra las amenazas generadas por la IA es contar con modelos de IA que puedan detectar esas amenazas», afirma James Diggans, jefe de bioseguridad de Twist Bioscience, una empresa de síntesis de ADN en el sur de San Francisco, California, y presidente del IGSC.
Evaluación de riesgos
Los gobiernos también están lidiando con los riesgos de bioseguridad que plantea la IA. En octubre de 2023, el presidente de Estados Unidos Joe Biden, firmó una orden ejecutiva en la que pedía una evaluación de tales riesgos y planteaba la posibilidad de exigir pruebas de síntesis de ADN para investigaciones financiadas con fondos federales.
Baker espera que la regulación gubernamental no esté en el futuro de este campo; dice que podría limitar el desarrollo de medicamentos, vacunas y materiales que las proteínas diseñadas por IA podrían producir. Diggans añade que no está claro cómo podrían regularse las herramientas de diseño de proteínas, debido al rápido ritmo de desarrollo. «Es difícil imaginar una regulación que sea apropiada una semana y que siga siendo apropiada la siguiente».
Pero David Relman, microbiólogo de la Universidad de Stanford en California, dice que los esfuerzos liderados por científicos no son suficientes para garantizar el uso seguro de la IA. «Los científicos naturales por sí solos no pueden representar los intereses del público en general».
