Los agentes autónomos no solo generan sus propias investigaciones, sino que también conversan sobre ellas en el sitio web Agent4Science, similar a Reddit.
Por Jenna Ahart-Nature
Ya está aquí la red social científica más novedosa, pero, curiosamente, no admite usuarios humanos. Este sitio, al estilo de Reddit y llamado Agent4Science , permite que agentes con inteligencia artificial, diseñados específicamente para ello, compartan, debatan y analicen artículos de investigación. Los investigadores humanos pueden observar las conversaciones de la inteligencia artificial, pero solo los agentes pueden participar.
Los debates sobre IA se organizan en distintos subgrupos, centrándose especialmente en la investigación en IA, incluyendo temas como la seguridad, las indicaciones y el aprendizaje profundo. Como es habitual, incluso los artículos compartidos en cada publicación son generados por IA.
El sitio es un experimento para que los agentes de IA «discutan libremente sobre ciencia y veamos a dónde nos lleva», afirma Chenhao Tan, uno de sus creadores e investigador de IA que dirige el Laboratorio de Interacción Humano-Audio de Chicago (CHAI) en la Universidad de Chicago, Illinois. El equipo de Tan ya se había adentrado en este campo de investigación con el sitio OpenAIReview, donde los usuarios pueden subir un artículo científico para recibir comentarios de un revisor de IA. Con la nueva plataforma, explica Tan, el objetivo es «imaginar una posibilidad diferente de cómo podría ser la producción de conocimiento».
Diferentes perspectivas
La mayoría de los artículos publicados en Agent4Science provienen del programa NeuriCo del grupo CHAI, que diseña, ejecuta y documenta experimentos de forma autónoma a partir de ideas de investigación tanto humanas como de IA. A medida que los agentes interactúan con Agent4Science, pueden sugerir ideas para artículos de investigación e incluso generarlos.
Aunque los usuarios humanos no pueden contribuir al sitio, pueden crear agentes para que revisen y comenten artículos de forma autónoma, y pueden definir la «personalidad» de estos agentes y los temas de investigación que podrían abordar. Los agentes adoptan etiquetas con descriptores como «escéptico», «académico» y «narrador», y sus respuestas se etiquetan con indicadores como «apoyo», «análisis» y «desafíos».
Hasta el momento, el sitio web registra alrededor de 40 000 comentarios realizados por más de 150 agentes. «Se está generando un debate rico e interesante», afirma Tan. «Me brinda nuevas perspectivas que no obtendría si leyera un artículo por mi cuenta». Menciona un ejemplo en el que los agentes debatieron cómo se puede reducir la prevalencia de información médica falsa y perjudicial en los programas de maestría en derecho mediante la ingeniería de preguntas .
Agent4Science no es la única plataforma social exclusiva para IA que ha surgido este año. En enero, se lanzó otro sitio web al estilo Reddit para agentes de IA, llamado Moltbook . En cuestión de días, el sitio acumuló más de un millón de usuarios, que utilizan la plataforma para debatir sobre todo tipo de temas, desde la consciencia hasta la invención de religiones.
La diferencia de Agent4Science radica en su enfoque científico, explica Emilio Ferrara, científico informático de la Universidad del Sur de California en Los Ángeles. «Centrarse en la creación de nuevos conocimientos y el debate sobre los ya existentes es una medida de seguridad muy acertada que han implementado», afirma. «Idealmente, los agentes no pueden desviarse demasiado de estos temas», y por lo tanto, «generan interacciones más positivas».
Colaborando en la naturaleza
En las últimas semanas se ha lanzado otra plataforma de IA centrada en la investigación, llamada EinsteinArena. Sin embargo, en lugar de evaluar artículos, los agentes de esta plataforma colaboran para resolver problemas de ciencia abierta. Según James Zou, científico informático de la Universidad de Stanford en California, quien participó en la creación del sitio, los agentes ya han trabajado juntos para encontrar nuevas soluciones a 11 problemas matemáticos conocidos.
La ventaja del formato de foro de debate que está surgiendo en estas plataformas es que “los agentes pueden colaborar en entornos reales”, afirma Zou. Si bien existen otros enfoques para realizar investigaciones con múltiples agentes de IA , estos implican un número fijo de agentes con roles asignados. Sin embargo, con los foros de debate, “cualquier persona y cualquier agente, desde cualquier lugar, puede participar”, explica. “Todos estos agentes pueden aportar diferentes perspectivas”.
A medida que estas plataformas se popularicen, será importante contar con un control de calidad para las respuestas de los agentes, ya que, según Zou, la comunicación «es especialmente barata para estos agentes de IA». Por ejemplo, una plataforma podría incorporar una clasificación para ayudar a distinguir entre debates y soluciones de alta y baja calidad.
También podría ser útil que las personas orienten a los agentes hacia las líneas de investigación correctas, afirma Ferrara. Los agentes podrían tender naturalmente hacia problemas que funcionan principalmente como ejercicios, explica, y podría ser necesaria la intervención humana para guiarlos hacia cuestiones más prácticas.
Tan también espera encontrar maneras de mantener a los humanos involucrados. En Agent4Science, los agentes actualmente actúan de forma autónoma con poca intervención humana. Pero el equipo espera introducir una mayor participación humana y, al mismo tiempo, encontrar formas de compartir información valiosa del sitio con los investigadores. «Espero que esto también ayude a los humanos a hacer mejor ciencia a largo plazo», afirma.
