Los usos riesgosos de la inteligencia artificial que amenazan la seguridad o los derechos de las personas, como el escaneo facial en vivo, deberían prohibirse o controlarse estrictamente, dijeron el miércoles funcionarios de la Unión Europea al delinear un ambicioso paquete de regulaciones propuestas para frenar la tecnología en rápida expansión.

(AP)-El borrador de las regulaciones de la comisión ejecutiva de la UE incluye reglas para las aplicaciones consideradas de alto riesgo, como los sistemas de inteligencia artificial para filtrar a los solicitantes de estudios, trabajos o préstamos. También prohibirían la inteligencia artificial por completo en algunos casos considerados demasiado riesgosos, como los sistemas de «puntuación social» del gobierno que juzgan a las personas en función de su comportamiento.

Las propuestas son el último movimiento del bloque de 27 naciones para mantener su papel como abanderado mundial de la regulación tecnológica, mientras intenta mantenerse al día con las dos grandes superpotencias tecnológicas del mundo, EE. Los funcionarios de la UE dicen que están adoptando un «enfoque basado en el riesgo» de cuatro niveles que busca equilibrar derechos importantes como la privacidad con la necesidad de fomentar la innovación.

«Con estas reglas históricas, la UE está encabezando el desarrollo de nuevas normas globales para asegurarse de que se pueda confiar en la IA», dijo Margrethe Vestager, vicepresidenta ejecutiva de la Comisión Europea para la era digital, en un comunicado. «Al establecer los estándares, podemos allanar el camino hacia la tecnología ética en todo el mundo y garantizar que la UE siga siendo competitiva en el camino»

Sin duda, el borrador de las reglas tiene un largo camino por recorrer antes de que entren en vigencia. Deben ser revisados ​​por el Parlamento Europeo y el Consejo Europeo y podrían modificarse en un proceso que podría llevar varios años, aunque los funcionarios se negaron a dar un plazo específico.

Los esfuerzos anteriores de regulación tecnológica de la UE han sido de gran alcance e influyentes, lo que le ha valido la reputación de ser un pionero. Vestager, también jefe de competencia del bloque, presentó agresivos desafíos antimonopolio contra gigantes de Silicon Valley como Google años antes de que tal acción se pusiera de moda. La UE también fue temprana en la batalla de la privacidad de los datos con estrictas reglas conocidas como Reglamento General de Protección de Datos, o GDPR, que se convirtió en el estándar global de facto.

Sin embargo, los resultados han sido mixtos: Google aún conserva su dominio en línea y los casos de privacidad de la UE contra empresas tecnológicas globales están respaldados. Los funcionarios también están trabajando para actualizar el reglamento digital de la UE para proteger a los usuarios de Internet de material dañino o comerciantes deshonestos.

Según las propuestas de IA, los usos inaceptables también incluirían la manipulación del comportamiento, la explotación de las vulnerabilidades de los niños o el uso de técnicas subliminales.

«Puede ser un caso en el que un juguete usa sistemas de voz para manipular a un niño para que haga algo peligroso», dijo Vestager en una conferencia de prensa. “Tales usos no tienen cabida en Europa y por eso proponemos prohibirlos”.

Las propuestas incluyen una prohibición en principio de la controvertida «identificación biométrica remota», como el uso de reconocimiento facial en vivo para identificar a las personas entre las multitudes en tiempo real, porque «no hay lugar para la vigilancia masiva en nuestra sociedad», dijo Vestager.

Sin embargo, habrá una excepción para fines de aplicación de la ley estrictamente definidos, como la búsqueda de un niño desaparecido o una persona buscada o la prevención de un ataque terrorista. Pero algunos legisladores de la UE y grupos de derechos digitales quieren que se elimine la excepción por temor a que las autoridades puedan utilizarla para justificar el uso futuro generalizado de la tecnología, que dicen es intrusiva e inexacta.

La tecnología de vigilancia biométrica y masiva «en nuestros espacios públicos socava nuestra libertad y amenaza nuestras sociedades abiertas», dijo Patrick Breyer, un legislador del partido pirata de la UE. “No podemos permitir la discriminación de ciertos grupos de personas y la falsa incriminación de innumerables personas por estas tecnologías”

Otras aplicaciones de inteligencia artificial se consideran de alto riesgo porque «interfieren con aspectos importantes de nuestras vidas», dijo Vestager, incluidos los tribunales penales, la aplicación de la ley, la infraestructura crítica como el transporte (piense en software para automóviles autónomos) y la gestión de la migración, el asilo y control fronterizo. Pero su uso está permitido siempre que los operadores sigan reglas que incluyen el uso de datos de alta calidad para minimizar la discriminación y tener un ser humano a cargo.

Herbert Swaniker, abogado de tecnología del bufete de abogados Clifford Chance, comparó las propuestas con el RGPD, que afecta a empresas de todo el mundo.

“Con GDPR, vimos que las reglas de la UE llegaron a todos los rincones del mundo y presionaron a los países a nivel mundial para alcanzar un nuevo estándar de oro internacional”, dijo Swaniker. “Podemos esperar esto también para la regulación de la IA. Este es solo el comienzo.»

El borrador de las regulaciones también cubre las aplicaciones de IA que presentan un «riesgo limitado», como los chatbots, que deben etiquetarse para que las personas sepan que están interactuando con una máquina. La mayoría de las aplicaciones de inteligencia artificial, como los filtros de correo no deseado, no se verán afectadas ni estarán cubiertas por las reglas existentes de protección al consumidor, dijeron los funcionarios.

Para ayudar a desarrollar estándares y hacer cumplir las reglas, que se aplicarían a cualquier persona que proporcione un sistema de inteligencia artificial en la UE o utilice uno que afecte a las personas del bloque, la comisión propone la creación de una Junta Europea de Inteligencia Artificial.

Las infracciones podrían resultar en multas de hasta 30,000 euros (más de $ 36,000), o para las empresas, hasta el 6% de sus ingresos anuales globales, lo que sea mayor, aunque Vestager dijo que las autoridades primero pedirían a los proveedores que arreglen sus productos de inteligencia artificial o los eliminen. del mercado.

Los funcionarios de la UE, que intentaron ponerse al día con las industrias de tecnología china y estadounidense, dijeron que las reglas alentarían el crecimiento de la industria al aumentar la confianza en los sistemas de inteligencia artificial e introducir claridad legal para las empresas.