La Unión Europea está considerando la posibilidad de convertirse en la primera región del mundo en contar con una ley integral para regular la inteligencia artificial (IA). Pero después de casi 24 horas de negociaciones maratónicas, aún no se han cerrado todos los puntos y las reuniones a puerta cerrada en Bruselas se han suspendido hasta mañana viernes a las 9 de la mañana. Se sabe que ya hay acuerdo (aunque no se han desvelado los detalles) en uno de los temas más espinosos: cómo regular los modelos fundacionales en los que se basan sistemas como ChatGPT y que, si bien se consideran fundamentales en la evolución de la tecnología, también generan serias dudas por su capacidad disruptiva. Aún así, quedaría pendiente al menos otro aspecto espinoso de la ambiciosa normativa: las cuestiones sobre la vigilancia biométrica en tiempo real que tantas dudas y recelos suscita entre los parlamentarios ante su posible uso abusivo por parte de los gobiernos, como ya está sucediendo en China.
“Se avanzó mucho en estas 22 horas. Mañana reanudaremos el trabajo”, anunció el comisario de Mercado Interior y uno de los principales impulsores de la ley AI, Thierry Breton, pasado el mediodía y varias horas más tarde de lo que los negociadores habían calculado inicialmente para esta reunión entre representantes de los Estados. , la Cámara Europea y la Comisión Europea (los llamados diálogos tripartitos). Las partes estaban encerradas desde las 15.00 horas del miércoles en una sala de la sede del Consejo de la UE en la capital belga, en un intento de acordar un texto jurídico final que se ajuste a las visiones de los Estados (más favorables a sí mismos). -regulación de las bases de los modelos y mayor uso de la vigilancia biométrica) y la de los eurodiputados, que exigen muchos más controles y obligaciones en aras de defender los derechos fundamentales frente a tecnologías altamente intrusivas. Aunque no es el paso final: el acuerdo, si lo hay, todavía tendrá que ser ratificado por el Consejo y el Parlamento Europeo, antes de que la ley pueda entrar en vigor, previsiblemente a finales de 2026 si no hay más retrasos. – Se considera un hito ya que llegar a este punto a veces ha parecido imposible.
«Las negociaciones continúan», indicaron casualmente fuentes cercanas a las negociaciones tras una mañana «intensa y productiva», como también definió en las redes sociales la secretaria de Estado de Digitalización e Inteligencia Artificial, Carme Artigas, que lidera el encuentro. ya que España ostenta la presidencia rotatoria del Consejo de la UE hasta finales de mes. Sin embargo, con 24 horas de “ultramaratón” negociador -como lo definió Breton- a punto de finalizar, las partes decidieron hacer una pausa y reanudar las conversaciones este viernes.
La decisión es una señal de que, aunque se ha avanzado mucho, como aseguran todas las partes, las diferencias aún son lo suficientemente grandes como para no poder sellar un acuerdo. Y, siguiendo la máxima de la diplomacia de que nada está acordado hasta que todo esté acordado, por mucho que se haya avanzado, todavía no hay humo blanco. Aun así, el hecho de que no se haya tirado la toalla -pedir un nuevo diálogo tripartito habría significado un nuevo retraso que quizás trasladaría el tema a la presidencia belga a partir de enero- y que se haya decidido simplemente hacer una pausa es una El resultado es alentador, afirman también varias fuentes. Pese a las diferencias, todavía hay esperanzas de que se alcance un acuerdo este viernes, aunque todavía queda bastante brecha por cerrar.
Según fuentes cercanas a las negociaciones, el último obstáculo fundamental para que los negociadores lancen la esperada humo blanco es otro de los principales obstáculos durante todo el proceso de discusión de la ley: la regulación de la vigilancia biométrica en tiempo real en los espacios públicos mediante sistemas como el facial. reconocimiento, una de las líneas rojas del Parlamento Europeo, preocupado por la posibilidad de abusos de los derechos fundamentales de los ciudadanos por parte de los Estados al utilizar estas tecnologías.
Del mandato negociador del Parlamento Europeo surgió la decisión de prohibir o restringir al máximo los «usos intrusivos y discriminatorios de la IA», especialmente los sistemas biométricos en tiempo real o en espacios públicos, con muy pocas excepciones por motivos de seguridad. Los Estados están tratando de ampliar estas excepciones, y ahí se iban a topar, como advirtió el día anterior el eurodiputado Brando Benifei, participante en las negociaciones, con una línea roja clara: los legisladores están luchando por mantener la prohibición de la vigilancia policial predictiva, vigilancia biométrica en lugares públicos y sistemas de reconocimiento de emociones en lugares de trabajo y sistemas educativos. «Necesitamos un grado suficiente de protección de los derechos fundamentales con las prohibiciones necesarias en el uso (de estas tecnologías) para la seguridad y la vigilancia», resumió el miércoles el eurodiputado italiano. «Los gobiernos quieren una larga lista de excepciones a la aplicación que no vamos a aceptar», dijo en un encuentro con periodistas horas antes de encerrarse en las discusiones.
«Necesitamos un grado suficiente de protección de los derechos fundamentales con las prohibiciones necesarias a la hora de utilizar (estas tecnologías) para seguridad y vigilancia», insistió Benifei, que se dijo dispuesto a llegar a un «compromiso» al respecto, como en «casos concretos». » de la vigilancia policial, pero subrayó que esto requiere «salvaguardias» y un control de la misma muy robustos que, en cualquier caso, no pueden ser ejercidos por los propios Estados. “No vamos a permitir que los gobiernos se controlen si respetan la ley, esto es muy, muy importante para nosotros (…) y nunca aceptaremos una desviación y no tener un control serio”, afirmó.
Aunque el acuerdo para continuar las negociaciones este viernes se basa en un acuerdo para mantener la discreción sobre el punto en el que se encuentran hasta la nueva reunión, fuentes conocedoras del tira y afloja también confirman que otro de los puntos actualmente sin resolver es el cuestión de las “excepciones a la seguridad nacional” que países como Francia piden en la ley de IA para poder utilizar este tipo de tecnologías con fines de defensa, militares o de seguridad nacional como la lucha contra el terrorismo, un extremo en el que los Estados mostrarían poca voluntad de llegar a un punto medio con los eurodiputados, que pretenden limitar al máximo estas excepciones.
Las largas discusiones, a las que acudió a saludar incluso la vicepresidenta primera y ministra de Economía, Nadia Calviño, una muestra más de la gran prioridad que España ha querido dar al expediente de la IA, cuya ley quiere poder acordar bajo su mandato europeo- – ya han permitido, según fuentes coincidentes, superar el otro gran obstáculo para un acuerdo provisional sobre la ley: la cuestión de la regulación de los modelos fundacionales, especialmente los más poderosos.
Más que el “qué”, el pulso giró en torno al “cómo”, explicaron fuentes cercanas a la negociación en vísperas de la misma. Países como Alemania, Francia e Italia se habían opuesto en las últimas semanas, como buscaba el Parlamento Europeo, fijando obligaciones por ley y abogando por una mayor autorregulación -a través de códigos de conducta obligatorios- para los desarrolladores. El argumento utilizado fue no obstaculizar la innovación y la competitividad en un sector en el que Europa no quiere quedarse atrás frente a sus grandes rivales, Estados Unidos y China.
Pero los eurodiputados, preocupados por la capacidad de estas nuevas tecnologías de afectar a los derechos fundamentales de los ciudadanos, trazaron líneas rojas y advirtieron de su intención de abandonar las negociaciones, lo que habría pospuesto gravemente toda la ley, que se espera que se aplique plenamente. a finales de 2026, si no se establecían suficientes salvaguardias. Especialmente para los modelos fundacionales más poderosos, aquellos considerados de “riesgo sistémico” porque tienen capacidades de alto impacto cuyos resultados pueden “no ser conocidos o comprendidos en el momento de su desarrollo y publicación, por lo que pueden causar riesgos sistémicos a nivel del UE”, según la definición aceptada por todas las partes.
El quid de la cuestión, explicó también Benifei en vísperas de las negociaciones, fue la forma en que se “garantiza” para estos modelos más potentes “que lo que hacen los desarrolladores de estos modelos es obligatorio y se puede exigir su cumplimiento”. El Parlamento Europeo, señaló, quería un texto que fuera lo suficientemente claro como para garantizar que «no hay forma de eludir estas obligaciones», incluso si estuvieran incluidas en un código de conducta como lo solicitaron los Estados, pero que, en cualquier caso, caso, “que no sean un compromiso voluntario de facto, sino uno que pueda ser ejecutado”.
puedes seguir EL PAÍS Tecnología en Facebook y X o regístrate aquí para recibir nuestra boletín semanal.
Suscríbete para seguir leyendo
Leer sin límites
_
