Después de tres días de conversaciones maratonianas, la Presidencia del Consejo y los negociadores del Parlamento Europeo alcanzaron, el pasado mes de diciembre, un acuerdo provisional sobre la propuesta relativa a normas armonizadas en materia de inteligencia artificial (IA), el denominado Reglamento de Inteligencia Artificial. El texto definitivo debe ser adoptado formalmente tanto por el Consejo como por el Parlamento, en su calidad de colegisladores de la UE. El texto íntegro se someterá a una formalización jurídico-lingüística antes de que los colegisladores lo adopten formalmente. El Reglamento de Inteligencia Artificial debe aplicarse a partir de 2026. El Reglamento de Inteligencia Artificial de la UE es la primera ley de la historia en materia de inteligencia artificial, un marco regulador cuyo objetivo es garantizar que los sistemas de IA sean seguros y respeten la legislación y los derechos y valores fundamentales de la UE. César Luena, eurodiputado riojano del grupo socialdemócrata, se felicita porque «la Unión Europea cuenta ya con la primera ley del mundo que regula la IA», y asegura que «no hubiese sido posible sin el trabajo y visión de la Presidencia Española del Consejo y el compromiso de la Eurocámara». Al ser la primera propuesta legislativa de este tipo, puede establecer una norma mundial para regular la IA en otras jurisdicciones, como hizo en su momento el Reglamento General de Protección de Datos (RGPD) para la privacidad de los datos, promoviendo así el enfoque europeo de la regulación tecnológica en la escena mundial. El Reglamento de Inteligencia Artificial trata los riesgos asociados a usos específicos de la IA y los clasifica en cuatro niveles, con normas diferentes en función del nivel. A los videojuegos, filtros de correo no deseado, les asocia un nivel de riesgo mínimo; a los robots conversacionales les otorga un nivel de riesgo limitado; al uso en el transporte, para la evaluación de exámenes, la contratación y la concesión de préstamos les concede un riesgo alto, y concluye con un nivel inaceptable para la puntuación ciudadana y el reconocimiento facial. El reglamento contempla normas más estrictas para un mayor nivel de riesgo. En opinión del riojano César Luena, el nuevo documento «es una ley que lleva en el centro la protección de los derechos democráticos y fundamentales de nuestros ciudadanos, a la vez que impulsa la innovación y el uso de la IA en toda Europa. Es una ley que mira hacia el futuro y que sirve a los europeos, algo por lo que la familia socialista ha luchado durante las negociaciones». Luena quiso poner en valor el nuevo marco legal que asumirá el Viejo Continente: «Esta ley demuestra que Europa sigue estando a la vanguardia a nivel legislativo. Con esta ley, pionera, impulsamos la inversión en la UE y proporciona una certeza legal y técnica a ciudadanos y empresas».
España asumió la Presidencia rotatoria del Consejo de la UE el pasado 1 de julio, una responsabilidad de alto nivel que llega en un momento de gran incertidumbre dentro y fuera de nuestras fronteras. La guerra de Putin en Ucrania, el auge de la ultraderecha en Europa y los efectos, cada vez más extremos, de la crisis climática y medioambiental, son algunos de los factores en juego. Además, los dosieres pendientes en los próximos seis meses, como el pacto europeo de migración y asilo, la reforma del mercado eléctrico, la reforma del pacto de estabilidad y el marco presupuestario plurianual o el apoyo a una futura adhesión de Ucrania, son muy relevantes. Por eso, la actuación española será decisiva: porque la nuestra será la última Presidencia que podrá trabajar el semestre completo antes del inicio de la campaña electoral y el cierre de esta legislatura el año que viene. Las prioridades presentadas por el Gobierno de Pedro Sánchez demuestran que España no solo es consciente de los retos y desafíos a los que nos enfrentamos en la Unión, sino que está preparada para liderar a los 27 hacia soluciones y posiciones comunes. La primera de ellas pasa por reindustrializar Europa para garantizar una autonomía estratégica abierta. Es decir, reducir la dependencia de la UE de terceros países. Para ello, la Presidencia española trabajará en dos direcciones. Por un lado, impulsará expedientes legislativos clave para las industrias y tecnologías estratégicas en Europa. Un ejemplo de ello puede ser la Ley de Materias Primas Fundamentales, que nos garantizará un acceso seguro, diversificado y sostenible de materias primas críticas para la industria digital, la aeroespacial o la de defensa. O la Ley de Inteligencia Artificial, que nos permitirá promover la innovación sin perjuicio para los derechos fundamentales de nuestros ciudadanos. Así consolidaremos la posición de Europa como referente regulatorio a nivel mundial. Por otro lado, reforzará las relaciones con aquellos socios más fiables con los que compartimos valores y objetivos y, muy especialmente, con América Latina. En este sentido debemos leer la importancia de la cumbre UE-CELAC (Comunidad de Estados Latinoamericanos y Caribeños), que se celebrará en Bruselas este mes, y de los acuerdos comerciales con Chile, México y Mercosur. La segunda prioridad, el avance en la transición ecológica y la adaptación medioambiental, se encuentra hoy día en una encrucijada. Tras la aprobación del Pacto Verde Europeo en 2019, con apoyo de la mayoría de grupos políticos, incluido el Partido Popular Europeo, nos encontramos en un momento muy delicado tras el giro hacia la derecha negacionista propiciado por el líder de los conservadores en la Eurocámara, Manfred Weber. En su apuesta por la competición con la extrema derecha, Weber está dispuesto a tirar a la basura los compromisos y obligaciones adquiridos en el camino hacia la neutralidad climática y la recuperación de nuestros ecosistemas. El trabajo de la Presidencia española será esencial para sacar adelante expedientes como la Ley de Restauración de la Naturaleza, actualmente en tramitación. Frente a los intentos de sabotaje de la derecha europea en la lucha contra el cambio climático y la crisis de biodiversidad, no podemos dar ni un paso atrás. Nos jugamos nuestro futuro, la sostenibilidad de nuestros agricultores y pescadores, la competitividad de nuestras empresas y la salud de nuestros ciudadanos. En tercer lugar, España promoverá una mayor justicia social y económica con el objetivo de garantizar que todos los avances y transiciones sean equitativas. Una Europa más fuerte y más competitiva debe traducirse en una Europa más justa, más solidaria y más inclusiva. Es el momento de asegurar que existe en la UE una Directiva contra la violencia de género, de terminar con la precariedad de los jóvenes en prácticas y de mejorar las condiciones de los trabajadores de las plataformas digitales. Por supuesto, parar lograr una Europa más justa debemos abordar también la evasión fiscal de las grandes multinacionales, garantizando la correcta aplicación del impuesto mínimo comunitario del 15% recién aprobado. Porque los que más ganan, más deben contribuir. Finalmente, la cuarta prioridad, reforzar la unidad europea, se ocupará de subrayar lo evidente a lo largo de nuestra historia. Y es que a la UE le va mejor y es más fuerte cuando responde unida. Así ha quedado demostrado con la compra conjunta de vacunas, con los fondos de recuperación Next Generation EU, con la acción decidida frente a la guerra de Putin, con la Ley del Clima... Este es el camino que debemos seguir también en materia de migración y asilo, bancos y capitales o ampliación del club comunitario. Para ello es clave avanzar en el debate sobre las reglas de votación. En otras palabras, España trabajará para pasar de la unanimidad a la mayoría cualificada en algunos ámbitos. El éxito de la Presidencia española será el éxito de todos los españoles y de toda Europa. Nuestra fuerza radica en nuestra unidad como bloque y el semestre español es la oportunidad para demostrar que España quiere y puede contribuir a una mejor Europa. Es nuestro momento, no lo dejemos pasar. Artículo completo disponible en larioja.com
Cuando en 2021, la Inteligencia Artificial no se veía como algo tan cercano como ahora, la Comisión ya planteó un proyecto para un marco legislativo que regulara lo que, en aquel momento, todavía parecía algo lejano. Dos años después, el Comité de Mercado Interior y el de Libertades Civiles de la Unión Europea (UE) aprobaron un proyecto de mandato de negociación para las primeras normas de la historia para la Inteligencia Artificial (IA), en el que se redefinen y armonizan las pautas incluidas en el texto ya existente del reglamento europeo sobre IA, incluyendo nuevas enmiendas con normas de transparencia y gestión de riesgo para los sistemas de la IA, que se establecieron en 2021. El proyecto de mandato ha salido adelante con 84 votos a favor, 7 en contra y 12 abstenciones; y desde el Parlamento se entiende que será el primer conjunto de leyes dedicadas a la regulación de la Inteligencia Artificial. César Luena, parlamentario riojano del grupo socialdemócrata, señaló el valor de la iniciativa porque «con esta propuesta de ley, la UE vuelve a ser pionera porque se adelanta al resto de potencias para garantizar que la IA contribuye al progreso económico y social de la mayoría. En otras palabras, que no se imponga para beneficio de unos pocos». Entre los próximos 12 y 15 de junio está previsto que el proyecto de mandato de negociación sea refrendado por todo el Parlamento Europeo, para pasar después a las negociaciones en el Consejo. En general, con las nuevas aportaciones hechas al texto antiguo, las normas establecen obligaciones tanto para proveedores como para usuarios, en función del nivel de riesgo que pueda generar la IA en determinadas situaciones. En base a ello, si se determina que el sistema de IA tiene un nivel «inaceptable» de riesgo para la seguridad de las personas, este queda «estrictamente prohibido». En este sentido, César Luena apunta a que «la Inteligencia Artificial supone una gran oportunidad si la aprovechamos de manera correcta, es decir, asegurando que está al servicio de los ciudadanos sin perjuicio de sus derechos y libertades». El político de Bobadilla añadió que «los socialdemócratas somos muy conscientes de esto y, por eso, defendemos que el modelo de regulación europea tenga una perspectiva humana que sirva de inspiración a nivel mundial» Este es el motivo, entre otros, por el que en el marco legislativo pendiente de aprobación de forma definitiva quedarían prohibidos sistemas de IA que utilicen técnicas subliminales, que lleven a cabo manipulación intencionada o que exploten vulnerabilidades de las personas. También quedarían prohibidos aquellos sistemas que se utilicen para el 'scoring' social, esto es, una clasificación de las personas en función de su comportamiento social o su estatus socioeconómico. Igualmente estaría prohibido segmentar a la ciudadanía en función de su raza, sexo, credo u orientación política. Tampoco las fuerzas de seguridad podrán utilizar sistemas policiales predictivos, que basan sus conocimientos de perfiles, localización o comportamientos delictivos anteriores de un usuario para predecir si volverá a cometer un acto ilegal. Puedes leer el artículo completo en el Diario La Rioja.
En La Ventana de Europa de la Cadena SER de La Rioja hablamos con el eurodiputado socialista riojano sobre cómo desde Europa se está tratando de regular la inteligencia artificial. El reglamento en el que se está trabajando propone una clasificación de la inteligencia artificial según los riesgos que tenga para la seguridad, para la salud o, incluso, para los derechos fundamentales. Esto significa que se establecerán obligaciones tanto para los proveedores, como para los usuarios. Así lo explica el eurodiputado socialista César Luena en los micrófonos de la SER. Garantizar la transparencia "Necesitamos reglas claras para garantizar la igualdad y la transparencia en el desarrollo y uso de la inteligencia artificial para que se someta a una evaluación exhaustiva de la discriminación posible, para contar con los requisitos de supervisión humana y la necesaria transparencia", insiste Luena. A día de hoy, los principales puntos incluidos por el Parlamento Europeo son, en primer lugar, la inclusión del social scoring, como sistema de inteligencia artificial prohibido. "Este sistema clasifica a las personas basándose en su estatus social y económico y eso lo queremos incluir como algo prohibido", explica el eurodiputado. También se propone ampliar la prohibición de la identificación biométrica, es decir, el reconocimiento facial y "no solamente para gobiernos o autoridades públicas, sino en el ámbito privado". Además, la incorporación de dos casos concretos de sistemas inteligencia artificial con un nivel alto de riesgo son los que pueden influir en los votantes, así que Luena insiste en "tener precaución en las campañas políticas y los sistemas de recomendación utilizado por las plataformas de redes sociales". Chat GTP En cuanto a Chat GTP el Parlamento Europeo pide requerimientos adicionales de transparencia para estas inteligencias artificiales generativas. En definitiva, César Luena insiste en que "inteligencia artificial sí, pero con una regulación". Entrevista completa disponible en Cadena Ser La Rioja.
La Unión Europea quiere velar por los derechos fundamentales de sus ciudadanos, también en Internet. Por ello está cimentando un nuevo marco normativo que proteja a los europeos, y tanto la Ley de Servicios Digitales como la Ley de Mercados Digitales son los dos primeros instrumentos de los que se quiere dotar. El europarlamentario riojano César Luena señala que «con este nuevo paquete regulador de los mercados y servicios digitales, Europa se convierte en pionera en la regulación del mundo 'on line' y, por tanto, de la protección a los usuarios europeos». «Su base, el principio de que lo que es ilegal 'off line' debe serlo 'on line', supone un gran avance en la defensa de nuestros derechos fundamentales», expone. [...] Luena apunta que «la desinformación es una amenaza directa para las democracias. Y su difusión se ha visto facilitada a través del mundo digital. Esta nueva Ley de Servicios Digitales se propone atajar el problema obligando a un mayor control por parte de las plataformas 'on line' sobre los contenidos ilegales, así como a la regulación de sus sistemas algorítmicos, las 'cookies' y la publicidad. Así, se garantiza más transparencia y más seguridad en nuestra navegación». El acuerdo político alcanzado entre el Parlamento y los Estados miembros sobre la Ley de Mercados Digitales supone la aceptación de una de las primeras iniciativas de este tipo encaminadas a regular globalmente el poder de guardianes de acceso de las mayores empresas digitales. La Ley de Mercados Digitales (cuyo acuerdo seguirá el mismo trámite que la Ley de Servicios Digitales) se aplicará a los guardianes de acceso, las empresas que crean cuellos de botella entre las firmas y los consumidores, y a veces incluso controlan ecosistemas enteros, compuestos por diferentes servicios de plataforma, como los mercados en línea, los sistemas operativos, los servicios en la nube o los motores de búsqueda en línea. Estos guardianes de acceso tendrán que atenerse a una serie de obligaciones y prohibiciones claramente definidas, que se establecen por referencia a las prácticas de mercado más desleales, o a las prácticas que crean o refuerzan barreras. En opinión de Luena, «las nuevas normas incluidas en la Ley de Mercados Digitales permitirán una competición más leal y justa en la UE, limitando ciertas prácticas monopolísticas de las grandes plataformas 'on line'». Y agrega: «De esta manera, se posibilita el crecimiento y la innovación de las nuevas empresas tecnológicas más pequeñas, lo que se traduce a su vez en más opciones para los usuarios europeos». Artículo disponible en www.larioja.com
Los algoritmos pueden cambiar el mundo. Un hecho que parece tan ajeno y lejano es ya una realidad en muchos ámbitos de nuestra vida cotidiana, desde las recomendaciones personalizadas que recibimos en nuestros dispositivos electrónicos hasta el comercio de acciones. Por la importancia que revisten hoy y revestirán mañana, la Comisión Europea ha propuesto un Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial. César Luena, diputado riojano en Bruselas, es el responsable de los socialistas europeos, dentro de la Comisión de Medioambiente de la Eurocámara, de seguir el dosier. "Tenemos que ser conscientes de que la inteligencia artificial tiene un fuerte potencial de impacto ambiental a través de dos vías. [Por un lado] puede contribuir a resolver problemas ambientales (cambio climático, balancear oferta y demanda en redes eléctricas, optimizar rutas logísticas...). Pero tiene también un impacto negativo: la huella medioambiental, esto es, el propio consumo del diseño, entrenamiento y ejecución de los algoritmos", ha dicho esta tarde durante el intercambio de puntos de vista con la ponente del informe en comisión parlamentaria. Además, Luena ha participado también en un debate con el Servicio Europeo de Acción Exterior (SEAE) sobre el compromiso y papel de la Unión en el Ártico, "un espacio donde se cruzan muchísimos intereses y una región amenazada por el cambio climático". [...] Artículo disponible en www.europapress.es
El eurodiputado riojano César Luena ha sido nombrado responsable en los socialistas europeos de la opinión de la Comisión de Medioambiente sobre el informe de la comisión jurídica sobre los aspectos éticos de la inteligencia artificial, la robótica y las tecnologías relacionadas. La comisión responsable de dicho informe es JURI (asuntos jurídicos) y esta se enmarca dentro de la política de la Unión Europea sobre inteligencia artificial que el Parlamento Europeo quiere promover. La Comisión de Medioambiente tiene que verter su opinión en el informe y Luena será el responsable de los socialdemócratas europeos para seguir el desarrollo de la misma. Artículo publicado en www.nuevecuatrouno.com.
Puedes encontrar aquí un extracto de mis actividades parlamentarias, con las principales reuniones y acontecimientos.
Descubre qué está pasando en Europa y cuál es mi trabajo como diputado al Parlamento Europeo.
Todas las propuestas del PSOE y del Partido Socialista Europeo para las elecciones del 23-26 de mayo de 2019.