Cuando en 2021, la Inteligencia Artificial no se veía como algo tan cercano como ahora, la Comisión ya planteó un proyecto para un marco legislativo que regulara lo que, en aquel momento, todavía parecía algo lejano. Dos años después, el Comité de Mercado Interior y el de Libertades Civiles de la Unión Europea (UE) aprobaron un proyecto de mandato de negociación para las primeras normas de la historia para la Inteligencia Artificial (IA), en el que se redefinen y armonizan las pautas incluidas en el texto ya existente del reglamento europeo sobre IA, incluyendo nuevas enmiendas con normas de transparencia y gestión de riesgo para los sistemas de la IA, que se establecieron en 2021.

El proyecto de mandato ha salido adelante con 84 votos a favor, 7 en contra y 12 abstenciones; y desde el Parlamento se entiende que será el primer conjunto de leyes dedicadas a la regulación de la Inteligencia Artificial.

César Luena, parlamentario riojano del grupo socialdemócrata, señaló el valor de la iniciativa porque «con esta propuesta de ley, la UE vuelve a ser pionera porque se adelanta al resto de potencias para garantizar que la IA contribuye al progreso económico y social de la mayoría. En otras palabras, que no se imponga para beneficio de unos pocos».

Entre los próximos 12 y 15 de junio está previsto que el proyecto de mandato de negociación sea refrendado por todo el Parlamento Europeo, para pasar después a las negociaciones en el Consejo.

En general, con las nuevas aportaciones hechas al texto antiguo, las normas establecen obligaciones tanto para proveedores como para usuarios, en función del nivel de riesgo que pueda generar la IA en determinadas situaciones. En base a ello, si se determina que el sistema de IA tiene un nivel «inaceptable» de riesgo para la seguridad de las personas, este queda «estrictamente prohibido». En este sentido, César Luena apunta a que «la Inteligencia Artificial supone una gran oportunidad si la aprovechamos de manera correcta, es decir, asegurando que está al servicio de los ciudadanos sin perjuicio de sus derechos y libertades».

El político de Bobadilla añadió que «los socialdemócratas somos muy conscientes de esto y, por eso, defendemos que el modelo de regulación europea tenga una perspectiva humana que sirva de inspiración a nivel mundial»

Este es el motivo, entre otros, por el que en el marco legislativo pendiente de aprobación de forma definitiva quedarían prohibidos sistemas de IA que utilicen técnicas subliminales, que lleven a cabo manipulación intencionada o que exploten vulnerabilidades de las personas. También quedarían prohibidos aquellos sistemas que se utilicen para el 'scoring' social, esto es, una clasificación de las personas en función de su comportamiento social o su estatus socioeconómico.

Igualmente estaría prohibido segmentar a la ciudadanía en función de su raza, sexo, credo u orientación política.

Tampoco las fuerzas de seguridad podrán utilizar sistemas policiales predictivos, que basan sus conocimientos de perfiles, localización o comportamientos delictivos anteriores de un usuario para predecir si volverá a cometer un acto ilegal.

Puedes leer el artículo completo en el Diario La Rioja.