Transparencia en España

Anticipándonos a su inminente publicación, hemos iniciado en nuestro blog un recorrido por las distintas cuestiones que aborda el Reglamento de Inteligencia Artificial de la Unión Europea.
De hecho, esta normativa europea es la primera en el mundo en intentar una regulación exhaustiva del uso de la IA y probablemente servirá de modelo para otros países que decidan seguir el ejemplo y adoptar una normativa integral para gestionar el desarrollo y el uso de la Inteligencia Artificial.

Si buscamos una definición oficial de IA, debemos quedarnos con la última propuesta de la OCDE (28 de noviembre de 2023), una vez superada la imprecisión del inciso “sistemas de software diseñados por seres humanos”, que nació prácticamente obsoleta en previsión de que dichos sistemas sean diseñados por las máquinas y no por las personas. En definitiva; “Un sistema de IA es un sistema basado en máquinas que, para un conjunto dado de objetivos explícitos o implícitos definidos por el ser humano, infiere, a partir de la entrada que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos reales o virtuales. Los diferentes sistemas de IA varían en sus niveles de autonomía y adaptabilidad después del despliegue”. La IA utiliza algoritmos preprogramados, que, en una fase más avanzada, son incluso capaces de aprender solos, pero para ello necesita una materia prima llamada datos, unos inputs con los que trabaja y que finalmente le permiten llegar a esos resultados en forma de soluciones y conclusiones.  Veamos qué son.

Un alto porcentaje de los textos administrativos son difíciles de entender, y al igual ocurre con muchos de otros ámbitos como los legales y los médicos. Para ayudar a la comprensión de esos textos se están desarrollando herramientas que permiten escribirlos en un lenguaje claro, y otros que permiten una lectura fácil para que ellas personas que tengan algún tipo de dificultad a la hora de entender esos y otros textos. Sobre estas herramientas han hablado Antonio Martín, socio gerente de Cálamo & Cran, y Sara Pistola, investigadora postdoctoral de la UNED, en el curso de verano de la UCM en San Lorenzo de El Escorial, “Avances en tecnologías del lenguaje para la sociedad del siglo XXI”.

Llegó el momento. Hoy viernes 12 de julio, por fin se publica en el DOUE el Reglamento Europeo de Inteligencia Artificial #IA (AIAct), cuyo nombre completo es Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) n.° 300/2008, (UE) n.° 167/2013, (UE) n.° 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828. En Nosoloaytos hemos aprovechado para entrevistar al experto Juan Carlos García Melián, abusando de su generosidad y conocimientos al máximo, en un diálogo en el que nos da las claves de la nueva norma, y todavía nos da tiempo de hablar de IA generativa, contratación pública y algunos temas más. Adjuntamos además el texto íntegro del Reglamento publicado (acceso libre), para facilitar su lectura.
Así pues, vamos con lo que dio de sí esta interesante entrevista. NOTA: las fantásticas infografías que ilustran el texto son de la autoría del entrevistado, quien amablemente las ha querido compartir. Gracias por permitirnos incorporar un contenido de tanta calidad.

⚠️  Minar criptomonedas con la infraestructura del Ministerio para la Transición Ecológica.
⚠️ Perpetrar delitos basados en ingeniería social, como el chantaje (blackmail) o la suplantación de identidad (phishing).
⚠️ Atentar contra la seguridad pública y la seguridad nacional. 
⚠️ Conocer el nivel de renta de los solicitantes de ayudas y otros datos personales comprometidos, y modificarlos con propósitos ilícitos. 
⚠️ Vulnerar los derechos de propiedad intelectual de la Administración.
⚠️ Abusar injustificadamente de la Ley de Transparencia, quebrantando prácticamente TODOS sus límites...

🛑 La Audiencia Nacional da por ciertos esos motivos para denegarnos de nuevo el derecho a consultar el código fuente de la aplicación informática que determina quién es consumidor vulnerable y, por tanto, quién recibe descuentos en su factura de la luz, lo que se conoce como bono social. Y que demostramos que estaba mal diseñado y denegaba la ayuda a personas que cumplían los requisitos.

Las prácticas anticompetitivas también afectan a la contratación pública. Y en la lucha contra el fraude ahora puede ser de utilidad la IA, un hito por el que la CNMC ha sido reconocida en los Premios Socinfo Digital “IA en las AAPP”.

La CNMC ha sido galardonada por la Revista Sociedad de la Información Digital en la categoría Premio IA para la detección del fraude y corrupción por su proyecto BRAVA, una herramienta de IA para la detección de la manipulación de licitaciones públicas.

¿Qué es BRAVA?

BRAVA (Bid Rigging Algorithm for Vigilance in Antitrust en sus siglas en inglés) es un modelo que, mediante herramientas de inteligencia artificial, clasifica las ofertas presentadas por las empresas a una licitación como potencialmente colusorias o como competitivas.

Aunque no es una tendencia nueva en absoluto, parece que este año proliferan los planes de reforma de la Administración, donde de momento destacan el de transformación de la AGE (aún en periodo de consulta) y el de Andalucía Simplifica (más avanzado), a los que ahora se añade el nuevo Plan Simplifica de la Generalitat Valenciana.

“La única manera de asegurarse de que no pierda su trabajo con la llegada de la IA, es hacer algo que la IA no puede hacer, y lo único que la inteligencia artificial no puede hacer, pero un humano puede, es ser original. Por lo tanto, puedes hacer algo original y ninguna IA puede reemplazarte”.
(Abhijit Naskar)

Salvaguardias sobre la inteligencia artificial de uso general
Límites al uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad
Prohibición de la puntuación ciudadana y la IA usada para manipular o explotar las vulnerabilidades de los usuarios
Derecho de los consumidores a presentar reclamaciones y recibir explicaciones

Es fácil torcer el gesto la primera vez que se escucha alguna propuesta como otorgar personalidad jurídica a una laguna, o a los robots. No en vano, parece una ruptura evidente de los dogmas elementales que sostienen el sistema jurídico privado. Una idea más próxima al anatema que a la consideración. Y, sin embargo, si se considera la posibilidad de otorgar personalidad jurídica a nuevos entes no humanos, algunas conclusiones pueden sorprender a esa impresión inicial. No sólo porque no sea tan obvia la ruptura con todo el clasicismo civilista, sino porque ya pasamos antes por algo parecido.

Un mito falso de la IA es que los algoritmos toman decisiones que deberían tomar las personas. Vaya por delante que los algoritmos son instrumentos al servicio de la IA, no la IA en sí. Ciertamente forman parte del proceso de toma de decisiones, pero no las toman porque no tienen capacidad decisoria ni, aunque llegaran a desarrollarla, tampoco la tienen atribuida por el ordenamiento jurídico. Se define algoritmo como un un «conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución de un tipo de problemas». Es un término que procede claramente del mundo de las matemáticas, y que se puede extrapolar fácilmente a la informática debido a que dichos cálculos en la actualidad son objeto de programación. Y como todo instrumento, sirve a un fin. Cualquier inteligencia artificial maneja unos cuantos algoritmos de forma simultánea, de manera que estos se convierten en una máquina nueva, un sistema programado que maneja datos, los filtra a través de dicha programación algorítmica, y finalmente arroja unos resultados lógicos y siempre idénticos para idénticas situaciones, por lo que en principio no sería discriminatorio. Y ahí para, porque ni «quiere» ni debe decidir.

El Govern ha aprobado la creación de una Comisión de Inteligencia artificial y la adopción de determinadas medidas en materia de inteligencia Artificial (IA), acciones impulsadas desde el Departamento de la Presidencia, a través de la Secretaría de Telecomunicaciones y Transformación Digital. Este acuerdo dotará a la Administración de la Generalitat y su sector público de un marco organizativo transversal para coordinar los diferentes ámbitos donde debe aplicarse la IA en la prestación de los servicios públicos, se enmarca en la estrategia de IA de la Unión Europea y da continuidad a la Estrategia de IA CATALONIA.AI, que se puso en marcha en 2020.

En el año de las elecciones europeas, la tecnología puede ser una aliada para que los políticos mejoren su comunicación con los ciudadanos y les hagan partícipes de su trabajo en las instituciones gracias a herramientas que utilizan la inteligencia artificial generativa, como AccTool, impulsada por una eurodiputada española.

El primer edil jienense agradece “la buena disposición al apoyar este proyecto con el que el Ayuntamiento alicantino ha demostrado ser un referente a nivel nacional que supone un gran paso para nuestra administración local”
Alicante, 5 de marzo de 2024. El alcalde de Alicante, Luis Barcala, ha firmado este martes un convenio de colaboración con el alcalde de Jaén, José Agustín González, para cederles el uso de la tecnología de inteligencia artificial y la metodología que va a facilitar la implantación en su ciudad de un asistente virtual como el del Ayuntamiento de Alicante que se va a denominar ‘EA’ con el objetivo de favorecer una atención ciudadana más avanzada.

El EIAC (Observatorio de Ética en Inteligencia Artificial de Cataluña), que tiene como objetivo principal estudiar las consecuencias éticas, sociales y legales, así como los riesgos y oportunidades de la implantación de la Inteligencia Artificial en la vida diaria en Cataluña, presenta el modelo de autoevaluación PIO (Principios, indicadores y observables) para avanzar en la evaluación ética de datos y sistemas de inteligencia artificial a través de un formulario de verificación o checklist. 
Los principales objetivos del PIO son:
sensibilizar a los diferentes agentes que utilizan datos y sistemas de inteligencia artificial sobre la importancia de adoptar principios éticos fundamentales para minimizar riesgos conocidos y desconocidos y maximizar oportunidades .
identificar acciones adecuadas o inadecuadas a través de la propuesta de autoevaluación para valorizar, recomendar y avanzar en el uso ético de datos y sistemas de inteligencia artificial.

El área de Fondos Europeos, Administración Electrónica e Innovación de la Diputación de Valencia liderará la integración de la inteligencia artificial en la institución provincial para "mejorar procesos, simplificar trámites" y ofrecer "una mejor atención a la ciudadanía".
El diputado Juan Ramón Adsuara ha indicado que el personal técnico del área de Informática "ya está analizando los puntos clave susceptibles de ser mejorados con soluciones a medida" y ha aclarado que se trata "siempre de inteligencia artificial generativa, es decir, aquella que es capaz de generar de contenido original a partir de nuestras necesidades concretas".