Transparencia en España

La vicepresidenta segunda del Gobierno y ministra de Trabajo y Economía Social, Yolanda Díaz, ha firmado con la secretaria de Trabajo de Estados Unidos (EE.UU.), Julie Su, una declaración sobre transparencia algorítmica en el mundo del trabajo para combatir el sesgo algorítmico en este ámbito y colocar los derechos laborales "en el centro del debate democrático".
"Los algoritmos no son neutros, tienen sesgos", ha recalcado la titular de Trabajo, que ha señalado que la utilización de los algoritmos en el mundo del trabajo es el "debate del momento" y "no el del futuro".

En la nave de los misterios de esta semana, Eva Belmonte nos lleva hasta aquellos algoritmos que se usan para tomar decisiones que nos afectan. Hoy descubrimos BOSCO, el programa que determina si una persona tiene derecho al bono social, el descuento en la factura de la luz para personas vulnerables. 

La transparencia algorítmica es un tema de creciente importancia en nuestra sociedad, ya que algoritmos de inteligencia artificial (IA) se utilizan cada vez más para tomar decisiones que afectan a la vida de las personas.
Para garantizar la transparencia algorítmica, es imprescindible que los algoritmos de IA puedan ser entendidos por las personas que los utilizan y afectan, a fin de que puedan comprender cómo se ha llegado a una determinada decisión y por qué se toma esta decisión; así como que los algoritmos puedan revisarse para detectar errores o prejuicios involuntarios y mejorar su precisión.
La transparencia es, pues, un requisito esencial para conseguir y mantener la confianza de los usuarios en los sistemas de IA, y una cuestión crucial para promover un desarrollo y uso responsable, seguro y justo de esta tecnología hacia la sociedad.

¿Han sido auditados? ¿Están discriminando a algún colectivo? ¿Cumplirían con la futura regulación europea de inteligencia artificial? Analizamos las principales dudas
Reportaje publicado originalmente en El Confidencial. El texto es parte de una serie de cuatro artículos fruto de la investigación ‘Spain’s AI doctor’, producida conjuntamente con Lighthouse Reports.

La propuesta de la UE exige a sistemas como el ChatGPT transparencia en los datos e identificación de las fuentes
El Parlamento Europeo acaba de poner las bases para la regulación de la inteligencia artificial apenas unos meses después de la comercialización masiva del ChatGPT, cuando Google acaba de lanzar su propio chatbot Bard y dos años después del empujón inicial de la Comisión Europea. No toda la ingente inteligencia artificial requiere una regulación específica porque es una tecnología integrada ya de forma natural en la vida cotidiana: el algoritmo que detecta el spam o los videojuegos son también IA, y multitud de las gestiones que realizamos a diario con el móvil en la mano las hacemos con su ayuda.

Autor: Pablo Jiménez Arandia
1a edició: gener de 2023
El volum 9 de la col·lecció Govern Obert està dedicat a un tema força innovador: la transparència, l'explicabilitat i la replicabilitat dels sistemes de presa de decisions automatitzades que existeixen a les administracions.
Al llarg d'aquesta publicació veurem com l'automatització de processos en l'Administració pública afecta tota mena d'àrees, i ho fa de maneres molt diverses. L'ús de "sistemes de decisió automatitzada" (coneguts per la sigla ADMS, de l’anglès automated decision-making systems) al sector públic pot ajudar a millorar els serveis públics, però, com s'explica amb alguns exemples, també pot generar situacions injustes, o amplificar problemes ja existents en la societat, com el racisme o la discriminació cap a certs grups.

Los algoritmos intervienen en nuestra vida digital, desde las recomendaciones que nos aparecen en las redes sociales, en Netflix o en Spotify, hasta otros procesos de los que no somos tan conscientes, como la concesión de créditos bancarios o la selección para un puesto de trabajo. Para entender cómo funcionan y cómo nos afectan es necesario que sean transparentes. Por eso, acaba de inaugurarse el Centro Europeo de Transparencia Algorítmica (ECAT) en Sevilla, un centro de la Comisión Europea que va a velar por la transparencia para que las grandes plataformas tecnológicas cumplan la directiva europea de servicios digitales (DSA).

Debemos comenzar con una pregunta: ¿es necesario apostar por la transparencia algorítmica? La respuesta parece ser sencilla: sí. No se trata, naturalmente de una toma de posición sin fundamento, sino que es, en nuestra opinión, el corolario de un análisis más complejo. En este sentido, proponemos cinco ideas que esperamos permitan entender la importancia y el alcance que tiene la transparencia en el ámbito de los sistemas algorítmicos y de inteligencia artificial (IA). En este espacio nos dedicaremos al ámbito del sector público. Distinto podría ser el caso del sector privado. Vale la pena recordar que la Administración Pública debe velar y garantizar el interés público sometiéndose a las obligaciones que impone la Ley y desde luego la Constitución Española. Así, todo parece apuntar que a la Administración Pública se le requiere un plus de rigor y, naturalmente, como al sector privado, actuaciones que no vulneren los Derechos fundamentales de las personas.

Algoritmos públicos abiertos y que no discriminen

Tras el éxito de ChatGPT, lo que estamos viendo ahora es una auténtica explosión cámbrica de compañías proponiendo algoritmos de todo tipo, para cualquier cosa que se nos ocurra, con abundante financiación para todas ellas. Solo esta semana, más de doscientas.
Mientras, algunos tratan de desbloquear esos algoritmos para que eludan las restricciones que tienen programadas y entender sus sesgos y condicionantes, señalando la enorme importancia de que este tipo de herramientas sean de código abierto para que podamos manejarlas con un mínimo de discernimiento: por mucho que Microsoft pretenda que ChatGPT-4 muestra atisbos de inteligencia artificial general o AGI, un algoritmo no «piensa por sí mismo», es fruto de aquello con lo que está entrenado, lo que conlleva que podamos fácilmente crearlo con algún tipo de agenda detrás. Así, los conservadores norteamericanos acusan a ChatGPT de ser claramente progresista, y tratan de construir sus propios chatbots que contesten aquello que a ellos les gusta.

Cada vez es más habitual el uso de algoritmos y sistemas de inteligencia artificial para la toma de decisiones. La Administración pública, también recurre a ellos, pero ¿es transparente en la aplicación de estas tecnologías que tienen gran impacto en la vida de los ciudadanos?

Sevilla ha sido la elegida para albergar el primer Centro Europeo para la Transparencia Algorítmica (ECAT). La Comisión Europea ha considerado que la capital andaluza es la ubicación idónea para supervisar las plataformas digitales y que sus algoritmos cumplan con las normativas establecidas.
El centro estará ubicado en la Cartuja, en el emplazamiento donde ahora mismo se encuentra el Joint Research Center (JRC). El plan previsto es que el nuevo centro entre en funcionamiento a principios de 2023 y contará con más de una veintena de profesionales del sector.
El proceso de selección de personal ya se ha iniciado y está previsto que se convoquen 20 plazas, para especializados en informática, Big Data, IA y auditoría algorítmica. Estos expertos se unirán a la casi docena de investigadores que actualmente se encuentran trabajando en el JRC y están colaborando a establecer el nuevo centro.

Adigital, la Asociación Española de la Economía Digital que engloba a más de 525 compañías, lanzará en España la prueba piloto de un certificado de transparencia algorítmica para empresas. Si la prueba tiene éxito, se convertirá en un referente para el resto de Europa, al momento de implementar la normativa de transparencia algorítmica.
Esta iniciativa tiene lugar seis meses después de haberse creado el reglamento sobre la inteligencia artificial. Una de las tecnologías que más está evolucionando, pero que es muy cuestionada en cuanto al riesgo de que las empresas hagan un uso poco ético de la misma.

La nueva ley de Transparencia valenciana incorpora una cláusula pionera en España para que la ciudadanía conozca cómo operan los algoritmos, sistemas de inteligencia artificial o modelos automatizados que tienen impacto en la toma de decisiones
Laura Martínez
Las Administraciones Públicas caminan hacia un escenario en el que las fórmulas automatizadas hagan más eficiente su trabajo. La Agencia Tributaria, la Policía Nacional, el sistema de protección a las víctimas de violencia machista (Viogen), Sanidad o la Seguridad Social utilizan sistemas automatizados, inteligencia artificial o fórmulas algorítmicas que influyen en la toma de decisiones públicas, pero muchos no son conocidos.

Más o menos todos tenemos asumido que el algoritmo de Netflix nos lance las recomendaciones de contenidos a consumir en función de parámetros como los que hemos visto anteriormente o el horario al que solemos hacerlo. Hasta aquí vale, pero ¿qué sucede cuando es un algoritmo el que determina si eres apto o no para un empleo; o si decide la prioridad para ser atendido en un centro sanitario en función de los ingresos que puedas generar dependiendo de si padeces una patología crónica o se trata de una simple urgencia?

Deberíamos empezar por poner encima de la mesa la necesidad de dar publicidad a la relación de algoritmos que se utilizan en la gestión pública, en qué procesos operan o cuáles son sus reglas esenciales

La vicepresidenta segunda y ministra de Trabajo, Yolanda Díaz, ha presentado este viernes la 'Guía práctica y herramienta sobre el uso de algoritmos en el ámbito laboral', un documento en el que ha encontrado "retos muy importantes" y que pretende impulsar la transparencia en la aplicación de estas fórmulas.
El documento permitirá a los trabajadores y a las empresas cumplir con la obligación de información algorítmica y garantizar el derecho fundamental a la no discriminación con el uso de los algoritmos.
La Guía presentada consta de cuatro epígrafes articulados en información general, información sobre la lógica y funcionamiento, información sobre las consecuencias y otra información relevante.

La institución cambia de postura y contradice a la Abogacía del Estado, quien presentó en su nombre una oposición al recurso de Civio a la última sentencia en contra.
Giro de guión en nuestro litigio sobre la transparencia del código fuente. El pasado mes de febrero Civio presentó su recurso de apelación contra la sentencia que nos denegó el acceso al código fuente de BOSCO. Esta aplicación, desarrollada por el Gobierno, es la que usan las empresas eléctricas para determinar si un usuario en situación de vulnerabilidad, de acuerdo con la normativa, puede beneficiarse de descuentos en su factura de luz. La pelota pasó entonces al tejado de las otras partes involucradas, el Ministerio para la Transición Ecológica y el Consejo de Transparencia, ambas representadas por la Abogacía del Estado y que, durante todo este proceso, se han opuesto a que nos den el código. Y algo se ha movido en el lado del Consejo.

Autor: Manuel Medina Guerrero Universidad de Sevilla
DOI: https://doi.org/10.5944/trc.49.2022.33847
Resumen
El objetivo del trabajo reside en analizar si el derecho fundamental a la protección de datos personales consagrado en el art. 18.4 CE comprende el derecho a acceder a los algoritmos utilizados en la toma de decisiones. El artículo se centra especialmente en las obligaciones de información que el Reglamento General de Protección de Datos impone al responsable del tratamiento, que han suscitado la muy debatida cuestión acerca de si el Reglamento atribuye a los afectados el derecho a obtener una explicación sobre la decisión automatizada.

La Oficina Antifraude de Cataluña y la Autoridad Catalana de la Competencia celebrarán, el próximo miércoles 18 de mayo, de 12 a 13:30 h, la mesa redonda “Algoritmos para mejorar el control de la contratación pública”. El acto forma parte de la Semana del Gobierno Abierto, #OpenGovWeek, que se celebra del 16 al 21 de mayo impulsada por la organización internacional Open Government Partnership (OGP), de la que Cataluña es miembro.

La mesa redonda estará formada por el técnico de la Dirección General de la ACCO, Quim Beltran; el inspector de servicios y responsable del proyecto SALER de la Generalidad Valenciana, Pedro Giménez; y el jefe del Área de Análisis de datos de la Oficina Antifraude de Cataluña, Bruno González. Moderará la mesa la jefa de Relaciones Institucionales de Antifrau, Lourdes Parramon.

IX Congreso del avance del Gobierno Abierto
V Congreso de Buen gobierno y transparencia de la Comunitat Valenciana

Organizan Universitat de València, Generalitat Valenciana y Red Derecho TICs

martes 26 (tarde)-miércoles 27 (mañana) de abril 2022
Sala del hemiciclo Joaquín Tomás Villarroya (1p20) Departamento de Derecho Constitucional, Facultad de Derecho. Universitat de València (Av. Naranjos s/n) indicaciones y planos https://goo.gl/JYSjaS
Dirección: L. Cotino, A. Boix, J. Castellanos
Secretaría: Adrián Palma y Andrea Kruithof

• Programa [descarga aquí]

Como sabes, tenemos un litigio abierto para conocer el código fuente de BOSCO, la aplicación informática desarrollada por el Gobierno y que utilizan las eléctricas para saber si un usuario cumple los requisitos para recibir descuentos en su factura de la luz. Los tribunales nos han denegado en primera instancia el acceso a dicho código, y condenado a pagar las costas. Por supuesto, hemos recurrido.
¿Debemos confiar en ellos a ojos ciegos? ¿O deberíamos poder conocerlos y auditarlos, como al resto de códigos y normas que rigen sobre nuestras vidas?
Dentro de las actividades por el 10º aniversario de Civio, celebramos una sesión online con Javier de la Cueva (abogado y patrono) y David Cabo, codirector de Civio sobre esta cuestión. Y además, llevada a la práctica.
Aquí puedes ver el vídeo.

El Juzgado Central de lo Contencioso-Administrativo desestima el recurso de Civio en el que reclamaba acceso al programa que otorga esta ayuda
Civio
10 febrero 2022
Un peligro para la seguridad pública. Este es el principal argumento del Juzgado Central de lo Contencioso Administrativo número 8 para denegar a Civio el acceso al código fuente de BOSCO, una aplicación desarrollada por el Gobierno y que utilizan las eléctricas para saber si un usuario, en situación de vulnerabilidad, puede recibir descuentos en su factura de la luz.
¿Cómo hemos llegado hasta aquí?
En 2019, Civio demostró que BOSCO tenía fallos y denegaba el bono social a personas que tenían derecho recibirlo. Lo hicimos tras recibir decenas de avisos de personas afectadas y pedir, al amparo de la Ley de Transparencia, su especificación técnica, los resultados de las pruebas de comprobación de la aplicación y su código fuente. El Consejo de Transparencia hizo que el Gobierno, contrario–, nos entregase parte de la documentación. Eso sí, el CTBG no respaldó la difusión del código fuente. Y por eso lo llevamos a juicio. Esta es la primera sentencia: desestimatoria y con una condena en costas de 2.000€.