Algoritmos y transparencia

A medida que la inteligencia artificial se instala en nuestras vidas y en nuestras búsquedas de productos o servicios debemos empezar a plantearnos algunas cuestiones interesantes. Ya hablamos en su momento en este blog de los precios que se adaptan no tanto a las leyes de la oferta y la demanda sino sencillamente a las posibilidades de pago del cliente y sobre todo a las necesidades y a la urgencia que tiene en su adquisición. De ahí que debamos empezar a preocuparnos de en qué medida es posible regular estos fenómenos y como proteger a los consumidores en este ámbito.

Pues bien, hace unos meses la Fundación CIVIO perdió –por ahora puesto que ha recurrido en vía contencioso-administrativa a los órganos judiciales- una primera batalla por la transparencia de los algoritmos cuando solicitó los documentos técnicos y el código fuente del programa (denominado BOSCO) que utilizan las empresas eléctricas para determinar quienes pueden ser beneficiarios del denominado bono social eléctrico, después de detectar quejas de personas que supuestamente tenían derecho a esta ayuda pero a quienes les había sido denegada. La solicitud de acceso de información en concreto de CIVIO se refería al  resultado de las pruebas realizadas para comprobar que la aplicación implementada cumple la especificación funciona, al código fuente de la aplicación actualmente en producción y cualquier otro entregable que permitiera conocer el funcionamiento de la aplicación. Frente a la desestimación por silencio administrativo del Ministerio CIVIO acudió al Consejo de Transparencia y Buen Gobierno quien estimó parcialmente su reclamación pero sin concederle el acceso al código fuente.

Recordemos que  el bono social se regula en el Real Decreto 897/2017  (desarrollado por la Orden ETU/943/2017) que aplica una tarifa eléctrica reducida a consumidores vulnerables. Pues bien, es el programa que gestionan estas empresas privadas el que determina si los consumidores con los que contratan tienen o no derecho a este beneficio. En definitiva, decide sobre la concesión del bono social un algoritmo que aplica una empresa privada pero que es propiedad de la Administración.  Pero conceder el bono social no es una decisión discrecional de dicha empresa: la norma prevé en qué supuestos el consumidor tiene derecho a dicha bonificación así como la forma de solicitarlo. Además la información sobre el consumidor se la proporciona a la empresa privada la propia Administración. Por tanto, no hay margen para que la empresa deniegue el bono a alguien que reúna los requisitos reglamentarios.   

La pregunta entonces es ¿lo está haciendo bien el programa?  A juicio de las quejas recibidas por CIVIO de usuarios que sí reúnen los requisitos y no reciben el bono la contestación parece negativa, al menos en algunos supuestos. Y si no lo está haciendo bien  cabe preguntarse ¿Cuál es la causa? ¿Quien es el propietario del algoritmo? ¿De quien es la responsabilidad? ¿Quien supervisa el programa? Preguntas más que pertinentes cuando se trata de derechos de los consumidores y usuarios y particularmente de los más vulnerables.

Parece por tanto que la solicitud de transparencia de la Fundación CIVIO estaba más que justificada. No podemos permitir que se tomen este tipo de decisiones desestimatorias de beneficios aprobados por el Gobierno en favor de determinados colectivos sin conocer cómo se llega a ellas, por muy automatizadas que estén. Lo contrario supondría una enorme indefensión y a la par un enorme riesgo de arbitrariedad dado que el usuario tendría derechos en teoría que, en la práctica, no puede ejercitar porque un algoritmo de una empresa privada no le deja. Lo mínimo que debemos exigir es conocer cómo funciona  y como adopta decisiones que, insistimos, son de enorme relevancia para personas en situación o riesgo de pobreza energética.

Parece también obvio que el derecho  a una buena administración reconocido en el art. 41 de la Carta de derechos fundamentales de la Unión europea (y que ya empiezan a utilizar nuestros tribunales de Justicia) ampara igualmente esta pretensión, aunque en este caso el beneficio se tramite por una empresa privada y no directamente por la propia Administración.  Efectivamente recordemos que este derecho incluye el derecho de los ciudadanos a ser oídos antes de que se tome en contra suya una medida individual que le afecte desfavorablemente, el derecho a acceder al expediente  dual desfavorable  (dentro del respeto de los intereses legítimos de la confidencialidad y del secreto profesional y comercial) y el derecho a que las decisiones de las instituciones sean motivadas. Este principio o paradigma, como bien manifiesta el profesor Juli  Ponce  ofrece «la posibilidad de reacción jurídica contra la mala administración (culposa o dolosa)   tratándose de un concepto jurídico indeterminado que por tanto solo permite una única solución en cada caso concreto.

Pues bien, a mi juicio para que este principio puede aplicarse en casos de utilización de inteligencia artificial es imprescindible que se cuente con la debida información sobre su funcionamiento, pues si no, en la práctica no será posible saber no ya si la solución adoptada es justa o adecuada a la norma sino algo más sencillo: porqué la solución adoptada no es justa o no se adecua a la norma. Porque efectivamente en el caso que nos ocupa para determinar si una persona tiene derecho o no al bono eléctrico no es imprescindible (aunque sí ciertamente más cómodo y más rápido) usar un algoritmo.

También hay que tener en cuenta lo dispuesto en el capítulo V (los arts. 38 y ss) de la Ley 40/2015 de Régimen Jurídico del sector público se refiere al funcionamiento electrónico del sector público y que su art. 41 en particular regula lo que denomina “actuación administrativa automatizada” en los siguientes términos: ”1. Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público. 2. En caso de actuación administrativa automatizada deberá establecerse previamente el órgano u órganos competentes, según los casos, para la definición de las especificaciones, programación, mantenimiento, supervisión y control de calidad y, en su caso, auditoría del sistema de información y de su código fuente. Asimismo, se indicará el órgano que debe ser considerado responsable a efectos de impugnación.”

Cierto es que en este caso no estamos en presencia en puridad de una actuación administrativa, dado que son las empresas privadas las que utilizan el programa (que es de titularidad pública) y realizan el cálculo correspondiente; pero no lo es menos que estamos hablando de la aplicación de una norma que concede a los usuarios de estas empresas un derecho que éstas deben garantizar precisamente comprobando la realidad de los requisitos que alegan los usuarios para que se les bonifique. Es de este programa del que hablamos. En estos términos, parece un tanto excesivo que el Consejo de Transparencia deniegue el acceso al código fuente en base a la existencia del límite previsto en el art. 14 j) de la Ley 19/2013 de 9 de diciembre referente a la propiedad intelectual de los programas informáticos. Aquí no se trata de proteger la propiedad intelectual de un programa –más allá de las disquisiciones que realiza el CTBG acerca de si el software puede o no estar protegido por el derecho de autor como obra literaria- para que nadie lo copie o lo plagie. Se trata sencillamente de determinar qué es lo que puede estar funcionando mal en la configuración técnica del mismo para que se esté denegando una ayuda a gente que sí reúne los requisitos para acceder a ella.  En todo caso, parece en este caso el test del daño y el test del interés público que siempre hay que realizar cuando se pretende aplicar uno de los límites del art. 14 de la Ley 19/2013 debería decantarse claramente a favor de la transparencia.

A mi juicio, estamos ante una decisión relevante para el futuro de la transparencia en el uso de algoritmos y no solo por parte de las Administraciones Públicas. 

 

0 comentarios

Dejar un comentario

¿Quieres unirte a la conversación?
Siéntete libre de contribuir!

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *