Entradas

El uso de las respuestas automatizadas y el “big data” durante la pandemia

/en /por

La inteligencia artificial y el Big Data se han convertido en herramientas imprescindibles para el funcionamiento de buena parte de las empresas o gobiernos hoy en día. Estas herramientas permiten la optimización y agilización de procesos que pueden ser automatizados e incluso se han llegado a aplicar para predecir desastres naturales o para el avance de la medicina. En el caso de la actual pandemia, nos parecía esencial conocer si nuestro Gobierno había utilizado estas técnicas para la gestión de la crisis sanitaria. Por eso, desde la Fundación Hay Derecho hemos planteado una misma pregunta a todos los Ministerios a través de varias solicitudes de transparencia cuyo objetivo era conocer si se estaban tomando decisiones automatizadas o se estaba utilizando el Big Data en el Gobierno, cual era la naturaleza de estas decisiones y cómo se regulaba su utilización.

Las respuestas han sido variadas y pueden consultarse en nuestra página web. La mayoría de los Ministerios ha declarado que no se están llevando a cabo decisiones automatizadas ni se está utilizando Big Data. Otros, por el contrario, han contestado en sentido afirmativo. Desde la Fundación Hay Derecho consideramos que es interesante abrir el debate sobre el grado de utilización del Big Data y la Inteligencia Artificial en nuestras instituciones y, para esto, es fundamental disponer de toda la información.  Aquí se la ofrecemos a nuestros lectores.

Los ministerios que han contestado sobre las actuaciones automatizadas o utilizar Big Data son los siguientes:

Ministerio de la Agricultura: Utilizan del Big Data para la recolección de datos referentes a las ayudas de la PAC a partir de las imágenes obtenidas por satélites sobre las superficies agrarias. La información es posteriormente procesada por algoritmos de Machine Learning como Random Forest.

Ministerio de Inclusión, Seguridad Social y Migraciones: Se toman decisiones automatizadas respecto a la tramitación electrónica de diversos procedimientos de gestión de determinadas prestaciones del sistema de Seguridad Social. Asimismo, se utilizan algoritmos de inteligencia artificial y técnicas de Machine Learning para la elaboración de cuadros de mando y la clasificación de datos por medios estadísticos. No obstante, las decisiones las toman los empleados públicos con responsabilidad en la materia.

Ministerio de Defensa: las tecnologías Big Data o basadas en el empleo de algoritmos son consideradas de gran interés y potencial para el desarrollo de las misiones y cometidos del Ministerio. No obstante, su uso no se encuentra implementado a día de hoy y no proporciona a nivel corporativo servicios CIS/TIC basados en Big Data, Inteligencia Artificial (IA) u otras tecnologías disruptivas en esta materia (como Machine Learning).

Ministerio de Fomento: La Subdirección General de Planificación de Infraestructuras y Transporte del Ministerio de Transportes, Movilidad y Agenda Urbana ha realizado un único trabajo con tecnología Big Data, hasta la fecha, que ha sido la elaboración del estudio “Movilidad interprovincial de viajeros utilizando la tecnología Big Data”. Se emplea por primera vez de esta tecnología para obtener los flujos de movilidad interprovincial a nivel nacional, durante los meses de julio/agosto y octubre de 2017, tanto de residentes como de no residentes en España.

Ministerio de Industria, Comercio y Turismo:  En el marco del Real Decreto 330/2008, de 29 de febrero, por el que se adoptan medidas de control a la importación de determinados productos respecto a las normas aplicables en materia de seguridad de los productos, a través de la plataforma ESTACICE se gestiona de manera automática la emisión de determinados certificados con comunicación directa a las Aduanas, de manera que el levante o importación de la mercancía puede gestionarse de manera automática en caso en que no se realicen controles aduaneros posteriores. Los análisis adicionales de riesgo también se llevan a cabo en base a la respuesta generada por el sistema.

Por otro lado, existen diversos casos de producción y publicación de información para su explotación analítica (DATATUR, DATAINVES, DATACOMEX), si bien dichos sistemas se catalogarían más correctamente bajo el concepto de sistemas de Business Intelligence que bajo el de uso de Big Data. Estos casos los encontramos en los siguientes ministerios:

Ministerio de Transición Ecológica: algunos de los órganos adscritos sí que utilizan las decisiones automatizadas o el Big Data como es el caso de la Agencia Estatal de Meteorología, donde se utilizan en el análisis de procesamiento de los ficheros de anotaciones de accesos a la web y aplicaciones nativas institucionales para obtención del número de accesos y ver su evolución en el tiempo. También se utilizan técnicas de escucha activa en Twitter. Se han utilizado técnicas de machine learning para la obtención y elaboración de un corpus meteorológico mediante el análisis de las predicciones provinciales, de CCAA y nacionales desde el año 1995 emitidas por la Agencia.

Ministerio de Ciencia e Innovación: no toma ninguna decisión de forma automatizada ni se utiliza en ningún caso el Big Data o algoritmos, pero sí en algunos de sus organismos adscritos:

En el Instituto Nacional de Investigación y Tecnología Agraria y Alimentaria (INIA) se realizan las siguientes decisiones automatizadas: La Secretaria General en el Área de RRHH a través de SIGP, en el procedimiento “Concurso general para la provisión de puestos de trabajo” y en el procedimiento: “Asignación de ayudas correspondientes al Plan de Acción Social”.

Por su parte, el Consejo Superior de Investigaciones Científicas (CSIC) está trabajando en la progresiva reingeniería de sus procedimientos con el fin de orientarlos hacia actuaciones administrativas automatizadas, cuando ello es posible.

Ministerio de Consumo: no se toman decisiones automatizadas ni el uso de Big Data. No obstante, la Dirección General de Ordenación del Juego utiliza la tecnología de base de datos columnar Vértica para el almacenamiento de los datos de supervisión y control de la actividad de juego.

Ministerio del Interior: Alguno de los sistemas que actualmente se encuentran en fase de desarrollo, como es el PNR (Passenger Name Record), contempla la utilización de la tecnología Big Data. No obstante, al no estar transpuesta la Directiva (UE) 2016/681 que lo regula, no se está usando dicha tecnología. Una vez que se ponga en marcha el citado sistema PNR, será la propia Directiva la que regulará su utilización.

En relación a la utilización de algoritmos, cabe reseñar, que se utilizan en múltiples plataformas, servicios y sistemas, como son los siguientes:

  • Algoritmos de cifrado implementados en las infraestructuras de comunicaciones de Policía y Guardia Civil para garantizar el nivel de seguridad definido en cada uno de los dominios de seguridad y comunicaciones. (Blowfish, AES128, AES256, 3DES, RC2, RC4, etc.)
  • Algoritmos de encaminamiento en los routers para el tráfico IP.
  • Algoritmos de cifrado compatible con tecnología IPSEC.
  • Algoritmos de detección de incidentes de seguridad e intentos de intrusión.
  • Algoritmos desarrollados para procesos de consulta en alta velocidad en las bases de datos.

En conclusión, de manera todavía incipiente nuestras Administraciones van implantando estas tecnologías que potencialmente pueden tener un impacto muy grande en los derechos e intereses de los ciudadanos, por lo que conviene estar atentos y vigilantes. El primer paso, como siempre, es disponer de una buena información acerca de la actuación de nuestros Poderes Públicos.

Los riesgos para los consumidores y usuarios en la contratación a través de plataformas intermediarias en línea

/en /por

Cada vez somos más los consumidores que hemos prescindido de modelo tradicional de adquisición de bienes y servicios y recurrimos a las ventajas que proporciona la digitalización de la economía, acudiendo a plataformas intermediarias en línea. Son muchos los servicios a los que accedemos cuando contratamos a través de plataformas. Cuando los particulares ponemos en el mercado bienes infrautilizados, hablamos de economía colaborativa, cuando lo que obtenemos son servicios financieros, hablamos de FinTech.Pero estas realidades aparentemente distintas tienen un denominador común: la existencia de una plataforma intermediaria en línea que actúa como mediador en las transacciones realizadas por otros.  De ahí que ya se hable de una “economía de la plataforma”.

La plataforma normalmente son empresas, sociedades de capital, prestadores de servicios de la sociedad de la información que permiten a otras empresas ofrecer servicios a los consumidores (Business to consumer, B2C) o permiten a los consumidores prestarse bienes y servicios entre sí (Consumer to consumer, C2C), o se favorecen transacciones entre empresas (Business to business, B2B).

Dejo fuera, claro está, cuando un proveedor utiliza internet para vender directamente a sus clientes. Aquí no hay especial novedad. Cuando me refiero a plataforma intermediaria, la clave está en que no es ésta la que presta el servicio subyacente (rellenar asientos vacíos de coches con otros pasajeros que vayan a la misma dirección (Blablacar), compraventa de bienes usados (EBay, Wallapop), plataformas que ayudan a los usuarios a contactar con cocineros para que se desplacen a sus domicilios y les cocinen comida casera (Chefly). Y por supuesto, las finanzas con el denominado crowdfunding o financiación en masa).

Su papel es conectar a usuarios que buscan algo con usuarios que lo ofrecen.El valor creado es precisamente la interacción por la que normalmente la plataforma recibe una remuneración que puede cargar al proveedor del servicio o al usuario. Cuanto más fácil sea la interacción, mayor valor tiene la plataforma y crecerá cuantos más usuarios consiga atraer. Se produce así el denominado “efecto de red”que significa que los usuarios obtienen un beneficio adicional por la existencia de más usuarios en el lado opuesto del mercado.

Algunas veces no es fácil saber quién presta el servicio: si los usuarios o la plataforma y de ahí la polémica con el famoso caso UBER que finalmente se consideró que no era mediador sino que prestaba el servicio de transporte.

Hay que evitar que quien presta el servicio “se disfrace” de intermediario para evitar la aplicación de la regulación sectorial correspondiente a dicho  servicio. La transparencia sobre el papel de la plataforma es fundamental.Todos los que compramos en Amazon, por ejemplo, debemos estar atentos porque a veces es Amazon la proveedora del bien o servicio y otras veces es otra empresa la proveedora o incluso un particular. Y la cosa cambia mucho en un caso o en otro.

Pero lo relevante no es, como he dicho, qué servicio se oferta, sino cómo se oferta y  por ello la plataforma es el aspecto más relevante y auténticamente novedoso

Esta nueva modalidad de contratación favorecida por el factor tecnológico plantea retos normativos muy relevantes desde el puro Derecho privado. Se produce un entramado contractual complejo: contratos entre los usuarios y la plataforma y contratos entre los usuarios entre sí, sin que ambos contratos tengan el carácter de contratos vinculados. Las irregularidades o incumplimientos de los contratos entre los usuarios no afectan a la validez y eficacia del contrato de éstos con la plataforma. Si no cumple el proveedor, deberé pagar en todo caso la comisión al intermediario.

Los contratos que se celebran son de adhesión, con condiciones generales de la contratación y lo relevante es que la plataforma también “interviene” en las cláusulas de los contratos que vinculan a los usuarios entre sí. Se van a generar relaciones jurídicas que difícilmente se incardinan en los esquemas tradicionales y plantean problemas de calificación jurídica, lo que conlleva riesgos para los usuarios de las plataformas.

¿Cuáles son estos riesgos?

  1. Determinar cuándo se aplican las normas de protección del consumidor

Todo el sistema de protección del consumidor está basado en  relación vertical entre el suministrador del bien o servicio (generalmente una empresa) y un demandante (consumidor o empresario).

Por el contrario, la economía de plataforma intermediaria genera en muchos casos un mercado horizontal, entre iguales (peers). Y toda la normativa de protección de los consumidores es aplicable a las relaciones entre proveedor empresario y consumidor adquirente del bien o servicio. Por lo tanto, cuando las relaciones son entre “iguales”, resulta de aplicación el Código Civil o el Código de comercio en su caso. Así, por ejemplo, no serán aplicables las normas sobre desistimiento unilateral, garantía legal o cláusulas abusivas a las relaciones entre iguales.

Nos encontraremos con que no es un particular el receptor del bien o servicio, sino que en muchos casos se invierten los términos: es el particular el proveedor del mismo,actuando fuera de su ámbito de actividad empresarial o profesional, y puede procurar tal bien o servicio a otro particular o  a un empresario. Son los denominados prosumers (proveedores consumidores).

¿Cómo sabemos que estamos contratando con un comerciante o con un prosumer?Saberlo es decisivo y las consecuencias prácticas son importantes.

Este problema se ha planteado ya en el Tribunal de Justicia de la UE en sentencia de 4 de octubre de 2018   en donde se plantea si una señora que había puesto más de 8 anuncios de relojes en una plataforma tiene o no la consideración de comerciante. El problema se planteó cuando el comprador de uno de esos relojes pretendió la devolución por no ajustarse a las características establecidas en la página. La vendedora se negó a devolver y consideró que no tenía que cumplir las obligaciones que tiene todo profesional y no era aplicable el Derecho del consumo. El TJUE establece una serie de criterios que deben tenerse en cuenta para determinar la condición de comerciante del proveedor y dijo que el número de anuncios no es el dato decisivo.

Lo que está claro es que se corre el riesgo de que aparezcan comerciantes “encubiertos” que contraten a través de estas plataformas solo para evitar la aplicación de la normativa protectora de los consumidores. En este sentido, deben idearse mecanismos que eviten este fraude, siendo éste uno de los retos normativos que plantea la economía de la plataforma

  1. Transparencia en cuanto al uso de algoritmos en la ordenación de ofertas y precios personalizados.

Probablemente muchos no sepan que cuando compran productos o contratan servicios a través de plataformas el precio no es igual para todo el mundo. Gracias a los datos sobre los usuarios y su comportamiento de búsqueda, los proveedores pueden fijar precios individualizados. El precio se fija en función de lo que el consumidor “está dispuesto a pagar por  el bien o servicio”.  Los compradores o destinatarios pagan precios diferentes   por el mismo producto o servicio, ya que proporcionan indicadores de su disposición a pagar en su comportamiento de búsqueda.

Por ejemplo, un sitio web puede saber que (a) el Sr. A quiere comprar una raqueta de tenis, y (b) basándose en compras anteriores, tiende a comprar productos de gama alta, y (c) vive en un barrio rico, y (d) está navegando por la web desde dispositivo caro. Con esos datos procesados a través de algoritmos la plataforma ofrecería al “señor A un precio alto del producto.

La “locura”de la fijación de precios a través de algoritmos puede conducir a resultados sorprendentes como que un libro se venda a 35 dólares un día y dos días más tarde a 1,730,045.91 dólares.

Esta discriminación de precios es opaca para los consumidores y ya se está planteando desde instancias internacionales  su regulación con objeto de garantizar la suficiente transparencia en cuanto a la fijación del precio

Pero no sólo se personaliza el precio, sino también las ofertas.

Existe una falta de transparencia en cuanto a cómo se clasifica y muestra la información y las ofertas en los motores de búsqueda, los sitios de comparación y las plataformas de reservas en línea.

Los consumidores podrían pensar que las ofertas que ven en las plataformas de reserva en línea para servicios de viajes como Booking.com se basan en el valor y la relevancia de cada oferta y se evalúan sobre la base de los comentarios de los usuarios. La realidad es que a menudo los proveedores de servicios específicos han pagado para que sus ofertas sean promovidas, o que las ofertas promovidas son las que dan a la plataforma el mayor margen de beneficio. Todo esto no se revela y explica adecuadamente.

Cómo expongan la información los motores de búsqueda y las plataformas de comparación de sitios tiene un papel relevante respecto a la decisión de contratar del consumidor. Esta exposición se lleva a cabo a través de algoritmos que tienen en cuenta la “capacidad económica del cliente” deducida de su historial de navegación o las comisiones pagadas por los establecimientos. La oferta personalizada dificulta la comparación con otras ofertas y la clasificación de las ofertas puede ser opaca. Los consumidores deben estar capacitados para comprender cómo se organizan y presenta la información y las ofertas.

No se trata de vetar el uso de algoritmos, sino de conseguir una transparencia acerca de los criterios tenidos en cuenta para la fijación del precio y la ordenación de las ofertas. Algo que, de hecho, se impone por la normativa en materia de protección de datos personales (art. 22 y 14 RGPD). Los responsables del tratamiento (las plataformas) deben explicar el funcionamiento de la elaboración de perfiles o las decisiones automatizadas.

3.También debe incluirse transparencia en los sistemas de reputación online. Las opiniones de los usuarios deben ser fiables. Hay empresas que pagan para recibir valoraciones positivas o pagan para que se hagan valoraciones negativas a empresas de la competencia que hacen una selección de las valoraciones incluyendo solo las positivas. Que se publiquen opiniones positivas falsas induce a error en la contratación por parte del consumidor. Obsérvese que el error no procede del proveedor del bien o servicio, sino de otros usuarios que realizan valoraciones que no ser corresponden con la realidad del producto. Esto puede perjudicar tanto a proveedor como a consumidor. Es preciso diseñar modelos fiables de reputación.

Como se puede apreciar, algo tan trivial como comprar productos a través de plataformas que se ha convertido en parte de nuestra realidad cotidiana encierra una problemática compleja. Mientras que países como Francia o Alemania han abordado el tema, en España falta una regulación que equilibre todos los intereses en juego. Este “agujero” de regulación hace que se expandan estas plataformas y con el tiempo, volverá a ser un foco de conflicto importante.

La Comisión Europea se ha puesto manos a la obra con varias iniciativas  y parece que la regulación será fragmentada: aquí  para los problemas con los consumidores y aquí  para las relaciones entre plataforma y empresarios. Se avecina otro rompecabezas normativo como ya sucedió con las normas de protección a los consumidores.

En cualquier caso, la regulación europea es lenta y podemos adelantarnos como han hecho otros países. Espero que en este tema no nos ocurra como en otros en los que somos “los últimos” en legislar.