El Gobierno prepara mecanismos para medir el impacto social de los algoritmos |  Tecnología

Los algoritmos afectan cada vez más esferas de nuestra vida. Y, a veces, dañan a los ciudadanos. El Gobierno ha decidido tomar medidas: ha puesto en marcha una batería de medidas que tienen como objetivo analizar el impacto social de los sistemas de inteligencia artificial (IA) antes de que entren en funcionamiento. Con ese objetivo en mente, y para acelerar los cambios con más impulso, España se ha propuesto ser el conejillo de indias del proyecto de Reglamento de IA presentado por la Comisión Europea, que está previsto que entre en vigor en 2023.

La prueba piloto implicaría adelantar un año la implementación de la regulación, hasta el 2022. Y esto implicaría evaluar el riesgo que supone la aplicación de cada algoritmo (los sistemas de reconocimiento facial o puntuación, por ejemplo, se consideran de alto riesgo y por tanto están prohibidos con algunas excepciones) y preparar mecanismos de auditoría para garantizar que no discriminen por motivos de raza, género o ingresos (los llamados sesgos algorítmicos).

España sería el único país que avanza en la aplicación de esta normativa europea. Con este movimiento, el Gobierno pretende colocar al país a la vanguardia de esta importante regulación y acelerar «los cambios que tarde o temprano tendrán que producirse», dicen fuentes de la Secretaría de Estado de Digitalización e Inteligencia Artificial (Sedia): preparar equipos de análisis, definir estándares, desarrollar procedimientos de actuación, etc. Estas mismas fuentes confirman que el acuerdo entre el Gobierno y la Comisión Europea está muy avanzado. Si no hay contratiempos, se anunciará cuando regrese de las vacaciones.

La aplicación anticipada del proyecto de reglamento europeo no implicaría obligaciones legales adicionales para las empresas que operan los algoritmos a monitorear. El sector, de hecho, ha acogido con satisfacción la iniciativa y se ha ofrecido a colaborar en lo necesario con Sedia, dependiente del Ministerio de Economía y Transformación Digital que preside la vicepresidenta primera Nadia Calviño. La idea del Gobierno es crear un salvadera o banco de pruebas en un entorno seguro similar al ya desarrollado para fintech.

Evaluación de riesgos

Tanto la Estrategia Nacional de Inteligencia Artificial, presentada a finales del año pasado, como el reglamento europeo de IA contemplan la figura de la auditoría algorítmica como uno de los pilares del sistema de evaluación de riesgos.

El Gobierno aún no tiene claro qué organismo se encargará de realizar estas auditorías en España. «No hemos llegado a esa discusión», señalan desde la secretaria de Estado que encabeza Carme Artigas. Una opción sería crear una oficina independiente, como ya ocurre en el ámbito de la privacidad con la Agencia Española de Protección de Datos (AEPD).

Antes de llegar a ese punto, y para preparar el terreno, se acaba de poner en marcha el Observatorio del Impacto Social de los Algoritmos (Obisal). A su vez, dependiente del Observatorio Nacional de Tecnología y Sociedad (Ontsi), esta entidad será la encargada de desarrollar los indicadores de referencia que se utilizarán en las auditorías. El Obisal se encuentra actualmente en proceso de contratación de expertos y creación de grupos de trabajo sectoriales para analizar los sistemas de IA. “Los algoritmos no son sectoriales, pero su impacto sí”, subrayan desde Sedia.

Este observatorio producirá informes que ayudarán a ver la luz de una metodología específica para auditorías algorítmicas el próximo año. También contribuirá a ello un registro de algoritmos del sector público que está impulsando la propia Secretaría de Estado. El objetivo, según fuentes gubernamentales, es que este proceso de evaluación del impacto social de los sistemas se pueda materializar en una especie de sello de calidad de los algoritmos. «Todo este trabajo está preparando el terreno para dentro de 10 o 15 años», dicen desde Sedia.

Puedes seguir a EL PAÍS TECNOLOGÍA en Facebook Y Gorjeo o regístrate aquí para recibir nuestro boletín semanal.

Por admin

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *