El Ayuntamiento de Barcelona ha aprobado este lunes el documento Definición de metodologías de trabajo y protocolos para la implementación de sistemas algorítmicos con el objetivo de regular la implantación de inteligencia artificial en los servicios municipales. Según ha informado el Consistorio en un comunicado, «se trata de un documento pionero en lo referente a la regulación y gobernanza de los sistemas algorítmicos en el ámbito local». Y su objetivo fundamental es «garantizar que estos sistemas se utilizan de manera proporcionada, supervisada y fundamentada, de acuerdo con estándares legales, éticos y técnicos».
El nuevo protocolo, según ha explicado el Ayuntamiento en su comunicado, «define los mecanismos de salvaguarda de derechos que han de existir en cada etapa de la licitación e implementación de un sistema algorítmico» municipal. Establece, además, «los órganos de gobernanza y supervisión que han de velar porque el impacto de la inteligencia artificial se alinee con los principios éticos».
Diferentes tipos de riesgos
Este documento se basa en la clasificación de riesgos redactada por la Comisión Europea en el marco de la AI Act y «establece diferentes tipos de mecanismos de garantía en función del nivel de riesgo del sistema que se licita». Los sistemas de riesgo «inaceptable», definidos como «sistemas que suponen una clara amenaza para la seguridad y los derechos de las personas», serán «rechazados automáticamente». Los de «alto riesgo», sistemas que «tienen un impacto directo en los derechos fundamentales de las personas», serán controlados a través de «mecanismos de garantía más estrictos que para los considerados de riesgo limitado o mínimo».
El nuevo protocolo combina «el proceso de contratación pública, el ciclo de vida de un sistema algorítmico, los mecanismos existentes en el Ayuntamiento para la protección de datos y los estándares éticos definidos por diversas administraciones y organizaciones». Así, «el Ayuntamiento se anticipa y adapta al contexto local la propuesta europea de regulación de la inteligencia artificial y hace accionables los principios éticos definidos en la Medida de Gobierno de la estrategia municipal de algoritmos y datos para el impulso ético de la inteligencia artificial. Este último documento fue aprobado por el Consistorio en abril de 2021 y contempla objetivos como la puesta de la tecnología al servicio de la ciudadanía. Pero también establece que cualquier sistema de Inteligencia Artificial promovido por el Ayuntamiento debe estar controlado por seres humanos.
