El gobierno de la ciudad de Londres ha publicado la última versión de su Carta de Tecnologías Emergentes, un conjunto de directrices prácticas y éticas que describen las expectativas de la ciudad sobre cómo deben desarrollarse y desplegarse las nuevas tecnologías basadas en datos para su uso en el ámbito público.
La cuarta versión de la carta se articula en torno a cuatro principios – apertura, respeto a la diversidad, confianza en los datos de las personas y sostenibilidad – diseñados para trazar un camino claro sobre el uso ético de una serie de futuras tecnologías para ciudades inteligentes.
Esto incluye los coches sin conductor, el software de reconocimiento facial, los drones, las redes de sensores, la robótica, los servicios de movilidad, la realidad aumentada o virtual y los sistemas de toma de decisiones automatizados o algorítmicos.
A través de estos principios, la carta pretende establecer expectativas comunes sobre cómo los compradores y los creadores pueden innovar con éxito; dar a los londinenses y a sus representantes elegidos un marco claro para hacer preguntas sobre las tecnologías que se están desplegando en Londres, a la vez que mejorar la transparencia en torno a los productos y servicios que la ley de protección de datos considera de alto riesgo para la privacidad.
Aunque las directrices son voluntarias, se anima tanto a las administraciones locales como a las empresas tecnológicas a adoptarlas.
La carta se compartirá con el Observatorio Global de Inteligencia Artificial Urbana (IA), una iniciativa lanzada por Londres, Barcelona y Ámsterdam en junio de 2021 que tiene como objetivo supervisar las tendencias de despliegue de la inteligencia artificial (IA) y promover su uso ético, como parte de la más amplia Coalición de Ciudades por los Derechos Digitales (CC4DR).
La consulta pública es vital
Redactada por el responsable digital de Londres, Theo Blackwell, y asesorada por un grupo de trabajo formado por el Smart London Board, la carta se ha desarrollado mediante un proceso abierto de consulta pública con expertos en la materia, innovadores y los propios londinenses.
“En el inicio del proyecto pensamos: ‘Vamos a tratar el tema principal del debate sobre la ética de las nuevas tecnologías’, pero al final del proceso -y estamos muy contentos de haberlo desarrollado abiertamente- esto formó parte del debate”, dijo, añadiendo que estas interacciones llevaron a la comprensión de que, aunque muchas tecnologías de las ciudades inteligentes son “percibidas como virtuales”, siguen siendo “una parte muy importante de nuestro entorno físico y construido”.
Otra de las novedades de la carta (que se enmarca en el principio de “ser digno de confianza con los datos”) se refiere al uso de tecnologías biométricas, como el seguimiento del globo ocular o la tecnología de reconocimiento facial en vivo (LFR), por parte de organismos ajenos a las fuerzas del orden, que se añadió a la luz de un dictamen emitido por la comisaria de información Elizabeth Denham en junio de 2021.
En una entrada de blog, Denham señaló que estaba “profundamente preocupada” por el uso inapropiado e imprudente del reconocimiento facial en vivo en espacios públicos, y dijo que ninguna de las organizaciones investigadas por su oficina pudo justificar plenamente su uso de la tecnología, lo que la llevó a publicar una “opinión del comisionado” oficial para actuar como guía para las empresas y los organismos del sector público.
Evaluaciones de impacto de la protección de datos
En consonancia con el dictamen de Denham, según el cual cualquier organización que se plantee desplegar LFR en un lugar público debe llevar a cabo una evaluación de impacto sobre la protección de datos (DPIA) para decidir si sigue adelante con el despliegue, la carta también anima a las empresas a publicar sus DPIA completadas.
“Una EIPD es una obligación legal para identificar y minimizar los riesgos de un proyecto que pueda suponer un alto riesgo para las personas”, afirma la carta. “Tras la finalización de su DPIA, le recomendamos que la publique en el registro central de DPIAs de la GLA [Greater London Authority] en el London Datastore para promover la transparencia pública y las buenas prácticas”.
Uno de los retos de las ciudades inteligentes es la imposición de soluciones tecnológicas bajo el pretexto de que contribuyen a la “eficiencia operativa”, es decir, que se trata de una cuestión administrativa y no de algo que tenga que ver con la vida cotidiana”, dijo, y añadió que “con las nuevas tecnologías, la gente no suele saber qué preguntas hacer a los responsables de su adquisición”.
En cuanto a la reacción de las propias empresas tecnológicas ante la Carta y su desarrollo, Blackwell dijo que, aunque muchas acogieron muy bien los principios en particular, algunas querían saber qué haría Londres para “encontrarse con ellas a mitad de camino” y ayudar a estimular la innovación.
Publicado originalmente en Information Policy