Muy pocas organizaciones habrían lanzado dos nuevos programas de trabajo compartiendo escenario con el artista detrás de un híbrido de títere-robot rosa preguntando a los sujetos sobre su uso de datos. El lanzamiento de las tecnologías de mejora de la privacidad (PET) y los programas de datos participativos del Open Data Institute (ODI) como parte de la London Data Week como parte de nuestra serie de eventos en vivo Canalside Chats parecía una forma única y potencialmente inesperada de comenzar este viaje dual.
El robot de confianza DoxBox de Alistair Gentry es lo que el ex artista en residencia de ODI Data as Culture llama «tech drag». El títere y el operador le hacen saber al público en qué se están registrando cuando dan sus detalles en los interminables términos y condiciones en los que tienen que hacer clic para usar las aplicaciones de redes sociales de su elección. «Inicialmente, DoxBox preguntó a las personas qué pensaban de la información que compartían», dijo Gentry en el evento del panel Canalside Chat. “Ahora la gente pregunta qué piensa de esta información. Pero es una diferencia realmente importante, porque nunca nos preguntan qué pensamos de los datos que compartimos sobre los servicios que usamos”.
Su explicación refleja parte del razonamiento (sin mencionar la inspiración) de por qué nuestros PET y programas de datos participativos son tan relevantes en este momento. Los PET son herramientas y prácticas que pueden brindar acceso a datos que de otro modo permanecerían clasificados por razones de privacidad, sensibilidad comercial o seguridad nacional. Sí, el nombre es un poco lindo, pero estas son herramientas importantes que probablemente se vuelvan más conocidas a medida que el rápido desarrollo de la IA choca con el creciente conocimiento público y el deseo de privacidad en torno a los datos que los afectan.
Algunos PET estaban en uso mucho antes de que se acuñara el término, incluida la tinta invisible y el ennegrecimiento, la pixelación y la codificación de voz, como las que se ven en un documental o noticiero. Más recientemente, las personas se están enfocando en tecnologías de privacidad más novedosas. Eso puede ser realmente emocionante porque estas tecnologías pueden ser muy útiles, como la tecnología de aprendizaje federado, un PET en el que ya hemos estado trabajando. Esto invierte la forma tradicional de entrenar un algoritmo de aprendizaje automático, de modo que los datos permanezcan en su origen y se les envíe el algoritmo, en lugar de recopilar y agregar todos los datos necesarios.
Bajo este modelo, por ejemplo, las constelaciones de hospitales podrían entrenar a la IA para detectar enfermedades como la degeneración macular relacionada con la edad. Las PET significan que los investigadores médicos pueden basarse en conjuntos de datos mucho más grandes, incluidos los escaneos de los ojos de las personas, para trabajar en métodos que previenen la pérdida de la visión y potencialmente transforman la vida de las personas.
Nuestro programa PET está diseñado para explorar cómo podría ser posible un uso más seguro de los datos y cómo esto podría conducir a beneficios económicos, sociales y ambientales más positivos. Sabemos que los PET pueden brindar investigación médica a gran escala respetando la confidencialidad del paciente y pueden brindar oportunidades para combatir la trata de personas: con Enveil y DeliverFund, brindan acceso seguro a una gran base de datos de trata de personas sin comprometer la seguridad y la propiedad de los datos subyacentes.
Nuestro programa de datos participativos está dirigido por mi colega investigador Joe Massey y fue creado en colaboración con el Instituto Aapti. Al igual que el programa PET, el trabajo cuenta con el apoyo de la Fundación Patrick J. McGovern, con el objetivo de mejorar el impacto social, la equidad y la equidad. El objetivo del programa es desarrollar enfoques más participativos para la recopilación, el uso y la transferencia de datos. Enfoques que permiten a las personas participar de manera más significativa en la toma de decisiones. Este programa es una progresión lógica del trabajo de ODI durante los últimos 10 años, incluido el trabajo sobre banca abierta y portabilidad de datos. También hemos estado trabajando en procesos de gobernanza de datos más ascendentes, como colaboraciones de datos y fideicomisos de datos.
El acceso a los datos nos ayuda a abordar algunos de los mayores desafíos que enfrenta la sociedad actual, como la crisis climática, el aumento de las enfermedades hereditarias y la desigualdad social. Sin embargo, la mayoría de las personas afectadas por estos problemas no están involucradas de manera significativa. Actualmente, los procesos de consentimiento suelen ser ineficaces, lo que hace que las personas retiren su consentimiento para el uso de los datos que les conciernen.
Para nosotros, los datos participativos significan que más personas participan en la creación, el mantenimiento, el uso y el intercambio de datos. Los ejemplos incluyen iniciativas de ciencia ciudadana como Zooniverse, que permiten a las personas participar en investigaciones verdaderamente de vanguardia en ciencias y humanidades. Las soluciones tecnológicas como los pods sólidos permiten que las personas controlen quién puede acceder a sus datos, y las cooperativas de datos como POSMO Coop permiten que las personas se involucren más en el control de datos. A nivel político, las personas pueden participar en el establecimiento de las «reglas del juego», a través de métodos como consultas públicas o jurados de ciudadanos, como la Carta de datos de Camden, que rige cómo el Consejo de Camden recopila, procesa y comparte datos de manera ética.
Sin embargo, los datos participativos son algo más que personas que participan en el ecosistema de datos. Eso por sí solo no cambiará repentinamente un desequilibrio de poder. Es necesario mover muchas otras palancas para garantizar un mundo más justo, incluidos los enfoques regulatorios y tecnológicos utilizados en nuestro trabajo sobre PET. Un ejemplo realmente interesante del que escuchamos en nuestra cumbre anual el año pasado es una licencia de datos creada por los maoríes en Nueva Zelanda, que rige cómo las personas pueden acceder y utilizar los datos maoríes.
A medida que más personas participen y participen, veremos más proyectos innovadores como este que se centran en las personas y comunidades que crean datos. Nuestros dos nuevos programas tienen como objetivo abordar los desequilibrios de poder a su manera, al tiempo que preservan la capacidad de las empresas, los gobiernos, las organizaciones benéficas, los activistas y las personas para innovar, avanzar, informar y crear.
Somos conscientes de que existe el riesgo de que ciertos PET puedan usarse para mejorar la vigilancia, lo cual es relevante para las discusiones actuales sobre las puertas traseras en las aplicaciones de mensajería bajo la Ley de Seguridad en Línea del Reino Unido. También existe la preocupación de que este acceso más amplio a los datos podría ser una forma para que los especialistas en marketing en línea refinen aún más sus anuncios personalizados sin que los usuarios sepan cómo y por qué está ocurriendo esta mayor precisión. Pero creemos firmemente que dar a la gente más voz y más participación tendrá un impacto positivo general. Una mayor participación y confianza en la privacidad conducirá a un mayor conocimiento, lo que significa que las personas podrán tomar decisiones cada vez más informadas sobre cómo se utilizan sus datos, ya sea por el bien común o simplemente a cambio de registrarse en la última aplicación de redes sociales.
Si está interesado en alguno de estos temas clave para el uso futuro de los datos, ya sea una persona interesada o una empresa interesada en hablar con nosotros sobre nuestra investigación, no dude en ponerse en contacto con nosotros en el ODI.
Calum Inverarity es investigador sénior en el Open Data Institute.
