Naciones Unidas exige un uso transparente y responsable de los datos de los niños

Cada vez son más influyentes las voces que se alzan en busca de un aprendizaje automático de las máquinas transparente, justo, participativo y ético. Muchos de los sistemas de inteligencia artificial (IA), desarrollados hasta el momento y que en distintas materias puede ayudar al bienestar humano, causan también daños a colectivos vulnerables y crean sesgos, prejuicios y discriminaciones.

Tecnólogos, filósofos e investigadores, organizaciones sociales y activistas preocupados por la dirección que está tomando la IA están marcando un camino menos tóxico para una tecnología imparable en la evolución del ser humano. UNICEF, por ejemplo, acaba de publicar un manifiesto para que la utilización de datos de menores de edad se haga de una forma responsable, mejore la vida de los más pequeños y les proteja garantizando su privacidad. Un grupo de 17 expertos ha trabajado con el fondo de Naciones Unidas para la infancia, para diseñar un modelo de gobernanza de los datos de niños y niñas que satisfaga sus necesidades y derechos.

La recopilación y el uso de datos de niños y niñas –los menores de 14 años suponen más del 25 % de la población mundial– están en el punto de mira. Esta “cultura de la vigilancia de grandes corporaciones y gobiernos puede tener un efecto escalofriante en los menores durante su etapa de desarrollo y un impacto negativo en su futuro”, asegura UNICEF. La inteligencia artificial se está utilizando para tomar decisiones importantes que afectan a los niños y “para manipular e influir en su comportamiento”, lo que puede dañar su libertad y privacidad.

Por ello, el Manifiesto de UNICEf recoge diez acciones que la comunidad internacional debe considerar:

• Proteger a los niños y sus derechos a través de una gobernanza de sus datos que minimice el uso de vigilancia y algoritmos para crear perfiles en base al comportamiento de los menores.

• Priorizar el interés de los niños cuando gobiernos y empresas recopilen, procesen y almacenen sus datos personales.

• Considerar la singularidad de los menores para que los más vulnerables no se queden atrás.

• Ampliar las medidas de protección a todos los niños menores de 18 años, independientemente de la edad de consentimiento.

• Colaborar con los menores y sus comunidades para construir y gestionar sus datos. Los niños deberían tener más voz en cómo se procesan sus datos, quién los puede gestionar y con quién se pueden compartir.

• Innovación por parte de las autoridades públicas para aprovechar esos datos salvaguardando los derechos de los niños.

• Superar las “brechas de conocimiento” sobre la gobernanza de datos para crear regulaciones de datos basadas en la evidencia.

• Crear mecanismos de reparación.

• Proporcionar recursos adecuados para que autoridades de protección de datos y empresas tecnológicas comprendan perfectamente los derechos de los más pequeños en relación con el manejo de sus datos.

• Fortalecimiento internacional de las leyes y políticas de protección de datos de los menores de 18 años.

Los expertos de UNICEF dejan claro que los datos de los niños y niñas se capturan y utilizan de muchas formas desde el momento mismo que se encuentran en el útero, “cuando algunos padres disponen y comparten imágenes de ultrasonido”, hasta su edad adulta. En la infancia se digitalizan fotos y se difunden en redes sociales, juguetes electrónicos integran sensores que generan datos sobre la vida de los niños. En la adolescencia, el entretenimiento a través de dispositivos tecnológicos (videojuegos) también facilita información personal, lo mismo ocurre cuando se accede a las redes sociales, aplicaciones de mensajería y otras plataformas de conexión con sus compañeros. Empresas que gestionan esas apps y terceros pueden “tener una visión exclusiva de sus vidas y hábitos” accediendo a esos datos privados. Sin contar con que gobiernos y otras autoridades públicas recopilan datos de los niños mediante tecnología biométrica en los registros de nacimiento, registros escolares o sistemas de seguimiento de salud e identificación. Las técnicas de reconocimiento facial son de las más señaladas por discriminatorias.

Poder transformador

UNICEF es consciente de que si esos datos se utilizan de manera responsable, “pueden tener un poder transformador para resolver problemas sociales y ofrecer un enorme potencial de innovación (…) Esperamos que el futuro ofrezca un escenario en el que los datos de los niños se utilicen exclusivamente en su beneficio, por ejemplo para identificar sus potenciales habilidades o sus vulnerabilidades”. Y advierte que su uso indebido viola la Convencion de la ONU sobre los Derechos del Niño.

El informe de UNICEF analiza también los sistemas de protección por regiones geográficas. El Reglamento General de Protección de Datos (RGPD) de la Unión Europea es el mejor valorado. El problema es que muchas de las apps y plataformas online provienen de países como China o EE. UU., donde esas protección de los datos de los menores es más débil, aunque los expertos de la ONU admiten que el entorno legal está cambiando para salvaguardar más y mejor la privacidad de los niños y niñas.

En países como India está pendiente de aprobación una ley que garantice el derecho al olvido después de una sentencia de la Corte Suprema hindú que reconocía que los niños crean huellas digitales perpetuas en los sitios webs de las redes sociales “y no deberían estar sometidos toda la vida a las consecuencias de sus errores infantiles e ingenuidad”.

Sabelo Mhlambi, miembro del Centro de Tecnología Harvard Berkman-Klein y del Centro Carr para Políticas de Derechos Humanos, aseguró hace justo un año que el desarrollo de la inteligencia artificial no solo debe fijarse en la eficiencia y optimización de los datos recogidos. “Si estamos recopilando datos, necesitamos más humanos involucrados para proporcionar el contexto necesario del que a menudo carecen las máquinas y los datos. Falta un cuerpo diverso de humanos”.

Y para avanzar reivindicó la filosofía Ubuntu del África subsahariana, unas reglas éticas enfocadas en la empatía, la humanidad, la lealtad y el bien común que hagan de la inteligencia artificial una tecnología más ética que empodere a la comunidad. “Eso, a menudo, significará que el proceso de construcción de la IA será lento. Un proceso que trata de encontrar equidad y consenso siempre será lento. Deberíamos centrarnos en la dignidad de todas las personas afectadas por la IA que se está construyendo”, aseguro. Ubuntu también es destacado en el Manifiesto de UNICEF como marco ético de derechos humanos para la gobernanza de la IA. “Esta filosofía africana sostiene que las desigualdades que dominan los procesos para dar forma a la IA son neocoloniales y son agresiones a la dignidad humana”.