Inteligencia artificial e inclusión: hacia un algoritmo transparente, inclusivo y ético

La inteligencia artificial (IA) ha impactado, en tiempo récord, en muchos ámbitos de nuestras vidas. Su desarrollo exponencial de los últimos años ha acelerado en gran medida las posibilidades tecnológicas, transformando el mercado laboral y provocando un revuelo en la sociedad. ¿Hasta dónde puede evolucionar el ser humano gracias a la IA? ¿Qué sucederá con miles de puestos de trabajo? ¿Cómo sabremos qué ha realizado una persona y qué ha realizado una máquina?

Las primeras preguntas fruto de la incertidumbre suelen centrarse en la fuerza laboral y dejan una cuestión fundamental detrás: si la IA está creando un mundo más accesible, inclusivo y diverso. De hecho, el Comité Español de Representantes de Personas con Discapacidad (CERMI) pidió este mismo verano que la tendencia tecnológica mundial de mayor impacto en 2023no dejara fuera a las personas con discapacidad e incitó a organizaciones y profesionales a crear proyectos que ayuden a cerrar la brecha digital con las personas con discapacidad.

La primera iniciativa en esta dirección parte de junio de 2022, cuando el Global Future Council on Artificial Intelligence for Humanity, del Foro Económico Mundial (FEM), publicó un documento con el fin de impulsar la igualdad y la inclusión en el desarrollo y la gobernanza de la IA. El análisis previo alertaba de que la falta de inclusividad en el desarrollo y en la gobernanza de la IA genera perjuicios financieros y reputacionales a empresas y a múltiples grupos y comunidades minoritarias. El documento A Blueprint for Equity and Inclusion in AI identifica siete pasos fundamentales en el uso de la IA y señala una serie de buenas prácticas, tanto desde el punto de vista de la gobernanza como del desarrollo tecnológico.

Según Patricia Ventura, doctora e investigadora en IA y ética, la pregunta a resolver es cómo la sociedad puede adoptar de una forma más inclusiva las tecnologías: “La inteligencia artificial, como cualquier otra tecnología, tiene un enorme potencial para mejorar la vida de las personas. Sin embargo, el problema principal es adquirir conciencia de por qué no adoptamos la tecnología de una forma racional, buscando el bienestar de todas las personas”, asegura. “Y es que la mayor presión sobre el desarrollo tecnológico suele ser la de la productividad y la eficiencia impuesta por el sistema económico, que ve la tecnología desde un punto de vista productivista”.

La experta lo ejemplifica con los robots que ayudan a personas mayores y que, si bien son funcionales, reducen el trato humano, fundamental en los cuidados, o las aulas que se sirven de la IA para captar la atención del alumnado cuando los profesores experimentan dificultades por el aumento de la ratio profesor-alumnos: “No se trata de un discurso anti IA o anti tecnología, el tema es que nos cuesta introducirla sin tener en cuenta el factor humano”, sostiene la experta. “La tecnología ofrece ejemplos de progreso: asistentes de voz, consulta de información de medios, aplicaciones con sensores que ayudan a las personas con necesidades, la domótica de casas o residencias... Hacia ese uso puede ir la IA, pero necesitamos una sociedad más madura, que priorice dar respuestas eficaces a las necesidades reales de las personas”.

Algoritmos inclusivos

La Fundación ONCE se creó en 1988 desde el compromiso de la ONCE con las personas con discapacidad, con dos prioridades de acción: por un lado, el empleo y la formación; y, por otro, la accesibilidad universal y el diseño para todas las personas. Los retos a los que se enfrentan han ido evolucionando a lo largo de los años. La IA impacta en las dos prioridades mencionadas, por eso tienen bien estudiado lo que piden a un algoritmo.

La IA creará y destruirá puestos de trabajo. Para Virginia Carcedo, secretaria general de Fundación ONCE e Inserta Empleo, “puede ser una oportunidad si genera empleos que puedan ser desempeñados por personas con discapacidad, o un riesgo si no lo hacen”. “Con la formación sucede lo mismo. Si en los datos que se usan para generar la IA no están representadas las personas con discapacidad o se consideran peor valoradas, estas se verán excluidas”, asegura.

Para Carcedo existen dos riesgos principales: que los puestos de trabajo no estén diseñados para ello o que no lo estén las herramientas. “Nadie dice que una persona con discapacidad visual no puede ser programador, pero si los programas no son accesibles y las empresas usan esos programas, te quedas fuera y no podrás optar a esa posición”, afirma.

Para trabajar en la IA del futuro, sostiene Carcedo, “lo primero es definir qué tipo de IA queremos”. “Tenemos que entender y diseñar algoritmos que sean transparentes, inclusivos y éticos. Si no hay datos que sustenten que el algoritmo aprenda de forma ética, hay que generar un conjunto de datos sintéticos, creando datos a partir de otros reales que impulsen algoritmos inclusivos porque, de lo contrario, repetiremos en los algoritmos de IA los sesgos que ya tenemos en el mundo real”, afirma la experta. “En Fundación ONCE tenemos la base de datos más importante de personas con discapacidad. Estamos creando un algoritmo que se llama Inclunia, entrenándole para hacer, de forma ética, una selección de una persona con y sin discapacidad. Incluyendo diferentes variables, por ejemplo, las soft skills. Este es un modelo aplicable y replicable en muchas empresas”.

A juicio de Carcedo, el buen gobierno de la IA tiene su base en la transparencia y la explicabilidad, y estos se erigen como dos de los factores importantes en la cuestión, saber cómo se mide y cómo se hacen los algoritmos, con qué datos se han entrenado y, por supuesto, qué hay detrás de esa “caja negra”. Por ejemplo, las apps sanitarias que utilizan IA para dar recomendaciones de salud podrían no tener en cuenta las necesidades específicas de las personas con discapacidad. O una aplicación de seguimiento de actividad física podría no reconocer actividades adaptadas para personas en sillas de ruedas.

Otros retos importantes son la realización de una auditoría de algoritmos y que el factor humano sea esencial en la relación con los mismos. La Fundación ha implementado un estudio del impacto de la IA en los derechos de las personas con discapacidad, donde se analiza el uso que empresas hacen de la IA y se dibuja un marco de futuro inclusivo y accesible. Un ejemplo de oportunidad de futuro es el proyecto Algoritmo verde impulsado por Fundación ONCE, en el que personas con discapacidad intelectual utilizan algoritmos de IA para aprender a recuperar equipos tecnológicos, reparándolos con la ayuda de la tecnología algorítmica.

La IA como oportunidad para las personas con discapacidad

Desde el ámbito de la empleabilidad, la Fundación Eurofirms estima que el impacto de la IA puede generar nuevas oportunidades y es donde focalizan su atención. La IA entra dentro de su plan para generar iniciativas que repercutan positivamente en la vida de personas con discapacidad.

María Jordà, directora general de la Fundación Eurofirms, sostiene que “la IA tiene un enorme potencial para favorecer la inclusión de personas con discapacidad”. “Hay ejemplos de casos de éxito para personas con discapacidad visual, en términos de comunicación, traducción automática o detección de obstáculos, entre otros casos. Muchas tareas de la vida diaria pueden ser más sencillas gracias a la tecnología y eso repercute en la calidad de vida y en las oportunidades a las que acceden”.

“En un momento donde se comienza a asentar el teletrabajo, la IA puede hacer que muchas personas con discapacidad proyecten su carrera, accedan a trabajos cualificados, cobren mejores salarios y tengan una mayor integración social. Desde nuestra fundación, trabajamos para potenciar estos escenarios”, asegura.