Confiamos ciegamente en la tecnología, pero ¿alguna vez te has preguntado quién está detrás de las decisiones que toman las máquinas por nosotros? Lorena Fernández, experta en ética de la digitalización, nos advierte de un peligro invisible: la tecnología nunca es neutral. A través de los datos, a menudo perpetuamos estereotipos y prejuicios sin darnos cuenta.
En este vídeo descubriremos qué es un sesgo en IA, cómo afecta a nuestra vida diaria y qué pasos debemos dar para comprender los retos de la inteligencia artificial y garantizar que sea responsable y justa para todos.
¿Quién es Lorena Fernández?
Para entender la magnitud de los retos que plantea la tecnología, es fundamental escuchar a quienes la construyen y la analizan desde dentro. Lorena Fernández es Ingeniera Informática, cuenta con un máster en Seguridad de la Información y es experta en la ética y responsabilidad de la IA y la digitalización.
Actualmente, desempeña su labor como responsable de comunicación digital en la Universidad de Deusto, donde además forma parte de la comisión de Inteligencia Artificial. Su trayectoria profesional y académica la convierte en una de las voces más críticas y autorizadas para hablar sobre cómo los algoritmos moldean nuestra sociedad y los peligros de dejar que las máquinas tomen decisiones sin supervisión humana.
¿Qué es un sesgo en IA y qué es el sesgo del algoritmo?
Cuando hablamos de sesgo IA o sesgos de la IA, nos referimos a sistemas informáticos cuyas predicciones benefician de manera sistemática a un grupo específico de personas, generando situaciones de desigualdad e injusticia para otras.
Como explica Lorena Fernández citando a la matemática Cathy O’Neil: «los algoritmos por debajo son opiniones encerradas en unos y ceros». No son entes abstractos ni puramente matemáticos, son herramientas creadas por humanos y, por tanto, heredan nuestros propios defectos, lo que a menudo resulta en discriminación por algoritmo. Para combatir esto, surge la necesidad de la justicia algorítmica, un movimiento que busca equidad y transparencia en el código.
Interseccionalidad: cuando los sesgos se combinan en una «bomba digital»
Al hablar de discriminación, es un error pensar que los prejuicios operan de forma aislada. Lorena Fernández introduce un concepto vital para entender la magnitud real de este problema: la interseccionalidad.
Los algoritmos no son elementos estancos. No existe una IA que solo discrimine por género, otra distinta por raza y otra por edad de manera totalmente separada. En la realidad, todas esas características y etiquetas sociales que nos definen se entrelazan.
Cuando un sistema tecnológico cruza múltiples estereotipos que penalizan a un usuario (por ejemplo, ser mujer, de una etnia minoritaria y de edad avanzada), el impacto negativo no solo se suma, sino que se multiplica. La combinación de estos factores en el código crea lo que Fernández define a la perfección como «una especie de bomba digital». Por esto mismo, construir una Inteligencia Artificial responsable exige comprender cómo estas identidades se cruzan y se ven afectadas simultáneamente.
¿Son los algoritmos neutrales?
Una de las búsquedas más comunes es saber si la tecnología nos trata a todos por igual. La respuesta de Lorena es rotunda: no. La tecnología nunca jamás es neutral, siempre tiene una incidencia sobre la vida de las personas.
Para ilustrarlo, Fernández utiliza un ejemplo histórico sobre infraestructuras aparentemente neutrales: los puentes de Long Island (Nueva York) construidos en los años 20. Estos puentes se diseñaron inusualmente bajos. ¿El motivo real? permitir el paso de vehículos privados (clases acomodadas) e impedir el paso del transporte público (clases trabajadoras y minorías), decidiendo así qué clases sociales podían acceder a las zonas de ocio.
Al igual que esos puentes, el código de la IA contiene decisiones morales. Un algoritmo es como un cuchillo: su diseño nos dice si está pensado para untar mantequilla (bordes romos) o para hacer daño.
¿Cómo afecta el sesgo de la Inteligencia Artificial en la vida diaria?
El sesgo del algoritmo se cuela en nuestra rutina de maneras que a veces ni percibimos, afectando desde procesos de selección de personal hasta la información que consumimos. A esto se le suma la tendencia humana a «antropomorfizar» la IA (darle cualidades humanas), lo que nos hace bajar la guardia.
Decimos que la IA «alucina» en lugar de decir que comete un error informático. Además, empezamos a usar chatbots como terapeutas, generando un vínculo emocional y una confianza ciega en sistemas que no sienten ni razonan, y cuyo objetivo principal suele ser la rentabilidad económica.
Las 3 vías de entrada del sesgo heredado en la tecnología
Los sistemas de Machine Learning absorben los estereotipos en tecnología principalmente por tres caminos:
| Vía de entrada | ¿Cómo se produce el sesgo? | Ejemplo práctico |
| A través de los datos | La IA busca patrones en grandes volúmenes de datos históricos que ya contienen prejuicios. | La IA actúa como un espejo que nos devuelve el reflejo de una sociedad machista o racista. |
| En el diseño de modelos | Los humanos deciden qué variables priorizar y realizan el etiquetado manual. | Le damos el «libro de texto» a la IA, pero los humanos decidimos cuáles son las «preguntas del examen». |
| De forma premeditada | Se programa el sistema intencionalmente con objetivos específicos y sesgos incorporados. | Creación de algoritmos diseñados conscientemente para excluir a un sector demográfico. |
El caso del traductor y los estereotipos de género
Lorena Fernández relata el experimento de Londa Schiebinger con el traductor de Google y el idioma turco. Como el turco no tiene notación de género en el sujeto (usa el pronombre «O» para él y ella), la Inteligencia Artificial tenía que «jugársela» al traducir al español.
¿El resultado?
La IA traducía sistemáticamente: «él es ingeniero, ella es cocinera. Él es médico, ella es enfermera». Una prueba clara de cómo nuestro mundo se moldea a través de un sesgo heredado en el lenguaje.
¿Quién es ese algoritmo? El experimento del cuenco vacío de sopa
A menudo, cuando consumimos contenido o tomamos decisiones basadas en una recomendación digital, justificamos la acción con la frase: «lo dice el algoritmo». Sin embargo, Lorena Fernández nos anima a replantear la situación y preguntarnos: ¿quién es el algoritmo? No debemos olvidar que detrás de la herramienta hay personas (como unas manos manejando los hilos de un muñeco) y, lo que es más importante, un propósito diseñado por quien la crea.
Para ilustrar de qué manera los propósitos ocultos de la tecnología guían nuestro comportamiento, Fernández cita un curioso ensayo psicológico: el experimento del cuenco vacío de sopa. Este estudio demostró que, si una persona come de un tazón en el que nunca llega a ver el fondo, acaba consumiendo hasta un 70% más de calorías. Al no percibir el final del plato, el cerebro no recibe la señal de que ya está saciado.
¿Cómo se traslada esto a la tecnología? A través de funciones muy habituales en nuestro día a día, como el scroll infinito en redes sociales o la reproducción automática al terminar un vídeo en plataformas como YouTube o Netflix. Aquí cobra una importancia vital educar en la era digital, ya que, al igual que el tazón sin fondo, estas herramientas no tienen fin porque su objetivo último es retenernos: quieren nuestros datos y nuestra atención para generar dinero.
IA responsable: ¿por qué es importante la diversidad en la tecnología?
Saber cómo usar la IA de manera responsable pasa por entender que no podemos simplificar la sociedad basándonos únicamente en el privilegio de unos pocos. Si queremos evitar una mirada codificada que excluya a las minorías, necesitamos incorporar perspectivas variadas.
Para lograr un verdadero uso responsable de la IA, Lorena Fernández propone aplicar la diversidad en cuatro frentes fundamentales:
- Diversidad en los datos: entrenar a los modelos con información representativa de toda la sociedad.
- Diversidad en los equipos: incluir perfiles multidisciplinares y diversos en la programación y diseño.
- Diversidad en las empresas: fomentar una cultura corporativa que valore la ética y responsabilidad tecnológica.
- Diversidad de propósitos: asegurar que los objetivos de estas herramientas vayan más allá del beneficio económico y busquen el bien común.
El destino de la Inteligencia Artificial no está marcado. Como concluye Lorena, está en nuestras manos ampliar el encuadre de la fotografía para que la tecnología construya un futuro donde nadie se quede atrás.
Descubre más sobre algoritmos y tecnología
¿Es posible crear una inteligencia artificial totalmente objetiva?
Aunque la tecnología avanza a un ritmo vertiginoso, alcanzar una objetividad absoluta es una meta utópica. Las máquinas aprenden de enormes bases de datos generadas por seres humanos, y nuestro mundo real está lleno de matices históricos, culturales y sociales. El objetivo de los expertos no es crear una herramienta perfecta, sino sistemas transparentes, auditables y que cuenten con mecanismos para identificar y corregir sus propios fallos de forma continua.
¿Existen leyes para regular la responsabilidad en la inteligencia artificial?
Sí, cada vez más instituciones están tomando cartas en el asunto. El ejemplo más destacado es la reciente Ley de Inteligencia Artificial de la Unión Europea (AI Act). Esta normativa clasifica los sistemas tecnológicos según su nivel de riesgo y busca prohibir aquellas prácticas que se consideran inaceptables para los derechos humanos, exigiendo auditorías rigurosas a las empresas desarrolladoras para garantizar entornos digitales seguros.
¿Qué puedo hacer como usuario frente al sesgo de automatización?
El sesgo de automatización ocurre cuando confiamos más en la decisión de un sistema informático que en nuestro propio criterio. Para combatirlo en nuestro día a día, la herramienta más poderosa es el espíritu crítico: no dar por cierta la primera respuesta que nos devuelve un chatbot, contrastar siempre los datos para frenar la desinformación y las fake news, y recordar que las recomendaciones que nos aparecen en pantalla responden a un diseño comercial previo.
