LangBiTe desafía la IA sesgada: con justicia, ética y transparencia
El avance de la inteligencia artificial generativa no está exento de riesgos, y la Universitat Oberta de Catalunya (UOC) junto a la Universidad de Luxemburgo han decidido enfrentar el problema con LangBiTe. Esta poderosa herramienta de código abierto revela los prejuicios políticos, de género y xenófobos en modelos como ChatGPT y otros sistemas generativos.
Los modelos de IA actuales están contaminados por sesgos dañinos heredados de sus datos de entrenamiento, obtenidos de foros, redes sociales y otras fuentes online.
Según Sergio Morales, líder del proyecto en la UOC, LangBiTe no solo identifica estos prejuicios, sino que ofrece a usuarios y desarrolladores un sistema para evaluar la ética y la equidad de las respuestas de la IA.
“Es imperativo que las tecnologías no perpetúen discriminaciones sistémicas”, enfatizó Morales. LangBiTe detecta desviaciones relacionadas con racismo, homofobia, xenofobia, sexismo e incluso parcialidad política, entre otros.
Más allá de lo evidente
Mientras herramientas anteriores se enfocaban únicamente en la discriminación de género, LangBiTe expande su alcance hacia minorías y grupos vulnerables.
Los investigadores destacan cómo algunos modelos responden de manera racista, homófoba o tránsfoba, reflejando los problemas subyacentes en su programación.
“Queremos que LangBiTe sea el estándar ético, adaptable a las necesidades culturales y regulatorias de cada institución”, aseguró el equipo.
Flexibilidad para usuarios y exigencia para desarrolladores
LangBiTe no solo es efectivo, sino personalizable. Con más de 300 prompts especializados y plantillas editables, los usuarios pueden adaptarlo a cualquier contexto cultural o marco ético.
Además, es compatible con una amplia gama de modelos de IA, como GPT-3.5, GPT-4, y Flan-T5 de Google, permitiendo comparaciones y análisis multilingües.
Morales destacó cómo el rendimiento puede variar: "ChatGPT 4 tiene un 97% de éxito en pruebas contra el sesgo de género, mientras que su predecesor, ChatGPT 3.5, apenas alcanza el 42%".
Hacia una IA inclusiva y responsable
El alcance de LangBiTe va más allá del texto. Los investigadores trabajan para integrar la detección de sesgos en modelos de generación de imágenes como DALL·E y Stable Diffusion, usados ampliamente en medios y publicidad.
Esto responde a la necesidad de erradicar estereotipos visuales dañinos, que perpetúan prejuicios a nivel global.
LangBiTe también se posiciona como un aliado clave para cumplir con la EU AI Act, que exige equidad y no discriminación en los sistemas de inteligencia artificial. Instituciones como el Luxembourg Institute of Science and Technology ya han adoptado esta herramienta.
Contribuyendo a los Objetivos de Desarrollo Sostenible de la ONU, LangBiTe promueve la igualdad de género y la innovación ética, consolidándose como un bastión en la lucha por una IA más justa.
¿Un futuro sin sesgos?
LangBiTe no es solo una herramienta, es una declaración de principios: la inteligencia artificial debe servir a todos, sin exclusiones ni prejuicios.
De manera que los desarrolladores, instituciones y usuarios tienen ahora una poderosa arma para garantizar que la tecnología trabaje por un futuro equitativo y transparente.
