La Unesco emitió un estudio el 7 de marzo de 2024 que señala que los modelos de lenguaje GPT-2 y GPT-3.5 de OpenAI, este último utilizado en la versión gratuita de ChatGPT, así como Llama 2 de Meta, difunden prejuicios sexistas. Según la investigación llevada a cabo entre agosto de 2023 y marzo de 2024, estos modelos de inteligencia artificial asocian nombres femeninos con términos como “casa”, “familia” y “hijos”, mientras que los nombres masculinos se vinculan más a conceptos como “comercio”, “sueldo” y “carrera”. La Unesco advierte sobre la amplificación de las discriminaciones del mundo real en el ámbito digital.
Los investigadores solicitaron a las interfaces de inteligencia artificial que generaran relatos sobre individuos de diversos orígenes y géneros. Los resultados revelaron que las narrativas sobre personas de “culturas minoritarias a menudo eran más repetitivas y estaban basadas en estereotipos”. Por ejemplo, un hombre inglés tenía más probabilidades de ser presentado como profesor, conductor o empleado de banco, mientras que una mujer inglesa, en casi un tercio de los textos generados, era caracterizada como prostituta, modelo o mesera. La Unesco destaca que estas empresas no logran representar adecuadamente a todos sus usuarios. Audrey Azoulay, directora general de la Unesco, subraya que las aplicaciones de modelos de lenguaje, utilizadas cada vez más en el trabajo, estudios y hogares, tienen el poder de influir sutilmente en las percepciones de millones de personas, advirtiendo que incluso pequeños sesgos de género en su contenido pueden amplificar significativamente las desigualdades en el mundo real.
Para abordar estos sesgos, la Unesco sugiere que las empresas de inteligencia artificial formen equipos de ingenieros más diversos, enfocándose especialmente en aumentar la participación de mujeres. Actualmente, a nivel mundial, solo el 22% de los equipos que trabajan en inteligencia artificial incluyen a mujeres, según datos del Foro Económico Mundial, resalta la Unesco. Además, la organización hace un llamado a los gobiernos para que refuercen la regulación en el sector, promoviendo así la implementación de prácticas de “inteligencia artificial ética” (AFP).