La revista Big Data & Society ha publicado el artículo “Double standards of generative AI chatbots: Unveiling (digital) ageism versus sexism through sociological interviews”, coescrito por Francesca Belotti, Mireia Fernández-Ardèvol, Veysel Bozan, Francesca Comunello y Simone Mulargia.
El artículo analiza cómo los sistemas de inteligencia artificial generativa pueden incorporar y reproducir sesgos sociales, con especial atención al edadismo digital. Desde una perspectiva sociotécnica, el estudio examina cómo los chatbots de IA generativa representan a los usuarios según la edad y el género, comparando los sesgos edadistas con los sesgos sexistas.
Como innovación metodológica, los autores entrevistaron a cinco chatbots populares de IA generativa como si fueran interlocutores. A través de estas entrevistas sociológicas, buscaron identificar estereotipos edadistas y sexistas en las respuestas de los sistemas, especialmente en relación con las prácticas digitales de diferentes perfiles de usuario.
Los resultados muestran que los chatbots reproducen dos tipos de “doble rasero”. El primero se refiere a la corrección política: los sistemas tienden a evitar respuestas sexistas sobre las prácticas digitales de hombres y mujeres, pero no muestran la misma precaución al abordar los estereotipos relacionados con la edad. En otras palabras, los chatbots parecen ser más sensibles al sexismo que al edadismo.
El segundo doble rasero se refiere a cómo los chatbots imaginan la utilidad de la inteligencia artificial para diferentes perfiles de usuario. Según el artículo, las respuestas de los sistemas atribuyen diferentes usos y necesidades en función de la edad y el género, reproduciendo asociaciones estereotipadas sobre los jóvenes, las personas mayores, los hombres y las mujeres. Esto demuestra que los sesgos sociales no solo aparecen en los datos o los algoritmos, sino también en la forma en que la IA generativa organiza y comunica la información sobre la vida social.
El estudio sostiene que estos resultados revelan una forma de injusticia epistémica generativa, entendida como la reproducción de representaciones potencialmente dañinas de grupos sociales con menos poder simbólico, como las personas mayores o las mujeres. En el caso del edadismo, el problema es particularmente preocupante porque a menudo está menos cuestionado socialmente que otras formas de discriminación.
El artículo contribuye así a los debates actuales sobre inteligencia artificial, desigualdad y cultura digital, mostrando que los sistemas de IA generativa no son herramientas neutrales. Sus respuestas incorporan repertorios culturales, imaginarios sociales y jerarquías de valores presentes en los entornos en los que se diseñan, entrenan y utilizan.
El artículo está disponible en acceso abierto en: https://doi.org/10.1177/20539517261419407