La revista Big Data & Society ha publicat l’article “Double standards of generative AI chatbots: Unveiling (digital) ageism versus sexism through sociological interviews”, coescrit per Francesca Belotti, Mireia Fernández-Ardèvol, Veysel Bozan, Francesca Comunello i Simone Mulargia.
L’article analitza com els sistemes d’intel·ligència artificial generativa poden incorporar i reproduir biaixos socials, amb una atenció especial a l’edatisme digital. Des d’una perspectiva sociotècnica, l’estudi examina com els xatbots d’IA generativa representen els usuaris segons l’edat i el gènere, comparant els biaixos edatistes amb els biaixos sexistes.
Com a innovació metodològica, els autors van entrevistar cinc xatbots populars d’IA generativa com si fossin interlocutors. A través d’aquestes entrevistes sociològiques, van buscar identificar estereotips edatistes i sexistes en les respostes dels sistemes, especialment en relació amb les pràctiques digitals de diferents perfils d’usuari.
Els resultats mostren que els xatbots reprodueixen dos tipus de “doble raser”. El primer es refereix a la correcció política: els sistemes tendeixen a evitar respostes sexistes sobre les pràctiques digitals d’homes i dones, però no mostren la mateixa precaució a l’hora de tractar els estereotips relacionats amb l’edat. En altres paraules, els xatbots semblen ser més sensibles al sexisme que a l’edatisme.
El segon doble raser es refereix a com els xatbots imaginen la utilitat de la intel·ligència artificial per a diferents perfils d’usuari. Segons l’article, les respostes dels sistemes atribueixen diferents usos i necessitats en funció de l’edat i el gènere, reproduint associacions estereotipades sobre els joves, les persones grans, els homes i les dones. Això demostra que els biaixos socials no només apareixen en les dades o els algorismes, sinó també en la manera com l’IA generativa organitza i comunica la informació sobre la vida social.
L’estudi sosté que aquests resultats revelen una forma d’injustícia epistèmica generativa, entesa com la reproducció de representacions potencialment nocives de grups socials amb menys poder simbòlic, com ara les persones grans o les dones. En el cas de l’edatisme, el problema és particularment preocupant perquè sovint està menys qüestionat socialment que altres formes de discriminació.
L’article contribueix així als debats actuals sobre intel·ligència artificial, desigualtat i cultura digital, mostrant que els sistemes d’IA generativa no són eines neutrals. Les seves respostes incorporen repertoris culturals, imaginaris socials i jerarquies de valors presents en els entorns en els quals es dissenyen, s’entrenen i s’utilitzen.
L’article està disponible en accés obert a: https://doi.org/10.1177/20539517261419407