Una paradoxa de la consciència algorítmica? Explorant les causes i contradiccions de la consciència algorítmica.
Període: 15/01/2023 – 15/12/2023
Investigadora i coordinadora del projecte: Sara Suárez-Gonzalo – CNSC (UOC).
Col·laboradores: Mireia Fernández-Ardèvol – CNSC (UOC), Andrea Rosales Climent – CNSC (UOC).
Programa i convocatòria: Sol·licitud de finançament del Projecte AiD 2022.
Finançament: AID-SSHRC – Govern del Canadà.
Àrees de recerca: Envelliment, estadístiques i polítiques públiques; Ètica de dades, perjudicis de dades i justícia de dades; Pràctiques de tecnologia digital, imposicions i apropiacions.
Descripció:
Què tan conscients som de la manera com funcionen els algorismes i donen forma a les nostres vides? I com aquesta consciència canvia el nostre comportament? No tant com es pot creure. Sara Suárez-Gonzalo anomena aquest fenomen la paradoxa de la consciència algorítmica. A través de la seva recerca, cerca comprendre per què la nostra consciència dels algorismes no sempre coincideix amb la nostra manera de comportar-nos.
Què és la consciència algorítmica? Podem definir-la com la consciència i la capacitat de comprendre com funcionen els algorismes d’aprenentatge automàtic i les maneres en què impacten les nostres vides en línia, de vegades força sensibles. La investigació sobre aquest tema és relativament nova. Els pocs estudis que hi ha suggereixen que la consciència algorítmica és baixa en general i varia entre els diferents segments de la població. Per exemple, els adults grans, les poblacions amb un nivell educatiu més baix i les dones poden tenir menys probabilitats de tenir nivells alts de consciència algorítmica. Aquests grups sovint recorren a familiars o amics per aprendre sobre algorismes (a diferència de fonts especialitzades), els utilitzen poc a la seva vida diària i, en general, expressen desconfiança cap a aquesta tecnologia.
Aleshores, què és la paradoxa de la consciència algorítmica? En poques paraules, sembla que les investigacions suggereixen que hi ha poca o cap relació entre els nivells de consciència algorítmica i el comportament de l’usuari. Per exemple, una investigació realitzada a la UOC va identificar que els diferents nivells (baixos o alts) de consciència algorítmica no semblaven afectar el gray d’ús rastrejat dels telèfons intel·ligents dels participants. Aquest projecte busca comprendre millor aquest fenomen, aprofundint en el perquè aquesta manca de relació.
Per aprofundir adequadament en aquesta qüestió, la Dra. Suárez-Gonzalo porta a terme una revisió crítica de la literatura acadèmica actual i una sèrie de grups focals de 6 persones. Aquests grups reuniran participants de diferents edats i nivells socioeconòmics per recopilar dades qualitatives sobre la paradoxa de la consciència algorítmica. Aquest estudi té un enfocament intergeneracional i pretén posar en primer pla l’experiència dels adults grans.
Enllaços: Enllaç del projecte.