Genere e performatività algoritmica nei sistemi d’IA

Il capitolo è stato scritto da un sociologo, Carmine Urciuoli, e da Viviana Patti e Franco Cutugno, esperti in Natural Language Processing, linguistica computazionale, informatica applicata allo studio dei linguaggi. In questo capitolo, si osserva come i sistemi di intelligenza artificiale non si limitino a rappresentare il genere, ma contribuiscano attivamente a costruirlo attraverso dati, etichette, metriche e decisioni progettuali (fenomeno definito performatività algoritmica). I modelli di machine learning apprendono infatti schemi presenti nei dati e tendono quindi a riprodurre o amplificare stereotipi e disuguaglianze, ad esempio nei siste- mi di traduzione automatica, negli assistenti vocali o nei filtri di moderazione dei contenuti. Il lavoro esamina sia gli aspetti tecnici sia le implicazioni socioculturali della questione, mostrando come bias di genere e propagazione di stereotipi possano generare danni simbolici e materiali per gruppi marginalizzati. La riflessione a cui l’autrice e gli autori giungono è che, ovviamente, non basta correggere i bias tecnici: è necessario un approccio più ampio che consideri il rischio sociale dell’IA, promuova trasparenza nei dati, coinvolgimento delle comunità e pratiche progettuali inclusive, con l’obiettivo di sviluppare sistemi linguistici più equi e rispettosi della diversità.