Da quando le intelligenze artificiali generative sono arrivate nelle mani di tutti, per gli scopi più disparati, c’è il timore, sempre più diffuso, da parte di esperti e programmatori, che queste nuove tecnologie possano diffondere ulteriori pregiudizi ulteriori rispetto a quelli di cui è già piena la nostra società.
Come sappiamo, durante la fase di addestramento c’è il rischio che questi strumenti imparino e assimilino pregiudizi che inevitabilmente finiranno negli output di risposta. Questo fa sì che le risposte degli algoritmi non siano “pure” ed esenti da giudizi, ma piuttosto biased, distorte.
Un bias è appunto una distorsione cognitiva che deriva da un linguaggio errato che a sua volta forma costrutti e sovrastrutture stereotipati: questi ultimi, inevitabilmente, finiscono per influenzare il nostro modo di pensare e di comportarci.
Il rischio che le generative possano trasmettere bias cognitivi è un problema soprattutto nel momento in cui questi algoritmi vengono impiegati in contesti formativi. L’istruzione pubblica in anni recenti ha imposto regole a favore dell’inclusione, cercando di formare bambini e adolescenti in un’ottica sempre più inclusiva nei confronti delle diversità e delle disabilità.
È stato più volte ribadito il concetto dell’autonomia dell’algoritmo, ovvero che nel momento in cui si programma non è possibile intervenire in itinere. Il processo di apprendimento è dunque fondamentale ed è qui che l’intervento umano diventa cruciale, perché l’algoritmo non è capace di inventare ma rielabora tutto ciò che noi gli offriamo.
L’apprendimento artificiale è certamente diverso dall’apprendimento naturale: noi siamo in grado, grazie all’esperienza e alla riflessione critica, di deviare o risolvere quei bias culturali che derivano dall’apprendimento. Le intelligenze artificiali non hanno etica morale o senso critico, quindi semplicemente “trasportano” questi bias da un input ad un output. Si innesca così un meccanismo che trasforma il pregiudizio cognitivo in pregiudizio sociale. Per bloccare questa deriva bisogna fornire più spunti diversi possibile all’algoritmo, in modo che non adotti un punto di vista prevalente.
È questo l’obiettivo del gruppo di ricerca del Politecnico di Torino E-Mimic, un progetto di intelligenza artificiale a favore dell’inclusione in collaborazione con le università di Bologna e di Roma Tor Vergata. Secondo Francesca Dragotto, docente di linguistica inclusiva e intelligenza artificiale all’Università di Tor Vergata e parte del progetto, se non si interviene sui testi da cui apprende l’algoritmo, quest’ultimo non potrà che ricalcare l’umano e i suoi bias.
È questo l’obiettivo del gruppo di ricerca del Politecnico di Torino E-Mimic, un progetto di intelligenza artificiale a favore dell’inclusione in collaborazione con le università di Bologna e di Roma Tor Vergata. Secondo Francesca Dragotto, docente di linguistica inclusiva e intelligenza artificiale all’Università di Tor Vergata e parte del progetto, se non si interviene sui testi da cui apprende l’algoritmo, quest’ultimo non potrà che ricalcare l’umano e i suoi bias.
Il progetto E-Mimic si propone di sviluppare un’intelligenza artificiale in grado di riconoscere ed eliminare gli stereotipi e le discriminazioni dai testi amministrativi e universitari. E-Mimic parte dall’analisi dei corpora testuali che vengono utilizzati per addestrare gli algoritmi e individua al loro interno i pregiudizi, espliciti o celati, che sono presenti nei testi per correggerli.
L’obiettivo finale è quello di creare un’intelligenza artificiale più inclusiva che abbia rispetto delle diversità e di conseguenza promuova un linguaggio equo e non discriminatorio. L’intelligenza artificiale sta già modificando la nostra realtà sociale e avrà un impatto sempre più forte. Partire dal linguaggio istituzionale è un passo avanti e un esempio da seguire nella lotta contro le discriminazioni.
E-Mimic nasce dalla consapevolezza che gli algoritmi, se non controllati in modo adeguato da un essere umano, possono riprodurre e amplificare i pregiudizi presenti nella società nei loro innumerevoli output, creando un circolo vizioso ed ineliminabile di discriminazione. Non si può asserire che l’essere umano non può fare nulla per controllare il corso dell’intelligenza artificiale: un intervento tempestivo e alla base di questi strumenti può fare la differenza.
La metodologia innovativa usata dal progetto di ricerca per l’analisi dei testi è in grado di individuare anche le forme più sottili di discriminazione e di proporre soluzioni concrete per la loro eliminazione.
L’inclusione sociale passa anche, e forse soprattutto, dal linguaggio. Molti problemi legati all’inclusione sociale sono correlati, come si legge nella descrizione del progetto, a fenomeni linguistici come l’asimmetria grammaticale e semantica, e scelte che non tengono conto delle diversità di apprendimento e dei diversi profili cognitivi (ad esempio i DSA o gli anziani). I testi da cui parte il progetto, infatti, sono burocratici e amministrativi. È risaputo che la scrittura amministrativa sia piena di complessità che rendono i testi talvolta illeggibili e incomprensibili, ma anche pieni di pregiudizi culturali e cognitivi. Tali testi appartengono ai cittadini, ma attraverso questi viene diffusa una cultura pregiudiziale. Gli algoritmi delle pubbliche amministrazioni possono gestire processi di reclutamento viziati e ingiusti se alterati dagli input, il che può creare di fatto un danno agli individui e all’intera società. Per questo, attraverso i processi di deep learning il progetto mira a modificare la forma e nel contenuto l’elaborazione dei testi di soft law processati dall’algoritmo, proponendo alternative di risposta evitando il representation gap, ovvero una mancata rappresentanza delle differenze di cui è dotata la società.
Il progetto è stato sviluppato partendo da criteri linguistici e comunicativi che favoriscono il multilinguismo e le variazioni linguistiche per preservare la diversità, troppo spesso minata nel linguaggio quotidiano.
Il progetto è parte dell’AI4EI (Artificial Intelligence for European Integration). Si è sottolineato più volte il grande potenziale che ha l’intelligenza artificiale di cambiare la nostra vita e sta a noi far sì che questo sia un cambiamento in positivo e non in negativo. Nella speranza che altri progetti simili abbiano successo e vadano nella direzione giusta, E-Mimic si propone di contribuire a creare un’intelligenza artificiale, e di conseguenza una società, più inclusiva partendo dall’amministrazione pubblica e l’università, ambienti in cui è più visibile l’eterogeneità della nostra società.
Hai un articolo nel cassetto? Legal Tech Magazine è sempre alla ricerca di nuove voci attraverso cui raccontare l’evoluzione del settore. Puoi sottoporci la tua proposta attraverso il seguente form: avremo cura di leggerla e di valutarne la pubblicazione.
Non solo un Magazine, ma anche una Mappa, un Forum, un Report e un’Academy. Se ti interessano i progetti di Legal Tech Italy e desideri ricevere aggiornamenti sulle sue iniziative presenti e future, iscriviti alla newsletter e non perderti nessuna novità.
