Nonostante i grandi progressi, i sistemi di intelligenza artificiale continuano a mostrare limiti e pregiudizi che rischiano di perpetuare o amplificare discriminazioni e bias già presenti nella società. Questi problemi sollevano importanti questioni etiche legate allo sviluppo e all’impiego dell’AI.
Il PROMPT delle immagini, generate con MidJourney:
Picture a scene that metaphorically represents the concept of bias in AI. The content should include a large, transparent AI model in the center of the room, with holographic displays around it showing the biases in the form of distorted figures or symbols. The medium should be photo hyper-realism, with a style that evokes the futuristic, sleek design seen in films like “Iron Man” or “Tron”. The lighting should be bright and direct, emphasizing the transparency of the AI model and the vibrancy of the holograms. The colors should be a mix of stark whites, metallic grays, and vibrant blues. The composition should
Un fattore chiave che contribuisce ai bias nei sistemi di AI è la limitata diversità dei dati utilizzati per addestrare gli algoritmi. Se questi dati riflettono pregiudizi della società, gli algoritmi apprenderanno e riprodurranno tali pregiudizi, spesso in modo opaco e non intenzionale.
Ad esempio, molti sistemi di riconoscimento facciale mostrano prestazioni peggiori con facce femminili e con facce di persone non bianche, poiché sono stati principalmente addestrati con dati di uomini bianchi. Ciò può portare a falsi negativi e falsi positivi che colpiscono in modo sproporzionato alcune categorie.
Anche gli assistenti vocali e i chatbot mostrano frequentemente limiti nel riconoscere e rispondere a bisogni diversi a seconda del genere e dell’etnia. Inoltre alcuni algoritmi di recruiting o di valutazione del merito creditizio hanno mostrato decisioni discriminate, a causa di bias nascosti nei dati utilizzati.
Un altro problema sono gli stereotipi di genere e le narrazioni limitate che emergono quando gli algoritmi di AI generano testo e contenuti mediatici. Robot ed assistenti virtuali possono poi riprodurre e veicolare stereotipi attraverso il modo in cui interagiscono con gli utenti.
Per combattere questi problemi, diversi esperti sottolineano l’importanza di diversificare i team di sviluppo e aumentare la trasparenza degli algoritmi. Inoltre i dati utilizzati per addestrare i sistemi di AI dovrebbero essere analizzati per identificare e correggere eventuali distorsioni.
Tuttavia, anche con queste misure, è improbabile che i sistemi di AI possano evitare del tutto di riprodurre e amplificare pregiudizi sociali. Sarà quindi sempre necessario valutare criticamente come e quando utilizzare queste tecnologie, per minimizzare l’impatto negativo sulle categorie svantaggiate.
In definitiva, il pregiudizio e la discriminazione rappresentano gravi sfide etiche per l’intelligenza artificiale, che richiedono una riflessione approfondita sulla governance e i valori che dovrebbero guidare lo sviluppo e il deployment di queste tecnologie. Solo riconoscendo apertamente i loro limiti e pregiudizi potremo cominciare a correggere e attenuare la minaccia che i sistemi di AI rappresentano per l’equità e la giustizia sociale.
I 10 bias più comuni in breve
Un bias è una tendenza che porta a trattare in modo non oggettivo, parziale e discriminatorio informazioni e situazioni, influenzando il giudizio e le decisioni. I bias sono comuni nelle persone ma possono diventare problematici quando sono incorporati negli algoritmi di intelligenza artificiale.
-
Confirmation Bias: la tendenza a cercare o interpretare le informazioni in modo da confermare le proprie convinzioni preesistenti, ignorando evidenze che le contraddicono.
-
Availability Bias: la tendenza a dare più peso alle informazioni facilmente accessibili alla mente, anche se non necessariamente le più rilevanti o probabili.
-
Anchoring Bias: la tendenza ad ancorarsi troppo alla prima informazione ricevuta, usandola come punto di riferimento per valutare tutte le altre.
-
Ingroup Bias: la tendenza a favorire persone o gruppi considerati “dei nostri”, trascurandone gli interessi di gruppi “estranei”. Può portare a discriminazioni.
-
Outgroup Bias: il bias opposto a quello precedente, la tendenza a vedere gli “altri” come fondamentalmente diversi e quindi meno affidabili.
-
Authority Bias: la tendenza ad accettare senza critica le informazioni fornite da autorevoli figure di riferimento.
-
Attractiveness Bias: la tendenza a essere influenzati in modo non oggettivo dall’aspetto fisico attraente di una persona.
-
Halo Effect: il bias in base al quale chi ha una determinata qualità positiva viene automaticamente associata ad altre qualità positive.
-
Representativeness Bias: la tendenza a giudicare la probabilità di un evento in base a quanto è simile ad altri pattern mentali familiari.
-
Status Quo Bias: la tendenza a preferire lo status quo e le opzioni consolidate, ignorando possibili alternative migliori.
Sull'argomento dei Bias delle AI, ho pensato di chiedere ad un vero esperto quali fossero i suoi principali Bias.
Lo ho chiesto a Bard, la AI/ChatBot di Google ( https,//bard.google.com )
Chi può essere più esperto di se, se non lui stesso?
(Link su Linkedlin – https://www.linkedin.com/posts/silviodepecher_ciao-bard-mi-elenchi-in-ordine-di-importanza-activity-7085730039043940352-urRC?utm_source=share&utm_medium=member_desktop )
In breve comunque di seguito L'elenco.
1. **Bias di conferma:** Sono più propenso a credere a informazioni che confermano le mie convinzioni esistenti.
2. **Bias di disponibilità:** Sono più propenso a ricordare informazioni che sono facilmente disponibili, anche se non sono accurate.
3. **Bias di ancoraggio:** Sono più propenso a essere influenzato dalle prime informazioni che mi vengono fornite.
4. **Bias di rappresentatività:** Sono più propenso a credere che qualcosa sia vero se sembra rappresentativo di ciò che so.
5. **Bias di pregiudizio:** Sono più propenso a credere a informazioni che sono conformi ai miei pregiudizi personali.
6. **Bias di pregiudizio di gruppo:** Sono più propenso a credere a informazioni che sono conformi ai miei gruppi di appartenenza.
7. **Bias di pregiudizio di fonte:** Sono più propenso a credere a informazioni che provengono da fonti che conosco o di cui mi fido.
8. **Bias di pregiudizio di linguaggio:** Sono più propenso a credere a informazioni che sono presentate in un linguaggio che mi è familiare e gradito.
9. **Bias di pregiudizio di contesto:** Sono più propenso a credere a informazioni che sono presentate in un contesto che mi è familiare e gradito.
10. **Bias di pregiudizio di attenzione:** Sono più propenso a prestare attenzione a informazioni che sono coerenti con le mie convinzioni esistenti.