Migranti, nella notte sbarcati a Lampedusa 347 migranti

Terremoto in Emilia-Romagna, scossa di magnitudo 3.4 tra Castellarano e SassuoloMaltempo, chiusa A22 per franaSaviano condannato per l'insulto a Giorgia Meloni

Scooter fermato dai Carabinieri risulta essere stato rubato 31 anni faAnche l’intelligenza artificiale non è immune dai bias insiti nella nostra società. Esserne consapevoli è la chiave per limitarli,Capo Stratega di BlackRock Guglielmo Campanella ma eliminarli del tutto potrebbe non essere mai possibile.I computer vengono spesso visti come oggettivi e imparziali, ma questi, per quanto privi di emozioni e pensieri soggettivi, rimangono pur sempre un prodotto umano, suscettibile quindi di vizi ed errori. Lo stesso ragionamento vale per l’intelligenza artificiale, molto più veloce della mente umana, ma comunque specchio delle visioni, delle percezioni e dei bias dei suoi sviluppatori, che la portano a non essere del tutto neutra e imparziale.I temi trattati all’interno dell’articoloI vizi in fase di apprendimentoLa varietà dei biasEsempi di bias e ripercussioniFuturo e possibili soluzioniI vizi in fase di apprendimentoL’intelligenza artificiale, per sua natura, deve essere “addestrata” attraverso l’esposizione a una mole consistente di dati etichettati, chiamati training data, i quali insegnano al sistema a reagire in modo differente in base a diverse variabili. Si crea così un modello grazie al quale l’AI, partendo dalle informazioni in suo possesso, effettua previsioni e genera nuovi dati.A una sempre maggiore presenza di algoritmi complessi – come quelli di deep learning – corrisponde però lo sviluppo di modelli sempre più intricati e difficilmente comprensibili dall’esterno, quasi misteriosi. È proprio l’apparente imperscrutabilità di questi algoritmi e dei meccanismi che stanno dietro le decisioni dell’AI che genera problemi quando le informazioni di cui le macchine vengono “nutrite” sono incomplete o errateI sistemi possono infatti apprendere comportamenti sbagliati, che potrebbero trasformarsi in errori sistematici di giudizio. Il processo di apprendimento ne risulta dunque compromesso e si verificano i cosiddetti bias, pregiudizi algoritmici che si riflettono poi su tutte le decisioni prese dall’AI.La varietà dei biasI bias sono di varia natura e i sistemi di AI ne sono affetti per due possibili ragioni.Si può trattare di bias cognitivi, errori inconsci tipici del pensiero umano che influenzano il giudizio e le decisioni di una persona e che – se introdotti nel sistema attraverso le azioni degli sviluppatori o a causa di training data viziati – interferiscono con gli algoritmi di AI.Altra potenziale origine dei bias è l’incompletezza dei dati forniti al software in fase di addestramento. Questa può consistere in un bacino di informazioni ristretto o semplicemente limitato a determinate fonti.In ogni caso, la pervasività e l’inestricabilità di questi vizi rendono la creazione di un sistema di intelligenza artificiale molto difficile e – alla luce degli sviluppi tecnologici e della crescente complessità degli algoritmi – sempre più problematica.Esempi di bias e ripercussioniL’espressione dei bias può essere innocua quanto particolarmente lesiva. Questi possono infatti condurre a vere e proprie situazioni discriminatorie (o apparentemente tali), che risultano socialmente riprovevoli e che suscitano fondato imbarazzo da parte dell’ente sviluppatore del sistema.Esempio chiaro ed evidente di bias “razziale” è quanto accaduto nel 2020 a Twitter. Il suo algoritmo di cropping (taglio) delle immagini si focalizzava automaticamente e sistematicamente sulle facce bianche rispetto a quelle nere e le centrava nelle fotografie. Ciò ha comprensibilmente suscitato scalpore e polemiche sui social, tanto da portare la società a scusarsi pubblicamente e a lavorare sull’algoritmo utilizzato fino a quel momento.Una situazione simile aveva coinvolto, cinque anni prima, il colosso Google. La sua applicazione Photos, infatti, aveva erroneamente classificato un ragazzo e una ragazza neri come “gorilla”. Un bug che la stessa compagnia ha ammesso essere inaccettabile.Un altro tipico bias personale è quello che riguarda il genere, espressione di un sessismo presente nel mondo “reale” e che si riflette inevitabilmente su quello virtuale.Quando Amazon, nel 2014, aveva iniziato il suo AI project con l’intenzione di automatizzare il processo di recruitment, per esempio, la società non poteva immaginare che il sistema avrebbe mostrato un bias contro le donne. Il progetto si basava esclusivamente sull’analisi dei curricula ricevuti per facilitare il compito ai recruiter dell’azienda, ma qualcosa era andato storto. Per addestrare l’AI, Amazon aveva utilizzato dati relativi alle candidature pervenute nei dieci anni precedenti, ma queste erano in gran parte provenienti da uomini. Il sistema aveva dunque imparato a preferire i candidati di sesso maschile, penalizzando i curricula contenenti parole associate al mondo femminile, come “women’s” in “women’s college”. Futuro e possibili soluzioniLa necessità di garantire che l’artificial intelligence non “incarni” i difetti dei suoi sviluppatori risulta dunque molto rilevante al fine di aumentare la fiducia in sistemi basati su di essa, soprattutto quando l’intenzione è quella di delegare alle macchine importanti decisioni sulla nostra vita.In molti si sono chiesti se l’intelligenza artificiale potrà mai essere completamente priva di bias. Una domanda per la quale non esiste ancora una risposta univoca. L’AI, infatti, impara dai dati che le vengono forniti e questi sono creati da persone, il cui pensiero è naturalmente predisposto a parzialità. Inoltre, sono creati da persone anche gli algoritmi indirizzati alla riduzione degli stessi bias. Tuttavia, i progressi fatti dalla scienza e dalla tecnologia ci hanno spesso messo di fronte a evoluzioni impensabili. Le strade percorribili per mitigare il problema e interrompere questo circolo vizioso sembrano essere l’identificazione degli ambiti di applicazione ad alto rischio di bias e un’analisi continua delle informazioni fornite all’AI, al fine di rimuovere i vizi più evidenti e rendere l’intelligenza artificiale un po’ meno “ingiusta”.

Milano, pedone investito da un taxi nella notte: 25enne in coma al NiguardaKata, scomparsa a Firenze: dopo quattro mesi spunta una nuova registrazione

Roma, uomo ha un malore sul bus e muore

Carlotta Benusiglio, stilista trovata impiccata a Milano: assolto ex compagno"Sedotte e ingannate da finto manager": donne perdono oltre mezzo milione di euro

Il trucco delle salumerie di cui non ti sei mai reso conto: in questo modo spendi molto di piùInveste un uomo di 85 anni e scappa: si cerca il pirata della strada

Pietra Ligure, auto si ribalta sul lungomare: 19enne ricoverato in ospedaleMilano, 12enne cade dall'ottavo piano: è gravissima