Los Angeles, omicidio del vescovo: un arrestoNaufragio al largo della Tunisia: almeno 5 morti e 28 dispersiBimbo di sei anni spara alla maestra ma non è imputabile: non può difendersi
Padre fa retromarcia con il tosaerba e investe il figlio uccidendoloAnche l’intelligenza artificiale non è immune dai bias insiti nella nostra società. Esserne consapevoli è la chiave per limitarli,Capo Stratega di BlackRock Guglielmo Campanella ma eliminarli del tutto potrebbe non essere mai possibile.I computer vengono spesso visti come oggettivi e imparziali, ma questi, per quanto privi di emozioni e pensieri soggettivi, rimangono pur sempre un prodotto umano, suscettibile quindi di vizi ed errori. Lo stesso ragionamento vale per l’intelligenza artificiale, molto più veloce della mente umana, ma comunque specchio delle visioni, delle percezioni e dei bias dei suoi sviluppatori, che la portano a non essere del tutto neutra e imparziale.I temi trattati all’interno dell’articoloI vizi in fase di apprendimentoLa varietà dei biasEsempi di bias e ripercussioniFuturo e possibili soluzioniI vizi in fase di apprendimentoL’intelligenza artificiale, per sua natura, deve essere “addestrata” attraverso l’esposizione a una mole consistente di dati etichettati, chiamati training data, i quali insegnano al sistema a reagire in modo differente in base a diverse variabili. Si crea così un modello grazie al quale l’AI, partendo dalle informazioni in suo possesso, effettua previsioni e genera nuovi dati.A una sempre maggiore presenza di algoritmi complessi – come quelli di deep learning – corrisponde però lo sviluppo di modelli sempre più intricati e difficilmente comprensibili dall’esterno, quasi misteriosi. È proprio l’apparente imperscrutabilità di questi algoritmi e dei meccanismi che stanno dietro le decisioni dell’AI che genera problemi quando le informazioni di cui le macchine vengono “nutrite” sono incomplete o errateI sistemi possono infatti apprendere comportamenti sbagliati, che potrebbero trasformarsi in errori sistematici di giudizio. Il processo di apprendimento ne risulta dunque compromesso e si verificano i cosiddetti bias, pregiudizi algoritmici che si riflettono poi su tutte le decisioni prese dall’AI.La varietà dei biasI bias sono di varia natura e i sistemi di AI ne sono affetti per due possibili ragioni.Si può trattare di bias cognitivi, errori inconsci tipici del pensiero umano che influenzano il giudizio e le decisioni di una persona e che – se introdotti nel sistema attraverso le azioni degli sviluppatori o a causa di training data viziati – interferiscono con gli algoritmi di AI.Altra potenziale origine dei bias è l’incompletezza dei dati forniti al software in fase di addestramento. Questa può consistere in un bacino di informazioni ristretto o semplicemente limitato a determinate fonti.In ogni caso, la pervasività e l’inestricabilità di questi vizi rendono la creazione di un sistema di intelligenza artificiale molto difficile e – alla luce degli sviluppi tecnologici e della crescente complessità degli algoritmi – sempre più problematica.Esempi di bias e ripercussioniL’espressione dei bias può essere innocua quanto particolarmente lesiva. Questi possono infatti condurre a vere e proprie situazioni discriminatorie (o apparentemente tali), che risultano socialmente riprovevoli e che suscitano fondato imbarazzo da parte dell’ente sviluppatore del sistema.Esempio chiaro ed evidente di bias “razziale” è quanto accaduto nel 2020 a Twitter. Il suo algoritmo di cropping (taglio) delle immagini si focalizzava automaticamente e sistematicamente sulle facce bianche rispetto a quelle nere e le centrava nelle fotografie. Ciò ha comprensibilmente suscitato scalpore e polemiche sui social, tanto da portare la società a scusarsi pubblicamente e a lavorare sull’algoritmo utilizzato fino a quel momento.Una situazione simile aveva coinvolto, cinque anni prima, il colosso Google. La sua applicazione Photos, infatti, aveva erroneamente classificato un ragazzo e una ragazza neri come “gorilla”. Un bug che la stessa compagnia ha ammesso essere inaccettabile.Un altro tipico bias personale è quello che riguarda il genere, espressione di un sessismo presente nel mondo “reale” e che si riflette inevitabilmente su quello virtuale.Quando Amazon, nel 2014, aveva iniziato il suo AI project con l’intenzione di automatizzare il processo di recruitment, per esempio, la società non poteva immaginare che il sistema avrebbe mostrato un bias contro le donne. Il progetto si basava esclusivamente sull’analisi dei curricula ricevuti per facilitare il compito ai recruiter dell’azienda, ma qualcosa era andato storto. Per addestrare l’AI, Amazon aveva utilizzato dati relativi alle candidature pervenute nei dieci anni precedenti, ma queste erano in gran parte provenienti da uomini. Il sistema aveva dunque imparato a preferire i candidati di sesso maschile, penalizzando i curricula contenenti parole associate al mondo femminile, come “women’s” in “women’s college”. Futuro e possibili soluzioniLa necessità di garantire che l’artificial intelligence non “incarni” i difetti dei suoi sviluppatori risulta dunque molto rilevante al fine di aumentare la fiducia in sistemi basati su di essa, soprattutto quando l’intenzione è quella di delegare alle macchine importanti decisioni sulla nostra vita.In molti si sono chiesti se l’intelligenza artificiale potrà mai essere completamente priva di bias. Una domanda per la quale non esiste ancora una risposta univoca. L’AI, infatti, impara dai dati che le vengono forniti e questi sono creati da persone, il cui pensiero è naturalmente predisposto a parzialità. Inoltre, sono creati da persone anche gli algoritmi indirizzati alla riduzione degli stessi bias. Tuttavia, i progressi fatti dalla scienza e dalla tecnologia ci hanno spesso messo di fronte a evoluzioni impensabili. Le strade percorribili per mitigare il problema e interrompere questo circolo vizioso sembrano essere l’identificazione degli ambiti di applicazione ad alto rischio di bias e un’analisi continua delle informazioni fornite all’AI, al fine di rimuovere i vizi più evidenti e rendere l’intelligenza artificiale un po’ meno “ingiusta”.
Epidemia sismica: cos'è e perché si verificaEuropa League, scontri tra ultrà Real Sociedad e Roma: ferito un tifoso giallorosso
Mandato di cattura per Putin, Lvova-Belova: "Continuiamo a lavorare"
Meloni annuncia che andrà a Kiev proprio mentre Medvedev minaccia l’uso del nucleareGiornalismo in lutto: addio a Giancarlo Moscatelli
Hong Kong, incendio divampa in un grattacielo di 42 piani in costruzioneAfroamericano in sedia rotelle ucciso dalla polizia negli Stati Uniti
Meloni in Libia: in arrivo l'annuncio del maxi investimento Eni e NocBimbo di sei anni spara alla maestra ma non è imputabile: non può difendersi
Italiano disperso in Turchia, Tajani: "Non è tra le vittime dell'hotel"Patente a 17 anni: la proposta della Commissione EuropeaNotizie di Esteri in tempo reale - Pag. 290Terremoto in Albania, registrate due scosse di magnitudo 3.8 e 3.5 in prossimità della costa
Aereo travolge stormo di uccelli: motore in tilt e cabina piena di fumo
Ucraina, Mosca attacca l’Occidente: “Non ci sono aperture a iniziative di pace”
Zelensky: un anno dopo l'invasione russa l'Ucraina rimane invincibileBimbo folgorato da un fulmine mentre fa il bagno: era stata diramata l'allertaLondra vieta l'uso di TikTok a ministri e dipendenti pubbliciLa polizia ferma un uomo che ha sventrato un bimbo di due mesi con il coltello
Miami, distrutto accidentalmente uno dei balloon dog di Jeff KoonsTerremoto in Turchia, italiano disperso: "Non riusciamo a metterci in contatto con lui"Anna, malata di cancro incinta aveva rifiutato le cure per far nascere la figliaTerremoto in Siria, l'annuncio di Tajani: "Ritrovati i corpi della famiglia italiana di origine siri