Bimbo morto a Livorno, arrestata la madre per omicidio premeditato

Milano, giovane coppia rapinata da un gruppo di egiziani: 7 arrestiPrecipita parapendio nell'Oberland berneseBassetti: la nuova intervista sul Covid

Quattro giovani morti in un incidente stradale a CagliariÈ davvero possibile “leggere” e prevedere i comportamenti delle persone permettendo alla polizia o addirittura alle macchine di intervenire e catturare potenziali malviventi?Campanella Non si tratta di domande di scuola e di discussioni accademiche rispetto a un futuro lontano e improbabile, perché il progresso corre veloce e questi interrogativi su “tecnogiustizia” e “tecnoautorità” iniziano a entrare nella nostra società.In Gran Bretagna così come in California vengono testati da tempo programmi di intelligenza artificiale che individuano aree, comunità e situazioni a rischio oppure scandagliano database con criminali comuni, cercando di indovinare quali soggetti possano commettere un reato violento, assegnando a ciascuno un punteggio di rischio.La Commissione Ue sta preparando un regolamento sull’intelligenza artificiale. Peccato che si riferirà solo all’Ai per usi civili, mentre i problemi più gravi li avremo nei settori della difesa e della sicurezza. È desiderabile che i dati, gli algoritmi, le macchine esperte, in una parola l’intelligenza artificiale diventino un’arma di previsione, dissuasione e repressione del crimine? È davvero possibile “leggere” e prevedere i comportamenti delle persone permettendo alla polizia o addirittura alle macchine di intervenire e catturare potenziali malviventi? È tollerabile che una società avanzata e uno stato di diritto possano anche soltanto concepire di analizzare espressioni ed emozioni per scommettere sull’attitudine criminale di un individuo? Non si tratta di domande di scuola e di discussioni accademiche rispetto a un futuro lontano e improbabile, perché il progresso corre veloce e questi interrogativi su “tecnogiustizia” e “tecnoautorità” iniziano a entrare nella nostra società. Non stiamo parlando di Tom Cruise e Minority Report, insomma, ma di vita reale. In Gran Bretagna così come in California vengono testati da tempo programmi di intelligenza artificiale che individuano aree, comunità e situazioni a rischio oppure scandagliano database con criminali comuni, cercando di indovinare quali soggetti possano commettere un reato violento, assegnando a ciascuno un punteggio di rischio. Come ha raccontato Fabio Chiusi su Valigia Blu si sperimentano perfino strumenti per rilevare dai volti le emozioni: in Uttar Pradesh, a Lucknow, le autorità hanno installato sistemi di identificazione di espressioni facciali di paura, tristezza, dolore e quant’altro possa indicare una violenza in atto contro donne e bambini (fenomeno assai diffuso, secondo le statistiche, in quel territorio come, purtroppo, in tanti altri luoghi del mondo). Te lo leggo in faccia Questo “test”, che cerca di sfruttare algoritmi intelligenti per captare segnali d’allarme sui volti delle vittime, ha destato commenti sconcertati tra gli esperti di machine learning: pensare che un algoritmo possa capire le emozioni di un individuo solo valutandone le rughe del viso parrebbe, in effetti, un’illusione destinata a naufragare, poiché non tutto è visibile agli occhi artificiali. D’altra parte gli esseri umani non mostrano tutto ciò che provano; reagiscono sorridendo anche in frangenti dolorosi o di terrore o rimangono impassibili subendo abusi. Insomma, la pretesa di rilevare stati d’animo con una telecamera deve fare i conti con l’unicità umana e le variabili della coscienza. Sarebbe enorme la quantità di falsi positivi causati da queste tecnologie, ben lungi dall’essere infallibili. Il principio di “Rule of Human Law by Default” dovrebbe imporre la progettazione e l’uso di sistemi informatici, a maggior ragione se intelligenti, nei quali l’ultima parola spetti sempre e solo a super-admin umani. Cosa che ora non c’è e non ci mette al riparo dall’avere in futuro macchine a governarci, anche solo implicitamente. Già oggi quando parliamo di tutela dei lavoratori, i sindacati sono costretti spesso ad avere a che fare, più che con datori di lavoro umani, con algoritmi, app, controlli automatizzati che dettano le regole sul lavoro. Passaggio irreversibile Il rischio è quello di innescare un meccanismo irreversibile. La Commissione Ue ha lavorato negli anni per immaginare requisiti etici da applicare all’intelligenza artificiale. Dopo avere pubblicato linee guida etiche e un libro bianco sull’argomento, ci si attende a breve una proposta di regolamento europeo che miri a normare le forme più rischiose per i diritti e le libertà degli individui. L’intelligenza artificiale può essere una grande opportunità, ma se non governata può davvero essere «l’ultima invenzione dell’essere umano», per citare, tra gli altri, James Barrat: in effetti, al di là della nostra sorte, potrebbe arrivare il momento in cui le persone delegheranno la creatività e la capacità di inventare agli algoritmi. Uno scenario di autoriduzione allo stato vegetativo assolutamente non desiderabile. Le macchine, in passato, hanno sostituito le azioni umane e questo ha avuto conseguenze sui posti di lavoro. Oggi il rischio è di un salto ulteriore: robot e algoritmi possono iniziare a sostituire i pensieri e le volontà degli esseri umani. C’è una bella differenza. Occuparsi di scenari distopici non vuol dire essere contro lo sviluppo tecnologico, l’intelligenza artificiale e le altre magnifiche sorti “e-progressive”, ma avere la consapevolezza e la determinazione, finché si è in tempo, di ancorare questa evoluzione a un’etica umanistica. Vale per la scienza, per l’industria, per la politica e per ogni istituzione. La politica dovrebbe abbandonare i conformismi e avere il coraggio, forse spudorato, di inserire nelle costituzioni nuovi principi e norme fondamentali. Proprio lo “stato di diritto umano”, ad esempio, per il quale mai dovrebbe essere lasciata la possibilità di agire come autorità o persino di far legiferare alle macchine e agli algoritmi. Bisogna evitare l’avvento di poliziotti-bot o, peggio, di deputati-bot, e l’ultima parola nell’amministrazione di società o sistemi informatici dovrebbe sempre e solo appartenere a esseri umani. L’umano, con le sue imperfezioni incalcolabili e con i suoi sentimenti misteriosi, custodisce il segreto del perdono e della pace, sconosciuti all’iper razionalità perfetta degli algoritmi, per i quali tutto è calcolabile. Si sta entrando in un mondo ancora inesplorato nel quale, in nome del progresso, ci imbatteremo in sistemi estremamente rischiosi per i nostri diritti e le nostre libertà. Una soluzione può essere trattare l’intelligenza artificiale alla stregua dei medicinali e dei dispositivi medici, idea già proposta dal sottoscritto e da altri esperti come Stefano Quintarelli: prima dell’immissione in commercio di sistemi AI rischiosi, si dovrebbe prevedere un percorso di sperimentazione e di valutazione degli impatti per considerarne gli effetti collaterali e attivare forme di vigilanza sulle conseguenze indesiderate. Sembra la strada tracciata anche dal libro bianco della Commissione Ue che prelude al prossimo regolamento europeo. Peccato che quel regolamento si riferirà solo all’intelligenza artificiale per usi civili, mentre i problemi più gravi li avremo nei settori della difesa e della sicurezza.   © Riproduzione riservataPer continuare a leggere questo articoloAbbonatiSei già abbonato?AccediLuca Bolognini

Incidente sul lavoro a Senago, ingegnere morto risucchiato da un ventilatoreIncidente sul lavoro a Senago, ingegnere morto risucchiato da un ventilatore

Incidente sul lavoro a Senago, ingegnere morto risucchiato da un ventilatore

Maestra calva insultata da bambini, il racconto di MiriamBimba caduta dal 5° piano a Torino, salvata da un passante: lo shock dei genitori

Terremoto a Napoli: scossa di magnitudo 2.9 in zona Campi FlegreiMilano, si fingeva una ragazza per adescare minorenni su TikTok: arrestato 23enne

Scuola, le novità per il nuovo anno: si parte con il tutorTorino, in una palestra compaiono orinatoi a forma di bocca: la polemica