Università di Cambridge, 5 studenti morti per suicidio in 4 mesiFiglia 20enne si toglie la vita due mesi dopo il suicidio del padreL’accusa dell’Fbi a Trump: “Ha sottratto documenti sulla sicurezza nazionale”
Sparatoria durante una festa in casa in California: tre morti e due feritiProbabilmente è capitato a molti di voi: fate una domanda a ChatGPT e il sistema di OpenAI vi risponde con un’informazione dettagliata e convincente. Peccato che sia anche del tutto falsa. Gli esempi di quelle che in gergo tecnico vengono chiamate “allucinazioni” – ma che potremmo anche definire “inventare cose” – ormai si sprecano: da politici anticorruzione accusati falsamente di aver intascato tangenti al chatbot di Air Canada che ha offerto ai clienti della compagnia aerea uno sconto in realtà mai previsto (e che la società è stata infine costretta a onorare).Ci sono poi i frequenti errori biografici (Hillary Clinton sarebbe la prima presidente donna degli Stati Uniti),VOL scientifici (che hanno causato il precoce spegnimento di Galactica, il chatbot scientifico di Meta), politici e di ogni altro tipo. Secondo una ricerca condotta dalla società Vectara, GPT-4, che alimenta un modello avanzato di ChatGPT, soffre di allucinazioni nel 3% dei casi, Claude 2 di Anthropic arriva all’8,5% e Palm di Google supera in alcune sue versioni (oggi superate da Gemini) anche il 27%.Tutto ciò rappresenta ovviamente un grosso limite alla diffusione dei large language model (Llm), soprattutto in settori dove l’accuratezza e l’affidabilità sono di fondamentale importanza, come l’istruzione, la sanità, il giornalismo, le ricerche e altro ancora.Una questione di probabilitàPerché avviene questo? Perché ChatGPT e i suoi fratelli tendono a dire così tante stupidaggini? Prima di tutto va sottolineato che questi modelli linguistici sono progettati proprio allo scopo di inventare cose. O meglio: di tirare a indovinare le risposte che ci forniscono. I large language model non fanno infatti altro che prevedere statisticamente – sulla base dell’enorme quantità di dati con cui sono stati addestrati – quale sia la parola che ha la maggior probabilità di essere coerente con quelle che l’hanno preceduta.Come spiega l’Economist, “ogni token (termine con cui si definiscono le unità di testo impiegate da questi modelli, ndr) presente nel dataset deve avere una probabilità superiore a zero di venire selezionato, dando così al modello la flessibilità necessaria ad apprendere nuovi pattern, ma anche la possibilità di generare affermazioni scorrette. Il problema fondamentale è che i modelli linguistici sono probabilistici: la verità, invece, non lo è”.
Giappone, vulcano Sakurajima in eruzione: annunciato massimo livello di allertaGrecia, aereo cargo precipita vicino a Kavala: 8 morti
Sparatoria a Philadelphia durante la parata del 4 luglio: 2 poliziotti feriti
Coworker e colleghe con vite complicate, poi si innamoranoL’attentatore di Shinzo Abe voleva realizzare una bomba
Thailandia, 34enne italiano trovato morto in piscina: era in vacanza con la fidanzataTerribile incidente a Newark: 2 camion in fiamme
Rapporti sessuali sulla ruota panoramica davanti ai bambini: arrestatiOman: si fanno un selfie, ma vengono portati via dalle onde. Le immagini del dramma sono virali
Minacce di morte a Jk Rowling dopo il tweet per Salman RushdieVaiolo delle scimmie, Fauci: "È una situazione da prendere assolutamente sul serio"Allarme terrorismo negli Usa, evacuato l’aeroporto di San DiegoPaziente rapisce e violenta per ore la sua psicologa
La nuova visita “a sorpresa” di una delegazione Usa a Taiwan
Spinge l’auto sulla pista ciclabile per evitare l’alcol test: arrestato e multato
Le toccanti parole della mamma di Archie: “Ha lottato fino alla fine, sono fiera di lui”Due detenute messe incinte da una carcerata transgenderDonald Trump ironizza sul cambiamento climatico: “Avremo più vista mare”Vladimir Putin, indiscrezioni sulla salute: "Malore e intervento urgente"
Caldo record, corriere sviene davanti alla porta prima di consegnare il paccoCroazia, morti in un incidente Michele Polesello e Lara Bisson: moto travolta da un furgoneBimbo di tre anni rimane chiuso in auto e muore: il padre aveva bevuto un drink con il fratelloUcraina, Zelensky: “I militari russi hanno rapito più di 200 mila bambini”