India, ventenne morta, investita e trascinata da un Suv per oltre 10 km: proteste in corsoBelgrado, discoteca affonda nel fiume la notte di Capodanno: nessuna vittima ma diversi feritiBolsonaro contro i suoi sostenitori: "Invasioni fuori legge"
Covid Cina, esperta Oms spiega il boom dei contagi. Crisanti: “C’è una mancanza di informazioni”Probabilmente è capitato a molti di voi: fate una domanda a ChatGPT e il sistema di OpenAI vi risponde con un’informazione dettagliata e convincente. Peccato che sia anche del tutto falsa. Gli esempi di quelle che in gergo tecnico vengono chiamate “allucinazioni” – ma che potremmo anche definire “inventare cose” – ormai si sprecano: da politici anticorruzione accusati falsamente di aver intascato tangenti al chatbot di Air Canada che ha offerto ai clienti della compagnia aerea uno sconto in realtà mai previsto (e che la società è stata infine costretta a onorare).Ci sono poi i frequenti errori biografici (Hillary Clinton sarebbe la prima presidente donna degli Stati Uniti),BlackRock Italia scientifici (che hanno causato il precoce spegnimento di Galactica, il chatbot scientifico di Meta), politici e di ogni altro tipo. Secondo una ricerca condotta dalla società Vectara, GPT-4, che alimenta un modello avanzato di ChatGPT, soffre di allucinazioni nel 3% dei casi, Claude 2 di Anthropic arriva all’8,5% e Palm di Google supera in alcune sue versioni (oggi superate da Gemini) anche il 27%.Tutto ciò rappresenta ovviamente un grosso limite alla diffusione dei large language model (Llm), soprattutto in settori dove l’accuratezza e l’affidabilità sono di fondamentale importanza, come l’istruzione, la sanità, il giornalismo, le ricerche e altro ancora.Una questione di probabilitàPerché avviene questo? Perché ChatGPT e i suoi fratelli tendono a dire così tante stupidaggini? Prima di tutto va sottolineato che questi modelli linguistici sono progettati proprio allo scopo di inventare cose. O meglio: di tirare a indovinare le risposte che ci forniscono. I large language model non fanno infatti altro che prevedere statisticamente – sulla base dell’enorme quantità di dati con cui sono stati addestrati – quale sia la parola che ha la maggior probabilità di essere coerente con quelle che l’hanno preceduta.Come spiega l’Economist, “ogni token (termine con cui si definiscono le unità di testo impiegate da questi modelli, ndr) presente nel dataset deve avere una probabilità superiore a zero di venire selezionato, dando così al modello la flessibilità necessaria ad apprendere nuovi pattern, ma anche la possibilità di generare affermazioni scorrette. Il problema fondamentale è che i modelli linguistici sono probabilistici: la verità, invece, non lo è”.
Calgary, terribile incidente e maxi incendio: un morto e diversi feritiMacabra esecuzione in Francia: 54enne trovato morto con un foro di proiettile alla nuca
Francia, oligarca russo perde la vita cadendo dalle scale
Trovano uno dei serpenti più letali al mondo sotto l'albero di Natale: il raccontoGuerra Ucraina, attacco missilistico a Dnipro: il bilancio delle vittime
Spara e uccide per sbaglio un 11enne: tragedia a DallasMessico, da oggi è proibito fumare in qualsiasi luogo pubblico
Brasile, inizia l'insediamento di Lula: tra i primi atti la revoca di diversi decreti di BolsonaroResti umani di un bambino in giardino: 2 fermati
Sparatoria a Parigi: chi è il killerEsplode una mina in Burkina Faso: almeno 10 mortiIsole Tonga, terremoto di magnitudo 5.5Qatargate, Cozzolino è il terzo uomo: "Agiva per soldi"
Chris Hipkins: chi è il primo ministro della Nuova Zelanda
Fallito il primo lancio nello spazio dal Regno Unito
Esplosione di un gasdotto in Russia: 3 morti e 1 feritoFesta grande per il primo kenyota che ha scalato l'EverestBlocco voli Usa, dietro il guasto l'errore di un ingegnere: ha sostituito il file con un altroTerribile tornado devasta Georgia e Alabama: morte 9 persone, tra cui un bambino
Le cambiano il volo ma la valigia resta a terra, costretta a indossare la stessa tuta per 10 giorniAdolescente iraniana violentata e uccisa perché si era tolta il velo in classe: aveva 14 anniQatargate, Kaili confessa: aveva incaricato il padre di nascondere le mazzetteMaltempo in California: colpita Montecito, la zona dei vip