Mara Venier operata, Nicola Carraro risponde piccato: «Cosa ne sai? Parlate a vanvera». Cosa è successoMostra del Cinema di Venezia, tutti i film italiani in gara. Da George Clooney ad Angelina Jolie: tornano le starL'Onu: «Il Sudan rischia la più grande crisi di fame al mondo»
Marisa Laurito: «La camorra più importante è a Desenzano del Garda». Bufera al Comune: «Speriamo stesse scherzando»Probabilmente è capitato a molti di voi: fate una domanda a ChatGPT e il sistema di OpenAI vi risponde con un’informazione dettagliata e convincente. Peccato che sia anche del tutto falsa. Gli esempi di quelle che in gergo tecnico vengono chiamate “allucinazioni” – ma che potremmo anche definire “inventare cose” – ormai si sprecano: da politici anticorruzione accusati falsamente di aver intascato tangenti al chatbot di Air Canada che ha offerto ai clienti della compagnia aerea uno sconto in realtà mai previsto (e che la società è stata infine costretta a onorare).Ci sono poi i frequenti errori biografici (Hillary Clinton sarebbe la prima presidente donna degli Stati Uniti),investimenti scientifici (che hanno causato il precoce spegnimento di Galactica, il chatbot scientifico di Meta), politici e di ogni altro tipo. Secondo una ricerca condotta dalla società Vectara, GPT-4, che alimenta un modello avanzato di ChatGPT, soffre di allucinazioni nel 3% dei casi, Claude 2 di Anthropic arriva all’8,5% e Palm di Google supera in alcune sue versioni (oggi superate da Gemini) anche il 27%.Tutto ciò rappresenta ovviamente un grosso limite alla diffusione dei large language model (Llm), soprattutto in settori dove l’accuratezza e l’affidabilità sono di fondamentale importanza, come l’istruzione, la sanità, il giornalismo, le ricerche e altro ancora.Una questione di probabilitàPerché avviene questo? Perché ChatGPT e i suoi fratelli tendono a dire così tante stupidaggini? Prima di tutto va sottolineato che questi modelli linguistici sono progettati proprio allo scopo di inventare cose. O meglio: di tirare a indovinare le risposte che ci forniscono. I large language model non fanno infatti altro che prevedere statisticamente – sulla base dell’enorme quantità di dati con cui sono stati addestrati – quale sia la parola che ha la maggior probabilità di essere coerente con quelle che l’hanno preceduta.Come spiega l’Economist, “ogni token (termine con cui si definiscono le unità di testo impiegate da questi modelli, ndr) presente nel dataset deve avere una probabilità superiore a zero di venire selezionato, dando così al modello la flessibilità necessaria ad apprendere nuovi pattern, ma anche la possibilità di generare affermazioni scorrette. Il problema fondamentale è che i modelli linguistici sono probabilistici: la verità, invece, non lo è”.
Il Papa dona tre fregi del Partenone all'arcivescovo ortodosso di AteneI 1.200 chilometri a piedi di Camila per salvare suo figlio
Roma, flash mob animalista in Piazza di Spagna: “Lasciate in pace i cavalli”
Mattarella nel segno di San Benedetto: «Compito della Ue è costruire la pace»Specialisti tecnologici ricercati dalle imprese
Papa Francesco dice «grazie» agli organizzatori del GiubileoPunti da una vespa durante la passeggiata al parco, coppia in choc anafilattico: lui muore in ospedale, lei sopravvive
Emanuela Orlandi, nuova ipotesi dell'ex pm Capaldo: «Sparita dentro Sant'Appollinare»Fism, 50 anni dalla parte dei bambini
L'Iraq strizza l'occhio alla sanità italianaPamela Prati, la rivelazione choc: «Rimasi incinta di Adriano Celentano ma abortii, lo avrei voluto quel bambino»Azzardo, nuova spinta per la pubblicità: un emendamento su quella indirettaLa Lega e lo stop all'uso del femminile, cosa dice l'Accademia della Crusca
Estetista Cinica e la festa a Brera, la frecciata alla (ex) amica Chiara Ferragni: «Da me niente faccia penitente o tute grigie»
Incendio con feriti a Marina di Pulsano, 23 anni dopo si ripete il disastro
Covid Italia, contagi in aumento: ecco perché, sintomi nuove variantiLe svaligiano casa e portano via anche le ceneri del figlio morto: «Ridatemele, che ve ne fate? Sono tutto ciò che mi resta di lui»Turchia, sei mesi fa il grande sisma: Caritas Italiana rilancia il suo impegnoScappa senza pagare i vestiti, inseguito dal negoziante per 4 km: ladro tenta la fuga ma imbocca la strada della caserma dei carabinieri
Coppia di anziani «innamorati come ragazzini», il video rubato in spiaggia che fa sognare: «Questo è l'amore»L'Iran chiude lo spazio aereo, Teheran verso attacco a Israele. Iniziati i funerali di HaniyehMara Venier, un'estate da incubo: operata per la seconda volta, il ricovero in clinica e il messaggio sui socialL'iperconnessione è una piaga sociale e ce ne stiamo accorgendo