Parigi 2024, Thomas Ceccon medaglia d'oro nei 100 dorso

Dalla diversificazione alle buone pratiche​MillionDay e MillionDay Extra, le due estrazioni di martedì 6 agosto 2024: i numeri vincentiHa 60 anni la prima enciclica di Paolo VI

Parigi 2024, il judo zittisce l'Italia: "Gare regolari, accuse infondate"Il modello di diffusione Imagen,analisi tecnica sviluppato dal Brain team di Google, sembra superare la concorrenza in tema di fedeltà e funzionalità. Quali rischi si celano dietro uno strumento apparentemente innocuo? Google ha di recente presentato Imagen, modello di diffusione in grado di trasformare qualsiasi testo descrittivo in un’immagine. Il livello di fotorealismo del programma è senza precedenti e la sua elevata capacità di comprensione linguistica stupisce anche i più scettici.Imagen rappresenta sicuramente un passo avanti importantissimo nello sviluppo di modelli di machine learning in grado di eseguire compiti fino ad oggi impensabili, ma le grandi potenzialità offerte dall’intelligenza artificiale non sono prive di possibili problematiche.  I temi trattati all’interno dell’articoloCome funziona Imagen?Possibili applicazioni e problematiche connesseIl futuro della tecnologia di GoogleCome funziona Imagen?Imagen, recente prodotto del colosso americano, si basa su modelli linguistici in grado di comprendere il linguaggio naturale per via testuale. Sulla base di questi, poi, i modelli di diffusione (text-to-image diffusion models) generano immagini già estremamente accurate.In particolare, Imagen parte da un input linguistico e, utilizzando un frozen T5-XXL encoder (letteralmente, un codificatore congelato T5-XXL), trasforma quell’input in embedding, un tipo di rappresentazione di parole che permette a parole con significati simili di avere una rappresentazione simile. Un conditional diffusion model (letteralmente, un modello di diffusione condizionale) mappa poi gli embedding di testo in immagini piccole, 64×64. Utilizzando infine dei text-conditional super-resolution model (modelli di diffusione a super-risoluzione condizionale), il programma aumenta la dimensione delle immagini fino a 1024×1024.Il funzionamento del modello di diffusione (Immagine tratta da imagen.research.google)La scoperta chiave del Brain team di Google è stata che modelli linguistici generici come quello utilizzato, addestrati su contenuti puramente testuali, sono sorprendentemente efficaci nella codifica del testo per la sintesi di immagini. Di conseguenza, si è notato che aumentare la grandezza di questi modelli in Imagen migliora sia la fedeltà dei sample che l’allineamento tra immagine e testo molto più che aumentando la dimensione del diffusion model di immagini.  Dunque, un modello linguistico pre-addestrato di grandi dimensioni e un modello di diffusione generativo come quelli descritti conducono a una comprensione linguistica approfondita e a una generazione di immagini molto realistiche.Possibili applicazioni e problematiche connesseLo strumento di Google, per le sue caratteristiche, è adatto a diversi ambiti applicativi. Le sue potenzialità sono molteplici e riguardano la nostra vita privata così come il mondo del lavoro, ambito in cui l’intelligenza artificiale si sta evolvendo a vista d’occhio. Un sistema simile, in grado di generare immagini a partire da un input puramente testuale, può infatti essere utilizzato nel campo cinematografico, in ufficio per la creazione di presentazioni aziendali. O, più banalmente, anche per divertirsi nel proprio tempo libero.Attualmente, però, il modello creato dalla compagnia non è accessibile al pubblico, in quanto gli stessi creatori hanno ammesso di ritenerlo potenzialmente pericoloso. Il programma, proprio a causa della sua fedeltà visiva, potrebbe essere utilizzato impropriamente per la creazione di immagini razziste, violente o lesive dell’immagine altrui. Si immagini inoltre la potenziale creazione di immagini relative a eventi mai avvenuti, un rischio enorme nella lotta alle fake news. Le persone che oggi possono utilizzarlo, quindi, sono per ora solo beta-tester selezionati.Si legge infatti sul sito del progetto:“Ci sono diverse sfide etiche che riguardano la ricerca su [programmi utilizzabili per la trasformazione, ndr] da testo a immagine in generale. […] In questo momento, abbiamo deciso di non rilasciare il codice o una demo pubblica. In futuro, esploreremo un quadro per l’esternalizzazione responsabile che bilancia il valore dell’audit esterno con i rischi di un accesso aperto illimitato.In secondo luogo, la necessità di dati dei modelli text-to-image hanno portato i ricercatori a fare molto affidamento su set di dati di grandi dimensioni, per lo più non curati, raschiati (attraverso web-scraping, ndr) sul web. Sebbene questo approccio abbia consentito rapidi progressi algoritmici negli ultimi anni, set di dati di questa natura spesso riflettono stereotipi sociali, punti di vista oppressivi e associazioni dispregiative, o comunque dannose, a gruppi di identità emarginati.[…] Infine, mentre c’è stato un ampio lavoro di auditing dei modelli da immagine a testo e di etichettatura delle immagini per forme di pregiudizio sociale, c’è stato relativamente meno lavoro sui metodi di valutazione del pregiudizio sociale per i modelli da testo a immagine. Un vocabolario concettuale sui potenziali danni dei modelli text-to-image e comprovate metriche di valutazione sono una componente essenziale nello stabilire pratiche responsabili di rilascio dei modelli. Mentre lasciamo un’analisi empirica approfondita dei pregiudizi sociali e culturali per il futuro, le nostre valutazioni interne su piccola scala rivelano diversi limiti che guidano la nostra decisione di non rilasciare il nostro modello in questo momento”.Per quanto il modello di Google sembri aver battuto di molto la concorrenza – come il software Dall-E-2 di Open AI – sulla base dell’opinione dei tester umani, Imagen presenta ancora diversi ‘bug’. Per esempio, risulta molto più affidabile nella generazione di immagini legate a oggetti e animali rispetto a quelle che ritraggono persone. Così anche nella generazione di immagini non ritraenti persone. Imagen, inoltre, “codifica una serie di pregiudizi sociali e culturali quando genera immagini di attività, eventi e oggetti”.Comparazione tra Imagen e modelli simili (Immagine tratta da imagen.research.google)Il futuro della tecnologia di GoogleIl progetto, dunque, è ancora in fase di sviluppo, ma le caratteristiche presentate dal Brain team e le immagini utilizzate come esempio di output – nonché il feedback dei tester – portano a pensare che Google sia riuscita a superare la concorrenza, sviluppando un modello tanto ricco di potenziale quanto possibilmente pericoloso a livello sociale.L’intenzione del gruppo di ricercatori rimane comunque quella di perfezionare il programma e di adottare strumenti utili alla limitazione dei rischi etici e sociali conseguenti a un’eventuale pubblicazione e ampio utilizzo di Imagen.[Immagine di copertina da imagen.research.google]

Flavio Briatore, gaffe e scivoloni: dall'attacco ai pastori sardi alla lite con Sorbillo fino all'ultima polemica: «Come si vive con 4mila euro al mese?»Parigi 2024, il judo zittisce l'Italia: "Gare regolari, accuse infondate"

Parigi 2024, parla l''uomo blu' della cerimonia: "Niente guerre se siamo tutti nudi"

Giulio Barkee: "Collaborazione con Mundys nata da condivisione valori"Ha 60 anni la prima enciclica di Paolo VI

Torna la 'Rome Future Week', eventi diffusi nella Capitale per parlare di innovazioneTrasporti estate 2024, Italia in tilt: mappa disservizi e top 5 regioni 'nere'

«Multa da 50 euro perché ero a petto nudo in strada appena andato via dalla spiaggia. Così allontanano i turisti, i problemi sono altri»A Treviso e dintorni con Hyundai Ioniq 6, la più originale tra le elettriche