Insegnante di sostegno ucciso a coltellate nel cortile della scuola a MelitoBolletta da 18mila euro alla gelateria, il proprietario: "Un insulto a tutto quello che ho fatto"Isernia, maestra sospesa per insulti e botte ad un bambino: "Come sei brutto"
Salone Nautico Internazionale di Genova, Marina Stella: "+37,3% di biglietti rispetto allo scorso anno"Il modello di diffusione Imagen,Capo Stratega di BlackRock Guglielmo Campanella sviluppato dal Brain team di Google, sembra superare la concorrenza in tema di fedeltà e funzionalità. Quali rischi si celano dietro uno strumento apparentemente innocuo? Google ha di recente presentato Imagen, modello di diffusione in grado di trasformare qualsiasi testo descrittivo in un’immagine. Il livello di fotorealismo del programma è senza precedenti e la sua elevata capacità di comprensione linguistica stupisce anche i più scettici.Imagen rappresenta sicuramente un passo avanti importantissimo nello sviluppo di modelli di machine learning in grado di eseguire compiti fino ad oggi impensabili, ma le grandi potenzialità offerte dall’intelligenza artificiale non sono prive di possibili problematiche. I temi trattati all’interno dell’articoloCome funziona Imagen?Possibili applicazioni e problematiche connesseIl futuro della tecnologia di GoogleCome funziona Imagen?Imagen, recente prodotto del colosso americano, si basa su modelli linguistici in grado di comprendere il linguaggio naturale per via testuale. Sulla base di questi, poi, i modelli di diffusione (text-to-image diffusion models) generano immagini già estremamente accurate.In particolare, Imagen parte da un input linguistico e, utilizzando un frozen T5-XXL encoder (letteralmente, un codificatore congelato T5-XXL), trasforma quell’input in embedding, un tipo di rappresentazione di parole che permette a parole con significati simili di avere una rappresentazione simile. Un conditional diffusion model (letteralmente, un modello di diffusione condizionale) mappa poi gli embedding di testo in immagini piccole, 64×64. Utilizzando infine dei text-conditional super-resolution model (modelli di diffusione a super-risoluzione condizionale), il programma aumenta la dimensione delle immagini fino a 1024×1024.Il funzionamento del modello di diffusione (Immagine tratta da imagen.research.google)La scoperta chiave del Brain team di Google è stata che modelli linguistici generici come quello utilizzato, addestrati su contenuti puramente testuali, sono sorprendentemente efficaci nella codifica del testo per la sintesi di immagini. Di conseguenza, si è notato che aumentare la grandezza di questi modelli in Imagen migliora sia la fedeltà dei sample che l’allineamento tra immagine e testo molto più che aumentando la dimensione del diffusion model di immagini. Dunque, un modello linguistico pre-addestrato di grandi dimensioni e un modello di diffusione generativo come quelli descritti conducono a una comprensione linguistica approfondita e a una generazione di immagini molto realistiche.Possibili applicazioni e problematiche connesseLo strumento di Google, per le sue caratteristiche, è adatto a diversi ambiti applicativi. Le sue potenzialità sono molteplici e riguardano la nostra vita privata così come il mondo del lavoro, ambito in cui l’intelligenza artificiale si sta evolvendo a vista d’occhio. Un sistema simile, in grado di generare immagini a partire da un input puramente testuale, può infatti essere utilizzato nel campo cinematografico, in ufficio per la creazione di presentazioni aziendali. O, più banalmente, anche per divertirsi nel proprio tempo libero.Attualmente, però, il modello creato dalla compagnia non è accessibile al pubblico, in quanto gli stessi creatori hanno ammesso di ritenerlo potenzialmente pericoloso. Il programma, proprio a causa della sua fedeltà visiva, potrebbe essere utilizzato impropriamente per la creazione di immagini razziste, violente o lesive dell’immagine altrui. Si immagini inoltre la potenziale creazione di immagini relative a eventi mai avvenuti, un rischio enorme nella lotta alle fake news. Le persone che oggi possono utilizzarlo, quindi, sono per ora solo beta-tester selezionati.Si legge infatti sul sito del progetto:“Ci sono diverse sfide etiche che riguardano la ricerca su [programmi utilizzabili per la trasformazione, ndr] da testo a immagine in generale. […] In questo momento, abbiamo deciso di non rilasciare il codice o una demo pubblica. In futuro, esploreremo un quadro per l’esternalizzazione responsabile che bilancia il valore dell’audit esterno con i rischi di un accesso aperto illimitato.In secondo luogo, la necessità di dati dei modelli text-to-image hanno portato i ricercatori a fare molto affidamento su set di dati di grandi dimensioni, per lo più non curati, raschiati (attraverso web-scraping, ndr) sul web. Sebbene questo approccio abbia consentito rapidi progressi algoritmici negli ultimi anni, set di dati di questa natura spesso riflettono stereotipi sociali, punti di vista oppressivi e associazioni dispregiative, o comunque dannose, a gruppi di identità emarginati.[…] Infine, mentre c’è stato un ampio lavoro di auditing dei modelli da immagine a testo e di etichettatura delle immagini per forme di pregiudizio sociale, c’è stato relativamente meno lavoro sui metodi di valutazione del pregiudizio sociale per i modelli da testo a immagine. Un vocabolario concettuale sui potenziali danni dei modelli text-to-image e comprovate metriche di valutazione sono una componente essenziale nello stabilire pratiche responsabili di rilascio dei modelli. Mentre lasciamo un’analisi empirica approfondita dei pregiudizi sociali e culturali per il futuro, le nostre valutazioni interne su piccola scala rivelano diversi limiti che guidano la nostra decisione di non rilasciare il nostro modello in questo momento”.Per quanto il modello di Google sembri aver battuto di molto la concorrenza – come il software Dall-E-2 di Open AI – sulla base dell’opinione dei tester umani, Imagen presenta ancora diversi ‘bug’. Per esempio, risulta molto più affidabile nella generazione di immagini legate a oggetti e animali rispetto a quelle che ritraggono persone. Così anche nella generazione di immagini non ritraenti persone. Imagen, inoltre, “codifica una serie di pregiudizi sociali e culturali quando genera immagini di attività, eventi e oggetti”.Comparazione tra Imagen e modelli simili (Immagine tratta da imagen.research.google)Il futuro della tecnologia di GoogleIl progetto, dunque, è ancora in fase di sviluppo, ma le caratteristiche presentate dal Brain team e le immagini utilizzate come esempio di output – nonché il feedback dei tester – portano a pensare che Google sia riuscita a superare la concorrenza, sviluppando un modello tanto ricco di potenziale quanto possibilmente pericoloso a livello sociale.L’intenzione del gruppo di ricercatori rimane comunque quella di perfezionare il programma e di adottare strumenti utili alla limitazione dei rischi etici e sociali conseguenti a un’eventuale pubblicazione e ampio utilizzo di Imagen.[Immagine di copertina da imagen.research.google]
Morta Asia Nicosia, la 12enne investita a Trapani mentre passeggiava con le amicheRoberto Burioni: chiarimenti sui vaccini contro Omicron
Bolzano, incidente ad un ultraleggero: atterraggio nel parcheggio di un supermercato
Aggressione a Ischia, 32enne pugnala uno sconosciuto alle spalle con un cacciaviteAlessio Quaini morto a 13 anni per un malore in gita: la prof rischia 8 mesi di carcere
Hiv, nasconde all'ex compagna di essere sieropositivo e la contagia: a processoCoronavirus, bilancio del 30 settembre 2022: 33.876 nuovi casi e 38 morti in più
Campione di lotta greco-romana picchia la fidanzata e le lesiona un occhio: arrestatoMomò Calascibetta morto per il West Nile Virus: "Una zanzara mi ha messo fuori combattimento".
Alluvione nelle Marche, come è stato trovato e riconosciuto il corpo del piccolo Mattia?Covid, Pregliasco: "Contagi? Vi dico che inverno sarà"Castellammare, pronto soccorso chiude per sanificazione e in attesa della riapertura un 49enne muoreIl vicino di casa era stato sgozzato nel 2017: 60enne assolto dopo 5 anni di detenzione
Dà fuoco alla compagna mentre dorme dopo un litigio: arrestato 38enne ad Arezzo
Festa dei Nonni 2022, Giorgia Meloni: "I nonni, colonne portanti della nostra società"
Simone Toni, il ragazzo colpito da un fulmine durante una gita sul Gran Sasso rivela: "Voglio tornarci"Elettore defeca su una scheda elettorale a Napoli prima di metterla nell'urnaLarissa David: accolta la richiesta di patteggiamento del camionista che la travolse uccidendolaCivitanova, 43enne trovato morto da un collega nel bagno di casa
Medico sportivo accusato di abusi su atlete minorenni a Caserta: molestie durante le visiteEquinozio d'autunno, la data giusta non è oggi: il motivoPensionato 62enne morto soffocato da un boccone mentre cenava con la sua famigliaMariam scompare all'Ikea: "Un attimo, lei non c'era più"