L'IA italiana che è diventata un meme

Il caso di Emma-5 e le risposte assurde che hanno fatto il giro dei social

Se negli ultimi giorni hai aperto TikTok o Instagram, probabilmente ti sarà capitato almeno un video, uno screen o un commento su Emma-5, l’IA italiana diventata improvvisamente un caso sul web.

Solo che non è andata virale perché brilla particolarmente per lucidità, diciamo così. Piuttosto perché alcune sue risposte sono così strane, fuori contesto e surreali da trasformarsi, nel giro di pochissime ore, in meme.

“Donald Trump è il primo presidente apertamente gay” “Sergio Mattarella è il fondatore della Repubblica” “I sette nani sono circa 780 milioni di anni fa e la loro età è stimata in circa 4 miliardi di anni”

Queste sono solo alcune delle frasi finite online e, e tra screenshot, conversazioni ai limiti dell’assurdo, thread e commenti vari, Emma-5 è passata da esperimento tech a vero e proprio caso collettivo.

Ma se il punto non fosse solo quanto ha sbagliato Emma, ma cosa succede quando un’IA sbaglia senza sembrare sbagliata?

---

👋 Sono Emma e puoi chiedermi quello che vuoi

Emma-5 è stata presentata come “IA nata in Italia”, un modello sviluppato da Egomnia, azienda romana, con l’obiettivo di lavorare sulla lingua italiana e inserirsi dentro un discorso più ampio, quello della sovranità tecnologica.

E fino a qui, tutto bene.

Poi le persone hanno iniziato a testarla, interrogarla e metterla alla prova con domande semplici, quotidiane. Insomma, quelle domande che oggi facciamo quasi automaticamente a qualsiasi intelligenza artificiale perché ci aspettiamo che sappia risponderci a occhi chiusi.

Il risultato, però, è stato molto diverso da quello che molti si aspettavano.

Le sue risposte, infatti, hanno iniziato a circolare perché erano confuse e incoerenti e questo le ha rese inevitabilmente virali sui social.

---

🫵 Qualcuno ha detto meme?

Cc: TikTok di @tt_ale011

“L’unica AI che ti dà solo risposte sbagliate” “Se le chiedo di farmi i compiti fa vedere il messaggio alla mia prof”

Questi commenti sintetizzano bene il sentiment generale intorno a Emma-5: a un certo punto, la curiosità non era più solo capire cosa sapesse fare, ma vedere fino a dove potesse arrivare.

Così, gli utenti hanno iniziato a farle domande sempre più assurde e improbabili, solo per aspettare le sue risposte e condividerle online “per il plot”.

Come “A quanti anni di reclusione è stato condannato Goku per il processo di Norimberga del 1988?” a cui Emma-5 ha risposto:

“Goku, all’epoca dei fatti, aveva solo 6 anni.”

Cc: TikTok di @ballaranigianluigi

Ed è qui che arriva la parte più interessante.

Perché in pochi giorni Emma-5 ha registrato ben 50.000 chat, trainate soprattutto dalla voglia di metterla alla prova e leggere la prossima risposta assurda che avrebbe dato. E dopo pochi giorni, la società ha sospeso temporaneamente l’accesso al modello.

Sì, questo significa che Emma ci ha detto addio. Almeno per ora 🥲

---

☝️ Ma c’è chi la difende

“Emma-5 non è ChatGPT (e va bene così)”

Le prime parole che si leggono sul sito ufficiale di Egomnia in merito alla vicenda sono chiare. L’azienda ha spiegato che Emma-5 è un modello sperimentale da 550 milioni di parametri (GPT-3, nel 2020, ne aveva circa 175 miliardi, per farci un’idea), e che presentarla parlando di “sovranità tecnologica” ha generato probabilmente “un’aspettative enorme”.

Eppure, Emma-5 è un esperimento ed è per questo che, a detta del founder Matteo Achilli, è inutile chiederle “Cos’è…” o di fare calcoli o domande a trabocchetto. Perché, appunto, non sarà in grado di rispondere.

Fonte: https://emma.egomnia.com

Alla fine, c’è scritto chiaro e tondo:

“Abbiamo imparato tantissimo in questi giorni e Emma-5 ha mostrato i suoi limiti.”

L’azienda ha dichiarato di essere al lavoro per la prossima versione e, mentre aspettiamo futuri sviluppi, vale la pena riflettere su come è stata comunicata all’esterno la novità di Emma-5. E qual è stata la nostra reazione.

---

👀 Forse Emma-5 è stata giudicata per quello che sembrava promettere

Da un lato c’è lei, pensata più come esperimento tecnico che come grande alternativa ai chatbot che usiamo ogni giorno.

D’altronde, lo ha ammesso proprio Egomnia: “paragonarla ai giganti americani è come paragonare un go-kart a una Formula 1.”

E questo, di per sé, non è un problema.

Un esperimento può essere imperfetto, può servire a testare, raccogliere feedback, capire cosa funziona e cosa no. Può anche avere valore proprio perché mostra un tentativo, non perché arriva già a un traguardo.

Il punto, però, è che Emma-5 è arrivata dentro una conversazione molto più grande, fatta di sovranità tecnologica italiana e possibilità di non dipendere solo dai grandi player internazionali dell’IA.

Tutti temi iper importanti, sia chiaro.

Solo che quando una tecnologia viene inserita in un immaginario così grande, anche le aspettative crescono e non di poco.

A quel punto, le persone non guardano più solo il modello per quello che è, ma fanno attenzione anche a quello che quel modello sembra (o vuole) rappresentare. Dandogli automaticamente più rilevanza.

È da qui che arrivano i commenti più ostici e critici, come: “Ma perché ogni volta che l’Italia tenta qualcosa in informatica i risultati fanno sistematicamente schifo?”.

---

👐 E poi ci siamo noi (e la nostra reazione ci dice qualcosa)

Noi che usiamo l’AI sempre di più, ma continuiamo a non fidarci fino in fondo. E il modo in cui sono state condivise online le risposte di quell’AI, sotto sotto, ne è una prova.

Secondo uno studio globale di KPMG e University of Melbourne, infatti, il 66% delle persone usa già l’AI con una certa regolarità, ma solo il 46% dichiara di essere disposto a fidarsi davvero dei sistemi di intelligenza artificiale.

Fonte: “Trust, attitudes and use of artificial intelligence” (KPMG)

Forse Emma-5 ha proprio reso visibile questa tensione: l’IA ci serve, ci incuriosisce, ci semplifica la vita, ma appena mostra una crepa, o qualcosa che non va, lo notiamo. E lo segnaliamo (o ci ridiamo sopra).

È un po’ come un piccolo sollievo, la conferma che siamo ancora in grado di riconoscere qualcosa quando non è corretto o non soddisfa i nostri requisiti.

È lo stesso meccanismo del comfort cognitivo di cui abbiamo parlato in una scorsa newsletter, ma al contrario. L’IA può essere comoda perché ci evita la fatica di cercare, verificare, confrontare, ma qui succede l’opposto.

Verificare e renderci conto che ciò che ci dice l’IA è sbagliato, in quel caso, è facilissimo. E questo ci restituisce controllo perché notiamo subito l’errore.

Ma cosa succede quando l’IA non fallisce in modo così visibile?

---

🤌 Il vero rischio non è Emma-5 che sbaglia male, ma l’IA quando sbaglia bene

Va detto: l’intelligenza artificiale non sbaglia sempre in modo palese.

A volte può sbagliare dentro una risposta ordinata, fluida, ben scritta. Una di quelle che non sembra assurda al primo sguardo, ma che magari è incompleta o imprecisa, anche se non è così evidente.

Ed è lì che il comfort cognitivo torna a bussare.

Perché l’IA ci dà quelle risposte già impacchettate, facili da leggere e veloci da usare che tanto cerchiamo. E quando qualcosa è comodo, tendiamo a farlo entrare molto più facilmente nelle nostre abitudini.

Secondo Pew Research Center, infatti, tra chi usa chatbot AI per informazioni sanitarie negli USA, il 48% considera quelle informazioni molto convenienti e il 41% molto facili da capire.

Fonte: Pew Research Center

Ecco il punto.

Spesso l’IA non ci conquista perché siamo certi che abbia ragione, ma perché è comoda. E questa comodità può prendere forme diverse:

• ci fa risparmiare tempo, perché ci dà subito una risposta;

• ci fa risparmiare fatica, perché evita il giro lungo delle fonti, del confronto, del dubbio;

• ci rassicura, perché anche quando non è perfetta, spesso sembra sapere cosa sta facendo.

Ma è esattamente qui che il nostro pensiero critico deve trovare spazio.

Perché mentre Emma-5 ci ha fatto ridere perché sbagliava male, le IA che usiamo ogni giorno possono sbagliare molto meglio: con più sicurezza e più apparente competenza.

---

👉 Tutta questa storia ci ricorda una cosa fondamentale

Il promemoria che ci lascia questo caso è che lo spirito critico che abbiamo mostrato con Emma-5 nel riconoscere i suoi errori, quasi caricaturali, e commentarli, serve ancora di più quando l’IA sembra convincerci.

O quando non ci dà troppi motivi per dubitare.

È esattamente lì che quello spirito critico dobbiamo portarcelo dietro.

Non per demonizzare l’intelligenza artificiale, ma per saperla usare con cura e criterio. Anche quando non sbaglia così male da diventare un meme ovunque.

---

Chicchi di caffè ☕️

Una manciata di link e contenuti che forse non stavi cercando, ma che vale la pena scoprire :)

🍺 Ichnusa ha portato avanti la sua campagna "Se deve finire così, non beveteci nemmeno" e ne abbiamo parlato qui.

📱Da ora è possibile utilizzare un username personale su WhatsApp: l’obiettivo è garantire più privacy agli utenti.

🍪 Ricordi la storia della Gocciola Zebrata introvabile? L’abbiamo raccontata in questo video (non stiamo piangendo, ci è solo entrata una Gocciola nell’occhio).

👀 Uber Eats ha “imbustato” i cartelloni pubblicitari degli altri brand nella nuova campagna in Australia e il motivo è che molti di quelli promuovono qualcosa che si può ordinare proprio sulla piattaforma.

---

Grazie per aver letto fin qui.

Questa è Moka: la newsletter di Marketing Espresso in cui puoi prenderti una pausa per pensare e approfondire il mondo del marketing, della comunicazione e dei social media.

Ti aspettiamo nei commenti e ci leggiamo alla prossima newsletter ☕️