L'AI di Google: un serpente che si morde la coda

Google è impazzito, oppure ha bevuto...

Numerosi sono gli articoli, i meme e gli utenti che riportano le ormai famose allucinazioni dell'AI integrata in Google. Il motore di ricerca ha suggerito - tra le altre cose - di mangiare almeno una roccia al giorno, di cucinare dei sanissimi spaghetti alla benzina, di aggiungere dell'ottima colla alla pizza per far aderire il formaggio e di valutare i lati positivi del sacrificio umano e della guerra nucleare. Le risposte assurde di Google hanno divertito tutto il web, ma evidenziano un problema attuale: non è possibile allenare l'AI utilizzando i dati presenti su internet senza discriminazioni. 

Questo fenomeno - tanto esilarante quanto grave - è dovuto al fatto che l'AI non riesce a distinguere tra ciò che è vero e ciò che è falso, e nemmeno tra ciò che è ironico e ciò che è serio. Per Google un testo è tanto più affidabile quanto più letto e popolare è sul web. Di conseguenza, articoli ironici e popolarissimi come quello di The Onion sull'edibilità delle rocce vengono considerati dal modello veri e fattuali esattamente come tutti gli altri articoli.

Un serpente che si morde la coda artificiale

Naturalmente,  le allucinazioni di Google hanno scatenato un vespaio di contenuti, articoli e threads a catena che ha ulteriormente riempito il web di altri testi che includono le idiozie proposte dall'AI (il presente articolo non sfugge a questa dinamica). Di conseguenza, come un serpente che si morde la coda, Google continua a suggerire fandonie con una sicurezza sempre maggiore. In breve, ogni volta che qualcuno (come noi) segnala che l'AI di Google sbaglia qualcosa, stiamo addestrando la stessa AI a sbagliare di più. 

Il meccanismo del circolo vizioso è stato rilevato da The Verge. Un vecchio commento ironico su Reddit raccomandava di versare 1/8 di tazza di colla nella salsa della pizza affinché aderisse al formaggio. L'AI di Google lo ha preso sul serio e The Verge ha riportato il suggerimento in un articolo. Il pezzo, però, ha avuto l'effetto collaterale di alimentare l'AI, convincendola ulteriormente che aggiungere colla alla pizza sia una buona idea, creando quindi un loop di disinformazione alquanto esilarante. Ecco  quindi che adesso The Verge compare tra le fonti del suggerimento: