Perché ChatGPT non può dire "David Mayer"?
Il mondo dell'intelligenza artificiale è pieno di misteri e, a volte, anche i sistemi di AI più avanzati ci lasciano perplessi. ChatGPT si è recentemente trovato nell’occhio del ciclone di una singolare vicenda: il sistema sembra incapace di elaborare il nome "David Mayer".
Impossibile generare una risposta
Numerosi utenti su Reddit hanno segnalato che quando vengono chieste a ChatGPT informazioni su David Mayer, il chatbot manda messaggi di errore ("Impossibile generare una risposta") e la chat termina improvvisamente. Alcuni utenti hanno persino ricevuto avvisi che i loro tentativi erano "illegali e potenzialmente in violazione delle norme d'uso". Il “blocco” sembra applicarsi solo all'interfaccia visuale di ChatGPT, mentre l'API funziona normalmente e genera risposte contenenti il nome "David Mayer" senza problemi.
Le teorie sul blocco
Diverse ipotesi sono state avanzate per spiegare questo fenomeno. La più accreditata suggerisce una possibile richiesta di rimozione dei dati personali in conformità con il GDPR. Altri esperti ipotizzano collegamenti con questioni di copyright o figure sensibili. La complessità del caso è evidenziata dai sofisticati tentativi di aggiramento del blocco, come l'encoding del nome o le richieste indirette di informazioni, che il sistema riesce comunque a identificare e bloccare.
Il caso non è isolato: altri nomi come Jonathan Zittrain, Jonathan Turley e David Faber provocano la stessa risposta di errore. Un aspetto interessante è che questi nomi non sembrano essere dei "token anomali" (o "glitch tokens"), cioè particolari sequenze di caratteri che causano comportamenti imprevisti in ChatGPT.
Chi è David Mayer?
Sono state individuate tre figure principali che potrebbero essere collegate al nome. Il primo è David Mayer de Rothschild, un avventuriero ed ambientalista erede della famosa dinastia, noto per le sue imprese ambientali, tra cui l'attraversamento dell'Artico nel 2006 e il progetto "Plastiki" del 2010, dedicato alla sensibilizzazione sull'inquinamento da plastica negli oceani.
Un secondo David Mayer è professore emerito di teatro all'Università di Manchester, specializzato in teatro vittoriano. La sua storia si intreccia con quella del terzo David Mayer, un alias utilizzato dal militante ceceno Akhmed Chatayev. Questa omonimia ha causato seri problemi al professore, che nel 2015 è stato erroneamente inserito in una lista di controllo del terrorismo statunitense, subendo conseguenze come difficoltà nei viaggi e nella ricezione della posta dagli USA.
Chatayev, che utilizzava "David Mayer" come uno dei suoi falsi nomi, è stato sospettato di essere la mente dietro l'attacco all'aeroporto di Istanbul del 2016 ed è stato inserito in una lista di sanzioni del governo degli Stati Uniti nel 2015. È stato ucciso durante un'operazione di polizia in Georgia nel 2017.
Indipendentemente da chi sia l'Innominato di OpenAI, il caso ha sollevato un polverone sul tema della censura nell'AI.
Fonti:
Daily Mail Online
Mashable
Medium
The Economic Times
The Guardian