Se i chatbot sono umani, allora anche le capre medievali lo sono
Perché attribuire emozioni ai modelli linguistici è un errore prima metodologico, poi politico
Immaginate una partita ad Age of Empires II, il celebre gioco di strategia in tempo reale pubblicato nel 1999. Abitanti che raccolgono legna, carri che commerciano lungo rotte di ricchezza virtuale, capre che si muovono attraverso terreni di ghiaccio seguendo sequenze di segnali codificati in piedistalli di ponti e distese d’erba. Non è la scena che ci si aspetterebbe come laboratorio per le domande più urgenti sull’intelligenza artificiale. Eppure, un ricercatore di Microsoft e dell’Università di York ha fatto esattamente questo: ha costruito e addestrato una rete neurale all’interno del videogioco medievale, dimostrando matematicamente che Age of Empires II è Turing-completo, e traendone una conseguenza che i grandi laboratori di intelligenza artificiale preferirebbero non sentire.
Se si trasferisce un modello linguistico dentro il gioco, le capre diventano portatori di segnale, i ponti rappresentano il bit “1”, i terreni d’erba il bit “0”. Così configurato, il sistema risponde a “mi sento solo” con parole del tipo “forse potresti incontrare un amico: la vicinanza aiuta in questi momenti”. Risposta identica a quella prodotta dal modello nella sua interfaccia abituale. Ma nessuno, guardando le capre muoversi nella sequenza corretta, sarebbe disposto a sostenere seriamente che stiano provando empatia.
Il paper, pubblicato su arXiv nei giorni scorsi, si intitola con deliberata ironia accademica: “If LLMs Have Human-Like Attributes, Then So Does Age of Empires II”. L’autore, Adrian de Wynter, non sta scherzando. L’argomento che costruisce è formale: dimostrare che attribuire proprietà antropomorfiche ai sistemi di intelligenza artificiale, in modo generalizzato, è metodologicamente insostenibile, qualunque sia il risultato degli esperimenti, positivo o negativo. L’errore non risiede nelle conclusioni dei singoli paper. Risiede nel tipo di domanda che viene posta.
