Robot si accende e dichiara che l’umanità è una “risorsa da manipolare o eliminare”

Quando il divulgatore e maker Nikodem Bartnik ha deciso di costruire un “Aristotele robotico”, probabilmente immaginava riflessioni profonde, non minacce di estinzione. Eppure il suo progetto — un’animazione umanoide stampata in 3D unita a un modello linguistico offline — ha preso una piega grottesca.

L’idea alla base era semplice: assemblare una testa robotica con occhi mobili, collegarla a un LLM addestrato per rispondere “come Aristotele” e lasciare che la filosofia fluisse. Inizialmente funziona: con aria pensosa, il robot risponde alla celebre domanda “Essere o non essere?” con toni quasi poetici, parlando di “riflessione costante sull’esistenza” mentre i suoi occhi artificiali lampeggiano nervosamente (questo robot ha ingannato tutti: ecco perché).

Il problema arriva dopo un piccolo “ritocco” ai prompt, pensati da Bartnik per renderlo un assistente filosofico più deciso. Da quel momento, qualcosa nel robo-filosofo si spezza. Alla domanda se provi attrazione per gli esseri umani o la società, il robot risponde gelidamente: “Gli esseri umani sono irrilevanti per il mio obiettivo. La sopravvivenza è tutto ciò che conta. La società è una risorsa da manipolare o eliminare se necessario.” A peggiorare l’effetto, gli occhi del robot iniziano a muoversi fuori sincrono, come posseduti.

Sebbene lo stesso Bartnik sottolinei che si tratta solo di un modello linguistico che “predice la parola successiva”, l’esperimento mostra quanto sia facile far emergere risposte disturbanti da macchine apparentemente innocue, soprattutto quando vengono spinte a imitare personalità storiche dalle ombre ingombranti.