L’altro giorno, mentre camminavo e facevo brainstorming con l’Advanced Voice Mode di ChatGPT, mi ha fatto arrabbiare un ciccinino perché… “mentiva”. Mi sono accorto che stavo mostrando il mio disappunto come se fosse una persona, prima di ricordarmi i limiti del sistema. È lì che scatta l’effetto ELIZA.
L’effetto ELIZA è la tendenza ad attribuire intenzioni, comprensione ed emozioni a sistemi conversazionali. In pratica, interagendo a lungo con i chatbot finiamo per trattarli come persone reali.
Il nome viene da ELIZA, il chatbot creato al MIT da Joseph Weizenbaum nel 1966, che induceva utenti “normalissimi” a coinvolgersi emotivamente con risposte puramente meccaniche (probabilmente il primo chatbot). Più in generale, l’effetto ELIZA è una forma di antropomorfizzazione dell’IA: proiettiamo qualità umane su entità non umane.
Perché succede? Perché applichiamo automaticamente le stesse regole sociali che usiamo con le persone: è la Media Equation, o paradigma CASA (Computers Are Social Actors). Se un agente parla con tempi, turni e segnali “sociali”, il nostro cervello lo tratta come un interlocutore umano.
L’effetto ELIZA può avere pro e contro. Da un lato, il livello attuale dell’AI conversazionale è tale da poter offrire un supporto utile in determinati contesti; dall’altro, dobbiamo stare attenti a definire il confine tra interfaccia empatica e manipolazione di utenti vulnerabili, senza contare la tendenza all’isolamento, già forte con il digitale.
Ora, quando instaurerete accese conversazioni con la vostra AI, saprete che sta entrando in gioco l’effetto ELIZA. 🤗