Indica un intervallo di date:
  • Dal Al

Il computer e la ragione umana: lo “shock“ di Weizenbaum

Joseph_weizenbaum
Joseph Weizenbaum ci ha lasciati il 5 Marzo 2008.   Rimarra’ purtroppo noto ai piu’ soltanto come il "padre" di   Eliza, il primo software che, a meta’ degli anni ’60, provo’ a simulare una conversazione umana con l’utente (scimmiottando lo stile di un terapeuta Rogersiano) e che diede inizio allo sviluppo di una lunga serie di programmi simili da parte di altri ricercatori, fino ad arrivare ai chatterbot e conversational agents dei nostri giorni, ivi inclusi gli assistenti virtuali come Silvia di Cartasi o Anna di Ikea.

Cio’ che invece molti non sanno e’ che le reazioni delle persone all’interazione con Eliza sorpresero a tal punto Weizenbaum, da spingerlo ad abbandonare completamente quel tipo di ricerche e, come professore di Informatica al MIT di Boston, iniziare un profondo lavoro di riflessione sul rapporto fra esseri umani e computer, parecchi anni prima che nascesse la disciplina dell’Interazione Uomo-Macchina. Weizenbaum sintetizzo’ gli anni di tali riflessioni nel libro “Computer Power and Human Reason”, uscito negli Stati Uniti nel 1976 e tradotto in italiano nel 1987 per le edizioni Gruppo Abele con il titolo “Il potere del Computer e la Ragione Umana” (versione italiana che sfortunatamente e’ diventata introvabile).
Nell’introduzione al libro, Weizenbaum spiega i motivi di quello che chiama lo “shock” inflittogli da Eliza. Cito alcuni stralci dei tre eventi determinanti:

L’interazione con gli utenti. “Rimasi allibito nel vedere quanto rapidamente e profondamente le persone che conversavano con il software si lasciassero coinvolgere emotivamente dal computer e come questo assumesse evidenti caratteri antropomorfici. Una volta la mia segretaria, che mi aveva visto lavorare al programma per molti mesi e sapeva trattarsi soltanto di un programma per computer, incomincio’ a conversare con esso. Dopo pochi scambi di battute, mi chiese di uscire dalla stanza.” (NdR: di antropomorfizzazione della macchina,  parla anche questo post).
“Certe persone conversavano con il computer come se fosse una persona a cui ci si poteva rivolgere per confidare i propri pensieri piu’ intimi. […] Non mi ero reso conto che un contatto estremamente breve con un programma di computer relativamente semplice potesse generare nelle persone normali delle enormi illusioni. Questa scoperta mi spinse ad attribuire una nuova importanza al problema del rapporto tra esseri umani e computer e a decidere di pensarci su.”

Le aspettative terapeutiche.  “Un buon numero di psichiatri credette seriamente che quel programma di computer avrebbe potuto sfociare in una nuova forma, quasi completamente automatizzata, di terapia. […] Avevo sempre creduto che per poter aiutare qualcuno ad affrontare i suoi problemi emotivi fosse indispensabile partecipare all’esperienza di quei problemi e arrivare a capirli proprio grazie a questa loro individuazione empatica. […] Che fosse possibile che anche un solo psichiatra praticante proponesse di soppiantare questa componente fondamentale del processo terapeutico con mezzi puramente tecnici, non l’avrei mai immaginato! Chissa’ cosa deve pensare del suo lavoro uno psichiatra capace di fare una proposta simile e di credere che la piu’ semplice parodia meccanica di una tecnica di colloquio possa afferrare l’essenza di un incontro fra esseri umani!”

Le aspettative sulle nuove tecnologie. “Un’altra reazione generale, e per me sorprendente, al programma Eliza fu la diffusione della credenza che esso costituisse la soluzione generale al problema della comprensione del linguaggio naturale da parte del computer. […] Questa reazione alla pubblicazione di Eliza mi mostro’, piu’ chiaramente di quanto avessi visto fino ad allora, come un pubblico anche colto sia capace, e anzi desideroso, di attribuire proprietà enormemente esagerate ad una nuova tecnologia che non capisce. L’atteggiamento dell’opinione pubblica di fronte alle tecnologie emergenti dipende molto piu’ dalle proprieta’ che vengono loro attribuite che da cio’ che esse possono o non possono fare. Se le idee dell’opinione pubblica sono completamente infondate ne consegue che le decisioni pubbliche saranno male indirizzate e spesso sbagliate. Da queste considerazioni emergono domande difficili: ad esempio, quali precauzioni deve prendere uno scienziato prima di divulgare i suoi risultati? E di fronte a chi (o a che cosa) e’ responsabile?”

Lo sviluppo di una visione centrata sull’essere umano (innovativa e controcorrente per l’epoca) porto’ Weizenbaum ad essere ostracizzato dalla comunita’ di ricerca a cui apparteneva (quella dell’Intelligenza Artificiale) e ad impegnarsi nella promozione di un’associazione internazionale tuttora attiva (CPSR, Computer Professionals for Social Responsibility) per invocare maggior responsabilita’ sociale nelle attivita’ degli informatici.

Mi riprometto di illustrare alcune delle principali riflessioni di Weizenbaum sul rapporto fra esseri umani e macchine in un prossimo post. Leggendo i discorsi che ha tenuto anche molti anni dopo l’uscita di quel libro, penso che avrebbe voluto essere ricordato piu’ per quelle riflessioni che, come sta accadendo, come “padre” di Eliza o “nonno” dei software di conversazione attuali.