Indica un intervallo di date:
  • Dal Al

Freni ribelli ed utenti dormienti. Le ironie dell’automazione.

A320_cockpitAumenta l’efficienza. Diminuisce i costi. Rende piu’ facile eseguire un compito. Aumenta la sicurezza. Queste sono alcune delle motivazioni piu’ frequenti con cui ci viene spiegato perche’ dobbiamo affidare ad una macchina un compito che prima era svolto dagli esseri umani.

E guardando a cosa succede quando viene introdotta un’automazione ben progettata, a prima vista sembra tutto vero. Sia nei settori che per primi hanno fatto ricorso ad elevati livelli di automazione (aerei di linea e militari, impianti industriali, centrali nucleari, sistemi d’arma,…), sia in quelli che stanno compiendo la transizione adesso (automobili, casa domotica,…), la macchina altamente automatizzata ci mette meno tempo a fare le cose, spreca meno risorse (ad esempio, combustibile, energia elettrica,…), sa riconoscere alcune situazioni anomale e prova a porvi rimedio. Gli utenti di questi sistemi possono “rilassarsi” perche’ non hanno piu’ il ruolo attivo di un tempo: non hanno piu’ la responsabilita’ di svolgere direttamente e fisicamente il lavoro,  il loro compito e’ ora di stare a guardare la macchina che svolge quel lavoro, in attesa della rara eventualita’ che qualcosa vada storto nell’automazione e si renda quindi necessario un intervento correttivo umano in “vecchio stile”.    

Ma l’Interazione Uomo-Macchina insegna a guardare oltre cio’ che si puo’ notare a prima vista e ragionare sugli effetti indiretti e su quelli a lungo termine. Sotto questo punto di vista, i decenni di esperienza accumulati in particolare nel mondo dell’aviazione, del nucleare e dell’industria chimica evidenziano come l’elevata automazione a volte sposta i costi invece che tagliarli radicalmente e, nel cercare di eliminare problemi di sicurezza noti, crea nuovi rischi. Il fenomeno puo’ assumere dei connotati quasi “ironici” (la prima persona che ha usato il termine “ironie dell’automazione” e’ stata probabilmente Lisanne Bainbridge alla fine degli anni ’80). Alcuni esempi di “ironie dell’automazione” possono essere riassunti come segue:

Automatizziamo perche’ gli umani commettono troppi errori, ma cosi’ facendo introduciamo nuovi tipi di errori. Chi scrive i software che istruiscono la macchina su cosa fare e’ un informatico, che possiamo ancora annoverare fra gli esseri umani e quindi, di fronte a problemi complessi, introduce semplificazioni inappropriate ed errori. Accadono cosi’ eventi clamorosi, come un aeroplano che rifiuta i comandi di frenata su una pista d’atterraggio molto bagnata, perche’ l’aquaplaning fa credere all’automazione che il velivolo sia ancora in volo, e cosi’ va a schiantarsi a fine pista (incidente occorso ad un Airbus 320 Lufthansa sull’aeroporto di Varsavia, 2 morti, velivolo distrutto).

Automatizziamo perche’ gli umani hanno difficolta’ a svolgere compiti complessi, ma cosi’ facendo introduciamo un compito ancora piu’ complesso. Il compito dell’uomo in un sistema altamente automatizzato e’ soprattutto di “monitorare” (stare a guardare la macchina che svolge il lavoro per notare in tempo eventuali stranezze ed anomalie). Ma questo e’ un compito per cui gli esseri umani non sono molto adatti. Provate ad immaginare che la vostra auto vi porti da sola da casa vostra fino alla destinazione che le avete ordinato (e questo scenario prima o poi diventera’ realta’). Con che livello di vigilanza riuscireste a stare li’ immobili a sorvegliare la vostra auto che guida da sola per 5 ore o piu’ di fila? Quanto e’ alta la probabilita’ che iniziate a distrarvi, pensando ai fatti vostri? O che addirittura vi addormentiate, come sembra sia successo lo scorso 13 Febbraio a due piloti della compagnia aerea Go!, il cui velivolo ha continuato ad andare dritto oltrepassando l’aeroporto dove dovevano atterrare, mentre loro non rispondevano ai richiami dei controllori di volo per 25 lunghi minuti.

L’automazione dequalifica gli esseri umani proprio in quelle competenze per cui e’ ancora richiesta la loro presenza davanti al sistema automatizzato. Se l’utente che sta monitorando la macchina automatica, si accorge che qualcosa sta andando storto, deve intervenire in modo diretto, come si faceva prima dell’avvento di quell’automazione. Ma non e’ piu’ abituato a farlo, perche’ le evenienze in cui una buona automazione fallisce sono rare. E tutte le abilita’ umane (dal suonare il pianoforte a guidare un automobile) richiedono di essere praticate, per essere mantenute ad un livello di qualita’ accettabile. Una soluzione a questo problema e’ quella dei simulatori: grazie a sistemi di realta’ virtuale, si mette l’utente in grado di sperimentare periodicamente quelle rarissime emergenze, cosi’ da essere “pronto” nel caso si verifichino nella realta’. Ma non e’ cosi’ semplice. Primo, perche’ si puo’ simulare solo cio’ che e’ prevedibile, ma ad esempio l’automazione che si rifiuta di frenare di cui parlavo  sopra e’ stata una sorpresa non prevista. Secondo, per una questione di tempi e di costi. Quando arriveranno sul mercato le automobili che guidano da sole, sarete disposti ad andare 1 ora in settimana presso una scuola guida a sperimentare un paio di emergenze al simulatore?

Il post termina qui, ma non perche’ la lista di “ironie dell’automazione” sia terminata. Quelle sopra riassunte dovrebbero comunque essere sufficienti a comprendere come, nella formazione e selezione di progettisti di macchine automatiche, non ci si dovrebbe limitare alla
sola competenza ingegneristica, cioe’ a quanto bene i progettisti conoscono come e’ fatta una macchina. 
Sarebbe  anche importante (oserei dire che andrebbe reso obbligatorio per legge) che il progettista capisca “come funzionano” gli esseri umani che la dovranno usare.