Un aereo Lufthansa (volo Monaco-Amburgo) in atterraggio con 132 passeggeri a bordo e in condizioni di forte vento. Si avvicina alla pista con una traiettoria compatibile con queste condizioni, sotto il controllo dei piloti. Poi, dopo aver sfiorato terra per un breve istante e con una sola delle ruote, succede qualcosa di strano. I piloti hanno difficoltà a mantenere il controllo sul velivolo, che volando sopra la pista inizia ad oscillare violentemente prima da un lato poi dall’altro, come potete vedere nel video alla fine di questo pezzo, anche impattando il terreno con un’ala e rompendone la punta. Fortunatamente, dopo aver lottato per lunghi drammatici istanti con i comandi, i piloti riescono alla fine a riportare l’Airbus 320 in quota ed evitare che la situazione degeneri ulteriormente.
Ora sono usciti i risultati dell’indagine ufficiale su questo evento che è stato catalogato come un incidente serio. Fra i fattori che l’hanno causato troviamo – come sempre più spesso accade nei sistemi ad alta tecnologia – l’elevato livello di automazione, che fa prendere decisioni autonome (ma a volte scorrette) alle macchine.
Più in dettaglio, il rapporto della commissione d’inchiesta spiega come, dopo che una delle ruote ha toccato per un istante il terreno, l’automazione ha “creduto” di essere atterrata ed ha iniziato a comportarsi di conseguenza. Il problema è che l’aereo non era assolutamente atterrato ed il vento lo faceva svolazzare pericolosamente di qua e di là (come potete vedere bene dal video). I piloti davano quindi dei comandi molto forti al fine di contrastare il vento e stabilizzare il velivolo. Ma quei comandi dei piloti – perfettamente giustificati per un aereo ancora in volo e che servivano fra l’altro ad impedire di impattare con l’ala a terra – sono stati ritenuti esagerati dall’automazione (che credeva il velivolo fosse atterrato). L’automazione ha quindi ben “pensato” di correggere quei comandi, limitandone la forza, e l’aereo ha iniziato a rispondere debolmente agli ordini dei piloti (che così non hanno potuto impedire l’impatto).
Non è la prima volta che Lufthansa ha la sfortuna di esser colpita da computer che interpretano scorrettamente la realtà e si rifiutano di obbedire alle richieste dei piloti. Un caso più sfortunato dell’attuale fu quello di un altro Airbus 320 (volo Francoforte-Varsavia) che, atterrato su una pista molto bagnata con relativo aquaplaning, fece l’errore opposto rispetto a quello descritto in precedenza, cioè era atterrato ma credeva di essere ancora in volo. Rifiutò così i comandi di frenata dei piloti, andando a schiantarsi a fine pista (2 morti, velivolo distrutto, rapporto dettagliato consultabile a questo link).
Tornando al rapporto sull’incidente di Amburgo, è interessante leggere la raccomandazione per Airbus da parte delle autorità competenti che trovate nel box giallo qui sotto. Sembra lapalissiana: si raccomanda testualmente che la logica del sistema di controllo del velivolo Airbus dovrebbe passare alla modalità “a terra” (Ground Mode) solo quando il velivolo è veramente a terra. E’ talmente ovvia come affermazione che chi non è addentro al mondo dell’automazione la potrebbe trovare ridicola. Invece, quando si affida ad un computer il compito di capire cosa sta realmente accadendo in un mondo complesso e prendere decisioni a partire dai valori di alcuni sensori e seguendo le istruzioni scritte da qualche programmatore (impossibili da verificare preventivamente sul numero enorme di casi e situazioni che si possono presentare), nulla è ovvio.
Quindi, per rispondere alla domanda del titolo su chi decide fra uomo e macchina, nei sistemi ad alta tecnologia il trend è quello di far prendere sempre più decisioni autonome alla macchina, dandole un crescente potere di rifiutare o correggere le azioni umane. Gli errori nel software vengono poi rettificati in versioni successive, dopo che si sono riscontrati comportamenti anomali (tutto sommato un approccio che può ricordare quello degli aggiornamenti di Windows ed altri strumenti informatici). E il trend non riguarda solo gli aerei, ma ad esempio anche le automobili più recenti. I due esempi sopra riassunti illustrano casi in cui questo trend non ha portato a buoni risultati, ma se volete saperne di più su questi temi vi suggerisco di leggere anche due miei precedenti pezzi su (i) le ironie dell’automazione, (ii) le problematiche con l’affidabilità dei sensori.
© 2010 Luca
Chittaro, Nova100 – Il Sole 24 Ore.
———————————————————————————————————————————-
