Anna di IKEA e l'etica delle macchine

Da Comte, il padre del positivismo, in poi, il vero è ciò che è calcolabile e misurabile. Ciò che funziona è l'etica della società dell'informazione. In qualche modo essendo eticamente agnostica, la società dell'informazione ha un ruolo importante nel dissolvimento di ideologie e religioni. Ma ciò che ci resta è qualcosa che precede queste, non una loro trascendenza verso un'etica individuale che si basa su autentici valori umani.

Perché gli ingegneri sono convinti di essere in grado di dire cose intelligenti su qualunque argomento? / conoscere i limiti del proprio sapere, anche questo non è un problema di etica?

Smart. :-)

Luca, ma secondo te è già tempo di parlare così in dettaglio di etica, quando ancora non siamo riusciti ad avere la semantica?

Nel senso, finché parliamo di "regole da inserire" non potremo fare molto altro oltre inserire specifici "stop" a certe parole chiave che come fai notare è insufficiente, anche in casi evoluti come l'assistente virtuale su cui lavoravo anni fa quando ne parlammo.
Ma è insufficiente su uno spettro molto più ampio di casistiche, dalla comprensione del contesto, del dialogo, dell'empatia, dell'ironia (peraltro, quelle frasi potrebbero essere ironiche, non per forza criminali) etc, che la questione 'etica' si pone a mio avviso sullo stesso piano di un Google, un Bing o un Yahoo! che permettono di trovare manuali su come costruire bombe.

In ogni caso, credo che l'etica sia fondamentale per chi ci lavora e che quindi intrinsecamente non può farne a meno nel momento in cui arriverebbero a porsi questioni simili nel concreto. Che per quanto può sembrare banale, credo sia la chiave per discernere questo genere di evoluzione. :)

Io non ho mai avuto problemi grazie alle 3 (o 4) leggi della robotica ;)

Condivido l'osservazione di Folletto, e ammetto che mi sono divertito anche io a stuzzicare l'assistende di Ikea :P

Saluti alla mia trisavola Anna.

Condivido in pieno la tua analisi: ho fatto la tesi di laurea proprio su questo argomento analizzando i diversi tipi di Graphic Human Interface ed ho notato esattamente quanto sottolinei: le aspettative degli utenti, nel vedere un volto umano, sono elevate e, non venendo corrisposte, portano ad una esperienza negativa.
Un motore di ricerca umano non ha senso: o mi relaziono con Anna o utilizzo la search come se fosse google: in questo modo però il device non ha nessuna utilità, anzi, diventa un ostacolo tra utente ed informazioni.
Molto meglio gli assistenti digitali che forniscono informazioni (modello S-R) senza interazione/dialogo con l'utente

Nell'osservazione odierna, si vede tutto il distacco tra mondo universitario e mondo del lavoro. Di chi forse ha più interesse a giudicare rispetto a quelli che hanno interesse nel fare. Certo tra le varie nuove tecnologie ce ne sono alcune che funzionano meglio e altre paggio, ma di tutte si può forse trarre vantaggio degli aspetti positivi, cercando di rendere meno invasivi quelli negativi.
Proprio oggi, sentivo un giornalista ironizzare sulle traduzioni astruse di Google. E’ chiaro che come gioco scherzoso tutti, o quasi, hanno “infierito” cercando di cogliere in fallo il sistema automatico facendo fare traduzioni assurde secondo la logica umanoide ma sicuramente altrettanto incomprensibili rispetto a traduzioni umane che spesso vengono fatte in modo frettoloso da chi si ritiene intelligente. Certamente queste traduzioni contengono errori marchiani per noi che siamo abituati a tollerare altri tipi di errori ma non quelli di tipo semantico o di ristrutturazione della frase.
E’ peggiore un dizionario dei sinonimi che alla parola “postulato” associa il sinonimo “pieno di pustole” (come alcune persone potrebbero asserire) o uno automatico che magari riporta il termine “vergognosamente”? Entrambi sono sbagliati, ma il secondo mette in evidenza a chiunque l’errore in quanto è chiaro anche un uso grammaticale differente. Ma entrambi i dizionari sarebbero inaffidabili (anzi nel secondo a maggior ragione potrebbe essere più facile trovare eventuali errori).
Ripensando alla traduzione, vorrei sottolineare gli aspetti positivi di questi sistemi. Avete mai provato a trovarvi davanti ad un testo arabo, russo o cinese, e cercare di capirne almeno l’argomento e magari comprendere se quello stesso documento possa essere importante o no anche per voi? A meno che voi non siate linguisti multi-etnici probabilmente avreste abbandonato l’idea, visto che le possibilità sarebbero per tempi e costi, assolutamente inaccettabili. Qui si evidenziano i primi vantaggi di sistemi automatici ancora inaffidabili, ma talvolta utili.
Invece di denigrare questi sistemi, iniziamo a trovarne delle loro applicazioni corrette. Mettiamo in evidenza cosa fare e cosa non fare di questi strumenti, mettiamo sull’attenti le tante società che producono “istruzioni per l’uso” in automatico, e consigliamone l’uso per tutti coloro che possono avere accesso ad informazioni che fino a ieri erano inutilizzabili.
Forse grazie al conseguente uso e automaticamente ai soldi ricavati si potrebbero ottenere miglioramenti per ampliarne le caratteristiche e migliorarne la tecnologia.
Tornando all’assistenze virtuale, qual è quell’utente se non un po’ stolto che chiederebbe ad un assistente dove può trovare il coltello per uccidere la moglie senza sapere che potrebbe rivolgersi al reparto casalinghi – posate? Allora, ditemi se non è meglio un mediocre servizio di assistenza clienti automatico che in meno di un secondo almeno una volta su 2 è in grado di darti la giusta risposta piuttosto che fare la trafila telefonica di ore per ottenere spesso risposte altrettanto deludenti (oltre tutto a costi aziendali enormemente più elevati). Invece di denigrare questi sistemi facendo la punta agli spilli, con considerazioni assolutamente inutili, cerchiamo di fare apprezzare i sistemi per quello che fanno realmente, selezionando quelli che riescono meglio nell’intento e disapprovando quelli che oggettivamente non funzionano. Ritengo che si faccia fin troppo spesso uso del termine “customer care”, così ci sono aziende che pur di far figurare un assistente virtuale implementano soluzioni deliranti mentre altre oggettivamente funzionano abbastanza bene.
Valutare queste implementazioni potrebbero essere i compiti di alcune università, alcuni studi sociologici e statistici.
Cominciamo a fare analisi oggettive su prove reali dei risultati … e chi se ne frega, se alla domanda “Avete bombe atomiche?” Anna mi risponderà: “Certo nel reparto candele”, andrebbe forse meglio la risposta: “Certo nel reparto alienati mentali”?

@Davide "Folletto",
@Daneel Olivaw,
@Alessandro Pinardi:
La "machine ethics" e' un'area di ricerca nata inizialmente alla frontiera
fra filosofia ed informatica (v. ad esempio:
http://uhaweb.hartford.edu/anderson/MachineEthics.html
), ma che recentemente inizia ad attrarre anche progetti applicativi.
Ad esempio, una fetta del progetto USA Future Combat Systems (il cui
budget totale e' di 230 miliardi di dollari)
e' destinata alla machine ethics dei sistemi d'arma (di terra, mare e cielo)
autonomi e semiautonomi.

Ma invece di parlare del perche' stanno arrivando questi finanziamenti
(sistemi semiautonomi che hanno ucciso per errore
con i dibattiti legali conseguenti su chi e' responsabile; compiti sempre
piu' importanti di tipo life-or-death che vengono dati a sistemi semiautonomi anche in ambito non bellico,...),
ho preferito inventarmi un esempio originale (anche se comunque legato
a fatti violenti) per introdurre in modo divulgativo i lettori a quest'area,
senza aver bisogno di raccontare cose deprimenti o inutilmente complicate dal punto di vista tecnico.

Poi, come si puo' vedere dai commenti, quando si usano questi
modi non convenzionali e un tantino surreali per introdurre un tema,
c'e' chi li prende come tali e si diverte e chi invece li prende probabilmente alla lettera e riesce addirittura a leggerci il "distacco tra mondo universitario e mondo del lavoro".
Probabilmente per rivolgermi in modo piu' "serio" ai secondi dovrei scrivere un post sugli aspetti veramente tragici di quest'area di ricerca.

@Alberto Cottica:
Thanks! :)

@AlbertoR:
non ne ho la minima idea, non sono ingegnere...

@Ivo:
se qualche ricercatore in difetto di nuove parole chiave legge
il tuo commento, dopo quelli sulla "machine ethics"
mi sa che avremo anche progetti sui "machine values"... ;) ;) ;)

@Piero:
Sono d'accordo. Meglio un motore di ricerca piuttosto che un assistente che crea aspettative irrealistiche.

AHAHAHA Post divertente ma è evidente che il Character non segue le tre leggi fondamentali della robotica :°°) (lol)

@Piero Tagliapiera:
puoi spiegarci meglio cosa intendi in questo contesto per "le aspettative degli utenti, nel vedere un volto umano, sono elevate e, non venendo corrisposte, portano ad una esperienza negativa"? Anna mi pare poco più "umana" dell'assistente di MS Office, che a quanto mi risulta è la prima cosa che si disabilita al primo utilizo...

@Luca Chittaro:
hai mai chiesto ad Anna stessa che ne pensa? Ecco la sua risposta:
Q: Cosa ne pensi delle questioni etiche degli assistenti virtuali?
A: Temo che mi perderei in spiegazioni.

Analisi e riflessione interessanti...personalmente nel lontano 2006 mi ero permesso di "flirtare" un po' con la cara Anna provandola ad intervistare così...questo fu il risultato...ANNA E' INCORRUTTIBILE!!!! :)
http://www.inpuntadipenna.com/lintervista-anna-lassistente-on-line-di-ikea/123/

Concordo Luca ed è per quello che è interessante affrontare l'argomento. Per come affronto io la questione preferisco arrivarci da due lati, o dal basso verso l'alto, affrontando la tecnica e la pragmatica per arrivare (quando ci arriveremo) ad una vera questione etica, oppure dall'alto verso il basso, interrogandomi sulle questioni etiche prima che sia realmente il caso di arrivarci.

Le due parti poi naturalmente si contaminano: l'approccio bottom-up è guidato dagli studi top-down, mentre gli studi top-down ricevono i feedback sul campo dall'approccio bottom-up, creando una commistione molto produttiva.

Spesso l'incomprensione nasce dal fatto che quando uno parla partendo dall'approccio bottom-up non si aspetta che l'altro possa avere un approccio top-down. Il tuo post è interessante perché cerca di collegare i due. Era molto difficile. ;)

Personalmente troverei molto interessante un tuo intervento molto più tecnico sull'argomento, se ti andasse di scriverlo. ;)

Ok per le aspettative dell'utente e concordo con il motore di ricerca al posto dell'assustente virtuale, ma l'utilizzo improprio non è una questione misurabile e valutabile. Non costruiamo più martelli allora, perché potrebbero essere usati per pendere a martellate qualcuno, o coltelli perché potrebbero essere usati per uccidere e così via???
Concordo con chi dice che non si può parlare o criticare tutto e il contrario di tutto, a volte è bene fermarsi alla semplice funzionalità desiderata o richiesta dall'azienda.
Se il 90% lo utilizza con senno e razionalità per lo scopo con cui è stato creato, ritengo che l'obiettivo sia stato ampiamente soddisfatto. Ci sarà poi un 9% di utenti che "stuzzica" l'assistente (e non rientra nel target) e un 1% per assurdo che lo utilizza "da criminale".
Ma 1) vorrei proprio capire chi è la mente che scrive keyword "intercettabili" (e già qui il fatto non sussiste) 2) in tal caso non avrebbe senso creare un'applicazione etica, perché se l'assistente rispondesse diversamente il nostro geniale criminale non cambierebbe certo mestiere e 3) sarebbe forse il caso di pensare in background in maniera risolutiva (tracciando quindi l'IP e altri dati validi in caso di parole in blacklist).

prima del modulo etico sarebbe utile dotarle di un "modulo" semantico.
è evidente che questi "primati" virtuali rispondono solo ad un semplice elenco di parole.