Il sogno (o l’incubo) di Turing. Le macchine ci parlano, ci insegnano, ci fanno compagnia

Nel bel libro di Francesco Varanini, “Le Cinque Leggi bronzee dell’era digitale. E perché conviene trasgredirle”, Guerini e Associati, 2020, il filosofo cita alcune affermazioni di Alan Turing, il famoso matematico – uno dei padri dell’informatica, e uno dei primi scienziati a interessarsi di Intelligenza Artificiale – morto suicida nel 1954, con una personalità complessa, anche a causa di problemi famigliari e personali.

Alan Turing

Una macchina può sostituire l’umano. Quando essere se stessi è troppo doloroso, possiamo affidarci alla macchina. È così difficile progettare se stessi, la propria vita. Progettare una macchina è facilissimo. Perché non progettare macchine, invece di accanirci a cercare di progettare se stessi? La macchina è indifferente agli affetti, non patisce carenze, e forse avrà uno sviluppo felice, una vita del tutto diversa dalla mia. La macchina è bella, sta bene. Possiamo vedere nella macchina la bellezza che non riusciamo a vedere in noi. La macchina esegue fedelmente il proprio programma, non soffre, non piange. E forse sarà riconoscente al suo creatore”.

Il sogno di Turing si è avverato. E le macchine possono imitare gli umani non solo nel ragionamento logico ma anche nei sentimenti, nelle emozioni. E l’Intelligenza Artificiale è diventata Intelligenza Emozionale. Facciamo qualche esempio.

Sistemi che usano l’analisi emotiva per regolare la loro risposta

In questa applicazione, l’Intelligenza Artificiale riconosce le emozioni delle persone e le condiziona nel suo processo decisionale. In pratica, gestisce i processi di comunicazione, tuttavia, l’output del servizio è completamente privo di emozioni.

Si chiamano IVR conversazionali (risposta vocale interattiva), chatbot che consentono di indirizzare i clienti al flusso del servizio adeguato alle esigenze del cliente più rapidamente e con maggiore precisione, tenendo conto delle emozioni. Ad esempio, quando il sistema rileva che un utente è arrabbiato, viene indirizzato verso chi lo può meglio gestire. In questa categoria, le emozioni hanno un ruolo nel processo decisionale della macchina. Tuttavia, la macchina reagisce ancora come una macchina – essenzialmente, come un gigantesco centralino che dirotta le persone nella giusta direzione.

Sistemi che forniscono un’analisi emotiva mirata per scopi di sicurezza e apprendimento

AutoEmotive, Affectiva’s Automotive AI e Ford stanno studiando da tempo un software emotivo per il mercato dell’auto, in grado di rilevare emozioni umane come la rabbia o la mancanza di attenzione, e quindi capace di prendere il controllo o fermare il veicolo, evitando incidenti o atti di violenza stradale.

Già nel 2009, Philips aveva collaborato con una banca olandese per sviluppare l’idea di un braccialetto “razionalizzatore” per impedire ai commercianti di prendere decisioni irrazionali monitorando i loro livelli di stress, attraverso un controllo delle pulsazioni. Il sistema faceva partire un segnale che li invitava a sospendere qualsiasi reazione d’impulso e riflettere prima di prendere decisioni affrettate.

Il Rationalizer della Philips

Sistemi che usano l’analisi emotiva come attori sociali

Ora ci sono prodotti e servizi che usano le UI conversazionali partendo dal concetto di “computer come attori sociali” per cercare di alleviare i problemi di salute mentale. In sostanza queste macchine imitano e cercano di sostituire la presenza umana e, infatti, per riferirsi a se stesse, usano il pronome “io”. E quando le macchine parlano così, nell’uomo scatta un meccanismo automatico che lo spinge ad avere con queste macchine delle vere e proprie relazioni.

Alexa, l’assistente di Amazon

Queste applicazioni mirano a istruire gli utenti attraverso le crisi usando tecniche di terapia comportamentale. Ellie aiuta a trattare i soldati con disturbi post-traumatici dovuti a esperienze belliche. Karim aiuta i rifugiati siriani a superare i traumi. Gli assistenti digitali hanno il compito di aiutare ad alleviare la solitudine tra gli anziani. Altre applicazioni come ad esempio XiaoIce di Microsoft, l’assistente Google, Alexa di Amazon utilizzano spunti sociali ed emotivi per scopi non solo altruistici ma anche commerciali.

Gli input emozionali aprono perciò un passaggio da interazioni IQ-driven (quoziente intellettivo) a interazioni basate su dati legati a esperienze profonde guidate da EQ (quoziente emozionale). Ciò consente alle aziende di avere l’opportunità di connettersi ai clienti su un livello molto più profondo e personale. Ma leggere le emozioni delle persone è un affare delicato. Le emozioni sono molto personali e gli utenti, ammesso che se ne rendano effettivamente conto, dovrebbero essere preoccupati temendo l’invasione e la manipolazione della loro privacy.

I leader delle aziende che vogliono utilizzare l’Intelligenza Emotiva sotto le forme viste sopra, o anche più sofisticate, dovrebbero porsi queste domande.

Che servizio sto offrendo?
La mia proposta si avvale in qualche modo del coinvolgimento delle emozioni dei miei clienti?
Sono sicuro di utilizzare una serie di indizi emotivi all’unico scopo di migliorare l’esperienza del cliente?
Quali sono le intenzioni emotive dei miei clienti quando interagiscono con la mia azienda?
Qual è la natura dell’interazione?
Il cliente mi ha dato il permesso esplicito di analizzare le sue emozioni?
Il cliente mantiene il controllo dei propri dati e può revocare l’autorizzazione in qualsiasi momento?
Il sistema che uso è abbastanza intelligente da poter leggere e reagire con precisione alle emozioni del cliente?
Qual è il pericolo per il cliente e per l’azienda se il sistema dovesse fallire?

Per rispondere è importante ogni volta cercare di mettersi anche dalla parte dei clienti. Se non altro perché tutti, naturalmente, siamo anche clienti…

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo di WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...