Diciamolo subito: sì, Alexa, lo smart speaker di Amazon, ci ascolta. O meglio, qualcuno negli uffici di Amazon ascolta ciò che noi diciamo ad Alexa. Ma andiamo con ordine e, prima di cedere alla polemica e al complottismo, cerchiamo di capire come funziona il sistema di intelligenza artificiale che permette a uno smart speaker di rispondere correttamente alle nostre richieste.

La news. Lo scorso 11 aprile Bloomberg ha pubblicato un’inchiesta nella quale racconta con dovizia di particolari come dietro ad Alexa ci sia un nutrito gruppo di impiegati e fornitori di Amazon che ascolta 24 ore su 24 le registrazioni delle conversazioni tra Alexa e i suoi utenti.
Sembra insomma che da “Alexa accendi la luce”, a “Alexa fammi sentire l’ultimo brano di Fedez” o “dimmi che tempo farà nel week-end a Riccione”, ciò che ci diciamo con il nostro altoparlante intelligente non sia del tutto privato, e venga più o meno regolarmente ascoltato da esseri umani in carne e ossa.

Ma perché Amazon è così interessata a ciò che gli utenti chiedono al loro assistente domestico? L’obiettivo di questo “ascolto” su larga scala non è tanto quello di infilarsi di soppiatto nelle case di milioni di persone in tutto il mondo, quanto quello di raccogliere informazioni utili al miglioramento del sistema di riconoscimento vocale che permette ad Alexa di funzionare. Come ben spiegato nell’inchiesta di Bloomberg, gli addetti all’ascolto di Amazon trascrivono le registrazioni delle richieste degli utenti, le confrontano con la risposta data da Alexa e, in caso di errori, provvedono ad apportare le necessarie correzioni al software.

Il lato umano dell’AI. «Quando pensiamo ad uno smart speaker non pensiamo che dietro possa esserci un essere umano che ascolta ciò che gli diciamo», spiega a Bloomberg Florian Schaub, esperto di privacy informatica alla University of Michigan. «Siamo erroneamente portati a credere che le risposte ci arrivino da Alexa come per magia, ma in realtà la componente umana in un sistema di machine learning è ancora fondamentale». In altre parole Amazon non farebbe altro che perfezionare  l’addestramento dei suoi sistemi di intelligenza artificiale, ai quali viene spiegato “manualmente” quale tipo di risposta devono fornire a una certa domanda.
 

Il cervello di Alexa. Se quindi Alexa sa rispondere alle nostre richieste è perché qualcuno le ha insegnato cosa fare: come i suoi concorrenti, anche l’AI di Amazon si affida alle reti neurali, software che replicano i meccanismi del cervello umano e forniscono risposte basate su grandi quantità di dati. Se le chiedete “trovami un cinese qui vicino”, sa che probabilmente state cercando un ristorante e non un cittadino di Beijing.

Ok, ma… come la mettiamo con la privacy? Nei termini e condizioni sull’utilizzo di Alexa, al punto 1.3, Amazon non spiega esplicitamente che qualcuno ascolta ciò che diciamo. Si limita a dire che le nostre richieste al sistema sono trasmesse al cloud per permettere ad Alexa di imparare e diventare sempre più intelligente.

Amazon ha comunque risposto a Bloomberg spiegando come la privacy degli utenti sia una priorità per l’azienda, come i file audio con le registrazioni non siano associati a dati personali degli utenti ma solo al loro codice cliente e come i dipendenti non siano in grado di associarli a nomi e cognomi.

Certo, come riportato da Bloomberg, può succedere che gli operatori si scambino i file tra loro, sia per motivi professionali – per esempio per approfondire casi specifici – ma anche per farsi due risate su ciò che sentono. Poco professionale, certamente, ma… chi resisterebbe alla tentazione?

La parola magica. Va specificato come Alexa, così come Echo di Google o Siri di Apple, non siano costantemente in ascolto di ciò che diciamo, ma si risveglino solo quando sentono la parola di attivazione.

Ma potrebbe accadere che Alexa, una volta attivata, registri brani di conversazione che dovrebbero rimanere privati, per esempio dettagli sulla salute di qualcuno o informazioni relative a un conto corrente.

Secondo Amazon questi file sono marcati come contenenti dati critici e non vengono ulteriormente lavorati. Oppure potrebbe attivarsi inavvertitamente – per esempio se un personaggio di una serie tv o di un film pronuncia il nome “Alexa” – e iniziare a catturare ciò che dicono le persone presenti nella stanza.

Ma l’interessata cosa dice? Se provate a chiedere ad Alexa se vi sta spiando o se lavora per la CIA, vi risponderà che no, non lavora per loro e che manda l’audio ad Amazon solo quando si attiva.