Il colpevole è sempre il maggiordomo.

Beware what you share.

Google Assistant fa la spia: come Google rischia di tradire il patto sulla privacy con i suoi utenti. Con conseguenze potenzialmente disastrose per tutti.

Roberto Maggio
Mar 15, 2017 · 4 min read

La cronologia delle ricerche effettuate sul web, la collezione delle posizioni nelle quali ci siamo geolocalizzati, il log dei video guardati ecc. ecc.: tendiamo a considerare l’immenso repertorio di informazioni generate dai nostri comportamenti on line come un patrimonio privato e intoccabile — ammesso che, di tanto in tanto, qualcuno davvero ci faccia più caso. Una biografia in big data protetta da password, pin e impronte digitali, di cui concediamo l’uso in forma anonimizzata solo a pochi e fidatissimi interlocutori come Google, Apple, Facebook in cambio di servizi, spesso gratuiti, che ci facilitano la vita.

Come la prenderesti se improvvisamente uno degli integerrimi custodi dei segreti più delicati o imbarazzanti della tua vita digitale iniziasse a rivelarli a tutti? Se il risultato di una ricerca di contenuti hard core apparisse improvvisamente in una conversazione con tua madre?

Sembra impossibile, ma è quello che sta facendo Google. Chiamatelo Allo meltdown.

Ho visto cosa hai fatto e so chi sei

Allo è l’app di mobile messaging di Google che integra Google Assistant, l’ultima sofisticata versione del suo assistente virtuale. In qualsiasi momento è possibile invitarlo a unirsi anche a una conversazione tra più utenti per reperire informazioni da condividere o compiere azioni, come cercare ristoranti in zona dove trovarsi a cena o trovare e riprodurre un video che si vuole mostrare.

Da poche settimane Allo è stata rilasciata per gli smartphone che installano il sistema operativo Android, ovvero il 66,71% dei device sul pianeta. Google Assistant è, inizialmente, disponibile in alcuni Paesi anglofoni e in Germania: un mercato comunque sterminato. Finita nelle mani di milioni di persone, l’applicazione sta subendo il più intensivo degli stress test. E i risultati sono preoccupanti.

Il glitch che rischia di rovinare la reputazione di una delle più grandi corporation della nostra era — e, nel frattempo, cambiare il corso evolutivo di un’intera industria — è stato individuato da una giornalista di Recode, Tess Townsend, che stava provando l’app con un amico.

Quando, nel mezzo della chat, i due hanno iniziato a coinvolgere Assistant con delle domande, il bot ha inopinatamente risposto con un link al sito Pottermore, dedicato ai fan di Harry Potter. La saga di J. K. Rowling non era stata assolutamente citata nella conversazione: semplicemente Assistant ha fornito il risultato, non sollecitato, di una ricerca fatta alcuni giorni prima dall’amico della Townsend. Il leak di informazioni è stato innocuo, anche se scioccante. È facile però immaginare le conseguenze in casi più sensibili…

E non finisce qui: quando la giornalista ha chiesto “che lavoro faccio?”, Assistant ha pensato bene di condividere l’indirizzo di uno spazio di co-working che la Townsend frequentava. Un luogo che Google conosceva perché era stato salvato come destinazione in Maps

I don’t trust you anymore

Le cause dell’eccentrico comportamento di Assistant non sono affatto chiare, ma man mano che feature di questo tipo vengono integrate in altri servizi, come Hangouts, il problema potrebbe diffondersi in modo virale.

Al di là dell’ecosistema Google, però, questo bug — che con ogni probabilità sarà velocemente corretto — rappresenta invece il sintomo di uno scenario di crisi, potenzialmente in grado di sabotare il paradigma della trust economy digitale in modo anche più radicale del datagate del 2013, introducendo il sospetto in un patto di alleanza che sembrava tornato solido. E di interferire con il percorso di naturalizzazione e integrazione nelle esperienze quotidiane delle intelligenze artificiali, dai semplici chatbot alle driverless car e oltre. Con conseguenze tutte da misurare.

Non sono quello che sembro.

Per conto nostro, in Enhancers non siamo certamente apocalittici. E attendendo gli sviluppi, ci ripetiamo a mo’ di mantra le parole di saggezza di un umanista come il dottor Robert Ford di “Westworld”:

Evolution forged the entirety of sentient life on this planet using only one tool: the mistake.


Roberto Maggio è Partner, Brand Architect e Head of Content presso Enhancers, segnala trend e prodotti di ogni tipo a più di 53.000 follower su Fancy, ha insegnato e insegna digital marketing e growth hacking allo IED, all’Università Cattolica di Milano e nel corso di Mobile App Design dell’ITS ICT a Torino.

Nulla di personale

Le nostre esperienze quotidiane analizzate con gli occhi di uno user experience designer. Perché la UX è intorno a noi anche se non sappiamo di cosa si tratta. http://enhancers.it/

Roberto Maggio

Written by

Partner, Director of Content, Head of Verbal Design at Enhancers, the digital product factory www.enhancers.it

Nulla di personale

Le nostre esperienze quotidiane analizzate con gli occhi di uno user experience designer. Perché la UX è intorno a noi anche se non sappiamo di cosa si tratta. http://enhancers.it/

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade