Un parassita che cresce su Google Home?

Taci! Il device ti ascolta.

Zero UI, privacy, data ownership e la controversa etica dei FAANG.

Luca Zanin
Apr 15 · 5 min read

Gli assistenti vocali ci stanno a sentire. Dice: «E quindi?». Grazie a Google Home impostiamo la sveglia per alzarci la mattina. Grazie ad Alexa scegliamo e compriamo oggetti sullo store di Amazon. Ascoltiamo la nostra musica preferita. La gestiamo, in playlist ed elenchi altamente personalizzabili. Sappiamo il tempo che fa, che farà. Scopriamo qual è il cinema più vicino, che programmazione ha, compriamo un biglietto e, prima della fine di quest’anno, accenderemo la macchina in garage per portarci proprio lì, al cinema. Non mi dilungo, ma le funzioni (benefici?) sono molte di più. Figo, eh? Eppure cercando articoli riguardo il fenomeno nella sezione technology di Medium, uno dei primi risultati titola: The Next Privacy War Will Happen in Our Homes. Che significa?

Photo by Jan Antonin Kolar on Unsplash

Making a private life public

Proviamo a riformulare il tema iniziale: Gli assistenti vocali ci stanno a sentire, sempre. Un John Doe tedesco, l’identità del quale è tenuta riservata, ha rivelato a una testata giornalistica che scaricando i propri dati personali da Amazon ha ottenuto un file di 1700 registrazioni vocali made by Alexa. Tutto bene, solo che non erano sue. Immaginate, la sfera privata di un estraneo all’improvviso nel proprio computer. Registrazioni sotto la doccia, comandi musicali, commenti relativi ad abitudini di vario genere. Un errore umano, ha detto Amazon. Su questo non c’è troppa diffidenza. Il punto, qui, è un altro: la natura, sensibile, di alcune delle informazioni registrate. Abbiamo parlato di un caso analogo qualche tempo fa su queste pagine.

Mentre dalla Silicon Valley assicurano che gli assistenti si attivano solamente al riconoscimento vocale di quelle che vengono in gergo chiamante wake words (“Hey, Google!” o “Alexa!”), questi, per funzionare correttamente, devono ascoltare tutto il tempo, aspettando il comando di attivazione, commettendo degli errori. Come ce lo spieghiamo altrimenti che il novembre scorso un giudice abbia ordinato ad Amazon di fornire le registrazioni vocali di un dispositivo Alexa ritrovato sul luogo di un duplice omicidio?

Betrayal?

Proviamo quindi a riformulare, definitivamente questa volta: Gli assistenti vocali ci stanno a sentire, sempre. Anche quando non dovrebbero. Bloomberg ha pubblicato in questi giorni un’inchiesta nella quale racconta la storia di alcuni dipendenti di Amazon che di professione ascoltano le conversazioni registrate da Alexa. L’obiettivo? Rendere gli assistenti più affidabili e migliorare l’experience (su questo ci torniamo) o, come Amazon scrive nel proprio sito «per rispondere alle tue domande, soddisfare le tue richieste e migliorare la tua esperienza e i nostri servizi», dimenticandosi di fare accenno al fatto che ciò implichi l’ascolto di materiale privato da parte dei dipendenti (che comunque non dovrebbero direttamente conoscere i dati personali del protagonista nel file da loro preso in esame).

Secondo Bloomberg, che ha condotto la sua inchiesta solamente su Amazon, questa realtà sarebbe riportabile anche nei contesti Google e Apple, per i rispettivi assistenti. E si estende probabilmente oltre la sfera degli home assistant: è convinzione diffusa che la conversazioni che si svolgono in presenza di uno smartphone vengano catturate e usate per il retargeting di campagne pubblicitarie on line — c’è anche una ormai celebre inchiesta di Vice in merito.

C’è sul piatto il tradimento di un patto.

A un primo livello per l’abilità della Silicon Valley nel rendere le politiche sul trattamento delle conversazioni quanto meno fuzzy, come hanno detto da quelle parti. A un secondo, e più profondo, per il grosso problema che questo comporta quando parliamo di ciò che l’Alexa di turno non avrebbe dovuto registrare.

A designer’s aid

Noi di Enhancers, che ci occupiamo della creazione di prodotti digitali, scomponiamo tutto questo e andiamo dritti al punto, di domanda in questo caso. Come assicuro un corretto trattamento dei dati sensibili degli utenti all’interno dei processi che regolano il conversation design?

Una soluzione radicale potrebbe essere quella elaborata da Bjørn Karmann e Tore Knudsen, due designer danesi. La loro idea aggiunge un terzo elemento nella conversazione, che medi tra noi e l’assistente vocale. Poi, essendo loro dei designer, hanno tradotto questo in un unico elemento.

Project Alias, qui le istruzioni

Ne è uscito Project Alias, un “parassita”, come loro lo chiamano, che va posizionato sulla parte superiore di Alexa o Google Home e produce un rumore bianco che interferisce con le capacità di ascolto degli assistenti, fino a quando una wake word rivoltagli non interrompe questo processo. Un concept, per il momento.

Se tuttavia avete una stampante 3D, esistono le istruzioni per autocostruirselo.

Un terzo elemento mediatore, quindi. Soluzione concettuale che potrebbe essere esplosa in diverse traduzioni, come aggiungere un dispositivo al quale dare i comandi base, lasciando ad Alexa il compito di svolgere le attività e prevenendo così la sua accidentale attivazione. Se volessimo invece ragionare su due elementi dialoganti, si potrebbe pensare di aggiungere una linea di conversazione al fine dell’esperienza, qualcosa del tipo «vuoi che mi spenga?». Oppure, più immediatamente e semplicemente, cambiare la wake word in qualcosa di foneticamente complesso e rendere così ingiustificabile un’attivazione accidentale dell’assistente.

Parlare di conversation design per interfacce conversazionali e assistenti vocali vuol dire affacciarsi a un mondo caratterizzato ancora da una diffusa sperimentazione. Sono embrionali, in questo contesto, le problematiche e anche le soluzioni. «We take the security and privacy of our customers’ personal information seriously» tiene a mettere in chiaro un portavoce di Amazon, ma ricordate che «Your home is an underused platform. Google and Amazon want to claim it. And they want all the data it contains».

Don’t forget it.


Luca Zanin lavora nel dipartimento di Content e UX Writing di Enhancers, dove si occupa in particolare di conversation design. È nato in Veneto. Ha vissuto a Jaisalmer, India. È diplomato al master in Transmedia e Interactive Storytelling della Scuola Holden di Torino.

Nulla di personale

Le nostre esperienze quotidiane analizzate con gli occhi di uno user experience designer. Perché la UX è intorno a noi anche se non sappiamo di cosa si tratta. http://enhancers.it/

Luca Zanin

Written by

Born in Veneto. Lived thereabouts and further. Content editor, UX writer and conversation designer @Enhancers.

Nulla di personale

Le nostre esperienze quotidiane analizzate con gli occhi di uno user experience designer. Perché la UX è intorno a noi anche se non sappiamo di cosa si tratta. http://enhancers.it/

Welcome to a place where words matter. On Medium, smart voices and original ideas take center stage - with no ads in sight. Watch
Follow all the topics you care about, and we’ll deliver the best stories for you to your homepage and inbox. Explore
Get unlimited access to the best stories on Medium — and support writers while you’re at it. Just $5/month. Upgrade