Ik ben schuldig aan intimiteitshacking (en jij ook)

Goedemorgen beste JIJ,

Ja, in fancy nieuwsbrieven zou in plaats van ‘jij’ nu je naam staan. Heb jij er wel eens goed over nagedacht wat dat met je doet? Zou je dan het gevoel hebben dat ik JOU echt aanspreek? Dat ik mijn aandacht, energie, bloed, zweet en (soms) (nee hoor) tranen die ik in deze nieuwsbrief stop speciaal aan JOU besteed? Dat we een band hebben?

Technologie geeft ons de mogelijkheid om met ontzettend veel mensen in verbinding te staan. Maar dat roept wel de vraag op wanneer er ECHT verbinding optreedt. Tech-ethici David Ryan Polgar en Sherry Turkly zien dat mensen op steeds meer robotachtige wijze met elkaar communiceren. Terwijl chatbots steeds menselijker worden, worden wij steeds meer bot-achtig. Juist in dit gebied ligt een grens tussen machine en mens…die wij ongemerkt steeds meer oversteken…

Dit stuk is onderdeel van de serie CTRL, ALT, DELETE: tech/me waarin ik de ideeën van interessante denkers deel over hoe we een betere relatie kunnen opbouwen met onze technologie. Herontwerp van onszelf en technologie: hoe doe je dat?

Robots vermenselijken, wij verrobotiseren

CAPTCHA — Kom jij ’m ook steeds vaker tegen op websites? Vind je het niet ergens ironisch dat we onze menselijkheid moeten bewijzen? Maar goed — wat houdt dat eigenlijk nog in in een tijd waarin slimme chatbots steeds minder van een mens zijn te onderscheiden?

Dat is precies het punt van David Ryan Polgar: we praten veel te veel over hoe we robots zo menselijk mogelijk kunnen laten communiceren. Het is de hoogste tijd om ook eens naar de andere kant te kijken, namelijk naar hoe wij mensen steeds meer op een robot-achtige manier zijn gaan communiceren.

Wat bedoelt ie daarmee?

Voorbeelden hiervan zijn email-templates, of de automatische felicitaties op Facebook (voor verjaardagen) en LinkedIn (om iemand te feliciteren met een nieuwe baan). Chatbots kunnen ‘menselijke’ conversatie simuleren door een IFTTT (if this, than that) proces — als jij ‘hallo’ typt, antwoordt de bot automatisch ‘Hoi! Heb je een fijne dag?’. In hoeverre zijn de hiervoor genoemde automatische technieken die mensen voor hun communicatie gebruiken eigenlijk wel te onderscheiden van dit IFTTT van chatbots?

Hoe is het eigenlijk gekomen dat onze communicatie steeds vaker op robotachtige wijze plaatsvindt?

Polgar ziet de oorzaak in de mogelijkheid die technologie ons biedt om met een onbeperkt aantal mensen in verbinding te staan.150. Dat is het maximale aantal relaties waarvoor een persoon de cognitieve capaciteit heeft om te onderhouden, volgens onderzoek van de Britse antropoloog Robin Dunbar. Op Linkedin heb ik 1050 connecties, op Twitter 960 volgers, 433 vrienden op Facebook, op Instagram 192 volgers en in mijn emailcontacten en telefoonlijst heb ik nog talloze andere connecties. Deze aantallen nopen dus tot een uiterst efficiënte communicatie:

It might be because we have a limited amount of time and an unlimited amount of online relationships. In an effort to solve this imbalance, we are desperately trying to be more efficient with the time we put into each connection.

Helaas zijn onze tijd, aandacht en emotionele intimiteit die we te vergeven hebben eindig, dus vertrouwen we maar op een paar shortcuts (een Facebook felicitatie kost me 10 seconden, hoogstens)

Relationships by their very nature depend on a certain level of time/energy reciprocity, and many of us feel incentivized to “hack intimacy.”

Ok, maar moet ik dan met al mijn 3000 connecties een veel oprechtere persoonlijke communicatie gaan voeren (vaarwel slaap)? Of moet ik dan radicaal gaan snijden in mijn relaties?

Beide opties zijn niet nodig volgens Polgar. Wat we vooral moeten doen is bekijken wanneer communicatie ‘transactional’ is en wanneer emotioneel. Transactionele communicatie is gewoon informatie overdragen. Een manier van communiceren waarin robots binnen korte tijd even goed in zullen zijn als wij. En dat gedeelte van onze communicatie kunnen we dus ook best overlaten aan bots of geautomatiseerde shortcuts. Maar wanneer het om emotionele communicatie gaat, waar reciprociteit en verbinding inzit, dan is persoonlijke aandacht en tijd op z’n plaats.

The rise of bots in communication is bringing the true value of human communication into focus. Future conversations may be better served by outsourcing transactional questions (i.e. “What time is the meeting?”) to services like x.ai, while dedicating more time to craft genuine displays of emotional communication. Instead of humans acting bot-like when responding to job notifications on LinkedIn and birthday notifications on Facebook, we can use these prompts as potential opportunities to build on a relationship with genuine curiosity and emotional investment.

De valentijnskaart die ik van m’n zusje kreeg

Goed, we hebben dus al een handvat om te bepalen wanneer je welke soort communicatie inzet. Maar we hebben nog één aspect niet besproken van botachtige communicatie, namelijk het feit dat er hierdoor een soort machtsonevenwicht kan ontstaan. Want wat als ik een shortcut gebruik om met jou te communiceren, terwijl jij dat niet doorhebt en denkt dat ik mijn volle aandacht en energie in je steek?

Polgar geeft een voorbeeld van hoe vermenselijkte bots nog maar moeilijk te onderscheiden zijn van echte mensen en hoe dat een rare vorm van manipulatie oplevert. Hij deelt drie automatische antwoorden die hij op Twitter kreeg:

Thank you for putting up with an automated thank you. More sincere tweets to come. Promise.

Heel helder en transparant, dit is een automatisch antwoord.

Hi, thanks for following me :) I really appreciate it.

Hier wordt het al wat dubieus: is dit een robot of een mens? Maar in elk geval stelt Polgar, is het niet zo dat de zender van dit antwoord doet alsof hij/zij veel tijd, energie en aandacht aan dit bericht heeft gespendeerd.

Seriously, keep up the great work! Very impressive!!

En hier heb je pas echt te maken met een uiterst glijdende schaal. Polgar noemt dit je reinste manipulatie:

As a human, I want people to care about my work and find me impressive. That feels good! The sender is clearly trying to trigger some level of goodwill towards them, when it would certainly seem to be a blanket message.

Ok, je hebt natuurlijk de opzettelijke kant van dit soort slimme botcommunicatie die steeds meer kan worden ingezet voor bijvoorbeeld commerciële doeleinden. Daar is het ethisch dilemma heel helder: de manier waarop wij communiceren en in contact willen staan met anderen kan gemanipuleerd worden. Maar interessanter vind ik het om het te hebben over de onbedoelde kant. En laat ik daarvoor even een persoonlijke anekdote delen.

Mijn ouders, zusje en ik sturen elkaar altijd een valentijnskaartje. Een geweldige traditie, en dit jaar was het nog leuker, omdat mijn zusje op dat moment in Canada verbleef. Maar het stelt wel je geduld wat op de proef. Mijn chocoladereep en het kaartje dat ik voor m’n zusje had geschreven, speciaal bij het postkantoor had laten wegen en had verzonden, kwam maar liefst drie weken te laat aan. Mijn zusje had het een stuk beter geregeld: via de online service van Hallmark kwam mijn valentijnskaart én — jawel hoor — ook een dikke reep chocolade perfect op 14 februari aan.

Later verontschuldigde m’n zusje zich. Waarvoor? Omdat ze het erg vond dat ze haar valentijnskaart niet zelfgeschreven had, maar voor een makkelijke efficiënte service had gekozen, waarmee ze binnen enkele minuten de zaak geregeld had.

Ik voelde me niet benadeeld, laat staan gemanipuleerd, maar door het schrijven van deze nieuwsbrief snap ik wel haar gevoelens beter. Haar efficiëntiehack deed achteraf geen recht aan het soort relatie dat wij hebben. Gelukkig maar.

Stel nu dat mijn zusje nog verder was gegaan en een robot haar valentijnskaart had laten sturen? Zo is er Bond, een startup die een service aanbiedt waarmee een robot in JOUW handschrift (of een handschrift dat in elk geval is ‘vermenselijkt’ door er kleine onregelmatigheden in aan te brengen) kaartjes verstuurt. Of met me gecommuniceerd had via een chatbot die haar spreekstijl en persoonlijkheid nabootst? (Aan een dergelijke bot is mr Singularity Ray Kurzweil nu voor Google aan het knutselen…)

Dergelijke intimacy hacks kunnen door het machtsevenwicht relaties veranderen vindt Polgar, ook al is de manipulatie onbedoeld:

If a friend receives a “handwritten,” beautifully customized Valentine — which truly took you one minute and few quick clicks to send — they will be (successfully) touched. Most likely, they’ll then spend considerably more time thinking about you, how you’re doing, and sending you a thank you note, than you invested in them.

Omgekeerde Turing-test: zijn wij nog wel menselijk?

** Ik schreef dit stuk al eerder in editie 39, maar omdat het zo relevant is voor de context van deze nieuwsbrief heb ik ’t even opnieuw gekopieerd. Een stukje service van de zaak **

De professoren Frischmann en Evan Selinger stellen dat we een omgekeerde Turing Test (die meet of een computer menselijke intelligentie vertoont) nodig hebben: hoe gaan we meten of mensen nog wel van machines te onderscheiden zijn?

Dat kan namelijk nog behoorlijk lastig zijn stelt het duo als je kijkt naar onderscheidende zaken zoals vrije wil, autonomie, rationeel denken en irrationele beslissingen. Zo noemen ze een experiment waarin studenten hun fysieke activiteit tracken door middel van een Fitbit. Volgens Frischmann ontneemt deze technologie de studenten de mogelijkheid tot zelfreflectie op hun resultaten en de vrijheid om bijvoorbeeld te liegen over je score.

Het probleem ligt niet zozeer bij tech, maar bij de plek die wij tech geven in ons leven:

“Dehumanization can’t simply be blamed on the growing use of technology. Instead, Frischmann says our fetishization of technology is behind the trend. We’re overly trusting and reliant on technological developments, mindlessly assuming that every new piece of tech must be beneficial.”

Een ander interessant artikel in dit licht is deze column van Oliver Burkmann, waarin hij het voorbeeld aanhaalt van een investeerder uit Silicon Valley die zich toch wat zorgen maakt over hoe z’n vierjarige dochtertje met hun huishoudrobot omgaat. Waar hij en zijn vrouw grote moeite doen om het kleintje nette omgangsvormen bij te brengen, kom je met een ‘please’ en ‘thank you’ niet ver bij een robot. Die heeft gewoon keiharde commando’s nodig:

“We love our Amazon Echo… but I fear it’s also turning our daughter into a raging asshole. […] Alexa doesn’t need you to say please or thank you; indeed, she responds better to brusque commands. Cognitively, I’m not sure a kid gets why you can boss Alexa around, but not a person. How’s a four-year-old supposed to learn that other household members aren’t simply there to do her bidding, when one (electronic) household member was designed to do exactly that?“

Praten op Facebook: is dat echte conversatie?

Afgelopen maart testte Facebook een mogelijk herontwerp van comments. Sommige gebruikers zagen opeens de commentaren onder zaken die ze gepost hadden als tekst bubbles verschijnen, waardoor deze commentaren qua design precies leken op de chats uit de Facebook Messenger app. Er waren zelfs gebruikers waarbij de commentaren als een pop-up op hun scherm opplopten, waardoor de gelijkenis met een chat nog meer werd vergroot.

Deze verandering van ontwerp — die bij mijn weten nog in de testfase zit — zou een fundamentele glijdende schaal betekenen tussen het ‘delen’ en het voeren van een ‘gesprek’ op Facebook.

Sherry Turkle — auteur van de bestsellers ‘Alone Together’ en ‘Reclaiming Conversation’ — legt uit waarom dit gevaarlijk is:

Comments are not conversation, because people use comments to add information — to digress and insert thoughts on the topics being discussed. This means that comments don’t have the empathic reactivity of conversation […] By turning comments into bubbles that appear like messages, people will likely begin making shorter, more immediately reactive comments like the kind we make when conversing in person — comments like “totally,” or “really?”

Maar daarmee zouden we een cruciaal aspect van de comment-sectie verliezen volgens Turkle én — misschien nog wel belangrijker — zouden we zeggenschap verliezen aan Facebook:

Comments had their own integrity. […] Conversation requires agency and intention from both or many parties; it’s sparked when two people are interested in the same stimuli, and actively decide to discuss it. Comments can provide that, motivating people to reach out and converse with one another. By forcing these comments into a pop-up message instead, Facebook effectively takes conversational agency for us, which is off-putting at best.

En nog een vraag: Is de ‘dialoog’ die je hebt op Facebook eigenlijk wel echt met anderen? Of is het vooral een gesprek met jezelf?

More often than not, the dialogue we have on Facebook isn’t with other users, it’s with ourselves. Inherently self-presentational, Facebook allows us to curate our image, intellect, social circles, and frankly, our lives. Thus, if our aversion to these forced comment messages spurs any question, it’s this: We want to share, but do we really want to talk?

Kortom: echte conversatie heeft kwaliteiten die niet zo makkelijk één-op-één door te vertalen zijn in technologie. Dat betekent niet dat we nu analoge gesprekken moeten verheerlijken, maar dat we ons wel bewust moeten zijn van de kwaliteiten van elk medium dat we gebruiken.

Ook in de wetgeving trouwens. Donderdag werd bekend dat een 45-jarige man uit Zweden maar liefst 3600 euro moet betalen voor het liken van smadelijke comments op Facebook. En dat werd door de rechter dus gelijk gesteld met het verspreiden van laster. Maar kun je dat wel gelijkstellen?

Christiaan Alberdingk Thijm, partner van Bureau Brandeis en gespecialiseerd in internetrecht, is het hier in elk geval niet mee eens:

‘Je moet rekening houden met de vluchtigheid van media als Twitter en Facebook. Een like is zo gegeven. We moeten niet in de ridicule situatie terechtkomen dat je bij iedere retweet of like een disclaimer moet zetten waarin je zegt wat je ermee bedoelt. Ik heb de indruk dat de rechter hier wel erg formalistisch te werk is gegaan.’

Dit stuk verscheen ook in m’n wekelijkse nieuwsbrief CTRL, ALT, DELETE. Wil je deze automatisch in je mail ontvangen? Hier kun je je subscriben.