Maakt u geen illusies: Apple, Facebook, Google en Amazon weten alles van u. Zo typte ik laatst in Google search enkel de letters “Ne” in en Google wist al dat ik naar het nummer New dawn fades van Joy Division wilde luisteren. Apart want dat klopte gewoon, terwijl ik vrijwel altijd naar muziek luister via Spotify. Maar soms ook via Youtube, en dat wist Google zelfs na 2(!) letters al.
Het algoritme vormt het hart van het business model van online platforms. Hoe beter het algoritme, hoe beter de dienstverlening aan consumenten. Maar ook: hoe makkelijker de markt valt te monopoliseren en hoe gevaarlijker voor privacy.
De relatie tussen privacy en online platforms is ingewikkeld. Om met het positieve te beginnen: het is heel prettig dat algoritmes zo bizar goed zijn dat ze kunnen wat Google search kan. Het scheelt een hoop tijd. Wie verlangt nog terug naar de tijden van Altavista. Toen ik in de negentiger jaren tijdens mijn promotietijd de economisch technische zoekterm “Bertrand-Edgeworth equilibria” intypte was de eerste hit een pagina met homoporno en de rest van de ‘hits’ waren al net zo treurig stemmend.
Een andere ingewikkelde relatie tussen platforms en privacy is dat veel mensen – zelfs al ze zich realiseren dat ze worden afgeluisterd – dat weinig kunnen schelen of op de koop toe nemen. En dat komt niet omdat ze dom of naïef zijn, denk ik dan maar. Zo gebruiken zoon en ik regelmatig Google Home om naar muziek te luisteren. Feind hört mit? Kan ons niets schelen, want we gebruiken het ding nergens anders voor. En er zijn vele mensen, jong, oud, dik, dun, hoog of laagopgeleid, die ondanks dat het bekend is wat platforms als Facebook met hun data doen daar niet warm of koud van worden.
Is de zorg om privacy daarmee onterecht? Nee want er is nog een derde factor die een stuk zorgelijker is dan de eerste twee. Stel dat we in een zonnige bui vinden dat de huidige manier waarop online platforms met onze privacy omgaan ‘nog wel kan’. Dat is een heroïsche veronderstelling aangezien we weten hoe onder meer Facebook gebruikt wordt door dubieuze politici (en niet alleen in Rusland) om nepnieuws te verspreiden. Zelfs als je luchtig zou zijn over het gebruik van je persoonlijke gegevens komen er publieke belangen zoals het beschermen van democratische waarden in het geding.
Maar als we voor het gemak van deze publieke belangen abstraheren, wat is het grotere probleem? Ik illustreer dat met de recente aankondiging van Facebook baas Mark Zuckerberg dat zijn bedrijf investeert in technieken om de gedachten van mensen te lezen. Zuckerberg heeft vaak iets aandoenlijk naïefs als hij op zo’n thema losgaat. Zo kan hij gedreven praten over mooie toepassingen in de gezondheidzorg, waar mensen die verlamd zijn technologie kunnen gebruiken om hun kwaliteit van leven te verbeteren.
Maar Facebook? Als we voorbij het vrolijke optimisme van Zuckerberg kijken, weten we dat het uiteindelijk gewoon om advertenties en geld gaat. En om controle. En om het punt voorbij te zijn waar we nog om Facebook heen kunnen. Als dat punt niet al bereikt is. En dan wordt het ongemakkelijk.
De historie heeft keer op keer laten zien dat er dingen gebeuren via platforms als Facebook die – mogelijk onbedoeld – maatschappelijk ongewenst zijn. Je hoeft geen rijke fantasie te hebben om te snappen wat er mis kan gaan als derden misbruik maken van gedachte lezen via Facebook applicaties. En we zien Zuckerberg al weer in de bankjes van het Amerikaanse Congres verschijnen om uit te leggen aan verbijsterde parlementariërs dat dit echt toch niet de bedoeling was.
En dit is geen nieuws. We weten dit immers al sinds 1968 toen Stanley Kubrick zijn epische film 2001: A Space Odyssey maakte. Een ruimtemissie op weg naar Jupiter wordt gestuurd door een alleswetende computer HAL. Probleem: HAL neemt de regie van de bemanning over zonder dat precies duidelijk wordt waarom, met alle gevolgen van dien.
Laat Facebook geen HAL worden. Als gedachte lezende techniek mooie publieke toepassingen heeft, laat die dan publiek gecontroleerd ontwikkeld worden. Als Zuckerberg het zo goed voor heeft met de wereld, raad ik hem aan genereus aan dat project te doneren. En als hij dan toch zo leuk bezig is, kan hij zijn alleswetende algoritme beschikbaar stellen aan de wetenschap. Dan kunnen we tenminste zelf controleren of we bang of blij moeten worden van dat algoritme. En als dat mislukt kunnen we nog altijd de app gebruiken om de gedachte van Zuckerberg zelf te lezen.
Auteur
Categorieën