We staan de komende jaren voor belangrijke keuzes om big tech in goede banen te leiden. Zonder regulering leidt het oligopolie van technologiebedrijven tot een techdictatuur en massa-surveillance. Hoe kan de keuzevrijheid van de mens worden bewaakt en hersteld?
In het kort
– Big tech vormt een bedreiging voor de menselijke keuzevrijheid, een van de uitgangspunten van onze rechtstaat.
– Netwerkeffecten en schaalvoordelen leiden tot een winner-takes-all-dynamiek en een big tech-oligopolie.
– Om het falen van de markt te corrigeren en de keuzevrijheid van de mens te beschermen is regulering noodzakelijk.
De human agency, oftewel de keuzevrijheid van de mens, is een belangrijk uitgangspunt van onze rechtstaat. Mensen worden geacht om onafhankelijk van anderen en van hun omgeving afwegingen te kunnen maken, beslissingen te kunnen nemen en te kunnen handelen. We gaan uit van de vrije wil, en van de eigen verantwoordelijkheid voor wat je doet en wat je laat. In onze op het liberalisme gebaseerde samenleving is er veel vrijheid om het leven naar eigen inzicht in te richten. De klassieke grondrechten die ten tijde van de Verlichting door onder anderen John Locke zijn geformuleerd, moeten de mogelijkheid waarborgen dat de mens vrij kan handelen: het recht op leven, de vrijheid van meningsuiting, en de vrijheid van drukpers.
In de economische wetenschap wordt het uitgangspunt van de menselijke vrijheid om te kiezen vertaald naar de homo economicus. De mens wordt verondersteld om volledig rationeel te zijn qua denken en doen, wat vervolgens leidt tot efficiënte markten.
Inmiddels weten we wel beter. Mensen zijn helemaal niet zo onafhankelijk en autonoom. Onze afwegingen worden mede bepaald door de omgeving waarin we ons bevinden en wat daar de gebruiken zijn; ook opvoeding, opleiding en religie spelen hierbij een rol. Bovendien zijn we intrinsiek niet zo rationeel als de traditionele economische wetenschap aanneemt (Kahneman, 2011; Kahneman en Tversky, 1979). We blijken bij beslissingen in onzekere omstandigheden grotere risico’s te nemen als we iets dat we al hebben kunnen verliezen, en kleinere risico’s als we iets kunnen winnen. Het kiezen voor zekerheid is begrijpelijk, maar in economische zin ook irrationeel en inefficiënt. Ariely (2008) heeft in zijn werk laten zien dat mensen zelfs voorspelbaar irrationeel zijn. Reclamemakers maken hier handig gebruik van, evenals de sociale media.
Sinds de Amerikaanse presidentsverkiezingen van 2016 weten we dat algoritmes van sociale media een effectief middel zijn om het kiesgedrag van mensen te beïnvloeden en de menselijke keuzevrijheid te ondermijnen.Wylie (2019) beschrijft in zijn boek Mindf*ck hoe Cambridge Analytica de persoonsgegevens, voorkeuren en drijfveren van 87 miljoen Amerikanen verzamelde om hen met heel gerichte campagnes te kunnen bestoken (microtargeting).
Wylie (2019) schrijft dat de onderliggende ideologie van de sociale media niet is om de keuzevrijheid van mensen te bevorderen, maar juist om die te vernauwen, te filteren en te beperken ten behoeve van hun adverteerders.
Of er sprake is van een ideologie valt te betwisten. Het is eerder een onwenselijke consequentie van zowel het functioneren van digitale platformmarkten als het verdienmodel van de sociale media, dat is gebaseerd op advertentie-inkomsten die door nauwkeurige targeting worden gemaximaliseerd. Dit artikel analyseert hoe marktfalen leidt tot ondermijning van de keuzevrijheid, en welke (beleids)opties er zijn om dit te ondervangen.
Netwerkeffecten en schaalvoordelen
Het platformbusinessmodel van de grote technologiebedrijven faciliteert transacties tussen verschillende groepen gebruikers. Denk aan sociale media, marktplaatsen en appstores. Voor gebruikers wordt het nut van het platform groter naarmate zich meer gebruikers aansluiten. Je hebt niets aan een telefoon of aan een account op Facebook als je de enige gebruiker bent. Dit netwerkeffect wordt tot uitdrukking gebracht in de wet van Metcalfe: de waarde van een netwerk neemt kwadratisch toe met het aantal aangesloten apparaten of gebruikers.
Op platforms zijn er twee soorten netwerkeffecten. Allereerst zijn er de same-side-netwerkeffecten die veroorzaakt worden door toename van het aantal gebruikers van dezelfde gebruikersgroep. Een sociaal netwerk als LinkedIn wordt pas interessant als er veel mensen op zitten zoals jij. Daarnaast zijn er cross-side-netwerkeffecten. Voor adverteerders is LinkedIn waardevoller als er meer profielen op staan. Netwerkeffecten ontstaan door interacties tussen gebruikers, dus aan de vraagzijde van de markt.
Deze netwerkeffecten aan de vraagzijde zorgen vervolgens voor de schaalvoordelen aan de aanbodzijde die nodig zijn om de ‘sunk costs’ van het bouwen van een platform terug te verdienen. Als het platform eenmaal gebouwd is, zijn de marginale kosten voor het aansluiten van meer gebruikers laag.
Figuur 1 laat de dynamiek zien tussen de netwerkeffecten en de schaalvoordelen (De Ridder, 2016). De linkerkant illustreert het netwerkeffect: hoe het platform voor gebruikers steeds interessanter wordt als er meer gebruikers meedoen. Meer gebruikers zorgen voor meer omzet en voor schaalvoordelen, zoals weergegeven aan de rechterkant van de figuur. Door de financiële ruimte die daardoor ontstaat te gebruiken voor investeringen in nieuwe functionaliteit, kan een volgende groep gebruikers aan het platform worden verbonden, waarmee er weer nieuwe netwerkeffecten optreden.
Deze dynamiek kan leiden tot een vliegwieleffect en een exponentiële groei van een platform. Naarmate het platform groter en sterker wordt, gaan meer gebruikers zich aansluiten. Waar de eerste gebruikers een risico namen, omdat het voor hen nog onduidelijk was of het platform werkelijk zou aanslaan, wordt dat risico voor latere deelnemers steeds kleiner.
Marktmacht
De netwerkeffecten kunnen ook leiden tot een toetredingsbarrière. Als het voor gebruikers van een platform duur of lastig is om naar een ander platform over te stappen of om van meerdere platforms tegelijkertijd gebruik te maken, ontstaat er een lock-in-situatie. Op platformmarkten is slechts ruimte voor een klein aantal spelers, zodat de concurrentiestrijd initieel hevig is. Maar als de lock-in van gebruikers effectief is en een toetredingsbarrière vormt, ontstaat er een winner-takes-all-dynamiek die leidt tot marktmacht.
Big tech bestaat wereldwijd momenteel uit niet meer dan negen ondernemingen. Dat zijn er zes in de Verenigde Staten (Apple, Alphabet/Google, Microsoft, Amazon, Facebook en IBM) en drie in China (Tencent, Alibaba en Baidu). Het beperkte aantal spelers en hun gezamenlijke marktaandeel – ofwel de concentratiegraad – zijn typische kenmerken van een oligopolie. Omdat hun producten substituten zijn en niet exact hetzelfde, spreken we van een heterogeen oligopolie. Petit (2018) stelt dat mededingingsautoriteiten en toezichthouders de grote technologiebedrijven weliswaar als monopolisten bestempelen, maar dat de concurrentie die ze zowel onderling als van andere bedrijven ervaren zodanig hevig is dat er van een monopolie geen sprake is.
Het is evident dat het op dit moment moeilijk is om geen gebruik te maken van de diensten van technologiebedrijven zoals Facebook, Google en Microsoft. Hoe zou je aan informatie moeten komen, sociale contacten onderhouden of een baan kunnen vinden? Ze zijn een niet te vermijden onderdeel van ons leven geworden. En ze zijn de boegbeelden van een nieuwe economie, waarin digitalisering en kunstmatige intelligentie leiden tot nieuwe businessmodellen (De Ridder, 2020).
Marktfalen
Waar het marktmechanisme niet werkt volgens de economische theorie is er sprake van marktfalen en is overheidsinterventie te rechtvaardigen. Marktfalen van big tech uit zich op drie manieren. In de eerste plaats is er sprake van een dominante marktpositie van een klein aantal spelers: big tech. De winner-takes-all-dynamiek op digitale platformmarkten leidt tot een toetredingsbarrière, en daarmee tot een beperking van de concurrentie. De opbrengsten van deze marktmacht worden door de grote technologiebedrijven regelmatig gebruikt om concurrenten en aanbieders van aanverwante diensten op te kopen, en toe te voegen aan hun conglomeraat. Zo is Facebook ook eigenaar van Instagram en Whatsapp. En YouTube, de grootste zoekmachine na Google, is evenals Google onderdeel van Alphabet.
In de tweede plaats is er geen echte vrije afstemming meer tussen vraag en aanbod. Door de centrale rol van de platforms in het onderhouden van sociale contacten is er nauwelijks sprake van een vrije keuze om wel of niet te consumeren. Bovendien zijn er voor de meeste platforms geen volwaardige alternatieven, waardoor de prijs, in de vorm van gebruikersvoorwaarden waarin je ‘vrijwillig’ je privacy uit handen geeft, eenzijdig bepaald wordt door de grote socialemediabedrijven en niet door vrije afstemming tussen consument en producent. Vrije keuze voor het al dan niet accepteren van de voorwaarden, en daarmee voor het gebruik van de platforms, is er in formele zin wel, maar is in de praktijk ernstig beperkt.
In de derde plaats zijn er verschillende negatieve maatschappelijke externe effecten. Sociale media die van gebruikers gedetailleerde profielen opbouwen en microtargeting inzetten om hun advertentieomzet te maximaliseren, maken niet alleen inbreuk op de privacy, maar hebben ook een grote invloed op ons aankoop- en zelfs ons stemgedrag, zoals we hebben gezien bij Cambridge Analytica. Bovendien zorgen de algoritmes die advertenties en nieuwsberichten voor je selecteren ervoor dat je in een filterbubbel terechtkomt. Zo ontstaat er een bijzondere vorm van informatie-asymmetrie tussen gebruikers en platforms. Wie de objectiviteit van berichtgeving wil vaststellen en meer divers nieuws wil consumeren, moet daar actief naar op zoek.
Dreigende techdictatuur
Een belangrijke vraag is of de grote technologiebedrijven zo machtig zijn dat ze de democratie naar hun hand kunnen zetten. Van Gils et al. (2020) hebben aangetoond dat, naast microtargeting, vooral filterbubbels die ontstaan als mensen het nieuws via de sociale media volgen, invloed hebben op de verkiezingsuitslag. Volgens Harari (2018) dreigt een digital dictatorship ofwel techdictatuur als er te veel data in te weinig handen terecht komen.
Zuboff (2019) waarschuwt voor het surveillance-kapitalisme. Om hun advertentie-inkomsten te maximaliseren bouwen sociale media van iedere gebruiker een gedetailleerd profiel op. Hoe beter je iemands voorkeuren, wensen, behoeften en gedragingen kent, hoe gerichter je kunt adverteren en hoe hoger de prijs van de advertentie. De meestgebruikte apps zijn gratis, in die zin dat er geen aanschaf- of abonnementskosten zijn. Maar gratis bestaat niet: gebruikers betalen met hun data. Met andere woorden, de gebruiker is het product geworden.
Het beheersen van informatie en surveillance zijn kenmerken van autoritaire regimes, maar daaruit volgt niet dat technologiebedrijven autoritaire regimes zijn of willen zijn. Hun commerciële succes en machtpositie zijn economisch goed verklaarbaar.
Aanpak marktfalen big tech
Het marktfalen van big tech wordt in de drie economische machtsblokken Europa, Verenigde Staten en China anders beoordeeld en aangepakt. Er is een machtsverschuiving waarneembaar in de driehoeksverhouding van burgers, bedrijven en overheden, waarbij vooral burgers macht inleveren aan bedrijven. Overheden zoeken naar mogelijkheden om dat terug te draaien of om zelf meer macht te krijgen.
In China, dat een systeem van staatskapitalisme kent, hanteert de overheid dezelfde methoden als big tech ten behoeve van een social credit-systeem. Het gedrag van burgers wordt in detail gemonitord en uitgedrukt in een rapportcijfer. Als je verkeersovertredingen begaat, leningen niet op tijd afbetaalt, of op de sociale media kritische opmerkingen maakt over de partij, dan gaat je score omlaag en wordt je vrijheid beperkt. Alleen wie op een voldoende staat, komt in aanmerking voor de betere banen, kan een huis kopen en mag op reis.
Meer nog dan Europa kan de Amerikaanse democratie worden gekenmerkt als een corpocratie. De door grote ondernemingen gefinancierde lobby heeft een aanzienlijke invloed op de politieke besluitvorming. Een steeds groter deel van het bruto nationaal product gaat naar winsten van ondernemingen, een steeds kleiner deel naar lonen. Digitale businessmodellen en toepassingen van kunstmatige intelligentie worden ontwikkeld met het oog op commerciële belangen en winststreven binnen een wettelijk regime dat weinig beperkingen oplegt.
De democraten in het Amerikaanse Huis van Afgevaardigden pleitten in een vuistdik rapport voor het opsplitsen van Amazon, Apple, Facebook en Google om de concurrentie te herstellen, innovatie te bevorderen en de democratie te beschermen (United States Congress, 2020). Dit is in het verleden in de Verenigde Staten ook gedaan met Standard Oil en AT&T. De kans is echter klein dat dit nu weer gaat gebeuren, want de Republikeinen zijn tegen en onder kiezers/consumenten leeft het onderwerp onvoldoende.
De Europese Unie richt zich niet zozeer op de omvang van de technologiebedrijven, als wel op hun marktgedrag. Google heeft inmiddels drie boetes gehad voor misbruik van zijn marktmacht voor een totaalbedrag van acht miljard euro. En tegen Amazon loopt een onderzoek wegens het misbruiken van data van de producten van derden, die via hun platform worden verkocht ten behoeve van de productie en de verkoop van hun eigen aanbod. Eurocommissaris Vestager zegt in het officiële statement: “We do not take issue with the success of Amazon or its size. Our concern is a very specific business conduct, which appears to distort genuine competition.” (Europese Commissie, 2020)
Zelfregulering
De grote technologiebedrijven hebben in een vlucht naar voren vooral met betrekking tot de sociale media een aantal initiatieven tot zelfregulering genomen. Facebook heeft in mei 2020 bijvoorbeeld het Oversight Board for Content Decisions geïnstalleerd, dat beslissingen neemt over het toelaten of verwijderen van bepaalde content. Ook wordt er geëxperimenteerd met meer decentrale oplossingen, gebruikmakend van de wisdom of the crowd. Als veel mensen aangeven een bericht ongepast te vinden, wordt het automatisch verwijderd.
Daarnaast zien we dat sociale media stringentere gebruiksvoorwaarden hebben opgesteld, en dat die in toenemende mate worden gehandhaafd. Dagelijks worden er vele nepprofielen en opruiende berichten verwijderd. Gebruikers die desinformatie verspreiden of oproepen tot geweld kunnen worden geblokkeerd, met Donald Trump als bekendste voorbeeld.
Deze zelfregulering kent echter ook een aantal bezwaren. Sommige platforms zijn zo groot geworden dat een gebruiker die hiervan verwijderd wordt in zijn recht op vrije meningsuiting beperkt is, aangezien er geen vergelijkbaar alternatief is. Bovendien wordt de beslissing tot verwijdering op gezag van een particuliere onderneming genomen. Er komt geen rechter aan te pas. En als technologiebedrijven politieke kleur gaan bekennen, is er effectief sprake van censuur.
Meer regelgeving nodig
Het belangrijkste probleem van zelfregulering is dat dit de economische dynamiek die leidt tot een oligopolie niet zal doorbreken. De enige oplossing hiervoor is betere regulering op internationaal niveau. Nederland is als land niet bij machte om regelgeving voor wereldwijd opererende technologiebedrijven en sociale media in te voeren en te handhaven. En dat is niet alleen omdat wij in Nederland te klein zijn om indruk te maken op big tech. Bij de Nederlandse overheid en politiek zit er ook te weinig kennis van digitalisering en kunstmatige intelligentie. De meeste leden van de Tweede Kamer hebben een typische alfa-achtergrond en de Autoriteit Persoonsgegevens is onderbezet. Digitaal talent kiest in Nederland zelden voor een overheidscarrière; banen bij technologiebedrijven in binnen- en buitenland zijn een stuk interessanter.
Ingrijpen zal minimaal op Europees niveau moeten gebeuren, en daar zien we diverse initiatieven. De Europese Commissie heeft drie wetten in voorbereiding. De Data Governance Act (DGA) moet leiden tot de komst van data-intermediairs die het delen van data op een neutrale en transparante manier gaan regelen om monopolisering van data door technologiebedrijven tegen te gaan. Dit is eerder in ESB ook geopperd door Schellekens et al. (2020). De Digital Services Act (DSA) moet ervoor zorgen dat illegale content sneller wordt verwijderd, en verplicht platforms om transparant te zijn over de algoritmes die worden gebruikt. En de Digital Markets Act (DMA) ten slotte moet voorkomen dat grote platforms, die als poortwachter worden beschouwd, zo veel marktmacht krijgen dat concurrentie en innovatie worden beperkt.
Dit zijn goede ontwikkelingen, maar er is meer nodig om burgers weerbaarder te maken en instrumenten in handen te geven tegen de marktmacht van de grote technologiebedrijven, en om de keuzevrijheid van de mens te beschermen. In de eerste plaats moeten deze bedrijven verplicht worden om interoperabiliteit te faciliteren. In platformmarkten ontstaan er oligopolies door netwerkeffecten en deze maatregel grijpt daar direct op in.
Interoperabiliteit betekent twee dingen, namelijk dat je vanuit de ene app een bericht kan sturen naar een andere app, en dat je eenvoudig met behoud en medeneming van al je data naar een andere app kan overstappen. Voor mobiele telefonie hebben we geregeld dat je, ongeacht wie je provider is, wereldwijd ieder nummer kunt bereiken. Ook kun je binnen Nederland met behoud van je nummer eenvoudig overstappen naar een andere provider. Bij de sociale media is het nog niet zo dat je vanuit Whatsapp een bericht kunt sturen naar gebruikers van Signal of Telegram. Het zou burgers minder afhankelijk maken van een enkele aanbieder en de concurrentie tussen platforms vergroten.
In de tweede plaats is wetgeving wenselijk omtrent de toepassing van klantprofilering en filtering om de informatie-asymmetrie tussen burgers en de platforms te verkleinen. Sociale media die door middel van hun algoritmes bepalen wie welk nieuws te zien krijgt, moeten daarop aanspreekbaar zijn. Iedere vorm van filtering die gebruikers niet zelf aanbrengen of die voor gebruikers niet volledig transparant is, is een vorm van nieuws maken, waarop journalistieke criteria van toepassing zouden moeten zijn.
In een vervolg op de Europese privacywetgeving (General Data Protection Regulation; GDPR) moeten burgers het wettelijke recht krijgen op een toelichting en uitleg van de nieuws- en advertentieselecties die door algoritmes zijn gemaakt: hoe komt de selectie tot stand, welke data zijn er gebruikt en welke maatregelen zijn genomen om een eerlijk, rechtvaardig en onbevooroordeeld proces te waarborgen? Ook moet de mogelijkheid worden geboden deze selecties te corrigeren, zodat je uit de voor jou gecreëerde bubbel kunt ontsnappen.
Conclusie
De grote technologiebedrijven zijn bijzonder machtig geworden op een manier die voor burgers onopvallend en geleidelijk is gegaan en die voor overheden niet was bij te houden. Meer regelgeving is noodzakelijk om de keuzevrijheid van de mens te bewaken en daarmee het functioneren van de democratie en de rechtstaat te beschermen tegen big tech. We willen in Europa geen ongereguleerde vrijemarkteconomie die leidt tot een corpocratie of tot surveillancekapitalisme. We willen ook geen staatskapitalisme, dat van overheidswege de vrijheid beperkt. De Europese Unie spant zich in om democratische idealen te bevorderen in de toepassing van algoritmes en om macht terug te leggen bij de burgers, maar dat is nog geen gelopen race.
Literatuur
Ariely, D. (2008) Predictably irrational: the hidden forces that shape our decisions. Londen: HarperCollins.
Europese Commissie (2020) Statement by Executive Vice-President Vestager on Statement of Objections to Amazon for the use of non-public independent seller data and second investigation into its e-commerce business practices. Europese Commissie, 10 november. Te vinden op ec.europa.nl.
Gils, F. van, W. Müller en J. Prüfer (2020) Big data and democracy. TILEC Discussion Paper, 2020-003.
Harari, Y.N. (2018) 21 lessons from the 21st century. Londen: Penguin.
Kahneman, D. (2011) Thinking, fast and slow. New York: Farrar, Straus and Giroux.
Kahneman, D. en A. Tversky (1979) Prospect theory: an analysis of decision under risk. Econometrica, 47(2), 263–292.
Petit, N. (2018) Amerikaanse techreuzen zijn hevig concurrerende monopolies. ESB, 103(4768S), 82–87.
Ridder, W.P. de (2016) Digital by default. Mijnmanagementboek.nl.
Ridder, W.P. de (2020) Winnen met kunstmatige intelligentie. Amsterdam: Boom uitgevers.
Schellekens, O., J.L. van Zanden, E. Croes en A. van Riel (2020) Groei mogelijk door nieuwe omgang met data-economie. ESB, 105(4786), 294–297.
United States Congress (2020) Investigation of competition in digital markets: majority staff report and recommendations. Subcommittee on Antitrust, Commercial and Administrative Law of the Committee on the Judiciary. Te vinden op judiciary.house.gov.
Wylie, C. (2019) Mindf*ck: inside Cambridge Analytica’s plot to break the world. Londen: Profile Books.
Zuboff, S. (2019) The age of surveillance capitalism: the fight for a human future at the new frontier of power. New York: PublicAffairs.
Auteur
Categorieën