Hoe Big Data ons minder innovatief maakt

Dat had Sinterklaas niet voorzien: 125.000 Nederlandse kinderen die een cadeautje van V-tech++V-tech en BarbieMeer over de V-tech-hack. Meer over de Hello Barbie. in de schoen kregen, zagen hun gegevens, zoals foto’s en chatgesprekken, op het internet gelekt. Enkele maanden eerder raakte een met spraaktechnologie uitgeruste Barbie al in opspraak; alles wat de kinderen aan hun Barbie vertelden werd naar het internet verstuurd. Onze levens worden van jongs af aan in data gevangen. Wat heeft dat op de lange termijn voor subtiele effecten op ons leven?

De kans dat de cadeautjes dit jaar met het internet verbonden zijn en data verzamelen neemt toe. Het Internet of Things-droombeeld waarin wordt voorgesteld om allerlei dingen op het internet aan te sluiten, leeft ook in de speelgoedindustrie. Dat gaat weleens mis. Uit recent onderzoek blijkt dat een kwart van de op internet aangesloten apparaten niet noemenswaardig++Lekke apparatenLees meer over dit onderzoek naar lekke apparaten. is beveiligd, bijvoorbeeld omdat ze nog met een standaardwachtwoord ingesteld staan of welbekende veiligheidslekken bevatten.

Hoe zorgwekkend deze belabberde beveiliging ook is en hoeveel er ook lekt, de realiteit is dat we onze data, en die van onze kinderen, in grote hoeveelheden zelf vrijwillig online delen++Kinderfoto’sDimitri Tokmetzis en Yuri Veerman verkochten begin dit jaar mokken met kinderfoto’s. De ouders hadden deze foto’s zelf gedeeld en, vaak zonder het goed te beseffen, toestemming gegeven voor commercieel gebruik. Lees meer
. We laten overal kleine kruimels achter: een foto hier, een update daar. We onderschatten de gevaren daarvan omdat we ons niet kunnen voorstellen dat iemand al die kleine kruimels opzuigt. Maar dat kan, en dat gebeurt. Sterker nog, het bij elkaar puzzelen van alle kleine beetjes data is een hele industrie geworden. Deze ‘databrokers’ gaan daarbij niet altijd even ethisch te werk++SchandalenAl in 2005 vonden grote schandalen plaats..

Voor een sector van deze omvang is hij verrassend onzichtbaar. Heb je weleens van Palantir++PalantirDeze video toont hoe de software van Palantir in 2011 werkte. gehoord? Dit bedrijf, dat in enkele jaren 20 miljard waard werd, bouwt voor overheden en bedrijven gedetailleerde ‘plaatjes’ van hun klanten. De software die ze hiervoor hebben gebouwd lijkt sterk op de software die de Amerikaanse veiligheidsdienst NSA gebruikt om terroristennetwerken in kaart te brengen. De militaire sector blijft een sterke inspiratiebron voor commerciële producten. Ook jij kunt nu al van dit soort inzichten gebruikmaken door bijvoorbeeld een abonnement te nemen op CrystalKnows.com. Deze dienst biedt je inzicht in de emotionele profielen, het karakter, van de mensen om je heen. De pitch: als je iemands karakter beter begrijpt, kun je hen makkelijker verleiden om iets in jouw voordeel te ondernemen. Het boek van SinterklaasDe negatieve gevolgen van databrokers en profileringsdiensten zijn moeilijk te doorzien. is er niets bij.

Boeven innoveren ook

Het meest fascinerende van het leven in een Big Data-wereld is dat er veel subtielere vormen van sturing ontstaan.

Sommige vormen van datamisbruik herkennen we meteen en worden dan ook goed opgepakt door de media. Chantage bijvoorbeeld, zoals in het geval van de recente Ashley Madison-hack++Ashley Madison9.000 Nederlanders waren lid. Benieuwd of je vrienden vreemdgangers zijn? Zoek ze even op waarin de gegevens van 30 miljoen overspelige mensen openbaar werd. Vele relaties liepen op de klippen, en minimaal twee mensen pleegden zelfmoord. Deze negatieve gevolgen van Big Data zijn zeer zichtbaar.

Maar de negatieve gevolgen van databrokers en profileringsdiensten zijn veel moeilijker te doorzien. Misschien betaal je meer voor je autoverzekering omdat je een slechte score hebt. Misschien ben je in de eerste ronde van een sollicitatie bij een groot bedrijf al afgewezen door een algoritme dat je als ongeschikt bestempelde. Het is lastig te achterhalen, maar duidelijk is dat dit steeds meer zal gaan gebeuren.

Nu kun je denken: prima zo. Algoritmes, onzichtbaar of niet, zullen ons eerlijker beoordelen dan mensen. Misschien kunnen we op die manier discriminatie en ongelijkheid tegengaan. Maar is dat zo? Algoritmes worden altijd door iemand met een agenda geschreven. Programmeercode, een menselijk product, is nooit normenvrij. Geen enkele technologische implementatie is ooit neutraal, er is altijd een doel, er is altijd iemand die investeert.Geen enkele technologische implementatie is ooit neutraal, er is altijd een doel, er is altijd iemand die investeert.

Ingeprogrammeerde ongelijkheid

Terwijl herkenbare vormen van discriminatie, zoals Zwarte Piet, fel worden bevochten neemt subtiele data-discriminatie juist toe. Je wordt niet gediscrimineerd omdat je zwart of vrouw bent, maar omdat je een prikkelbare persoonlijkheid hebt die niet goed in het team past, omdat je gevoelig bent voor verslaving, omdat je in een slechte wijk woont, of omdat je criminele verleden de rest van je leven leesbaar blijft. In een maatschappij waarin elk risico moet worden afgedekt, is elk kruimeltje waardevol.

De grote hoeveelheden data die we delen hebben op de lange termijn niet alleen effect op onze portemonnee of carrière, maar ook op ons gedrag. Er ontstaat een situatie waarin burgers meer en meer druk voelen om zich te conformeren aan een letterlijk gemeten gemiddelde mens. Dit is geen toekomstverhaal, het gebeurt nu al++ZelfcensuurAmerikaanse studenten feesten minder hard. Schrijvers stellen meer aan zelfcensuur te doen.. We zien studenten in Amerika minder wild feesten omdat ze weten dat de beelden van die feesten op internet verschijnen. We zien grote hoeveelheden schrijvers die aangeven dat ze al aan zelfcensuur doen. Wanneer we ons minder goed tegen de blik van de ander kunnen wapenen nemen deze chilling effects toe. We lijken, kortom, naar een wereld te bewegen waarin we ons steeds braver gaan gedragen. Welkom in het data-panopticon.

Een fantasieloze creatieve industrie

Deze situatie is enigszins paradoxaal. We willen graag in een innovatieve maatschappij leven waarin burgers op onnavolgbare wijze producten ontwikkelen en taaie maatschappelijke problemen oplossen. Om dit creatief vermogen te ontwikkelen, zo wijst TNO in een recent onderzoek aan, is het belangrijk dat kinderen “anders durven zijn”. En daar wringt de schoen, want je kunt je afvragen: welk effect hebben de chilling effects op de volgende generatie creatieve vernieuwers?++Anders durven zijnRecent onderzoek door TNO wijst op het belang van ‘anders durven zijn’ als bron van creativiteit. Hoe creatief kun je zijn in een maatschappij waarin gedrag dat van de norm afwijktOnze olieverslaving leidt tot opwarming van onze planeet. Leiden data-verslaving en de resulterende chilling effects tot ‘afkoeling’ van onze creatieve maatschappij? subtiel wordt bestraft?

Ik vermoed dat deze situatie vooral creativiteit in dezelfde richting stimuleert, en dat we nog meer surveillerende, data-graaiende diensten en producten zullen zien. De enorme interesse in het Internet of Things, waarin de lessen van Snowden compleet worden genegeerd, lijkt dit te onderstrepen.

Naar de nuance

Om hieraan te ontsnappen zullen we allereerst een andere metafoor voor data moeten gebruiken dan ‘goud’. Data is niet het nieuwe goud, ze is de nieuwe olie. Van olie zijn de voordelen én de nadelen ons inmiddels bekend.

Dat is nog geen geaccepteerd beeld in een op start-ups en creatieve industrie gefocust beleidsklimaat. Kritische noten omtrent de innovatie- en vooruitgangsretoriek worden nog altijd te snel afgedaan als pessimisme. In een post-Snowden-tijdperk++SnowdenIn 2013 leerden we dankzij klokkenluider Edward Snowden dat de geheime diensten van de Verenigde Staten het internet op grote schaal aftappen. blijft het aantrekkelijke, optimistische doch naïeve Silicon Valley-narratief oppermachtig en weet het zelfs de meest kritische geesten – zoals Neelie Kroes++Neelie KroesNeelie Kroes helpt van Nederland een topland te maken voor startups, maar volgt daarbij het Amerikaanse model. – in te palmen.

Deze vicieuze cirkel lijkt ironisch genoeg in Silicon Valley al wel in beeld. Apple-topman Tim Cook prijst zijn producten tegenwoordig als privacyvriendelijk aan. In een data-panopticon wordt privacy schaars en daarmee het nieuwe luxeproduct.

Europa, verzin je eigen verhaal

Europa hobbelt altijd net een stukje achter de Verenigde Staten aan, terwijl we juist voorop zouden kunnen lopen in de creatie van (de markt voor) menswaardige technologie. Wat Europa nodig heeft is een alternatief inhoudelijk beeld dat weerstand kan bieden aan het Silicon Valley-verhaal. Een beeld waarin wordt erkend dat technologische ontwikkelingen nooit onvermijdelijk zijn, dat het ethisch verweven van technologie en maatschappij een taak is die we allemaal delen, en waarin de lessen van ons tumultueuze Europese verleden++WOIITijdens de tweede wereldoorlog vergemakkelijkte het geavanceerde Nederlandse bevolkingsregister de jodenvervolging. zijn meegenomen. Dat zou een makkie moeten zijn, want de menswetenschappelijke faculteiten van de verschillende Europese universiteiten roepen dit al decennia. Dat is de tweede tip: laten we eens naar hen luisteren.

Als we dat niet doen ontstaat er mogelijk een ander langetermijngevaar: een breed wantrouwen richting technologie. Dan blijft het geaccepteerd om weinig van deze nieuwe data-wereld, en de machtsstructuren die erin verstopt liggen, te begrijpen. Dat is het gevaarlijkste cadeau dat we een nieuwe generatie kunnen geven. Mijn laatste tip is daarom: geef in plaats van een chat- en foto-apparaat liever een cursus programmeren++Geef eens een cursus programmeren cadeauOh kom er eens kijken..