Computermodellen zijn nooit neutraal!

Computertechnologie: wat willen we ermee en willen we het überhaupt wel? Een intrigerende vraag voor iemand die zich als moraalfilosofe profileert. Katleen Gabriëls werkt aan de Maastricht University en houdt zich juist met die dilemma’s bezig die voortvloeien uit (het gebruik van) computertechnologie. ‘Wij zijn de laatste generatie die nog het verschil weet tussen online en offline.’

Kathleen Gabriels (foto Bob Bronshoff)

Internet is overal
Eigenlijk vindt ze dat best verontrustend: nooit meer offline. ‘Je hele leven word je gevolgd. Er gebeurt altijd wel iets online waar je door ‘aan gezet’ wordt, aldus Gabriëls. ‘Het is dit jaar dertig jaar geleden dat we voor het eerst konden kennismaken met het World Wide Web. Op 29 oktober 1989 startte het. Sindsdien is het steeds verder geëvolueerd: mobiel, via apparaten (Internet of Things, IoT) en nu gaat het richting de datagestuurde Artificial Intelligence. Die is altijd en overal om ons heen. Je krijgt gevraagd en ongevraagd adviezen over alles en iedereen. Van vóór de geboorte tot ver ná de dood zijn we online. Hoever willen we daarin gaan?’

Schaduwzijde wordt onderbelicht
Gabriëls: ‘De schaduwkanten van deze altijd aanwezige technologie worden echter onderbelicht. Neem de meest recente overname van Fitbit door Google. We kennen de datatrackers, zoals wij die noemen. Je voert daar persoonlijke gegevens in via je trainingen. Dat gaat heel ver soms. Nu is Fitbit, waar al jouw data staan, overgenomen door een bedrijf, waarover we toch op zijn minst twijfels hebben over de integriteit. Big Data is Big Business, zoveel is wel weer duidelijk.’

Coveillance versus surveillance
Veel vormen van data zijn tegenwoordig heel makkelijk in te zien en te volgen. Gabriëls: ‘Dat maakt dat we toegaan naar een maatschappij waar we elkaar in de gaten (kunnen) houden: we gaan van surveillance naar coveillance. Via het heridentificeren van geanonimiseerde data komen we achter gegevens en gebeurtenissen waar de ‘eigenaar’ geen weet (meer) van heeft. Maar dat eigenlijk ook niet wil. Techniek maakt het echter eenvoudig om met wat social engineering iemands hele leven in beeld te brengen om er wat mee te doen. Ergens wordt altijd weer informatie bewaard. We zijn van een informatieafvalbak naar een informatievriezer gegaan, zoals al werd gememoreerd: van kortetermijngeheugen naar ultralangetermijngeheugen. Er wordt nooit meer iets echt weg gegooid….’

Techniek is nooit neutraal
Gabriëls vreest ook dat techniek nooit neutraal zal zijn. ‘Het wordt ontwikkeld en de gebruiker wordt gestuurd door de (toepassing van) techniek. Computermodellen sturen de gebruiker, maar wie heeft die computermodellen getraind? Welke eigenschappen worden daarmee toegekend aan het model? Dat is bepalend voor het gebruik en waarmee de gebruiker wordt gestuurd. Het model hangt per definitie af van het bedrijf of de organisatie die de computermodellen inricht en gaat toepassen. Of dat nu de overheid is of Google: het is nooit neutraal.’
De oplossing ligt volgens Gabriëls aan het begin van het ontwerp: ‘We zouden meer ethisch bezig moeten zijn, al vanaf het begin van het ontwerpen van deze computermodellen. Laat de achterkant zien; wat gebeurt er? Wijs op denkfouten in het ontwerp. Er zijn veel voor- en nadelen aan computertechnologie. We moeten alleen leren nadenken over hoe hiermee netjes om te gaan. Ethics by Design…’