Column: Algoritmes…alleen maar negatief?

Deze week heeft iedereen het over de ontslagen bij Uber. Een aantal chauffeurs is door Uber ontslagen vanwege vermeende fraude. De chauffeurs geven aan dat zij op basis van een algoritme binnen Uber onterecht beschuldigd worden van fraude. Vervolgens zou die enkele constatering op basis van dat algoritme de reden voor hun ontslag zijn.
Dit levert natuurlijk een interessante discussie op. Volgens de Europese privacywet GDPR mag de grond voor een ontslag niet alleen gebaseerd zijn op een algoritme. Het uiteindelijke besluit tot een ontslag moet altijd door een mens genomen worden.

Wat mij interesseert is dat in deze tijd waar data meer geld waard zijn dan goud, die algoritmes een terugkerend negatief nieuwsitem lijken. Een bekend voorbeeld is de Amerikaanse verkiezing in 2016. En ook op Nederlandse bodem liet Arjen Lubach laatst zien, dat je binnen een paar klikken op YouTube in een trechter aan complottheorieën terecht kunt komen.
Netflix zorgt met docu’s als “The Social Dilemma” en “The Great Hack” ook voor een negatieve kijk op algoritmes en organisaties die jouw data verzamelen. Nu is de kanttekening hierbij dat Netflix met haar eigen algoritme ook tips naar voren weet te schuiven, afgestemd op jouw kijkgedrag.

De vraag is: hoe kwalijk zijn deze algoritmes nu eigenlijk? Dat wiskundige en natuurkundige formules losgelaten worden op bepaalde patronen is namelijk iets van alle tijden. Dat bewijst ook de Wet van Benford bijvoorbeeld. Deze formule werd in 1881 al ontdekt en is in 1938 opnieuw ontdekt en verder uitgewerkt. Grote (overheid)instellingen over de gehele wereld passen deze formule toe om fraude en criminaliteit op te sporen en vaak ook met succes.
De analyse van big data zorgt bij medische onderzoeken sneller tot een doorbraak en oplossing. Binnen de recherche kan door het analyseren van alle gegevens uit het verleden, beter ingesprongen worden op huidige situaties. En zo zijn er uiteraard nog meer positieve voorbeelden te benoemen.

Zolang organisaties op een verantwoorde en ethische manier omgaan met gegevens, is het loslaten van algoritmes of formules op gegevens uiteraard geen probleem. Nogmaals het leidt ook tot mooie en positieve uitkomsten. Misschien dat ook juist daarom de excessen in het nieuws komen, zoals bij Uber. De regie en tussenkomst van de mens is en blijft een essentiële factor.