Het documentaire programma Tegenlicht ging het afgelopen week over de toenemende impact van algoritmen op ons dagelijks leven. Het gaat om voorspellingen gebruikmakend van algoritmen en grote hoeveelheden data. Op basis van historische data doet een algoritme de meest succesvolle voorspelling. De documentaire maakt duidelijk dat er óók in data en algoritmen geen objectiviteit bestaat. Want wat is gunstig voor wie? Een beetje ontluisterend als je denkt dat wiskunde toch bij uitstrek objectief is. De historische data die gebruikt wordt en de keuzes in het algoritme zijn mensenwerk. Ze zijn bevooroordeeld en cultureel bepaald.
Een ingrijpend voorbeeld van de impact van een algoritme is de toepassing in de Verenigde Staten om te bepalen of een gevangene vervroegd vrij mag uit de gevangenis. De kans op recidive is na beoordeling door het algoritme bijna 50%, wat bijna neer komt op het gooien van een munt om te bepalen of iemand eerder vrij mag.
Mensen met hun hersenen en vermogen tot communiceren hebben een onevenaarbaar potentieel om meervoudige data – ook wat niet hard gecodeerd vastgelegd kan worden – in hun oordeel te betrekken. In die kwaliteit zit zowel een bedreiging als een kans. Het oordelen gaat zo ongelooflijk snel met meeweging van de indrukken. Het oordeel kan zelfs voor de waarneming gaan. Toen ik ooit een voor mijn gevoel wat onbekende auto reed en in de veranderstelling was dat deze zwarte uitvoering van dit merk heel uitzonderlijk was, bleek dat buren 50 meter verderop er al langere tijd een te hebben. Rijdend over de snelweg kwam ik ineens heel veel auto’s tegen als die waar ik in reed. Mijn oordeel vernauwde mijn blikveld en daarmee zag ik duidelijker waar ik naar op zoek was. Nadeel: ik had minder oog voor de rest.
Een voordeel van de werking van ons brein is dat wij alleen of in groepen in staat zijn om de meest wonderlijk zaken te verbeelden en te creëren. Neem nu deze blurr: ik begon te schrijven over algoritmen en heb het nu over oordelen en creativiteit. ….Ons brein kan associëren en vele observaties, gevoelens, gedachten, energie, reuk, visualisatie, geluid in een briljante mix combineren.
Wat er mis met algoritmen? In veel toepassingen zijn ze ongetwijfeld ongelooflijk handig. Ik geef het observeren, classificeren, interpreteren en concluderen volledig uit handen. Ik weet zelfs niet eens welke interpretatie over mijn gedachten zijn en in de basis zijn algoritmen vergeleken bij het vermogen van hersenen domme apparaten door mensen gemaakt. Spotify heeft een algoritme voor muziek, waarbij ik kan kiezen voor muziek uit de categorie ‘happy ’, ‘coffee’, ‘diner’ etc. waarbij ik eigenlijk muziek via een algoritme kies. Vind ik het niks, dan kies ik weer gewoon zelf. Zo zou het ook moeten gaan bij een keuze als wel of niet een gevangene vrijlaten.
Okay. Hoe dan om te gaan met mijn brein en mijn subjectiviteit? Want die werkt ook als een onberekenbaar algoritme en oordeelt met de snelheid van het licht. Wat kan ik doen?
Allereerst doe ik mijn best om bij relevante om terug te gaan naar de observaties. Wat nemen wij - zo feitelijk mogelijk – waar?. Dit is essentieel! In Kunst van het observeren maakt Amy Herman duidelijk hoe weinig feitelijk wij observeren. De interpretatie lijkt wel bijna voor de observatie te gaan. In dat observeren is focussen dan helemaal zo slecht nog niet. Heel gedetailleerd waarnemen wat er nu is, zoals je door een keuken rol veel scherper kijkt door bewust jouw zichtveld te beperken.
In de inventarisatie van de observatie dan ook hele feitelijk blijven. Dus wel “ik zie twee rappportage met een verschillende lay-out en inhoudsopgave en omvang” en niet: “we moeten dit doen omdat rapportage A heel helder aangeeft dat….” Zo’n soort conclusie trof ik deze week mijn mail en mijn respons is dan om met de afzender terug te ploegen naar de waarnemingen die ten grondslag liggen aan deze snelle conclusie.
Feitelijk observeren is o zo moeilijk.
En mooi handvat voor hoe het verder kan tref je in het boek The art of focussed conversation van Brian Stanfield. Na de observatie volgt niet de interpretatie maar de reflectie. De reflectie is een nuttige tussenstap, om eerst jouw eerste lunch met aannames geven op basis van wat je zag. In reflectie maak je juist transparant wat die eerste emotionele impuls is. In plaats van het weg te stoppen, nog sluimerend mee te nemen in ene discussie, maken we elkaar eerste gedachten bespreekbaar.
Pas daarna gaan we interpreteren en stellen we elkaar vragen die duiden op wat betekent dit nu voor ons, waar hebben we het over, wat willen we en waarom?
Om tenslotte pas de stap te maken naar de vraag wat we graag zouden zien dat er nu gebeurt.
Het mooie van de voorgestelde volgorde van bevragen in de volgorde van objective -reflective – interpretive and decisional is dat de observaties leiden tot gedeelde betekenisgeving en actie. Het is een mooie routine die in agile practices van empirisch handelen past.
Wat nu met die algoritmen? Mijn advies: ga re mee om alsof je met de maker, een mens van vlees en bloed, tegenover je zit en betrek jouw eigen observaties, reflecties en interpretaties voordat een scherm jou zegt wat te doen. Best handig een algoritme, net als een wasmachine.
Change your heart, look around you Change your heart, it will astound you Korgis
Comments