Dialoog tussen mens en algoritme.

Dingen die ik doe beginnen vaak vanuit een verwondering: “Goh, hoe maak je nou een eetbare hot sauce met de ‘Carolina Reaper’, de heetste peper van de wereld?”, “Goh, hoe kan AI ingezet worden om te ondersteunen in het schrijven van een Dungeon and Dragons verhaal?”. Ook deze missie kwam vanuit een verwondering. Die ontstond toen ik aan onze lector Koen van Turnhout vertelde dat, wanneer ik thuis in het weekend een Mexicaans diner heb met vrienden, graag mariachi muziek draai. Supergezellig voor dat moment, maar een stuk minder voor de maandagochtend daarop aan het ontbijt zit en Spotify mariachi muziek aanbeveelt. Uiteraard kan ik ervoor kiezen om niet mijn profiel te gebruiken of anoniem te blijven. Maar dat kan niet de bedoeling zijn van media technologie die met de dag slimmer moet worden. “Goh, wie bestuurt wie nou?

In deze missie zal ik me dus storten op de vraag: hoe zorgen we ervoor dat algoritmes beter rekening kunnen houden met de wensen van een gebruiker op een bepaald moment?”. Vanuit de data science hoek is het antwoord dan simpel: betere algoritmes. Dus meer data, slimmere algoritmes met als resultaat betere voorspellingen. Als iemand met een informatica achtgrond zie ik dat er inderdaad verbeteringen kunnen doorgevoerd worden. Niet alleen in de werking van het algoritme maar ook in de controle over het algoritme. Is het niet mogelijk te maken dat ik als gebruiker de werking van het algoritme kan beïnvloeden? Wat mij betreft wel. Waarom kan ik niet ervoor kiezen dat het algoritme mij vergelijkt met de stad waarin ik woon? Waarom kan ik mijn data dubbelganger niet vinden? Waarom kan ik mijn aanbevelingen niet omdraaien naar bijvoorbeeld ‘de slechtste eerst’? Waarom kan ik de parameters van het algoritme niet direct beïnvloeden? Ik wil een gebruikersinterface waar ik die parameters kan sturen om zo tot een goed resultaat te komen.

Maar is het dan zo simpel als extra knopjes toevoegen? Nee, ik denk dat het complexer is dan dat. Want laten we het volgende eens overwegen: wat als algoritmen de rol overstijgt van slechts code die onvermoeibaar op de achtergrond werkt en een prominente functie wordt van een dienst. Als we dit doen is het niet meer een paar regels code maar een artefact, eentje die we vorm moeten geven. Dit brengt ons op het terrein van human-computer interaction waar artefacten/objecten/dingen bepaalde actiemogelijkheden hebben: zogenoemde affordances. Affordances omvatten de mogelijkheden en richtlijnen over wat een bepaald object wel en niet zou moeten doen. Vaak zijn de affordances van een object waarneembaar. We kunnen dan door naar het object te kijken zien welke actiemogelijkheden beschikbaar en gewenst zijn. Bij een deurklink kun je bijvoorbeeld aan het voorwerp en de context zien wat je ermee kan doen: openen. Deze voor de hand liggende eigenschappen zorgen ervoor dat gebruikers het aanbod op een beoogde manier gebruiken. Actiemogelijkheden kunnen ook niet zichtbaar zijn maar verborgen. In gebruikersinterfaces zonder duidelijke voordelen, moeten gebruikers vaak vertrouwen op ervaring en/of vallen en opstaan om mogelijke acties te bepalen. Wij zien algoritmen als artefacten met verborgen functionaliteiten.

Dit brengt mij op de kern van mijn missie: Algorithmic Affordances. Het zichtbaar maken van verborgen actiemogelijkheden die een algoritme heeft en daarvoor te ontwerpen. Het komende jaar ga ik ontdekken hoe ik theorie en praktijken vanuit human-computer interaction, user experience design, en data science kan combineren om gebruikers meer controle te geven over algoritmen. Ik ga op zoek naar voorbeelden uit de praktijk die meer controle geven en waar ze een meerwaarde kunnen bieden. Ook zal ik werken aan prototypes waar gebruikers meer controle over algoritmes hebben. Ik zal mij niet beperken tot alleen aanbevelingssystemen maar ook algoritmes die complexe tekstanalyses doen meenemen. Dit zal uiteindelijk leidden tot een pattern library die professionals uit het veld kunnen gebruiken. Daarnaast heb ik ook wetenschappelijke vragen: wat is de impact van Algorithmic Affordances op de tevredenheid, het vertrouwen, transparantie, gevoel van controle, accuratesse en publieke waarden van algoritmen?

Er valt nog genoeg te ontdekken en ik nodig jullie dan ook graag uit om mee te doen met deze missie. Ben je een designer, data scientist, een student, innovatie manager, onderzoeker of gewoon nieuwsgierig? Neem contact op met mij via hemdmissies@hu.nl en “goh, laten we samen eens kijken wat we samen kunnen ontdekken”.

Bekijk hieronder het interview met Erik Hekman tijdens de openbare les van lector Koen van Turnhout. Hierin vertelt hij meer over zijn missie ‘De gebruiker aan het stuur’.

Photo by ThisisEngineering RAEng on Unsplash