Recommender systems: waar moet je als bedrijf op letten als je aanbevelingen doet?

In een vorige video hebben we het gehad over de berekeningen achter recommender systemen, waarin uitgelegd werd hoe deze systemen berekenen of een aanbeveling bij jou past. Dit item gaat in op hoe er in het bedrijfsleven wordt gekeken naar aanbevelingssystemen. Managing director Wim Rampen van het bedrijf Livework, dat gespecialiseerd is in service design, legt vanuit zijn ervaring uit waar bedrijven op moeten letten als zij klanten of gebruikers aanbevelingen willen doen.

Als Wim Rampen over zijn ervaring met de inzet van een recommender systeem bij een verzekering vertelt, maakt hij een helder punt: een goede voorspelling, stelt hij eigenlijk, is niet hetzelfde als gedragsbeïnvloeding. Het recommender systeem van een verzekeringsmaatschappij probeerde te voorspellen welke klanten geïnteresseerd zouden zijn in het afnemen van extra producten naast het product dat ze al hadden bij die verzekeraar. Nader onderzoek – onderzoek rules – toonde echter twee dingen aan. Het eerste was: de voorspelling klopt, mensen aan wie wij iets aanbevelen kopen het inderdaad. Het tweede was: de recommender ‘helpt’ niets. Want die mensen hadden sowieso wel gekocht, daar hadden ze helemaal geen recommender voor nodig. De verzekeringsmaatschappij ging vervolgens op zoek naar de mensen die niet per se van plan waren geweest om te kopen, maar die als gevolg van de aanbiedingen die het recommender systeem doet, tóch kopen. Want dáár zit de omzetwinst.

En dan kom je automatisch uit bij de kern van recommender systemen en alle kunstmatige intelligentie-systemen: wat is het uitgangspunt van het systeem? Met welk doel en dus met welke waarden zijn ze ontworpen? Want die waarden zie je terug in het hele systeem, in hoe gemeten wordt of een aanbeveling ‘succesvol’ is, in hoe de gebruikersdata verzameld wordt, etc (zie ook de uitleg over de data-driven feedback loop, waarin uitgelegd wordt hoe de waarden die gekozen worden een heel ontwerp veranderen). Een commercieel systeem heeft in de meeste gevallen als waarde “zoveel mogelijk verkopen”. Bol.com zit echt niet uit liefdadigheid te vertellen “Mensen die het boek kochten dat u net kocht, kopen ook vaak een zandbakset”. Ze hopen dat je opeens denkt, “oh natuurlijk, ja, ik heb ook een zandbakset nodig, stom dat ik er niet eerder aandacht” om daarmee hun omzet te verhogen.

Een social media plaVorm als TikTok heeft bijvoorbeeld als uitgangspunt: “mensen zo lang mogelijk vasthouden”. Dat betekent dus niet dat ze altijd de content in je timeline zetten, waarvan ze zeker weten dat je die leuk vindt. Ze geven die content waarvan ze voorspellen dat je die leuk vindt op het moment dat ze vermoeden dat je bijna weggaat. Alsof je het wel gehad hebt op een feestje, en de vrienden die het feestje organiseren, zien je weggaan en zeggen “wacht nog even, nu komt de taart! Kijk nog even naar dit filmpje over de taart”. En dat was dan zo een fijn filmpje dat je denkt “Ik wacht even of er nóg iets leuks komt”. Voor je het weet ben je zo weer Ken minuten langer gebleven. TikToks doel is bereikt. In de volgende items onderzoeken we hoe de waarden waarmee recommender systemen ontworpen zijn gelijk de hele interface veranderen en ook gelijk de producten die je aanbevolen worden veranderen. Of het nu om streaming platforms gaat, of om adviezen of je beter nu de dokter kunt bellen of zelf even bij de drogist wat kunt halen.

De producties voor deze missie worden ondersteund door redacteur Remi Terhorst

 

Bekijk hier de andere items van deze missie:

Aanbevelingen op Spotify

Hoe Spotify jouw muzieksmaak bepaalt

De werking van Netflix

De werking van algoritmes van dating apps

Berekeningen van aanbevelingssystemen

De feedbackloop

Aanbevelingen en bedrijven

Alternatieve aanbevelingssystemen, gemaakt door studenten

Controle en transparantie

Terugblik op deze missie