Meer controle en transparantie over streamingdienst-aanbevelingen: zit de gebruiker er wel op te wachten?

In de vorige video van de missie ‘Help, Spotify begrijpt mij niet!’ lieten vier studenten van de Universiteit Utrecht prototypes van zelfgemaakte videostreamingplatforms zien. Zij hadden zich vooral op meer controle en transparantie voor de gebruiker gefocust, iets dat juist bij dit soort streamingdiensten, zoals Netflix, Amazon Prime, Videoland en Disney+, slecht in zeer beperkte mate aanwezig is. Maar zit een klant van bijvoorbeeld deze diensten wel op meer controle over aanbevelingen te wachten? In onderstaande video halen we enkele suggesties en voorstellen op bij jonge gebruikers.

De tekst loopt onder de video door

De meningen in de bovenstaande video zijn, zoals je ziet, erg verdeeld. Waar de één juist op meer controle en transparantie over aanbevelingen zit te wachten, stelt de ander weer geen gebruik te maken van zo’n optie, om aanbevelingen te personaliseren. Maar of je er nu wel of niet gebruik van gaat maken, de optie om je aanbevelingen beter aan te laten sluiten bij wat jijzelf belangrijk en interessant vindt, is er op een platform als Netflix nog niet. Laat bovenstaande behoeften, aangegeven door de jonge gebruikers, een aanknopingspunt en uitnodiging zijn om verder te kijken om in meer toegankelijkere opties te investeren. Of in ieder geval om erover na te denken en het gesprek erover te voeren. Wordt vervolgd? Wat ons betreft wel.

De producties voor deze missie worden ondersteund door redacteur Remi Terhorst

 

Bekijk hier de andere items van deze missie:

Aanbevelingen op Spotify

Hoe Spotify jouw muzieksmaak bepaalt

De werking van Netflix

De werking van algoritmes van dating apps

Berekeningen van aanbevelingssystemen

De feedbackloop

Aanbevelingen en bedrijven

Alternatieve aanbevelingssystemen, gemaakt door studenten

Controle en transparantie

Terugblik op deze missie

Recommender systems: waar moet je als bedrijf op letten als je aanbevelingen doet?

In een vorige video hebben we het gehad over de berekeningen achter recommender systemen, waarin uitgelegd werd hoe deze systemen berekenen of een aanbeveling bij jou past. Dit item gaat in op hoe er in het bedrijfsleven wordt gekeken naar aanbevelingssystemen. Managing director Wim Rampen van het bedrijf Livework, dat gespecialiseerd is in service design, legt vanuit zijn ervaring uit waar bedrijven op moeten letten als zij klanten of gebruikers aanbevelingen willen doen.

Als Wim Rampen over zijn ervaring met de inzet van een recommender systeem bij een verzekering vertelt, maakt hij een helder punt: een goede voorspelling, stelt hij eigenlijk, is niet hetzelfde als gedragsbeïnvloeding. Het recommender systeem van een verzekeringsmaatschappij probeerde te voorspellen welke klanten geïnteresseerd zouden zijn in het afnemen van extra producten naast het product dat ze al hadden bij die verzekeraar. Nader onderzoek – onderzoek rules – toonde echter twee dingen aan. Het eerste was: de voorspelling klopt, mensen aan wie wij iets aanbevelen kopen het inderdaad. Het tweede was: de recommender ‘helpt’ niets. Want die mensen hadden sowieso wel gekocht, daar hadden ze helemaal geen recommender voor nodig. De verzekeringsmaatschappij ging vervolgens op zoek naar de mensen die niet per se van plan waren geweest om te kopen, maar die als gevolg van de aanbiedingen die het recommender systeem doet, tóch kopen. Want dáár zit de omzetwinst.

En dan kom je automatisch uit bij de kern van recommender systemen en alle kunstmatige intelligentie-systemen: wat is het uitgangspunt van het systeem? Met welk doel en dus met welke waarden zijn ze ontworpen? Want die waarden zie je terug in het hele systeem, in hoe gemeten wordt of een aanbeveling ‘succesvol’ is, in hoe de gebruikersdata verzameld wordt, etc (zie ook de uitleg over de data-driven feedback loop, waarin uitgelegd wordt hoe de waarden die gekozen worden een heel ontwerp veranderen). Een commercieel systeem heeft in de meeste gevallen als waarde “zoveel mogelijk verkopen”. Bol.com zit echt niet uit liefdadigheid te vertellen “Mensen die het boek kochten dat u net kocht, kopen ook vaak een zandbakset”. Ze hopen dat je opeens denkt, “oh natuurlijk, ja, ik heb ook een zandbakset nodig, stom dat ik er niet eerder aandacht” om daarmee hun omzet te verhogen.

Een social media plaVorm als TikTok heeft bijvoorbeeld als uitgangspunt: “mensen zo lang mogelijk vasthouden”. Dat betekent dus niet dat ze altijd de content in je timeline zetten, waarvan ze zeker weten dat je die leuk vindt. Ze geven die content waarvan ze voorspellen dat je die leuk vindt op het moment dat ze vermoeden dat je bijna weggaat. Alsof je het wel gehad hebt op een feestje, en de vrienden die het feestje organiseren, zien je weggaan en zeggen “wacht nog even, nu komt de taart! Kijk nog even naar dit filmpje over de taart”. En dat was dan zo een fijn filmpje dat je denkt “Ik wacht even of er nóg iets leuks komt”. Voor je het weet ben je zo weer Ken minuten langer gebleven. TikToks doel is bereikt. In de volgende items onderzoeken we hoe de waarden waarmee recommender systemen ontworpen zijn gelijk de hele interface veranderen en ook gelijk de producten die je aanbevolen worden veranderen. Of het nu om streaming platforms gaat, of om adviezen of je beter nu de dokter kunt bellen of zelf even bij de drogist wat kunt halen.

De producties voor deze missie worden ondersteund door redacteur Remi Terhorst

 

Bekijk hier de andere items van deze missie:

Aanbevelingen op Spotify

Hoe Spotify jouw muzieksmaak bepaalt

De werking van Netflix

De werking van algoritmes van dating apps

Berekeningen van aanbevelingssystemen

De feedbackloop

Aanbevelingen en bedrijven

Alternatieve aanbevelingssystemen, gemaakt door studenten

Controle en transparantie

Terugblik op deze missie

In deze video leggen we je alles uit over de berekeningen achter recommender systems

In een vorig item hebben we gekeken naar de werking van recommender systems. Onderzoekster en mission chair Aletta Smits vertelde ons over de verschillende manieren waarop die systemen te werk gaan. Dit keer gaan we dieper in op de totstandkoming van dit soort aanbevelingen.

Bekijk hieronder de video, waarin onze mission chair Smits laat zien welke berekeningen ervoor zorgen dat jij bijvoorbeeld een film wel of niet aanbevolen krijgt, en waarom jij andere aanbevelingen ontvangt dan een vriend of vriendin van je.

De producties voor deze missie worden ondersteund door redacteur Remi Terhorst

 

Bekijk hier de andere items van deze missie:

Aanbevelingen op Spotify

Hoe Spotify jouw muzieksmaak bepaalt

De werking van Netflix

De werking van algoritmes van dating apps

Berekeningen van aanbevelingssystemen

De feedbackloop

Aanbevelingen en bedrijven

Alternatieve aanbevelingssystemen, gemaakt door studenten

Controle en transparantie

Terugblik op deze missie

Matchmakers maken andere matches: hoe de algoritmes van dating apps veranderen

Online dating services hebben zich in de afgelopen jaren op twee verschillende manieren ontwikkeld. In de eerste plaats werden hun doelen diverser en daarmee ook de user experience van de app en de soort data die ze nodig hadden. De eerste dating websites, denk aan D-Date en later Parship – beloofden dat je de liefde van je leven kon vinden via hun dienst. Nu In plaats van “ik ben op zoek naar mijn partner”, kunnen de gebruikersdoelen ook zijn “ik ben op zoek naar een avontuur naast mijn vaste relatie” (zoals Second Love), of “ik wil weten wie op mijn locatie deze app ook op actief heeft staan (zoals Grindr), of “ik wil gewoon snel een date”, zoals de dating-app Breeze. En zoals Alkemade, co-founder van Breeze, uitlegt: deze gebruikersdoelen veranderen onmiddellijk het ontwerp van de app: de extra informatie die je normaal uit een chat haalt, die haal je bij Breeze maar uit je gesprek tijdens je eerste date: de date is het doel, niet een eindeloze chat. En het doel is ook niet perse de liefde van je leven vinden, hoewel dat natuurlijk wel mag.

Dat betekent ook bijvoorbeeld dat op een chat als Tinder gebruikers die ouder zijn of ‘minder mooi’ meer betalen voor hun abonnement: die worden eerder ‘weggeveegd’, dus ze zijn eigenlijk geen goed product voor andere users. Op een dating app kom je natuurlijk altijd zowel halen als brengen: je bent de klant en het product. En deze apps willen hun gebruikers een hoge kwaliteit brengen, dat houdt de zaak draaiende. Fundamenteel is er natuurlijk ook een probleem met het business model van apps die als doel hebben iemand de liefde van hun leven te bezorgen: het zijn de mensen die als eerste daad van commitment aan hun nieuwe liefde hun profiel op de app opheffen. Lekker wel. Daar gaat je klant waar je zo hard voor gewerkt hebt, en iedereen weet: nieuwe klanten werven is een stuk kostbaarder dan al bestaande klanten behouden.

 

Liefde kwantificeren

Maar stel dat een dienst een gebruiker toch aan de eeuwige liefde wilt helpen? Hoe doe je dat? Hoe kwantificeer je de liefde? Want dat is wat een dating app doet, die doet aanbevelingen van potentiële partners op basis van berekeningen: hier! Deze persoon is beschikbaar dus past bij jou.

Maar wat bereken je? Welke eigenschappen gebruik je om mee te rekenen? En hoe bereken je? Ook daarin zijn dating apps in de loop van de jaren veranderd. Een recommender systeem is in de basis altijd op zoek naar gelijkenissen. Je vindt muziek leuk, je krijgt nieuwe muziek aanbevolen die daarop lijkt. Je hebt niet veel invloed op welke muziek wordt aangeboden, en weet soms ook niet precies waarom er iets in je Discover Weekly list opduikt.

 

Dating apps in de jaren 0

Dating apps, in de jaren 0 van deze eeuw, werkten op dezelfde manier. Je vulde een profiel in op basis van vaste vragen (“ik rook niet”, “ik ben vegetariër”, “ik hou van uitgaan”) en er werd iemand voor je gezocht die niet rookte, vegetariër was en ook van uitgaan hield. De minst geavanceerde recommender systemen voor dating gedroegen zich als tamelijk naïeve “similarity seekers” die maar weinig autonomie aan hun gebruikers gaven. Je had als gebruiker bijvoorbeeld geen keuze welke informatie belangrijk was in de zoektocht naar je nieuwe liefde. Je kon niet aangeven hoe zwaar bepaalde informatie mee mocht tellen. En je had zelfs geen keuze of je die informatie beschikbaar stelde: alle vragen moesten beantwoord voor je je profiel kon opslaan en je mee mocht in de tombola van het matchmaking. Hooguit kon je kiezen of je wel of niet met iemand in gesprek ging of op date ging.

Maar op die manier liet liefde zich niet kwantificeren. Gelukkige stellen, weten we allang, hebben zeker overeenkomsten, maar verschillen ook op allerlei manieren van elkaar. Hoe moet een datingsite dat uitzoeken? Voor zoveel verschillende mensen met allemaal hun eigen voorkeuren? Het algoritme van de dating site van OKCupid probeert daar een antwoord op te geven. Zij bepalen helemaal niet meer welke informatie van belang is, dat maak je zelf uit. Zij bepalen ook niet dat je op iemand moet lijken. Je kiest zelf op welke aspecten iemand op je moet lijken of van je mag verschillen. Ze bepalen ook niet meer hoe belangrijk informatie is. Dat maak je ook zelf uit. Het enige dat zij nog voor je doen is al die informatie zo snel mogelijk in een formule zetten en dan de best mogelijke matches uitrekenen en aan je voorstellen.

 

Punten scoren op een schaal

Voorbeeld! OKCupid bepaalt niet welke informatie je moet leveren aan het systeem. Je kiest zelf welke vragen je wilt beantwoorden en kunt ook zelf vragen toevoegen. Stel, je voert een vraag in als “hoe netjes ben je?”. Dan moet je ook aangeven wat de antwoordalternatieven zijn: “Heel netjes”, “Netjes”, “Matig”, “Bel niet onaangekondigd bij me aan”. Die vraag wordt in de database gezet (en dan kunnen ook alle andere gebruikers de vraag invullen, trouwens. OKCupid heeft op die manier toch gauw 100.000 vragen verzameld). Vervolgens geef je antwoord op je eigen vraagn (ik ben matig netjes) en , hier komt het, geef je aan welke antwoorden van een potentiele match acceptabel zijn.

Bijvoorbeeld, mijn partner mag “netjes” en “matig” antwoorden, maar niet “heel netjes” zijn (superirritant!) en ook niet zo slordig dat je niet onaangekondigd aan kunt bellen (dan ben je zelf opeens de netste in een huishouden, ook niet leuk). Daarmee ben je dus zelf aan zet: mag mijn partner van mij verschillen of moeten ze hetzelfde zijn. Tenslotte geef je aan of deze informatie voor jou belangrijk is, op een schaal van 1 tot 5. Belangrijke informatie wordt zwaarder meegerekend dan onbelangrijke informatie. Daarna vul je nog een stuk of wat andere vragen in, minimaal 50, maar welke mag je zelf kiezen. Pas daarna is het systeem aan zet en rekent het van alle beschikbare partners uit: hoeveel punten ze gescoord hebben op de vragen die jullie allebei beantwoord hebben. De beste matches worden je getoond. Dit recommender systeem is dus niet meer een similarity seeker, maar een match seeker.

Waarom kunnen wij precies vertellen hoe dit algoritme van OKCupid werkt? Ze zijn er transparant over en hebben dat zelf gepubliceerd. Voor hun is het algoritme niet het bedrijfskapitaal. De klanten leveren de informatie en de eigenschappen en het gewicht voor de berekeningen zelf aan. Hun bedrijfskapitaal zit in de grote database aan vragen en de data die daarmee verzameld is. Bij het berekenen van de matches is niet het bedrijf maar de gebruiker aan zet, die zit aan het stuur. Dat concept, het concept van de actieve gebruiker, dat gaan we in de komende maanden verder onderzoeken bij andere recommender systemen: wat levert dat op? Hoe waardeert de gebruiker dat? En hoe waardeert de gebruiker de aanbevelingen die zo’n autonoom algoritme aanlevert?

 

Bekijk hieronder de video:

De producties voor deze missie worden ondersteund door redacteur Remi Terhorst

 

Bekijk hier de andere items van deze missie:

Aanbevelingen op Spotify

Hoe Spotify jouw muzieksmaak bepaalt

De werking van Netflix

De werking van algoritmes van dating apps

Berekeningen van aanbevelingssystemen

De feedbackloop

Aanbevelingen en bedrijven

Alternatieve aanbevelingssystemen, gemaakt door studenten

Controle en transparantie

Terugblik op deze missie