Met welke bril kijk jij?

Onlangs las ik over het dilemma rondom zelfrijdende auto’s. Zo moet het algoritme bij een gevaarlijke situatie bijvoorbeeld kiezen tussen het leven van een baby of een bejaarde. Nu gaat het bij supply chain-besturing zelden over de keuze tussen leven en dood, maar het zette mij wel aan het denken. In hoeverre gaan wij bij het bepalen van algoritmes uit van onze eigen kijk op de wereld, of verplaatsen wij ons ook in de belevingswereld van iemand anders?

Voor het dilemma van de zelfrijdende auto geldt dat het leven van een baby of een bejaarde in verschillende culturen anders beoordeeld wordt. Het cijfermatige resultaat is hetzelfde, namelijk één dode, maar de weg ernaartoe verschilt. Dit is een voorbeeld van wat in de filosofie het trolleydilemma wordt genoemd (Philippa Foot, 1967). (https://www.youtube.com/watch?v=bOpf6KcWYyw) Telt alleen het resultaat, of zijn de (morele) keuzes die je onderweg maakt ook van belang?

Hoewel de thema’s binnen de planning en besturing van de supply chain niet zó zwaar zijn, maken wij wel degelijk keuzes die soms aanvoelen alsof ze van levensbelang zijn. Gaan we voor het scenario waarbij de meeste mensen blij zijn (bijvoorbeeld de hoogste gecumuleerde servicegraad), of is het belangrijker dat we de verschillende regels en onderliggende uitkomsten ten opzichte van elkaar waarderen, en wie maakt die keuze dan? Dit is relevanter naarmate organisaties in meerdere regio’s opereren, maar de aansturing van de voorraad vanuit een centrale plek plaatsvindt.

Beschikbaarheid kanten communiejurkje

Neem bijvoorbeeld de beschikbaarheid van het witte kanten communiejurkje. In de Nederlandse beleving lijkt dit niet zo belangrijk, maar in de Zuid-Europese landen is dat wel het geval en krijgt dit voldoende gewicht in de geautomatiseerde regelgeving. Ook al zal de nee-verkoop feitelijk niet zoveel meetellen. Of bijvoorbeeld drop. Voor ons geldt: een dag zonder drop is een dag niet geleefd, maar moet het algoritme dan ook echt alles op alles zetten om het artikel in een Franse winkel te krijgen?

Wanneer een organisatie centraal aangestuurd wordt en die centrale afdeling in samenwerking met de IT-afdeling de business rules bepaalt, zullen de regels in hun ogen logisch en dus goed zijn. Maar is ‘goed’ dan ook echt goed? Als het hoofdkantoor in Zuid-Europa had gestaan, waren dan dezelfde keuzes gemaakt? Veel mensen (interne klanten) die te maken hebben met de uitkomst van een planningstool, ervaren zo’n tool als een grote black box en dat kan leiden tot frustraties en onbegrip. Des te belangrijker om transparant te zijn over de regels in die box, en bij de definitie en waardering hiervan te denken vanuit divers perspectief.

Net als bij de zelfrijdende auto wil je bij beslisregels dat men de uitkomst snapt en dat deze ook gedragen wordt. Denk aan het trolleydilemma, waar de weg naar het resultaat minstens zo belangrijk is als de uitkomst zelf. Wanneer je mogelijke scenario’s vanuit een verschillend perspectief bekijkt, zal de organisatie een door algoritmes gedreven besturing van de supply chain met een geruster gevoel uit handen geven.

Janneke van den Broek, Moving Chains

Janneke.vandenbroek@movingchains.nl

Leestips:

• Verschillende perspectieven algoritme: https://www.trouw.nl/samenleving/of-de-zelfrijdende-auto-het-leven-van-een-baby-of-een-bejaarde-spaart-hangt-af-van-het-land-waar-hij-rijdt~addc36fa/

• Moral machine: http://moralmachine.mit.edu/ Welke keuzes maak je zelf?