Interview met Dasha Simons

Dasha Simons, IBM

Managing consultant bij IBM, AI & AI ethics

Hoe design de kloof overbrugt tussen ethische AI principes en de praktijk

“AI heeft het potentieel om de ongelijkheid die in de maatschappij aanwezig is, heel erg op te schalen.”

Dasha Simons

Het is een van de gevaren waar Dasha Simons ons aan het begin van het gesprek op wijst. Ze geeft een voorbeeld: “Dat je mensen met een allochtone achtergrond geen lening aanbiedt, omdat ze een kleiner onderdeel van de dataset uitmaken.” De logica die hierachter schuilgaat is dat, blijkens de dataset, personen met specifieke kenmerken (de ‘features’) minder vaak goedkeuring krijgen op hun leningaanvraag.

Voldoet een nieuwe aanvrager aan diezelfde specifieke kenmerken, dan zal het systeem hoogstwaarschijnlijk een zelfde beoordeling geven. Je kunt redeneren dat het model dan goed werkt: het is immers gebaseerd op wat het heeft geleerd uit die dataset.

Maar het is Dasha juist niet te doen om onze angsten over AI aan te wakkeren. Ze ziet het als haar doel om “mensen te inspireren en bewust te maken om technologie in te zetten voor maatschappelijke doeleinden, op een menselijke manier.” Ethische AI is daar een van de onderwerpen voor. Dasha: “Wat betekent het daadwerkelijk voor een data scientist als zij een niet-discriminerend AI systeem model gaat bouwen?”

Eerlijk en uitlegbaar

Dasha is Senior Consultant AI & AI ethics bij IBM.  De vragen waar ze zich mee bezighoudt, intern en tijdens workshops met klanten, gaan over ‘hoe kunnen we AI op een eerlijke manier ontwerpen, op een uitlegbare manier?’ Dasha wil “mensen er bewust van maken dat als je dat niet doet, dat het dan ook heel erg mis kan gaan.” Dat bewustzijn weet ze tijdens de workshops aan te wakkeren: “Je merkt dat deelnemers AI aan het begin een heel leuk onderwerp vinden, waar ze graag over willen meepraten. Vervolgens vinden ze het lastig om te implementeren.” En daar heeft ze als ontwerper oplossingen voor.

We zitten tussen stalen fietsframes, koerspetten en bidons, wanneer we Dasha spreken over koken, menselijke waarden en haar werk als consultant bij IBM. We zijn niet op haar kantoor nabij Schiphol Airport, maar – op Dasha’s voorstel –  in koffiezaak annex fietsclubhuis Lola Bikes and Coffee in hartje Den Haag. Een paar weken eerder was ze spreker tijdens het debat ‘Techdenkers, het algoritme de baas’ in centrum De Balie in Amsterdam. Ze ging in gesprek met een filosoof en het publiek over ‘eerlijke AI’ en het uitlegbaar maken van algoritmen. Daar willen we meer over weten. Gelukkig heeft ze deze zonnige maandagmiddag de tijd om daarover verder te praten.

De kracht van design en prototyping

Dasha heeft een bachelor Industrieel Ontwerpen uit Eindhoven en een bijbehorende master Strategic Product Design aan de TU in Delft. Tijdens haar master merkte ze dat het “AI-veld heel erg technisch gedreven was, en dat de menselijke maat weinig aanwezig was.” Een van de uitdagingen die ze zag, is het praktisch maken van ethische principes bij de ontwikkeling van kunstmatig intelligente computersystemen. “Er zijn veel principes voor AI, zoals ‘eerlijk zijn’, ‘transparant zijn’ en ‘niet-discriminerend’. Die hadden hun weg vrijwel niet gevonden in het dagelijks werk van AI- of data science teams. Dat vond ik wel een mooie uitdaging.” 

Volgens Dasha kun je als ontwerper “abstracte principes en waardes tot hele concrete implementaties te brengen.” Ze licht toe: “Als ontwerpers leren we bijvoorbeeld heel goed hoe je zoiets als ‘duurzaamheid’ kunt vertalen naar iets heel tastbaars, zoals een fysiek product. Maar ook naar digitale producten, en de laatste tijd steeds meer met behulp van kunstmatige intelligentie.” 

Ze verplaatst zich voor haar werk in de rol van de verschillende betrokkenen bij het ontwikkelen van AI-systemen: “Wat betekent het daadwerkelijk voor een data scientist als zij een niet-discriminerend AI systeem model gaat bouwen? Je merkt dat design daar goed bij kan helpen, om het tastbaar te maken.” Met een prototype bijvoorbeeld. “Daarmee kun je ideeën en uitwerkingen voor het implementeren van AI echt testen.” 

Met de workshops die ze geeft, ontstaan bij de deelnemers nieuwe inzichten over AI. De schetsen en prototypes die ze maken, ondersteunen de gesprekken over oplossingen. “Deelnemers zeggen aan het eind: ‘het is essentieel dat we AI op een verantwoorde manier implementeren, want er kunnen hele negatieve consequenties aan zitten. Die moeten we ‘mitigeren’ (maatregelen tegen nemen, red.)’.”

‘Uitlegbehoeften’

Een van de dingen waar veel mensen bang voor zijn, is dat een AI-systeem zelf beslissingen neemt. Dasha: “Je wilt dat een mens daar onderdeel van uitmaakt. Dat betekent dat een mens en AI gaan samenwerken.” Ze geeft een voorbeeld uit de praktijk, waarbij de uitleg van het AI-systeem belangrijk is. Maar verschillende soorten gebruikers hebben verschillende niveaus van uitleg nodig: ‘uitlegbehoeften’. “Denk maar aan een aanvraag voor subsidie. Een beoordelaar krijgt de aanvragen binnen. Dat proces kan je efficiënter maken door er een advies van een AI-systeem aan te koppelen. Maar je wil wel dat dit ethisch en verantwoord gebeurt. Dan dien je het systeem uitlegbaar te maken. Daar zijn bestaande technische tools voor. Alleen: dan heb je een antwoord op technisch niveau. Een ander type gebruiker, zoals de beoordelaar, wil bijvoorbeeld weten hoe lang de organisatie die de aanvraag doet al bestaat. Het systeem vindt dan bijvoorbeeld twaalf maanden ‘minder betrouwbaar’, maar de beoordelaar in dit geval niet.” Er zijn vaak ook nog andere details belangrijk en meerdere scenario’s mogelijk. Zo hebben aanvragers weer een andere uitleg nodig. In sommige gevallen wil of kun je niet helemaal transparant zijn. Dasha: “Er bestaat de kans dat aanvragers het systeem manipuleren wanneer de uitleg te veel informatie prijsgeeft.”

Het zijn voorbeelden van wat Dasha’s workshops zoal opleveren. Tijdens de actieve sessies worden behoeften geïdentificeerd, persona’s gedefinieerd en prototypes gemaakt (in AdobeXD bijvoorbeeld). Ze geven de deelnemers inzichten en verschillende, praktische scenario’s waarmee ze antwoorden formuleren. Daarnaast wordt het begrip tussen de teamleden over AI versterkt en over de manier waarop mensen zoal met AI samenwerken. 

Onvoorziene consequenties

Uiteindelijk gaat het Dasha erom dat haar klanten hun kennis en vaardigheden vergroten rondom AI, en zelf de juiste gereedschappen krijgen om geïnformeerd en zelfstandig verder te gaan. Ook algoritmisch denken acht Dasha hiervoor noodzakelijk. Vooral de valkuilen en onvoorziene consequenties die daar bij inbegrepen zitten. Om dat tastbaar te maken, geeft ze weer een praktisch voorbeeld. Een onderdeel in de workshops is het doordenken over primaire, secundaire en tertiaire effecten (‘de consequenties van de consequenties’) van een oplossing. Dasha vertelt over een prijs van de Postcodeloterij. Die gaf ooit een hele wijk nieuwe fietsen. Dasha: “Nu denk je misschien: supergoed, want duurzaam, groen, mensen bewegen meer. Alles is positief.” Maar wat bleek? “Uiteindelijk gingen de fietsenmakers in de wijk failliet, want niemand had hun hulp nog nodig.” Het grotere punt dat ze hier wil maken is dat je moet nadenken over de gevolgen (van de gevolgen) van je acties als bedrijf. Sommige consequenties hoeven niet erg te zijn, zolang je de keuze ervoor maar bewust maakt. Als je ze van tevoren kent kun je er rekening mee houden of een strategie ontwikkelen om ze te adresseren. 

Wat werken met AI allemaal oplevert

Dasha geeft tijdens het gesprek nog meer redenen waarom creatieve makers meer over AI moeten gaan nadenken en ermee moeten leren omgaan. Als we eerlijke, slimme systemen creëren betekent dat ook dat we zelf eerlijk moeten zijn. Ze merkt op dat iedereen die met informatie werkt, dagelijks meerdere malen ‘even Googled’: “Het levert snel veel inspiratie op. Zoeken heeft ons proces van creativiteit verrijkt, ” zegt ze. We zijn ons er lang niet altijd meer bewust van. En nu brengt AI ook weer nieuwe mogelijkheden met zich mee. “Wees daarop voorbereid, “ zegt Dasha. “AI komt er. Verzet je er niet tegen. Verdiep je erin zodat je het op een ethische en verantwoorde inzet.”

Wanneer je een eerlijk en uitlegbaar systeem als uitgangspunt neemt, kom je op hele andere oplossingsrichtingen (‘solution spaces’), legt ze uit. Dan gaat het niet meer over ‘risk mitigation’ (risico’s verminderen en/of oplossen, red.). Dasha trekt een parallel met duurzaam ontwerpen en produceren. “Waar vroeger misschien aan het einde van een traject gezegd werd: ‘oh ja, we moeten nog onze duurzaamheidscijfers halen’, is het nu een bron voor innovaties. Er zijn circulaire bedrijven die er nooit waren geweest als ze duurzaamheid niet als uitgangspunt hadden genomen.”

Betrouwbaar, verantwoordelijk en versterkend

Aan het eind van het gesprek wil Dasha nog een ding benadrukken: “Dat het juist voor creatieve en journalistieke processen essentieel is om AI op een betrouwbare manier te ontwikkelen en te gebruiken.” Als mensen hebben we hier een verantwoordelijkheid en, zo zegt ze, “het is de taak van de ontwerper om de samenwerking tussen AI en de mens zo goed mogelijk te faciliteren en te versterken.”