Het voorbije anderhalf jaar mocht ik als onderzoeker een stappenplan ontwikkelen om met AI en ethiek aan de slag te gaan. In dit blogbericht wil ik mijn bevindingen delen en tegelijk vooruitblikken.
Het onderzoek begon vanuit de vaststelling dat de ethical guidelines for trustworthy AI zoals ze door de EU werden voorgesteld niet altijd even eenvoudig toe te passen zijn in concrete casussen. Als ik AI developers met de guidelines (en de assessmentlist) op weg zet, dan krijg ik opmerkingen als: ‘Wanneer moet je welke vraag stellen in het ontwikkelingsproces? Dit is toch veel werk! Kan je geen gewone flowchart maken voor de toepassing van ethiek in AI?’
De opmerkingen zeggen zowel iets over de developers als over de guidelines. Laat mij beginnen met de developers.
Developers worden getraind om op technisch vlak keuzes te maken. Ethische keuzes zijn in zeker zin van een andere orde. Ethiek is vaak een grijs vlak waar je geen objectieve keuzes kan in maken. Vaak is ethiek daarom een soort ‘vreemde’ redenering die moet binnengebracht worden en is niet iedereen overtuigd van het hoe en het waarom. Daarenboven wordt niet in iedere opleiding evenveel aandacht besteed aan ethiek.
De guidelines zelf zijn goed opgebouwd vanuit de fundamentele mensenrechten, met een 7-tal keys die dan het geheel vertalen naar een meer concreter werkinstrument. Alhoewel deze (top-down) oefening goed gedaan is, vergt ethiek altijd een situationele verankering. Principes toepassen verschilt immers van context tot context. Een zorgcontext zal bijvoorbeeld op een heel andere manier naar human agency dat een sterk geautomatiseerde industriële setting. Er blijft dus sowieso nog een belangrijke oefening te doen die toch wel de nodige vaardigheden vraagt.
Bovendien zijn er nog ethische elementen die kunnen meegenomen worden en die eventueel het innovatieve karakter van ethiek verder kunnen uitdiepen. De begeleidingsethiek heeft hier een goed en belangrijk model voor gemaakt. Je zou hier van een soort bottom-up approach kunnen spreken. Alle actoren worden mee betrokken in het ethische proces. Daarin wordt eerst gedetecteerd wat er ethisch aan de hand is in een bepaalde casus en worden de belangrijke waarden meegenomen om dan vertaald te worden naar technische criteria (value in design). Ook hier zijn weer de nodige vaardigheden vereist.
De grote vraag blijft daarom hoe we ethiek kunnen stimuleren. De guidelines zijn niet verplicht te volgen, het vraagt veel werk, je hebt de nodige vaardigheden van doen en niet iedereen is overtuigd van het innovatieve karakter ervan. De toepassing ervan hangt volgens mij af van twee factoren:
(1) De bedrijfscultuur. Hoe wordt in het bedrijf omgegaan met ethiek? Vaak start dit al vanuit de visie of de missie van het bedrijf. Een goed uitgebouwde visie, brengt waarden naar de werkvloer. In de ontwikkeling van een AI toepassing speelt zowel de bedrijfscultuur van de ontwikkelaar een rol als die van de klant.
Een bepaalde AI-toepassing zal immers niet landen als de waarden die de AI-toepassing realiseert botsen met die van het bedrijf waarin ze geïmplementeerd worden. Stel je wil de duurzaamheid verhogen door het inzetten van een bepaalde tool. Als deze doelstelling ten koste gaat van een minimaal performanceverlies, zou dit tot een conflict kunnen leiden, zeker als performance in het DNA van een bedrijf zit.
Een ander element van de bedrijfscultuur is het belang dat aan ethiek wordt gehecht. Hoe belangrijk vindt men ethisch omgaan met elkaar? Behoort ethiek tot de bedrijfscultuur en wil men er ook effectief op inzetten of is ethiek ondergeschikt aan al de rest en gebruikt men ethiek slechts om aan de wetgeving te voldoen of om het imago naar de klant te verhogen (ethics washing).
(2) Naast de bedrijfscultuur met haar normen en waarden, is er ook een rol weggelegd voor de individuen die betrokken zijn in het ontwikkelingsproces. De ontwikkelaar komt natuurlijk onmiddellijk in het vizier. Op welke manier kijkt deze naar ethiek? Hoe kan deze omgaan met het feit dat ethiek niet altijd zwartwit is? Bezit zij of hij over de nodige vaardigheden om ethische vragen te detecteren en principes te vertalen naar een bepaalde context?
Wat vaak onderschat wordt is dat er ook andere mensen meespelen in het beslissingsproces. Waar er ethiek wordt geïmplementeerd hangt vaak af van beslissingen die boven het hoofd van de ontwikkelaar worden genomen.
Daarom zijn naast een aantal guidelines ook de vaardigheden waarover we het hierboven hadden van belang, zeg maar de wil en de kunde om ethisch te handelen. Daarom is het belangrijk dat zoveel mogelijk actoren gevormd worden om ethisch na te denken. Daarin kan bijvoorbeeld deugdenethiek een belangrijke rol spelen.
De manier waarop met ethiek wordt omgegaan is dus een meervoudig gegeven. Ze hangt niet alleen af van een goede manier (bv. een stappenplan) om ethiek ter sprake te brengen, maar ook van de bedrijfscultuur en de individuele inzet van leidinggevenden, developers e.a. Een proces van de inbedding van AI start daarom al bij het schrijven van een visie en een missie die werkelijk leven in het bedrijf en waar de belangrijkste waarden van het bedrijf geconcretiseerd worden.
Digital Ethics and AI 