AI-systemen kunnen grote voordelen hebben die het leven van de mens vergemakkelijken of verbeteren. Denk bijvoorbeeld maar eens aan de MONOcam van de Nationale Politie die ervoor zorgt dat het aantal verkeersongelukken afneemt doordat mensen tijdens het autorijden op hun smartphone kijken. Of bedenk hoe goed het is dat AI meehelpt om tuberculose vroegtijdig te herkennen en te genezen in afgelegen gebieden in Afrika. Helaas zijn er ook al AI-systemen gebruikt of in gebruik die groepen van mensen benadelen. Bedenk maar eens hoe verkeerd gebruik van AI voor het toekennen van toeslagen bij de belastingdienst leidde tot discriminatie en privacyschendingen.
In de hoofdstukken Achtergrond en Ethiek uit het algemene deel hebben heb je daar misschien al een indruk van gekregen. Om nadelen van AI-systemen te voorkomen wordt er mondiaal nagedacht over ethische regels waaraan AI-systemen zouden moeten voldoen. De FAST- en FAIR-principes uit het algemene deel zijn een resultaat van deze overdenkingen. Het gevolg is dat ethiek meer en meer een belangrijk onderdeel wordt bij de ontwikkeling en gebruik van een AI-systeem.
In dit deel van de lessenserie ‘De ethische kant van AI’ gaan we dieper in op het overdenken van de ethiek van AI-systemen. De FAST- en FAIR-principes zijn de basis voor dit overdenken. Is het systeem eerlijk, open en transparant? Zitten er geen verkeerde vooronderstellingen in het systeem? Je leert dat niet alleen standaarden belangrijk zijn maar dat ook AI zélf kan worden gebruikt om eerlijke systemen te maken. Je krijgt een inkijkje in verschillende toepassingen van AI in de praktijk, zoals de Monocam, een AI-systeem dat de Nationale Politie gebruikt om afleiding in het verkeer door gebruik van een mobiele telefoon tijdens het autorijden tegen te gaan, of een systeem om in een CT-scan te kunnen detecteren of iemand Covid-19 heeft. Uiteindelijk leer je om na te denken over wat je zélf belangrijk vindt bij het toepassen van AI in de praktijk en schrijf je dat op in een essay.
Deze lessenserie Ethiek en AI heeft de volgende, op leerdoelen gebaseerde indeling:
- De FAST-principes: je kan de FAST-principes gebruiken voor de ethische onderbouwing van AI-toepassingen.
- AI-standaarden en -richtlijnen: je kan een aantal standaarden en richtlijnen voor AI en de relaties daarvan met de FAST-principes beschrijven.
- Het nut van AI-toepassingen: je kunt het nut van een AI-toepassing beoordelen.
- De engheidsmatrix: je kunt een objectieve aanpak maken voor het meten van het nut en de mate van ethische verantwoording van een AI-toepassing, en de AI-toepassing onderbouwd plotten in een engheidsmatrix.
- Essay over ethiek en AI: je kan een essay schrijven over de achtergronden van ethiek en AI.