Misschien heb je wel eens gehoord van het bedrijf Clearview dat software aanbiedt om gezichten te kunnen herkennen. Dit bedrijf verzamelde foto's van onder andere de publiekelijk toegankelijke delen Facebook, Twitter en Youtube. Kortom als jij op dergelijke platformen een foto had staan en daar ook nog eens je naam bij te vinden was dan is die informatie waarschijnlijk in de ClearView database terecht gekomen en wel ongevraagd. Een gebruiker biedt de ClearView software een foto aan en krijgt als resultaat de gegevens van de meest gelijkende personen.
Het achterliggende idee van ClearView was dat overheden dan criminelen beter konden opsporen. Volgens het bedrijf werd de software alleen verkocht aan gerechtelijke instellingen. Door een datalek bleek dit niet het geval. Als je maar genoeg betaalde dan kon de toegang geregeld worden. Je begrijpt, dit heeft veel stof doen opwaaien. Het verzamelen van de data, het gebruik van die data door overheidsinstanties en het verkrijgen van toegang tot die data door privépersonen stonden en staan ter discussie. Deze discussie is een ethische discussie.
In algemene zin probeert ethiek de criteria vast te stellen om te kunnen beoordelen of een handeling als moreel goed of fout kan worden gekwalificeerd, en om de motieven en consequenties van deze handeling te kunnen beoordelen. In de ethiek vraagt men zich af wat de uiteindelijke norm is voor het menselijk handelen in een bepaalde situatie.
Ethiek rond AI
Ethiek is een belangrijk onderdeel van een AI-systeem. Vragen om te overdenken zijn: Is het systeem eerlijk, open en transparant? Zitten er geen verkeerde vooronderstellingen in het systeem? Wie is er verantwoordelijk? In dit deel van de lessenserie ‘De ethische kant van AI’ leer je wat de FAST-principes zijn en hoe die gebruikt worden in standaarden en richtlijnen voor AI. FAST staat voor fair (F), accountabilty (A), safety (F) en transparency (T) Je leert dat niet alleen standaarden belangrijk zijn maar dat ook AI zélf kan worden gebruikt om eerlijke systemen te maken. Je krijgt een inkijkje in verschillende toepassingen van AI in de praktijk, zoals de Monocam, een AI-systeem dat de Nationale Politie gebruikt om afleiding in het verkeer door gebruik van een mobiele telefoon tijdens het autorijden tegen te gaan, of een systeem om in een CT-scan te kunnen detecteren of iemand Covid-19 heeft. Uiteindelijk leer je om na te denken over wat je zélf belangrijk vindt bij het toepassen van AI in de praktijk en schrijf je dat op in een essay.
In dit hoofdstuk leer je:
- Hoe de voors en tegens van AI applicaties te overdenken.
- De FAST-principes: je kan de FAST-principes uitleggen en gebruiken voor de ethische onderbouwing van AI-toepassingen.
- Wat data FAIR maakt.