AI-ethiek en vooroordelen
AI-Ethiek en Bias
In dit programma hebben we onderzocht hoe data, algoritmen en neurale netwerken samenkomen om intelligente systemen te creëren. Maar intelligentie zonder verantwoordelijkheid kan echte schade aanrichten. In deze laatste les bekijken we de menselijke kant van AI - de vooroordelen die het overneemt, de ethische dilemma's die het oproept, en wat we er allemaal aan kunnen doen.
Wat Is AI-Bias?
AI-bias treedt op wanneer een systeem resultaten produceert die systematisch oneerlijk zijn voor bepaalde groepen mensen. De AI is niet opzettelijk bevooroordeeld - het weerspiegelt simpelweg de patronen in de trainingsdata en de aannames van de ontwerpers.
Voorbeelden uit de Praktijk
Amazon's Wervingstool (2018) Amazon bouwde een AI om sollicitaties te screenen. Het werd getraind op cv's die in de voorgaande tien jaar waren ingediend - een periode waarin de techsector overwegend mannelijk was. De AI leerde cv's te bestraffen die het woord "vrouwen" bevatten (zoals "vrouwenschaakclub") en verlaagde de score van afgestudeerden van universiteiten exclusief voor vrouwen. Amazon schrapte de tool.
Fouten in Gezichtsherkenning Onderzoek van Joy Buolamwini aan het MIT toonde aan dat commerciële gezichtsherkenningssystemen foutpercentages hadden tot 34,7% voor vrouwen met een donkere huidskleur, vergeleken met slechts 0,8% voor mannen met een lichte huidskleur. De trainingsdata representeerde simpelweg niet alle gezichten gelijk.
Waarom discrimineerde Amazon's AI-wervingstool tegen vrouwen?
Waar Komt Bias Vandaan?
Bias kan in elke fase een AI-systeem binnendringen:
- Dataverzameling - Als de data één groep oververtegenwoordigt, leert het model die groep te bevoordelen.
- Labeling - Menselijke annotators brengen hun eigen onbewuste vooroordelen mee bij het taggen van data.
- Kenmerkselectie - Het kiezen van welke variabelen worden opgenomen (of weggelaten) kan aannames insluiten.
Discussion
Sign in to join the discussion