Kan Artificiële Intelligentie racistisch zijn?

Meer en meer worden algoritmes op basis van Artificiële Intelligentie ingezet bij beslissingen die een enorme impact hebben op ons leven.

Academische onderzoekers en journalisten hebben echter aangetoond dat beslissingen die worden genomen door voorspellende algoritmen soms leiden tot bevooroordeelde uitkomsten, waardoor ongelijkheden die al in de samenleving aanwezig zijn, worden gereproduceerd en soms zelfs versterkt. Zijn AI algoritmes bevooroordeeld omdat mensen dat ook zijn? Zijn er hiervoor oplossingen of is dit hoe AI algoritmes werkt op het meest fundamentele niveau?

Toon Calders.

Toon Calders is professor aan het Departement Informatica van de Universiteit Antwerpen. Hij is een actief onderzoeker op het gebied van bias en fairness in Artificiële Intelligentie, Data Mining en Machine Learning. Hij is editor bij het tijdschrift Data Mining and Knowledge Discovery, gast-editor van een speciale editie over “Fairness and Bias” in hetzelfde tijdschrift, en organiseert samen met collega’s de Belgisch-Nederlandse AI Conferentie 2022. Toon Calders was een van de eerste onderzoekers die bestudeerde hoe algoritmische bias in machine learning kan worden gemeten en vermeden. Hij is een van de redacteuren van het boek “Discrimination and Privacy in the Information Society – Data Mining and Profiling in Large Databases”, gepubliceerd door Springer in 2013 en ontving in 2020 samen met Sicco Verwer de “ECML/PKDD 10-year most influential paper” award voor het werk “Three naive Bayes approaches for discrimination-free classification”. Toon Calders leidt momenteel een groep van 6 onderzoekers die theoretische aspecten van fairness in machine learning bestuderen.