Nog veel te vaak zijn algoritmen, en zeker ML/AI-toepassingen, “black boxes”. Wel gaan de ontwikkelingen hard op het gebied van transparantie, en vooral explainable AI (kortweg: xAI). Een uitstekend en vrij recent overzicht is te vinden in Transparency in artificial intelligence van Stefan Larsson & Fredrik Heintz (Internet Policy Review, 2020).

Enkele Nederlandse publicaties over het onderwerp:

• Amsterdam en Helsinki hebben primeur met algoritmeregister ∙ Digitale Overheid ∙ 2020
• Provincie Noord-Holland maakt algoritmes openbaar ∙ Amstelveens Nieuwsblad ∙ 2021
• Heb je recht op uitleg wanneer machines over jou beslissen? ∙ Fleur Jongepier ∙ Bij Nader Inzien, 2018

Zie ook:

• Black box algorithms and the rights of individuals: no easy solution to the “explainability” problem ∙ Jarek Gryz & Marcin Rojszczak ∙ Internet Policy Review ∙ 2021
• The explainability problem - can new approaches pry open the AI black box? ∙Neil Raden ∙ diginomica ∙ 2020
• Explaining decisions made with AI ∙ Information Commissioner's Office (ICO) & The Alan Turing Institute ∙ 2020
• ∙∙ zie ook: Explaining Decisions Made with AI: A Workbook (Use Case 1: AI-Assisted Recruitment Tool) ∙ David Leslie & Morgan Briggs ∙ The Alan Turing Institute ∙ 2021
• Get Transparent about Your AI Ethics Methodology ∙ Abhishek Gupta ∙ towards data science ∙ 2021

Tools

Gelukkig komen er steeds meer tools beschikbaar die helpen bij uitlegbaarheid en transparantie. Onze selectie:

• AI FactSheets 360 ∙ IBM
• ‍Model Cards ∙ Google

Laatst bijgewerkt: 5 augustus 2021