AIAIAI: dat zou je moeten willen!

Wist je dat jouw organisatie al láng gebruik maakt van algoritmes en van AI? AI kan in alle delen van een organisatie aanwezig zijn en is dat waarschijnlijk al.

In dit stuk lees je over de te nemen maatregelen en de governance die je moet inrichten voor een betrouwbare en verantwoorde AI inzet. Een stukje over moeten, maatregelen en meer: “moeten van de AI Act”.

De AI Act is een risicogebaseerde wet. Niet het systeem zelf, maar in de context van de inzet wordt het risico op de gevolgen gereguleerd. Het maakt dus niet uit met wat voor AI je werkt, maar wel waarvoor je het inzet en wat daar de risico’s van zijn. We weten nog niet welke concrete technologieën (systemen) in de toekomst bedacht, nader uitgewerkt of gekoppeld worden. Daarom stelt de AI Act geen regels voor het product AI op zich.

AI biedt veel mogelijkheden: het kan werk gemakkelijker, sneller en accurater maken. Op die manier is het iets wat we omarmen en wat bijdraagt aan de organisatie, zij het op een verantwoorde manier: rechtvaardig, met respect voor grondrechten en autonomie, zonder dat het schade toebrengt aan de mensen die het raken kan.

Je wil dat de inzet van AI:

• veilig is voor mens en leefomgeving,
• transparant is,
• geen schade toebrengt,
• dat het technisch goed in elkaar zit,
• met aandacht voor privacy en datagovernance wordt ingezet,
• niet discrimineert,
• en dat waar nodig, een mens nog kan ingrijpen.

En daarbij wil je ook verantwoorden wat je gedaan hebt en dat je relevante risicoafwegingen hebt gemaakt.

Elk van deze punten is belangrijk, maar de focus zal variëren afhankelijk van de toepassing. Om maar een paar voorbeelden te schetsen:

• Bij inzet van AI in een waterzuiveringssysteem zal vooral getoetst moeten worden op veiligheid voor het milieu.
• Bij een AI inzet in de beoordeling foto’s op de aanwezigheid van kanker, zal een toetsing op nauwkeurigheid en transparantie meer aan de orde zijn.
• Bij een groot beoordelingssysteem van de politie is het belangrijk om te weten met welke data is getraind om te checken of er niet gediscrimineerd wordt.
• In een AI toegepast in de rechtspraak zal aantoonbaar moeten zijn dat de AI rechtvaardig is.

• Bij een zelfrijdende auto dat deze technisch veilig is, etc.

Hoe zorg je ervoor dat je aan de wet voldoet, zonder dat dit een simpele afvinklijst met maatregelen wordt? Waarom zou je AI wél willen binnen jouw organisatie? Welk risico voor de mens brengt de AI per toepassing met zich mee? Wij denken graag met je mee over de toepassing van AI binnen jouw organisatie, zodat jij ontzorgd wordt en de governance ingericht is op een manier die ethisch verantwoord is.

Met andere woorden: AIAIAI, niet moeten, maar willen.