Audits & Assessments voor AI

"With great power comes great responsibility." Deze uitdrukking vat precies het immense potentieel van Kunstmatige Intelligentie (AI) samen. AI stimuleert innovatie, maar heeft ook een potentieel negatieve impact op privacy, ethiek, mensenrechten en het milieu.

Rhite biedt een team van experts voor het identificeren en beheersen van dergelijke risico's, en helpt u verantwoorde oplossingen te bouwen, van de technische details van applicaties tot het beleiden op organisatorisch niveau.

AI Impact Assessments

We kunnen oplossingen onderzoeken om de mogelijke impact op individuen en de samenleving te bepalen. Hiervoor gebruiken we verschillende tools en impactbeoordelingskaders.

Mogelijke gebruiksscenario's zijn onder andere:

• Beoordeling van een AI-oplossing tijdens de ontwikkeling;
• Beoordeling van een AI-oplossing van derden vóór gebruik;
• Due diligence van AI-oplossingen, voor investeerders.

We begeleiden uw organisatie bij de uitvoering van verschillende soorten impactbeoordelingen zoals: IAMA, ALTAI, DPIA, PLOT4ai, FRIA en anderen. Afhankelijk van het type organisatie (overheid, grote of middelgrote organisatie, MKB, startup) en het type oplossing en context, zal onze begeleiding gedaan worden met het impactbeoordelingsinstrument dat het meest geschikt is voor de specifieke omstandigheden en wettelijke vereisten.

We kunnen de sessies en het hele proces van begin tot eind faciliteren. We kunnen ook op maat gemaakte trainingssessies voor uw organisatie verzorgen om te leren hoe en wanneer de verschillende beoordelingstools geimplementeerd kunnen worden tijdens en na de development lifecycle van een oplossing.

Het doen van Assessments en audits op algoritmen en AI systemem

We gebruiken ons speciaal ontworpen open-source evaluatieframework SARAI® om beoordelingen en externe audits uit te voeren op AI-systemen, waarbij we ook het volwassenheidsniveau van Responsible AI van de organisatie beoordelen. Dit stelt ons in staat om flexibel te zijn.

De aanpak kan 'light weight' zijn voor kleinere startups, of uitgebreider voor grotere organisaties. Er zijn extra controles opgenomen voor oplossingen met een hoog risico.

Binnenkort zullen we ook externe auditservices aanbieden op basis van het IEEE-kader CertifAId.

Wat is het verschil tussen een assessment en een externe audit?

In beide gevallen kunnen systemen en organisaties worden beoordeeld op basis van verschillende controles. Deze controles komen meestal voort uit een goedgekeurde standaard of kader.Momenteel bestaat er geen dergelijke goedgekeurde Europese standaard voor het auditen van AI-systemen en organisaties, en daarom zijn er nog geen geaccrediteerde instanties die auditcertificeringen kunnen aanbieden. Dit betekent niet dat uw organisatie geen audit kan ondergaan door een externe partij. Een externe partij kan uw systeem auditen op basis van beschikbare kaders - soms alleen op basis van interviews en het bekijken van documentatie, maar ook door systemen te analyseren of er samen naar te kijken. Het resultaat van de audit is een rapport dat aangeeft wat de compliance status is van de systemen en organisatie volgens de voorafbepaalde vereisten en metingen van de beoordeelde controles. Een beoordeling is een vergelijkbaar met het doen van een audit, met als verschil dat het bedrijf dat de beoordeling uitvoert ook begeleiding kan bieden aan de organisatie om de juiste controles te implementeren en het volwassenheidsniveau te verhogen. Een externe audit moet worden uitgevoerd door een onpartijdige partij. Dit betekent dat dezelfde partij die begeleiding en consultancy biedt, niet dezelfde partij mag zijn die het systeem auditeert.

Privacy Impact Assessments

DPIA

Het is belangrijk om op tijd te beginnen met een Data Protection Impact Assessment (DPIA). We richten ons specifiek op de technisch uitdagende DPIA’s binnen jouw organisatie. Naast de juridische aspecten kijken we ook naar de risico’s* en helpen je beoordelen of deze acceptabel zijn of dat er maatregelen genomen moeten worden.

*We kijken niet alleen naar risico's met betrekking tot gegevensbescherming en beveiliging, maar ook naar andere risico's die kunnen voortvloeien uit het ontwerp en die een negatieve impact kunnen hebben op het individu en/of de samenleving.

Rhite doet zowel audits als assessments.

Neem contact op met ons voor meer informatie.