header-arrow Data Science

Responsible AI

Transparantie en vertrouwen in Artificial Intelligence

Dankzij Artificial Intelligence kunnen steeds meer beslissingen worden geautomatiseerd. Maar slecht ontworpen AI-systemen kunnen uit de bocht vliegen. Daarom is er een groeiende vraag naar Artificial Intelligence die begrepen én uitgelegd kan worden, die handelt volgens reguleringen en normen en waarden, en die begrijpelijk is voor klanten en het algemeen publiek.

AI automatiseert beslissingen:

AI die uit de bocht vliegt:

Ondoorzichtige fraudedetectie

SyRI, een AI-systeem ontworpen door de Nederlandse overheid, had als doel om potentiële toeslagenfraudeurs te identificeren. Het systeem bleek echter foutgevoelig, met enorme gevolgen voor de mensen die ten onrechte als mogelijke fraudeurs werden aangemerkt. De rechter verbood SyRI begin 2020 vanwege een gebrek aan transparantie, terwijl publieke verontwaardiging over het systeem leidde tot het aftreden van een staatssecretaris.

Seksistische creditcards

Techgigant Apple bevond zich in het centrum van een mediastorm toen bleek dat het AI-systeem van de nieuwe Apple-creditcard mannen een stuk kredietwaardiger achtte dan vrouwen. Zelfs medeoprichter Steve Wozniak twitterde dat hij tienmaal het limiet had gekregen dan zijn vrouw, ondanks het feit dat het koppel verder geen aparte kaarten, rekeningen of bezittingen had.

AI kan onderhoud voorspellen, maar niet voorkomen

Voorkomen is beter dan genezen. Daarom is het ook zonde wanneer een AI-systeem de noodzaak voor machine onderhoud wel kan voorspellen, maar niet kan voorkomen. Dan rest niets anders dan kostbare symptoombestrijding.

Racistische robotrechters

In de Verenigde Staten bleek het zogeheten COMPAS-algoritme, een AI-systeem dat rechters hielp bij het beoordelen hoe groot de kans was op recidive bij delinquenten en advies gaf over hat al dan niet in detentie houden van deze mensen, te discrimineren tegen mensen met een donkere huidskleur. Het algoritme gaf twee keer zo vaak foutief het predicaat ‘high-risk’ aan donkere mensen, terwijl blanke delinquenten vaker onterecht als ‘low-risk’ werden aangemerkt.

De noodzaak voor een betrouwbare oplossing

Instellingen, overheden en het publiek hebben zorgen en eisen transparantie en AI-systemen die zij kunnen begrijpen.

Om AI volledig te benutten, heeft u een systeem nodig dat begrijpelijk is, uitgelegd kan worden en dat verstandig opereert. Alles draait om het winnen van vertrouwen.

FACT-AI: Ons framework voor verantwoorde Artificial Intelligence

VIQTOR DAVIS identificeert vier kernbegrippen die nodig zijn om vertrouwen in te bouwen bij AI-systemen.

FACT-AI de oplossing voor verantwoorde Artificial Intelligence

VIQTOR DAVIS ontwikkelde een state-of-the-art implementatieprogramma om FACT-AI onderdeel te maken van een AI-systeem.

FACT-AI Diensten

By-Design

VIQTOR DAVIS ontwerpt, ontwikkelt, implementeert en onderhoudt uw volgende AI-systeem volgens onze FACT-AI aanpak. Met de nieuwste methodes en technieken creëren wij vertrouwen.

Retrofit

VIQTOR DAVIS beoordeelt uw bestaande data, AI-systeem, producten of diensten. Vervolgens zorgen wij ervoor dat deze transparant worden en dat eventuele vooroordelen in de data gedetecteerd en gematigd worden.

FACT-AI Cases

Openen van ‘black boxes’ bij geautomatiseerde kredietbeoordeling

In de financiële wereld wordt het steeds belangrijker om kredietbeoordelingen te simplificeren en te versnellen. Tegelijkertijd moeten de beslissingen hieromtrent transparant en begrijpelijk zijn. VIQTOR DAVIS realiseerde dit voor internationale financiële instelling door de voorspellende kracht van een ‘black box’ AI-systeem te combineren met een AI-uitlegmodule. Door het openen van de black box biedt onze oplossing accurate voorspellingen, maar blijft deze tegelijkertijd transparant voor alle stakeholders.

  • 90% van alle kredietbeoordelingen wordt nu automatisch afgehandeld, zonder dat daar extra risico bij komt kijken.
  • AI-beslissingen zijn begrijpelijk voor werknemers en uitlegbaar en acceptabel voor alle stakeholders.

Eerlijke sollicitatieprocedures met onze AI-matchmaker

Recruiters en wervingsorganisaties staan onder druk nu er een grote vraag is naar gekwalificeerd personeel terwijl tegelijkertijd de kosten oplopen en er meer regulering bij komt. VIQTOR DAVIS kan bedrijven helpen om vooroordelen in het automatische recruitmentproces te meten en te verminderen met onze AI-matchmaker.

Meer weten?

VIQTOR DAVIS biedt een unieke combinatie: wij zijn uw partner met betrekking tot data-strategie, databeheer, datamanagement, data science en data analytics. Wij bieden professionele services, fullserviceoplossingen en kennisoverdracht. Dit noemen wij Data Craftsmanship. Wilt u ook vertrouwen inbouwen in uw AI-systeem? Klik dan hier.

FACT AI White Paper

Download onze White Paper over FACT-AI hier.

FACT AI White Paper

pdf | 1,372 MB

Check

Bedankt voor uw bericht. We nemen zo snel mogelijk contact met u op.

Check

Succesvol geabonneerd op de VIQTOR DAVIS nieuwsbrief