Dit document beschrijft hoe Keiro B.V. werkt aan de naleving van de Europese AI-verordening (EU AI Act, 2024/1689) voor het Keiro AI-systeem dat wordt ingezet voor intake, triage en zorgroutebepaling. Het beschrijft onze zelfclassificatie en de status van de vereiste stappen.
Keiro classificeert het AI-systeem onder Annex III, punt 5(b) van de EU AI Act: AI-systemen die worden gebruikt voor het nemen of beïnvloeden van beslissingen over toegang tot gezondheidszorgdiensten, inclusief triage en zorgroutebepaling. Keiro hanteert deze classificatie omdat het systeem het triage-niveau, de urgentie en de financieringsroute van patiënten beïnvloedt. Het systeem is uitdrukkelijk geen medisch hulpmiddel (MDR 2017/745): het ondersteunt plannings- en triageprocessen, niet klinische diagnose of behandeling.
Naam: Keiro AI Intake & Triage Systeem Versie: 1.0 Aanbieder: Keiro B.V. Beoogde gebruikers: Triagisten, zorgcoördinatoren en planningsmedewerkers van zorgorganisaties Beoogd doel: Geautomatiseerde intake van patiënten via conversationele AI, gevolgd door risicogebaseerde triage (Niveau 1-4) en bepaling van de zorgroute. Het systeem maakt gebruik van het Claude AI-taalmodel (Anthropic PBC) voor de verwerking van intake-informatie. Op basis van de ingevoerde klachten, werkstatus, ziektemeldingsgeschiedenis en andere signalen bepaalt het systeem een triageklasse en adviseert een zorgroute. Ondersteunde talen: Nederlands, Engels, Turks, Arabisch, Duits, Frans, Spaans, Pools, Roemeens en andere talen.
De EU AI Act vereist dat hoog-risico AI-systemen effectief menselijk toezicht mogelijk maken. Keiro waarborgt dit als volgt: 3.1 Het AI-systeem genereert uitsluitend een triageadvies. De eindverantwoordelijkheid voor de zorgroute ligt altijd bij de triagist of zorgcoördinator. 3.2 Iedere AI-triage-uitkomst is zichtbaar in het dashboard met een expliciete vermelding "AI-advies · te bevestigen door triagist". De triagist kan de uitkomst wijzigen. 3.3 Het systeem kan op elk moment worden uitgeschakeld of overruled door de gebruiker. 3.4 Bij Niveau 4 (urgent/MaatWerk) genereert het systeem een extra waarschuwing en vereist expliciete bevestiging door een bevoegde medewerker. 3.5 De gebruikersinterface is ontworpen om cognitieve last te minimaliseren en beslissingen te ondersteunen, niet te vervangen.
Keiro voldoet aan de transparantievereisten als volgt: 4.1 Patiënten worden geïnformeerd dat zij communiceren met een AI-systeem via een expliciete vermelding op de intakepagina. 4.2 De intake bevat de tekst: "U communiceert met een AI-assistent van Keiro. Uw antwoorden worden verwerkt om u door te verwijzen naar de juiste zorg." 4.3 Zorgorganisaties ontvangen volledige documentatie over de werking, beperkingen en prestaties van het AI-systeem. 4.4 Keiro stelt de technische documentatie van het AI-systeem beschikbaar aan bevoegde autoriteiten op verzoek.
5.1 Nauwkeurigheid: Het Keiro AI-systeem wordt getraind en getest op de Nederlandse zorgcontext. Validatie vindt plaats in samenwerking met klinische partners. Nauwkeurigheidsrapportages worden bijgehouden. 5.2 Robuustheid: Het systeem wordt getest op invoer in meerdere talen, inconsistente antwoorden en randgevallen. Onjuiste of onvolledige invoer resulteert in escalatie naar menselijke review, niet in een verkeerde triage. 5.3 Cyberveiligheid: Zie het Toegangscontrolebeleid en Incidentresponsplan. Alle communicatie is versleuteld. Het AI-systeem heeft geen schrijftoegang tot productiedatabases. 5.4 Monitoring: AI-triage-uitkomsten worden gelogd. Keiro monitort afwijkingen en prestatiedaling. Klachten over AI-uitkomsten worden geregistreerd en onderzocht.
Hoog-risico AI-systemen onder Annex III dienen te worden geregistreerd in de EU-AI-databank voordat zij in gebruik worden genomen. Status: In aanvraag. Keiro B.V. registreert het Keiro AI Intake & Triage Systeem in de EU AI-databank na voltooiing van de conformiteitsbeoordeling. Verwachte registratiedatum: Q3 2026. De registratie omvat: naam en contactgegevens aanbieder, naam en versie AI-systeem, beoogd gebruik, geografisch inzetgebied, en conformiteitsverklaring.
Hoog-risico AI-systemen vereisen een conformiteitsbeoordeling voordat zij op de markt worden gebracht. Keiro volgt de conformiteitsroute via interne beoordeling (Artikel 43, lid 2) voor AI-systemen die geen medisch hulpmiddel zijn zoals gedefinieerd in MDR 2017/745. Status: in uitvoering. Keiro heeft een interne conformiteitsaudit gepland voor Q3 2026, waar mogelijk in samenwerking met een gecertificeerde conformiteitsbeoordelingsinstantie. Technische documentatie conform Annex IV is in voorbereiding en omvat: systeemarchitectuur, trainings- en validatiedata, prestatiestatistieken, risicobeheersysteem, en gebruikersinstructies.
Patiënten en gebruikers die menen dat het Keiro AI-systeem onjuist heeft gefunctioneerd of schade heeft veroorzaakt, kunnen: 1. Een klacht indienen via klachten@keiro.care — Keiro reageert binnen 10 werkdagen. 2. Een klacht indienen bij de nationale toezichthoudende autoriteit: Rijksinspectie Digitale Infrastructuur (RDI), rdi.nl. 3. Een beroep doen op de rechter conform Nederlands recht. Keiro houdt een register bij van alle ontvangen klachten over het AI-systeem en de getroffen maatregelen.
AI-systeemverantwoordelijke: Directie Keiro B.V. Technische contactpersoon: ai@keiro.care Privacy en compliance: privacy@keiro.care Klachten AI-systeem: klachten@keiro.care Keiro B.V. committeert zich aan continue naleving van de EU AI Act en past dit document aan bij wijzigingen in wet- en regelgeving of het AI-systeem. Versie 1.0 · juni 2026 Volgende review: november 2026