.Adv - ChipSoft bouwt aan verantwoorde AI: "Autonomie groeit als validatie meegroeit"

In dit artikel:

Maarten van Rood, projectmanager AI bij ChipSoft en voormalig datascientist, gaf op de Tweakers Dev Summit 2025 een toelichting op wat AI nu al veilig en verantwoord kan betekenen in de zorgpraktijk en welke stappen nog nodig zijn. Hij combineert strategische koersbepaling voor AI in HiX (het geïntegreerde ziekenhuisinformatiesysteem van ChipSoft) met hands‑on ontwikkeling en coördineert in-house projecten; collega Arjen van Hengel onderzoekt integratie met externe aanbieders. Centraal staat steeds de vraag: welke techniek werkt echt in de dagelijkse zorg, binnen wet‑ en regelgeving?

Context en drijfveren
De druk op de zorg (vergrijzing, personeelstekort, langere wachttijden) maakt automatisering aantrekkelijk, maar medische fouten hebben hoge consequenties. Van Rood benadrukt dat taalmodellen stochastisch zijn en niet altijd hetzelfde of altijd juiste antwoorden geven; in de zorg is “meestal goed” onvoldoende. Tegelijk heeft de recente generatie systemen (zoals ChatGPT) vrij tekstgebruik ontsloten, waardoor ongestructureerde notities en brieven nu benutbaar zijn — een kantelpunt voor praktisch toepasbare AI.

Concrete toepassingen die nu waarde opleveren
- Spraak‑naar‑tekst aan het bed: consulten met toestemming opnemen en automatisch transcriberen, waarna relevante velden (anamnese, beleid, medicatie) worden voorgesteld. Dit verhoogt patiëntervaring en vermindert administratieve lasten, met brede adoptie maar afhankelijk van specialisme.
- Samenvatten en ontslagbrieven: een ziekenhuis maakte een tool die dagverslagen en orders omzet in ontslagbrieven; taken die eerder ~45 minuten kostten, duren nu enkele minuten en blijven gevalideerd door artsen.
- No‑show‑preventie: gedragsgebaseerde modellen voorspellen kans op niet‑verschijnen en activeren proactieve reminders of telefoontjes. Belangrijk: sturen op gedrag, niet op demografische kenmerken, en zorgvuldig dataselectie en evaluatie toepassen.

Regulering als raamwerk, niet als blokkade
De EU AI Act, gecombineerd met bestaande medische regelgeving (MDR, AVG), fungeert volgens Van Rood als nuttig kader: eisen rond datakwaliteit, bias‑checks, risicobeoordelingen en audittrails brengen duidelijkheid over wanneer human‑in‑the‑loop noodzakelijk is. Dat vergt extra werk, maar maakt samenwerking en opschaling makkelijker en aantoonbaar veilig.

De volgende ontwikkeling: agentic AI
ChipSoft experimenteert met agentic AI: een orchestrator (vaak een LLM) stuurt gespecialiseerde agents en tools aan om stap‑voor‑stap taken uit te voeren — bijvoorbeeld een calculator, een EP‑dossierendpoint of externe zoekmodules. De belofte is hogere autonomie en taakafbakening; de risico’s zijn echter groot: hallucinaties, ontbrekende informatie (geen spoor van het wat niet gevonden is) en foutenpropagatie over ketens van spraakherkenning, extractie en interpretatie. Daarom ligt de nadruk op:
- controleerbare antwoordvormen,
- harde validatiepunten in de keten (formatchecks, verplichte velden, deterministische patiënt‑ID‑matching),
- en duidelijke governance: welke taken mogen autonoom, welke met menselijk toezicht en wie draagt verantwoordelijkheid.

Waarschuwingen en tempo
Van Rood wijst op eerdere projecten zoals IBM Watson for Oncology als leermoment: goede ideeën die in de praktijk problemen lieten zien. Hij pleit voor gefaseerde opschaling: eerst administrativeuse‑cases en agents die taken afbakenen en controleerbaar maken; pas daarna verantwoorde stap naar beslisondersteuning, als validatie en governance op orde zijn.

Hoe ChipSoft zich onderscheidt
ChipSoft zet in op drie pijlers: compliance by design (AI‑componenten binnen medische certificering en auditsporen), standaardisatie en schaalbaarheid (modulaire integraties zodat ziekenhuizen per use‑case kunnen kiezen) en open, vendor‑agnostische netwerken voor agent‑samenwerking. De focus blijft primair op zorginstellingen, omdat daar regels, standaarden en verantwoorde uitrol het beste te borgen zijn.

Kernboodschap
AI levert vandaag al meetbare tijdwinst als taakgerichte assistent, mits met strikte vangrails. Agentic AI biedt veel potentie, maar alleen door zorgvuldige orkestratie, tussentijdse validatie en heldere verantwoordelijkheden kan die technologie veilig de werkvloer bereiken.