AI Gateway AI op je eigen server draait naast je eigen datawarehouse

Een AI-gateway is een interne service tussen de eigen applicaties en de AI-modellen erachter. Het routeert aanroepen, kiest het juiste model, regelt fallback en houdt logging bij. Zonder gateway koppelen toepassingen direct aan een specifiek model en moeten ze herbouwd worden bij wisseling. Met gateway blijft de toepassing stabiel terwijl modellen veranderen.

Vanuit een datawarehouse roep je AI-modellen aan via een tussenliggende service die invoer en uitvoer formaliseert, autorisatie afhandelt en bijhoudt waar data heen ging. Lokale modellen werken voor gevoelige data, cloud-modellen waar tempo of complexiteit het wint. Een audit-log per aanroep is verplicht voor compliance binnen zorg en onderwijs.

Controle over AI begint met routing: per taak vastleggen welk model mag, en of de data extern verwerkt mag worden. Een centrale gateway maakt dat instelbaar zonder elke applicatie aan te passen. Combineer dat met logging per aanroep en periodieke review. Zonder die laag is AI-gebruik in een organisatie niet auditeerbaar voor governance of toezicht.

Rechtstreeks aanroepen koppelt elke applicatie hard aan een specifiek model. Wisselen vraagt code-aanpassing in elke afnemer, en logging gebeurt verspreid. Een AI-gateway zit ertussen en biedt één plek voor routing, modelversies, fallback en logging. De afnemer kent het model niet meer. Vervangen of upgraden gebeurt centraal, zonder aanpassing in de ETL of applicatie.

Lokaal draait alles wat op de hardware van de gateway past. vLLM host die modellen; in de basis zijn dat Mistral-modellen. Voor numeriek werk staat lokale sklearn ernaast. Is een taak vrijgegeven voor de cloud, dan kan daar een cloud-model aan zet komen. Andere modellen toevoegen kan, mits ze een aanroep-protocol bieden dat de Gateway kan vertalen.

Standaard niets. Per taak is vastgelegd of de data extern verwerkt mag worden. De gateway dwingt dat af; een achtergrondproces kan het niet omzeilen. Wat lokaal draait, verwerkt de data binnen de eigen omgeving. Voor cloud-modellen legt de gateway expliciet vast welke velden meegingen.

Ja. Een nieuwe taak is een config-bestand in een klant-specifieke map; geen code-release van InfoReports nodig. Klant-eigen taken winnen van standaard-taken en blijven bij updates en herinstallaties intact.

Per aanroep legt AI Gateway timestamp, taak, model, recordcount, duurtijd en status vast. Het logboek is opvraagbaar via de API en exporteerbaar in een ondertekend bestand voor lange-termijnbewaring of externe controle.

NEN 7510 is een norm voor de organisatie, niet voor een softwarecomponent. Een product kan dus zelf niet "NEN 7510-gecertificeerd" zijn. AI Gateway ondersteunt wel een aantal zorg-specifieke controles technisch: rolgebaseerde toegang, een audit-trail per aanroep, geen externe netwerkbinding tenzij dat expliciet is ingericht, en een data-classificatie per taak. De zorginstelling is en blijft verwerkingsverantwoordelijke; AI Gateway is een bouwsteen die haar invulling van NEN 7510 aantoonbaar maakt.

NEN 7513 vraagt om vastlegging van wie wanneer welke patiëntgegevens raakt. Die verantwoordelijkheid ligt bij de bron-applicatie die de gegevens beheert. AI Gateway sluit de keten op twee manieren. Voor het batch-pad worden bron-identificaties uit het datawarehouse meegelogd, zodat elke batch terug te leiden is naar de export. Voor de chat-flow wordt elke vraag vastgelegd onder de identiteit van de gebruiker, met een verwijzing naar de leesactie op het datawarehouse. De audit-database is tamper-evident en wordt standaard 5 jaar bewaard.

AI Gateway verwerkt bijzondere persoonsgegevens betreffende gezondheid en is op die werkelijkheid ontworpen. Doelbinding via vooraf gedefinieerde taken (geen vrije ad-hoc-prompts). Dataminimalisatie: standaard draait alles lokaal; cloud-routing alleen voor expliciet vrijgegeven taken, centraal afgedwongen. Bij cloud-paden kan per taak pseudonimisering worden ingericht. Voor het verwerkersregister (art. 30) en de DPIA (art. 35) levert AI Gateway een actueel overzicht van sub-verwerkers met regio en datacategorie. Het audit-log bevat metadata, geen ruwe content. Waar nodig sluit InfoReports een verwerkersovereenkomst.

NIS2 raakt AI Gateway indirect; de zorginstelling is de NIS2-plichtige entiteit, niet de gateway zelf. AI Gateway draagt bij aan supply-chain-transparantie (art. 21) met een actueel overzicht van sub-verwerkers, inclusief of die lokaal of in de cloud draaien. Risicomanagement wordt eenvoudiger doordat AI-aanroepen via één centraal punt lopen, in een installatie die niet met andere organisaties wordt gedeeld. Voor incident-rapportage (art. 23) zorgen de tamper-evidente audit-trail en ondertekende exports dat forensische analyse mogelijk is; InfoReports meldt softwarematige incidenten tijdig aan de klant, die vervolgens de melding aan toezichthouders verzorgt.

Beleid, DPIA, het verwerkersregister, host-beveiliging (encryptie van de schijven, back-up, patching van het besturingssysteem), netwerksegmentatie, gebruikersbeheer, meerfactor-authenticatie op admin-toegang, en de uiteindelijke incident-meldingen aan toezichthouders. AI Gateway levert de technische bouwstenen; de organisatorische invulling blijft bij het ziekenhuis zelf.