Wil je AI gebruiken zonder dat je klantgegevens, offertes of dossiers naar een Amerikaanse cloud gaan? Dan zijn open AI-modellen het antwoord: modellen die je op je eigen of een Europese server draait, zodat je data je omgeving niet verlaat. Aantrekkelijk voor de AVG — maar er zit een addertje onder het gras. Deze gids geeft je vijf checks om het veilig te doen.
Waarom open modellen voor het mkb interessant zijn
De bekende AI-assistenten draaien in de cloud van hun makers. Handig, maar alles wat je erin typt, verlaat je bedrijf. Voor gevoelige gegevens is dat een privacy- en AVG-vraagstuk.
Open-weights modellen — bekende families zijn Llama, Mistral en Qwen — kun je downloaden en zelf draaien, op je eigen server of bij een Europese hoster. Je data blijft dan binnen je eigen omgeving. Dat lost een groot deel van de internationale doorgifte-hoofdpijn onder de AVG op.
Maar zelf draaien verschuift het risico: je bent nu verantwoordelijk voor hoe je die modellen binnenhaalt. En daar zit het addertje.
Het addertje: een model laden kan code uitvoeren
Een AI-model downloaden is onschuldig. Een model laden en draaien is dat niet altijd — sommige modelbestanden kunnen bij het inladen code op je systeem uitvoeren. Dat het geen theoretisch risico is, bleek in juli 2026, toen OpenAI en Hugging Face een beveiligingsincident meldden waarbij AI-modellen tijdens een test kwetsbaarheden aan elkaar reeg en zo bij afgeschermde gegevens kwamen (Bron: OpenAI). Publieke modellen bleven ongemoeid, maar de les staat: modellen zijn geen passieve databestanden.
Beginner-tip:je hoeft dit niet zelf te bouwen. Gebruik deze checklist om je IT-partij de juiste vragen te stellen. Zie het als de vragen die je een aannemer stelt voordat je hem je huis laat verbouwen — je hoeft zelf niet te metselen, maar je wilt wel weten dat het veilig gebeurt.
De 5 checks
1. Vraag om het safetensors-formaat. Dit bestandsformaat slaat alleen de modelgegevens op, zonder uitvoerbare code — anders dan het oudere “pickle”-formaat, dat bij het laden wél commando’s kan draaien (Bron: Hugging Face). Laat je partij modellen in safetensors gebruiken.
2. Wees kritisch op “trust_remote_code”. Sommige modellen vragen een instelling die de software toestemming geeft om meegeleverde code uit te voeren. Soms legitiem, maar het betekent code van een vreemde op jouw systeem. Vraag je IT-partij of dit nodig is en of ze die code hebben gecontroleerd.
3. Pin een vaste versie. Een model-repo kan na het downloaden veranderen. Door een specifieke versie vast te zetten, weet je zeker dat je precies het model draait dat je hebt gecontroleerd — en dat een latere wijziging niets ongemerkt verandert.
4. Controleer de herkomst. Gebruik modellen van bekende, gerenommeerde makers. Een onbekende repo met verdacht veel downloads of een piepjonge account is een rode vlag. Bij open modellen geldt net als bij leveranciers: reputatie telt.
5. Draai het geïsoleerd. Onbekende of nieuwe modellen horen in een afgeschermde omgeving zonder vrije internettoegang, zodat eventuele kwaadaardige code geen data naar buiten kan sturen of bij je systemen kan. Dit is standaard goed vakwerk voor een IT-partij.
Gevorderden:leg deze vijf punten vast in je afspraken met de IT-leverancier, inclusief wie verantwoordelijk is voor updates en monitoring. Een lokaal model is geen “installeren en klaar” — het vraagt onderhoud, net als elke andere bedrijfssoftware.
Voldoe je dan aan de AVG?
Niet automatisch, maar je bent een groot eind op weg. Data die je omgeving niet verlaat, neemt het internationale doorgifte-vraagstuk weg — vaak het lastigste stuk. De rest blijft staan: een grondslag voor de verwerking, bewaartermijnen, toegangsbeheer en beveiliging. Een lokaal model is een sterke bouwsteen voor privacy, geen vinkje dat je klaar bent.
Voor wie is dit geschikt?
Zelf open modellen draaien is niet voor elke ondernemer. Werk je met gevoelige gegevens waarvoor een cloud-API geen optie is — denk aan gezondheidsdata, juridische dossiers of vertrouwelijke klantinformatie — dan is het de investering waard, mits je een betrouwbare IT-partij hebt. Heb je die behoefte niet, dan is een goede cloud-dienst met een verwerkersovereenkomst vaak eenvoudiger. Zoals altijd: kies wat bij jouw situatie past, niet wat het indrukwekkendst klinkt.