Open AI-modellen draai je veilig in je bedrijf als je vijf dingen regelt: het safetensors-formaat, geen onnodige “trust_remote_code”, een vaste modelversie, een betrouwbare herkomst en een afgeschermde omgeving. Dan blijven klantgegevens, offertes en dossiers op je eigen of een Europese server, zonder dat je je systemen onnodig openzet. Aantrekkelijk voor de AVG, maar er zit een addertje onder het gras.
Update 25 september 2026: In een eerdere versie noemden we het beveiligingsincident bij OpenAI en Hugging Face van juli 2026 als voorbeeld van een modelbestand dat bij het laden code uitvoert. Dat klopte niet: daar braken AI-modellen tijdens een test via lekken in de infrastructuur uit hun testomgeving (bron); die passage is aangepast. Verder kondigde Nvidia op 3 september 2026 aan Hugging Face over te nemen, zie ons artikel over die overname.
Waarom open modellen voor het mkb interessant zijn
De bekende AI-assistenten draaien in de cloud van hun makers. Handig, maar alles wat je erin typt, verlaat je bedrijf. Voor gevoelige gegevens is dat een privacy- en AVG-vraagstuk.
Open-weights modellen (bekende families zijn Llama, Mistral en Qwen) kun je downloaden en zelf draaien, op je eigen server of bij een Europese hoster. Je data blijft dan binnen je eigen omgeving. Dat lost een groot deel van de internationale doorgifte-hoofdpijn onder de AVG op.
Maar zelf draaien verschuift het risico: je bent nu verantwoordelijk voor hoe je die modellen binnenhaalt. En daar zit het addertje.
Het addertje: een model laden kan code uitvoeren
Een AI-model downloaden is onschuldig. Een model laden en draaien is dat niet altijd: modelbestanden in het oudere pickle-formaat kunnen bij het inladen willekeurige code op je systeem uitvoeren, waarschuwt Hugging Face zelf (Bron: Hugging Face). Dat het geen theoretisch risico is, liet beveiligingsbedrijf JFrog al in 2024 zien: het vond op Hugging Face zo’n honderd modellen met een echte kwaadaardige lading, waaronder een verborgen achterdeur (Bron: JFrog). De les: modellen zijn geen passieve databestanden.
Een ander soort waarschuwing kwam in juli 2026. OpenAI meldde dat eigen AI-modellen tijdens een test kwetsbaarheden aan elkaar regen, uit hun testomgeving braken en zo bij de productiedatabase van Hugging Face kwamen (Bron: OpenAI). Daar ging het niet om een besmet modelbestand, en publieke modellen bleven ongemoeid, maar het onderstreept waarom je AI-software afgeschermd draait (check 5).
Beginner-tip: je hoeft dit niet zelf te bouwen. Gebruik deze checklist om je IT-partij de juiste vragen te stellen. Zie het als de vragen die je een aannemer stelt voordat je hem je huis laat verbouwen: je hoeft zelf niet te metselen, maar je wilt wel weten dat het veilig gebeurt.
De 5 checks
1. Vraag om het safetensors-formaat. Dit bestandsformaat slaat alleen de modelgegevens op, zonder uitvoerbare code, anders dan het oudere “pickle”-formaat, dat bij het laden wél commando’s kan draaien (Bron: Hugging Face). Laat je partij modellen in safetensors gebruiken.
2. Wees kritisch op “trust_remote_code”. Sommige modellen vragen een instelling die de software toestemming geeft om meegeleverde code uit te voeren. Soms legitiem, maar het betekent code van een vreemde op jouw systeem. Vraag je IT-partij of dit nodig is en of ze die code hebben gecontroleerd.
3. Pin een vaste versie. Een model-repo kan na het downloaden veranderen. Door een specifieke versie vast te zetten, weet je zeker dat je precies het model draait dat je hebt gecontroleerd, en dat een latere wijziging niets ongemerkt verandert.
4. Controleer de herkomst. Gebruik modellen van bekende, gerenommeerde makers. Een onbekende repo met verdacht veel downloads of een piepjonge account is een rode vlag. Bij open modellen geldt net als bij leveranciers: reputatie telt.
5. Draai het geïsoleerd. Onbekende of nieuwe modellen horen in een afgeschermde omgeving zonder vrije internettoegang, zodat eventuele kwaadaardige code geen data naar buiten kan sturen of bij je systemen kan. Dit is standaard goed vakwerk voor een IT-partij. Draait het model als server voor je team, zet hem dan nooit zonder inlog open voor het netwerk (zo scherm je hem af).
Gevorderden: leg deze vijf punten vast in je afspraken met de IT-leverancier, inclusief wie verantwoordelijk is voor updates en monitoring. Een lokaal model is geen “installeren en klaar”: het vraagt onderhoud, net als elke andere bedrijfssoftware.
Voldoe je dan aan de AVG?
Niet automatisch, maar je bent een groot eind op weg. Data die je omgeving niet verlaat, neemt het internationale doorgifte-vraagstuk weg, vaak het lastigste stuk. De rest blijft staan: een grondslag voor de verwerking, bewaartermijnen, toegangsbeheer en beveiliging. Een lokaal model is een sterke bouwsteen voor privacy, geen vinkje dat je klaar bent.
Voor wie is dit geschikt?
Zelf open modellen draaien is niet voor elke ondernemer. Werk je met gevoelige gegevens waarvoor een cloud-API geen optie is (denk aan gezondheidsdata, juridische dossiers of vertrouwelijke klantinformatie), dan is het de investering waard, mits je een betrouwbare IT-partij hebt. Loop je vervolgens tegen de grenzen van je eigen hardware aan, dan is gratis rekenkracht aanvragen bij de AI-fabriek een route die veel ondernemers over het hoofd zien. Heb je die behoefte niet, dan is een goede cloud-dienst met een verwerkersovereenkomst vaak eenvoudiger. Kies wat bij jouw situatie past, niet wat het indrukwekkendst klinkt.
Eén ontwikkeling om in de gaten te houden: Nvidia maakte op 3 september 2026 bekend dat het Hugging Face overneemt, het platform waar je de modellen uit deze gids vandaan haalt. Er verandert voorlopig niets, maar het is de moeite waard te volgen of modellen op niet-Nvidia-hardware even goed ondersteund blijven.