AI in je boekhoudsoftware: val je onder de AI Act?

Het korte antwoord

Gebruik je boekhoudsoftware met AI-functies, zoals automatisch categoriseren van transacties, factuurherkenning of cashflowprognoses? Dan val je waarschijnlijk niet onder de hoog-risico categorie van de AI Act. Maar volledig buiten schot ben je niet. Artikel 4 geldt al sinds 2 februari 2025 en vraagt iets van jou als werkgever, ongeacht welke AI je gebruikt.

Wat doet AI in boekhoudsoftware eigenlijk?

De meeste boekhoudpakketten die Nederlandse mkb-bedrijven gebruiken, denk aan Exact, Twinfield, Snelstart of Unit4, hebben inmiddels AI-functies ingebouwd. Typische voorbeelden zijn:

• Automatisch matchen van bankafschriften met facturen
• Herkennen en inlezen van bonnen en facturen via OCR en machine learning
• Voorspellen van cashflow op basis van historische data
• Slimme btw-categorisering
• Signaleren van afwijkingen of mogelijke fouten in de administratie

Deze functies zijn handig, maar ze zijn ook AI-systemen in de zin van artikel 3 van de AI Act. Dat betekent dat de wet in principe van toepassing is.

Wie is provider en wie bent u?

De softwareleverancier is de provider: die heeft het systeem ontwikkeld en op de markt gebracht. Jij bent de deployer, de partij die het systeem in de praktijk inzet. Artikel 26 beschrijft de verplichtingen voor deployers. Die zijn minder zwaar dan voor providers, maar ze bestaan wel.

Als deployer moet je:

• Het systeem gebruiken zoals de leverancier dat heeft bedoeld
• Menselijk toezicht organiseren waar dat nodig is (artikel 14)
• Medewerkers voldoende kennis geven om de AI-output te beoordelen (artikel 4)
• Geen doeleinden nastreven waarvoor het systeem niet is ontworpen

Is boekhoudsoftware hoog-risico?

Dat hangt af van wat de software doet en in welke context.

Standaard boekhoudfuncties, zoals factuurherkenning of automatisch boeken, vallen niet onder de hoog-risico categorie van Annex III. Ze nemen geen beslissingen over mensen die hun rechten of kansen raken. Er is geen sprake van werving, kredietverlening, onderwijs of biometrie.

Een uitzondering is denkbaar als de software wordt ingezet voor kredietbeoordeling van klanten of leveranciers. Stel dat je boekhoudpakket een kredietscore berekent op basis van betalingsgedrag en jij die score gebruikt om te beslissen of je iemand op rekening levert, dan kom je dichter bij hoog-risico. Artikel 6 in combinatie met Annex III is dan relevant. De deadline voor hoog-risico standalone systemen is 2 december 2027.

Voor de meeste mkb-gebruikers van standaard boekhoudsoftware geldt: geen hoog-risico, geen zware verplichtingen.

Wat geldt er dan wel voor jou?

Artikel 4: AI-geletterdheid (geldt nu al)

Sinds 2 februari 2025 ben je verplicht om medewerkers die met AI werken voldoende kennis bij te brengen. Dat hoeft geen cursus te zijn, maar je moet aantoonbaar iets hebben gedaan. Iemand die dagelijks bonnen laat inscannen door AI en de output klakkeloos overneemt zonder te begrijpen wat het systeem doet, voldoet niet aan artikel 4.

Praktisch betekent dit: leg uit aan je medewerkers hoe de AI-functies in jullie boekhoudpakket werken, wat ze wel en niet kunnen, en wanneer ze de output moeten controleren.

Menselijk toezicht (artikel 14)

AI-output in de boekhouding moet worden gecontroleerd door een mens die begrijpt wat hij controleert. Automatisch geboekte transacties die nooit worden nagekeken, zijn een risico, zowel voor de kwaliteit van je administratie als voor je compliance.

Transparantie richting medewerkers

Gebruik je AI-tools die communiceren met medewerkers, bijvoorbeeld een chatbot in je boekhoudpakket die vragen beantwoordt? Dan gelden de transparantieverplichtingen van artikel 50. De deadline voor chatbots is 2 augustus 2026. Medewerkers moeten weten dat ze met een AI-systeem communiceren.

Wat hoef je niet te doen?

Als je standaard boekhoudsoftware gebruikt van een gevestigde leverancier, hoef je:

• Geen technische documentatie bij te houden (dat is de taak van de provider)
• Geen conformiteitsbeoordeling uit te voeren
• Geen registratie in de EU-database te doen

Die verplichtingen liggen bij de softwareleverancier. Controleer wel of jouw leverancier zijn verplichtingen nakomt. Vraag ernaar als je twijfelt.

Wat is een verstandige volgende stap?

Maak een korte inventarisatie van welke AI-functies je boekhoudsoftware bevat en wie er dagelijks mee werkt. Zorg dat die medewerkers begrijpen wat de software doet en wanneer ze output moeten controleren. Leg dat ergens vast, al is het maar een korte notitie.

Wil je weten hoe je er als bedrijf overall voor staat? Doe de gratis zelfscan op nuchter.ai. Die geeft je in een paar minuten een helder beeld van je AI Act-verplichtingen, zonder juridisch jargon.