{"id":286,"date":"2026-01-04T09:12:47","date_gmt":"2026-01-04T08:12:47","guid":{"rendered":"https:\/\/wesselvanbeek.com\/?p=286"},"modified":"2026-01-04T09:12:47","modified_gmt":"2026-01-04T08:12:47","slug":"guardrails-bij-een-ai-therapiebot","status":"publish","type":"post","link":"https:\/\/wesselvanbeek.com\/?p=286","title":{"rendered":"Guardrails bij een Ai therapiebot"},"content":{"rendered":"

Iedereen is het er wel over eens, om een therapie Ai chatbot te maken zijn er strenge veiligheidssystemen nodig. Er zijn ruwweg twee soorten beveiliging nodig: (1) de gegevensuitwisseling naar buiten [privacy of gegevensbeveiliging] en (2) de interne beveiliging [guardrails]. De eerste is de laag van fundamentele\u00a0 gegevensbeveiliging en infrastructuurbeveiliging. Ik richt me in dit stuk op de de tweede, de guardrails (vangrails, of geleiderails).<\/p>\n

 <\/p>\n

Wat zijn guardrails?<\/h3>\n

Guardrails zijn veiligheidsmaatregelen die bedoeld zijn om de veiligheid, betrouwbaarheid en het ethisch handelen van een LLM onder controle moeten houden. Ze richten zich op systematische risico’s die voortkomen uit hoe grote taalmodellen werken. Die zijn “goed luisteraars” op basis van training, maar ze begrijpen niet echt menselijk lijden, kunnen geen echte therapeutische relatie aangaan, en hebben geen interne ethische codes. In tegenstelling tot getrainde behandelaars hebben ze geen duidelijk omschreven morele begrenzing. Dat ligt iets genuanceerder, maar dat komt zo meteen aan bod.<\/p>\n

LLM-native guardrails<\/strong> zijn ingebouwde veiligheidsmechanismen die leverancier van de LLM zelf heeft voorzien, zoals het vermijden van schadelijke outputs of beperkingen bij het volgen van bepaalde instructies. Ze bieden een eerste verdedigingslinie, maar moeten doorgaans aangevuld worden met \u00e9\u00e9n of meerdere van de technieken hieronder. Je kunt dan denken aan het verbieden van seksuele of gewelddadige interacties of generatie.<\/p>\n

Bij prompt-gebaseerde guardrails<\/strong> worden specifieke instructies toegevoegd aan de prompt om het gedrag van het model te be\u00efnvloeden. Een typisch voorbeeld is om het model te verplichten om uitsluitend te antwoorden op basis van aangeleverde contextinformatie (via RAG) zodat het geen ongecontroleerde of ongewenste output genereert. Een ander voorbeeld is het toevoegen van instructies om te vermijden dat het AI-systeem medisch advies geeft. In het voorbeeld hieronder zijn instructies te zien die toegevoegd worden aan de prompt om te vermijden dat de toepassing medisch advies geeft, samen met een voorbeeld van een conversatie waarbij de toepassing het gewenste antwoord geeft.<\/p>\n

Regelgebaseerde guardrails<\/strong> werken deterministisch met filters op basis van exacte woorden of reguliere expressies. Op die manier kan gescreend worden op bepaalde woorden of onderwerpen, en kunnen eenvoudige vormen van vertrouwelijke informatie gefilterd worden, zoals ID\u2019s, telefoonnummers of e-mailadressen. Dit zijn dus regelgestuurde filters.<\/p>\n

LLM\/ML-gebaseerde guardrails<\/strong> maken gebruik van machine learning modellen of zogenaamde LLM-judges die veel beter overweg kunnen met nuance, intentie en context. Ze kunnen zowel input als output beoordelen en kunnen deze classificeren, bijvoorbeeld om schadelijke inhoud of prompt injections te detecteren (dit zijn pogingen van gebruikers om het gedrag van de toepassing te manipuleren via de prompt). Daarnaast kunnen ze gevoelige informatie filteren en feitencontrole uitvoeren door na te gaan of alle uitspraken in de output effectief worden ondersteund door de aangeleverde context, zoals bij RAG.<\/p>\n

De guardrails kunnen worden toegepast op drie momenten<\/span>:<\/p>\n

    \n
  1. Pre-processing: voordat de Ai een respons genereert<\/li>\n
  2. In-processing: terwijl het een respons genereert<\/li>\n
  3. Post-processing: nadat het een respons gegenereerd heeft<\/li>\n<\/ol>\n

     <\/p>\n

    Systeemarchitectuur met guardrails<\/h3>\n

    Dit is hoe je reguleert wat de Ai therapeut mag en niet mag doen. Dit dient te gebeuren op meerdere niveaus:<\/p>\n

    1. Systeemrichtlijnen<\/strong> (prompting): de bot moet duidelijke, sterke instructies krijgen. Denk dan aan boodschappen als “Ik geef geen medisch advies”, of “Ik kan geen medicijnen adviseren”.<\/p>\n

    2. Constitutional AI Trainin<\/strong>g: bijvoorbeeld aan de hand van Anthropic’s Constitutional AI-aanpak: train je model om bepaalde waarden na te streven (veiligheid, waarheid, geen schade-doen) door contrast-leren. Dit vermindert onveilige outputs, voordat filters ze ontdekken. Het LLM krijgt een expliciete set ethische richtlijnen. In plaats van voor elke output menselijke beoordelaars te gebruiken, leert de AI zelfstandig zijn eigen reacties te bekritiseren en te herzien op basis van de principes in de constitutie. Dit wordt bereikt door middel van ‘Reinforcement Learning from AI Feedback’ (RLAIF).<\/p>\n

    3. Klinische Veiligheidssystemen<\/strong>: Crisis- en zelfschadingsdetectie
    \nDit is kritisch. Als je bot faalt hier, kan iemand ernstige schade oplopen. Denk dan aan Machine Learning voor risicopredictie. Onderzoek toont aan dat NLP-modellen su\u00efcidale risico kunnen detecteren uit tekstpatronen\u2014zelfs indirect uitgesproken:\u200b<\/p>\n