Wat hij doet tijdens een consult
Het dier ligt op tafel, de eigenaar praat, de dierenarts onderzoekt. De copilot luistert en legt vast: wat er is gezegd, wat er is gevonden, wat er is besloten. Hij structureert dat tot het dossier dat de praktijk daarna nodig heeft, en hij ondersteunt de beslissingen van de dierenarts met wat al bekend is: de historie van het dier, eerdere bevindingen, de dingen die het waard zijn om te controleren voordat de eigenaar vertrekt. Hij bereidt voor. Hij concludeert niet.
Waar hij ophoudt
De grens ligt bij de diagnose en de behandeling. Het model mag voorstellen, structureren en herinneren. De dierenarts beslist, en de beslissing van de dierenarts is wat in het dossier komt. Dat is geen beperking die we met tegenzin accepteerden. Het is het ontwerp. Een zelfverzekerde foute suggestie, uitgesproken waar een bezorgde eigenaar bij staat, kost de dierenarts vertrouwen dat ze in die kamer niet terugkrijgt. De copilot is dus gebouwd om gelijk te hebben over wat hij zeker weet, en stil of expliciet te zijn over wat hij niet zeker weet.
De dierenarts ziet wat de copilot heeft vastgelegd, in haar woorden en die van de eigenaar, voordat het dossier wordt. Ze kan alles corrigeren, verwijderen of overrulen. Er wordt niets namens haar geschreven zonder dat ze het ziet.
De vragen die we eerst moesten beantwoorden
Wat gebeurt er als het model zelfverzekerd fout zit terwijl er een klant bij staat? Wat moet de dierenarts zien om dat op te vangen? Wat wordt er vastgelegd als de opname onvolledig is, en hoe wordt dat getoond? Welke beslissing mag het model voorbereiden, en welke mag het niet aanraken? Elk van die vragen kreeg een antwoord in het product, en elk antwoord is getest op echte consulten in een praktijk die op onze software draait. Dat is het voordeel van AI eerst in je eigen product bouwen: de lastige vragen komen binnen met je eigen naam erop.
Wat we meenamen naar de klanten
Dezelfde regel ligt nu onder de copilots die we voor anderen bouwden: een fiscale assistent waarbij elk antwoord herleidbaar is naar zijn uitspraak, een AI-gids voor docenten die binnen blijft wat hij hoort te kennen. Eerst de bron, dan het antwoord. De beslissing blijft bij de vakmens. De details verschillen per beroep. De grens niet. Denk je aan een copilot voor je eigen vakmensen, dan gaat het eerste gesprek precies hierover: waar de mens beslist.
