Interpretable AI voor gereguleerde bedrijven

Waarom interpreteerbaarheid

Generatieve AI

Interpretable AI

Black box

Generatieve AI is als een alien die alle tekst op internet heeft gelezen en zijn eigen interne voorstelling heeft gekozen om kleur te "zien". Die voorstellingen heten dimensies en we weten niet wat ze betekenen. De frequentie van licht zou zijn dimensie kunnen zijn of iets wat we niet begrijpen. We weten ook niet hoe hij de woorden interpreteert die we tegen hem zeggen.

Begrijpelijk

Mensen zien bruin als rood, groen en blauw via drie soorten kegeltjes in onze ogen. Prereasoner is op dezelfde manier getraind. Zijn dimensies zijn vernoemd naar schema.org-eigenschappen zoals land en valuta. Zo zijn de vraag en het antwoord terug te voeren op die eigenschappen in ons model.

Onvoorspelbaar

Generatieve AI voorspelt het meest waarschijnlijke volgende woord. De eerste keer kan het het ene woord kiezen en de tweede keer een ander. Dat maakt ze menselijk in chatbots. Maar in een financiële berekening betekent het dat dezelfde vraag een ander getal kan opleveren.

Voorspelbaar

Prereasoner zet een vraag om in benoemde dimensies zoals "SUM" van "SALES" in "FRANCE". Dat wordt deterministisch omgezet in een SQL-query of Python-code. Bij het uitvoeren berekent de database of de code het getal. Met dezelfde gegevens krijg je dezelfde query en hetzelfde antwoord.

Waarom wij

Benoemde dimensies, geen betrouwbaarheidsscore

Een betrouwbaarheidsscore voor het voorspellen van het volgende woord is geen reden. Prereasoner toont de SQL-query die het heeft uitgevoerd, waarom die query is gekozen en de rijen achter het antwoord. Een beoordelaar kan elke stap en de berekening controleren en het antwoord dan accepteren of afwijzen.

Een proxyveld kan zich niet verstoppen in de query

Een ondoorzichtig model kan een verzekeringspremie bepalen op basis van een adres of een ander proxyveld dat niemand kan inzien. Hier komt het getal uit een query. Wordt een kolom gebruikt in een filter, join of berekening, dan staat die in de SQL, zodat een beoordelaar hem kan vinden en ter discussie stellen.

Transparantie tot in de broncode

De engine valt onder Apache 2.0 en de gewichten zijn gepubliceerd. De code laat zien hoe elke dimensie is gedefinieerd en hoe het model is getraind. Je auditor hoeft ons niet op ons woord te geloven over hoe het model redeneert. Hij kan de redeneerstappen lezen en ook onze broncode.

Wat een beoordelaar kan controleren

Wat een beoordelaar nodig heeft	Generatieve AI	Prereasoner
Uitleggen waarom een beslissing is genomen	Een gegenereerde uitleg die mogelijk niet klopt	De afleiding zelf: SQL-query, stappen en rijen
Reproduceer het antwoord voor een auditor	Kan variëren door sampling	Dezelfde query en hetzelfde antwoord met dezelfde data en setup
Zie welke velden het resultaat bepaalden	Niet zichtbaar in het model	Elke gebruikte kolom staat in de query
Weet waar een getal vandaan komt	Geschreven door het model	Berekend door de database uit je rijen
Omgaan met een vraag die de gegevens niet kunnen beantwoorden	Antwoordt meestal toch	Vraagt om verduidelijking in ondersteunde gevallen
Houd gereguleerde data in je eigen cloud	Hangt af van de leverancier	Zelf te hosten in je eigen cloudproject

Onze producten

Gestructureerde RAG voor je CSV-gegevens

Vector-RAG beantwoordt "omzet in Frankrijk" op basis van gelijkenis, zodat Kehl, een Duits stadje naast Straatsburg, als Frankrijk kan worden meegeteld. Gestructureerde RAG koppelt je stadkolom aan een landentabel uit Wikipedia, zodat de vraag een SQL-join wordt die je kunt lezen.

Meer informatie

Draai de open engine op je eigen CPU

Een leverancier kan een gehost model onder je voeten veranderen. De Apache 2.0-broncode en open gewichten van Prereasoner draaien op CPU. Een begeleid script rolt ze uit in je eigen Google Cloud-project.

Meer informatie

Stel vragen over je gegevens in Microsoft Excel

Je kunt een getal van AI niet controleren als je niet ziet hoe het tot stand kwam. Vraag het in gewoon Engels en elk antwoord komt met de query die op je sheet is uitgevoerd.

Meer informatie

Stel vragen over je gegevens in Google Sheets

Een AI-chat geeft je een getal zonder de berekening erachter. Vraag het je Google Sheet in gewoon Engels en zie stap voor stap hoe het antwoord wordt berekend.

Meer informatie

Interpretable AI: het AI-model voor gereguleerde bedrijven

Gemaakt voor gereguleerde sectoren

Generatieve AI