Modelo Interpretable AI para empresas regulamentadas

Modelos de raciocínio nem sempre dizem o que pensam. O nosso diz.

ARTIGO CIENTÍFICO
Modelos de raciocínio nem sempre dizem o que pensam
Anthropic
Leia o artigo →
Quem usa

Feito para setores regulados

€ Subscrição e precificação de seguros

Confira os campos e as consultas por trás de cada cálculo de prêmio de seguro.

Análise de crédito

Os revisores podem ver como um resultado foi calculado a partir dos dados da solicitação.

Saúde e elegibilidade a benefícios

Confira as regras e as linhas usadas em cada resultado de elegibilidade.

Por que interpretabilidade

IA generativa

Interpretable AI

Caixa-preta

Caixa-preta

A IA generativa é como um alienígena que leu todo o texto da internet e escolheu sua própria representação interna para "ver" as cores. Essas representações se chamam dimensões e não sabemos o que significam. A frequência da luz poderia ser uma dimensão ou algo que não entendemos. Também não sabemos como ela interpreta as palavras que dizemos a ela.

Compreensível

Compreensível

Os humanos enxergam o marrom como vermelho, verde e azul por meio de três tipos de cones nos olhos. O Prereasoner é treinado do mesmo jeito. Suas dimensões têm nomes de propriedades do schema.org, como country e currency. Assim, a pergunta e a resposta podem ser rastreadas até essas propriedades no nosso modelo.

Imprevisível

Imprevisível

A IA generativa prevê a palavra mais provável que vem a seguir. Ela pode escolher uma palavra na primeira vez e outra na segunda. Isso a deixa parecida com um humano nos chatbots. Mas, num cálculo financeiro, significa que a mesma pergunta pode devolver um número diferente.

Previsível

Previsível

O Prereasoner converte uma pergunta em dimensões nomeadas, como "SUM" de "SALES" em "FRANCE". Isso é convertido numa consulta SQL ou em código Python, de forma determinística. Quando roda, o banco de dados ou o código calcula o número. Com os mesmos dados, você recebe a mesma consulta e a mesma resposta.

Por que nós

Dimensões nomeadas, não um índice de confiança

Um índice de confiança na previsão da próxima palavra não é um motivo. O Prereasoner mostra a consulta SQL que rodou, por que essa consulta foi escolhida e as linhas por trás da resposta. Um revisor pode conferir cada passo e o cálculo e então aceitar ou rejeitar a resposta.

Dimensões nomeadas, não um índice de confiança
Um campo substituto não consegue se esconder na consulta

Um campo substituto não consegue se esconder na consulta

Um modelo opaco pode decidir o valor de um seguro com base num endereço ou em outro campo substituto que ninguém consegue inspecionar. Aqui o número vem de uma consulta. Se uma coluna é usada num filtro, numa junção ou num cálculo, ela aparece no SQL, então um revisor pode encontrá-la e questioná-la.

A transparência vai até o código-fonte

O motor é Apache 2.0 e os pesos são publicados. O código mostra como cada dimensão é definida e como o modelo foi treinado. Seu auditor não precisa acreditar na nossa palavra sobre como o modelo raciocina. Ele pode ler os passos do raciocínio e também o nosso código-fonte.

A transparência vai até o código-fonte
O que um revisor pode verificar
O que um revisor precisaIA generativaPrereasoner
Explicar por que uma decisão foi tomadaUma explicação gerada que pode não ser fielA própria derivação: consulta SQL, etapas e linhas
Reproduza a resposta para um auditorPode variar com a amostragemMesma consulta e mesma resposta com os mesmos dados e a mesma configuração
Veja quais campos determinaram o resultadoNão visível dentro do modeloToda coluna usada está na consulta
Saiba de onde veio um númeroEscrito pelo modeloCalculado pelo banco de dados a partir das suas linhas
Lidar com uma pergunta que os dados não respondemTende a responder mesmo assimPede esclarecimento nos casos compatíveis
Mantenha dados regulados na sua própria nuvemDepende do fornecedorAuto-hospedável no seu próprio projeto de nuvem

Nossos produtos

RAG estruturado para seus dados em CSV

O RAG vetorial responde "vendas na França" por similaridade, então Kehl, uma cidade alemã ao lado de Estrasburgo, pode ser contada como França. O RAG estruturado liga sua coluna de cidades a uma tabela de países da Wikipedia e a pergunta vira uma junção SQL que você consegue ler.

Paris e Estrasburgo ligam à França, Berlim à Alemanha. Kehl fica ao lado de Estrasburgo, com um ponto de interrogação entre os dois países.
Terminal clonando o Prereasoner e publicando-o no seu próprio projeto na nuvem

Rode o motor aberto na sua própria CPU

Um fornecedor pode trocar um modelo hospedado sem você perceber. O código Apache 2.0 e os pesos abertos do Prereasoner rodam em CPU. Um script guiado os publica no seu próprio projeto do Google Cloud.

Faça perguntas sobre seus dados no Microsoft Excel

Você não consegue conferir um número da IA quando não vê como ela chegou a ele. Pergunte em inglês simples e cada resposta chega com a consulta que rodou na sua planilha.

Resposta do Excel com suas linhas e a consulta
Pergunta sobre uma planilha do Google Sheets com o cálculo e a resposta

Faça perguntas sobre seus dados no Google Sheets

Um chat de IA dá um número sem mostrar o raciocínio por trás. Pergunte à sua planilha do Google Sheets em inglês simples e veja como a resposta é calculada, passo a passo.

Comece grátis

Quando um número errado é um risco jurídico, você não pode usar uma IA que chuta

O Prereasoner mostra a consulta e as linhas por trás de cada resposta.