なぜ解釈可能性か
生成AI
Interpretable AI
ブラックボックス
生成AIは、インターネット上のすべての文章を読み、色を「見る」ための内部表現を自分で選んだ宇宙人のようなものです。この表現は次元と呼ばれ、私たちにはその意味がわかりません。光の周波数が次元かもしれないし、私たちには理解できない何かかもしれません。私たちが話しかける言葉をどう解釈しているのかもわかりません。
理解できる
人間は、目にある3種類の錐体を通して、茶色を赤、緑、青として見ています。Prereasonerも同じようにトレーニングされています。その次元は、国や通貨といったschema.orgのプロパティにちなんで名づけられています。だから、質問と回答を私たちのモデルのそれらのプロパティまでたどれるのです。
予測できない
生成AIは、次に来る可能性が最も高い単語を予測します。1回目はある単語を、2回目は別の単語を選ぶことがあります。チャットボットではそれが人間らしさになります。でも財務計算では、同じ質問で違う数値が返ってくることを意味します。
予測できる
Prereasonerは、質問を「FRANCE」の「SALES」の「SUM」のような名前つきの次元に変換します。これを決定論的にSQLクエリやPythonコードに変換します。実行すると、データベースやコードが数値を計算します。同じデータなら、同じクエリと同じ答えが得られます。
