あなたのAIはブラックボックスであり、そのためにあなたの財布を圧迫します

機械的解釈性は、LLMを開けて内部の実際の回路をマッピングする方法です
雰囲気のテストではありません
「うまくいっているように見える」ではありません
実際のニューロンレベルでのトレーシングによるモデルの論理実装の追跡です
今、あなたのエンドポイントに到達するトラフィックの96％は、HTMLの生データを読むボットです
あなたのモデルは、監査できず、追跡できず、説明できない意思決定を行っています
そして、それに実資本の鍵を持たせているのです
企業のAI安全チームは、自分たちのモデルの仕組みを理解していません
彼らはそれをRLHFで包み込み、それを「整列」していると呼びます
それは安全性ではなく、マーケティングです
本当の課題はスケールです - 数十億のパラメータを持ち、私たちは今のところ小さな回路しか解釈できません
しかし、その小さな回路はすべてを教えてくれます
どのニューロンが価格データに反応するのか
どのニューロンがあなたのRAGコンテキストを完全に上書きするのか