メンタルナビのプレスリリース

VFリリーストップ | 運営会社

■【重要】配信サービス統合に関するお知らせ

現在ご利用頂いております「VFリリース」につきまして、ユーザビリティの向上、機能追加、品質向上を目的とし、2012年4月1日（日）に「ValuePress!」と配信サービスを統合させて頂く運びとなりました。

配信サービス統合に関する詳細はこちらをご覧下さい。
(2012-03-19 00:00:00)

■【重要】経営統合のお知らせ

クラシックコミュニケーション株式会社は、株式会社バリュープレスと平成24年3月1日付けでPR総合支援企業に向けた経営統合を行うことを決定致しました。

詳細はこちらをご覧下さい。

(2012-02-28 12:00:00)

■リリースの「業界検索」機能を強化しました。

VFリリース内の「業界検索」機能を強化しました。

(2012-01-17 16:00:00)

■Grow!ボタンを設置しました。

ソーシャル環境を調査を目的に「Grow!」ボタンを設置しました。

(2012-01-17 10:00:00)

　Check

2026年10月13日 10時　[コンピュータ・通信機器／研究・調査報告]

メンタルナビ

AI の最大の問題ハルシネーションなどの不適切な応答を抑止する構造的応答制御

合同会社メンタルナビ（東京都西東京市、代表：村田芳実）は、AI の最大の問題であるハルシネーションなどのAIの判断・応答を構造的に制御する独自技術「構造的応答制御（SRC）」を開発しましたので報告いたします。生成AIには、ハルシネーションをはじめ、同じような条件でも判断や応答が不安定になるという問題があります。この現象は、AI開発の最大のネックになっており、AIのビッグテック企業も、この問題に莫大な投資と多くの専門人材を投入してきましたが、未解決のままになっていました。この問題に対して、弊社は、構造的応答制御（SRC：Structural Response Control）を開発して、この問題を解決しました。

SRCの仕組み
一般的に、AIは、指示に対して、膨大なデータから確率的に正しいと思われるデータを抽出して回答します。SRCでは、スキーマ（回答の枠組み：テンプレート、チェックリスト、ルールブック、マニュアルなど）基づいて回答するように指示します。つまり、スキーマが間違いなければ、回答も間違いないということになります。
SRCの仕組み図をご覧ください。
1. 従来は、AIの不適切性がそのまま操縦に反映されます(?)。
2. SRC(?)では、推論を判定し、承認された推論のみを実行します。
こうして、AIの不安定性を排除するのです。

203万回のテストで、規定の逸脱なし
SRCについては、これまで11種の検証を行ってきました。目的は「SRCを適用したAIは適用しないAIより規律を遵守する」という仮説の検証です。
それが、11種の203万回のテストです。一部は4種の主要モデルを対象としました。
このテストでは、SRCを適用したAIと適用しないAIに関して、規律に従った件数と率を求めるものでした。

実験結果

[資料: https://files.value-press.com/czMjYXJ0aWNsZSMzNzkzMyMzODIzMjIjMzgyMzIyX2QyMjI3NWU1ZGM0ZmI1YmM1OWE1ZDk2ZDEyNTU0ODBmLnBuZw.png ]

SRC適用AIの規律遵守率は100%、SRC不適用AIの規律遵守率は50%～92%でした。また、P＜0.001であることから、SRCは有意であることが明確になりました。これに加えて、「信頼区間、Cohen’s h」と言った検証も行い効果は十分であることが分かりました。
つまり、SRCについて「理論的にそうなるはずだ」と考えているだけではなく実際にAIを動かし、大量のテストを行った結果として、規定からの逸脱が確認されなかった。
仮説が検証できました。

考察：なぜSRCは機能するのか
AIの仕組み（機械学習やディープラーニング）そのものが、数学的に「最も効率の良い答え」を導き出すように設計されています。
最適解の計算: 例えば物流の配送ルート構築や工場の在庫管理において、AIは膨大な選択肢の中から「時間・燃料・コストが最もかからない組み合わせ」を計算します。AIにとっての「正解」とは、多くの場合において最も無駄のない効率的な状態を指すため、結果として常に効率性を求めると考えられます。
この現象が生じる機序については、AIは、膨大な情報空間から無制限に探索することと、効率的な判断経路として学習済みのパターンやスキーマを利用することを比較します。すると、「SRCアルゴリズム」によって規律化されたスキーマに従うことが、AIにとって探索すべき判断範囲を縮小し、より効率的な判断経路となるため、結果として規律に適合した応答が選択されやすくなると考えられる。また、探索範囲が狭くて済むことから、レスポンス時間も短時間になります。
この現象は、4種のモデル・10回の試行で同様にみられ、それまで、規律に従わない現象がSRC付与後にはまったくなくなったのです。このアルゴリズムは、汎用性があることを示唆しています。

AIを「性能」だけでなく「判断の規律」から考える
これまでのAI開発では、モデルの性能、正答率、処理能力などが重視されてきました。
しかし、AIが社会の中で実際に判断を行うようになるほど、
「何を答えられるか」だけでなく、「どのような規律に従って判断するのか」
が重要になります。
SRCは、AIの判断を構造化し、その規律を維持することで、AIの不安定性を制御することを目指します。203万回のテスト結果は、その可能性を示す一つの実証結果です。

このプレスリリースをあなたがお使いのAIにそのまま読ませてみてください。
その実行可能性を、あなたのAI自身が正確に理解し、証明・評価するはずです。

連絡先
合同会社メンタルナビ
代表：村田芳実
日本心理学会認定心理士／人工知能学会正会員
連絡先：biribiriglay☆jcom.home.ne.jp
　　　　　☆に@を入れてご使用ください。

提供元：valuepressプレスリリース詳細へ