AIの世界におけるトレーニングと透明性

前回の記事で述べたように、完全かつ高品質なトレーニングデータのないAIは、エンジンのない車のようなものです。見た目は良くても、どこにも行けません。AIの透明性はユーザーにとっても同様に重要です。だからこそ、ユーザーが情報に基づいた意思決定を行えるように、いつ、どこでAIが使用されるかを正確に伝えることを目指しています。

生成AIのよく知られているリスクは「幻覚」です。これはモデルが現実味のあるデータを生成するシナリオを指します。時には偽の引用付きで完全なものに整えられていますが、内容は完全に間違っています。こうした幻覚は研究開発においては許容できないため、これを回避するための措置を講じる必要があります。

この記事では、AIと科学的発見の間のギャップを埋める上で、CASがどのように独自の立場にあるのかを説明します。AIを戦略的に活用し、幻覚現象を最小限に抑えつつ高品質なトレーニングデータを優先させることで、ユーザーの研究を推進する重要な情報を提供している手法について解説します。

トレーニングデータ

正確なデータは科学研究開発において必要条件です。実験や検査の結果は、薬が市場に出るかどうか、または製品ライン全体を再配合する必要があるかを決定します。

トレーニングデータとは、AIモデルの学習に使用されるキュレーションされたコーパスです。このデータは、モデルがパターンを識別したり、タスクを学習したり、予測を行ったりするのに役立ちます。モデルはデータ次第で性能が決まります。いわゆる「ゴミを入れればゴミが出る」という通りです。

100年以上にわたり、CASは化学情報の信頼できる情報源であり、社内の科学者が世界で最も包括的な化学データのコレクションをキュレーションしてきました。現在、私たちはキュレーションの専門知識を拡大し、科学の進歩を支援するAIモデルの開発に取り組んでいます。お客様は、信頼性が高く一貫したデータを提供することを私たちに期待しています。専門家がキュレーションしたトレーニングデータも同様に信頼できるものであることを確認することで、パフォーマンスが一貫し、お客様の期待に沿ったものになります。

幻覚ではない、本当の答え

多くの人にとって、AIといえばまず思い浮かぶのはチャットボットであり、その回答は情報源の質次第で誤った内容を生成する可能性があります。回答がすでに専門家によってキュレーションされ、検証され、整理されていたらどうなるでしょうか？その場合、AIを使用することで、より合理化された方法で洞察を探索し、発見することができ、信頼性も高まります。

透明性

科学的な検索と発見の再構築を目指す私たちの取り組みにおいて、計画立案の指針としてお客様から寄せられたフィードバックを反映させてきました。その中で特に重要なテーマとして浮上したのが「信頼」です。AIを駆使した新たなイノベーションは確かに刺激的ですが、その出力は再現性が乏しく、わずかな入力内容の変動で急激に変化し、処理内容や結果生成の仕組みが説明されない「ブラックボックス」として機能するため、多くのAIツールが生成する科学的結果に対してユーザーは十分な信頼を寄せていません。

コンテンツとソリューションに対するユーザーの信頼を維持することが最優先事項です。LLMがユーザーとデータの間でインターフェースする際の信頼性の低さを最小限に抑えるための措置を講じることはできますが、本質的に変動しやすい傾向があります。AIで強化された機能の利用をためらうユーザーの懸念は、製品のどこでAIが使用されているかを明確にし、ユーザーが探している情報を見つけるための明らかな代替手段を提供することで軽減できます。

CAS SciFinderのSearchsense

CAS SciFinderはどこに位置づけられるのでしょうか？一般の人々と同様に、科学研究者も膨大な量の情報を検索するのに費やす時間を削減でき、恩恵を受けるでしょう。これは科学コミュニティーにとって大きな非効率な課題です。私たちはこの負担を軽減し、科学的完全性を維持しながら情報の発見を効率化するために、CAS SciFinderにSearchSenseと名付けたAI対応検索改善機能を作成しました。

過去12か月間、CASは科学者のために、科学者によって開発された、権威があり、包括的で信頼できる最大の科学情報検索エンジンを構築してきました。SearchSenseは、最高クラスの化学コレクションとAIを組み合わせて、研究者に正確性を損なうことなく迅速な回答を提供します。

基本原則

CAS SciFinderにAIを組み込み始めた際、決して妥協できない基本原則が存在したため、当社のソリューションは以下の原則に準拠する必要がありました。

• コンテンツ配信の正確さを優先する。
• 検索応答の速度を維持する。
• 顧客データの機密性を守る。

SearchSenseの仕組み

SearchSenseは、回答を生成するのではなく、AIを使用してサーチ意図を解釈するという点で独自性を有しています。CAS SciFinder®は、ユーザーの質問の意図を理解することで、信頼性と正確性に関するCAS基準に準拠して、すでに慎重にキュレーションされた関連する回答と補足データをユーザーに提示できます。意図解釈の正確さは、堅牢で質の高いトレーニングコーパスに大きく依存しています。当社の検索クエリトレーニングデータセットは、CAS専門家によって作成された1万点以上のデータポイントの集合に基づいています。これは、私たちのコンテンツでカバーされているさまざまな科学分野にまたがっています。すべての分野のパフォーマンスを維持しようとするのは大変な努力でしたが、たとえ数百のデータポイントであっても、データを追加することで全体的な精度に相乗効果があることがわかりました。

モデルアーキテクチャとパフォーマンス

クエリの検索意図を判断するAIモデルのトレーニングに、このトレーニングデータが使用されました。速度と精度は使用されるモデルのサイズに依存し、より多くのパラメータを使用するモデルは一般的により正確ですが、研究では、特定のユースケースと質の高いトレーニングデータを持つ小規模なモデルでも十分な精度を生み出せることが示されています¹。私たちは70億のパラメータを持つモデルを使用しました。これは、一部の大規模なモデル（1兆を超えるパラメータを持つ）よりもかなり小さいものです。質の高いトレーニングデータにより、小規模モデルの精度は依然として許容範囲内であり、確かな検索パフォーマンスを維持することができました。

CAS SciFinder®は強力な検索アルゴリズムを使用して、最も関連性のある結果を検索しますが、これはカスタム構築されており、標準のクエリ言語は使用していません。私たち独自の検索アーキテクチャの性質上、対応する検索を実行するために、システムが理解できる言語を生成するようAIモデルをトレーニングする必要がありました。この取り組みにより、AIによるクエリ解釈と独自検索エンジンの複雑な結果を融合させる目標を達成できました。結果として、より少ない時間と労力で関連性のあるデータをユーザーに届けることができるようになりました。

データセキュリティとプライバシー

私たちはお客様のリサーチ、研究の機密性を理解しており、データの機密性が重要です。私たちが開発したすべてのモデルは独自のものであり、オンプレミスでホストされているため、データが当社の管理を離れることはありません。CASにおける人工知能の倫理的使用に関する詳細情報は、こちらをクリックしてください。

まとめ

CAS SciFinderは、科学的研究と発見の成功を可能にしつつ、お客様が大切にする信頼を維持することに尽力しています。CAS SciFinder®のSearchSenseのリリースにあたって、より賢明な方法で強力な新しい技術を活用するための措置を講じました。当社の専門家、クラス最高のコンテンツのコレクション、テクノロジーが協力して、ユーザーにより多くのメリットをもたらし、科学的な研究開発のさらなる進歩への道を開きます。

‍