AIチャットボットなどの現実的な落とし込み

この記事は2024/06/06に作成されました。

現在隆盛を誇っているChatGPTを初めとする生成系AIですが、テキストを入力すれば、適切な回答を得ることができることからさまざまな場面で応用が検討されています。
既に導入を決めた企業も多く、プレスリリースなどでも生成AIを導入した、という企業が容易に見つけることができます。しかも伝統的大企業が多く見受けられます。

もっとも、導入した企業の使い方としては、社内ドキュメントの検索や新しい知識、アイディア創発のためのナレッジベースとしての使い方が多く、社内向けの機能として提供されているものが多く見受けられます。生成AIの場合、RAGと言った手法を使うことで、必要な情報を生成AIに渡すことで、生成AIが知ることのない、社内向けのドキュメント情報などを渡すことが可能になります。プライベートクラウドなどを使うことで、比較的容易に生成AIを動作させることとが可能ですし、社内ドキュメントなどは既にクラウド上で共有している企業であれば、調整などで多数の工数は必要ながら、導入は容易でしょう。

社内だけで利用するシステムであるなら、もし間違えが生じた場合でも、人が介在してファクトチェックを行なうことが可能なため、外部に与える影響は相対的に小さくなります。そのままファクトチェックをせずに外部に出せば、間違えが原因による損失が生じる可能性はありますが、現実的にそのまま出すというのは考えにくいです。そのリスクよりも、生成AIによるドキュメント検索能力や要約能力などを活かして業務効率化を行えることの方が遙かにメリットを生み出す可能性が高いでしょう。

外部に提供するときの問題

問題は、これを外部顧客向けに提供した場合です。toC向けの企業では、お客様からの問い合わせに対して、何らかの方法で対応する必要が生じます。電話であれば、人員を割かなければいけませんしコストも大きく掛かります。ネットのチャットを通じて、となれば、1人で複数人を同時に相手ができる可能性が出てきますが、人員が必要なところは変わりがありません。
できるだけコストを抑えるためにQ&Aを充実させて、問い合わせ自体を減らすなどの工夫を行なうのが一般的ですが、どうしても適切な回答をお客様が得るために時間が掛かることから、きちんと調べた上で問合せをするお客様自体が少ないと思われます。

そこで、生成AIを使い、独自に作成したQ&Aやマニュアルなどのドキュメントを学習させて、チャットボットを通じ生成AIによってお客様からの問い合わせに対する回答を与える、という方法が考えられるわけですが、現時点では正直現実的ではありません。
まず、生成AIの1回辺りで正当な返答をする確率はそこまで高くありません。また、元々生成AI自体が持っている一般的な回答を行なってしまう可能性もあるため、お客様相手に常に妥当な返答を返す保証がありません。

賠償金を支払った例も

例えば、2024年4月にエア・カナダはチャットボットの誤回答で賠償金を支払う判決が出ています。チャットボットが間違えた回答を行なったため、お客様に不利益を与えたことが原因ですが、チャットボットの回答もエア・カナダの責任であるとして、賠償金を支払うように命じられています。これ自体は2022年に生じた問題が起因ですが、現在では精度も更に上がっているため、可能性が低くなっているとは考えられますが、同様の問題が起きる可能性は現在も残っていると思われます。

契約書なども生成AIに頼って作成させたところ、重要な項目が欠落していたため、無効になってしまった例などもあります。
すべて生成AIが出力した結果を1度人がチェックをして、渡すようにすればある程度防げる可能性はありますが、コストとの相談になってきます。

複数の異なる生成AIを用いて、ファクトチェックさせる方法もあるでしょう。しかしながら、生成AIが文意を理解した上で回答を生成している訳では無いため、文章的な誤りが無い場合やその会社独自のルールなどの依存するものであれば、正確な判断はできないと考えられます。

現実的な解

となると、現時点で現実的なところでは、最終的な判断は、当事者に任せる、というところに落ち着きます。つまり、チャットボットは参考または回答になるような資料のURL提示だけをして、問合せしてきた人が読んで判断をする、という方法です。現状の生成AIと異なった仕組みの生成AIがでてきたりした場合にはまた、異なった対応になる可能性はありますが、現時点では、問い合わせに対して、生成AIで少しの手助けをすることが、最良であると考えます。

もっとも社内向けやワークフローの改善など、人がファクトチェックできるところでは、生成AIの持つメリットを活かせる場面が多く存在します。弊社ではさまざまな生成AIの比較などを通じ、それぞれの利点などを把握しながらAIを使ったシステム作成などもご提案できます。ご興味があれば、是非お問い合わせください。