オプテージは、独自の高速・高品質な光インターネットに加え、情報と通信が一体となったワンストップソリューションを提供している関西電力のグループ企業です。法人向けネット・電話・ホスティングのパッケージサービス「オフィスeo光」や格安スマホ / 格安SIMサービス「mineo（マイネオ）」など様々な人気サービスを展開しています。
関西圏で圧倒的な存在感を示す光回線業者である同社は新たな取り組みとして、社内向けにRAG技術を活用した生成AIの技術検証を行いました。クラスメソッドは、Azureによるサービス利用環境構築と生成AIによる業務改善に向けた取り組みをサポートしました。
今回は生成AIチャットボットの活用に至った背景、クラスメソッドの支援内容、今後の展開まで、オプテージの伊之井さん、高岸さんにお話を伺いました。
生成AIを活用した社内ナレッジの検索ニーズが高まった
オプテージでは2023年7月、約2,900人いる全従業員（2023年 4月時点）が利用可能な生成AI環境「OPTAGE Generative AI Chat」を導入。以降、社内向けに様々な生成AIの活用施策を展開し、文章作成の支援や企画・アイデア創出支援など同社の業務に役立てる積極的な利用が進んでいました。
そうした中、同社では「生成AIを活用して社内ナレッジを検索したい」という要望が高まっていたといいます。「これまで社内ナレッジの検索システムとして既存のチャットボットを使っていましたが、生成AIを活用して利便性を向上させることができないかというニーズが社内で高まってきました。いきなり実装することは難しいので、まずは生成AIを実際に試して回答の精度などについてきちんと評価する必要があると考えました」（高岸さん）
そこで同社では、コーポレートITシステム部が管轄している「社内ITヘルプデスク」での活用を想定し、PoC検証の実施を決定しました。
生成AIの特徴や良し悪しを含めて説明する信頼感
社内向けのITヘルプデスクとして、生成AIチャットボットを有効に機能させるためには、必要なドキュメント・FAQの取り込み、精度の高い回答を得るための正確なプロンプトの作成が必要です。そうした知見や技術・ノウハウに対して課題を感じた同社は、クラスメソッドに生成AI活用に関する技術支援を依頼しました。
高岸さんは数あるベンダーの中でクラスメソッドを選んだ理由について、以下のように振り返ります。
「複数のベンダーから選定させていただく中でクラスメソッドを選んだ理由は、部内でもクラウドについて高い知見・ノウハウを持つ技術屋集団として認知されていたことと、提案時から生成AIの良し悪しについて包み隠さず話してくれたことです。自社で実際に試した信ぴょう性のある情報を伝えてくれたことも評価できますし、“今後当社がどのように活用すればいいか”を技術者の視点で話してくれたことは信頼感にもつながりました」
仕様変更にも柔軟に対応し迅速なプロジェクト運営
本プロジェクトには約3カ月を費やしました。セキュリティ要件やプロジェクトの制約事項など後発的に浮上した課題に対しても、サービス用インフラ環境の構成変更、追加機能開発も含め両社スムーズにプロジェクトを進めることができました。
今回のシステム設計では、オプテージのセキュリティを最優先事項として考慮。Azureをはじめクラウド環境における各機能の連携において、インターネットを介すことなく仮想ネットワークを経由するように設計しました。これにより、閉域化を実現し、高度なセキュリティを備えた安全な環境を構築することができました。
また、生成AIチャットボットのサービス面においても、回答精度向上のためのデータの前処理、最適な検索手法の選定やデータ構造の最適化など、様々な角度から精度改善を行っています。
「トラブルやエラーが生じた際にはすぐクラスメソッドに相談していましたが、いつも迅速に対応してくれました。何が課題になっているかに着目し、すぐにその問題を解決してくれるので解決までのスピードがとても速かったことを覚えています。また、プロジェクト終了後も担当者への引継ぎをしっかりと行ってくれました。引継書の作成でも当社の運用に合わせた内容で丁寧に作成してもらえたため、大変助かりましたね」（高岸さん）
生成AIチャットボットを実際に業務で検証することで、活用の勘所が理解できた
今回の生成AIチャットボットを活用したPoCでは、社内ITヘルプデスク業務において、日々発生するPCのトラブルシューティングやシンクライアントの申請などの問合せに対して、生成AIで正しく回答できるかを検証しました。特に、回答精度や利用者の体験がどのように変わるかという点に注目したとのことです。
「最終的に、特定の検証方法においては社内ドキュメントをもとにした回答精度では80％を超えることに成功しました。クラスメソッドには、1週間ごとに出力してほしい項目を変更しながら検証・評価をお願いしていましたが、柔軟に対応してもらえました」（高岸さん）
こうした取り組みを通じて高岸さんと伊之井さんは生成AI活用の勘所を把握。ナレッジも蓄積できたといいます。
「正直、実際に業務にて検証を行う前は生成AIのことをなんでもできる“魔法の杖”だと考えていたんです。でも、実際に試してみてそんなことはないと実感を持って理解できました。1つのIT技術として『得意なこと』『苦手なこと』がわかったのがよかったです。生成AIの重要課題の一つであるハルシネーション（AIが結果として事実と異なる情報や誤った説明をしてしまう現象）について、伊之井さんも以下のように話します。」
「ハルシネーションは完璧に克服できるものではないので、今後実装に向けてどのような対策を講じていくかが重要だと思っています。ですので、今回の実際の検証を通して実例とともに対策を知れたのが本当によかったです。生成AIの価値は従来の情報検索技術の代替ではなく、あくまで“生成”の部分なので人の作業を省力化・効率化することに意味があるということにも改めて気付けました」（伊之井さん）
AIチャットボット実装に向けて今後も積極的に手を動かしたい
オプテージでは、クラスメソッドの支援後も生成AIチャットボットの評価作業を続けています。最終的には業務活用を想定し、得られた知見や評価を報告書にまとめて全社会議で説明するといいます（取材時2024年3月現在）。
「社内ITヘルプデスクへの適用については既存チャットボットとの並行運用などをしながらさらに見極めていきたいです。業務上、ハルシネーションをどこまで許容できるか、実運用の中で評価する予定です」（伊之井さん）
今後の活用について、高岸さんは「技術革新を待つだけでなく自分の手を動かしていきたい」と話します。
「今回得た知見をもとに、より正確な回答を選るための必要な情報の追加、プロンプトの作成など積極的に試していきたいと考えています。例えば、画像情報を読み込ませるために新たな技術の登場を待つのではなく、自分たちでテキスト化して読み込ませるなどもしていきたいです」（高岸さん）
最後にクラスメソッドに対して、それぞれコメントをいただきました。
「生成AIの分野以外でもコーポレートITシステム部では、AWSのマネージドサービスを活用して自分たちの業務を効率化できないかと常日頃考えています。そのあたりの情報も提供してもらえると嬉しいです。今後も支援をお願いすることがあるかと思いますが、その際は新たな知見が蓄積されているでしょうから、サプライズな提案や情報提供も、併せて楽しみにしています」（伊之井さん）
クラスメソッドはこれからも、お客様の生成AI活用を支援してまいります。
