特集　情シス事情を知る

生成AIが変えるビジネスの風景と向き合い方（前編）

～生成AIは何がすごいのか、業務上にはどのように活用できるのか～

2025年6月

はじめに

近年、生成AIというワードを耳にする機会が増えています。生成AIは急速に進化を遂げており、既に様々な分野(例えば、新しいアイデアの創出、文章の要約や翻訳、プログラミングのコード生成、会議音声の文字起こし等)の業務で活用され、業務効率の向上・改善に役立てられています。

本稿では、生成AIは何がすごいのか、業務上にはどのように活用でき、何に留意すべきなのかについて解説します。

生成AIとは？

生成AI(Generative AI)とは、大量の学習データからパターンを学習し、それを基に様々なオリジナルのコンテンツを生成する人工知能(AI)のことです。

従来コンテンツを生成するAIは存在したのですが、近年の技術革新により、これまでとは一線を画すほどの高精度なコンテンツを生成できるようになりました。

例えば文章であれば、人間が書いたものと遜色ないもの、画像であれば、実際の写真と見分けがつかないようなコンテンツを作り出すことができます。

文章生成AI(LLM)とは

生成AIの中には、画像生成AIやLLM (Large Language Model：大規模言語モデル)などが包含されます。LLMとは、生成AIのうち、言語に関する大規模なモデルのことです。この中に含まれているのが、日常でよく耳にする「ChatGPT」や「Gemini」、「Claude」などです。

直近の皆様の業務に最も影響を与えるのが、LLMであるので、本稿はLLMに焦点を当て説明します。

LLMって何がすごいの？

ではLLMは何がすごいのか。従来のテキスト生成AIと比較した際に、長く複雑な文章を理解していること、1つのモデルで多様なタスクを実現できること、そして用例を教えるとそれらを応用してくれることなど、様々な強みがあります。

例えば従来のテキスト生成AIでは、長い文章を投入すると最初の方の文章を忘れ、前半の文章の要約が中々されないということがよくありました。それに対しLLMは長文の文章を投げかけ要約をお願いすると、文章全体の内容を理解し要約することができます。

さらに、従来のテキストAIは1つの特化した用途、例えば生成に特化したものであれば生成だけ、要約に特化したものだと要約だけのように応用が利きませんでした。しかしLLMは文章の生成、要約、抽出といった複数のタスクを1つのモデルで実現することができます。

更に、用例を少し教えるだけで、それに倣って出力することもできます。

以上のようにLLMは従来に比べ長文読解力・柔軟性の高い文章生成をすることができます。

LLM活用検討

では具体的にLLMを業務でどのように活用できるのかについて簡単に説明します。

まず議事録の作成支援です。ZoomやMicrosoft Teams等のWeb会議の音声文字起こし(トランスクリプト)をプロンプトに入力することで、以下のような自分が求めるテンプレート通りの回答を得ることができます。プロンプトについては、命令や手順を簡潔かつ具体的に入力することで、自分が求める回答を得られる可能性を高めることができます。

その他にも問い合わせ回答の支援、資料の作成や、文章の添削・校正、さらには提案書、契約書等の作成支援、VBAマクロの解説などにも活用することができ、皆様の業務を効率化させることができます。

LLMの危険性：知っておくべきリスクとその対策

先述の通り、LLMを活用することで作業の効率化を実現することができ便利なものである一方で、気を付けないと重大な問題が発生してしまう恐れがあります。

例えばある企業で、従業員がChatGPTに社内機密を含むコードをアップロードして誤って情報を流出してしまった事例があったり、個人でLLMを活用してランサムウェアを作成し、実際に逮捕されたという事例がありました。

このようにLLMを活用する際には気を付けないと重大な問題を引き起こす恐れがあります。

この重大な問題とは何か、事例をあげて紹介します。

LLMの出力をそのまま顧客に送信

LLMで出力された嘘や偏見を含む情報をそのままお客様に送信してしまうと、不適切であると注意をうけたり、著作権を侵害してしまう可能性があります。

未許可なLLMサービスに情報入力

会社として未許可なサービスに社内情報を入力してしまうと、社内情報が漏洩してしまう場合があります。

またLLMサービスによっては、入力データが海外サーバーに保管されてしまうものもあり、その国の法令に従って、利用者の意図しない扱いを受ける可能性があります。

ではこういった問題がなぜ起こってしまうのか。LLMの特徴を踏まえながら紹介します。

例として、文章を入力する際、私たち人であれば、過去の経験/知識、シチュエーションを踏まえ「これは言わないほうがいいな・・・」といった想定をし、問題のない文章を出力します。

しかしLLMはどうでしょうか。LLMは、学習元の知識に含まれる嘘や、トレーナーのバイアスを受けるため、生成された文章に嘘や偏見、権利侵害の恐れが含まれる文章を出力してしまいます。つまり、LLMで出力された文章は必ずしも正確ではないということです。

その他の具体的なリスクにも触れていきましょう。

LLMのリスク

LLMには様々なリスクがありますが、今回は5つのリスクについて紹介します。

(1)正確性に関するリスク

LLMは確率的に最も確からしい結果を出力すること、さらにはLLMの学習データには、不正確な情報が含まれる可能性があるため、生成物には正確さが欠け、誤りや偏見が含まれる可能性があります。そのため生成物を利用する際は確認が必要です。

(2)公平性に関するリスク

学習データや計算方法の誤りから公平性でない・バイアスが含まれる結果を出力する可能性があります。

(3)著作権侵害に関するリスク

生成物が著作物に類似している場合、権利侵害の可能性があるため、LLMの出力を使用する際には、公開前に著作権を侵害していないかを確認する必要があります。

(4)情報管理に関するリスク

LLMサービスの中には、ユーザーからの情報を学習データとして利用するものがあり、秘密情報や個人情報が漏洩する危険性があります。

(5)悪用に関するリスク

LLMによるフェイク画像、フェイク記事などを利用して誤った情報が拡散され、人々がその情報を信じるリスクが生じる可能性があります。

このように生成されたコンテンツには、誤った内容や偏った内容が含まれる可能性があり、他の情報源による事実確認など、人間による評価が必要です。

LLMの利用には、適切なガバナンスの構築が必要であり、リスクを最小限に抑えるためのルールや行動指針の作成が必要となります。

ではLLMの利便性を損なわず、これらのリスクに対応し活用するポイントについて紹介します。

LLMを効果的に運用するためのポイント

LLMの利便性を損なわずにリスクに対応し、活用するためには、社員教育・規約等のガイドライン・仕組みの3つがポイントになります。

まず社員教育については、LLMの出力の信憑性やLLMサービスに対する秘密情報の入出力、著作権・倫理観についての教育が有効です。また、直接の弱点ではありませんが、活用例や効果的なプロンプトについても社員教育で実施することで業務の活用の幅を広げることができます。

ガイドライン(規約)については従業員が業務でLLMを活用する際に注意すべきリスクや、対応方針についてまとめ、リスクを低減しつつ、LLMの積極的な活用を促すことが重要です。

仕組みについては、LLMの入出力ログの保存や情報ソースの提示、そして定期的なチェックやフィルタリングが有効です。

LLMを活用することで多くの業務改善を期待できますが、一方で活用に伴うリスクについては、忘れてはなりません。

LLMを運用する際は、社員教育・ガイドライン(規約)、仕組みを抑え、ガバナンスをきかせることが重要です。

＜執筆者＞

NECネクサソリューションズコンサルティング統括部
栄元良太(えいげんりょうた)

Web記事へのご感想をお聞かせください

以下の「Web記事アンケート」よりご感想をお聞かせください。

本記事の後編は、8月上旬頃公開予定です。公開後ご希望の方へはメールにてご案内いたします。

ご希望の方は、アンケート内の設問にてご回答ください。

Web記事アンケート

Web記事をホワイトペーパーとして閲覧できます。