従業員が無料版生成AIを無断で業務に使用していた場合のリスクを考えたことがありますか?生成AIは誰でも気軽に使える一方、自ら学習するので入力するプロンプトによっては情報漏洩や著作権などの権利侵害のリスクも持ち合わせています。生成AI業務利用についての従業員教育はこれからの時代必須にすべきです。本記事では、生成AIを業務利用する上でのデジタルリスクについて分かりやすく説明します。
生成AIとは?
生成AI(Generative AI)とは、テキスト・画像・音楽・映像などのコンテンツを生成する能力を持つ人工知能の一種です。生成AIが新しいコンテンツを生み出す際は、ディープラーニング(深層学習)とよばれる大量の学習データからAIが自ら学習し、最善の回答を導き出すことによって、オリジナルコンテンツを生み出します。これにより、業務プロセスの効率化や新しいアイディアの創出、データに基づいた意思決定支援により様々な業務のイノベーションの促進に役立っています。
生成AIでできる業務効率化の例
文書生成の時間短縮
メールや企画書等の文書作成や資料の要約など、自然言語処理提供できるため、今までの業務時間を短縮できます。また、翻訳も瞬時に行えるため国際的なビジネスコミュニケーションにも役立ちます。
意思決定の補助
大量のデータから学習し、様々な観点から分析を行うので、意思決定プロセスを強力にサポートしてくれます。
市場調査や分析
生成AIは大量のデータを迅速に収集・分析し、関連性の高い情報をまとめる能力があるため、トレンドや競合他社分析に役立ち効率的なマーケティング戦略役立ちます。
クリエイティブ業務の支援
画像生成AIを使用することで、デザインの専門スキルがなくてもクリエイティブを作成することができます。また、キャッチコピーのアイディア創出などでも使えます。
生成AIを利用する上で押さえておきたいデジタルリスク

生成AIは自ら創造しイノベーションを生み出す一方で、今までのAIではなかったような社会的なリスクも生まれています。生成AIを使用する際はリスクを理解したうえで使用しましょう。
機密情報の漏洩
生成AIにプロンプトとして入力したデータは、生成AIが自ら学習し知能を伸ばすための学習データとして再利用される可能性があります。そのため、第三者の生成物として入力した情報が出力される可能性があり、社外秘の情報などの機密情報をプロンプトで入力することは、情報漏洩につながるリスクとなります。特に下記の秘匿性の高い情報はプロンプトとして入力のは危険です。
- ✓個人情報
- ✓企業機密情報
- ✓著作権保護情報
著作権などの権利侵害
出力されたクリエイティブが既存の著作物と似通っていた場合、著作権侵害にあたるかどうかは、類似性(後発の作品が既存の著作物と同一、または似ていること)や依拠性(既存の著作物をもとにして作られたかどうか)が認められるかによって判断されます。そのため慎重な運用が求められます。
ハルシネーションが発生するリスク
生成AIは学習データの真偽を問わず、古い情報や虚偽の情報も含めて学習してしまうので、生成AIは誤った回答を出力する可能性があります。この現象はハルシネーション(幻覚)と呼ばれており、生成AIで作成された内容は正しいものとは限りません。生成された情報のファクトチェックを徹底する必要があります。
バイアスによる偏り、偏見が生じている場合がある
生成系AIは大量のデータをもとに学習を行うため、参照した学習データが偏っている場合、そのバイアスが生成物に反映されることがあります。倫理的・社会的な問題となり炎上につながるリスクとなるので、生成物が特定の視点に偏っていないか、差別的な表現が含まれていないか確認することが大切です。
日本企業の生成AI利活用の実態

参考:総務省「進化するデジタルテクノロジーとの共生」
作業効率を格段に上げ、体力に限界のない生成AIを社内導入しDX推進している企業が年々増加しています。海外企業では顧客情報を含む多くの領域で生成AIの活用が進められていますが、日本では社内向けの業務(メールや議事録の作成)から慎重に生成AIの導入が進められている状況です。
日本は少子高齢化や働き手不足などの将来的な問題を抱えているので、セキュリティの高い社内生成AIを導入する企業が増えてくるでしょう。
無料版生成AIの業務利用について黙認するリスク
会社として生成AIの導入はしていなくても、生成AIの有能さを知る一部の従業員は無料版の生成AIをひっそりと業務利用している可能性があります。会社から無料の生成AI使用の可否や使用時の注意事項がなければ、リスクを知らずに会社の機密情報を入れてる可能性があり、情報漏洩に繋がりかねない大きなリスクとなります。
生成AIを使用するリスクや心得を従業員に理解してもらい、情報漏洩やSNS炎上のリスクを軽減させていきましょう。
情報漏洩が考えられる生成AIの使用例

海外の取引先との契約書類の英文の翻訳
英語で書かれた契約書の内容を翻訳して理解するためChatGPTにデータを入力したところ第三者の生成データに出力されて情報漏洩につながった。
契約書の要約
契約書のデータをChatGPTにに入力して要約をお願いした。後日、契約内容が外部流出した。
メール文章の作成
取引先へ送るメールの作成をChatGPTにお願いしたところ、顧客情報の漏洩につながった。
まとめ
生成AIは便利で業務効率の向上が期待できますが、生成AI利用のリスクを正しく従業員に理解させる教育の機会を与えなければ、知らないうちに会社の機密情報を流出させてしまったり、SNS炎上につながるリスクとなります。
また、大量のデータから真偽を問わず出力されたコンテンツは100%正しい情報とは限りません。AIによって生み出されたコンテンツは人間がしっかりとチェックし、差別的であったりバイアスがかかっていないか等厳しく人の目でチェックしたうえで世の中に出していく必要があります。
ジールコミュニケーションズが配布している『生成AIリスクチェックシート《企業編》』は、生成AI利用時に確認すべきチェック項目とポイントをまとめたお役立ち資料となっておりますので、ぜひダウンロードして生成AIのリスク対策の参考にしてください。
