リリース以降、2ヶ月で1億ユーザーを突破したChatGPTの登場・普及をきっかけにますます注目が集まっている生成AI。

総務省が2024年7月5日に公表した情報通信白書では、企業の46.8％が生成AIを社内業務に利用しているとの結果が得られるなど、業界問わず多くの企業が生成AIを導入しています。

一方で、「生成AIを活用したいけど、情報流出や著作権侵害などのリスクが不安でなかなか導入に踏み切れない」「生成AIのリスクを正しく認識し、対策を立てた上で導入したい」と考えている方も多いのではないでしょうか。

本記事では、そんな悩みを持つ方のために、①生成AIのデメリット・リスク、②リスクへの具体的な対策、③生成AIによる実際のトラブル事例をわかりやすくご紹介します。

またAI総研では、AI活用を検討する上で押さえておきたい、AI・ChatGPTの最新活用事例50選の狙いや取り組みをまとめたレポートを無料で配布しています。ご興味のある方は、以下リンクからダウンロードしてご活用ください。

⇒AI・ChatGPT活用事例50選の資料ダウンロードはこちら(無料)

生成AIの利用で生じる５つのデメリット

生成AIを利用することで生じる代表的なデメリットとして以下の5つが挙げられます。

• ①著作権や商標権を侵害してしまうリスクがある
• ②機密情報が漏洩してしまうリスクがある
• ③生成AIに適切な指示を与えるのが難しい
• ④生成物の間違いに気付くのが難しい(ハルシネーション)
• ⑤生成AIを過信してしまうと業務ミスが発生する

それぞれについてわかりやすくご紹介していきます。

※生成AI/ChatGPTを導入する前に必ず押さえておきたい、主要なリスクと具体的な対策をまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT導入のリスクと対策ガイドブックの資料ダウンロードはこちら(無料)

①著作権や商標権を侵害してしまうリスクがある

生成AIにアニメのイラストや企業のロゴ等を読み込ませたり、既存の作品と類似するコンテンツを生成してしまうと、著作権や商標権を侵害してしまうリスクがあります。

実際に、ニューヨークタイムズが、自社の記事が対話型生成AIであるChatGPTに学習されたとして、提供元のOpenAIに対して損害賠償を求める訴訟を起こしたケースもあります。

②機密情報が漏洩してしまうリスクがある

生成AIサービスに入力した情報は、基本的にはクラウド上に保存され、生成AIによってデータとして学習されます。

そのため、生成AIに企業の機密情報や個人情報を入力してしまうと、他のユーザーが生成AIを利用した際に自社の機密情報が回答として出力されたり、クラウドから外部に漏洩してしまうリスクがあります。

③生成AIに適切な指示を与えるのが難しい

生成AIは、利用者の指示に従い、柔軟に回答や文章/画像の生成を行ってくれる点が強みです。しかしその反面、利用者が適切な指示を与えないと、期待通りのアウトプットを出してくれません。

特に生成AIの利用に慣れていない方が利用する場合、プロンプトと呼ばれる生成AIへの指示文のテンプレートを活用することが有効です。また、何度も利用する中で生成AIの回答の癖を理解するなど、使いこなすまでには一定の学習コストが必要になります。

④生成物の間違いに気付くのが難しい(ハルシネーション)

生成AIといえども全知全能ではなく、回答に間違いが入り込むこともあります。しかし、生成AIは、人間のように自然な文章で回答するため、なかなか間違いに気付くのが難しいです。

このように、生成AIが間違った回答を出力する現象をハルシネーションといい、生成AIにおける大きな問題点の一つとなっています。

⑤生成AIを過信してしまうと業務ミスが発生する

生成AIは便利な技術ですが、決して完璧ではありません。ユーザーの置かれた状況をすべて把握しているわけではないため、間違いではなくても、その場にそぐわない回答を出力してしまうことがあります。

それにもかかわらず、生成AIの回答を過信して、何も考えずに意思決定をしてしまうと、取り返しのつかない業務ミスが発生するリスクがあります。

【2024年最新】生成AIによる問題事例３選

生成AIによる問題事例として、以下の3事例が挙げられます。

• ①サムスン社内のソースコードが生成AI経由で外部に流出
• ②日本のChatGPTアカウント661件が闇取引市場で売買される
• ③ニューヨークタイムスが記事が学習されたとしてOpenAIを訴訟

それぞれの事例について、わかりやすく紹介していきます。

※200事例の分析に基づく、企業の生成AI/ChatGPT活用でよくある失敗とベストプラクティスをまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT活用しくじり大全の資料ダウンロードはこちら(無料)

①サムスン社内のソースコードが生成AI経由で外部に流出

サムスン電子は、従業員によるChatGPTなどの生成AIツールの利用を禁止する新ポリシーを策定しました。

これは、従業員がChatGPTにセンシティブなデータをアップロードし、誤って情報をリークさせた事例が発覚したためです。

詳細な内容は不明ですが、エンジニアが社内ソースコードをChatGPTにアップロードし、外部サーバーに保存されたデータが他のユーザーに開示されたことが背景にあるとされています。

新たなポリシーは、社内のコンピューターやタブレット、携帯電話、社内ネットワークでの生成AIシステムの使用を禁止し、個人所有の端末でChatGPTなどを利用する場合には、サムスンの知的財産や会社関連の情報、個人データを入力しないよう要求しています。

②日本のChatGPTアカウント661件が闇取引市場で売買される

シンガポールの情報セキュリティ会社Group-IBは、日本から対話型生成AI「ChatGPT」のログイン情報（IDとパスワード）が漏洩していると発表しました。

グループIBは、ウェブブラウザなどに保存された情報を盗み出すマルウェア「インフォスティーラー」によってこの漏洩を検知しました。

2023年5月までの1年間で、ChatGPTのアカウントがダークウェブの闇市場で取引されており、その中で少なくとも661件が日本からの漏洩であることが確認されています。

※これさえ読めば、ChatGPTの機能・できること・活用方法まで全てわかる、最新情報をまとめた資料をダウンロード頂けます。
⇒【5分でわかる】ChatGPT活用ガイドブックの資料ダウンロードはこちら(無料)

③ニューヨークタイムズ：記事が学習されたとしてOpenAIを訴訟

ニューヨーク・タイムズがOpenAIとマイクロソフトに対し、「数十億ドル」の損害賠償責任を求める形で訴訟を提起しました。

同紙は、インターネット上の膨大なデータを分析して「学習」するChatGPTが、許可なく同紙の記事を利用し、購読料収入及び広告収入の機会を奪っていると主張。この訴訟は、AIの利用と著作権の保護という点で新たな議論を呼び起こしています。

生成AIを安全に利用するための６つのデメリット対策

生成AIを安全に利用するための対策として、以下の6つが挙げられます。

• ①生成AIに関する法律や判例を理解する
• ②目的や用途に合った生成AIツールを選ぶ
• ③生成AIに機密情報を学習させないように管理する
• ④ミスを防げるような業務プロセスを設計する
• ⑤従業員向けに生成AI利用ルール・マニュアルを作成・周知する
• ⑥研修などで従業員の生成AIスキルを向上する

それぞれについてわかりやすく紹介していきます。

※生成AI/ChatGPTを導入する前に必ず押さえておきたい、基礎知識や導入方法３パターンの比較、リスクと対策などをまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPT導入マニュアルの資料ダウンロードはこちら(無料)

①生成AIに関する法律や判例を理解する

生成AIは新しい技術であるため、生成AIに関する法整備はまだ追いついていません。しかし、官公庁や専門家の間では、生成AIに関する法整備のあり方について活発に議論されており、徐々に公式の見解が現れ始めています。

例えば、文化庁と内閣府が公表した「AIと著作権の関係等について」と題するガイドラインによれば、生成AI活用における著作権侵害のパターンとして、①他者の著作物を生成AIに学習させる場合、②他者の著作物と類似するコンテンツを生成した場合という2つを挙げています。

基本的には、他者のコンテンツと類似するコンテンツを生成AIで作成し、これを公開した場合には、著作権侵害に当たる可能性が高いとされています。

このように、生成AIに関連する法律や判例の情報は日々更新されているため、定期的に最新の法令改正状況等をキャッチアップしておくことが重要です。

生成AIに関する法律や判例をしっかりと理解することで、著作権や商標権のような他人の権利を侵害せずに、適切かつ安全に生成AIを活用できるようになります。

②目的や用途に合った生成AIツールを選ぶ

生成AIにも様々なタイプがあり、ツールによって、できることや機能は異なります。自社が生成AIを活用する目的に沿わない生成AIツールを選択してしまうと、全く成果に繋がらないままに終わるだけでなく、情報漏洩などの予期せぬトラブルに発展する可能性もあります。

そのため、生成AIツールを選定する際には、それが自社の目的を達成する上で必要な機能を備えているのか、自社が求める水準のセキュリティレベルを保持しているのか、などをよく確認することが重要です。

※生成AIツールの導入を検討される方に、おすすめの10大生成AIツールの特徴や選び方、活用方法をまとめた資料をダウンロード頂けます。
⇒10大生成AIツール徹底比較の資料ダウンロードはこちら(無料)

③生成AIに機密情報を学習させないように管理する

生成AIによる機密情報の漏洩を防ぐためには、生成AIに機密情報を入力しないことが重要です。生成AIに対する指示中の機密情報や個人情報に当たる部分は「XXX」などと記載することで、機密情報を学習させずに、生成AIを利用することができます。

また、例えばChatGPTには、生成AIに読み込ませたデータを学習させないようにすることができるオプトアウトという設定があります。これをONにすることで、生成AIから情報が流出するリスクを回避することができます。

ChatGPTのオプトアウト機能の設定方法やメリット・デメリットについては、以下の記事でわかりやすく紹介しています。

⇒関連記事：ChatGPTのオプトアウト機能とは？情報漏洩を防ぐ設定方法を紹介

④ミスを防げるような業務プロセスを設計する

生成AIは完璧ではなく、回答に間違いが含まれる場合もあります。生成AIの回答を鵜呑みにして業務を遂行すると、深刻なトラブルや業務ミスにつながるおそれがあります。

そのため、生成AIによる回答を人間がダブルチェックするフェーズを入れたり、絶対にミスが許されないタスクではあえて生成AIを活用しないようにするなど、ミスを防げるような業務プロセスを設計することが重要です。

⑤従業員向けに生成AI利用ルール・マニュアルを作成・周知する

情報漏洩などのリスクを防ぐには、従業員全員が、生成AIのリスクや正しい活用方法について理解をし、実践する必要があります。そのため、企業が具体的な生成AIの利用ルール・マニュアルを策定し、周知していく必要があります。

ルール・マニュアルの項目の例としては、社内での生成AIの利用目的や利用範囲の指定、機密性の高いデータの取り扱いに関する注意、社内で頻出の業務シチュエーションにおける効果的な利用方法などに関する方針を具体的に整理するようにしましょう。

また、実際の作成の際には、一般社団法人 日本ディープラーニング協会が公開している、「生成AIの利用ガイドライン」を参考とし、自社に合った内容にカスタマイズするのがおすすめです。

⑥研修などで従業員の生成AIスキルを向上する

従業員が生成AIを適切に利用するためには、研修や勉強会などを開催して、生成AIスキルやリテラシーを高めることが重要です。生成AIの基本から業務への活用方法、リスクへの対処方法まで、生成AIを活用する上で最低限必要な知識をダウンロードすることで、従業員が生成AIを正しく使い、成果を上げられるようになります。
　

社内に生成AIに詳しい人材がいない場合には、外部の専門の講師を招いたり、専門の企業の生成AI研修サービスを利用することが考えられます。

AI総研では、生成AI活用を専門とするコンサルタントが、企業様の目的・ご要望に応じたオーダーメイドの研修/勉強会サービスを提供しています。ご関心のある方はお気軽にAI総研までお問い合わせください。

デメリットを上回る生成AIを利用する３つのメリット

これまで紹介してきたように、生成AIにはデメリットや注意点が複数ありますが、それを上回るほどの大きなメリットがあります。生成AIを利用する代表的なメリットとして、以下の３つが挙げられます。

• ①様々な視点からアイデアや情報を得られる
• ②あらゆる作業を効率化できる
• ③誰でも質の高いコンテンツを生成できる

それぞれについてわかりやすく紹介していきます。

※200事例の分析に基づく、企業の生成AI/ChatGPT活用方法の９つの定石と最新事例をまとめた資料をダウンロード頂けます。
⇒生成AI/ChatGPTの活用アイデア集の資料ダウンロードはこちら(無料)

①様々な視点からアイデアや情報を得られる

生成AIは、インターネット上の膨大なデータや情報を学習しています。例えば、代表的な生成AIであるChatGPTは、本に換算すると約25万冊以上分のデータを学習しています。

このような大量の知識を持つ生成AIにアイデア出しを依頼すると、膨大な学習データをもとに、人間では思いつかないようなクリエイティブなアイデアや新たな視点をもたらしてくれます。

また、自分が考えたアイデアに対して異なる視点からのフィードバックをくれるなど、アイデアの壁打ち相手としても優秀です。

生成AIが提供するクリエイティブなアイデアにより、今までにない新たな価値を持つサービスの開発や、新規事業の創出につながるでしょう。

②あらゆる作業を効率化できる

生成AIは、人間が書いたような自然な文章を作成したり、瞬時に画像やイラストを生成したりすることができ、あらゆる作業を効率化することができます。

長文の要約、翻訳、文章の校正/添削、議事録作成、メール文のドラフトなどの基本的なタスクを自動化できるほか、企画書/提案書の作成やキャッチコピーの考案など高度な知的タスクにも対応可能です。

単純作業だけでなく、クリエイティブな作業までAIが実行できるようになり、業務効率化の幅がさらに広がっています。

③誰でも質の高いコンテンツを生成できる

生成AIが生成する文章は、人間が書いたような自然な内容であることに加えて、誤字脱字や文法のミスが入り込むこともほとんどありません。そのため、人間が作成するよりも正確で質の高い記事や広告などのコンテンツを作成することができます。

また、生成AIにテキスト指示を出すだけで、デザインスキルがない人でも、思い通りの画像やイラストを作成することができます。

このように、生成AIを上手に活用することで、人間では作成が難しい質の高いコンテンツを誰でも作成できるようになります。