2022年末に登場したChatGPTなど、AIはますます性能が向上しており、幅広い業界の企業が業務効率化やサービスの付加価値向上などに向けた活用を進めています。

一方で、情報漏洩や著作権侵害などの問題点への不安から導入に踏み切れない企業様も多いのではないでしょうか？

そこで本記事では、AIのビジネス活用を検討されている方向けに、AIの問題事例とリスク・対策をまとめてご紹介します。

またAI総研では、AI活用を検討する上で押さえておきたい、AI・ChatGPTの最新活用事例50選の狙いや取り組みをまとめたレポートを無料で配布しています。ご興味のある方は、以下リンクからダウンロードしてご活用ください。

⇒AI・ChatGPT活用事例50選の資料ダウンロードはこちら(無料)

そもそもAI(人工知能)とは？

AIとは、「Artificial Intelligence(人工知能)」の略称で、コンピューターがまるで人間のように学習・判断・予測などの知的作業を行うことを可能にする技術のことを指します。

例えば、画像を認識し異常を検知する、過去のデータから未来を予測する、依頼を元に文章や画像を作成するなどの様々な活用が可能です。

近年、ビッグデータの蓄積や分析技術の進歩などにより、2020年以降その性能が飛躍的に向上し、幅広い業界・用途での活用が急激に進んでいます。

※AI/ChatGPTの活用を検討する際に必ず押さえておきたい、基礎知識から活用の進め方、ポイントまでをまとめた資料をダウンロード頂けます。
⇒【ゼロから分かる】AI/ChatGPT活用ガイドブックの資料ダウンロードはこちら(無料)

企業のAI導入による問題事例５選

企業がAIを導入したことにより発生した過去の問題事例として、以下の5つが挙げられます。

• ①サムスン：社内ソースコードがAI経由で外部に流出
• ②リクルートキャリア：AIによる内定辞退予測結果を無断で販売
• ③Amazon：人材採用でAIによる女性差別が発覚し運用を中止
• ④香港の多国籍企業：ディープフェイクの同僚に騙され38億円送金
• ⑤ニューヨークタイムズ：記事が学習されたとしてOpenAIを訴訟

それぞれの事例についてわかりやすく紹介していきます。

※200事例の分析に基づく、企業のAI/ChatGPT活用でよくある失敗とベストプラクティスをまとめた資料をダウンロード頂けます。
⇒AI/ChatGPT活用しくじり大全の資料ダウンロードはこちら(無料)

①サムスン：社内ソースコードがAI経由で外部に流出

AI活用による代表的な企業の情報漏洩事例として韓国サムスン電子での情報漏洩が挙げられます。

サムスン電子は、従業員によるChatGPTなどの生成AIツールの利用を禁止する新ポリシーを策定しました。

これは、従業員がChatGPTにセンシティブなデータをアップロードし、誤って情報をリークさせた事例が発覚したためです。

詳細な内容は不明ですが、エンジニアが社内ソースコードをChatGPTにアップロードし、外部サーバーに保存されたデータが他のユーザーに開示されたことが背景にあるとされています。

新たなポリシーは、社内のコンピューターやタブレット、携帯電話、社内ネットワークでの生成AIシステムの使用を禁止し、個人所有の端末でChatGPTなどを利用する場合には、サムスンの知的財産や会社関連の情報、個人データを入力しないよう要求しています。

※これさえ読めば、ChatGPTの機能・できること・活用方法まで全てわかる、最新情報をまとめた資料をダウンロード頂けます。
⇒【5分でわかる】ChatGPT活用ガイドブックの資料ダウンロードはこちら(無料)

②リクルートキャリア：AIによる内定辞退予測結果を無断で販売

リクルートキャリアは、同社が運営する就活サイト「リクナビ」を通じて入手した就活生の内定辞退率の予測データを、就活生に無断で企業に販売したとして問題となりました。

リクルートキャリアは、取引先企業から提供された内定辞退者名簿をもとに、内定辞退者のリクナビ上の過去の行動履歴データをAIで解析。これをもとに予測した内定辞退率のデータを就活生の同意を得ないで企業に提供したとされています。

個人情報を第三者に提供するためには本人の同意を得なければならないという個人情報保護法の規定違反が問題となるとともに、AI活用における個人情報保護のあり方を改めて考えさせられる事案となりました。

③Amazon：人材採用でAIによる女性差別が発覚し運用を中止

Amazonは、AIを人材採用システムに導入しましたが、女性を差別して、男性ばかり採用するという欠陥が発覚し、運用を中止しました。

AIによる人材採用システムは、AIが過去の履歴書や採用結果のデータをもとに、応募者を5点満点でランク付けするというものでした。

ところが、AIが技術職の人材に男性ばかりを採用してしまうという欠陥が見られました。これは、過去に技術職に応募してきた人たちの大半が男性であったため、AIが「男性を採用するのが好ましい」と認識したことによるものです。

AIに学習させるデータの内容によっては、意図せずに、AIが差別的で倫理に反するような判断を下すことがあるということが浮き彫りになった事案です。

④香港の多国籍企業：ディープフェイクの同僚に騙され38億円送金

香港の多国籍企業の財務担当者が、AIで合成された同僚の姿を悪用したビデオ通話に騙され、約38億円を送金する事件が発生しました。

香港警察によると、担当者が参加したテレビ会議の映像と音声はいずれもAIを利用して合成・複製された偽物(ディープフェイク)だったとのことです。

この事件は、ディープフェイク技術を利用した初の大規模な詐欺として注目を集めています。

⑤ニューヨークタイムズ：記事が学習されたとしてOpenAIを訴訟

ニューヨーク・タイムズは、OpenAIとマイクロソフトに対し、「数十億ドル」の損害賠償責任を求める形で訴訟を提起しました。

同紙は、インターネット上の膨大なデータを分析して「学習」するChatGPTが、許可なく同紙の記事を利用し、購読料収入及び広告収入の機会を奪っていると主張。この訴訟は、AIの利用と著作権の保護という点で新たな議論を呼び起こしています。

企業がAIを活用する５つの問題点・リスク

企業がAIを活用する代表的な問題点・リスクとして以下の５つが挙げられます。

• ①個人情報や機密情報の漏洩
• ②サイバー攻撃等のセキュリティ
• ③AIの過信による業務ミスの発生
• ④AI人材の不足
• ⑤一時的なコストの増大

それぞれについてわかりやすく紹介していきます。

※AI/ChatGPTを導入する前に必ず押さえておきたい、主要なリスクと具体的な対策をまとめた資料をダウンロード頂けます。
⇒AI/ChatGPT導入のリスクと対策ガイドブックの資料ダウンロードはこちら(無料)

①個人情報や機密情報の漏洩

AI活用で大きな成果を上げるためには、膨大な顧客の個人情報や社内の機密情報などを学習に活用することが有効です。

一方で、学習に使用する際のデータの匿名化処理や、アウトプットの管理、活用用途の制限などのセキュリティ対策を行わずに運用をしてしまうと、個人情報や機密情報が外部に流出するリスクが存在します。

②サイバー攻撃等のセキュリティ

AI活用をする際は、AIならではの脆弱性を狙ったサイバー攻撃等のセキュリティリスクへの対応を進める必要があります。

例えば、特定の企業のAIに対して悪質なデータを学習させ、誤ったアウトプット・挙動を引き起こす攻撃や、生成AIに対して特殊な質問をすることで、本来非公開の機密データを引き出す攻撃などが挙げられます。

③AIの過信による業務ミスの発生

AIは適切に利用することで業務生産性を大きく高めることが可能ですが、どのようなシチュエーションでも万能という訳ではありません。

例えば、倫理的に問題のあるコンテンツの社外への公開や、製造ラインやロボット制御ミスによる事故などの深刻な問題に繋がる可能性があります。

④AI人材の不足

AI活用で大きな成果を上げるためには、AI導入後の活用や運用をリードできるAI人材の確保が非常に重要となります。

一方で、近年AI人材は需要が急拡大しており採用のハードルが高いこともあり、社内人材の育成や外部ベンダーの活用なども含めて対応していく必要があります。

⑤一時的なコストの増大

AI活用により中長期では生産性向上やコスト削減に繋がるものの、導入時には一定のシステム構築やコンサルティング等のコストが発生します。

また、適切な目的や範囲の選定や、大規模導入前のスモールスタートによる有効性の検証などの取り組みを進めないと、投資対効果は低下してしまいます。

企業がAIの問題点・リスクに対して取るべき３つの対応策

企業がAIを活用する際の問題点・リスクへの対応策として以下の３つが挙げられます。

• ①AIと人間の適切な役割分担　　
• ②セキュアなAIツール選定・システム構築
• ③リスクを最小化するデータ管理

それぞれについてわかりやすく解説していきます。

※生成AIツールの導入を検討される方に、おすすめの10大生成AIツールの特徴や選び方、活用方法をまとめた資料をダウンロード頂けます。
⇒10大生成AIツール徹底比較の資料ダウンロードはこちら(無料)

①AIと人間の適切な役割分担　　

AI活用の成果を最大化し、リスクを最小化するためには、AIは得意な業務範囲を中心に活用し、それ以外は人間が担うという分担が重要になります。

例えば、判別やシステム操作に活用する際は、リスクの大きい部分は人間が最終確認をする、コンテンツ生成に活用する際は、叩き台や幅出しはAIに任せ、選定やブラッシュアップは人間が行うなどの分担が効果的です。

②セキュアなAIツール選定・システム構築

AIを活用したツール選定や、自社でのシステム構築の際は、情報漏洩やサイバー攻撃などのリスクへの対応が十分かどうかを検討する必要があります。

例えば、ChatGPTを導入する場合、プランやシステム構築方法によってセキュリティが十分とは言えないものもあり、セキュリティリスクを抱えたまま運用をすることになってしまいます。

③リスクを最小化するデータ管理

AI活用に使用する個人情報・機密情報を保護するには、プライバシーポリシー等の整備や匿名化処理、セキュリティ対策などを行う必要があります。

また、AI活用による不適切な判断やアウトプット生成を防ぐためには、良質なデータの収集や整備、人間による最終アウトプットの確認などが有効です。

企業がAIを導入する７つのメリット

企業がAIを導入する代表的なメリットとして以下の7つが挙げられます。

• ①生産性向上
• ②人手不足解消
• ③人件費などのコスト削減
• ④業務品質向上・標準化
• ⑤高度なデータ活用
• ⑥コミュニケーションの円滑化
• ⑦顧客満足度の向上

それぞれについてわかりやすく紹介していきます。

※200事例の分析に基づく、企業のAI/ChatGPT活用方法の９つの定石と最新事例をまとめた資料をダウンロード頂けます。
⇒AI/ChatGPTの活用アイデア集の資料ダウンロードはこちら(無料)

①生産性向上

生成AIなどの技術発展により、定型的な作業はもちろん、判断や創造性の求められる業務でもAI活用による自動化・業務サポートが進んでいます。

例えば、新規事業・商品の企画やソフトウェアのコーディング、広告のクリエイティブ作成、採用における候補者の絞り込みなど、幅広い業務領域で大幅な生産性向上が可能です。

また、自動化できる業務はAIに任せて、人間は人間にしかできない高付加価値の業務にフォーカスすることで、顧客満足度の向上や、新たなサービスの創出などに繋げることができます。

②人手不足解消

AIは、人手を確保しずらい、定型的で繰り返される作業の自動化・サポートを得意としており、24時間/365日、体調やモチベーションに左右されることなく働いてくれます。

例えば、工場での検品などの作業や顧客からの問い合わせ対応などの業務の大部分をAIにより自動化することが可能です。

③人件費などのコスト削減

生成AIなどの技術発展により、AIによる自動化・効率化ができる業務範囲は拡大し、より大幅な人件費などのコスト削減が可能になっています。

そのため、幅広い業界の多くの企業が導入を進めており、競合企業に対し、より商品・サービスをより安く届けるために、AIによるコスト削減は極めて重要な取り組みとなっています。

※文章作成やリサーチなど日々の業務効率化に使える、おすすめAIツールや５大活用方法、ポイントをまとめた資料をダウンロード頂けます。
⇒【今日から使える】AI活用仕事術大全の資料ダウンロードはこちら(無料)

④業務品質向上・標準化

AIによる業務プロセスの自動化により、ヒューマンエラーや属人的な仕事の仕方のズレをなくすことで、業務品質向上や標準化が可能です。

また、AIを活用し社内データ・知見を統合、チャットボットなどの形式で手軽にアクセス可能とすることで、全従業員がタイムリーに最適な判断や作業を可能にする取組も進んでいます。

⑤高度なデータ活用

AIの最大の強みである膨大なデータに基づく分析により、戦略的な意思決定の支援から実行の最適化まで行うことができます。

例えば、事業の課題抽出や新規事業・サービスの立案、製造・流通の最適化、マーケティングのパーソナライズで高度なデータ活用が可能です。

⑥コミュニケーションの円滑化

生成AIは、人間の用いる言語・言い回しで情報のインプットとアウトプットが可能なため、社内外のコミュニケーションの円滑化に大きく貢献します。

社内向けでは、メール作成や議事録作成、要約、翻訳などに活用でき、社外向けでは、顧客からの問い合わせへのチャットボットでの即時対応などに活用することができます。

⑦顧客満足度の向上

AI活用は社内業務効率化のイメージが強いですが、近年顧客満足度の向上に向けた活用も進められています。

例えば、市場分析に基づく商品・サービスの企画や、各顧客の状況・ニーズを踏まえたサービスのパーソナライズ・機能強化、即時かつ丁寧な顧客対応などの実現にAIが活用可能です。

企業がAI活用を成功させるための５つのポイント

企業がAI活用を成功させるためのポイントとして以下の５つが挙げられます。

• ①中長期でのAI活用戦略の策定
• ②投資対効果の高い活用目的・方法の選定
• ③アジャイルアプローチでの開発・導入
• ④システムとルールの両面からのリスク管理
• ⑤研修等での社員のAI活用リテラシー向上

それぞれについてわかりやすく紹介していきます。

※AI総研では経験豊富なコンサルタントによる、AI/ChatGPT活用の個別無料相談会を実施しております。自社に合った活用方法や導入の進め方などでお困りの方は、お気軽にご相談ください。
⇒AI/ChatGPTの個別無料相談会の詳細はこちら

①中長期でのAI活用戦略の策定

AIの性能進化が加速しているこれからの時代、足元の取り組みはもちろん、3年・5年スパンでAIをどこまでダイナミックに活用できるかが、企業の競争優位性に直結します。

また、AI活用のレベルは、比較的簡単な各社員のAIツール利用による生産性向上から、AI活用による業務プロセス革新、顧客向けサービスの進化、新サービス/商品の創出まで様々です。

そのため、中長期で目指すAI活用の姿を見据え、その実現に向け逆算したロードマップや、まず足元進めるべき活用を設計することが重要です。

②投資対効果の高い活用目的・方法の選定

AIは人間と同様、全ての業務に対して万能という訳ではなく、膨大なデータに基づいた分析や対応、コンテンツ制作は得意だが、複雑な問いに対して正確な答えを出すのは苦手といった、得意不得意が明確に存在します。

そのため、自社の業務の現状やAIの特徴を踏まえた上で、どのような課題/目的に対して、どのようなアプローチ/範囲/ツールで活用を進めるかを、検討・選定するステップがプロジェクトの投資対効果を左右する、極めて重要なプロセスとなります。

③アジャイルアプローチでの開発・導入

AIは、一度開発・導入して終わりという進め方ではなく、何度もモデル・学習データ・利用方法等を細かくカスタマイズしなおすことで、より理想とする活用を実現することができます。

具体的には、初期仮説に基づいた簡易的なプロトタイプを構築し実際に利用してみる、というサイクルを、1サイクル数週間~数ヶ月の期間で何度も繰り返し、ブラッシュアップしていくという、アジャイル開発のアプローチを取ることが適しています。

④システムとルールの両面からのリスク管理

企業がAI活用に踏み切れない最大の理由として、機密情報漏洩などのリスクへの懸念が挙げられます。

確かに、社員に特段ルールを設けず、一般に公開されているAIツールを使用させるなどの場合、様々な問題が発生する可能性は存在します。

一方で、セキュリティ対策を行ったシステム構築や、社員向けのAIの使用ルールやガイドラインの策定により、リスクをマネジメントし最小化することが可能です。

⑤研修等での社員のAI活用リテラシー向上

AI(特に生成AI)を活用するにあたっては、同じAIを利用していても、使い手のリテラシーによって成果が大きく左右されるという点に注意が必要です。

そのため、AIのポテンシャルを最大限に活用するためには、従業員のAIに対する理解とスキル、すなわちAI活用リテラシーを向上させることが不可欠です。

そこで、研修プログラムや実践的なトレーニングを通じて、従業員がAIの基本的な知識、適切な使用方法、関連するリスクを理解してもらい、効率的かつ責任ある方法で使用できる環境の構築が重要となります。

企業がAIを導入するための４つのステップ

企業がAI活用を進めるための流れとして、以下の４つのステップがあげられます。

＜STEP１：活用業務の選定＞

• 最新の市場動向のリサーチ
• 自社での活用対象業務の幅出し・選定
• AI活用の目的・目標の設定

＜STEP２：活用範囲と業務プロセスの決定＞

• 対象業務の棚卸し・効率化余地の検討
• AIを活用する業務範囲の決定
• AIと人間の役割分担の設計

＜STEP３：試験開発・運用(PoC)＞

• 要件定義・プロトタイプ開発
• 試験運用
• フィードバック収集・評価

＜STEP４：本開発・運用＞

• PoCを踏まえた本開発
• 運用・評価
• 活用方針・方法の継続的なカイゼン

各ステップについてわかりやすく紹介していきます。

※AI/ChatGPTを導入する前に必ず押さえておきたい、基礎知識や導入方法３パターンの比較、リスクと対策などをまとめた資料をダウンロード頂けます。
⇒AI/ChatGPT導入マニュアルの資料ダウンロードはこちら(無料)

STEP１：活用業務の選定

AIは、定型的な社内業務の効率化から新規事業創出まで幅広い業務に活用可能だからこそ、

AI活用の投資対効果が高い業務を適切に選定することが最も重要となります。

最新の技術や競合の活用動向をキャッチアップした上で、自社の活用可能性の幅出し・整理を行います。その上で、AIをどのような業務・目的・成果目標で導入するかを設定しましょう。

STEP２：活用範囲と業務プロセスの決定

大きなポテンシャルを持つAI活用ですが、人間と同様、どのようなシチュエーション・任せ方でも万能というわけではありません。

そのため、活用業務の現状・課題と、AI・人間の得意/不得意を踏まえた上で、どの範囲の業務をどのように人間と協業しながら任せるかを決定することが重要になります。

STEP３：試験開発・運用(PoC)

いきなり大規模な導入を進めるのではなく、比較的小規模な試験開発・運用(PoC)により、その有効性を確かめることで、AI活用全体の投資対効果を大きく高めることが可能です。

検証したい仮説を事前に明確にした上で、実際にプロトタイプでの試験運用を行い、活用業務や方法の改善ポイントを洗い出しましょう。

STEP４：本開発・運用

PoCで得られた改善ポイントに基づき、自社の経営課題・業務の現状にベストマッチするAI活用の内容やシステムの要件を再度設計し、本開発を行います。

また、本開発後も継続的に成果や活用状況を評価し、継続的なカイゼンを行うことで、自社でのAI活用のインパクトを最大化することができます。

【2024年最新】日本企業のAI活用事例５選 

代表的な日本企業のAI活用事例として以下の５つが挙げられます。

• ①JINS：ユーザーが試着したメガネの似合い度をAIが判定
• ②伊藤園：AIで作成したモデルをテレビCMに起用
• ③セブンイレブン：AIを活用し商品企画の期間を10分の1に
• ④メルカリ：AIアシスタントが売れやすい商品名や説明文を提案
• ⑤パナソニックコネクト：AIアシスタントを導入し1日5000回の利用

それぞれの事例についてわかりやすく紹介していきます。

※国内外の最新AI/ChatGPT活用事例50選をまとめた資料をダウンロード頂けます。
⇒AI/ChatGPT活用事例50選の資料ダウンロードはこちら(無料)

①JINS：ユーザーが試着したメガネの似合い度をAIが判定

JINSは、ユーザーが試着したメガネの似合い度をAIが判定する「JINS BRAIN」というサービスを提供しています。

ユーザーがJINSのオンラインショップでメガネをバーチャル試着すると、AIがユーザーの顔の形や髪型をもとに、そのメガネが似合っているかどうかを判定します。

また、ランキング形式で各ユーザーに似合うメガネをレコメンドする機能も搭載されており、ユーザーが自分に似合うメガネを探し出すサポートをしています。

②伊藤園：AIで作成したモデルをテレビCMに起用

伊藤園は、リニューアル発売した「お〜いお茶　カテキン緑茶」のテレビCMに、AIで作成したモデルを起用しました。

本事例は、AIモデルをテレビCMに起用したことや、AIモデルが本物の人間と見分けのつかないクオリティに仕上がっていることから、SNSでも大きな話題となりました。

また、同社は広告モデルだけでなく、お〜いお茶の新たな商品パッケージデザインの作成にもAIを活用しています。

③セブンイレブン：AIを活用し商品企画の期間を10分の1に

セブンイレブン・ジャパンは、商品企画の時間を大幅に削減するためにAIの活用を始めました。

この取り組みにより、店舗の販売データやSNS上での消費者の反応を分析し、新商品に関する文章や画像を迅速に作成することが可能になります。

AIの導入により、商品企画にかかる時間が最大で90%削減され、市場のトレンドや顧客のニーズに迅速に応える、新たな商品を提供できる見込みとのことです。

④メルカリ：AIアシスタントが売れやすい商品名や説明文を提案

メルカリは、AIを活用して出品者のサポートを強化する「メルカリAIアシスト」機能の提供を開始しました。

本機能では、出品済みの商品情報を分析し、売れ行きを良くするための商品名や説明文を自動生成して提案します。

本取り組みは、フリマアプリ内で商品が購入者の目に留まりやすくすることを目的としており、取引の活性化に寄与することが期待されます。

⑤パナソニックコネクト：AIアシスタントを導入し1日5000回の利用

パナソニック コネクトでは、社内データベースを連携させたAIアシスタントによる業務効率化のプロジェクトを進めています。

この取り組みにより、自社業務や現場の個別課題に対応した回答生成が可能となり、社外秘情報にも対応する自社特化AIの運用開始も予定しています。

導入後3カ月で、想定の5倍以上の約26万回の利用があり、日々約5000回もの質問がAIに投げかけられているとのことです。