この記事のポイント

• AIツールには、データ漏洩、想定外のアクセス、管理されない「シャドーAI」という新しいリスクがあります。
• 導入前に、データの扱い、アクセス権限、ベンダーの安全性、事故対応の4点を確認しましょう。
• 企業内のAI利用の半数以上が、IT部門の承認なしで行われています。
• シンプルなチェックリストと担当者一人を決めるだけで、 避けられるAIセキュリティやガバナンス上の問題を減らすことができます。

何を確認すべきか、何を尋ねるべきか、どんな場合に上長へ相談すべきかを、このチェックリストで整理できます。対象は、データの扱い、アクセス範囲、ベンダーの安全性、データの保管場所、ログ、事故対応の6項目です。多くのIT・運用担当者は、AI導入のスピードを求められる一方で、社内のルール整備が追いついていません。そのズレが、トラブルの入り口になります。

AIツールは普通のソフトウェアと何が違いますか？

AIツールは、データを保存するだけではありません。データを移動させたり、要約したり、見えない場所へ送ったりします。ファイルのアップロード機能が、知らないうちに文書を外部のAIモデルへ送ることもあります。

情報処理推進機構（IPA）は、「生成AIおよびAIエージェントを安全に活用するための手引書」の中で、AI技術の進化が非常に速く、利便性とセキュリティリスクが短期間で大きく変化するため、一度定めた社内ルールを更新しないまま運用し続けると、新たに顕在化するリスクに対応できなくなると指摘しています。普通のソフトのリスクは主に不具合ですが、AIツールのリスクは「見えにくいデータの流れ」と「変化の速さ」にあります。

シャドーAIとは何ですか？

シャドーAIとは、IT部門の承認を得ずに社員が使うAIツールのことです。例えば、メールを早く仕上げるために、無料のチャットボットに顧客情報を貼り付けるようなケースです。調査によると、企業内のAI利用の半数以上が、こうした未承認のツールによるものだとされています。IPAの手引書でも、全社的なAIガバナンスを検討する際の論点の一つとして「シャドーAI検出状況」のモニタリングが挙げられており、禁止するだけでなく、利用実態を把握する仕組みが重要だとされています。多くは悪意ではなく、「承認を待つより早い」という理由です。解決策は、AIを禁止することではなく、社員がすぐ使える承認済みの選択肢を用意することです。

AIツールを承認する前に、何を確認すべきですか？

‍1. データの扱い

質問： 入力した情報はどこへ送られ、どのように保存・利用されますか。

なぜ重要か： 特に顧客情報や個人情報を生成AIへ入力する場合、情報の扱い方を誤ると、個人情報保護法上の問題につながるおそれがあります。

確認すること： 個人情報保護委員会は、生成AIサービスの利用に関する注意喚起の中で、個人情報取扱事業者が生成AIサービスに個人情報を含むプロンプトを入力する場合には、特定された利用目的の達成に必要な範囲内であることを十分に確認するよう求めています。ベンダーのプライバシーポリシーや利用規約を確認し、入力データがモデルの学習に使われないか、またオプトアウトできるかを確認しましょう。データの保持期間や削除方法が明確かどうかもあわせて確認します。

エスカレーションすべき場合： 学習利用の有無について回答があいまいだったり、マーケティング用の文言でしか説明されていなかったりする場合は、社内で個人情報保護を担当する部門に相談してから利用を進めましょう。

2. アクセスの範囲

質問： このツールは、社内のどのシステムやデータにアクセスできますか。

なぜ重要か： アクセス範囲が広いほど、そのツール一つが侵害されたときの影響範囲も大きくなります。

確認すること：OAuthの権限画面や管理者設定を確認し、ユーザー単位、役職単位、フォルダ単位、システム単位でアクセスを制限できるかを確認します。これは「最小権限の原則」に基づく考え方で、ツールには業務に必要な最小限の権限だけを与え、それ以上のアクセスは許可すべきではないという原則です。

エスカレーションすべき場合： 一部の情報だけで十分なのに、Drive全体やCRM、Slackワークスペース全体へのアクセスを求めてくる場合は、権限を付与する前に情報システム部門に相談しましょう。これはこのチェックリストの中でも特にリスクの大きい項目です。

3. ベンダーの安全性

質問： ベンダーは、データをどのように保護しているかを示せますか。

なぜ重要か： ベンダー自身のセキュリティ体制は、データを連携させた瞬間から自社のセキュリティ体制の一部になります。

確認すること： 総務省・経済産業省が公表する「AI事業者ガイドライン（第1.2版）」は、AIを提供する事業者に対して、安全性や透明性、アカウンタビリティに関する取り組みを自主的に検討することを求めています。SOC 2やISO 27001などの第三者認証、セキュリティに関するホワイトペーパーの提示を依頼し、スムーズに提供してもらえるかを確認しましょう。

エスカレーションすべき場合： ベンダーが回答をはぐらかしたり、マーケティングページしか提示しなかったりする場合、その対応自体を一つの警告サインとして捉え、情報セキュリティ担当者に共有しましょう。

4. データの保管場所

質問： データはどこに保管され、どこで処理されますか。

なぜ重要か： データがどこで保存・処理されるかによって、プライバシー、契約上の条件、海外へのデータ移転など、確認すべき要件が変わる場合があります。海外のサーバーにデータが保管される場合、個人情報保護法上の「外国にある第三者への提供」に関するルールが関係することもあります。

確認すること： データ保管地域についての記載を確認し、自社のコンプライアンス要件（国内保管が必要か、越境移転にあたるかなど）と照らし合わせます。

エスカレーションすべき場合： ベンダーが保管地域を明確にできない場合や、保管場所が自社の要件と矛盾する場合は、法務・コンプライアンス部門に相談してから判断しましょう。

5. ログと記録

質問： 誰が、どのデータで、いつこのツールを使ったかを確認できますか。

なぜ重要か： ログがなければ、問題が起きたときに原因を調査したり、クライアントへ説明したりすることができません。

確認すること： 管理者ダッシュボードでエクスポート可能な利用ログがあるか、保存期間はどれくらいかを確認します。

エスカレーションすべき場合： 利用ログが存在しない、またはベンダー側にしか見えない仕様になっている場合は、情報システム部門に共有しましょう。将来的なインシデント対応力に直接関わる項目です。

6. 事故対応

質問： 情報漏洩が起きた場合、誰が何をどのくらいの速さで対応しますか。

なぜ重要か： 対応の速さは、被害の大きさと、法律上求められる対応内容の両方に影響します。個人情報保護法では、一定規模以上の個人データ漏えい等が発生した場合、個人情報保護委員会への報告と本人への通知が義務付けられています。

確認すること： ベンダー側の通知SLA（何時間以内に連絡するか）を確認し、自社側にもこのツールの担当者（責任者）が決まっているかを確認します。

エスカレーションすべき場合： ベンダー側にも自社側にも対応計画がない場合は、どちらか一方が整うまで導入を保留しましょう。

6つの確認結果を、どう読み解けばよいですか？

一つずつの結果だけでなく、6項目全体のパターンを見ることが大切です。 ログなど一部の項目に不明点や懸念が残る場合は、その内容を整理したうえで、必要に応じて情報システムやセキュリティ担当者に相談してから次の判断を行いましょう。特に、アクセス範囲や事故対応など複数の重要な項目で確認できない点がある場合は、導入前に追加の確認を行うことが大切です。

高価なセキュリティツールが必要ですか？

必ずしも必要ではありません。大企業は専用のAI管理システムに投資していますが、中堅企業は次の3つで多くのリスクに対応できます。書面化された社内のAI利活用ルール、承認を担当する責任者一人、そしてこの6つの確認項目を毎回一貫して適用することです。

IPAの手引書でも、全社員が参照すべき「全社AI利活用ガイドライン」を策定し、各部門の推進担当者が参加する会議体（AI連絡会議など）を定期的に開催して、ガイドラインの周知状況やシャドーAIの利用実態を共有することが勧められています。高度なシステムより先に、こうした最小限の体制を整えることが優先です。

Tokyo Techiesはクライアントとどう取り組んでいますか

Tokyo Techiesが自社のチャットボット製品を含め、AIツールの導入を支援するときも、作業を始める前に同じ6つの確認項目から見ていきます。実際には、ツールが触れるデータを整理する短いワークショップを行い、現場で使える平易なルールを作り、レビューを担当する責任者を一人決めます。多くの場合、必要なのは新しい製品の購入ではなく、判断のプロセスを誰か一人の記憶に頼らない仕組みにすることです。

まとめ

初めてのAI導入は、手探りで進める必要はありません。6つの確認項目を一つずつ確認し、それぞれが「なぜ重要か」を自社の状況に照らして理解し、どんな場合に自分より上の立場の人に相談すべきかを把握しておきましょう。 AI利用に伴う避けられる問題の中には、担当者が不明確だったり、社内ルールが曖昧だったり、ツールのアクセス範囲が十分に理解されていなかったりすることで起きるものもあります。

このチェックリストを使って、不明点を早めに見つけ、必要に応じて専門の担当者へ相談できる状態をつくることが大切です。

初めてのAI導入について、セキュリティ面でのご相談がありましたら、ぜひお気軽にTokyo Techiesまでご連絡ください。

‍

技術レビュー

Marc Olivier - AI部門長

Vince Millora - ソフトウェアエンジニア