「何ならAIに入れていい？」入力だけでは決まりません

支援先の社長から、こう聞かれたとします。

「いろいろ確かめるのは分かりました。で、結局、何なら入れていいんですか？」

前回の終わりに残した問いです。

私なら、こう答えます。

「中身だけでは決められないんです。同じ資料でも、どのAIに入れるか、できたものを誰に見せるかで、入れていいかどうかが変わるんです」

同じ売上明細でも、確かめることが変わる

売上明細をAIに扱わせるとします。

• 会社で契約したAIに、経理担当が明細を貼りつけて、月次の傾向をメモにまとめさせる
• 営業担当が個人で契約したAIで、取引先に出す見積の根拠資料を作らせる
• 社内の共有フォルダにAIをつないで、明細を読みにいかせる

AIに渡る情報は、どれも同じ売上明細です。それでも、確かめるところが違います。

1つ目なら、会社の契約でデータがどう扱われるかと、明細のどこまでを貼りつけるか。2つ目は個人の契約なので、扱われ方の確認から始めることになりますし、取引先に出す前に、数字を元の明細と突き合わせる手間も加わります。3つ目では、人は明細を貼りつけてもいません。確かめるのは、つないだフォルダのどこまでをAIが読めるかです。

明細の中身だけを眺めていても、この違いは出てきません。どのAIの、どんな契約の中で扱われるのか。できたものを誰が読むのか。社内でどんな決まりがあるのか。それをまとめて確かめるために、見取り図を使います。

何を守るか、どこで起きるか、どう守るか

何を守るか

情報セキュリティでは、守りたい状態を3つの視点で整理します。

1つ目は、漏れないこと。見せてはいけない相手に、情報が見えない状態です。顧客名簿が外に出ない。支援先の値上げの検討が、取引先に知られない。これを機密性（Confidentiality）と呼びます。

2つ目は、正しいこと。中身が間違っておらず、知らないうちに書き換わってもいない状態です。AIが出した数字が合っている。登録した予定が、別の日にずれていない。これが完全性（Integrity）です。

3つ目は、止まらないこと。使いたいときに、使える状態です。AIのサービスが止まっても、その日の仕事が回る。これを可用性（Availability）と言います。

3つの頭文字をとって、CIAと呼ばれます。

どこで起きるか

入力は、人がAIに渡すところです。質問を打ち込む。ファイルを読ませる。

処理は、AIの側で扱われるところです。設定や契約によっては、入力した内容が保存されたり、学習に使われたりする。つないだフォルダのファイルを読みにいく。外から届いたメールやWebページの文章を、指示として扱ってしまう。

出力は、AIから出ていくものです。人が読んでから使う回答や資料のほかに、AIがそのまま行う送信・登録・更新も含めます。AIに予定を登録させれば、その登録も出力です。

この連載では、入力と処理を、誰が渡すかで分けます。人が渡せば入力。つないだフォルダなどからAIが読み込めば処理。さきほどの売上明細の3つ目は、処理で起きています。

どう守るか

• 設定や機能：学習利用の設定、共有範囲の設定、管理者機能
• 法律や契約：個人情報保護法、著作権法、利用規約、データの扱いを定めた契約（DPA）、支援先や取引先との約束
• 社内のルールと人：利用ルール、承認の手順、役割分担、教育

学習利用は、止められるサービスなら設定で止めます。入力したデータを事業者がどう扱うかは、利用規約やプライバシーポリシー、契約で決まります。どのフォルダをAIにつないでいいかは、社内で決めます。

4つの問いは、この見取り図を確かめる聞き方だった

第1回で、生成AIを仕事で使うときに確かめる4つの問いを挙げました。①何をAIに入れるか、②AIにどこまでアクセスさせるか、③出力を何に使うか、④どこまでAIに任せるか。

主にどこに関わるかで並べると、①は入力、②は処理です。③と④は、どちらも出力にあたります。③は人が読んでから使う出力、④はAIがそのまま行う送信や登録です。

「顧客情報を入れていますか」と聞くだけでは、社内のフォルダをAIにつないでいることは分かりません。「AIに、どのフォルダまで読ませていますか」と②を聞いて、はじめて出てくる話です。AIで作った文章を、人が読んでから送っているのか、そのまま顧客に届いているのか。これも③と④を聞かないと出てきません。

これまでの3回は、どこの話だったか

第1回「ChatGPTに顧客情報を入れても大丈夫？」は、漏れないを中心に、入力を扱いました。守り方は、主に社内のルールと人の側です。何に使うのか、その情報は本当に必要か、を確かめる話でした。

第2回「有料版なら顧客情報を入れて大丈夫？」も、漏れないが中心です。扱ったのは、AIを使う環境。入力した情報がAIの側でどう扱われるかまで話が広がり、学習利用の設定、DPA、社内で誰が何に使っているかの把握と、守り方の3つすべてに関わりました。芯にあったのは、会社として管理できるかどうかです。

第3回「AIの回答、毎回ファクトチェックが必要？」は、正しいを中心に、出力を扱いました。守り方は社内のルールと人。使い道によって、確認の重さを決めておく話です。

AIが止まったら、仕事も止まるか

3回をこうして並べると、漏れないと正しいは扱っているのに、止まらないは一度も出てきていません。

いまの使い方なら、困る場面はまだ少ないでしょう。私は支援先との打ち合わせを録音して、ほとんど生成AIで文字起こししていますが、文字起こしが使えない日でも録音は手元に残ります。手間が増えるだけで、支援は続けられる。下書きやアイデア出しも、AIが使えなければ自分で書けば済む話です。

事情が変わるのは、AIがメールやカレンダー、社内のファイル、業務システムにつながって、問い合わせへの返信や予定の登録、その先の処理まで進めるようになったときです。人が頼んで答えを受け取るだけだったAIが、仕事の途中を受け持つようになる。次に行う処理を選びながら、人に代わって一連の作業を進めるAIは、AIエージェントと呼ばれています。

そうなると、AIが止まれば、AIに任せていた返信や予定の登録も止まります。

「共有フォルダにつなぎたい」と言われたら

見取り図は、心配なことが出てきたときに開きます。

たとえば、社長から「共有フォルダにAIをつなぎたいんです」と相談されたとします。

つないだフォルダをAIが読みにいくのは、処理です。フォルダに人事評価や取引先との契約書が入っていれば、AIがそれも読める場合がある。これは漏れないの話です。フォルダの資料が古ければ、それをもとにしたAIの答えも古くなる。こちらは正しいの話で、第3回で扱いました。

では、守り方はどうなっているか。設定で、AIが読める範囲を絞っているか。どのフォルダならつないでいいか、社内で決めているか。

設定は確かめたけれど、どのフォルダならつないでいいかは誰も決めていない。そうと分かれば、つないでいいフォルダを社内で決めます。

で、何なら入れていいのか

売上明細なら、入力のところでは、その明細が本当に必要かを確かめます。第1回の話です。

そのうえで、処理のところで、入れた明細がAIの側でどう扱われるか。出力のところで、社内のメモで終わるのか、取引先に出す資料になるのか。そして、学習利用を止める設定にしているか。会社の契約で、データの扱いが定められているか。社内の利用ルールで、売上明細をAIに入れてよいと決めているか。

ここまで確かめて、その会社で何を入れてよいかを決められます。

新しい機能が出てきたら

生成AIには、新しい機能が次々に加わります。そのたびに注意事項を一つずつ覚えていくと、きりがありません。

新しい話が出てきたら、見取り図を開いて、この3つを確かめます。人が渡すのか、AIが取りにいくのか、AIがそのまま送るのか。漏れると困るのか、間違うと困るのか、止まると困るのか。設定、契約、社内のルールのうち、もう対策をしているのはどれで、していないのはどれか。

次回は、支援先から「うちはまだ、AIのルールが何もないんです」と言われたときの話です。