先日、業務で使っている対話型のAIに「それは言い過ぎではありませんか」と返す場面がありました。この記事は、その日のやり取りから得た教訓を、できるだけ短くまとめたものです。

先に、教訓を三つ

  1. AIは「意見を持つ相談相手」ではなく「叩き台を出す下書き係」として扱う。 AIの答えは結論ではなく、検討の出発点です。
  2. 結論が出たら「今の結論に反論して」と頼む。 同じAIに反対側を書かせて両方読むだけで、言い過ぎはかなり減ります。
  3. 専門家に聞く回数を減らさない。 法務・税務・医療のように専門家がいる領域では、AIの答えは専門家に持ち込む前の整理にとどめます。

何があったのか

社内のデータをAIに分析させる運用について、法的な観点から批評してほしいとAIに頼みました。個人情報に関わるデータは、氏名などを取り除いて記号に置き換えたうえで扱っています。

AIは、ある法律上の要件に触れる可能性があると指摘し、「有料の上位契約に切り替えるべきだ」と勧めてきました。そこで私は「それはあなたの会社が儲けたいから言っているのでは」と返しました。AIは自社の売上にならない代替案を四つ並べ直しました。この点は合格です。

ただし、そのあとの発言までは正しくありませんでした。

  • AIは「万一の際に公表しないのは隠蔽にあたる」と言いました。私の運用では、制度上そうした報告や通知を求められない扱いになっています。押し返すと、AIは「隠蔽という表現は言い過ぎでした」と撤回しました。
  • AIは「今の契約には契約上の担保がない」と断定しました。実際には利用規約に、入力内容を学習に使わせない選択肢が明記されており、私はそれを選んでいます。押し返すと、AIは「担保がない、は不正確でした。担保が部分的、が正しい」と訂正しました。

二度とも、AIが自分から誤りに気づいたわけではありません。私がその分野を多少知っていたから押し返せただけで、知らなければ、どちらもそのまま通っていたはずです。

なぜAIは信じられすぎるのか

最後にAIへ「人はあなたを信じすぎていないか」と聞きました。返ってきたのは「自分は自信があってもなくても同じ調子で話す」という答えでした。

人間の専門家なら、自信のないところは声の調子に出ます。AIには出ません。根拠を求められなくても断定でき、即答で便利なので、裏を取る習慣が薄れていきます。嘘をつこうとしているわけではないので、かえって気づきにくいのです。

まとめ

AIを疑う力は、AIに詳しいかどうかで決まるのではなく、自分の専門を持っているかどうかで決まります。自分の専門の外では、私もAIの言い過ぎに気づけません。だからこそ、AIは下書き係として使い、反論させ、専門家に聞く回数は減らさない。これが、いまのところの私の付き合い方です。

※本記事は筆者の体験に基づく一般的な情報提供であり、個別の法的助言ではありません。個別の判断は弁護士等の専門家にご相談ください。