人間は嘘をつくけれどAIは嘘をつけない
不動産会社の人と会話をしていて、こんなことがありました。
物件の情報を正確に答えるAIシステムを提案していたのですが、先方に言われたのは、「時と場合によって、嘘をつかなくてはいけないから、AIが正直に答えてはいけないのだよ。」
この時の嘘というのは、うっかり入居募集が決まった物件を「募集中」にしたままネットに出してしまい、問い合わせが来たときに、慌てて「すみません、その物件は先ほど決まりました。」と返答をする、というようなものです。
そういった時に、AIシステムはあくまで、データで存在しているものを正直に答えるため、「その物件は現在も募集中です。」と答えてしまいます。
他にも、「その物件は、今、ちょうど申し込みが入りそうなので、早めに申し込みを入れた方がいいですよ。」とか、「ちょうど数日前に公開になったばかりで、まだあまり見られていない、掘り出し物です。」とか。
で、もし、向こうから「その物件、1ヵ月前からありますよね?」って聞かれたら、「あ、そうでしたね。別の物件と間違えてました、ははは。」で逃げる、とか。
でも、AIシステムはあくまで、データを正直に答えるシステムのため、その物件が他に申込が来ているかどうか、公開してから何日が経過しているか、というのは全てデータで持っており、それを捏造して答えることができません。
もし、営業のために持っているデータと違うことを答えさせる場合は、その捏造方法についてもプログラムをしなくてはいけなくなります。
(そしてそんな捏造プログラムは、すぐにバレます。何回も同じ嘘をつくから。)
「僕ら人間は、嘘をつく臨機応変さがあるから、いいのさ!」と言われているようで、釈然としませんが、実際に人間は、細かい嘘や誇張を繰り返しながら、コミュニケーションをとる生き物なので、一概に否定はできないです。
そのうち、AIの回答の方が信じてもらえる世界になってしまうのではないか、、、と思いました。