AIの仕事、ヒトの仕事

AIがリスクを予知し、被害を未然に食い止める。なかなか魅力的なソリューションで未来的ではある。だが、そうもいっていられない事案が発生することもある。

• 日本マイクロソフトのAI「りんな」の会話技術を活用したPepper（Newモデル）。彼も、何か問題が出てきたときには、彼のせいになりそうなフォルムだ

AIがクレカ利用を差し止める

秋の出張で使うために予約した海外のホテルから連絡があった。予約した日の翌日のことだ。メールには、予約時に指定したクレジットカードから、前払い金が引き落とせなかったので、銀行やクレジットカード会社に問い合わせてほしいというものだった。この予約はキャンセル不可のもので、前払いすることで相応の割り引きがある。

こちらとしては心当たりはまったくない。実際、他の案件ではそのクレジットカードは使えているので何かの間違いだろうと放置していたのだが、数日後、またメールが届き、このままではキャンセルになるという。

それでは困るので、クレジットカード会社のサポートに電話をし、オペレータに調べてもらうと確かに引き落としができていないことが確認できた。ただ、カード口座そのものには問題ないとのことで、コンピュータが海外利用の危険を察知して、この取引だけを止めたという説明を受けた。理由は、前日に、別の案件で入力したクレジットカード情報の有効期限、セキュリティコードの誤入力による可能性があるという。それは確かに心当たりがある。それをコンピュータが検知したらしい。

こちらとしては何も不備はないので、カード会社側でホテルに連絡して、決済が正常に行われるようにしてほしいと頼んだのだが、最初は、加盟店がいうことをきかないケースがあり、対応できないと言われてしまった。

現場とシステムの連携に穴

セキュリティ案件はわかるが、こうした処置をしたときに、ユーザーへ何の連絡もないのは考えられないというと、できるかどうか問い合わせるので折り返しの連絡にしたいといわれてサポートの電話を切った。

10分ほどでセキュリティセンターの担当から電話がかかってくる。担当氏によれば、最近、海外でのセキュリティ案件が多く、案件ごとに個別にエンドユーザーに連絡できていないとのこと。要するに人手不足だ。本来なら、こうした処理があったときには会員に知らせているのだそうだ。AIが取引を止めたのなら、その旨をAIがユーザーに知らせてもよさそうなものだが、それもできていない。現場側とシステム側との意志がうまく統一されていないわけだ。

今後はこうしたことがないように、セキュリティ条件を調整するというが、それではセキュリティが甘くなるので断った。つまるところ、AIはカード会社が被害に遭遇することを未然に食い止めているだけで、ユーザーを守っているわけではないことがわかるし、それがカード会社のシステムの姿勢なのだと痛感した。

今回の件については、完全にカード会社のミスであると伝えると、先方はそれを認めた。そして対応を要請したところ承諾してもらえた。

そこで、カード会社が指定するメールアドレスに、ホテルからのメールを転送してほしいというのだが、それこそセキュリティ的にありえない。何のためにメールアドレスを会員情報として登録しているのかわからない。そのことを指摘すると、登録済みメールアドレスに空メールを送るのでそれに返信しろというので承諾した。また、先方へのメールのCCに筆者を入れて先方に説明するように依頼して電話を切った。

今のところ、ここまでが経緯で、この先、どのような展開になるのかちょっとわからない。

穴を埋める人間のスキル

AIは、これまで人間がカンと経験で処理してきた案件を学習することで、リスクの可能性が一定のしきい値以上になると、指示された処理をする。決済を拒否するというのもそのひとつだ。それで多くのリスクが回避されたという実績もあるのだろう。だから、そのAIを否定するつもりはない。だが、処理したことをエンドユーザーに伝えないというのは、完全に学習させた側の人間のミスだ。それをAIのミスだとするのではAIがかわいそうでもあるし、人手不足に悩む現場のことをまったく考えないシステム設計の問題でもある。

これからは、AIが人間の仕事を肩代わりすることが爆発的に増えていくだろう。ちょっとした自動化はすべてAIと呼んでおけばいい雰囲気もある。だが、そこには常に、学習させる側の人間のスキルが求められることを忘れてはならない。

(山田祥平 http://twitter.com/syohei/ @syohei)