いたずら電話に、AIは怒らない

AI電話受付には、人間のオペレーターに無い弱点がある。何度かけられても怒らないことだ。 人間なら「またこの番号か」で数秒で切る電話に、AIは毎回まっさらな気持ちで丁寧に応対する。 そしてAI応対は1通話ごとに音声認識・音声合成・AI・通話料のコストが乗っている。 いたずらで延々かけ続けられると、店が気づくまで課金だけが積み上がる。 笑い話ではなく、店側から「これを放置されるのは死活問題」と言われた宿題だった。

なので、このデリヘル管理ツールでは入口に防波堤を置いた。同じ番号からのAI応対が24時間に5回を超えたら、 システムが自動でその番号を店NGにして、以後の着信は既存のNGブロックと同じ入口で遮断する。 未登録の番号なら「未登録（自動NG）」という顧客レコードを自動で作ってNGを付ける。 番号の持ち主が誰かは分からなくても、止めることはできる。

機械に出禁を任せる怖さ

作っていて一番気を使ったのは、判定より「間違えたとき」のほうだ。 出禁は店にとって重い処分で、それを機械が勝手にやる。だから保険を3つ重ねた。 予約履歴のあるお客様は回数に関係なく対象外（常連が何度もかけるのは正常な利用だ）。 NG理由には「なぜNGになったか」と「誤検知ならここから解除できる」を機械自身に書かせる。 そして発動したら管理者に通知を出して、人間が後から必ず確認できるようにする。 自動化はやりっぱなしが一番怖い。取り消せて、経緯が残って、人に知らせる。 この3つが揃わない自動処分は入れないと決めている。

昨日書いた声紋照合が「声で見抜く」なら、こちらは「回数で止める」。 手の込んだ相手より前に、まず一番安直な嫌がらせを一番安いコストで弾く。 防波堤は手前から順に積むものだと思う。