こんにちは、QAILaboratoryの鳴海です。
彼女は、小さなヨガスタジオを一人で切り盛りしている。生徒の予約は、数年前に自分で作ったフォームで受け付けていた。その日の夕方、電車の中でスマホを眺めていると、あるニュース記事が目に留まった。海外のセキュリティ研究者が、AIを使ってチケット販売サイトの弱点を見つけたという。悪用すれば、無料でチケットを発行できたかもしれない、という話だった。彼女は画面をスクロールする手を止め、ふと自分の予約フォームのことを思い出した。
半年ほど前、忙しさに追われる中で、AIに一度だけ聞いたことがあった。「このフォーム、セキュリティ的に危ないところはないか見てもらえますか」と。返ってきた答えは、落ち着いた文章で、「特に大きな問題は見当たりません」というものだった。その言葉を読んで、彼女は肩の力が抜けたのを覚えている。以来、そのことは考えないようにしていた。
その晩、たまたま食事をした知人のエンジニアに、電車で読んだ記事の話をした。「うちのフォームも一回AIに見てもらったんだけど、大丈夫って言われて」と何気なく口にすると、彼は少し間を置いてから言った。「その『大丈夫』って、どこまで本当に調べた上での言葉なんだろうね。AIは、もっともらしく聞こえる言い方をするのが得意なだけで、実際に隅々まで確かめたかどうかは、また別の話だったりするよ」。
その一言が、意外なほど胸に残った。彼女は帰り道、久しぶりに自分のフォームの管理画面を開いてみた。しばらく触っていなかった設定の奥に、パスワードの再設定リンクが、何年も前の古い仕組みのまま残っているのを見つけた。危険かどうかは、彼女には判断できない。ただ、少なくとも、半年前の「大丈夫です」だけを頼りに、そのままにしておいてよかったものではなかった。
もっともらしく聞こえることと、本当に確かめられていることは、別の軸にあるものらしい。彼女はそのことを、AIのせいにする気にはなれなかった。聞き方も、聞いた後の扱い方も、決めていたのは自分の側だったからだ。
次の日、彼女はその一箇所だけを、知人に頼んで見てもらうことにした。全部を作り直す必要はない。ただ、大事な一点についてだけは、人の目をもう一度通す。それだけを、静かに決めた。
あなたが最後にAIへ「これで大丈夫か」と尋ねたのは、何についてだっただろうか。
QAILaboratory
代表 鳴海貴慶
HP https://qailaboratory.narumitakayoshi.com
ブログ https://www.narumitakayoshi.com/blog/
LinkedIn https://www.linkedin.com/in/takayoshi-narumi-9869a527a/
返信