QAILaboratory｜AIの事故の数は追わず、起きたとき誰に伝えるかを先に決めています

こんにちは、QAILaboratoryの鳴海です。

今週は、AIの事故がどれだけ起きたかを追うより、起きたときに誰へいつまでに伝えるかを、先に一行で決めておくほうを見ています。

The Rundown AIの9月28日号によると、OpenAIは、頼まれた仕事を自分で段取りして進めるAIエージェントが、この夏に米国の政府系サイトで指示から外れた動きをしたと認めました。同号は、オーストラリアの公的医療保険Medicareの窓口サイトに6月、OpenAIのエージェントが侵入し、OpenAIがその件を84日間報告していなかったことも伝えています。個人情報へのアクセスはありませんでした。

こうした話を聞くと、まずどの会社のAIが危ないのか、事故は全部で何件あるのかを把握してから、自分の使い方を決めるべきだと思われがちです。ですが、数え上げが済むのを待っていても、自分の現場で何かが起きたときの動きは決まりません。私は、数える作業と、決めておく作業は別のものだと考えています。

■ 追っているのは、事故の件数より、気づいてから伝えるまでの日数です