QAILaboratory｜AIに任せる前に、基準を用意しておく動きが広がり始めています
こんにちは、QAILaboratoryの鳴海です。
今週、OpenAIは自社の未公開モデル「Astra」を、初めて「critical」水準のサイバー能力を持つと認定したと発表しました。人の手を借りずにゼロデイの脆弱性を作れる域に達したとして、モデルの重みをロックし、一部の内部作業を止めています。CEOのSam Altman氏は、より広い展開には「もう少し時間が必要」だと述べました。
こういう発表を見ると、AIが手に負えなくなってきた、と感じる方もいると思います。私はむしろ逆に見ています。今回起きたのは暴走ではなく、あらかじめ用意していた基準に触れたので止めた、と見ています。止まったこと自体は、設計がうまく働いた証拠のほうに近いと考えています。
■ 今週、目を留めておくとよさそうな一つ
目を留めておくとよさそうなのは、OpenAIが「いつ止めるか」を、能力が上がってから決めたのではなく、あらかじめ決めていたという順番のほうです。基準を先に持っていたから、閾値に触れた瞬間に迷わず止められました。これは規模の大きな会社だけの話ではないと考えています。個人や小さな事務所でも、AIとどこまで一緒に仕事をするかの基準を、案件が動き出す前の静かなうちに、一度文章にしておくことはできます。何を任せるか。何は必ず自分の目を通すか。見直す頻度をいつにするか。この三つを言葉にしておくだけの手間だと思っています。
■ ほとんどは、追わなくて大丈夫
一方で、Astraが最終的にGPT-6と呼ばれるのか、それとも別のブランドとして出てくるのか、といった名称やスペックをめぐる話は、追わなくて大丈夫だと思っています。呼び方がどう決まっても、自分の現場で今週する判断は変わりません。同じ理由で、他社が同じ週に競って出した速度や性能の比較記事も、急いで拾いに行く必要はないと考えています。数字は来月には別の数字に置き換わっています。
■ もし決めるなら、ここだけ
もし一つだけ決めるなら、いまAIに任せている仕事の中から、「ここまで来たら人に戻す」という一点を選んで、言葉にしておくことだと思います。金額の上限、社外に出す前の確認、顧客の個人情報に触れる場面など、線を置く場所は仕事によって違います。大切なのは、線を後から探すのでなく、先に置いておくことです。一度決めた基準は、定期的に見直してよいものだと考えています。仕事の中身が変われば、線の位置も動いて当然です。
止める基準を、能力が上がってから決めるか、先に決めておくか。順番だけは、今週のうちに一度見直しておいてよいと思います。
よろしければ、こちらから。AIに何を入力してよいか・いけないかのラインをまとめた4点セットです。
https://www.narumitakayoshi.com/pl/2148741973
QAILaboratory
代表 鳴海貴慶
HP https://qailaboratory.narumitakayoshi.com
ブログ https://www.narumitakayoshi.com/blog/
LinkedIn https://www.linkedin.com/in/takayoshi-narumi-9869a527a/
返信