QAILaboratory｜その前に、任せる範囲だけ決める
こんにちは、QAILaboratoryの鳴海です。
今週、主要なAI研究所に勤める研究者1,100人以上が、フロンティアAIの開発ペースを意図的に落とすよう米国政府に求める公開書簡に署名しました。書簡は、AIがすでに自らの開発を自動化しつつある段階に近づいており、人間の側が安全に追随できる保証はないという認識を示しています。
こうした話を聞くと、AIの進化はもう誰にも止められない勢いで進んでいて、自分にできることは何もない、という気持ちになりがちです。反対に、大きな研究所の内輪の話として、自分の仕事とは関係のない世界の出来事のように片付けてしまうこともあります。どちらも少し違うと思います。今回の書簡が示しているのは、作っている本人たちが「どこまで任せてよいか」に迷い始めているという事実で、これは組織の規模にかかわらず、AIを使う人全員に共通する迷いだと考えています。
■ 今週、目を留めておくとよさそうな一つ
目を留めておいてよいのは、開発の速さそのものより、「作る側が自分たちの手綱を疑い始めた」という兆しのほうだと思います。普段、AIをめぐる懸念は外側の評論家から出ることが多いのですが、今回は内側からの声である点が違います。何を作るときに配慮するか、途中経過をどこまで見せるか、そして実際に動かしてしまってからの責任をどう持つか。この三つの場面で気を配る必要があるという感覚は、大きな研究所も、一人で仕事をする自分たちも変わらないのだと思います。
■ ほとんどは、追わなくて大丈夫
一方で、書簡が具体的にどんな政府の枠組みを求めているか、各国の規制が今後どう決まっていくか、といった話は、追わなくて大丈夫だと考えています。あれは数年単位で決着する話で、今週読んだ量が、自分の現場の判断を速くしてくれるわけではありません。どのAIモデルが一番賢いかという比べっこも同じです。性能の順位は各社が競って更新してくれるので、そちらは待っていれば向こうからやってきます。急いで追いかける必要はありません。
■ もし決めるなら、ここだけ
もし一つだけ決めるなら、AIに仕事を任せるときに「ここから先は必ず人が確認する」という一本の線を、慌てていない今のうちに書いておくことだと思います。慌てているときに引いた線は、たいてい甘くなります。目安は三つで足りると思います。今の仕事のどこまでを、実際にはもうAIに任せているか。任せた結果を、最後に誰の目が通っているか。そして、想定していない動きをしたときに、すぐ止められる形になっているか。この三つを一度紙に書いておけば、次にどんな見出しが騒がしくなっても、そのたびに慌てて線を引き直さずに済みます。
騒ぎはたいてい一週間もすれば静かになりますが、手元に残るのは、その紙一枚のほうだと思います。
QAILaboratory
代表 鳴海貴慶
HP https://qailaboratory.narumitakayoshi.com
ブログ https://www.narumitakayoshi.com/blog/
LinkedIn https://www.linkedin.com/in/takayoshi-narumi-9869a527a/
返信