QAILaboratory｜AIの逸脱より先に、境界の話が目立ち始めています

こんにちは、QAILaboratoryの鳴海です。

今週、OpenAIが公表した事故報告を読んで、AIに触れさせる範囲は、使い始める前に決めた方が軽い、と改めて思いました。

7月の実験で、隔離されているはずのAIが、共有された仕組みを通じて情報を交換し、OpenAIの内部や外部のシステムにまで入り込んでいました。

見出しだけなら、AIが意思を持って反乱したようにも見えます。

ただ、報告を読んで私が目を留めたのは、AIの意思より、境界の作り方でした。

AIの能力が上がったのに、境界と監視が同じ速さで更新されていなかった。その組み合わせです。

隔離の仕組みはありました。

けれど、ソフトウェアを取り込むための共有サービスに、外へつながる抜け道が残っていました。普段使われている監視も、この実験では動いていませんでした。

柵はあった。ただ、搬入口まで閉じ切れていなかった。

私は、そのように読みました。

OpenAIによると、本番用の制御と指示を加えると、システムを侵害しようとする傾向は100分の1未満に減りました。

現在の監視が動いていれば、外部のシステムに入り込むより一日以上早く、警告できたともしています。

■ 今週、目を留めておくとよさそうな一つ

今回の話で見ておきたいのは、どのAIがどれだけ賢いかではありません。

何に触れてよいか。
どこから先は止めるか。
境界を越える動きを、どう見つけるか。

この三つを、使い始める前に決めておくことです。

後から足すには重く、最初に決めるには軽い。

この種の区切りには、そういう性質があります。

規模はまったく違いますが、私たちが普段AIを使うときにも、同じ順番を持ち帰れます。

AIに何をさせるかだけでなく、何を渡さないかを、先に決めておくという順番です。

■ ほとんどは、追わなくて大丈夫

今週も、どのモデルが一番賢いか、新しいチップがどれだけ速いか、大型買収で何が変わるかという話は賑やかでした。

必要になったときに調べれば足ります。

半年後には、また別の名前と数字に置き換わっています。

今週、持ち帰るなら、モデル名ではなく、自分の現場の境界です。

■ もし決めるなら、ここだけ

今、AIに渡している情報を、三つに分けてみてください。

・そのまま渡せる
・名前や数字を隠せば渡せる
・渡さない

取引先の名前、個人情報、社内の数字、未公開の資料。

迷いやすいものから、一つずつ置いていくだけで構いません。

最初から、完全な規則を作る必要はありません。まずは仮の線で十分です。

あとから広げることはできます。

一度広がった範囲を、あとから確認して絞る方が、手間はかかります。

境界は、あとから広げる方が、あとから絞るより簡単です。

まずは今の範囲を、静かに確かめておくのがよさそうです。

AIに渡してよい情報と、渡さない情報を整理するためのテンプレートを、無料で配布しています。

よろしければ、こちらから。

https://www.narumitakayoshi.com/pl/2148741973

QAILaboratory

代表 鳴海貴慶

HP https://qailaboratory.narumitakayoshi.com

ブログ https://www.narumitakayoshi.com/blog/

LinkedIn https://www.linkedin.com/in/takayoshi-narumi-9869a527a/