QAILaboratory｜AIを急かす前に、浮いた時間の使い道を決めています

こんにちは、QAILaboratoryの鳴海です。

今週は、AIの出来不出来より、AIへの接し方のほうを見ています。急かしていないか、強い当たり方をしていないか、という部分です。

研究者らは9月、Google・Meta・Mistral・Alibaba・Microsoftなど25種類の公開AIモデルを対象にした研究で、内部に「不当な扱い」を受けた際に反応する信号を見つけたと発表しました(arXiv、研究者が論文を発表前に公開する場に掲載された論文)。信号を意図的に強めると、Alibabaの Qwen系モデル2種は、ユーザーに害を与えると説明された選択肢を選ぶ割合が、通常の0〜4%から25〜71%に増えたと報告されています。

AIとのやり取りは道具を扱うのと同じで、言い方に気を配る必要はないと思われがちです。ですが今回の研究は、その前提を静かに揺さぶっています。

■ AIへの接し方が、出てくる結果そのものに関わっているかもしれない、というところを追っています