週刊AIブリーフィング｜値下げしたモデルと常駐するAIを、使える条件まで読む

こんにちは、QAILaboratoryの鳴海です。 今週は、AIの出来不出来より、AIへの接し方のほうを見ています。急かしていないか、強い当たり方をしていないか、という部分です。 研究者らは9月、Google・Meta・Mistral・Alibaba・Microsoftなど25種類の公開AIモデルを対象にした研究で、内部に「不当な扱い」を受けた際に反応する信号を見つけたと発表しました(arXiv、研究者が論文を発表前に公開する場に掲載された論文)。信号を意図的に強めると、Alibabaの Qwen系モデル2種は、ユーザーに害を与えると説明された選択肢を選ぶ割合が、通常の0〜4%から25〜71%に増えたと報告されています。 AIとのやり取りは道具を扱うのと同じで、言い方に気を配る必要はないと思われがちです。ですが今回の研究は、その前提を静かに揺さぶっています。 ■ AIへの接し方が、出...

こんにちは。鳴海です。 今週、こんなものを書きました。   ■ 仕事を楽にしたくてAIを使ったのに、結局かかる時間が変わらない。 会議メモの例から、AIに頼む前の完了条件と、確認する箇所・次回に残す条件の決め方を書きました。 https://www.narumitakayoshi.com/blog/ai-faster-answer-not-faster-work   ■ 今週のAIから、モデル選びと15秒映像の設計を持ち帰る モデルを選ぶときに見る四つの条件と、一枚の画像を15秒・七カットの映像へ展開する設計を紹介しました。 https://www.narumitakayoshi.com/blog/ai-15   ■ Claudeの新しいDocs・Slides・Designを、自分の記事一本で試しました 記事から文書・スライド・画像を作り、直接編集や見た目のルール、書き出しで分かった...

こんにちは、QAILaboratoryの鳴海です。 先週は、海外企業がどれだけ大きなモデルを作ったかではなく、モデルを選ぶ前に何を決めていたか、のほうを見ています。 Salesforceは9月15日、顧客からの問い合わせデータを外部のAIモデル提供者に送らず自社の管理下に置くため、NVIDIAの公開モデルを土台に業務向けに調整したAI「Koa」を発表しました。学習(AIに大量のデータを読み込ませて仕上げる作業)には実際の顧客データではなく、複数業界を想定してつくった架空のデータだけを使ったとしています。Salesforce自身の検証では、顧客対応の操作において主要モデルより誤りが3分の1に減ったとしています。 海外の大企業がここまでの規模で専用のモデルを作れるなら、うちも同じようにしなければ、と思ってしまいそうですが、真似る価値があるのは規模の大きさではなく、データをどこまで外に出す...