← AIニュースの一覧
OpenAI安全性・ポリシー

OpenAI、悪用目的の蒸留への対策と推論の保護強化を公表

原題:Combatting adversarial distillation

公式発表
情報の取得
出典
OpenAI News

OpenAIは、悪用目的の蒸留(adversarial distillation)を検知・阻止する方法と、モデルの保護された推論(chain-of-thought)への保護の強化を公表した。敵対的テスト、モデルの訓練、分類器、API レベルの保護を組み合わせている。GPT-6.2 AstraとGPT-6.2 Solで防御を強化した。

要点

  • 内部評価で、推論の抽出攻撃の平均成功率がGPT-6 Astraの54.0%からGPT-6.2 Astraでは0.2%に低下した
  • GPT-6.2 AstraとGPT-6.2 Solでは、保護された推論をそれを生成した会話履歴に結びつける
  • 古いモデルファミリーがGPT-6.2 AstraとSolの保護された推論を読むことを防ぐ
  • 侵害の指標(indicators of compromise)をほかのモデル提供者と共有する
公式発表を読む(OpenAI News)→

※ この要約は、公式発表の本文をもとに AI が作成したものです。原文と照合し、確認できた内容のみ掲載しています。

ほかのAIニュース