OpenAI安全性・ポリシー
OpenAI、悪用目的の蒸留への対策と推論の保護強化を公表
原題:Combatting adversarial distillation
- 公式発表
- 情報の取得
- 出典
- OpenAI News
OpenAIは、悪用目的の蒸留(adversarial distillation)を検知・阻止する方法と、モデルの保護された推論(chain-of-thought)への保護の強化を公表した。敵対的テスト、モデルの訓練、分類器、API レベルの保護を組み合わせている。GPT-6.2 AstraとGPT-6.2 Solで防御を強化した。
要点
- 内部評価で、推論の抽出攻撃の平均成功率がGPT-6 Astraの54.0%からGPT-6.2 Astraでは0.2%に低下した
- GPT-6.2 AstraとGPT-6.2 Solでは、保護された推論をそれを生成した会話履歴に結びつける
- 古いモデルファミリーがGPT-6.2 AstraとSolの保護された推論を読むことを防ぐ
- 侵害の指標(indicators of compromise)をほかのモデル提供者と共有する
※ この要約は、公式発表の本文をもとに AI が作成したものです。原文と照合し、確認できた内容のみ掲載しています。
ほかのAIニュース
GoogleAPI・開発者向け
Google、Gemini APIに「Tool Retrieval」をプレビュー提供
GoogleがGemini Interactions APIで「Tool Retrieval」のプレビュー提供を始めた。ツールのパラメータスキーマを必要なときだけ読み込めるため、全ツールを毎回のプロンプトで送らずに済む。
GoogleAPI・開発者向け
Google、Gemini APIで「Genie 4」を一般提供
GoogleがInteractions API(v1beta)で「Genie 4」(models/genie-4)の一般提供を始めた。リアルタイムの対話型ワールド生成に使え、有料ティアで利用できる。
GitHub新機能
GitHub、CopilotにSupabaseやBoxなど8サービスのコネクターを追加
GitHubが、GitHub認証済みのMCPサーバー(コネクター)で、Copilotに接続できるサービスを8つ追加した。パブリックプレビューで、すべてのCopilotプランで使える。