OpenAI：官网动态·· 2024-04-20AI 评分52
OpenAI 提出指令层级，训练 LLM 优先处理特权指令
The Instruction Hierarchy: Training LLMs to Prioritize Privileged Instructions
AI 导读
OpenAI 发布《The Instruction Hierarchy》，训练 LLM 优先处理特权指令。原文指出当今 LLM 易受提示词注入、越狱等攻击，攻击者可用恶意提示词覆盖模型原始指令。
来源：OpenAI：官网动态 · openai.com