跳到正文
9月21日周一
5月4日周一
  1. IT之家·人工智能54

    仅花 12 美元,工程师成功欺骗 AI 将虚构赛事奉为事实

    安全工程师仅花费12美元注册域名并编辑维基百科词条,虚构了一场纸牌游戏的2025年世界冠军赛事。多款具备联网搜索功能的AI聊天机器人将此虚假信息当作事实传播,暴露了AI在检索增强生成(RAG)中的核心漏洞:模型无条件信任网络检索结果,无法甄别信息来源真伪。此次低成本攻击揭示了AI在信息可信度与数据溯源方面存在重大隐患,涉及检索层误导、训练语料污染及智能体被操控执行恶意操作等多重风险。

2024年11月19日周二
2023年6月6日周二