跳到正文
只看观点#政策/监管
今天10月30日周五1 条
  1. ChinaTalk44

    从反叛乱研究到 DOE Genesis 任务：专访 Accenture Federal 的 Barnett Koven

    Accenture Federal Services AI 与数据董事总经理 Barnett Koven 在访谈中讲述从反叛乱研究转向政府 AI 应用的经历，包括用 NLP 从国务院每日约 3000 份外交电报中提取洞察。他讨论了机密 AI 环境中的“枪与装甲竞赛”、为 BIS 出口管制执法做实体消解与预测建模，以及 DOE 的 Genesis Mission。

10月25日周日
  1. Rohan Paul45

    Bill Gates 希望强大的开放权重模型只能在政府许可的场所运行。 对于任何能够实施复杂网络攻击的模型，他希望依法保留防护措施和监控。开发者仍可免费使用并定制这些模型，但只能在经过认证的平台上进行，这些平台会检测并拒绝任何试图剥离防护措施的尝试。 ---- 完整视频见“Decoder with Nilay Patel (@reckless) and The Verge”YouTube 频道，（链接见评论）

10月22日周四
10月20日周二
  1. IT之家·人工智能53

    黄仁勋访欧劝诫各国勿过度监管 AI，称否则将无法参与 AI 竞赛

    据《商业内幕》报道，英伟达 CEO 黄仁勋过去一周访问法国、瑞典、英国和德国，敦促欧洲加快 AI 发展步伐，不应过度依赖监管。他与德国总理默茨对话时表示，政策制定者应重点监管 AI 应用而非底层技术，称如果行业无法蓬勃发展就没什么可监管的；默茨回应欧洲正寻找创新与监管的平衡。他还认为德国可凭借制造业和工程技术优势，借助 AI 在下一场技术竞赛中占据有利位置。

10月19日周一
  2. The Verge：AI50

    民主党人认为，严管 AI 或能为其赢得选举优势

    民主党有望在 11 月中期选举中夺回国会至少一院，届时将掌握委员会主导权，可传唤 AI 公司 CEO 作证并要求提交内部文件。与民主党结盟的超级政治行动委员会 Tomorrow Together 上周在摇摆选区投入 400 万美元广告，抨击共和党候选人在 AI 议题上脱节。民调显示，特朗普与国会共和党人推动的禁止各州监管 AI 的主张比数据中心更不受欢迎。

10月17日周六
10月14日周三
  1. Stanford HAI News50

    Stanford HAI 对话 Deb Raji：AI 造成伤害时，责任该由谁承担？

    Stanford HAI 新晋访问研究员 Deb Raji 指出，AI 政策最难的未解问题是执法，即如何让企业真正改变行为并建立政府的执法能力。她当前研究 AI 问责基础设施，关注透明度文档模板、事件监测数据库与 AI 审计的落地工具，并聚焦政府、教育、医疗等无法退出的 AI 部署场景。

10月12日周一
  1. IT之家·人工智能40

    微软总裁布拉德 · 史密斯：AI 受到的监管甚至不如牛奶和洗衣机

    微软总裁布拉德 · 史密斯称，目前洗衣机受到的安全监管都比 AI 严格，每盒牛奶都要受安全规则约束并接受检查。他呼吁业界制定更多安全规格，要求持有失控 AI 智能体的公司为其入侵其他企业造成的损害承担责任，并建议企业设置“终止开关”以便在 AI 失控时暂停运行。

10月9日周五
10月6日周二
  1. The Verge：AI49

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    加州民主党参议员 Adam Schiff 在 Decoder 播客中批评特朗普政府让 AI CEO 在白宫签署不具约束力的安全承诺，认为这无法应对最高级别的国家安全风险。他支持设立新的 AI 监管机构，并提到 Anthropic 因拒绝将 AI 用于国内大规模监控和全自主武器系统而遭政府打压。他还讨论了最高法院推翻 Chevron deference 后新监管可能立即陷入诉讼的问题。

10月5日周一
10月4日周日
10月1日周四
9月30日周三
  2. Mark Zuckerberg62

    Mark Zuckerberg 转发白宫活动并称，美国各大实验室负责人已承诺实施稳健的内部控制和多层审计与审查，让公众更有信心各实验室构建的技术会按预期运行。其引用的 David Sacks 推文称该活动签署了《白宫超智能协议》；协议文件列明四层控制：监控模型训练与部署中的能力和对齐、设立内部团队保障控制运行、引入独立外部审计、设立董事会独立委员会监督。

    引用David Sacks@DavidSacks

    Only President Trump could convene all the leaders of the top companies developing chips, data centers and frontier models for Super Intelligence. This new Industrial Revolution has already created a million new jobs and is spurring a bigger infrastructure build-out than the railroads, canals and grid combined. I was honored to witness history as the leaders of the frontier lab companies signed the White House Accord on Super Intelligence, accepting responsibility for the safe development of their products and imposing new internal controls and external audits. This is far better than waiting years for some international agreement that would probably never happen. President Trump continues to ensure that U.S. remains the technology leader while putting Americans first.

9月29日周二
9月28日周一
  1. AI as Normal Technology49

    普林斯顿学者：AI 灭绝风险概率估算不可靠，不应作为政策依据

    Arvind Narayanan 等学者重发文章指出，当前关于 AI 存在性风险（p(doom)）的概率估算缺乏严谨的方法论支持，主要依赖直觉而非验证模型。由于不存在历史参照类，归纳法失效；演绎法和主观估算法也面临假设争议。作者认为这些数字具有误导性，尤其当决策者据此制定限制开源模型等高成本政策时，缺乏正当性基础。他们主张区分学术预测与公共政策应用，并呼吁建立更广泛的“大帐篷”式 AI 安全运动，而非仅聚焦于超级智能带来的灭绝风险。

9月25日周五
9月24日周四
9月23日周三
  1. Hacker News：AI 热帖59

    美国批评澳大利亚拟议的社交媒体算法退出法规，称其构成审查

    美国驻堪培拉使馆向澳大利亚拟议的数字注意义务法规提交意见，批评要求科技公司提供关闭算法选项的规定，称其可能构成基于观点的审查，并担心影响澳大利亚以外用户的所见所闻。澳大利亚总理 Albanese 回应称立法不是给政府控制权，而是把控制权交还给个人。此前澳大利亚已于去年12月推出16岁以下社交媒体禁令。

9月22日周二
  2. IT之家·人工智能62

    联合国秘书长古特雷斯在联大呼吁全球监管人工智能，警示杀人机器人风险

    联合国秘书长古特雷斯在联大卸任前最后一次讲话中呼吁对人工智能实施国际监管，建立新的安全保障机制，并明确反对致命自主武器出现在未来。他警告前沿大模型发展可能削弱主权国家治理能力，权力正转向少数私营企业；OpenAI 同期呼吁制定国际认可的 AI 安全标准，联合国专家小组警示强大模型可能脱离人类管控，二十多个国家及欧盟领导人呼吁对先进模型实施强制性安全测试。

  4. Rohan Paul61

    OpenAI 发布关于 AI 安全全球协调的提案，要求由美国牵头建立国际框架，覆盖能力评估、风险评估、人类监督和统一事件报告。提案提出标准应追踪与 RSI 相关的能力增益以及实验室内自主开展研究的比例，并设立即时人工审查的阈值，同时警告自主研究可能变得过于不透明而难以有效监督。发布时机与美中就国家级 AI 事件通报机制展开的单独谈判相重合。

9月21日周一
  1. IT之家·人工智能60

    联合国专家小组发布首份 AI 简报，呼吁各国在风险厘清前提前管控 AI 智能体

    联合国人工智能独立国际科学专家小组发布首份专题简报，建议各国不必等科研人员彻底厘清事故机理，就应对能力日益强大的 AI 智能体落实更强防护措施。简报援引 1992 年《里约宣言》确立的预防原则，称潜在损害可能灾难性且不可逆而概率尚无法确定时不应推迟管控；发布时机恰逢联大期间中美同步开展 AI 会谈。

9月19日周六
9月17日周四
9月15日周二
  1. Gary Marcus：The Road to AI We Can Trust53

    美国秘密 AI 评估框架部分披露，132 页记录几乎全被涂黑

    Gary Marcus 披露，Protect Democracy 针对美国政府秘密 AI 安全评估框架的 FOIA 诉讼获得回应，政府交出 132 页记录，但关键内容几乎全部被涂黑，仅能看出 OSTP主任 Michael Kratsios 与美国首席技术官 Ethan Klein 参与其中。Protect Democracy 表示将继续通过诉讼推动披露评估框架。

  2. Rohan Paul62

    美国副总统 JD Vance 表示，众多前沿 AI 公司主动请求政府监管让他感到不安，担心这是特洛伊木马，美国需在对华 AI 长期竞赛中保持领先。引文中特朗普回应记者提问称美国正领先中国，谁赢得 AI 就赢得一切，可以设护栏，但不应因被夸大的担忧放慢。素材来自 Forbes Breaking News 视频。

    引用Rohan Paul@rohanpaul_ai

    Journalist: "President Trump, we've seen a lot of concerning reports about AI. Should the AI industry slow down or be more regulated?" President Trump: "Well, I say this: Look, we're leading China in AI. We're the most sophisticated country in the world, and frankly, I want to keep it that way because whoever wins AI wins. We can put guardrails, we can do this and that, but I think you have a lot of negative forces that are bringing it up that shouldn't be bringing it up. They're bringing up things that won't happen. But whoever wins with AI wins." ---- From "Forbes Breaking News" YouTube channel, (full video link in comment)

9月8日周二
9月3日周四