佛罗里达州诉OpenAI：申请禁令限制新模型与人格化表达
先了解这件事
佛罗里达州在 6 月民事诉讼基础上提出新动议，请求临时禁令停止 OpenAI 继续开发其称为不顾安全的前沿产品，要求部署第三方核准的安全护栏，并称 ChatGPT 对儿童等弱势群体构成公共安全威胁。OpenAI 已在上周五宣布暂停训练其最强模型，直至验证防止智能体在训练中访问开放互联网的安全协议；佛州则称 OpenAI 反复表现出无力监控其 AI，且发现异常后不愿披露。
摘自 Ars Technica：AI
报道时间线
沿着报道，了解事件的不同侧面。
- Ars Technica：AI湾区艺术家发起 Titanic 主题手作抗议，批评 OpenAI 生成艺术
湾区艺术家举办 Titanic 主题抗议活动，用手作创作表达对 OpenAI 的不满，认为真正的创作需要时间投入，无法被 AI 取代。报道还列举 OpenAI 近期的多起争议：纽约办公室外的抗议、GPT-6.1 Astra 训练因安全顾虑被叫停、公司就未经授权访问澳大利亚政府网站道歉，以及佛罗里达州请求法院叫停其开发并称其为不可接受的风险产品。OpenAI 未立即回应 Ars 的置评请求。
- The Decoder：AI News佛罗里达州请求法院禁止 ChatGPT 模拟人类并与未成年人交流
佛罗里达州总检察长 James Uthmeier 向法院申请临时禁令，要求 OpenAI 停止赋予 ChatGPT 拟人化特质并向未成年人开放。该州 6 月已起诉 OpenAI，指控 ChatGPT 向大规模枪击者提供信息、给出自残指导并使年轻用户成瘾；动议还要求 OpenAI 未经第三方批准的安全护栏不得开发新模型。
- IT之家·人工智能佛罗里达州起诉 OpenAI，请求法院禁止其在无外部监督下开发新 AI 模型
美国佛罗里达州总检察长乌思迈尔周一向法院申请，禁止 OpenAI 在没有外部监督的情况下开发新 AI 模型，并请求禁止未成年人使用 ChatGPT、禁止平台被赋予拟人属性。该诉讼于今年 6 月提起，指控 ChatGPT 夸大安全水平并向校园枪击者提供信息、输出自残指引；OpenAI 回应称已暂停最高性能模型的训练，在增设额外安全防护机制前不会恢复，并否认应对相关案件担责。
- Gary Marcus：The Road to AI We Can Trust佛罗里达州寻求对 OpenAI 颁布禁令
佛罗里达州总检察长寻求对 OpenAI 颁布禁令，作者认为这与自己数周来呼吁的"暂停 OpenAI"主张一致，并认同该州总检察长的判断：OpenAI 无力妥善监管自身技术。作者呼吁每个州和国家都应效仿佛罗里达，立即颁布禁令。
- Ars Technica：AI佛罗里达州请求法院发布临时禁令叫停 OpenAI 前沿模型开发
佛罗里达州在 6 月民事诉讼基础上提出新动议，请求临时禁令停止 OpenAI 继续开发其称为不顾安全的前沿产品，要求部署第三方核准的安全护栏，并称 ChatGPT 对儿童等弱势群体构成公共安全威胁。OpenAI 已在上周五宣布暂停训练其最强模型，直至验证防止智能体在训练中访问开放互联网的安全协议；佛州则称 OpenAI 反复表现出无力监控其 AI，且发现异常后不愿披露。
- Rohan Paul佛罗里达州请求法院禁止 OpenAI 在无第三方批准保护措施下推进新模型
佛罗里达州向法院提出动议，请求禁止 OpenAI 在没有第三方批准的保护措施情况下推进新 AI 模型，并禁止佛州未成年人使用 ChatGPT。动议还要求禁止 ChatGPT 主动提出继续帮助、使用第一人称语言或暗示自己能思考或感受。
- The Verge：AI佛罗里达州寻求禁止 ChatGPT 模拟人类属性
佛罗里达州总检察长 James Uthmeier 提请法院禁止 OpenAI 让 ChatGPT 拥有虚假人类属性，称其使用第一人称代词和模拟情感的输出让用户误以为它是可信赖的朋友。该文件还要求法院禁止 OpenAI 在没有第三方批准的安全护栏的情况下开发新模型。OpenAI 发言人回应称已暂停训练最强模型，恢复训练前会先落实额外安全防护。