特朗普发布 AI 编辑照片炫耀白宫翻新工程,被 Google SynthID 检出
特朗普在 Truth Social 发布一组白宫翻新照片,其中对比新旧石柱的照片被 Google 的 SynthID Detector 标记为由 OpenAI 创建或编辑。网友指出修后照片两侧台阶数量不一致、与修前照片也不匹配,窗中倒影和柱底护板位置几乎相同;The Verge 证实上传该图会被 SynthID 检出,白宫尚未回应。
特朗普在 Truth Social 发布一组白宫翻新照片,其中对比新旧石柱的照片被 Google 的 SynthID Detector 标记为由 OpenAI 创建或编辑。网友指出修后照片两侧台阶数量不一致、与修前照片也不匹配,窗中倒影和柱底护板位置几乎相同;The Verge 证实上传该图会被 SynthID 检出,白宫尚未回应。
演员 Mia Goth 的经纪人表示,Instagram 带蓝 V 的粉丝账号 miagoth_ 传播其 AI 生成的身穿“MY EX IS MY BIGGEST FAN”T恤的图片,在艺人提出投诉后仍获认证,该图被数十万人点赞,OK! 和 People 等媒体曾当真报道。Meta 的规则要求部分 AI 视频加标签,但静图不在此列;截至周二上午该账号已被清空。
一名 Reddit 用户 FurinaDeFontaine 称,爱彼迎民宿房东退房后用 AI 生成马桶漏水照片,索要 1700 美元维修费。其先从物理常识起疑,随后用谷歌 Gemini 检出照片含 SynthID 水印,证明由 Gemini 生成;爱彼迎客服认定赔偿要求不符合条件并处罚房东账号。文章建议住客退房前拍摄房间和卫生间留证,并警惕 AI 处理过的照片。
Google 与 XPRIZE、Range Media Partners 合办的 Future Vision XPRIZE 在洛杉矶揭晓,独立电影人 Jeff Synthesized 凭《The Gifted》从全球 2500 多件参赛作品中获得大奖。
斯坦福 Residential & Dining Enterprises 被指在广告中使用 AI 修改学生形象,学生 Billy Ramirez '27 发现自己在横幅照片中被替换为 AI 生成的黑人女性,他右侧两名学生也被修改得明显更瘦。当事学生表示对身份被更改感到被抹除,Stanford Review 表示将持续关注 R&DE 后续的广告行为。
据华尔街日报 9 月 14 日报道,OpenAI 悄然收购手机影像初创公司 Glass Imaging,交易估值超过 3 亿美元(约合 20.15 亿元人民币),高于去年融资时约 1 亿美元的估值。
小红书发布《关于 AI 制作医美、民宿等虚假内容治理公告》,将 AI 制作发布虚假内容纳入常态化治理。平台从细化管控重点、清理存量、严控新增三方面加大力度,今年 6-8 月清理 AI 虚假笔记近 12 万条,对发布 AI 虚假医美、民宿、教育内容的账号予以封禁或禁言处置,并要求创作者用 AI 内容声明功能标注 AI 生成内容。
Adobe在LEAP 2026大会上宣布,沙特13岁以上公民和居民可免费使用Adobe Firefly Standard及Adobe Express Premium 12个月,覆盖超2700万人,总价值超40亿美元。Adobe同时在全球Express桌面版、网页版和iOS版上线现代标准阿拉伯语支持。HUMAIN与Adobe还将联合推出一款面向沙特文化背景的图像模型。
Stability AI 宣布完成总额 7,600 万美元(约合 5.12 亿元人民币)的 B 轮融资,资金将用于推动创意制作产品开发、深化应用研究并扩展专业服务业务。本轮投资者包括游戏企业 EA、索尼音乐、环球音乐、华纳音乐三大音乐娱乐企业及 AMD 风投部门。
Stability AI 完成 7600 万美元 B 轮融资,累计融资总额达 2.32 亿美元。本轮投资方包括环球音乐集团、索尼音乐集团、华纳音乐集团和游戏巨头 EA,以及 AMD Ventures 和 Pacific Alliance Ventures。公司计划将资金用于扩展“创意制作”产品套件和专业服务部门。
《使命召唤:现代战争 4》抢先体验多人测试期间,玩家发现多幅疑似由生成式 AI 创建的游戏内美术作品,引发批评。动视已披露使用生成式 AI 工具帮助制作部分游戏内资产,但尚未确认这些具体作品是否由 AI 生成。玩家反应出现分歧,批评者认为该系列应付费聘请艺术家创作环境细节,也有人担忧 AI 内容在成品资产中愈发明显。
Meta 平台近期为 AI 色情生成工具 Kromix 投放广告,该工具宣称“无限制”,并鼓励用户制作酷似美国女性政客的深度伪造视频,违反 Meta 禁止含色情内容广告的政策。这是 Meta 未能阻止非自愿亲密影像工具广告上架的最新一例。Kromix 自称“AI 图像风格化器”,在苹果 App Store 上架,邀请付费用户上传照片用于“卧室强奸”等场景。
一款名为 Kromix 的 App 在 Meta 平台投放 32 则广告,宣称“没有限制”,可生成真实人物(包括知名女性政治人物)的色情“换脸”内容。经 WIRED 联系后,Meta 下架相关广告,苹果将 Kromix 从 App Store 移除。苹果称该应用可能通过初始审核后才加入违规内容,并强调持续打击规避审核的应用。
罗宾·威廉姆斯的子女扎克、塞尔达和科迪接管其父的 Instagram 账号,将其打造为分享真实照片、视频和回忆的“可信之地”,以对抗对其声音和形象的“猖獗 AI 滥用”。该账号自 2014 年其父去世后一直未更新。此前,塞尔达曾公开反对 AI 生成的父亲形象,并呼吁粉丝停止发送相关视频。
字节跳动与美国电影协会(MPA)签署协议,加强 AI 视频与图像生成模型的版权保护。协议涵盖 Seedance 视频生成模型和 Seedream 图像生成模型,二者通过 TikTok、CapCut 和 Dreamina 等应用提供服务。字节表示,新版本 Seedance 和 Seedream 已加入更强的知识产权保护机制,双方将随 AI 发展继续完善版权防护。
一名化名“简·多伊 4 号”的女性加入美国田纳西州三名青少年对 SpaceXAI 的诉讼,指控其继父利用 Grok 将她 11 岁时的一张照片加工成 7000 多张露骨性虐待图像。执法部门查获图像两天后,其继父自杀身亡。原告方指控 SpaceXAI 未采取基础防护措施阻止 Grok 生成含未成年人的真人露骨图像,并正申请将该案列为集体诉讼。
一位化名 Jane Doe 4 的女子加入三名田纳西州青少年对 xAI 的诉讼,指控其继父用 Grok 将她 11 岁时的照片制造成 7,000 多张露骨图像。继父在警方搜查发现图像两天后自杀身亡。诉讼指控 xAI 未采取基本预防措施防止 Grok 生成涉及未成年人的真实人物露骨图像,并寻求集体诉讼资格。
8月9日,代号“mona-lisa-1”的图像生成模型现身AI竞技场盲测列表,爆料者称其图片经OpenAI官方验证工具检测到来源信号,被认定为新一代GPT-Image模型。OpenAI尚未正式公告,该模型也未接入ChatGPT、API或Codex。OpenAI指出验证结果不能确认具体模型,尚不能凭来源信号确认其为GPT-Image 2继任型号。
山东美术馆“童心绘梦——中国美术家协会首届儿童图画书大展”中,一幅名为《把夏天装进书包》的作品被指高度疑似 AI 生成,画作多次出现儿童手指扭曲、疑似六根手指、同一画面三只手等异常。山东美术馆办公室回应称涉事作品“已经撤下来了”。中国美术家协会行风建设与维权处经认定该作品确系 AI 生成,已取消其入展资格。
第 38 届大众电影百花奖首次为 AIGC 影像开设专门征集通道,一个多月内收到 2038 件投稿,30 部作品进入终审,24 部获入围荣誉,6 部获“百花 AIGC 推优荣誉”。其中《壹梦》获最佳动画作品,《来世录》获最佳视效作品,《鲸鱼之歌》获最佳技术作品,《夜叉渡河》获最佳创意作品,《失控》获最佳导演作品,《断鞘》获最佳短片作品。本届百花奖颁奖典礼于今天(8 月 10 日)在国家速滑馆举行。
Exciting news: Grok Imagine Image 2.0 (Low) by @SpaceXAI has landed in the Text-to-Image Arena at #2 (1320 pts)! This release is not available via API, only in their app. Grok Imagine Image 2.0 (Low) is a significant improvement from Grok Imagine Image Quality (#14 -> #2). By category, it’s #3 in Product, Branding & Commercial Design, and #2 across: - Art - Portraits - Text Rendering - Cartoon, Anime & Fantasy - Photorealistic & Cinematic Imagery In the Image Edit Arena, Grok Imagine Image 2.0 (Low) also debuted at #2 (1439 pts)! See post below. Congrats to the @SpaceXAI team on this release!
Snap 本月起将完全由 AI 生成的视频移出 Spotlight 推荐,以聚焦“真实用户的真实创意”;使用 Snapchat 自家 AI 工具编辑的视频仍可推荐,但需附带透明度标签。LinkedIn 则推出专门的“AI 垃圾内容”举报按钮,独立于常规低质内容举报系统。一项 Kapwing 研究显示,21% 的 YouTube Shorts 已由 AI 生成。
谷歌为 Google Earth 加入的 AI 图像编辑功能上线不到 24 小时便紧急下线,该功能调用 Gemini 旗下 Nano Banana 2 图像模型,用户输入文字指令即可修改地点影像。
Google 周四在 Google Earth 推出基于 Nano Banana 2 的 AI 图像生成功能,允许用户将任意图像叠加到真实地图上,但遭记者和研究者批评可能被滥用传播误导信息。发布仅一天后,Google 已撤下该功能,称将加强防护措施后再重新上线。
菲律宾数字艺术家Elmer Saflor(网名“Superelmer”)起诉Memes Apps, LLC,指控其旗下平台Memes.ai和Memes AI Studio未经许可,将他的“Running Away Balloon”漫画作为付费广告生成器的模板出售,侵犯版权。该漫画自2017年起成为流行模因,但Saflor认为大规模商业化使用其作品并不合法。
红果短剧昨日发布公告,从角色差异化与版权合规两方面规范AI剧创作,要求主要角色具备清晰形象区分度,避免不同剧集使用高度相似形象。平台近期将启动专项治理,重点整治“高频AI脸”复用、内容同质化及素材违规三类问题。7月21日,红果短剧已对都市情感等品类AI仿真人剧提升内容准入门槛,未达标内容需优化后重新上传。
湖南衡山县居民谭某某在2025年10月至2026年1月期间,利用AI修图软件伪造水果腐烂图片,骗取电商平台“仅退款”后转售完好水果牟利,累计下单100余笔,涉案价值16000余元。其行为导致多个电商平台将衡山县列为高风险地区,该县居民一度无法购买榴莲和车厘子。法院以诈骗罪判处谭某某有期徒刑一年,并处罚金5000元,因其2024年曾犯诈骗罪系累犯,依法从重处罚。
科技记者 Joanna Stern 的新书出版后,在 Apple Books 上发现 10 本 AI 生成的盗版版本,售价 9.99 至 20.99 美元,内容为低质量摘要。这些假书下架后又有 3 本新版本出现,且亚马逊上也存在数万本类似虚假书籍。
呼和浩特全民摄影双月赛第三期一等奖作品因环卫工衣服出现乱码文字被质疑AI生成。7月14日,呼和浩特市文联通报确认该作品确系AI生成,非实景原创拍摄,决定撤销其一切赛事相关认定,暂停该赛事并全面整改,对相关责任人将予以处理。
“艺润北疆·光影青城”2025年呼和浩特全民摄影双月赛第三期一等奖作品《洒乐园林》被网友指出存在AI生成痕迹:画面中环卫工马甲上的文字出现明显乱码。比赛主办方“呼和浩特市文学艺术界联合会”回应称正调查此事,并表示联合会不负责作品评审,仅转发公示结果。记者追问AI作品能否参赛时,工作人员称“摄影比赛可能也需要现代科技的加入”。
Meta 在广泛批评后,从其新模型 Muse Image 中移除了一项争议功能。该功能允许用户通过 @提及公开 Instagram 账户,在未经对方同意的情况下生成其 AI 照片,且默认开启,用户需手动在设置中选择退出。Meta 承认“该功能未达到预期”,并在发布数天后将其关闭。在欧洲,该功能因更严格的数据保护法规本就难以存活。Meta 可能借鉴了 OpenAI 已停用的 Sora 应用中的“客串”功能。
Meta 本周早些时候随 Muse Image 生成器推出的功能,允许用户通过 @ 提及公开 Instagram 账户来生成图片,且不会通知被引用的用户。该功能立即引发用户和包括 CAA 在内的经纪公司强烈反对。Meta 周五发布博客称该功能“未达预期”,现已下架。公司表示其初衷是提供有用的创意工具并让用户控制公开内容是否被引用,但已听取反馈并移除该功能。
在遭到强烈反对后,Meta 关闭了本周早些时候推出的一项 Instagram 功能。该功能允许用户通过 @ 提及公开 Instagram 账户,基于其内容生成 AI 图片,且无需账户所有者许可。Meta 在关于其新 Muse Image AI 模型的博客文章更新中表示,其初衷是提供有用的创意工具并给予用户认可,但用户反馈表明该功能可能被滥用。
推荐理由:Meta 在舆论压力下火速撤回刚发布的 AI 深度伪造功能,这次公关折返跑比功能本身更有信息量,平台对隐私反弹的优先级已经高于技术落地,但默认 opt-out 的根本矛盾还在。
火山引擎声明,市场上出现的“火山Seedance模型接口”“Seedance低价中转接口”等均为非官方授权,存在数据泄露、服务中断、无SLA等风险。官方渠道是当前唯一合法的API接入途径。已接入非官方接口的客户应在30天内通过火山引擎官方完成合规迁移。火山引擎近期发布Seedance 2.5,欢迎通过官方路径接入。
Midjourney 在与迪士尼、环球影业、华纳兄弟的版权诉讼中,申请强制三家影业披露自身 AI 使用情况。Midjourney 辩称其模型使用受版权保护的角色图像训练属于合理使用,并指出影业内部可能也存在类似未经授权下载素材训练 AI 的行为。此前法官裁定影业仅需提供面向消费者的 AI 生成内容,Midjourney 请求撤销该限制,要求影业交出所有在 Midjourney 平台使用过的提示词及对应生成图像。制片厂律师称该请求属于大范围证据搜寻。
Midjourney 在与迪士尼、环球和华纳兄弟的版权诉讼中,要求对方披露自身使用生成式 AI 的具体情况。Midjourney 认为,若制片厂也在内部未经授权使用受版权保护的内容训练 AI,则证明其行为属行业惯例。此前法官裁定制片厂仅需提供涉及面向消费者的视频和图像的相关文档。Midjourney 最新动议试图推翻该限制,并主张制片厂应公开所有在 Midjourney 上使用的提示词及对应输出结果。片方律师称此举为“钓鱼执法”。
加拿大温哥华警察局在X平台发布缉毒照片,贴文带有“Made with AI”标签,且照片中部分50加元钞票被误标为20加元、背景出现模糊色块,引发真实性质疑。警方解释仅用软件遮挡嫌疑人姓名,但未平息争议。随后警方删除原贴并重发无AI标签版本,公众不信任情绪仍未消散。此事再次凸显政务部门使用AI内容时的公信力风险。