跳到正文
10月16日周五
  1. The Verge:AI55

    特朗普发布 AI 编辑照片炫耀白宫翻新工程,被 Google SynthID 检出

    特朗普在 Truth Social 发布一组白宫翻新照片,其中对比新旧石柱的照片被 Google 的 SynthID Detector 标记为由 OpenAI 创建或编辑。网友指出修后照片两侧台阶数量不一致、与修前照片也不匹配,窗中倒影和柱底护板位置几乎相同;The Verge 证实上传该图会被 SynthID 检出,白宫尚未回应。

10月14日周三
  1. The Verge:AI64

    Instagram 认证账号传播 Mia Goth AI 伪造图,其经纪人批 Meta 保护失职

    演员 Mia Goth 的经纪人表示,Instagram 带蓝 V 的粉丝账号 miagoth_ 传播其 AI 生成的身穿“MY EX IS MY BIGGEST FAN”T恤的图片,在艺人提出投诉后仍获认证,该图被数十万人点赞,OK! 和 People 等媒体曾当真报道。Meta 的规则要求部分 AI 视频加标签,但静图不在此列;截至周二上午该账号已被清空。

10月3日周六
  1. IT之家·人工智能51

    爱彼迎房东用 AI 生成漏水照片勒索 1700 美元,房客靠谷歌 SynthID 水印识破

    一名 Reddit 用户 FurinaDeFontaine 称,爱彼迎民宿房东退房后用 AI 生成马桶漏水照片,索要 1700 美元维修费。其先从物理常识起疑,随后用谷歌 Gemini 检出照片含 SynthID 水印,证明由 Gemini 生成;爱彼迎客服认定赔偿要求不符合条件并处罚房东账号。文章建议住客退房前拍摄房间和卫生间留证,并警惕 AI 处理过的照片。

9月29日周二
9月22日周二
  1. Hacker News:AI 热帖58

    斯坦福 R&DE 被指用 AI 更换广告中学生的种族并修改外貌

    斯坦福 Residential & Dining Enterprises 被指在广告中使用 AI 修改学生形象,学生 Billy Ramirez '27 发现自己在横幅照片中被替换为 AI 生成的黑人女性,他右侧两名学生也被修改得明显更瘦。当事学生表示对身份被更改感到被抹除,Stanford Review 表示将持续关注 R&DE 后续的广告行为。

9月15日周二
9月3日周四
  1. IT之家·人工智能62

    小红书治理 AI 虚假探店和民宿内容,今年 6-8 月清理相关笔记近 12 万条

    小红书发布《关于 AI 制作医美、民宿等虚假内容治理公告》,将 AI 制作发布虚假内容纳入常态化治理。平台从细化管控重点、清理存量、严控新增三方面加大力度,今年 6-8 月清理 AI 虚假笔记近 12 万条,对发布 AI 虚假医美、民宿、教育内容的账号予以封禁或禁言处置,并要求创作者用 AI 内容声明功能标注 AI 生成内容。

8月31日周一
  1. IT之家·人工智能46

    沙特13岁以上公民和居民可免费使用Adobe两项服务1年,总价超40亿美元

    Adobe在LEAP 2026大会上宣布,沙特13岁以上公民和居民可免费使用Adobe Firefly Standard及Adobe Express Premium 12个月,覆盖超2700万人,总价值超40亿美元。Adobe同时在全球Express桌面版、网页版和iOS版上线现代标准阿拉伯语支持。HUMAIN与Adobe还将联合推出一款面向沙特文化背景的图像模型。

8月26日周三
8月24日周一
  1. IT之家·人工智能48

    《使命召唤:现代战争 4》测试版被指含 AI 生成美术素材,引发玩家争议

    《使命召唤:现代战争 4》抢先体验多人测试期间,玩家发现多幅疑似由生成式 AI 创建的游戏内美术作品,引发批评。动视已披露使用生成式 AI 工具帮助制作部分游戏内资产,但尚未确认这些具体作品是否由 AI 生成。玩家反应出现分歧,批评者认为该系列应付费聘请艺术家创作环境细节,也有人担忧 AI 内容在成品资产中愈发明显。

8月23日周日
8月19日周三
  1. Ars Technica:AI59

    Meta 为“一键脱衣”女性政客的 AI 应用投放广告

    Meta 平台近期为 AI 色情生成工具 Kromix 投放广告,该工具宣称“无限制”,并鼓励用户制作酷似美国女性政客的深度伪造视频,违反 Meta 禁止含色情内容广告的政策。这是 Meta 未能阻止非自愿亲密影像工具广告上架的最新一例。Kromix 自称“AI 图像风格化器”,在苹果 App Store 上架,邀请付费用户上传照片用于“卧室强奸”等场景。

  2. IT之家·人工智能59

    Kromix 用 AI 生成真人色情“换脸”内容引争议:Meta 下架广告、苹果移除应用

    一款名为 Kromix 的 App 在 Meta 平台投放 32 则广告,宣称“没有限制”,可生成真实人物(包括知名女性政治人物)的色情“换脸”内容。经 WIRED 联系后,Meta 下架相关广告,苹果将 Kromix 从 App Store 移除。苹果称该应用可能通过初始审核后才加入违规内容,并强调持续打击规避审核的应用。

  3. The Verge:AI48

    罗宾·威廉姆斯子女重启其 Instagram 账号以对抗“AI 滥用”

    罗宾·威廉姆斯的子女扎克、塞尔达和科迪接管其父的 Instagram 账号,将其打造为分享真实照片、视频和回忆的“可信之地”,以对抗对其声音和形象的“猖獗 AI 滥用”。该账号自 2014 年其父去世后一直未更新。此前,塞尔达曾公开反对 AI 生成的父亲形象,并呼吁粉丝停止发送相关视频。

8月18日周二
8月17日周一
  1. IT之家·人工智能60

    字节跳动与美国电影协会签署协议,加强 AI 模型版权保护

    字节跳动与美国电影协会(MPA)签署协议,加强 AI 视频与图像生成模型的版权保护。协议涵盖 Seedance 视频生成模型和 Seedream 图像生成模型,二者通过 TikTok、CapCut 和 Dreamina 等应用提供服务。字节表示,新版本 Seedance 和 Seedream 已加入更强的知识产权保护机制,双方将随 AI 发展继续完善版权防护。

8月16日周日
  1. IT之家·人工智能65

    女子加入针对 SpaceXAI 的诉讼:继父利用 Grok 将其 11 岁照片加工成 7000 多张色情图像

    一名化名“简·多伊 4 号”的女性加入美国田纳西州三名青少年对 SpaceXAI 的诉讼,指控其继父利用 Grok 将她 11 岁时的一张照片加工成 7000 多张露骨性虐待图像。执法部门查获图像两天后,其继父自杀身亡。原告方指控 SpaceXAI 未采取基础防护措施阻止 Grok 生成含未成年人的真人露骨图像,并正申请将该案列为集体诉讼。

  2. TechCrunch:AI63

    女子指控继父用 Grok 将童年照片转为露骨图像并加入诉讼

    一位化名 Jane Doe 4 的女子加入三名田纳西州青少年对 xAI 的诉讼,指控其继父用 Grok 将她 11 岁时的照片制造成 7,000 多张露骨图像。继父在警方搜查发现图像两天后自杀身亡。诉讼指控 xAI 未采取基本预防措施防止 Grok 生成涉及未成年人的真实人物露骨图像,并寻求集体诉讼资格。

8月13日周四
  1. IT之家·人工智能43

    神秘生图模型“mona-lisa-1”曝光:含 OpenAI 来源信号,GPT-Image-2 发布三个月仍稳坐第一

    8月9日,代号“mona-lisa-1”的图像生成模型现身AI竞技场盲测列表,爆料者称其图片经OpenAI官方验证工具检测到来源信号,被认定为新一代GPT-Image模型。OpenAI尚未正式公告,该模型也未接入ChatGPT、API或Codex。OpenAI指出验证结果不能确认具体模型,尚不能凭来源信号确认其为GPT-Image 2继任型号。

  2. IT之家·人工智能47

    中国美协首届儿童图画书大展作品被指 AI 生成,山东美术馆回应“已经撤下”

    山东美术馆“童心绘梦——中国美术家协会首届儿童图画书大展”中,一幅名为《把夏天装进书包》的作品被指高度疑似 AI 生成,画作多次出现儿童手指扭曲、疑似六根手指、同一画面三只手等异常。山东美术馆办公室回应称涉事作品“已经撤下来了”。中国美术家协会行风建设与维权处经认定该作品确系 AI 生成,已取消其入展资格。

8月10日周一
  1. IT之家·人工智能54

    创办 64 年来首次,今年大众电影百花奖设立 AIGC 单元

    第 38 届大众电影百花奖首次为 AIGC 影像开设专门征集通道,一个多月内收到 2038 件投稿,30 部作品进入终审,24 部获入围荣誉,6 部获“百花 AIGC 推优荣誉”。其中《壹梦》获最佳动画作品,《来世录》获最佳视效作品,《鲸鱼之歌》获最佳技术作品,《夜叉渡河》获最佳创意作品,《失控》获最佳导演作品,《断鞘》获最佳短片作品。本届百花奖颁奖典礼于今天(8 月 10 日)在国家速滑馆举行。

8月8日周六
  1. Rohan Paul47

    Grok Imagine Image 2.0(Low)在文生图竞技场跃升12位至第2名(1320分),超越自家上一代质量模型(第14名,1228分)。该版本仅限App使用,不支持API。在图像编辑竞技场同样以1439分位列第2,并在艺术、肖像、文字渲染等五个类别中均排名第2。

    引用Arena.ai@arena

    Exciting news: Grok Imagine Image 2.0 (Low) by @SpaceXAI has landed in the Text-to-Image Arena at #2 (1320 pts)! This release is not available via API, only in their app. Grok Imagine Image 2.0 (Low) is a significant improvement from Grok Imagine Image Quality (#14 -> #2). By category, it’s #3 in Product, Branding & Commercial Design, and #2 across: - Art - Portraits - Text Rendering - Cartoon, Anime & Fantasy - Photorealistic & Cinematic Imagery In the Image Edit Arena, Grok Imagine Image 2.0 (Low) also debuted at #2 (1439 pts)! See post below. Congrats to the @SpaceXAI team on this release!

8月2日周日
  1. The Decoder:AI News51

    Snap 和 LinkedIn 反击低质量 AI 内容洪流

    Snap 本月起将完全由 AI 生成的视频移出 Spotlight 推荐,以聚焦“真实用户的真实创意”;使用 Snapchat 自家 AI 工具编辑的视频仍可推荐,但需附带透明度标签。LinkedIn 则推出专门的“AI 垃圾内容”举报按钮,独立于常规低质内容举报系统。一项 Kapwing 研究显示,21% 的 YouTube Shorts 已由 AI 生成。

8月1日周六
7月27日周一
  1. Ars Technica:AI60

    艺术家起诉AI模因生成器,未经授权将个人漫画作为广告模板出售

    菲律宾数字艺术家Elmer Saflor(网名“Superelmer”)起诉Memes Apps, LLC,指控其旗下平台Memes.ai和Memes AI Studio未经许可,将他的“Running Away Balloon”漫画作为付费广告生成器的模板出售,侵犯版权。该漫画自2017年起成为流行模因,但Saflor认为大规模商业化使用其作品并不合法。

7月23日周四
  1. IT之家·人工智能42

    红果短剧发布AI剧角色创作规范,将专项治理“高频AI脸”

    红果短剧昨日发布公告,从角色差异化与版权合规两方面规范AI剧创作,要求主要角色具备清晰形象区分度,避免不同剧集使用高度相似形象。平台近期将启动专项治理,重点整治“高频AI脸”复用、内容同质化及素材违规三类问题。7月21日,红果短剧已对都市情感等品类AI仿真人剧提升内容准入门槛,未达标内容需优化后重新上传。

  2. IT之家·人工智能41

    男子用AI伪造烂果图骗取电商“仅退款”1.6万元并转售牟利,获刑一年

    湖南衡山县居民谭某某在2025年10月至2026年1月期间,利用AI修图软件伪造水果腐烂图片,骗取电商平台“仅退款”后转售完好水果牟利,累计下单100余笔,涉案价值16000余元。其行为导致多个电商平台将衡山县列为高风险地区,该县居民一度无法购买榴莲和车厘子。法院以诈骗罪判处谭某某有期徒刑一年,并处罚金5000元,因其2024年曾犯诈骗罪系累犯,依法从重处罚。

7月20日周一
7月14日周二
  1. IT之家·人工智能53

    呼和浩特全民摄影双月赛一等奖作品被指AI生成,主办方回应正调查

    “艺润北疆·光影青城”2025年呼和浩特全民摄影双月赛第三期一等奖作品《洒乐园林》被网友指出存在AI生成痕迹:画面中环卫工马甲上的文字出现明显乱码。比赛主办方“呼和浩特市文学艺术界联合会”回应称正调查此事,并表示联合会不负责作品评审,仅转发公示结果。记者追问AI作品能否参赛时,工作人员称“摄影比赛可能也需要现代科技的加入”。

7月12日周日
  1. The Decoder:AI News56

    Meta 移除 Muse Image 中未经同意生成 Instagram 用户 AI 照片的功能

    Meta 在广泛批评后,从其新模型 Muse Image 中移除了一项争议功能。该功能允许用户通过 @提及公开 Instagram 账户,在未经对方同意的情况下生成其 AI 照片,且默认开启,用户需手动在设置中选择退出。Meta 承认“该功能未达到预期”,并在发布数天后将其关闭。在欧洲,该功能因更严格的数据保护法规本就难以存活。Meta 可能借鉴了 OpenAI 已停用的 Sora 应用中的“客串”功能。

7月11日周六
  1. TechCrunch:AI66

    Meta 移除 Instagram 上引发争议的 AI 图片修改功能

    Meta 本周早些时候随 Muse Image 生成器推出的功能,允许用户通过 @ 提及公开 Instagram 账户来生成图片,且不会通知被引用的用户。该功能立即引发用户和包括 CAA 在内的经纪公司强烈反对。Meta 周五发布博客称该功能“未达预期”,现已下架。公司表示其初衷是提供有用的创意工具并让用户控制公开内容是否被引用,但已听取反馈并移除该功能。

  2. The Verge:AI76

    Meta 关闭 Instagram 用户可基于公开账户生成 AI 深度伪造图片的功能

    在遭到强烈反对后,Meta 关闭了本周早些时候推出的一项 Instagram 功能。该功能允许用户通过 @ 提及公开 Instagram 账户,基于其内容生成 AI 图片,且无需账户所有者许可。Meta 在关于其新 Muse Image AI 模型的博客文章更新中表示,其初衷是提供有用的创意工具并给予用户认可,但用户反馈表明该功能可能被滥用。

    推荐理由:Meta 在舆论压力下火速撤回刚发布的 AI 深度伪造功能,这次公关折返跑比功能本身更有信息量,平台对隐私反弹的优先级已经高于技术落地,但默认 opt-out 的根本矛盾还在。

7月8日周三
  1. 公众号:火山引擎49

    火山引擎Seedance官方API接入声明

    火山引擎声明,市场上出现的“火山Seedance模型接口”“Seedance低价中转接口”等均为非官方授权,存在数据泄露、服务中断、无SLA等风险。官方渠道是当前唯一合法的API接入途径。已接入非官方接口的客户应在30天内通过火山引擎官方完成合规迁移。火山引擎近期发布Seedance 2.5,欢迎通过官方路径接入。

7月5日周日
  1. IT之家·人工智能61

    Midjourney 反击好莱坞:要求迪士尼等制片厂披露自身 AI 使用情况

    Midjourney 在与迪士尼、环球影业、华纳兄弟的版权诉讼中,申请强制三家影业披露自身 AI 使用情况。Midjourney 辩称其模型使用受版权保护的角色图像训练属于合理使用,并指出影业内部可能也存在类似未经授权下载素材训练 AI 的行为。此前法官裁定影业仅需提供面向消费者的 AI 生成内容,Midjourney 请求撤销该限制,要求影业交出所有在 Midjourney 平台使用过的提示词及对应生成图像。制片厂律师称该请求属于大范围证据搜寻。

  2. TechCrunch:AI66

    Midjourney 要求好莱坞制片厂披露自身 AI 使用细节

    Midjourney 在与迪士尼、环球和华纳兄弟的版权诉讼中,要求对方披露自身使用生成式 AI 的具体情况。Midjourney 认为,若制片厂也在内部未经授权使用受版权保护的内容训练 AI,则证明其行为属行业惯例。此前法官裁定制片厂仅需提供涉及面向消费者的视频和图像的相关文档。Midjourney 最新动议试图推翻该限制,并主张制片厂应公开所有在 Midjourney 上使用的提示词及对应输出结果。片方律师称此举为“钓鱼执法”。

6月29日周一
  1. IT之家·人工智能61

    加拿大温哥华警方缉毒照片被发现带有“AI 生成”标签,引发公信力争议

    加拿大温哥华警察局在X平台发布缉毒照片,贴文带有“Made with AI”标签,且照片中部分50加元钞票被误标为20加元、背景出现模糊色块,引发真实性质疑。警方解释仅用软件遮挡嫌疑人姓名,但未平息争议。随后警方删除原贴并重发无AI标签版本,公众不信任情绪仍未消散。此事再次凸显政务部门使用AI内容时的公信力风险。