网红说话，一句都不敢信了

AI科技 2025年11月10日 17:13 0 aa

在抖音上看到了一个AI生成的虚构人物带货短视频，还挺有意思，底下的评论也都在玩梗。

大家默契地玩梗，都知道嫦娥本就是神话传说人物，压根不存在，带货的只是用AI生成的假象。

但假如有人用还在世的名人，特别是网上很有名、有不少粉丝的网红，这些人的形象生成AI视频带货，又该怎么办呢？

比起压根就没有留下形象的嫦娥，现在的网红名人留下可供AI创作的素材特别多，面孔身材动作声音都有，微表情都能用AI模仿到位，说话语音口气现在也可以用声音大模型模仿，做起来不仅毫无困难，还非常逼真。

我能想到的，肯定是网上都用烂的套路了，这种AI伪造名人视频带货数量之多，被伪造的名人都不胜其烦了。

早在几个月以前，短视频平台就有AI合成奥运冠军全红婵及其家人的带货视频，从长相到声音都和其本人非常相似，带货农产品货值也较低。这类带货视频多到让全红婵家人心烦，与此同时消费者被骗也不好追究，钻了个大空子，以至于人民日报官方微博都下场点名这种虚假利用AI欺骗消费者的行为。

虚假AI名人行骗，这种事情可不是只蒙骗国内老实人，放在国外更厉害，最近国外有件事，简直就是在关公面前耍了一套漂亮刀法还全身而退，令人拍案叫绝。

几天前的英伟达GPU技术大会，黄仁勋的演讲自然得到了科技圈内部的关注，在这场高峰时有十万人观看的直播中，黄仁勋竟然在台上声称“有个加密货币大规模普及活动，直接契合英伟达加速人类进步的使命”。

他还亮出了二维码，鼓励观众扫码以发送加密货币。

直播看到这里的众人必然目瞪口呆，可能会有人觉得“黄仁勋这么做一定有他的道理”，掏出手机扫了码，但肯定有人自我怀疑，是自己喝大了还是受骗了。

觉得自己受骗了的，恭喜你答对了，因为这本来就是AI伪造的黄仁勋形象，和真正的黄仁勋演讲同步放出，用来欺骗观众，骗他们投资数字货币的。

真正的黄仁勋直播没提投资数字货币，但真正的黄仁勋直播只有2万多人观看，李逵的关注度竟然远远小于李鬼。

骗子用着黄仁勋的芯片，制作了黄仁勋的AI形象骗人，观看量竟然比正牌黄仁勋多很多，真是个黑色幽默。

这事可真是大大助长骗子的嚣张气焰，在黄仁勋头上动土都没事，仿冒其他名人网红去骗人就更大胆了。

目前来看这类AI伪造名人形象的事情，名人本身很忙而造假者太多，难以追究，但也不是完全不能追究。

毕竟AI伪造的网红带货，最后掏钱的还是消费者，消费者可以向市场监管机构举报虚假宣传。

比如今年2月，消费者举报了某视频账号推荐的“深海多烯鱼油” 能够治疗多种疾病，涉嫌虚假宣传。

点进直播间一看，好家伙，88万粉丝，直播间里的形象是央视主持人李梓萌，旁边展板上标注着 “适合头晕头痛、手麻脚麻、记忆下降人群” 等医疗用语。

结果一查，所谓的“深海多烯鱼油” 实际执行标准为糖果，倒是吃不死人，但根本不具备疾病治疗功能。

至于直播间里的李梓萌形象，肯定不是真人，而是利用 AI 技术伪造生成的。北京市场监管部门就对该公司进行了行政处罚。

这是北京第一次处罚AI虚假宣传，上个月公布，显然互联网不是法外之地。

但还有非常多AI假冒名人虚假宣传没有得到惩治。

以前靠PS就能造假，有图也不一定有真相；现在AI技术成熟到随意合成形象和声音，就连视频都没法相信了，眼睁睁看到的视频，也不一定是真相了。

“眼见为实”完全不存在了。

以后无论是熟悉的亲人朋友，还是信任的明星网红，说的话、做的事，哪怕有直播和视频影像，都不能信了。

AI将注定反复拷问人与人之间的信任。

“AI 黄仁勋”与英伟达 GTC 同时开直播，“假货”观看人数竟是正版 5 倍|英伟达|直播|黄仁勋_新浪科技_新浪网 finance.sina.com.cn/tech/digi/2025-10-30/doc-infvrtfp2593382.shtml

全红婵带货土蜂蜜？全父：均系AI伪造视频-重庆日报 https://cqrb.cn/shishi/2025-04-29/2259139_pc.html

央视主持人成“受害者”！官方通报 https://mp.weixin.qq.com/s/8__RTIJLFhavb5IBaY0GKQ

没更完销量百万！在线46w冲上Steam前三，腾讯又代理了个全球爆款

发表评论