“AI张文宏”带货:去伪存真不能只靠网友比拼眼力
创始人
2024-12-16 08:39:20
0

  最近有网友向媒体发来一段视频询问“张文宏是不是带货了?”视频中,张文宏在卖一种蛋白棒,家里的老人信以为真,已经下单,还转发了很多群。记者核实发现,这个账号在视频中,高仿“张文宏”反复介绍一种产品,口型是他的,声音也是他的。可是从视频来看,尽管口型和声音都模仿得惟妙惟肖,可稍加甄别,不难发现AI伪造手法的拙劣。所谓张医生真人带货,实为AI合成的深度伪造。

  网谚有云“宇宙的尽头是带货”,如今似乎还可为之加上后半句:“如果你不愿带货,那么自有AI帮你带货。”自从AI大爆发以来,各种场景化的落地运用层出不穷。由此所带来的,除了“效率倍增”的震撼,也有“以假乱真”“擦边整活”的惊诧。前不久,就有明星企业家遭AI合成“原声”骂遍全网,一度激起轩然大波。而最近,又有AI复刻张文宏公然直播间带货,这波操作,胆子之大、路子之野,实在令人大开眼界。

  应该说,此次事件中的“高仿张文宏”,尚属于“精度一般”的低水平AI,稍加甄别就能看出端倪。可就是此等“低端AI”,依旧蒙骗了不少人。人们除了叹息某些老年人“太好骗”,还应关注其背后的根本性问题。那就是,大众习惯性的识别、采信、认知的经验模型,已经严重滞后于可以“生成一切”的信息生产模型——这里所谓的“信息”,既是指图文、视频等内容信息,在某种程度上,也指诸如人脸、声音等生物信息。

  生物信息,理论上是独一无二、无法仿冒的,通过专业技术手段,那些合成的“人脸”“人声”大致都会现出原形。但并非所有人都有这种“技术手段”和“火眼金睛”。如果说,粗粝的 “AI张文宏”更多只是让一些老年人中招。那么,如果是更逼真、更高水平的AI人物呢?面对“AI人”,去伪存真,不能纯靠个体的眼力比拼。网友擦亮眼睛、提高警惕固然是一方面,而更重要的,显然还要在生产端、渠道端发力设防、前置过滤。

  “AI张文宏”直播带货一事,有两个值得关注的细节。一,其并没有进行明确的“身份主张”,关于自己是或不是“张文宏”不置可否;二,只在午夜场露面,“昼伏夜出”反监测意识极强。这其实也说明,平台对于AI乱象的治理机制,还是产生了一定的威慑作用。AI狂飙、来势汹汹,可以预见,其被“用在歧途”的场合,只会越来越多。有鉴于此,相关的防风险模块设计,还应该再细化、再加速,要留出安全余量,尽可能地有备无患。

相关内容

热门资讯

浙江义乌商城集团:从未在墨西哥...   中新网义乌12月4日电(董易鑫)12月4日,浙江中国小商品城集团股份有限公司(下称:义乌商城集团...
万人齐赴“上”赛道 上海民众开... 2025年1月1日,第十一届蒸蒸日上迎新跑在上海国际赛车场开跑,超12000名跑友汇聚在充满奋进寓意...
广西一乡镇菜市场“打边炉”爆火... 图为食客在体验成团镇特色“打边炉”。中新社记者 林馨 摄图为食客在体验成团镇特色“打边炉”。中新社记...
江西庐山迎2025年第一缕阳光 1月1日,新年第一天,江西庐山迎来2025年的第一缕阳光,风景秀美。(无人机照片)程鹏 摄1月1日,...
南京总统府景区门楼入口调整 12月17日,江苏南京,航拍中国近代史遗址博物馆(南京总统府)正门楼。中新社记者 泱波 摄12月17...
(新春走基层)2025年春运开... 图为正在候车的乘客。熊锦阳 摄图为正在检票的乘客。熊锦阳 摄图为南昌西站候车大厅。熊锦阳 摄图为动车...
(新春见闻)中国2025年春运... 图为旅客带着书法家现场书写的“平安”字候车。中新社记者 泱波 摄 图为旅客带着书法家书写的“招财进宝...
(新春走基层)探访南昌三江口早... 热闹的早酒集市给摊贩们带来了好生意,她们一边吆喝顾客一边备料。图为集市摊贩正在切牛杂。巫发阳 摄图为...