某直播间内，一名主播正在进行“换脸”带货。

(相关资料图)

“点进直播间一看，‘迪丽热巴’居然在直播卖货。”近日，有网友点开直播间，却发现正在卖货的竟是当红女星。然而再定睛一看，这些带货“明星”很快露出了马脚——身穿中式服装，正在卖力带货的“明星”们，其实只是使用了AI实时换脸技术的普通主播。

AI实时换脸，正在直播间悄然出现。

据中新网

采用AI换脸明星直播带货

已能达到以假乱真的地步

“一开始只是以为长得像，没想到刷进去好几个直播间都这样，才发现是用了‘换脸’。”路垚(化名)向记者表示，近期她被推送的好几个直播间，都采用了AI换脸明星的方式进行直播带货，而杨幂、迪丽热巴、angelababy等当红女星，成了AI换脸的重点对象。

“向平台投诉了也没什么用。”她说。

记者注意到，目前的AI实时换脸，在直播中已能达到以假乱真的地步，不少人点进直播间以后以为主播只是长得像明星，不过也有一些直播间出现了人身比例失调的违和现象。有网友指出了其中一些破绽:“主播低头整理头发的时候，脑门上全是黑的。”

“现在普通人的脸已经不配直播了。”有网友如此感慨。

对于竞争火热的直播间来说，“高颜值”是主播的重要资本之一，而使用“明星脸”直播，或许可以更好达到引流效果，并节省直播成本。此外，使用统一的“换脸”形象，也使直播间降低了主播走红后“单飞”带来的风险。

但不少网友也对“换脸”表示了反感:“发现是‘换脸’直播后，就失去了购买的欲望。”

通过智能后台的AI换脸技术

主播可以实现形象实时替换

随着AI技术的不断进步，AI实时换脸已逐渐成熟。近年来，AI实时换脸已从最初的娱乐“整活”，向直播等多个应用场景发展。通过智能后台的AI换脸技术，主播可以实现形象的实时替换。

有视频换脸研究者表示，实时换脸不存在延迟，也不会有Bug，而直播画面传输的延迟则取决于使用者的网络配置和进行直播的平台。

记者以使用者的身份咨询了一家提供“换脸软件”的网站。该网站客服表示，使用AI换脸需要进行模型训练。“合成效果好不好，关键看模型和素材。”

据提供“换脸软件”的网站介绍，使用者自己从零开始训练模型，如果24小时挂机不停地训练模型，需要经过半个月到一个月的时间，才能达到可以合成视频的效果。

而比起自己花费大量时间训练模型，更多人选择购买现成的模型。“素材充足的话，你只要花费半个小时到几个小时的时间就可以直接合成视频。模型可以替换任意素材使用，不分张三李四。”

该网站客服称，他们提供的全套模型购买价格为3.5万元，AI实时换脸可适用于各大直播平台。

【链接】

换脸直播存在哪些侵权？

与此前因争议冲上热搜的“AI孙燕姿”一样，AI换脸也存在侵权问题。

北京云嘉律师事务所律师赵占领表示，AI换脸主要涉及肖像权等问题。“如果说未经他人同意，用他人的肖像替换某一个主播的形象，这种情况下涉嫌侵犯肖像权；如果还使用了他人的姓名，那还涉嫌侵犯姓名权。”

在AI换脸直播中，平台是否负有责任？赵占领表示，平台对于平台内商家的侵权行为不承担直接侵权的责任，而是否构成帮助侵权，主要是看平台对于商家的侵权行为是否属于明知或应知。但对于如何判定平台对用户、权利人的投诉是否明知或应知，赵占领也表示，在一般情况下很难认定。

日前，某短视频平台发布《关于人工智能生成内容的平台规范暨行业倡议》，提出应用生成式人工智能技术时，发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。“禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。”

【延伸阅读】

AI诈骗常用手法

第一种:声音合成

骗子通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过对方。

第二种:AI换脸

人脸效果更易取得对方信任，骗子用AI技术换脸，可以伪装成任何人，再通过视频方式进行信息确认。骗子首先分析公众发布在网上的各类信息，根据所要实施的骗术，通过AI技术筛选目标人群。在视频通话中利用AI换脸，骗取信任。

第三种:转发微信语音

骗子在盗取微信号后，便向其好友“借钱”，为取得对方的信任，他们会转发之前的语音，进而骗取钱款。尽管微信没有语音转发功能，但他们通过提取语音文件或安装非官方版本（插件），实现语音转发。

第四种:AI程序筛选受害人

骗子利用AI来分析公众发布在网上的各类信息，根据所要实施的骗术对人群进行筛选，在短时间内便可生产出定制化的诈骗脚本，从而实施精准诈骗。

例如:实施情感诈骗时，可以筛选出经常发布感情类信息的人群；实施金融诈骗时，可以筛选出经常搜索投资理财信息的人群。

如何防范？

多重验证确认身份

如果有人要求你分享个人身份信息，如你的地址、出生日期或名字，要小心；

对突如其来的电话保持警惕，即使是来自你认识的人，因为来电显示的号码可能是伪造的；

网络转账前要通过电话等多种沟通渠道核验对方身份，一旦发现风险，及时报警求助；

如果有人自称“熟人”“领导”通过社交软件、短信以各种理由诱导你汇款，务必通过电话、见面等途径核实确认，不要未经核实随意转账汇款，不要轻易透露自己的身份证、银行卡、验证码等信息。