AI直播乱象频现,平台出手整治“AI美女”及卖课乱象

0 评论 1879 浏览 1 收藏 12 分钟

随着AI技术的迅猛发展,直播领域也掀起了AI应用的热潮。然而,这股风潮并非全然正面,一系列乱象随之涌现。其中,“AI美女”批量打造,利用AI技术吸粉带货;卖课、分销等灰产也层出不穷。针对这些乱象,平台已开始出手整治,维护直播行业的健康发展。

AI风口吹到了直播,先吃到红利的不只有卖课的知识付费博主,还有“AI主播”

她们或是外国美女,借助吸引眼球的形象和话题吸粉,然后带货;或是单身女性,输出“心灵鸡汤”,目的要么是带货,要么是吸引男粉转化为付费用户…..

这些“AI主播”、“AI美女”,正通过AI技术而被批量化、模板化复制。

不仅如此,围绕这个产业链,还出现了如卖课、分销等乱象。如今,针对这些乱象,平台已经开始出手整治。

一、抖音出手整治AI虚拟人

近日,“抖音安全中心”官微发布抖音关于不当利用AI生成虚拟人物的治理公告。公告称,近期平台发现,站内仍有不当使用AI技术生成虚拟人物发布内容的账号,平台进行了严厉处置。

针对违规使用AI生成虚拟人物的行为,平台会对违规视频下架,对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置,并利用模型、技术识别能力等手段,进行长期系统的识别发现和处置。

批量打造“AI主播”:谁在涨粉,谁在赚钱?

有关AI生成虚拟人物的违规行为,改公告列出了几个类型,主要包括利用AI生成假外国人、假精英及利用AI生成形象骗互动等三类内容。

抖音此番出手,让人想到此前爆火的“俄罗斯美女”——娜塔莎。

这是账号“娜塔莎进口食品”塑造的一个俄罗斯美女,说自己在中国生活了8年、热爱中国文化、要嫁给中国男人,在吸粉之后,通过带货俄罗斯的相关产品进行变现,其粉丝量一度达到了20多万。

“美女人设+精准话题吸粉+带货变现”的路径,看起来似乎没有问题。然而,该账号之后被曝出其塑造的“俄罗斯美女”形象是通过AI换脸生成,且没有经过授权使用了乌克兰博主、YouTube网红“Olga Loiek”的面容和声音。

如今,该账号已经遭到封禁。

二、被批量打造的“AI美女”

实际上,如今抖音上的AI主播并不少见,尤其是“AI美女”。

研究了这些账号之后,我们发现这些“AI美女”,要么是直接生成虚拟人设,打造单身成熟女性的人设,甚至还有“单身妈妈”、“离婚女性”等,比如“小姨妹”、“梨过,你要么”。

这些账号可以说是批量生成的,模板化、套路化非常明显。

另一种类型则是通过真人主播自身的形象,生成与她形象较为相符的虚拟形象,如“巧克力,小柠檬”。这是一位娱乐主播,目前拥有1000多万粉丝。

其通过AI生成个人的虚拟形象,主要用于短视频,内容是情感类“鸡汤”。如“欺骗一个对你掏心掏肺的男人”、“经常流泪的男人是什么性格呢”等内容,从而达到吸粉、导流的目的。这类内容看起来十分粗糙,而且口型和画面对不上,很明显是通过AI生成的。

可以看到,这两种类型的账号的目标群体都瞄准了男性。

其中,前者会在短视频挂载小黄车,通过带货进行变现,产品也以日常用品和男士用品为主,譬如抖音平台上有50.5万粉丝的AI主播“陈佳丽”,其橱窗商品价格从几元到几十元不等,部分产品销量可达上百万。

批量打造“AI主播”:谁在涨粉,谁在赚钱?

后者则主要通过短视频进行吸粉,然后靠直播打赏进行变现。从短视频内容来看,也是精准面向男性,无论是主播的形象和短视频话题都是投其所好。

除了抖音,小红书也同样有一批以AI美女为主角的博主。

这类博主塑造了类似“旅游博主”、“街拍模特”的人设,发布的内容也几乎一致,基本都是都是发布AI生成的美照。比如以街拍为主要内容的博主“cyberAngel”、“往之”,粉丝数量均已突破一万。目前,尚未发现明显的变现渠道,最常见的方式是建群引流。

三、“AI直播”催生的乱象

除了这类批量打造的“AI美女”之外,如今AI的火热风口还催生了卖课、AI代理分销等乱象。

据媒体报道,有商家出售所谓的AI换脸课程,售价29.9元,素材包包含几千张明星照片;还有商家将骗术当做技术出售,还提供人脸定制,定制价格在2000元到上万元不等。

而围绕AI课程的产业链,还形成了分销的灰产。315期间,就有媒体曝光了有关“数字人源头厂商”和“数字人代理”的骗局。

批量打造“AI主播”:谁在涨粉,谁在赚钱?

有不法商家利用“数字人产业是时代风口”作为噱头,对外售卖高达十几万元的AI代理服务,宣称“只要付钱成为代理,就能将数字人技术层层分销给下级买家,不需要任何资质审核,还能自己随意定价,零基础小白也能参与,闭着眼睛就能年入百万。”

然而,“AI换脸”不仅涉嫌侵权,而且还因为直播效果不佳、台词重复、表现生硬等,导致直播间频繁被封。

如今,随着平台监管力度的加大,这样的乱象正在进一步遭到整治。新播场在抖音搜索“AI主播课程、“AI直播课程”等关键词,已经搜不到相关卖课内容。

可以看到,风口之下,AI在直播领域的应用催生了不少乱象。实际上,如果能够更好地利用AI技术,不仅能够减少成本,还能为直播带来新的想象空间。

有业内人士表示,从目前来看,AI主播目前的应用还是存在较多问题和挑战,更多是应用于不需要依赖内容输出的场景,比如本地生活赛道的团购直播;或者作为真人主播的“替身”,在无法开播的时间段运作。

四、押注AI直播,前景如何?

实际上,AI直播带货早已经不是什么新鲜事了。

2023年,随着AI技术的逐步成熟,头部直播公司开始大举入局AI直播带货,谦寻就是其中之一。

据报道,谦寻控股很早就已经在AI领域开始布局,旗下的两家子公司谦语智能和羚客就是专门用来研发AI直播带货。

2023年8月9日,在“再定义・直播的生命力-2023AI创新发布会”上,谦寻旗下的谦语智能和羚客分别发布了“AI数字人直播业务”和“一站式AI智能直播综合平台”,其中多个AI数字人都有薇娅的身影。

而不久前,宣布淡出直播电商的头部带货主播辛巴,也称未来两年将去学习AI技术。

头部机构和主播押注AI,正是看到了AI技术与直播结合带来的新想象力。

与此同时,面对广阔的海外市场,AI主播也有更大的发展空间。

如今许多AI研发商都在着力完善相关产品,闪剪智能举办的2024 BocaLive AI数字人智能播控系统在3月21日举行了线上发布会,新上线的AI能够直接帮助商家自动写好外语直播脚本,支持29国语言和丰富的AI配音。

批量打造“AI主播”:谁在涨粉,谁在赚钱?

AI主播具有庞大的语言库,可以进行数十种语言的翻译,商家把中文的商品介绍或者直播脚本输入进去,就可以自动转换成英语、法语、德语等多种语言。

据《中国AI数字人市场现状与机会分析,2022》预测,到2026年,我国AI数字人的市场规模将达到102.4亿元。

AI数字人的前景广阔,但是未来会与直播融合到怎样的程度,一切都是未知数。

作者:场妹

来源公众号:新播场(ID:New_bc),关注直播、直播电商、短视频领域。

本文由人人都是产品经理合作媒体 @新播场 授权发布,未经许可,禁止转载。

题图来自Unsplash,基于 CC0 协议。

该文观点仅代表作者本人,人人都是产品经理平台仅提供信息存储空间服务。

更多精彩内容,请关注人人都是产品经理微信公众号或下载App
海报
评论
评论请登录
  1. 目前还没评论,等你发挥!