2024年，多少人被AI“割韭菜”？

随着大模型飞速发展，AI应用也逐渐成熟。过去一年，在很多人还在琢磨能用AI来干啥的时候，已经有不少人靠着AI产品和信息差赚到了“真金白银”。

不过，在一个个看似“钱途光明”的项目里，有些引发了伦理争议，有些是利用噱头炒作的“伪概念”，还有些，则是实打实的骗局。

“数字人”以假乱真，AI换脸成“生意”？

2024年，社媒平台上用AI制作的内容明显增多。“小猫张嘴唱歌”“甄嬛机关枪扫射四郎”……AI生成内容成为当下最火的自媒体赛道之一。

有些账号通过Stable Diffusion、midjourney、可灵或即梦生成动漫形象，配上文案，便可收获大批粉丝关注，随后通过商务推广或橱窗带货变现。例如最近迅速涨粉的“人间清醒柒奶奶”“宝藏罗奶奶”等各类奶奶，就成了很多网友的心灵导师和情绪树洞。

图源：小红书截图

值得一提的是，有的社媒平台检测出内容是由AIGC生成，会给作品加上“疑似包含AI创作”的提示；然而由于识别难度越来越大，相当一部分AI作品和账号都能逃过检测。

2024年下半年，有网友称自己在小红书上通过账号矩阵管理软件同时操控1327个AI美女账号，没有任何一个被平台识别出来。

图源：微信截图

如今，很多AI账号仍在受追捧。有用户直言，“好看就可以了，难道那些真人博主就长得和照片一模一样？既然都不真实，是不是AI又有什么所谓？”

于是，“AI数字人”成了很多人“牟利”的手段。有信息流从业者表示，自己通过数字人混剪+真人口播做成广告素材，在各平台投放吸引用户下单，广告投放金额越高，带来的收益也越高，不到四天，便有保健品的广告素材投放突破了30万元。

除了用“数字人”，还有人通过“AI换脸”技术冒充名人进行带货。国家传染病医学中心医生张文宏此前曾表示，短视频平台上有很多用AI合成自己脸和声音的视频，带货蛋白棒等医药保健类产品，自己多次向平台投诉，但仍然层出不穷。

AI换脸内容制作成本低，平台监管却不容易。微信和抖音都曾对使用插件、AI等工具生成虚拟形象直播判定违规或封禁处理。资深产业经济观察家梁振鹏认为，数字人直播带货以及数字人账号的监管难点，主要在于如何辨别这些数字人是否真实存在，以及它们所宣传的产品是否真实可靠；此外，监管机构还需要考虑如何处理涉及名人的仿冒行为，以及如何平衡保护消费者权益和促进创新之间的关系。

这些用AI合成的“诈骗视频”瞄准的通常是辨识能力差、警惕性不高的中老年人。除了张文宏，靳东、雷军等名人，也是经常被“AI换脸”的对象。前段时间，江西宜春一位老年女性就因“靳东”在网络上向“借钱拍戏”，险些向对方转过去200万元。

图源：微博截图

2024年10月，香港警方还曾破获一起AI换脸的“杀猪盘”，通过伪造条件优越的女性吸引男性转账，涉案金额超过3.6亿港元。

随着视频生成模型的发展，平台上的内容很可能会更加“真假难辨”。梁振鹏表示，这无疑会加大平台内容监管的难度；未来，监管机构需要不断提高自身的技术水平，平台也需要积极履行社会责任，加强自我约束和自我管理。

值得一提的是，目前至少有60多个国家制定和实施了人工智能治理政策，我国《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定的相继落地，也让刚性治理有了更多具体抓手。

智能家电、AI玩具...“沾上”AI就涨价？

2024年是大模型卷应用、卷落地的一年。学习机、眼镜、玩具、甚至床垫，都纷纷做起了“AI+”，强调自身的“智能化”和“陪伴感”。然而，限于技术的成熟度，过去一年大部分搭载AI的硬件或产品实际上并未带来颠覆性的使用体验。

此前，远程控制、网络连接、自动识别与控制是家居产品主打的智能化功能，AI概念火了后，家居产品争相在AI上“整活”：床垫内置AI算法，能根据不同的人体曲线调整高度；洗衣机集成AI智能投放系统，能根据衣物的重量与脏污程度，自动调整洗涤剂的用量……

然而，在很多消费者看来，这些家电的AI功能解决的并不是核心痛点，而且实际使用上也达不到宣传中的智能。某品牌AI床垫的用户表示，护腰气囊晚上间歇性打气噪音不小，睡眠监测时间也不太准确，“感觉像是交了智商税”。

图源：微博截图

家电行业分析师刘步尘表示，目前家电与AI的结合仍处于初级阶段。“过去十几年，家电产品基本上完成了从功能型家电向智能化家电的转变，但家电产品功能需求的本质未变，对AI的要求没有想象的那么紧迫，所以家电也很难成为AI技术应用的典范。”

体验升级不多，但不少融合AI概念产品的价格却先涨了上来。有售卖卡萨帝AI冰箱的销售人员对“搜狐财经”表示，目前AI其实和智能没有什么区别，暂时还做不到帮助用户识别食材、记录保鲜、临期提醒等等。然而，其店内两款AI冰箱产品售价分别为6.9万元和10万元，相比之下不带智能大屏的同类型冰箱价格大约2万到3万；由此计算，“AI冰箱”的溢价能达到2至5倍左右。

图源：微博截图

除了家电，面向儿童、青少年群体的玩具、学习机等产品，结合AI概念后的价格也出现了明显的上涨。

有AI玩具的从业者对新媒体“Tech星球”表示，毛绒AI玩具的硬件成本一般只占到产品售价的十分之一，甚至更低，其搭载的AI方案才是这类玩具卖到几百元、上千元的关键。

然而，玩具的AI对话功能也是“见仁见智”的地方。有家长表示，AI玩具能回答孩子的“十万个为什么”，很省心；但也有家长认为，目前所谓的AI功能还配不上这个价格。Haivivi（跃然创新）的一款佩戴式AI玩具的评论区里，有消费者表示，玩具的价格比天猫精灵还贵了不止一倍，但只有对话功能正常使用，播放音乐和讲故事的功能都不能满足孩子需求。

图源：淘宝截图

互联网分析师张书乐曾对“贝壳财经”表示，目前的AI玩具的价值整体上仍然在对话上体现，AI玩具所能提供的教育能力依然还不足以达成真正的教育意义。盘古智库高级研究院江瀚则认为，AI玩具的优势在于能够结合玩具的趣味性和AI的交互性，未来要解决互动体验和内容创新的问题，使AI玩具能够更好地理解和回应儿童的指令和情感。

AI培训课，“小白”最好“割”？

每次有新技术出现，比应用跑得更快的往往是“教你如何用”的培训课程。2024年，AI相关的课程层出不穷，甚至有从业者直言，任何行业都可以用AI来做一遍知识付费。

AI付费课里最热门的，要属以AI绘画、视频创作为主的AI工具应用类课程。这类课程主要面向渴望提升工作技能和发展副业的年轻人，课程价格大多在千元以上，也是被吐槽“割韭菜”的重灾区。

社交平台上很多网友都提到，付费课里的知识、教程在B站和知乎等都能找到类似的免费内容，这些培训机构大多只是将免费的素材和教程进行系统整合，其实赚的还是“信息差”的钱。

不擅长信息检索、又很少体验知识付费的“小白用户”，很容易被包装高大上的课程海报和话术吸引；有网友表示，想报AI课程的主要原因是觉得有老师能答疑，上课互动性更好。这类更习惯传统教学方式的用户，也是各类AI付费课程的主力。

小白们学习新技术的需求，养活了不少培训机构。2024上半年，清华博士李一舟因为违规售卖AI工具类培训课程被封禁，如今仍有人在这一赛道闷声赚钱。

“趣解商业”观察到，如今仍有不少教AI制图、视频创作的课程宣称结课后给学员提供商单帮助变现。例如，有机构的AI绘画相关课程，价格高达5880元，助教表示，如果顺利完成课业测试，学完后100%能接到商单。

图源：微信截图

“趣解商业”发现，商单包括室内设计、AI电商换装图等多种类型的需求，每单价格在20-30元左右；由此计算，要完成将近近200单需求才能回本学费。对有全职工作的学员而言，这显然是件相当考验耐力和兴趣的“副业”；还有单亲妈妈表示，其实并没有想象中好学，除了AI工具，也要会用PS，课时和学习时间都比想象中要长，暂时还没能力接单变现。

在“黑猫投诉”平台上，消费者投诉AI培训机构的案例层出不穷，大部分均是针对交费后“老师找不到人”、被诱导付费后难退款、与承诺的效果不符等问题。

套壳AI骗融资，“热钱”涌向大模型？

如果说AI知识付费只是“割韭菜”的初级手段，那用AI概念来圈钱、骗融资，绝对称得上这一领域的“高级骗局”。

2024年，不止一家AI科技公司被曝出财务造假、业务注水。

近期，美国AI教育科技公司AllHere的创始人兼CEOJoanna Smith-Griffin因涉嫌证券欺诈、电汇欺诈和严重身份盗窃被批捕。该公司主推促进家校沟通的聊天机器人，自2020年11月启动A轮融资以来，直至公司于2024年6月倒闭，其创始人一直向投资者传递虚假的财务信息，误导他们对公司的收入、客户群体以及现金储备情况。

图源：微博截图

早在2024年6月，国内一家名为“极目银河”的AI领域明星创业公司“财务爆雷”，CEO陈群在自己租来的别墅中留下一封自白信后消失，信中写道：“（我）是个诈骗犯......（公司）合计有62亿的资金缺口”。根据“36氪”报道，这家公司套壳AI等多个数字科技业务以吸纳融资，实际上，公司多年来一直都没有成熟的产品和业务，项目逐渐无法通过融资获利，最终整个公司走向破产。

图源：微博截图

随着大模型赛道竞争日益激烈，不少创业公司都被“卷”进了墙角。有从业者表示，2024上半年，投资市场还在为争抢大模型创业公司的份额头疼，到了年底，大模型投资人讨论的话题已经变成了“如何卖掉部分手里的大模型创业公司股份？”

有参与过大模型企业融资的投资人对新媒体“Tech星球”表示，比起过去投资看好技术、前景、团队就入手的逻辑，不少机构的内部决策周期越来越长，还会反复计算、评估新钱投出去的回报率。2025年，大模型赛道的融资或许会更加严峻。

新技术带来变革的同时，也会引发乱象和假象。从虚拟人引发的伦理与诈骗问题，到产品借AI之名的价格虚高，再到AI培训课程的良莠不齐以及创业公司的骗融资行径，都在提醒着从业者和消费者“AI汹涌”。比追逐浪潮更重要的，是保持清醒––不被短期的利益蒙蔽，也不被诱人的噱头牵着走。