3·15|AI诈骗、谣言四起，“虚拟世界”乱象需监督

文｜罗曾

事实上，自2023年以来，大模型热潮正盛，市场中的每一个参与者都能深切地感受到这股热潮的涌动。从百度文心一言、阿里通义千问到华为盘古，再到快手的快意，大厂们纷纷推出自家的AI大模型，一场全新的竞赛已然拉开帷幕，大家纷纷布局、加大投资，试图在这场竞赛中拔得头筹。

但与此同时，随之而来的问题也日益凸显。

一方面，当其复杂性和规模不断增加，如何客观、准确地评估这些模型的性能，已成为一个亟待解决的问题；另一方面，随着AI技术的广泛应用，诸如AI诈骗、AI不良文案传播等社会问题也随之而来。

315临近，新华社日前也对人工智能高速发展期间衍生出的新骗局、新套路进行了揭露。

其在报道中提到，一些不法分子号称可提供ChatGPT服务，实际是冒牌AI；同时，不法分子还利用AI换脸技术，将视频电话中呈现的“亲友”形象替换为伪造的画面，制造假象，实施诈骗行为。更为恶劣的是，一些人为追求网络流量，不惜利用AI技术编造虚假谣言，制造恐慌，严重扰乱社会秩序。

至此，“人工智能”开始变成“人为陷阱”。

而近年来，诸如此类通过AI技术合成出目标人物的语音或视频，冒充其身份进行诈骗活动，从而骗取钱财或敏感信息的情况并不少见。

2023年11月底，最高人民检察院发布的检察机关依法惩治电信网络诈骗及其关联犯罪典型案例中，就曾提到有诈骗团伙利用AI语音机器人诈骗，共骗取1437人3586万余元。

业内专家表示，这种行为严重侵犯了个人隐私和财产安全，给受害者带来巨大的经济损失和心理压力，同时容易破坏社会的信任机制，也在一定程度上对正常的社会秩序造成威胁。

除此之外，中华网财经注意到，通过AI技术生成虚假信息或恶意言论，并在社交媒体等平台上广泛传播的情况也频频发生。

“网信中国”曾通过微信公众号发文强调，滥用AI技术造谣值得警惕。其指出，2023年10月份网传多起所谓的“爆炸事故”、恶性刑事案件，事后均被证实为网络谣言。如利用编程和AI技术编造“广州地铁遭受恐怖袭击”、“安徽泾县发生校园伤人事件，多人伤亡”等恶性谣言，凭空捏造“西南大学药学院发生爆炸”“河北保定化粪池爆炸致1死5重伤”等虚假信息，制造社会恐慌。

在“三人成虎”的传播效应之下，网民若不明就里、轻易相信，就会成为谣言传声筒，造成不良社会影响。而以上只是AI带来的社会问题的一部分，随着AI技术的不断发展和广泛应用，还需要持续关注并应对更多的挑战。

在此背景下，大模型“监督者”角色不可或缺。

业内人士曾向中华网财经表示，例如大模型测评类的项目或相关第三方公司可以通过提供舆情监测和内容审核服务，帮助企业和政府机构了解和控制信息传播的内容。例如，建议AI大模型评测系统可以新增部分功能，通过对AI生成的语音、视频以及文本进行深度语义及情感分析和识别，有效区分真实和伪造的内容，从而帮助公众识别和预防诈骗行为，并检测和识别恶意言论、谣言、歧视性内容等不良文案，从而有助于阻止其传播。

在北京大学教授、鹏城实验室网络智能研究部副主任田永鸿看来，虽然评测系统本身无法解决AI带来的社会问题，但在评测过程中要关注模型的安全性和可控性，尽可能降低潜在的风险。

针对AI诈骗等社会性问题，田永鸿向中华网财经表示，一方面，可以通过开发专门的反AI诈骗技术，提高模型的安全性和可信度，防止其被用于不良目的；但另一方面，也需要立法和技术手段相结合的方式来解决，政府出台相关法规和政策，规范AI技术的使用，打击与AI技术相关的违法犯罪行为。

“与此同时，基于互联网打破国界的情况，还需要加强国际协作，不能单靠某一方力量，且公众也需要提高自身的科技素养和防范意识，加强对AI技术的了解和认识，避免成为受害者。”田永鸿称如是说。