工人日报社评丨警惕AI模糊虚实界限，守住信任与安全

cnofor

    本报评论员 陈曦
    犯罪分子利用AI实施诈骗的手法快速迭代，令人防不胜防，不仅让受害者财产受损、心灵受创，还颠覆了不少人的惯常认知，造成了严重的信任损耗。相关治理思路、制度体系、执法手段等需及时更新，引导新技术向上向善，守住社会生活中的信任与安全根基。
    视频里“孙子”哭诉惹祸急需赔钱，电话那头“好友”的声音如常，连咳嗽习惯都一模一样……据6月11日“半月谈”微信公众号报道，随着AI技术的快速发展，一些不法分子的诈骗手段也在不断升级，从此前单一的盗图、换脸、偷声进行欺诈，到现在可以多模态生成以假乱真的文书证件、动态视频以及能交互的“数字人”，给群众甄别违法犯罪增加了难度。黑灰产正从“堆资源、拼人力”的传统模式，转向更隐蔽、更低成本、更接近真实用户行为的“类真人化、智能化”阶段。
    当前，AI技术正深度融入我们的生活，为千行百业插上翅膀，让社会运转更加高效。然而，这项技术也正被黑灰产从业者肆意滥用。从伪造病历向餐厅敲诈勒索，到“偷脸”盗刷医保卡和银行卡，从通过AI拟声、换脸伪装成“急需用钱”的亲友，到操纵AI“数字人”以情感陪伴为诱饵实行长期收割……一段时间以来，犯罪分子利用AI实施诈骗的手法快速迭代，令人防不胜防，不仅让受害者财产受损、心灵受创，还颠覆了不少人的惯常认知，造成了严重的信任损耗。
    与传统诈骗模式相比，AI诈骗呈现出一些新的特点和趋势。比如，造假成本更低，不法分子通常只需向AI工具输入简单指令，便能从几秒钟的语音样本中提取声纹，甚至用一张照片生成能够实时交互的动态视频，音画效果可达“毛孔级真实”；从“广撒网”转向“一对一”，传统诈骗靠群发短信、随机拨号碰运气，而AI诈骗可“量身定制”话术与场景，如对家长谎称“子女”出事，为空巢老人打造“AI霸总”等，成功率大幅提升；犯罪链条更隐蔽，不少AI诈骗视频和语音由境外服务器生成，诈骗资金又经多个账户快速拆分转移，追踪成本较高。
    AI本身并无善恶，关键在于被谁使用、如何使用。新修改的网络安全法于今年起施行，其中新增了AI发展的相关内容，勾勒出“发展与安全并重”“用AI防控AI风险”的治理框架，体现了对新技术的包容审慎。此外，《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等文件也为AI使用划定了红线。
    打击不断升级的AI骗术，需凝聚合力从多方面破题。比如，进一步明确“深度伪造”内容的‌司法鉴定标准‌和‌举证责任分配，厘清技术提供者、内容传播平台应承担的审查义务；推广数字水印、内容溯源等技术，要求AI平台对生成内容嵌入显著、难以移除的元标识；在金融、法律、医疗等高安全需求场景中，引入AI数字笔迹等动态身份识别技术作为补充；强化网信、司法等部门与各平台企业间的联动，对诈骗新苗头及时研判、堵上漏洞；完善投诉举报机制，提升违法成本，加强国际执法协作等。
    五花八门的AI骗术让“眼见为实”成为过去时，人们需要进一步提升数字素养。如，避免在社交平台和公开网站上过多暴露个人信息，注意保护好人脸、指纹、声音等，从源头降低成为诈骗“素材”的风险；被要求转账汇款时要多维度交叉验证，而非在对方的话术中乱了阵脚。目前，一些地区的公安机关正在探索“以魔法打败魔法”，如利用AI开发“诈骗模拟”APP，在AI动画中拆解拟声、换脸等伪造伎俩等，取得了较好的反诈成效。
    AI谣言、AI水军、AI诈骗……AI时代有无尽机遇，也有未知挑战。相关治理思路、制度体系、执法手段等需及时更新，引导新技术向上向善，守住经济社会生活中的信任与安全根基，捍卫文明与秩序的底线。

来源：工人日报