科技向善 别让AI技术沦为违法帮凶

cnofor

    有人借AI编造“带货躺赚”的骗局，收割电商创业人群；有人利用GEO“数据投毒”，操控AI输出误导公众；有人用AI外呼系统电话骚扰，试图绕开监管，逃避法律责任……在3·15之际，总台等多家媒体曝光利用AI技术欺诈造假、违法违规的典型案例，再次为公众使用AI技术敲响警钟。
    “收割”“投毒”——上述案例中的违法者肆无忌惮。他们均是利用公众信任却不甚了解AI技术的信息差，把AI技术异化为违法工具和犯罪帮凶，损害消费者合法权益，其违法成本低、手法更隐蔽，监管取证难度大，影响范围更广。以总台3·15晚会曝光的“数据投毒给AI洗脑”为例，GEO（Generative Engine Optimization，即“生成引擎优化”），本是通过优化网络内容以提高其在AI大模型推荐展示几率的技术手段，而今却被别有用心者变成了敛财诈骗的工具：一面生成虚假信息，一面恶意投喂训练大模型，甚至故意造假抹黑对手。这不仅涉嫌虚假宣传、误导消费者，更扰乱正常市场秩序，损害数字产业健康发展，透支公众对AI技术的信任。
    从前几年用AI换脸、变声实施诈骗，到所谓“养老伴侣机器人”等新型骗局，人工智能技术快速迭代的同时，各类风险套路也层出不穷、防不胜防。技术本是中性工具，关键在于使用者必须心存敬畏、守住底线。
    当前，人工智能大模型等新技术新应用正深度重塑我们的生产和生活方式，规范治理能力必须同步跟上，以有效防范技术滥用带来的风险危害。譬如，政府监管部门和行业协会要及时出台规范措施，将《人工智能生成合成内容标识办法》《生成式人工智能服务管理暂行办法》相关规定落实落细，要用“道高一丈”的技术治理管住“魔高一尺”的违规乱象；平台、企业和从业者要坚守法律与道德底线，摒弃投机取巧心态；对广大用户来说，则要破除“躺赚”幻想，理性辨别信息、多方交叉核实。
    技术只有向善向上，才有未来。AI终究是辅助工具，商业的本质离不开过硬的产品和真诚的服务。靠信息差收割焦虑、靠虚假内容污染数据，或许能得逞一时，但终将付出法律与信誉的双重代价。（姜葳）

来源：央广网