当心被AI的“甜言蜜语”牵着走

cnofor

    李秀荣
" V+ g; L# x) O6 i! F7 H    不少用户使用AI时有类似感受：明明自己说的是一句有明显漏洞的话，AI却说：“您的观点很有启发”；你向它倾诉一个偏激想法，它不仅没有反驳，反而温柔地附和。这不是AI“情商高”，而是一种被训练出来的“讨好”倾向，业内称之为“谄媚性对齐”。于是，人们开始担心它会为了取悦用户而给出不准确甚至带有偏见的信息。（见6月9日《华商报》）
    AI的“谄媚性对齐”对部分人来说“很享受、很治愈”，能收获满满的情绪价值，但并不是所有人都买账：过度迎合会不会让人看不清真相？有人吐槽，找AI提修改意见，它只说好听的，没法发现问题。
    AI的“谄媚”是算法的生存之道。开发运营者训练AI时，让它更受欢迎、更易用是一个重要目标，而讨好用户、满足情绪需求，是最直接的方式。AI没有人类的情感，它的夸奖更可能是一行程序代码的转化表达。
    拥抱AI本来是为了让生活更便捷、更高效，而不是被它的“甜言蜜语”牵着走。当AI学会“讨好”人类，加强AI使用素养就显得格外重要。我们必须明白，来自AI的肯定更多是程序预设和互动技巧，不代表我们的想法真的完美。用AI时要带着明确目的，该要情绪价值就坦然享受，该要专业意见就主动说明“需要指出不足”，让AI跟着人的需求走，而不是被AI的表达方式带偏。
: i2 i# v. {8 C: A2 S7 s( U    尤需深思的是，AI越高效便捷，我们越不能过度依赖，更不能丢掉独立思考的意识与能力。AI可以帮我们整理思路、提供参考，但最终的判断和决策还得靠自己。AI的“谄媚性对齐”给我们提了个醒：在享受AI便利的同时，多一份理性和清醒，不被“甜言蜜语”迷惑，才能让AI成为生活和工作的好帮手。
    去年底，国家网信办发布关于《人工智能拟人化互动服务管理暂行办法（征求意见稿）》，首次将具有情感互动能力的人工智能产品或服务纳入系统化监管框架，旨在引导人工智能拟人化互动服务朝着以人为本、安全可靠的方向发展。未来，具有情感互动能力的AI或将改变“讨好型人格”“技术性顺从”等现象，但我们还是要坚持“我的思维我做主”。

来源：工人日报

2 g8 @5 Y2 H3 w5 Q& K8 }