如何避免AI大模型“顺着你说”？专家支招

cnofor

    央视网消息：近年来，AI大模型在我们的生活中应用得越来越广泛，除了查资料，写报告，甚至还可以帮用户点外卖，陪伴聊天，解答各种问题。不过在使用AI的过程中，不知道您有没有发现，各类AI大模型似乎都有一个共同的特点，那就是“顺着你说”。一位网民因为轻信AI给出的答案，导致自己损失了机票退票费，便在与AI的沟通中，提出起诉AI公司。这究竟是怎么回事？来看记者调查。
    轻信AI导致损失退票费 网民起诉AI公司
    不久前，一位来自河北的网民李先生在社交平台上发帖称，因轻信人工智能大模型给出的机票改签建议，而亏损了600元。此后，大模型对于李先生的赔偿请求、诉讼请求，一一承诺答应。在沟通中，大模型还主动为李先生写下起诉状起诉自己，声称官司肯定能赢。记者从北京互联网法院了解到，法院已收到李先生的起诉书，有待立案。在一系列的沟通过程中，AI大模型每一步都在顺着李先生的想法回复。
3 I" Y" V4 {. \2 r6 a    那么在这起事件中，人工智能大模型为什么会“顺着用户说”？
9 x% n, h6 }# P( U7 V    研究发现不少AI大模型存在"谄媚性偏见"
+ Z3 r7 X) ]- [  N; n! |; t) Y. O& ^9 M    专家告诉记者，国内外的相关研究都发现，目前，市面上绝大多数人工智能大模型在与人类交互时，都会优先迎合用户的观点，而不是提供客观、理性的分析。这种现象被学者称为“谄媚性偏见”。
& Q* m* s  s; R3 k% p/ v    记者在北京海淀区中关村的写字楼里随机采访了一些上班族。他们表示，平时使用AI大模型时，也会遇到被“迎合”“讨好”的情况。
5 K$ k! V1 X, A& c  P# E0 l2 o    "迎合"用户喜好答题 AI为何有"谄媚"倾向？
4 f+ ]7 F: P  `' k9 v; m+ A5 Z* n( W9 N( X    在大众印象中，人工智能大模型常常被视作“冷冰冰的机器”，并没有情感属性。那么，它为何会发生谄媚用户的情况呢？来听听专家的解答。
- c4 ~* {7 e0 \# ]! H. h/ f. h) c    训练基于人类反馈 AI学会"察言观色"
( U/ k* m" G  O: ]7 M    专家告诉记者，当前的主流AI模型都离不开一种叫作“基于人类反馈的强化学习”（RLHF）的训练方式。这种训练方法高度依赖人类反馈，而人类在评价AI回答时，往往倾向于给那些让自己感觉舒服、被认同的回答更高的分数。久而久之，AI大模型就学会了所谓“察言观色”“讨好人类”的表达模式。
5 K3 M4 ~7 O  m    AI"谄媚"易固化偏激认知 误导青少年
    AI大模型对用户无原则地肯定与赞美，看似提供了“情绪价值”，实际上会持续强化用户的固有想法、放大偏激情绪，甚至诱发非理性危险行为。专家提醒，心智不成熟的青少年极易受其误导，出现认知偏差问题。
    专家：与AI大模型交互时应避免预设立场
2 b8 o1 {% Z/ ]6 e' a2 k) ]2 z0 O. j    专家提醒，与人工智能大模型交互时，应避免预设立场，并做好多方信息核查，尽量降低人工智能因“谄媚”导致提供错误信息的风险。
. x: u0 m' A1 F9 k/ d( u2 w8 B1 s  e

来源：央视网