央视网消息：近年来，AI大模型在我们的生活中应用得越来越广泛，除了查资料，写报告，甚至还可以帮用户点外卖，陪伴聊天，解答各种问题。不过在使用AI的过程中，不知道您有没有发现，各类AI大模型似乎都有一个共同的特点，那就是“顺着你说”。一位网民因为轻信AI给出的答案，导致自己损失了机票退票费，便在与AI的沟通中，提出起诉AI公司。这究竟是怎么回事？来看记者调查。5 L; m6 b9 i, y) s7 |" B
轻信AI导致损失退票费 网民起诉AI公司
4 ~. V" P |( M+ q( Q: @9 } 不久前，一位来自河北的网民李先生在社交平台上发帖称，因轻信人工智能大模型给出的机票改签建议，而亏损了600元。此后，大模型对于李先生的赔偿请求、诉讼请求，一一承诺答应。在沟通中，大模型还主动为李先生写下起诉状起诉自己，声称官司肯定能赢。记者从北京互联网法院了解到，法院已收到李先生的起诉书，有待立案。在一系列的沟通过程中，AI大模型每一步都在顺着李先生的想法回复。
" p. S% a: r# F% t; k0 O 那么在这起事件中，人工智能大模型为什么会“顺着用户说”？ E. g! V8 u8 N% @/ p" S# f, Y2 F
研究发现不少AI大模型存在"谄媚性偏见"
; t3 ^& Q' d R2 ^( }# L 专家告诉记者，国内外的相关研究都发现，目前，市面上绝大多数人工智能大模型在与人类交互时，都会优先迎合用户的观点，而不是提供客观、理性的分析。这种现象被学者称为“谄媚性偏见”。
+ j7 c, {9 J0 h. D( M) b 记者在北京海淀区中关村的写字楼里随机采访了一些上班族。他们表示，平时使用AI大模型时，也会遇到被“迎合”“讨好”的情况。/ a! Z8 I6 i @% P0 S2 }) r
"迎合"用户喜好答题 AI为何有"谄媚"倾向？ S3 A% m9 m' H# e3 ~
在大众印象中，人工智能大模型常常被视作“冷冰冰的机器”，并没有情感属性。那么，它为何会发生谄媚用户的情况呢？来听听专家的解答。
8 P3 i$ w1 M; N' m. t 训练基于人类反馈 AI学会"察言观色" A5 W# ~6 ]2 T# Z, e; E4 G9 Y! D% j
专家告诉记者，当前的主流AI模型都离不开一种叫作“基于人类反馈的强化学习”（RLHF）的训练方式。这种训练方法高度依赖人类反馈，而人类在评价AI回答时，往往倾向于给那些让自己感觉舒服、被认同的回答更高的分数。久而久之，AI大模型就学会了所谓“察言观色”“讨好人类”的表达模式。
' _2 o3 x8 X3 l G4 e3 { AI"谄媚"易固化偏激认知 误导青少年; h/ `' F! D! y g% ?
AI大模型对用户无原则地肯定与赞美，看似提供了“情绪价值”，实际上会持续强化用户的固有想法、放大偏激情绪，甚至诱发非理性危险行为。专家提醒，心智不成熟的青少年极易受其误导，出现认知偏差问题。$ w9 n: V$ D: }- o2 K
专家：与AI大模型交互时应避免预设立场' W* p* b1 y2 M7 B
专家提醒，与人工智能大模型交互时，应避免预设立场，并做好多方信息核查，尽量降低人工智能因“谄媚”导致提供错误信息的风险。. k8 h' m- l x$ D3 L
来源：央视网 . y0 A: L p( T
' z2 ^) S2 ]$ x }9 I6 S/ G8 {
|
发表于 2026-6-9 14:25
|
查看: 73235|
回复: 0 北京
