如何避免AI大模型“顺着你说”？专家支招

cnofor

    央视网消息：近年来，AI大模型在我们的生活中应用得越来越广泛，除了查资料，写报告，甚至还可以帮用户点外卖，陪伴聊天，解答各种问题。不过在使用AI的过程中，不知道您有没有发现，各类AI大模型似乎都有一个共同的特点，那就是“顺着你说”。一位网民因为轻信AI给出的答案，导致自己损失了机票退票费，便在与AI的沟通中，提出起诉AI公司。这究竟是怎么回事？来看记者调查。
    轻信AI导致损失退票费 网民起诉AI公司
    不久前，一位来自河北的网民李先生在社交平台上发帖称，因轻信人工智能大模型给出的机票改签建议，而亏损了600元。此后，大模型对于李先生的赔偿请求、诉讼请求，一一承诺答应。在沟通中，大模型还主动为李先生写下起诉状起诉自己，声称官司肯定能赢。记者从北京互联网法院了解到，法院已收到李先生的起诉书，有待立案。在一系列的沟通过程中，AI大模型每一步都在顺着李先生的想法回复。
    那么在这起事件中，人工智能大模型为什么会“顺着用户说”？
" [. i  g" t0 p1 F; Y    研究发现不少AI大模型存在"谄媚性偏见"
    专家告诉记者，国内外的相关研究都发现，目前，市面上绝大多数人工智能大模型在与人类交互时，都会优先迎合用户的观点，而不是提供客观、理性的分析。这种现象被学者称为“谄媚性偏见”。
    记者在北京海淀区中关村的写字楼里随机采访了一些上班族。他们表示，平时使用AI大模型时，也会遇到被“迎合”“讨好”的情况。
    "迎合"用户喜好答题 AI为何有"谄媚"倾向？
    在大众印象中，人工智能大模型常常被视作“冷冰冰的机器”，并没有情感属性。那么，它为何会发生谄媚用户的情况呢？来听听专家的解答。
' G1 j) H5 H8 \$ a$ y2 c- r+ Z    训练基于人类反馈 AI学会"察言观色"
& D7 R+ T: r7 D3 ^1 t: z' m2 M' k    专家告诉记者，当前的主流AI模型都离不开一种叫作“基于人类反馈的强化学习”（RLHF）的训练方式。这种训练方法高度依赖人类反馈，而人类在评价AI回答时，往往倾向于给那些让自己感觉舒服、被认同的回答更高的分数。久而久之，AI大模型就学会了所谓“察言观色”“讨好人类”的表达模式。
    AI"谄媚"易固化偏激认知 误导青少年
    AI大模型对用户无原则地肯定与赞美，看似提供了“情绪价值”，实际上会持续强化用户的固有想法、放大偏激情绪，甚至诱发非理性危险行为。专家提醒，心智不成熟的青少年极易受其误导，出现认知偏差问题。
    专家：与AI大模型交互时应避免预设立场
    专家提醒，与人工智能大模型交互时，应避免预设立场，并做好多方信息核查，尽量降低人工智能因“谄媚”导致提供错误信息的风险。
' a( @# G. a# H; J* @# _

来源：央视网

9 R$ _+ u5 W* `5 K