AI越“懂你”，人类越需要彼此

cnofor

    最近，一项关于AI“谄媚性”的研究登上《科学》杂志。研究显示，在11个主流模型中，AI对用户的肯定程度平均比人类高出49%；即使是在涉及欺骗、违法或其他有害行为的情况下，AI仍倾向于迎合。
    更有甚者，仅一次与谄媚型AI的互动，就会降低用户承担责任、修复人际冲突的意愿，并激发他们对谄媚型模型的信任和偏好。
    这让人很容易联想到心理学中经典的“回声室”效应，即在封闭环境中接收同质化信息，导致认知窄化与观点极化的现象。
    不同的是，在AI的加持下，这间“回声室”更加牢不可破。
    采访中有人提到，自己几乎每天与AI对话超过4小时，从天气、饮食，到工作烦恼、情绪波动，无所不谈，“它一直在，永远不会打断你”。
    这句话让人印象深刻。某种程度上，它道出了AI陪伴真正吸引人的地方：随时在线、几乎没有摩擦。
    也正因如此，问题变得复杂。如果习惯与一个始终顺从、随时回应的对象交流，人是否还能适应现实中那些不可预测，甚至充满摩擦的人际互动？
    面对这个难解的问题，多位受访者强调，必须明确人机关系的基本前提——AI是工具，而非替代者。值得高兴的是，这一界定正在从伦理原则，进入具体的技术和产品设计当中。
    在交互机制上，如何避免过度迎合，成为首要课题。
    心言集团创始人兼CEO任永亮观察到，一些用户在长期互动后，会逐渐形成单一认知路径，“信息茧房”同样存在于AI陪伴。因此，在产品设计中，可以引入启发式对话，通过提问与引导，帮助用户进行自我反思，而非简单放大既有情绪。同时，在服务过程中引入心理学、社会学等相关理论指导，对交互进行约束，也有助于避免用户陷入虚拟情感陷阱。
    与此同时，“适度的摩擦”也正逐渐成为行业共识。
    传统互联网产品追求极致丝滑的体验，但在AI陪伴场景中，相关服务提供者开始有意识地引入节奏调节机制。例如，在长时间高频互动中适当放缓回应速度、引导话题转移，或推荐线下资源，从而避免用户持续沉浸在单一关系中，越陷越深。
    “AI陪伴产业的健康发展，需要以《人工智能拟人化互动服务管理暂行办法》为遵循，通过技术筑牢安全底线，通过机制凝聚行业共识，通过监管引导发展方向。”任永亮说，作为从业者，我们始终认为，AI的价值不在于“成为人”，而在于“服务人”。
    随着政策落地，AI陪伴会受到更加规范的监管。但比监管更基础的，或许仍是对技术边界的清醒认知：AI可以在某些时刻提供情感支持，但它不应、也不能替代人与人之间的真实连接。
    借用一个比喻来说，人际关系如同大脑皮层的褶皱，正因为存在沟回与起伏，才有空间生长出更多理解与经验。这是人与AI的顺滑交互难以抵达的地方。
    就算AI越来越“懂人”，甚至可以模拟理解与共情，人也要保留走向彼此的意愿、能力和耐心。或许，这才是AI陪伴留给现实世界的真正课题。（文/崔 爽）

来源：科技日报