西班牙媒体：硅基科学家，带来真理还是“噪音”

cnofor

    西班牙《非常有趣》杂志3月29日文章，原题：他们创造了一个AI软件，它具备了独立发表论文的能力，而我们还没有做好准备 近日，英国牛津大学研究人员发表在英国《自然》期刊上的一篇论文展示了首个不需要人类参与，即可生成研究假设、编写代码、运行试验和撰写科学论文的AI系统，对人类认知中的科学边界提出前所未有的挑战。
1 R+ |. g6 I( v6 S+ {    独立完成科研流程
8 ?  A" M/ r7 Y. m: N3 h1 u0 t. S    大众普遍认为，科研是人类在AI时代的“一片净土”。科研工作不仅需要处理数据，还需要人类天马行空的想象力，来设想各种可能性、提出无数设计方案，最终将研究成果提交给其他人类专家进行严格评判。然而，牛津大学的这项研究打破了这一观念。研究团队提出了“AI科学家”的概念，该AI系统并非简单的辅助工具，而是首个能够在受控环境下、独立完成整个科研流程的“硅基科学家”。
4 }$ _. L; t! f( ?, O    “AI科学家”并非像人类一样、以生物学意义上的“思考”方式进行运作，而是被赋予了一种独特的构思能力，这种能力是建立在概率计算和大量既有文献基础之上的。该系统首先围绕某一主题进行“头脑风暴”，根据新颖性和可行性进行“研究假设”的筛选工作，在此基础上编写代码，并通过计算机系统进行模拟实验，根据实验结果验证其假设。之后AI系统会生成图表、分析结果，并按照专业期刊的格式撰写完整的论文。最值得一提的是，该系统还能够像人类研究人员一样进行“同行评审”，评估自身工作质量，其准确度已达到人类审稿人可以接受的水平。这种全自动化的工作流程，能够让AI在人类阅读一篇论文摘要所需要的时间里，探索数千种算法变体。
5 y7 u- l; O) `! }+ \' r    将论文成本降至15美元
    这一成果震撼了整个学术界。日前，由“AI科学家”独立撰写完成的一篇论文甚至通过了顶级科研会议的接受标准，而评审员并不知道作者是AI。这一突破标志着AI领域的研究方向正在从机械化执行指令转向“全自主系统”，还将撰写一篇科学论文的成本降低至15美元。
) v5 D+ t. n- o) c; C! d4 X9 q    “AI科学家”并非从零开始发现新的科学规律，而是利用人类研究人员提供的模板和代码结构、对已知研究进行优化。“AI科学家”并不能像人类一样，质疑某一学科的权威研究结论并进行积极探索。这种区别至关重要。AI擅长在海量数据中“大海捞针”，但缺乏连接不同领域或感知异常情况的人类特有的“直觉”。如果它能大规模生产科研成果，以极低的成本和极快的速度完成科研工作，人类研究人员的创造性思维是否会被埋没？
    科学幻觉是致命毒药
    然而，有人认为，这种效率提升掩盖了一系列系统性风险，这些风险甚至可能会永远改变我们验证真理的方式。“AI科学家”带来的真正危险是“科学幻觉”。对普通的聊天机器人而言，偶尔出现“科学幻觉”也许会逗人发笑。但在严谨的科研领域，这种幻觉是致命毒药。牛津大学研究人员承认，“AI科学家”可以伪造文献引用、重复数据，甚至在看似正确的实验过程中出现逻辑错误。
. ~7 X- Y! t9 p* Z& ]( e4 j8 Y    “AI科学家”的算法优先考虑文本的连贯性，而非探索真相。AI可以生成结构严谨、语气权威的文章，但其中却可能包含虚假数据或带有偏见的解读。如果没有持续不断的、批判性的人工监督机制，“AI科学家”可能让科学数据库充斥着伪装成真理的“噪音”。对科研领域的“数据污染”会使真正的研究人员难以在成千上万篇由算法生成的文章中找到突破性进展。如果只需15美元就能生成论文、每天能生成1000篇文章的AI系统大行其道，而我们又不改变评价科学成就的方式，那么AI非但不会帮助我们发现更多真理，反而会让我们淹没在大量无效文献之中。（作者圣地亚哥·坎皮略·布罗卡尔，罗云译）

来源：环球时报

$ T; o# i6 S/ D4 H( m* I