警惕“依赖AI”，如何保持独立思考

中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 近日，美国斯坦福大学的研究人员策划了全球首个以人工智能（AI）为论文主要作者和审稿人的在线公开会议。主办方表示，本次会议旨在打造一个“相对安全的地面测试”，探索人工智能能否以及如何独立生成新颖的科学观点、假设、方法等。如今，人工智能已经成为我们工作和生活的一大帮手，但它也提供了一条“认知捷径”，让人们无需过多思考就能得到自己想要的答案。一开始，我们只是查找资料、翻译文字，开始一点点用AI来帮助撰写电子邮件、工作总结、研究论文，甚至做出重要的决策……过于依赖AI，将其用于“外包思维””可能会导致我们逐渐失去思想的主导权。在人机共生的时代，人类如何保持独立思考？对人工智能的隐忧“外包的思考”正如上面会议所讨论的那样，大模型、智能体等人工智能应用在包括科学研究在内的多个领域广泛赋能人类劳动和生活，推动了学术研究和劳动生活质量和效率的提升。但其带来的技术红利背后也存在隐忧。一些新的研究表明，忠实于AI模型会导致“AI脑雾”，削弱工作动力 美国麻省理工学院的研究表明，长期使用AI会导致认知能力下降。研究人员对受试者进行脑电图扫描后发现，与不使用AI工具的人相比，使用AI工具的人大脑中的神经连接数量减少了。sed 大规模 AI 语言模型长期以来被缩减，影响语言和行为。微软和卡内基梅隆大学的研究也同样发现，人工智能的发展会削弱批判性思维能力，导致过度依赖，并会削弱人们独立解决问题的能力。研究人员认为，开发人员在设计人工智能工具时，应该支持用户提高批判性思维意识，例如提示需要验证的场景。尤其是在设计法律文书、医疗咨询等高风险任务时，应强制弹出验证提醒（如“请检查AI引用的监管规定”），标记潜在风险，打破用户对“全知全能”的认知偏见。浙江大学管理学院吴素清团队今年在英国杂志Scientific Reports上发表的研究也表明，人工智能的应用造成了企业的“空心化”。认知需求。当人工智能完成工作中“烧脑”的部分时，人类只剩下机械执行，工作沦为“被动填空”，这会导致心理疏离，失去工作动力。这就要求企业、政府部门等在抛弃AI时要“放慢脚步”。可以先小范围试点，有控制地推广，边使用边观察对员工积极性和创造力的影响。为什么人们会“愚蠢地相信”人工智能？人们之所以更加依赖人工智能，来自于近年来人工智能专业能力和沟通便利性的飞跃：其所包含内容的专业程度让很多人将其视为专家，而对话式的交互方式使其像一个知识渊博的“朋友”，每个人都可以与之交谈，更容易让人产生感情。希望和信任。如今，“出外”的便利“盒子”大规模AI模型进一步降低了使用门槛。由于缺乏AI素养基础教育，用户对AI本身的技术缺陷认识不足，更容易“着迷”。今年6月，英国高等法院要求律师立即采取行动，防止AI被滥用，因为许多可能由AI生成的虚假案例参考被提交给法院。今年由美国卫生与公众服务部牵头的儿童慢性病报告和“让美国再次健康”委员会也因使用生成式人工智能内容而遭受重大引用错误，荷兰阿姆斯特丹大学研究员詹姆斯·皮尔森表示，人工智能将显着促进科学研究进程，例如，它可以用于绘制蛋白质结构、开发新抗生素、加速文献综述等进程。当人工智能产生的“幻觉”出现在论文评论或研究中时，人们感到担忧。人工智能还可能在其训练数据中携带偏见，从而加剧种族、性别和其他不平等。 “当我们使用AI时，我们也将自己的判断外包出去，我们不再验证AI提供的答案，也不再反映使用AI的过程。无条件接受AI提供的任何信息都会导致人们主观能动性的否定，深度阅读、思考和表达的能力也会越来越差。”科幻作家、中国作协科幻委员会副主任陈秋帆在接受新华社记者采访时表示。为未来思维建立“人工智能缓冲区”，人工智能必将更加深入地融入我们的工作和生活。在人机共生的新时代，与AI共存需要更多智慧。美国人工智能教育公司Section 4首席执行官Greg Schoff，预计未来10年，使用AI的知识工作者将分为两类：“AI乘客”和“AI司机”。 AI乘客“会很乐意将所有认知工作交给AI，并可能在短期内因其工作效率的提高而获得认可”。但由于AI能力不同，这些人最终会被AI取代。 “AI司机”坚持主导AI的运行，将AI生成的内容视为初稿，严格检查结果，有时甚至关闭AI进行独立思考。 “我们需要知道区分哪些场景适合在不同的学习和工作场景中使用人工智能，哪些场景需要人类辅助来判断和识别人工智能提供的结果。”陈秋帆也持同样的观点。在他看来，人们应该在自己的思想和认知上占据主动，有意识地建立“AI缓冲区”。也就是说，当遇到新问题时，他们必须首先从自己的角度提供答案，然后寻求人工智能的深化和扩展。 “我们还可以进行‘一代对手’，即当AI给出与自己观点一致的答案时，必须批判性地思考问一问，我是否受到了AI的影响，或者AI是否在我的持续训练下变得越来越雷同？我们就不能打破思维的惯性，做出不同的选择，给出AI意想不到的答案吗？”他说。