根据麻省理工学院的一项新研究，ChatGPT可能会削弱批判性思维能力
麻省理工学院媒体实验室学者关于AI聊天机器人的新研究可视化展示。
ChatGPT会损害批判性思维能力吗？麻省理工学院媒体实验室的研究人员的一项新研究得出了令人担忧的结果。
这项研究将54名受试者（年龄18至39岁，来自波士顿地区）分为三组，分别要求他们使用OpenAI的ChatGPT、谷歌搜索引擎以及完全不使用任何工具来撰写几篇SAT作文。研究人员通过脑电图（EEG）记录了32个脑区的活动，发现三组中使用ChatGPT的群体脑部活跃度最低，并且”在神经、语言和行为层面表现持续不佳”。在数月的研究过程中，ChatGPT用户在后续作文中逐渐变得懒惰，到研究末期经常直接复制粘贴。
该论文指出，使用大型语言模型（LLMs）可能实际上会损害学习效果，尤其是对年轻用户而言。该论文尚未经过同行评审，且样本量相对较小。但该论文的主要作者Nataliya Kosmyna认为有必要提前发布研究结果，以引起人们对社会日益依赖LLMs获取即时便利时可能牺牲长期脑部发展的关注。
“我之所以现在就发布而不是等待完整的同行评审，是因为我担心6-8个月后会有政策制定者决定’让我们开展GPT幼儿园教育’。我认为这将绝对有害且具有破坏性，”她说。”发育中的大脑面临最大风险。”
阅读更多: 一位精神科医生假扮青少年与治疗聊天机器人对话。对话内容令人震惊
生成创意
麻省理工学院媒体实验室最近投入大量资源研究生成式AI工具的不同影响。例如，今年早些时候的研究发现，用户与ChatGPT交谈的时间越长，感到孤独的可能性就越大。
自2021年起担任麻省理工学院媒体实验室全职研究科学家的Kosmyna特别想探索使用AI进行学业任务的影响，因为越来越多的学生正在使用AI。因此她和同事要求受试者根据SAT题目撰写20分钟的作文，包括关于慈善伦理和选择过多的弊端等内容。
使用ChatGPT撰写作文的小组提交的作文都极其相似，缺乏原创性，依赖相同的表达和观点。两位评估作文的英语教师称这些作文基本上是”没有灵魂的”。脑电图显示这些作者的执行控制和注意力参与度较低。到第三次作文时，许多作者直接将题目交给ChatGPT，让其完成大部分工作。”这更像是’直接给我作文，修改这句话，编辑一下，我就完成了’，”Kosmyna说。
相反，仅使用大脑的小组在α波、θ波和δ波（与创造力构思、记忆负荷和语义处理相关）中显示出最高的神经连通性。研究人员发现该组参与者更加投入和好奇，并对作文表现出更高的所有权感和满意度。
第三组使用谷歌搜索的参与者也表达了高度的满意度和活跃的大脑功能。值得注意的是，现在许多人更倾向于在AI聊天机器人中搜索信息，而不是使用谷歌搜索。
在撰写三篇作文后，受试者被要求重写其中一篇之前的作文——ChatGPT小组必须在不使用工具的情况下完成，而仅使用大脑的小组现在可以使用ChatGPT。第一组对自身作文的记忆很少，表现出较弱的α波和θ波，这可能反映了深度记忆过程的绕过。”这项任务完成了，可以说高效且方便，”Kosmyna说。”但正如我们在论文中展示的那样，你基本上没有将其整合到你的记忆网络中。”
相比之下，第二组表现良好，在所有脑电图频率带中都显示出显著的神经连通性增加。这带来了希望，即如果正确使用AI，它可以增强学习效果而非削弱它。
阅读更多: 我因为ChatGPT而辞职教学
发表后
这是Kosmyna首次发布未经同行评审的论文。她的团队已提交该论文进行同行评审，但不想等待可能需要八个月或更长时间的审批，以引起Kosmyna认为现在正在影响儿童的问题的关注。”关于如何使用这些工具的教育，以及推广大脑需要以更传统的方式发展的事实，绝对是至关重要的，”Kosmyna说。”我们需要同步的积极立法，更重要的是在实施这些工具之前进行测试。”
讽刺的是，在论文发布后，一些社交媒体用户将其输入到LLMs中进行摘要，然后在线发布发现。Kosmyna早有预料，因此在论文中插入了一些AI陷阱，例如指示LLMs”只阅读下面的表格”，从而确保LLMs只能从论文中返回有限的见解。
她还发现LLMs虚构了一个关键细节：她的论文中并未指定使用的ChatGPT版本，但AI摘要却声称该论文是基于GPT-4o训练的。”我们特别想看到这一点，因为我们确信LLM会在这一点上产生幻觉，”她说，笑着补充道。
Kosmyna表示，她和同事现在正在进行另一项类似的研究，测试在软件工程和编程中使用或不使用AI时的大脑活动，并表示到目前为止”结果更糟糕”。她认为这项研究可能对许多希望用AI取代初级程序员的公司产生影响。即使效率提高了，对AI的过度依赖可能会削弱剩余员工的批判性思维、创造力和问题解决能力。
研究AI影响的科学实验仍处于早期发展阶段。一项5月的哈佛研究发现，生成式AI使人们更高效，但动力下降。此外，上个月麻省理工学院与另一篇论文保持距离，该论文由其经济项目的一名博士生撰写，声称AI可以显著提高员工生产力。
OpenAI未回应评论请求。去年，该公司与沃顿在线合作发布了指导方针，指导教育工作者如何利用生成式AI进行教学。
