可为、难为与应为，12位专家共话ChatGPT

Part.2

创新与局限：ChatGPT“强势”进入教育教学

进入新世纪以来，基于传统远程教育、新近在线教育和移动学习等实践经验，人工智能介入教育与学习领域的影响，已经从人工智能系统在教育与学习制度体系内运作的第一阶段，以及人工智能深度介入教育与学习领域推动形成教育与学习新生态的第二阶段，进入到人工智能系统与人类共生共存的第三阶段。尤其，ChatGPT及相关人机对话模型作为深度学习训练集，将显性知识重构，并将隐性知识显性化，正在产生重大影响。

在线学习：ChatGPT应用给教育教学带来哪些创新？

卢宇：ChatGPT系统具有多项核心能力，包括启发性内容生成能力、对话情境理解能力、序列任务执行能力、程序语言解析能力等，不同核心能力可以支持不同的潜在教育应用，为其在教育领域的应用提供了诸多可能性。例如ChatGPT的序列任务执行能力，在辅助教师生成个性化教学方案的过程中，可以依据教师的教学需求，分步骤生成多种适切的教学设计。ChatGPT的启发性内容生成能力则能够为教师在备课过程中提供思路启发与多种备选方案，提升教师的备课效率与授课质量。

尚俊杰：在学习层面，人工智能教育应用主要是实现个性化自适应学习，以更好地培养个性化创新人才；在教学层面，主要是人机协同打造超级教师，让教师更幸福；在管理层面，主要是提升管理效率和决策水平，实现看不见的服务和管理。以ChatGPT为代表的生成式人工智能产品，自然也具备以上教育价值，而且，鉴于其在对话和内容生成方面的突出能力，可能还会有一些特殊的应用。比如，在学习层面，ChatGPT可以采用“苏格拉底教学法”，通过讨论、问答甚至辩论的方式来引导学生学习，而且ChatGPT可以随时随地给予学生必要的反馈和帮助。在教学层面，ChatGPT也可以辅助教师查找资源、生成教案、撰写教材、准备教学课件等。在管理层面，ChatGPT首先能够帮助管理人员快速完成大量的事务性工作，如生成通知、规章制度等；其次，ChatGPT还可以被用于管理决策，如在对应聘教师进行评价时，ChatGPT能进行全方位的对比分析，辅助管理者决策。

在线学习：ChatGPT等内容生成式AI产品与之前其他新技术产品的不同之处是什么？它将如何引发学习评价变革？

沈书生：早期的教育中往往更加关注不同个体的大脑差别，通过评价行为区分大脑的记忆力与理解力，进而区分不同个体的差异。早期对于学习个体的评价往往基于某些客观标准展开，注重对于已知领域的评价，却忽略了未知世界。当AIGC产品出现以后，人们发现无论人脑有多大的容量，也无法与机器媲美，但是，机器能够给我们提供的仅仅是帮忙我们思考的数据，如果我们不能准确理解这些数据，就不能由此获得认知的变化。人类能够战胜机器的是人脑所具有的处理非程式化问题的能力，而非程式化的问题。因此，我认为在未来的评价中，应当侧重于判断学习者的创造性问题解决能力，并通过评价变革推动教学变革，引导学习者巧妙地使用AIGC产品，以这类产品所提供的结构相对明晰的数据为基础，合理分析和利用，进一步生成新的认知。

在线学习：ChatGPT若想实现更广泛领域的教学应用，还存在哪些问题？可从哪些方面进行完善？

顾小清：要使ChatGPT在更广泛的教育领域发挥作用，需要考虑如何进行有效教学。“学习”是个人的，“教育”是规模化的，规模化的教育与个体化的学习之间存在的矛盾是问题的主要根源。这不仅与智适应导学相关，还需要从知识掌握的维度考虑，即作为教师，不应是简单的知识传授，还需要考虑ChatGPT如何促进学生在与知识的互动中实现经验建构。

卢宇：首先，ChatGPT系统目前仍然难以充分理解信息和分析信息内在的逻辑关系，因此很容易生成不合理的内容或者犯事实性的错误。例如ChatGPT会非常自然地回答诸如“诸葛亮如何打败秦始皇”或“林黛玉初见曹雪芹的情景”这种荒唐的问题。这种事实性的错误容易误导不具备专业知识或缺少相关常识的学习者，引起学习迷航与认知障碍。其次，生成式人工智能的过程仍然是“黑箱”，所生成的内容不具备可解释性与明确的依据。例如，让ChatGPT写出“低时间复杂度的字符串匹配”代码，即使所生成的长段代码可以运行且结果看似正确，但代码中细微的逻辑错误或步骤冗余也难以精确识别，无法直接应用于重要的课程实践和高利害考试中。另外，生成式人工智能在中文语境和文字上的理解、表达能力总体上要弱于英文。这种能力差距源于预训练语料以英文为主的现实情况，也因此可能导致非英语母语的学习者理解困难，甚至回答错误。

Part.3

学术与科研：三对比法破题 避免人被AI驯化

目前，以ChatGPT为代表的人工智能技术展现出巨大的应用潜力，可能颠覆传统的科学研究方式，以人工智能为科研基础的新范式正在形成。但不容忽视的是，人工智能带来的科研伦理、公平性问题，需要予以充分关注，包括建立健全相关法律法规，规范论文生产、科学研究，合理运用人工智能技术。

在线学习：ChatGPT等人工智能产品给教育研究带来哪些影响？有何应对策略？

李青：从积极角度看，ChatGPT等人工智能工具能够有效提高科研效率，比如帮助研究者快速检索相关文献，助其进行数据统计与分析等；从消极角度看，生成式人工智能技术可能被恶意利用，带来违反学术伦理道德、混淆研究价值立场等问题，尤其可能会造成较为严重的安全隐患。例如，可以用多步提示的方式，引导系统给出“如何入室盗窃”或“如何制造伤人工具”这样危险问题的答案。这些危险信息如果被学习者获得和传播，会带来较为严重的青少年问题和社会危害。另外，还会带来教育数据的安全风险。

沈书生：区分学习的目标和要求，并对使用AIGC产品的意图进行不同分析，才可能准确理解AIGC产品对于教育的价值。当AIGC产品被应用到教育研究领域以后，研究也许会出现分化，对于真正的研究者，他们会思考如何基于人类的已有认识进行创新性思考；但不排除会出现一些伪研究者，可能会借助相关技术提供的已有认识，通过简单处理后作为自己的创新成果进行发布，导致学术领域出现短暂的混乱。但可以预见的是，经过一段过渡期后，这些伪研究者就会慢慢地在更新的技术面前暴露原形。

沈阳：我在某次学术会议中提出了一个新的研究思路，即当我们写论文时，可以把研究结论和过去的结论做对比，也可以和AIGC/ChatGPT的研究结论做对比，即“三对比法”。该方法把ChatGPT的结论纳入对比，而不是直接归于自己，可以从某种程度上避免学术争议，同时对于自己完善提高也有帮助；另外该方法有助于优化我们使用Prompt的能力，从而形成不同领域的Prompt模型，促使AI发挥最大潜力，反哺我们发挥大脑的最大潜力。

在线学习：目前，为避免学生滥用ChatGPT写论文、做作业或作弊，很多学校对其应用做出限制，甚至禁用。对此，您怎么看？

张志祯：目前ChatGPT类产品需要学生用语言向系统描述问题，能够和学生一起协同改进问题答案。与“拍照搜题”相比，学生的参与更多，更积极一些，但也仅此而已，学生还是旁观者、评判者、修改者，而不是亲历问题的解决者、论文方案的架构设计者。从这个意义上讲，能够回答“任何问题”的ChatGPT类产品服务，确实是“带刺的玫瑰”。若用法不对，它对学生的伤害远远在“肌肤之下，”且更为隐秘持久。

用ChatGPT作弊或者涉及学术诚信嫌疑的行为，当然需要禁止、谴责，甚至惩罚。但作为教育机构，一定要本着“惩前毖后，治病救人”的态度。具体来说，应协同决策，事先知情，事后惩戒。把ChatGPT类产品服务应用作为学术规范、学术诚信教育的机会，让教师、学生理解这件事的性质与影响。在充分知情的情况下，师生共同制订规则。一旦违反，有惩罚措施，且惩戒的规则、力度要明确。

值得关注的是，学术诚信是个老问题，不仅是对于学生，对于科研工作者也是挑战，需要从个体自律、自我要求、社会制度、技术手段等方面多管齐下才能解决。在这个意义上，学术动机、学业动机的外部化与功利化，造成的不良学术风气、学习风气的影响，可能远比ChatGPT类产品应用的危害要大得多。

李青：学生、教学者和管理者可能都需要审慎思考这个问题。我个人的看法是“宜疏不宜堵”“变挑战为机遇”。对于教育者和教育机构来说，要将它的应用约束到合理范围；然后“守正创新”，创造性地利用它，让它有助于学习和育人。从教师的角度来看，首先要关心的是学生应用人工智能工具的界限是什么。教师要加深对技术的理解，还要反思自己的教学评价设计或是现有的评价机制是否存在问题。对学生来说，要帮助其正确认识教育的意义，并对分数形成正确的认识。此外，学生应该具备合理使用人工智能的意识，不能一味地盲从人工智能给出的结果，在人和人工智能的协同中要保持人的独立性。否则，最悲观的观点就可能变为现实——人可能会被AI驯化。