本方案提供了一套可重复的工作流程,用于收集自报告式问卷数据、对与学习者相关的变量进行评分、将高阶思维得分二分法处理,并应用C5.0决策树,以展示在生成式人工智能支持的学术学习中可解释的学习者分类。
方法文章
本方案提供了一套可重复的工作流程,用于收集自报告式问卷数据、对与学习者相关的变量进行评分、将高阶思维得分二分法处理,并应用C5.0决策树,以展示在生成式人工智能支持的学术学习中可解释的学习者分类。
生成式人工智能在高等教育中的应用日益广泛,但在这一快速变化的背景下,研究人员仍需建立透明的程序,以收集、评分和组织学习者层面的调查数据。本文介绍了一种可重复的调查评分与C5.0决策树工作流程,用于对大学生在学术学习中使用生成式人工智能工具后自我报告的高阶思维水平进行分类。该方案涵盖参与者招募、问卷施测、作答质量筛查、综合得分计算、二元编码、训练-测试集划分、C5.0决策树构建、剪枝、模型输出导出以及基于节点的分类路径解释。本工作流程以2023年3月7日至3月15日在中国一所高校收集的776名本科生的调查数据集为例进行演示。高阶思维在此被操作化定义为自我报告的问卷得分,而非直接观察到的认知表现。在演示数据集中,剪枝后的决策树保留了八个与学习者相关的变量:生成式人工智能焦虑、对生成式人工智能的信任、智能手机问题性使用、学业拖延、学业表现、父母教养方式、负面情绪以及对生成式人工智能的态度。所保留的模型在训练子集中的准确率为89.52%,在测试子集中的准确率为86.21%。然而,类别特异性评估显示性能不均衡,低高阶思维(Low-HOT)类别的召回率明显低于高高阶思维(High-HOT)类别。因此,该决策树应被视为一种辅助性的、可解释的工作流程示例,而非经过验证的筛查工具。本方案可为需要在生成式人工智能支持的学习环境中开展基于调查的学习者画像研究的研究人员提供一套有据可循且可重复的操作流程。
高阶思维是高等教育中的核心关注点,因为大学学习应超越对事实性知识的记忆,转向分析、评价、反思、问题解决以及知识创造1。布鲁姆教育目标分类法的后续修订进一步明确,高级学习不仅包括记忆与理解,还涉及在日益复杂的语境中应用、分析、评价和创造知识2。这一区分对本研究方案尤为重要,因为高阶思维并非被视为一个简单的成就分数,而是一个学习者层面的构念,在进行分析之前需要进行严谨的操作化定义。在教育研究中,高阶思维还与批判性推理、元认知监控以及在不同问题情境间的学习迁移密切相关3。对于技术支持的学习而言,这一问题尤为关键,因为学生在解决问题的过程中往往需要连接概念、评估生成的信息并做出决策,而不仅仅是被动接收教学内容4。
生成式人工智能的迅速传播使得高阶思维能力的测量变得更加复杂。生成式人工智能工具能够基于从大规模数据集中学习到的模式,生成文本、代码、图像、解释、摘要以及其他形式的学术支持5。大型语言模型(包括ChatGPT)在2022年底至2023年初公众广泛采用的初期阶段,尤其在高等教育领域受到广泛关注6。在学术环境中,学生可能利用这些工具进行信息检索、概念解释、提纲构建、想法生成、作业修改、翻译辅助以及其他与课程相关的活动。这些使用方式可能减轻常规工作负担,但也可能改变学生注意力的分配方式、对信息质量的判断以及对自身认知努力的调节。因此,针对生成式人工智能支持下的学习研究,需要采用能够清晰记录学习者层面变量的收集、评分、编码和解释过程的研究方法。
以往关于数字化与混合式学习的研究表明,当学生积极参与学习任务而非被动使用学习环境时,技术能够支持高阶思维能力的提升7。移动学习与技术增强型学习的研究也类似地指出,同伴互动、学习感知以及主动参与程度与学生发展高阶思维倾向密切相关8。数据挖掘方法亦已被用于探究在线学习行为与高阶思维技能之间的关联,显示出将教育数据组织为可解释的学习者行为模式的价值9。大量技术使用研究受到技术接受模型(Technology Acceptance Model)的指导,该模型通过感知有用性与感知易用性来解释技术使用行为10。然而,生成式人工智能支持的学习与早期的数字化学习情境存在差异,因为学生所交互的系统会产生开放性回应,影响其信心水平,并可能激发或削弱其批判性参与。因此,针对该主题的研究方案不仅应记录学生是否接受该技术,还应系统记录情感、行为、学术与情境等指标,以为后续分析做好准备。
在此背景下,若干与学习者相关的变量尤为关键。对人工智能的信任程度可能影响学生是否依赖生成内容、对其提出质疑,或在学术工作中谨慎地加以整合11。对技术或人工智能的焦虑也可能产生影响,尽管在缺乏实证依据的情况下,不应单向解读其作用12。智能手机的不当使用是另一个相关的行为指标,因为注意力碎片化和设备相关的分心可能干扰学习过程中的持续认知投入13。更广泛的学术研究进一步表明,自我调节学习策略与在线及技术支持环境中的学业成就相关14。基于探究与合作学习的研究也指出,有意义的学习取决于学生参与学习任务的方式、证据的组织以及解释的构建过程15。这些因素支持采用多变量调查流程,而非仅局限于对生成式人工智能接触程度的单一测量。
认知负荷理论为在同一工作流程中记录情绪和行为指标提供了额外的依据。由于工作记忆有限,过多或组织不当的信息可能会干扰学习和问题解决过程16。在生成式人工智能支持的学习中,当学生面对大量生成内容、不一致的解释、无关的建议或相互冲突的信息来源时,这一问题尤为明显。研究还表明,在多媒体学习过程中,情绪活动与认知负荷相关,提示情感状态可能会影响学习者在技术丰富的环境中处理信息的方式17。与此同时,当前关于通用人工智能与未来教育的讨论强调,人工智能重塑学习实践的速度可能超过传统教学系统适应的能力18。这些条件使得有必要采用一种不仅记录技术态度,还记录情绪状态、自我调节能力、学术背景和情境变量的方法。在本工作流程中,这些变量被视为自陈式问卷指标,而非直接观察到的行为痕迹或因果机制。
方法学上的难点在于,学习者特征通常并非仅由单一变量构成。教育调查数据往往包含情感、行为、学业、情境以及与技术相关的指标的多层次组合。传统的回归模型在估计净关联方面很有用,但当目标是展示条件分支、子群体区分和基于规则的分类时,其直观性较差。决策树分析提供了一种互补的方法,因为它能够递归地将样本划分为可解释的分支,并通过节点结构使分类过程变得可视化19。与更复杂的机器学习模型相比,单个决策树更易于检查、解释,并可作为可重复工作流程的一部分导出。与标准线性模型相比,它能够揭示学习者指标的组合如何在教育数据中形成实际的分类路径20。然而,单个决策树也容易受到类别不平衡、划分决策、剪枝设置以及样本特征的影响。因此,本方案中的决策树被用作辅助性的、可解释的分类步骤,而非通用的预测引擎或因果模型21。
本文介绍了一种可重复的调查评分与C5.0决策树工作流程,用于对生成式人工智能支持下的学术学习中自述的高阶思维进行分类。该工作流程以2023年3月7日至3月15日在中国收集的一项针对776名本科生的大学调查数据集为例进行演示。结果为自述高阶思维问卷得分,该得分被二分法处理以辅助分类;它并非对实际认知表现的直接测量。本示例中的生成式人工智能暴露情况,是指学生自述在过去四周内使用生成式人工智能工具开展与课程相关的学术活动,包括信息检索、概念解释、想法生成、提纲起草和作业修改。工具使用情况未通过平台日志、提示历史或实时活动记录进行验证。
本方案的目的并非声称所保留的决策树可推广至所有机构、队列或当前的生成式人工智能环境。这一谨慎态度是必要的,因为演示数据是在2023年初的一个短暂时间段内,于一所大学收集的,当时学生对生成式人工智能的接触仍处于快速发展阶段。相反,本文的贡献在于使整个流程具有可重复性:定义调查背景、实施问卷、筛选回答、对构念进行评分、记录信度、应用固定的编码规则、划分数据集、训练并剪枝C5.0决策树、导出模型输出结果,并结合类别特异性表现,解释基于节点的分类路径。这种以方法为核心的流程可能有助于教育研究者、课堂导向的研究人员以及教学分析人员,在支持生成式人工智能的学习环境中,复现或调整一种透明的基于问卷的学习者画像方法。
访问受限。请登录或开始试用以查看此内容。
本研究涉及人类参与者,已由伊犁师范大学教育科学学院伦理委员会审查并批准(编号:LZEDU2023003)。研究于2023年3月7日至3月15日进行。该委员会认定本研究符合伦理豁免条件,因其仅包含匿名、自愿的问卷程序,且对参与者不构成任何身体、心理或社会方面的伤害。所有参与者在填写问卷前均提供了电子知情同意书。
分析前,需将受访者记录替换为不可逆的病例编号,并移除所有直接标识信息。分析文件中不得保留姓名、学生编号、电话号码、账户名、班级标识、互联网协议地址、设备标识符或原始平台账户标记。重复的控制信息仅可用于应答筛选,在锁定分析数据集前应将其删除。
1. 确定调查环境和抽样程序
2. 配置问卷管理与数据隐私保护流程
3. 筛查反应并锁定分析数据集
4. 测量与学习者相关的变量
5. 评分指标并验证测量质量
6. 将连续评分转换为辅助分类输入
7. 构建辅助的 C5.0 决策树分类器
8. 评估并保存分类结果
访问受限。请登录或开始试用以查看此内容。
保留变量的描述性统计
表2报告了在进行二分变量重编码之前,连续评分数据集中保留的自评调查变量的描述性统计结果。自评高阶思维得分为3.71(标准差 = 0.68),高于1–5评分量表的固定中点阈值3。生成式人工智能信任度也超过了该阈值,均值为3.54(标准差 = 0.60);而学业表现接近该阈值,均值为3.07(标准差 = 1.12)。其余变量的平均得分分别为:生成式人工智能焦虑3.48、智能手机问题性使用2.72、学业拖延2.59、父母教养方式2.99、负面情绪2.12以及对生成式人工智能的态度3.26,对应的标准差分别为0.75、0.74、0.64、0.43、0.75和0.57。
这些描述性统计结果表明,在进行二分变量重编码之前,所保留的变量并不具有相同的分布。自我报告的高阶思维、对生成式人工智能的信任、生成式人工智能焦虑、学业表现以及对生成式人工智能的态度均达到或超过中点阈值,而智能手机问题性使用、学业拖延、父母教养方式和负面情绪则低于或接近该阈值。这种分...
访问受限。请登录或开始试用以查看此内容。
本方案介绍了一种可重复的调查评分与C5.0决策树工作流程,用于整理生成式人工智能支持下的学术学习中的自陈式学习者数据。其主要贡献在于方法学层面,而非预测性能。该工作流程详细说明了如何界定调查背景、筛选作答数据、对多条目构念进行评分、应用固定的中点编码规则、划分数据集、训练并剪枝C5.0决策树、导出节点层级的输出结果,以及评估各类别的分类表现。选择C5.0算法的原因在于,它能够生成可解释的基于规则的决策树,支持基于增益比的分裂与剪枝,并允许研究者检视学习者相关变量的组合如何导向最终的分类路径。与透明度较低的分类方法相比,这种结构更符合方法学论文强调可重复性、可审计性以及学习者特征解释性的目标,而非追求最大预测准确性29。这一区别在生成式人工智能教育研究中尤为重要,因为学生的学习成效不仅受工具可及性的影响,还受到认知投入、技术相关认知以及学业自我调节能力的共同作用。因此,本方案完整保留了从问卷施测到模型输出解释的全过程,而非仅将最终生成的决策树视为唯一的研究成果。
成功实施需注意多个关键步骤。第一步是在发放问卷前明确生成式人工智能暴露的定...
访问受限。请登录或开始试用以查看此内容。
作者声明,他们不存在可能影响本文报道工作的竞争性经济利益或个人关系。
本研究由2024年自治区教育教学改革项目资助 "东西部高校课程优质思想政治教育资源共享机制研究" (项目编号:XJGXJGZH2024011)
访问受限。请登录或开始试用以查看此内容。
| 姓名 | 公司 | 目录编号 | 评论 |
|---|---|---|---|
| IBM SPSS Modeler | IBM Corp. | Version 18.4 | 用于 70:30 分层数据划分、C5.0 决策树构建、剪枝、分类评估及树形输出导出。 |
| IBM SPSS Statistics | IBM Corp. | Version 26.0 | 用于数据核查、综合得分计算、信度分析、频数检查及二分变量重编码。 |
| 联网的受访者设备 | 受访者自有的设备 | 具备浏览器访问功能的智能手机、平板电脑或笔记本电脑 | 供受访者完成在线问卷使用。本研究未提供特定设备。 |
| Microsoft Excel | Microsoft Corp. | Microsoft 365 或 Excel 2019 及更高版本 | 用于筛选日志审查、编码验证、表格格式化及导出结果核对。 |
| 二维码分发功能 | 问卷星 / Questionnaire Star | 内置的问卷链接二维码生成功能 | 在调查期间为受邀学生提供标准化的问卷访问方式。 |
| 安静的问卷填写环境 | 参与高校 | 非教学时段的教室休息时间或学生咨询场景 | 用于减少一次性完成问卷时的作答情境差异。 |
| 安全的数据存储目录 | 作者 / 参与机构 | 受访问控制的机构存储空间 | 用于保存原始导出数据、筛选后的数据集、评分数据集、编码数据集、模型文件、日志及导出结果,并实施版本控制。 |
| 问卷星 / Questionnaire Star 在线调查平台 | 长沙冉星信息技术有限公司 | 基于网页的平台;通过问卷星官方网站访问 | 用于问卷构建、二维码分发、必答题设置、重复提交检测、时间戳导出及电子表格导出。 |
| Windows 操作系统 | Microsoft Corp. | Windows 10,64 位 | IBM SPSS Statistics 26.0 和 IBM SPSS Modeler 18.4 的运行环境。 |
申请许可以重复使用本 JoVE 文章的文本或图表
申请许可