人工智能教育应用的算法风险

论文摘要

教育已逐渐进入人工智能时代。人工智能技术在改变教育的同时,也在给教育带来不可预知的风险。本研究旨在分析人工智能教育应用中使用算法及计算模型对教育进行量化和计算所造成的潜在风险,并分析其产生根源,提出风险管控建议。研究首先采用预测分析法,对算法本身存在问题进行分析,预测算法的简约化、算法的大规模应用、算法黑箱、算法偏见、算法鸿沟以及过度依赖算法给学生、教师学习成长和个性发展带来的风险;然后采用矛盾分析法对比分析教育的模糊性与算法的确定性之间的矛盾、学生发展的个性化与算法公式化之间的矛盾、教师专业能力具身性与算法去技能化之间的矛盾、教育规则的灵活性与算法硬规则之间的矛盾等,探讨风险产生的原因;最后在综合分析的基础上,按照以人为本的原则提出保持教师在人工智能教育应用中的主导地位、以教育学的方式应用和管理人工智能算法、保持算法和计算模型的透明化和可解释性、建立算法教育应用风险评估和风险管理机制等管控算法风险的对策建议。

论文目录

• 一、潜在风险
•   （一）算法的简约化有导致教育被形式化的风险
•   （二）算法大规模应用有导致学生同质化发展的风险
•   （三）算法黑箱有导致教育被算法控制的风险
•   （四）算法偏见有导致教育弊端被放大的风险
•   （五）移植开源代码和现成算法有导致教育被异化的风险
•   （六）教师过度依赖算法有导致专业技能丧失的风险
•   （七）算法鸿沟导致教育风险不能及时被化解
• 二、人工智能教育应用算法风险产生的根源
•   （一）教育的模糊性、不确定性与算法的确定性之间的矛盾
•   （二）学生发展的个性化与算法公式化之间的矛盾
•   （三）教师专业能力具身性与算法去技能化之间的矛盾
•   （四）教育规则的灵活性与算法硬规则之间的矛盾
• 三、以人为本管控人工智能教育应用的算法风险
•   （一）保持教师在人工智能教育应用中的主导地位
•   （二）以教育学的方式应用和管理人工智能算法
•   （三）保持算法和计算模型的透明化和可解释性
•   （四）建立算法教育应用风险评估和风险管理机制

文章来源

类型: 期刊论文

作者: 谭维智

关键词: 人工智能,算法风险,教育规律,以人为本

来源: 开放教育研究 2019年06期

年度: 2019

分类: 社会科学Ⅱ辑,信息科技

专业: 教育理论与教育管理,计算机软件及计算机应用

单位: 曲阜师范大学教育学院,曲阜师范大学中国教育大数据研究院

基金: 2017年度山东省社会科学规划新型智库研究专项“‘互联网+’时代教育评价体系研究”(17CZKJ04)

分类号: G434

DOI: 10.13966/j.cnki.kfjyyj.2019.06.003

页码: 20-30

总页数: 11

文件大小: 163K

下载量: 792