倪琴
- 作品数:4 被引量:33H指数:3
- 供职机构:上海师范大学更多>>
- 发文基金:国家自然科学基金国家社会科学基金更多>>
- 相关领域:文化科学经济管理更多>>
- 算法信任:智能教学系统中人机合作的关键问题
- 人机合作是优化智能教学系统设计的有效方案,而算法信任则是设计良好的人机合作机制的关键。本文从智能教学系统的应用场景入手,梳理了行为决策领域中算法厌恶话题的相关研究,并通过讨论学习者的决策卷入问题,提出了智能教学系统中人机...
- 乐惠骁王英英倪琴
- 关键词:智能教学系统人机合作
- 智能教育场景下的算法歧视:潜在风险、成因剖析与治理策略被引量:23
- 2022年
- 随着人工智能在教育场景中应用的不断深化,智能教育以其个性化、定制化等独有优势改变了当下的教育格局,但智能教育也面临着算法歧视的潜在风险,如教育结果的单一化、加剧教育不公平、学习结果两极分化、人机交互加深偏见等。同时,在智能教育系统的开发与应用过程中,设计团队存在思维定势、机器学习的偏差、交互式决策的危机等问题使算法歧视的成因更为多样化。而解决对智能教育系统中存在的算法歧视问题,需从促进多主体共同参与,构建多元评价标准,以及通过技术赋能等三方面落实治理策略。具体到技术治理,可根据时间维度划分为三阶段治理,即在事前加强数据歧视检测,在事中建立可解释、可审查的算法优化机制,在事后坚持学生在教育教学活动中的主体性。
- 倪琴刘志刘志贺樑
- 关键词:智能教育教育公平
- 人工智能向善:面向未成年人的人工智能应用监管探研——面向未成年人的人工智能技术规范研究(三)被引量:4
- 2023年
- 人工智能应用与未成年人之间的和谐共生是当前亟待完成的任务。由于未成年人正处于认知、心理塑造发展的关键时期,其成长发展过程中需要更多监管和关注。针对当前人工智能应用监管中存在的风险和挑战,文章从面向未成年人的人工智能应用监管框架顶层设计出发,提出面向未成年人的人工智能应用监管善治路径。监管框架顶层设计以尊重人类的自主能力为核心,提升未成年人的能动性,优化监督机制,具体包括监管内涵、技术原则和组成要素。监管善治路径从以未成年人为中心的人工智能应用监管技术体系的构建出发,探索提升场景多样化评测机制,完善面向未成年人的人工智能应用监管制度,参与面向未成年人的人工智能应用监管国际规则制定,开展面向未成年人的人工智能应用监管社会实验研究。通过研究框架和善治实施路径的构建,以期为面向未成年人的人工智能技术规范提供有益参考。
- 倪琴贺樑王英英白庆春吴永和
- 关键词:人工智能未成年人安全伦理
- 推动人工智能向善发展:教育与人工智能共同的责任被引量:6
- 2024年
- 人工智能的迅速发展正深刻改变人类的生产方式、生活方式和学习方式,对教育产生深度影响,而现阶段生成式人工智能工具在教育领域广泛应用,给教育带来新的道德伦理问题。该文首先从人工智能快速发展引发更加复杂的道德伦理问题和人工智能道德伦理是人类道德伦理价值体系新组成两方面给出人工智能延展人类道德伦理范围。再从人工智能教育应用伦理风险、教育人工智能伦理治理现状、教育人工智能伦理需解决问题等三个层面阐述了教育人工智能应用伦理风险与治理。再次从核心素养培养、规范应用监管、道德伦理框架、技术规范研制等四个维度给出人工智能向善发展的建设路线。最后,给出五条发展建议:加强顶层设计,系统规划总体框架;重视育人为本,创新发展人工智能课程;遵循治理原则,促进技术向善赋能;明确价值准则,助力人机相融共进;加快标准制定,规范教育人工智能实践。以期推动人工智能向善发展,赋能、赋智教育,促进教育数字化转型,构筑智能时代的人类命运共同体。
- 吴永和吴慧娜陈圆圆周澍云周子皓肖玉敏倪琴
- 关键词:育人为本