
最近,非盈利组织数字承诺(Digital Promise)宣布推出了“负责任设计的AI产品认证”计划,旨在协助学校领导选择符合学生学习和安全要求的人工智能驱动教育技术工具。随着人工智能在教育领域的迅速发展,学校面临越来越多的选择,因此如何筛选出安全有效的工具成为一个重要课题。
该认证项目专门对人工智能教育工具的若干关键方面进行评估,包括数据安全性、公平性和透明度等。教育技术供应商要想获得认证,必须证明其产品符合一系列要求,例如清晰说明数据收集和使用方式、提供数据泄露对策计划、采用包容性开发实践并监测算法偏见、明确指出AI的应用场景,并允许教育工作者对AI的输出进行干预。
数字承诺在新闻稿中表示,已经有多个美国地区的学校领导计划将该认证纳入其采购流程。例如,芝加哥公立学校的企业通用AI经理洛恩・罗德里格斯(Lorne Rodriguez)参与了该认证的试点项目,并对其有效性表示认可。他指出:“负责任设计的AI认证为学区领导提供了一种简单透明的方式,验证这些工具在数据隐私和安全方面的高标准,确保AI的使用公正、无偏见且对所有学生有益。”
数字承诺鼓励所有学校系统利用该认证及其他第三方认证来减轻对供应商的评估负担。为帮助学校系统整合产品认证问题,数字承诺还提供了相关模板。根据数字承诺官网信息,目前有超过150种教育技术工具的产品认证可供选择,该组织直接发行的认证数量为六项,其他教育非营利组织如1EdTech、Project Unicorn和应用特殊技术中心(CAST)也提供各自的认证。这些产品认证的目的是验证教育技术工具在数据隐私、互操作性、有效性和包容性设计等多个方面是否达到特定标准。
通过这一举措,数字承诺希望为教育界提供更可靠的AI工具选择,帮助学校以更安全高效的方式迎接数字化转型的挑战。