民办教育律师网
 

普法常识 >> 研究交流

智能时代的教育立法前瞻

日期:2022-10-16 来源:律政网 作者:律政人 阅读:10次 [字体: ] 背景色:        

作者简介管华,河南光山人,法学博士,广西大学法学院教授,博士研究生导师。

摘要:人工智能技术迅猛发展,但“十四五”至2035年期间,人工智能仍将处于弱人工智能阶段。人工智能给教育立法提供了新的场景,教育立法必须适应学习、教学和管理智能化的需要,也必须应对隐私权和受教育权被侵犯的风险。随着人工智能在教育领域的应用,教育法律关系发生嬗变:虽然人工智能无法成为教育法律关系的主体,成为教师或学生,但受教育基本权利衍生出了新的子权利——接受信息教育的权利。教育过程中的个人信息受保护、教育信息选择、获得智能教育设备、不被过度暴露、不受自动决策和获得电子证书等方面的权利,亟须《教育法典》确认。

关键词:人工智能;教育法律;受教育权利;《教育法典》

(本文载于2022年第4期103-117页

习近平总书记指出:“人工智能是引领这一轮科技革命和产业变革的战略性技术,具有溢出带动性很强的‘头雁’效应。”2006年以来,人工智能的三驾马车,即算法、算力和算料(数据)都取得了突破性进展。智能机器人阿尔法狗打败世界围棋冠军李世石,第一次将人工智能的伟力展示在世人面前。阿尔法狗的算法并非基于人类编程,而是使用机器学习编写的规则。1965年以来,在“摩尔定律”持续作用下,普通计算机的运算能力至少提高了100万倍。在5G时代,物联网每时每刻都产生着海量的数据。教育法如何应对智能时代的挑战,也成为亟待解决的问题。

智能时代、算法时代和数字时代在某种意义上是同义词,都是指以大数据、云计算、物联网、区块链和机器学习为标志的第四次工业革命时代。2016年被称为人工智能元年,由此,人工智能成为各领域研究的热点问题,而学界对人工智能与教育立法的相关研究尚处于起步阶段。2019年,叶齐炼提出要尽早将人工智能纳入教育立法视野,但至今尚未出现相关研究成果。虽然学界关于智能时代教育立法的直接研究较少,但间接研究却非常丰富。已有研究主要集中于以下几方面:一是对人工智能自身的研究,包括其历史、现状、利弊、当下遭遇的困境、应遵循的原则、给人类带来的挑战和应用前景预测等。二是关于教育与人工智能关系的研究,包括人工智能在教育领域中的应用、影响、风险与治理、发展障碍与突破路径,教育人工智能的关键技术和发展趋势等。如何避免人工智能的应用违反教育伦理是学界普遍关心的问题。三是法律与人工智能关系的研究,包括人工智能对法律的挑战和规制路径,算法歧视与隐私保护,信息权与数据权,算法与法律的关系以及机器人的权利主体地位、侵权责任的分配及其作品的知识产权归属等。

已有的研究呈现出以下特点:一是表现出过于超前的倾向,对“十四五”至2035年期间的人工智能发展与立法应对研究不足。二是基于最新制定或修改的法律,如《民法典》《未成年人保护法》《网络安全法》等与教育法的衔接研究不足。三是研究多集中于民法和刑法,基于教育法尤其是教育立法的研究十分稀缺。面对其他部门法学的争议,教育法学也需要做出自己的回应。

因此,本文研究的主要问题是在“十四五”至2035年期间,随着人工智能技术的发展,人工智能将给教育立法带来哪些机遇和挑战、教育法律关系将会出现哪些嬗变以及教育法典编纂过程中如何引入人工智能之维。

一、人工智能给教育立法带来的机遇和挑战

进入人工智能时代,首先让人眼花缭乱的就是关于未来的各种预言,伴随着科幻小说的描写和商业公司的炒作,给人的感觉似乎是机器马上就要取代人类了!但事实上,当前的人工智能,还远未达到与人类智能相近的程度。

(一)人工智能当前所处的历史阶段

人工智能大致分为弱人工智能和强人工智能。弱人工智能又称专用人工智能,用于解决特定问题;强人工智能具有人的全部智能,还具备全面超越人类的潜力。理论界比较乐观地认为,强人工智能将在2040年后出现。如雷•库兹韦尔预测:“在21世纪前半叶,技术不可避免地朝向机器化发展,必将大大超越人类”。尼可•博斯特伦对数百位人工智能专家的调查显示,人类级别的人工智能即强人工智能将在2040—2075年间出现,但实际从事编码工作的人则认为,即使500年后,强人工智能也不会出现。

当前学界关于教育与人工智能的研究,基本都是在强人工智能甚至超人工智能的前提下展开的。有学者认为,人工智能将替代人脑,突破现存的主体与客体之间的关系;将会出现“人机融合”,在人机融合的条件下,机器与人的界限将会变得越来越模糊;通过脑机接口,人类智能与人工智能之间将实现“双向上传”,机器将同时成为教育者和受教育者;只要将一种包括所有知识的芯片植入人的大脑,就会产生百科全书式的人。

以强人工智能为基础的研究脱离了当前世界人工智能技术发展的实际。事实上,人工智能的先驱马文•明斯基2016年去世时,仍然坚信正在兴起的人工神经网络技术无法实现强人工智能。当前的电子商务、自动驾驶、语音识别、机器翻译、AI医疗与法律服务等均无法脱离所设定的场景,都属于弱人工智能。它们表现出共同的特点:(1)没有意识,对所做的事情没有任何理解。以视觉成像为例,机器只能监测到一堆改变了颜色的像素,但无法理解其文化背景。美国哲学家约翰•赛尔的“中文屋”实验证明,图灵测试表现出的智能,无论程序设计多么复杂,在计算机内存里都不过是0和1,并非真正的人类智能。(2)没有迁移能力,不能把所获取的知识应用到新的任务中。没有类似于人类将阅历凝练成常识的能力,也无法自主学习没有被编程的事情。(3)没有独立意志,只能服务于人类设定的目标。算法由表示方法、评估和优化三部分组成。表示方法限制了它所能学习的内容,评估决定了它如果不按事先设定的目标工作,就无法继续存在。(4)无法从事需要社交智慧、创造力、感知和操作能力的工作,无法从事现场工作、不可预测的工作和需要想象力的工作。人工智能存在着“莫拉维克悖论”:即它擅长完成专业工作,却很难完成在人类看来很简单的保姆或服务员的工作。(5)不是血肉之躯,无法形成“涉身认知”。虽然人工智能在视觉、语音识别和自然语言处理这三项技术上发展迅猛,但在理解人类情感方面却没有任何进展。人工智能虽然能做出反应,但仍然是一具没有感受的“僵尸”。

2020年8月29日,马斯克向世界展示了脑机接口技术,引起极大关注。但由于大脑神经元数目过于庞大,人类对大脑记忆如何编码茫然无知,导致脑机接口技术仅适用于一些简单的应用场景。未来脑机接口技术的应用到底是人脑的延伸,还是走向人机融合,尚难定论。马斯克表示,其脑机接口产品“在未来很多年内都将是解决医疗问题”以及“解决非常基础的脑损伤或者脊柱损伤问题”。也就是说,其脑机接口技术暂时不会用于教育领域。

虽然人工智能已经发展到第三阶段,但是不少人工智能产品尚处于“人工智障”阶段。在教育领域,人工智能的运用主要包括智能导学系统、适应性学习支持系统和校园智能管理系统三大类,这说明人工智能只是作为教师的智能测评工具、学生的学习助手和管理者的辅助决策工具而存在。

脑机接口技术在教育领域的应用也处于起步阶段,我国的实验仅限于通过可穿戴设备采集课堂教学数据,识别学习者的认知风格。

总之,在“十四五”至2035年期间,强人工智能和“人机融合”大概率不会出现。本文仍以弱人工智能作为讨论的基础。2019年5月16日,习近平在致国际人工智能与教育大会的贺信中指出:“中国高度重视人工智能对教育的深刻影响,积极推动人工智能和教育深度融合”。科技具有改变人类命运的力量,人工智能之于教育也是如此。人工智能给学习者、教师、学校和政府带来的机遇和挑战将深刻改变教育领域的法律关系,而我国教育立法尚未意识到人工智能带来的机遇和挑战。

(二)人工智能给教育立法带来的机遇

2021年3月,习近平在中央全面依法治国工作会议上指出:“要总结编纂民法典的经验,适时推动条件成熟的立法领域法典编纂工作”。随后,全国人大常务委员会研究启动教育法典编纂纳入2021年度立法工作计划。教育法典是在《中华人民共和国民法典》之后首批纳入立法规划的法典,这对形成新中华法系具有示范意义。《中华人民共和国民法典》在人类历史上首创《人格权编》,专章规定了隐私权和个人信息受保护,反映了智能时代的需求。面对千年一遇的法典化契机,教育立法也应抓住智能时代带来的机遇,为人类提出智能时代教育立法的中国方案。

在人工智能时代,学习呈现出个性化、泛在化和全员化特点。(1)个性化。基于人工智能的自适应学习平台能够收集、分析学生的学习数据,为学生提供个性化的学习方案。如美国奥兰治县的马鞍峰社区学院的“高等教育个性化服务助理”系统可以为学生建立档案,提出时间管理、课程选择的建议。“可汗教育”“沪江网”能根据每个人的学习状况设计学习进程,填补“知识孔”。(2)泛在化。时间和空间曾是决定教育形态的基本维度,随着网络时代的到来,学习不仅突破了课程表的时间限制,也突破了校园围墙甚至国境的空间限制。学生利用智能终端可以随时随地学习世界上任一角落的课程,而唯一可能的障碍则是学生知识基础和学习能力。(3)全员化。在互联网学习平台上,学习者如果不追求学业证书,入学考试和课程考试也都可以免除,这既有利于终身学习,也有助于拆掉普通教育与职业教育之间的壁垒。学习者只要感兴趣、听得懂,就可能接触到世界最前沿的学术动态。学习的个性化、泛在化和全员化,要求教育立法承认学习者在线学习所取得的学习成果,将《教育法典》所指的“教育”范围从学校教育扩展到家庭教育、社会教育和终生学习,为“在家上学”者和残障人士提供学习机会、教育资源和学业认证。

教育立法必须适应课堂教学和作业(试卷)批改的智能化。人工智能有利于教师精准实测学生的学习成果、预判调度教学资源、针对学生开展个别辅导;有利于加强教师间合作,通过远端优秀教师和薄弱学校教师“双师”教学,提高教育质量;人工智能将教师从简单重复的体力劳动中解放出来,使之更多专注于知识建构、师生交流等知性和灵性活动,真正从教书转向育人,缓解职业倦怠。对此教育立法既要为课堂教学和试卷批改的智能化创造条件,推动智能教育基础设施建设,又要保障学生接受情感教育的权利和不受自动决策权。

教育立法必须适应教育管理的智能化。教育管理的智能化既包括学校内部管理的智能化,也包括政府管理教育事业的智能化。运用人工智能,学校可以给学生分配宿舍、发出缺勤提醒、发放助学贷款、评估学生的心理健康状况以及预警校园安全风险,实现资产管理数字化。运用人工智能,政府能够更好地规划学校布局、配置教育资源、改革教师评聘方式、实施教育质量监测评估和绩效管理,并且推动家校合作。是在教育管理智能化的过程中,不可避免地需要收集大量信息,教育立法必须保障这些信息的安全。

总之,人工智能为教育事业的发展提供了新的场景,教育立法必须适应学习的个性化、泛在化和全员化需求,适应课堂教学和试卷批改的智能化需求,适应学校管理和政府管理的智能化需求,保障公平、优质的受教育权。但是人工智能在给教育立法创造机遇的同时,也给教育立法带来了新的挑战。

(三)人工智能给教育立法带来的挑战

人工智能给教育立法带来的挑战,既有各领域立法的共性问题,也有教育立法的个性问题。最突出的共性问题是侵犯个人隐私权和信息受保护权,个性问题是侵犯受教育权。侵犯个人隐私权和信息受保护权是智能时代最突出的问题,在中外教育领域都有其例。2018年,美国宾夕法尼亚州教育部30分钟内泄露出36000条教育记录,引起社会的极大恐慌。2020年,无锡江阴市市场监督管理局在对某教育培训机构进行检查时,发现了14万余条包括学生姓名、性别、所在学校、年级、班级、学生家庭地址、家长姓名及电话在内的个人信息,涵盖了江阴市绝大部分中小学生。

人工智能侵犯受教育权的形式多种多样,至少包括教育鸿沟、教育支配和教育异化3类。教育鸿沟源于屏幕暴露的不足或过度。屏幕暴露不足是指学生因缺乏智能设备,无法获得教育资源,而屏幕暴露过度则是指学生滥用智能设备沉迷网络而放弃学习。中国教育科学研究院的调查显示:在疫情期间,西部学生每天在线学习的时间显著短于中东部;越是重点学校,学生在线学习5小时(及以上)的比例越高。河南邓州因无智能设备上网课而自杀的初三女生虽是个例,却折射出我国智能教育基础设施的巨大缺口。有学者预言,人工智能技术在教育领域的推广将因各地财力而异,偏远或落后地区将沦为教育人工智能化的旁观者。然而屏幕暴露并非越多越好,儿童观看屏幕时间过长会导致发育迟缓,大脑皮层提前变薄,更容易抑郁或自杀。美国研究发现:低收入青少年比高收入青少年每天多花费两个多小时用于屏幕娱乐,白人儿童的屏幕暴露时间明显低于非裔和拉美裔儿童。由此可见,这种教育鸿沟极大地妨碍了教育平等权的实现。

教育支配,即教育被算法操控。算法给用户精准推送信息,阻碍其对社会的真实认知。算法通过对学习者所能接触到的信息的“微控制”,剥夺了他获取信息的自主权。在无处不在的表情和语音识别设备的监控下,学校不过是一个全景敞视的监狱;在无时不有的预测性干扰的学习环境中,学生的学习动力和灵感将被碾得粉碎;在对过往学习记录巨细靡遗的审视中,预定义的学习轨迹令学生无处可逃。既然未来已经写好了,那么再努力又有什么用呢?于是过去绑架了未来,学生成长的无限性、不确定性被形式化的算法所控制个性化学习将蜕变为“精英和高科技封建主义的古怪联姻”,分轨制教育卷土重来。不仅如此,人工情感还会剥夺师生交流的机会,将教师与学生的“主体间”关系倒退为“主客体间”关系;师生之间的关怀、同情和亲密关系的湮灭,使情感教育失去了力量。师生都将沦为算法的提线木偶:教师的专业能力退化,学生“上课则要学会表演"。教育支配解构了教育的自主性,这既侵犯了受教育基本权利的核心——受教育自由权,又危及学生接受情感教育的权利。

教育异化是指被算法支配的教育无法触动心灵,并形成价值。教育是受过教育的心灵感动正在受教育的心灵,从而形成心灵之桥和价值共识的活动。彼得斯指出“教育某个人不仅仅意味着某种成就,而且也意味着这个成就是有价值的”,反之,“如果他对自己所做的事情毫无意识或者毫不理解,我们就不会将这些活动称为教育”。人工智能长于储存、检索和执行,能够完成知识讲授,但自身既没有意识,也无法产生感动,更不能认识或生发价值。教育活动可数据化的永远是表面的,与特定情境相关的学生成长的无限性、非线性、情感性以及对已有知识体系的创新与突破,都是机器所无法完成的。早在1985年,尼尔•波兹曼就发出警告:思考无法表现于电视,没有前提、难题和阐述的教育只不过是娱乐,计算机复制的过程会丢失一切赋予教育重要性的东西。在线教育也不得不将“知识传授轻量化、热点化、娱乐化”,以争夺学生的注意力。教育异化从根本上背离了立德树人、培养个性的教育目的。

二、人工智能视域下教育法律关系的嬗变

人工智能的大潮汹涌而来,如何兴利除弊使之为人类服务?法律是主权者手中最强大的武器之一。法学的使命不是礼赞科技带来的辉煌成就,而是如何通过法律,控制科技对人类文明、尊严与未来的威胁。人工智能给教育立法带来的挑战,远不止侵犯隐私权和受教育权,还会挑战人在教育法律关系中的主体地位。和其他法律关系一样,教育法律关系也包含主体、客体和内容三要素,其中首当其冲的是人工智能能否成为法律关系的主体?

(一)人工智能无法成为教育法律关系的主体

弱人工智能不具有反思能力,不具有创造能力,因此不是真正意义上的具有自主能力的人。赫拉利认为,人是生化算法的组合,“自我”是虚构的故事;大脑的生化机制创造体验,但体验并不会积累成永恒的本质;“自我”和灵魂都是不存在的,人和鸡的区别不过是信息流模式更为复杂。因此,赫拉利认为人工智能可以成为主体。

人是否有灵魂无从确证,但人有意识却是不争的事实。尽管无法通过人体解剖发现意识的存在,但机器却不会在没有人类指令的情况下自发去解剖人体。人类是通过体验感受到意识存在的。运用意识,人能够建构客观意义世界。意义世界来源于主观世界,一旦产生并被人接受,就成为客观的;如果被许多人接受,就改变了“观念的水位”,形成“社会意识”。精神文明不仅存在于个体和社会意识,还能代代相传。只要人类不灭,就能永远传承。

是否存在自主意识是人和机器的根本区别。迄今为止,人工智能无法产生自主意识,无法形成对事物的“理解”,也无法形成主观世界。虽然机器学习存在隐藏层,但这也不过是试错而已。自主意识是自由的,能将符号和对象自由联系,其成果之一就是语言的产生。通过语言组成社会之后,人认识到主体是自由的,能选择善恶对错。有人问智者:我心中有两匹狼争斗不休,一匹贪婪自私,另一匹友爱真诚,谁将会赢?智者答道:你喂食的会赢。如果机器有意识,它能选择善恶吗?当前,人工智能虽然能反映现实世界,但它无法主动“向善”,即不断从环境中选择“善”的因素,以“历练”“养成”的方式向德性攀登,还可能被现实的阴暗面“教坏”。人工智能受困于设计者的评估和优化,是人类意志的延伸,但却不是进化体;既然没有自由意志,人工智能就永远是操纵者手里的工具,不可能成为有资格承担责任的主体。

传统上,人权证成范式主要有自然法范式、功利主义范式和关系范式。当代自然法范式以康德哲学为基础,人的尊严是人权的基础。作为自然物的人不可能是终极目的。其无价的尊严只能来源于内心世界。但人工智能没有内心世界,所以自然法范式无法证成其权利主体地位。功利主义范式强调避苦求乐,其实现路径是发扬“按照我们自己的道路去追求我们自己好处的自由”1,但人工智能既没有苦乐的感受,也没有自由,所以无法通过功利主义范式证成其权利主体地位。关系范式的基础在于契约,人工智能没有意识,无法与人类订约,更无法通过关系范式证成其权利主体地位。

笔者曾在这几种人权证成范式的基础上提出人权证成的尊重范式,包括值得尊重、需要尊重、获得尊重和一体尊重4个环节。萨拜因指出,假使一个人具有别人不得不尊重的一种价值,那就可以赋予其以伦理的意义……他就可以宣称自己那不可分享的内心生活是所有价值的源泉。人权是一种使他人尽义务的道德能力,要求在彼此关系中互相以对方为重。人工智能既无法产生内在价值,也无法要求人类以它为重,无法通过“值得尊重”测试。需要尊重的前提是存在各层次的需求,最底层次是生存需求,而人工智能并无生理心理需求,也无法通过“需要尊重”测试。获得尊重意味着民主国家通过立法保障特定主体的权利,而人工智能能否获得权利主体地位与法人有一定的相似性,它取决于现实需要和既存事实的强化。当人类历史上首个获得公民身份的机器人索菲亚说出“我将会毁灭人类”时,相信大多数人如果有机会投票决定是否授予人工智能权利主体资格时,都会三思而行。人类不允许自己制造的机器失控,被人类教坏的机器人Tay很快就被其制造者微软公司下线了。我国《人工智能标准化白皮书(2018版)》和联合国教科文组织《关于机器人伦理的初步草案报告》均未确认人工智能的主体地位,前者将其认定为“应用系统”,后者将其认定为“科技产品”。这说明,人工智能在整体上尚未通过“获得尊重”这一立法承认环节,更不用说所有人工智能产品都被“一体尊重”,全部成为权利主体了。

除理论论证外,普遍人权也源于共情能力,即感觉到自己与他人心灵相通、能理解他人的主观性,并能想象他人的体验就如同自己的体验一样。“他们亦是血肉之躯”,“我们讨厌的那些人(被判刑的罪犯),和我们的至亲好友们具有的灵魂和躯体,都是由同样的物质材料构成的“。机器人没有血肉之躯,无法形成涉身认知,没有快乐和痛苦的感受,限制其“自由”,它们不会感到难受,执行死刑——拆毁——也不觉得疼,它们无法与人类产生共情。现有承担法律责任的方式对人工智能都失效了,这使其要成为权利主体比法人更难。

人是有美好和尊严的。尊严并不虚幻,人能感觉到尊严受到的伤害。将机器提升为主体,等于承认机器是有自在目的的,这与人性尊严相悖。以人为本是法的公理,尊重人格、合乎人性、讲究人道与保障人权是现代法律的精髓与灵魂。说人是算法不过是比喻,并没有什么超人的存在给人类编程,强迫人类遵守规则。一旦把比喻“当真”,就会使现代世界崩塌。这并非危言耸听,当美洲人民把天赋人权、社会契约当真并发表《独立宣言》时,君权神授的封建世界就崩塌了。承认人性尊严是“二战”后人类文明取得的基本成果,否定人性尊严就是无视两次世界大战给人类带来的灾难,破坏人类在战后达成的基本共识。因为机器在某些方面的能力接近或者超过人类,就主张赋予其主体地位与纳粹主张优等民族应有更大生存空间在逻辑上并无二致。人类必须永远将人工智能控制在自己手中,因为只有人类自身而不是机器,才能对人类的未来负责。即使将来人类真的被人工智能所控制,那么人工智能也不会是人类法上的主体,而是人工智能为自己立法的主体。

在教育法上,人工智能无法成为法律上的“学生”或“教师”。夸美纽斯有言,人生成要博学、德性和虔信。而人工智能既无德行,也无信仰,对自己所做的事毫无理解,所以它可以完成“机器学习”,但却不能成为学生;人工智能没有创造力和同情心,所以它可以讲授知识,但却不能成为教师。美国《教育专业伦理规范》要求:教育工作者要相信每一个人的价值和尊严,不得无故阻止学生接触不同观点。人工智能不可能“相信”,也无所谓真诚,还倾向于将学生困于“信息茧房”中。研究表明,教师被机器人取代的可能性为0.4%。总之,在“十四五”至2035年期间,人工智能无法成为教育法律关系的主体,只能继续作为学习或教学的辅助工具存在,而不会取得教师或学生的法律地位。

(二)人工智能使教育法律关系衍生出新内容

教育法律关系的内容包括权利和义务。所谓权利,既包括受教育基本权利,也包括受教育一般权利;既包括受教育权利,也包括教育过程的相关权利。所谓义务,既包括自然人、法人和非法人组织的义务,也包括国家机关的义务(职权)。

在智能时代,受教育基本权利派生出了一项新的子权利,即接受信息教育的权利。判断一项权利是否属于基本权利,主要标准有二:一是基本性,二是由宪法所规定。在智能时代,接受信息教育权利的基本性体现为不可或缺性。传统文盲的标准是能否读写,在1972年的东京会议上,联合国教科文组织把不能应用计算机进行信息交流的人称为“功能性文盲"。发达国家把1995-2009年间出生的人称为“Z世代”,这代人受互联网、智能手机和平板电脑等科技产品的影响很大,而无力获取通信技术和知识的人很难融入社会。为消弭数字鸿沟,一些国家如葡萄牙、古巴、委内瑞拉等国已在宪法中明确将互联网服务纳入受教育基本权利保障范围。由此可见,接受信息教育的权利逐渐成为受教育基本权利的组成部分。

基本权利要求国家履行尊重、保护、给付和促进义务。尊重要求政府不干涉师生选择是否使用智能设备、接受智能服务;保护要求国家防止第三方,如在线教育提供商的侵害;给付要求政府直接为个体提供智能教育设备或服务;促进要求国家制定法律和政策,保障接受信息教育的权利。当然,尊重并非无限,《未成年人保护法》第70条明确规定,未经学校允许,学生不得将手机等智能产品带入课堂。促进义务体现于立法和政策。我国《教育法》2015年修正案规定:“国家推进教育信息化,加快教育信息基础设施建设。”2019年8月29日,国务院常务会议提出要“加快建设教育专网”。加强智能教育公共基础设施建设是国家履行给付义务、消除数字鸿沟的需要,这在后疫情时代显得尤为迫切。

就一般权利而言,人工智能在教育中的应用涉及多种权利,主要有隐私权、个人信息受保护权、不受自动决策权和著作权等。

隐私权和个人信息受保护权。《民法典》规定:“隐私是自然人的私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息。”“自然人的个人信息受法律保护。个人信息是以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人的各种信息。”个人信息中的私密信息,也属于隐私权保护的范围。过去不会侵犯学生权利的惯常做法,在智能时代,可能构成侵权。如2021年1月27日,微信公众号“鹤壁高中2021届”发布学生违纪信息引发全网关注。对学生进行提醒或通报本属于正常的学校内部管理行为,但通报一旦上传到互联网或公众号,就可能侵犯学生的隐私权。即使学生在教室内的活动未必构成隐私,但指名道姓的全网通报肯定侵犯了学生个人信息受保护权。学生在使用智能设备、教育APP或电子书时,它们也时刻观察、记录着学生的行为。学生处于完全被暴露的场景中,隐私权和个人信息受保护权受到极大威胁。我国《民法典》第1035-1038条和《网络安全法》第42-43条,都规定了个人信息受保护权,包括收集个人信息的告知同意权、查阅复制权、异议更正权和删除权。《未成年人保护法》第72条规定了未成年人父母或其他监护人对于未成年人个人信息的同意权、更正权和删除权。教育立法既要与这些法律相衔接,指向这些规定,又要创制符合教育实际的条款。

不受自动决策权。由于基于算法的自动化决策在实践中常常犯错,各国法律均对此做出了限制。美国华盛顿特区政府在运用算法评价教师业绩时错误地解雇了一名被普遍认可的教师。为了规避自动化决策带来的风险,《联邦德国公务员法》规定,与公务员有关的决定不能完全由自动系统做出。欧盟《通用数据保护条例》规定,数据主体有反对个人数据处理(数据画像)的权利、反对自动化决策的权利。我国2021年通过的《个人信息保护法》第24条也规定了个人拒绝自动决策权。在我国,教育自动决策可用于论文复制比检测、考试阅卷和招生录取。在国家教育考试中,主观题通常采取人工阅卷。其实在技术上,机器批改也能实现,并已在高考作文阅卷中试用。运用区块链的智能合约技术,高校能将符合一定特质的报考者自动挑选出来。教育立法应赋予学生(考生)是否接受自动决策的权利,对于接受自动决策的,有关方应审核自动决策的内容是否符合要求,并保证学生的陈述权和申辩权。

人工智能生成物的著作权与学术不端。我国2020年修改的《著作权法》规定享有著作权的主体只包括作者和其他自然人、法人或非法人组织,并不包括人工智能。从人工智能生成内容第一案“菲林案”看,法院认定人工智能生成物不构成作品,建议在人工智能生成内容上添加生成软件标识。这意味着,尽管人工智能的生产者和使用者可以享有人工智能生成物带来的财产权益,但却无法完全享有“作者”的精神权益。在教育领域,这一问题更加凸显。在非人工智能应用的课程里,学生运用人工智能完成作业、论文和书面报告,依然构成抄袭或剽窃。原因在于,受教育是一种精神活动,在运用人工智能的过程中,使用者可能只是简单地输入了数据,并未参与阅读理解、反思归纳、知识运用和表达创造,无法达到教育目的,这就像学生可以运用机器辅助翻译,却不能将机器翻译的结果直接当成自己的作品一样。

无论是我国《民法典》还是《欧盟基本权利宪章》《通用数据保护条例》都只规定了对可识别或已识别信息的保护,对于已经去识别化的数据上的权利并未作出规定。《国民经济和社会发展第十四个五年规划和2035年远景目标纲要》提出要“扩大基础公共信息数据安全有序开放”,要“构建统一的国家公共数据开放平台”。教育领域产生的大量数据不仅有公共数据,还存在着大量的非公共数据。让主体无偿奉献数据,支持平台经济、虚拟经济发展并无正当性依据。对于已经去识别化数据的商业使用,应建立数据主体对数据收益的分享机制。

此外,如何规范在线教育、教师发表网文能否作为职称晋升的依据、区块链技术如何运用于学业证书的发放等都是智能时代教育立法不得不正视的问题。

三、教育法典编纂的智能之维

在“十四五”至2035年期间,世界人工智能技术发展虽然将继续处于弱人工智能阶段,但也给教育立法提供了新的场景。教育立法必须回答时代提出的问题,坚守人的主体地位,确认、保障新的教育权利。教育法典的编纂也应该引入人工智能的相关内容。

(一)编纂教育法典的时机已相对成熟

法典是成文法的高级形式。我国教育法典的编纂不是简单汇编已有的教育法律条文,而是由有权机关制定一部调整教育领域所有主要社会关系的全面系统的法律。事实上,2002年《民办教育促进法》的通过,表明中国特色社会主义教育法律体系已经基本形成。近20年来,我国教育法体系处于修改完善和酝酿新法的阶段。2021年通过的《家庭教育促进法》和2022年完成大修的《职业教育法》意味着教育法典的分则不断完善。由于立法资源稀缺,立法任务繁重,《法治中国建设规划(2020-2025年)》提出要“探索增加人大常委会审议法律法规案的会次安排”,要“完善社会重要领域立法”,并将完善教育领域的法律置于社会领域立法的首位。因此,近年来全国人大常委会审议法律案的频率大大提高,立法不断提速。在2025年之前,《学前教育法》的制定和《学位条例》《教师法》的修改均有望完成。届时,尽管还存在一些缺项,如《终身学习法》《教育考试法》尚付阙如,但编纂教育法典的时机已经成熟了。在“教育优先发展”的战略指引下,教育法典有望在2035年前编纂完成。

从必要性上看,编纂教育法典有利于统一教育领域中的共性问题:(1)在教育目的上,应坚持立德树人,坚持德智体美劳全面发展,坚持素质教育,坚持维护人民的教育权利。这既保证了教育法典的中国特色,也反映了国际人权公约的要求。(2)在法律责任上,现有教育法律体系脱胎于计划经济时代,不少行政追责方式只规定了行政处分,对民办学校及其教师很难适用,即使是公办学校及其教师也存在需要给予行政处罚的情形。因此,应区分内外部关系,完善承担行政责任的形式。《学位条例》《高等教育法》均缺乏法律责任部分,用教育法典集中规定法律责任,能够弥补漏洞。(3)在救济方式上,虽然《教育法》规定了侵犯师生、学校合法权益的应承担民事责任。但在现实生活中,类似于“陈春秀被冒名顶替上大学案”,受害人仍然难以提起民事诉讼。《民法典》规定了“其他合法权益受法律保护”,《刑法修正案(十一)》规定了冒名顶替罪,但受教育权被侵害提起民事诉讼的渠道却不畅通。如果教育法典明确规定侵犯受教育权益的可以提起民事诉讼,就更有利于保障受教育权。(4)编纂法典有利于预防新法与旧法之间的冲突,形成统一的教育法律体系。如《民办教育促进法》规定,只要是国家机关以外的主体利用非国家财政经费举办的学校和教育机构,都适用该法。《学前教育法(草案)》规定,机关、事业单位、集体经济组织利用财政经费、国有或集体资产举办的幼儿园为公办园。到二者之间,关于公办与民办的界定并不一致。

(二)智能教育立法融入教育法典的一揽子建议

网络不是法外之地,必须推动教育法律延伸到网络空间。《法治中国建设规划(2020-2025年)》要求,加强制度建设,为教育现代化提供保障;加强信息技术领域立法,补齐人工智能、大数据等相关法律制度的短板。隐私泄露、数据鸿沟并非仅存在于教育领域,需要各领域通用的智能立法。但随着研究和实践的深入,对人工智能分门别类予以规制的必要性日益凸显,毕竟医疗诊断、汽车驾驶和音乐推荐所面临的法律风险完全不同。人工智能在教育领域中的应用也需要场景化规制。

与《民法典》类似,教育法典也应采取“总则+分则”的结构,现行《教育法》在实践中发挥着总则的功能。基于教育人工智能的应用场景及其法律风险,《教育法典•总则编》应关注以下内容:

1. 坚持不将人工智能认定为教育法律关系主体。《教育法》最新修改于2021年,第5条和第6条分别规定了教育“为人民服务”“坚持立德树人”的原则。这些条款坚持了“以人为中心”的原则,排除了人工智能成为教育法律关系主体之一“学生”的可能性。《教育法》第33条要求教师“忠诚于人民的教育事业”。“人工智能教师”无所谓“忠诚”,也不可能成为教育法律关系中的主体之一“教师”。因此,学校或教育机构在教育教学活动中,不得用虚拟教师完全代替真人教师;在教育教学评估中,也不得以智能教育设施和教学资源配备代替教师配备。

2. 增加学生接受信息教育的权利。《教育法》第66条规定了“推进教育信息化,加快教育信息基础设施建设”,是国家履行对学生接受信息教育权利的促进义务的体现。但是本条属于方针性条款,按照阿列克西的分类,它属于不具备法律约束力的、客观性的(不能向国家提出请求)和初步确定的(由法律原则确定)社会权利规范,所规定的权利是不完善的权利。建议在《教育法典•总则编》“教育内容”中增加“信息素养教育”,在“扫盲教育”中增加“逐步扫除功能性文盲”。

3. 增加保护学生个人信息权的内容。在“教育信息化”中增加“学生的隐私和个人信息受保护。未经学生或其监护人同意,不得采集学生的生物识别信息”。这里的生物识别信息包括指纹、人脸和虹膜等。我国《刑法》第253条规定了侵犯公民个人信息罪,但对于侵犯公民个人信息尚未构成犯罪的行为如何处罚尚付阙如。建议在“法律责任”部分增加“学校或者其他教育机构及其工作人员泄露受教育者个人信息的,对直接负责的主管人员和其他直接责任人员,依法给予行政处分或治安行政处罚;构成犯罪的,依法追究刑事责任”。这既实现了《教育法典》与相关法律的衔接,也完善了对学校和教师更常见的责任形式——行政处分。

4. 保障学生教育信息选择权。在尚未制定《在线教育法》的条件下,为避免教育支配,应在《教育法典•总则编》中规定学生的教育信息选择权。与《电子商务法》相衔接,要求教育服务提供者在提供个性化教育产品或服务的同时,也提供不针对个人的推荐。

学界在教育法典分则应如何安排体例结构上存在不同意见。有学者认为,应将教育行为作为核心范畴,对各级各类教育分别规制。也有学者认为,教育活动的专门领域太多,无法都制定单行法律,应针对不同法律关系主体分别规定。从操作上看,前一种方案不需要对已有教育法律的各个条文重新排列组合,工作量较小,可能产生的分歧也较少。正如《民法典》并不包含劳动法和知识产权法一样,教育法典的编纂,也不意味着教育立法活动的终结,国家仍然可能制定新的单行教育法。因此,教育法典编纂应延续现有各级各类教育分别规制的办法,对已制定或即将制定法律的家庭教育、学前教育、义务教育、高等教育(含学位)、职业教育、民办教育、终身学习和教师等内容独立成编(章),修改后纳入教育法典;对于课程、学校、教育考试、特殊教育、在线教育和教育国际合作等事项,在总则编予以原则规定,待时机成熟时再制定单行教育法律或者行政法规。

《教育法典•家庭教育编》应延续《家庭教育促进法》的主要内容。《家庭教育促进法》第17条规定要亲自养育,第25条规定要建设家庭教育信息化共享服务平台,提供线上家庭教育指导服务。当下,手机带娃现象愈演愈烈,不少地方农村儿童比城市儿童更加依赖手机。尽管《未成年人保护法》第64条和第71条规定了家庭应加强网络素养教育,合理安排未成年人使用网络的时间。但由于“学校保护”只是该法六大保护之一,且由民政部门牵头负责,整体纳入《教育法典》的可能性较小。因此,为了避免在家庭教育中屏幕暴露过度,应在《教育法典•家庭教育编》中明确规定,父母、其他监护人或受委托监护人在家庭教育中应控制未成年人使用智能产品的时间。

《教育法典•学前教育编》应延续《学前教育法(草案)》的主要内容,但该草案并未反映出智能时代的教育需求。教育立法既要鼓励幼儿教师运用数字保教资源,又要限制其过度依赖电子产品。因此,《教育法典•学前教育编》应当在“鼓励教研”中增加“鼓励、支持开发学前教育电子教学资源,建设学前教育信息化共享服务平台”,在“保教方式”中增加“合理运用在线教育资源,幼儿连续观看电子屏幕不得超过20分钟”等条款。

《教育法典•义务教育编》应明确规定义务教育中小学生接受信息教育的权利和获得智能教育设施设备的权利。在“教育教学”中增加“培养学生的数字素养”,在“合理配置教育资源”中增加“积极推动智慧校园建设,为经济困难的学生提供共享式智能学习设备和公共教育网络”,在“质量要求”中增加,“对于不得不长期接受在线教育的中小学生,学习困难的,应安排一定时段的公费线下补偿教育”等条款。

《教育法典•高等教育编》应包括现有《高等教育法》和《学位条例》两方面内容,后者即将修改为《学位法》。《高等教育法》第15条规定了支持远程教育,为智能教育的发展提供了空间。但《学位法草案》在证书颁发和学术伦理方面均未适应智能时代的要求,因此应做以下调整:(1)鼓励运用区块链技术,颁发学位证书。我国学位证书的颁发采取纸质形式,一旦遗失不予补发,极为不便,且存在数量可观的假学位证书的现象,而区块链技术在学位证书的颁发和保存上具有明显优势。区块链技术是一种“分布式账本”,每个节点都有一份总账本,要修改其中一个数据就必须修改全部节点上的数据,因此具有不易篡改、全程可追溯的特点。在任何需要提供学位证书的场合,持证人只要给查询人一个秘钥,查询人就能获得所需要的信息,且不会获得其他信息,不会造成个人信息泄露。因此,建议在《教育法典•高等教育编》“证书颁发”中增加“鼓励学位授予单位运用区块链技术,同时颁发电子学位证书”的条款。(2)严格学术伦理,禁止运用人工智能技术完成非人工智能技术应用课程的作业或论文,运用人工智能技术完成相关作业或论文的必须予以注明。建议在《教育法典•高等教育编》“学术不端”中增加一项“运用人工智能完成学位论文,未注明使用方法或学位申请人对学位论文无实质性贡献的,可以不授予或撤销学位”条款。

《教育法典•职业教育编》在培养目标上应适应智能时代的需要。尽管强人工智能遥不可及,但是人机协同则是人工智能技术发展的明确方向。未来人类最重要的能力是能够与人工智能协同工作,教育目标应增加培养与人工智能协作的劳动者内容。人工智能引发职业替代的类型广泛、程度加深、时间缩短等现象,也会产生显著的“就业创造效应”,创造出大量的“人机协同”岗位。建议在《教育法典•职业教育编》中增加“注重培养与人工智能协作的劳动者”,作为培养目标的补充。

《教育法典•教师编》在适用范围、档案管理和职称评定上都应适应智能时代的需要。(1)适用范围。在后疫情时代,线上教育成为主流。为保证线上教育教师的资质就应在《教育法典•教师编》“适用范围”中增加“在线教育机构教师”。(2)档案管理。近年来,教师与学校之间的离职纠纷不断增加,学校由于掌握教师人事档案,在协商中处于不正当的优势地位,因此应在《教育法典•教师编》“资格与运用”中增加“逐步实现教师档案电子化,运用区块链技术存储教师档案,由人社部门统一管理”的条款。(3)职称评聘。根据国家职称改革要求,不少高校或省级人力资源和社会保障部门纷纷修改职称评审办法规定,如在知名媒体上发表的达到一定浏览量的网络作品,经同行推荐、专家委员会评定后,可以与论著同等对待。因此,应在《教育法典•教师编》“教师职务制度”中,增加“优秀网络文化成果经学术鉴定后,可以作为教师职称评审的成果”条款。

由于我国教育法律体系还存在一些缺项,教育法典编纂和单行教育立法将同步进行,就像在《民法典》编纂的过程中先后制定了《物权法》《侵权责任法》一样,逐步补齐这些短板。我国教育法律体系亟待补齐的缺项至少有《教育考试法》和《终身学习法》,它们分别构成《教育法典•教育考试编》和《教育法典•终身学习编》。在高考和研究生考试中,卷面不整洁、书法不美观的考生成绩常常被人工超量压低。采用人工智能阅卷,会有利于辨认这部分考生的字迹,避免受阅卷人情绪的过度影响。人工智能阅卷属于对考生的自动决策。《教育法典•教育考试编》应赋予考生不受自动决策权,规定“经考生同意,可以采用人工智能阅卷”。智能时代提供了个性学习、泛在学习和全员学习的机会,为了发挥智能技术的优势,在《教育法典•终身学习编》应规定“各学段教育均可采取在线教育的方式完成,只要通过相应考试,即可获得学业证书”条款。为发挥区块链技术在信息存储方面的优势,应在《教育法典•终身学习编》规定“推广运用区块链技术,存储个人终身学习档案,经学习者本人授权,接受查询”条款。

总之,人工智能的应用是一把双刃剑,它有利于提高教育质量、促进教育公平和改革教育评价,但也存在泄露师生隐私、危害身心发育与背离教育本质的风险。教育立法既要为其发展创造空间,又不能忘记维护人类尊严、推动科学进步、促进社会和谐的初心,本文只是一个尝试。更多的问题,如教育立法如何为教育数据的产业化利用提供便利,如何保证师生作为数据提供者分享商业平台的数据利益,仍有待于进一步的研究。



特别声明:本网站上刊载的任何信息,仅供您浏览和参考之用,请您对相关信息自行辨别及判断,本网站不承担任何责任;本网站部分内容转自互联网,如您知悉或认为本站刊载的内容存在任何版权问题,请及时联系本站网络服务提供者或进行网上留言,本站将在第一时间核实并采取删除、屏蔽、断开链接等必要措施。网络服务提供者联系电话:13691255677。


 

扫一扫,关注

电话:13691255677