您的位置:首页  学术交流
上海市法学会外国法与比较法研究会2018年年会——暨“人工智能与法律变革”研讨会
发布部门:法史网     发布时间:2018-11-08

上海市社联第12届学会学术活动月项目

上海市法学会外国法与比较法研究会2018年年会

暨“人工智能与法律变革”研讨会

会 议 综 述

 2018114日 下午2:00-5:00

 

2018114日,作为上海市社联第12届学会学术月项目之一的上海市法学会外国法与比较法研究会2018年年会在上海政法学院顺利举行,来自上海政法学院、华东政法大学、上海交通大学、复旦大学、上海师范大学、上海大学、上海财经大学、东华大学、华东理工大学、上海海事大学等高校及科研单位的近四十位学者与会。此次会议承继了历次会议的精神、紧扣时代的前沿,以“人工智能与法律变革”为主题,深入探讨了外国法与比较法领域中有关人工智能的前沿问题,关注和探索在面临时代、技术进步的挑战时法学发展的前景与道路。 

上海政法学院倪正茂教授代表会议东道主上海政法学院致开幕词。他指出,习近平总书记在讲话中强调人工智能是新一轮科技革命和产业革命的重要驱动力量,是重要的战略资源,作为法学学者,我们要运用法律知识为新技术的发展与运用保驾护航。随后,他对与会学者提出如下希冀:一方面,学人有义务破除不利于于人工智能发展的法律障碍;另一方面,我们必须预先以法律防止人工智能发展对人类社会的颠覆性危害。倪教授认为这是党和国家为法律工作者布置的一项光荣而艰巨的任务。为此,他回顾了他本人从中国法律史研究转向科技法研究的过程和八十年代以来我国科学技术法研究逐步发展成熟的历程,激励中青年学者不断开拓学术园地。最后,他介绍了上海合作组织国际司法交流合作培训基地的概况,并希望更多优秀的青年才俊加盟。

上海市法学会施伟东专职副会长代表上海市法学会致辞。他指出,外国法与比较法研究会以“人工智能会法律变革”为主题召开的年会不仅很好地响应中央的号召也回应新时代技术革命的发展方向。人工智能所带来的变革可能会对现有法律体系提出重要的挑战。随着人工智能逐渐走入普通人的生活,新型的法律关系不断出现,而法学研究者应当对此做出理论上的回应。与此同时,科学技术又是一柄双刃剑,我们都希望技术转化成人类的福祉而不是灾难,法学学人应成为制度建设的参与者,加入对人工智能的研究。最后,施会长提到了在上海研究与人工智能相关的法律问题的便利性,在这样一座人工智能被广泛运用的城市中,研究者将获得前所未有的研究机遇。

上海市法学会外国法与比较法研究会名誉会长何勤华教授代表学会致辞。何会长提到,上海是一个充满机遇的地方,在学术上小有成就是较为容易的,但保持学术上的声誉并以此为基础不断进取则是较为困难。他对青年学子提出了两点要求:其一,学术研究重在坚持而不是安于现状,一旦发现一个前人没有做过的学术兴趣点就要深挖下去。其二,青年学人应加强彼此的学术联系,在沟通中提升学术水平。他以一封早年信件为例,讲述了他求学期间同不同学校的学友进行学术交流的故事,激励青年学者进行踏实的学术交流。

围绕着会议的预定主题,与会学者不仅讨论了人工智能的法律治理、自动汽车生产者的发展风险抗辩、人工智能视域下的网络法等话题,而且做了有关法律思维自动化、人工智能与自由意志等理论法问题的精彩发言。

上海交通大学法学院何渊副教授以“论人工智能风险的四重双向法律治理系统”为题,考察了人工智能风险治理的相关法律问题,探讨了治理过程中政府与法律的作用。首先,他提出了两个问题:人工智能是一个科学问题还是一个民主问题?而为了解决人工智能与人类生活的冲突问题,政府、法律应当起到什么作用呢?何老师希望通过对风险体系的不同角度观察来回应相关问题。他将研究的视角划分为“四重”,分别是“中央-地方”、“市场-政府”、“国家-社会”、“立法-行政”,并将其中两两要素的关系看作是双向的。人工智能的法律特征可被归纳为以下三点:其一,不确定性。其二,失控性。第三,全球化。而以上法律特征会带来隐私保护、伦理问题、数据竞争、国家能力等风险。为了说明相关风险,他举蚂蚁金服强制信息分享、淘宝有针对性卖假货等为例,论证了我们已经进入了被人工智能监控的时代,并时刻面临着人工智能的侵害。在以上背景下,他提出了四重双向法律治理系统的建构模式,构建一个联动的治理体系,进行“风险治理与行政法的转型”,形成一种“风险行政法”体系。这种体系以“开放与分享”为特征,用以解决“不确定”的实际问题。该体系需统合市场、社会、三种治理机制,并包括国家内部的立法与行政、中央与地方之间的双向自循环系统,共同形成一个整体的四重双向治理生态。

上海大学法学院陈吉栋老师以“自动驾驶汽车生产者的发展风险抗辩”为题,从民法的视角论证了随着人工智能在自动驾驶汽车中的普遍运用,法律应当为生产者设立“发展凤祥抗辩”及规定抗辩的内容、限制及保障措施。首先,他简单介绍了传统机动车交通事故责任的法律适用及法律问题。随后,他举特斯拉自动驾驶汽车交通事故案为例,说明自动驾驶车辆的生产者可能成为驾驶人,而依据《道路交通安全法》第76条对驾驶人的判断则可得出一个在案件的法律适用中该条与《侵权责任法》第41条发生责任竞合的推论。那么实践中,是不是每一次事故中都要由制造者承担责任?生产者可以从哪个方面来引用抗辩?依现行法,在生产者承担产品责任的条件中,最关键的是对“缺陷”的认定。学界围绕该缺陷是否属于受当时技术条件限制而不能发现的缺陷以及生产者是否可以援引此作为抗辩理由进行讨论。陈老师认为,为了鼓励生产者的开发热情与技术进步,法律应当为其设定“发展风险抗辩”,在具体实践中,生产者承担产品责任,而驾驶人承担检查、接管的注意义务、第三人要对信息泄露、篡改承担责任。而责任的判断的核心是判断时点与判断标准,他认为这些实质判断应当由技术人员主导,法律人的责任在于价值判断。当然,该抗辩对生产者的保护应有限度,配以的法律对发展风险的规范解释范围、设定生产者的附随义务及设定必要的社会救助基金是人工智能普及化过程中兼顾生产者、消费者的重要举措。

上海大学岳林老师以“法律思维自动化的两条路径”为题,从法理学入手,分析了法律思维自动化的可能的两条道路,并结合当代人工智能的实践,设想了司法AI发展的可能性方向,并提出了三层递进的逻辑结构。首先,他讲述了法律推理与法律自动化结合的问题,其模式为在将诉求、规范、事实输入处理“黑箱”后,输出判决和理由。由此,法律的自动化将有两种要求,一种是让法律变得简单,一种是让机器变得复杂。接着,他讲述了技术角度的AI两道流派,即符号主义(Symbolism)与联结主义(Connectionism)。前者强调概念和逻辑,用以开发出专家系统、知识图谱,并最后应用于机器聊天与写作;后者强调概率与统计,用以开发出人工神经网络,应用与疾病识别、自动驾驶和金融分析。他举他和学生搜集整理的法律AI抽象化的思维导图为例,提出法律AI应当由专家系统、机器学习及咨询建议所组成。但从法律理论的角度,司法AI运作中却有两种不同路径,即“法教义学+符号主义”与“社科法学+连接主义”,而且两种模式各自受到语言互译、法律规范的矛盾、法益冲突及法律外部知识的输入等问题的困扰。在以上探讨下,岳老师提出了三层理论:在应用层,应用法教义学理论,通过人机互动、规范语言与自然语言互译,实现形式理性化;在算法层,引用社科法学理论,以机器自动学习为主、人类调参为辅,对司法中的事实、价值和其他学科知识做出判断;在数据层,机器将自动抓取法规、案例、证据、新闻、论文……抓取程序及范围由人类监督。这样的三层结构或许是未来司法AI的发展前景。

上海财经大学胡凌副教授进行了以“人工智能视域下的网络法”为主题的报告,将人工智能置于互联网的演变过程(特别是生产过程)中,观察其对既有赛博空间秩序的影响,以及法律对其的回应。胡老师认为,人工智能的法律问题的核心是在其因独立意识成为一个法律主体之后,法律如何看待它与其他主体之间的关系?《代码就是法律》一书提及,私人架构成为具有法律强制力的机构,这些架构将在不同层面上影响人的行为。由此引发了胡老师对人工智能的经济本质属性的讨论,人工智能中生产性代码增多,代码塑造了新的生产方式,从而要求作为上层建筑的法律发生变化,为其服务。胡老师认为,依据马克思主义原理,代码在生产方式、生产工具、生产过程、生产关系等方面将对上层建筑产生重大的影响。AI内嵌于赛博空间的微观结构如账户、数据、评分、算法中,从根本意义上,其体现了人工智能对资源的把控。具体到法律制度层面,网络法本质上就是社会关系、生产关系所折射出的法律关系。当下,独立运行的黑箱正是体现AI制作者对减轻责任、维持生产的目的的追求,本质上是人为的创造了一个以技术中立为核心主张的“避风港”。胡老师提出,法律应当对既要AI作为独立法律主体,又要减轻责任的法律需求予以回应,他相信这在未来会演化为一场体现于法律制度中的AI自由化与人对其约束、掌控之间的博弈。

上海政法学院王娜副教授进行了以“论人工智能与自由意志”为主题的报告,她从人对人工智能的三种不同态度入手,讨论了人工智能可能获得的法律地位种类以及人工智能的意志自由将如何界定与制约。我们可以将其视为我们的同类,也可以将其视为异类,甚至可以将其看做我们的所造之物。意志自由是一个核心的问题,无论是哲学意义上决定论层面的意志自由还是非决定论层面的意志自由,我们对它的哲学认知、科学认知具有一致性。从认识论的角度,我们认识世界是从宏观、微观两个角度进行的。宏观领域是有规律的,例如我们对宇宙的探索所获得的普遍规律;微观领域又是无序的,例如微观的例子排序,人们对在何种层面上界定意志自由是有选择权的。为了给我们带来自由,法律界定这个问题上不断努力。随后,她讨论了人工智能是否会给我们带来毁灭的问题。王老师认为,我们对自然普适规律是有认知能力的,然而我们对自身的认知又是不全面的。落实到人工智能的层面,人工智能对人类的超越也是建立在人类对自己的认知的层面上,既然我们对自身的认知是不完全的,那么人工智能或许会在某个单向度超越我们人类的普遍水平,例如运算能力、传输能力等,但他们的自由意志也因人类对自身认知的局限性而受到局限,所以人们对人工智能完全超越乃至威胁人类的担心是不必要的。最后,王老师提到了法律对人工智能发展的维护与约束的问题。她认为,世界是未知的,但对它的探索确是可控的,人对人自身的认知才是人工智能发展的决定性因素,而法律对人类的约束应当从该方面入手。

在报告人结束报告后,与会学者从不同侧面对报告内容及人工智能与法律的相关问题展开了自由讨论。

上海交通大学法学院的郭延军教授指出,我们要警惕人工智能超越乃至威胁人类的生活。事实上,我们的社会生活已经被AI所控制,值得担心的事情并非是人工智能意志自由对人类自由的可能性侵蚀而是AI的生产者或控制算法的人对人们的操控。我们无法阻挡科技的发展,但法律可以约束科技的发展,法律人的责任从制度层面消弭科技可能带来的对人类社会的威胁。此外,她认为我们应当关注人工智能对法律的影响。通过聆听岳老师的报告,我们得知了司法中对人工智能的应用情况,但值得思索的是人工智能运用于司法的合理性与正当性。例如算法的依据是大量的材料分析,不同的算法带来的可能是不同的归纳结果,这将导致司法裁判结果的不统一。最后,她以法官自由心证发展史的角度论证了人的主观意志对法律的重要意义。

上海海事大学的王铁雄教授针对本次会议中前面几位学者的发言提出了以下三个问题:其一,人工智能及其所引领的技术革命将带来法律变革还是颠覆?其二,讨论人工智能问题应当将其纳入技术层面讨论还是纳入法律层面讨论?其三,如果为人工智能设定相应的规范予以约束,我们是否应当为其设定一个普适性的规则?

最后,在上海市法学会外国法与比较法研究会副会长、华东政法大学陈颐教授的主持下,上海市法学会外国法与比较法研究会副会长、上海大学法学院李清伟教授和上海市法学会外国法与比较法研究会副会长、复旦大学法学院赵立行教授以及上海市法会外国法与比较法研究会会长、华东政法大学李秀清教授分别对本次会议作了总结。

李清伟教授认为,人工智能应当作为人的延伸或称为所造之物,人们应当对其利用、支配并约束。人工智能的双面影响使得法律对其的调节是必要的。但法律作为道德的最低标准对人工智能及其开发者的约束并不充分,只有对人工智能及其制造者提出较高的道德标准,其作为一项技术才具有价值中立的可能。最后,李老师认为他本人属于一个激进的保守主义者,欢迎人工智能的发展,并希望人类在认清其本质后对其予以审慎的应用。

赵立行教授指出,依据历史的经验,任何新技术的产生必然会引起社会不同程度的恐慌。但作为法律研究者,我们不能将现实问题与假定问题或恐慌混同,研究问题可以从法律的实体问题入手研究具体问题的解决,也可以从形而上的层面讨论伦理、法律等价值问题。人工智能与人类的关系类似于人类与上帝的关系,人滥用自由意志受到了上帝的惩罚,那么相类似的,受造的人工智能的滥用也应当受到相应的惩罚,待到时机成熟,法律应当为其规定属于其自由意志的“原罪”。

李秀清教授总结了全场发言,褒扬了与会学人的学术热情及对法律、社会前沿问题的关注。她号召外国法与比较法学人学习倪正茂教授“活到老,学到老”的学术精神,孜孜不倦,奋进求学,并感谢与会兄弟单位的支持以及各位学人的对学会发展的帮助。最后,她衷心感谢本次会议的与会者与工作人员,并祝愿学会薪火相传,在未来越办越好!