季卫东 季卫东:算法黑箱化与人工智能立法( 四 )


自动驾驶的权利、责任和道德
在以上背景下,我们来讨论一些具体的问题,先来看看自动驾驶。
2020年6月27日,上海启动滴滴自动驾驶服务。此前,长沙试图驾驶一辆带有自动驾驶网络的汽车,遭到出租车司机的抵制。亚利桑那州自驾车辆引发人身事故后,各国的态度变得更加谨慎。无论如何,在自动驾驶普及之前,还有很多法律问题需要解决。
首先要考虑共享乘车服务商的资质和信用。目前,BAT正在提供自动驾驶领域的服务,其策略将影响自动驾驶的服务地位和权利义务的设定。其次,现行《道路交通安全法》第十九条规定了驾驶人的资格。人工智能也需要考驾照吗?三、如何界定自动驾驶汽车智能化水平与法律的关系?
人工智能一旦引入,起初只是起辅助作用,或者有些操作是自动化的;但当涉及到有条件自动驾驶或全自动驾驶时,软件系统本身就成了主要责任。如果出了问题,你应该向汽车制造商、程序开发人员还是数据提供商要求赔偿?如何认定这个责任?如何分配?第四,人工智能的用户有不同的类型,但无论是消费还是商业使用,似乎都应该合法采用用户免责原则。
对于自动驾驶,用户根据合同获得服务。此时的交易对象不是车辆,而是移动服务,车辆只是移动中的人提供的服务形式。自动驾驶汽车的主要特点是使用人工智能软件。如果车辆在到达目的地前发生故障,是否意味着服务结束或换乘另一辆出租车?当交易对象为车辆时,买方将承担后续风险,但当交易对象为服务时,卖方是否始终承担后续风险?法律没有明文规定。
区分硬件和软件是合理的。如果问题出在软件上,你不能让汽车制造商对产品负责。但是谁来负责更新车内嵌入的软件呢?是汽车制造商还是软件供应商?当车辆发生故障或由于自动驾驶软件缺陷导致事故时,会引发一系列复杂的新问题。还有,自动驾驶的人为监控和干预是如何进行的?如果出现紧急情况,突然从自动变成手动就会出现混乱。在这种情况下如何追究责任?现在上海已经有了道路上的自动驾驶网络,这些问题将迫在眉睫,相关部门需要及时调查立法,制定自动驾驶交通安全系统的设计方案。
数据的经济价值和个人尊严
看看数据法律问题的光谱带。
不言而喻,人工智能离不开数据。人工智能预测能力的应用、进一步发展和提高都依赖于数据。数据和人工智能之间存在比例关系。数据法律问题的光谱带包括两端:一端涉及产权,另一端涉及个人信息安全和隐私保护。现阶段,中国人口约14亿,网民约8亿,每天产生约900兆的海量数据。
据2018年统计,中国大数据产业相关人才规模居世界第一,占比59.5%,比排名第二的美国高37.1个百分点。更值得注意的是,中国的数据高度公开,约70%的优质数据资源由国家控制。这种情况有利于打破各种局部界限,充分调动数据资源发展产业经济,这必将推动人工智能在国家治理和法律体系运行中的广泛应用,但也以更为尖锐的形式呈现出个人数据安全和隐私保护的问题。
物联网、大数据、人工智能的“铁三角”在某些场合可能会剥夺公民对个人信息的处置权、人格尊严和法律面前人人平等的权利。比如常见的电商、互联网利用个人消费信息作为学习数据,分析行为风格,发布标杆广告,需要认真考虑这是否已经构成侵犯隐私权。尤其是,遗传信息包含先天特征。一旦被人工智能解读泄露,很容易影响个人的参保、就业和加入商业保险,大大减少部分公民的生活机会和选择。
在上述两端之间,还存在实现数据经济价值和利益分配的问题。庞大的网上交易平台利用数据产生利润,但数据主体是谁?数据产生的利润分配是否公平?这些都是非常复杂的法律问题。

推荐阅读