杂志汇大学生

只剩10%技术但还有90%伦理

作者:文/郭娇(华东师范大学) 插画/张祎
斯坦福自动驾驶研究中心(Center for Automotive Research at Stanford,简称CARS)十年前在斯坦福大学校园诞生,它的孕育可以追溯到2002年由美国国防高级研究计划局(Defense Advanced Research Projects Agency,简称DARPA)组织的一次挑战赛。

CARS

DARPA是一个神奇的机构,它在互联网、人工智能、无人车等领域都诞生了颠覆性技术。比赛于2004年举行,地点设在美国西部的沙漠,路线总长240公里,奖金高达100万美元。结果大跌眼镜——没有团队获奖,甚至没有一辆车跑完全程,成绩最好的卡内基梅隆大学无人车只行驶了11公里,不到全程的5%。DARPA没有放弃,于2005年继续举办比赛,奖金翻了一番。卷土重来的团队水平全面提升,有5辆车跑完全程。整个比赛焦点是由特龙(Sebastian T h r u n)带队的斯坦福大学和由惠特克(Red Whittaker)带队的卡内基梅隆大学的双雄对决。斯坦福胜出。

两年之后的DARPA挑战赛,行驶路线中包括96公里的城市道路。无人车不仅要遵守交规,还要根据路面情况实时判断,包括雨雪天气、停车场、其他车辆行驶状况等。卡内基梅隆大学反败为胜。比赛吸引了科技巨头,这次比赛也成了DARPA挑战赛的绝唱,不少团队领军人物纷纷加盟谷歌、通用等科技巨头,或自己创业。特龙于惜败的第二年在斯坦福大学联合创建了CARS。特龙是一位神奇人物,大学期间主攻计算机科学,通过深度学习与计算机视觉实现自动化驾驶,是谷歌的“无人车之父”,后来还创办了三大慕课平台之一的Udacity。CARS初创团队的另两位成员,一位是机械工程专业的格德斯(Chris Gerdes),他通过动态设计实验室(dynamic design lab)研究驾驶员辅助系统;另一位是擅长传播的纳斯(Cliff Nass)。计算机科学、机械工程、传播学,三位创始人的不同专业背景,奠定了CARS的跨学科DNA。

CARS打通了斯坦福大学法学院、商学院等七大学院,开设的课程及开展的科研项目涉及模拟、能源、人机交互、法律、伦理和商业等各个专业。

与CARS战略合作的企业共41家,比如汽车大鳄福特、大众、通用、奔驰、丰田、宏达,高科技企业3M、intel,保险公司Allstate、Statefarm,电器公司Bosch、松下。每个战略合作企业赞助CARS年费3.2万美元,应邀参加年会,更新每月动态,获得打包的简历。预计到2030年,无人车全球商机将高达7500亿美元,它们收集用户行为数据,用于广告、保险等业务。无人车不仅吸引了大鳄们,初创企业也跃跃欲试。

斯坦福大学开设了课程《自动驾驶的商业》,同学们在课上完成商业计划书,交由评委评价。这门课还邀请Voyage创始人喀麦隆(Oliver Cameron),他结合无人车技术与养老市场,提供专门针对老年人的自动驾驶服务。一位老年盲人曾使用他的App,呼叫无人出租车,在4000多人的校园里行驶了15公里,平安到达目的地。老年痴呆、行动不便的老年乘客都是Voyage的目标用户。

不论专业,只要对无人车感兴趣,就可以在CARS选修课程或参与教授的相关课题。2017~2018年CARS开设的课程包括视觉计算系统、了解能源、可持续的城市及地区交通规划、与企业伙伴开发软件、控制设计技术导论、减少温室气体排放、反馈控制设计、能源储存整合(车辆、可回收物及电网)、能量资源(燃料与工具)、电动汽车与飞机、极端能量效率、计算机视觉(从3D重构到辨识)以及高级反馈控制设计等。

CARS的课程以理工科的“干货”为主,研究的课题则根据教授的不同兴趣,目前进行的研究正是为了“冲刺”,CARS执行主任如普夫(Stephen Zoepf)说:“我们已经完成了自动化商业车辆80%到90%的开发工作,但最后的10%非常困难”。

“我们已经完成了自动化商业车辆80%到90%的开发工作,但最后的10%非常困难”。

伦理最后一公里

最后10%在技术上和伦理上仍有巨大问题。

技术上,既困难又刺激的一大挑战,是计算机与心理交叉的人机交互。

在CARS大众汽车创新实验室VR(虚拟现实)仿真剧场的中心地带,停放着一辆黑色丰田亚洲龙(Avalon),车身环绕着多个巨型屏幕。由计算机程序控制,屏幕让车上的人员进入虚拟路面场景,包括对面来车、高架、交通灯、路旁等情况。与此同时,各种传感器实时监控车辆与人员的下意识反应。采集、分析监控到的行为数据,CARS发现了不少值得研究的课题:为什么无人驾驶中车上的人会昏昏欲睡?在何种情况下车上的人想抢过方向盘……这些问题属于人机交互领域的前沿。

在人机交互“最后一公里”的挑战中,最重要的莫过于让消费者准备好(consumer-ready),即让人们接受无人车时代。这个目标并不容易实现。在硅谷,曾开展了著名的“幽灵车手(ghost driver)”课题研究。由于驾驶员穿上了特制服装,有人会误以为这是一辆无人车。车在十字路口停下,用摄像头记录行人的反应,再通过问卷进一步采集他们的想法。当车依交规停车,行人反应正常;一旦车出现起步再停的情况,行人的反应五花八门,有绕到车后穿行的,有手舞足蹈的……对无人车工程师而言,他们得训练这辆车不仅能“看见”反常的动作,还得“理解”并采取适当策略。

“最后一公里”的挑战也涉及无人车伦理。

很多需要人判断的场景至今难以被编入无人车的程序。比如左边是行人,右边是骑自行车的人,事故难以避免,保全哪一方?再比如乘客与行人间,牺牲哪一方?2016年《科学》杂志曾发布了一系列这种伦理调查。调查团队由来自法国与美国的科学家组成,包括麻省理工学院媒体实验室(Media)的研究者。调查问题的设计相当有水平——假如由你来设计无人车的算法,车上乘客与路上行人只能一人存活,你的选择是什么?假如能拯救的行人是十人,你是否会改变主意?假如不用牺牲乘客,而是另一个行人,你又会如何选择?如果车上乘客不是本人,而是朋友或家人,那么结果是否不同?假如你是无人车的潜在用户,不同算法是否会影响你的购买意愿?假如你是政府决策者,是否要对这些算法进行管制?如果决定进行管制,依据的伦理准则是什么……调查结果表明,“减少死亡人数”这一伦理准则获得高度认同,大多数人选择“牺牲乘客”,只有23%的人选择以一命(车上乘客)换一命(路上行人),76%的人选择“以一换十”。大多数人不愿意购买或乘坐无人车。2017年的皮尤调查支持这种疑虑——60%的美国人不愿意乘坐无人车。87%的受访者认为,无人车乘客应该有在紧急情况下驾驶车辆的能力。

如何让无人车学会人类的道德判断?如何让公众相信无人车的安全?如何制定相关的法律规定?如何在事故发生后裁定责任……这些都是要突破的伦理“最后一公里”。

责任编辑:尹颖尧

 

相关文章