发布时间：2024-01-08 15:03:54   来源：安博电竞

  ，除了应该不断的提高机器本身的智力水平之外，让其更好用之外，在其和人类打交道的时候，还需要一个更宏观的，在技术至上的指导原则。他在短篇小说集《我，机器人》中写了这样一组规则，称为“机器人三定律”：

  1985年，阿西莫夫又出版了《机器人与帝国》，在书中他将三则扩张为四则，增加了第零法则：机器人不得伤害整体人类，或坐视整体人类受到伤害，构成更加完整的机器人四定律。

  虽然机器人三定律、四定律在很多有关于人工智能的电影和文学作品中屡屡出现，但也一直停留在想象阶段，并没有被实际应用过。一方面的原因，是在很长一段时间里，机器的智力水平还没有高到能和人类社会日常生活的息息相关；另外一个原因，则是由于阿西莫夫的原则只是简单的语言符号，并未构成严密的逻辑闭环。

  但这并不妨碍阿西莫夫的思考成为一种新学科“机械伦理学”的基础，一门以人类为中心，关于机器人的建造和使用的学科，其核心就是如何安全的应用智能机器。

  而Mobileye公司，正在试图在自动驾驶领域，书写堪比机器人三定律，甚至更精确的规则。

  这个月的月初，至顶网（赛博故事母平台）拜访了Mobileye，一家创立于 1999 年，总部在以色列的高科技公司。该公司的主体业务为辅助驾驶系统和无人驾驶开发所需要的计算机视觉机器学习、数据分析、定位与地图建模等技术。2017 年的 3 月，Mobileye被英特尔公司斥资 153 亿美元收购，并与后者的无人驾驶事业部（ADG）合并，形成新的自动驾驶部门，由 Mobileye 联合发起人、董事长兼首席技术官阿姆侬·沙书亚（Amnon Shashua）教授领导。

  图注：Mobileye 联合创始人、董事长兼首席技术官阿姆侬·沙书亚教授

  很长时间以来，无人驾驶汽车的安全可靠性，一直被认为只和数据量紧密关联。这是由于这一次由机器学习、深度学习带来人工智能浪潮的本质来是使用统计学方法对数据的利用，让机器通过“吃掉”海量的数据来总结模式和规律。只要数据足够多，也就是路测的里程足够长，无人驾驶汽车就会更安全。沙书亚在和我们交流中表示，在无人驾驶这件事上，“把任务完全交给统计学是不可行的”，不能只有数据训练，还要有一些常识原则，否则会面临极大的发展障碍。

  障碍之一在于经济性，“要让人类信任无人驾驶汽车，安全性至少要比人类司机好100倍。如果用统计学方法来实现，这就从另一方面代表着1亿小时的路测，假设路测时每小时行驶30公里，路测的距离是30亿公里”， 沙书亚做了一个简单的计算来证明经济上的不可能性，毕竟30亿公里，相当于绕地球跑了7万圈还不止。

  障碍之二来自于黑箱问题，沙书亚认为统计学之上的AI “既不透明、也不公开”。现在的深度学习是基于数据的自动编程，一种方式成功了，我们大家都知道它有效，但是我们不知道它为什么有效，反之，如果它失败了，我们也不知道它为什么失效，唯一能做的就是不断调整参数，加大数据量，试图让结果更尽如人意，但实际上我们对其“内在”一无所知。

  但对无人驾驶而言，透明是很重要的。毕竟驾驶这件事太复杂了，涉及到社会安全，涉及到驾驶员、乘客、路人，以及涉及交通部门、汽车公司甚至保险公司等利益相关方。一旦车辆发生事故，我们却无法向涉事相关方解释缘由，也无法界定责任，进而很难让无人驾驶赢得社会信任。

  在自动驾驶汽车，很有几率会成为人类第一个要考虑怎么与其安全相处的智能机器之际。Mobileye试图在统计学之上，增加一些人类能够理解的规则，发布了它RSS—— Responsibility Sensitive Safety模型，中文翻译为责任敏感安全模型。RSS中所制定的各种规则，正如同阿西莫夫的“机器人三定律”，其核心目的也是安全。

  1． 无人驾驶汽车本身不能导致事故（它可以是事故中的一方，但不是导致事故的一方）；

  2． 自动驾驶汽车应该在其它车辆发生错误时（导致事故），做出正确反应，避免发生更严重的事故。如果用一句话来总结，就是自动驾驶汽车永远不应为一场事故负责。

  之所设立这个目标，能够理解为是要解决无人驾驶的可行性。不导致事故，就从另一方面代表着自动架设汽车不会为事故承担相应的责任，这在基础上卸下了监管部门、汽车公司的压力。

  但如果没有合理的方式，仅靠这句文字符号，无从保证无人驾驶汽车可以沿着这个目标迈进。所以无人驾驶汽车就需要能回答这样几个问题：1，什么是有几率发生事故的危险情况；2，遇上问题时，什么是正确的反应；3，以及最后，也是很重要的，既然无人驾驶汽车要避免成为导致事故的一方，那么如何认定事故中的责任方？（即如何避免成为责任方）

  3． 拥有“路权”，但别刻意争取路权。（英文是：right－of－way is given，not taken）。如果举例来说明，前车加塞，或许“可以不让路，但是为了能够更好的保证安全，可以让速。

  需要注意的是，RSS并非只是看似简单的文字符号描述，而是由强大的数学逻辑来保证可实现，像下图这样的公式（关于安全车距），在论文中处处可见。沙书亚也强调，一定要遵守基于三方面的原则对这些常识进行公式化，包括合理性、有效性与可验证性。而有了这些常识准则，自动架设汽车的决策系统，就可以避开单纯依靠统计学AI实现安全驾驶的低效性。

  在我们走访Mobileye公司的过程中，发生了较为重要的新闻。Mobileye和大众宣布共同合作首个无人驾驶网约车服务（也称为出行即服务，MaaS）。沙书亚认为这一个项目的重点在于，这是全球第一个由政府参与的无人驾驶MaaS项目。以色列政府承诺将为此成立专门的委员会，讨论监管壁垒、监管架构支持MaaS发展。

  对于无人驾驶汽车这样的新生事物，沙书亚认为监管的松紧程度是很重要的。如果为了安全，过于看重监管，很可能一事无成。这方面来看，美国相对放松，欧洲则是重重监管，过松或者过严都会保证一事无成（过松导致事故频发让公众失去信心，过严则让产业毫无创新机会）。而以色列做了制度上的创新，由政府介入来确保项目在安全性和可行性的平衡，“做到了创新型监管（制度创新）”。

  在沙书亚眼中，新的技术方面的要求，让政府法律的合理监督管理体系，和技术上的严密数学逻辑，组成了一门重要的新学科——“法规科学”（regulatory science），一门把法律和高等数学结合在一起的新学科，正如阿西莫夫催生了机械伦理学一样。沙书亚希望RSS不是Mobileye一家之言，而是成为全世界无人驾驶产业的共识，作为一项“常识规则”，认同的人越多，安全性和可用性就越能得到保证。Mobileye现在正在同主机厂合作，同行业供应商合作（百度4个月前宣布将采用Mobileye的RSS模型），甚至同美国、中国等监督管理的机构进行合作，来开展这样推动共识，协同创新的工作。

  同样发生在我们到达Mobileye之时，北京公交集团、北太智能也同时到访Mobileye，三方共同签署了谅解备忘录，建立合作伙伴关系。用北太智能的运营总监李华的话来说，“建立一个基础交通大数据的基础设施”。

  第一次是自驾，以色列并非是一个司机开车循规蹈矩的国度，当我们一行人在异国他乡小心自驾时，时不时被后边响起的鸣笛声催促，甚至被逆行超车。所以当我把这个无人驾驶网约车相关新闻发到朋友圈时，有位在以色列工作过的朋友说，在这里开发无人驾驶，绝对是好地方，有足够丰富的路测场景。

  第二次是乘上了Mobileye平台支持的无人驾驶汽车。在没有人类司机干预的情况下，我们乘坐的福特汽车在马路上自由穿梭。甚至在一次变线时，其反应速度远超于人类。而事后复盘一想，这丝毫不值得奇怪，毕竟这辆汽车的摄像头可以实时兼顾前后两百米的路况，根本无需像人类一样转向之前，还要匆忙再看一眼后视镜。

  实际上，无人驾驶汽车完全可能已比人类司机更杰出了，只不过出于跨物种担心的缘故，我们应该无人驾驶汽车，比人类驾驶汽车的安全水平高一百倍，才能认可一个新司机的出现。就让人类“老司机”再保持最多不会超过十年的自信吧。

  声明：本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人，不代表电子发烧友网立场。文章及其配图仅供工程师学习之用，如有内容侵权或者其他违规问题，请联系本站处理。举报投诉

  技术的核心是运动控制，包括定位、导航、感知、决策、跟踪等，可大范围的应用在家庭服务

  深圳市江智工业技术有限公司设计开发的用于大健康养老产业以及少儿幼教市场的暖心

  首批基于Omniverse Replicator的应用DRIVE Sim和Isaac Sim加速

  的开发 美国加利福尼亚州圣克拉拉——GTC大会——2021年11月9日

  技术使用的大户，亚马逊公司正在建立自己的物流，以此和UPS、联邦快递等公司竞争，

  技术在卡车行业的加入正在加速，与Plus的合作也可以看作亚马逊公司希望

  正以各种各样的形态存在于我们的日常生活与工作当中。那么对这些逐渐融入到我们生活的

  仓储物流业协作拣选解决方案 基于视觉与激光融合的导航方式，灵动科技Flex 系列

  维地图构建能力，可检测仓库环境中门、立柱、通道、十字路口。Flex 系列

  配送车辆开始了测试工作。俄罗斯搜索和服务巨头Yandex希望将其业务扩大到

  采用了与Starship Robotics类似的“带轮子的小型冰箱”风格。

  甚至可将小蒂米引离莱西的周围。但为了达到这一层次的信任、舒适和放松，我们一定要了解并克服恐怖谷。否则至少对人类的感知来说，这些

  不能伤害人类；它们必须要服从于人类；它们必须保护自身。后来还加入了“第零

  1月6日晚上七点左右，美国拉斯维加斯发生了一起离奇的车祸：一台高价打造的

  。而自去年开始，一些公司从自身出发，制定了适用于本身的人工智能准则，比如微软，提出了人工智能安全6大准则，又比如谷歌，提出不利用人工智能作恶等多项标准。

  初创公司 Nuro 近日发布了安全报告。这份长达33页的文件标题为“《Delivering Safety》”，概述了使用

  装置。它既可接受人类指挥，又可以运行预先编排的程序，也能够准确的通过以人工智能技术制定的

  Mobileye，在日前推出的责任敏感安全模型——RSS（Responsibility Sensitive Safety），以及该模型的运行模式。在交流中，Jack Weast将RSS定义为给

  不再是“欺师灭祖”“犯上作乱”的反面角色，而是人类忠实的奴仆和朋友。那个时代，有不会造成拥堵的无人

  汽车、在家可享受的未来医疗、与人类实时互动的智能家居、沉浸式体验的历史事件甚至是和AI的爱情…

  ；因为常规传感器（摄像头、超声波传感器、普通雷达）的精度已超过人类，所以不犯

  ，比如在工厂里组装汽车的机械臂，当人类靠近时，它们会马上停机。但这种机制在某些地方并不适用，比如需要快速移动来避免碰撞的无人