我们的AI技术有道德标准可言吗?

发布于:2018/7/12 10:01:39 | 512 次阅读

  

      大约从五年前开始,每个人都在谈论物联网(IoT)以及它将如何经由数亿台装置互连来改变一切。我们似乎周而复始地经历一项新技术被大肆宣传的循环,如今轮到人工智能(AI)了。
  在我大约33年来的电子产业与半导体职业生涯中,我看到了技术革命的三大变化。首先是微处理器时代,然后是互联网,接着是行动时代。而今,就像新思科技(Synopsys)共同首席执行官Aart de Geus最近所说的:“现在是AI时代!”他并在日前的一场活动中提到,AI将推动半导体产业在未来几十年的发展,因为大数据(big data)需要机器学习,而机器学习需要更多运算,这些都将产生更多的数据。
  的确,AI如今正处于市调公司Gartner所谓“炒作期”(hype cycle)的上升阶段,但它似乎又不同于之前引进新技术的情况:我从未见过一项技术引发这么多关于伦理道德的争辩。AI将会改变许多事情,自动驾驶车、军用和工业无人机、机器人,以及在医疗、政府和城市功能等领域的其他许多应用都可能受到影响。
   英国政府日前发布了一份长达183页的《英国AI发展现况调查》(AI in the UK: ready, willing and able?)报告,涵盖许多有关AI系统的责任、监管与伦理道德等议题,以及在AI研究与商业化应用方面的创新、投资与技巧等其他主题。
  英国上议院特别委员会主席Lord Clement-Jones说:“英国有着的AI公司、充满活力的学术研究文化、活跃的创业生态系统,以及大量的法律、道德、金融和语言优势。我们应该充份利用这样的环境优势,但关键在于必须以道德准则作为发展AI的关注重点。”
  Jones说:“AI并非没有风险,委员会提出的道德原则将有助于减轻这些风险。道德方法确保大众相信这项技术并且看到使用它的好处,同时也使其准备好质疑技术是否遭到滥用。我们要确保这个国家仍然是研究和开发这项新技术的前哨站。不过,新创公司可能很难自行扩大规模。”
  在该委员会的报告中,许多建议均指出AI需要透明化。当AI被用来做出重大或敏感的决策时,应该建立一个自发性机制来告知消费者。该报告并指出,当AI系统故障或对用户造成伤害时,现行法律是否足以明确相关责任,目前并不清楚,因此,该领域亟需尽快明确责任归属。
  让AI透明化
  AI系统能够透明且易于理解吗?是否存在一定的技术透明度,让人们能针对系统为什么作出某一项特定决定提出质疑?
  业界对此以及AI系统的问责制都有详细讨论。在许多深度学习系统中,透过许多不同的处理层馈送信息并得出最终解答或决定,可能会让系统看起来像“黑盒子”,即使是其开发人员也不一定都能够确定哪些因素导致系统决定其中一项比另一项更重要。
  辉达(Nvidia)欧洲、中东、非洲(EMEA)解决方案架构和工程团队总监Timothy Lanfear提出了另一种看法。他说,机器学习算法通常比传统的软件编码更短、更简单,因此在某些方面也更容易理解与侦测。“我们每天都在使用那些复杂到无法吸收的系统。AI并没什么不同。它也处于一种无法完全理解的复杂程度。然而,你能做的是把它分解成片段,找到测试它的方法,然后检查它是否按你期望的方式进行,如果不是的话,就采取行动。”
  该委员会坦承,要达到技术上的完全透明化相当困难,对于某些AI系统来说甚至是不可能的,特别是在某些情况下甚至并不适用。然而,在一些安全关键的场景中,技术必须是透明的。在这些领域的监管机构必须有权强制使用更透明的AI技术。
  英国AI委员会在其报告中还提到,“我们认为部署任何可能对个人生活造成潜在影响的AI系统都是不被接受的,除非它能对自己所做的决定提出充份且令人满意的解释。例如对于像深度神经网络(DNN)等无法为其决定产生完全解释的情况,可能意味着必须延迟某些特定用途的部署,直到找到替代解决方案。”
  致力于开发全堆栈自动驾驶车功能的英国自驾车新创公司FiveAI首席执行官Stan Boland并不认同该报告中提出AI系统存在的黑盒子现象。他说:“我们的系统是完全模块化的,这对于解释和除错系统以提升技术和服务来说非常关键。任何系统在实际上路之前都必须经过多次独立验证。”
  他补充说,全世界采用自动驾驶的方各不相同,“例如,在英国伦敦(London)和美国山景城(Mountain View)就有不同的运作方式。每个城市由于生活方式和环境条件不同,自动驾驶系统的模式也各异其趣。对我们来说,重点在于打造出符合欧洲客户需求的解决方案。”
  各国加码投资AI
  英国政府的这份报告也为的AI研发提供另一个视角。根据高盛(Goldman Sachs)的数据显示,在2012年第1季到2016年第2季之间,美国对于AI的投资达到了182亿美元,中国大陆和英国分别是26亿美元和8.5亿美元。随着中国大陆致力于成为AI的,预计到2030年,在其发展AI生态系统方面的投资将上看1,500亿美元。
  有鉴于现有资源的差异性,英国在AI领域的投入规模可能比不上中、美。德国和加拿大则有更多的比较性。德国的AI策略受其打造旗舰级工业4.0策略影响颇深。其策略探索以AI提升智能制造的过程,并产出整合AI功能的智能商品,例如冰箱和汽车。而加拿大的AI策略则较不专注于为特定领域开发AI,但该国政府已经拿出1.25亿美元成立了三座新的AI研究所,并吸引更多来自的AI研究人员。
  处理器瓶颈?
  过去十年来,尽管深度学习在AI的进展中扮演了重要角色,但它也存在一些问题。深度学习需要大量的数据集,这极难取得且费用昂贵,而且还需要大量的处理能力。该报告中提到,尽管深度学习近来随着处理能力提高而明显进步,但摩尔定律(Moore’s law)开始面临挑战,处理能力提高带动降价的脚步开始放缓。诸如量子运算等创新也还无法使其复苏或加速,不过现在还为时尚早,未来还有很多的不确定性。
  深度学习先驱Geoff Hinton提出了深度学习革命可能很快结束的警告。其他人的看法则较乐观,特别是由于各种客制AI芯片的出现,如Google的张量处理器(TPU),以及量子运算的进展,都为深度学习的未来提供了新的发展动能。
  犯罪滥用与监管
  该报告并深入探索犯罪滥用、监管和创新等领域。在“对抗式AI”(adversarial AI)领域,研究人员有效掌握AI系统如何运作,并试图瞒过其他AI系统做出错误的分类或决定。特别是影像识别系统经证实极易于受到这一类型的攻击。例如,研究人员可以巧妙地稍加改变图片或甚至是3D模型或标志,使其看起来与原始影像毫无区别,但仍瞒过AI系统将它们识别为完全不同的对象。
  其他例子还包括利用虚假影像让车子发生碰撞、突然停止,或触发自动武器发射等。当然,这些情况也可能发生在非机器学习的系统(人类决策者亦然),不过,使用非机器学习方法可以对所涉及的推论进行询问、恢复和除错,而许多机器学习系统则无法做到这些。
  在监管方面,该报告指出中国大陆“虽然在技术应用方面的法规不够完善,但却从另一方面推动了更快的实验和创新,包括对于数据的利用和AI技术等方面。”
  公司和组织在违反规定时将面临的责任程度也包括在内。Nvidia的Lanfear说,虽然公司员工知道其道德原则以及如何遵守规定,但他坦承并不容易回答这个问题,因为“作为技术,这并不是我的思想。”对此,很多人都和Lanfear有同样的感受。因此,必须找到一些机制以确保目前的道德准则趋势不只是简单地转化为无意义的黑盒子作业。
  如今,我们所拥有的AI技术可用于推动下一波基于高端AI处理器与芯片的运算进展。但是,尽管半导体和运算产业不断挑战极限,业界最终将会决定该技术在现实世界的应用有多大——我们总是在看到自动驾驶车发生伤亡事件后,才能听见社会的抗议声浪。而关于AI道德标准的讨论与争议,将有助于我们思考技术该如何安全且有效地部署,以及最终可被社会接受和采纳。

参与讨论
后参与讨论

//评论区

推荐阅读

智能网联汽车国际标准法规协调专家组(HEAG)召开工作会议

近年来智能网联汽车快速发展,新技术不断涌现,与相关产业融合度持续提升,正在推动全球汽车产业发生深刻变革。为应对此种形势,欧、美、日等汽车工业发达国家和地区都加大了智能网联汽车的国际标准法规协调的参与力度,在联合国世界车辆法规论坛(UN/WP.29)和国际标准化组织(ISO)层面,智能网联汽车相关国际标准法规协调活动正快速推进。 为更有效地支撑上述组织的国际标准法规协调活动,2017年全国汽车标准

0215jiejie | 发布于:2022-12-01 0评论 0赞

苹果推出搭载M2芯片的新款iPad Pro 799美元起售

据苹果官网,苹果推出搭载M2芯片的新款iPadPro。 11英寸wifi版起售价为799美元,wifi+蜂窝网络版起售价为999美元;12.9英寸wifi版起售价为1099美元,wifi+蜂窝网络版起售价为1299美元。

0215jiejie | 发布于:2022-10-19 0评论 0赞

新能源汽车领衔 “中国智造”加速登陆欧洲市场

全球五大车展之一巴黎车展时隔四年再度启幕。在这场被视为“全球汽车行业风向标”的盛会上,国内外汽车品牌云集,长城汽车、比亚迪等再次领衔中国汽车出海。 长城汽车欧洲区域总裁孟祥军表示:“欧洲是长城汽车最重要的海外市场之一,巴黎车展是长城汽车向欧洲市场展示GWM品牌和产品的最佳机会。长城汽车正在研究汽车行业碳排放的整个生命周期,到2025年,将推出50多款新能源产品,全力支持可再生能源使用,为全球用户

0215jiejie | 发布于:2022-10-19 0评论 0赞

严监管时代来临,电子烟“通配”大战走向何方?

针对通配烟弹厂商的一系列诉讼的结果,将对生产通配烟弹的品牌未来在电子烟行业的发展产生深远影响。 10月1日,《电子烟强制性国家标准》正式实施,中国电子烟监管全面生效。而在电子烟行业进入规范化、法治化阶段前夕,一场围绕着通配烟弹的争论在行业里发酵。 “通配”是电子烟从业者约定俗成的概念。换弹式电子烟由烟杆和烟弹组成,“通配”烟弹指的是非品牌商生产、可与品牌烟杆匹配使用的烟弹。多位业内人士表示,被

0215jiejie | 发布于:2022-10-19 0评论 0赞

Bourns 全新大功率分流电阻器

采用金属感应引脚,专用于大电流应用中进行精确测量 全新分流电阻器专为电池管理系统、大电流工业控制和电动汽车充电站 提供高可靠性、高成本效益的解决方案 美国柏恩Bourns全球知名电子组件领导制造供货商,宣布新增12款CSM2F系列功率分流电阻器,扩展其产品组合。全新系列采用铆接通孔金属传感引脚,可满足大电流应用中对电压测试点精确定位日益增长的需求。最新型Bourns?CSM2F系列分流电阻器

0215jiejie | 发布于:2022-10-18 0评论 0赞

请尊重元宇宙“这个筐”

元宇宙是个筐,啥都往里装,但区别在于有的像聚宝盆,有的像垃圾桶。国庆假期刚结束,中青宝“90后”董事长李逸伦便亲自上阵,玩起了元宇宙婚礼。靠着老板首秀和代言,中青宝顺势推出“MetaLove元囍”App,正式进军元宇宙婚礼赛道。 就产品而言,如同其他元宇宙产品,李逸伦的元宇宙婚礼“新奇与吐槽齐飞”:有人说是有趣的尝试,有人则认为像QQ炫舞结婚系统。要知道,QQ炫舞是一款推出了十余年的老游戏。

0215jiejie | 发布于:2022-10-13 0评论 0赞

边缘计算:突围商业模式痛点

截至8月末,中国5G基站总数达210.2万个,中国5G发展已经进入下半场。随着5G加速融入千行百业,互动直播、vCDN、安防监控等场景率先大规模落地,车联网、云游戏、工业互联网、智慧园区、智慧物流等场景也快速走向成熟,这些更大流量、更低时延、更高性能的场景涌现,对边缘计算的刚性需求势必爆发。 GrandViewResearch预测,即使在新型冠状病毒肺炎疫情肆虐全球的背景下,边缘计算和5G网络市

0215jiejie | 发布于:2022-10-13 0评论 0赞

商务部回应美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”

商务部新闻发言人10日就美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”应询答记者问。 有记者问:近日,美国商务部在半导体制造和先进计算等领域对华升级出口管制措施。同时,在将9家中国实体移出“未经验证清单”过程中,又将31家中国实体列入,请问中方对此有何回应? 对此,商务部新闻发言人回应称,中方注意到相关情况。首先,通过中美双方前一阶段共同努力,9家中国实体zui终

0215jiejie | 发布于:2022-10-13 0评论 0赞

TCL华星官宣与奔驰合作:推出全球首款横贯A柱的车载显示屏

今年1月,奔驰带来了VISIONEQSS概念车,其中控台采用了一块完全无缝的47.5英寸曲面显示屏,横贯整个A柱,令人印象深刻。今天,TCL华星正式官宣与奔驰达成合作,并认领了VISIONEQSS上这块全球首款横贯整个A柱曲面的车载显示屏。 根据TCL介绍,这款显示屏采用了完全无缝的超薄一体化设计,将仪表盘、中控与副驾娱乐显示融为一体,并能够与3D实时导航系统相辅相成。 同时,这块显示屏还采用

0215jiejie | 发布于:2022-10-12 0评论 0赞

半导体板块暴跌 谁最受伤

国庆假期后首日开盘,上证综指时隔5个月再次失守3000点,与此同时,半导体板块也再度走低,其中,北方华创、雅克科技等个股跌停。10月11日早盘期间,半导体板块持续下挫,北方华创、雅克科技再度跌停。截至下午收盘,北方华创、雅克科技维持跌停状态,华海清科、拓荆科技-U、盛美上海、清溢光电、海光信息的跌幅则超10%。同日,半导体板块中的119只个股中超五成呈现下跌趋势。 在半导体板块遭遇下挫的同时,北

0215jiejie | 发布于:2022-10-12 0评论 0赞