人民日报：给智能机器嵌入“道德”算法

发布于：2018/9/3 11:43:51 | 371 次阅读

[转载]原文链接：

　　人工智能的应用，可能是影响深远的社会伦理试验。应通过算法给智能机器嵌入人类的价值观和规范，让它们具有和人类一样的伦理道德
　　前不久，包括特斯拉首席执行官马斯克在内的多位人工智能签署承诺书，呼吁不要开发“人工智能自主武器”。这已经不是业界次警告人工智能的潜在风险了。尽管当前处理单项任务、完成人类指令的“弱人工智能”自主性还很低，人们却不能因此忽视新技术应用的潜在隐患。
　　高效、聪明的人工智能并不完美。比如，人工智能存在算法缺陷。这种缺陷往往源于机器学习过程的不可解释和不可理解，它的判断有时就像在一个黑箱中完成，缺少透明性。无人驾驶汽车决定向左或右转时，人们并不完全清楚它做出转向的过程。除了传感器故障，人们甚至无法准确找到问题原因，这就给有针对性地调整系统、判定责任带来了障碍。正因为如此，不久前生效的欧盟《通用数据保护条例》专门规定，人工智能公司必须让人来审查某些算法决策。
　　不仅有近忧，更有远虑。放眼未来，人工智能的应用正在模糊虚拟世界和物理世界的界限，可能重塑人类的生存环境和认知形态，并由此衍生出一系列棘手的伦理、法律和安全难题。与历史上其他技术创新相比，人工智能的伦理法律等问题受到如此大的关注，一个重要原因在于它在理念上有望实现可计算的感知、认知和行为，从而在功能上模拟人的智能和行动，进而使得机器具有了一种准人格或拟主体的特性。人类现有的法律规范、概念框架及知识储备，能否应对人工智能发展引发的新问题，是人们不得不正视的挑战。
　　针对人工智能应用的潜在风险，国际社会在标准设计、伦理道德等方面提出了一系列试图控制智能机器系统的方案，逐渐形成一个共识原则：通过算法给智能机器嵌入人类的价值观和规范，以此让它们具有和人类一样的同情心、责任心、羞耻感等伦理道德。人们希望，人工智能的算法遵循“善法”，在完成人类难以完成的任务同时，吸取人类道德规范“善”的一面，从而达到控制机器风险的目的。毕竟，任何算法都只是实现目的的工具或手段，“善”的结果才是人类的追求目标。
　　实际上，通过编写代码和算法来控制机器的设想并不新鲜。70多年前，美国科幻作家阿西莫夫提出“机器人三定律”，构想了通过内置的“机器伦理调节器”，设定机器人不得危害人类的原则。而今，计算机、伦理学家、社会学家、心理学家等正在共同努力，走在实践这一设想的路上。
　　人类对人工智能发展的远虑或许来得早了点，但未雨绸缪体现的正是人类的智慧和洞见，我们不能等到人工智能深度介入人类生活后才思考如何与之相处的问题。与机器相处的和谐度，应是人类开发利用人工智能的重要标尺。毕竟，人工智能的应用，不仅仅是一场科技创新，也可能是影响深远的社会伦理试验。
　　“人工智能的短期影响由控制它的人决定，而长期影响则取决于人工智能是否完全为人所控制。”这是知名物理学家霍金给人类留下的警示。我们不必被人工智能的风险所吓倒，但在享受人工智能福利的同时，也需要划好伦理道德、法律规则等红线。

参与讨论

登录后参与讨论

//评论区

推荐阅读

智能网联汽车国际标准法规协调专家组（HEAG）召开工作会议

近年来智能网联汽车快速发展，新技术不断涌现，与相关产业融合度持续提升，正在推动全球汽车产业发生深刻变革。为应对此种形势，欧、美、日等汽车工业发达国家和地区都加大了智能网联汽车的国际标准法规协调的参与力度，在联合国世界车辆法规论坛(UN/WP.29)和国际标准化组织(ISO)层面，智能网联汽车相关国际标准法规协调活动正快速推进。为更有效地支撑上述组织的国际标准法规协调活动，2017年全国汽车标准

0215jiejie | 发布于：2022-12-01 0评论 0赞

苹果推出搭载M2芯片的新款iPad Pro 799美元起售

据苹果官网，苹果推出搭载M2芯片的新款iPadPro。 11英寸wifi版起售价为799美元，wifi+蜂窝网络版起售价为999美元；12.9英寸wifi版起售价为1099美元，wifi+蜂窝网络版起售价为1299美元。

0215jiejie | 发布于：2022-10-19 0评论 0赞

新能源汽车领衔 “中国智造”加速登陆欧洲市场

全球五大车展之一巴黎车展时隔四年再度启幕。在这场被视为“全球汽车行业风向标”的盛会上，国内外汽车品牌云集，长城汽车、比亚迪等再次领衔中国汽车出海。长城汽车欧洲区域总裁孟祥军表示：“欧洲是长城汽车最重要的海外市场之一，巴黎车展是长城汽车向欧洲市场展示GWM品牌和产品的最佳机会。长城汽车正在研究汽车行业碳排放的整个生命周期，到2025年，将推出50多款新能源产品，全力支持可再生能源使用，为全球用户

0215jiejie | 发布于：2022-10-19 0评论 0赞

严监管时代来临，电子烟“通配”大战走向何方？

针对通配烟弹厂商的一系列诉讼的结果，将对生产通配烟弹的品牌未来在电子烟行业的发展产生深远影响。 10月1日，《电子烟强制性国家标准》正式实施，中国电子烟监管全面生效。而在电子烟行业进入规范化、法治化阶段前夕，一场围绕着通配烟弹的争论在行业里发酵。 “通配”是电子烟从业者约定俗成的概念。换弹式电子烟由烟杆和烟弹组成，“通配”烟弹指的是非品牌商生产、可与品牌烟杆匹配使用的烟弹。多位业内人士表示，被

0215jiejie | 发布于：2022-10-19 0评论 0赞

Bourns 全新大功率分流电阻器

采用金属感应引脚，专用于大电流应用中进行精确测量全新分流电阻器专为电池管理系统、大电流工业控制和电动汽车充电站提供高可靠性、高成本效益的解决方案美国柏恩Bourns全球知名电子组件领导制造供货商，宣布新增12款CSM2F系列功率分流电阻器，扩展其产品组合。全新系列采用铆接通孔金属传感引脚，可满足大电流应用中对电压测试点精确定位日益增长的需求。最新型Bourns?CSM2F系列分流电阻器

0215jiejie | 发布于：2022-10-18 0评论 0赞

请尊重元宇宙“这个筐”

元宇宙是个筐，啥都往里装，但区别在于有的像聚宝盆，有的像垃圾桶。国庆假期刚结束，中青宝“90后”董事长李逸伦便亲自上阵，玩起了元宇宙婚礼。靠着老板首秀和代言，中青宝顺势推出“MetaLove元囍”App，正式进军元宇宙婚礼赛道。就产品而言，如同其他元宇宙产品，李逸伦的元宇宙婚礼“新奇与吐槽齐飞”：有人说是有趣的尝试，有人则认为像QQ炫舞结婚系统。要知道，QQ炫舞是一款推出了十余年的老游戏。

0215jiejie | 发布于：2022-10-13 0评论 0赞

边缘计算：突围商业模式痛点

截至8月末，中国5G基站总数达210.2万个，中国5G发展已经进入下半场。随着5G加速融入千行百业，互动直播、vCDN、安防监控等场景率先大规模落地，车联网、云游戏、工业互联网、智慧园区、智慧物流等场景也快速走向成熟，这些更大流量、更低时延、更高性能的场景涌现，对边缘计算的刚性需求势必爆发。 GrandViewResearch预测，即使在新型冠状病毒肺炎疫情肆虐全球的背景下，边缘计算和5G网络市

0215jiejie | 发布于：2022-10-13 0评论 0赞

商务部回应美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”

商务部新闻发言人10日就美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”应询答记者问。有记者问：近日，美国商务部在半导体制造和先进计算等领域对华升级出口管制措施。同时，在将9家中国实体移出“未经验证清单”过程中，又将31家中国实体列入，请问中方对此有何回应？对此，商务部新闻发言人回应称，中方注意到相关情况。首先，通过中美双方前一阶段共同努力，9家中国实体zui终

0215jiejie | 发布于：2022-10-13 0评论 0赞

TCL华星官宣与奔驰合作：推出全球首款横贯A柱的车载显示屏

今年1月，奔驰带来了VISIONEQSS概念车，其中控台采用了一块完全无缝的47.5英寸曲面显示屏，横贯整个A柱，令人印象深刻。今天，TCL华星正式官宣与奔驰达成合作，并认领了VISIONEQSS上这块全球首款横贯整个A柱曲面的车载显示屏。根据TCL介绍，这款显示屏采用了完全无缝的超薄一体化设计，将仪表盘、中控与副驾娱乐显示融为一体，并能够与3D实时导航系统相辅相成。同时，这块显示屏还采用

0215jiejie | 发布于：2022-10-12 0评论 0赞

半导体板块暴跌谁最受伤

国庆假期后首日开盘，上证综指时隔5个月再次失守3000点，与此同时，半导体板块也再度走低，其中，北方华创、雅克科技等个股跌停。10月11日早盘期间，半导体板块持续下挫，北方华创、雅克科技再度跌停。截至下午收盘，北方华创、雅克科技维持跌停状态，华海清科、拓荆科技-U、盛美上海、清溢光电、海光信息的跌幅则超10%。同日，半导体板块中的119只个股中超五成呈现下跌趋势。在半导体板块遭遇下挫的同时，北

0215jiejie | 发布于：2022-10-12 0评论 0赞

unionblog

关注