AI时代,真实已经是易碎品了

发布于:2019/6/21 10:08:46 | 2053 次阅读

  先做声明,虽然文末我提到了正在做的事情,但是这不是一篇软文。只是因为观点不谋而合很高兴,所以提了一下而已。希望不要影响你的阅读。
  这几天,科技新闻的头条大事是:Facebook发布了名为Libra的加密货币白皮书,这是一套基于加密货币理念设计的,且Facebook不能完全控制的数字货币。当然,它仍然是几家巨头控制的中心化较强的货币,而不是真正的去中心加密货币。这不是Facebook次尝试这个方向,这它的准备比以往的方案完善很多。虽然和真正的“区块链去中心货币”还有很多区别,但是好歹巨头们总算冲进了这个市场。
  所以,即使Facebook的目的达不到,对于整个行业仍然意义重大。不过我这篇文章并不是专门讨论FB的加密货币,区块链和加密货币这两个东西紧密关联,有的项目看重链多一些,有的看重币多一些,Facebook的Libra是看重币多一些,更着重强调它的支付功能,和更低成本的跨国支付结算。而非常巧合的是,同样在这几天,Stephen Wolfram也写了一篇关于区块链的文章,这篇文章讲到了区块链的一个重要应用,但是在FB发币新闻的热潮下,它获得关注少了很多。但在我看来,这篇文章讨论了的东西更值得思考。
  Stephen Wolfram知名度在中文世界似乎并没有特别高,这和他的实际业界地位差距很大。如果让我评价,他是整个行业内最天才的人之一。此人无论是科研还是商业,都有超乎寻常的成就。他15岁就开始发表物理学论文,一心想做物理学家,20岁在加州理工拿到了物理学博士学位之后,开始研究复杂性理论,之后为了他的研究需要,决定自己做一些工具,最终发明了Mathematica。Mathematica算的上是历史上最重要的软件之一。除了数学和物理研究,他也是最早研究人工智能的科学家之一。 为什么他会写这篇文章呢,要从基于深度学习的视频换脸术DeepFake谈起,如果你常看科技新闻,应该记得去年这时候热门的换脸黑科技DeepFake。一年之后,基于它的各种奇怪应用层出不穷,起初人们也就是拿来换换明星的脸玩,但很快人们发现,这种技术如果用来做假新闻,就会造成极大破坏性和难以预料的后果。随着2020美国大选越来越近,这种担心也随之增加。
  六月初,美国众议院情报委员会召开了一个听证会,希望了解DeepFake和AI相关的一些问题,Stephen Wolfram是被邀请参加听证会的人之一。但是他没空去,于是把想法写成了这篇文章放在了自己Blog上。这对于我这样的读者倒是个好事,这可以让他更从容的写下他的想法,而不是被听证会的节奏干扰。
  众所周知,伪造照片是一个历史悠久的技术,从有PhotoShop之前的年代使用传统胶片人们就一直在做,Stephen Wolfram说照片伪造技术和照相技术历史几乎一样长。而今天我们的问题是,当AI可以用来参与伪造照片的时候,我们有没有简单的办法分辨出哪些照片是真的?毕竟之前大家说“无图无真相”,现在是“有图有视频它也未必是真的”。
  要讨论这个问题,我们先要隐藏技术细节来简单介绍一下伪造照片和视频使用的人工智能技术:GAN(生成对抗网络),用最容易理解的方式,可以看作两个系统互相对抗,一个系统生成假数据集叫做生成器,另外一个系统叫做判别器,它用真实数据集来判别生成的假数据集的真伪。然后两个系统互相对抗,最终目的就是让判别器无法判断真假,所以这类系统的目标就是生成机器无法判别真假的数据集。GAN网络当然不是的,说它有智能也是一种美化的说法,它当然没有真正的智能,也理解不了逻辑本身,但是用在伪造视频和照片上,它目前的能力已经足够给人类带来麻烦了。因为如果生成器生成的内容足够多,并且利用社交网络传播和转发,那么要鉴别真假,就成了一个工作量巨大的事情。相信在这个时代,大部分人都对各种群里面千奇百怪的谣言有深刻体验,那么考虑一下,这些文字谣言都配上了很真实的照片和视频的时候,要鉴别真假的劳动力会增加多少?
  已经无法阻止人们使用机器源源不断产生假图片和视频了。对于某些关键性内容,人类应该还可以花费巨大的成本,由类似鉴证小组这样的组织来判别真伪,但是对于日常生活中,尤其是社交网络流行的海量内容,限于效率和人力成本,可以说是无能为力的。假视频生成的速度会远远大于鉴定的速度,即使能鉴定出来真伪也没意义了。
  要高效率的鉴别真假,那就只能依靠机器,使用AI来鉴别假视频的创业公司也出现了不少。但是如果思考这个问题:机器有没有能力鉴别图片和视频是否是伪造的?很遗憾,答案应该是悲观的。悲观的原因在介绍GAN的原理时候已经包含了,既然生成器的目的就是挑战判别器使之无法分辨,就意味着这样的图片和视频,机器已经分辨不出了。虽然人类能找到一些图片生成的不足,做出更好的判别器来,但这些不足一样会被生成器补上。Stephen Wolfram的说法是“这是一场军备竞赛”,两者博弈,最终结果只能是让假数据达到更高的高度。所以想用机器来帮助区分真假的想法,可能会在短期内有效,但长期看来,这些挣扎都是无力的,最终一定是生成器强于判别器,即无法判断的假图片和假视频会取胜。
  按照这个推论,我们今天定义“真实”的方式会发生彻底的变化。目前我们做为事件真实发生的证据都不再可信,比如说,现在你可以拿行车记录仪的视频证明自己在交通事故中是无责一方,但是未来,这种证据可能就无效了,因为谁也不知道视频是不是被AI重新处理过的。甚至社会上流行的照片和视频,假的会比真的还多,因为一个真正的视频,经过AI处理可以变成不同的假视频,用在不同场合。目前社会的很多锚点都会消失,而我们对此毫无办法。
  所以,我们需要一套完全不同的思路来处理真实性问题,即:从目前的“默认照片和视频真实,除非找到证据证伪“,转变成“默认照片和视频是不真实的,除非找到证据证真”。为了满足这种需求,就需要一种系统,可以公正,中立的存放所有证据,并且让机器容易读取这种证据,给出“可证真概率很高”之类的结论。Stephen Wolfram认为,这种系统就是区块链。区块链的去中心,不可篡改,以及比较好的程序可读写特性,都完美符合以上需求。
  使用区块链技术不能直接判断真实,但是如果每一个视频创建出来,每一个照片拍摄完成,就在区块链上存证,将来就有可能让机器利用这些证据来帮助人判断真假。而且,今天我们还不能完全预知未来世界的变化,也不知道AI和伪造技术会发展到什么程度。所以我们只能尽量保存更多的元数据。包括拍摄时候的场景数据,比如GPS信息,时间,温度,天气…各种相关和不相关的信息,都应该保存起来,越多的元数据,将来用来判断真假的数据越充足。具体做法就是把所有这些元数据打包到媒体文件中,然后计算hash,把hash记录到一个去中心的区块链上。等到将来有一天,机器会有办法读取今天保存的信息,用来确定信息真实性。目前的“无图没真相”,就会变成“不在链上没真相“。
  这里特别需要注意的是,要实现这个系统还有无数技术细节需要处理。比如并不是存放在链上的数据一定是真的。同样可能出现个作者拍摄视频之后先进行伪造,再签名往区块链上存放,这时候要判断真伪就变得更加困难。所以最终判断真伪的结果仍然只是一个概率,而不是放在链上100%就是真实的。但是公开存放了尽量多的元数据之后,人们可以利用这些元数据来进行更多的分析和交叉对比,进一步降低伪造的可能性。如前面这个例子,如果伪造的视频中出现了的人,在相近的时间段内,在区块链上找到了另外一个不同地理位置的视频也包含了他形象,那么就可以认为这两个视频中至少有一个是伪造的。并且,这种伪造的证据在链上无法被消除,最终会使得上传者的可信度降低。总之,这样的系统可以提供更多的正经,使用更自动化的手段解决问题,它仍然不是完美的解决方案,但是比没有这个系统还是好很多。未来人们会越来越体验到概率的无处不在,人们只能说“有很大概率是真的”,很难说“是真的”。
  这个推论过程非常清晰简单,而且也确实想不到其他解决方案了。实际上Stephen Wolfram一直是记录全部个人数据的推崇者,他在长达二十多年的时间里,尽可能的记录了自己周围的一切数据,从工作时间到使用的文档类型,邮件发送频率,所有数据只要能记录的都记录,并且会写程序分析这些数据。的区别是,过去这些数据他自己存放,供自己使用,但在未来,做为信息创建者,一部分数据记录应该被公开出来,供更多人使用,这是一个有意思的变化。
  让我比较惊喜的时候,这和我们的思路是一致的。我之前曾经写过我们做PRESSone的目标是帮助完成“确权”,而且我还经常试图解释“确权”不是“版权”,虽然确权之后下一步可以完成版权相关应用,但是这两个概念是不一样的。但是我一直没找到特别好的例子来说明,为什么不一样,以及为什么要使用区块链这么复杂的系统来完成确权,所以PRESSone总是被人们归类为“内容版权“类应用,说它是内容版权当然也不是不可以,但确权才是更重要的基础。区块链相比中心数据库是一种昂贵得多的存储系统,既然使用了这种昂贵的方案,那么就需要有昂贵的理由。人们最容易问的问题就是:“为什么我需要使用它”。很有意思的是,随着时间的推移,这种答案正在越来越多的冒出来,科技的发展使得人类在很多场景下不得不需要这样的系统。而且科技的发展正在把越来越多的人卷入这个领域,过去只是科技行业从业者,现在创作者也不得不关心这个领域。谁也不想让自己的作品将来变成创造用途不明的假视频的素材,那么现在需要做的就是,保留不可篡改的数据,然后等着未来到来。

参与讨论
后参与讨论

//评论区

推荐阅读

智能网联汽车国际标准法规协调专家组(HEAG)召开工作会议

近年来智能网联汽车快速发展,新技术不断涌现,与相关产业融合度持续提升,正在推动全球汽车产业发生深刻变革。为应对此种形势,欧、美、日等汽车工业发达国家和地区都加大了智能网联汽车的国际标准法规协调的参与力度,在联合国世界车辆法规论坛(UN/WP.29)和国际标准化组织(ISO)层面,智能网联汽车相关国际标准法规协调活动正快速推进。 为更有效地支撑上述组织的国际标准法规协调活动,2017年全国汽车标准

0215jiejie | 发布于:2022-12-01 0评论 0赞

苹果推出搭载M2芯片的新款iPad Pro 799美元起售

据苹果官网,苹果推出搭载M2芯片的新款iPadPro。 11英寸wifi版起售价为799美元,wifi+蜂窝网络版起售价为999美元;12.9英寸wifi版起售价为1099美元,wifi+蜂窝网络版起售价为1299美元。

0215jiejie | 发布于:2022-10-19 0评论 0赞

新能源汽车领衔 “中国智造”加速登陆欧洲市场

全球五大车展之一巴黎车展时隔四年再度启幕。在这场被视为“全球汽车行业风向标”的盛会上,国内外汽车品牌云集,长城汽车、比亚迪等再次领衔中国汽车出海。 长城汽车欧洲区域总裁孟祥军表示:“欧洲是长城汽车最重要的海外市场之一,巴黎车展是长城汽车向欧洲市场展示GWM品牌和产品的最佳机会。长城汽车正在研究汽车行业碳排放的整个生命周期,到2025年,将推出50多款新能源产品,全力支持可再生能源使用,为全球用户

0215jiejie | 发布于:2022-10-19 0评论 0赞

严监管时代来临,电子烟“通配”大战走向何方?

针对通配烟弹厂商的一系列诉讼的结果,将对生产通配烟弹的品牌未来在电子烟行业的发展产生深远影响。 10月1日,《电子烟强制性国家标准》正式实施,中国电子烟监管全面生效。而在电子烟行业进入规范化、法治化阶段前夕,一场围绕着通配烟弹的争论在行业里发酵。 “通配”是电子烟从业者约定俗成的概念。换弹式电子烟由烟杆和烟弹组成,“通配”烟弹指的是非品牌商生产、可与品牌烟杆匹配使用的烟弹。多位业内人士表示,被

0215jiejie | 发布于:2022-10-19 0评论 0赞

Bourns 全新大功率分流电阻器

采用金属感应引脚,专用于大电流应用中进行精确测量 全新分流电阻器专为电池管理系统、大电流工业控制和电动汽车充电站 提供高可靠性、高成本效益的解决方案 美国柏恩Bourns全球知名电子组件领导制造供货商,宣布新增12款CSM2F系列功率分流电阻器,扩展其产品组合。全新系列采用铆接通孔金属传感引脚,可满足大电流应用中对电压测试点精确定位日益增长的需求。最新型Bourns?CSM2F系列分流电阻器

0215jiejie | 发布于:2022-10-18 0评论 0赞

请尊重元宇宙“这个筐”

元宇宙是个筐,啥都往里装,但区别在于有的像聚宝盆,有的像垃圾桶。国庆假期刚结束,中青宝“90后”董事长李逸伦便亲自上阵,玩起了元宇宙婚礼。靠着老板首秀和代言,中青宝顺势推出“MetaLove元囍”App,正式进军元宇宙婚礼赛道。 就产品而言,如同其他元宇宙产品,李逸伦的元宇宙婚礼“新奇与吐槽齐飞”:有人说是有趣的尝试,有人则认为像QQ炫舞结婚系统。要知道,QQ炫舞是一款推出了十余年的老游戏。

0215jiejie | 发布于:2022-10-13 0评论 0赞

边缘计算:突围商业模式痛点

截至8月末,中国5G基站总数达210.2万个,中国5G发展已经进入下半场。随着5G加速融入千行百业,互动直播、vCDN、安防监控等场景率先大规模落地,车联网、云游戏、工业互联网、智慧园区、智慧物流等场景也快速走向成熟,这些更大流量、更低时延、更高性能的场景涌现,对边缘计算的刚性需求势必爆发。 GrandViewResearch预测,即使在新型冠状病毒肺炎疫情肆虐全球的背景下,边缘计算和5G网络市

0215jiejie | 发布于:2022-10-13 0评论 0赞

商务部回应美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”

商务部新闻发言人10日就美商务部升级半导体等领域对华出口管制并调整出口管制“未经验证清单”应询答记者问。 有记者问:近日,美国商务部在半导体制造和先进计算等领域对华升级出口管制措施。同时,在将9家中国实体移出“未经验证清单”过程中,又将31家中国实体列入,请问中方对此有何回应? 对此,商务部新闻发言人回应称,中方注意到相关情况。首先,通过中美双方前一阶段共同努力,9家中国实体zui终

0215jiejie | 发布于:2022-10-13 0评论 0赞

TCL华星官宣与奔驰合作:推出全球首款横贯A柱的车载显示屏

今年1月,奔驰带来了VISIONEQSS概念车,其中控台采用了一块完全无缝的47.5英寸曲面显示屏,横贯整个A柱,令人印象深刻。今天,TCL华星正式官宣与奔驰达成合作,并认领了VISIONEQSS上这块全球首款横贯整个A柱曲面的车载显示屏。 根据TCL介绍,这款显示屏采用了完全无缝的超薄一体化设计,将仪表盘、中控与副驾娱乐显示融为一体,并能够与3D实时导航系统相辅相成。 同时,这块显示屏还采用

0215jiejie | 发布于:2022-10-12 0评论 0赞

半导体板块暴跌 谁最受伤

国庆假期后首日开盘,上证综指时隔5个月再次失守3000点,与此同时,半导体板块也再度走低,其中,北方华创、雅克科技等个股跌停。10月11日早盘期间,半导体板块持续下挫,北方华创、雅克科技再度跌停。截至下午收盘,北方华创、雅克科技维持跌停状态,华海清科、拓荆科技-U、盛美上海、清溢光电、海光信息的跌幅则超10%。同日,半导体板块中的119只个股中超五成呈现下跌趋势。 在半导体板块遭遇下挫的同时,北

0215jiejie | 发布于:2022-10-12 0评论 0赞