计算机科学教授 Berman表示物联网道德规范非常有必要

2017-05-05 15:05 来源:36氪
浏览量: 收藏:0 分享

  编者按:近年来物联网行业发展迅速,公共安全,智能家居,环境监测,健康监测等等,无不有着物联网的功劳,但俗话说得好:“欲戴王冠,必承其重”,人们也愈来愈关注它的安全漏洞和隐私泄露等问题。同时,由于物联网才兴起不久,尚未制定完善的行业规范,所以很多相关人士已经开始思考如何实施规范措施。下面请看《大西洋月刊》邀请了计算机领域著名专家Berman教授就此话题进行的一场访谈。

  去年十月,一个名为Mirai的恶意程序对安全防范较差的网络摄像头和录像发起了攻击,扰乱了美国互联网的连接,那么到底谁该为此事负责呢?肯定不会是编写这个恶意程序的人,也不会是把这个程序放到互联网基础设施上的人——相反,我对是否有人能为此负法律责任还挺感兴趣。这些存在安全隐患的设备制造商能否为造成的损失承担相应责任呢?

  如今只是连接设备缓慢渗入日常生活的早期,对于上面提出的问题还没有一个明确的答案。而且,目前尚未建立能让制造商为其造成的重大损失负责的法律体系。通常情况下,政策和规章制度的完善速度远远赶不上科技的发展速度。

  伦斯勒理工学院的计算机科学教授Francine Berman同时也是计算机制造方面的长期专家,他表示,其实不仅仅是法律体系与日新月异的现实情况脱节了,物联网也缺乏批判性的道德框架。而且,Berman还与具有“互联网之父”之称的工程师Vint Cerf在《美国计算机协会通讯》期刊上联合发表了一篇有关道德体系的文章。

  我们就如何制定网联网行业道德规范以及如何平衡个人隐私和连接设备共享资源所带来的好处之间的关系进行了一番讨论。为了把我们的观点更清晰明确地呈现给大家,我稍稍整理编辑了一下,下面是我们讨论的详细情况。

物联网行业亟需规范

物联网行业亟需规范


  物联网道德规范非常有必要

  Kaveh Waddell:为什么物联网道德规范如此重要呢?

  Francine Berman:随着数字技术越来越普及,我想大家肯定都碰见过这类相关问题,其中物联网尤其值得深思。

  首先,我们其实还只看到了问题的冰山一角。世界本就高度多元化:还会出现更加高度自动化的系统,人类会变得更强,各种系统、设备、组织都会更加智能化。当把所有问题都放在一起时,人们自然会开始思考如何更好地完善物联网,而在这个过程中,管理显然是至关重要了。

  同时也意味着我们要学会如何设计、建构、思考这些体系,包括谁是责任说明方,谁是责任承担方,如何定义道德,以及道德体系对于公益推广有何意义等。

  Waddell:能不能另外举个例子分析一下新技术如何推动新型道德框架的构建呢?

  Berman:我们可以看看第一次工业革命:当时技术的发展确实让所有人叹服,但最让人惊叹大概还是由此带来的巨大社会差异。期间大量人口迁往城市,第一部童工保护法颁布,制造业崭露头角……很多以往做不到的事情都成为了现实。同时也可以说是一部劳工进化史。

  某种程度上来说,信息时代在生活各方各面也起到了相同作用。物联网的出现更是加剧了这一变化,如今,物理世界,生物世界以及网络世界的界限已经不再明晰。我们正经历一场生活方式,行为,思维甚至个人权利的巨大变革。

  Waddell:信息时代的我们在社会治理方面是否有过像第一次工业革命前期那样的转变?

  Berman:当然了!就拿版权来说,宪法通过了这项权利后,我们开始会担心Stairway to Heaven是否有侵犯版权。现在还有许多以往我们想都没想过的问题如今也都必须开始关注。比如:如果无人车做出了错误的驾驶判断该怎么办?它们该怎么处理呢?依据什么道德规范呢?还有,谁来为自动化系统惹的祸承担后果呢?

  这些问题都亟待解决,所以我们还需把思路拓宽一点。要开始设计一些支持社会监管、政策、实践,同时能完善物联网道德体系。

  道德框架既要保证安全也要保护隐私

  Waddell:那我们要构建什么样的支持体系呢?

  Berman:这就好像设计一辆汽车。我希望我的车能非常安全,不会轻易遭到攻击破坏。至于如何设计物联网,我只关注我认为重要的点,例如安全性和保密性,只不过这些要做起来确实不太容易。

  从设计阶段到创新阶段,再到技术使用阶段,只要我们审慎思考,就能减少很多超出掌控的后果出现。接着,就可以把这些相应的社会框架付诸实施了。

  Waddell:关于归因我还有个小小的疑问。我们应该怎样算去年物联网核心网络基础设施被Mirai僵尸网络攻击的这笔烂账呢?到底该由谁承担责任呢?

  Berman:这个问题问得好。创新者、公司、政府,还有个人都应该为此事负责,应该共同努力构建一套基于公益推广的责任与义务框架。

  就拿药品来说:为了治疗病症,医学界创造出了药。有些药可以直接在药店购买,有些药需要经过医生指导,出具处方才能买到,而有些药则因为比较特殊或者危险,只能去医院购买。在药物的使用和管理方面,我们有一套完整的社会体制和政策体制,虽然不尽完美,但其最终目的都是为了保证公民的生命安全,维护个人利益以及公共利益。

  Waddell:如何才能构建这样一种框架呢?需要先建立一种新的监管体系吗?

  Berman:涉及到监管办法我们就得慎之又慎了,毕竟人人都希望能有一个维护公共利益的万全之策。

  物联网才处于萌芽阶段,真是进行各种实验的大好时机。如果你对智能化城市,智能化系统,智能化建筑,甚至是重症监护室感兴趣,或者拥有许多信息分享设备和系统,又或者是面临政策问题和隐私问题,绝对不要错过这个试验并获得反馈的黄金时期。

  国家标准技术局目前确实在信息物理系统上开展了许多引人关注的工作,而且他们还准备找出一个保密性标准。一旦人们开始付诸实践了,就会做出越来越多的大胆尝试。尽管成果有优有劣,但最终都将有助于迭代提升。

  如果你对某物的了解一点都不充分,就不用指望它发挥出最大效果了。但我们还是可以从如今日益受限的系统中获得很多经验。而且,要是我们将它摆在优先位置,由此开始关注智能化城市或建筑,我想我们可以形成一个有机合理的物联网治理模式和道德体系。

  两相权衡取其重

  Waddell:如何平衡个人隐私和通过收集海量个人信息带来更大集体利益之间的关系?

  Berman:我想这个问题我们已经在逐步解决了。每次去外国旅游回来,海关人员总会问你是从哪儿来的,你可能会认为这种问题的确涉及到了个人隐私。但是,不管你身处农场还是刚买完菜回来,肯定都会很乐意回答这种问题:这时候很有可能泄露一些危害公共利益的信息。所以说,其实我们一直在面临着类似的决策。

  自主决策带来的技术性挑战加剧了物联网的恶化。试想一下,如果连自家的地址要不要显示在谷歌地图上都可以自主决定了,那要谷歌地图还有何用?

  另外,我们很难想象到哪种技术性基础设施需要维护,或者谁会来维护。所以,有些交易就从中诞生了。这些交易处于绝对保护个人隐私和事事公共利益优先的中间地带。

  Waddell:谁都能实现这种平衡吗?

  Berman:问到点上了!从某种意义来说,这个看个人情况。就我来说,无论是旅途归来,身处农场还是怎样,我都可以大方地把这些信息告诉别人。但在某些场合我可能还是会不自在。比如这类收集并分享我的数据的设备,依然会让我觉得受到了干扰。

  还有一个问题需要考虑:那些在各种电子设备的伴随下长大,已经把它们当成了生活中必需品的那一代人,与老一代人在这一问题上是否持有不同观点。

  Waddell: 我还想了解一下,那些加入以集体为导向的数据收集过程的人,看到他们从中收获的东西后是否还会改变自己的想法。例如,Siri这类虚拟助手就能通过用户进行学习。事实上,你在使用Siri的过程中,同时也在帮助它学习——难道这都不值得让人牺牲一点点隐私,换取一个更有用的虚拟助手吗?

  Berman:我赞同你的观点。关键问题是:有些事泄露出去会不会造成负面影响?在目前的案例来看,没有什么负面影响。很多人认为,有些事让大家知道了其实是利大于弊。

  健康数据就是个鲜明的例子。公开某些信息或多或少会有些消极影响,但别忘了,我们也是有隐私法相应保护的。也许有些人还是感受不到,那就上Patients Like Me——一个患者相互分享就医经历的网站去看看吧。平时我们基本上都是自主决策,但对于物联网来说,从社会层面出发来考虑或许对我们更有利。

  产品制造,安全第一

  Waddell:在我看来,物联网目前最大的问题是,那些安全隐患颇多的设备制造商还在争先恐后地把自己的产品与互联网相连。难道就没有相关的法律和规章制度来阻止这种行为吗?

  Berman:前些日子,我和别人讨论过婴儿监控设备的问题,对它的评价是既管用又让人胆战心惊。其实能监控自家宝宝,确保他们一切都好是真的不错,但是,万一有人入侵了监控设备,然后通过网络对着宝宝怪吼怪叫那就吓人了……

  想必物联网的新奇酷炫吸引了很多人的注意:噢对,我甚至可以这样——等系统适应了我之后,在家就没必要自己开灯了,因为它会自动打开。

  不过,我认为物联网在社会层面也同样重要。正如你所说,我们不希望没有积累足够的经验,通过测试并审慎思考公共利益就急着得到最后的结果,就算是一项新的立法,或者一项新的政策。

  Waddell:我们会否因为一些花哨的东西(如Alexa推出的一些新奇小玩意儿和联网灯)而分心呢?又是否正处于蜜月期呢?

  Berman: 答案是肯定的。除非夭折,否则网络基础设施根本不具备新闻报道性。鼓励人们积极思考并且率先使基础设施恢复正常——还有治理、道德、政策和社会利益结构——非常艰难。一般来说,我们都对结果,突破和新发现比较感兴趣,或者是某些特别严重的坏事,如社会安全号码丢失或黑客攻击。那些正常平淡的事基本不会被报道。

  Waddell:Mirai僵尸网络和网络攻击是让网络基础设施抢占头条的最大“功臣”。如果人们继续深究的话,你认为有些文化转变是否会出现得更早呢?

  Berman:至于这个问题,我想贵期刊和其他一些重要刊物应该都能有所帮助,因为你们可以将人们的注意力引到这方面来。我们不止需要有创新者和设计者,还需要很多利益相关者来共同思考,包括政策制定者,私营企业,领导和高管,还有大众。

  Waddell:物联网制造商在开发新产品时需要遵守什么职业道德规范?

  Berman:安全第一吧。对于技术来说,安全绝对至关重要。要想获取利益,必须得考虑安全问题,当然,隐私也很重要。哪些数据属于隐私?哪些不属于?是否需要构建保护所有隐私的道德体系?这些问题我们都需要思考。

标签:

责任编辑:管理员
在线客服