正在阅读: 禁用刷脸技术或是对AI狂热的一种降温
首页> 时评频道> 光明观察原创 > 正文

禁用刷脸技术或是对AI狂热的一种降温

来源:光明网-时评频道2019-04-19 17:08

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:张田勘

  今年2月,环球网援引福克斯新闻报道称,旧金山可能成为美国第一个禁止政府使用人脸识别技术的城市。近日,旧金山市通过了对《停止秘密监视》条例所作的一些修订,条例强调:“人脸识别技术侵害公民权利和公民自由的可能性大大超过了其声称的好处;这项技术将加剧种族不公正,并且威胁到我们的生活不受政府持续监视的能力。”这意味着,美国第一个城市禁用人脸识别软件将成为现实。

  人脸识别是今天多种多样人工智能技术中相当新锐又被视为具有广泛用途的技术,对个体生物识别、安保、刑事鉴识、社会生活等都有重要的意义。其被一个城市叫停,至少可以解读为,在AI技术发展突飞猛进之时,相应的对其管理的规则和技术还不成熟。

  旧金山市禁止人脸识别的最大理由是,它将公民置于政府的持续监视之下,侵害公民权利和自由,同时也会造成种族歧视。这些是AI伦理的一部分,人类社会不能为了使用技术而发展技术,更不能以发展和使用技术为由违反甚至破坏人类社会公认的伦理底线。

  目前,对AI技术的狂热已经让这一技术有失控的危险。为此,欧盟在4月初抓紧公布了AI伦理指导方针,要求公司和政府机构在未来开发AI时应遵循7大原则。其中的第一条是,AI不应该践踏人类的自主性。人们不应该被AI系统所操纵或胁迫,应该能够干预或监督AI软件所做的每一个决定。旧金山市禁止使用人脸识别技术的重要理由,与这一指导方针吻合。

  人脸识别和其他AI技术一样仍存在较大问题。首先,人脸识别技术并不可靠。亚马逊及其他公司的人脸识别技术由于它们缺陷——对非裔美国人的误认而受到审查,甚至还发生过亚马逊的人脸识别工具认为,535名国会议员中,有28名议员看起来像是罪犯的事件。美囯佐治亚理工学院的乔伊·布拉姆维尼团队分析了3500张肤色各异的人的照片,发现自动驾驶技术在识别黑色皮肤人群时的准确度平均降低了5%,得出了皮肤较黑的人比皮肤较白的人更容易被自动驾驶汽车撞到的结论。微软、IBM和Facebook等大公司推出的商用人脸识别软件系统,也无法识别女性和有色人种。

  人脸识别技术还可能被模仿并用于造假。一项被称为GAN(生成对抗网络)的新兴技术可以把任何人的相貌换成另一个人并通过检测。实际上,GAN是一种生成模型,可以自动生成图像,也能自动篡改图像,可以轻而易举地通过人脸识别技术的检测进行造假和欺诈。

  类似的情况,还有2017年问世的Deepfakes换脸技术,能将《神奇女侠》主角盖尔·加朵的脸嫁接到另一位女影星的身上,看起来天衣无缝,也使得使用这项技术对任何人换脸并通过人脸识别成为可能。统计表明,互联网有大量的合成信息,如合成声音、生成图像、AI合成不存在的人像等,这让人脸识别在尚未被普遍使用之时,可靠性就遭遇空前危机。

  人脸识别的不可靠之处还在于,其不安全性是长久的。相较于个人的生物信息,保护个人的其他密码是可更换的,但个人生物信息一旦泄露和遭到改变,就会是终身泄露,除了影响人们的生活,还让人处于永远的不安全中。

  欧盟关于AI的7项伦理指导方针要求,AI系统收集的个人数据应该是安全的,能够保护个人隐私,不应该被任何人访问,也不应该轻易被盗。但是,目前的人脸识别技术大多为公司和政府所有,属于专有技术,缺乏公平和公正的第三方的严格监管。

  从这个意义上讲,旧金山市禁用AI人脸识别技术,是在平衡AI技术的利弊之后进行的立法。现在,美国参议院正在考虑一项监管人脸识别软件商业使用的法案,这也是从管理角度来保证AI技术的安全和公平公正使用。未来,如果技术的进步和法律能保证人脸识别技术到达更稳妥更可控的安全程度,也许禁令会被撤销。(张田勘)

[ 责编:王营 ]
阅读剩余全文(

您此时的心情

新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 明降暗涨

  • 拒收现金?

独家策划

推荐阅读
为何会出现敬老院不敬老反虐老?当地民政局人员称,多数乡镇敬老院都存在人员配备不够的情况,该敬老院就采用所谓老人照顾老人的方式,很难确保那些兼职护理人员能尽心尽力。
2019-05-22 18:01
医生举报自己拿回扣,说明医生内部对回扣问题也有不同的看法,相关部门应该以此为突破口,广开言路,鼓励更多的医生站到抵制回扣的道路上来,让医疗行为更加规范与纯洁。
2019-05-22 14:04
生物多样性的重要性在于它有两种价值——直接使用价值和间接使用价值,直接价值是为人类提供了绝大部分生活、生产原料,间接价值是它提供了重要的生态功能。
2019-05-22 13:59
力争最大程度减少缺失,完善制度,让捐献者更有意愿,让其家人更有慰藉感,也让器官捐献这一事业更有人性化、充满人情味,这是职能部门的责任。
2019-05-22 13:56
“周口男婴失踪”事件中,行为人最大的恶在于,其不仅极大浪费原本就紧张的警力资源和公共资源,更严重伤害人们救助、帮助弱者、求助者的朴素善良感情,加剧社会冷漠和不信任感。
2019-05-21 14:26
现在,中国在生产青蒿素的产能上有突破,下一步就是深入进行疟原虫对青蒿素的耐药性研究。在新的药物和疫苗尚未获得之前,珍惜和善用青蒿素是全球最为重要的抗御疟疾的方式。
2019-05-21 14:26
如何放开这些“明星小药”的合理使用途径值得探讨,比如让药厂对这些制剂进行评估和收购,合理定价,制定规范的使用适应症,让这些“明星小药”成功名正言顺的药品。
2019-05-20 17:21
生活中,这些用语不论在线下店面还是网络平台,都非常泛滥。实际上,既然近视不可治愈是事实,那任何鼓吹可以治疗近视的,都涉及虚假宣传,原先就有可引用惩戒的法律。
2019-05-20 16:09
孩子的世界又是一张白纸,经不住来自父母家长的任性涂鸦。孩子在家里“懂得察言观色、明白三思而行”,固然显得少年老成,但这种扼杀孩子活泼天性的方式,本身就是种危害。
2019-05-20 16:08
尽管在气候变化上有不同的观点,但是二氧化碳是数百万年前人类出现后的第一新高这一事实,也足以让所有人警觉。在生产和运输上减排,倡导和坚持绿色生活,应当是所有人的首选。
2019-05-17 16:31
一个航班共超售了多少张机票,航空公司对外“无可奉告”,如果信息公示也可以稀里糊涂,超售机票成了航空公司一方的游戏,乘客权益如何保障?
2019-05-17 16:31
闹剧背后包含着残酷的职场现实:很多员工不得不接受不合理的要求。强制员工秀恩爱事件之所以在舆论场激起一片涟漪,恰恰是因为此事刺痛了网友们在类似情境中的敏感神经。
2019-05-17 16:31
伪科学与短视频的一拍即合,一发不可收地制造了一堆谣言、偏见和现代迷信。明显不靠谱的“护眼小视频”,居然能收割一波网友,这说来不可思议其实也不难理解。
2019-05-17 16:30
这种投机取巧的偷跑不仅没有被纠偏过来、反而成为监管阙如之下的新式产业链:地方颜面有光、经济打了鸡血,却让正态的教育版图出现“逆淘汰”的危机。
2019-05-16 16:57
运营商通过提高网络质量、提升客户服务开展正当竞争,自然受消费者欢迎,但是采用给消费者“挖坑”等小伎俩来留住用户,则于情不许、于理不合、于法不容,理应受到惩罚。
2019-05-16 16:58
根据行程表的临时变动,在对应的时间段安排退改签事宜,可减少自己的经济损失。电影院也可防范故意退改签、粉丝锁场退票行为,以保障基本放映收益,让电影排片更为合理化。
2019-05-16 16:53
从某种意义上说,“鼓励医师开办诊所”,也是丰富医疗市场供给、推进分级诊疗的必然选择。随着一批优质诊所的建立和完善,民众都往大医院挤的情况,有望得到缓解。
2019-05-16 16:56
盯梢记者,暴露的是基层治理当中的一种“鸵鸟”心态。面对这个问题,地方政府需要的不只是正确看待媒体采访和监督的重要性,更要意识到基层治理当中的某种理念偏差。
2019-05-15 15:07
实现了供给的提档升位,才能带来消费需求的升级。消费能级提升需要前期较大的支出,所承担的成本压力较大,对各参与者的积极性有较大的影响。
2019-05-15 15:07
一些平台一再表明,自己与骑手并非“雇佣关系”。但实际上,骑手所有的过错,最终都会归为平台的“罪与罚”。在“健康证”上心存侥幸、玩小聪明,平台方最终必将得不偿失。
2019-05-15 15:07
加载更多