点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI“读心术”神奇,更需要监管
首页> 时评频道> 光明观察原创 > 正文

AI“读心术”神奇,更需要监管

来源:光明网-时评频道2020-04-13 18:27

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:张田勘

  刚刚出刊的2020年4月《自然-神经科学》杂志发表了美国加州大学洛杉矶分校研究人员的一篇论文,“使用编码器-解码器框架:大脑皮层活动到文本的机器翻译”。论文描述了一种能将人类大脑活动转为文本的人工智能(AI)系统。这一AI技术可在人大声说话时监测其脑电波(神经活动)模式,再将其转录为可读文本。

  读懂人心并获取人们的思想一直是AI研究的一个领域和方向,AI被赋予高级“读心术”的重任,即不通过人的话语、肢体语言、面部表情,就可以通过探测其大脑语言中枢和其他功能中枢(如运动中枢)的脑电波,探查到人们在想什么、要说什么和想要进行什么样的活动。

  实际上,这就是通过脑机接口,把检测脑电波(思维和思想)的电极装置植入大脑,再通过脑电波传送到AI软件,由后者破译脑电波,知道人们的想法或思维。AI破译的想法和思维既可以发送到假肢以帮助残疾人完成各种行为,如吃饭、穿衣和行走,像正常人一样生活,也可以转变成文字和语言,把人的想法写出来。

  此次的AI系统也是在大脑植入了电极并在人大声说话时监测其脑电波,再将其转录为可读文本。有4名志愿者参加了试验,他们被要求多次朗读30-50个固定句子,电极记录下他们的大脑活动。

  这些大脑活动的数据随后被输入到机器学习算法,后者每个句子的大脑活动数据转换成一串数字和字符串。AI系统从这些大脑活动数据再推导出声音,并和实际记录的音频进行比较。数字和字符串则被再次输入到AI系统,转换成一个单词序列。起初,系统会写出无语义的句子。但是当AI系统将每个单词序列与实际朗读的句子进行比较时,AI得到改进,学会了数字字符串与单词的关系,以及哪些单词是有上下文关系的,因而写出的句子与说话者朗读的句子相似。

  实际上,这是采取机器翻译类似的算法。机器翻译是将文本从一种语言到另一种语言的算法翻译,但此项研究是将输入AI的文本变成了脑电波信号。而且最后的结果表明,AI系统的准确性因人而异,其中一位志愿者朗读并由AI记录脑电波转换后,平均每个句子只有3%需要纠正,高于速记员5%的单词错误率。

  言语是个体表达思想的介质,其中有许多规律,如语音的高低、语速、说话时的停顿、语法、词汇、个人用词习惯、句势、句子的长短等。在大脑置入电极让AI能记录一个人说话时的脑电波(神经活动),也是让AI进行深度学习。

  不过,这项技术现阶段看并不成熟,仍然存在一定的错误率,且暂时只能处理少数句子。最大的问题在于,这一技术成熟后是否能广泛应用于人类,尤其是会不会成为监控人思想的工具?每个人每天都会说无数的话,在会议上发言,与亲朋好友聊天,还有打电话,如果利用这种AI系统,尤其是手机中可以置入这种AI软件时,可能会带来危险,如经济泄密、个人存款和商业损失等,甚至成为监控人行为的工具。

  为了防止上述情况出现,应当有两方面的伦理规范和立法。首先,AI设计和生产者需要在这类软件应用于人的手机、电脑等多种信息终端时提出知情同意和尊重隐私条款,不得强行安装。

  其次,这类AI本质上还是要进行脑电波的收集和破译人们说话时的大脑神经活动(脑电波),对此应该有法律方面的限制。是否可以收集正常人的脑电波?如果可以将以什么方式进行?收集人的脑电波有两种方式,一是脑机接口,即在大脑表层或内部植入电极,二是佩戴电子帽,其中有脑电图扫描仪(EGG),可以激活大脑皮层的语言中心并收集该中枢的生物电信号。无论哪种方式都需要进行反复论证,探讨其可行性,保证AI收集和解读的想法不能泄漏和被任何第三者利用。(张田勘)

[ 责编:王营 ]
阅读剩余全文(

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 拼豆成“新宠”

  • 公园更新

独家策划

推荐阅读
在全面建设社会主义现代化国家的新征程上,“达到中等发达国家水平”作为一项承前启后的阶段性战略目标,正是这一重大时代课题的生动实践与具体体现。
2026-03-24 13:56
消费既是推动经济增长的重要引擎,也是人民多样化、多层次美好生活需要的直接体现。人是消费主体和生产主体,以人为本,关注经济社会发展过程中居民消费需求的变化与满足是扩大内需的路径之一。
2026-03-18 09:18
2025年12月18日,海南自由贸易港全岛封关运作正式启动,这一标志性事件不仅为中国对外开放写下全新注脚,更以制度型开放的突破之力,撬动着亚太地区经贸格局的深层变革。
2026-03-12 16:12
常态化精准帮扶的核心内涵是通过常态化的精准帮扶措施,不断提高被帮扶群体和地区的内生动力和可持续发展能力,实现高质量发展和共同富裕。
2026-02-24 09:32
做好骑手等新就业群体服务管理工作,根本在于实现认知层面从“视其为风险”到“塑其为力量”的深刻转变,实践层面从“碎片化管理”到“系统性治理”的全面升级。
2026-02-09 14:25
优化国土空间发展格局,核心是把分散的安排统起来、把多重目标协同起来。尤其是在存量时代,盘活老空间、优化新供给,推动用地功能重组,正成为提升治理现代化水平的关键一环。
2026-02-05 16:22
把握非遗活化利用的“度”,本质是处理“保护与利用”“传统与创新”“文化价值与经济价值”三组核心关系,这既是非遗传承的关键命题,也是文旅融合高质量发展的必然要求。
2026-01-30 09:18
2026年是“十五五”规划开局之年,做好经济工作至关重要。这“五个必须”,既对以往经济实践作出了深刻精辟的总结,也为做好当前和今后一个时期的经济工作提供了思想指引和行动指南。
2025-12-29 17:36
人力资本作为经济增长核心要素的地位被提升到了前所未有的高度。这种战略重心的转移深刻表明,在高质量发展的新阶段,“人”已不再仅仅被视为市场消费的终端,更是生产要素中最具能动性的价值源泉。
2025-12-25 10:52
高质量发展是以创新为第一动力的发展,意味着必须把以创新为特点的新质生产力作为高质量发展的重要内容和动力所在,以新质生产力发展推动经济增长方式从粗放式向集约式转变。
2025-12-10 09:01
加快建设现代化产业体系为何如此重要?“根基”二字有何深意?实体经济又该如何把握“智能化、绿色化、融合化”的主攻方向,实现从“制造大国”向“制造强国”跃升?
2025-11-19 15:41
优化营商环境不仅是激发市场主体活力的根本举措,更是打通文旅消费堵点、提升消费质量、激发消费潜能的“金钥匙”。
2025-11-05 10:52
一代代中国共产党人秉持初心使命,在宏伟蓝图指引下不断增强国家实力、丰富国际理念、落实行动计划,以中国式现代化开辟民族复兴新境界,铸就了中国国际地位历史性提升的坚实根基。
2025-10-31 09:42
上合组织必须坚持求同存异、互利共赢、开放包容、公平正义、务实高效五项原则,这是对“上海精神”的治理化表达,是将价值共识转化为可操作准则的关键一步。
2025-09-03 15:23
二十年来,“绿水青山就是金山银山”理念顺应了人民群众对优美生态环境的期待,打通了“绿水青山”与“金山银山”双向转换的堵点,引领了生态产品价值实现的有效途径。
2025-08-15 15:58
面对“内卷”困局,平台经济已经走到了必须转型的十字路口,而转型的主题词应该是“创新”和“价值”,它们是平台企业突破自身发展瓶颈的自救之路,更是中国经济从高速增长迈向高质量发展的时代要求。
2025-08-05 14:49
值此庆祝中国共产党成立104周年之际,回溯党的来时路,展望党的新征程,我们需要以更加强烈的历史主动精神推进中国式现代化,奋力实现中华民族伟大复兴的中国梦。
2025-07-02 09:25
发展数字经济是我国把握新一轮科技革命和产业变革新机遇的战略选择。面对创新涌现、迭代迅速的发展态势,我国积极顺应数字经济发展规律,审时度势调整发展政策。
2025-04-21 09:48
建立粮食产销区省际横向利益补偿机制,关键在于推进科技和改革双轮驱动。其中,改革的核心在于粮食政策创设与制度创新,调动和保护好农民种粮积极性,让农民种粮有奔头,让政府抓粮有动力。
2025-03-26 16:25
在当前中国的发展进程中,新型城镇化和乡村全面振兴是两个至关重要的战略方向。这两大战略的实施,不仅关系到中国现代化进程的推进,也是实现全体人民共同富裕的关键步骤。
2025-03-21 16:18
加载更多