点击右上角微信好友

朋友圈

请使用浏览器分享功能进行分享

正在阅读:AI“读心术”神奇,更需要监管
首页> 时评频道> 光明观察原创 > 正文

AI“读心术”神奇,更需要监管

来源:光明网-时评频道2020-04-13 18:27

调查问题加载中,请稍候。
若长时间无响应,请刷新本页面

  作者:张田勘

  刚刚出刊的2020年4月《自然-神经科学》杂志发表了美国加州大学洛杉矶分校研究人员的一篇论文,“使用编码器-解码器框架:大脑皮层活动到文本的机器翻译”。论文描述了一种能将人类大脑活动转为文本的人工智能(AI)系统。这一AI技术可在人大声说话时监测其脑电波(神经活动)模式,再将其转录为可读文本。

  读懂人心并获取人们的思想一直是AI研究的一个领域和方向,AI被赋予高级“读心术”的重任,即不通过人的话语、肢体语言、面部表情,就可以通过探测其大脑语言中枢和其他功能中枢(如运动中枢)的脑电波,探查到人们在想什么、要说什么和想要进行什么样的活动。

  实际上,这就是通过脑机接口,把检测脑电波(思维和思想)的电极装置植入大脑,再通过脑电波传送到AI软件,由后者破译脑电波,知道人们的想法或思维。AI破译的想法和思维既可以发送到假肢以帮助残疾人完成各种行为,如吃饭、穿衣和行走,像正常人一样生活,也可以转变成文字和语言,把人的想法写出来。

  此次的AI系统也是在大脑植入了电极并在人大声说话时监测其脑电波,再将其转录为可读文本。有4名志愿者参加了试验,他们被要求多次朗读30-50个固定句子,电极记录下他们的大脑活动。

  这些大脑活动的数据随后被输入到机器学习算法,后者每个句子的大脑活动数据转换成一串数字和字符串。AI系统从这些大脑活动数据再推导出声音,并和实际记录的音频进行比较。数字和字符串则被再次输入到AI系统,转换成一个单词序列。起初,系统会写出无语义的句子。但是当AI系统将每个单词序列与实际朗读的句子进行比较时,AI得到改进,学会了数字字符串与单词的关系,以及哪些单词是有上下文关系的,因而写出的句子与说话者朗读的句子相似。

  实际上,这是采取机器翻译类似的算法。机器翻译是将文本从一种语言到另一种语言的算法翻译,但此项研究是将输入AI的文本变成了脑电波信号。而且最后的结果表明,AI系统的准确性因人而异,其中一位志愿者朗读并由AI记录脑电波转换后,平均每个句子只有3%需要纠正,高于速记员5%的单词错误率。

  言语是个体表达思想的介质,其中有许多规律,如语音的高低、语速、说话时的停顿、语法、词汇、个人用词习惯、句势、句子的长短等。在大脑置入电极让AI能记录一个人说话时的脑电波(神经活动),也是让AI进行深度学习。

  不过,这项技术现阶段看并不成熟,仍然存在一定的错误率,且暂时只能处理少数句子。最大的问题在于,这一技术成熟后是否能广泛应用于人类,尤其是会不会成为监控人思想的工具?每个人每天都会说无数的话,在会议上发言,与亲朋好友聊天,还有打电话,如果利用这种AI系统,尤其是手机中可以置入这种AI软件时,可能会带来危险,如经济泄密、个人存款和商业损失等,甚至成为监控人行为的工具。

  为了防止上述情况出现,应当有两方面的伦理规范和立法。首先,AI设计和生产者需要在这类软件应用于人的手机、电脑等多种信息终端时提出知情同意和尊重隐私条款,不得强行安装。

  其次,这类AI本质上还是要进行脑电波的收集和破译人们说话时的大脑神经活动(脑电波),对此应该有法律方面的限制。是否可以收集正常人的脑电波?如果可以将以什么方式进行?收集人的脑电波有两种方式,一是脑机接口,即在大脑表层或内部植入电极,二是佩戴电子帽,其中有脑电图扫描仪(EGG),可以激活大脑皮层的语言中心并收集该中枢的生物电信号。无论哪种方式都需要进行反复论证,探讨其可行性,保证AI收集和解读的想法不能泄漏和被任何第三者利用。(张田勘)

[ 责编:王营 ]
阅读剩余全文(

您此时的心情

光明云投
新闻表情排行 /
  • 开心
     
    0
  • 难过
     
    0
  • 点赞
     
    0
  • 飘过
     
    0

视觉焦点

  • 人民生活水平不断提高

  • 生态环境明显改善

独家策划

推荐阅读
发展数字经济是我国把握新一轮科技革命和产业变革新机遇的战略选择。面对创新涌现、迭代迅速的发展态势,我国积极顺应数字经济发展规律,审时度势调整发展政策。
2025-04-21 09:48
建立粮食产销区省际横向利益补偿机制,关键在于推进科技和改革双轮驱动。其中,改革的核心在于粮食政策创设与制度创新,调动和保护好农民种粮积极性,让农民种粮有奔头,让政府抓粮有动力。
2025-03-26 16:25
在当前中国的发展进程中,新型城镇化和乡村全面振兴是两个至关重要的战略方向。这两大战略的实施,不仅关系到中国现代化进程的推进,也是实现全体人民共同富裕的关键步骤。
2025-03-21 16:18
城市是科研机构、人才、设施等创新要素最为集中的地方;城市自身的高质量发展离不开创新。城市的创新及发展,既需要制定明确的目标,还需要遵循一定的规律和原则。
2025-03-18 09:13
全过程人民民主以聚焦民生的方式促进机会公平、打破利益藩篱,让维护社会正义的机制更加完善,持续性地疏浚社会成员上升发展流动渠道,确保每个个体都拥有人生出彩、梦想成真的机会。
2025-03-03 10:49
契合数字化、智能化的传播格局,适应Z世代拥抱变革、表达活跃、实践奋进的代际特征,以更鲜活的话语、多元的样态实现有效触达,彰显理论的生命力与引领力,是做好新时代理论传播的应有之义。
2025-01-22 11:22
人工智能产业作为国民经济最重要的先导产业、基础产业和战略性产业,正在通过生产要素、生产资料更新、重组,生产关系、生产制度重塑,成为最具潜力、带动力和深刻影响力的新质生产力引航。
2024-12-23 13:29
共建“一带一路”的主要目标之一是通过政策沟通、设施联通、贸易畅通、资金融通、民心相通,实现共建国家的共同发展与繁荣。经过11年的共同努力,一大批标志性项目相继建成并投入运营,为共建国家带来了许多实实在在的利益。
2024-12-16 17:13
经济学在应对气候变化中的角色,应该是在科学决定气候目标的基础上,主要研究如何以成本最小化的方式实现该目标,而不是将经济考虑凌驾于科学之上,由经济学决定温升应该控制到什么程度。
2024-11-26 15:50
数字丝路是我国新时期发展的战略性选择,是构建网络空间命运共同体的新阶段。数字丝路贸易的伟大实践正在使古老的丝路焕发出新的光辉。
2024-10-10 16:04
党的十八大以来,我国国际关系学科建设显著加强,发展目标、主要任务、建设路径都更加明确,要求更加清晰,学科建设明显提速,突出体现在学术创新、实践支撑、人才培养等方面。
2024-10-04 10:01
新型城镇化进程的学科建设涵盖了高等教育体系中为适应新型城镇化发展需求而设立的大量相关专业和研究方向,在实践中也是由一个庞大的职业群体共同推进着与中国现代化进程相伴的城镇化进程。
2024-10-03 09:55
新时代中国式现代化的伟大实践,为理论创造提供了强大动力和广阔空间,为建构中国自主的知识体系奠定了坚实基础。
2024-09-19 11:05
随着技术的不断进步和应用的深入,数智化将为经济社会发展全面绿色转型带来更多的机遇和动力,助力中国实现美丽中国建设和“双碳”目标,为全球绿色低碳可持续发展贡献更大力量。
2024-08-15 10:22
网络梗”越来越成为网络空间讲好正能量故事的优良载体。加强“梗能力”建设,是推动党的创新理论高质量传播的重要途径。
2024-08-06 10:17
与“修昔底德陷阱”的预设恰恰相反,构建人类命运共同体遵循共商共建共享原则,推动平等有序的世界多极化和普惠包容的经济全球化向前发展。
2024-08-02 15:08
“碳中和”背景下,有必要将具有高碳汇水平且集中分布的区域纳入生态保护红线范围当中,实施具有规范性和制度化的用途管制策略。
2024-08-01 09:52
数字治理,本质上是数字技术向多元治理主体赋能增效的过程,其目的是在数据收集、分析、利用的基础上,从多个层面对治理系统的感知、决策和执行能力进行提升。
2024-07-10 17:13
在面对错综复杂的国际环境和百年未有之大变局时,我们更需要的是中国特色大国外交的理念,而非吸引眼球的所谓“理论”。
2024-06-21 16:53
面对复杂多变的国际形势,必须用好总体国家安全观这一强大思想武器,自觉运用其方法论原则武装头脑、指导实践,从整体上把握国家安全,不断开创新时代国家安全工作新局面。
2024-06-13 09:36
加载更多