首页 / 国际 / 正文

美国科学家开发读心术引发伦理担忧

放大字体  缩小字体 2025-02-24 18:31  浏览次数:0

A new artificial intelligence system can translate a person’s brain activity into a co<em></em>ntinuous stream of text

科学家们发现了一种通过脑部扫描和人工智能来读取人们思想的方法。

研究人员发现,他们可以转录志愿者思考的“要点”,这在快速发展的人工智能世界中引发了对精神隐私的质疑。语言解码器的主要目标是帮助那些失去沟通能力的人,这被称为迈向读心术的一步。

先前的研究表明,大脑植入物可以使不能说话或打字的人拼写单词甚至句子。这些“脑机接口”关注的是大脑中控制嘴部发话的部分。

但根据发表在《自然神经科学》杂志上的一项研究,一项新的研究已经产生了第一个无需侵入性大脑植入就能重建连续语言的系统。

在这项研究中,三个人在功能磁共振成像仪里花了16个小时听口头叙事故事,主要是播客,比如《纽约时报》的《摩登爱情》。

绘制单词

这使得研究人员能够绘制出单词、短语和含义是如何在大脑中处理语言的区域引发反应的。他们将这些数据输入到使用GPT-1的神经网络语言模型中,GPT-1是人工智能技术的前身,后来被部署在广受欢迎的ChatGPT中。

该模型经过训练,可以预测每个人的大脑对感知到的语言的反应,然后缩小选择范围,直到找到最接近的反应。为了测试模型的准确性,每个参与者都在fMRI机器上听了一个新故事。

该研究的第一作者Jerry Tang表示,解码器可以“恢复用户听到的要点”。

例如,当参与者听到“我还没有驾照”这句话时,模特回答说“她甚至还没有开始学开车”。

研究人员承认,解码器对“我”或“她”等人称代词感到困惑。

但他们说,即使参与者自己构思故事,或者观看无声电影,解码器仍然能够抓住“要点”。

这表明“我们正在解码比语言更深层的东西,然后将其转化为语言,”德克萨斯大学奥斯汀分校(University of Texas at Austin)的神经科学家、一项新研究的合著者亚历山大·胡特(Alexander Huth)说。

西班牙格拉纳达大学(Granada University)的生物伦理学教授戴维•罗德里格斯-阿里亚斯•韦亨(David Rodriguez-Arias Vailhen)没有参与这项研究,他说,这项研究超越了以前的脑机接口所取得的成就。

更接近未来

他说,这使我们更接近这样一个未来:机器“能够读懂思想并转录思想”。他警告说,这可能会违背人们的意愿,比如在人们睡觉的时候。

研究人员预料到了这些担忧。他们进行的测试表明,如果解码器没有经过特定大脑活动的训练,它就不会对人起作用。

三名参与者也能够轻松地挫败解码器。在听其中一个播客时,用户被要求数到7,说出和想象动物的名字,或者在脑海中讲述一个不同的故事。研究人员说,所有这些策略都“破坏”了解码器。

接下来,该团队希望加快这一过程,以便他们能够实时解码脑部扫描。他们还呼吁制定法规保护精神隐私。

生物伦理学家Rodriguez-Arias Vailhen说:“到目前为止,我们的大脑一直是我们隐私的守护者。”“这一发现可能是未来牺牲这种自由的第一步。”