首页 / 国际 / 正文

OpenAI首席执行官担心人工智能被用来破坏选举

放大字体  缩小字体 2025-02-27 18:27  浏览次数:0

华盛顿:

ChatGPT背后的初创公司OpenAI的首席执行官周二告诉参议院的一个小组,使用人工智能干扰选举的完整性是一个“值得关注的重要领域”,并补充说这需要监管。

首席执行官萨姆·奥特曼就选举和人工智能表示:“我很紧张。”并补充说:“需要制定规则和指导方针。”

几个月来,大大小小的公司竞相将功能越来越多的人工智能推向市场,为这项挑战投入了无数的数据和数十亿美元。一些批评人士担心,这项技术将加剧社会危害,其中包括偏见和错误信息,而另一些人则警告称,人工智能可能会终结人类自身。

“没有办法把精灵放进瓶子里。在全球范围内,这是爆炸性的,”参议员科里·布克(Cory Booker)说,他是许多对如何最好地监管人工智能抱有疑问的议员之一。

参议员广野敏子指出,随着2024年大选的临近,错误信息的危险。“例如,在选举的背景下,我看到一张前总统特朗普被纽约警察局逮捕的照片,这张照片在网上疯传,”她说,并追问奥特曼是否会认为这张伪造的照片有害。

Altman回应说,创作者应该在图片生成时说明,而不是事实。

奥尔特曼首次在国会发表讲话时建议,总的来说,美国应该考虑开发人工智能模型的许可和测试要求。

当被问及哪种人工智能应该受到许可时,Altman表示,一个能够说服或操纵人的信念的模型将是一个“大门槛”的例子。

他还表示,企业应该有权表示,它们不希望自己的数据被用于人工智能培训,这是美国国会正在讨论的一个想法。然而,Altman说,公共网络上的材料将是一个公平的目标。

奥特曼还表示,他“不会说不”广告的想法,但更倾向于基于订阅的模式。

白宫召集了包括奥特曼在内的顶级科技公司首席执行官,讨论人工智能问题。同样,美国立法者也在寻求采取行动,在限制滥用的同时,进一步提高这项技术的效益和国家安全。共识还远未确定。

据路透社报道,OpenAI的一名员工最近提议成立一家美国人工智能许可机构,名为“人工智能安全和基础设施安全办公室”(Office for AI Safety and Infrastructure Security,简称OASIS)。

OpenAI由微软公司(Microsoft Corp.)支持。奥特曼还呼吁在人工智能领域开展全球合作,并鼓励安全合规。

国际商业机器公司(ibm)首席隐私和信托官克里斯蒂娜•蒙哥马利(Christina Montgomery)敦促国会将监管重点放在可能造成最大社会危害的领域。