ChatGPT的创造者OpenAI公司总裁格雷格·布罗克曼(Greg Brockman)周一表示,该公司正在测试如何在影响其人工智能的决策中收集广泛的意见。
在由高盛集团(Goldman Sachs Group Inc .)和SV Angel在旧金山举办的AI Forward活动上,布罗克曼讨论了广受欢迎的聊天机器人的制造商如何在全球范围内寻求对人工智能的监管。
他预告的一个公告类似于维基百科的模式,他说,这需要持不同观点的人团结起来,就百科全书的条目达成一致。
“我们不只是坐在硅谷,以为我们可以为每个人制定这些规则,”他在谈到人工智能政策时说。“我们开始考虑民主决策。”
周一,OpenAI在一篇博客文章中详细阐述了Brockman讨论的另一个想法,即世界各国政府应该协调一致,确保人工智能的安全发展。
自11月30日ChatGPT推出以来,生成式人工智能技术(可以从文本提示中生成异常权威的散文)吸引了公众,使该程序成为有史以来增长最快的应用程序。人工智能也因其制造深度假图片和其他错误信息的能力而成为人们关注的焦点。
在评估人工智能的前进道路时,布罗克曼参考了维基百科和其他地方。他和OpenAI表示,像国际原子能机构(IAEA)这样的机构可以对部署施加限制,审查安全标准的遵守情况,并跟踪计算能力的使用情况。
另一个建议是达成一项全球协议,限制前沿人工智能能力的年度增长,或者建立一个主要国家政府可以参与的全球联合项目。
OpenAI首席执行官萨姆·奥特曼(Sam Altman)上周向美国立法者提出了为人工智能设置护栏的各种想法,其中包括要求获得开发最复杂的人工智能模型的许可证,并建立相关的治理制度。他本周将访问欧洲的政策制定者。