苏纳克(Rishi Sunak)的人工智能全球峰会进一步表明，英国有意将自己打造成技术革命的一支力量。随着人工智能模型能力的进步，以及它们解决复杂医疗问题和极大提高生产力的能力，它们带来的风险也在发展。秋季峰会的目的是就如何开发和应用该技术制定国际规则，目标是将这种风险降至最低。
短期内的巨大威胁可能是个人或国家行为体滥用模型，例如部署系统来识别和利用网络安全漏洞，或大规模产生令人信服的错误信息。
在未来，这些系统可能会成为它们自己的威胁。复杂的人工智能很难控制，我们还没有完全解决使这些模型与我们的利益相一致的问题。有一种风险是，竞相开发更强大的模型的公司可能没有充分考虑到它们可能释放的东西，或者国家行为者可能试图利用它们来获得对西方的优势。
目前，在许多领域超越人类能力的人工智能是科幻小说的专利。但10年前，OpenAI革命性的文本生成聊天机器人ChatGPT也是如此。在不太遥远的将来，我们可能会面临强大的人工智能系统，我们不知道如何控制它，这已经不再是不可能的了。
Sunak先生在这种风险发生之前解决它是正确的。英国必须站在辩论的前沿，讨论如何最大限度地减少最强大的新模型带来的潜在危险应用所带来的危险。
