美白宫与 AI 巨头签署协议
-
白宫与七家人工智能巨头达成协议，推动安全开发
华盛顿7月21日 - 美国白宫周五宣布，拜登政府与亚马逊、谷歌、微软等七家开发人工智能产品的公司达成自愿协议，旨在确保该技术安全可靠地发展。
此次协议强调三个关键领域：产品安全、透明度和公众信任。各公司承诺在人工智能系统公开发布前进行内部和外部安全测试，并与公众分享安全相关信息。此外，他们还需采取措施防止无意或恶意发布不可公开的技术和工具，支持第三方检测和披露违规行为。
为了建立公众信任，这些公司也承诺确保人工智能生成的内容标记明确，提供有关其产品功能和局限性的详细信息，优先考虑降低人工智能潜在危害的风险，例如偏见、歧视和侵犯隐私。他们还将把研究重点放在使用人工智能来解决社会面临的最重大挑战上。
白宫表示，他们正在制定一项行政命令，要求国会制定立法以帮助美国在负责任的创新方面保持领先地位。
专家观点：步伐积极但还有路要走
尽管周五宣布的协议被视为朝着有效监管新兴人工智能技术的积极一步，但专家们也警告说，在了解这些强大的模型可能带来的潜在危害以及找到减缓危害的方法方面，还有更多的工作要做。
乔治·华盛顿大学数字贸易和数据治理中心主任苏珊·阿里尔·亚伦森表示，“没有人知道如何监管人工智能——它非常复杂，而且在不断变化。”她强调，白宫正在努力以有利于创新的方式进行监管，但目前做得还不够。
对话式计算的未来与风险
谷歌 DeepMind 首席执行官兼首席科学家路易斯·罗森伯格指出，大型语言模型将越来越被内置到人们用来进行日常业务的系统中，我们正进入一个对话式计算时代。但他同时也警告说，这些模型可能会表现出意想不到的偏见，可以鹦鹉学舌虚假或误导性的信息，并且可以说出令人反感甚至危险的事情。
兰德公司政策分析师本杰明·布德罗认为，协议可能对公司的行为影响有限，国会和白宫还需要采取更多行动来确保安全发展。 他还强调需要扩大对话参与者范围，包括独立评估者、公民社会组织等。