(JY编译)美国总统拜登的政府希望采取更有力的措施,在公开发布ChatGPT等人工智能工具之前对其安全性进行测试,尽管其还没有决定政府是是否将参与审核工作。
美国商务部(DOC)周二(11日)表示,将在未来60天内听取意见,探讨可能的人工智能审计、风险评估和其他措施,以缓解消费者对这些新系统的担忧。
商务部下属的国家电信和信息管理局(NTIA)负责人、助理商务部长艾伦·戴维森(Alan Davidson)说︰「鉴于创新的速度,现在的关注程度提高了,我们需要负责任地设置一些护栏。」
国家电信和信息管理局作为顾问机构而非监管机构,正在寻求反馈,以确定什么样的政策能够让商业人工智能工具能够被负责任地使用。
拜登上周在与其科学技术顾问委员会的会议上表示,科技公司在向公众发布产品之前必须确保其产品的安全性。
拜登政府去年还公布了一套意义深远的目标,旨在避免人工智能系统的兴起所造成包括利用该技术进行犯罪或传播虚假信息的伤害;但那是在旧金山初创企业OpenAI的ChatGPT和微软、谷歌等公司发布类似产品之前,其后这些最新的人工智能工具能够生成类似人类的文字段落,以及新的图像和视频,使人们对其能力有了更广泛的认识。
拜登上周表示,人工智能是否有危险,还有待观察。他说︰「在我看来,科技公司有责任在公开其产品之前确保其产品的安全性。」
ChatGPT由总部位于加州的OpenAI公司制造,并得到了微软公司的支持。它对问题的快速回应让一些用户惊叹不已,但也以不准确的内容给用户带来困扰。
国家电信和信息管理局计划起草一份报告,该报告旨在确保人工智能系统按其所声称的那样工作,且不会造成伤害。当局并表示,会为拜登政府正在进行的工作提供信息,以「确保联邦政府对人工智能相关的风险采取全面的措施」。
早前,技术伦理组织人工智能与数字政策中心(CAIDP)要求美国联邦贸易委员会(FTC)阻止OpenAI发布新的GPT-4商业版本,说其「有偏见、欺骗性,对隐私和公共安全有风险」,呼吁FTC对OpenAI进行调查。
国家电信和信息管理局的通知主要是要求就「自我监管」(self-regulatory)措施征求意见,而这些措施可能由开发人工智能工具的公司来主导。戴维森表示,国家电信和信息管理局的法律任务涉及向总统提供科技政策建议,而不是制定或执行监管规定。
这与欧盟形成对比,欧盟议员本月正在就新法律的通过进行谈判,这些法律将根据人工智能工具所带来的风险程度设置严格的限制。
Photo by Rolf van Root on unsplash