AI“狂飙”引担忧 监管讨论在升温

AI“狂飙”引担忧 监管讨论在升温

自去年底ChatGPT“一夜成名”,人工智能(AI)迎来“狂飙”时刻,AI生成内容(AIGC)领域快速发展。与此同时,数据泄漏、电信诈骗、个人隐私风险、著作权侵权、虚假信息等挑战层出不穷,关于AI监管的讨论正在全球范围内升温。

包括埃隆·马斯克在内的1000多名科技领袖、技术人员和研究人员今年3月就签署过一封公开信,呼吁暂停开发最大的AI模型6个月,理由是担心“开发和部署更强大数字思维的竞赛失控”。超过350名AI领域的行业高管、研究人员和工程师5月30日又签署了一封公开信,他们在信中警告称,AI可能给人类带来“灭绝风险”,签署者包括美国OpenAI首席执行官山姆·阿尔特曼和谷歌DeepMind首席执行官杰米斯·哈萨比斯。

从欧洲《AI法案》到七国集团(G7)“广岛AI进程”,目前,全球许多国家正在讨论AI的监管规则,不过它们正处于监管和立法过程的不同阶段。

一、欧洲议会通过《AI法案》草案

德国《法兰克福评论报》指出,目前关于AI的最具体、最先进的规则是欧盟的《AI法案》。作为其数字战略的一部分,欧盟希望对AI进行监管,以确保为这一创新技术的开发和使用提供更好的条件。

当地时间6月14日,欧洲议会以499票赞成、28票反对和93票弃权的压倒性结果通过了《AI法案》草案。若最终法案获得通过,这将成为全球首个关于AI的法案。美国有线电视新闻网报道称,一旦获得通过,该法案将适用于在欧盟开发和部署AI系统的任何人,包括位于欧盟以外的公司。

监管的程度取决于特定应用程序产生的风险,从最小到“不可接受”。属于后一类的系统将被彻底禁止。

该法案对“高风险”AI应用设置了严格限制,“高风险”指的是可能“对人们的健康、安全、基本权利或环境造成重大损害”。

该法案还概述了AI系统的透明度要求。例如,ChatGPT等系统必须表明其内容是AI生成的,以方便区分深度伪造图像和真实图像,并提供防止非法内容生成的保障措施。用于训练这些AI系统的受版权保护的数据详细摘要也必须公布。

二、G7呼吁出台AI技术标准

据《日本时报》报道,由于对生成式AI日益担忧,G7领导人5月在广岛召开峰会,同意成立一个工作组,以加强合作,解决与新技术相关的各种问题。他们还表示,将创建一个名为“广岛AI进程”的部长级论坛,在今年底前针对生成式AI导致的版权、虚假信息等问题展开讨论。

G7发布的联合声明表示:“我们认识到有必要立即评估生成式AI的机遇和挑战。”他们将致力于通过透明、公开和公平的方式与多个利益相关者合作,起草“负责任的AI”的标准。

声明表示,各国对AI监管的立场可能有所不同,但需要有一定程度的标准化,这种标准化也适用于其他新兴技术趋势,例如元宇宙和量子信息科学。

三、澳大利亚计划加强AI监管

澳大利亚是最早提出监管AI的国家之一,于2018年推出了一个自愿的道德框架。

澳大利亚工业和科学部长埃德·胡西克承认,版权、隐私和消费者保护方面的法律目前仍然存在不足。他表示,鉴于AI行业的快速发展,政府希望确保其法律框架能起到有效保护效果。同时,如果在制定新的AI法律过程中,公众有强烈要求,澳大利亚也会考虑禁止AI中的高风险成分。

在2023年的联邦预算中,澳大利亚政府宣布成立“负责任的AI网络”,并为在全国范围内负责任地推广多种AI技术提供约2690万美元的资金。

此外,该国监管机构也意识到了现行法律的不足,拟对更广泛的《隐私法》进行修改,修改后的法律将涉及如何应对在没有人类监督的情况下,AI模型训练通过反馈环路可能出现的缺乏透明度的问题。

四、美国AI监管仍在路上

美国也加入了这场生成式AI的监管风暴。当地时间5月23日,美国政府宣布了一系列围绕美国AI使用和发展的新举措,希望全面了解并捕捉到快速发展的AI技术所蕴含的风险和机遇。

白宫官网发布消息称,“AI是我们这个时代最强大的技术之一,具有广泛的应用。为了抓住AI带来的机会,我们必须首先管控其风险。为此,政府已采取行动,促进负责任的AI创新,将人、社区和公共利益放在中心位置,并管理AI技术发展对个人和社会、安全和经济的风险。”

不过,美国对于AI监管的思路与欧洲不同。欧盟倾向于由统一法案带来集中协调和全面的监管覆盖范围;而美国则采取不干涉的做法,着重于依靠业界“自律”,提出自己的保障措施。(科技日报)

◎本报记者 张佳欣

AI“狂飙”引担忧 监管讨论在升温
科技日报 科技日报
0
0
发布评论
后可评论
0/1000
全部评论

暂无评论,来抢沙发

猜你喜欢 换一批
数据加载中,请稍候...