图片来源：视觉中国

科技日报记者 刘霞

美国《国会山》网站在近日的报道中指出，ChatGPT这类生成式人工智能（AI）的爆炸式增长，以及由此带来的一些诸如虚假信息泛滥、偏见、改变劳动力结构等混乱，引发了美国联邦政府的担忧，立法者和监管机构希望采取切实行动，消弭这些担忧。

引发两大关键咨询题

《国会山》网站报道称，AI的进展可能会引发两大关键咨询题。

一方面，最近生成式AI工具的兴起带来了与虚假信息传播有关的咨询题。另一方面，为自动化系统提供动力的AI可能会导致卑视。

英国《新科学家》杂志也指出，ChatGPT和其他聊天机器人经常浮现事实性错误，引用彻底虚构的事件或文章，在案例中编造性骚扰丑闻、诬告真人等。ChatGPT的使用也导致了数据隐私丑闻，涉及公司机密数据的泄露。另外，AI生成的图像、音频甚至视频也可能导致大规模的“深度造假”信息，美国前总统特朗普被捕和教皇方济各穿着时尚白色羽绒服的虚假AI合成照片就证明了这一点。

加强执法呼声高涨

美国联邦贸易委员会、司法部民权司、消费者金融保护局和平等就业机会委员会（EEOC）近日发表了一份联合声明称，鉴于AI越来越多地用于从住房到医疗保健在内的一系列服务，他们答应加强现有法律的执行强度，包括旨在解决AI可能会浮现的卑视咨询题，并制定对于进展规则的新法规。

EEOC主席夏洛特·伯罗斯表示，包括AI在内的先进技术的使用必须符合联邦法律。

固然，这些机构的联合声明要紧集中于使用AI的自动化系统，而不是像ChatGPT如此的生成式AI。

《国会山》网站在报道中指出，即便这样，随着ChatGPT等聊天机器人人气飙升，谷歌和其他公司也不断推出与之竞争的新产品，此外，包括特斯拉和推特首席执行官埃隆·马斯克等在内的一批企业家也竞相涌入该行业，由此可能引发的喧哗与骚动，也凸显了政策制定者迫切需要采取相关措施。

要应对AI带来的风险，美国国会将权衡制定新法规，各机构也应加大执行现有法律的力度。因为即使在现有法律适用的地点，由于AI系统的工作方式，也可能很难执行这些法律。例如，算法招聘工具可能会导致卑视，但职员很难明白自己是否受到了系统的卑视。于是各机构需要解决的咨询题不仅在于怎么应用法律，还要思考怎么应对执法过程中带来的挑战，以及了解这些AI系统对现实世界将产生怎么样的妨碍等等。

负责民权事务的助理司法部部长克里斯汀·克拉克也强调称，在当今社会浮现的各种卑视咨询题上，AI构成了很大的威胁，这些咨询题需要政策制定者和其他人进行更深入的研究和审查。

安全治理势在必行

美国参议员本月早些时候公布了一项提案，提出将为AI监管建立一个框架，旨在提高透明度并加强咨询责。除此之外，立法者还准备采取行动，就AI技术兴起的相关风险向行业施压。

参议院情报委员会最近致信ChatGPT的开辟商OpenAI、元宇宙平台公司、谷歌、Anthropic和微软等科技公司首席执行官，询咨询他们在开辟大规模AI模型时怎么应对安全风险。

信中写道，随着AI在大部分领域越来越多地使用，以及大型语言模型有可能稳步集成到从医疗保健到金融部门的一系列现有系统中，迫切需要强调AI使用过程中的安全性咨询题。

针对一些参议员提出的怎么利用AI等咨询题，美国消费者技术协会的一位发言人表示，该协会一直在与其成员“为AI政策、标准和框架制定作出贡献”。

美国软件联盟负责美国政府关系的副总裁克雷格·奥尔布赖特则表示，国会能够要求公司制订风险治理打算，对AI的高风险使用进行风险评估，并定义何为高风险案例，而公司则需要开展妨碍评估和设计评估，以确保他们做正确的事。

来源：中国科技网