上周，人工智能领域的专家和业界高管等人联署公开信，呼吁各大人工智能实验室立即暂停开发比GPT-4更强大的人工智能系统的训练，至少停止6个月。
这份来自生命未来研究所（Future of Life Institute）的公开信称，具有“人类竞争性智能”的人工智能系统可能成为人类的主要威胁。在这些风险中，人工智能有可能胜过人类的智慧，淘汰人类，并控制文明。
信中强调，有必要制定一套全面的协议来管理人工智能的发展和部署。信中指出这些协议应确保遵守它们的系统是安全的，而这并不意味着总体上暂停人工智能开发，只是从危险竞赛中后退一步。
通常情况下，监管之争会使政府和大型技术公司相互对立。但最近的公开信——迄今已有5000多名签名者，包括推特和特斯拉首席执行官伊隆·马斯克（Elon Musk）、苹果公司联合创始人史蒂夫·沃兹尼亚克（Steve Wozniak）和OpenAI科学家约纳斯·卡萨（Yonas Kassa）——似乎表明各方最终会站在一起。
READ MORE
“深远的风险”：为何马斯克等人呼吁紧急暂停人工智能开发？
我们真的可以制定实施一个精简的全球人工智能监管框架吗？如果可以的话，它会是什么样的？
已存在哪些监管？
在澳大利亚，政府已经建立了国家人工智能中心，旨在帮助发展人工智能和数字生态系统。 该中心下设负责任的人工智能网络，目的是推动负责任的做法，并提供法律和标准方面的领导。
然而，目前还没有关于人工智能和算法决策的具体法规。政府采取的做法是广泛接受负责任的人工智能的概念，但没有设定参数以确保其实现。
同样，美国也采取了不干涉的策略。立法者依靠现有法律来规范其使用。美国商会（US Chamber of Commerce）最近呼吁对人工智能进行监管，以确保它不会损害经济增长或成为国家安全风险，但当局目前尚未采取任何行动。
READ MORE
ChatGPT冷思考：人工智能时代如何理性看待人的价值与机器的“有用”？
欧盟在人工智能监管方面处于领先地位，它正在努力制定一项《人工智能法（Artificial Intelligence Act）》。这项拟议的法律将划分与人工智能有关的三个风险类别，包括造成 “不可接受的风险”的应用程序和系统将被禁用，被认为是“高风险”的应用程序将受到特定法律的约束，以及其它的应用程序将在很大程度上不受监管。
尽管一些团体认为欧盟的做法将会扼杀创新，但澳大利亚应该对此密切关注，因为它在提供可预测性和保持人工智能的发展步伐这两者间取得了平衡。
中国应对人工智能的做法侧重于针对具体的算法应用，并制定法规解决其在某些情况下的部署。虽然这种方法提供了针对性，但有可能制定的法规会赶不上快速发展的技术。
Source: SBS
利与弊
对于谨慎推动对人工智能的控制，支持和反对的声音都有。
一方面，人工智能因能够生成各种形式的内容、处理普通单调的工作和用于检测癌症等而受到赞扬。另一方面，它可以欺骗、延续偏见、剽窃，而且——当然——让一些专家对人类的集体未来感到担忧。甚至OpenAI的首席技术官米拉·穆拉蒂（Mira Murati）也建议，应该对人工智能进行监管。
一些学者认为，过度的监管可能会阻碍和干扰人工智能的全部潜力。有的理论认为，为了使创新蓬勃发展，必须打破长期存在的规范和做法。
READ MORE
谁将驾驭谁：最新版本ChatGPT推出 代价可能大于所想？
同样，多年来，商业团体一直在推动灵活的监管，并将其限制在目标应用上，以便不妨碍竞争。而行业协会则呼吁进行道德“指导”，而不是监管，它们认为人工智能的发展速度太快，而且是开放式的，无法充分监管。
但民众似乎主张进行更多的监督。根据Bristows和毕马威（KPMG）的报告，约有三分之二的澳大利亚人和英国人认为人工智能行业应该受到监管并被追究责任。
下一步是什么？
暂停开发先进的人工智能系统六个月，可以为人工智能“军备竞赛”提供喘息机会，而这场军备竞赛似乎并没有放松。然而，到目前为止，还没有有效的全球努力来有意义地监管人工智能。世界各地的努力是断裂的、拖延的，总体上是松懈的。
READ MORE
人工智能革命正在向我们走来：一些工作可能面临风险
全球暂停将很难执行，但并非不可能。这封公开信提出了关于政府作用这一问题，对能力极强的人工智能工具的潜在危害，各政府基本上保持沉默。
如果要改变现状，政府以及国家和超国家的监管机构将需要带头确保问责制和安全。正如信中所说，有关人工智能的社会层面的决定，不应掌握在“未经选举产生的技术领导者”手中。
因此，各国政府应与业界合作，共同制定一个全球框架，制定出管理人工智能发展的综合性规则。这是保护免受有害影响和避免逐底竞赛的最佳方式，也避免了政府和科技巨头为争夺人工智能未来主导权而出现的不理想局面。
作者：
斯坦·卡拉纳西奥斯（Stan Karanasios）
昆士兰大学（The University of Queensland）副教授
奥尔加·科沙吉纳（Olga Kokshagina）
EDHEC商学院（EDHEC Business School）创新与创业副教授
宝琳·C·莱内克（Pauline C. Reinecke）
汉堡大学（University of Hamburg）助理研究员
欢迎下载应用程序SBS Audio，关注Mandarin。您也可以通过苹果播客、谷歌播客、Spotify等播客平台随时收听和下载SBS普通话音频故事。
READ MORE
【SBS学英语】第34集：饲养宠物
