自2019年以来，澳大利亚工业、科学和资源部一直在努力使该国成为“安全和负责任”的人工智能（AI）的领导者。其核心是基于“以人为本的价值观”、“公平”、“透明和可解释性”等8项人工智能伦理原则的自愿框架。
随后出台的关于人工智能的每一份国家指导意见都衍生出了这八项原则，并恳请企业、政府和学校将其付诸实践。但这些自愿原则对开发和部署人工智能系统的组织没有真正的约束力。
上个月，澳大利亚政府开始就一项语调不同的提案进行咨询。它承认“自愿遵守[…]已经不够了”，并谈到“在高风险环境中为人工智能设置强制性护栏”。
但自我监管的核心理念仍然根深蒂固。例如，AI开发者可以通过考虑一系列只能被描述为大规模AI系统特有的风险，来确定他们的AI系统是否具有高风险。
如果达到了这个高门槛，又会有什么强制性的保护措施呢？在大多数情况下，公司只需要证明他们有遵循人工智能伦理原则的内部流程。因此，该提案最值得注意的是它没有包括的内容。没有疏忽，没有后果，没有拒绝，没有补救。
但对于人工智能，澳大利亚可以采用一种不同的现成模式。它来自另一项关乎国家利益的关键技术：基因技术。
基因技术是转基因生物背后的技术。与人工智能一样，它引起了60%以上人口的担忧。
在澳大利亚，它是由基因技术监管办公室监管的。该监管机构成立于2001年，旨在应对农业和健康领域生物技术的蓬勃发展。从那以后，它成为了一个专家知情、高度透明的监管机构的典范，专注于一项具有深远影响的特定技术。
三个特点确保了基因技术监管机构在国内和国际上的成功。
首先，它是一个单一任务的机构。它规范了对转基因生物的处理，“通过识别基因技术带来的风险，保护人类的健康和安全，并保护环境。”
其次，它有一个复杂的决策结构。正因为如此，澳大利亚每一项基因技术应用的风险评估都有可靠的专业知识作为依据。它还使评估不受政治影响和企业游说的影响。
监管机构由两个综合专家机构提供信息：技术咨询委员会和道德与社区咨询委员会。这些机构得到了机构生物安全委员会的补充，该委员会支持200多家经认可在澳大利亚使用基因技术的研究和商业机构进行风险管理。这与食品安全和药品安全的最佳做法相似。
第三，监管机构不断将公众意见纳入其风险评估过程。它这样做是有意义和透明的。每一项涉及基因技术的交易都必须得到批准。在发布之前，一个详尽的咨询过程可以最大限度地审查和监督。这确保了公共安全的高门槛。
综上所述，这些因素解释了为什么澳大利亚的基因技术监管机构如此成功。它们还强调了大多数新兴的人工智能监管方法所缺失的东西。
人工智能监管的任务通常涉及保护公众和支持产业之间不可能达成的妥协。与基因调控一样，它寻求防范风险。就人工智能而言，这些风险将是对健康、环境和人权的风险。但它也寻求“最大限度地利用人工智能为我们的经济和社会带来的机会”。
第二，目前拟议的人工智能监管将风险评估和管理外包给商业人工智能提供商。相反，它应该发展一个以跨学科科学、社会技术和民间社会专门知识为依据的国家证据基础。
有观点认为，人工智能已经“出笼”，潜在的应用程序太多，太平凡，难以监管。然而，分子生物学方法也很容易被发现。基因技术监管机构仍然对该技术的所有用途进行监督，同时继续努力将某些交易归类为“豁免”或“低风险”，以促进研究和开发。
第三，公众没有任何有意义的机会来同意与人工智能打交道。这是事实，无论它是否涉及掠夺我们集体想象力的档案来构建人工智能系统，还是以损害尊严、自主和正义的方式部署它们。
二十多年基因监管的教训是，在一项有前途的新技术能够证明其对人类和环境无害的使用历史之前，它不会阻止创新。事实上，它拯救了它。
公司提供
nversation
本文转载自The Co在知识共享许可下的对话。阅读原文。
引用当前位置观点：澳大利亚在基因技术监管方面已经领先了20多年——以下是它应该如何将其应用于人工智能（2024年10月14日）从https://techxplore.com/news/2024-10-opinion-australia-gene-technology-years.html检索到2024年10月15日
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
