高级专员蒂尔克在人工智能治理问题全球对话上呼吁：在人工智能时代夺回人类能动性

各位部长，

各位阁下，

尊敬的与会者们，

一种新药在上市之前需要经过数年的临床试验、监管审查和市场授权流程。

整个周期通常要持续10到15年。

许多药品会因缺乏效力或安全性问题而研发失败。

然而，即便存在重重保障，失误依然可能发生。

对于人工智能，我们是否给予了同样的关注？

人工智能已经在改变人类社会。它正在以极快的速度获得开发和部署。它助长了大规模监视和社交媒体上的虚假信息，加剧了包括出于性别（平等）视角在内的偏见。由人工智能驱动的算法正在对儿童造成越来越大的伤害。存放人工智能服务器的数据中心正在破坏环境。

与此同时，人工智能确实蕴藏着令人称道的潜力。它已经在辅助医学诊断、加速科学研究以及加强公共服务等方面发挥助力作用。

正因如此，我们必须确保人类能够信任人工智能。

所以，我们需要自问：为何围绕一项公共产品的监管竟会成为争论的焦点？

我们经历过类似的情况。

在应对气候变化方面，我们已经浪费了宝贵的时间，因为有权势者曾质疑科学、拖延行动，并优先考虑短期的经济和政治利益。

如今，我们又被要求仅凭信心就接受“人工智能系统将改善人类生活”这一观点，而不是去追问它们的运作原理以及谁受益、谁受损、谁负责。批判性思维就这样轻而易举地被抛诸脑后。

这让我想起弗朗茨·卡夫卡（Franz Kafka）《城堡》中的主人公K.。他作为一名土地测量员来到一个陌生的村庄，却在余下的故事中不断试图理解一个始终遥不可及也无需负责的体制。

我们是否就像K.一样——被困在一个不透明的权力体系之中并逐渐丧失自身的能动性？

人工智能关乎权力，控制数据、市场、资源和信息的权力。

但这一切的目的是什么？

如果你问世界各地的人们希望从权力中获得什么，答案都是一样的：和平、安全以及体面的生活水准。

简而言之就是人权，而人权正是对权力行使的一种制衡。

人权帮助我们重拾能动性，让我们在影响自身的决策中拥有发言权。

尊敬的与会者们，

为了夺回人类的能动性，我们需要为人工智能的发展设立护栏，以确保透明度、包容性和问责制。

代表我们行使权力的政治领导人可以通过以公共利益为准则的监管来确保实现这一点。

最显而易见的解决方案就在我们眼前，即以人权为指导的监管。但不知为何，我们却一直在回避它。

不过，现在出现了一个契机。

关于人工智能对就业和经济影响的关切正变得更加可信。对强大的人工智能系统所带来的日益增长的安全风险进行监督的势头也在不断增强，其中也包括对人工智能在网络行动和武装冲突中的使用。

世界各地的人们，尤其是年轻人，正在要求采取行动。

人工智能不仅仅是技术问题。它更关乎平等和问责。它涉及我们生活的所有领域，从就业到跨越出行，再到获取信息。

这就是为什么需要将人权纳入人工智能的设计、开发、部署和使用之中。 

国际人权法提供了具有约束力的法律框架，用以保护数据、避免歧视、获得正义、确保平等以及更多方面。

对人工智能系统进行人权尽职调查和影响评估是必需的。同样不可或缺的还有强有力的数据保护和隐私保障措施。

某些领域需要特别关注，例如保护儿童的在线安全。我鼓励大家参考我办上个月发布的指导方针。

每个国家都参与到了人工智能的价值链中，无论是通过数据、关键矿产、劳动力、市场、算力还是云服务能力。这意味着，所有国家都应当在塑造并受益于人工智能方面获得切实利益。

否则，人工智能将加深而非缩小不平等。

此外，这还关乎将人工智能投资引导到富有韧性的社会的基础建设上，例如卫生、教育、社会保障和气候行动。

围绕人工智能的决策需要保持透明——要明确数据的使用方式，以及人们可以在哪里寻求正义。

如果人工智能在没有人为干预的情况下收集数据或作出决策，系统就可能无需承担责任。随着人工智能代理被广泛应用于医疗保健、金融、招聘等领域，这种情况正变得越来越普遍。

我们都体会过想要更改就医预约却只能面对自动化系统的那种无奈。作为人类，我们却正在陷入“无人”的漩涡，且求助无门。

现在，想象一下这种不负责任的状态出现在关乎人生的重要问题上：你是否会被录用、是否能获得信贷、是否会被遣返回一个可能遭受酷刑的国家。  

风险远不止于此。随着人工智能越来越多地被纳入军事系统，自动化决策可能意味着生与死的差别。

对人工智能系统的人类监督不能只是走过场。必须将修改甚至叫停人工智能系统的权限、能力、时间、独立性和权力授予明确的个人。

尊敬的与会者们，

我之前问到，为何对人工智能系统的监管竟会成为争论的焦点。

有一种观点认为，监管会压制创新。

但这并非一种取舍。

我们不会将药品、汽车或飞机的安全标准视为进步的障碍。它们恰恰是人们从一开始就信任这些技术的原因。

我们完全有可能设计出同时促进权利、经济机会和安全的技术。我鼓励大家在本次会议期间分享相关实例。

我的办事处随时准备支助各方将原则转化为实际行动的努力。明天，我们将启动人权数据交换平台——HRDx。这是全球首个开放且权威的服务平台，旨在提供关于权利受到威胁、发生了什么、为何发生以及如何应对的证据。

我的办事处按照《全球数字契约》框架所设立的人权咨询服务也是为了帮助各国及其他相关方能够按照人权责任治理人工智能。

科技和人工智能行业的非正式口号是“更大、更快、更好”。

我想倡导的则是“更智慧、更善良、更明智”。

我想引用历史学家兼政治家阿克顿勋爵（Lord Acton）的一句名言：“权力导致腐败，绝对的权力导致绝对的腐败。”

历史一再表明，权力需要受到制约。

我们的任务十分明确：确保人工智能服务于人，而非反之。人权提供了指南针。让我们对其加以充分利用。

谢谢大家。