一手拿着显微镜 企业做AI治理：需要一手拿着“望远镜”

人民论坛网 徐云程 中国企业家手机报 新闻中国采编网 中国新闻采编网 谋定研究中国智库网 商协社团 谋定论道经信研究 哲商对话 万赢信采编：  本次人民智库与旷视AI治理研究院成立联合课题组，共同开展了“2020年度全球十大人工智能治理事件”评选活动。这次的评选从四大维度：AI与人类福祉、AI与公平正义、AI企业治理、AI系统安全性与数据隐私安全对候选事件进行了筛选，旨在以更全面，更中立的视角为各界提供一份AI治理问题优先级的排序，我认为这是一次非常有意义的尝试。

旷视作为一家人工智能的企业，在这次评选中更多是站在企业的角度，从相关度和落地实践来思考问题。具体来说，我们会从三个角度来看候选事件：一是看事件是否具有普遍性。这个普遍性不但指行业普遍性，还有地域与文化的普遍性。

虽然伦理与文化高度相关，但是背后折射出来的底层逻辑在海内外都是相通的，具有共通性的重要问题应该被特别关注。二是看影响性。有些治理事件是单点事件，而且适用范围窄，对于企业来说，其影响是有限的；但是许多治理事件具有广泛性，系统性和动态性的特点。企业面临的治理问题更加复杂，

同时，不作为的影响也将超出单个企业的范畴。三是看紧迫性。随着AI治理研究的不断深化，大家已经达成一个共识。那就是，对于人工智能这样的产业，我们不能延续过去“先发展，后治理”的传统技术治理道路，但是如何能够在一个技术商业化早期就平衡好发展与治理之间的关系，这背后的考量标准之一就是紧迫性。当有些伦理担忧已经上升到伦理风险的高度，各界应该尽快行动。对于企业来说，针对短期风险的提前合规准备和针对长期风险的战略调整应该并行。我们在这次梳理重大事件的过程中也对于紧迫性高的事件给予了更多关注。

人工智能技术作为推动社会可持续发展的使能技术，在使社会效率提升、促进企业发展、释放人类更多潜能的同时，也因它的广泛性和不可解释性，引发了争议和思考。本次十大事件中，有些案例就体现了新的技术突破可能会引起的AI伦理风险。因此，我们需要在人工智能技术还处于早期探索的时侯，就通过企业内部的监督和审核机制，对技术的发展方向加以研究和控制，让其朝着对社会有益的、正向的方向发展。

在技术发展过程中，我们经常会遇到三个挑战：第一是大众对于人工智能的技术和产品存在严重的认知不足。如果此时又缺少正确的引导和对话机制，误解就会演化为负面认知，从而对人工智能产业的发展造成不利影响。第二个问题是人工智能的伦理问题落到企业语境下要成为可执行的企业治理问题，而这个过程是一个典型的交叉学科范畴。

其中涉及技术，哲学，经济，法律，社会学等多门学科。在一个多元语境下，如何以多方参与的形式来推动企业的发展，这种运用综合手段的能力，对于企业来说是个巨大考验。三是我们发现许多新产生的问题目前还没有得到人们的普遍共识，更缺少专门的深度研究。这造成了在AI治理的领域，问题远远大于答案。这是旷视为什么成立了AI治理研究院的初衷。我们希望通过十大事件反映出来的问题，与研究机构和专家聚焦几个问题，用深度调研和实证的方式，寻找各方认可的答案。

综上所述，我认为在企业内部落实AI治理需要一手拿着“望远镜”，一手拿着“显微镜”。“望远镜”帮助企业看到技术演进的过去与未来，看到国内和国外，在思考问题时能够捕捉中外文化与思维方式的差异，在解决问题时能够广泛运用各个学科的综合知识，因此“广”和“远”很重要。

而“显微镜”是指，虽然所有的问题及其影响都在演进，但演进的速度是不一样的，有些话题更具紧迫行。这就需要我们用“显微镜”将这些紧迫的问题加以放大，仔细研究，厘清问题中盘根错节的原由，快速形成解套的机制或共识，为人工智能技术的发展方向和社会矛盾的解决之道积累宝贵的经验财富。企业只有充分发挥“望远镜”和“显微镜”的综合作用，才能把握正确的发展方向，真正实现用人工智能技术造福大众。（作者为旷视首席发展官、旷视 AI 治理研究院院长，本文根据作者在2021年1月14日“2020 全球 AI 治理十大事件专家内部研讨会”上的发言整理）

一手拿着显微镜 企业做AI治理：需要一手拿着“望远镜”