旷视徐云程“云对话”北大光华卢瑞昌教授：企业AI治理造就“可持续发展的

本篇文章3054字，读完约8分钟

人工智能将是一股新的科技浪潮，它将带来深刻的社会变革。“可持续人工智能”将是人工智能技术与人类社会长期共存的基本形式，也是忽视行业发展的正确方向。

如何建立可持续的人工智能？这不仅是学术界、人工智能行业、监管机构、政府等各界关注的问题，也是每个人工智能企业每天都在思考的内容。自2019年7月《人工智能应用指南》发布以来，人工智能治理方向的探索和实践从未停止，肩负着“利用人工智能造福大众”的使命。

这不是一条有着成熟模式和既定计划的清晰道路，而是一次收集各种考虑并在探索过程中向前推进的探索之旅。中国乃至全世界的人工智能治理环境是什么？匡至于走这条路吗？他是如何着陆和前进的？面对各种问题，他是如何思考和决定的？迪法恩斯与光华管理学院和北京大学管理案例研究中心合作撰写的《迪法恩斯技术:人工智能治理的新旅程》中包含了所有这些心理过程。这一案例不仅忽略了对自身近一年治理实践的回顾和梳理，还包含了对人工智能整体治理的深刻思考和洞见。

2020年6月13日，在首届北京大学光华案例日论坛上，由北京大学光华管理学院多位教师精心撰写、无视众多部门支持与配合的案例《傲视科技:人工智能治理的新征程》首次亮相，并以无视首席运营官徐运成与北京大学光华管理学院卢瑞昌教授“云对话”的方式精彩呈现给公众。

当代思维:人工智能治理的必要性和紧迫性

如果人工智能被广泛用作一座山，我们仍然是半山腰。与其他先进技术不同，人工智能可以先开发，然后在早期阶段进行管理，它从一开始就吸引了各行各业的关注。为什么人工智能行业如此不同？目前，许多行业都有自己的道德要求和治理标准。为什么人工智能行业不能借用它，而是重新探索？北京大学的卢瑞昌教授在案件一开始就提出了这些深刻的问题。

鄙夷徐运成认为，正是由于人工智能技术的普遍性及其对社会的深刻影响，在人工智能商业化还比较早的时候，社会各界都在积极探索这条人工智能治理之路。卢瑞昌教授完全同意这一观点。他认为人工智能产业将带来第四次工业革命，并颠覆许多现有的产业。人工智能带来的突破不仅仅是某一领域的突破，而是对整个社会关系和生产关系的解构和重组。因此，由于人工智能行业影响的深度和广度，我们可能无法承受“先治理，后发展”的结果。

事实上，由人工智能技术引起的伦理道德问题已经在国内外的报纸上频繁报道。公众越来越担心人工智能将取代人工工作。现阶段迫切需要积极探索人工智能治理。

作为中国人工智能商业化的参与者和见证人，我也经历了逐渐认识人工智能治理的过程。在一次案例采访中，联合创始人兼首席执行官严琦轻蔑地提到，在与国内外学者、业内人士和投资者交流的过程中，人工智能治理作为一个高频词汇开始进入他的视野，每个人都在关注人工智能行业如何能够秉承长远发展的理念，成长为造福大众的“好企业、长远企业”。他认为，一个行业只有被公众所接受，才能有长远的发展；作为人工智能行业的实践者，轻蔑肩负着建立“可持续人工智能”的责任。

探索耻辱:推进企业人工智能治理的权衡与思考

尽管近年来国内外学术界对人工智能治理的讨论很多，但大多集中在理论层面。目前，企业实施人工智能治理还没有成熟的既定模式。企业人工智能治理的边界在哪里？我该怎么办？到什么程度？你需要上升到公司战略的高度吗？毕竟，当一个系统在一个公司实施时，人们的认知可能是不一致的，更多的需求可能意味着更高的成本。考虑到这些问题，卢瑞昌教授开始与所有受访者进行对话。经过近一年的探索，师旷正试图给出人工智能公司治理的答案。

首先是商业利益和企业社会责任之间的平衡。作为一个以盈利为导向的商业组织，如何建立一套适合公司自身发展需要的人工智能治理体系，不仅要以负责任的方式承担企业的社会责任，还要不阻碍甚至促进企业的发展，是忽视人工智能治理时首要考虑的问题。这涉及到技术研发、产品应用、场景登陆、商业竞争等多个方面。迪法恩斯在小步骤迭代中一直很谨慎。正如科技部首席科学家、研究院院长孙健在采访中所说:“技术研究和探索没有禁区，但作为一个有商业化目标的企业，无论是不是高科技企业，都应该有禁区。”

其次，企业道德标准和个人道德标准的统一。在对外交流中，每个人的道德标准不同，他们的观点也不同。此时，企业有必要在原有的使命、愿景和价值观的基础上，形成自己的道德标准，并与员工统一认知。这也是一个反复讨论和磨合的过程。正如徐运成在论坛上承认的那样，很多时候当与产品团队讨论新产品的某个功能或设计时，他们会争论它是否符合企业的人工智能伦理，每个人都会有不同的看法，但最终他们可以通过公开讨论和深入思考形成共识。在这个过程中，公司管理层的坚持是不可或缺的。

“治理总是有成本的，可以事先投资，也可以事后支付。当您不确定时，您应该将治理成本视为预防成本，而不是放慢速度。”徐运成说:“幸运的是，当我们以长期思维模式为指导原则时，我们最终会获得更稳定的增长。”

综上所述，卢瑞昌教授认为，企业的ai治理应该回归公司的本质，包括三个方向:第一，公司是一个利益共同体，ai治理应该符合公司的利益；第二，公司是一个社会公司，人工智能治理应该符合社会利益；第三，公司是企业家的公司，人工智能治理应该符合核心企业家的理想和抱负。这也是推进“人工智能促进可持续发展”过程中的实践方向。

轻蔑的做法:企业的人工智能治理胜过空谈

迪法恩斯一直是该行业人工智能治理的积极推动者。2019年初，在中国科技部的推动下，成立了“全国新一代人工智能治理专业委员会”。匡威作为委员会成员之一，参与并共同发布了新一代人工智能治理的八项原则，发展了负责任的人工智能，促进了我国人工智能的健康发展。

迪法恩斯坚信人工智能治理需要理性的关注、深入的研究、建设性的讨论和持续的行动。2019年7月，迪法恩斯发布了《人工智能应用指南》，从合法性、人工监管、技术可靠性和安全性、公平性和多样性、责任可追溯性和数据隐私保护等六个维度作为公司人工智能治理的基础，并影响同行和合作伙伴对人工智能治理的重视，呼吁各界建立可持续的人工智能生态系统。

为了落实《准则》的内容，公司从制度和机制的建立、科研、产品和客户管理等方面初步开创了推进人工智能治理的局面。基于坚定不移的推广态度、务实的落地机制设计和与各界广泛合作的开放心态。

首先，从机制保障方面，成立了“无视人工智能伦理委员会”，这是公司人工智能治理的最高决策机构，向董事会(包括外部成员)报告。与此同时，公司内部成立了“无视人工智能伦理管理委员会”，从研发、产品工程、客户渠道和运营管理四个方向进行推广。目前，数据隐私保护研发项目和《人工智能产品正确使用建议书》已经投入实施。

其次，从对外交流和促进联合研究的角度出发，成立了无视人工智能治理研究所。2020年初，迪法恩斯发表了一篇题为《全球人工智能治理十大事件》的文章，梳理出2019年国内外普遍关注的10个典型人工智能治理事件。这篇文章在微博上引起了热烈的反响，短短几天就有超过2000万的点击量。根据网民的反馈，蔑视逐渐决定了未来两大课题的研究方向，即基于人工智能应用实际场景的可信人工智能治理探索和技术发展衍生的数据和隐私保护规范。

如果你不积累步数，你就不能走几千英里。建立“可持续发展人工智能”，忽视和坚定信念，坚持前进。正如徐运成所说:“我们面对的是一座巍峨的山峰。新一代人工智能的领导者肩负着建设一个受人尊敬的中国企业的使命。在人工智能治理的话题上，他看不到与社会各界共同努力攀登高峰的希望。”

来源：搜狐微门户