李维安教授在报告中指出,当前以人工智能、物联网、大数据等技术为驱动力的第四次科技革命席卷全球,我国AI产业进入快速发展期,截至2023年底相关企业数量居世界第二。人工智能时代推动了公司治理变革,在股东、董事会、经理层治理,利益相关者治理和环境治理等方面均有体现,但也带来多维度治理挑战,包括技术层面的数据、算法、系统风险,治理体系层面的技术滥用、网络安全等风险,应用层面的监管滞后等问题,以及全球竞争层面的地缘竞争、技术垄断等风险,同时存在伦理挑战,技术发展呼唤重构治理体系,需要将算法、规则、数据上升到治理层面,开发出相应的AI治理体系。
李维安教授强调,AI企业治理根本问题是向善与向利治理理念的平衡问题,AI企业治理的关键在于防范人工智能私利。数据社会化使数据治理从孤立化到社会化转型,AI企业掌握数据和算法权力,可能滥用获取私利。李维安教授指出,OpenAI的发展历程体现了这种理念冲突,从非营利组织到非营利与营利并存,再到考虑转型为营利性企业,过程中多次因治理理念冲突引发离职潮,核心问题就在于平衡“向善”与“向利”。
李维安教授表示,治理结构设计需平衡创新与责任,关键问题包括保障创始人控制权、平衡股东与不同利益相关者的利益诉求、融合AI“向善”与“向利” 治理理念以及有效监督和治理AI伦理风险四个方面。治理机制则需实现有效激励与监督。人工智能企业的持续竞争力,本质上是治理体系的制度竞争。这要求企业从简单的薪酬竞争,升级为包含产权制度、治理架构、治理理念认同的体系建设。需建立和完善治理结构和机制,优化激励和约束机制,避免人才“培养-流失”的恶性循环。
针对如何重构治理体系这一问题,李维安教授提出了构建人工智能企业治理体系的五条对策。一是根据AI公司的不同类型、所处不同行业、面临不同数据风险,采取不同的治理手段,进行分级治理、分类治理;二是以绿色治理理念升级人工智能企业社会责任;三是完善AI企业治理结构,推动AI企业董事会建设,反映AI特征,治理AI风险;四是优化治理机制,提升治理有效性,不仅要优化一般公司治理机制,更要建立符合AI企业性质的特殊治理机制;五是打造政府审慎监管、数据市场、行业自律以及社会监督“四位一体”的外部协同治理体系。
