研究AI，拥抱AI，更要掌控AI
——人工智能治理的三重态度

人工智能作为当下最具代表性的颠覆性技术，正深度参与全球竞争格局的重塑与社会运行逻辑的重构。现阶段，人工智能技术的迭代周期不断缩短，应用场景爆发式扩展，这不仅凸显了社会适应的滞后性，还引发了诸如安全隐患与伦理失范等系统性风险。对此，人工智能治理需要秉持理性、开放和审慎的态度，强化监管与立法工作，推动人工智能实现安全、稳健且可持续的发展。

研究AI，筑牢技术安全的底线

研究AI要求我们以理性态度，持续深化对技术的认知。这需要我们深入探究技术的本质特征，从而为科学制定监管与立法措施提供有力支撑。实际上，技术能够且应该被引导来增强人类适应未来的能力，而非取代人类，尤其是对其有了全面认识之后。当前，人工智能的技术风险主要源于以下三个方面：

其一，数据驱动引发的要素风险。基于机器学习的人工智能系统依赖海量数据进行训练，但目前优质的数据资源依然相对稀缺。高质量数据的匮乏使得“垃圾进—垃圾出”效应更为显著。例如，医疗人工智能出现误诊，除了模型架构缺陷外，很大程度上是因为训练时采用了错误标注的影像数据集。为确保训练数据的真实性与合法性，数据标注需经过人工审核与交叉验证。

其二，复杂算法导致的技术黑箱问题。在行业中，自主性更强的深度学习算法被广泛应用，但其自动化决策过程往往难以有效追溯和充分解释。例如，生成式人工智能有时会突破参数设置，生成虚假信息、歧视性言论等。因此，只有不断提升算法的可解释性并对人类价值观保持敏感，才有望打造出可信赖的人工智能产品。

其三，技术会聚加剧平台安全风险。智能终端用户在使用App时，面对的并非某个类人的单个智能体，而是大型网络平台。当前，各类人工智能应用相互关联，会聚到大型网络算力平台共享数据，形成一个个闭环生态系统。然而，系统越复杂就越脆弱，越容易被不法分子找到攻击渗透的突破口。为此，需建立覆盖用户终端、传输环节以及智能平台的全链路主动防御机制，以筑牢技术安全防线。

拥抱AI，稳健释放技术创新红利

人工智能为人类社会带来潜在的巨大发展红利，这是我们必须积极拥抱而非拒绝或限制它的根本理由。它不仅能引发重大的生产力变革，还能推动社会治理转型，弥合数字鸿沟，促进包容性发展。然而，我们也不难发现，面对全球性的人工智能浪潮，不同国家和地区基于国情、历史与文化的差异，在对待人工智能的态度和方式上各有特点：美国奉行市场优先，欧盟突出权利本位，我国则强调统筹发展。实际上，这反映出在如何释放技术创新红利方面存在的价值观分歧。

拥抱AI，要求我们以开放的心态对技术进行积极的价值引导，在政策选择上应体现发展导向，在效率与公平、创新与安全之间寻求稳健的动态平衡。在平衡效率与公平上，美国的人工智能政策倾向于鼓励并积极推动私营部门主导创新，催生了一批全球顶尖的科技巨头，但这种模式也容易造成算法歧视更为突出，少数族裔时常遭受不公平待遇。近年来，我国从顶层设计进行前瞻布局，中央和地方政府对人工智能产业提供实质性支持，以期实现技术突破。在平衡创新与安全的策略上，欧盟的《人工智能法案》以风险分级的方式构建差异化管控体系，但其严苛的事前审查和监管要求抑制了企业的创新和投资热情，致使欧洲难以培育出大型人工智能企业。相比之下，我国主动为创新主体营造风险可控、成本较低的试错空间，同时也在高风险领域强化监管力度。

然而，人工智能治理是世界各国面临的共同挑战。因此，对技术的价值引导不应过度强调本地特色，还需兼顾与国际接轨的问题。从根本上说，如何回应文化差异，将塑造出不同的技术文化和社会形态。2023年，我国发布《全球人工智能治理倡议》，秉持共商共建共享的理念，推动构建人类命运共同体，坚持与各国加强信息交流和技术合作，共同做好人工智能的风险防范，形成具有广泛共识的人工智能治理框架和标准规范。

掌控AI，以制度保障可持续发展

自人类步入机器时代，就需应对机器的“失控”难题。最早，瓦特发明了飞球调节器，用以解决早期蒸汽机在负载变化（如爬坡时）易出现的失控加速或熄火问题。面对更为复杂的人工智能技术，工程师与设计师也期望通过持续改进和优化设计来消除风险，达成安全目标。部分激进的AI研究者认为，安全问题属于可计算问题，期望通过设计某种“伦理调节器”，实现AI和人类的目标或价值对齐。然而，上述借助技术手段解决安全和伦理问题的尝试，既高估了技术本身的力量，也低估了现实世界的复杂程度。当然，还有一种技术策略是以技术监控技术，专门研发用于监控各类智能应用的监管型AI，以开展安全评估与预警工作。

单纯依靠技术手段不足以管理复杂技术的所有风险。查尔斯·佩罗通过对核事故的研究发现，事故原因各有不同，复杂系统难以在技术层面实现完全控制。类似的，寄望于技术解决问题，会使相关人员产生事故不会发生的错觉，进而引发新的风险。除非引入技术之外的规制手段，否则技术风险问题难以得到妥善解决。实际上，控制AI不仅是一项技术挑战，更是对社会治理能力的考验。

掌控AI需要我们以审慎的态度来规制技术风险，通过技术工具与制度工具的协同机制，推动人工智能可持续发展的安全保障体系建设。可持续发展要求AI技术与经济、社会和环境协同发展，在提升生产力的同时，避免技术失控给社会带来诸如技术型失业或生态破坏等风险。当前，随着全球变暖趋势加剧，发展绿色人工智能愈发受到关注。然而，面对技术霸权主义、数字单边市场等地缘政治现实，团结国际多数力量共同行动，弥合智能鸿沟，仍然是国际协作机制未来需要长期面对的挑战。

（作者系湖南师范大学公共管理学院副教授、长沙新一代人工智能伦理治理与公共政策实验室研究员）