研究AI,拥抱AI,更要掌控AI
——人工智能治理的三重态度
人工智能作为当下最具代表性的颠覆性技术,正深度参与全球竞争格局的重塑与社会运行逻辑的重构。现阶段,人工智能技术的迭代周期不断缩短,应用场景爆发式扩展,这不仅凸显了社会适应的滞后性,还引发了诸如安全隐患与伦理失范等系统性风险。对此,人工智能治理需要秉持理性、开放和审慎的态度,强化监管与立法工作,推动人工智能实现安全、稳健且可持续的发展。
研究AI,筑牢技术安全的底线
研究AI要求我们以理性态度,持续深化对技术的认知。这需要我们深入探究技术的本质特征,从而为科学制定监管与立法措施提供有力支撑。实际上,技术能够且应该被引导来增强人类适应未来的能力,而非取代人类,尤其是对其有了全面认识之后。当前,人工智能的技术风险主要源于以下三个方面:
其一,数据驱动引发的要素风险。基于机器学习的人工智能系统依赖海量数据进行训练,但目前优质的数据资源依然相对稀缺。高质量数据的匮乏使得“垃圾进—垃圾出”效应更为显著。例如,医疗人工智能出现误诊,除了模型架构缺陷外,很大程度上是因为训练时采用了错误标注的影像数据集。为确保训练数据的真实性与合法性,数据标注需经过人工审核与交叉验证。
其二,复杂算法导致的技术黑箱问题。在行业中,自主性更强的深度学习算法被广泛应用,但其自动化决策过程往往难以有效追溯和充分解释。例如,生成式人工智能有时会突破参数设置,生成虚假信息、歧视性言论等。因此,只有不断提升算法的可解释性并对人类价值观保持敏感,才有望打造出可信赖的人工智能产品。
其三,技术会聚加剧平台安全风险。智能终端用户在使用App时,面对的并非某个类人的单个智能体,而是大型网络平台。当前,各类人工智能应用相互关联,会聚到大型网络算力平台共享数据,形成一个个闭环生态系统。然而,系统越复杂就越脆弱,越容易被不法分子找到攻击渗透的突破口。为此,需建立覆盖用户终端、传输环节以及智能平台的全链路主动防御机制,以筑牢技术安全防线。
拥抱AI,稳健释放技术创新红利
人工智能为人类社会带来潜在的巨大发展红利,这是我们必须积极拥抱而非拒绝或限制它的根本理由。它不仅能引发重大的生产力变革,还能推动社会治理转型,弥合数字鸿沟,促进包容性发展。然而,我们也不难发现,面对全球性的人工智能浪潮,不同国家和地区基于国情、历史与文化的差异,在对待人工智能的态度和方式上各有特点:美国奉行市场优先,欧盟突出权利本位,我国则强调统筹发展。实际上,这反映出在如何释放技术创新红利方面存在的价值观分歧。
拥抱AI,要求我们以开放的心态对技术进行积极的价值引导,在政策选择上应体现发展导向,在效率与公平、创新与安全之间寻求稳健的动态平衡。在平衡效率与公平上,美国的人工智能政策倾向于鼓励并积极推动私营部门主导创新,催生了一批全球顶尖的科技巨头,但这种模式也容易造成算法歧视更为突出,少数族裔时常遭受不公平待遇。近年来,我国从顶层设计进行前瞻布局,中央和地方政府对人工智能产业提供实质性支持,以期实现技术突破。在平衡创新与安全的策略上,欧盟的《人工智能法案》以风险分级的方式构建差异化管控体系,但其严苛的事前审查和监管要求抑制了企业的创新和投资热情,致使欧洲难以培育出大型人工智能企业。相比之下,我国主动为创新主体营造风险可控、成本较低的试错空间,同时也在高风险领域强化监管力度。
然而,人工智能治理是世界各国面临的共同挑战。因此,对技术的价值引导不应过度强调本地特色,还需兼顾与国际接轨的问题。从根本上说,如何回应文化差异,将塑造出不同的技术文化和社会形态。2023年,我国发布《全球人工智能治理倡议》,秉持共商共建共享的理念,推动构建人类命运共同体,坚持与各国加强信息交流和技术合作,共同做好人工智能的风险防范,形成具有广泛共识的人工智能治理框架和标准规范。
掌控AI,以制度保障可持续发展
自人类步入机器时代,就需应对机器的“失控”难题。最早,瓦特发明了飞球调节器,用以解决早期蒸汽机在负载变化(如爬坡时)易出现的失控加速或熄火问题。面对更为复杂的人工智能技术,工程师与设计师也期望通过持续改进和优化设计来消除风险,达成安全目标。部分激进的AI研究者认为,安全问题属于可计算问题,期望通过设计某种“伦理调节器”,实现AI和人类的目标或价值对齐。然而,上述借助技术手段解决安全和伦理问题的尝试,既高估了技术本身的力量,也低估了现实世界的复杂程度。当然,还有一种技术策略是以技术监控技术,专门研发用于监控各类智能应用的监管型AI,以开展安全评估与预警工作。
单纯依靠技术手段不足以管理复杂技术的所有风险。查尔斯·佩罗通过对核事故的研究发现,事故原因各有不同,复杂系统难以在技术层面实现完全控制。类似的,寄望于技术解决问题,会使相关人员产生事故不会发生的错觉,进而引发新的风险。除非引入技术之外的规制手段,否则技术风险问题难以得到妥善解决。实际上,控制AI不仅是一项技术挑战,更是对社会治理能力的考验。
掌控AI需要我们以审慎的态度来规制技术风险,通过技术工具与制度工具的协同机制,推动人工智能可持续发展的安全保障体系建设。可持续发展要求AI技术与经济、社会和环境协同发展,在提升生产力的同时,避免技术失控给社会带来诸如技术型失业或生态破坏等风险。当前,随着全球变暖趋势加剧,发展绿色人工智能愈发受到关注。然而,面对技术霸权主义、数字单边市场等地缘政治现实,团结国际多数力量共同行动,弥合智能鸿沟,仍然是国际协作机制未来需要长期面对的挑战。
(作者系湖南师范大学公共管理学院副教授、长沙新一代人工智能伦理治理与公共政策实验室研究员)
- 新湘导读