当算法参与决策，安全如何保障？

2026年7月17日，习近平总书记在2026世界人工智能大会暨人工智能全球治理高级别会议上，提出了“当算法参与决策，安全如何保障？”的时代之问。他随后给出了答案：“强化风险意识，确保安全可控。”他强调，“要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，筑牢安全底线，防范滥用恶用，确保人工智能始终处于人类控制之下”，这为应对算法决策安全问题提供了根本遵循。

算法决策的本质，是把原本由人行使的判断权部分让渡给机器。人的失误是个别的、偶发的，算法一旦存在缺陷，其偏差便会依托机器的速度和规模转化为批量化、系统性的失误。算法决策的安全问题，根本上是治理体系与技术能力能否匹配的问题，须从技术、数据、制度三个维度系统作答。

看清风险：透视算法决策的新型风险图谱

辩证把握算法决策的安全问题，首先要确立科学的风险认知框架。《人工智能安全治理框架》2.0版将人工智能安全风险划分为技术内生、技术应用、应用衍生三大类。循此观察，算法决策风险集中表现为四个方面：一是“黑箱”之险，算法推理不透明，决策难以解释追溯，失误难以纠偏问责；二是“失真”之险，训练数据若掺杂虚假偏见信息或遭恶意“投毒”，模型便会被“带偏”；三是“失公”之险，算法以历史数据为师，容易复制放大社会偏见，形成隐性歧视；四是“失控”之险，高度自主的决策一旦脱离人类控制，局部失误可能演变为系统性风险，人机责任交织还易形成责任“真空”。

尤须以发展眼光看待风险演化。随着人工智能从离身智能走向具身智能，算法决策不再局限于信息空间，而是经由智能机器人、自动驾驶、无人系统等载体作用于物理世界，安全风险从信息层面传导至物理层面，后果从“数据受损”变为“实体受损”，甚至危及生命健康。这要求我们保持风险认知的前瞻性，把安全边界划在技术能力扩张的前面。

技术之策：以自主可控固本，以安全可靠强基

关键核心技术是国之重器，算法决策的“方向盘”须立于自主可控的技术底座。习近平总书记在中共中央政治局第二十次集体学习时强调，要“集中力量攻克高端芯片、基础软件等核心技术，构建自主可控、协同运行的人工智能基础软硬件系统”。算力芯片、基础软件、基础模型若受制于人，决策安全便如沙上建塔。

这方面，湖南有底气、更有担当。从“银河”“天河”超算的研制起航之地，到全国信创首选技术路线“两芯一生态”（飞腾、鲲鹏CPU加麒麟操作系统）的首创地，长沙已聚集1400多家先进计算骨干企业，获批国家级先进制造业集群中唯一的“计算”集群——国家新一代自主安全计算系统产业集群。湖南理应在智能算力、国产操作系统、安全芯片等环节持续发力，把信创优势转化为AI安全优势，让算法决策立于自主可控的“中国底座”之上。

同时，把安全能力“内生”于技术体系。安全不是事后加装的外挂，而是技术架构的内在属性：推进可解释性研究，让决策“说得清”，为监督问责提供支点；加强鲁棒性设计，使系统在极端情况下稳定可靠；将安全测试、红队演练贯穿研发部署全生命周期。面向具身智能新形态，还须将功能安全与信息安全一体谋划，为物理实体预置故障安全、紧急接管、人类否决等机制，始终确保“人在回路”。

数据之策：以高质量数据筑基，以法治保驾护航

数据是算法决策的“粮食”，数据治理水平直接决定决策安全的成色。这一维度的工作，应沿“质量、安全、规制”三层次递进展开。

在质量层面，重在正本清源。训练数据的真实性、准确性、合法性构成决策正确的逻辑起点。要健全数据来源审核和质量评估机制，严把采集关、标注关、使用关，防止低质有害信息“污染”模型，从源头压缩数据投毒和偏见传导的空间。

在安全层面，重在统筹兼顾。数据既是生产要素，也是安全要素。要落实数据分类分级保护制度，对一般数据、重要数据、核心数据实行差异化管控，在守住安全底线的前提下促进数据依法有序流动利用，实现“供得出、流得动、用得好”。

在规制层面，重在定分止争。数据安全法、个人信息保护法已搭建数据治理的基本法律框架，其中个人信息保护法第二十四条明确规定，利用个人信息进行自动化决策，应当保证决策透明、结果公平公正，不得实行不合理差别待遇；对通过自动化决策作出的有重大影响决定，个人有权要求说明、有权拒绝。要推动这些规定从“纸面”落到“地面”，使每一个自动化决策都经得起法律检验。

制度之策：分级分类安全管控，系统建设可信AI

制度具有根本性、全局性、稳定性、长期性。答好“安全之问”，关键在以制度把“风险”与“创新”分开安放、把“油门”与“刹车”协调配装。

一方面，实施分级分类安全管控。算法决策的应用场景千差万别，监管既不能“一刀切”，也不必“谈算法色变”。《互联网信息服务算法推荐管理规定》率先确立算法分类分级管理和备案制度；《生成式人工智能服务管理暂行办法》实行包容审慎和分类分级监管；《人工智能安全治理框架》2.0版进一步从应用场景、智能化水平、应用规模等维度科学定级，高风险严管、低风险松绑。今年，工信部等十部门印发《人工智能科技伦理审查与服务办法（试行）》，将具有高度自主能力的高风险自动化决策系统列入专家复核清单，加装“伦理安全阀”。

另一方面，加快可信AI体系建设。信任不会自发产生，须靠体系塑造：以“可控可靠、透明可释、隐私保护、明确责任、多元包容”为目标，健全法律法规和标准体系；完善安全测评和审计监督机制，推行内容标识与可追溯管理；明确研发者、部署者、使用者各自责任，构建事前评估、事中监测、事后处置的全链条治理闭环。

统筹发展和安全，是我们党治国理政的重大原则。强调安全可控，不是给创新“踩刹车”，而是为发展“除路障”。从《全球人工智能治理倡议》到《人工智能全球治理行动计划》，从“人工智能＋”行动到世界人工智能合作组织应运而生，中国正以一整套制度性成果回答人工智能治理的时代之问、世界之问。只要坚持发展和安全并重，把技术底座筑得更牢、把数据篱笆扎得更紧、把制度之网织得更密，就一定能让算法决策始终处于人类控制之下，让人工智能这匹千里马既跑得快、又跑得稳。

（作者系湖南省人工智能协会会长）