导读：
新华社刊登《中国AI，最新趋势来了！》，系统梳理了中国AI产业的现状与未来走向。文章采访了政府官员、学者和企业代表，从六个维度展开分析：
核心观点速览
技术层面：AI正从"聊天"转向"做事"。DeepSeek等企业代表了中国独特的技术路线——更轻的模型、更高的效率、更低的成本。行业共识是"Chat范式已终结"，竞争重心转向能实际解决问题的智能体。 算力建设：中国已建成42个万卡智算集群，智能算力规模全球前列。未来方向是"全国一体化算力网"，实现跨地域协同调度，同时解决电力消耗这个"算力的尽头"问题。
数据演进：从"拼规模"转向"拼质量"。数据标注行业正从劳动密集走向知识密集，高薪招聘医学、工程等专业人才。文章指出，中国全门类工业体系积累的数据是潜在优势。
产业落地：日均Token消耗量一年半增长300倍，80%来自企业用户。AI在电子信息、汽车制造等领域渗透较快，传统产业的AI改造正在提速。
社会影响：从城市治理到消费场景，从"氛围编程"到教育转型，AI正在重塑工作方式和技能定义。
安全治理："slop"（AI垃圾内容）成为多国年度词汇，折射出技术滥用风险。中国正从政策指导走向法治保障，新修改的网络安全法已纳入AI伦理规范。
文章关键数据汇总
产业规模
- AI核心产业规模：预计突破 1.2万亿元，同比增长近 30%
算力基础设施
- 东数西算8大枢纽节点智算规模：超过全国总量的 80%
电力消耗
- 预计2030年（中速增长）：约 3%，突破 4000亿千瓦时
- 预计2030年（高速增长）：或突破 7000亿千瓦时
数据标注
- 高质量数据集：超过 500个（医疗、工业、教育等行业）
Token消耗量
- 2025年6月底日均：突破 30万亿（增长 300多倍）
- 豆包大模型2025年12月日均调用量：突破 50万亿，同比增长超 10倍
- 累计使用超万亿Token的企业客户：突破 100家
AI应用分布
- 生产制造环节：从2024年的 19.9% 提升到2025年的 25.9%
其他
- 政策目标（2027年）：推广 500个 典型应用场景
新华深读｜2026年中国AI发展趋势前瞻
人工智能（AI）企业数量超过6000家，AI核心产业规模预计突破1.2万亿元，同比增长近30%；
国产开源大模型全球累计下载量突破100亿次；
中国成为AI专利最大拥有国，在全球占比达60%；
……
这些数据勾勒出2025年中国AI发展的图景。一边是AI技术突破，走出一条不同于美国硅谷的“开源创新”之路，另一边是AI与经济社会的融合由浅入深。
1月以来，智谱、天数智芯、MiniMax等国内AI企业扎堆上市。本月由清华大学主办的“AGI-Next”峰会上，行业专家形成共识：以对话为核心的“Chat”范式已告终结，AI竞争转向“能办事”的智能体时代。
2026年是“十五五”开局之年。根据“十五五”规划建议，中国将加强人工智能同产业发展、文化建设、民生保障、社会治理相结合，全方位赋能千行百业。
新华社记者采访相关部委负责人、行业专家、企业代表、创业者等，前瞻AI发展新趋势。
技术范式：AI从“聊天”走向“做事”
1月，DeepSeek连发两篇梁文锋参与署名的论文，再次将这家AI企业推到聚光灯下。论文的核心贡献，是试图解决训练大模型时遇到的内存瓶颈和稳定性难题。业界评价，新一代大模型模样更清晰了。
DeepSeek的一举一动备受关注。一年前，其发布的国产大模型DeepSeek-R1给全球AI行业带来巨震。
“DeepSeek标志着中国AI技术路线分化突破的出现。”清华大学智能产业研究院创始院长张亚勤说，“中国转向拥抱更轻的模型、更聪明的架构、更高的效率和更低的价格。”
眼下，AI发展正沿两条主线并进：技术向上冲刺，寻求突破认知与协同的局限；应用向下扎根，解决真实痛点。
“向上冲刺”，就是寻求“更聪明”的算法和架构，不仅提升单一模型的性能，创新突破也更聚焦提升智能密度。
密度法则，是指用更少的计算和数据，更高效地得到更多智能。
国内AI公司面壁智能联合清华大学团队发表论文《大模型的密度法则》，对大模型的进化方向作出判断：AI将在能力和成本两个方向同时进化，提升效率同样是主线。
从“拼规模”转向“拼密度”，精炼高效成为大模型演进的核心逻辑之一。中国信息通信研究院副院长魏亮认为，行业已不再单纯依靠提升参数规模实现性能突破，精细化机制、算法架构、训练方法的优化成为主要提升方向。
中国信通院发布的《人工智能产业发展研究报告》指出，在算法架构方面，以DeepSeek的NSA、月之暗面的MoBA等为代表的稀疏注意力机制，成为提升模型推理效率的重要技术路径之一。
通俗的解释是，想象你坐在一个万人大礼堂，注意力机制从传统的“听每一个人说话”提升为如今“听关键人物发言”。
大模型本质上是通过海量数据归纳语言规律，训练出特定的识别模式，掌握预测文字的能力。就像孩子虽没有理解诗歌，却能通过反复朗诵背出《静夜思》。回顾本轮AI浪潮，算法架构和算力、数据一样，是智能涌现的重要条件。
张亚勤说：“规模定律并未失效，我们仍需要算力和数据作为基座。”不过他也指出，堆算力的边际效益趋于平缓。业内人士认为，算法架构革新将是AI未来发展的突破点。
当模型“智力密度”持续提升，让前沿智能“向下扎根”、变得“更能干”，就成为行业要面对的命题。
“几十年来，AI主要关注开发新的训练方法和模型。”曾担任OpenAI研究员、后出任腾讯总裁办公室首席AI科学家的姚顺雨认为，在AI竞争的下一个阶段，为谁解决什么问题成为关键。
“腾讯已把自研大模型在内部超过900个场景和应用落地，核心思路是把AI深度融入场景，让好用的AI成为普惠生产力。”腾讯相关负责人表示，全球具备大模型底座研发实力的厂商已逐步收拢，高质量的数据、广泛的生态和场景，将成为拉开竞争差距的重要因素。
各大厂商不约而同加快AI真实场景落地的开发。百度新设立了基础模型研发部、应用模型研发部。公司创始人李彦宏称，未来AI领域只会剩下少数几个基础模型，但在应用层，将出现许多在不同方向上都取得成功的参与者，那里才是机会最多的地方。
中国信通院的报告显示，基础模型数量正持续收敛，在真实场景中的应用效果成为关注重点。以大模型“六小虎”为例，百川智能已深耕医疗，零一万物则转向为企业部署定制解决方案。
这些揭示一个趋势：曾经硝烟弥漫的“百模大战”落下帷幕，等待参与者的是一场围绕真实场景渗透、产业生态构建与应用价值深挖的耐力赛。
自1956年达特茅斯会议以来，人工智能已走过70年历程。如今，“技术进化”和“场景落地”的双重变革，推动人工智能向更广阔疆域拓展。
张亚勤认为，人工智能正向智能体AI加速演进。智能体AI能够像人一样设定任务、规划实现路径、试错反馈，具有自主性、能举一反三和长期记忆三个特征。
如果说聊天机器人是“会说话的字典”，智能体AI就是“能自主干活的管家”。中国科学院软件研究所研究员黄进表示，未来AI不仅能听懂指令，还能“看”懂画面、“听”懂语气，成为具备综合认知能力的“全能感知者”。
“智能体是在大模型基础上的工程化增强，极大拓展AI能力边界。”中国信通院人工智能研究所所长魏凯表示，不过智能体在可靠性、上下文记忆和长程任务等方面还需要提升，距离大规模应用仍有距离。
张亚勤等人还认为，AI的创新前沿将突破数字世界的边界，未来的AI将是信息智能、物理智能和生物智能的融合。
AI发展下一站是进入物理世界。1月，中国一款具身智能模型在全球统一标准下获得第一。业界有评价认为，这意味着中国团队训练出的机器人“大脑”，具备了在物理世界理解和执行任务的能力。
中外专家认为，AI正在与真实世界互动中构建理解和模拟物理规律的“世界模型”。物理智能将赋予AI在真实世界中感知和行动的能力，如机器人能自主完成复杂任务，智能驾驶从容应对复杂路况。
AI不仅是数字世界的“思考者”，也将逐渐成为物理世界的“行动者”，更远的未来则会成为生命世界的“探索者”。
算力建设：系统升级加速协同
2025年，一家初创公司发布大模型新产品，市场反响超预期，导致预留服务器几分钟内被挤爆，系统几近瘫痪。危急关头，一家基础设施服务商无问芯穹公司利用平台技术服务，让各地算力资源像“空中加油”一样，为这家公司续上计算能力，确保了产品发布的关键窗口。
“我们希望未来算力就像自来水，打开能用、关上会停，不用关心它从哪里来。”公司联合创始人夏立雪描述这样的愿景。无问芯穹公司位于上海，公司成员平均年龄32岁。他们把不同厂商、不同架构的AI芯片高效融通起来，就像搭建“立交桥”，充分利用分散的算力资源。
算力，计算设备或系统处理数据、执行运算任务的速度与规模能力，通常分为基础算力、智能算力、超算算力。AI依靠的是智算，它不只是芯片的堆砌，而是一个由硬件、软件、能源与网络精密协作的系统。
AI算力就像一支超级工程兵团：GPU等计算芯片是执行硬核任务的“重武器”，高速网络是让各兵种高效协同的“信息高速公路”，存储系统是随时调用的“战略物资库”，软件框架与算法则是统筹全局的“调度指挥中心”。而一切运转都离不开基础保障：电站确保电力“弹药”持续供应，供给液冷系统是战士的“降温服”。
AI时代，算力就是新石油，AI算力中心是提炼和输送石油的超级工厂。
工信部数据显示，我国已建成万卡智算集群42个，智能算力规模超过1590 EFLOPS，位居全球前列。
业界认为，中国算力发展将继续呈现“政府顶层设计+市场创新活力”双轮驱动特征。
产业架构将从分散走向全国一体化，是未来算力发展的明显特征。东数西算工程已形成覆盖东中西部的8大枢纽节点、10个数据中心集群，其中8大枢纽节点已建成智算规模超过全国智算总量的80%。
“十五五”规划建议提出推进“全国一体化算力网”，国务院《关于深入实施“人工智能+”行动的意见》强调“强化智能算力统筹”，指明未来算力发展将加强高效协同。
工信部赛迪院电子所副所长马晓凯认为，算力网建设呈现集约化、一体化、协同化、价值化等特征，算力资源正在向枢纽节点集聚，跨地域调度平台逐步完善，政府引导、市场运作的协同机制正在建立，算力与电力加快协同。
随着需求激增，智算中心正经历变革。中国信通院云计算与大数据研究所副所长李洁认为其将向算力高密化、集群规模化、绿色低碳化方向演进，算力中心单机架功率与算力密度将逐渐提升，算力中心间协同联动能力强化，规模化算力集群将加快构建。
在业界，更大规模的万卡乃至百万卡级集群将成为支撑万亿参数模型训练的基础。比如，从2011年启动研发昆仑芯的百度集团，去年11月发布新一代昆仑芯M系列及天池超节点，计划将单一智算集群规模从3万卡推向百万卡级别。
硬件层面，不仅是芯片研发，还有通过专用集成电路、存算一体等新架构实现技术突破，构建软硬件协同生态。头部科技公司正打造能兼容多种国产芯片的异构计算平台。
应用层面，算力加速从科技企业走向千行百业。今年，上海、珠海等地已宣布发放算力券，降低中小企业使用智能算力的门槛，引导算力资源流向工业制造等实体经济领域。
电力，被业界称为“算力的尽头”。中国信通院报告显示，2024年中国数据中心用电量占社会用电量比例1.68%，并提出未来高中低三种差异化发展场景，按照中速增长，预计到2030年底这一比例将达3%左右，全国数据中心用电量将突破4000亿千瓦时；而按照高速增长趋势，或将突破7000亿千瓦时。
“算电协同”从趋势上升为战略必然。国家引导算力向西部可再生能源富集区布局，打造绿色算力基地。企业也积极探索绿电直供、分布式新能源等模式，腾讯的数据中心去年绿电占比已达80%。
一些企业倾向将实时结算、实时推理等对时延要求高的算力就近部署，对时延要求不高的冷数据存储等业务部署在西部。东西部之间的网络传输成本，以及因时延带来的业务损耗，可能会抵消一部分电价优势。
专家表示，通过网络技术优化、业务智能调度，以及电力系统的灵活性互动，实现整体社会成本最优，将是算力基础设施核心竞争力所在。
展望算力前景，李洁认为“我们不仅追求硬件性能的突破，也关注从硬件到软件、从基础设施到绿色能源的系统性创新”。
这场系统性升级，将决定中国如何把“新石油”转化为驱动智能时代的澎湃动力。
数据挖掘：从规模导向转为质量与专业化导向
在保定，工程师们标注自动驾驶车辆在雨雪中的交互轨迹，构建研究华北地区城郊复杂路况的交互数据集；在成都，医学专业学生标记CT影像以构建肝癌疗效预测数据库；在海口，信息技术专业学生分析记录水果生长的无人机影像，用于智能浇灌和采摘系统……
最近，在某招聘平台，注明“重点大学本硕博优先”的AI数据标注员岗位，月薪最高接近2万元。
因AI应运而生的数据标注行业，正从以往劳动密集转向知识密集。10年前，数据标注公司常落户于中西部地区，受教育不多的人们，会用鼠标就能完成“看图贴标签”。随着生成式AI的突破和落地千行百业，越来越需要挖掘沉淀于行业企业的数据和专业人士的经验，并将经验转化为AI可理解的“数据燃料”。
数据对AI有多重要？
在AI三要素中，算法像设计图，定义AI学习的方法和逻辑；算力是引擎，提供计算的能力；数据则像人类学习所需要的书本和经验。
当算法因规模扩张而边际效益递减、算力因技术开源而日益普及时，AI技术的竞争焦点正转向更基础也更难复制的要素——高质量数据。
魏凯说，训练行业模型解决垂直行业里的深度问题，需要高质量的行业数据集。
“比如，放射科医生看片子里有没有结节，靠的是数十年的医学经验，AI看片子也需要医生教它。现在的数据标注要往纵深发展，把行业的深度知识、专家经验转化为能够被机器学习的样本，需要标注加工。”
高质量数据从哪来？
简而言之，数据标注通过提取特征、分类、注释和标签化等操作，将人类的知识与思维逻辑转化为机器可识别的形式，这是构建高质量人工智能数据集的关键环节。经标注形成的高质量数据能提升垂类大模型在专业领域的性能。
中国数据生产总量占全球四分之一多。中国拥有全球最大的互联网用户群体，拥有全门类的工业体系，从原材料开采、中间品加工到终端产品制造的全要素、全过程、全环节数据成为宝贵资源。
但另一面，很多人有这样的经历：在A医院做的检查，其结果并不被B医院接受，原因在于医疗数据标准不统一，且涉及极高的隐私风险，导致数据无法跨院流动。
工信部赛迪院信软所所长韩健认为，数据价值密度不均、数据标准参差不齐、数据流通壁垒重重，导致大量数据“存而不用”，不同部门、不同企业的数据像一个个“孤岛”，“不敢传”（怕泄密）、“不愿传”（怕丧失竞争优势）、“不会传”（缺乏技术标准）。
难题正在破解。随着数据被明确为关键生产要素，国家数据局挂牌，《“数据要素×”三年行动计划（2024—2026年）》等相继出台，旨在培育数据产业，打造高质量数据集。
国家数据局指导成都、合肥、沈阳等7城市建设数据标注基地，先行先试。截至2025年第三季度，形成医疗、工业、教育等行业的高质量数据集超过500个，带动数据标注相关产值163亿元。
数据集建设已从通用基础数据集转向行业高质量数据集。中国信通院对数据标注企业的调研结果显示，78%的企业以行业数据集供给为主，重点是交通运输、医疗健康、教育教学、工业制造等领域。
业内人士认为，围绕数据的进化今年将进入更深层次。
从AI技术发展看，随着模型训练进入深水区，数据需求持续攀升，但单纯堆量的方式已难以为继，数据训练密度和利用效率成为新焦点；数据集建设重点从追求规模转向质量跃升，智能生成、专业细分、合规治理推动破解数据瓶颈。
从AI落地应用看，高质量、专业化的行业数据集将成为高价值资源，尤其是在工业、金融、医疗等领域。同时，合成数据技术将越来越普及——当现实数据难以获取或涉及隐私时，需要借助AI技术生成符合物理规律和业务逻辑的训练数据，从而突破数据瓶颈。
多位专家认为，AI应用到千行百业后，数据有望成为新的中国优势，因为中国工业门类齐全、数字经济发达，建成全球规模最大的5G网络，新能源汽车等行业处于世界前列。
魏凯表示，未来的关键是充分挖掘利用我国在制造业和互联网等优势领域中积累的“数据金矿”，形成“业务产生数据、数据训练AI、AI反哺业务”的良性循环。
中国人工智能学会会士、香港科技大学（广州）协理副校长熊辉说，数据驱动AI优化，进而提升产业，产生更多数据，形成闭环。中国全门类的工业体系提供极其丰富的应用场景，这是形成数据飞轮的巨大优势。
产业赋能：驱动中国制造加快转型升级
一家有70多年历史的电池厂应用AI，会发生什么？
研发环节采用AI配方大模型，高效开发多特性电池；生产通过AI实时联动设备与工艺，实现预警，提升稳定性；检测引入AI云系统，以算法替代人工，保障大批量生产下的质量一致性。
这家工厂的变化折射一个趋势：AI并非高科技产业的专属，它正成为传统产业转型升级的重要驱动力。
“美国聚焦闭源，而中国主导开源市场，这一格局直接推动中国企业快速切入AI+产业。”熊辉说。
国家数据局的数据显示，2024年初中国日均Token消耗量1000亿，而截至2025年6月底，中国日均Token消耗量突破30万亿。一年半时间增长300多倍，反映出AI应用落地的快速增长。
Token，中文叫“词元”，是大语言模型处理信息的基本单位。模型输出每一个答案都消耗Token。
来自头部大模型企业的数据也印证这一趋势。2025年12月，豆包大模型日均Token调用量突破50万亿，同比增长超10倍，累计使用量超万亿Token的企业客户突破100家。业界人士预测，未来的Token消耗将呈现“二八格局”——约80%来自企业，20%来自个人用户。
“大模型会率先在数字化基础较好、数字化人才相对聚集的行业落地，比如互联网服务、金融、政务等信息化技术好的领域；在物理资产较多、数字化相对滞后的传统产业则会落地较缓。”魏凯分析说。
中国信通院的报告显示，AI在不同工业领域呈现差异化渗透特征，其中电子信息、消费品、以汽车为代表的装备制造等行业在应用中占重要份额，钢铁、石化、能源电力等行业形成较好应用态势。
工信部赛迪院产业所所长王昊认为，AI将以小步快跑态势在制造业落地，从完成简单任务到实现高级功能。2026年AI大规模落地制造业方面，较看好汽车、机器人等先进制造企业，AI也将赋能提升装备与消费产品的智能化水平。
聚焦制造业，会发现AI应用在三个维度展开：研发设计、生产制造、运营管理。
“目前，大模型应用超过40%聚集在客服等运营管理环节，30%至40%应用于研发环节，原本处于‘中间缓’的生产制造环节AI应用比例从2024年的19.9％提升到2025年的25.9%，未来还将提升。”魏凯说。
这种分布反映AI在制造业渗透的渐进性特征——从相对标准化的管理环节向核心的生产制造环节延伸。
张亚勤表示，相比第一、二次工业革命中国“零参与”、第三次以信息时代为标志的工业革命是“跟随者”，在AI作为技术底层的第四次工业革命中，“中国完全有可能走在前列”。
这一判断是业内共识。其背后，是基于中国的独有优势：全球最完整的工业体系、海量应用场景数据、强大的工程化能力和庞大的市场需求。这些要素共同构成中国制造业在AI时代实现跨越式发展的基础。
国家部署为企业助力。去年，《关于深入实施“人工智能+”行动的意见》提出加快人工智能在设计、中试、生产、服务、运营全环节落地应用；今年1月，工业和信息化部等八部门印发《“人工智能+制造”专项行动实施意见》，提出到2027年推动形成特色化、全覆盖的行业大模型，推广500个典型应用场景。
工信部部长李乐成表示，将深入实施“人工智能+制造”专项行动，统筹布局通用大模型和行业大模型，培育一批重点行业智能体、智能原生企业；加快制造业智能化升级，挖掘人工智能应用场景，以万千“小场景”汇聚形成融合“大场面”。
熊辉表示，传统产业进行AI改造的核心是将产业问题抽象为AI问题，并实现低成本部署。以广州的小家电产业集群为例，可利用产业优势，快速形成数据化、智能化闭环，大小模型配合，提升终端智能化水平。
超600万家中国制造业工厂，将在纷繁多样的场景拥抱AI。这不仅是一场技术革命，更是一场深刻的生产方式变革。
社会价值：深刻改变治理方式和运行规则
重庆市潼南区桂林街道梨树村，智能监测系统静静守护着85岁的独居老人。当系统发现异常，从预警到网格员上门仅需15分钟。这是AI融入政府公共服务的一个普通场景。
从事后处置转向事前预警，从“人海战术”转向智能调度，人工智能的触角以前所未有的广度和深度，嵌入社会运行的一道道肌理。
AI带来的转变推动城市治理更智能、更精准。在四川德阳，“城市大脑”的算法以分钟级发现路面问题；在甘肃临洮，大桥上的AI可识别行人翻越栏杆、靠近水流等行为，与警务等部门联动，挽救了20多条生命。
重塑治理理念，人机协同的治理新模式应运而生。中国信通院政策与经济研究所副所长李强治认为，我国正推动AI治理“下沉场景赋能”，将AI技术与政务、公共安全等领域深度融合。
这股力量也渗透进日常生活的毛细血管——消费。AI万能搜、AI帮我挑、AI试衣、AI清单……去年的“双十一”购物节，淘宝天猫一口气推出6款AI导购应用。
“平台和产品变得更懂消费者。这不再是简单的‘猜你喜欢’，而是‘懂你需要’，消费起点从用户的需求清单逐渐变为AI的算法推荐。”淘天集团研究中心主任徐飞说。
AI正锚定“需求”着力渗透，实现从“技术可行”到“社会需要”。
一位蔚来车主在车里说句“想吃麦当劳”，车载系统就能自动定位到最近门店，并根据驾驶路线与会员身份推荐套餐。这是麦当劳中国与蔚来汽车联合推出的国内首个车载AI语音点餐系统。麦当劳中国首席信息技术与体验官陈世宏表示，AI技术不断渗透到消费场景，拓展消费边界。
《关于深入实施“人工智能+”行动的意见》提出，推动智能终端“万物智联”，培育智能产品生态，大力发展智能网联汽车、人工智能手机和电脑、智能机器人、智能家居、智能穿戴等新一代智能终端，打造一体化全场景覆盖的智能交互环境。
中金公司2026年展望报告显示，消费电子的“端侧AI时代”已经来临，今年有望成为AI消费终端大规模普及的关键年份。新一轮消费电子更新换代潮或将到来。
爱奇艺AIGC科技创意指导王庆丰表示，AI正推动消费从“需求牵引供给”逐步到“供给定义需求”，这背后是AI从表层效率优化切入，逐步渗透到体验重构，甚至重塑着深层价值体系。
AI重新定义价值，最深远的是挖掘人的价值。
学日语出身的刘典，在AI爆火的这两年决定辞职攻读计算语言学。“AI降低了跨界难度，很多知识门槛并没有想象中高。”他说。
AI向各行各业渗透，先行者靠它撬动更大价值。上海漕河泾开发区AI校友中心有超60家AI初创企业，创业者平均28岁。数宗科技主攻“多模态知识图谱”，其创始人丁天是一位爱写诗的文科生，他认为，AI时代，技术正从难以逾越的壁垒变为人人可调用的资源。
“氛围编程”入选《柯林斯词典》2025年度词汇，从“敲代码”到“聊代码”，AI逐渐渗透工作流程。腾讯相关负责人表示，腾讯有超90%工程师正在借助AI编码，并基于自身实践推出支持多种形态的专业工具CodeBuddy（云代码助手），面向企业及程序员提供服务。AI辅助让工程师专注于创新，成为能力的放大器。
随着AI重新定义工作和技能，传统教育势必转型。在深圳职业技术大学的课堂上，AI正在手把手地教学生编程。校长许建领说，成功的“AI+教育”不是让学生依赖AI获取答案，而是培养他们使用AI创新。学生核心竞争力不再是单一的操作技能，而是复杂问题解决能力、“AI+技能”复合素养和可持续学习的自驱力。
AI时代，每个人都可以挖掘自己的潜力，专注于唯有人类才能驾驭的洞察与创造。
安全防范：护栏建设将趋严趋实
最近，美国《韦氏词典》评选出2025年度词汇：“slop”（AI垃圾内容）。不约而同，英国《经济学人》杂志、澳大利亚《麦考瑞词典》评选的年度词汇也是它。
这词被一些网友翻译为“AI泔水”，指质量低下、无意义或粗制滥造的AI图像和文本等内容。
词语背后是席卷全球的现象：AI生成的荒诞而无意义的视频、图像和文字充斥互联网。这警示人们，AI技术突飞猛进的同时，其日益增多的安全隐患与伦理挑战不容忽视。
“一家公司与某三甲医院合作开发AI健康助手，最初设计采用一名真实医生的形象与声音。我向这家公司提出可能误导患者，透支患者对医生的信任。”中国科学院自动化研究所研究员、联合国人工智能高层顾问机构专家曾毅谈到这样一个案例。
在曾毅等人建议下，这家公司推出的应用以卡通人物为形象，强化了其助手定位。曾毅说，越来越多AI企业开始思考以人文温度校准技术。
AI有哪些风险？业内专家普遍将其总结为数据隐私与安全边界模糊、技术滥用与虚假信息产生、算法偏见与决策“黑箱”等方面。
张亚勤认为，突出的是信息智能领域的风险，AI可以被利用生成虚假信息、深度伪造并进行欺诈，还有生成式人工智能的知识产权问题。当未来大模型、智能体与无人车、机器人等连接起来，智能体之间的协作和博弈如果出现失控或被恶意滥用，造成的风险更大。
曾毅举例，“越狱攻击”，即通过精心设计提示词绕过安全约束，并引发有害、偏见或不道德输出的对抗性攻击，是当前大语言模型安全领域的严峻挑战。
在AI技术狂飙突进时，如何为它装好“方向盘”和“刹车片”？
我国不断加固安全护栏，走出一条从柔性指导到不断加强法治保障的特色治理之路——
《关于深入实施“人工智能+”行动的意见》提出“形成动态敏捷、多元协同的人工智能治理格局”；中央网信办、国家发展改革委、科技部等多部门协同发力，推动人工智能治理从理念走向落地。
“十五五”规划建议提出，加强人工智能治理，完善相关法律法规、政策制度、应用规范、伦理准则。业界认为，这为我国未来五年人工智能健康发展明确方向、留足空间、筑牢基础。
去年底公布的《人工智能拟人化互动服务管理暂行办法（征求意见稿）》提出，拟人化互动服务提供者应当建立应急响应机制，发现用户明确提出实施自杀、自残等极端情境时，由人工接管对话。
“这一暂行办法公布并向社会征求意见，体现我国人工智能政策‘自适应性’与监管框架的与时俱进。”曾毅说。
既有“软性”政策指导，也有“硬性”法律保障。新修改的网络安全法于今年施行，其中规定，完善人工智能伦理规范，加强风险监测评估和安全监管。
“规范发展”已成为AI业界共识，从研究机构到企业平台均在探索建立健全AI安全伦理体系，明确数据使用、责任界定等关键规则。
2024年，中国信通院启动“大规模预训练模型（文本生成功能）安全认证”，标志着我国开始对大模型内容安全进行系统化、标准化认证。一些机构和企业也在牵头制定行业标准，如腾讯和中国信通院联合发布国内首个金融行业大模型标准等。
AI发展需要各国共同推进、协同治理。参与起草《人工智能全球治理行动计划》的清华大学人工智能国际治理研究院院长薛澜表示，构建一个公平、公正、综合、平衡的人工智能全球治理体系，关乎全人类的共同发展。
AI是驱动发展的新质生产力，也是影响人类未来命运的新生力量。如何加速技术应用以增加社会福祉，同时加强人文关怀化解潜在风险，这既关乎发展，也关乎未来。中国AI技术的发展与应用令人期待，需要全社会的深度参与。
AI 速览
