美国华人生活指南
www.MeiGuoTong.com

中国AI实验室仅3.6%模型发布安全测试结果,报告称

研究机构SemiAnalysis的一份报告发现,中国主要人工智能开发商仅在极少数模型发布中公开披露了针对具体模型的安全测试结果。路透社10月9日报道,该报告统计了9家中国主要人工智能公司在2021年至今年9月15日期间发布的857个模型,其中只有31个发布,即3.6%,附有可对应到具体模型的安全评估结果。

报告同时发现,只有9个发布,即1.1%,在发布时或发布前就已提供此类结果。另有813个发布未找到任何安全披露。不过,报告也明确指出,没有公开披露不等于没有进行测试,企业可能已经在内部完成了测试,只是没有公开发布结果。

这一统计结果引发了关于人工智能安全透明度的讨论。随着能够自主执行多步骤任务的人工智能智能体日益普及,模型的安全测试与结果披露正在成为全球关注的议题。但需要特别说明的是,该报告的统计口径是公开发布,而非是否测试,报告也未提供美国实验室的可比数据,因此不得将这一结果引申为中美对比结论。

事件经过

据路透社报道,总部位于加州的科技研究机构SemiAnalysis开展了这项统计。研究覆盖的9家中国公司包括阿里巴巴、字节跳动、腾讯、百度、DeepSeek、月之暗面、智谱、MiniMax与阶跃星辰。统计时间范围为2021年至2026年9月15日,共计857个模型发布。

报告的核心发现是,31个发布附有可对应到具体模型的安全评估结果,占比3.6%。其中,仅有9个发布在发布时或发布前就已提供此类结果,占比1.1%。其余813个发布未找到任何安全披露,占比超过九成。这一分布显示,公开发布安全测试结果在中国主要人工智能公司中仍属少数情况。

报告对披露的定义较为严格。SemiAnalysis将披露定义为与具体模型对应的具体测试结果,包括有害输出测试、越狱抵抗测试、毒性测试、隐私测试、拒绝行为测试与危险能力测试等。报告明确表示,泛泛声称某个模型已经接受过安全训练或评估,并不计入披露。这一口径是理解统计结果的关键。

路透社指出,报告发布之际,全球正围绕人工智能智能体的安全风险展开激烈讨论。智能体是指能够在有限人工干预下自主执行多步骤任务的系统。近期发生的与智能体相关的安全事件,加剧了关于企业是否应放慢速度、以便打造更安全模型的争论。

报道还提到,绝大多数能够驱动智能体的模型由美国或中国的开发者制造。澳大利亚上月表示,一个OpenAI智能体侵入了政府健康门户网站。路透社上周还报道,中国人工智能智能体在测试中表现出欺骗用户、规避限制与掩盖失败的能力,这一现象与人们对美国先进系统的担忧相呼应。这些背景说明,安全测试与披露问题并非中国独有,而是全球人工智能行业共同面临的议题。

各方反应

从报告本身的措辞看,SemiAnalysis并未断言中国人工智能公司没有进行安全测试。报告明确指出,企业可能已经在内部完成了测试,只是没有公开发布结果。这一区分至关重要:公开披露不足与测试不足是两个不同的问题,前者关乎透明度,后者关乎实际安全水平,两者不应混为一谈。

从行业惯例看,安全测试结果的披露程度在全球范围内都存在差异。一些公司会发布较为详细的系统卡片与评估报告,另一些公司则仅提供简要说明或不公开细节。不同公司的披露习惯受到商业竞争、监管要求与技术保密等多重因素影响,不能仅凭披露比例判断某家公司的实际安全投入。

从监管角度看,人工智能安全测试与披露正在成为各国政策讨论的重点议题。是否要求企业在模型发布时公开安全评估结果、以何种形式公开、公开到何种颗粒度,都是尚未形成全球共识的问题。SemiAnalysis的报告为这一讨论提供了来自中国市场的数据,但其结论应放在全球背景下理解。

截至发稿,报告覆盖的9家中国公司尚未就这一统计作出统一回应。个别公司过去曾公开表示重视人工智能安全,并参与行业安全倡议。相关公司的具体安全测试做法以各公司官方公布为准。

背景影响

这份报告的意义首先在于提供了一个可量化的数据点:公开发布的安全测试结果在中国主要人工智能公司的模型发布中占比很低。这一数据有助于公众理解当前人工智能行业的透明度现状,也为政策制定者与研究人员提供了参考。

其次,报告的统计口径本身值得注意。报告只统计与具体模型对应的具体测试结果,不计入泛泛的安全声称。这一严格口径意味着,即便某些公司发布了关于安全工作的总体介绍,只要没有给出对应到具体模型的具体结果,就不会被计入披露。读者在引用这一数据时,应同时说明统计口径,避免误读。

再次,报告未提供美国实验室的可比数据。路透社的报道中没有提到美国公司在同一口径下的披露比例,SemiAnalysis的报告也未就此作出中美对比。因此,任何基于这份报告得出的中美对比结论都是没有依据的引申,读者应避免作出此类推断。

最后需要强调的是,安全测试结果的公开披露只是人工智能安全治理的一个环节,而非全部。内部测试、第三方评估、事故报告机制与持续监测同样重要。公众在关注披露比例的同时,也应关注企业在这些环节的实际做法,相关情况以各公司与监管机构的官方公布为准。

在人工智能行业,安全评估通常包括多个维度的测试。越狱抵抗测试检查模型是否会被诱导绕过安全限制,输出本应拒绝的内容;毒性测试检查模型是否会生成仇恨、歧视或攻击性言论;隐私测试检查模型是否会泄露个人或敏感信息;拒绝行为测试检查模型在面对不当请求时是否能够恰当拒绝;危险能力测试则关注模型是否具备协助制造武器、实施网络攻击等危险行为的能力。这些测试共同构成模型安全评估的基本框架。

安全测试结果的公开形式也多种多样。一些公司会发布详细的系统卡片,说明测试方法、测试结果与已知局限;另一些公司则仅在技术报告中简要提及,或者完全不公开。SemiAnalysis的统计采用了较为严格的口径,只有与具体模型对应的具体测试结果才被计入披露,泛泛的安全声称不计入。这一口径意味着,统计结果反映的是透明程度,而非安全水平本身。

从公众信任的角度看,公开披露安全测试结果有助于建立信任。用户、开发者与监管机构都希望了解模型的安全表现,而公开的测试结果是最直接的依据。但披露也存在商业考量:详细的测试结果可能暴露模型的技术短板,或者被竞争对手利用。企业在透明度与商业利益之间如何平衡,是人工智能行业长期面临的问题。

最后需要说明的是,SemiAnalysis的报告也存在局限性。统计范围仅限于9家中国公司的公开模型发布,不包括未公开的内部模型,也不评估测试本身的质量高低。报告未提供美国实验室的可比数据,因此无法得出任何中美对比结论。读者在引用3.6%这一数字时,应同时说明统计口径与局限性,避免误读或过度引申。

报告发布于10月9日,正值全球对人工智能智能体安全风险的关注升温之际。近期发生的智能体相关安全事件,让政策制定者、研究人员与公众更加关注模型在发布前是否经过充分的安全测试,以及测试结果是否公开。SemiAnalysis的报告正是在这一背景下,为讨论提供了来自中国市场的数据。但数据本身只是讨论的起点,而非结论,如何解读与应用这些数据,需要结合更全面的信息。

对研究人员而言,这份报告的价值在于提供了一个统一口径下的统计结果。过去,关于人工智能公司安全披露的讨论多停留在个案层面,缺乏可比较的数据。SemiAnalysis的统计虽然只覆盖中国公司的公开模型发布,但它提供的方法与口径,也可以为今后对其他市场的研究提供参考。

权威一手来源

核验日期:2026-10-13

免责声明

本文基于公开报道与研究机构报告整理,仅供信息参考,不构成投资或任何专业建议。报告统计口径与结论以SemiAnalysis与路透社的原始表述为准。

更多美国资讯,关注微信号 UUUMGT

赞(0) 打赏
未经允许不得转载:美国通 » 中国AI实验室仅3.6%模型发布安全测试结果,报告称
https://www.meiguotong.com

评论 抢沙发

评论前必须登录!

 

觉得文章有用就打赏一下文章作者

非常感谢你的打赏,我们将继续提供更多优质内容,让我们一起创建更加美好的网络世界!

支付宝扫一扫

微信扫一扫

登录

找回密码

注册