2024年3月1日，，AB钱包正式对外颁布AI安全整体应对规划，，蕴含AI安全框架，，以及基于安全框架下的AI安全解决规划、AI评估服务和安全检测工具等。

    这是AB钱包继去年颁布QAX-GPT安全机械人、大模型卫士之后，，在AI领域的又一次重要战术布局。它能够援手企业看清AI安全全貌，，提前洞察风险并采取应对措施，，为中国企业抢占人为智能战术制高点筑牢安全底座。

    01    人为智能加快落地利用，，安全风险亟待应对

    在当前急剧发展的数字化时期，，人为智能技术在国度的大力支持下，，正在引领着科技创新海潮，，并深刻地扭转着人类的出产、生涯甚至思想方式，，被誉为下一个出产力前沿。IDC调研显示，，67%的中国企业已经起头索求AIGC在企业内的利用机遇或进行有关资金投入。IDC预测，，2026年中国AI大模型市场规模将达到211亿美元，，人为智能将进入大规模落地利用关键期。

    然而，，随着AI技术在各领域的宽泛利用，，更多新的、更复杂的安全问题也逐步凸显，，尤其是大说话模型（LLM）的急剧发展，，带来了数据安全、模型安全，，以及内容安全、AI伦理问题等各类风险点。这些安全风险不仅影响AI技术的成效，，还可能为用户和企业造成经济损失、名誉影响等。然而，，目前行业内还未形成成熟美满的解决规划及产品，，大部门属于索求阶段。若何发现AI安全隐患，，珍视AI安全，，已经成为国度及全行业当前亟待解决的问题。

    02    涵盖框架、解决规划、服务和工具，，提供AI全周期防护

    为了更好地援手企业应对AI安全风险，，AB钱包依附在框架规划、安全攻防、安全服务、解决规划等方面的堆集，，正式对外颁布AI安全框架和解决规划，，基于安全框架下的AI评估服务，，以及一款专门针对大说话模型的安全检测评估工具，，援手企业筑牢AI安全防线，，更快、更好地利用AI开释出产力。

    图 AI安全框架

    其中，，AI安全框架的主题是在框架级别领导模型构建全性命周期的安整个系规划，，以确保企业利用人为智能的安全性和靠得住性。它基于真实世界攻击案例(Real AI Attack Case study)，，人为智能红队攻防匹敌(Red Teaming)，，以及人为智能安全钻研(AI Threat Research) 攻击者技战术的综合钻研成就。它总结和设计的与之对应的防御系统框架和知识库，，不仅在框架级别领导模型构建全性命周期的安整个系规划，，也在落地层面提出了具体的防护措施的建议。

    AI安全框架界说了模型构建到运行的各个性命周期，，别离为数据治理，，扩大-微调，，模型验证，，扩大-RAG，，模型部署，，模型运行，，以及各个阶段攻击者的技战术。而知识库则细化到框架中每个技战术的解读，，攻击实例分析，，关联技战术，，以及具体的安全防护措施。

    AI安全解决规划，，是覆盖安全框架中模型性命周期的安全防护与检测规划，，涵盖数据安全、模型风险检测与评估、模型利用全场景防护。它针对大模型训练、微调、验证、部署和运行过程模型安全属性不清等问题，，通过对之前颁布的大模型卫士和奇安天盾进行安全能力升级，，再搭配本次颁布的AI安全检测工具，，形成覆盖全周期的安全检测与防护能力，，可能做到训练数据细粒度治理、恶意接见动态阻断、异常数据即时鉴别、敏感数据防泄漏，，保险模型训练数据安全靠得住。最终让部署AI的企业做到合规情况心中罕见，，业务风险防患于未然。

    而AI安全评估服务为企业在构建大模型时提前进行风险评估。它涵盖了提醒词注入、不安全的输出处置、训练数据中毒、回绝服务模型、供给链缝隙、敏感信息泄露、不安全的插件设计、过度代理、越狱、泄露回放、雪球攻击、指标劫持、幻觉问题、毒性天生、数据泄露、金丝雀词泄露及数据重构共17类大模型特有的风险评估检测项。

    图 AI安全评估服务17类检测细项

    客户使用该服务后，，可能在不安全的AI模型天生内容被用户看到之前对其进行风险检测，，以便安全钻研人员对模型的安全性进行批改优化，，从而实时收敛风险，，确保大模型天生的回复内容切合《天生式人为智能服务治理暂行法子》等各类司法律规。

    AI安全评估工具，，作为一款专门针对大说话模型的安全检测评估系统，，确保大模型在最后推向市场前进行一次安全“质检”。首先，，模型开发企业使用该系统后，，可在开发LLM有关的产品和服务时客观地进行风险鉴别，，构建越发安全、靠得住、不变的大模型利用；其次，，部门企业在选用开源大模型或者采办第三方大模型后，，通过使用AI安全评估工具，，可对模型安全进行有效评估，，预防真正进入出产环境后出现各类安全问题。

    图 AI安全评估系统对模型智能安全评分的界面

    AB钱包刚刚颁布的《2024年人为智能安全汇报》指出，，AI与大说话模型自身陪伴着安全风险，，业内对潜在影响的钻研与器重水平仍远远不及。

    AB钱包安全专家指出，，无论监管机构、安全行业，，还是政企机构，，都必要积极拥抱潜力巨大的AI技术与大模型，，同时审慎评估其影响的不确定性，，蕴含实时部署AI安全框架、解决规划，，以及有关的评估服务和测试工具等，，确保监管与治理实时跟进，， 筑牢AI安全基石。