近期，全球范围多家机构对AI大模型进行安全检测发现，当前市场上的主流AI大模型在内容安全、数据安全等方面存在明显薄弱环节，AI安全问题引发高度关注。

在此背景下，上市公司加大AI大模型检测、内容安全、数据安全业务布局。数据安全市场正加快形成千亿级产业规模。《关于促进数据安全产业发展的指导意见》提出，到2025年，我国数据安全产业基础能力和综合实力明显增强，数据安全产业规模超过1500亿元。

工业和信息化部信息通信科技委委员、网络安全研究所所长闫怀志指出，AI安全建设带来很多市场机会，比如隐私保护技术、风险评估与治理、安全教育与培训、安全咨询与服务方面。

随着大模型技术的不断发展，网络安全行业需要不断创新和完善，以满足日益增长的安全需求。

为应对大模型安全风险，我国先后出台《生成式人工智能服务管理暂行办法》《互联网信息服务深度合成管理规定》等政策文件，构建针对大模型的“双备案系统”，推动人工智能安全、健康、规范发展。

2024年3月，全国网络安全标准化委员会发布《生成式人工智能服务安全基本要求》，对上述《暂行办法》中的数据来源合法、内容安全等合规要求的执行规则进行了细化，为生成式人工智能服务提供者在实践中开展安全评估提供了有效路径。