【电报解读】提升网络数据人工智能安全治理水平！这些公司在AI网络安全领域展开布...

股票王

提升网络数据人工智能安全治理水平！这些公司在AI网络安全领域展开布局（附表）

一、生成式AI快速发展带来更多潜在安全威胁

神经网络训练时使用的算法经常涉及到隐私数据，许多情况下，来自公共监控、人脸识别和指纹生物识别、以及财务和医疗应用的大量训练数据集都是隐私的，包含个人可识别信息。攻击者，无论是有组织的犯罪集团还是商业竞争对手，很可能出于经济原因或其他利益原因来利用这些信息。此外，AI系统还面临着被注入恶意发送的伪造数据、以破坏神经网络功能的风险（例如，因面部识别图像的分类错误而导致攻击者逃脱检测）。生成式AI的潜在安全风险应引起重视，安全保护需从概念生成阶段即融入到产品之中，并贯穿产品的整个生命周期。

二、多国就AI安全出台相关政策

美国商务部4月11日就人工智能问责措施正式公开征求意见，包括有潜在风险的新人工智能模型在发布前是否应该通过认证程序。英国政府于3月发布了第一份人工智能白皮书，概述了人工智能治理的5项原则。此外，3月底，意大利政府宣布禁止使用一款人工智能聊天机器人，并限制相关公司处理意大利用户信息数据，同时对其隐私安全问题立案调查。 4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见。该意见稿聚焦生成式人工智能，在算法设计、训练数据选择、模型生成和优化、提供服务、生成内容、个人信息和隐私保护方面均做出了限制。

三、AI监管政策落地有望打开行业成长新空间

新财富上榜分析师、兴业证券蒋佳霖研报认为，AI大模型技术的发展，需要海量大数据支撑，其中潜在的数据泄露风险逐渐引起多国立法者关注，将有新的制度来管理生成式AI技术本身、以及管理AI大模型在行业侧的落地应用。根据IDC数据，2021年中国网络安全市场总投资规模为122亿美元，预计2026年将达到319亿美元，2021-2026年规模增速CAGR为21.2%。随着AI监管政策落地，数据安全、隐私保护等安全需求将进一步上升，网络安全防护范围、防护主体将进一步扩大，有望打开行业成长新空间。

四、相关上市公司：美亚柏科、绿盟科技

美亚柏科：在AI监管产品方面，公司已经发布了AI-3300“慧眼”视频图像鉴真工作站，可以对深度合成伪造的视频图像、AIGC生成视频图像进行监测鉴定。

绿盟科技：MLOps是绿盟科技SecXOps平台中一个关键功能。SecXOps平台将XOps实践应用到网络安全领域，除了网络安全场景下专用的MLOps外，还包括DataOps、ModelOps、AIOps等核心功能。SecXOps平台的五大核心技术能力为安全数据资产高质可信、安全模型全生命周期管理、安全模型高精度定制、安全模型自动化运营、AI工程化持续保障，以加快提升安全分析的自动化和智能化水平。