导航

网络安全

AI应用中的安全提醒

日期:2025-04-21文章来源: 浏览次数:

近期要防范假借AI热度的各类木马病毒程序,它们往往冒充成DeepSeek本地部署工具的程序(如“ds大模型安装助手”),实际捆绑的是远控木马病毒程序,用户受骗下载安装后,可能导致敏感数据泄露、系统破坏,甚至内部网络遭到入侵。

目前AI本地化部署已经在各大高校陆续落地,在发展AI应用的同时要做好安全防范,建议做到以下几点。

一、访问限制。使用防火墙严格限制大模型核心节点的访问,仅运行前端应用代理访问,禁止用户直接访问,避免计算资源被滥用。二、权限隔离。AI应用实施最小权限原则,分离开发、运维与用户访问,建立用户认证体系。

三、供应链审计。严格审查第三方依赖库及预训练模型来源,实时关注各组件的漏洞风险。

四、数据加密。对训练数据、模型权重进行端到端加密存储,并对原始训练数据进行脱敏处理。