如何看出一个网站优化的是否好,企业名录搜索软件靓号怎么搜,文创产品设计大赛作品,网站制作的评价指标中今天小李哥将开启全新的技术分享系列#xff0c;为大家介绍生成式AI的安全解决方案设计方法和最佳实践。近年来#xff0c;生成式 AI 安全市场正迅速发展。据 IDC 预测#xff0c;到 2025 年全球 AI 安全解决方案市场规模将突破 200 亿美元#xff0c;年复合增长率超过 30%…今天小李哥将开启全新的技术分享系列为大家介绍生成式AI的安全解决方案设计方法和最佳实践。近年来生成式 AI 安全市场正迅速发展。据 IDC 预测到 2025 年全球 AI 安全解决方案市场规模将突破 200 亿美元年复合增长率超过 30%而 Gartner 则预估到 2025 年约 30% 的网络攻击将利用生成式 AI 技术。与此同时Capgemini 的调查显示近 74% 的企业认为 AI 驱动的安全防护至关重要加上 Cybersecurity Ventures 报告指出与生成式 AI 相关的安全事件年增长率超过 20%这充分表明企业和安全供应商正面临日益严峻的安全挑战并加大投入以构建更全面的防护体系。今天要介绍的就是如何设计生成式AI应用安全解决方案抵御OWASP Top 10攻击。未来也会分享更多的AI安全解决方案欢迎大家关注。 目前我们生活中有各色各样的生成式 AI应用常见的场景之一就是生成式AI对话助手。然而在部署之前通常还要对应用进行评估其中包括了解安全态势、监控和日志记录、成本跟踪、弹性等问题。在这些评估中安全性通常是最高优先级。如果存在无法明确识别的安全风险我们就无法有效解决这些风向这可能会阻碍生成式AI应用向生产环境部署的进度。
在本文章中小李哥将向大家展示一个自己设计的生成式应用的真实场景并演示如何利用 OWASP安全框架基于大语言模型应用常见的Top 10安全攻击来评估应用的安全态势以及实施缓解措施。 生成式 AI 范围框架
在我们开始介绍方案前我们首先要了解生成式AI应用的两种模式托管和私有化部署。当我们使用亚马逊云科技的生成式AI安全框架我们要理解适用于我们应用的部署模式以及对应安全控制和如何利用亚马逊责任共担模型提升应用安全性。例如下图中我们就针对不同的部署模式对应了5个scope范围Scope 1的“Consumer Apps”类应用中比如亚马逊的PartyRock或OpenAI的ChatGPT通常是面向公众的应用大部分内部安全由服务提供商掌控大家在安全方面的责任主要在客户端。与此相对的是Scope 4/5层应用在这类应用中大家不仅要自行构建和保障生成式AI应用还需要负责对底层大语言模型进行微调和训练。Scope 4/5应用的安全控制范围会更多、更广从前端、后端到LLM模型的安全都有涉及。本文将重点讨论Scope 3生成式AI应用的安全解决方案这是实际应用中较为常见的案例。
下图展示了亚马逊云科技生成式AI安全范围矩阵的5个scope并总结了各个范围下模型/部署的类型。 针对大语言模型的OWASP Top 10攻击框架
接下来我们将利用OWASP Top 10攻击框架来理解目前生成式AI应用的威胁和缓解措施OWASP是评估应用安全性最常见的方法之一。针对大语言模型的OWASP Top 10攻击框架专门应用于生成式AI应用帮助大家发现、理解并防护生成式 AI 所面临的新型威胁。 生成式AI应用安全解决方案设计
接下来我们从一个完整的生成式AI的应用架构图出发展示如何对一个典型的生成式AI应用在OWASP大语言模型威胁框架下进行风险评估。流程图如下图所示。 在这一架构中用户的API请求通常会经过以下云环境内的系统组件
身份验证层
这一层主要是验证连接到AI应用的用户的身份。我们通常通过身份提供商IdP功能实现比如 Okta、亚马逊云科技IAM Identity Center或Amazon Cognito。
应用层
这一层包含大部分应用业务逻辑负责决定如何处理传入应用的用户请求包括生成AI模型的提示词并处理AI模型返回的响应之后再将结果返回给终端的用户。
AI模型与代理
AI基础模型是提供生成式AI应用的核心能力而AI代理则负责协调完成请求所需的各个任务步骤这些步骤可能同时涉及AI模型调用和从外部数据源获取数据以及外部API集成。
代理插件控制层
该组件负责与外部数据源和API集成同时存储着AI代理引用的外部系统组件的逻辑名称和物理名称之间的匹配关系。
RAG知识库数据存储
知识库检索增强生成RAG的数据存储通过数据连接器从对象存储S3、数据仓库、数据库RDS以及其他SaaS应用中提取最新、精准且有权限管理限制下的信息。
我们将大语言模型的OWASP Top 10风险框架应用到到我们云端应用堆栈的各层可以识别出从用户界面到后端系统的漏洞。下面我们将讨论位于应用堆栈每个层面的风险并提供一个基于亚马逊云科技的生成式AI应用安全设计方法以消除这些风险。
下图展示了在亚马逊云科技上实现生成式AI应用的安全最佳实践架构图。下面我会将下图中应用于各层的解决方案依次进行介绍。 身份验证层Amazon Cognito
我们生活中一直活跃着常见的网络攻击如暴力破解攻击、会话劫持和拒绝服务DoS/DDoS攻击等。为了解决这些风险和攻击我们需要在系统方案中实施安全最佳实践比如多因素认证MFA、网页请求速率限制、会话安全管理、会话超时timeout配置以及定期访问令牌轮换。此外我们还可以部署亚马逊云科技WAF和分布式拒绝服务DDoS解决方案AWS Shield等边缘安全措施帮助我们防护常见的网络攻击并在攻击期间保持服务可用性。 在上述架构图中我们将亚马逊云科技WAF与Amazon API Gateway进行了集成用于过滤和屏蔽恶意的访问请求从而保护应用免受SQL注入、跨站脚本XSS和DoS/DDoS等攻击。亚马逊云科技WAF Bot Control的功能可以进一步提升应用的安全性通过对机器人等自动化脚本流量的可视性和控制功能让大家可以屏蔽或对恶意的机器人进行限速和阻挡。该功能可通过亚马逊云科技 Firewall Manager在多个账号间集中管理从而为应用提供一致而强大的保护。
Amazon Cognito服务更可以增强这些防御措施该服务主要功能是实现用户身份验证支持不同种多样的用户池和身份池使大家能够在不同设备间无缝切换而使用相同的用户身份授权并与第三方身份提供商集成。Amazon Cognito也提供其他多样化的安全功能包括MFA、OAuth 2.0、OpenID Connect、安全会话管理以及基于用户行为风险的动态调整的身份验证防止用户未经授权的访问该动态调整机制可以通过对登录请求中可疑活动的评估并通过额外的安全措施如 MFA 或屏蔽登录进行响应。此外Amazon Cognito还强制防止密码重用从而进一步降低密码泄露的风险。 亚马逊云科技Shield Advanced则是为了应对复杂的DDoS攻击提供了额外的保护。它与亚马逊云科技WAF集成通过定制化攻击检测和基于系统健康状况的评估为我们的AI应用提供全面的边界保护增强了我们对DDoS攻击的响应能力。Shield Advanced还提供了全天候的客服支持由亚马逊云科技Shield客服响应团队提供24*7的支持服务内容包括了DDoS成本保护确保应用在保持安全的同时安全成本可控。Shield Advanced与亚马逊云科技WAF结合搭配为生成式AI应用构建了一个既能抵御各种安全共计与威胁又能保持服务高可用性的安全框架。 以上的安全方案有效解决了两大OWASP常见的安全攻击问题分别是LLM10:2025不受限制的使用DoS/DDoS攻击和LLM02:2025敏感信息泄露的问题避免web攻击盗取数据确保应用既具备弹性又安全。
