OneAdvanced 在英国主权 AWS 上部署 50 多个 AI 代理,满足数据驻留要求
问题
OneAdvanced 服务于医疗、法律等受监管行业,客户要求严格的数据驻留、安全和隐私标准。所需模型(Llama 4 Maverick 和 Llama Guard 4)当时尚无法通过英国区域的托管服务获得,因此必须自托管以保持对模型基础设施的完全控制,确保数据不离开英国。
解决方案
OneAdvanced 在伦敦区域(eu-west-2)使用 vLLM 在 Amazon SageMaker AI 的 p5.48xlarge 实例上自托管 Llama 4 Maverick (FP8) 和 Llama Guard 4,通过 Strands Agents SDK 构建 50 多个专用代理并部署在 Amazon ECS,配置存于 DynamoDB;RAG 管道基于 Amazon Aurora PostgreSQL 和 pgvector,文档上传至 S3 后转换为 markdown、分块(2048 token)并嵌入 intfloat/multilingual-e5-large-instruct 模型;Llama Guard 4 在主模型前串行过滤有害输入;另有无代码代理构建器供非技术用户使用。
结果
OneAdvanced 从原型到生产,三周内构建并部署了 50 多个代理,自 2025 年 7 月投入生产运行超过一年,达到目标性能指标,客户满意度 5/5,并作为英国首个面向企业的私有主权 AI 公开发布。
成本
成本信息待确认。
案例分析
使用场景:在 AWS 上构建 UK 主权 AI 解决方案,通过自托管 Llama 4 Maverick 和 Llama Guard 4,利用 Strands Agents SDK 部署 50 多个专用 AI 代理,实现数据不出英国的 AI 能力交付。
实施证据:OneAdvanced deployed Llama 4 Maverick on P5 instances in the London region, giving them full control over model serving infrastructure with no data leaving the UK. They built and shipped over 50 Strands agents in only three weeks. The solution has been running in production since July 2025, serving customers for over a year.
指标:50+ AI agents deployed;3 weeks from first agent to 50+ agents;5/5 customer satisfaction score;1+ year in production (since July 2025);120K-128K token context length supported
经验:先使用 Amazon Bedrock 进行两周原型验证,再投入自托管基础设施,有助于降低决策风险。;选择 Strands Agents SDK 的关键在于其模型优先、无 rigid workflow、支持 turn-taking 和 interview 式交互。;从 p4d 实例升级到 p5 实例以满足更长的上下文窗口(120K-128K token)需求。;引入 Llama Guard 4 替代 Llama Guard 3,解决了旧版误拒率过高的问题。;采用 interview 式代理设计,通过引导式提问逐步构建上下文,比开放式提示效果更好。
