AIBrix 用于 GenAI 推理的可插拔基础设施组件

授权协议:None操作系统:None 开发语言:None
AIBrix 是一项开源计划,旨在提供构建可扩展 GenAI 推理基础设施的基本构建块。AIBrix 提供针对部署、管理和扩展大型语言模型 (LLM) 推理而优化的云原生解决方案,专门针对企业需...