自动缩放
根据需求自动扩展容器，快速响应用户请求，新请求到达时，可即刻处理。
优化GPU资源 提升效率
并降低成本
快速启动 自动扩展
推理服务提供了一种现代化的推理运行方式，采用专有自动扩展技术，可随用户需求灵活扩展。依托全国数据中心网络，将延迟降至最低，为用户提供卓越性能。
推理服务焕新重构
轻松部署模型
在易于使用的界面上实现了基于Kubernetes的无服务器推理，支持TensorFlow、XGBoost、scikit-learn、PyTorch和ONNX等常见机器学习框架，轻松解决生产模型服务问题。
无需复杂配置底层框架
更优性能、更低延迟，更高成本效益
探索我们解决方案的独特优势
传统的技术堆栈
托管云服务
大多数云服务键供商构建了商向渡用用例和托管环境的架构，而不是面向计算密集型用例。
成拟机VM)托管Kubernetes(K8s)需要通过虚拟化层运行
难以扩展
启动实例可能需要5-10分钟或更长时间
无虚拟化层干扰，Kubernetes直接在裸金属（硬件）上高效
运行
利用Kubevirt在Kubernetes容器内托管虚拟机（VM）
易于扩展
在几秒钟内启动新实例
我们的技术堆栈
在云端进行多模式或无服务器的Kubernetes部署
通过Kubernetes部署容器化的工作负载，以增加可移植性，降任复杂性和总体成本。
|
|