Ray Serve 部署
使用 Ray Serve 将 ML 模型封装为服务,支持在线更新、流量拆分和自动扩缩,与 Ray 训练无缝对接。
21
0
0
2026-06-29
手机端 LLM 部署实例
实践在 Android 或 iOS 设备上运行量化后的大模型,如使用 MLCChat 或 llama.cpp 的移动端口。
12
0
0
2026-06-27
深度学习编译器 TVM
掌握 Apache TVM 的编译流程,将模型从高级框架编译为目标硬件的高效代码,通过自动调优实现极致性能。
20
0
0
2026-06-21
BentoML 模型打包
使用 BentoML 将任意框架模型打包为标准化 bento,并通过 BentoServer 和容器一键部署为高性能推理 API,简化工程化流程。
20
0
0
2026-06-14
llamafile 单文件分发
学习如何使用 llamafile 将 LLM 权重和运行时打包为单个多平台可执行文件,一键在 Windows、macOS 和 Linux 上运行大模型。
31
0
0
2026-06-14
ArgoCD GitOps
使用 ArgoCD 实现以 Git 仓库为单一事实来源的 Kubernetes 应用自动同步与部署。
23
0
0
2026-06-13
Kubernetes 集群部署
使用 kubeadm 工具部署生产级 Kubernetes 集群,包含控制平面、网络插件及高可用配置。
22
0
0
2026-06-13
Docker 容器化应用部署入门到实践
从零掌握 Docker 核心概念,编写高效 Dockerfile,使用 Docker Compose 编排多服务应用,并优化镜像体积与构建速度。
25
0
0
2026-06-12