免费编程教程

负载均衡算法轮询最小连接一致性哈希

负载均衡算法轮询简单均匀最小连接根据当前负载分发一致性哈希保证相同请求打到同一后端适合缓存。本文对比各算法的适用场景和缺陷。

47 0 0
2026-07-09
Envoy 代理负载均衡配置

Envoy 是高性能 L7 代理和服务网格的数据面。通过 YAML 配置监听器集群和路由规则实现负载均衡熔断和限流。本文实现一个简单的反向代理配置。

16 0 0
2026-07-01
负载均衡 LLM

使用网关或反向代理将大模型推理请求均衡地分发到多个推理实例,配合健康检查和会话保持。

17 0 0
2026-06-29
异构计算训练

处理训练集群中不同算力设备的异构性,动态分配工作量,使快慢节点都能高效参与分布式训练。

20 0 0
2026-06-28
专家容量

通过设定专家容量,对每个专家能处理的最大 Token 数进行硬限制,避免显存溢出并强制路由平衡。

28 0 0
2026-06-22
负载均衡损失

学习设计辅助损失函数,鼓励路由将 Token 均匀分配给不同专家,防止模型仅依赖少数专家。

18 0 0
2026-06-22
负载均衡 Nginx/HAProxy

配置 Nginx 或 HAProxy 实现七层/四层负载均衡,学习轮询、IP Hash 等算法。

21 0 0
2026-06-16
Nginx 反向代理配置

配置 Nginx 作为反向代理,实现请求转发、负载均衡、缓存静态资源和 SSL 终端。

23 0 0
2026-06-13
Nginx 高性能 Web 服务器与反向代理

配置 Nginx 作为静态服务器、反向代理和负载均衡器,学习 Gzip 压缩、HTTPS 配置和浏览器缓存策略。

19 0 0
2026-06-12