免费编程教程

全部标签 Python React 安全 自动化 MySQL Go 分布式 隐私 Docker CSS Vue3 开源
分布式训练调试

学习排查分布式训练中常见的问题，如集合通信挂起、同步不一致和显存溢出，使用工具和策略快速解决。

人工智能 分布式调试 多GPU 通信
13 0 0
2026-06-28
Ring-AllReduce

学习 Ring-AllReduce 算法如何使每个节点的通信量恒定，实现带宽利用最优的分布式训练同步。

人工智能 Ring-AllReduce 分布式训练 通信
14 0 0
2026-06-28
AllReduce 通信

详解 AllReduce 算法（Ring、Tree、Recursive Halving），在梯度同步中的应用及 NCCL 优化。

人工智能 AllReduce 通信 分布式
12 0 0
2026-06-28
梯度稀疏化

在每次迭代中仅传输绝对值最大的少部分梯度，其余累积为残差，实现高压缩率通信。

人工智能 梯度稀疏化 通信 分布式
17 0 0
2026-06-28
数据传输压缩梯度

在分布式训练中压缩要传输的梯度，通过量化、Top-k 稀疏化和低秩分解减少通信量。

人工智能 梯度压缩 通信 分布式
12 0 0
2026-06-28
微服务架构设计

了解微服务优缺点，掌握基于业务能力的拆分方法和服务间同步/异步通信。

架构 微服务 拆分 通信
27 0 0
2026-06-16
通信优化 NCCL

理解 NVIDIA NCCL 库如何实现拓扑感知的集合通信，学习 AllReduce、AllGather 等原语及其在分布式训练中的调优，加速梯度同步。

人工智能 NCCL 通信 分布式
24 0 0
2026-06-14
gRPC 微服务通信

使用 gRPC 和 Protobuf 定义服务，实现高性能的跨语言服务间通信。

后端开发 gRPC 微服务 通信
19 0 0
2026-06-13
gRPC 微服务高效通信

掌握 gRPC 服务定义、一元与流式调用、拦截器链以及客户端负载均衡，实现跨语言高性能微服务间通信。

后端开发 gRPC 微服务 通信
23 0 0
2026-06-12