Ray 分布式 Python 框架
Ray 是通用分布式框架远程函数和 actor 模型。RLlib 强化学习库Serve 模型服务。本文用 Ray 并行处理数据。
21
0
0
2026-07-13
Julia 并行计算
Julia 并行计算是开发中常用的技术工具或方法。本文从实际应用出发介绍核心概念和操作步骤帮助读者快速上手并掌握关键技巧。
15
0
0
2026-07-13
Dask 分布式 DataFrame
Dask Distributed 调度器在多节点上并行执行任务。Client 连接集群。分布式 DataFrame 处理 TB 级数据。本文部署 Dask 集群进行大规模数据聚合。
16
0
0
2026-07-12
分布式事务的最终一致性方案
分布式系统中强一致性影响性能和可用性。TCC 和 Saga 是常用的最终一致性方案通过补偿操作保证数据最终一致。消息队列实现异步确保。本文对比各方案的适用场景。
16
0
0
2026-07-08
OneFlow 一致性视角
了解 OneFlow 如何通过 SBP 一致性签名提供逻辑上单卡的编程体验，自动实现高效的分布式训练。
15
0
0
2026-06-29
Mesh-TensorFlow
学习用 Mesh-TensorFlow 将计算映射到多维处理器网格，统一表达数据、模型和流水线并行。
17
0
0
2026-06-28
梯度压缩 1-bit SGD
实践 1-bit SGD 压缩，仅传输梯度的符号并通过误差反馈补偿精度损失，大幅减少通信量。
13
0
0
2026-06-28
AllReduce 通信
详解 AllReduce 算法（Ring、Tree、Recursive Halving），在梯度同步中的应用及 NCCL 优化。
12
0
0
2026-06-28
多 GPU 微调技巧
学习利用 DeepSpeed ZeRO 和 PyTorch FSDP 将微调扩展到多卡，处理显存与通信瓶颈，训练更大模型。
22
0
0
2026-06-22