OneFlow 一致性视角:逻辑集中物理分布的并行框架

FreeGuideOnline 最新 2026-06-29

python import oneflow as flow

定义设备放置:使用 2 个 GPU

placement = flow.placement("cuda", ranks=[0, 1])

创建逻辑张量,并指定 SBP

X = flow.randn(4, 8, placement=placement, sbp=flow.sbp.split(0)) # 在第0维切分 W = flow.randn(8, 4, placement=placement, sbp=flow.sbp.broadcast) # 广播全量

执行矩阵乘法,OneFlow 自动处理通信

Y = flow.matmul(X, W)

此时 Y 的 SBP 会被推断为 split(0),并且值在逻辑上等同于单机结果