PR Category

Auto Parallel

PR Types

Bug fixes

Description

一些情况下会出现反向计算时， out_grad 为 dist tensor，x 和 y 为 dense tensor，导致切分推导时报错

修复方案如下：

1. GradNodeBase 中，从 TensorWrapper 恢复数据后，和前向做同样的工作：检查 InputsContainDistTensor，并 ConvertAllInputsToDistTensor。此时，x 和 y 就变成了 DistTensor，并产生了合法的 ProcessMesh 与 Placements 作为 DistAttr。
2. 当 IsRunAutoParallel 为 False 且 InputsContainDistTensor 时，自行创建 DistTensor 作为 x_grad 和 y_grad 的 impl，并将 x、y 的 DistAttr作为 x_grad、y_grad 的 DistAtt。
3. 后续需要在 xxx_grad 中检查是否所有输入都为 DistTensor。完善抽象层次，避免报错下沉导致的报错迷惑性。
   

此外，本pr还把ConvertAllInputsToDistTensor和InputsContainDistTensor两个工具从pybind/eager_utils.h转移到eager/utils.h。原因是，一方面，在paddle/fluid/eager/api下面include pybind/eager_utils.h后，windows下会在链接python.lib时报错，猜测可能和mvcc对链接顺序的处理有关。另一方面，这两个工具和pybind没有关系，将它们放到eager/utils.h作为通用工具也比较合理

Pcard-76459