PR Category

Operator Mechanism

PR Types

Bug fixes

Description

修复paddle.interpolate的大Tensor问题

这个API涉及变种较多，包括以下Host和CUDA函数：

修改口径：这次我换了一种修改方式，以前是把int转成int64_t，但是我最近写一些Kernel的时候发现这样并不是最好的，因为CUDA里面很多原生变量其实是无符号数，包括threadIdx、blockDim等，另外指针运算也是无符号运算，转成int64_t反而会增加符号转换的成本，因此我这次统一修改为size_t。当然，我谨慎评估了变量的取值范围，确实一些数可能有出现负数的情况（比如访问前一个pixel），这种情况我就还是用int64_t。

性能变化：几乎无变化，性能损失<1%，甚至还有变快的情况，因为原来的Kernel里本来就是int和size_t混用的，我统一成size_t不仅不会增加太多计算量，还节省了符号位转换的成本，所以可能更快。

正确性验证：在80G卡上验证了interpolate的400多个config，但是居然有些爆显存的情况，除此之外都通过。