PR Category

Operator Mechanism

PR Types

Improvements

Description

实现int64_t版本的FastDivMod，修复大tensor Reduce的部分问题

核心修改：phi/kernels/funcs/fast_divmod.h 模仿int版本实现了FastDivMod<int64_t>类
注：实际上IndexType计算时使用的是uint32_t和uint64_t，但是为了和PHI原有的用法兼容，这里还是用int和int64_t作为模板参数

其他使用了FastDivMod的文件修改：

说明：

• 大部分文件还是维持原来的用法，继续使用FastDivMod<int>，因为FastDivMod<int64_t>对性能有一定影响，需要评估才知道是否有必要升级，在此之前先维持现状
• index_calculator.h升级为FastDivMod<IndexType>，这是本PR主要修复的问题
• stack_and_unstack.h本来已经用了GeneralDivMod<IndexT>，所以在本PR里直接替换成FastDivMod<IndexT>，GeneralDivMod是之前不支持int64_t所以用来fallback成普通除法的包装类，现在原生支持int64_t后就用不着了

修复case示例：

paddle.sum(Tensor([2, 2, (1 << 30), 2], 'float16'), axis=(1, 3))      # 原来对，现在对
paddle.sum(Tensor([2, 2, (1 << 30) + 1, 2], 'float16'), axis=(1, 3))  # 原来错，现在对

性能影响：
确实对性能有影响，以paddle.sum(Tensor([256, 1024, 192, 192], 'float16'), axis=(0, 2, 3))为例，int版本用时28ms，int64_t版本用时46ms，直接增加60%（当然主要原因是IndexCalculator实现有问题，这个需要另外的PR来修），因此Kernel在调用FastDivMod时需要谨慎评估是否需要使用int64_t的版本