随机访问gpgpu性能下降？

Question

我听说在gpu上对随机访问的数组执行计算时性能会下降。

我的问题是这种性能下降有多严重？

搜索一些评论似乎意味着代码在cpu上运行得更快。但是看到gpus和cpus之间int和翻牌的巨大差异，似乎很难相信性能会下降得那么糟糕。

Answer 1

我认为它与缓存丢失有关。 GPU也有L1 L2缓存，如果你点击随机存储空间，那么你将有更多的机会丢失缓存。而且因为GPU有特殊的内存访问模式，称为内存合并。它正在广泛访问内存。这就是为什么GPU在运行SIMD友好代码时如此之快。但是如果你访问随机内存空间，它将破坏内存合并。我认为阅读cuda文档看看GPU是如何工作的会很好。