一尘不染

如何监控SIMD指令的使用量

linux

如何监视进程的SIMD(SSE,AVX,AVX2,AVX-512)指令使用量?例如,htop可用于监视常规CPU使用率,但不能监视SIMD指令使用率。


阅读 479

收藏
2020-06-07

共1个答案

一尘不染

我认为,对 所有 SIMD指令(不仅仅是FP数学)进行计数的唯一可靠方法是动态检测(例如,通过诸如Intel PIN / SDE之类的方法)。

请参阅如何通过获取指令类型明细来表征工作负载?以及如何确定在C程序中执行的x86机器指令的数量?专门为该运行 sde64 -mix -- ./my_program
打印程序的指令混合
,例如使用AVX编译的libsvm中的示例输出vs没有AVX

我不认为有什么办法可以像top/ 那样htop使它安全地附加到已经在运行的进程中,尤其是一次多线程。

也可以使用上一个分支记录的东西来获取动态指令计数,以记录/重构执行路径并计算所有内容,但是我不知道用于此目的的工具。从理论上讲,它可以附加到已经在运行的程序上而没有太大的危险,但是要为所有正在运行的进程动态地执行它,将需要大量的计算(分解和计数指令)。不仅仅只是询问内核有关上下文切换的CPU使用情况统计信息。

您需要硬件指令计数支持,这样才能真正有效top


特别是对于SIMD 浮点数学运算 (不是FP随机播放,只是像FP这样的真实FP数学vaddps),存在性能计数器事件。

例如从perf list输出:

fp_arith_inst_retired.128b_packed_single
[已淘汰的SSE / AVX计算128位压缩单精度浮点指令的数量。 每个计数代表4个计算 。适用于SSE 和AVX
打包的单精度浮点指令:ADD SUB MUL DIV MIN MAX RCP RSQRT SQRT DPP FM(N)ADD /
SUB。DPP和FM(N)ADD / SUB指令计数两次,因为它们对每个元素执行多次计算]

因此,它甚至不算微指令,而是指FLOPS。...pd压缩双精度型还有其他事件,每个都有256位版本。(我假设在具有AVX512的CPU上,这些事件也有512位向量版本。)

您可以perf用来统计它们在整个进程中以及在所有内核上的执行情况。或用于单个过程

## count math instructions only, not SIMD integer, load/store, or anything else
perf stat -e cycles:u,instructions:u,fp_arith_inst_retired.{128,256}b_packed_{double,single}:u  ./my_program
# fixme: that brace-expansion doesn't expand properly; it separates with spaces not commas.

(故意省略,fp_arith_inst_retired.scalar_{double,single}因为您只询问了有关XMM寄存器上的SIMD和标量指令,IMO不算在内。)

您可以perf使用-p PID而不是命令来附加到正在运行的进程。 或者按照SeeUbuntu中的建议 使用perftop-如何确定CPU应用程序当前是否正在使用AVX或SSE?

您可以运行perf stat -a全局监视所有内核,而不管正在执行什么进程。再次强调,这仅涉及FP数学,一般而言不包括SIMD。

尽管如此,它还是受硬件支持的,因此htop,如果您使其长期运行,它对于某些东西来说可能足够便宜而不会浪费很多CPU时间。

2020-06-07