一、怎么查看系统上下文切换情况
通过前面学习我么你知道,过多的上下文切换,会把cpu时间消耗在寄存器、内核栈以及虚拟内存等数据的保存和回复上,缩短进程
真正运行的时间,成了系统性能大幅下降的一个元凶
既然上下文切换对系统性能影响那么大,你肯定迫不及待想知道,道题怎么查看上下文切换
1、系统总的上下文切换情况
[root@nfs ~]# vmstat 1 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu----- r b swpd free buff cache si so bi bo in cs us sy id wa st 1 0 45668 1600548 0 341196 27 109 131 112 239 280 4 17 79 0 0 0 0 45668 1600556 0 341196 0 0 0 0 33 44 0 0 100 0 0 1 0 45668 1600556 0 341196 0 0 0 0 31 39 0 0 100 0 0 0 0 45668 1600556 0 341196 0 0 0 0 50 48 1 1 99 0 0 0 0 45668 1600556 0 341196 0 0 0 0 31 42 0 0 100 0 0 0 0 45668 1600556 0 341196 0 0 0 0 32 41 0 1 100 0 0 0 0 45668 1600556 0 341196 0 0 0 0 32 38 0 0 100 0 0 0 0 45668 1600556 0 341196 0 0 0 0 29 37 0 0 100 0 0 0 0 45668 1600556 0 341196 0 0 0 0 29 38 0 0 100 0 0
2、每个进程的上下文切换情况
可以看到这个例子中的上下文切换cs是280次,而系统中断次数in则是239次,而就绪队列长度r和不可中断状态是1进程数b都是0
只给出了系统总的上下文切换情况,要想查看每个进程的上下文切换的情况了?
$ pidstat -w -u 1 08:06:33 uid pid %usr %system %guest %wait %cpu cpu command 08:06:34 0 10488 30.00 100.00 0.00 0.00 100.00 0 sysbench 08:06:34 0 26326 0.00 1.00 0.00 0.00 1.00 0 kworker/u4:2 uid pid cswch/s nvcswch/s command 0 8 11.00 0.00 rcu_sched 0 16 1.00 0.00 ksoftirqd/1 0 471 1.00 0.00 hv_balloon 0 1230 1.00 0.00 iscsid 0 4089 1.00 0.00 kworker/1:5 0 4333 1.00 0.00 kworker/0:3 0 10499 1.00 224.00 pidstat 0 26326 236.00 0.00 kworker/u4:2 1000 26784 223.00 0.00 ssh
3、什么是自愿上下文切换
所谓自愿上下文切换,是指进程无法获取所需自愿,导致的上下文奇幻。比如比如说, i/o、内存等系统资源不足时,就会发生自愿上下文切...是
4、什么是非自愿上下文切换
而非自愿上下文奇幻,则是指进程由于时间片已到等原因,被系统强制调度,进而发生的上下文奇幻,比如大量进程都在争抢 cpu 时,就容易发生非自愿上下文切换
二、案例分析
1、分析环境
机器配置:2 cpu,4gb 内存
预先安装 sysbench
cnetos 7.2
curl -s https://packagecloud.io/install/repositories/akopytov/sysbench/script.rpm.sh | sudo bash yum -y install sysbench
三、分析操作
终端一
# 以 10 个线程运行 5 分钟的基准测试,模拟多线程切换的问题
$ sysbench --threads=10 --max-time=300 threads run
终端二
# 每隔 1 秒输出 1 组数据(需要 ctrl c 才结束)
[root@nfs ~]# vmstat 1 procs -----------memory---------- ---swap-- -----io---- -system-- ------cpu----- r b swpd free buff cache si so bi bo in cs us sy id wa st 6 0 45412 1585156 0 351460 10 38 46 39 118 10 2 8 90 0 0 8 0 45412 1585156 0 351468 0 0 0 0 2023 2208584 17 83 0 0 0 7 0 45412 1585156 0 351468 0 0 0 0 2008 2183632 18 82 1 0 0 8 0 45412 1585156 0 351468 0 0 0 0 2013 2278429 17 83 0 0 0 8 0 45412 1585156 0 351468 0 0 0 0 2008 2251628 18 82 0 0 0 6 0 45412 1585156 0 351468 0 0 0 0 2014 2236468 19 81 0 0 0 7 0 45412 1585156 0 351468 0 0 0 0 2004 2255035 17 83 0 0 0 6 0 45412 1585156 0 351468 0 0 0 0 2020 2212782 18 82 1 0 0 7 0 45412 1585156 0 351468 0 0 0 0 2013 2194160 19 81 0 0 0
你应该可以发现,cs列的上下文切换次数从之前的10骤然上升了220万,同时,注意观察其他几个指标
r 列:就绪队列的长度已经到了 8,远远超过了系统 cpu的个数2,所以肯定会有大量的cpu竞争
us(user)和 sy(system)列:这两列的 cpu使用率加起来上升到了 100%,其中系统cpu使用率,也就是sy列高达90%说明cpu主要被内核占用了
in 列:中断次数也上升到了 1 万左右,说明中断处理也是个潜在的问题
综合这几个指标,我们可以知道,系统的就绪队列过长,也就是正在运行和等待的cpu进程数过多,导致大量的上下文切换,而上下文切换还又导致了系统cpu的占用率升高
终端三
那么到底是是哪个进程导致了这些问题了
[root@nfs ~]# pidstat -w -u 1 linux 3.10.0-957.12.1.el7.x86_64 (nfs) 05/03/2019 _x86_64_ (2 cpu) 12:58:57 pm uid pid %usr %system %guest %wait %cpu cpu command 12:58:59 pm 0 9183 31.07 162.14 0.00 0.00 193.20 0 sysbench 12:58:59 pm 0 9196 0.00 0.97 0.00 0.00 0.97 0 kworker/0:0 12:58:57 pm uid pid cswch/s nvcswch/s command 12:58:59 pm 0 3 1.94 0.00 ksoftirqd/0 12:58:59 pm 0 9 7.77 0.00 rcu_sched 12:58:59 pm 0 103 1.94 0.00 kworker/1:2 12:58:59 pm 0 5823 10.68 0.00 vmtoolsd 12:58:59 pm 0 6969 0.97 0.00 sshd 12:58:59 pm 0 9066 0.97 0.00 kworker/u256:1 12:58:59 pm 0 9195 0.97 0.00 vmstat 12:58:59 pm 0 9196 1.94 0.00 kworker/0:0 12:58:59 pm 0 9198 0.97 0.00 pidstat ^c
从 pidstat 的输出你可以发现,cpu 使用率的升高果然是 sysbench 导致的,它的 cpu 使用率已经达到了 100%但是上下文切换则是来自其他进程,包括非自愿上下文切换频率最高的pidstat
以及自愿上下文切换频率最高的内核线程kworker 和 sshd
不过,细心的你肯定也发现了一个怪异的事儿:pidstat 出的上下文切换次数,加起来也就几百,比 vmstat 的 220万明显小了太多。这是怎么回事呢?难道是工具本身出了错吗?
通过运行 man pidstat ,你会发现,pidstat默认显示进程的指标数据,加上 -t 参数后,才会输出线程的指标
我们还是在第三个终端里, ctrl c 停止刚才的 pidstat 命令,然后运行下面的命令,观察中断的变化情况.
[root@nfs ~]# pidstat -wt 1 linux 3.10.0-957.12.1.el7.x86_64 (nfs) 05/03/2019 _x86_64_ (2 cpu) 01:00:35 pm uid tgid tid cswch/s nvcswch/s command 01:00:36 pm 0 3 - 0.93 0.00 ksoftirqd/0 01:00:36 pm 0 - 3 0.93 0.00 |__ksoftirqd/0 01:00:36 pm 0 9 - 17.76 0.00 rcu_sched 01:00:36 pm 0 - 9 17.76 0.00 |__rcu_sched 01:00:36 pm 0 14 - 3.74 0.00 ksoftirqd/1 01:00:36 pm 0 - 14 3.74 0.00 |__ksoftirqd/1 01:00:36 pm 0 103 - 1.87 0.00 kworker/1:2 01:00:36 pm 0 - 103 1.87 0.00 |__kworker/1:2 01:00:36 pm 0 5823 - 10.28 0.00 vmtoolsd 01:00:36 pm 0 - 5823 10.28 0.00 |__vmtoolsd 01:00:36 pm 0 - 6755 0.93 0.00 |__tuned 01:00:36 pm 0 - 6666 0.93 0.00 |__in:imjournal 01:00:36 pm 0 6969 - 0.93 0.00 sshd 01:00:36 pm 0 - 6969 0.93 0.00 |__sshd 01:00:36 pm 0 9066 - 0.93 0.00 kworker/u256:1 01:00:36 pm 0 - 9066 0.93 0.00 |__kworker/u256:1 01:00:36 pm 0 - 9184 37752.34 157714.02 |__sysbench 01:00:36 pm 0 - 9185 43673.83 153500.00 |__sysbench 01:00:36 pm 0 - 9186 32598.13 150383.18 |__sysbench 01:00:36 pm 0 - 9187 31631.78 179364.49 |__sysbench 01:00:36 pm 0 - 9188 43047.66 129503.74 |__sysbench 01:00:36 pm 0 - 9189 25115.89 170748.60 |__sysbench 01:00:36 pm 0 - 9190 40545.79 179413.08 |__sysbench 01:00:36 pm 0 - 9191 48101.87 157711.21 |__sysbench 01:00:36 pm 0 - 9192 31725.23 164217.76 |__sysbench 01:00:36 pm 0 - 9193 37538.32 159869.16 |__sysbench 01:00:36 pm 0 9195 - 0.93 0.00 vmstat 01:00:36 pm 0 - 9195 0.93 0.00 |__vmstat 01:00:36 pm 0 9196 - 1.87 0.00 kworker/0:0 01:00:36 pm 0 - 9196 1.87 0.00 |__kworker/0:0 01:00:36 pm 0 9200 - 0.93 0.93 pidstat 01:00:36 pm 0 - 9200 0.93 0.93 |__pidstat
现在你就能看到了,虽然 sysbench 进程(也就是主线程)的上下文切换次数看起来并不多,但它的子线程的上下文切换粗疏却又很多,
看来,上下文切换醉魁祸首,还是过多的线程
[root@nfs ~]# tail -15 /proc/interrupts iwi: 6600 5405 irq work interrupts rtr: 0 0 apic icr read retries res: 22360 25295 rescheduling interrupts cal: 1158 647 function call interrupts tlb: 23862 8639 tlb shootdowns trm: 0 0 thermal event interrupts thr: 0 0 threshold apic interrupts dfr: 0 0 deferred error apic interrupts mce: 0 0 machine check exceptions mcp: 35 35 machine check polls err: 0 mis: 0 pin: 0 0 posted-interrupt notification event npi: 0 0 nested posted-interrupt event piw: 0 0 posted-interrupt wakeup event
观察一段时间,你可以发现,变化速度最快的是重调度中断,这中断类似表示,唤醒空闲状态的cpu来调度新的任务运行,这是多处理器中,调度器用来分散任务到不同cpu的机制,通常也被称为处理间中断
cswch过多说明资源io问题,nvcswch过多说明调度争抢cpu过多,中断次数变多说明cpu被中断程序调用
四、小结
1、每秒上下文奇幻多少次才算正常呢?
这个数值其实取决于系统本身的cpu性能,在我看来,如果系统上下文切换次数比较稳定,那么从数百一万以内,都有应该算是正常的,
但当上下文奇幻次数超过一万次,或者切换次数出现数量级的增长时,就很可能已经出现性能问题
2、根据上下文切换类型再具体分析
自愿上下文切换变多了,说明进程都在等待自愿,有可能发生了i/o等其他问题;
非自愿上下文切换变多了,说明进程都在被强制调动,也就是在争抢cpu,说明cpu的确成了瓶颈
中断次数变多了了,说明cpu被中断处理程序占用,还需要通过查看/proc/interrupts 文件来分析具体的中断类型。
3、假设我现在有一台linux服务器负载变高了,如何找到原因?如何排查分析
step1: 首先通过uptime看下最近一段时间的负载怎么样,能够得出是徒然变高还是变高已经有一段时间了,比较5min和15min系统负载的数据
step2: 分析系统负载高的原因有哪些?根据前面学习的,可能是计算密集型任务导致,io密集型任务导致,还有可能是大量线程等待调度导致,还有可能是几种情况的组合同时存在。这里要怎么分析可以通过mpstat工具来区分,主要关注的几个指标是%idle %iowait %wait
step3: 如果通过上一步确认是大量线程等待调度导致,那么可以通过vmstat来查看系统整体的上下文切换情况,主要关注cs/in/r/b 四个指标
step4: 我们已经知道了系统负载高的原因,进一步通过pidstat 查看具体是那一个线程导致的详细原因
4、拍错思路总结
登录到服务器,现在系统负载怎么样 。 高的话有三种情况,首先是cpu使用率 ,其次是io使用率 ,之后就是两者都高 。
cpu 使用率高,可能确实是使用率高, 也的可能实际处理不高而是进程太多切换上下文频繁 , 也可能是进程内线程的上下文切换频繁
io 使用率高 , 说明 io 请求比较大, 可能是 文件io 、 网络io 。
工具 :
系统负载 : uptime ( watch -d uptime)看三个阶段平均负载
系统整体情况 : mpstat (mpstat -p all 3) 查看 每个cpu当前的整体状况,可以重点看用户态、内核态、以及io等待三个参数
系统整体的平均上下文切换情况 : vmstat (vmstat 3) 可以重点看 r (进行或等待进行的进程)、b (不可中断进程/io进程) 、in (中断次数) 、cs(上下文切换次数)
查看详细的上下文切换情况 : pidstat (pidstat -w(进程切换指标)/-u(cpu使用指标)/-wt(线程上下文切换指标)) 注意看是自愿上下文切换、还是被动上下文切换
io使用情况 : iostat