如何使 cpuset 的 cpuset.cpu_exclusive 功能正常工作

Question

我正在尝试使用内核的cpuset 来隔离我的进程。为了获得这个，我按照内核文档cpusets 中的说明（2.1 Basic Usage），但是，它在我的环境中不起作用。

我在我的 centos7 服务器和我的 ubuntu16.04 工作电脑上都试过了，但都没有工作。

1. centos 内核版本：

[root@node ~]# uname -r
3.10.0-327.el7.x86_64

1. ubuntu 内核版本：

4.15.0-46-generic

我尝试过的如下。

root@Latitude:/sys/fs/cgroup/cpuset# pwd
/sys/fs/cgroup/cpuset
root@Latitude:/sys/fs/cgroup/cpuset# cat cpuset.cpus
0-3
root@Latitude:/sys/fs/cgroup/cpuset# cat cpuset.mems
0
root@Latitude:/sys/fs/cgroup/cpuset# cat cpuset.cpu_exclusive
1
root@Latitude:/sys/fs/cgroup/cpuset# cat cpuset.mem_exclusive
1
root@Latitude:/sys/fs/cgroup/cpuset# find . -name cpuset.cpu_excl
usive | xargs cat
0
0
0
0
0
1
root@Latitude:/sys/fs/cgroup/cpuset# mkdir my_cpuset
root@Latitude:/sys/fs/cgroup/cpuset# echo 1 > my_cpuset/cpuset.cpus
root@Latitude:/sys/fs/cgroup/cpuset# echo 0 > my_cpuset/cpuset.mems
root@Latitude:/sys/fs/cgroup/cpuset# echo 1 > my_cpuset/cpuset.cpu_exclusive
bash: echo: write error: Invalid argument
root@Latitude:/sys/fs/cgroup/cpuset#

它只是打印了错误bash: echo: write error: Invalid argument。 但是，谷歌一下，我无法得到正确的答案。

正如我上面粘贴的，在我操作之前，我确认cpuset根路径已经启用了cpu_exclusive功能，并且所有cpu都没有被其他子cpuset排除。

通过使用ps -o pid,psr,comm -p $PID，我可以确认如果我不在乎cpu_exclusive，CPU 可以分配给某个进程。但是我也证明了如果不设置cpu_exclusive，同样的cpu也可以分配给其他进程。

不知道是不是因为遗漏了一些预设。

我期望的是“使用cpuset获得cpus的独占使用权”。哪位大佬能提供点线索吗？

非常感谢。

Answer 1

我相信这是对 cpu_exclusive 标志的误解，就像我一样。这是文档https://www.kernel.org/doc/Documentation/cgroup-v1/cpusets.txt，引用：

If a cpuset is cpu or mem exclusive, no other cpuset, other than
a direct ancestor or descendant, may share any of the same CPUs or
Memory Nodes.

所以您拥有bash: echo: write error: Invalid argument 的一个可能原因是您启用了其他一些cgroup cpuset，它与您的echo 1 > my_cpuset/cpuset.cpu_exclusive 操作冲突

请运行find . -name cpuset.cpus | xargs cat 列出所有cgroup 的目标cpu。

假设你有12个cpus，如果你想设置my_cpuset的cpu_exclusive，你需要仔细修改所有其他cgroups来使用cpus，例如。 0-7，然后将my_cpuset的cpu设置为8-11。完成所有这些 cpu 配置后，您可以将 cpu_exclusive 设置为 1。

但是，其他进程仍然可以使用 cpu 8-11。只有属于其他cgroups的任务不会使用cpu 8-11

对我来说，我运行了一些 docker 容器，这使我无法设置我的 cpuset cpu_exclusive

对于内核文档，我认为 cgroup 本身无法独占使用 cpus。一种方法（我知道这种方法正在生产中运行）是我们隔离 cpu，并自己管理 cpu 亲和性/cpuset