【问题标题】:ArangoDB goes silent after slurm sbatch submissionslurm sbatch 提交后,ArangoDB 保持沉默
【发布时间】:2018-06-19 15:39:29
【问题描述】:

我正在尝试在 Cray 超级计算机上以集群模式运行 ArangoDB。 它在登录节点上运行。 我按照以下说明进行操作: https://docs.arangodb.com/3.3/Manual/Deployment/Local.html

为了正确使用 Cray 集群,我需要将其作为批处理作业(Slurm / sbatch)提交。 我在运行它时遇到了问题,因为“arangod”没有声音,也就是说它的命令行输出没有出现在 slurm-log-file 中。

我尝试使用此链接更改日志设置: https://docs.arangodb.com/3.3/Manual/Administration/Configuration/Logging.html 如果我将日志记录到“信息”,那么我什么也得不到。如果我像这样使用“跟踪”:

build/bin/arangod --server.endpoint tcp://0.0.0.0:5003 --agency.my-address tcp://148.187.32.9:5001 --server.authentication false --agency.activate true --agency.size 3 --agency.supervision true --database.directory db_dir/agency_2 --log.level startup=trace --log.level agency=trace --log.level queries=trace --log.level replication=trace --log.level threads=trace

我得到了一些东西,但它没有打印出我感兴趣的任何行,即它是否创建了数据库目录,它是否以 gossip 模式结束等等。如果我只是从终端运行它,我不会在控制台中得到预期的输出。

正如我所说:在登录节点上一切正常。我怀疑问题可能出在 Slurm 和 arangod 的交互中。

你能帮帮我吗?

* 编辑 *

我做了一个小实验。首先我运行了这个(期待一条错误消息):

#!/bin/bash -l
#SBATCH --job-name=slurm_test
#SBATCH --time=00:30:00
#SBATCH --nodes=1
#SBATCH --ntasks-per-core=1
#SBATCH --ntasks-per-node=1
#SBATCH --cpus-per-task=1
#SBATCH --partition=debug
#SBATCH --constraint=mc

export OMP_NUM_THREADS=$SLURM_CPUS_PER_TASK

srun build/bin/arangod --server.endpoint tcp://0.0.0.0:5001

得到了这个(来自 arangodb 的第一行,我们所期望的): slurm-....出来:

no database path has been supplied, giving up, please use the '--database.directory' option
srun: error: nid00008: task 0: Exited with exit code 1
srun: Terminating job step 8106415.0

Batch Job Summary Report for Job "slurm_test" (8106415) on daint
-----------------------------------------------------------------------------------------------------
             Submit            Eligible               Start                 End    Elapsed  Timelimit 
------------------- ------------------- ------------------- ------------------- ---------- ---------- 
2018-06-20T22:41:54 2018-06-20T22:41:54             Unknown             Unknown   00:00:00   00:30:00 
-----------------------------------------------------------------------------------------------------
Username    Account     Partition   NNodes   Energy
----------  ----------  ----------  ------  --------------
peterem     g34         debug            1          joules

This job did not utilize any GPUs

----------------------------------------------------------
Scratch File System        Files       Quota
--------------------  ----------  ----------
/scratch/snx3000           85020     1000000

然后我运行了这个:

#!/bin/bash -l
#SBATCH --job-name=slurm_test
#SBATCH --time=00:30:00
#SBATCH --nodes=1
#SBATCH --ntasks-per-core=1
#SBATCH --ntasks-per-node=1
#SBATCH --cpus-per-task=1
#SBATCH --partition=debug
#SBATCH --constraint=mc

export OMP_NUM_THREADS=$SLURM_CPUS_PER_TASK

srun build/bin/arangod --server.endpoint tcp://0.0.0.0:5001 --agency.my-address tcp://127.0.0.1:5001 --server.authentication false --agency.activate true --agency.size 1 --agency.supervision true --database.directory agency1

这创建了“agency1”目录,但没有完成(运行超过 3 分钟)。所以几分钟后我“取消”了这份工作。这是唯一的输出(slurm-....out:):

srun: got SIGCONT
slurmstepd: error: *** STEP 8106340.0 ON nid00008 CANCELLED AT 2018-06-20T22:38:03 ***
slurmstepd: error: *** JOB 8106340 ON nid00008 CANCELLED AT 2018-06-20T22:38:03 ***
srun: forcing job termination
srun: Job step aborted: Waiting up to 32 seconds for job step to finish.

Batch Job Summary Report for Job "slurm_test" (8106340) on daint
-----------------------------------------------------------------------------------------------------
             Submit            Eligible               Start                 End    Elapsed  Timelimit 
------------------- ------------------- ------------------- ------------------- ---------- ---------- 
2018-06-20T22:32:15 2018-06-20T22:32:15             Unknown             Unknown   00:00:00   00:30:00 
-----------------------------------------------------------------------------------------------------
Username    Account     Partition   NNodes   Energy
----------  ----------  ----------  ------  --------------
peterem     g34         debug            1          joules

This job did not utilize any GPUs

----------------------------------------------------------
Scratch File System        Files       Quota
--------------------  ----------  ----------
/scratch/snx3000           85020     1000000

所以:我知道它在两种情况下都在运行(提供输出或 crates 文件夹)。但我不知道为什么它在第二种情况下没有输出。

我希望这能澄清我的问题。

谢谢,伊曼纽尔

【问题讨论】:

    标签: arangodb slurm


    【解决方案1】:

    请您打印整个slurm 作业命令/作业文件吗? arangod 登录到 stdout。当stdout 被重定向到一个输出文件时,集群批处理系统默认会这样做,你应该监控那个文件。据我所知,slurm 每个默认写入 slurm-$jobid.out

    【讨论】:

    • 感谢询问详情。你知道会发生什么吗?
    • 你找到我上面提到的slurm-$jobid.out了吗。输出通过管道传输到这些文件。这不是 arangodb 行为。这就是 slurm 做事的方式。
    • 是的,我所说的输出就是你提到的这些文件。 slurm-....out 它们首先包含标准输出,然后是“批处理作业摘要”。
    猜你喜欢
    • 1970-01-01
    • 1970-01-01
    • 2011-04-20
    • 1970-01-01
    • 2016-05-18
    • 2017-10-01
    • 1970-01-01
    • 1970-01-01
    • 1970-01-01
    相关资源
    最近更新 更多