【问题标题】:Can ClearML (formerly Trains) work a local server?ClearML(以前的 Trains)可以在本地服务器上工作吗?
【发布时间】:2020-12-30 15:54:39
【问题描述】:

我正在尝试从 ClearML(以前称为 Trains)开始。

我在documentation 上看到我需要在 ClearML 平台本身或使用 AWS 等的远程机器上运行服务器。

我真的很想绕过这个限制并在我的本地机器上运行实验,而不是连接到任何远程目的地。

根据this我可以在任何远程机器上安装trains-server,所以理论上我应该也可以在我的本地机器上安装它,但它仍然需要我有Kubernetes或Docker,但我是不使用其中任何一个。

任何人在本地服务器上使用 ClearML(或 Trains,我认为它仍然是完全相同的 API 和所有)有任何运气吗?

  • 我的操作系统是 Ubuntu 18.04。

【问题讨论】:

标签: trains clearml


【解决方案1】:

免责声明:我是 ClearML 团队(以前称为 Trains)的成员

我真的很想绕过这个限制并在我的本地机器上运行实验,而不是连接到任何远程目的地。

几个选项:

  1. Clearml 免费试用版为您的实验提供免费托管,这些实验仅供您访问,除非您特别想在同事之间共享它们。这可能是get started 的最简单方法。
  2. 安装 ClearML-Server 基本上你只需要安装 docker 就可以了。有完整的说明here,这是总结:
echo "vm.max_map_count=262144" > /tmp/99-trains.conf
sudo mv /tmp/99-trains.conf /etc/sysctl.d/99-trains.conf
sudo sysctl -w vm.max_map_count=262144
sudo service docker restart

sudo curl -L "https://github.com/docker/compose/releases/latest/download/docker-compose-$(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose

sudo mkdir -p /opt/trains/data/elastic_7
sudo mkdir -p /opt/trains/data/mongo/db
sudo mkdir -p /opt/trains/data/mongo/configdb
sudo mkdir -p /opt/trains/data/redis
sudo mkdir -p /opt/trains/logs
sudo mkdir -p /opt/trains/config
sudo mkdir -p /opt/trains/data/fileserver

sudo curl https://raw.githubusercontent.com/allegroai/trains-server/master/docker-compose.yml -o /opt/trains/docker-compose.yml
docker-compose -f /opt/trains/docker-compose.yml up -d
  1. ClearML 还支持完全离线模式(即不建立外部连接)。实验完成后,您可以手动将运行导入您的服务器(自托管或免费层服务器)
from clearml import Task
Task.set_offline(True)
task = Task.init(project_name='examples', task_name='offline mode experiment')

当流程结束时,您将获得一个 zip 文件的链接,其中包含整个离线会话的输出:

ClearML Task: Offline session stored in /home/user/.clearml/cache/offline/offline-2d061bb57d9e408a9420c4fe81e26ad0.zip

稍后您可以使用以下命令导入会话:

from clearml import Task
Task.import_offline_session('/home/user/.clearml/cache/offline/offline-2d061bb57d9e408a9420c4fe81e26ad0.zip')

【讨论】:

    猜你喜欢
    • 1970-01-01
    • 2018-03-22
    • 1970-01-01
    • 1970-01-01
    • 2019-09-30
    • 1970-01-01
    • 2019-02-04
    • 2010-11-17
    • 1970-01-01
    相关资源
    最近更新 更多