✌️テンプレートの管理方法?

テンプレートは、イメージをコンテナとして起動し、必要なコンテナディスクサイズ、ボリューム、ボリュームパス、ポートを定義するために使用されます。テンプレート内で環境変数や起動コマンドを定義することも可能です。

組み込みテンプレート

これらのテンプレートはFPT AI Factoryによって作成・管理されています。現在6つの組み込みテンプレートを提供しています：

1. Jupyter Notebook

• 使用目的：このテンプレートは、ローカルハードウェアの制限なくAI/データサイエンティストがリモート開発を採用できるようにJupyter Notebookを提供します。

• 環境変数

コンテナのカスタマイズに役立つ追加の環境変数を用意しています。

変数	タイプ	デフォルト	説明
USERNAME	文字列	admin	Jupyter Notebookにアクセスするためのユーザー名
パスワード	string		Jupyter Notebookにアクセスするためのパスワード システムで生成

• ポート

タイプ	ポート
HTTP	8000
TCP	22

1. Ollama WebUI

• 使用目的: このテンプレートは、OllamaやOpenAI互換APIを含む様々な大規模言語モデル（LLM）プログラムの実行をサポートし、ユーザーがワークフローに基づいて簡単にカスタマイズできるようにします。

• ポート:

タイプ	ポート
HTTP	8080
TCP	22

1. Ollama

• 使用目的: このテンプレートは、最先端のエンジンと GPU リソースを使用した高スループット推論を可能にします。

• 環境変数

コンテナのカスタマイズに役立つ環境変数をいくつか用意しています。

変数	タイプ	デフォルト	説明
API_TOKEN	string		外部サービスとの自動認証 システムで生成

• ポート:

タイプ	ポート
HTTP	8000

1. vLLM

• 使用目的: この vLLM コンテナイメージは AI Factory によって構築および保守されています。このテンプレートは、最先端のエンジンによる GPU リソースを使用した高スループットのモデル推論を可能にします。

• 環境変数

コンテナのカスタマイズに役立つ追加の環境変数をいくつか提供します。

変数	タイプ	デフォルト	説明
HUGGING_FACE_HUB_TOKEN	文字列		Hugging Face ユーザーアクセストークン

• ポート:

タイプ	ポート
HTTP	8000

1. Code Server

• 使用目的: このテンプレートは、GPU搭載のクラウドベースのVS Codeを提供し、完全なIDE機能を備えたリモート環境でAIモデルのトレーニング、テスト、デバッグを可能にします。

• 環境変数

コンテナのカスタマイズに役立つ追加の環境変数を用意しています。

変数	タイプ	デフォルト	説明
PUID	int	0	ユーザーID
PGID	int	0	グループID
TZ	文字列	Etc/UTC	あなたのタイムゾーン
PROXY_DOMAIN	string	code-server.my.domain	サブドメインプロキシ用にドメインがプロキシされます
DEFAULT_WORKSPACE	文字列	/	code-server アクセス時に開くデフォルトフォルダ
PASSWORD	文字列		システムで生成

• ポート:

タイプ	ポート
HTTP	8443
TCP	22

1. Ubuntu

タイプ	ポート
TCP	22

• 使用目的: これは最小限のUbuntu CLI仮想マシンであり、ユーザーエクスペリエンスを向上させるためのいくつかの便利な追加機能を備えています。rootアカウントは通常通り利用可能ですが、利便性のために通常のシステムユーザーを作成しました。

• 開発ツール事前インストール: SSHアクセス。

カスタムテンプレート

「カスタムテンプレート」をクリックし、ご自身のイメージ:タグを上書きすることで、独自のDockerイメージを使用できます。プライベートDockerリポジトリからイメージを取得する場合は、認証用のユーザー名とパスワードを必ず入力してください。