# FAQ

よくある質問

## **1. ファインチューニングにはどのモデルを選ぶべきですか？**

小型モデル（パラメータ数10億以下）→ テストや軽いワークロード向け

中型モデル（70億～130億）→ パフォーマンスとコストのバランスが取れている

大型モデル（300億以上）→ 複雑なタスク向け、通常はマルチノード環境が必要

タスクがプロンプト応答ベースの場合、指示文調整済みモデルが推奨されます

## 2. ファインチューニングにはどのくらい時間がかかりますか？

以下の要素に依存します：

モデルサイズ（小規模モデル：数時間、超大規模モデル：数日）

データセットサイズ

ハードウェア構成（ハイパーパラメータとインフラ）

通常、数時間から数日程度です。

## 3. モデルをファインチューニングする前に何を準備すべきですか？

以下のものが必要です：

ファインチューニング対象モデルの想定データセット構造を厳密に遵守すること。データサンプルの詳細はこちら：<https://fptcloud.com/en/documents/model-fine-tuning/?doc=select-dataset-format​>

クリーンで多様性があり、重複のないデータ。

ファインチューニングの明確な目的（例：テクニカルサポート、カスタマーサービス、コンテンツ作成など）。

## 4. モデルのファインチューニングに必要なGPU数は？

モデルサイズによります：

<1Bパラメータ：1 GPU（24 GB VRAM）で十分

7Bモデル：2-4 GPU（各40 GB VRAM）

13Bモデル：4～8 GPU推奨

30B+モデル：8 GPU以上とマルチノード構成が必要

## 5. 複数のノードが必要ですか、それとも1ノードだけで十分ですか？

中小規模モデル（13B以下）の場合、複数GPUを搭載した単一ノードで十分です。

大規模モデル（30B以上）の場合、メモリとパフォーマンス向上のためマルチノード構成が推奨されます。

## 6. 最小限のGPUメモリ要件は？

標準的な微調整にはGPUあたり最低24GBのVRAMが必要です

LoRA/QLoRA手法を使用しない場合、8-16GB VRAMのGPUで微調整可能です

## 7. トレーニングデータセットのサイズはハードウェア要件に影響しますか？

はい。大規模なデータセットほど、より多くのVRAM、RAM、ストレージが必要です。

データセット < 20GB --> マネージドボリュームを使用可能

データセット > 20GB --> 専用ネットワークボリュームが必要


---

# Agent Instructions: Querying This Documentation

If you need additional information that is not directly available in this page, you can query the documentation dynamically by asking a question.

Perform an HTTP GET request on the current page URL with the `ask` query parameter:

```
GET https://ai-docs.fptcloud.com/ai-factory-guideline-jp/fpt-ai-studio/faq.md?ask=<question>
```

The question should be specific, self-contained, and written in natural language.
The response will contain a direct answer to the question and relevant excerpts and sources from the documentation.

Use this mechanism when the answer is not explicitly present in the current page, you need clarification or additional context, or you want to retrieve related documentation sections.