ファインチューニング

ファインチューニングとは、事前トレーニング済モデルを取得し、ドメイン固有のデータセットでさらにトレーニングして、その知識を向上させ、そのドメインでより適切なレスポンスを提供するプロセスです。

AIクイック・アクションでモデルを微調整する場合、それを行うためのデータ・サイエンス・ジョブを作成します。データ・サイエンス・ジョブを使用して、AIクイック・アクションの基盤モデルを微調整するための微調整ジョブを作成するには、必要なポリシーが必要です。ファインチューニング・ジョブを作成するときに、ベース・モデルをトレーニングするデータセットを選択できます。モデル・エクスプローラでReady to Fine Tuneというタグを持つ基本モデルは、ファインチューニングできます。オブジェクト・ストレージからデータセットを選択するか、作業中のノートブックのストレージからデータセットをアップロードできます。ノートブックからデータセットをアップロードすると、ファインチューニング・モデルが保存されるオブジェクト・ストレージ・バケットに保存されます。したがって、ノートブック・セッションがObject Storageにファイルを書き込むようにするポリシーが必要です。データセットはJSONL形式である必要があり、必要な'prompt'および'completion'列が含まれている必要があります。オプションで、'category'列を含めることができます。同じ名前のデータセット・ファイルがバケットにすでに存在する場合、新しいファイルに置き換えられます。ファインチューニングするには、データセットに少なくとも100個のレコードが含まれている必要があります。

データセットの割合をモデル検証用に設定するオプションがあります。モデル・バージョン・セットは、相互に関連するモデルのセットをグループ化する方法です。既存のモデル・バージョン・セットを選択して、ファインチューニング・モデルを配置したり、新しいモデルを作成できます。バージョニングを有効にする必要があるオブジェクト・ストレージ・バケットにファインチューニング・モデルを保存できます。

モデル情報、データセット、モデル・バージョン・セットを入力し、ファインチューニング・モデルを保存する場所を入力したら、微調整ジョブ用のコンピュート・インフラストラクチャおよびネットワークを選択できます。オプションで、ロギングを設定して、ファインチューニング・ジョブを監視できます。ジョブのエラーをトラブルシューティングするためのロギングをお薦めします。ロギングを設定するには、必要なポリシーが必要です。複数のGPUカードを使用した単一ノードのトレーニングおよびトレーニングがサポートされています。モデル、エポックおよび学習レートを微調整するためのパラメータを指定できます。

ジョブの作成前に、ファインチューニング・ジョブに設定した構成およびパラメータを確認できます。