基本情報技術者試験過去問 令和7年度（2025年）科目A問1
大規模言語モデルを用いた自然言語処理において，事前学習済みのモデルに対して行う，ファインチューニングに関する記述として，最も適切なものはどれか。
選択肢
- ア：強化学習を行い，最適な結果が得られるようにする。
- イ：事前学習と同じデータを繰り返し用いて学習を行い，モデルの精度を高めるようにする。
- ウ：大量のテキストデータを用いて学習を行い，モデルの精度を高めるようにする。
- エ：特定のデータを用いて追加で学習を行い，目的とするタスクに適用できるようにする。
- ア
- イ
- ウ
- エ
正解と解き方・学習ポイント（AI解説）
ファインチューニングとは、事前学習済みのモデルに対して、特定の目的や分野に関連するデータを使って追加で学習させ、目的とするタスクで使える状態に調整することです。したがって、特定データで追加学習してタスクに適用できるようにするという説明が最も適切です。
Point
この問題は、事前学習済みモデルに対して行うファインチューニングの意味を理解しているかを確認しています。事前学習（大量の汎用データで基礎能力を獲得）と、強化学習などの別手法を区別できることがポイントです。
解くために必要な知識
この問題を解くには、大規模言語モデルにおける学習プロセス（事前学習とファインチューニング）の違いを理解している必要があります。
用語の整理
| 用語 | 意味 |
|---|---|
| 大規模言語モデル（LLM） | 大量のテキストデータで学習された、自然言語の生成や理解を行うモデルです。 |
| 事前学習 | 大量の汎用的なデータを使って、モデルの基礎的な言語能力を獲得させる学習段階です。 |
| ファインチューニング | 事前学習済みモデルに対して、特定のタスク向けのデータを使って追加学習し、目的のタスクに適応させる手法です。 |
| 自然言語処理 | 人間が日常的に使う言語をコンピュータで処理する技術分野です。 |
事前学習とファインチューニングの違い
| 観点 | 事前学習 | ファインチューニング |
|---|---|---|
| 目的 | 汎用的な言語能力の獲得 | 特定タスクでの性能向上、用途への適合 |
| データ | 大量の汎用テキスト | 特定タスクに関連するデータ |
| 学習の位置付け | 最初に行う学習 | 事前学習済みモデルに対して行う追加学習 |
他の選択肢に出てくる用語
| 用語 | 意味 |
|---|---|
| 強化学習 | 行動の結果として得られる報酬が大きくなるように、方策を学習する手法です。大規模言語モデルでは、人の評価を報酬にするRLHFが使われる場合がありますが、試験上はファインチューニングと区別して扱われます。 |
問題の解法手順
各選択肢の整理
| 選択肢 | 何をしている説明か | ファインチューニングとして適切か | 理由 |
|---|---|---|---|
| ア | 強化学習 | 不適切 | 強化学習は報酬に基づく学習であり、一般にファインチューニング（特定データでの追加学習）とは別の枠組みです。 |
| イ | 事前学習データの反復学習 | 不適切 | ファインチューニングは目的タスク用のデータで追加学習するのが基本で、同じ事前学習データを繰り返す説明ではありません。 |
| ウ | 大量データでの学習 | 不適切 | 大量の汎用テキストでの学習は事前学習の説明です。 |
| エ | 特定データで追加学習しタスク適用 | 適切 | ファインチューニングの定義に合致します。 |
結論
目的のタスクに合わせた特定データで追加学習する説明は「エ」です。
選択肢ごとの解説
- ア：不正解
強化学習は報酬を最大化するように学習する手法です。ファインチューニングは、事前学習済みモデルに特定データを与えて追加学習し、目的タスクに合わせて調整することなので、説明として一致しません。
- イ：不正解
事前学習と同じデータを繰り返すことは、ファインチューニングの説明としては一致しません。ファインチューニングは、目的タスクや分野に合わせたデータで追加学習する点が中心です。
- ウ：不正解
大量のテキストデータで学習するのは、一般に事前学習の説明です。ファインチューニングは、事前学習後に特定目的のデータで調整する段階を指します。
- エ：正解
事前学習済みモデルに対し、目的タスクに関係する特定のデータで追加学習し、タスクに適用できるよう調整するのがファインチューニングです。適切です。
まとめ
ファインチューニングとは、事前学習済みのモデルに対して、特定の目的や分野に関連するデータを使って追加で学習させ、目的とするタスクで使える状態に調整することです。したがって、特定データで追加学習してタスクに適用できるようにするという説明が最も適切です。
強化学習は報酬を最大化するように学習する手法です。ファインチューニングは、事前学習済みモデルに特定データを与えて追加学習し、目的タスクに合わせて調整することなので、説明として一致しません。
事前学習と同じデータを繰り返すことは、ファインチューニングの説明としては一致しません。ファインチューニングは、目的タスクや分野に合わせたデータで追加学習する点が中心です。
大量のテキストデータで学習するのは、一般に事前学習の説明です。ファインチューニングは、事前学習後に特定目的のデータで調整する段階を指します。
事前学習済みモデルに対し、目的タスクに関係する特定のデータで追加学習し、タスクに適用できるよう調整するのがファインチューニングです。適切です。