事前学習とは？じぜんがくしゅう

背景

AIを業務に使おうとすると、正解を人手で付けた学習用データが大量に要る。この用意には費用も時間もかかり、業務ごとに一から作り直していては実用化が進まなかった。そこで、正解付けが不要な文章や画像を大量に読ませて汎用の土台を先に作り、個別の業務にはその土台を少量のデータで手直しして使う分業が生まれた。この分担によって、データを多く持たない企業でもAIを利用できるようになった。

具体例

OpenAIのGPTシリーズやGoogleのGeminiは、Web上の膨大な文章で事前学習した基盤モデルであり、利用企業はそこへ自社の問い合わせ履歴を追加して社内向けの応答に調整する。日本語に特化した例としては、NTTが開発した大規模言語モデル「tsuzumi」がある。

試験での引っ掛け

ファインチューニングとの順序と役割を取り違えないこと。事前学習が先で汎用の土台を作る段階、ファインチューニングが後で用途に合わせる段階である。転移学習は、事前学習で得た知識を別の課題へ持ち込む考え方の全体を指し、事前学習はその前半にあたる。

関連用語

• 大規模言語モデル（LLM）
• 転移学習
• ディープラーニング

出た過去問

• 出典：令和7年度 秋期 ITパスポート試験 問28（IPA）解説で登場

  生成AIに関する記述として、最も適切なものはどれか。

  正解：自然言語で指示された内容に従って、事前に学習したデータを基に、新しいコンテンツを生成する。

  要点：生成AIは事前学習を基に指示から新規コンテンツを作る

  生成AIは、大量のデータを事前に学習したモデルを土台に、自然言語などで与えられた指示に応じて文章・画像・音声といった新しいコンテンツを作り出す仕組みである。学習が前提である点と、既存データの検索ではなく新規生成である点が要点になる。数値を当てる予測モデルや、手順どおり動く自動化ツールとは性質が異なる。

  この問題の解説ページを見る →