事前学習とは？転移学習との違いや主なモデルの特徴について解説！

AIの仕組みを調べていると、「事前学習」という言葉をよく目にします。
ChatGPTやClaude、Geminiなどの生成AIも、実はこの「事前学習」を経て、膨大な知識や文脈理解力を獲得しています。しかし、「それが具体的に何をしているのか」「微調整やRAGとはどう違うのか」は、意外とあいまいなままになりがちです。

事前学習は、AIが“考える力”を身につけるための基礎段階です。大量のデータから一般的な知識や表現パターンを学び、その上にタスク特化の訓練（ファインチューニング）や知識参照（RAG）が重ねられます。この記事では、「AIの事前学習」の仕組み・目的・活用法を体系的に整理し、実務での使い分けや判断軸までやさしく解説します。

監修者プロフィール

森下浩志

日本最大級のAI情報プラットフォーム「romptn ai」編集長。著書に「0からはじめるStable Diffusion」「0からはじめるStable Diffusion モデル・拡張機能集編」など、AmazonベストセラーのAI関連書籍を多数執筆。AIにおける情報の非対称性を解消するための社内研修や出張講義も行う。

まず押さえておきたい３つのポイント

AIの「事前学習」を理解するうえで重要なのは、細かな数式よりも全体の構造を俯瞰してつかむことです。最初に３つの軸を整理しておきましょう。

1. 事前学習は「基礎体力づくり」

AIモデルが大量の文章や画像を読み込み、一般的な文脈理解やパターン認識の力を身につける段階です。人にたとえるなら、幅広い読書や会話を通じて“世界の常識”を学ぶようなもの。
この段階で、AIの土台となる知識（基盤モデル＝Foundation Model）が形成されます。

2. 微調整・RAGとは目的がちがう

• 微調整（Fine-tuning）は、事前学習済みモデルを特定タスクやドメインに合わせて最適化する工程。
• RAG（Retrieval-Augmented Generation）は、外部データを参照して最新知識を動的に補う仕組み。どちらも事前学習の“あと”に行われるプロセスであり、役割は明確に異なります。

3. 実務では「どう組み合わせるか」が鍵

実際の現場では、自社でゼロから事前学習を行うことはほとんどありません。多くの企業は、既存の事前学習済みモデル（GPT、Claude、Geminiなど）をベースに、微調整やRAGを組み合わせて運用しています。つまり、「事前学習を理解する＝最適なAI構成を判断できる力」を持つことに直結します。

事前学習とは何か：仕組みと目的

AIモデルにおける「事前学習（pre-training）」とは、大量データを使って一般的な知識や文脈を学ぶ工程です。ChatGPTやClaudeといった大規模言語モデル（LLM）では、数兆単語のテキストを読み込みながら「次に来る単語を予測する」訓練を繰り返します。この工程によって、AIは自然言語の構造・論理・意味関係を理解できるようになります。

自己教師あり学習の仕組み

事前学習の多くは自己教師あり学習（Self-supervised Learning）で行われます。
人間がラベルをつけなくても、AI自身が“問題と答え”を生成しながら学び続けます。

代表的な手法は以下の２つです。

• 次トークン予測（Next Token Prediction）：文の続きを予測する（GPTなどに採用）
• マスク言語モデル（Masked Language Modeling）：一部の単語を隠して推測する（BERT・RoBERTaなどに採用）

この過程で得られるのは単なる暗記ではなく、単語や文脈の意味関係を数値化した埋め込み表現（Embedding）です。これが「AIが言葉を理解しているように見える」基礎的メカニズムです。

目的：汎用的な“知の土台”をつくる

事前学習の目的は、翻訳・要約・分類・検索など多様な下流タスクに共通して使える表現力を得ることです。この段階で得られた「一般知識」や「文脈理解力」が、後の微調整で再利用されます。これにより、AIは新しい分野の学習コストを大幅に下げられます（転移学習＝Transfer Learningの基礎）。

事前学習・微調整・RAGの関係を整理する

AIが高度な応用をこなすには、事前学習 → 微調整 → RAGの３段階が重要です。
この流れを理解しておくと、AI導入時の判断がスムーズになります。

３段階の流れ（イメージ）

1. 事前学習：一般知識・言語理解を獲得（基礎）
2. 微調整：タスク特化・業務最適化（応用）
3. RAG：外部データ検索で最新情報補完（運用）

人にたとえると、

• 事前学習＝学校での基礎教育
• 微調整＝職業訓練で専門スキル習得
• RAG＝資料やネットで調べながら実務対応

各段階の特徴（比較表）

よくある誤解

• 「RAGがあれば微調整不要？」 → 理解力の強化はできない
• 「事前学習は自社でも可能？」 → 膨大な計算資源と専門知識が必要
• 「微調整だけで十分？」 → 基礎が弱ければ成果は伸びない

実務で使い分けるための判断軸

AIを業務に導入する際、重要なのは「どこまでを借りて、どこからを自分で最適化するか」です。
以下のチェックリストで、自社環境に合った手法を見極めましょう。

技術的な断面から見た事前学習の仕組み

AIを理解するには、「どのように学んでいるか」を少しだけ覗いてみるとイメージが掴みやすいです。

トークナイザ：言葉を数値に変える翻訳器

文をトークン（単語・記号など）に分割し、IDに変換します。
例：「りんごを食べる」→ [りんご, を, 食べる] → [1032, 8, 4102]
AIはこの数列をTransformer構造で処理します。

損失関数：間違いを“減らす”ための採点基準

モデルが予測した結果と正解との差を数値化（交差エントロピー損失）。
これを最小化するよう重みを更新し、自然な文章生成力を獲得します。

データ構造：学びの素材が質を決める

事前学習にはWeb・論文・コードなど多様な情報が含まれます。
最近では「追加事前学習（Continued Pre-training）」や「マルチモーダル学習」も進化し、
テキスト以外の画像・音声・動画データを統合的に扱えるようになっています。

よくある質問（FAQ）

Q1. 事前学習と微調整の違いは？
→ 事前学習は基礎、微調整は応用。前者は汎用知識、後者は特化スキル。

Q2. RAGがあれば微調整は不要？
→ RAGは“参照”、微調整は“理解”。目的が違うため両方必要。

Q3. LoRA・SFT・RLHFとは？
→ すべて微調整手法。SFT＝教師学習、RLHF＝人間評価、LoRA＝軽量更新。

Q4. 事前学習済みモデルをそのまま使える？
→ 一般用途ではOK。ただし機密データ利用時はセキュリティを確認。

Q5. 自社で事前学習を行うべき？
→ ほとんどの企業には不要。特殊データがある場合のみ限定的に実施。

まとめ：理解を深め、AIを正しく活かすために

最後に、この記事の要点とメッセージを整理します。

• 事前学習＝AIの基礎体力づくり
• 微調整＝目的に合わせた応用訓練
• RAG＝最新情報を取り込む補助構造
• 実務では「既存モデル＋微調整＋RAG」が現実解
• 自前事前学習は例外的。判断軸は「データ量・独自性・コスト・精度」

AIを深く理解することは、単なる技術知識ではなく、どの段階で何を選ぶかを見極める判断力を持つことです。そしてこの理解が、AIを「ただ使う」段階から、「戦略的に活かす」段階へと導きます。

どんな新しいモデルが登場しても、事前学習 → 微調整 → RAGという三層構造を軸に考えれば、
AIの進化を冷静に理解し、自分の業務に最適化する道筋が見えるはずです。