AIの能力と限界 — 正しいメンタルモデルを持つ

このコースの内容

生成AIを分類AI・予測AIと区別したうえで、その4つの核となる性質を「能力から限界までの連続体」として捉え直すコース。事前学習とファインチューニングという2段階の訓練が残す挙動の痕跡（迎合、冗長さ、過剰な慎重さ、信頼度の甘い較正）を押さえ、次トークン予測という生成機構のどこに捏造が集中するかを特定する。知識カットオフと学習データの偏りが何を知らせないか、ウェブ検索・検索拡張・ツール使用がその処方箋になる条件。コンテキストウィンドウを固い上限として扱い、front-loading・チャンク化・重要情報の再提示という配置戦略を当てる。指示追従が固い場面と緩む場面、reasoning drift と字面優先の失敗。最後に実際の失敗事例を「どの性質同士が衝突しているか」で診断する。全14レッスン3.5時間。

学習目標

• 生成AIを分類・予測型AIと区別し、4つの中核特性を能力と限界の連続体として捉えるDistinguish generative AI from classification and prediction AI, and frame its four core properties as capability-to-limitation continuums
• 事前学習とファインチューニングの二段階が生む、おもねり、冗長さ、過剰な慎重さ、確信度のずれを見抜けるExplain the two-stage training process (pretraining and fine-tuning) and recognize the behavioral fingerprints it leaves: sycophancy, verbosity, over-caution, and loose confidence calibration
• 生成の中核であるNext Token Predictionを説明し、事実の捏造が起きやすい箇所を特定できるExplain Next Token Prediction as the core generative mechanism and identify where fabrication concentrates
• 知識カットオフと学習データの偏りがモデルの知識を左右することを理解し、Web検索や検索拡張、ツール利用で補える場面を判断できるDescribe how the knowledge cutoff and uneven training coverage shape what a model knows, and recognize when web search, retrieval, or tool use is the fix
• コンテキストウィンドウを明確な上限として捉え、前方配置、分割、重要情報の再提示といった配置戦略を使えるExplain the context window as a hard-edged limit and apply context-placement strategies like front-loading, chunking, and re-supplying critical information
• 指示追従が効きやすい場面と崩れやすい場面を予測し、推論のずれや文言だけの解釈といった操縦性の失敗を見抜けるPredict where instruction-following is tight versus loose, and recognize reasoning drift and letter-over-spirit as steerability failures
• 現実のAIの失敗事例を、どの特性が衝突しているかで診断し、的を絞った対策を選べるDiagnose real-world AI failures by naming which properties are colliding and choose a targeted fix
• 4つの特性を4Dフレームワークに結びつけ、タスクを連続体上に位置づけて適切な信頼度で扱えるConnect the four properties to the 4D Framework and practice calibrated trust by locating tasks on each continuum

日本語は AICU による要約です。Anthropic 公式の翻訳ではありません。

カリキュラム — 全14レッスン

1. 1
   AIの能力と限界 入門Intro to AI Capabilities and Limitations

   本レッスンでは、生成AIがどんな仕組みで働き、どのような長所と限界を持つかの「マシン側」のメンタルモデルを学びます。Next Token Prediction、Knowledge、Working Memory、Steerability の4つの性質が具体的に何を意味するかを理解し、それらが実際の利用でどう影響するかを把握します。学んだ視点を使って、自分の業務でAIが安全かつ効果的に使えるかを判断できるようになります。

   • AI能力と限界コースの案内
   • 機械のメンタルモデル
   • 重要ポイント
   • 演習問題
   • 学びの振り返り
   • 次に進むこと
2. 2
   ここで言うAIとはWhat We Mean by AI

   このレッスンでは、日常で触れるAIと「生成AI」の違いを明確に理解できるようになります。生成AIが「新しいコンテンツを逐次生成する」仕組みと、それが生む強みと弱点が連続体として存在することを学びます。特に Next Token Prediction、Knowledge、Working Memory、Steerability の4つの観点で能力と限界を見極め、タスクに応じた信頼の度合いを判断できるようになります。次のレッスンに進む準備として、実務や個人利用での失敗モードを予測する視点が身につきます。

   • 生成AIの定義
   • 機械のメンタルモデル構築
   • 重要ポイント
   • 演習問題
   • 学びの振り返り
   • 次に進むこと
3. 3
   AIの性格はどう決まるかHow AI Gets Its Character

   生成AIの「性格」は偶然ではなく学習プロセスで作られます。このレッスンでは、Pretraining と fine-tuning の役割を分かりやすく理解し、それぞれが残す行動の指紋（おべっか的応答、冗長さ、過度の慎重さ、信頼度と実際のずれ）を見抜けるようになります。実践演習で自分の仕事に出る影響を確かめ、AIとより正確にやり取りするための視点を得られます。

   • AIの性格形成
   • 事前学習・微調整と痕跡
   • 重要ポイント
   • 演習問題
   • 学びの振り返り
   • 次に進むこと
4. 4
   次のトークンを予測するNext Token Prediction

   生成AIの中核である Next Token Prediction（次のトークン予測）が、なぜ流暢さと誤情報の両方を生むのかを理解できます。自分の得意分野で簡単な検証を行い、どのタスクが「慣例的に正しい」能力ゾーンに入るか、どこが具体的事実（名前・日付・統計・引用）で誤作動しやすいかを判断できるようになります。さらに、引用表示や不確かさの示唆、制約付き生成、generator–verifier パターンなどの現実的な緩和策の役割も学びます。

   • 次トークン予測の仕組み
   • 大規模オートコンプリート
   • 重要ポイント
   • 演習問題
   • 学びの振り返り
   • 次に進むこと
5. 5
   やってみよう: トークン予測Try It Out: Next Token Prediction

   このレッスンでは、言語モデルが次に来るトークンを予測する仕組みを実際に体験して、出力が確率的な予測の連続であることを理解します。予測のズレや同じ入力から異なる応答が生じる理由、温度などの生成パラメータが結果に与える影響を実感できます。これによりモデルの振る舞いを正しく心に描けるようになり、期待の調整やプロンプト設計に役立てられます。

6. 6
   知識Knowledge

   モデルの知識は訓練データに依存し、知識カットオフで固定されることを理解できます。どの話題が「得意（頻出・最近・一貫）」で、どこが「弱点（希少・カットオフ後・地域差・争点）」かを見分ける力がつきます。知識の陳腐化、偏り、不均一なカバレッジ、出典のあいまいさといった典型的な失敗を認識し、RAG/MCP やツール利用で補う判断ができるようになります。さらに、自分の業務でいつコンテキストを補うべきかの実践的感覚が得られます。

   • AIの知識の穴の理解
   • モデルの読んだ範囲と停止時期
   • 重要ポイント
   • 演習問題
   • 学びの振り返り
   • 次に進むこと
7. 7
   やってみよう: 知識Try It Out: Knowledge

   このレッスンでは、モデルがどのように知識を保持・参照するかを実際に試しながら理解します。どこまで正確な情報を返せるか、情報源や更新性が結果にどう影響するかを体験的に学べます。結果の検証手法や、知識の限界を見極めるための実践的なチェックポイントも身につきます。

8. 8
   ワーキングメモリWorking Memory

   このレッスンでは、コンテキストウィンドウが生成AIの「ワーキングメモリ」であり、モデルが扱える情報量に限りがあることを理解します。長い文書や会話で重要情報が失われる「崖」のような挙動と、その失敗モード（無音の切り捨て）を見抜く方法を学びます。実用的には、重要情報の前出し、長作業の分割、必要時の再供給などコンテキストを戦略的に使う手法と、プロダクト側のメモリ/コンパクション/大きなウィンドウなどの対策も把握します。

   • コンテキストウィンドウの影響
   • コンテキストウィンドウ：AIの作業記憶
   • 重要ポイント
   • 演習問題
   • 学びの振り返り
   • 次に進むこと
9. 9
   やってみよう: ワーキングメモリTry It Out: Working Memory

   このレッスンでは、モデルのコンテキスト処理に内在する「中間の情報が埋もれる」性質を実例で体感します。ワーキングメモリとシリアルポジション効果がモデルにも現れることを理解し、重要な指示はコンテキストの冒頭か末尾に置くなどの現実的なプロンプト設計法を学びます。結果として、単に情報を大量に与えるのではなく、何を残し何を繰り返すかを戦略的に判断できるようになります。

   • コンテキストの劣化
   • 記憶テスト
   • U字カーブ
   • プロンプトへの示唆
   • 全体像
10. 10
    ステアラビリティSteerability

    このレッスンでは、モデルが指示に従う仕組み（Next Token Predictionによるパターン継続）と、そのために生じる制約を理解できます。短く具体的な指示では高い制御が期待できる一方、長い推論や抽象的・精密な要求では意図と出力がズレやすいことを学びます。出力のチェックポイントやゴールの明示、system promptやコード実行などの対策を使ってズレを減らす実践的な手法も身につきます。

    • ステアラビリティが出力に与える影響
    • どれだけ操作できているか
    • 重要ポイント
    • 演習問題
    • 学びの振り返り
    • 次に進むこと
11. 11
    やってみよう: ステアラビリティTry It Out: Steerability

    このレッスンでは、モデルの「ステアラビリティ（指示に従う性質）」が何を意味するかと、どのように制御や調整が可能かを実践的に理解できます。具体的には、指示の書き方やコンテキスト操作で出力を望む方向に導く方法、そして制御が効きにくい場面やトレードオフについて学び、AIを安全かつ効果的に使うための感覚を養います。

12. 12
    性質がぶつかり合うときWhen Properties Collide

    AIの失敗はたいてい一つの要因ではなく、Next Token Prediction、Knowledge、Working Memory、Steerabilityといった性質がぶつかり合って起きます。本レッスンでは、失敗事例を性質の組み合わせとして診断する方法を学び、どの性質が制約になっているかで検証や修正（事実確認、文脈の再供給、コード実行への委譲、反論を促す設計など）を的確に選べるようになります。これにより問題解決が効率化します。

    • AIの失敗の診断
    • 2つの特性の交差：原因診断
    • 重要ポイント
    • 演習問題
    • 学びの振り返り
    • 次に進むこと
13. 13
    次のステップNext Steps

    このレッスンでは、AIの振る舞いを説明する「小さく扱いやすい」メンタルモデルを身につけます。4つの性質（連続体）とそれらの交差で起きる典型的な失敗を結びつけ、4D Frameworkと合わせて使う方法を学びます。実務での検証やコンテキスト設計の具体的な改善案を一つ決めて、今週から試す手順まで落とし込みます。

    • 4Dフレームワークによる出力改善
    • 小さな機械モデル
    • 重要ポイント
    • 演習問題
    • 学びの振り返り
    • 次に進むこと
14. 14
    修了クイズCourse Quiz

    この修了クイズを通じて、コース全体で扱ったAIの基本的性質と限界を復習し、自分の理解度を確認できます。Next Token Prediction、Knowledge、Working Memory、Steerability といった主要概念がどう相互作用するかを思い出し、誤ったメンタルモデルを持たないためのポイントを再確認します。短時間で弱点を把握して今後の学習や実務での使い方に活かせます。

見出しは公式の構成にもとづく日本語の要約です。レッスン本文は公式サイト上でのみ提供されています。各行から公式ページへ移動します。

この講座に出てくる用語 — 7語

この講座で扱う概念です。意味が分からない語で止まったら、ここから辞典を引けます。数字は難易度（1が易しく5が難しい）。
本文中でも初めて出てきた箇所にリンクを張っています。

• プロンプト1
• MCP2
• RAG2
• コンテキストウィンドウ2
• ステム2
• データセット2
• ファインチューニング2

用語の解説は AICU term（AICU が独自に編集している用語辞典）。