『研究者のための生成AI活用』

人間の脳を模して設計された数理システム。複数層の人工ニューロンから成り、データ内の統計的パターンを学習して能力を獲得する。層を深く重ねたものは深層ニューラルネットワーク（DNN）と呼ばれる。

ニューラルネットワークの構造の一つ。Googleの研究者らが提案したことで広く知られ、文を順番ではなく全体として処理し、離れた単語やフレーズ同士の関係も捉えやすい。

Large Language Model（大規模言語モデル）。大量の文章を学習し、次に続く言葉を予測しながら文章を生成するモデル。Transformer Modelを基盤とするものが多く、ChatGPTのような対話AIの中核をなす。

テキスト、画像、動画などのコンテンツを作り出す技術的アプローチ。大規模データ中のパターンを学習し、それに似た特徴を持つ新たな素材を自律的に構築できる。クラウド型だけでなく、手元の計算機で動かすローカル生成AIもある。

Generative Pre-trained Transformer（生成事前学習済みTransformer）。事前学習した言語モデルを基に文章生成を行う系列名であり、ChatGPTの「GPT」もこれを指す。

AIへの指示文。役割設定、形式指定、制約付与、例示などで出力を望ましい方向へ導く。ユーザー入力に先立って裏側で与えられ、AIの役割や口調、制約を定めるものはシステムプロンプトとも呼ばれる。

思考連鎖。答えの前に段階的な推論を促す考え方。数学、論理、多段階の判断で有用で、LLMでは「思考モード (Thinking)」などと案内されることがある。

AIがもっともらしい誤情報を生成してしまう現象。生成AI活用では、このリスク管理が重要となる。

モデル内部の数値設定。層の配置や結合のような構造面と、入力に対する応答の仕方の両方に関わり、モデルの振る舞いを形作る。

AIが文章を処理するときの最小単位。人間の「単語」と完全には一致せず、文字列の一部で区切られることもある。

AIが一度に参照できる情報量の上限。長い会話や長文資料を扱う際の性能に関わる。

テキストだけでなく、画像、音声、動画など複数種類の情報を扱えるAIの性質。

AIが単に返答するだけでなく、検索・要約・実行など複数の処理を段階的に進める仕組み。

Retrieval-Augmented Generation (RAG)。外部の資料や社内文書を検索して、その結果を参照しながら回答を生成する仕組み。AI単体の記憶に頼らず、根拠ある回答を作りやすくなる。

危険な出力や不適切な利用を抑えるための制御ルール。安全性やコンプライアンスの観点で重要。

出力の決定性と創造性を調整する設定。低い値では一貫した回答、高い値では多様で発想的な応答になりやすい。

既存のAIモデルを、特定の業務や表現スタイルに合わせて追加学習させること。

行動とフィードバックの循環を通じて、よりよい意思決定戦略を学ぶ訓練手法。LLMサービスでは、人間の評価や選好を使うRLHFなどが、応答品質や安全性を調整する後続学習に使われる。

Embedding（埋め込み表現）。文章や画像などの意味を、数値ベクトルとして表現したもの。意味の近さを計算するために使われる。

Embedding（埋め込み表現）を保存し、「意味が近い情報」を高速に検索するためのデータベース。RAGの基盤としてよく使われる。

例を示さず指示だけで解かせるのが Zero-shot、少数の見本を添えて望ましい答え方を学習させるのが Few-shot。出力形式や判断基準を安定させるのに有効。

モデルの出力を検証可能な情報源に結び付ける仕組み。ハルシネーションを減らし、根拠提示や監査可能性を確保しやすくする。

Emergent Behavior。大規模言語モデルが示す予想外の能力。コーディング、作曲、詩作、架空の物語の創作などに及ぶことがある。

モデル性能が、パラメータ数・学習データ量・計算量の拡大に応じて一定の傾向で向上するという経験則。近年はモデルサイズだけでなく、学習データ量との釣り合いも重要とされる。