用語集

トークンやコンテキストウィンドウから推論、エージェント、ベンチマークまで、現代AIの用語をわかりやすく定義し、それぞれ詳しい解説記事にリンクしています。

#

1秒あたりのトークン数: 1秒あたりのトークン数（TPSまたはtok/s）は、AIシステムが1秒間に生成するトークン数を測定します。この数値は、1つの応答の出力速度を示す場合も、サービス提供システム全体の合算スループットを示す場合もあるため、ラベルだけでは不十分です。

A

AIエージェント: AIエージェントとは、AIモデルを使って次の行動を選び、結果を観察し、完了するか、支援が必要になるか、制限に達するまで処理を続けるソフトウェアシステムです。単に回答を生成するモデルとは異なり、エージェントは複数のステップからなるプロセスを制御し、設定された権限の範囲内でツールを使って行動できます。
AIチャットボット: AIチャットボットとは、人工知能を使って、テキストまたは音声で人と会話するソフトウェアアプリケーションです。メッセージを受け取り、AIモデルでその内容を解釈または回答し、会話を続けるために必要なコンテキスト、ルール、データ、アクションを管理します。
AIにおけるトークン: AIにおけるトークンとは、LLMがテキストを表現・生成するために使う語彙の1項目です。モデルのトークナイザーによって、単語、単語の一部、句読点、空白、さらにはエンコードされた文字の一部に対応することがあります。
AIにおけるトレーニング: AIにおけるトレーニングとは、モデルの調整可能な内部値を変更し、選択した目的をよりよく満たす出力を生成できるようにするプロセスです。プログラマーがあらゆるケースにルールを書くのではなく、モデルは繰り返し行われるフィードバックと更新によって改善します。
AIにおける推論: AIにおける推論とは、学習済みモデルに入力を与えて出力を生成するプロセスであり、モデルが学習した内容は更新しません。これはモデルを利用する段階です。写真を入力するとラベルが出力されたり、プロンプトを入力すると生成テキストが出力されたりします。
AIの知識カットオフ: AIの知識カットオフとは、モデルに組み込まれた知識が、その日付までのトレーニングデータを反映していると想定される基準日です。これは大まかな境界であり、モデルがそれ以前の事実をすべて知っていることや、AI製品がそれ以降の情報を取得できないことを保証するものではありません。
AIハーネス: AIハーネスとは、AIモデルの周囲にあるソフトウェアであり、モデルが何を受け取り、出力に何が起こり、モデルがアプリケーションの他の部分とどのように接続するかを制御します。チャット履歴を管理する小さなコードの場合もあれば、ツール、メモリ、権限、再試行、長時間実行される処理を管理するランタイムの場合もあります。
AIモデル: AIモデルとは、入力を予測、分類、推薦、アクション、生成結果などの出力に変換するAIシステムの一部です。現在の一般的な用法では、学習データによって振る舞いが形作られた機械学習モデルを指します。

L

LLM: 大規模言語モデル（LLM）とは、大量の言語データの集合を使って、もっともありそうなテキストの並びを処理または生成するように訓練されたAIモデルです。テキスト生成に使われる多くのLLMは、プロンプトを受け取り、少量の単位を一つずつ生成して応答を作ります。
LLMにおけるツール使用: LLMにおけるツール使用とは、言語モデルがデータベースの検索、計算の実行、メッセージの送信などの外部操作を要求し、その返された結果を応答で利用できる仕組みです。通常、モデルがツールを選択して入力候補を提示し、呼び出しを実行するかどうかはモデルの周辺にあるソフトウェアが判断します。

T

Time to First Token: Time to first token（TTFT）とは、言語モデルへのリクエストを開始してから、応答の最初のトークンを受け取るまでの経過時間です。これは初期の待ち時間を測定するものであり、応答の残りがどれだけ速く届くかを測るものではありません。

コ

コンテキストウィンドウ: コンテキストウィンドウとは、AIモデルが1つの応答を生成する際に利用できる、トークン化された情報量の最大値です。多くの言語モデルAPIでは、この上限に入力と生成される出力の両方が含まれますが、プロバイダーによっては入力と出力に個別の上限を設けている場合もあります。

ニ

ニューラルネットワーク: ニューラルネットワークは、単純な計算を行う接続された層に入力された数値を通すことで、有用な出力値へ変換することを学習する機械学習モデルです。これらの層は、文字どおりの電子的な脳ではなく、学習可能な1つの数学関数を構成します。

マ

マルチモーダルAI: マルチモーダルAIとは、テキスト、画像、音声、動画など、複数種類のデータから情報を処理・関連付けて、1つのタスクを実行できるAIです。マルチモーダルモデルは、画像と文章による指示を受け取っても、出力はテキストだけの場合があります。「マルチモーダル」とは、すべてのデータ種別を入力と出力の両方に使えるという意味ではありません。

モ

モデルの重み: モデルの重みとは、出力を計算するときに、モデルが各入力または中間信号をどの程度強く利用するかを決める、学習された数値です。通常は行列やテンソルと呼ばれる大きなまとまりとして保存され、学習によってモデルの出力が目的により適合するように変化します。
モデルパラメータ: モデルパラメータとは、学習済みモデル内に保存され、入力を出力へ変換する方法を決定する数値です。ニューラルネットワークでは通常、学習中に値が決められ、モデルが予測を行う際に再利用される重みとバイアスが含まれます。

人

人工知能: 人工知能（AI）とは、学習、推論、知覚、言語などの能力に関連する手法を用いて、予測、コンテンツ、推薦、意思決定など、目標に沿った出力を生成するコンピューターシステムを設計する分野です。また、人工知能によって作られたシステムそのものを指すこともあります。

入

入力トークン: 入力トークンとは、モデルが次の応答の生成を開始する前に受け取り、処理するトークンです。入力トークンは、直前に入力した語句だけでなく、モデル向けに組み立てられたリクエスト全体から生じます。

出

出力トークン: 出力トークンとは、モデルが応答を生成する際に生成する単位です。通常は、受け取るテキスト、コード、構造化データ、またはツール指示を構成しますが、プロバイダーによっては、隠れた推論も出力使用量としてカウントする場合があります。

基

基盤モデル: 基盤モデルとは、1つのタスク専用に構築するのではなく、多様なタスクに適応できるよう幅広いデータで訓練された機械学習モデルです。完成したアプリケーションではなく、再利用可能な出発点です。

推

推論スループット: 推論スループットとは、推論システムが処理中のすべてのリクエストについて、単位時間あたりに完了するモデル処理の量です。完了したリクエスト数、推論数、サンプル数、または1秒あたりのトークン数で測定できます。
推論トークン: 推論トークンとは、AIモデルが回答に取り組む過程で生成するトークンで、ユーザーに表示される回答テキストとは別のものです。計画、確認、アプローチの試行などの追加の生成ステップを表し、サービスが非表示にしていても、使用量や上限の計算対象になることがあります。
推論レイテンシ: 推論レイテンシとは、AIシステムが入力を受け取ってから、指定された出力を生成するまでの経過時間です。レイテンシの数値は、タイマーをどこで開始し、どこで停止し、どのような出力を完了とみなすかが分かって初めて意味を持ちます。

機

機械学習: 機械学習とは、例やフィードバックからパターンを学習し、そのパターンを使って、まだ見たことのない事例に対する有用な予測、判断、出力を行うソフトウェアを構築する方法です。機械学習は人工知能における一つのアプローチであり、AI全体の同義語ではありません。

生

生成AI: 生成AIとは、既存データに含まれるパターンを学習し、それらのパターンを使って、テキスト、画像、音声、動画、コードなどの新しいコンテンツを生成する人工知能です。通常は、指示やその他の入力に応じてコンテンツを生成します。