学ぶ
学ぶ
ニュースで話題のAIトピックを解説・入門・背景から整理。モデルがどう作られ、学習し、動き、評価されるのかを、見出しの裏側にある仕組みを知りたい読者向けに説明します。
学ぶ
すべてのカテゴリー
基礎
4- コンセプト人工知能とは?↗人工知能(AI)とは、学習、推論、知覚、言語などの能力に関連する手法を用いて、予測、コンテンツ、推薦、意思決定など、目標に沿った出力を生成するコンピューターシステムを設計する分野です。また、人工知能によって作られたシステムそのものを指すこともあります。
- 比較学習と推論の比較↗学習は、AIモデルがタスクをより適切に実行できるよう、学習済みの設定を変更します。推論は、モデルの選択した状態を使って出力を生成しますが、その学習済みの設定は変更しません。学習はモデルを作成または適応させるものであり、推論はそのモデルを実際に動作させるものです。
- コンセプト機械学習とは?↗機械学習とは、例やフィードバックからパターンを学習し、そのパターンを使って、まだ見たことのない事例に対する有用な予測、判断、出力を行うソフトウェアを構築する方法です。機械学習は人工知能における一つのアプローチであり、AI全体の同義語ではありません。
- コンセプト生成AIとは?↗生成AIとは、既存データに含まれるパターンを学習し、それらのパターンを使って、テキスト、画像、音声、動画、コードなどの新しいコンテンツを生成する人工知能です。通常は、指示やその他の入力に応じてコンテンツを生成します。
トークン・コンテキスト・表現
8- コンセプトAIにおけるトークンとは?↗AIにおけるトークンとは、LLMがテキストを表現・生成するために使う語彙の1項目です。モデルのトークナイザーによって、単語、単語の一部、句読点、空白、さらにはエンコードされた文字の一部に対応することがあります。
- コンセプトAIの知識カットオフとは?↗AIの知識カットオフとは、モデルに組み込まれた知識が、その日付までのトレーニングデータを反映していると想定される基準日です。これは大まかな境界であり、モデルがそれ以前の事実をすべて知っていることや、AI製品がそれ以降の情報を取得できないことを保証するものではありません。
- コンセプトコンテキストウィンドウとは?↗コンテキストウィンドウとは、AIモデルが1つの応答を生成する際に利用できる、トークン化された情報量の最大値です。多くの言語モデルAPIでは、この上限に入力と生成される出力の両方が含まれますが、プロバイダーによっては入力と出力に個別の上限を設けている場合もあります。
- 比較コンテキストウィンドウと知識カットオフの違い↗コンテキストウィンドウは、AIモデルが1回のリクエストで利用できる情報量を制限します。一方、知識カットオフは、モデルに組み込まれた知識がどれほど新しいかを示します。前者はトークン数で測る容量であり、後者は学習に関連する日付です。
- 比較入力トークン、出力トークン、推論トークンの比較↗入力トークンはモデルが受け取るもので、出力トークンはモデルが生成するものです。推論トークンは、回答に到達するために内部で生成されるトークンです。注意すべき点は、API上で別の詳細項目として表示される場合でも、推論トークンが出力使用量に含まれることが多いことです。
- コンセプト入力トークンとは?↗入力トークンとは、モデルが次の応答の生成を開始する前に受け取り、処理するトークンです。入力トークンは、直前に入力した語句だけでなく、モデル向けに組み立てられたリクエスト全体から生じます。
- コンセプト出力トークンとは?↗出力トークンとは、モデルが応答を生成する際に生成する単位です。通常は、受け取るテキスト、コード、構造化データ、またはツール指示を構成しますが、プロバイダーによっては、隠れた推論も出力使用量としてカウントする場合があります。
- コンセプト推論トークンとは?↗推論トークンとは、AIモデルが回答に取り組む過程で生成するトークンで、ユーザーに表示される回答テキストとは別のものです。計画、確認、アプローチの試行などの追加の生成ステップを表し、サービスが非表示にしていても、使用量や上限の計算対象になることがあります。
モデルとアーキテクチャ
7- コンセプトAIモデルとは?↗AIモデルとは、入力を予測、分類、推薦、アクション、生成結果などの出力に変換するAIシステムの一部です。現在の一般的な用法では、学習データによって振る舞いが形作られた機械学習モデルを指します。
- コンセプトLLMとは何か?↗大規模言語モデル(LLM)とは、大量の言語データの集合を使って、もっともありそうなテキストの並びを処理または生成するように訓練されたAIモデルです。テキスト生成に使われる多くのLLMは、プロンプトを受け取り、少量の単位を一つずつ生成して応答を作ります。
- コンセプトニューラルネットワークとは?↗ニューラルネットワークは、単純な計算を行う接続された層に入力された数値を通すことで、有用な出力値へ変換することを学習する機械学習モデルです。これらの層は、文字どおりの電子的な脳ではなく、学習可能な1つの数学関数を構成します。
- コンセプトモデルの重みとは?↗モデルの重みとは、出力を計算するときに、モデルが各入力または中間信号をどの程度強く利用するかを決める、学習された数値です。通常は行列やテンソルと呼ばれる大きなまとまりとして保存され、学習によってモデルの出力が目的により適合するように変化します。
- コンセプトモデルパラメータとは?↗モデルパラメータとは、学習済みモデル内に保存され、入力を出力へ変換する方法を決定する数値です。ニューラルネットワークでは通常、学習中に値が決められ、モデルが予測を行う際に再利用される重みとバイアスが含まれます。
- 比較モデルパラメータとモデルの重みの違い↗モデルパラメータとは、モデルの挙動を決める、適合されたすべての値です。モデルの重みは、パラメータの一種を指す場合もあれば、モデルが学習した値全体を指す非公式な呼び方の場合もあります。層の数式では、「重み」は通常、より狭い意味で使われます。一方、「モデルの重みをダウンロードする」のような表現では、通常、より広い意味で使われます。
- コンセプト基盤モデルとは?↗基盤モデルとは、1つのタスク専用に構築するのではなく、多様なタスクに適応できるよう幅広いデータで訓練された機械学習モデルです。完成したアプリケーションではなく、再利用可能な出発点です。
トレーニングと適応
1推論と配信
6- コンセプト1秒あたりのトークン数とは?↗1秒あたりのトークン数(TPSまたはtok/s)は、AIシステムが1秒間に生成するトークン数を測定します。この数値は、1つの応答の出力速度を示す場合も、サービス提供システム全体の合算スループットを示す場合もあるため、ラベルだけでは不十分です。
- コンセプトAIにおける推論とは?↗AIにおける推論とは、学習済みモデルに入力を与えて出力を生成するプロセスであり、モデルが学習した内容は更新しません。これはモデルを利用する段階です。写真を入力するとラベルが出力されたり、プロンプトを入力すると生成テキストが出力されたりします。
- コンセプトTime to First Tokenとは?↗Time to first token(TTFT)とは、言語モデルへのリクエストを開始してから、応答の最初のトークンを受け取るまでの経過時間です。これは初期の待ち時間を測定するものであり、応答の残りがどれだけ速く届くかを測るものではありません。
- 比較レイテンシー vs. TTFT vs. 1秒あたりトークン数 vs. スループット↗レイテンシーは1つの推論リクエストにかかる時間、TTFTはストリーミングリクエストが応答を開始するまでの時間、1秒あたりトークン数は1つのストリームまたはシステム全体を表し得る速度、スループットはシステムが時間あたりに完了する総作業量です。最も重要な違いは対象範囲です。レイテンシーとTTFTは1つのリクエストを計測するのに対し、スループットは測定時間内の作業量を数えます。
- コンセプト推論スループットとは?↗推論スループットとは、推論システムが処理中のすべてのリクエストについて、単位時間あたりに完了するモデル処理の量です。完了したリクエスト数、推論数、サンプル数、または1秒あたりのトークン数で測定できます。
- コンセプト推論レイテンシとは?↗推論レイテンシとは、AIシステムが入力を受け取ってから、指定された出力を生成するまでの経過時間です。レイテンシの数値は、タイマーをどこで開始し、どこで停止し、どのような出力を完了とみなすかが分かって初めて意味を持ちます。
AIシステム・オーケストレーション・エージェント
5- コンセプトAIエージェントとは?↗AIエージェントとは、AIモデルを使って次の行動を選び、結果を観察し、完了するか、支援が必要になるか、制限に達するまで処理を続けるソフトウェアシステムです。単に回答を生成するモデルとは異なり、エージェントは複数のステップからなるプロセスを制御し、設定された権限の範囲内でツールを使って行動できます。
- コンセプトAIチャットボットとは?↗AIチャットボットとは、人工知能を使って、テキストまたは音声で人と会話するソフトウェアアプリケーションです。メッセージを受け取り、AIモデルでその内容を解釈または回答し、会話を続けるために必要なコンテキスト、ルール、データ、アクションを管理します。
- コンセプトAIハーネスとは?↗AIハーネスとは、AIモデルの周囲にあるソフトウェアであり、モデルが何を受け取り、出力に何が起こり、モデルがアプリケーションの他の部分とどのように接続するかを制御します。チャット履歴を管理する小さなコードの場合もあれば、ツール、メモリ、権限、再試行、長時間実行される処理を管理するランタイムの場合もあります。
- 比較AIモデル vs. チャットボット vs. ハーネス vs. エージェント↗AIモデルは出力を生成するコンポーネント、チャットボットは対話型アプリケーション、ハーネスはモデルの周囲でコンテキストと実行を管理するソフトウェア、エージェントはそれらを使って手順を選択し実行する、目標指向のシステムです。これらは重なり合う層であり、競合する4種類のAIではありません。
- コンセプトLLMにおけるツール使用とは?↗LLMにおけるツール使用とは、言語モデルがデータベースの検索、計算の実行、メッセージの送信などの外部操作を要求し、その返された結果を応答で利用できる仕組みです。通常、モデルがツールを選択して入力候補を提示し、呼び出しを実行するかどうかはモデルの周辺にあるソフトウェアが判断します。