ソフトウェアを「AI」とする普遍的なテストはありません。この呼称は、技術的、歴史的、法的な文脈によって変わります。機械が人間のように考えるかどうかではなく、システムが入力をどのように出力へ変換するのか、その出力がどう扱われるのか、そして誰が目的を決めたのかを問うほうが有用です。

役立つメンタルモデル

AIシステムは、相互につながった次の5つの部分として理解できます。

  1. 目的：システムはどのような結果の実現に役立つべきか？
  2. 入力：どのような情報を受け取るのか？
  3. 手法：入力からどのように出力を導き出すのか？
  4. 出力：予測、コンテンツ、推薦、意思決定のいずれを生成するのか？
  5. 結果：人、ソフトウェア、機械は、その出力をどのように利用するのか？

手法はシステムの一部にすぎません。それは、符号化されたルールの集合、例から構築されたAIモデル、あるいは複数のコンポーネントが連携する構成である可能性があります。目的、データ、しきい値、インターフェース、人間による監督のすべてが結果を形作ります。

Objective and design choices
             │
             ▼
Input ──▶ AI method or model ──▶ Output ──▶ Decision or action ──▶ Effect
             ▲
             │
      Rules, examples,
     feedback, constraints

この図は、AIモデルとAI製品が同じものではない理由も示しています。モデルはスコアを返したり、テキストを生成したりできます。周辺のシステムが、いつモデルを呼び出すか、どの情報を与えるか、その出力を受け入れるかどうか、そしてどのような行動を取るかを決めます。

AIの仕組み

AIシステムは、タスクと、役立つ結果の定義から始まります。その定義は、誤った不正検知アラートを最小化する、といった明示的なものかもしれません。また、例、フィードバック、設計上の選択に部分的に暗黙の形で含まれていることもあります。

次にシステムは、関連する入力を、その手法で処理できる形式に表現します。画像認識システムはピクセル値を受け取り、経路計画システムは位置情報と道路情報を受け取り、言語システムは符号化されたテキストを受け取ります。表現は一部の詳細を保持する一方で、別の詳細を失うため、それだけですでにシステムができることに影響を与えます。

手法は入力を出力へ写像します。ルールベースのシステムでは、人が知識や論理的な関係を符号化します。機械学習では、学習プロセスによってモデルを調整し、例に含まれるパターンを新しい入力への対応に役立てます。実用的なシステムの多くは、学習済みモデルをルール、検索、データベース、人間による判断と組み合わせています。

導入されたモデルが新しい入力を処理するとき、それは推論を実行しています。その結果は、カテゴリー、数値スコア、生成された文章、提案された行動などになります。その後、別の層が業務ルール、安全性チェック、人によるレビューを適用してから、現実世界で何かを変えることもあります。

最後に、システムは実際に使われる環境で評価されなければなりません。ある目的にとって有用な出力が、別の目的にとって有害になることがあります。医療上の提案と映画の推薦では、必要な証拠、レビュー、エラーへの許容度が同じではありません。また、テストでの性能が、導入後も入力、人、条件が変わらないことを保証するわけではありません。

具体例

正当なメールを隠さずに、受信トレイからスパムを排除しようとするメールサービスを考えてみましょう。

その目的は、単に「スパムをブロックする」ことではありません。誤検知、つまり本物のメールを誤ってスパムと判定するケースを抑えながら、不要なメールを検出することです。

その入力は、受信したメッセージと、サービスが利用できるシグナルです。たとえば、本文、送信者情報、リンク、添付ファイルの特性などが含まれます。

その手法には、以前にラベル付けされたメッセージからパターンを学習したモデルが含まれる場合があります。また、既知の悪意ある送信者や危険なファイル形式に対する固定ルールが含まれることもあります。

モデルがあるメッセージにスパムスコア0.94を付けたとします。この数値が出力です。これはメッセージについての事実ではなく、十分に較正された確率である必要もありません。

サービスは、メールを迷惑メールフォルダーに移すしきい値として0.90を選んでいます。0.94はそのしきい値を上回っているため、周辺のソフトウェアが行動を取ります。その結果、あなたの受信トレイにはそのメッセージが表示されません。

ここで、しきい値だけを0.90から0.95に変更します。同じモデル出力でも、今度はメッセージが移動されません。モデルが変わっていないにもかかわらず、製品の動作は異なります。

ここが重要な区別です。AIコンポーネントは入力からスコアを導き出しました。そのスコアがあなたにどのような影響を与えるかは、人と従来型のソフトウェアが決めました。「スパムではない」といったフィードバックを後の更新のために保存することはできますが、クリックした瞬間にシステムが自動的に書き換わるとは限りません。

AIが重要な理由

人が重要なケースをすべて事前に指定できる場合、通常のソフトウェアは非常に優れています。入力のばらつきが大きすぎる場合、関連するパターンを完全な手順として記述するのが難しい場合、または不確実な結果の中からシステムが選択しなければならない場合に、AI手法が役立ちます。

そのためAIは、音声認識、検索結果の順位付け、異常な取引の検出、商品の推薦、経路計画、メディア生成などのタスクに利用できます。これらのタスクは異なって見えますが、いずれも目的のために入力から出力を導き出すシステムとして説明できます。

同じ柔軟性がリスクも生みます。AIシステムは、繰り返すべきでないパターンを繰り返したり、未知の入力で失敗したり、人が本当に必要としているものと一致しない測定可能な目標を最適化したりする可能性があります。また、その出力が、エラーによる害の大きさを変える規模や環境で利用されることもあります。モデルだけを評価すると、こうしたシステムレベルの選択を見落とします。

よくある誤解

AIとはチャットボットまたは大規模言語モデルである

チャットボットは製品のインターフェースであり、大規模言語モデルはモデルの一種です。AIはより広い分野です。知覚、計画、予測、制御、推薦などのシステムや、その他のタスクも含まれます。

AIと機械学習は同じである

機械学習はAIに含まれる主要なアプローチであり、AIと同義ではありません。AIの分野には、論理、探索、計画、知識ベースの手法という長い歴史もあります。現代の製品は、複数のアプローチを組み合わせることがよくあります。

AIは人間のように考えなければならない

システムをAIと呼んでも、それが意識、自我、あるいは人間と同じ方法で推論することを意味しません。定義は通常、能力や行動に焦点を当てます。あるシステムが1つのタスクを非常にうまく実行できても、人には簡単な多くのことに失敗する可能性があります。

AIはあらゆるやり取りから自動的に学習する

導入後に適応するシステムもありますが、多くはそうではありません。導入済みのモデルは、開発者がデータを収集し、新しいバージョンを評価して、更新をリリースするまで変わらないことがよくあります。フィードバックを保存することと、そこから学習することは別の段階です。

AIは数学を使うので客観的である

目的、例、ラベル、測定方法、しきい値、導入ルールを選ぶのは人です。そうした選択には、不完全な前提や相反する価値観が組み込まれる可能性があります。数学は手法を形式化しますが、判断を取り除くものではありません。

自動化はすべてAIである

あるフィールドの値を別のフィールドにコピーする固定スクリプトは自動化ですが、それをAIと呼ぶ定義はほとんどありません。判断が難しいケースについては議論があります。歴史的なAIにはルールベースのエキスパートシステムが含まれますが、現在の政策上の定義では、人が完全に指定したルールを単に実行する以上の推論を必要とすることが求められる場合が多くあります。したがって、適切な呼称は、なぜその区別が重要なのかによって変わり得ます。

AIはより広いシステムの中でどのような位置づけか

AIは、関連する用語群の中で最も広い概念です。

これらのカテゴリーは、「知能が低い」ものから「知能が高い」ものへの段階を示すものではありません。異なる手法、コンポーネント、出力、システム設計を表しています。

次に読むもの

「機械学習とは？」を読んで、現代のAIの多くを支えるアプローチを理解しましょう。次に「AIモデルとは？」を読んで、モデルと、それを利用するより大きなシステムを区別しましょう。テキスト、画像、音声、動画を作成するシステムに関心がある場合は、「生成AIとは？」へ進んでください。