適応システムとは何か——フィードバックループの系譜

システムが「人に合わせる」と言うとき、私たちは何を指しているのだろうか。レコメンドが好みを学ぶこと、チャットボットが言い回しを変えること、検索が過去の行動を反映すること——いずれも表面の現象は異なる。だが根を掘ると、同じ一本の幹に行き着く。観測し、ずれを測り、戻す、という循環だ。本稿では、この循環がどこから来たのかを整理しておきたい。適応の議論は、しばしば最新の技術名の応酬になりがちだが、骨格を押さえておくと見通しがよくなる。

サイバネティクスという出発点

数学者ノーバート・ウィーナーは、1948年の著書『サイバネティクス』で、生物と機械に共通する制御と通信の原理を扱った。ここで鍵となるのが負のフィードバックである。サーモスタットが室温を測り、設定値とのずれに応じて加熱を弱める——この単純な仕組みが、目標に向かって自らを修正する系の最小単位になる。ウィーナーの議論の射程は工学にとどまらず、神経系や社会にまで及んだ。重要なのは、適応とは「賢さ」ではなく「ずれを戻す構造」だと捉えた点である。

現代の適応システムも、この見方の延長線上にある。ユーザーがある記事を最後まで読んだか、途中で離脱したかは、設計者にとっての「室温」にあたる。系はその信号を受け取り、次に何を出すかを調整する。違うのは温度計の精度ではなく、何を測れば「ずれ」と呼べるのかという定義の難しさのほうだ。

統計的になったずれの測り方

古典的な制御では、目標値は人があらかじめ与える。だが推薦や言語モデルの世界では、何が「正解」なのかが事前にはっきりしない。そこで登場するのが、大量の行動データから「好まれそうな出力」を統計的に推定する手法である。コールドスタート問題で論じるように、データが乏しい初期にはこの推定が大きく外れる。逆にデータが潤沢になると、系は過去の行動を強く反映するようになり、別の問題——過剰最適化——を招く。

もっとも、統計的なずれの測り方が万能というわけではない。測れるのは「クリックされたか」「滞在したか」といった観測可能な代理指標に限られる。ユーザーが実際に満足したかどうかは、直接は測れない。ここに、適応システムの構造的な弱点が潜んでいる。系は与えられた指標を忠実に追うが、その指標が本当に追うべきものを写しているとは限らない。

速さと安定の調停

フィードバックには、もう一つ見落とされがちな性質がある。循環が速いほど系はよく反応するが、同時に振動や暴走も起こしやすくなる。制御理論ではこれを安定性の問題として扱う。たとえば、ユーザーの直近のクリックに即座に反応して表示を切り替える設計は、一見きめ細かいが、たまたまの一回の行動に過剰反応し、表示が落ち着かなくなることがある。一方で、反応を鈍くすればこの種の不安定は減るが、今度は変化に追従できない。

つまり、適応の良し悪しは「どれだけ速く合わせるか」だけでは決まらない。どこで反応を止め、どの程度の慣性を持たせるか——その調停こそが設計の核心になる。裏を返せば、適応システムを評価するとき、私たちは反応の鋭さだけでなく、落ち着きのほうにも目を向ける必要がある。

骨格から見ると何が変わるか

適応を「ずれを戻す循環」として捉え直すと、個々の技術はその循環の部品として位置づけられる。新しいアルゴリズムが登場しても、それが循環のどこを担っているのか——観測なのか、ずれの定義なのか、戻し方なのか——を問えば、過大評価も過小評価も避けやすくなる。ウィーナーが70年以上前に示した枠組みは古びていない。むしろ、技術の名前が速く入れ替わる時代だからこそ、変わらない骨格を持っておくことの実用的な価値が増している。

出典・参考

• Norbert Wiener『Cybernetics: Or Control and Communication in the Animal and the Machine』(1948)
• 制御理論における負のフィードバックと安定性の一般的議論(古典制御理論の標準的教科書による)