インタラクション調整
指標を最適化すると何が失われるか——グッドハートの法則
要点 「指標が目標になると、それは良い指標ではなくなる」——グッドハートの法則は、最適化の宿命を突く。 社会科学者キャンベルも、近い時期に同種の警告(キャンベル…
Author: Response Calibration 編集部
インタラクション調整
インタラクション調整
A/Bテストの落とし穴
要点 A/Bテストは強力だが、運用を誤ると「改善した」という誤った結論を量産する。 代表的な落とし穴は、途中で覗く(peeking)、多重比較、新奇性効果の三つ…
AIコミュニケーション
チャットボットはなぜ「すみません」と言うのか
要点 対話システムの「すみません」は、単なる定型句ではなく、関係を修復する機能を担っている。 言語学の丁寧さ理論は、謝罪が相手の「面子」への配慮として働くことを…
インタラクション調整
RLHF——人間のフィードバックで応答を調律する
要点 人間のフィードバックによる強化学習(RLHF)は、「正解の文例」ではなく「どちらが好ましいか」の比較から学ぶ手法だ。 従来の教師あり学習が正解の模倣だとす…
AIコミュニケーション
不気味の谷と応答のトーン
要点 「不気味の谷」は、人に近づくほど好感が増すが、ある一線を越えると急に不快へ転じる現象だ。 森政弘が1970年に提唱したこの概念は、見た目だけでなく、応答の…
AIコミュニケーション
会話設計の基本——「言われていないこと」をどう汲むか
要点 会話設計の難しさは、文法ではなく「言われていないことをどう汲むか」にある。 言語哲学者グライスの協調の原理は、人が会話で何を暗黙に期待しているかを言語化し…
パーソナライゼーション
パーソナライゼーションとプライバシーの綱引き
要点 パーソナライズは、より多くのデータがあるほど精度が上がるという誘因を内蔵している。 一方で、データ保護の原則は「目的に必要な最小限」を求める。両者は構造的…
パーソナライゼーション
「あなたへのおすすめ」はどう設計されているか
要点 「あなたへのおすすめ」は単一のアルゴリズムではなく、候補の生成・絞り込み・並べ替えという段階の積み重ねである。 各段階で最適化する対象が異なり、全体の体験…
適応システム
適応はどこで止めるべきか——過剰最適化の構造
要点 適応は、進めれば進めるほど良くなるとは限らない。ある点を越えると、最適化はかえって質を損なう。 機械学習の「過学習」と、指標運用の「過剰最適化」は、別の現…
パーソナライゼーション
フィルターバブルは本当に存在するのか
要点 「フィルターバブル」は、パーソナライズが人を似た情報の泡に閉じ込めるという2011年の問題提起である。 直感的に分かりやすいが、その後の実証研究では、効果…
ニュースレター
最新の記事と論点を、まとめて受け取る。