ADL作業ノート — 01
実験の結果が、一つの文で締めくくられることがある。期待した改善は得られなかった。
けれど、その文の背後には別の問いが残る。試した仕組みは、どこで役立ったのか。小さな利点を得るために、どれだけの費用がかかったのか。どの期待を手放し、どの問いを追い続けるべきなのか。
ADLの最近の実験の一つは、こうした問いを具体的にした。二つの学習介入を比較し、より良く見える方を選ぶ。それは妥当な出発点だった。結果は、その選択の価値を測るには、より丁寧な計算が必要であることを示した。
より良い選択は、より良い学習につながるのか
ADLは、学習するモデルと、そのモデルへの介入を選ぶ仕組みを分けて扱う研究である。モデルがどう変わるかと同じように、その変更をどう決めるかも研究の対象になる。
この実験では、範囲を絞った問いを検証した。
各ステップで二つの変更案を測定し、訓練誤差をより大きく減らす方を選べば、同じ時間内でより良い結果が得られるのか。
仕組みは次のように動く。モデルの現在の状態から、独立した二つの試行用コピーを作り、それぞれで一つの提案を測定する。訓練誤差の低い提案を選び、必要な改善条件を満たした場合に、その変更だけを稼働中のモデルへ反映する。
したがって、判断には単一の提案を試すよりも多くの情報が使われる。ただし、その情報を得ることにも費用がかかる。
結果を見る前に基準を決める
一部の比較で良く見える方法は、それだけで説得力を持ちやすい。そのため、実験の成功基準は実行前に決めた。
候補の方法には、同じ1秒のCPU予算内で、四つの比較方法のそれぞれに対して最終正解率を少なくとも3パーセントポイント改善することを期待した。
この条件は重要だった。弱い方法を上回るだけでは、強い方法に対して十分に前進したことにはならない。
実験は、小規模な合成分類タスクで行った。異なる20の乱数シード、六つの方法、三回の時間測定の反復を用いた。訓練に使わない評価用データでの正解率は、各実行の最後に測定した。途中で最も良く見える時点を選ぶことはしなかった。
結果は非常に近かった
二つの提案から良い方を選ぶ候補と、強い比較方法の結果は次のようになった。
| 方法 | 最終ホールドアウト正解率 |
|---|---|
| 二つの提案を測定し、良い方を選ぶ | 91.11% |
| 単一の座標変更案を一様に選ぶ | 91.02% |
差は約0.09パーセントポイントだった。
事前に設定した目標は3パーセントポイントである。この比較の不確実性区間の上限も、目標を下回った。したがって、実験の主要な品質仮説は棄却された。
この判断の範囲は限定される。このタスクと予算の下では、この仕組みが期待した大きさの改善をもたらすことは示されなかった。一つの結果によって、ADLの研究上の問いがすべて閉じられたわけではない。
それでも、検証した候補についての判断は明確だった。品質改善に成功した方法として先へ進めるには、根拠が十分ではなかった。
選択は役立つように見えたが、費用の計算を完成させる必要があった
実験には追加の対照条件があった。この条件でも二つの提案を測定するが、結果に基づいて選ぶ代わりに最初の提案を使う。
良い提案を選ぶ候補は、この対照条件を約0.97パーセントポイント上回った。これは選択の寄与についての探索的な知見である。ただし、強い比較方法に対して事前に設定した成功条件は満たしていなかった。
費用についても、二つの異なる方向が現れた。
候補が使ったモデルの順伝播回数は、強い比較方法より約36%少なかった。一方で、介入を準備し、測定し、管理するControllerの所要時間は約10.5%増えた。測定した総時間の削減は確認されなかった。
モデル呼び出し回数の減少だけでは、十分な計算にはならない。選択の仕組みが使う時間も、同じ予算の中で考慮する必要があった。
この実験では、エネルギー消費や作業全体の端から端までの費用を測定していない。そのため、この結果からそれらの削減を主張することはできない。
同じ記録が、新しい問いになった
結果を得た後、既存の実験記録をもう一度調べた。この分析のために、新しい学習実行は行っていない。
今度の問いはさらに絞られていた。選択の仕組みは、介入一回当たりにどれだけの進展をもたらしたのか。その進展を、費やした時間で割るとどう見えるのか。
探索的分析では、二つの提案から良い方を選ぶことで、最初の提案を使う対照条件に比べ、ラウンド当たりの訓練の進展が約15%増えた。しかし、強い比較方法に比べると、Controllerの1秒当たりの訓練の進展は約12%低かった。
この二つの観察は、合わせて見ると意味がある。一つのラウンド内でより良い変更を選ぶことは可能に見えた。そのラウンドを準備し評価する時間が、利点を制限する可能性があった。
分析では、Controllerの総費用の差がどの下位処理によって生じたかは特定していない。したがって、その問題をコピー、提案の生成、順位付けのいずれかだけに帰するには、データが不十分だった。
次の実験では何を変えるべきか
この実験系列は終了した。同じ候補のシード、予算、設定を変えて都合の良い結果を探すのではなく、記録を保存し、別の問いの下で異なる仕組みを検証することを選んだ。
次の候補は、単一の提案を訓練誤差だけで評価する代わりに、重みの大きさに固定のペナルティを加える受理基準を調べる。仕組みの実装とテストは完了しているが、品質への寄与はまだ検証されていない。
ここにも別々の二つの基準がある。仕組みが仕様どおりに動くことと、学習に期待した寄与をもたらすことである。最初の基準を満たしても、二つ目についての結果は得られない。
このADLの実験が残した最も有用なものは、期待がより明確な問いへと変わったことだった。
介入を選ぶために費やす計算は、その介入がもたらす進展に見合うのか。
次の実験は、ここで答えを探す。
出典について — 2026年10月15日： 本文はF2-041の実験報告、F2-042の既存記録の探索的分析、F2-043の実装報告に基づく。結果の範囲は、小規模な合成CPUタスクに限られる。この作業ノートは、明示した時点の資料を扱うものであり、実験の状況をリアルタイムに報告するものではない。
つながり
ADLのF2-041実験、F2-042の記録分析、F2-043に向けた次の問いを記述する。