「考える前に答える」小型LLMをどう鍛えるか — 4役割の共進化と評価設計

小型LLMは最初の思いつきで回答し、除外した候補まで復活させてしまいます。失敗を「早すぎる回答」と「候補の追跡」に分解し、出題者と回答者を交互に育てる仕組みと、手番ごとの報酬でどこまで変わったのかを実測値とともにまとめました。共進化の優位は未確認という結論も書きます。 [続きを読む]

4役割のGAN的共進化で小型LLMの探索を鍛える — umigame_GAN の実験基盤

小型LLMの試行錯誤を強化するため、出題者・回答者・2人の採点者を競わせる共進化の実験基盤を作りました。Qwen3-4B への LoRA を Mac ローカルで回し、題材に依存しないループ、R-Zero型とEDA型の報酬、条件をそろえた比較設計を、実装の抜粋と実測値で整理します。 [続きを読む]