AIエージェントの信頼性は『プロンプト』ではなく『制御フロー』で決まる
複雑なタスクを安定して捌くエージェントは、長文プロンプトではなくコードで書かれた決定論的な制御フローを土台にすべき、という主張。
#なぜ今日これを選んだか
最近はLLMに何でも吐かせる流れが主流だが、本当に信頼性が要る現場ではコードで書かれた決定論的な制御フローが土台になる、という主張。Rustをやり始めた今の自分にとって「型と所有権で保証する」という発想と地続きで、エンジニアとしての設計観を鍛え直す視点になる。
#要点
- 複雑なタスクを安定してこなすAIエージェントは、長くなり続けるプロンプトではなく、ソフトウェアに刻まれた決定論的な制御フローを必要とする
- LLMは「判断」のステップに使い、フロー全体（順序・分岐・リトライ・状態管理）はコード側で持つ方が壊れにくい
- プロンプトをどんどん盛る流派は短期的には動くが、長期的には再現性・テスト容易性・デバッグ性で破綻しやすい
#自分にとっての示唆
#130 のゴールはRustでハードウェアまで降りていくこと。Rustが好まれる理由は、賢いランタイムに祈らず、コンパイル時の制約で正しさを担保するところにある。AIエージェントの設計でも同じで、「プロンプトに祈る」より「制御フローを書く」方が一段強い。明日からの行動としては、(1) 普段書くスクリプトでも「LLMに任せる範囲」と「コードで縛る範囲」を意識して切り分ける、(2) Rustlingsで Result / match / 状態遷移を扱う章を一本進めて、決定論的フローを手で書く感覚を増やす。