AIが書くテストは、決まって同じ場所が抜ける
AIが書くテストの抜けは偶然ではなく型がある。異常系・下限値・複合違反が系統的に落ちる。ISTQB規格で測ると平均カバレッジ63%だった。
#なぜ今日これを選んだか
AIにコードもテストも書かせる時代に、「どこが系統的に抜けるか」を規格で定量的に測った記事は貴重。エンジニアとしてレベルアップする(#130)なら、AIの出力を鵜呑みにせず弱点を知って使う側に回りたい。
#要点
- AIのテストは正常系・上限値は手厚い一方、異常系・下限値・複合違反・「不可」と自分で書いた遷移の検証が系統的に抜ける。理由は「要件に明示された側だけを見る」傾向
- ISTQBの4技法で測ると平均カバレッジは63%。同じテスト群でも基準次第で「100%」にも「25%」にも見えるので、感覚でなく規格で数えることが重要
- 対策は「判断させず、数えさせる」。技法ごとにエージェントを分け、読取専用・コンテキスト無継承・行番号必須で独立性を構造的に担保する。同一プロバイダのAI同士のレビューは独立性にならない
#自分にとっての示唆
自分もClaude Codeにテストを書かせることが増えるはず。この記事の「抜けの型」はそのままチェックリストになる: AIがテストを出してきたら、異常系・下限値・複合条件・禁止遷移の4つを自分の目で数える。これは英語やRustの学習にも通じる話で、「AIの出力を検証できる側の知識」があって初めてAIは加速装置になる。今日のRust30分も、写経でなく「なぜこう書くか」を自分で説明できる状態を目指す。