toshiki

AIが書くテストは、決まって同じ場所が抜ける

· Qiita #130

AIが書くテストの抜けは偶然ではなく型がある。異常系・下限値・複合違反が系統的に落ちる。ISTQB規格で測ると平均カバレッジ63%だった。

  • #ai
  • #testing
  • #claude-code
  • #quality

#なぜ今日これを選んだか

AIにコードもテストも書かせる時代に、「どこが系統的に抜けるか」を規格で定量的に測った記事は貴重。エンジニアとしてレベルアップする(#130)なら、AIの出力を鵜呑みにせず弱点を知って使う側に回りたい。

#要点

  • AIのテストは正常系・上限値は手厚い一方、異常系・下限値・複合違反・「不可」と自分で書いた遷移の検証が系統的に抜ける。理由は「要件に明示された側だけを見る」傾向
  • ISTQBの4技法で測ると平均カバレッジは63%。同じテスト群でも基準次第で「100%」にも「25%」にも見えるので、感覚でなく規格で数えることが重要
  • 対策は「判断させず、数えさせる」。技法ごとにエージェントを分け、読取専用・コンテキスト無継承・行番号必須で独立性を構造的に担保する。同一プロバイダのAI同士のレビューは独立性にならない

#自分にとっての示唆

自分もClaude Codeにテストを書かせることが増えるはず。この記事の「抜けの型」はそのままチェックリストになる: AIがテストを出してきたら、異常系・下限値・複合条件・禁止遷移の4つを自分の目で数える。これは英語やRustの学習にも通じる話で、「AIの出力を検証できる側の知識」があって初めてAIは加速装置になる。今日のRust30分も、写経でなく「なぜこう書くか」を自分で説明できる状態を目指す。