toshiki

AIエージェントが設計したAIチップ「openTPU」

· Hacker News #130

RTL・命令セット・シミュレータ・コンパイラを1つのリポジトリにまとめ、AIエージェントに設計させたAIアクセラレータ。FPGA上で実際にLLMが動いた。

  • #hardware
  • #fpga
  • #ai-agents
  • #systemverilog
  • #llm

#なぜ今日これを選んだか

「AIがハードウェアを設計した」という見出しに対して、Hacker Newsでは「実際は人間が評価環境を作り、AIはその中で最適化しただけ」という議論が一番盛り上がっていた。AI時代にエンジニアの役割がどこに残るのかを、ソフトとハードの境目で具体的に見られる題材だと思って選んだ。

#要点

  • openTPUは、RTL(SystemVerilog)・ISA・シミュレータ・コンパイラ・プロファイラを1つのリポジトリにまとめ、AIエージェントにアクセラレータの設計を進めさせたプロジェクト。ライセンスはApache 2.0
  • Xilinx Kintex-7 のFPGAカード上で、int8重みのQwen3-0.6Bを毎秒約21.6トークン、LFM2.5-230Mを毎秒約59トークンでデコードできた。DRAM帯域の効率はピークの82〜94%
  • コメント欄の論点は「シミュレータが実機の性能を正しく予測できているか」。AIはシミュレータの中では最適化できても、その評価軸を作って現実と照らし合わせるのは人間の仕事、という見方が多かった

#自分にとっての示唆

AIに任せられるのは「決められた評価の中で良い答えを探すこと」で、何を測るか、その測り方が現実と合っているかを決める部分は人間に残る。これはソフトウェアでも同じで、自分が作っている計測系のアプリでも、AIにコードを書かせるほど「測定値が本当に正しいか」を自分の専門知識で確かめる役割が重くなる。ハードウェアはまだ遠い目標だが、まずはopenTPUのシミュレータ部分(Python)を読んで、評価環境がどう組まれているかを1つ理解するところから始めたい。Rustでの実装に移す練習題材にもなりそうだ。