はじめてのにき

_ Death of Optimizing Compiler

https://tabesugi.net/memo/2017/8.html

を見て、これ2017年8月の段階かあ、この段階でもまだ、たぶんその通りだなあと思っていた。本当に性能を気にする「ホットスポット」は、 nvidia や intel が、手動や、半手動というか専用ツールみたいなのでカリカリにチューンしてくれて、それで良い気がしていたと思う

今はこう、その「ホットスポット」というのがどんどん広がっていて、 Conv+Relu 速くしたカーネルです！とか LSTM 速くしたカーネルです！ての出してもらっても、 activation 変えたいよう、とか、 attention 入れたい、あるいは変えたいよう、とか言って、ホットスポットは少数の人におまかせー、というわけにもいかんのとちゃうか、という雰囲気になってる気がする

これについて、「djbも読み違えるるもんなんだなー」という印象で思ってたけど、今見ると domain specific tools みたいなのに言及していて、これがどういうものを想定していたかによっては、逆にちゃんと見通していたということかもしれない。というかむしろ現在の状況を語っていたという話な気もする

ところで関係ないけど、なんというか、逆にホットスポットで過剰に速くなってるせいで、研究者の思考が狭まってる気もするんだよな。 GEMM が速すぎて GEMM 使わないという選択肢が無いとか。

(14:00)

_ テュポーン

火力が足りないから確率2回発動に頼らざるを得なくて、2回発動のせいで序盤ダメージ当てすぎで安定しない。第一フェーズはとにかくダメージを入れてはならないので、チェーン待って撃つとかは逆効果、星6も使ってはならない

ややマシな手順

• ウララ: マンダ→ファブラヒール、あとはマンダとアレグロと絶を適当に。2手目のファブラヒールは、第二フェーズへの以降タイミングが不定すぎて回復入れられる保証が無いので、ここで入れとくといいぽい
• セラ: チェーン、あとはブリザガとチェーンもう一回、それだけ
• たまねぎ: 絶、ブリザガ*3、たくす、あと撃てればブリザガ(撃てない)
• トットとビビ: 星5*4、絶、星6

(14:07)