はじめてのにき

_ CPU の創りかた

https://twitter.com/sudamin/status/1509738269189492736

えっ 64bit 版、どうやって、と思ったらエイプリルフールだった。騙された

(14:17)

_ 縁をだいじに

コロナ以来、ほぼ完璧に在宅勤務となり、もともと高かった QoL が限界突破して、すんごいラクになった。ただかわりに失われたものとして家族以外との人間関係がある

もともとそれほど寂しがりやとかでもないし、ちょくちょく喋る友達とかはともかく、親友的なやつは一人もいない。でまあそのちょくちょく話す友人、みたいなのとコロナ以降ほとんど話をしてないみたいな状態になっている。家では年中喋ってるし、会社の同僚とはオンラインでしょっちゅう話すので、さみしいとかそういうことは特に無いし、まあこれはこれで特に問題ないしいっか、みたいに思っていた

もともと妻が「そういうつながりは大事にしろ」と言ってくれてて、まあそうやな、と思いつつも特に何もしてなかった。ただ最近、訃報を1年遅れくらいで知る、ということが起きて、これはやっぱ良くないな、と。今から15年から10年くらい前にかなり頻繁に飲んだりしてた人で、いろいろ教えてもらったしいろいろお世話になったのに、不義理なことをしてしまった、としんみり

というわけで、なんかちょっとずつでも、最近会ってない人たちと会う、みたいなことをしていきたいなあ、などと思っている

(13:17)

_ h100

いろいろ気になるが、やっぱソフト屋としては transformer engine 気になるよなあ

https://blogs.nvidia.com/blog/2022/03/22/h100-transformer-engine/

精度の選択を dynamic にやるってのは、発想になかった

(16:52)

_ torch.mm

すぐわからんくなる

linear(x,w): Gemm(x(ND), w.T(1D or 2D))
addmm(b,x,w,alpha,beta): Gemm(b(0D or 1D or 2D), x(2D), w(2D))
matmul(x,w): Gemm(x(ND), w(ND))
bmm(x,w): Gemm(x(ND), w(ND))
mm(x,w): Gemm(x(2D), w(2D))

(09:34)

_ duck typing

なんというか、そのうち list でも tuple でも ndarray でも良いみたいな感じになったあげく、そのくらいなら別に良いことも多いんだが、 data iterator みたいなのが来ると終わりですね、みたいなことになりがち。そしてそういう関数に str を渡したら破滅する

すごい generic なので dict でも list でも、それらの tuple でも受けれますよみたいな関数を作ると、まあそれも大混乱でたいてい考え忘れがある

duck typing そのものが悪いという気はしてないのだけど、関数 bar が foo を list を引数に呼んでるとして、新しく baz が str で foo を呼んでしまったエラーを見た時、「baz が str を foo に渡したのが悪い」と考えるより「foo が str もサポートしてないのがいけないし、サポートすると便利に違いない」と考える人が多い気がしていて、この現象にある程度機械的に待ったをかける手段として、 structual|nominal subtyping が良いみたいな気分になったりする

一方で reflection (具体的には isinstance と hasattr) が無い duck typing な言語があれば、それは割と機能する？みたいな気もする。つまり静的型は必須、と思ってたんだけど、動的型を問いあわせる手段が無ければ動的型でも割とコード書けたりするのかな？と思ったという話

(03:24)

_ 民主主義と独裁

https://twitter.com/tanakmura/status/1514658717484326915

銀英伝面白かった、というのを思い出した

民主主義はコストもかかるし決定遅いし衆愚になるし、というか主人公が属してる民主主義国は大変クソみたいな政治家が牛耳っていて、もう一人の主人公は敵国の完璧な独裁者で、そんな状況でも民主主義が良いんだよ、というような話

いや、別に民主主義が良いという話ではなかったと思うけど

あと前もどこかに書いたけど、会社は、雇われる側が独裁される対象を選べるのと、雇う側が独裁する対象を選べるのとで、まあ違いがあるように思う

(20:18)

_ efabless

https://efabless.com/

100万円で作れるのかー。楽しそう

(15:51)

_ 解説

というか無料でやってくれてた期間があったのか

https://vlsi.jp/

https://yukium.hatenablog.jp/entry/2022/01/05/224858

たのしそう

(15:58)