はじめてのにき

_ pytorch jit

https://pytorch.org/2018/05/02/road-to-1.0.html

なにやら trace のやつと @script のやつもう ready になる寸前なんだな。

(01:08)

_ 転職話

• グーグルを悪く書かない
• 他に受けた他社を良く書く

のふたつはゴールだったんだけど

http://shinh.hatenablog.com/entry/2018/06/17/203604

へのブクマとかtwitterとか眺めてると、グーグル < PFN みたいなのが結構あるし、他社については語られないし、なかなか難しい。他社も本当にすごい良さそうだったんだけど、具体的には書かないべきだろうしなぁ。あ、逆に僕が面接受けに行った会社の人はそのへんの情報は自由に共有してもらっていいです。

グーグルへのもう一つのどうしようもない不満というと、どうしても大企業なので one of them になっちゃう、というのがあったけど書いてなかった。あの会社で one of them にならない方法は Jeff Dean になるしかなく、無理ゲー。まあ完全に大企業の安定感とのトレードオフだし、僕は安定指向なのでそっちの方がいいや、て思ってたけど、逆の方もやってみたいな……と隣の芝に行ってみたというような。

その例をとってもそうだけど、当たり前だけど会社間に全順序つかないなぁ、というようなことは何度も思った。

人によってあうあわない、タイミングによってあうあわないあるわけで、グーグルでプロジェクト変える程度に気楽に、小さい会社も含めてジョブホップできるといいなぁ、と思う。そうなるとグーグルジャパンも焦って給料増やすかもしれないし。今までは基本的にグーグルが取っちゃうから他が給料上げてた構図があったと思う。シリコンバレーとかなんかそういう感じで回ってるよね。

11年も一つの会社に行っておいてなんだけど、まあみんなもっと動(く|ける)と良さそうだよね

(15:35)

_ cQASM

https://arxiv.org/abs/1805.09607v1

を斜め読みした。学生の時に鉄板教科書と言われてた Nielsen & Chuang が QASM の導入者、とか見て、おおーと思った。ていうかこれ系のアセンブリ言語みたいなのは、当時も見た気がするから、その当時見たのが Nielsen & Chuang のやつなのかもしれない。

ぱっと見の感想としては、こういうのは時期尚早、各人が適当に「俺のを標準にしようぜ」ってなるんじゃないかなぁ……という感じ。実際、 IBM Q の人たちぽい

https://arxiv.org/abs/1707.03429

の OpenQASM を斜め読みした感じだと、それ以前から cQASM ぽいところ考えてるぽいし、 cQASM の論文で OpenQASM が引用されてるしで、はてさて。

あとコンパイラも乱立しててすごいね。

(15:50)

_ zapcc

https://github.com/yrnkrn/zapcc

goma のライバルだ。この分野(バカパラレルじゃない並列/インクリメンタルビルド)は昔調べた時は死屍累々で

https://gcc.gnu.org/wiki/IncrementalCompiler

ftp://gcc.gnu.org/pub/gcc/summit/2003/GCC%20Compile%20Server.pdf

など

(16:00)

_ おもしろ

https://twitter.com/chinshonatsuyo/status/1008057976911876097

ブームが終わって、採算があって常識的に便利なものは残りつつも、単にブームで湧いただけのものが消えていってる、て話か。そりゃ当然そういうことは起きるよなあ。逆に言うと今後も今くらいの順当な強さをキープするのかね。

あとリプライがそれ以上に(悪い意味で)面白かった

(16:17)

_ ScaffCC

https://github.com/epiqc/ScaffCC

• clang が魔改造されてて、 C ぽい文法だけどいじくられてる何かを LLVM IR に変換する。ターゲットは x86-64(!) で深く気にしない
• opt に pass が色々足されてて、最適化しつつ量子情報向けの色々をやってる。ぱっと見てわかるのは scaffold の module というのが関数に対応してるぽいけど、それをインライン化してる https://github.com/epiqc/ScaffCC/blob/master/llvm/lib/Transforms/Scaffold/InlineModule.cpp
• LLVMバックエンドは完全無視(!)で opt の pass で標準エラー(なんで err() に出力してるねん!)に吐いて出力としている。たぶんレジスタアロケーションとかは完全にいらないのであろう。例えば https://github.com/epiqc/ScaffCC/blob/master/llvm/lib/Transforms/Scaffold/GenQASM.cpp

フロントエンド最初から書くんじゃなくて、 clang 魔改造、 lib/Target は完全に無視、ってのに笑った。最適化と IR が欲しいから LLVM やってるのかな？という推測はたぶんあってそう。

いやー荒々しくて良いなあ。コードもいいかんじに雑い(まあLLVMもあれだけど、それ以上に)。僕が LLVM IR => befunge トランスレータ書いた時の感覚に近い。いやこっちの方がちゃんとたくさんコード書いてる(そしてそれが逆に驚き)なのだけれども。

上記の推測の根拠は、当然バックエンドはほぼ使いまわし不能だろうし、既存の言語で量子コンピュータを抽象化しきってしまうと単なる古典コンピュータ用言語になってしまうので、当然かなりの量の魔改造が必要、ということから、 LLVM の使いまわせる部分てどこだ？と思ったことから。 C ライクな文法にして clang を使いまわしてるのは、まぁなるほどではある。 #include とか #define とか普通にやっててわらう。 "Quantum C" みたいな話だな… C 的に見ると大幅にサブセットぽいが

あと面白いなあ、と思ったことは、入力より出力の方がはるかに短いこと。これ高級言語で書く意味あるん？？

(20:38)

_ もう少し

• 量子ぽいゲートはどうなってんの？と思う。大文字ではじまってる H とか CNOT とかがそれで、ビルトイン関数として処理され続けて、最終的に *QASM のオペレーションに落ちる
• ループは全部展開してるぽい。可変長なループを作ると SEGV した

これ高級言語というよりマクロアセンブラじゃないか

(20:58)

_ On The Turing Completeness of PowerPoint

https://www.youtube.com/watch?v=uNjxe8ShM-8

SIGBOVIK てのがあるのかー。前似たようなの見たけどそれより楽しそう

http://sigbovik.org/

(22:48)

_ 中華スマホ

もらったり持ってたりしたスマホをあげまくっていて、気がついたら会社のスマホだけになってて、かつ会社のスマホ*2もバッテリ壊れかけてたり、reboot loopに入ったりしたので、やめる前に買ったのだった。

なんかあまりすごく面白い変化が最新機種にある気がしないなーということで、36500円とお手頃かつそれなりにスペックそろってそうな、 huawei honor 9 というやつを買った。

これがすごくいい。特に何もいいところは無いのだけど、必要十分で、でも単に時間が経過したというだけのことだと思うんだけど、持ってた nexus 6p と nexus 5x より普通に速い。進歩が速いだけに、あまり最新機種買う理由ないなあ……とか思った

あと、 PC と同じで、そろそろこれでもう十分でしょ、てスペックになってきてる気がする。でもまあ、曲がるスマホとか出そうらしいし、とりあえず今はそういう面白展開に期待

(22:46)

_ 月刊住職

https://withnews.jp/article/f0161022001qq000000000000000W03r10101qq000014185A

こういうのがあるのか…おもしろいな

(13:08)

_ 光学推論

https://twitter.com/RIKEN_AIP/status/1007427940785639424

https://twitter.com/issei_sato/status/1007448929913335808

中身は全然読んでないけど、これは本当にゲームチェンジャーになりうる話だよなあ、と興奮した(僕が興奮するということは、かなり高い精度でうまくいかないことを意味する)。中身を全く読んでない状態で勝手に(絶対に間違っている)要約をすると、学習ずみモデルの推論なんてデジタルでやる必要ないでしょ、という話。

それなりに量子化とかうんぬんの議論は知ってたし、そしてまがりになりにも物理出身だし、なんちゃってSF好きとしても物理法則は最強最速最省エネのコンピュータ、みたいな話は大好物なので、こいう話が飲み会のヨタレベルで事前にできなかったのは残念だなあ……と思う

(19:03)

_ 井戸

http://www.kore-eda.com/message/20180605.html

面白い話だった。特に印象に残ったのは井戸の話かな。二つの報道で、片方は翻訳や独自解釈などの伝言ゲーム解釈の結果、ひどく自分の意図と外れた発言になっていて、片方は伝言ゲームの結果、自分の発言した以上に自分の意図をあらわす素晴らしい表現になっていた、と。

同時通訳で解釈されちゃうのは微妙だと思うけど、記者レベルの報道である程度こういう意図だろうと解釈するのはアリだと思っている。報道てのもまぁ表現だと思っていて、「事実を中立に淡々と書くだけの公平なメディアを求める」みたいなのは、無理だと思うし、あまり有益だとも思ってない。

ただまぁ大胆に解釈したらそれなりに責任が伴って欲しくて、その解釈の結果、意図と全然違う話になってたら批判されてしかるべきだとも思う。だからそういう反論できる場があるとたぶん良いなあとも思う。この監督の場合、まあマスコミほど強くないかもしれないけど表現する手段があるから良いけど、立場が強くない人とかだと大変だよなあ

(12:31)

_ 弟の夫

https://www.amazon.co.jp/dp/B00ZI8CSQI/

なんだか最近こういう素直にいい話に本当に弱いな

すごく良かったと思うんだけど、何が良かったかというとよくわからず、表現のしかたがうまいのだろうなあというのと、単純に自分の認識の適当さに気付かさせてくれるとかか

(01:41)

_ 反経済学的発想

なんかわかる気がする

http://d.hatena.ne.jp/econ_econome/20070919/p1

(21:34)

_ ラーメンやさん

なんかまだ人が入りはじめる前くらいの時間に行って、席がガラガラなのに外で並べと言われて、不愉快に思った。待つのはいいけど座って待たせてよって。なんかサービスが悪いとかってほとんど気にならない方だと思うんだけどな

考えるに、わざと行列作って客寄せにしろって方針なのか、なんかそれとも単にオペレーションが腐ってたっていう、ハンロンの剃刀的な話なのか。実際忙しそうではあったし

(01:22)

_ あたたかいはてぶ

だ

http://b.hatena.ne.jp/entry/s/amachang.hatenablog.com/entry/we_joined_smartnews

と思って下の方を見ていくとチラホラと機嫌の悪そうな人たちが

(21:34)

_ NVMe

とかいうものがあるということを教えてもらう。PCにいつのまにか知らない端子が増えてるということに衝撃を受ける

$ sudo hdparm -Tt --direct  /dev/nvme0n1
/dev/nvme0n1:
 Timing O_DIRECT cached reads:   3362 MB in  2.00 seconds = 1683.70 MB/sec
 Timing O_DIRECT disk reads: 5092 MB in  3.00 seconds = 1697.20 MB/sec

速いなー。HDDとSATAのSSDも

$ sudo hdparm -Tt --direct /dev/sda
/dev/sda:
 Timing O_DIRECT cached reads:   948 MB in  2.00 seconds = 473.37 MB/sec
 Timing O_DIRECT disk reads: 634 MB in  3.01 seconds = 210.69 MB/sec
$ sudo hdparm -Tt --direct /dev/sdb
/dev/sdb:
 Timing O_DIRECT cached reads:   910 MB in  2.00 seconds = 454.93 MB/sec
 Timing O_DIRECT disk reads: 1366 MB in  3.00 seconds = 455.12 MB/sec

(01:24)

_ 機械学習、温故知新

https://turingcomplete.fm/14

でshiroさんが、「昔やったことが意外なところで役に立つことがある」的なことを言っていて

http://rebuild.fm/206/

でも森田さんが、「今現世的な益がなさそうに見えても面白いと思ったことをやっておくと、後でその仕事が必要になって飛び込むことができるかもしれない」というようなことを言っていた。

これは本当に良い話(rebuild聞いてて気付いたけど、僕も「良い話」という言葉を時々使うのは完全に森田さんの影響だな)で、昨今の深層学習は温故知新的な話が多いなあと思う。大きいところでは

• ニューラルネットが深くなっても学習可能になって、不死鳥のように蘇えった
• Uberが「GAも生き返る！」とか発表したりしたり https://eng.uber.com/deep-neuroevolution/
• 計算リソースがアホみたいに必要だけど(現段階では)単純な処理しか必要ないため、GPUですら機能多すぎでオーバーキルで専用アクセラレータ作るってのが普通になった
• systolic arrayとか死語だったらしい
• プログラム言語もどういうのが適切かーみたいな話をみんな考えてて、突然swiftがあらわれたりと
• 型システムも再考されるべきだと思う。中途半端な依存型みたいなのがたぶん欲しい

などなど

(10:36)