はじめてのにき

_ 親バカ日記

25ヶ月

言語能力が急速に育っている。こっちがまぁまぁ複雑なことを言っても伝わっているし、3語くらい使った主張もする。「くつした、ないねー」が「パパ、くつした、ないねー」に1ヶ月ほどで進化した

やるなぁ、と思うのは、ジグソーパズル。100均でなんとなく幼児用のジグソーパズルを買った。バス、パトカー、救急車、消防車、がそれぞれ、3,4,5,6ピースの簡単なパズルになっているというやつ。初日で3,4ピースのやつができて、「おお、意外とすごいぞ？」と思っていたら次の日だったくらいで5,6ピースのやつもできるようになっていた。調子に乗って35ピースのやつを買って、さすがに全然進まないのを見つつ「3歳になるくらいまでにできるかなぁ」なんて言ってたけど、既に3割くらいなら自力で埋められるようになっている

たぶんここ2ヶ月くらい、いわゆるイヤイヤ期というやつで、いろいろなことを拒否する。自分でやりたいと思ったことをやらせてもらえない時や、今やりたくないことをやらされる時の反発が強く、なかなか自分では履かないものだから靴下を履かせると、すごく怒っていったん脱いでからまた履いたりしている。ただ、人から聞いたり読んだりする、イヤイヤ期が強い子と比べると、ずいぶんとかわいいものだという感じ。具体的には、怒っていても5分もすれば忘れてくれる

他の知能に比べて、色のわかってない感じが、なんか色覚がちょっと違うかも？と思ったりする。まぁぐぐってみると、2歳くらいだと非標準的な色覚かどうかのチェックは困難ということで、別になんともないのかもしれない

あとそういえば、「ママ」をたまに言うようになったのと、僕のことを「はまじ」とたぶん2回くらい呼んだのが面白かった。親を名字で呼び捨てにするのはヒナまつり感がある

(15:15)

_ イーロンマスク

伝記を読んだ。なにやら長かったが、いろいろと面白かった

いろいろとあまり考えかたに同意できない人ではあるのだけど、とても真摯に生きてる人なんだろうなぁ、というような感想を持った。金持ちがフザけてる、みたいな認識だったんだけど、いやフザけてるだけだった事件も多いけど、少なくとも僕よりはマジメに生きてるし、批判的に見ることはできなくなった。もちろん彼の会社で働きたいとかは思わないが

すごい事件みたいなのがたくさんあったけど、特に幼少期の環境がヤバいのと、宇宙まわりと、あとやっぱりツイッター買ったあたりが楽しい感じだった。ツイッターにスペースXとかの側近連れて乗り込むとか、すごいノリだなぁというか、これができるのが会社を買うということかーというか。買った直後に CEO 解雇したりとかもすごい。それで退職金とかストックオプションが変わるらしいが、いまいち詳細がわからなかったので気になっている

エンジニアであること、技術の知識が誰よりもあることに誇りを持っているようだ。こういう社長って、現場からすると「社長が現場に口出すとややこしくなる……」みたいなケースがあると思うのだけど、実際どんな感じなのかねぇ

あとまぁなんか、でも、ツイッターはやめるといいんじゃないかな。。悪い意味で相性が良すぎる感があるからムリなんだろうけど

本には全く関係ない話。(雑に実現力と妄想力をかけ算して評価するとすると)世界最強のビジョナリーだと思うのだけど、長寿についてはどう思ってるのかなぁ、なんてことが気になった。人口減少は人類滅亡の現実的なリスクの大きなものの一つ、と考えて、多産を推奨しているらしいけど、僕としては不老長寿で実現して欲しいんだよな。僕は特に根拠もなく「可能なら無限に生きたいが150年くらいは生きられるだろう」くらいに思っているのだけど、イーロンが言及しないなら、「実はムリなのでは？？」みたいな不安を持った (まぁ僕は自分の妄想を信じる能力に欠けているので、ムリなのかもなぁ、とも普通に普段から思っているが)

(17:02)

_ 豪邸

過ごしやすい季節に引っ越したので真価が発揮されていなかったが、寒くなってくると全館空調と床暖はすごく良い。屋内だいたい同じ温度で、寒くて入れりたくない部屋みたいなのが存在しないので活発に動くようになった。朝起きた時に部屋から出たくない……とかもない。もちろん眠いというのはあるが、若干活動的になったという気がする

家の中だと非常にゆったりした服で十分で、たぶんあったかいパジャマとか完全に不要だから捨てていいな……という感じ。あと暖房じゃないから乾いてないというのもありそう。いろいろ良い

ハウスメーカーは一条工務店というやつで、規格化されたパーツを大量自社生産するので、高機能なものが比較的安い、デフォルト設定が高機能、というのがウリらしい。同じ機能をハイエンドハウスメーカーでやろうとすると坪単価100万以上かかりそうなところ、70万とか、そういう感じ。営業さんが言っていた「家のユニクロ・ニトリ」という表現がしっくりきていて、良い品質のものをお手頃価格で、みたいな趣旨はかなり刺さる感じだった

弱点はたぶんデザイン性とカスタマイズ性なんだと思うけど、あまりそのへんにこだわりが無いので、うまくあっていた。間取りも基本 45cm のグリッドを単位として考える感じで、素人でもいじりやすい感じで、カスタマイズ性低いのは扱える程度の複雑さになっててむしろ良いくらいという気さえした

冬になって、僕とかと似た嗜好を持ってる人には結構オススメできそうという気がしたので、書いてみた。紹介されて声かけると安くなるらしい(うちは親戚が一条で建てたということを後で知ったので損をした)ので、もし紹介されたい人がいれば、僕もなんかトクするらしいので、ぜひ的な

そういえば、豪邸と書いてるけど、実際のところ僕の expectation が慎しいからそう感じるだけではあると思います……

(16:40)

_ 謎の圧縮技術

夢の中で、任意の画像を四角形の組みあわせで表現して圧縮するという技術の github を見て、「えっ、すごい、そんなことできるの？」と思って説明文を読んで「なるほどー、すごい！」と感動していた

朝起きて、「えっ今の夢すごい発見してない……？自分が説明聞かないと意味がわからないような技術が夢の中で説明されるって、すごくない？普通、夢の中の説明とか起きてみると意味不明だけど、今のやつははっきり理屈理解できるし。大発見だ！早くメモを取ろう！」と興奮していたけど、普通に意味不明でした

(10:31)

_ この圧縮されたファイルは

□だけで構成されてるので、普通のポストスクリプトファイルとして表現できてブラウザで見られます！みたいな説明がなされていた

そもそもポストスクリプトブラウザで表示できないやろ

(10:33)

_ カーテンコール

筒井康隆がそろそろ打ち止め、ということで読んだ。もともとすごく好きな作家というわけではなく……記憶が定かではないが、中高生くらいの時、星新一が好きで(今も好きだ)、対比されてるらしいから読んで、下品で星新一より面白くない、みたいな印象で、まぁすごく好きな作家でないのは間違いない

読んでると、まぁたいていの短編は、面白くない。というかブツ切りすぎだろ！まぁでも好きな人がいることは想像できるし、文を読んでいて心地良い感じみたいなのは感じるんだよな。そういえばそんな感じだった気がする。あまりあわないと言いつつ、10冊ちょいくらいはたぶん読んだ？七瀬とか読んだはずだしな。マジメに話を追うとそんなに楽しくないが、軽妙な雰囲気を楽しむだけなら楽しい、みたいな。僕はそういうものを別に小説に求めてないんだけど、あまりうまい表現でないと思うのだけど「ああ、この人、なんかメチャクチャ文章書くの上手なのだなぁ」と感じる(この最後の僕の文を筒井康隆が書くとどれだけステキになるだろう……みたいなことを思う)

筒井康隆自身が出てくる話が時々出てきて、しんみりする。プレイバックやカーテンコールで自作キャラや自分の関係者集めてセルフパロする、みたいなノリも楽しいし(唯野教授のやつ読みたくなったからうまい宣伝だ……)、死別されたらしいお子さんとの話は、まぁ、しんみりする、くらいの表現しか僕はできないが、そんな感じ

全体的に、飄々としつつもところどころ感傷的、社会風刺の時事ネタなんかも自由にやっている、という感じで、なんかステキな晩年をお過ごしですね……という気持ちになった

(00:11)

_ 親バカ日記

24ヶ月

2歳。わりと身近で大変な話も聞くだけに、うちのこがおそらく特に大きな問題なく育っているのはありがたいことだなぁ……と思う

かなり前からそうだけど、救急車などの、いわゆる働く車やら、飛行機などが好きらしい。近くに航空公園というのがあるので、そこの飛行機博物館みたいなやつに連れていったところ、結構気に入っていた気配があった上、帰った後も自分が中にいる写真を指さして「コーキー、ヒコーキー」なんて言っているので、ちゃんとそこで見たものを覚えているのだなぁ、と感心する。いやまぁなんかそれ以前から、道を歩いてると「コーキー」とか言っていて、ふーんと上を見ると飛行機が飛んでいるという感じで、そもそもなんか僕より感度が高い

言葉といえば、子にとって「パパ」は母親or父親をさす言葉らしい。つまり母親に対しても「パパ」と呼ぶ。なんでそうなったかは、たぶんわかりやすくて、妻は「パパを起こしに行こうね〜」的な呼びかけをしてたのに対して、僕はフツーに「○○(名前)を起こしに行こうね〜」とやってたからかと思う

出かける前に自分が裸足だと「くつした、ないねー」みたいなことを言うのだけど、僕が裸足でもそう指摘して教えてくれるし、あげくの果てに、マッチ売りの少女の絵本で少女が裸足なことを指摘して「くつしたー、ないねー」などと言っていた

ここ最近ですごいな、と思うのこととして、「いっしょ」という言葉を適切に運用してるぽいことがある。飛行機の写真と飛行機の風船を比べて「いっしょ」と言ったり、トマトの絵と柿の写真を比べて「いっしょ」と言ったり。後者は間違っているわけであるが、同じものであるという主張は理解できるわけで、やるなあ……と

(02:23)

_ kronecker 分解

https://github.com/shinh/test/blob/master/test_kron.py

たぶんこれであってると思うんだけど、そんなに自信はない。つーか行列の中の行列に ^T とかついてるとマジで目が泳ぐ以外の気持ちがないので、数式なんていう厳密な意味論が定義されてないわけわからんものを使うのをやめて、操作的意味論が定義されてる numpy 関数として書いてほしい……

んーで、 pretrain をそのまま使う感じだと、素直な factorize の方がいい感じじゃない？という感触を得ているのだけど、 kronecker 積にするメリットてなんなんだ？

https://arxiv.org/abs/2109.06243

をちゃんと読むかというと、たぶん読まないんだけど……

Gemm(x, w1 @ w2)

と

Gemm(x, kron(w1, w2))

のどっちが嬉しいですかって話で、 fine tune したら後者が勝つってのはよくわからない。 kronecker 分解は僕の理解が正しければ

Gemm(x, kron(w1(0), w2(0)) + kron(w1(1), w2(1)) + ...)

みたいな感じで svd どこまで使うかというのが選べるとは思うけど、 usv の s がデカいので、まぁ追加学習なしでたいした効果ないのはそんな気がする

(00:49)

_ モデル圧縮

https://arxiv.org/abs/2202.07105

https://ojs.aaai.org/index.php/AAAI/article/view/26304

読んでないけど、後者によると transformer の weight は低ランク近似しづらいのかな

(13:06)

_ subformer

https://arxiv.org/abs/2101.00234

(21:09)

_ 圧縮

https://docs.google.com/document/d/1a5JTuZQrcU2cNFaI3Eg9kA0cPLaOaE5nzh8eHzXVZ4A/edit

こういう「熱意」て感じの文章好き

(17:12)

_ Language Modeling Is Compression

https://arxiv.org/abs/2309.10668

他はまぁ、そうやろうなという感じなんだけど、画像と音声の圧縮ができる、てのが相当意味がわからない

テキストって画像や音声と違って、隣と同じか近いの返しておくと当たりやすい、て特徴がないと思うんだけど……

にしても Hutter prize の人とかが著者に入ってるんだ

(10:08)

_ おうちが建ちました

現状、最高オブ最高という感じではある。全館空調と気密性高いというあたりがウリの一つなので、その主張の確認には冬と夏を越さないとわからんが……

最高なのは単純に広いということであり、単純に自分達が欲しいと思った間取りがそのままあるということである。自分達で10回近く間取りを書いたのだけど、今見返すと書きなおすたびに、現状に近い、より良い状態になっており、うーんイテレーションて大事よねえとなる

ちょっと面白いなと思っているのは、僕個人の部屋という観点ではここ15年くらいでは一番小さくなった。なんというか、自分に必要なスペースというのがわかってきて、このスペースがあれば問題ないやろうなぁ、というのが割とわかるという気がしていて、ちょうどそのくらいのサイズの、自分の部屋、という感じになっているので、それはそれで気にいっている。他の連中は正直どのくらいスペースが欲しいかわからんので、僕のように「これでいいでしょ」的なラインを作りにくいというのがある気がする

とりあえず、遊びに来てくださるかたは大歓迎です。ただし東村山ですが。。。。。

いやその、東村山なかなかいいところで

• いくつかの線の乗り換え駅である
• 八国山緑地がある (たぶんトトロがうんぬんの森もそれ系)
• 多摩湖と西武園遊園地が近すぎ

みたいな感じで、「自然があるが、それなりに便利なとこがいい」みたいな僕の要求を満たしてくれるんだよねえ

家自体としては、まぁその、クソ広い。家自体がまず広い。入口にムダに広い駐車場があり、裏にムダに広い庭がある。中もなんか、いちいち広いなぁ、という感じ。まぁでも、無限の富豪という感じではその、ないので……なんか庶民的な豪邸、みたいな感が僕としてはある

(23:41)