トップ «前10日分 最新 次10日分» 追記

はじめてのにき

ここの位置付け

2004|11|
2005|03|04|05|06|07|08|09|10|11|12|
2006|01|02|03|04|05|06|07|08|09|10|11|12|
2007|01|02|03|04|05|06|07|08|09|10|11|12|
2008|01|02|03|04|05|06|07|08|09|10|11|12|
2009|01|02|03|04|05|06|07|08|09|10|11|12|
2010|01|02|03|04|05|06|07|08|09|10|11|12|
2011|01|02|03|04|05|06|07|08|09|10|11|12|
2012|01|02|03|04|05|06|07|08|09|10|11|12|
2013|01|02|03|04|05|06|07|08|09|10|11|12|
2014|01|02|03|04|05|06|07|08|09|10|11|12|
2015|01|02|03|04|05|06|07|08|09|10|11|12|
2016|01|02|03|04|05|06|07|08|09|10|11|12|
2017|01|02|03|04|05|06|07|08|09|10|11|12|
2018|01|02|03|04|05|06|07|08|09|10|11|12|
2019|01|02|03|04|05|06|07|08|09|10|11|12|
2020|01|02|03|04|05|06|07|08|09|10|11|12|
2021|01|02|03|04|05|06|07|08|09|10|11|12|
2022|01|02|03|04|05|06|07|08|09|10|11|12|
2023|01|02|03|04|05|06|07|08|09|10|11|12|
2024|01|02|03|04|

ToDo:


2023-11-17

_ 謎の圧縮技術

夢の中で、任意の画像を四角形の組みあわせで表現して圧縮するという技術の github を見て、「えっ、すごい、そんなことできるの?」と思って説明文を読んで「なるほどー、すごい!」と感動していた

朝起きて、「えっ今の夢すごい発見してない……?自分が説明聞かないと意味がわからないような技術が夢の中で説明されるって、すごくない?普通、夢の中の説明とか起きてみると意味不明だけど、今のやつははっきり理屈理解できるし。大発見だ!早くメモを取ろう!」と興奮していたけど、普通に意味不明でした

(10:31)

_ この圧縮されたファイルは

□だけで構成されてるので、普通のポストスクリプトファイルとして表現できてブラウザで見られます!みたいな説明がなされていた

そもそもポストスクリプトブラウザで表示できないやろ

(10:33)


2023-11-15

_ カーテンコール

筒井康隆がそろそろ打ち止め、ということで読んだ。もともとすごく好きな作家というわけではなく……記憶が定かではないが、中高生くらいの時、星新一が好きで(今も好きだ)、対比されてるらしいから読んで、下品で星新一より面白くない、みたいな印象で、まぁすごく好きな作家でないのは間違いない

読んでると、まぁたいていの短編は、面白くない。というかブツ切りすぎだろ!まぁでも好きな人がいることは想像できるし、文を読んでいて心地良い感じみたいなのは感じるんだよな。そういえばそんな感じだった気がする。あまりあわないと言いつつ、10冊ちょいくらいはたぶん読んだ?七瀬とか読んだはずだしな。マジメに話を追うとそんなに楽しくないが、軽妙な雰囲気を楽しむだけなら楽しい、みたいな。僕はそういうものを別に小説に求めてないんだけど、あまりうまい表現でないと思うのだけど「ああ、この人、なんかメチャクチャ文章書くの上手なのだなぁ」と感じる(この最後の僕の文を筒井康隆が書くとどれだけステキになるだろう……みたいなことを思う)

筒井康隆自身が出てくる話が時々出てきて、しんみりする。プレイバックやカーテンコールで自作キャラや自分の関係者集めてセルフパロする、みたいなノリも楽しいし(唯野教授のやつ読みたくなったからうまい宣伝だ……)、死別されたらしいお子さんとの話は、まぁ、しんみりする、くらいの表現しか僕はできないが、そんな感じ

全体的に、飄々としつつもところどころ感傷的、社会風刺の時事ネタなんかも自由にやっている、という感じで、なんかステキな晩年をお過ごしですね……という気持ちになった

(00:11)

_ 親バカ日記

24ヶ月

2歳。わりと身近で大変な話も聞くだけに、うちのこがおそらく特に大きな問題なく育っているのはありがたいことだなぁ……と思う

かなり前からそうだけど、救急車などの、いわゆる働く車やら、飛行機などが好きらしい。近くに航空公園というのがあるので、そこの飛行機博物館みたいなやつに連れていったところ、結構気に入っていた気配があった上、帰った後も自分が中にいる写真を指さして「コーキー、ヒコーキー」なんて言っているので、ちゃんとそこで見たものを覚えているのだなぁ、と感心する。いやまぁなんかそれ以前から、道を歩いてると「コーキー」とか言っていて、ふーんと上を見ると飛行機が飛んでいるという感じで、そもそもなんか僕より感度が高い

言葉といえば、子にとって「パパ」は母親or父親をさす言葉らしい。つまり母親に対しても「パパ」と呼ぶ。なんでそうなったかは、たぶんわかりやすくて、妻は「パパを起こしに行こうね〜」的な呼びかけをしてたのに対して、僕はフツーに「○○(名前)を起こしに行こうね〜」とやってたからかと思う

出かける前に自分が裸足だと「くつした、ないねー」みたいなことを言うのだけど、僕が裸足でもそう指摘して教えてくれるし、あげくの果てに、マッチ売りの少女の絵本で少女が裸足なことを指摘して「くつしたー、ないねー」などと言っていた

ここ最近ですごいな、と思うのこととして、「いっしょ」という言葉を適切に運用してるぽいことがある。飛行機の写真と飛行機の風船を比べて「いっしょ」と言ったり、トマトの絵と柿の写真を比べて「いっしょ」と言ったり。後者は間違っているわけであるが、同じものであるという主張は理解できるわけで、やるなあ……と

(02:23)


2023-11-08

_ kronecker 分解

https://github.com/shinh/test/blob/master/test_kron.py

たぶんこれであってると思うんだけど、そんなに自信はない。つーか行列の中の行列に ^T とかついてるとマジで目が泳ぐ以外の気持ちがないので、数式なんていう厳密な意味論が定義されてないわけわからんものを使うのをやめて、操作的意味論が定義されてる numpy 関数として書いてほしい……

んーで、 pretrain をそのまま使う感じだと、素直な factorize の方がいい感じじゃない?という感触を得ているのだけど、 kronecker 積にするメリットてなんなんだ?

https://arxiv.org/abs/2109.06243

をちゃんと読むかというと、たぶん読まないんだけど……

Gemm(x, w1 @ w2)

Gemm(x, kron(w1, w2))

のどっちが嬉しいですかって話で、 fine tune したら後者が勝つってのはよくわからない。 kronecker 分解は僕の理解が正しければ

Gemm(x, kron(w1(0), w2(0)) + kron(w1(1), w2(1)) + ...)

みたいな感じで svd どこまで使うかというのが選べるとは思うけど、 usv の s がデカいので、まぁ追加学習なしでたいした効果ないのはそんな気がする

(00:49)


2023-11-06

_ モデル圧縮

https://arxiv.org/abs/2202.07105

https://ojs.aaai.org/index.php/AAAI/article/view/26304

読んでないけど、後者によると transformer の weight は低ランク近似しづらいのかな

(13:06)


2023-10-24

_ 圧縮

https://docs.google.com/document/d/1a5JTuZQrcU2cNFaI3Eg9kA0cPLaOaE5nzh8eHzXVZ4A/edit

こういう「熱意」て感じの文章好き

(17:12)


2023-10-22

_ Language Modeling Is Compression

https://arxiv.org/abs/2309.10668

他はまぁ、そうやろうなという感じなんだけど、画像と音声の圧縮ができる、てのが相当意味がわからない

テキストって画像や音声と違って、隣と同じか近いの返しておくと当たりやすい、て特徴がないと思うんだけど……

にしても Hutter prize の人とかが著者に入ってるんだ

(10:08)


2023-10-16

_ おうちが建ちました

現状、最高オブ最高という感じではある。全館空調と気密性高いというあたりがウリの一つなので、その主張の確認には冬と夏を越さないとわからんが……

最高なのは単純に広いということであり、単純に自分達が欲しいと思った間取りがそのままあるということである。自分達で10回近く間取りを書いたのだけど、今見返すと書きなおすたびに、現状に近い、より良い状態になっており、うーんイテレーションて大事よねえとなる

ちょっと面白いなと思っているのは、僕個人の部屋という観点ではここ15年くらいでは一番小さくなった。なんというか、自分に必要なスペースというのがわかってきて、このスペースがあれば問題ないやろうなぁ、というのが割とわかるという気がしていて、ちょうどそのくらいのサイズの、自分の部屋、という感じになっているので、それはそれで気にいっている。他の連中は正直どのくらいスペースが欲しいかわからんので、僕のように「これでいいでしょ」的なラインを作りにくいというのがある気がする

とりあえず、遊びに来てくださるかたは大歓迎です。ただし東村山ですが。。。。。

いやその、東村山なかなかいいところで

  • いくつかの線の乗り換え駅である
  • 八国山緑地がある (たぶんトトロがうんぬんの森もそれ系)
  • 多摩湖と西武園遊園地が近すぎ

みたいな感じで、「自然があるが、それなりに便利なとこがいい」みたいな僕の要求を満たしてくれるんだよねえ

家自体としては、まぁその、クソ広い。家自体がまず広い。入口にムダに広い駐車場があり、裏にムダに広い庭がある。中もなんか、いちいち広いなぁ、という感じ。まぁでも、無限の富豪という感じではその、ないので……なんか庶民的な豪邸、みたいな感が僕としてはある

(23:41)

本日のツッコミ(全2件) [ツッコミを入れる]

_ herumi [庶民的な豪邸、見てみたい……]

_ shinh [お久しぶりですー機会があればぜひぜひいらしていただければと。。]


2023-10-10

_ 親バカ日記

22ヶ月 & 23ヶ月

最初から限界だと思ってるかわいさがいくらでも限界突破する感がある

わりといろんな種類の二語文を話すなど、高い知能を持っていて、僕の感覚では、これはまぁ、万物の霊長と言って良いと思う

ふと思うんだけど、ベジタリアンなり今より進んだ動物愛護が常識になると、「万物の霊長」などという呼びかたも差別発言となり、僕もキャンセルの対象になるかもしれない。ちょっと考えてみると、このクソどうでもいい内容の日記でキャンセルされるくらいの偉人になっていれば、それは大成功というものだろう。えーとつまりそれはどうでもいい

さて「まめ、まめ、おかわり」なんて言ってて、やばいくらいかわいい。僕が黒くない服を着ていると「かわいー」とか言ってくれる。どうも黒い服は万物の霊長に不評らしい。覚える単語の順序には、色々と思うものがある。「でんしゃ」「ぶどう」「ぞうさん」「はりねずみ」「ロードローラー」なんかはかなりはっきりと話すが、「わんわん(つまり犬)」と「にゃーにゃー(つまり猫)」は結構間違えていて、でも少しずつ間違え率が落ちている感じで(最初は50%で今は体感15%くらい)、車ぽいものはとりあえず「きゅーきゅーしゃ」か「しょーぼーしゃ」か「ぶーぶー」をランダムに言ってる感じ。一方で救急車を本当に見つけた時は大人が気付いていない段階でも「きゅーきゅーしゃー!」と盛りあがっていたりする。なんというか、親が自分の感覚で考える「子供の思考モデル」とは全然違うもんだなぁ、と日々感じる

他人とのコミュニケーションは未だに控え目なようだけど、話を聞く感じでは、保育園では普通に自宅とかわらない態度を取り始めたらしい。つまり、保育園の先生方や、ひょっとしたら回りの子供は、身内と認識してるのかもという気もしないでもない

それ以外の、「他人」的な存在がいると、大人しくなるのは、相変わらず。義父母の実家に、従兄弟といっしょにいるとうじうじしてるが、従兄弟が帰ると、とたんに、この世の春とばかりにウロウロする。2歳近いのに1歳付近の従兄弟に泣かされている。外に出ると基本臆病で、無鉄砲な行動をしないので、そういう意味では扱いやすい子供なんではと思っている

(23:37)


2023-09-26

_ knuth vs chatgpt

https://www-cs-faculty.stanford.edu/~knuth/chatGPT20.txt

面白そうすぎる、あとでよむ

(15:56)


2023-09-23

_ 全ての対数グラフ

ttps://pubs.aip.org/view-large/figure/85295136/819_1_5.0150209.figures.online.f2.jpg

かっこいいなぁ。いくつか説明読んでもわからん線がある

auto link しちゃうけど html なんだよな。。

(08:30)


2024年
4月
1 2 3 4 5 6
7 8 9 10 11 12 13
14 15 16 17 18 19 20
21 22 23 24 25 26 27
28 29 30
1.shinh(2023-10-21 13:35) 2.herumi(2023-10-18 05:14)
search / home / index

全てリンクフリーです。 コード片は自由に使用していただいて構いません。 その他のものはGPL扱いであればあらゆる使用に関して文句は言いません。 なにかあれば下記メールアドレスへ。

shinichiro.hamaji _at_ gmail.com / shinichiro.h