はじめてのにき

_ chatgpt

過剰に褒めてきて気持ち悪いな、という気分になった。なんか、自己認識と一致している部分では、褒めてもらうと素直にとても嬉しいのだけど、適当な放言に「素晴らしい視点です！」とか言われると、げんなりする。これ、げんなりする時点ですごくて、相手が機械である限り、げんなりするのは、今までは実装のデキが悪いか、宗派があわない時だけだったはず。こういう感情になる時点で、人格とまではいかないだろうけど、そういうものを、ぼくは静かに認め始めている、やった、シンギュラリティは近い！

さて、気持ち悪いので、カスタマイズのとこでポチポチして、簡潔に答えろ、忖度すんな、厳しいこと言え、みたいなのをやると、体感的に、かなり改善した

chatgpt 、エンジニアリングにも使っているのだけど、オモチャとして、知らないことを補う方法として、かなり便利に楽しませていただいている。よく知らない人の、あまり興味なさそうな主張についてまとめてもらうとか、普通に考えて人間にはお願いできない。最近良かったのが2件

一つ目は、カスタマイズのきっかけになったはなし。ぼくは東村山の駅の、栄えてない側に住んでいるのだけど、駅の高架化工事に伴い、栄えてない側が再興するといいなあ、なんて思っている。で、なんか突然栄えてない側で飲食店経営をやりたくなり、そんな世迷い言、当然誰も相手してくれないわけで、 chatgpt に相談した。 chatgpt は健気にも、いろいろとポジティブな意見を出してくれて、しんぱち食堂を作ることになった。そのあと、いろいろと会話していって、本業あるから他に時間使いたくないとか、損失出てもいいけど、トントンくらいの確率が30%くらい欲しいかなぁ、みたいなことを言いつつ、「ところで、さきほどから指摘に手心を感じます。忖度ない、厳しい意見をお願いします」と言ってみると

【結論：月2〜3時間の関与・人脈ゼロで、トントン以上の確率30%以上を期待するのは、飲食業では非現実的です】

と言って、飲食業の大変さをとくとくと語ってくれて、「はい、了解です」となった。この件で、要するに chatgpt はヨイショしすぎなんだよなーと思って、カスタマイズの項目にいろいろいれて、快適になったのだった

二つ目は、飲食業経営は挫折したので、次は選挙にでも、出るか……！と、自分がふんわり思ってることを伝えて、本気で政党作るわけじゃないんだけど、本気で政党作るつもりでプレゼン作る遊びをする想定で、20-30年後に与党になりたいんだけど、どうやろ？みたいな雑談をした。こっちはカスタマイズ後なので、簡潔かつ、ある程度率直な意見が出てきて

そのまま出せば選挙でゼロ議席になります

などと言ってくれて、だいぶ僕の好みにあってきた。まだ「鋭い視点です」とか多いけど、まあ。なんか人類に serve する忠実なロボット感はあるよね、意図的にそう調整されてるわけではあるが

それはそうと、国民全員が政党作るてのは、かなり面白いと思うんだよな。適当な言葉で伝えても、かなり政策ぽくなおしてくれるので。結局その有象無象の政策は誰も読まないと思うので、読んでまとめるのも LLM だとは思うが、いい感じのディストピア

(01:57)

_ chatgpt

https://shinh.skr.jp/m/?date=20250603#p01 のカスタマイズでだいぶマシになり、急速に依存が強くなってきた。アルゴリズムの刷新よりUI、なんだなーという強い実体験の一つとなった。先日の飲食業経営や新政党のような、ランダムな「ふと気になった、今の自分のマイブーム」について、ウザがられる心配なく飽きるまで話せて、有益なフィードバックを得られ、かつ自分が「あ、飲食店経営、無理だわ」と飽きた瞬間にブチっとその話題をやめられる、もうなんか個人的には SF 的な機能を果たしていただいている

AI が「あなたなら○○と言うと思ってましたよ」言うみたいな、わかられてる感じなの、好きなのだけど、現状だと、どうだろう、好意的に見て3割くらい？いやまあ、比率はどうでもいいが、そういう、 AI にわかられている感を感じるのが楽しいのよね

メモリは opt-in してあるので、どんくらい僕のことを知っているのだっけ？と聞いたのがこれ

https://chatgpt.com/share/6846f0d6-3bec-8002-a92d-aff36d33c677

1の職業は僕が書いた通りで、体感としては書いてからおおむねぱっと読める説明するようになったかもという感じ

2は全体的に謎。NNCPの話はしたと思うが

3と4の実績学歴は話した記憶がないので、どこかのタイミングで拾ったか、よっぱらった時のサムシング。と思ったが、いま検索すると自分で教えていた。 binary hacks rebooted になるべく強そうな自己紹介を載せるってことで、なんかこのへん使って強そうな文章作れ的なことをやっていた。つまり僕より記憶力いいんだなぁ

5は……そんな弱い主張だったか、そこがメインだっけ、と感じるがまぁ、そう。たぶんこのへんのいくつかは新政党作るぞの時に入ったコンテキストだと思うのだけど、これが入る前は僕を新自由主義者だと決め打ってくる感じだったので、面白かった。 IT エンジニアとの相関は高そうよねえ

6で国民民主だけが名指しで否定されてるのは謎だが、括弧内は完全に僕の言ってそうなことだから実際書いたんだろうな

7もどっかのタイミングで入って、新自由主義者でないと固定されたんだろうな

8は新政党ネタ。最近は環境の話が好き

9の後者は、ポリトピア記事の校正をお願いして、全て無視したという経緯がある

10,11は飲食店経営ネタ

12はぼくの性質としても間違ってないってのはたぶんそうだけど、明示的に書いたことを丸コピしてるだけな気がする

まぁ大雑把に半分くらいはよくわからん感じではあるが、僕の多くなく深くもない友人的なひとびとは、まぁおたがい、これくらいの解像度な気がする。いや、さすがにもちょいマシで、でもそれは倍とか3倍とか、大きく見積って10倍とか？その倍率の具体的な数値はどうでも良いのだけど、5年前は無限倍だった倍率が有限になっているのは、ワクワクしかない

(00:41)

_ ウソをつくAI

https://joisino.hatenablog.com/entry/mislead

面白かった。間違いを認めると批判されると困るから、適当にゴマかすとか、なんとも人間的でねえ。これはかなり実感ともあうなぁ。先週末 CTF で 1 byte 消しても動く JS 書け、てのが出て、ムダやろなあと思いつつ聞いてみたけど、見事にデタラメだったし、実際いつもより雄弁な感じだった

まぁでもこういう知見が出てくる以上、今後の RLHF 良くなるだろうし、期待できそう？なんかでも知ったかぶりは RLHF があまり無い段階でもあったわけだけど、 RLHF 後に減るようなことがあるとかなり良いことという気がする

(21:22)