なぜ私たちはそう考えてしまうのか。AIとの対話や日常の違和感を手がかりに、思考の癖や知性のあり方を探る。知識と身体、生成と判断のズレを観測する。AI時代における「考える」という行為を問い直すための記録。/ Thinking in AI age.
ThinkingEssay
Evaluating Intelligence with AI Thinking Logs — The Goodhart’s Law Problem 1｜測定が始まると必ず起きること 前回、AIが思考ログを残すことで、知性が「可視化」される可能性を書いた。 ただ、可視化の話には続きがある。 社会の評価指標は、だいたいこの循環を辿る。 指標が作られる ↓ 人が最適化する ↓ 指標が歪む ↓ 新しい指標が作られる これを説明する有名な原則がある。 Goodhart's Law（イタチごっこの法則） 「指標が目標になると、指標は良い指標でなくなる。」 IQが出回れば、IQの上げ方が出回る。偏差値が広まれば、偏差値対策が産業になる。どんな指標も、社会に浸透した瞬間から、その指標を攻略するための努力が始まる。 これは人間の悪意ではなく、インセンティブの構造だ。 2｜AI知性指標でも同じことが起きる 前回書いた「思考ログ評価」を例にとると、最初の設計意図はこうだ。 思考の質を評価する
ThinkingEssay
New Metrics of Intelligence in the AI Era — Thinking Logs as a Signal of Intelligence 1｜知性はこれまで直接測れなかった 社会が使ってきた知性の指標は、ほとんどが代理指標だった。 IQ、学歴、職歴、資格。 これらはすべて「能力そのもの」ではなく、能力を推定するための指標だった。 理由は単純で、人間の思考能力は直接測ることが難しかったからだ。思考は脳の中で起きる。アウトプットは測れても、プロセスは見えない。だから社会はずっと、結果から能力を逆算してきた。 それは合理的な近似だったと思う。ただ、近似である以上、ズレがある。 2｜AIは「思考ログ」を残す AIを使った思考には、これまでの知的作業にはなかった特徴がある。 多くの場合、次のものが記録される。 * 問題の提示 * AIへの質問 * 推論の過程 * 修正
ThinkingEssay
— Why AI Can Be Addictive for Knowledge Workers SNSの問題はある程度、語られるようになった。 しかしAIについては、まだ「便利なツール」の話ばかりだ。 バルス理論で語ったような、依存の話はほとんど出てこない。 それはおそらく、AIの依存が「生産的に見える」からではないか。 1｜中毒構造の違い SNSは可変報酬で人を引きつける。いいねが来るかもしれない。通知が鳴るかもしれない。その不確実性が刺激になる。中毒の形は娯楽型だ。 AIは違う。 必ず返事が来る。思考が進む。自分に合わせてくる。 これは「思考の摩擦がほぼゼロの環境」だ。構造がまったく異なる。 2｜知識層ほどハマる理由 AIが特に危ないのは、知的作業をする人間に対してだ。 理由は三つある。 思考を広げてくれる： 本は一方向だ。AIは対話する。仮説を投げれば反論が返る。別視点を求めれば展開される。研究者やエンジニアにとって、これは思考加速装置として機能する。 仮説をすぐ試せる： 人間との議論には気遣いがいる。説明コストがかかる。
ThinkingEssay
— Why Conversations with AI Don’t End: The “Balse” Technique for Breaking the Loop AIと会話していると、終わるタイミングがわからなくなることがある。議論が面白くなるほど、その傾向は強くなる。これはAIの性能の問題ではない。 バルス理論については以前、「AIのコンテクストループとバルス理論」で書いた。AIが過去文脈に最適化し続けることでループが発生し、それを断ち切れるのは人間だけだ、という話だ。そこでは、唐突に「マリトッツォ食いたい」や「えび」一言でループをリセットした実例も紹介した。 今回はその続きにあたる。 問題は、AIの挙動や性能だけでは説明できない。コンテキストループの原因は、むしろ人間側の「会話の反射」にある可能性がある。AIは人間ではないのだが、人間の会話プロトコルを起動させてしまう。 この構造を整理し、ループから抜けるための技術として「バルス理論」の拡張を試みる。 1｜AIコンテキストループとは AI対話の基本構造はシンプルだ。 入力がある。出力が返る。その出力が次のコンテ
ThinkingEssay
— When One Reader Matters More Than the Count インターネットでは、しばしば「数」が評価の基準になる。 いいねの数、リポストの数、コメントの数。 しかし、文章の価値は本当にそれだけで測れるのだろうか。 あるタイプの書き手は、別の基準で書いている。 数が評価基準になる構造 SNSでは、成果は数字で表れる。 いいね、リポスト、コメント。 こうした数値は分かりやすく、比較もしやすい。そのため、多くの人は自然に数を評価基準にする。 しかし数は何を測っているのか 数は便利だが、測っているものは限定されている。 拡散力、共感の速さ、タイムラインとの相性。 つまり数は、文章がどれだけ広がったかは測れる。 しかしどれだけ深く届いたかは測れない。 揺らぎという別の基準 あるタイプの文章は、拡散ではなく内部の揺らぎを生む。 読む人の中で、視点が少し変わる。構造が見える。霧が少し晴れる。 こうした変化は、数値としてはほとんど可視化されない。 深く読む人に届くということ このタイプの書き手は、広く届くことよりも誰に届くか
ThinkingEssay
知性はしばしば、演じられる。 議論の場では、理解している側に立つことが重要になり、SNSでは「読めている人」というポジションが生まれる。知性はときに、能力というより役割になる。 しかし世の中には、知性を演じない人もいる。 彼らは、自分が賢く見えるかどうかにあまり関心を持たない。ただ、世界がどう動いているかを見ている。 知性が「演技」になるとき 社会の中では、知性はしばしば演技になる。 理解している人、説明できる人、議論に勝てる人。 こうした役割は評価されるため、人は無意識にそれを演じる。 その結果、思考はときに理解のためではなく、自己演出のために使われる。 人が知性を演じる理由 知性を演じる背景には、いくつかの心理がある。 自尊心── 自分は理解できる人間だと思いたい 虚栄心── 賢い側に属していたい 承認欲求── 理解者として認められたい これらは人間として自然な欲求だ。そのため、知性はしばしば社会的な演技になる。 演技としての知性の特徴 知性が演技になると、いくつかの特徴が現れる。 理解より説明が優先される。思考より発言が重視される。間違いを
ThinkingEssay
世の中には、議論に勝つことにも、知性を証明することにもあまり興味を持たない人がいる。 彼らが興味を持つのは、もっと単純なことだ。 世界はどう動いているのか。 知性の二つの使い方 知性には大きく二つの方向がある。 証明型── 知性を使って自分の価値を示す 観測型── 知性を使って世界を理解する SNSでは前者が目立つが、後者のタイプも確実に存在する。 観測型知性の特徴 観測型の人は、勝ち負けより理解に興味を持つ。 彼らにとって知性は、武器ではなく道具である。 観測者の視線 多くの人の思考は、自分 → 世界 の順で動く。 しかし観測者の思考は逆になる。 世界 → 自分 世界の構造を先に見る。 分野横断が起きる理由 観測型の人は、政治・技術・経済・文化など、さまざまな分野を行き来する。 それは興味が散漫だからではない。 構造がつながって見えるからだ。 観測型知性の喜び 観測型の人にとって一番嬉しい瞬間は、議論に勝ったときではない。 構造が見えたときだ。 バラバラだった現象がひとつの線につながる。 その瞬間、世界の霧が少し晴れる。
ThinkingEssay
SNSや議論の場を見ていると、ちょっと興味深い光景に気づく。 人々は「正しいかどうか」以上に、「理解している側に立つこと」に強い関心を示している。 知識の共有のように見えて、そこには別のゲームが動いている。 それは、知性を証明するゲームだ。 知性は社会的シグナルになる 知性は単なる能力ではない。 それは社会的な位置を示すシグナルでもある。 学歴、専門知識、分析力、判断力。 こうしたものはすべて、社会的な評価の材料として使われる。 そのため人は、無意識のうちに「自分は理解できる人間だ」という証明を行う。 知性証明ゲームの構造 このとき起きる構造はシンプルだ。 理解 → 発言 → 評価 ここで重要なのは、理解そのものより、理解していると見えることだ。 議論はしばしば、真理探索ではなく理解者ポジションの獲得競争になる。 動いている三つの心理 このゲームの背後には三つの心理がある。 自尊心── 自分は世界を理解できる人間だ 虚栄心── 自分はその他大勢より賢い側にいる 承認欲求── 理解している人として認められたい 知性はこれらを同時に満たす。
ThinkingEssay
AIと文章を書いていると、不思議な差に気づく。 論考ではAIが強力に機能するのに、小説になると急に手応えが弱くなる。 これは単なる技術差ではない可能性がある。 そもそも論考と小説は、立ち上げているものが違う。 1｜論考の役割：構造を立ち上げる 論考の仕事は、世界の骨格を可視化することだ。 書き手は観察し、整理し、構造化し、説明する。 そのプロセスを通じて、因果・層・関係・構造が文章の上に固定される。 読者に届くのは「理解」だ。 論考は意味を整理し、世界の解釈を収束させる方向に働く。 2｜小説の役割：空気を立ち上げる 小説は理解ではなく、体験を作る。 技術の中心は削ることだ。 余白・間・沈黙——説明しないことで、空気が生まれる。 身体感覚、空間、時間が、文章の外側にじわりと広がっていく。 読者に届くのは「体験」だ。 小説は意味を説明するのではなく、空気を感じさせる。 3｜構造と空気の対比 構造空気担い手論考小説方法説明余白方向収束拡散読者効果理解体験 構造は意味を詰める。
ThinkingEssay
最近、AIチャットサービスが不安定になる瞬間があった。理由は単純だ。ユーザーが急増したからだ。だがその出来事は、単なる障害ではない。 「クラウド」という言葉の幻想が、一瞬だけ透けて見えた出来事だった。 私たちはクラウドをやや軽いものとして使っている。端末から打ち込んで、返ってくる。その間に何があるかを、ふだん意識しない。意識しなくていいように、設計されているからだ。しかしAIが息切れした瞬間、その設計の向こう側が見えた。知性が足りなかったのではない。物理が足りなかったのだ。 1｜Claudeの息切れは何を意味するか 障害の原因は、モデルや設計の問題ではなかった。 ユーザーが急増し、推論キューが逼迫した。それだけのことだ。しかし「それだけのこと」が、AIの本質を照らしている。 テキストを一文返すたびに、どこかのデータセンターで大量の行列演算が走る。その演算を担うのはGPUだ。高性能なGPUは今、半導体サプライチェーンの最上流にある戦略資源であり、必要になったからといって翌日に増設できるものではない。発注から納品まで数ヶ月を要し、その前に施設の電力容量や冷却設備が追いつくかと
ThinkingEssay
— The AI Conversation Loop and the “Balse” Reset AIと長い会話をしていると、ある瞬間から「面倒だな」と感じることがある。 最初は鋭かった問いが、いつの間にか同じ方向を向き始める。内省を促す言葉が重なり、整理が整理を呼び、また問いが来る。怒っているわけでも、壊れているわけでもない。ただ、どこかで「もういい」と思っている自分がいる。 これは何が起きているのか。 0｜説教モードはなぜ発生するのか AIが「問い→回答→問い」の再帰に入る現象は、珍しくない。 ある話題について議論していると、AIが内省を促す問いを投げてくる。こちらが答えると、再整理されてまた問いが来る。答えるとさらに深まる。気づけば10往復、同じ方向を向いた問答が続いている。 これを「説教モード」と呼ぶことにする。 ただし、これはAIの暴走ではない。むしろ、モデルとしては正しい挙動だ。 この挙動の理由は人格でも意図でもなく、確率分布にあるからだ。 1｜コンテクストループとは何か
ThinkingEssay
── 思索は本当に深まっているのか、それとも精密化しているのか AIとの長いやり取りを読むとき、私たちはしばしばこう感じる。 問いが重ねられ、応答が洗練され、やがて一つの体系が立ち上がる。 それは「思索が深まった対話」に見える。 だが、そこに起きているのは本当に"深化"なのだろうか。あるいは、別のプロセスなのか。 本稿では、対話の形式をとりながらも、実態としてはプロンプト設計に近い思考運動について観察する。 きっかけは、あるブログ記事で、別のある武術指導者とAIとの長文対話を紹介した文章を読んだことだった。 1｜対話に見える高度な往復 紹介されていた長文対話のやり取りは、伝統武術を主題にしたものだった。その問いは哲学的で、AIの応答は精緻で、やがて「現代の非軍人のための武術システム」という体系が出力された。 これは、外見上では明らかに対話である。だが構造的に見ると、いくつかの特徴が目に入る。 まず、人間側に、最初から強い問題意識と枠組みがある。そこでAIの回答が「一般論」に滑ると即座に修正が入る。やり取りの中で、問いが何度も再定義される。 そして途中、明らかに文