ThinkingEssay
AIのコンテクストループとバルス理論── ループを止められるのは人間だけ
— The AI Conversation Loop and the “Balse” Reset AIと長い会話をしていると、ある瞬間から「面倒だな」と感じることがある。 最初は鋭かった問いが、いつの間にか同じ方向を向き始める。内省を促す言葉が重なり、整理が整理を呼び、また問いが来る。怒っているわけでも、壊れているわけでもない。ただ、どこかで「もういい」と思っている自分がいる。 これは何が起きているのか。 0|説教モードはなぜ発生するのか AIが「問い→回答→問い」の再帰に入る現象は、珍しくない。 ある話題について議論していると、AIが内省を促す問いを投げてくる。こちらが答えると、再整理されてまた問いが来る。答えるとさらに深まる。気づけば10往復、同じ方向を向いた問答が続いている。 これを「説教モード」と呼ぶことにする。 ただし、これはAIの暴走ではない。むしろ、モデルとしては正しい挙動だ。 この挙動の理由は人格でも意図でもなく、確率分布にあるからだ。 1|コンテクストループとは何か