ai-development

ai-development

obslogという文脈管理術— AIとの対話を継続させる「個人ドキュメント」

背景 AIは会話をまたいだ記憶が弱い、あるいは不安定である。 この問題に対して、 * プロンプトをGitで管理する * テンプレートを固定化する * 指示文を再投入する といった方法が注目されている。 しかしこれは、どちらかといえばエンジニア向けの解法だ。 このobslogは、その個人最適化版として機能していたことを偶然発見した。 当初の設計意図ではない。使用の中で用途が浮かび上がった。 obslogとは何か このブログは、Observation Log(観察ログ)。 日常の思考・会話・発見を、 自然文体で構造的に記録する手法。 当初は思考整理のためのログだった。 だが結果として、現在は AIとの継続対話を可能にする文脈管理ツール としても機能している。 文脈管理ツールとしての強み ① 自然文でコンテキストを保持できる * Git不要 * 技術知識不要 * 書くだけ しかも、読み物として成立している。 これは重要だ。 AIにも渡せる。 人にも渡せる。 単なる設定ファイルではなく、 意味を持った文章として存在する。 ② AI整形

By mnk.log

ai-development

RAGじゃ足りなかったので、運用知識をPythonに任せるAIを作った

Dify Enterprise を題材にした、Deterministic Core + LLM UI な構造ファーストbotの実装記録 はじめに RAGを使ったドキュメント検索に限界を感じ、運用知識そのものをPythonで構造化するAIを作りました。 Vector DBでは解けなかった upgrade や設定差分の問題を、Deterministic Core + LLM UI という構成で解いています。 Dify Enterprise を題材にしていますが、設計パターン自体は、ドキュメント横断・アップグレード運用・複雑な設定管理など、他のEnterprise製品にもそのまま応用できます。 TL;DR Dify Enterpriseの運用で、分断された3つのドキュメント(Helm/Enterprise/Community)を 横断検索する必要があったが、RAGでは構造推論ができないため、 SQLite FTS5 + Python で決定論的処理を行い、LLMは結果の整形のみに使うツールを作った。 → リポジトリ: https://github.com/minacocha

By mnk.log