ai-development

RAGじゃ足りなかったので、運用知識をPythonに任せるAIを作った

Dify Enterprise を題材にした、Deterministic Core + LLM UI な構造ファーストbotの実装記録はじめに RAGを使ったドキュメント検索に限界を感じ、運用知識そのものをPythonで構造化するAIを作りました。 Vector DBでは解けなかった upgrade や設定差分の問題を、Deterministic Core + LLM UI という構成で解いています。 Dify Enterprise を題材にしていますが、設計パターン自体は、ドキュメント横断・アップグレード運用・複雑な設定管理など、他のEnterprise製品にもそのまま応用できます。 TL;DR Dify Enterpriseの運用で、分断された3つのドキュメント(Helm/Enterprise/Community)を横断検索する必要があったが、RAGでは構造推論ができないため、 SQLite FTS5 + Python で決定論的処理を行い、LLMは結果の整形のみに使うツールを作った。 → リポジトリ: https://github.com/minacocha