ノートと資料の関係をローカルLLMに判定させてみた
知識ノートと資料を結びつける候補を、ローカルLLMに判定させました。短い評価ケース9件には応答したものの、評価用5件の精度が足りず、自動運用を見送った記録です。
CATEGORY
運用
起動直後のヘルスチェックで誤ロールバックしたので、再試行を入れて安全にリリースする
起動完了前の単発ヘルスチェックが引き起こした誤ロールバックを、5回のloopback再試行で解決した事例。自分のサービスで再試行回数と間隔をどう決めるかの判断軸と、概念的な実装例も示す。