feed-digest - #rag

Amazon Bedrock Managed Knowledge Base に電通総研の有価証券報告書PDFを投入したところ、営業利益の質問に対して全年度誤った数値が返された。原因を調査したところ、検索対象のチャンクから日本語が完全に欠落しており、PDF自体には問題がないことも確認済み。AWSサポートに問い合わせた結果、Managed KBは現時点で日本語PDFに対応していないとの回答を得た（メタデータの言語コードも"en"になっていた）。ワークアラウンドとして従来型のCustomer-managed KBを使えば正常に動作することを検証している。

RAG構築においてローカルLLM（LM Studio/Ollama）とクラウドを組み合わせるハイブリッド構成を解説する記事。LangChain・ChromaDB・HuggingFaceEmbeddingsを用いてローカルでドキュメントのチャンク分割・埋め込み・ベクトル保存を行う手順を示し、コスト戦略についても言及している。