Tencentが次世代大規模言語モデル「Hy4 preview」を発表しオープンソース化した。770B総パラメータ・49Bアクティブパラメータ、100万トークン超のコンテキストウィンドウを持ち、コーディング・オフィス業務・科学研究など実務タスクで高性能を発揮する。社内ブラインド評価ではGLM-5.3やKimi K3をわずかに上回るスコアを記録。学習手法・評価枠組みの自動最適化や推論基盤の自律的チューニング（スループット31.8%向上）にも取り組み、自己改善ループの初期段階を確立したとしている。WorkBuddy・CodeBuddy等での2週間無料提供やAPI経由の利用も可能。
vLLM v0.28.0がリリースされ、584コミット・270人の貢献者による大型アップデートとなった。Kimi-K3向けのDecode Context Parallel対応やFlashKDAカーネル融合などの性能最適化、DeepSeek V4のsparse MLA対応、DFlash2やDSparkによる投機的デコードの進化、Model Runner V2の成熟（E/P/D分離・重みオフロード等）、階層的KVキャッシュのディスクオフロード対応、Rust製フロントエンドとgRPC対応強化が主な柱。max_num_batched_tokensの既定値引き上げなどデフォルト変更や、bitsandbytesのプラグイン化・Transformers 5.15.0への更新といった破壊的変更も含まれる。
AI関連の週次まとめ記事。自己改善型言語モデル「Ornith-1.5」、単眼動画から人物の4D映像を生成する「4DAnyone」、MoEモデルを家庭用PCで高速動作させる無償ツール「FreeToken」、Z.aiの新モデル「GLM-5.3」を紹介。FreeTokenはノートPCで350億パラメータ、プロ向けGPU1枚で7530億パラメータのモデルを追加量子化なしで動作させる点が特徴。
LLMアプリケーションの評価手法を体系的に解説する書籍。正解が一意に定まらないLLM出力特有の評価の難しさを踏まえ、評価設計の全体像、LLM-as-a-Judgeの活用法、LangSmithを用いたリリース前後の評価・モニタリング・継続的改善（LLMOps）までを理論と実践の両面から扱う。
LLMエージェントによる脆弱性調査で会話履歴が長くなると事実が混乱する問題を解決するため、著者はDatalogエンジン「Lemmalog」を開発した。観測をLLMで構造化事実に変換し、ルールベースで結論を導出・維持することで、事実の撤回時に依存する結論を自動的に無効化できる。LongMemEval/LoCoMoベンチマークでは既存手法PropMemにはやや劣るもののフルコンテキスト投入の2倍以上のF1を、38分の1のトークン数で達成。特に「知識更新」カテゴリでは既存手法を上回った。
著者がClaude/OpusなどのLLMに奇抜なプロンプト（グレムリンが破壊工作をするTodoアプリ、架空のサブカル美学を捏造したデザイン理論、マフィア風の脅し口調、ジャングル探検の世界観など）を与えてPySide6製Todoリストアプリを生成させる実験記録。LLMが指示された「声」やテーマにどこまで忠実に、あるいは陳腐なパターン（3ペインのダークモード、コマンドパレット、常套句だらけのエッセイ）に収束するかをユーモラスに検証している。
Z.aiがオープンウェイトLLM「GLM-5.3」を公開。ベースモデルはGLM-5.2と同一で、post-trainingのみで改善。特にコーディング性能（Z.ai Code Bench比で50%向上、Terminal Bench 3.0やAgents' Last Examでオープンソーストップ）と、脆弱性発見・エクスプロイト関連のサイバーセキュリティ能力（CyberGymでSOTA、エクスプロイトチェーン後半でGLM-5.2比2倍以上）が大幅強化された。SGLang・vLLM・Transformers等主要フレームワークでのローカル配信に対応。
中国のZ.aiがAIモデル「GLM-5.3」を2026年8月29日にオープンウェイトとして無償公開した。総パラメータ7440億・アクティブ400億のMoEモデルで、Hugging FaceとModelScopeから入手可能。Artificial Analysisの評価ではインテリジェンス指標でClaude Opus 4.8を、エージェント指標でGPT-5.6 SolやGrok 4.6を上回った。年間収益100億ドル超の企業はZ.aiのセキュリティ審査が必要というライセンス条件付き。
Kiro IDEのdiagnosticsツール呼び出しログ150万件・6か月分を分析し、AIコーディングエージェント（Claude Opus 4.5〜4.8、Sonnet 4〜4.6）が生成中に自ら静的解析を呼び出す頻度と検出エラーの傾向を調査。エラー率はファイルあたり約1.2件に収束するなど改善傾向が見られる一方、diagnosticsを自発的に呼ぶ会話は全体の3〜22%に留まる。解決できないimportが全エラーの約3〜6割を占め最多、テストファイルはソースファイルより3〜4倍エラーが多く、Java（26.7%）はPython（4.0%）より大幅にエラー率が高いなど、言語・ファイル種別による差も明らかになった。
NeMo Switchyard によるLLMリクエストの自動ルーティングで、事後学習済みjudgeモデルをタスク難易度判定役に採用した事例。素のLightningモデルを判定役にした際は依頼文の切り捨てや判定語彙の欠如、フォールバック設計の甘さから92.4%がstrongモデルに流れる偏りが発生。Capability Cardとp_solve確率に基づく専用judgeへ切り替え、pip版Switchyardとのスキーマ差異を吸収するshimを実装した結果、weak/strongの配分がほぼ均等（62.2%/37.8%）に改善した。vLLMのメモリ設定、NemoHermesとの接続、sandboxの設定変更に伴うクラッシュループなど多数の実装上のハマりどころも詳述している。
Qiitaに10年間投稿してきた自分の記事をもとにLLMをファインチューニング（蒸留）し、自分の文体で記事を書けるようにした試みを紹介する記事。本文はOGP画像やブックマークリンクのみで、具体的な手法や結果の詳細本文は取得できていない。
MacBook Pro（M4 Max、128GB）でQwen3.8 Flash Next（Q3量子化、約90GB）をllama.cpp+OpenCodeで動かし、実在のOSS issueを使ってパケット読解からdraft PR作成・レビュー対応までを人間の介入なしで一周させた検証記事。ツール呼び出し190回でエラー0件、設計判断はクラウド（Codex Luna Max）の実装と遜色ないが、テスト結果の自己申告誤り（末尾解釈ミス）が1件発生。dense 27Bモデルとの比較では同タスクに8倍の時間がかかり、MoEアーキテクチャとユニファイドメモリの親和性が実用化の鍵と結論。追記ではプレフィル/デコード速度をllama.cppとMLXで分けて実測し、プレフィルはMLXが2倍以上速い一方デコードは長文脈でllama.cppが優位という結果も報告している。
ロリポップ！AIホームページにおいて、AI生成Webサイトの品質を定量評価する仕組みを構築した事例。デザイナーの暗黙知を4カテゴリ・約170項目のルーブリックに言語化し、フルページキャプチャをLLM-as-a-Judgeで採点する「完成品スコア」と、テキストのみで判定できる7項目に絞り工程途中のJSON出力を評価する軽量な「工程スコア」の2種を整備。総合スコアはLLMではなくコード側で加重集計することで再現性を確保し、プロンプト改修の評価駆動開発ループやモデル移行時の品質ゲーティングに活用した。今後の課題として自動化・採点妥当性の検証・ばらつきの統計的扱いを挙げている。
RTX 5090（32GB）とRAM 128GBの1台構成で、125B規模のMoEモデルQwen3.8-Flash-NextをUnslothのUD-Q2_K_XL量子化とllama.cpp対応版で動作検証した記事。-ncmoeでGPUに載せるMoEエキスパート数を調整するのが最も効果的で、CPUスレッド数は物理コア数と同じ8が最良、CPUコア固定で速度のばらつきが縮小した。最終的に64kコンテキストで短文生成約48 tokens/s、16kトークン入力後でも約43 tokens/sを達成した一方、micro-batch削減やn-gram投機デコードは効果がなかった。
オープンウェイトで公開されたマルチモーダルモデル「Qwen 3.8-27B」の派生版がHugging Faceのトレンド上位を占拠し、公開約1週間で17件がランクイン。うち10件は安全機構を除去した「無検閲版」で、合計ダウンロード数は約278万件に達した。Apache 2.0ライセンスは無検閲版の公開を禁じていない。
Pydantic AI V2とLogfireを使い、LLM出力の型検証で発生するリトライの内部動作をOpenTelemetryベースのトレースで可視化する方法を解説。25字制約を6字超えただけで全件が再生成され、入力トークンが呼び出し回数以上に増大する実例を示す。
GitHubブログの記事。LLMを本番導入する前の評価手法について、secret scanningの誤検知削減事例をもとに解説。ベンチマークだけでなく製品判断の明確化、オフライン評価の統合テスト的運用、本番環境に近いデータ構成、production labelの信頼性検証、synthetic/公開データによるカバレッジ補完、エラー分析、LLM-as-judgeによる人手レビューの絞り込みという8つの実践知を紹介している。
国産LLM「LLM-jp-4-33B」とQwen3.8-27Bの推論性能を、RTX 5070 Ti + RTX 3070 Ti環境で比較検証した記事。LLM-jp-4-33Bは約332億パラメータのDense型モデルで、今年4月公開のMoE型モデルのDense版に相当する。
Amazon Bedrock Managed Knowledge Base に電通総研の有価証券報告書PDFを投入したところ、営業利益の質問に対して全年度誤った数値が返された。原因を調査したところ、検索対象のチャンクから日本語が完全に欠落しており、PDF自体には問題がないことも確認済み。AWSサポートに問い合わせた結果、Managed KBは現時点で日本語PDFに対応していないとの回答を得た（メタデータの言語コードも"en"になっていた）。ワークアラウンドとして従来型のCustomer-managed KBを使えば正常に動作することを検証している。
RAG構築においてローカルLLM（LM Studio/Ollama）とクラウドを組み合わせるハイブリッド構成を解説する記事。LangChain・ChromaDB・HuggingFaceEmbeddingsを用いてローカルでドキュメントのチャンク分割・埋め込み・ベクトル保存を行う手順を示し、コスト戦略についても言及している。
Amazon BedrockでOpenAIのGPT-5.6系（Sol/Terra/Luna）とxAIのGrok 4.6がクロスリージョン推論に対応した。Global推論とGeo推論（新設の米国Geo）の2方式があり、bedrock-runtimeはクロスリージョンプロファイル経由のみ、bedrock-mantleはIn-Regionのみという対応表が整理されている。AWS CLIのbedrock-runtime converseで両モデルをGlobal/US Geoそれぞれ呼び出し、usageとlatencyMsを実測比較している。
vLLMをKubernetes上で本番運用するための最小構成を整理した記事。DaemonSetではなくDeploymentで構成し、KEDAでキューの深さ（待機リクエスト数）を基準にオートスケーリングする設計、レプリカ数とノード数を分離する2層スケーリング、TTFTやKVキャッシュ使用率などのSRE監視指標とアラート設計、モデルキャッシュ戦略、カナリアデプロイ、複数モデルのルーティング、コスト監視、障害対応runbook、Graceful Shutdown、本番投入前の負荷テスト、マルチGPUノードでのトポロジー考慮スケジューリングまでを、良い例・悪い例のマニフェストやコードとともに解説している。
DatadogのAI-native SASTがOWASP Top 10 for LLM Applicationsに対応し、プロンプトインジェクションやシステムプロンプト漏洩などLLM特有の脆弱性を検出可能に。テイント解析・制御フロー解析・パターンマッチングを組み合わせ、PythonやGo等6言語でPRコメントやCIチェックとして開発フローに統合される。