cloud.google.com
3日前
Google Dataflow で費用対効果に優れた高スループットな生成 AI ワークフローを構築する
Google Dataflow と Agent Development Kit(ADK)を組み合わせ、CPUベースの軽量な感情分類モデルで大半のイベントを事前フィルタし、対応が必要な少数のネガティブなケースのみを生成AIエージェントにルーティングするハイブリッドストリーミングパイプラインの設計パターンを紹介する記事。Apache BeamのRunInference変換を使い、BigQuery検索やGmail送信などのツールを持つエージェントが実行時に動的な対応手順を決定することで、静的DAGに条件分岐をハードコードせずに適応的な実行を実現し、API課金・レイテンシ・レート制限の3つのボトルネックを回避しつつコスト削減とスループット向上を両立させる。
Google Dataflow と Agent Development Kit(ADK)を組み合わせ、CPUベースの軽量な感情分類モデルで大半のイベントを事前フィルタし、対応が必要な少数のネガティブなケースのみを生成AIエージェントにルーティングするハイブリッドストリーミングパイプラインの設計パターンを紹介する記事。Apache BeamのRunInference変換を使い、BigQuery検索やGmail送信などのツールを持つエージェントが実行時に動的な対応手順を決定することで、静的DAGに条件分岐をハードコードせずに適応的な実行を実現し、API課金・レイテンシ・レート制限の3つのボトルネックを回避しつつコスト削減とスループット向上を両立させる。
www.techno-edge.net
5日前
くちパク&立体字幕も。DGX Spark、RTX 5090、4090の3台で分散処理する自作AIミュージックビデオ制作システムで時短を追求してみた(CloseBox)
自作MV生成システム「LaViale」の改良記事。DGX Spark互換機・RTX 5090・RTX 4090の3台でClaude Codeセッションを連携させ、動画生成を分散処理する仕組みを構築。行列に区間を積み手が空いた機械が取りに来る設計、VRAM飽和による345フレームの崖の実測発見、猫耳アバターによる対話・口パク機能、MiniMax H3のキネティックタイポグラフィで日本語字幕が崩れる傾向の分析などを詳細にレポートしている。
自作MV生成システム「LaViale」の改良記事。DGX Spark互換機・RTX 5090・RTX 4090の3台でClaude Codeセッションを連携させ、動画生成を分散処理する仕組みを構築。行列に区間を積み手が空いた機械が取りに来る設計、VRAM飽和による345フレームの崖の実測発見、猫耳アバターによる対話・口パク機能、MiniMax H3のキネティックタイポグラフィで日本語字幕が崩れる傾向の分析などを詳細にレポートしている。