dev.classmethod.jp
52日前
DGX Spark の Qwen3.8 と GLM-5.3-Flash、4 構成を用途別に比べてみた
DGX Spark上のQwen3.8-Flash-Next・Qwen3.8-27B・GLM-5.3-Flash(3bit)の1台構成とGLM2台構成を比較。Flash-Nextはn-gram埋め込みのmmapで1台に載り、日本語9課題を唯一全通過し200KトークンのTTFTも101秒と高速だが、tool_choice=required不履行や長い思考時の空応答が課題。共有用途ではQwen3.8-27Bが最も余裕がある。
DGX Spark上のQwen3.8-Flash-Next・Qwen3.8-27B・GLM-5.3-Flash(3bit)の1台構成とGLM2台構成を比較。Flash-Nextはn-gram埋め込みのmmapで1台に載り、日本語9課題を唯一全通過し200KトークンのTTFTも101秒と高速だが、tool_choice=required不履行や長い思考時の空応答が課題。共有用途ではQwen3.8-27Bが最も余裕がある。
atmarkit.itmedia.co.jp
53日前
「AI＝GPU」がもはや昔の常識に 「CPU」に何が起きるのか
ArmはAIエージェント時代にコード実行やデータ移動、オーケストレーションなどCPUの役割が拡大すると主張。NVIDIAもAIエージェント向けCPU「Vera」を開発し、GPUとの役割分担の重要性を指摘している。
ArmはAIエージェント時代にコード実行やデータ移動、オーケストレーションなどCPUの役割が拡大すると主張。NVIDIAもAIエージェント向けCPU「Vera」を開発し、GPUとの役割分担の重要性を指摘している。
www.techno-edge.net
60日前
自宅PCで巨大AIが高速動作？ ノートPCで350億、プロ向けGPU1枚で7530億パラメータのAIモデルを非公式量子化なしで動かす無償ツール『FreeToken』など生成AI技術5つを解説（生成AIウィークリー）
AI関連の週次まとめ記事。自己改善型言語モデル「Ornith-1.5」、単眼動画から人物の4D映像を生成する「4DAnyone」、MoEモデルを家庭用PCで高速動作させる無償ツール「FreeToken」、Z.aiの新モデル「GLM-5.3」を紹介。FreeTokenはノートPCで350億パラメータ、プロ向けGPU1枚で7530億パラメータのモデルを追加量子化なしで動作させる点が特徴。
AI関連の週次まとめ記事。自己改善型言語モデル「Ornith-1.5」、単眼動画から人物の4D映像を生成する「4DAnyone」、MoEモデルを家庭用PCで高速動作させる無償ツール「FreeToken」、Z.aiの新モデル「GLM-5.3」を紹介。FreeTokenはノートPCで350億パラメータ、プロ向けGPU1枚で7530億パラメータのモデルを追加量子化なしで動作させる点が特徴。