「そろそろllama.cppを更新するタイミングです」。Redditのr/LocalLLaMAで、こんな一言とともに話題になったのが、QSAマスク向けの新しい融合演算(fused op)を追加するプルリクエストです[1]。変更の作者はam17anさんで、対象はggml-org/llama.cppのP […]
「そろそろllama.cppを更新するタイミングです」。Redditのr/LocalLLaMAで、こんな一言とともに話題になったのが、QSAマスク向けの新しい融合演算(fused op)を追加するプルリクエストです[1]。変更の作者はam17anさんで、対象はggml-org/llama.cppのP […]
RECENT COMMENTS