「£300のミニPCが、GPUなしのまま大規模モデルを動かした」——こんな報告がRedditのr/LocalLLaMAで話題になっています[1]。舞台はLenovoのSnapdragon搭載ミニPC。しかも鍵を握ったのは、投稿者が自作した推論エンジンです。GPUを積まない小さな筐体で、ローカル推論が […]

続きを読む