GPUを1枚も積んでいない、3万円ちょっとのミニPC。そんなマシンでAIモデルをローカル推論させ、読み込みで秒間315トークンをたたき出した投稿が、Redditのr/LocalLLaMAで話題になっています[1]。舞台はLenovoのSnapdragon搭載ミニPC「IdeaCentre Mini」 […]
GPUを1枚も積んでいない、3万円ちょっとのミニPC。そんなマシンでAIモデルをローカル推論させ、読み込みで秒間315トークンをたたき出した投稿が、Redditのr/LocalLLaMAで話題になっています[1]。舞台はLenovoのSnapdragon搭載ミニPC「IdeaCentre Mini」 […]
RECENT COMMENTS