AI推論のllama.cpp v1.0ではRTX 3090で最大55%、環境変数で21%といった改善報告から、同じ条件で測るベンチに関心が移っています。RTX 5090では80.1トークン/秒の実測があり、先読み推論が効かない報告も出ています。
アーカイブ: 2026年11月22日
続報:Altman氏、2026年IPO見送りと安全路線
Sam Altman氏はOpenAIの2026年IPOを見送り、安全とアライメントを優先する考えを示しました。訓練停止や制御不能リスクへの言及もあり、成長から慎重路線へかじを切る発言が注目されます。上場延期と安全発言の背景を追います。
続・llama.cpp v1.0、NVIDIA最適化とMacの壁
llama.cpp v1.0は先読み推論とNVIDIA最適化でローカルAIの速度が変わります。RTX 3090で最大55%、中古RTX 3090ではQwen3.6-27Bが38から47〜65 TPSへ上がった実測です。Macは64GB必要など壁も残ります。






RECENT COMMENTS