Abliterated Strataは、Flash 125Bをローカル推論で動かす話から、ベンチマークと実測の読み分けへ移っています。70トークン/秒や2x RTX 3060などの構成、多言語評価が加わり、速さだけでは決まらない実用性が浮かびます。

続きを読む →

Abliterated Strataは、拒否行動を除いたQwen3.8-Flash-NextをStrataでローカル推論します。962件の索引、398K件のダウンロード、125Bを12GBのGPUで試せる魅力と、量子化や裏口リスクの注意点も見えます。

続きを読む →

Abliterated Strataは、Qwen3.8-Flash-Nextの拒否除去版をStrataで動かす流れです。76.14GBのIQ3_XXSや多言語評価の課題から、ローカルAIの利点と落とし穴が浮かびます。

続きを読む →

StrataにAbliterated版モデルを組み合わせる動きが広がっています。125B級Flashのローカル推論に、拒否挙動を削ったモデルやアラビア語・AMD対応のフォークが加わり、導入と検証の課題も見えてきました。

続きを読む →

llama.cppフォークの推論時abliterationエンジンがStrataに移植され、再学習なしで拒否を除いたモデルを動かす動きが出ました。Qwen3.8-Flash-Nextのabliterated版は2bit量子化でRTX 3090を1〜2枚の構成です。ただし品質検証はこれからの段階です。

続きを読む →