
AIを自分のPCで動かす流れに、もう一段の波が来ています。以前取り上げたStrataのFlash 125B級のローカル実行からさらに進み、Abliterated Strataという組み合わせが目立ち始めました。拒否挙動を減らしたモデルを、ローカル推論ツールに載せる動きです[1][2]。
中心にあるのは、almshary氏が管理するStrata Arabic · AMD · Abliteratedフォークで、アラビア語のUI、WindowsでのAMD監視、SC117のAbliterated GSQ-RCOモデルのインストール対応が追加されています[1]。Abliterated版のIQ3_XXSを他のモデルと並べて導入するには、セットアップ時にモデル系統と量子化を指定するコマンドを使います[1]。IQ3_XXSは約76.14 GBで、2026-10-13時点のデータでは準備用の空き容量も必要です[1]。
Strata本体は、125BパラメータのQwen3.8-Flash-Nextを通常のPCで動かすことを掲げ、NVIDIAまたはAMDの12 GB以上のGPUで、Windows/Linuxで使えるとされています[1]。ゲームPC向けのローカルAIとして、細かな調整が好きな人にも届きやすい存在です[1]。そこにAbliterated版を組み合わせる例として、Hugging FaceにはRVN-Qwen3.8-Flash-Next-Abliterated-Uncensored-IQ3_S-Strataがあり、llama.cpp、vLLM、Ollama向けの使い方が示され、IQ3_S(圧縮した量子化の型)でローカル推論を想定しています[3]。

さらに、alesha-pro氏が公開したQwen3.8-Flash-Next-abliterated-GSQ-RCO-Strataは、ISTA-DASLabのGSQ-RCO GGUFを元にした拒否除去版で、4つのリポジトリでGGUF形式が公開され、2026年10月に索引され、10月31日更新、合計409.9Kダウンロード、コンテキストは131Kトークンとされています[4]。使われた手法は方向性アブレーションで、拒否に関わる内部の信号の通り道を1つ見つけ、有害/無害のプロンプトの差から重みを取り除く、と説明されています[4]。
こうしたモデルは、abliteratedmodels.orgという索引にもまとめられており、ここでは拒否挙動を重みから取り除いたオープンウェイトLLMを962件、元のリポジトリを8,505件、合計70.7Mダウンロードとして紹介し、セキュリティチーム向けだと明記されています[2]。よくダウンロードされているモデルには、Qwen3.8-Flash-Nextやその派生が並びます[2]。
一方、研究と実装の両面でも、拒否抑制は単純な話題ではなくなっています。GitHubにはAwesome-Refusal-Suppressionという2言語の資料集があり、arXivにはLLMアブレーション手法をアーキテクチャを横断して比較する論文もあります[6][7]。StrataのIssueでは、2x RTX 3060で層を分割し、Xeon E5-2697 v2で動かすベンチマーク報告も確認できます[5]。ただし、この検索結果では具体的なTPSや消費電力の数値は見つかりませんでした[5]。
とはいえ、Abliterated Strataは『速くて賢い』だけでは語れません。このフォークでは、自動テストはインストールと統合の確認にとどまり、元モデルとの回答品質や速度の一致までは証明しないと書かれています[1]。ページに残る性能値は元リポジトリの測定値で、Abliterated版の速度を保証するものではありません[1]。MTP層(モデル内部の共有部分)は元のQwenから共有されており、Abliterated版そのものではない点も注意が必要です[1]。別の公開版でも、除去の範囲は公開者によって明記されていません[4]。
Strataという名前を持つ別系統として、Alibaba-AAIGのStrata-Swordという階層型リポジトリもあります[8]。今回のAbliterated Strataの話題は、単に大きなモデルをローカルで動かす話から、セットアップ・検証・境界の管理までを含んだ話に変わってきています。Flash 125B級の推論が個人PCに近づいてくるほど、どのモデルを、どの量子化で、どこまで信頼して使うかという判断が、より重要になりそうです[1][2][4]。
引用ソース
- Web記事 記事全文: Strata Arabic · AMD · Abliterated – GitHub — https://github.com/almshary/Strata-Arabic-AMD-Abliterated
English · 简体中文 · 日本語 · Deutsch · Français · Español · Português
Strata-Arabic-AMD-Abliterated is a fork of Niko1221/Strata, maintained by almshary. It adds an optional Arabic interface, Windows AMD monitoring, and instal - Web記事 記事全文: Abliterated Models — Open-Weight LLMs With Refusals Removed — https://www.abliteratedmodels.org/
from oxpuppy635/Goetia-26B-A4B-v1.3-Absolute-Heretic-ARA-Restored
Abliterated Models
Abliterated Models is an index of abliterated AI: open-weight LLMs with refusal behaviour removed from their weights, for security team - Web記事 記事全文: RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored-IQ3_S-Strata — https://huggingface.co/jimmy31chen/RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored-IQ3_S-Strata/tree/main
– Notebooks
– Google Colab
– Kaggle
– Local Apps Settings
– llama.cpp How to use jimmy31chen/RVN-Qwen3.8-Flash-Next-Abliterated-Uncensored-IQ3_S-Strata with llama.cpp: Install (macOS, Linux) curl -LsSf https://llam - Web記事 記事全文: Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata — https://www.abliteratedmodels.org/qwen3.8-flash-next-abliterated-gsq-rco-strata/
from ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata is a refusal-ablated variant of ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF, pu - Web記事 Web検索: [Benchmark] 2x RTX 3060 (layer split), Xeon E5-2697 v2 without … – GitHub — https://github.com/Niko1221/Strata/issues/3389
[Benchmark] 2x RTX 3060 (layer split), Xeon E5-2697 v2 without … – GitHub
- Web記事 Web検索: GitHub – ant-research/Awesome-Refusal-Suppression: A bilingual awesome … — https://github.com/ant-research/Awesome-Refusal-Suppression
GitHub – ant-research/Awesome-Refusal-Suppression: A bilingual awesome …
- Web記事 Web検索: Comparative Analysis of LLM Abliteration Methods: A Cross-Architecture … — https://arxiv.org/pdf/2512.13655
Comparative Analysis of LLM Abliteration Methods: A Cross-Architecture …
- Web記事 Web検索: GitHub – Alibaba-AAIG/Strata-Sword: The Strata-Sword is a hierarchical … — https://github.com/Alibaba-AAIG/Strata-Sword
GitHub – Alibaba-AAIG/Strata-Sword: The Strata-Sword is a hierarchical …
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。








RECENT COMMENTS