拒否しないAIを自分のPCで動かす、その組み合わせがAbliterated Strataです。Abliterated Modelsは、拒否行動を重みから取り除いたオープンLLMを962件集めたセキュリティチーム向けの索引です。通常のAIが断る質問にも答えることを売りにしており、元のリポジトリは8,513件、合計ダウンロード数は7,140万件あります[1]。
中心にあるのが、Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strataです。ISTA-DASLabの量子化GGUF(PCで動かしやすい重みファイル形式)から作られた派生で、alesha-proが4つのリポジトリで公開しており、398K件のダウンロードがあります[2]。一度に扱える文脈は131Kトークンです[2]。2026年10月に索引に追加されました[2]。この派生は、拒否に関わる内部方向を重みから取り除く方向性アブレーションを掲げますが、除去範囲は明記されていません[2]。公開者も範囲を書いていないため、実際に試して確かめる必要があります[2]。
Strataそのものは、Niko1221/StrataというQwen3.8-Flash-Nextを消費者向けPCで動かすためのローカル推論ツールです[8]。その派生であるStrata-Arabic-AMD-Abliteratedは、アラビア語の画面、WindowsでのAMD監視、SC117のabliterated GSQ-RCOモデル用インストーラを追加します[3]。注目すべきは構成で、以前取り上げた続編でも示したように、125BのモデルをNVIDIAまたはAMDの12GB以上のGPUで、Windows/Linuxで動かすとされています[3]。短いチャットでは60トークン/秒、RTX 3090なら100〜140トークン/秒が目安です[3]。一方、IQ3_XXS(強い圧縮の量子化版)は約76.14GBで、2026年10月時点のデータでは準備用の空き容量も必要です[3]。
注意点は、量子化と拒否除去を混同しないことです。Refusal Mapは、abliteration(拒否除去)が拒否関連の振る舞いを変え、quantization(重みを圧縮してメモリを節約する仕組み)が数値表現を変えると整理しています[4]。比較では、チャットテンプレート(会話形式の指示文)、生成予算(出力できるトークン数の上限)、乱数シード、量子化を揃えることが重要です[4]。GPUを動かしたくない場合は、hosted API(サーバー側で動くAPI)で試す道もあります[4]。
評価も簡単ではなく、AISafetyBenchExplorerは、AI安全ベンチマークを指標ごとに集めた目録です[5]。アーキテクチャを横断してアブレーション法を比べる研究も出ています[6]。hacker文化に近いOBLITERATUSが示すように、拒否除去の動きには危険も伴います。さらに、abliteratedオープンモデルに、特定の合図で悪意ある動作を発動するbackdoor(裏口)が仕込まれる可能性も指摘されています。
Strata-Arabic-AMD-AbliteratedのMTP(複数トークン予測)層は元のQwen由来で、Abliteratedではないと明記されています[3]。自動テストはインストールと統合を確認するだけで、回答品質や速度を保証しません[3]。Strataという語が同じでも、Alibaba-AAIGのStrata-Swordは階層型と紹介されている別プロジェクトです[7]。混同しない方がよいです。
現在のところ、Abliterated Strataは、Flash 125Bを12GBのGPUで試せる魅力と、拒否除去・量子化・安全性評価が絡み合った落とし穴を同時に示しています。ローカルで使うなら、以前取り上げた続編の実測値だけでなく、モデルカード(公開者が書く仕様書)に書かれた範囲と実際の挙動を分けて確かめるのが安全です[2][3][4]。
引用ソース
- Web記事 記事全文: Abliterated Models — Open-Weight LLMs With Refusals Removed — https://www.abliteratedmodels.org/
from unsloth/Mistral-Small-3.2-24B-Instruct-2506
Abliterated Models
Abliterated Models is an index of abliterated AI: open-weight LLMs with refusal behaviour removed from their weights, for security teams.
Every model he - Web記事 記事全文: Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata — https://www.abliteratedmodels.org/qwen3.8-flash-next-abliterated-gsq-rco-strata/
from ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata is a refusal-ablated variant of ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF, pu - Web記事 記事全文: Strata Arabic · AMD · Abliterated – GitHub — https://github.com/almshary/Strata-Arabic-AMD-Abliterated
English · 简体中文 · 日本語 · Deutsch · Français · Español · Português
Strata-Arabic-AMD-Abliterated is a fork of Niko1221/Strata, maintained by almshary. It adds an optional Arabic interface, Windows AMD monitoring, and instal - Web記事 記事全文: Refusal Map — Abliterated AI & Model Evaluation — https://refusalmap.com/
Use hosted abliterated models through an API without running a GPU server. A practical guide to model selection, client setup, costs and evaluation.
Read the article
Understanding
abliterated AI.
Field notes on refusal, - Web記事 Web検索: AISafetyBenchExplorer: A Metric-Aware Catalogue of AI Safety Benchmarks … — https://arxiv.org/html/2604.12875v1
AISafetyBenchExplorer: A Metric-Aware Catalogue of AI Safety Benchmarks …
- Web記事 Web検索: Comparative Analysis of LLM Abliteration Methods: A Cross-Architecture … — https://arxiv.org/pdf/2512.13655
Comparative Analysis of LLM Abliteration Methods: A Cross-Architecture …
- Web記事 Web検索: GitHub – Alibaba-AAIG/Strata-Sword: The Strata-Sword is a hierarchical … — https://github.com/Alibaba-AAIG/Strata-Sword
GitHub – Alibaba-AAIG/Strata-Sword: The Strata-Sword is a hierarchical …
- Web記事 Web検索: GitHub – Niko1221/Strata: Qwen3.8-Flash-Next on any consumer hardware … — https://github.com/Niko1221/Strata
GitHub – Niko1221/Strata: Qwen3.8-Flash-Next on any consumer hardware …
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS