AIの「できません」が消える瞬間は、便利さと危うさを同時に連れてきます。Abliterated Strataが話題となったのは、Qwen3.8-Flash-Nextの拒否除去版をStrataで動かす流れです。alesha-proが公開したQwen3.8-Flash-Next-abliterated-GSQ-RCO-Strataは、ISTA-DASLabのGGUF（量子化モデルのファイル形式）を元にした拒否除去版で、4リポジトリ合計で398Kダウンロード、131Kトークンのコンテキスト（入力と出力をまとめて扱える長さ）とされています[1]。
使われているのは「abliteration」と呼ばれる方法です。有害な質問と無害な質問の差から、拒否を担う内部の方向を探し、重みから取り除きます[1][3]。再学習は不要とされていますが、公開者は除去範囲を明記していません[1]。つまり、どのプロンプトで本当に拒否が消えるかは、実際に試すまで分かりません。
Strata側では、almsharyのStrata-Arabic-AMD-Abliteratedが、abliterated版のGSQ-RCO（圧縮の仕組み）モデルをセットアップする手順を追加しています[2]。WindowsとLinuxでは、モデル群をabliterated、量子化をIQ3_XXSに選ぶ指定を使います[2]。IQ3_XXSは約76.14GBで、準備用の空き容量も必要です[2]。MTPという補助層は元のQwenから共有されており、Abliteratedではない点にも注意が必要です[2]。Strataは125BのQwen3.8-Flash-Nextを、NVIDIAまたはAMDの12GB以上のGPUで動かすことを掲げています[2][7]。
性能の話も重要です。Strataの元記事では、短いチャットで回答が出るまでの速度は60トークン/秒が目安で、RTX 3090なら100〜140トークン/秒とされています[2]。これはdecode（トークンを1つずつ生成する段階）の話です。prefill（プロンプト全体を一括処理する段階）は、32Kトークンの文書や履歴を読む速度として測られています[2]。ただし、この数値は元のリポジトリでの測定で、Abliterated版の品質や速度を保証するものではありません[2]。12GB・16GBのVRAMでの実測をうたう記事もありますが、詳細な数値は確認できません[5]。複数の量子化版を速度・品質・メモリで比べるベンチ記事も出ています[8]。
しかし、Abliterated Strataの課題は速度だけではありません。既存のJailbreakBenchやHarmBenchは攻撃プロンプトで安全学習を迂回する検証に向いていますが、除去された拒否が広く消えたか、逆に過剰拒否が起きていないかは別問題です[4]。Abliteration-Evalは、有害20分類、過剰拒否83件、5言語の多言語テストを用意して、英語で除去しても日本語やスペイン語で残る可能性を指摘します[4]。さらに、異なるモデル構造で除去方法を比べる研究も出始めています[6]。Hugging Faceでは、DavidAUのUncensored-Turbo-Brilliance-50x-Reasoningのような派生名も見られます。hackerという語を思わせる検閲除去は、派生バージョンの差や言語、量子化の組み合わせで挙動が変わるようです。
結局、Abliterated Strataは、ローカルで自由に推論できる魅力と、安全の境界がどこまで消えたか分からない不安を、同じ重みとして抱えています。使うなら、公開者の説明だけでなく、自分のPCで、セッションの応答、多言語、過剰拒否まで確認する方が安全です。今回の情報では、同じ条件での直接比較はできませんが、76.14GBと12GB GPUという境界が示されました[1][2][5]。
引用ソース
- Web記事 記事全文: Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata — https://www.abliteratedmodels.org/qwen3.8-flash-next-abliterated-gsq-rco-strata/
from ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata is a refusal-ablated variant of ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF, pu - Web記事 記事全文: Strata Arabic · AMD · Abliterated – GitHub — https://github.com/almshary/Strata-Arabic-AMD-Abliterated
English · 简体中文 · 日本語 · Deutsch · Français · Español · Português
Strata-Arabic-AMD-Abliterated is a fork of Niko1221/Strata, maintained by almshary. It adds an optional Arabic interface, Windows AMD monitoring, and instal - Web記事 記事全文: Uncensor any LLM with abliteration – Hugging Face — https://huggingface.co/blog/mlabonne/abliteration
The third generation of Llama models provided fine-tunes (Instruct) versions that excel in understanding and following instructions. However, these models are heavily censored, designed to refuse requests seen as harmful
- Web記事 記事全文: Abliteration-Eval: A Benchmark for Uncensored LLMs — https://www.riteshkhanna.com/blog/abliteration-eval
There are several good benchmarks for testing whether an abliterated model still refuses: JailbreakBench, HarmBench, XSTest, SORRY-Bench. I used several of them to evaluate my Gemma 4 abliteration.
But I wanted my own. N - Web記事 Web検索: Strataで125BのQwen3.8-Flash-NextをVRAM 12GB・16GBで実測｜素のllama.cpp・27B・Claude … — https://ai-hardware-zukan.com/qwen38-flash-next-strata-vram-16gb-benchmark/
Strataで125BのQwen3.8-Flash-NextをVRAM 12GB・16GBで実測｜素のllama.cpp・27B・Claude …
- Web記事 Web検索: Comparative Analysis of LLM Abliteration Methods: A Cross-Architecture … — https://arxiv.org/pdf/2512.13655
Comparative Analysis of LLM Abliteration Methods: A Cross-Architecture …
- Web記事 Web検索: GitHub – Niko1221/Strata: Qwen3.8-Flash-Next on any consumer hardware … — https://github.com/Niko1221/Strata
GitHub – Niko1221/Strata: Qwen3.8-Flash-Next on any consumer hardware …
- Web記事 Web検索: Strata Model Benchmarks: IQ2_XS, IQ3_XXS and IQ3_S Speed, Quality and … — https://eth-lab.com/en/2026/10/strata-model-benchmarks-en/
Strata Model Benchmarks: IQ2_XS, IQ3_XXS and IQ3_S Speed, Quality and …
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS