続報・Strata追跡:検閲を外すabliteratedが推論エンジンに移植

AIが「その質問には答えられません」と拒否する反応。あれは重み全体を作り直さなくても、内部のたった一つの方向を引き算するだけで外せます。先日の記事で、長文推論の高速化や量子化で注目されていたローカル推論エンジンStrataに、今度はこの手法「abliteration」を使うための移植が登場しました。Redditのr/LocalLLaMAでは、llama.cppのフォークとして開発された推論時abliterationエンジン「AbliteratedOutTheBox」のStrata対応が発表されています[1]。

abliterationは、有害なプロンプトと無害なプロンプトのペアを用意し、拒否を担う単一の残差ストリーム方向(モデル内部の情報の流れの一方向)を特定する手法です。特定した方向を重みから差し引いて除くことで、拒否しないモデルに作り替えます[2]。検索結果の解説でも「uncensoredモデルは再学習されたのではなく、一方向を差し引いたものだ」と説明されています[4]。「abliterated」と「uncensored」「no-filter」の違いを整理した記事も出ています[6]。

発表された「AbliteratedOutTheBox」は、推論時にフック(処理の途中へ割り込む仕組み)でabliterationを適用するエンジンです。大量のVRAMやファインチューニングなしで、abliteratedモデルを使えるのが狙いだといいます[1]。プロジェクトはllama.cpp向けのブランチに加え、Strata向けのブランチも公開しています。作者いわくStrata版は実験的な段階で、モデル全体の挙動や応答品質の検証はまだ済んでおらず、Strataを動かしている人に試用とフィードバックを求めています[1]。

すでにStrata向けのabliteratedモデルも登場しています。Hugging Faceではalesha-proさんが、Qwen/Qwen3.8-Flash-Nextの拒否除去版「Qwen3.8-Flash-Next-S-abliterated-Strata」を公開しました[2]。GGUF形式で2リポジトリに分かれて配布され、合計6.6Kダウンロード、コンテキスト長は262Kトークン、タスクは画像+テキスト入力からテキスト生成と登録されています。モデルカードの説明では、Miraiによる2bit trellisビルド(重みを2bitまで圧縮する量子化)でパックされており、MoEのエキスパートをシステムRAMに置く構成で、RTX 3090を1〜2枚で動くとされています。llama.cppやvLLMで動かすコマンド例も添えられていますが、この構成でのdecode(トークンを1つずつ生成する段階)の速度などの実測値は、素材には見つかりませんでした。

背景には、abliteratedモデルそのものの普及があります。セキュリティチーム向けに、拒否しないオープンウェイトモデルを整理した索引サイト「Abliterated Models」では、822モデル・元リポジトリ7,750・合計ダウンロード54.3Mが数えられています[3]。掲載モデルは「通常のAIが拒否するプロンプトにも答える」ものとして案内され、すべてHugging Faceから無料でダウンロードできます。各ページには元になったモデル、サイズ、必要なハードウェア、ライセンスが示され、VRAMや除去手法で絞り込める作りです。Strata側もフォークが増えており、Qwen3.8-Flash-Next 125Bを対象にしたフォーク(strata-nvfp4)も別に公開されています[5]。

ただし、情報の薄さには注意が必要です。このモデルカードでは、除去の適用範囲が明示されておらず、全面的な除去を前提にせず実際に動かして確かめるよう注意書きが添えられています[2]。パラメータ数は名前から確定できず、必要なVRAMも未公表です[2]。検閲を外したモデルがどの範囲まで「素通り」できるのか、配布元の説明だけでは分からないのが実情のようです。

拒否反応の除去は、これまで重みを書き換えたモデルを配布する形が中心でした。そこに推論時フック方式が加わり、2bit量子化のStrataビルドではRTX 3090を1〜2枚という構成でも動くモデルが出ています。大がかりな再学習やVRAMを要しない方向に、選択肢が広がっているといえます。動くかどうかの次は、検閲を外した後の応答の質がどこまで保たれるかを確かめる段階になりそうです。

引用ソース

Reddit Reddit r/LocalLLaMA: AbliteratedOutTheBox Strata Announcement — https://www.reddit.com/r/LocalLLaMA/comments/1xe8x9c/abliteratedoutthebox_strata_announcement/

AbliteratedOutTheBox Strata Announcement
Web記事 記事全文: Qwen3.8-Flash-Next-S-abliterated-Strata — Abliterated Model Card — https://www.abliteratedmodels.org/qwen3.8-flash-next-s-abliterated-strata/

from Qwen/Qwen3.8-Flash-Next
Qwen3.8-Flash-Next-S-abliterated-Strata
Qwen3.8-Flash-Next-S-abliterated-Strata is a refusal-ablated variant of Qwen/Qwen3.8-Flash-Next, published on Hugging Face by alesha-pro. It is other l
Web記事 記事全文: Abliterated Models — Open-Weight LLMs With Refusals Removed — https://www.abliteratedmodels.org/

from SubMaroon/Kitchoon-V3-26B-A4B
Abliterated Models
Abliterated Models is an index of abliterated AI: open-weight LLMs with refusal behaviour removed from their weights, for security teams.
Every model here is uncensor
Web記事 Web検索: Uncensored models are not retrained, they have one direction subtracted … — https://thakicloud.com/tech-blog/en/research/abliteration-refusal-direction-explained/

Uncensored models are not retrained, they have one direction subtracted …
Web記事 Web検索: GitHub – sergqwer/strata-nvfp4: Strata fork: Qwen3.8-Flash-Next 125B … — https://github.com/sergqwer/strata-nvfp4

GitHub – sergqwer/strata-nvfp4: Strata fork: Qwen3.8-Flash-Next 125B …
Web記事 Web検索: What Is an Abliterated Model? (vs Uncensored / No-Filter) — https://www.hackaigc.com/blog/what-is-abliterated-model-vs-uncensored

What Is an Abliterated Model? (vs Uncensored / No-Filter)

※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。