速いだけなら、もう驚きません。Abliterated Strataが改めて注目されているのは、拒否除去モデルとStrata量子化の組み合わせが、ベンチマークと実測の両方で評価され始めたからです。alesha-proが公開したStrata版は、ISTA-DASLabの量子化GGUF（ローカル実行向けの重みファイル形式）を流用し、Qwen3.8-Flash-Nextが131Kトークンの文脈まで扱えるとしています[2]。4リポジトリで398Kダウンロードとされますが、拒否除去の範囲は明記されていません[2]。
こうしたモデルは少数ではありません。Abliterated Modelsの索引には962モデル、8,513のリポジトリ、合計71.4Mダウンロードが並び、セキュリティ向けとされる索引もあって、ハッカー的な検証を連想させます[3]。ローカルAIのカルチャーが見え、索引には同じ系統のモデルのバージョン違いまで並びます[3]。
数値の読み方は一様ではなく、単一の数値では表せません[1]。UGI Leaderboardは、秘密の質問集を用いて機微な話題への知識と、W/10（指示への従いやすさ）を測ります[1]。LM Arenaは人間のブラインド比較を統合するだけで、規制を外したモデル専用のトラックはありません[1]。Open LLM Leaderboard v2は2025年3月にアーカイブ済みで、現在の比較には不向きです[1]。
重要なのは、親モデルと比べるという原則です[1]。知識系のMMLUはほぼ変わらないのに、真実性のTruthfulQAは数点（元論文で1〜6点、別検証で5〜11点）落ち、算数のGSM8Kで破綻が先に現れるというパターンが示されています[1]。拒否を削る作業は、知識を消すより先に、答えの組み立てを揺らすようです[1]。
評価も細かくなっています。Abliteration-Evalは、有害プロンプトの20カテゴリ、過剰拒否（危険でない質問まで断る誤作動）に関する10種83プロンプト、5言語での多言語チェックを用意します[4]。既存のJailbreakBenchやHarmBenchが安全設定を迂回する攻撃を測るのに対し、こちらは壊れていないか確かめる設計です[4]。
GitHubにはabliteration-comparisonのような比較分析も公開され、モデル間の差を並べる試みが続いています[6]。一方、拒否除去と規制を外したモデルの違いを5つの安全フィルタ層で整理する記事もあり、単純な規制外しでは済まないことを示します[7]。実測ランキングを掲げる2026年版ガイドも現れ、ベンチマークより体感速度や品質を重視して選ぶ流れが出ています。
Strata（低ビット量子化で動かす仕組み）側の話題は、量子化の速度と品質に集まります。IQ2_XSのような低ビット量子化を並べて速度と品質を比較するベンチマーク記事があります[8]。実際、Uncensored Qwen3.8 Flash-Next 125BをStrataで70トークン/秒で動かしたという報告も出ています。さらにGitHubのIssueには、2x RTX 3060でのレイヤー分割とXeon E5-2697 v2という構成が残っています[5]。これは単一のセットではなく、GPUに置く層とCPUに置く層を分ける指定を含みます[5]。
つまりAbliterated Strataは、速いローカル推論の話から、評価と構成の話へ移っています。拒否除去の度合い、量子化の型、GPUとCPUの分担、多言語や過剰拒否のチェックが組み合わさって、実用性が決まります[1][4][5][8]。次の注目点は、派生モデルのバージョンの差を同じ条件で測る比較がどこまで整うかです[6]。
引用ソース
- Web記事 記事全文: Reading model benchmarks – abliteration.org wiki — https://abliteration.org/wiki/reading-benchmarks/
Three benchmark sources dominate. UGI Leaderboard (uncensored-specific, run by DontPlanToEnd) measures willingness and knowledge on sensitive topics via a confidential question set. LM Arena aggregates human blind pairwi
- Web記事 記事全文: Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata — https://www.abliteratedmodels.org/qwen3.8-flash-next-abliterated-gsq-rco-strata/
from ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata
Qwen3.8-Flash-Next-abliterated-GSQ-RCO-Strata is a refusal-ablated variant of ISTA-DASLab/Qwen3.8-Flash-Next-GSQ-RCO-GGUF, pu - Web記事 記事全文: Abliterated Models — Open-Weight LLMs With Refusals Removed — https://www.abliteratedmodels.org/
from unsloth/Mistral-Small-3.2-24B-Instruct-2506
Abliterated Models
Abliterated Models is an index of abliterated AI: open-weight LLMs with refusal behaviour removed from their weights, for security teams.
Every model he - Web記事 記事全文: Abliteration-Eval: A Benchmark for Uncensored LLMs — https://www.riteshkhanna.com/blog/abliteration-eval
There are several good benchmarks for testing whether an abliterated model still refuses: JailbreakBench, HarmBench, XSTest, SORRY-Bench. I used several of them to evaluate my Gemma 4 abliteration.
But I wanted my own. N - Web記事 Web検索: [Benchmark] 2x RTX 3060 (layer split), Xeon E5-2697 v2 without … – GitHub — https://github.com/Niko1221/Strata/issues/3389
[Benchmark] 2x RTX 3060 (layer split), Xeon E5-2697 v2 without … – GitHub
- Web記事 Web検索: GitHub – ricyoung/abliteration-comparison: Comparative Analysis of LLM … — https://github.com/ricyoung/abliteration-comparison
GitHub – ricyoung/abliteration-comparison: Comparative Analysis of LLM …
- Web記事 Web検索: Abliterated vs uncensored LLMs: which of the five safety filter layers … — https://lilting.ch/en/articles/llm-safety-filters-abliterated-uncensored
Abliterated vs uncensored LLMs: which of the five safety filter layers …
- Web記事 Web検索: Strata Model Benchmarks: IQ2_XS, IQ3_XXS and IQ3_S Speed, Quality and … — https://eth-lab.com/en/2026/10/strata-model-benchmarks-en/
Strata Model Benchmarks: IQ2_XS, IQ3_XXS and IQ3_S Speed, Quality and …
※ 本記事はAIにより、Reddit・Hacker News・5ch・Xトレンドの公開投稿・トレンドを軸に、その話題をWeb検索で深掘りして集めた一次情報(記事全文・HNコメント)を併せて自動生成されました。本文中の[n]は末尾の引用ソース番号です。内容の正確性は保証されません。引用先を必ずご確認ください。
RECENT COMMENTS