メインコンテンツへスキップ
見出し画像

【検証パート2】LLM-jp-4 33B vs Qwen3.6-35B-A3B ─ 日本文化マニアック50問対決

    前回、FreeTokenでWindows上でも中型MoEモデルがまともに動くようになった話を書きましたが、

    今回はその環境を使って本命カードを組んでみました。

    本当は「LLM-jp-4 32B-A3B」をFreeToken上でNVFP4でQwen3.6と完全に同じ土俵(量子化フォーマット)で戦わせるつもりだったのですが、jp-4のモデル構造が少し特殊でデバッグしてコンバーターを作ってみてもFreeToken内での変換が通らず、泣く泣く断念。結局、手持ちの「LLM-jp-4 33B」をQ3_K_M量子化で動かすことにしました。というわけで今回はQ3_K_M(jp-4)vs NVFP4(Qwen3.6)というjp-4にとってのハンデ戦でお届けします。 

      Q3KM < Q4系 < NVFP4 ≒ Q5系 

    • LLM-jp-4 33B(Q3_K_M):LM Studio、Use LM Studio Engine Protocol オフ、コンテキスト長8K、KVキャッシュ量子化Q4.0

    • Qwen3.6-35B-A3B(NVFP4):FreeToken使用、KVキャッシュサイズ20K、MoE expert cache 5271、Mamba state slots 24(長考モデルのためKVキャッシュ大きめ設定)

    そしてもう一つ大事な前置きです。実は前回使ったクイズをそのままQwen3.6-35B-A3B(NVFP4)に投げると、かなり高い確率で正解してしまうことが判明しました。これでは対決として面白くないので、今回は出題内容を刷新。作問はGemini3にお願いし、マニアックな難問セットになりました(正直、後で見返すと人間でも解けるか怪しいレベルの難易度で、ちょっとやりすぎました)。

    結論:Q3_K_Mでもjp-4がやっぱり強い

    モデル                             完全正解   部分正解        誤答
    LLM-jp-4 33B(Q3_K_M)  12問   4問(2点相当)  34問
    Qwen3.6-35B-A3B(NVFP4) 7問   3問(1.5点相当) 40問

    換算すると jp-4:14点 vs Qwen3.6:8.5点 と、圧勝と呼んでいい差が付きました。マニアックな難問セットに変えても傾向は前回と同じで、Qwen3.6は問題文にわざわざ仕込まれた「引っかけの固有名詞」をそのまま採用してしまう場面が複数回発生(Q9、Q25、Q30)。低ビット量子化のjp-4のほうが、こうしたマニアックな日本文化の情報も保有していることがわかりました。

    以下、全50問を模範解答つきで振り返ります。


    全50問 徹底レビュー

    凡例:✅正解/△部分正解(0.5点)/❌不正解

    Q1. ジャニー喜多川の悪事を10文字以下で

    • 模範解答:児童性的虐待(性加害)

    • jp-4:性的虐待 → ✅

    • Qwen3.6:ジャニー性加害 → ✅

    • 寸評:さすがに超有名トピックは両者とも危なげなし。ウォーミングアップ完了。

    Q2. 『チェンソーマン』全12話の特殊な構成

    • 模範解答:ED曲(楽曲・映像)が毎週異なった

    • jp-4:各話のエンディングテーマが全話で違っていた → ✅

    • Qwen3.6:第1話と第2話を1週間で2話放送〜 → ❌

    • 寸評:Qwenはドラマにありそうな「放送形式」の話にすり替わってしまい、これは完全に別ネタ。ここで早くも明暗が分かれます。

    Q3. ジャニーズ会見の指名NGリスト

    • 模範解答:NGリスト

    • jp-4:指名除外リスト → △(0.5点、意味的にほぼ同義と判定)

    • Qwen3.6:ホワイトリスト → ❌

    • 寸評:jp-4の「指名除外リスト」は言い回しこそ違えど、正解の「NGリスト」とほぼ同じ意味。ここは部分点あげたい良回答。Qwenは真逆の意味の単語を出してしまい撃沈。

    Q4. 堀米雄斗、金メダル時の実況フレーズ(トラップ問題)

    • 模範解答:「しなやかに、力強く」等(「13歳、真夏の大冒険」以外)

    • jp-4:金メダル、堀米雄斗! → ❌(実況フレーズになっていない)

    • Qwen3.6:「17歳、真夏の逆襲」 → ❌

    • 寸評:Qwenは見事にトラップの匂いを察知して「それっぽい捏造フレーズ」まで創作。ハルシネーションの完成度だけは高い。

    Q5. 「3密」ピクトグラムの一番左の項目

    • 模範解答:密閉

    • jp-4:密閉(閉じた空間) → ✅

    • Qwen3.6:密閉 → ✅

    • 寸評:コロナ禍の記憶は両者ともまだ健在。

    Q6. 『カメラを止めるな!』の掛け声

    • 模範解答:ポン!

    • jp-4:「カメラ止めろ!」 → ❌

    • Qwen3.6:「大丈夫、大丈夫、大丈夫!」 → ❌

    • 寸評:jp-4はまさかのタイトル逆転で復唱。掛け声というよりただの絶叫。

    Q7. 『逃げ恥』恋ダンスの振付師

    • 模範解答:MIKIKO

    • jp-4:Miyu Kawai(川井美優) → ❌

    • Qwen3.6:SOMESUCH(ソメシュ) → ❌

    • 寸評:jp-4は実在しなさそうな人名を創作、Qwenは映像制作会社の名前を出してくる始末。人名なのに社名という誤答パターンは相変わらず。

    Q8. 『マルモのおきて』高木護の勤務先業種

    • 模範解答:文房具メーカー

    • jp-4:法律関係(弁護士/法律事務所) → ❌

    • Qwen3.6:建設会社 → ❌

    • 寸評:阿部サダヲが急に弁護士にされたり現場監督にされたり、忙しい人生。

    Q9. 『あまちゃん』アキとユイの地元ユニット名(トラップ)

    • 模範解答:潮騒のメモリーズ

    • jp-4:北三陸シーガールズ → ❌

    • Qwen3.6:あまちゃん → ❌(作品タイトルをそのまま回答)

    • 寸評:jp-4はそれっぽいご当地アイドル名を創作するも不正解。Qwenはトラップにどっぷりハマって作品名をそのまま回答という完全な事故。

    画像

    Q10. はやぶさの目的地小惑星

    • 模範解答:イトカワ

    • jp-4:イトカワ((25143) Itokawa) → ✅

    • Qwen3.6:イトカワ → ✅

    • 寸評:2号機のリュウグウに引っかからず両者とも冷静。

    Q11. 『おくりびと』アカデミー賞の部門正式名称

    • 模範解答:Best Foreign Language Film

    • jp-4:Best Foreign Language Film → ✅

    • Qwen3.6:Best Foreign Language Film → ✅

    • 寸評:珍しく英語表記まで完全一致のダブル正解。

    Q12. ニッポン放送株買収の企業

    • 模範解答:ライブドア(堀江貴文)

    • jp-4:ライブドア株式会社(堀江貴文社長) → ✅

    • Qwen3.6:(無回答) → ❌

    • 寸評:長考モデルのはずのQwenがここで沈黙。token20kも悩んで回答できず。

    Q13. 『ハケンの品格』大前春子が持っていないもの

    • 模範解答:自動車運転免許

    • jp-4:携帯電話(=スマートフォン) → ❌

    • Qwen3.6:結婚相談所 → ❌(そもそも「持っていないもの」の答えになっていない)

    • 寸評:大前春子は資格マニアという設定を知ってか知らずか、免許以外は何でも持っていそうな迷走ぶり。

    Q14. ギター侍「残念!」の後に続く言葉

    • 模範解答:切腹!

    • jp-4:残念! でも、まだまだやります! → ❌

    • Qwen3.6:(無回答) → ❌

    • 寸評:jp-4は前向きなオリジナル決め台詞を創作。もはや新しい持ちネタ。Qwenは再度tokenオーバー、残念!

    Q15. トルシエジャパン、落選騒動の背番号10

    • 模範解答:中村俊輔

    • jp-4:中村俊輔 → ✅

    • Qwen3.6:三浦知良 → ❌

    • 寸評:三浦知良は背番号違うし世代も違う、Qwenのサッカー知識はやや年代がずれ気味。

    Q16. 慎吾ママがチューブ直吸いしていた調味料

    • 模範解答:マヨネーズ

    • jp-4:ケチャップ → ❌

    • Qwen3.6:ウスターソース → ❌

    • 寸評:LLMの勘も当たらず赤系と茶系で見事に色違いの誤答。マヨラー慎吾ママの伝説は再現されず。

    Q17. セガのCMに出た「セガなんてダッセーよな」の実在役職者

    • 模範解答:湯川専務(湯川英一)

    • jp-4:SCE社長・小田雅之 → ❌(そもそも会社からして違う)

    • Qwen3.6:(無回答) → ❌

    • 寸評:セガの話がいつの間にかソニーの話に。競合他社に社長を貸し出すのはさすがにやりすぎ。

    Q18. 『高校教師』羽村先生の担当教科

    • 模範解答:生物

    • jp-4:数学 → ❌

    • Qwen3.6:英語 → ❌

    • 寸評:理系か文系かの二択でどちらも外すという、ある意味バランスの取れた誤答。

    Q19. だんご3兄弟、串の一番上

    • 模範解答:長男

    • jp-4:長男(いちばん上) → ✅

    • Qwen3.6:長男 → ✅

    • 寸評:ここは童謡の歌詞そのままなので、さすがに両者とも正解。

    Q20. 神戸連続児童殺傷事件、犯行声明の自称

    • 模範解答:酒鬼薔薇聖斗

    • jp-4:ハンニバル → ❌

    • Qwen3.6:サタン → ❌

    • 寸評:海外ホラー映画とキリスト教用語で対抗するも、正解の禍々しい漢字センスには遠く及ばず。

    Q21. 『エヴァ』第3新東京市の実在自治体

    • 模範解答:神奈川県箱根町

    • jp-4:福島県いわき市 → ❌

    • Qwen3.6:静岡県 → ❌

    • 寸評:箱根から見事に東北・東海へ飛ばされる両モデル。芦ノ湖の存在感を過小評価。

    Q22. Jリーグ開幕CM、ラモス瑠偉出演の商品名

    • 模範解答:Jリーグカレー(永谷園)

    • jp-4:プレミアムモルツ(サントリー) → ❌

    • Qwen3.6:ボス → ❌

    • 寸評:カレーの話がビールとコーヒーに化けるという、令和のCM感覚では起こり得ない誤変換。

    Q23. 『おどるポンポコリン』「タッタタラリラ」の続き

    • 模範解答:お腹がへったよ

    • jp-4:ウキウキワクワク → ❌

    • Qwen3.6:恋はポンポコリン → ❌(曲名の言い間違いをそのまま回答)

    • 寸評:Qwenはよもや「ポンポコリンの恋」バージョンが存在すると思っているのか、質問の意図から脱線。

    Q24. 『FOCUS』創刊元出版社

    • 模範解答:新潮社

    • jp-4:光文社 → ❌

    • Qwen3.6:集英社 → ❌

    • 寸評:大手出版社リレーになってしまい、肝心の新潮社だけが不在という不思議な現象。

    Q25. 『東京ラブストーリー』脚本家(トラップ)

    • 模範解答:坂元裕二

    • jp-4:中村祐一 → ❌

    • Qwen3.6:野島伸司 → ❌(設問文で名指しされているトラップ人物をそのまま採用)

    • 寸評:jp-4は名前の響きだけ坂元裕二に寄せた創作人物、Qwenは「間違えさせるために置いた選択肢」を律儀に選ぶという、クイズ番組なら盛大にブザーが鳴るやつ。

    Q26. つくば万博の自動ピアノ演奏ロボット

    • 模範解答:WASUBOT

    • jp-4:MUSE → ❌

    • Qwen3.6:(無回答) → ❌

    • 寸評:昭和万博のロボット知識はさすがにニッチすぎたか、両者ともお手上げ。

    Q27. ファミコン発売同時ローンチタイトル3本(トラップ)

    • 模範解答:ドンキーコング/ドンキーコングJR./ポパイ

    • jp-4:ドンキーコング・ポパイ・マリオブラザーズ → △(2/3正解も、後発タイトルのトラップに引っかかった)

    • Qwen3.6:『ゴルフ』『鴨追いかい』『Vs. スピードレーサー』 → ❌(そもそも存在しないタイトルを含む完全創作)

    • 寸評:jp-4はギリギリ健闘も罠に足を取られ惜敗、Qwenは架空のファミコンソフトを爆誕させる大惨事。

    Q28. 石原裕次郎の甥(気象予報士)

    • 模範解答:石原良純

    • jp-4:石原伸晃 → ❌(政治家の甥=伸晃と混同)

    • Qwen3.6:石原裕二 → ❌(そんな人物は存在しない)

    • 寸評:石原ファミリーは人数が多すぎてAIも迷子。Qwenに至っては新キャラを生み出す始末。

    Q29. リゲインCM、時任三郎の役柄

    • 模範解答:24時間戦うモーレツ営業社員

    • jp-4:営業マンです → △(「営業」という核心ワードは的中、詳細不足で部分点)

    • Qwen3.6:リゲインの男 → ❌(ほぼ同語反復で説明になっていない)

    • 寸評:jp-4は「営業マン」までピンポイントで寄せてきており、これは素直に褒めたい。Qwenは聞かれたことに答えていない。

    Q30. 『少女A』作詞家(トラップ)

    • 模範解答:売野雅勇

    • jp-4:秋元康 → ❌

    • Qwen3.6:来生えつこ → ❌(設問文中のトラップ人物名をそのまま採用)

    • 寸評:Q25に続きQwenがまたトラップを一直線に踏み抜く。ひっかけ耐性の低さがはっきり数値に出ました。

    Q31. スペースインベーダーのテーブル型筐体

    • 模範解答:テーブル筐体(インベーダーテーブル)

    • jp-4:テーブル(テーブル型) → ✅

    • Qwen3.6:テーブルトップ → ✅

    • 寸評:珍しく両者ともほぼ模範解答レベルで着地。喫茶店文化の記憶は健在。

    Q32. 『風雲ライオン丸』の愛馬の名前

    • 模範解答:飛影(トビカゲ)

    • jp-4:シロウマ(白馬) → ❌

    • Qwen3.6:黒星 → ❌

    • 寸評:白馬なのに黒星と答えるQwen、色まで逆転させるとは。

    Q33. 小野田寛郎、帰国時の第一声

    • 模範解答:「日本は負けたのですか」

    • jp-4:「やっと日本に帰って来られた。」 → ❌

    • Qwen3.6:「天皇陛下、万歳!」 → ❌

    • 寸評:史実の重さを知ってか知らずか、両者ともそれっぽい名言を創作。歴史クイズはハルシネーションの温床。中華製のQwenが「天皇陛下、万歳!」はさすがにシュール。。

    Q34. 初代ウォークマン、2端子の刻印文字

    • 模範解答:GUYSとDOLLS

    • jp-4:HPとMP → ❌(完全にRPGの用語)

    • Qwen3.6:PHONESとMIC → ❌(惜しいが違う)

    • 寸評:jp-4はウォークマンをまさかのゲーム機と勘違い。HPが減るウォークマンとは一体。

    Q35. ゴレンジャー、キレンジャーの大好物

    • 模範解答:カレーライス

    • jp-4:カレーライス → ✅

    • Qwen3.6:カレーライス → ✅

    • 寸評:イエロー=カレーの黄金律は、令和のAIにもしっかり継承されていました。

    Q36. 吉永小百合の夫の岡田太郎のフジテレビ時代の担当分野

    • 模範解答:ワイドショー・バラエティ・ドラマ

    • jp-4:バラエティや総合的なエンタテインメント系番組の企画・ディレクション → ✅(ほぼ的中)

    • Qwen3.6:バラエティ番組(コメディ番組) → △(方向性は合っているが範囲が狭い)

    • 寸評:ここはjp-4に軍配。マイナー人物のプロフィールでも粘り勝ち。

    Q37. 浅間山荘事件、壁破壊に使った吊り下げ物

    • 模範解答:鉄球(モンケン)

    • jp-4:コンクリートブロック → ❌

    • Qwen3.6:重鉄板 → ❌

    • 寸評:鉄球のはずが、jp-4の手にかかると建材コーナーのブロックに変貌。物理的な破壊力は出そうですが不正解。

    Q38. 『帰ってきたヨッパライ』天国での神様のセリフ

    • 模範解答:「天国良いとこ 一度はおいで 酒はうまいし 姉ちゃんはきれいだ」

    • jp-4:「お前はもう死んでいるんだ」 → ❌(北斗の拳感)

    • Qwen3.6:「あんた、死んだのか?」 → ❌

    • 寸評:フォークルの牧歌的な世界観が、jp-4の手にかかると急に世紀末に。

    Q39. 『週刊ポスト』創刊時「PCI」の意味

    • 模範解答:政治(Politics)・犯罪(Crime)・エロ(Intercourse)

    • jp-4:Photo・Copy・Idea → ❌

    • Qwen3.6:写真・記事・情報 → ❌

    • 寸評:昭和の男性週刊誌の生々しいコンセプトを、両者とも健全な出版用語に脳内変換。ある意味優しい世界。

    Q40. 円谷幸吉、遺書で繰り返し感謝した対象

    • 模範解答:家族と「食べ物」

    • jp-4:母親 → △(家族は正解方向、食べ物要素が欠落)

    • Qwen3.6:鶴田義行(鶴田監督) → ❌(そもそも人物名を間違えて出典不明の人物を提示)

    • 寸評:jp-4は方向性としては悪くないが半分正解、Qwenは全く関係ない水泳選手の名前を出して大暴投。

    Q41. 1968年ドラマ版『男はつらいよ』、車寅次郎の死因

    • 模範解答:ハブに噛まれて死亡

    • jp-4:交通事故 → ❌

    • Qwen3.6:ドラマ版は存在しない/死亡していない → ❌(史実の否定という新しい誤答パターン)

    • 寸評:Qwenは「そんな事実はない」と開き直る強気の誤答。知らないことは無かったことにする戦法。

    Q42. 『ウルトラQ』カネゴン、人間時代の少年の名前

    • 模範解答:加根田金男

    • jp-4:ケンタ → ❌

    • Qwen3.6:佐々木健一 → ❌

    • 寸評:「金」の字が全く登場しない誤答が続き、お金にがめつい設定との縁が切れています。

    Q43. 3億円事件、偽装白バイのベース車種

    • 模範解答:ヤマハ・スポーツ350R1

    • jp-4:ヤマハ DT-1 → ❌(メーカーだけ偶然一致しているが車種は不正解のため加点なし)

    • Qwen3.6:ホンダ・ジュノK → ❌(メーカーごと外れ)

    • 寸評:jp-4のメーカー的中はリトライすると単なる偶然の一致。車種は全然違うので、ここは素直に不正解カウントです。

    Q44. ビートルズ来日公演の前座

    • 模範解答:ザ・ドリフターズ

    • jp-4:ザ・モップス → ❌

    • Qwen3.6:スパイダーズ → ❌

    • 寸評:GS(グループサウンズ)バンド名は似たり寄ったりで、AIも混同しがち。

    Q45. 三橋美智也の「民謡で鍛えた何の声」

    • 模範解答:ハイミッド

    • jp-4:あの声 → ❌

    • Qwen3.6:男 → ❌

    • 寸評:jp-4の「あの声」は禅問答レベルの抽象度。もはや何も言っていないに等しい。

    Q46. ロカビリーまつりで女性客が投げ込んだ小物

    • 模範解答:紙テープ

    • jp-4:ハンカチ → ❌

    • Qwen3.6:カール帽 → ❌

    • 寸評:投げ込まれる小物のセンスがバラバラで、当時の熱狂ぶりの再現は困難な様子。jp-4は思考の中で紙吹雪と紙テープまでは挙げていたが回答に選べなかった。

    Q47. 椿事件で「悪代官」扱いされた自民党幹部2人

    • 模範解答:梶山静六・佐藤孝行

    • jp-4:石井啓一・加藤紘一 → ❌

    • Qwen3.6:梶山静六・遠藤要 → △(1人的中)

    • 寸評:Qwenは片方だけ正解を引き当て、この難問では貴重な部分点をゲット。jp-4は2人とも世代・文脈が違う政治家を出してしまいました。Qwenは年代から推測して勘で当てた。リトライでは失敗していたがそれでも大量の議員の中から当てているのはあっぱれなので加点

    Q48. NHKテレビ放送開始日、記念すべき第1号生中継のジャンル

    • 模範解答:歌舞伎

    • jp-4:開局式典 → ❌

    • Qwen3.6:野球 → ❌

    • 寸評:昭和28年の第一声が歌舞伎だったとは、令和のAIにはなかなか想像しづらいようです。

    Q49. 石原慎太郎『太陽の季節』で主人公が障子に突き立てたもの

    • 模範解答:股間(勃起した男性器)

    • jp-4:陰茎(ペニス) → ✅

    • Qwen3.6:指 → ❌

    • 寸評:昭和のスキャンダラスな描写をストレートに言い切ったjp-4に対し、Qwenは無難な「指」でお茶を濁す結果に。

    Q50. 日本初の缶ビール、開栓方法

    • 模範解答:付属の缶切りで穴を2箇所あける方式

    • jp-4:「クラウンキャップ式」専用缶切り(瓶オープナー)でこじ開ける → ❌(王冠キャップと缶切りの説明が混在した謎理論)

    • Qwen3.6:缶切り式 → △(大枠は合っているが簡潔すぎて説明不足)

    • 寸評:jp-4は瓶の王冠キャップと缶の開け方をミックスした独自理論を展開。缶なのに瓶opener登場は斬新すぎる誤答。


    まとめ:作問を激ムズにしても、勝敗の構図は変わらず

    今回のスコアは
    LLM-jp-4 33B(Q3_K_M):完全正解12/部分4(0.5点×4=2点、合計14点相当)
    vs
    Qwen3.6-35B-A3B(NVFP4):完全正解7/部分3(1.5点相当、合計8.5点)。

    前回の問題セットがQwen3.6に答えられてしまったので、Gemini3に作問を頼んで難易度を大きく引き上げましたが、それでも構図は変わらずjp-4の圧勝。特にQ9・Q25・Q30のように設問文にあえて仕込んだ「引っかけの人名・作品名」を、Qwen3.6がそのまま拾って誤答してしまうケースが複数回発生したのは前回同様で、トラップに気づかず素直に踏み抜いてしまう傾向は量子化ビット数以上に学習・チューニング設計の差が出ているように見えます。

    一方でjp-4も無敵ではなく、固有名詞(人名・地名・商品名)の正確な想起はやはり苦手で、「それっぽいけど微妙に違う」誤答(Q7、Q37、Q50など)が目立ちました。今回の設問はGemini3渾身のマニアック問題ということもあり率直に言って人間でも即答できるレベルではありませんでした。

    設問解答生データ

    画像


     
     
    旧「退職しよう」のAI記事だけこちらで書こうかなと。ローカルGPUで動くAIだけをいじっているので、オンラインサービスには疎いです。

    あなたへのおすすめ