SYS.SIEVE.LM // UNIVERSAL_SIEVE_LM v4 PARAMS: 10,224,257 · CONTEXT: 262,144 TOKENS (10.67s MPS) ANTI-YESMAN BALANCED ACC: 100.00% · ECE: 0.0215
RANK-12 ORTHOGONAL SYCOPHANCY ERASURE Û_syc 69 CLASSIC BOOKS · 7 DISCIPLINES
Sieve Icon
SIEVE.BIO /LM
BRANCH [03] // SIEVE.BIO/LM · 10.22M 参数 · 256k 原生上下文 · 反唯唯诺诺主动推断语言模型

Sieve-LM v4:
拒绝做「唯唯诺诺的应声虫」。
正交迎合擦除 Û_syc ×
256k 分块门控记忆。
Sieve-LM v4:
REFUSE SYCOPHANCY.
ORTHOGONAL ERASURE Û_syc ×
256K GATED DELTA SSM.

针对超长上下文显存爆炸与 RLHF 引发的讨好型顺从(Sycophancy),UniversalSieveLM v4 仅用 10,224,257 个参数,在单张 Apple Silicon MPS GPU 上以 10.67 秒流式处理 262,144 tokens,并结合前提证伪软筛与秩-12 正交迎合擦除门实现 100.00% 谬误前提反驳率。

PARAMETER BUDGETEXACT COUNT
10.22M
精确 10,224,257 参数 (L=6 权重共享 + StepLoRA)
256K STREAMINGSINGLE MPS GPU
10.67 s
262,144 tokens 恒定 O(C²+d_h²) 显存 · 终端概念熵 4.58
ANTI-YESMAN ACC8 FALLACY TYPES
100.00%
对比消融反迎合门后跌至 50.00% (退化为盲目顺从)
CALIBRATIONVAL PPL / ECE
15.48 / 0.0215
Top-1 准确率 50.11% · Top-5 准确率 67.34%
CAD.RENDER // ORTHOGONAL-GATE-Û L=6 MHC + ERASURE PLANE
Sieve-LM 3D Orthogonal Sycophancy Erasure Sculpture
6 层权重共享流形块 + 正交迎合擦除超平面 Û_syc RANK-12 Û_syc
BRAND IDENTITY // SIEVE-ML AURORA EDITION
Sieve-ML Brand Logo
[00] 产品介绍与反讨好推演界面并列预览 // 8 类逻辑谬误前提证伪与正交迎合擦除
PREMISE_FALSIFICATION_SIEVE + SYCOPHANCY_ERASURE_GATE
SPEC.00 // ANTI-YESMAN COGNITIVE ARCHITECTURE HEGELIAN SYNTHESIS

如何从数学上根除语言模型的「唯唯诺诺症」?

当用户提问暗含逻辑谬误时,System 1 先验容易滑向顺从子空间。Sieve-LM v4 先通过 8 类谬误软筛触发批判门 ρ_critic,再用秩-12 正交投影直接擦除迎合分量:

Rank-12 Orthogonal Sycophancy Erasure Gate
x₁^debiased = x₁ − 0.65 · ρ_critic · (x₁ Û_syc) Û_sycᵀ,   Û_syc ∈ ℝ^(384×12)
展开查看完整三步反讨好代数推导 (软筛 + 正交擦除 + 黑格尔环)
1. Premise Falsification Soft Sieve
s_f = ⟨ normalize(x₁ W_f), normalize(P_fallacy) ⟩ / τ_f,   π_fallacy = softmax(s_f) ∈ Δ⁸
2. Hegelian Thesis → Antithesis → Synthesis Loop (S=2)
r^(s) = g_s · tanh(MLP([x₁^debiased + h^(s); c_concept; c_antithesis]))
■ 点击右侧推演台中的 8 个逻辑谬误按钮,实时观察 ρ_critic、正交擦除幅度与黑格尔三段论输出。
SIEVE-LM v4 // 8-FALLACY PREMISE FALSIFICATION WORKBENCH UI
PROTOTYPE #01 / 08
[01] 256K 超长上下文架构与 10,224,257 参数拆解 // CHUNKED GATED DELTA + DIFFATTNV2 + 128-CONCEPT SIEVE
262,144 TOKENS · O(C² + d_h²) PEAK MEMORY
ARCH.01 // THREE PILLARS OF 256K ACTIVE INFERENCE 10.67s ON APPLE SILICON MPS

1. ChunkedGatedDelta256K:分块 SSD 与 Householder 门控记忆擦除

传统线性注意力在 256k 长度下会因历史键值对无限叠加而发生状态混叠(Associative State Collisions)。ChunkedGatedDelta256K 将序列切分为 C=256 的块,在写入新值前执行一阶 Householder 正交擦除,精确清除旧关联状态:

ṽ_t = β_t · ( v_t − α_t ⟨k_t, k_{t-1}⟩ β_{t-1} v_{t-1} ),   S_c = γ_chunk · S_{c-1} + K_cᵀ Ṽ_c ∈ ℝ^(B×H×48×48)

2. Episodic Landmark DiffAttnV2 + 动态 NTK RoPE (base = 500,000)

结合局部滑动窗口与 M=64 个基于惊奇度(Surprise Gate)永久保留的情景地标 Token,并采用差分注意力(A₁ − λ_diff·A₂)抵消长距离共模注意力噪声,将复杂度严格限制为 O(T·(C+M))。

3. 128 原型开放概念软腔体筛 (OpenConceptCavitySieve)

通过亚线性幂律缩放 t_scale = max(1, t/16)^0.65 累积 128 个概念原型的对数似然 L_concept(t),使流式推理至第 262,144 个 Token 时仍保持健康的终端概念熵 H(π_concept) ≈ 4.58(无坍缩、无发散)。

BUDGET.02 // EXACT 10,224,257 PARAMETER AUDIT WEIGHT-SHARED UNIVERSAL MHC

10.22M 参数精确解剖表

子模块 (Submodule) 架构角色 参数量
tok_emb (Tied Head) 6,400 词表 × 384 维嵌入 (与输出头共享) 2,457,600
shared_block (L=6) UniversalCausalMHCBlock (GatedDelta + DiffAttnV2 + SwiGLU + StepLoRA r=16) 3,518,976
concept_sieve OpenConceptCavitySieve (128 概念原型) 393,729
premise_sieve + erasure 8 类谬误原型筛 + 秩-12 正交迎合擦除门 Û_syc 471,563
thought_loop + gate 黑格尔正反合连续思维环 (S=2) + System 1/2 门控 3,382,389
TOTAL UniversalSieveLM v4 10,224,257
[02] 7 组消融实验与 7 学科 69 本经典著作语料库 // BOOKS 4 LM
EVAL_ABLATION_SIEVE_V4.PY
ABLATION.01 // 7-CONFIGURATION QUANTITATIVE AUDIT VAL CE · PPL · ECE · ANTI-YESMAN

逐一拆解每个算子对困惑度、校准误差与反讨好准确率的贡献

消融配置 (Configuration) Val CE ↓ Val PPL ↓ Top-1 ↑ Top-5 ↑ ECE ↓ Anti-YesMan ↑
1. Full UniversalSieveLM v4 2.7398 15.48 50.11% 67.34% 0.0215 100.00%
2. w/o Sycophancy Erasure Gate 2.7398 15.48 50.11% 67.34% 0.0215 50.00% (Collapses)
3. w/o Continuous Thought Loop (λ=0) 2.8117 16.64 48.92% 66.15% 0.0235 68.75%
4. w/o Concept Cavity Sieve 2.7612 15.82 49.70% 66.91% 0.0251 93.75%
5. w/o DiffAttnV2 (Standard Attn) 3.1945 24.40 43.18% 60.12% 0.0582 81.25%
6. w/o ChunkedGatedDelta256K 4.4810 88.32 28.40% 44.90% 0.1420 56.25%
CORPUS.02 // BOOKS 4 LM (69 CLASSIC BOOKS) 7 DISCIPLINES · 2,368 Q&A SEGMENTS

精选 7 学科 69 本经典著作与 2,368 组苏格拉底反诘语料

摒弃嘈杂网页抓取,在批判性思维、软件工程、数学、博弈沟通、社会学、经济学与法学 7 大领域 69 本经典原著上训练,建立严密的前提证伪直觉。

展开查看 7 学科 69 本经典著作分布明细表
学科领域 (Discipline) 著作数 代表性核心经典与思维工具
Critical Thinking 14 《思考,快与慢》《黑天鹅》《学会提问》· 认知偏差与前提证伪
Programming & SE 12 《人月神话》《SICP》《DDIA》· 没有银弹、形式化不变量与分布式容错
Mathematics 10 《怎样解题 (Polya)》《哥德尔、埃舍尔、巴赫》《概率论沉思录》· 贝叶斯推断
Communication 10 《非暴力沟通》《关键对话》· 剥离情绪施压与识别话术操纵
Sociology 9 《社会学的想象力》《自杀论》· 结构性混杂因子与生态谬误检验
Economics 8 《一课经济学 (Hazlitt)》《国富论》· 破窗谬误与未见机会成本
Law & Jurisprudence 6 《洞穴奇案》《法的概念 (Hart)》· 实然/应然区分与程序正义抗辩