在全同态加密与安全多方计算等隐私保护推理场景中,ReLU 等非多项式激活函数通常难以直接高效
计算,因此常需以多项式进行替换。现有方法大多以给定区间上的函数逼近误差为目标,但对分类任务而言,
更关键的问题是:替换后模型能否保持原有判别结果。本文研究单替换层且被替换层之后仅接仿射输出头的
情形。我们证明:在允许重新设定分类阈值时,二次替换在有限数据集上保持分类结果不变,当且仅当样本在
二维提升空间中严格线性可分;等价地,该问题可由有限个严格仿射不等式、两类提升点凸包不相交以及差分
凸集不含原点等条件完全刻画。进一步地,最大归一化间隔方向恰由两凸包最近点的连线给出,从而得到一个
低维、可计算且无需重新训练的参数构造方法。该结果表明:对于一类重要的后验替换问题,激活替换的核心
并非逐点逼近ReLU,而是保持分类判别结构。文末给出Otto Group 数据集上的明文实验与几何可视化,并
讨论其向CKKS 等隐私推理方案的自然扩展。