SPINN架构解析：高维物理建模的神经网络创新

1. SPINN架构设计原理与核心思想

在传统物理信息神经网络(PINN)中，我们通常将整个输入空间（如三维坐标x,y,z）直接拼接成一个向量输入到多层感知机(MLP)中。这种方法在处理高维问题时面临严重的"维度灾难"——网络参数量随维度指数增长，训练难度和计算成本急剧上升。SPINN(可分离物理信息神经网络)通过创新的架构设计，从根本上改变了这一局面。

1.1 按坐标轴的体网络设计

SPINN的核心创新在于将传统的单一MLP拆分为多个独立的"体网络"(Body Networks)，每个网络仅处理单一坐标轴输入。对于三维空间问题，SPINN会部署三个独立的子网络：

• x-network: fθ₁(x): ℝ → ℝʳ
• y-network: fθ₂(y): ℝ → ℝʳ
• z-network: fθ₃(z): ℝ → ℝʳ

其中r是预设的分离秩(separation rank)，控制着每个子网络的输出维度。这三个子网络输出的r维特征向量会通过特征融合机制组合成最终预测结果。

关键设计优势：这种分离架构将参数量从O(dⁿ)降低到O(d×n)，其中d是输入维度，n是每层神经元数。对于100维问题，参数量可能从10⁶级降至10⁴级。

1.2 特征融合机制与参数效率

体网络的输出通过两种主要方式进行特征融合：

1. 外积融合：对于解u(x,y,z)，预测值为各网络输出的外积收缩：
   û = ⟨fθ₁(x)⊗fθ₂(y)⊗fθ₃(z), W⟩
   其中W是可学习的三阶张量

2. 加法融合：更轻量级的方式是简单相加：
   û = sum(fθ₁(x) + fθ₂(y) + fθ₃(z))

实际应用中，我们发现外积融合在低维问题(≤5D)中表现更好，而加法融合在高维场景下更具参数效率。下表对比了两种方式的特性：

2. 微分计算与训练优化

2.1 前向自动微分的优势

SPINN的分离架构与前向模式