长文本CP 切分，共2次All2All

QKV（按TP操作) 计算完成后。

第一次AlltoAll，输入按Seq维度汇总，按Head维度切。（切输入，非TP维度的切参数）

[s/c, b, n/t, h] -AlltoAll-> [s, b, n/(t*c), h]

第二次AlltoAll，恢复按Seq维度切，按Head维度汇总。

[s, b, n/(t*c), h] -AlltoAll-> [s/c, b, n/t, h] 

其中t 为TP, c 为CP,   n = nHead数

举例： CP = 2, TP =4 , H = 8192, nHead = 16 

compressed_kv [s, b, 576]          ← kv_a_proj 压缩后的 latent，是 _preprocess 的输入
    │
    ├── split → ct_kv [s, b, 512]   ← kv_lora_rank 部分
    │           k_pe  [s, b, 64]    ← rope 部分
    │
    ├── kv_a_layernorm(ct_kv)
    │
    └── kv_b_proj (Up-projection, 解压)
              [s, b, 512] → [s, b, 16heads, 128+128]
              k_nope [s, b, 16, 128]
              v      [s, b, 16, 128]

q_b_input (经过 q_b_proj 解压)
    q_nope [s, b, 16, 128]
    q_pe   [s, b, 16, 64]

最终拼接:
    query_states [s, b, 16, 192]  = q_nope + q_pe
    key_states   [s, b, 16, 192]  = k_nope + k_pe
    value_states [s, b, 16, 128]

MLA  attention:

DeepseekV2Attention
    └── self.core_attention_flash = FlashAttention(...)      # 基础 flash attn
              ↓ (当 CP + alltoall 时自动包装)
    └── self.core_attention_flash = DistributedAttention(FlashAttention, cp_group)

这个方法的前提：

需要nHead >= CP*TP， 否则CP过大，只能使用ring-attention.