37 lines
1.4 KiB
Markdown
37 lines
1.4 KiB
Markdown
---
|
||
title: "Dynamic Model Fusion"
|
||
created: 2026-05-15
|
||
updated: 2026-05-15
|
||
type: concept
|
||
tags: [machine-learning, attention, interpretability, relational-data]
|
||
sources: [raw/papers/zeng-neurida-2025.md]
|
||
---
|
||
|
||
# Dynamic Model Fusion
|
||
|
||
**Dynamic Model Fusion** 是 DIME 管线的第三阶段，负责将有选择地将关联表的上下文信息融合到目标表元组表示中。
|
||
|
||
## 核心机制
|
||
|
||
使用**上下文感知融合模块（Context-Aware Fusion Module）**：
|
||
|
||
1. 计算关联表中每个上下文信号的**重标定重要性分数**
|
||
2. 基于任务画像自适应加权：与任务最相关的关联表获得更高权重
|
||
3. 将加权后的关系上下文注入目标表元组的 [[dynamic-relation-modeling|关系嵌入]]
|
||
4. 输出：**融合嵌入（Fused Embedding）**，直接送入预测头
|
||
|
||
## 可解释性
|
||
|
||
融合模块产生的重要性分数天然支持**预测归因**：
|
||
- 例如，在用户流失预测中，UserInfo 表获得最高重要性（用户画像最具预测力）
|
||
- 在广告点击预测中，Search 行为信号权重最大
|
||
- 这些分数与领域知识高度一致，无需额外的可解释性组件
|
||
|
||
## 消融实验
|
||
|
||
移除 Dynamic Model Fusion 后，性能下降幅度超过移除 Dynamic Relation Modeling，说明**选择性融合**（而不是简单拼接所有关系信息）是关键设计。
|
||
|
||
## 来源
|
||
|
||
- [[zeng-neurida-2025|NeurIDA 论文]]
|