2.2 KiB
2.2 KiB
title, created, updated, type, tags, sources
| title | created | updated | type | tags | sources | |||||
|---|---|---|---|---|---|---|---|---|---|---|
| LLM 时间点过程 (LLM-based TPP) | 2026-06-16 | 2026-06-16 | concept |
|
|
LLM 时间点过程 (LLM-based TPP)
LLM-based TPP 将大语言模型的表征能力引入事件序列建模,代表了 TPP 研究从"事件发生过程建模"向"带时间戳事件数据理解"的重要范式转变。
两大范式
1. LLM-inspired TPP
保留神经 TPP 作为事件动态的主要模型,借用 LLM 机制增强适应性和可解释性:
- PromptTPP (Xue et al., 2023b):将 prompt learning 引入神经 TPP,用少量可学习 prompt 适应分布偏移,无需存储历史数据或重训练
- LAMP (Shi et al., 2024):LLM 增强的溯因推理管道:基础 TPP 生成候选事件 → LLM 生成因果解释 → 检索历史事件验证 → 打分选择
2. Direct LLM-TPP Integration
将 LLM 直接作为事件序列的核心模型:
- TPP-LLM (Liu & Quan, 2024):用文本描述替代类别标记,LoRA 微调适配时序预测,但时间信息通过外部位置编码注入
- Language-TPP (Kong et al., 2025):将连续时间间隔编码为 byte-level token,与自然语言在同一 token 序列中统一处理,实现更紧密的时间-语义融合
范式转变
LLM-based TPP 不仅引入新模型架构,更扩展了 TPP 的研究议程:
- 从纯概率建模 → 语义丰富的多模态事件理解
- 新增任务:事件序列检索、问答、多模态推理
- 自然连接事件流与自由文本、外部知识库
多模态扩展
- TPP-Embedding (Liu & Quan, 2025):时序事件检索 benchmark,对比学习对齐序列嵌入与文本描述
- DanmakuTPPBench (Jiang et al., 2025):多模态 TPP benchmark,包含文本+时间戳+视频帧的弹幕数据
局限与挑战
- 在纯时序预测 benchmark 上优势不明显
- 时间对齐、不确定性校准、可控性仍是开放问题
- 部分任务(检索、QA)已超出传统 TPP 定义边界