Files
myWiki/concepts/llm-based-temporal-point-process.md

2.2 KiB
Raw Blame History

title, created, updated, type, tags, sources
title created updated type tags sources
LLM 时间点过程 (LLM-based TPP) 2026-06-16 2026-06-16 concept
temporal-point-process
llm
multimodal
event-modeling
raw/papers/advances-temporal-point-processes-2026.md

LLM 时间点过程 (LLM-based TPP)

LLM-based TPP 将大语言模型的表征能力引入事件序列建模,代表了 TPP 研究从"事件发生过程建模"向"带时间戳事件数据理解"的重要范式转变。

两大范式

1. LLM-inspired TPP

保留神经 TPP 作为事件动态的主要模型,借用 LLM 机制增强适应性和可解释性:

  • PromptTPP (Xue et al., 2023b):将 prompt learning 引入神经 TPP用少量可学习 prompt 适应分布偏移,无需存储历史数据或重训练
  • LAMP (Shi et al., 2024)LLM 增强的溯因推理管道:基础 TPP 生成候选事件 → LLM 生成因果解释 → 检索历史事件验证 → 打分选择

2. Direct LLM-TPP Integration

将 LLM 直接作为事件序列的核心模型:

  • TPP-LLM (Liu & Quan, 2024)用文本描述替代类别标记LoRA 微调适配时序预测,但时间信息通过外部位置编码注入
  • Language-TPP (Kong et al., 2025):将连续时间间隔编码为 byte-level token与自然语言在同一 token 序列中统一处理,实现更紧密的时间-语义融合

范式转变

LLM-based TPP 不仅引入新模型架构,更扩展了 TPP 的研究议程:

  • 从纯概率建模 → 语义丰富的多模态事件理解
  • 新增任务:事件序列检索、问答、多模态推理
  • 自然连接事件流与自由文本、外部知识库

多模态扩展

  • TPP-Embedding (Liu & Quan, 2025):时序事件检索 benchmark对比学习对齐序列嵌入与文本描述
  • DanmakuTPPBench (Jiang et al., 2025):多模态 TPP benchmark包含文本+时间戳+视频帧的弹幕数据

局限与挑战

  • 在纯时序预测 benchmark 上优势不明显
  • 时间对齐、不确定性校准、可控性仍是开放问题
  • 部分任务检索、QA已超出传统 TPP 定义边界

参考