一文读懂Kairos-50M：动态补丁分词器如何让时间序列预测效率提升300%？

【免费下载链接】Kairos_50m 项目地址: https://ai.gitcode.com/hf_mirrors/mldi-lab/Kairos_50m

Kairos-50M是一款拥有5000万参数的时间序列基础模型，专为跨多样领域的零样本预测而设计。它融合了动态补丁分词器、混合大小编码以及动态旋转位置嵌入（DRoPE）等创新技术，能够妥善处理具有不同信息密度的异构时间序列数据，大幅提升时间序列预测效率。

Kairos-50M的核心功能与优势

动态补丁分词器：智能适配信息密度

Kairos-50M的动态补丁分词器是其提升效率的关键所在。它能够依据时间序列数据的局部信息密度，自适应地挑选合适的分词粒度。这意味着在信息丰富的区域，模型可以采用更精细的分词方式，捕捉更多细节；而在信息相对稀疏的区域，则使用较粗的分词粒度，避免不必要的计算，从而在保证预测准确性的前提下，显著提高处理速度。

混合大小编码器：优化特征提取

混合大小编码器是Kairos-50M的另一大特色。它可以根据数据的特点，灵活选择不同大小的编码单元，实现对时间序列数据的多尺度特征提取。这种方式能够更好地适应不同类型和长度的时间序列，提取出更全面、更有价值的特征，为精准预测提供有力支持。

动态旋转位置嵌入（DRoPE）：增强位置信息表达

动态旋转位置嵌入（DRoPE）技术能够根据实例级别的频谱特征和动态补丁分词情况，为模型量身定制位置编码。这使得模型能够更准确地理解时间序列中各个数据点的相对位置关系，有效提升对时间顺序的敏感性，进而提高预测的准确性。

Kairos-50M的模型规格

Kairos-50M拥有约5000万参数，基于Transformer架构构建，并融入了多种自适应组件。它在包含3000多亿时间点的PreSTS语料库上进行训练，具备强大的学习能力和泛化能力。其输入上下文长度为2048，预测长度为64，能够满足多种时间序列预测场景的需求。

如何使用Kairos-50M进行时间序列预测

使用Kairos-50M进行时间序列预测非常简便。首先，需要安装相关依赖，然后通过以下代码加载模型并进行预测：

import torch
from tsfm.model.kairos import AutoModel

# load model
model = AutoModel.from_pretrained(
    "mldi-lab/Kairos_50m", trust_remote_code=True
)

# forecasting configurations
batch_size, context_length, prediction_length = 1, 2048, 96
seqs = torch.randn(batch_size, context_length)

prediction_length = 96
forecast = model(
    past_target=seqs.clone().detach().float(),
    prediction_length=prediction_length,
    generation=True,
    preserve_positivity=True,
    average_with_flipped_input=True
)

# extract the prediction results
forecast = forecast["prediction_outputs"]
print(forecast.shape)

如需更详细的使用示例，请参考main repository。

Kairos模型家族介绍

除了Kairos-50M，该模型家族还包括Kairos-23M和Kairos-10M等不同参数规模的模型，以满足不同场景的需求。

• Kairos-50M：参数约5000万，是当前介绍的模型。
• Kairos-23M：参数约2300万，在资源有限的情况下仍能提供较好的预测性能。
• Kairos-10M：参数约1000万，是轻量级模型，适合对计算资源要求较高的场景。

总结

Kairos-50M凭借其动态补丁分词器、混合大小编码器和动态旋转位置嵌入等创新技术，在时间序列预测领域展现出卓越的性能。它不仅能够实现零样本预测，在不同领域都有良好的泛化能力，而且效率高，以较少的参数达到了优异的预测效果。对于新手和普通用户来说，Kairos-50M是一个易于使用且功能强大的时间序列预测工具，值得一试。

如果您使用了Kairos-50M模型，请引用以下文献：

@article{feng2025kairos,
  title={Kairos: Toward Adaptive and Parameter-Efficient Time Series Foundation Models},
  author={Feng, Kun and Lan, Shaocheng and Fang, Yuchen and He, Wenchao and Ma, Lintao and Lu, Xingyu and Ren, Kan},
  journal={arXiv preprint arXiv:2509.25826v2},
  year={2025}
}

Kairos-50M采用Apache License 2.0许可协议，欢迎广大用户使用和贡献。

【免费下载链接】Kairos_50m 项目地址: https://ai.gitcode.com/hf_mirrors/mldi-lab/Kairos_50m