标签： Chronos-Bolt 模型

近年来，以 LLM（大语言模型）、VLM（视觉语言模型）为代表的基础模型被大量公开。与图像、自然语言处理等领域不同，基础模型也正逐步应用于时间序列建模领域。

本文将为大家介绍时间序列基础模型之一 ——“Chronos-Bolt”。

关于 Chronos-Bolt

简单来说，Chronos 是一款通过预先学习各类时间序列数据，无需对目标应用数据进行额外学习，即可实现时间序列预测的时间序列基础模型。而 Chronos-Bolt 是 Chronos 的后续迭代模型，与初代 Chronos 相比，其预测精度和运行性能均有大幅提升。

参考资料 ，Chronos 相关论文链接：arxiv.org

本文中，我们将借助 AutoGluon 框架，实现基于 Chronos-Bolt 的时间序列预测流程。AutoGluon 是由 AWS 主导开发的开源 AutoML（自动化机器学习）框架，该框架已集成多款时间序列预测模型，Chronos-Bolt 便是其中之一。

1. 无需训练即可实现高精度推理

为实现 “无需训练即可预测” 的能力，Chronos/Chronos-Bolt 不仅学习了各类真实时间序列数据，还采用了 TS-Mixup、KernelSynth 等合成数据生成技术，通过大量时间序列数据的训练，确保即使在缺乏目标领域训练数据的情况下，也能保证一定的预测精度。

通常而言，提升预测精度需要针对目标数据进行训练，但 Chronos-Bolt 在无训练数据的场景下，仍可实现符合预期的预测精度。

2. 相比 Chronos 模型速度更快（最高达 260 倍）

初代 Chronos 模型每次仅能预测未来 1 个时间步的结果；而 Chronos-Bolt 通过 “同时对多个时间步（t、t+1、t+2……）进行推理” 的设计，实现了速度优化。根据 AWS 官方博客的基准测试数据，在模型规模与 Chronos 相同的情况下，Chronos-Bolt 的运行性能最高可达到 Chronos 的 260 倍。

3. 相比 Chronos 模型精度更高

根据官方基准测试结果，Chronos-Bolt 的预测精度优于初代 Chronos 模型。仅从这一点来看，选择 Chronos-Bolt 也具备显著优势。

基于 Chronos-Bolt 的时间序列预测

本文将介绍三种基于 Chronos-Bolt 的预测实现方案，具体如下：

方案	说明
零样本推理	不进行额外训练，直接基于预训练模型进行预测
执行微调	基于目标数据进行训练后，再开展预测
利用回归模型进行特征外推	除预测目标时间序列外，额外引入辅助特征用于预测

前期准备

1. 安装所需库

要使用 Chronos-Bolt，需提前安装 autogluon 库，执行以下命令即可：

pip install autogluon

2. 数据准备

本文使用的数据集为 Kaggle 平台公开的 “Store Sales – Time Series Forecasting”数据集，该数据集包含厄瓜多尔零售商 “Corporación Favorita” 的商品销量数据。

数据集链接：www.kaggle.com

由于原始数据格式难以直接适用，我们将在后续实现中对数据进行处理。

import polars as pl

transaction = pl.read_csv("./data/store-sales-time-series-forecasting/transactions.csv")
holiday = pl.read_csv("./data/store-sales-time-series-forecasting/holidays_events.csv")

transaction = transaction.join(holiday, how="left", on="date")
transaction = transaction.fill_null("null")
transaction = transaction.with_columns(
    pl.col("date").str.to_date()
)
transaction = transaction.with_columns(
    pl.col("date").dt.month().alias("month"),
    pl.col("date").dt.day().alias("day"),
    pl.col("date").dt.weekday().alias("weekday")
)

df = transaction
train_df = df.filter(
    pl.col("date").dt.year() < 2017
)
train_df.write_csv("./data/train.csv")
valid_df = df.filter(
    (pl.col("date").dt.year() >= 2017) & (pl.col("date").dt.month() == 1)
)
valid_df = pl.concat([train_df, valid_df], how="diagonal_relaxed")
valid_df.write_csv("./data/valid.csv")

以下是本分析中使用的主要参数说明：

项目（列名）	说明
date	日期
store_nbr	店铺编号
transactions	交易量（★本次预测目标值）
type	节假日或事件类型
locale	适用区域范围
locale_name	具体区域名称（如城市、省份等）
month	从 date 列中提取的月份
day	从 date 列中提取的日期
weekday	从 date 列中提取的星期几

零样本推理

零样本推理的实现非常简单，通过以下代码即可完成：

其中，id_column指定用于分组的类别列，timestamp_column指定时间列，target指定预测目标列。在TimeSeriesPredictor.fit方法中，通过指定presets="bolt_base"，即可调用 Chronos-Bolt 模型。此外，将bolt_base替换为bolt_small或bolt_tiny，还可使用不同规模的 Chronos-Bolt 模型。

import polars as pl
from autogluon.timeseries import TimeSeriesDataFrame, TimeSeriesPredictor

train_data = TimeSeriesDataFrame.from_path( 
     "data/train.csv", 
     id_column="store_nbr", 
     timestamp_column="date", 
)
predictor = TimeSeriesPredictor(prediction_length=30, freq="D", target="transactions").fit(train_data, presets="bolt_base")
predictions = predictor.predict(train_data)

推理结果可视化

AutoGluon 提供了用于可视化的工具函数，我们将使用该函数展示结果。尽管数据中存在部分临时缺失，但可以看出：即使不进行额外训练，模型也基本能贴合实际数据趋势。

test_data = TimeSeriesDataFrame.from_path( 
     "data/valid.csv", 
     id_column="store_nbr", 
     timestamp_column="date", 
)
predictor.plot(test_data,predictions,max_history_length=365,item_ids=[25])

本图表中，蓝色线条代表实际交易量数据，橙色线条代表 Chronos-Bolt 的预测结果。此外，橙色线条前后的阴影部分表示80% 置信区间。

微调

接下来，我们通过微调训练模型，并用其尝试时间序列预测。微调可通过以下代码实现：此代码会生成两种模型：零样本模型与微调模型。在hyperparameters的Chronos键下，通过列表定义了两种模型配置，核心要点是将fine_tune参数设为True。

predictor = TimeSeriesPredictor(prediction_length=31, eval_metric="MASE", freq="D", target="transactions").fit( 
     train_data, 
     hyperparameters={ 
         "Chronos": [ 
             {"model_path": "bolt_base", "ag_args": {"name_suffix": "ZeroShot"}}, 
             {"model_path": "bolt_base", "fine_tune": True, "ag_args": {"name_suffix": "FineTuned"}}, 
         ] 
     }, 
     enable_ensemble=False, 
     time_limit=600, 
)

训练结束后，可通过以下实现代码获取零样本模型与微调后模型的评估结果。

predictor.leaderboard(test_data)

此外，利用上述实现的预测器，还可按以下方式进行预测并可视化结果：

predictions = predictor.predict(train_data, model=”ChronosZeroShot[bolt_base]”)
predictor.plot(test_data,predictions,max_history_length=365,item_ids=symbols, max_num_item_ids=len(symbols))

对比零样本推理结果可见，微调后的模型预测结果更贴合实际数据趋势。

特征外推的使用

在部分场景中，除了预测目标时间序列数据外，还可能存在可辅助预测的其他时间序列数据。例如，店铺销量可能与影响到店人数的 “降水量” 相关，这类数据即可作为辅助特征使用。但需注意：外推需使用 “预测当日” 的辅助特征数据，因此在实际验证中，若无法获取当日辅助数据，则难以进行当日预测（例如：若需在预测前日使用次日的准确降水量数据，实际场景中通常无法实现）。

外推场景下的预测公式

回归预测值 = Chronos-Bolt 的预测值 + CatBoost（外推回归模型）的预测值

代码实现

核心修改点在于：在TimeSeriesPredictor中通过known_covariates_names指定用于外推的辅助特征列。本次模型中，我们输入了日期特征（month、day、weekday）与节假日信息（type、locale、locale_name），具体实现如下：

predictor = TimeSeriesPredictor(
    prediction_length=31,
    eval_metric="MASE",
    target="transactions",
    known_covariates_names=["type", "locale", "locale_name", "month", "day", "weekday"],
    freq="D"
).fit(
    train_data,
    hyperparameters={
        "Chronos": [
            {"model_path": "bolt_base", "ag_args": {"name_suffix": "ZeroShot"}},
            {
                "model_path": "bolt_base",
                "covariate_regressor": "CAT",
                "target_scaler": "standard",
                "ag_args": {"name_suffix": "WithRegressor"},
            },
        ],
    },
    time_limit=600,
    enable_ensemble=False,
)

与微调场景类似，可通过以下代码对比模型效果：

predictor.leaderboard(test_data)

在本次预测中，需要提供用于外推的特征量。由于此类推理需要 31 天的完整数据才能进行（若数据不完整则难以实现），因此我们筛选出店铺编号为 25 的完整数据集，并用其对推理结果进行可视化。具体实现代码如下。

filtered_id_df = train_data.to_data_frame().loc[25]
filtered_id_df['item_id'] = 25
filtered_id_df['timestamp'] = filtered_id_df.index
train_data = TimeSeriesDataFrame.from_data_frame(filtered_id_df)

filtered_id_df = test_data.to_data_frame().loc[25]
filtered_id_df['item_id'] = 25
filtered_id_df['timestamp'] = filtered_id_df.index
test_data = TimeSeriesDataFrame.from_data_frame(filtered_id_df)

predictions = predictor.predict(train_data, model="ChronosWithRegressor[bolt_base]", 
                                known_covariates =test_data
                               )
predictor.plot(test_data,predictions,max_history_length=365,
               item_ids=[25], max_num_item_ids=1)

对比微调模型可见，加入外推特征后的预测结果更接近实际数据趋势。

总结

我们通过 AutoGluon 轻松调用了 Chronos-Bolt 模型，并尝试完成了时间序列预测。将 LLM 等基础模型的思路应用到时间序列模型中，这一方向非常有趣，其未来发展值得期待。