首页 > 论文范文 > 工程工业论文 > 电力工业论文 > 基于BiLSTM和CNN-BiLSTM的住宅短期负荷预测

基于BiLSTM和CNN-BiLSTM的住宅短期负荷预测

2024-06-06 117 上传者：管理员

摘要：住宅短期电力负荷预测是一种关键应用场景，能够为电力公司和用户提供实时且准确的用电负荷预估，实现最优调度并合理分配电力资源。提出了一种基于双向长短期记忆(Bi-directional Long Short-Term Memory, BiLSTM)和卷积神经网络(Convolutional Neural Network, CNN)的CNN-BiLSTM预测模型。利用CNN对原始负载数据进行特征提取，以降低输入数据的维度并提高模型的运行效率；将提取的特征输入BiLSTM和CNN-BiLSTM模型中进行预测。该方法已在实际住宅负荷数据集上进行了验证，预测结果好于传统的基于时间序列的预测方法。这表明该方法在短期住宅负荷预测领域中具有广泛的应用前景。

关键词：
卷积神经网络
双向长短期记忆
最优调度
特征提取
负荷预测
加入收藏

随着可再生能源的广泛应用，智能家电、电动车辆和空调系统的普及，电力系统运营的复杂性增加，对电网的稳定性构成了挑战，同时短期负荷预测成为了一个备受关注的领域。准确的电力负荷预测有助于实现电力的高效传输和分配[1]。如今，深度学习方法在短期居民用电负荷预测中的应用逐渐受到研究人员的关注[2]。其中，长短期记忆网络(Long Short-Term Memory, LSTM)已经成为一种常见的工具。与传统的时间序列预测方法相比，LSTM能够处理非线性数据、捕捉长时间依赖关系，并应对数据中的噪声和变化[3]。因此，LSTM已成功应用于新型电力系统中，包括住宅、商业和工业领域的电力负荷预测。

近年来，科研人员提出了多种基于LSTM的改进模型，如双向长短时记忆网络(Bi-directional Long Short-Term Memory, BiLSTM)和基于卷积神经网络(Convolutional Neural Network, CNN)的CNN-BiLSTM模型[4]。BiLSTM结合了LSTM和双向网络的优点，综合考虑过去和未来的数据信息。CNN-BiLSTM通过卷积层从时间序列中提取特征信息，并将其输入BiLSTM中进行建模。臧海祥等[5]考虑到同一住宅小区用户之间的负荷行为存在相似性，受多任务学习的启发，提出了一种基于多任务学习的有效住宅负荷预测方案，显著提高了预测的准确度。Yu等[6]针对传统神经网络在短期负荷预测中预测精度不高、预测时间较长的问题，提出了一种基于主成分分析法和深度双向长短期记忆神经网络的短期负荷预测模型，不仅保证了较高的预测精度，还显著降低了预测所需的时间。Schlemminger等[7]将BiLSTM和CNN-BiLSTM与深度置信网络和自适应神经模糊推理系统等方法相结合，提高了预测的准确性和稳定性。作为深度学习技术在短期负载预测中的重要应用，BiLSTM和CNN-BiLSTM已经得到广泛的研究和验证，并在实际应用中取得了显著的效果。

本文介绍了基于BiLSTM和CNN-BiLSTM的预测方法，用于预测小型住宅社区的综合用电负荷。通过实际住宅负荷数据集的测试，该方法相较于传统的时间序列预测方法，展现出更好的预测结果。因此，该方法在短期住宅负荷预测领域中具有广泛的应用前景。

1、BiLSTM和CNN-BiLSTM基本原理

1.1 LSTM

LSTM是一种特殊的循环神经网络(Recurrent Neural Network, RNN),能够处理序列数据，如语音、文本或时间序列。与传统的RNN相比，LSTM引入了“门控机制”技术，有效地控制信息流动。LSTM由一系列的“记忆块”组成，每个记忆块含有3个门：输入门、遗忘门和输出门。输入门决定新输入数据中哪些信息被加入当前状态中；遗忘门决定从当前状态中遗忘哪些信息；输出门则控制当前状态输出多少信息给下一个时间步骤。通过这种方式，LSTM能够长期记住并传递之前的信息至未来，从而更好地处理长序列数据，并避免梯度消失问题。

LSTM是一种门控循环神经网络(Gated RNN),其设计目标在于解决传统RNN在处理序列输入数据时遇到的长期依赖性问题。通过引入一套精巧的门控机制，LSTM能够有选择地记住或遗忘信息，从而有效地学习并处理输入数据中的长期依赖关系，避免了梯度消失问题。LSTM中的门控机制允许它们控制信息在网络中的流动，以助于避免梯度爆炸问题。因此，LSTM已成为许多涉及序列数据处理应用的热门选择。LSTM能够利用长期的先前状态序列信息，并借助门控机制，即输入门(it)、遗忘门(ft)和输出门(Ot),来实现这一功能。带有门控控制的LSTM单元结构如图1所示。

图1 LSTM神经网络结构图

门控机制的数学模型如式(1)所示，it、 ft、Ot∈{0,1}。其中：0表示门关闭，没有信息流通过；1表示门打开，允许信息流通过。

式中：it、 ft、Ot分别为一个LSTM单元的输入门、遗忘门和输出门；t为候选细胞状态，表征长期记忆；σ为sigmoid函数；xt为当前阶段的输入；ht-1为上一阶段的输出；wix为输入门xt的权重系数，wih为输入门ht-1的权重系数，bi为输入门的偏置项；wfx为遗忘门xt的权重系数，wfh为遗忘门ht-1的权重系数，bf为遗忘门的偏置项；wcx为细胞单元xt的权重系数，wch为细胞单元ht-1的权重系数，bc为细胞单元的偏置项；wox为输出门xt的权重系数，woh为输出门ht-1的权重系数，bo为输出门的偏置项。

将式(1)写成向量的形式，如式(2)、式(3)所示。

将式(2)和式(3)改为式(4)。

式中：

ft由一个s型函数组成，该函数决定是保留还是丢弃细胞记忆中的信息，即0表示遗忘，1表示记忆细胞记忆信息。输入门或更新门由两层组成：一个sigmoid函数(取值0或1)确定是否更新存储单元的输入；另一个tanh函数(取值-1或1)生成一个新的候选值向量，以添加到存储单元中。最终，这两个层和遗忘门的组合按照式(5)更新LSTM存储单元。输出门也由sigmoid和tanh函数组成：σ(取值0或1)确定LSTM存储单元的信息是否对整体细胞输出作出了贡献，而双曲正切函数将最终的细胞输出映射到-1和1之间。换句话说，输出门控制信息的输出，并确定当前隐藏状态是否会传递给下一个序列网络。每个时间步长的LSTM单元输出为：

式中，ct为细胞状态。

1.2 BiLSTM

为了克服单个LSTM单元只能捕捉先前状态信息而无法捕捉未来状态信息的局限，本文引入了BiLSTM模型。BiLSTM的网络结构是基于LSTM,其核心特点是包含两个LSTM层，分别从正向和反向两个方向处理输入序列，如图2所示。正向的LSTM层处理输入序列，输出隐状态序列；反向的LSTM层从序列末尾开始处理输入序列，输出反向的隐状态序列。最后，将正向和反向的隐状态拼接在一起，形成BiLSTM模型的输出。BiLSTM模型的优点是能很好地处理双向上下文信息，从而更好地捕捉序列中的长期依赖关系。此外， BiLSTM能够综合利用输入序列的正向和反向信息，从而更全面地捕捉序列的特征。这种能力有助于提高模型的准确性，使其更好地处理复杂的序列数据。

图2 BiLSTM网络结构图

在BiLSTM网络结构图中，xt为t时刻的输入数据，

为t时刻正向LSTM隐含层的输出，

为t时刻反向LSTM隐含层的输出，yt=(y1,y2,…,yn)为t时刻BiLSTM网络的输出，最终输出向量是正向和反向信息流的综合效应

其数学模型如式(6)所示：

1.3 CNN-BiLSTM

CNN-BiLSTM是结合CNN和BiLSTM优点的深度学习模型，被广泛应用于自然语言处理，如文本分类、情感分析和序列标注等。在该模型中，CNN首先用于捕获输入文本的局部特征。通过一系列卷积层和池化层的处理，特征图的尺寸逐步减小，数量也得到降低。这些局部特征能很好地表达文本的局部结构和词汇信息。其次，BiLSTM网络从CNN的输出中提取更全局的语义信息，并将文本的整体结构和长期依赖关系纳入考虑范围。BiLSTM的前向和后向网络分别处理CNN的输出特征，通过记忆单元和门控机制，保留文本序列的关键信息，从而得到最终的特征表示。最后，将BiLSTM的输出传递给全连接层，用于文本分类或其他自然语言处理。通过结合CNN和BiLSTM的优点，CNN-BiLSTM模型能更好地捕捉文本的局部和全局信息以提高模型性能，如图3所示。

图3 CNN-BiLSTM网络体系结构图

首先将整个数据集切分成每天(24 h),每个切片被视为一维CNN层的单个输入。通过使用64个大小为3×1的滤波器和默认步长为1,提取输入负荷曲线数据的特征向量。接着，对特征向量进行最大池化处理，以降低维度。为了实现序列负荷需求预测，将BiLSTM网络应用于平铺的特征向量上。最后，使用ReLU激活函数的全连接层输出未来一天的负荷曲线。

2、仿真和实验数据分析

2.1 数据预处理

本文的实验数据来源于德国北部的38户家庭所测量的用电负荷数据。该数据集记录了从2018年5月至2020年12月的每个家庭的有功功率和无功功率数据，时间分辨率从10 s到60 min不等。

实测负荷数据集为非平稳时间序列，可分解成多个组成部分，如季节性、趋势和噪声。季节性是指时间序列数据中的周期性信号，趋势则表示数据中隐藏的模式，噪声则是剩余的随机信号。以某个30 d的时间段为例，数据采样间隔为每小时一次，如图4所示。该负荷数据表现出强烈的季节性和明显的噪声，但没有明显的趋势。

图4 负荷数据时间序列的分解图

将实际测量的住宅负荷数据集分为训练集、验证集和测试集。训练集和验证集用于训练CNN-BiLSTM网络，而测试集用于评估模型的性能。对训练集和验证集进行归一化处理，并将它们输入模型中进行训练。模型根据前24 h的实测负荷数据预测未来24 h的负荷曲线。验证集用于评估模型的性能，并监测过拟合或欠拟合等问题。增加训练集的数量，调整BiLSTM单元和层数，可以进一步提高模型的准确性。Adam优化算法以误差值和误差变化率为依据，自适应地调整学习率。模型训练完成后，采用前向逐步测试策略来评估模型的性能。在模型评估过程中，向模型输入前24 h的测试数据，并使用训练好的模型预测未来24 h的负荷情况。在第二次测试迭代中，窗口再次向前移动24 h, 一直到可用的测试数据点为止。在将数据反馈到模型之前，对训练集、验证集和测试集数据进行归一化处理。

2.2 评价指标

负载预测技术的主要目标是尽量减少实际负载与预测负载之间的误差，特别是在小时分辨率下。这须准确预测未来电力的需求量，以尽量减少每天每小时实际电力负载与预测负载之间的差异。负载预测的准确性对于电力系统的稳定和高效运行至关重要，因为这使得电力公司能够合理规划和调整其发电和输电能力，以满足电力需求。为了评估训练模型的性能，使用均方根误差(Root Mean Squared Error, RMSE)这一指标，计算公式如式(7)所示。

式中：n∈{1,2,3,…,24},yi为在第i小时的实测值，

为在第i小时的预测值，θ∈{w,b},w和b分别为在模型训练过程中学习到的神经网络的权重和偏差。

2.3 BiLSTM 和CNN-BiLSTM

不同模型的训练误差对比，如图5所示。

图5 不同模型的训练迭代收敛曲线图

在相同的迭代次数下，CNN-BiLSTM在收敛速度和精度上都优于LSTM和BiLSTM,并且展现出更出色的全局寻优能力。随着训练的进行，训练集和验证集的误差均明显下降，并最终趋于平缓，这表明模型已经达到收敛状态。

将BiLSTM和CNN-BiLSTM模型与朴素预测、LSTM模型和CNN-LSTM模型进行比较。每个时间点的预测结果的均方根误差如图6所示，其均方根误差均值如表1所示。

图6 不同预测模型的均方根误差

表1 不同动态负荷预测模型的比较

如图7所示，将CNN-BiLSTM模型分别与朴素预测技术、LSTM模型、BiLSTM模型和CNN-LSTM模型的有功功率预测曲线进行比较，结果表明，其预测精度分别提高了16%、5.60%、2.85%和2.60%。

图7 不同方法的每小时负荷预测比较图

3、结论

本文利用LSTM、CNN-LSTM、BiLSTM和CNN-BiLSTM等不同预测模型进行训练，对38户住宅的24 h负荷进行了预测分析。对比分析结果表明，尽管CNN-BiLSTM模型在某些情况下比BiLSTM模型预测精度高，但在本例中由于最大池化过程中的信息丢失，其预测精度并不如BiLSTM模型。随着数据的多样性和变异性的增加，CNN-BiLSTM模型的表现可能会优于BiLSTM模型。由此可见，CNN-BiLSTM方法在短期住宅负荷预测领域中具有广泛的应用前景。

参考文献:

[1]张未,余成波,王士彬,等.基于VMD-LSTM-LightGBM的多特征短期电力负荷预测[J].南方电网技术,2023,17(2):74-81.

[2]杨雨琪.基于BP神经网络的短期小水电电力负荷预测[J].仪表技术,2018(7):37-38.

[4]欧阳福莲,王俊,周杭霞.基于改进迁移学习和多尺度CNN-BiLSTM-Attention的短期电力负荷预测方法[J].电力系统保护与控制,2023,51(2):132-140.

[5]臧海祥,许瑞琦,刘璟璇,等.基于多维融合特征和卷积神经网络的多任务用户短期负荷预测[J].电力系统自动化,2023,47(13):69-77.

基金资助:甘肃省高等学校创新基金项目(2023A-199);武威市科技计划项目(WW2101005); 国家大学生创新创业训练项目(202113955001);

文章来源:杨海兰,常勇,韩少华.基于BiLSTM和CNN-BiLSTM的住宅短期负荷预测[J].仪表技术,2024(03):74-78.