91学术服务平台

您好,欢迎来到91学术官网!站长邮箱:91xszz@sina.com

发布论文

论文咨询

基于BiLSTM-MhSa-ResNet的储能电站SOC预测

  2023-11-21    147  上传者:管理员

摘要:储能电站荷电状态(SOC)评估对储能电站安全稳定运行起到重要作用。针对当前传统神经网络预测精度不足的问题,提出一种双向长短期记忆多头残差网络(BiLSTM-MhSa-ResNet)进行SOC预测。该模型使用多头自注意力机制提高了特征值的获取能力,通过残差神经网络解决了梯度异常问题,应用双向长短期记忆网络捕获了长期依赖关系,从而提高了预测能力。实验结果表明,采用BiLSTM-MhSa-ResNet进行充电SOC预测时,平均绝对误差为1.02%,均方根误差为1.31%,决定系数为0.998,提高了SOC预测的准确性。进行放电SOC预测实验时,该模型也具有较好的训练效果。

  • 关键词:
  • 储能电站
  • 深度学习
  • 神经网络
  • 荷电状态
  • 锂电池
  • 加入收藏

准确获取储能电站的荷电状态(State of Charge,SOC)可以有效防止过充和过放现象,从而提高系统安全性和稳定性。SOC无法直接测量,主要由安时积分法[1]、开路电压法[2]和神经网络[3]等方法测算。

得益于机器学习的快速发展,国内外学者提出了融合深度神经网络[4]、长短期记忆模型[5]、最小二乘支持向量器[6]、双向长短期记忆模型[7]等方法进行电池SOC预测。但当前SOC预测主要聚焦于电池层面,该文提出双向长短期记忆多头残差网络对储能电站SOC进行预测,预测精度较高。


1、组合模型设计


1.1 多头自注意力机制

注意力机制[8]主要用来判断各参数对储能电站SOC输出结果影响的权重。该文在传统注意力机制的基础上增加了多头参数[9],相当于将传统模型的单层结构拆分了多层,从而有效解决了原有模型将注意力过度集中在自身位置的问题。同时,多头注意力机制模型还可以赋予注意力层不同输出子空间的编码表示信息,从而提高模型优化能力。该文应用多头自注意力机制[10](Multi-headed Self-attention,MhSa)改进模型时,需要先将数据集分成查询向量矩阵Q、键向量矩阵K和值向量矩阵V,在构造模型时通过放缩点积注意力机制调整网络结构,计算公式为:

式中,Q∈Rl×d,K∈Rl×d,V∈Rl×d,d为矩阵维度,l为输入集组数。训练时,MhSa将原始输入序列分为多组各自进行计算,然后将计算结果进行线性组合,从而得到输出值,计算过程为:

式中,W0为输出权重矩阵,WiQ、WiK、WiV为映射权重矩阵,h为模型所选取的自注意力模块数,即头数。该文在测试后,选用h=2建立模型。多头自注意力机制结构如图1所示。

图1 多头自注意力机制结构  

1.2 残差神经网络

残差神经网络[11](Residual Network,ResNet)是卷积神经网络的一种,与传统神经网络的线性连接方式不同,残差神经网络的残差块之间通过跳跃连接传递信息[12]。在采用了跳跃连接的传递方式之后,相比于传统模型只能训练几十次的情况,残差神经网络的训练次数提高到千次以上,使得神经网络的训练深度可以大幅增加[13]。虽然实验时发现模型训练所需要的时间有所增加,但模型预测的准确性整体上有所提高。残差块的定义方式如图2所示。

图2 残差块定义   

图2中的x表示输入值,F(x)为残差函数,输出函数计算公式为:

式中,ωt为输入值对应的权重。该文选用ReLu激活函数,同时增加了BN(Batch Normalization)算法将神经元输出数据归一化处理,从而改善了网络梯度,加快训练速度。

1.3 双向长短期记忆神经网络

LSTM是循环神经网络的一种[14],其训练梯度比传统模型更好,在长时间序列中预测效果更优。LSTM的计算原理是通过遗忘门将相关性差的信息删除,通过记忆门保留有用的信息,然后单向传递建立模型。双向长短期记忆神经网络(Bi-directional Long Short-Term Memory,BiLSTM)由一个前向传递的LSTM和一个后向传递的LSTM拼接而成[15],信息存在前向传递和后向传递两个过程。由于存在两个不同的序列,BiLSTM可以更好地获得双向传递信息[16],对于时间序列预测可以起到更好的效果。BiLSTM更新公式如下:

式中,LSTM+为前向传递的模型,LSTM-为后向传递的模型,W+和W-为其对应的权重,b为偏置。BiLSTM结构如图3所示。

1.4 双向长短期记忆多头残差神经网络

该文在建立模型时,综合了多头自注意力机制、ResNet和BiLSTM的优势,建立了双向长短期记忆多头残差神经网络(BiLSTM-MhSa-ResNet),组合模型的结构如图4所示。

图3 BiLSTM结构   

图4 BiLSTM-MhSa-ResNet结构   

如图4所示,该文建立的组合模型主要分成了五层,第一层为数据输入层,将储能电站的原始数据进行分析处理,该文将堆电压U、堆电流I和堆平均温度T作为输入集参数,同时进行了特征提取。第二层为BiLSTM神经网络层,用于学习电压等参数与SOC之间的关联。第三层为MhSa层,该文选择头数为2,用于获取充放电数据权重并加权BiLSTM的输出结果。第四层为ResNet层,相当于最后的多层感知机,可以避免梯度消失等现象的发生。第五层为SOC输出层,输出SOC预测结果。

该文在模型训练的过程中,损失函数设置为均方误差,使用Adam优化器对BiLSTM的权值和偏置进行优化。在多次调参实验后,该文设置隐含层节点个数为16,窗口长度为10,学习率为0.000 5,训练期数设置为为2 500,批大小设置为1 500。该文实验的预测流程如图5所示。


2、工程概况


2.1 电堆数据及评价指标

选取青海某光伏电站所配套的储能电站作为研究对象,该项目包括一个2.5 MW的变流升压单元和一个5.16 MW·h的储能单元,储能单元集成在40尺标准集装箱内,由16簇电池并联组成,储能电站所采用的电芯为磷酸铁锂电池。该文选取了2022年3月1日至2022年3月23日储能电站电池堆调峰实验调用情况下的运行参数作为数据集。由于储能电站容量较大,满充满放所需要的时间较长,实验时选用分钟级数据进行处理,共采集了33 120组连续运行的实验数据。该文选用的储能电池堆SOH为99%,受调用情况及最大使用次数影响,堆SOC运行范围在9%~100%之间,充放电周期为2小时,运行时属于动态充放电,部分电堆运行参数如表1所示。

图5 电池SOC预测流程   

表1 部分电堆运行参数  

该文选择了平均绝对误差(Mean Absolute Error,MAE)、均方根误差(Root Mean Square Error,RMSE)和决定系数R2对各模型的预测结果进行对比分析。根据统计学原理,MAE和RMSE越小,R2越接近于1,模型对电堆SOC预测的准确性就越高,拟合效果就越好。MAE、RMSE和R2的计算公式如下:

式中,为堆SOC预测值,yi为真实值,n为预测个数。

2.2 数据预处理

根据实验原始数据可以看出,电压电流输入值变化区间较大,而温度的变化幅度较小,两者变化程度不在一个数量级,直接带入模型中会导致误差偏大。为此,该文采用线性函数归一化的方法对电堆数据进行预处理,处理后的参数在[0,1]之间。数据归一化公式为:

式中,X′为归一化后的参数,X为原始数据,XMax为原始数据中最大值,XMin为原始数据中最小值。实验时发现,电堆SOC在0.09~1之间,可以直接使用原始值。

该文将储能电站运行状态划分成充电状态和放电状态,对两种状态分别建立神经网络模型进行预测。在划分数据集时,该文将70%的数据作为训练集,20%的数据作为验证集,10%的数据作为测试集建模实验。考虑到可能存在的过拟合现象,将另一时间段的充放电电压、电流和温度输入到已训练好的模型中,得到电堆SOC预测值。


3、结果分析


该文建立了LSTM、BiLSTM、BiLSTM-ResNet和BiLSTM-MhSa-Resnet模型进行对照实验,将某次储能电站电堆连续充电数据作为样本进行预测,将真实值与LSTM、BiLSTM、BiLSTM-ResNet和BiLSTM-MhSa-Resnet预测结果进行对比,对比结果如图6所示。计算了LSTM、BiLSTM、BiLSTM-ResNet和BiLSTM-MhSa-Resnet预测结果与真实值的相对误差,对比情况如图7所示。

图6 充电状态预测结果对比   

图7 预测结果相对误差   

由图6可以看出,使用LSTM、BiLSTM、BiLSTM-ResNet和BiLSTM-MhSa-Resnet模型分别进行预测时,预测SOC整体上与实际运行时的SOC相差不大。随着模型逐渐优化,BiLSTM-MhSa-ResNet模型拟合效果最好,与充电状态下电堆SOC真实值最为接近。由图7可以看出,在SOC较小时,预测模型存在相对误差偏大的情况,这是由于SOC真实值过小导致的,但可以看出绝对误差偏差不大。在SOC逐渐变大的过程中,各模型预测的相对误差曲线逐渐平稳,趋近于0。从对比图可以看出,使用LSTM进行预测时,预测结果与真实值相差最大,优化模型后预测结果逐渐变好,采用BiLSTM-MhSa-ResNet进行预测时,预测SOC相比于其他模型更接近真实值,训练效果更好。将各个模型训练的MAE、RMSE和R2进行对比,对比结果如表2所示。 

表2 各模型评价结果对比  

由表2可以看出,采用双向LSTM比LSTM预测效果好,均方根误差从3.32%下降到2.31%。增加了ResNet网络后,预测误差进一步缩小,均方根误差下降到1.59%。在引入多头注意力机制后,均方根误差下降到1.31%。经过对比发现,该文使用的BiLSTM-MhSa-ResNet模型在电堆SOC预测时性能要优于传统神经网络模型,提高了预测的准确性。除充电状态外,该文还对电堆放电状态下的SOC进行建型,BiLSTM-MhSa-ResNet模型预测结果的MAE为1.89%,RMSE为2.25%,R2为0.993 7,预测误差较小。选择某次变工况放电运行情况进行预测,预测结果与真实值对比如图8所示。

图8 放电状态预测结果对比   下载原图

由图8可以看出,该文建立的BiLSTM-MhSa-Res Net模型在用于放电状态下的电堆SOC预测时同样具有较好的拟合效果,在SOC较小时,准确性保持较高。


4、结束语


该文以某储能电站为例,提出了一种基于BiLSTM-MhSa-ResNet的电堆SOC预测方法,通过充放电情况下的实验,得到以下结论:

1)分别采用LSTM模型、BiLSTM模型、BiLSTM-ResNet模型和BiLSTM-MhSa-ResNet模型进行训练和预测,实验结果证明,采用该文提出的BiLSTM-MhSa-ResNet对充电SOC进行预测时,预测误差最小,MAE和RMSE分别降低到1.02%和1.31%,组合模型提高了预测的精度。

2)使用BiLSTM-MhSa-ResNet模型对放电状态SOC进行预测时,MAE和RMSE分别为1.89%和2.55%,预测精度较高。

3)与传统神经网络相比,该文提出的BiLSTM-MhSa-ResNet模型通过ResNet有效解决了梯度异常问题,通过MhSa提高了特征值的获取能力,通过双向传递机制有效捕获了长期依赖关系,从而提高了模型的预测精度。

使用BiLSTM-MhSa-ResNet模型对实际工程的电堆SOC预测性能较好,下一步考虑对实际项目发电-储能联合控制的SOC预测和储能电站调度策略进行研究。


参考文献:

[1]杨文荣,朱赛飞,陈阳,等.基于改进安时积分法估计锂离子电池组SOC[J].电源技术,2018,42(2):183-184,246.

[2]韦海燕,陈孝杰,吕治强,等.Hermite插值法建立锂离子电池开路电压模型[J].电测与仪表,2018,55(10):122-126,136.

[3]倪水平,李慧芳.基于一维卷积神经网络与长短期记忆网络结合的电池荷电状态预测方法[J].计算机应用,2021,41(5):1514-1521.

[5]陈继斌,李雯雯,孙彦玺,等.基于卷积-双向长短期记忆网络的电池SOC预测[J].电源技术,2022,46(5):532-535.

[6]郭玥秀,杨伟,刘琦,等.残差网络研究综述[J].计算机应用研究,2020,37(5):1292-1297.

[7]王义,刘欣,高德欣.基于BiLSTM神经网络的锂电池SOH估计与RUL预测[J].电子测量技术,2021,44(20):1-5.

[8]朱张莉,饶元,吴渊,等.注意力机制在深度学习中的研究进展[J].中文信息学报,2019,33(6):1-11.

[9]崇志强,马世乾,郭悦,等.基于多头注意力机制的半监督卷积网络嵌入[J].计算机应用与软件,2021,38(8):160-166.

[10]余力,李慧媛,焦晨璐,等.基于多头注意力对抗机制的复杂场景行人轨迹预测[J].计算机学报,2022,45(6):1133-1146.

[11]赵志成,罗泽,王鹏彦,等.基于深度残差网络图像分类算法研究综述[J].计算机系统应用,2020,29(1):14-21.

[13]洪奇峰,施伟斌,吴迪,等.深度卷积神经网络模型发展综述[J].软件导刊,2020,19(4):84-88.

[14]杨丽,吴雨茜,王俊丽,等.循环神经网络研究综述[J].计算机应用,2018,38(S2):1-6,26.

[15]和志强,杨建,罗长玲.基于BiLSTM神经网络的特征融合短文本分类算法[J].智能计算机与应用,2019,9(2):21-27.


基金资助:龙源电力集团股份有限公司科技创新项目(GJNY-20-15);


文章来源:廖圣瑄,李林,丁伟等.基于BiLSTM-MhSa-ResNet的储能电站SOC预测[J].电子设计工程,2023,31(22):78-82.

分享:

91学术论文范文

相关论文

推荐期刊

网友评论

加载更多

我要评论

当代电力文化

期刊名称:当代电力文化

期刊人气:10708

期刊详情

主管单位:中国电力企业联合会

主办单位:中国电力企业联合会

出版地方:北京

专业分类:文化

国际刊号:2095-6754

国内刊号:10-1181/G0

创刊时间:2013年

发行周期:月刊

期刊开本:大16开

见刊时间:4-6个月

论文导航

查看更多

相关期刊

热门论文

【91学术】(www.91xueshu.com)属于综合性学术交流平台,信息来自源互联网共享,如有版权协议请告知删除,ICP备案:冀ICP备19018493号

微信咨询

返回顶部

发布论文

上传文件

发布论文

上传文件

发布论文

您的论文已提交,我们会尽快联系您,请耐心等待!

知 道 了

登录

点击换一张
点击换一张
已经有账号?立即登录
已经有账号?立即登录

找回密码

找回密码

你的密码已发送到您的邮箱,请查看!

确 定