统一的分位数回归深层神经网络与Time-Cognition概率住宅负荷预测

文摘

住宅负荷预测对于电力市场中的许多实体很重要,但单一的住宅的负荷曲线显示更多的波动和不确定性。由于生产可靠点的预测困难,概率负荷预测变得更加流行的捕捉间隔的波动性和不确定性,密度,或分位数。在本文中,我们提出一个统一的分位数回归和time-cognition深层神经网络解决具有挑战性的问题。起初,卷积神经网络与多尺度卷积是设计从历史负荷序列中提取更多的行为特征。此外,小说期刊编码方法是模型来提高其获取正则负载模式的能力。然后,功能从子网都是融合,生成输入一个端到端的方式的预测模型。此外,全球可微的分位数损失函数约束整个网络进行训练。最后,多个分位点的预测直接生成的一箭。与烧蚀实验,该模型实现最好的结果aq,无关,和反演误差,特别是无关的平均增长了34.71%,75.22%,和32.44%相比QGBRT, QCNN, QLSTM,分别,这表明我们的方法具有良好的可靠性和鲁棒性,而不是最先进的模型显然。同时,有效的时间响应的表现证明了我们提出的工作已经在实际应用前景。

1。介绍

电力系统是最复杂的人造系统,和电力负荷预测在电力系统规划和运营起着至关重要的作用,收入投影,率设计、电力市场交易,等等。电力负荷预测分类可以简单概括如下:非常短期负荷预测(VSTLF),短期负荷预测(STLF),中期负荷预测(MTLF)和长期负荷预测(LTLF)。STLF研究数据与每小时从数小时到数天时间分辨率,并预测地平线(1]。STLF给电力系统大意义提供策略、可靠性分析、交流评估、安全评估和现货价格计算(2]。

最近,大量的智能电表安装在全球范围内,产生大量的细粒度的电力消费数据空间。高分辨率的智能电表的数据提供一个丰富的信息消费者的电力消费行为和生活方式,对准确住宅负荷预测创造了机会。住宅负荷预测越来越重要的电力市场中的许多实体。对于消费者来说,住宅负荷预测可以用作家庭能源管理系统的输入(褶)降低成本和费用3]。在未来的电力市场,它还在点对点(P2P)市场潜力(4,5]。对零售商来说,住宅负荷预测为定价、服务采购、和套期保值决策和零售商的利润最大化6]。聚合器,是用来产生更精确的总负载预测集群或其他方法(7,8]。在配电系统运营商(DSO),这取决于有效的住宅负荷预测,降低峰值负载可以通过灵活使用的能量存储系统(ES)或智能需求响应(博士)技术。准确的负荷预测为住宅的客户也能够帮助DSO定位最好的客户群体最有可能参与需求响应计划,反映伟大意义提供负载平衡储备和市场对冲成本。

传统负荷预测集中于各种聚合的水平,如系统,给料机,和地区水平。加载这些水平过滤掉许多随机波动;因此,更顺利,更常规的配置文件。相反,由于不同客户的生活方式和行为的随机性,单一住宅的负荷曲线显示更多的波动性和不确定性和不同客户的概要文件特性还提供巨大的多样性。

规范化的每小时的三个不同水平加载如图1,说明住宅负荷曲线呈现更多的波动性与高级加载配置文件。因此,住宅负荷预测是更具挑战性,模型表现良好总体层面不再适合居住水平。

(一)

(b)

(c)

大多数现有的文献关注预测技术,试图预测未来负荷的期望值。然而,住宅负载更动荡和不确定的总体水平;因此,高度可靠点的预测难以生产。因此,越来越多的决策过程开始依靠概率负荷预测(PLF),它包含更多的概率信息并生成输出的形式的间隔,密度,或分位数。

提出了一种统一的分位数回归与time-cognition深层神经网络生成概率住宅负荷预测。首先,深与多尺度卷积神经网络提出了从历史负荷序列中提取更有识别力的特性。此外,期刊编码方法设计出的模型捕获正则周期性负载模式。除此之外,两个分支的输出融合并输入到住宅负荷预测模型与一个端到端的方式。同时,我们引入一个全球可微的分位数损失函数来约束整个网络的训练过程。最后,多个分位点的预测直接生成在一个射击的神经网络。总结了论文的主要贡献如下:(我)一个统一的分位数回归与time-cognition深层神经网络提出了解决概率住宅负荷预测问题(2)全面的和广泛的实验进行检查可靠性、锐度,该方法的鲁棒性和效率(3)我们介绍分位数反演误差作为补充指标检测分位数回归模型的鲁棒性

我们所知,这是第一篇论文,介绍了分位数失去监督与time-cognition CNN-based模型概率住宅负荷预测。此外,采用分位数反演误差鲁棒性验证。

本文将结构如下:部分2提供了负荷预测社会的背景。部分3定义问题,描述了我们的方法的细节。部分4介绍了实验装置。部分5报告实验结果,进一步探讨了该方法的一些见解。结论是在一节6。

负荷预测方法都进行了广泛和深入的研究。目前的工作主要是支付更多的关注在不同的聚合水平更好的预测,如系统,给料机,和地区水平。这种策略可以消除不确定性存在于住宅负载行为尽可能这样预测集群是促进更多的规律。相比之下,对于预测个人住宅的问题,传统模型不可避免遭受客户的生活方式和行为的随机性导致提供负荷预测上的糟糕表现。

一些研究已经检查了流行的模型专业聚合住宅负荷预测水平。Humeau et al。9]研究了线性回归的应用(LR),多层感知器(MLP)和支持向量机回归(SVR)在住宅负荷预测和发现LR在单独的居住水平更高的精度,而聚合SVR性能更好的水平。在应用中一个特定的聚类算法,SVR优于LR当集群的数量大于32房屋。爱德华兹et al。10)评估熟悉机器学习算法关注住宅建筑负荷预测,包括LR、前馈神经网络(FFNN), SVR,及其变体。实验表明,他们在住宅数据通常是不舒服,但最小二乘支持向量机(二)表现良好。Ahmadiahangar et al。11)进口广义线性mixed-effects (GLME)模型来生成负载模式预测潜在的住宅用户的灵活性。这种方法的优点是,它可以被使用,在线和实时的方法,在广泛的控制方法。

最近的研究已不再仅限于传统的回归和时间序列方法,而是遵循设计更复杂的模型来捕获高级特性与住宅相关的行为。Tascikaraoglu和Sanandaji12)提出了一种新的预测方法,结合压缩感知(CS)和数据分解,提供一个框架,有助于利用现有的低维结构治理住宅之间的交互。Yu et al。13)利用稀疏编码特性对个人家庭和负荷预测提供了一个大规模的评价方法与几个经典模型。实验表明,稀疏编码特性是有效降低第二天的预测误差和地总负载。同样,锅等。14)住宅负荷也依赖于稀疏的特征。方法基于最小绝对收缩和选择(套索)提出了自适应探索在历史数据稀疏,利用预测之间的关系不同的住宅,和它的低计算复杂度和高准确性由实验验证。最近,深度学习(DL)已成为人工智能的一个研究热点应用在许多领域由于其强大的特征提取和拟合能力(15]。阿巴斯et al。16)提出了一个独特的和改进的非线性自回归神经网络与外部输入(NARXNN)建立经常性使用照明负荷预测搜索算法(LSA)。实验是进行substation-level聚合住宅加载数据,实现16%的精度提高-20%相比,目前的计算技术。长短期记忆(LSTM)和封闭的复发性单元(格勒乌),递归神经网络(RNN)的变体,介绍了解决个人住宅负荷预测问题[17- - - - - -19在预测的准确性),反映出显著优势传统的机器学习算法和完全连接神经网络。

伟大的文献关注预测技术,试图预测未来可能的消费。然而,住宅负荷远比总体水平不稳定和不确定,提供高可靠点的预测困难。因此,越来越多的负荷预测算法更喜欢提供概率的概率负荷预测结果的形式的间隔,密度,或分位数。概率负荷预测方法可以分为三个类别根据不同的生成过程:(我)多个场景设计和输入点预测模型,然后生成输出这些点的预测概率预测。提出了许多不同的温度场景生成模型,包括固定日期(20.),shifted-date,引导21),和代理模型(22]。谢和道23)相比,这些方法和显示shifted-date模型获得性能优越的日期时转移定位在一个合理的范围内。(2)直接建模技术应用于概率负荷预测,如密度估计(24,25),高斯过程回归(26),和分位数回归27]。最初的概率预测技术还没有赢得了更多的负荷预测社会的关注过去三十年。相反,这些技术已被用于产生点负荷预测,本质上是预期值的概率预测。不发达的一个可能的解释这些概率预测负荷预测技术是这样一个事实:他们的观点预测准确性可能不是一样好点预测技术。建立正式的评价方法PLF之前,人们可能低估了这些概率预测技术基于他们的力量表现不佳点预测的准确性。(3)后处理的预测模型能够产生概率的结果估计密度函数的参数的残余或结合数输出的多个点预测模型。谢et al。28评估几种残余仿真方法,证明剩余工资不能总是服从正态分布,提出了几个优化性能的技巧来解决这个问题。刘等人。29日]提出了一种混合方法来生成概率负荷预测对妹妹进行分位数回归平均点预测。

由于巨大的波动性和不确定性,概率预测负载住宅是极具挑战性和只有少数文献取得了一些初步的尝试。Shepero et al。30.]介绍了对数正态分布的过程(LP)等积极的数据模型设计住宅负荷与对数正态分布的组合分布和高斯过程。传统的高斯过程和对数正态分布在消融过程进行评估研究,发现对数正态分布的过程产生更清晰的概率预测。Gerossier et al。31日)提出了一个分位数平滑样条回归和使用三个输入:每小时负荷在前一天,前一周的平均负载和温度的预测。这种方法的鲁棒性增强等应变模型来克服缺陷数据数据不足,不可用变量,和极端的情况。实验反映,这个模型始终优于持久性模型并提供了更可靠的概率预测。本Taieb et al。32)提出了一个附加分位数回归模型对于未来的分位点分布的一组使用一个提高的过程,包括灵活的和可翻译的模型与自动变量的选择。证实了作者的进步他们的建议的方法与三个基准方法聚合和分解尺度使用智能电表的数据集。

3所示。方法

在本节中,我们进一步分析住宅负荷的特点,研究如何利用深度学习技术来实现更高级的性能。最后,详细介绍了我们提出的模型。

3.1。问题识别

总负荷预测集成多个负载subprofile过滤不确定性和波动性,使负载曲线模式更顺利,更常规的优越的预测。然而,住宅负荷消费缺乏一个稳定的和一致的模式相比,总体负载。在某些场景中,人们的行为更加规律,如早上起床的,被描述为“一般理解”(8]。在某些情况下,甚至行为是不规则的无序。例如,个人或家庭的生活方式与电器导致不均匀的家庭模式。例如,有些人喜欢下班后更多的社会活动;因此,他们的贡献负荷消费在晚上相对有限,但呆在室内的人可能给另一个条件。事实上,每个家庭的潜在负载模式可能会有所不同,增加了负荷预测的困难住宅。图2三个住宅的日常加载配置文件。图2(一个)显示了一个住宅与普通的生活方式。相对应的资料图2 (b)不规则的;因此,预测是更具挑战性和依赖于即时的法律。行为图2 (c)早上越来越普通,而在其他方面,没有定时活动。

(一)

(b)

(c)

因此,一个高级住宅负荷预测模型应该能够捕捉历史上活动的特点。与此同时,它还应该提取法的电力消费在狭窄的跨度相关预测点。如果模型结合特性在一个合理的方法,该方法将很好的概括不同加载模式的家庭,实现卓越的性能。传统的回归模型,如SVR [33,34)和梯度提高回归树(GBRT) (35,36),不是时间序列问题而设计的。其他时间序列模型,如基于“增大化现实”技术,ARIMA (37,38),可以在历史负荷序列中捕获功能,但不能有效地将它们与即时行为特征产生更好的结果。

深层神经网络是当今最有前途的技术之一。由于出色的学习能力区别的特性,网络能有效地探索潜在的历史负荷序列的特征。同时,该模型还可以执行回归学习时间特性。因此,深层神经网络可以自然地整合两个学会表示,最终实现学习复杂的规则在一个端到端的方法。深度学习的典型架构中,递归神经网络(RNNs)和卷积神经网络(cnn)是合适的候选人适合解决这个问题。LSTM [39,40善于解决问题的梯度消失/爆炸由于过度序列长度,允许更长时间信息被铭记。LSTM已成功用于解决负荷预测问题(17,18,41]。然而,LSTM仍然有两个问题:递归操作和内存容量有限的效率处理时间越长时间序列问题。

CNN在计算机视觉方面取得了革命性的进展,它最近在其他领域被广泛研究。最近的工作表明,神经网络在序列卷积操作可以达到最高的性能任务如语音合成、语言建模和机器翻译(42- - - - - -44]。CNN-based网络也用于负荷预测问题[45- - - - - -47]。住宅负荷预测分析的基础上,我们提出一个统一的分位数回归与time-cognition深层神经网络,由sequence-to-sequence (s2)多尺度CNN结构(MS-CNN),周期时间编码和分位数回归的组件。

3.2。s2 MS-CNN

普通的一维cnn只能抓住附近的元素的关系,限制功能有效地提取区别的特性来检测潜在的规则。因此,引入多尺度卷积保险丝额外不相邻的扩大接受字段。具体来说,深层神经网络栈多个扩张卷积与不同尺度层(48,49]。多尺度卷积提取丰富的从不同的输入位置和至关重要的关系,但阻止大增长可训练的参数。

传统的一维cnn可以接受很长时间输入序列,但只输出一个预测,这限制了其训练效率和梯度流动。灵感来自RNNs,该模型使用s2结构的输入序列中的每个点对应一个预测。这种结构提高了梯度的流,迫使每一时刻的信息有效地提取到模型中,从而提高培训的效率和准确性。为了避免未来的函数中,我们使用一个因果卷积,以确保任何节点只获得关于过去的信息。图3显示了一个示意图一块包含四个多尺度一维卷积因果与内核层2的大小。膨胀率年代增加在l在一块,这样th层年代_l= 2^l。

图3

一个简单的实例多尺度一维卷积因果。这个街区包括四个多尺度卷积过滤器的大小2层,导致接受域大小的16的顶层节点。“因果”意味着每个隐藏节点只在这个网络获得信息过去。膨胀率是1,2,4,8从底部到顶部。第一个卷积层膨胀率1是一个普通的因果卷积层,和其他层膨胀率大于1可以多个时间尺度的融合特征。

拟议的结构由一堆块,每一种都包含l卷积的层。每一层的输出是由残余连接连接,也就是说,每一层的输入被添加到它的输出。让T是输入序列的长度是过滤器的数量礼物的卷积lth层jth块,指出T和保持一致的在所有层的输出可以添加不同的层。与此同时,除了卷积操作,一层还拥有一系列的操作包括激活、规范化和辍学。以卷积过滤器的大小2为例,应用卷积操作位置t−年代和t。过滤器的参数表示 ,在参数和偏见。让层的输出时间t和是剩余的输出连接,这样在哪里和剩余的重量和偏见是卷积的过滤器尺寸1。拟议的结构如图4,包括8块,每个块包含4扩张卷积层。

3.3。Time-Cognition

时间是预测的一个关键特性问题,最新的模型采用一个炎热的编码方法(41,50),有两个主要的挑战。第一,在一个炎热的编码方法没有考虑周期时间点之间的关系,使神经网络失去先验知识导致精度得到改善。第二,一个炎热的向量的长度取决于一个周期点的数量。例如,编码的日子一年将向量的长度只要366,这不仅增加了计算也降低了预测的准确性。这种方法提供了一个独特的编码在一个周期内每一刻,储备周期性的特点。具体来说,周期编码对应的时刻t可以产生的正弦和余弦函数: 在哪里C描述了一段的长度。在本文中,我们采用半小时一天,天在一周内,天在一年的时间特性,然后代码 , ,和 ,分别。最后,我们获得的全部编码时间t: 。不同的编码方法相比,在图5。

3.4。分位数的损失

拟议的CNN结构能产生点预测或概率预测通过应用不同的管理技术。点回归方法模型的平均行为,这是有用的但给少信息的预测。分位数回归让我们得到预测在不同分位数的水平,因此画一个更全面的预测时刻的照片。分位数回归不仅使它容易获得多个分位数的预测还可以使计算预测区间(π)。分位数的损失可以写成在哪里y_t是真相吗t和表示预测的分位数问在时间t。

在培训的过程中,利用bp算法要求损失函数可微的,这样网络可以使用梯度下降训练。常见的弹球损失不是处处可微;因此,我们引入了log-cosh函数近似分位数的损失函数,与最小变化,使损失函数(处处可微51]。然后,我们获得新损失函数如下: 在哪里γ是一个曲调的hyperparameter L1范数之间的绑定和L2范数,应该选择根据数据的价值大小和预期的准确性。更高的精度将会呼吁更大γ。日志(cosh (x))约等于x²/ 2的时候x保持非常小,它往往是约等于当x变得更大。

3.5。提出了网络体系结构

前面提到的技术和关键部件集成到整个网络,在图所示的细节6。首先,历史负荷序列输入到MS-CNN网络和表示向量生成最后一层的网络,其中包含有识别力的特性负荷历史数据的模式。然后,一个辅助完全连接网络学习的周期编码预测时间增加额外的功能预测。最后,两个子网融合和美联储的输出向量到另一个完全连接层产生所有分位数的预测。该模型反映了多尺度卷积神经网络的贡献和周期性的编码尤其是特性融合或连接机制。

个人电力消费行为自然展览时间序列曲线。突出的想法我们建议的方法,只有历史数据加载和日历数据的形式定期利用编码作为输入功能。值得注意的是,其他环境因素,如温度,也可以采用这个模型。让X整个历史负荷数据的长度T,分为输入载荷序列长度为米并开始时刻t−米+ 1。X_t形状是一个二维数组。值得注意的是,什么时候T小,太大米将使收敛速度极慢的批量大小。相对应的辅助输入时间t是下一刻的周期编码吗 ,这是一个向量长度为6。输出的时候了t包括分位数的预测时间t+ 1: ,在哪里问分位数的数量。

实现过程分为三个阶段:数据准备、模型训练、和预测和描述的细节图7。我们训练该模型为每个客户提供家庭共享参数。在培训期间,我们使用了学习速率衰减和早期停止策略基于验证损失降低计算成本的变化,防止过度拟合。

4所示。实验设置

本节介绍了实验装置,包括数据描述、培训实施、平台。

4.1。数据描述

本文中采用的数据来自于客户行为试验(CBT),这是一个智能计量能源监管委员会发起的项目,电力监管机构,在爱尔兰和天然气领域。它包括成千上万的住宅客户的匿名数据,样本一边从每个住宅电力消费。2009年收集的数据集从7月15日,1月1日,2011年,每个客户的数据包含25728收集点。

因为数据集满了很多噪音,我们删除一些冗余数据,填补了缺失数据的线性插值算法。此外,20个住宅负载概要文件随机选择的数据集作为算法评估的对象。每个主题的数据分为训练集、验证集和测试集在80%,分别为10%和10%。

4.2。基准和设置

分位数回归LSTM (QLSTM)和分位数梯度提高回归树(QGBRT)被选为实验基准。在传统方法中,QGBRT常采用的稳定和准确的性能。LSTM已经在许多序列处理领域取得最佳性能。QLSTM模型提出了(41)也达到最先进的概率负荷预测的性能。观察我们提出的改进模型,一个共同的sequence-to-point分位数CNN (QCNN)还介绍了作为基准来验证我们提出的改进模型。

Hyperparameter优化与预测性能有着密切的关系。这不是明智的探索每一个主题的最佳参数,这肯定导致伟大的计算成本。在我们的工作中,我们更关注适当的整体表现的主题。因此,一些经验法则hyperparameter选择采用。一般而言,更深层次和更广泛的网络往往会取得更好的性能,和适当的评价,我们的规模可训练的参数与QLSTM模型类似。QLSTM QCNN的输入大小,我们建议的模型是相同的,以确保公平,这是设置为240。如果输入序列的长度不能提取足够的增长特性提取的能力区别的特性,如果太长,模型计算的效率有限,有时会导致过度拟合问题。QCNN和该模型分享一些hyperparameters: 34卷积层和每个卷积层由一个卷积操作,解决线性单元(ReLU),一批标准化过滤器,一个辍学的行动。QLSTM栈3单位为了提高预测能力。此外,我们采用网格搜索探索其他hyperparameters,如内核大小,辍学率,开始学习速率,批量大小,等等。 In this experiment, we made probabilistic forecasts with 9 quantiles (0.1–0.9) of halfhour for evaluation on our proposed model; therefore, the output sequence has the shape米×Q。神经网络的实验设置和hyperparameters展示在表1。


参数	LSTM	美国有线电视新闻网

深度	3	34
隐藏的神经	128年	没有一个
内核大小	没有一个	8
内核数量	没有一个	24
批量大小	128年	128年
输入的大小	240年	240年
辍学率	0.05	0.05
损失函数	分位数的损失	分位数的损失
优化方法	AMSGrad	AMSGrad
开始学习速率	0.01	0.01
学习速率衰减	0.3	0.3
训练停止	早期停止	早期停止

4.3。软件和硬件平台

云服务器上执行的所有实验和两个NVIDIA P4计算卡和8核的CPU。QGBRT的实现是基于scikit-learn包。其他神经网络模型与TensorFlow Keras框架实现的52后端。

5。结果与讨论

本节介绍了实验的设置,包括评价指标和实验结果。

5.1。评价指标

概率预测评价,有三个常用属性:可靠性、清晰度和分辨率。可靠性是指距离预测分布在地上的事实。清晰度是如何紧密覆盖预测分布的实际曲线。决议表示多少预测区间随时间变化。措施Kolmogorov-Smirnov、Cramer-von米塞斯和Anderson-Darling统计评估概率预测的无条件的报道而不是它的清晰度和分辨率。摘要概率预测的性能评估的平均得分分位数(aq),这是一个综合衡量指标考虑不仅可靠性,而且清晰度和分辨率。分位数的分数有相同的方程与分位数的损失,和aq定义如下: 在哪里问表示数量的分位数和定义T_测试表示测试集的样本数量。此外,为了使一个适当的评价候选人的预测区间(π)应该评估。π的时间t与给出置信水平 ,在哪里和的上限和下限是π。预计地面真理y_t应该是名义的上限和下限之间的概率 ,叫做预测区间的名义信心(PINC)。π覆盖概率(PICP)评估实际价值是否存在一定的预测区间内: 在哪里T_测试测试集的样本数量。结果与高可靠性应该得到PICP接近PINC [53]。所以,我们使用的绝对平均覆盖率错误(无关)评估的可靠性:

另一个度量,π归一化平均宽度(PINAW) [54),介绍了测量π的清晰度。PINAW被定义为在哪里R之间的区别是最大和最小地面真理和规范π的平均宽度。在本文中,我们评估了π无关和PINAW覆盖率80%。降低aq,无关,PINAW表明更好的性能。

5.2。结果分析

我们随机选择20个住宅和训练模型分别为每个住宅属于概率预测模型,能够输出9分位数一次机会。确保考试的公平性的实验中,所有受试者在训练或测试阶段保持一致的参数和模型体系结构。图8是aq的热图结果研究模型比较,直观地显示我们提出的模型是最复杂的性能。具体来说,我们提出的模型实现12最好的结果在20个住宅,其余也表现优异。包含6最好的结果优于QLSTM QCNN QGBRT。图的右侧8反映了aq改进我们的模型比其他三种算法。据统计,我们的模型获得最优秀的结果,平均增长2.23%,7.15%,和2.12%相比QGBRT, QCNN和QLSTM分别。同时,经典的机器学习模型QGBRT给承诺后评估适当的调整。自原油一维CNN模型缺乏有效的序列优化问题,其性能仅限于弱学习的能力区别的特性与简单的旋转。

表2每个分位数的列表结果aq的观点。I_QGBRT、I_QCNN I_QLSTM代表aq改进比率比较我们建议的模型与其他三种模式。aq分位数0.1和0.2的值相对较低的,因为家庭用电量的数量维持在一个低水平与非负的性格。四个模型相比,我们提出的模型实现最佳的性能在所有分位数和平均水平,表明我们的模型具有极好的稳定性分位数。


分位数	QGBRT	QCNN	QLSTM	提出了	I_QGBRT (%)	I_QCNN (%)	I_QLSTM (%)

0.1	0.036	0.0393	0.0365	0.0359	0.28	8.65	1.64
0.2	0.0634	0.068	0.0643	0.0634	0.00	6.76	1.40
0.3	0.0856	0.0909	0.0865	0.0853	0.35	6.16	1.39
0.4	0.1028	0.1087	0.1032	0.1022	0.58	5.98	0.97
0.5	0.1151	0.121	0.115	0.1138	1.13	5.95	1.04
0.6	0.1218	0.128	0.1213	0.1197	1.72	6.48	1.32
0.7	0.1223	0.1282	0.1214	0.1189	2.78	7.25	2.06
0.8	0.1136	0.1186	0.1124	0.1085	4.49	8.52	3.47
0.9	0.0877	0.0911	0.0869	0.0818	6.73	10.21	5.87
平均	0.0943	0.0993	0.0942	0.0922	2.23	7.15	2.12

热点图80%的区间无关图描述9。我们建议的模型取得了11个20住宅的最佳效果,和QLSTM QGBRT,和QCNN 5 3和1的分别。在整体性能方面,大多数QGBRT和QLSTM是可以接受的结果,而QCNN运行不理想。考虑到20住宅无关,该方法的平均增长34.71%,75.22%,和32.44%相比QGBRT, QCNN, QLSTM给予显著证明模型的可靠性。

图10描述了区间PINAW热图80%。QCNN获得最好的清晰度与12例20住宅,PINAW的表现也令人信服。PINAW提供测量如何紧凑π。如果aac格式不同的模型是接近,降低π由PINAW会更有益的。QCNN无关是相对贫穷的比我们提出的模型,但是PINAW提供更多更好的,这表明QCNN牺牲可靠性提高清晰度。这个结果是不可取的,除非明确预测目标需要更紧凑的π。PINAW和无关进入冲突时,额外的综合指标,如aq,可以选择准确的评价。

QGBRT和我们建议的模型获得更复杂的成就而不是QLSTM。大多数的结果QLSTM QGBRT相当稳定和类似,但我们建议的模型的性能给出更多波动。的平均比例提高,PINAW方法提高了1.51%,7.53%,和1.87%相对于QGBRT, QCNN和QLSTM分别。考虑可靠性显著提高,我们提出的模型的恶化清晰度仍然是在一个可接受的极限。

图11给每个估计分位数之间的覆盖概率区间,每个区间对应于一个酒吧。10间隔生成9分位数(从0 - 0.1 - 0.9 - 1),在测试设置和实际负荷值有一个统一的概率陷入这10个间隔。我们根据分位数的宽度归一化这个概率区间(即,0.1);因此,每个酒吧应该接近于1。该模型在图11 (d)提供的最低Y设在证明我们提出的分位数预测模型是在多个住宅合理解释数据。QCNN,具体来说,QGBRT QLSTM,我们提出的模型处理2,7,2,分别和1条。一般来说,大多数酒吧在QGBRT QLSTM,该模型往往是接近1。

(一)

(b)

(c)

(d)

一个奇怪的现象出现,酒吧的住宅平均身高1和住宅15在图(11日)比1大。为一个特殊的例子,分位点的预测结果0.1,0.2,和0.3是1千瓦,0.8千瓦,1.2千瓦和地面真理是0.9千瓦。实际值位于间隔0 - 0.1和0.1 - -0.2同时,属于倒分位数的反演误差。表3反映了20个住宅分位数的错误预测,在我们的模型中,错误的数量非常低,除了居住4和13所示。它展示了我们的模型的优越性在规律的角度对分位数的安排。特别是QGBRT aq表现良好,无关,和PINAW但产生伟大的错误,这可能是影响分位数的计算分离机理预测。倒置的错误成为一个美妙的补充经典可靠性指标,清晰度和分辨率,避免评估过程中容易混淆的结果。


住宅	QGBRT	QCNN	QLSTM	提出了

1	1854年	1791年	1989年	407年
2	476年	478年	385年	311年
3	6825年	3623年	4541年	633年
4	5256年	918年	2913年	1700年
5	1187年	1465年	570年	87年
6	1559年	3222年	2926年	619年
7	4223年	2077年	758年	189年
8	1215年	1253年	525年	142年
9	2906年	1771年	703年	125年
10	3913年	2990年	1225年	440年
11	1726年	3309年	754年	271年
12	2435年	1388年	836年	438年
13	812年	1003年	209年	221年
14	3377年	2041年	738年	380年
15	7411年	3160年	6991年	857年
16	2930年	3172年	1879年	1050年
17	7634年	2486年	286年	269年
18	2165年	3475年	1947年	449年
19	2066年	3003年	1107年	561年
20.	1957年	2227年	475年	398年
总	61927年	44852年	31757年	9547年

图12地块住宅的实际负荷预测和分位数2在一个星期。八0.1和0.9分位数之间的间隔中显示不同的颜色,而坚实的黑色线条代表地面真理。发现算法根据历史负荷试图探索短期趋势的负载尽可能。由于这个概要文件的波动性,总有延迟的峰值负载时被抓获。此外,峰值负荷对应90 th - 100半小时应该支付更多的关注和80%π的所有四个模型未能捕获第一高峰。特别是,我们建议的模型显著区别的特征序列,但QGBRT QLSTM并不称职。此外,在60几个峰之前,210,255,和305半小时,我们建议的模型显著提高预测的结果,因此其80%π非常负荷趋势。然而,其他模型无法达到这一成就,展现我们的模型在处理峰值点的优越性。这个功能应该归因于周期编码,为我们的模型提供了先进的周期性特征在某些时刻。

(一)

(b)

(c)

(d)

5.3。时间编码方法的评价

为了评估周期编码的有效性,我们aq周期编码相比,自然编码,提出了网络体系结构和一个炎热的编码,如表所示4。I_nature和I_one-hot表示周期编码的改进比自然编码和一个炎热的编码。aq自然编码快速成长,甚至高于QCNN,表明它不是改善aq主管。一个炎热的aq编码首选服役性能而不是自然的编码,但程度仍然有限。具体来说,周期的平均aq编码实现最好的结果,9.10%和4.91%,分别比其他两种方法非常低。


住宅	自然编码	在一个炎热的编码	周期性的编码	I_nature (%)	I_one-hot (%)

1	0.0604	0.0592	0.0546	9.67	7.83
2	0.1261	0.1226	0.1206	4.40	1.67
3	0.1401	0.1449	0.1392	0.70	3.94
4	0.1823	0.1585	0.1536	15.75	3.10
5	0.0778	0.0666	0.0651	16.25	2.15
6	0.0885	0.0951	0.0856	3.29	9.99
7	0.1413	0.1378	0.1308	7.49	5.12
8	0.2379	0.2114	0.2101	11.66	0.60
9	0.0888	0.0895	0.0811	8.68	9.42
10	0.1091	0.1018	0.0983	9.91	3.47
11	0.0523	0.0475	0.0461	11.89	2.91
12	0.1176	0.1116	0.1078	8.34	3.38
13	0.0433	0.0401	0.0384	11.27	4.21
14	0.0983	0.0946	0.0901	8.26	4.67
15	0.0933	0.0896	0.0809	13.27	9.75
16	0.1188	0.1239	0.1140	4.03	8.00
17	0.0259	0.0253	0.0226	12.89	10.63
18	0.0707	0.0630	0.0632	10.63	−0.30
19	0.1200	0.1204	0.1091	9.09	9.34
20.	0.0351	0.0349	0.0319	9.01	8.51
平均	0.1014	0.0969	0.0922	9.10	4.91

5.4。效率

比较模型的计算效率和内存成本如表所示5。深层神经网络服务众多参数和生产大规模的计算成本。幸运的是,我们可以解决这个问题,采用专业图形卡;因此,我们研究的神经网络模型上运行默认NVIDIA P4卡。所有比较实验与相同的配置合格。


项	QGBRT	QCNN	QLSTM	提出了	R_QLSTM

每个时代的培训时间(s)	没有一个	24	209年	26	87.56%
测试时间(s)	0.18	0.88	16.27	0.89	94.53%
训练融合时代	没有一个	77年	68年	66年	- - - - - -
总培训时间(s)	1517年	1814年	14212年	1716年	87.93%
参数	没有一个	184681年	330889年	187769年	- - - - - -

在表5,每个培训时代比QCNN QLSTM提供了更大的计算成本,我们建议的模型,导致更高的依赖性在整个迭代过程的步骤是不可能被部署在并行的方法。同样的,当上运行2328个样本进行检测,QLSTM CNN-based模型给了18倍的成本。尤其是列R_QLSTM表达我们的模型降低了培训成本,测试,和培训总成本87.56%,94.53%,和87.93%,分别在QLSTM每个时代。QGBRT相对比其他人更好的效率由于其简单的机制提取功能,只用了0.18秒。QLSTM和我们提出的模型采用s2梯度结构增强了流动和融合的过程。QGBRT、QCNN和我们的模型是接近成本的培训,和QLSTM更长。很容易发现,成本差距之间的QGBRT训练和测试过程比其他人由于QGBRT估计没有并行机制。与神经网络不同的是,每一分位数QGBRT需要单独训练操作导致QGBRT的培训成本的增加。此外,规模的参数,该模型获得的成就比QLSTM需要更少的参数,提供显著的效率比较。

6。结论

住宅负荷预测对于电力市场中的许多实体很重要,但个人住宅的负荷曲线显示巨大的波动和不确定性。由于生产可靠点的预测困难,概率负荷预测成为研究重点,可以探索间隔的波动性和不确定性,密度,或分位数。在本文中,我们提出一个统一的分位数回归和time-cognition深层神经网络解决具有挑战性的问题。首先,深与多尺度卷积神经网络扩张运算是提出了从历史负荷序列中提取更重要的特性。此外,期刊编码方法设计了马克的输入序列捕获正则负载模式。然后,生成特性的子网融合和输入端到端的方式的预测模型。最后,多个分位点的预测直接输出一箭。

为了保证实验的准确性,我们进行了随机选择20个住宅数据实验评估。足够的实验相比,我们提出的模型与几个先进的作品获得全面的结论。指标如aq,无关,PINAW用于定量评估主体视角的可靠性和清晰度。此外,我们还支付更多的关注经验的报道和分位数反演误差提供额外措施表演。实验结果表明,我们建议的模型实现最好的结果aq,无关,和反演错误,特别是我们的平均无关模型增加了34.71%,75.22%,和32.44%,分别与QGBRT相比,QCNN QLSTM,表明该网络具有非常优异的可靠性。此外,我们分析了效率的计算,发现我们的模型训练和测试成本低负担,反映快时间响应而不是QLSTM认为我们的模型在实际应用前景。

CNN-based深学习模型取得了许多先进的最近结果顺序问题。通过我们工作的实验结果,设计良好的CNN模型不仅可以实现精度高而且近似传统机器学习算法的效率,提供一个良好的实际应用前景。技术,如可变形的卷积和注意力机制负荷序列中有巨大的潜力预测,未来,我们将继续探索这个领域的工作。

数据可用性

CBT数据(打开数据集)用于支持本研究的发现可以ISSDA中访问网站:http://www.ucd.ie/issda/data/commissionforenergyregulationcer/。

的利益冲突

作者宣称没有利益冲突有关这篇文章的出版。

确认

这项研究是由中国国家电网公司(2018 yf-51和2019 yf-40)。

引用

t .香港和美国球迷,”概率电力负荷预测:教程审查”,国际期刊的预测,32卷,不。3、914 - 938年,2016页。视图:出版商的网站|谷歌学术搜索
O。f·埃尔“预测电力负荷由小说反复极端的机器学习方法,“国际期刊的电力和能源系统卷,78年,第435 - 429页,2016年。视图:出版商的网站|谷歌学术搜索
c . Keerthisinghe诉格雷戈尔,A·c·查普曼”快速智能家居技术管理:Adp与时间差异学习,”IEEE智能电网,9卷,不。4、3291 - 3303年,2016页。视图:出版商的网站|谷歌学术搜索
m·a·普拉特d•克里希纳穆尔蒂露丝,吴h . m . Lunacek和p . Vaynshenk”交互家庭能源管理系统:对电网的增殖的影响,“IEEE电气化杂志,4卷,不。4,8 - 14,2016页。视图:出版商的网站|谷歌学术搜索
t . Morstyn:法雷尔,s . j . Darby, m·d·麦克洛克”使用点对点能源交易平台激励潜在客户形成联合发电厂,”自然能源,3卷,不。2、94 - 101年,2018页。视图:出版商的网站|谷歌学术搜索
王,问:陈、h·道和c·康”对智能电表数据分析:应用程序,方法,和挑战,”IEEE智能电网,10卷,不。3、3125 - 3148年,2019页。视图:出版商的网站|谷歌学术搜索
问:陈y . Wang, m .太阳,c .康问:夏,“一个聚合与subprofiles负荷预测方法,”IEEE智能电网,9卷,不。4、3906 - 3908年,2018页。视图:出版商的网站|谷歌学术搜索
b . Stephen x, p·r·哈维s加我Jennett k,“整合实践理论在短期sub-profile模型聚合住宅负荷预测,“IEEE智能电网,8卷,不。4、1591 - 1598年,2017页。视图:出版商的网站|谷歌学术搜索
s . Humeau t . k . Wijaya m . Vasirani和k .河口”住宅用户电力负荷预测:利用聚合和家庭之间的相关性,”学报2013年可持续发展的互联网和信息通信技术可持续性(SustainIT),页1 - 6,巴勒莫,意大利,2013年10月。视图:出版商的网站|谷歌学术搜索
r·e·爱德华兹,j .新,l·e·帕克,“每小时预测未来住宅电气消费:一个机器学习的案例研究,“能源和建筑49卷,第603 - 591页,2012年。视图:出版商的网站|谷歌学术搜索
r . Ahmadiahangar h·托拜厄斯,松香,t . Korotko和j·马丁斯,“住宅负荷预测为灵活性而使用机器上优于回归模型,预测”学报2019年IEEE环境与电子工程国际会议和2019年IEEE工商欧洲电力系统(EEEIC / I&CPS欧洲),页1 - 4,热那亚,意大利,2019年6月。视图:出版商的网站|谷歌学术搜索
a . Tascikaraoglu和b . m . Sanandaji短期住宅电力负荷预测:压缩时空的方法,”能源和建筑卷,111年,第392 - 380页,2016年。视图:出版商的网站|谷歌学术搜索
C.-N。Yu, p .米卢斯基,t . k . Ho“稀疏编码方法家庭智能电网的电力需求预测,“IEEE智能电网,8卷,不。2、738 - 748年,2017页。视图:出版商的网站|谷歌学术搜索
李,张b、w·杨和r . Rajagopal“稀疏线性模型和显著性检验对个人消费预测,“IEEE电力系统,32卷,不。6,4489 - 4500年,2017页。视图:出版商的网站|谷歌学术搜索
A . Almalaq g·爱德华兹,“回顾深度学习方法应用于负荷预测,”学报》2017年16 IEEE国际会议上机器学习和应用程序(ICMLA),第516 - 511页,2017年12月墨西哥坎昆。视图:出版商的网站|谷歌学术搜索
f·阿巴斯,d .冯哈比卜,拉赫曼,a . Rasool z燕,“短期住宅负荷预测:一种改进的最优非线性汽车倒退(narx)方法与体重指数衰减函数,“电子产品,7卷,不。12,432页,2018年。视图:出版商的网站|谷歌学术搜索
h·施m .徐,r·李,“深度学习家庭负荷预测小说池深RNN,”IEEE智能电网,9卷,不。5,5271 - 5280年,2018页。视图:出版商的网站|谷歌学术搜索
w .香港、z . y .董、y, d·j·希尔,y, y张,“短期住宅基于lstm复发性神经网络负荷预测,“IEEE智能电网,10卷,不。1,第851 - 841页,2019。视图:出版商的网站|谷歌学术搜索
t . Hossen a s Nair r . a . Chinnathambi和p . Ranganathan”住宅使用深层神经网络负荷预测(款)”学报2018北美电力研讨会(午睡)美国ND,页1 - 5,法戈,2018年9月。视图:出版商的网站|谷歌学术搜索
h .道,j·威尔逊和j .谢”长期概率每小时负荷预测和标准化信息,“IEEE智能电网,5卷,不。1,第462 - 456页,2014。视图:出版商的网站|谷歌学术搜索
r . j . Hyndman和美国球迷,“密度预测长期电力需求高峰,”IEEE电力系统,25卷,不。2、1142 - 1153年,2010页。视图:出版商的网站|谷歌学术搜索
p . e .创造美国Bouwman, g . Bloemhof”概率的预测电力需求峰值的大小和时间,”IEEE电力系统,20卷,不。2、1166 - 1172年,2005页。视图:出版商的网站|谷歌学术搜索
谢j . h .道,“温度的场景生成概率负荷预测,”IEEE智能电网,9卷,不。3、1680 - 1687年,2016页。视图:出版商的网站|谷歌学术搜索
Arora和j·w·泰勒,”预测电力智能电表数据使用条件核密度估计,“ω卷,59 47-59,2016页。视图:出版商的网站|谷歌学术搜索
a . Mousa m·穆罕默m . Rastegar和k·阿明,“深概率神经网络基于住宅价格预测负荷和风速预测,“专业可再生发电,13卷,不。11日,第1848 - 1840页,2019年。视图:出版商的网站|谷歌学术搜索
y杨,李,w·李,m .曲“电力负荷概率密度预测使用高斯过程分位数回归,”应用能源卷,213年,第509 - 499页,2018年。视图:出版商的网站|谷歌学术搜索
p•盖拉德y Goude, r . Nedellec”添加剂模型和强劲的聚合gefcom2014概率电力负荷和电价预测,“国际期刊的预测,32卷,不。3、1038 - 1050年,2016页。视图:出版商的网站|谷歌学术搜索
h . j .谢道,t·莱恩和c·康”在常态假设残余模拟概率负荷预测,“IEEE智能电网,8卷,不。3、1046 - 1053年,2017页。视图:出版商的网站|谷歌学术搜索
b . Liu j . Nowotarski h .道,r . Weron”概率负荷预测通过分位数回归平均预测姐姐,”IEEE智能电网,8卷,不。2、730 - 737年,2015页。视图:出版商的网站|谷歌学术搜索
m . Shepero d·米尔j . timbro, j .扩大“住宅概率负荷预测:一个方法使用高斯过程设计为电动加载数据,”应用能源卷,218年,第172 - 159页,2018年。视图:出版商的网站|谷歌学术搜索
a . Gerossier r·吉拉德g . Kariniotakis, a . Michiorri“家庭电力需求的概率日前预测,”CIRED-Open访问程序》,卷2017,不。1,第2504 - 2500页,2017。视图:出版商的网站|谷歌学术搜索
Ben Taieb s . r .溶血性尿毒综合征,r . j . Hyndman和m . g . Genton“预测不确定性电力智能电表数据通过提高添加剂分位数回归,”IEEE智能电网,7卷,不。5,2448 - 2455年,2016页。视图:出版商的网站|谷歌学术搜索
观测。在香港,“电力负荷预测季节性复发svr(支持向量回归)混乱的人工蜂群算法,”能源,36卷,不。9日,第5578 - 5568页,2011年。视图:出版商的网站|谷歌学术搜索
w·李,杨x、h·李和l .苏”混合预测方法基于grnn神经网络和svr机电力需求预测,“能量,10卷,不。1,p。2017。视图:出版商的网站|谷歌学术搜索
易王:张问:陈,d . s . Kirschen李潘,问:夏,“数据驱动的概率behind-the-meter PV的净负荷预测高渗透,“IEEE电力系统,33卷,不。3、3255 - 3264年,2018页。视图:出版商的网站|谷歌学术搜索
帕帕多普洛斯s和i Karakatsanis”,使用时间序列的短期电力负荷预测和整体学习方法,”学报2015年IEEE电力和能源会议在伊利诺斯州(PECI),页1 - 6,IEEE,香槟市,美国,2015年2月。视图:出版商的网站|谷歌学术搜索
g . Juberias j·加西亚莫雷诺,c .共”每小时负荷预测新ARIMA模型”学报1999年IEEE输电和配电会议(猫。99号ch36333),1卷,页314 - 319,IEEE,新奥尔良,洛杉矶,美国,1999年4月。视图:出版商的网站|谷歌学术搜索
w·李和张李振国”,基于时间序列arima模型的短期电力负荷预测中的应用”《2009年国际会议上研究在计算机科学的挑战IEEE,页11日至14日,上海,中国,2009年12月。视图:出版商的网站|谷歌学术搜索
k·Greff, r·k·斯利瓦斯塔瓦k . 1月b . r . Steunebrink,的和j。施密德胡贝尔表示“LSTM:搜索太空漫游”,IEEE神经网络和学习系统,28卷,不。10日,2222 - 2232年,2017页。视图:出版商的网站|谷歌学术搜索
z . c .立顿、j·伯科威茨和c·埃尔坎”的复发性神经网络评论序列学习,”2015年,https://arxiv.org/abs/1506.00019。视图:谷歌学术搜索
d . y . Wang甘,m .太阳:张,z,和c·康”概率个人使用弹球引导lstm损失负荷预测,“应用能源卷。235年,10 - 20,2019页。视图:出版商的网站|谷歌学术搜索
d·桑德,a van den Oord h .禅et al .,“Wavenet:原始音频的生成模型,”2016年,https://arxiv.org/abs/1609.03499。视图:谷歌学术搜索
n . Kalchbrenner l . Espeholt k . Simonyan a van den Oord, a .坟墓和k . Kavukcuoglu“神经机器翻译在线性时间内,”2016年,https://arxiv.org/abs/1610.10099。视图:谷歌学术搜索
y . n .多芬风扇,m . Auli d . Grangier,“语言与封闭的卷积网络建模,”美国第34国际会议上机器学习卷,70年,页933 - 941,悉尼,澳大利亚,2017年8月。视图:谷歌学术搜索
m . Cai m . Pipattanasomporn, s·拉赫曼”日前建筑水平加载使用深度学习与传统的时间序列预测技术,”应用能源卷,236年,第1088 - 1078页,2019年。视图:出版商的网站|谷歌学术搜索
x盾、l .钱和l .黄”在智能电网短期负荷预测:cnn和k - means聚类相结合的方法,”学报2017年IEEE大数据和智能计算国际会议(BigComp)IEEE,页119 - 125年,济州岛,韩国,2017年2月。视图:出版商的网站|谷歌学术搜索
y z邓,b . Wang, t·徐c . Liu和z朱,“多尺度与time-cognition卷积神经网络多步短期负荷预测,“IEEE访问7卷,第88071 - 88058页,2019年。视图:出版商的网站|谷歌学术搜索
c·李·m·d·弗林r·维达尔a . Reiter和g·d·海格”行动时间卷积网络分割和检测《IEEE计算机视觉与模式识别会议火奴鲁鲁,页156 - 165年,美国,2017年7月,你好。视图:出版商的网站|谷歌学术搜索
美国巴姨,j . z科特勒和诉Koltun,“实证评价通用卷积序列建模和复发性网络,”2018年,https://arxiv.org/abs/1803.01271。视图:谷歌学术搜索
z z Yu妞妞,w . Tang和吴,“深度学习每日高峰负荷预测小说的递归神经网络结合动态时间扭曲,“IEEE访问7卷,第17194 - 17184页,2019年。视图:出版商的网站|谷歌学术搜索
y . r .悦和h街”,为添加剂混合分位数回归模型,贝叶斯推理”计算统计和数据分析,55卷,不。1,第96 - 84页,2011。视图:出版商的网站|谷歌学术搜索
m . Abadi b·保罗·j . Chen等人“Tensorflow:大规模机器学习系统”第12届USENIX学报》研讨会上操作系统设计与实现(OSDI 16)圣地亚哥,页265 - 283,美国2016年11月。视图:谷歌学术搜索
m . Rafiei t . Niknam j .希达·m·Shafie-Khah和j·p·s . Catalao”概率负荷预测使用一种改进的广义小波神经网络训练的极端的学习机器,”IEEE智能电网,9卷,不。6,6961 - 6971年,2018页。视图:出版商的网站|谷歌学术搜索
h .全、d . Srinivasan和a . Khosravi“短期负荷和风能预测使用神经网络预测间隔,”IEEE神经网络和学习系统,25卷,不。2、303 - 315年,2013页。视图:谷歌学术搜索