文摘
软件开发生命周期已经被破坏性特征之间的断开等活动规划、分析、设计和编程。特别是软件开发与基于预测的结果总是设计师面临的一大挑战。时间序列数据预测汇率、股票价格和天气预报的一些地区进行了一个广泛的研究过去三十年。在最初的几天,财务分析和预测的问题就都解决了统计模型和方法。过去的二十年里,大量的基于人工神经网络的学习模型提出了解决这些问题的财务数据,得到准确的结果预测未来的趋势和价格。本文提出了一些建筑设计相关问题通过vectorising性能改进的优势多元计量经济学时间序列模型和人工神经网络。它提供了一个自适应方法预测汇率和它可以称为混合方法预测汇率。这个框架是检测发现使用并行算法的精度和性能。
1。介绍
敏捷方法的普遍接受提供了大量的证据需要快速适应在当前的软件开发生命周期模型。然而,一些最近的倾向说明更广泛的方法是必要的,而不是专注于持续集成的软件。
现代时间序列预测涉及汇率预测。许多因素相互关联的方式,即经济因素、政治因素、甚至心理因素影响外汇汇率由以复杂的方式相互作用。因此,汇率是嘈杂、混乱,不稳定。但研究表明,非随机的和可预测的行为可以在液体中强调市场外汇市场等领域。
未来汇率之间有一种强烈的依赖关系和过去。二十多年来,Box-Jenkins ARIMA用于时间序列数据预测和其他广泛用于基准模型。然而,它有一个假设,即时间序列预测的本质是线性的和静止的。所以它导致了需要创建一个非线性模型用于预测汇率。
软计算技术用于预测汇率,因为函数逼近性质。并行人工神经网络(PANN)在预测和建模。多变量分析预测未来的行为和其他指标等技术、经济和社会指标相结合以及时间序列数据的预测过程。安更适合的时间序列预测问题,因为非参数和自适应特性。研究表明,人工神经网络可以映射任何非线性函数没有任何先验假设数据。早期的研究在这一领域已经证明简单的技术指标足以获得有用的预测和巨大的账面利润,不使用任何广泛的知识或数据相关的市场。
提出了一种异构软件设计神话在图1使用人工神经网络预测汇率价格。相同的设计将验证通过并行计算实现的性能改进。这个模型使用滞后时间序列数据的技术和经济指标作为输入的预测汇率的货币作为输出。这项工作的结果预测美元和五个主要货币之间的汇率,也就是说,英镑,日元,CAD、澳元和欧元,使用bp神经网络。误差反向传播网络(EBPN)训练与货币汇率等参数,黄金,原油价格,美国的通货膨胀率为2001年1月至2015年3月。
那么相同的设计修改而不影响其普遍性。借助平行随机存取机器(婴儿车),所有的处理器在同步;处理器的数量,不是有限的,所有的处理器有本地内存和一个全局内存访问所有处理器。读和写操作完成全局内存和处理器上参与事务知道自己的索引。训练和预测可以通过基于CPU和GPU(图形处理器)的环境来提高性能。
这项工作修改现有的标量算法来解决设计可重用性相关问题和利用自然parallelisable部分现有的算法和注入蛮力方法在每个处理器使用不同的初始条件。
进一步本文组织如下:部分2描述了软件设计的相关工作和研究,安,和并行处理性能改进的观点。部分3描述了实现问题,部分4显示结果与讨论,部分5描述了结论和未来的工作。
2。相关的工作
重点是解释之间缺乏思考价值和减少浪费。任何产品或开发步伐,不会导致增加价值被认为是浪费。在软件设计适当添加和删除组件导致效率的参数。
许多研究和软件开发一直在预测汇率在外汇市场价格。熟悉基于ANN的实现是由于它的非线性,预测和自适应能力。当训练和预测数据的数量增加有一个明确的并行处理的必要性。在本节中,提出了一些相关的作品在安,外汇市场和并行算法在决策有用有效的设计。
有用的预测和重要的利润可以由简单的技术指标不使用广泛的市场数据或知识(1- - - - - -3]。
作者每天使用时间序列数据作为输入,并使用它来预测Euro-USD汇率使用遗传算法和人工神经网络三天前最后的数据。他用两个宏观经济变量和市场数据为输入从它学到Euro-USD的汇率是有条件的。一些研究人员已经表明,一些技术指标影响汇率强劲。说指标是纳斯达克指数,黄金现货价格,政府债券的平均回报率,和原油价格4]。
在许多研究使用线性和非线性模型,人工神经网络表示执行比ARIMA模型预测外汇汇率由于非线性时间序列数据的性质。一些研究人员使用了延迟时间序列数据作为输入,而一些其他研究人员利用滑动平均(MA)的时间序列数据作为输入2]。这些作品(2,4印象我们决定这个设计的主要工作部件。
外汇市场的汇率数据是混乱的,随机的,嘈杂的在自然界中。在早期,随机游走模型和有效市场假说是基于基本面分析的两个最广泛使用的模型肯定外汇数据噪声和随机。但是,研究通过统计测试显示意义的95%,外汇利率时间序列并不是随机分布的。神经网络自移动平均数据往往是一个平滑的延迟时间序列和更少的噪音。此外,据说马技术只有当市场表现良好遵循这一趋势。然而,当指数变化方向(表现不佳5]。这个工作能帮助我们在分析软件构建数据模型的可行性。
与上述分析的帮助下,进出口贸易关系,和成本(2),应对市场演变,输入数据应该保持一致。否则,训练后,网络性能降低。实现一致性的一种方法是定期替换过去的数据和近期的数据(5,6]。据说增加输入的数量不多对改善性能的影响(2]。
(7)指定在他的作品中,最好的激活函数,可用于预测时间序列数据的神经网络设计是一个双相函数或者一个二元函数。报告(6- - - - - -8]表明,网络的性能并不能提高当超过2隐藏层中使用网络。据报道,超过2隐藏层的存在只会让网络更加复杂。这也使得培训过程困难和危险的过度拟合存在于这种网络有超过2隐藏层。神经网络中的所有工作区域建议使用最多2到3隐藏层的优化方法从网络中提取最佳的性能。
捕捉规律(9]提出了一种滑动窗口模型,利用一个两层的反向传播网络与固定数量的输入模型窗口沿着固定的步骤时间序列捕获底层数据的规律(2]。对于大规模问题反向传播学习收敛非常缓慢,在很大程度上是依赖于选择合适的学习速率的值时,动量因子和步长。文献回顾显示,测试和验证集应该完全四分之一到八分之一的训练集5]。Kaastra和博伊德表明均衡分裂70-15-15培训,验证和测试集。乙状结肠函数常用的传递函数从时间序列数据在本质上是非线性的(6]。但是一些研究人员建议使用hypertangent功能和正切函数,传递函数(4,8]。
通常正常化均方误差是使用最广泛的指标2,3,7)测量的效率和正确性测试和验证过程中训练神经网络。但一些研究人员(2,7)也使用一些其他指标,为了比较表演,让网络在任何给定的情况下表现最好的。使用与NMSE测量的误差指标的正确性训练网络美(平均绝对误差),DS(方向对称),铜(正确的上升趋势),CD(正确的下降趋势),PMAD(平均绝对偏差百分比),RMSE(根均方误差),日军(平均绝对百分误差),和梅(平均绝对误差)。有些人还报道使用点击率来衡量网络的正确性(3]。基于性能,据报道,在验证和测试小NMSE比拥有更重要小NMSE培训(3]。
使用基于人工神经网络模型,报告显示,高达76%的正确性取得了早期作品以反向传播算法的变异为学习方法(1,3]。
在这项工作完全管线式平行架构利用“mini-batch”培训,结合不同的输入情况下计算每组体重更新加快安的力量。作者在FPGA实现;培训机制是完全由中实现的方式,获得100——在运行时性能Virtex-6 LX760 FPGA (10]。
作者研究了在土地分配等研究空间优化策略和计划往往会需要多个数据层和复杂的算法。它还处理动态过程用大量的数据和复杂的关系。作者开发了一个平行的地理空间模型在多个CPU和gpu的异构计算机体系结构。实验数据集的加州土地细节导致整体仿真计算时间在50年收集的数据,从13000秒在单个CPU 64 32秒使用GPU / CPU节点(11)提供动力为我们开展这项工作。
摘要ESR(进化群机器人)是一种人工的方法开发同质自主机器人的集体行为。其行为通常是由进化人工神经网络控制。然而,ESR是不可接受的由于其非常高的计算成本。通过详细的研究中,作者引入了一个新颖的实现来克服计算成本问题。图形处理单元(GPU)的并行算法和基于OpenMP的解决方案多核CPU。在这种方法中实现了可观的性能提升(12]。应用相似的货币汇率预测相关商业智能,下面的工作。
基于云计算的商业智能(BI)同时采用OPNET。已经证明,仿真这是一个云模型与分层OLAP应用应用并行查询关系数据库的可能性。但这项工作也表示一些挑战在BI的云,因为服务提供者的限制。如此多的重要性应该得到协调的元素在建筑设计和部署它,使OLAP的层更好的决策,同时设计一个BI更多意义必须给资源管理避免瓶颈。服务提供商应该计划有效地提供细节和实现相同的基于基础设施、平台和应用程序组件实现大规模并行处理系统的支持下增强框架使用所有可用的技术效率(13]。
Victor Chang提出基于云服务的商业智能是非常有用的在商业智能对预测工作。提出商业智能作为服务(BIaas)赫斯顿模型投资者决定投资之前,作者利用RMSE(根均方误差)、马(移动平均),EWMA(指数移动平均重)校准。异构软件设计方法中使用此实现(14]。
在这个拉马钱德兰工作,常提出财务软件作为服务在云环境。建筑本身听起来不错是因为它的组件间的异构性和完整性。主要部分的实现需要蒙特卡罗方法,布莱克斯科尔斯模型和方差γ的过程。这里方差伽马方法用于离群值删除。强调了本文的基于MATLAB实现和集中在云的环境中实现精度和性能(15]。
3所示。系统实现
3.1。系统描述
首先应采取一些重要的设计决策与下面的假设。
系统是一个使用神经网络构建的预测模型,输入层的输入变量。技术和经济变量作为输入。隐藏层过程的输入变量和值添加到系统。隐藏层包含20个神经元。输出层产量单变量输出。然后一个平行的方法训练系统中实现的算法配置表3。这个过程分析了影响软件设计的变更管理。
人工神经元网络是由互连。不同的组件用于构建并行预测模型如下。
(我)NAR网络预测输入变量。本节确定预测细节问价格,美元对日元汇率,USDAUD, USDCAD, USDCHF,和GBPUSD货币,分别预测黄金价格、原油价格、消费者价格指数和通货膨胀率。
NAR(非线性自回归)网络输入变量,网络训练与过去的时间序列值来预测未来值。在本例中,该方法预测的变量如问价格五货币,黄金、原油价格、CPI,不同的通货膨胀率。
考虑图2与以往的价值观,一旦网络训练,并行算法的帮助下值预测点的预测和期望精度的阈值水平。
(2)NARX预测输出变量。图3显示了用于预测的NARX网络所需的投标价格的汇率预测,NAR网络预测应用作为输入来训练网络。
NARX网络以输入变量为外源输入的所有10个输入变量是输入在这个网络,网络是由分配训练时间序列输出变量,这种技术需要预测作为目标变量。一旦网络训练使用外生所需的输入和输出,那么,所有的训练NAR网络的预测输入变量可以作为输入提供给这个网络来预测目标输出与延迟的存在。这个过程给值的数量的预测来预测未来所需的步骤。
通常性能降低的每一步预测自预测值作为反馈目标而不是原始值,它可以通过使用并行算法解决在适当的地方。因此设置一个阈值来预测到某一特定数量的步骤达到大量的准确性。NARX时隐层神经元网络训练25的延迟20。
这种技术的神经元数量显著高因为处理要求高的数据如金融时间序列。原因推迟20高度相关,因为目标值存在的数据集(前一个月的值当前值用于输入和目标变量)。这可以通过改变设计,利用并行资源减少。
NARX网络使用“trainlm”(一个预定义的算法函数名,Levenberg-Marquardt反向传播算法)来训练网络。均方误差(MSE)作为性能指标,计算均方预期目标输出和实际输出的区别。
(3)时间序列数据。基于MATLAB的实现是用来促进训练和预测过程的可重用性。使用数据导入接口导入Excel文件并选择适当的数据进行训练和预测。
一旦选择所需的数据表2,然后转化为下列格式,便于网络施工过程:(我)矩阵。(2)单元阵列。(3)列向量。
一般来说,矩阵或数据用于存储单元阵列表示在工作区中。
提取的数据用于训练、验证或预测,都存储在工作区与MATLAB文件格式扩展.mat。
这个MATLAB文件时可以访问数据是必需的;这是一个简单的方式存储数据,因为涉及的所有数据在本质上是数值的,包含时间时间序列数据的步骤。将会有更少的使用如果库基础架构被选中。
(iv)建筑设计来处理依赖关系。NARX网络取决于其他NAR网络预测其输入,因为它使用这些预测输入支持输入层和预测目标输出。图4代表了管道和过滤器古代建筑风格,是专业设计应用程序的依赖项。
(v)为低水平选择适当的算法设计:平行反向传播学习方法。本节阐述了低水平的设计决策。第一个Levenberg-Marquardt (LM)为优化算法是应用最广泛的算法。它工作在简单的梯度下降法和共轭梯度方法的品种问题。LM算法给出解决方案的形式非线性最小二乘法最小化。LM算法混合高斯牛顿(GN)算法的速度优势和最速下降法的稳定性。但它比GN算法更加健壮,因为在很多情况下它可以处理好即使错误表面比二次情况要复杂得多。
LM旨在实现二阶训练速度没有海赛矩阵计算值。
性能函数平方和;海赛矩阵是近似
梯度可以计算 在哪里是雅可比矩阵含有一阶导数的基于重量和biase网络错误。是向量的网络错误。
雅可比矩阵计算复杂性较低比海赛矩阵通过一个标准的反向传播。LM算法使用这种近似海赛矩阵在下面的方法称为Newton-like更新: 在标量在牛顿法是零,使用近似海赛矩阵。
如果μ大梯度下降的更少的步骤,那么价值将下降后每一个成功的一步。
算法1(反向传播训练)。
最初的假设。考虑以下: :错误阈值。 :目标迭代。 :错误输出。 :实际产出。 :目标输出。藏:隐藏层。 :当前模式。
(1)把训练数据集分成相等的部分,在那里线程的数量在过程;(2)初始化权重,期望误差阈值和总迭代(3)通道重量= 0;迭代= 0;(4) =大小可用的模式;(5)而不等于零;(6)在输出神经元计算错误;(7)计算。We_hid。();/ /函数导数(8)计算通道权重输出神经元和隐藏层(9)积累新计算重量的初始体重永远迭代。(10)结束时(11)更新权重网络中基于学习速率(12)计算mse在训练数据,(13)如果和当前迭代>最大数量的迭代增量迭代和继续。
的帮助下算法1、LM bp算法可以由和批量训练方法。自批培训相对比较容易适应对多线程和多核cpu,步骤来可以运行在并行线程执行反向传播在不同的模式。对于每个模式重量和错误可以分别计算和存储。
图5代表了培训过程的高级体系结构。这里主要责任分配给同步器模块,执行以下任务:(我)等到所有线程完成了培训过程。(2)计算网络的整体重量。(3)计算测试数据的网络错误。(iv)重复上述过程,直到所有的模式都足够训练。(v)停止这种方法训练过程已经确定以下条件。当的最大迭代数达到或超过最大的时间,性能目标是最小化由于性能梯度min_grad以下。
在第一步中,基于人工神经网络的时间序列模型产生的估计货币汇率和其他技术参数,用于预测货币的交换价格的选择。在第二步中,误差修正bp神经网络用于纠正错误的估计。提出了两步模型产生结果的准确性比单步模式。
4所示。结果与讨论
首先在表给出异构软件设计的优点1。
拉马钱德兰Chang和统治et al。15,16)也使用异构设计基于预测的系统,结果听起来不错。
实现是通过以下步骤完成:(1)收集的数据(如每节4.1)存储在Excel文件。(2)使用NTSTOOL MATLAB神经网络时间序列的工具。与NTSTOOL NAR、NARX Levenberg-Marquardt算法实现。(3)然后实现算法1(由LM算法)在MATLAB与并行处理能力和执行时间的训练和比较。以下部分描述数据收集,使用性能指标,实现的结果。
4.1。数据收集
这个分析中使用的数据是每天5个货币对美元的汇率随着原油价格,黄金,美国通货膨胀率,从1993年6月到2015年3月CPI提供Oanda.com。这种方法考虑澳元的汇率(AUD),英国英镑(GBP),加元(CAD),瑞士法郎(瑞士法郎),和日元(日元)。
4.2。施工性能指标
上述预测模型的性能评估的帮助下三个统计指标。
均方误差(MSE)如下:
平均绝对误差(MAE)如下:
平方误差总和(SSE),否则也称为残差平方和(RSS),如下: 在这里,MSE和梅测量实际值和预测值之间的偏差。上交所的测量数据和预测模型之间的差异。
更高精度的预测是由较小的MSE和梅的存在表示的值。
并行算法的性能的措施。考虑以下: 在哪里是执行时间。
假设。单线程和并行训练是相同初始化网络权值进行训练。实验通过改变网络配置重复15次。该算法使用以下测试基于英特尔电脑。
4.3。仿真结果
实现这一点,在预测,预测的值作为反馈,而不是使用原始输入值;闭环反向传播设计是选择。NAR网络训练的最大35在隐层神经元延迟20。最大的表演取得了19到25左右时代。结果见表4。
“trainlm”(一个预定义算法函数名,Levenberg-Marquardt反向传播算法)用于训练网络。和均方误差(MSE)作为性能指标,计算均方期望输出和实际输出的区别。
NARX神经网络模型训练2 7技术指标和经济指标,一个隐藏层和一个输出神经元单位预测汇率。网络使用Levenberg-Marquardt训练算法,自适应地改变权值在每个反向传播训练停止当给定的输入和输出的最佳性能得到训练和验证。隐藏的神经元的数量单位是修改15至20和训练终止在60和100年之间的时期。
基于性能指标测量进行预测的数据,这种方法发现训练网络提供了最佳的性能预测准确率高英镑,瑞士法郎,AUD, CAD 60天的预测。但日圆汇率,预测精度只持续了15天的预测图所示6 (e)。创建这个模型对短期趋势预测,因此60天的时间的预测。该模型可以扩展到与最小精确度损失120 - 150天。反向传播的Levenberg-Marquardt算法适用于该应用程序的性能相比以前在汇率预测工作。
(一)美元对瑞士法郎
(b)美元和英镑
(c)美元和澳元
(d)美元和加元
(e)美元和日圆
这种高精度的性能得到由于技术用于学习,改进Levenberg-Marquardt算法,结合梯度下降法和Gaussian-Newton方法的优点。MSE,美通过训练NARX网络明显高于获得使用其他方法在研究过去(2]。
图比较实际和预测汇率的5个货币数据所示6(一)- - - - - -6 (e)。情节表明,预测是实际利率更密切的澳元,英镑和CAD。瑞士法郎和日元预测相对接近的实际利率。
从上面的情节,表现为美元/日圆降解后15天。其他4货币的预测显示显著的精度约90 - 95%的第一个120天的预测开始日期和超过97%的准确率明显高于60天的预测相比之前的研究中使用的其他模型(1,3]。这意味着,提高精度,网络必须接受再培训,每120天。
4.4。相同的算法的并行实现
该方法利用基于MATLAB的并行库使用库函数。它表示在图实现变化5混合软件体系结构,顺序执行解决以下问题:(我)增加训练算法的执行时间。它给良好的影响总体执行。(2)利用可用资源的最大处理能力。(3)减少的成本实现通过减少执行时间。同样的方法使用并行执行训练方法。基于(7),改善执行时间,如图7。
5。结论和未来的工作
分析了以下结论。基于异构软件设计更适合基于软计算的应用程序在任何可能的阶段,引入并行算法会增加性能。四的预测结果明显希望货币英镑,澳元,CAD和瑞士法郎。日元的预测性能很差。而不是使用MSE,该方法使用两个其他指标以及测量网络的性能。但其他额外的显著指标可以用来测量性能,可以用于比较。
Levenberg-Marquardt的反向传播算法,用于本研究构建和训练相结合的网络已经被证明是值得的技术和经济指标进行预测。
以上的观察证实了更好的性能预测的人工神经网络货币的汇率。
进一步的研究重点将仅使用NARX网络和获得的技术指标性能比以前的模型用于预测人民币汇率的目的,使用LM算法被用于这项研究。
利益冲突
作者宣称没有利益冲突有关的出版。