TY -的A2 -张,年兽盟,阮Sumei盟——太阳,Xusheng盟——姚明,Ruanxingchen AU - Li Wei PY - 2021 DA - 2021/12/10 TI -深度学习基于分层Self-Attention财务困境预测将文本SP - 1165296六世- 2021 AB -检测综合线索和提供更准确的预测财务危机的早期阶段,除了财务指标,数字化的冗长但不可或缺的文本信息披露,如管理层讨论与分析(命名),强调了研究人员。然而,大多数研究把长文本分为文字和计算单词将文本视为字数向量,将大量的无效信息,但忽略了有意义的上下文。旨在有效地代表大尺寸的文本,一个端到端的神经网络模型提出了基于分层self-attention在这项研究中引入先进的pretrained模型用于文本嵌入包括上下文。该模型有两个显著的特点。第一,分层self-attention只提供高权重的本质内容,也能进行字面意思,自动忽略了大量的信息,没有业务与风险预测,适合大规模的提取有效部分文本。第二,微调后,嵌入适应这个词的具体环境样品和更准确地传达了原文表达没有过多的人工操作。实验证实,添加文本提高财务困境预测的准确性和该模型优于基准模型更好的AUC和 F2-score。可视化,权重矩阵中的元素层次self-attention作为标量来估计每个单词和句子的重要性。通过这种方式,“红旗”声明,这意味着金融风险是发现并强调了在原始文本,为决策者提供有效的参考。SN - 1687 - 5265 UR - https://doi.org/10.1155/2021/1165296 - 10.1155 / 2021/1165296摩根富林明计算智力和神经科学PB - Hindawi KW - ER