LLMs在股票投资组合崩溃中的时间关系推理

1. 引言

想象一下,你是一位投资经理,管理着一个多元化的股票投资组合。突然,一场前所未有的全球性事件发生了,比如2007年的金融危机或2020年的新冠疫情,这可能会对你的投资组合造成重大影响。传统的投资组合崩溃检测方法依赖于历史数据,但这些方法在面对前所未有的事件时往往无能为力。幸运的是,大型语言模型(LLMs)的出现为解决这一问题提供了新的思路。

LLMs具有零样本推理能力,能够将训练数据中学习到的知识泛化到新的事件上,从而在没有特定训练数据的情况下检测潜在的投资组合崩溃事件。然而,检测投资组合崩溃是一个复杂的问题,需要超越基本推理能力。投资者需要动态处理新闻文章中发现的每条新信息的影响,分析新闻事件和投资组合股票之间影响的关系网络,以及理解不同时间步之间影响的时间上下文,以获得对目标投资组合的整体聚合效应。

2. 相关工作
2.1 关系型股票预测

在股票市场中,关系型信息预测是一个重要的研究领域。早期的研究使用关系元组(例如(行动者,动作,对象,时间戳))来学习嵌入,以便相似事件或相似股票实体具有相似的代表性向量。后来的研究使用基于图的方法,通过在知识图谱中学习嵌入来表示股票实体。然而,这些模型主要依赖于从中心数据库检索到的静态关系信息,并未考虑新闻事件可能引起的股票之间连接性的变化。

最近的研究使用LLMs从新闻标题中推断股票之间的关系,从而获得更具动态性的关系数据。这些信息随后用于生成股票嵌入,用于训练深度学习模型进行股票预测。

2.2 大型语言模型的推理框架

LLMs以其零样本推理能力而闻名,这主要归功于其能够将其在训练数据中学到的知识泛化到新的数据上。为了增强这种能力,研究人员提出了各种推理框架,例如思维树(ToT)和思维图(GoT)。这些框架旨在模拟人类的推理过程,通过搜索组合问题空间来找到任务解决方案。

另一类研究则通过使用包含外部信息的知识图谱来增强LLMs的可靠性,例如StructGPT和Think-on-Graph(ToG)。这些研究的一个关键观察结果是LLMs能够对知识图谱输入进行推理,这些输入以知识元组的形式提供。

3. 时间关系推理

本文提出的TRR框架旨在模拟人类在解决复杂问题时使用的认知能力,包括头脑风暴、记忆、注意力和推理能力。

3.1 头脑风暴

为了获得每个新闻事件对选定投资组合的总体影响,TRR首先头脑风暴所有可能的子影响链,这些子影响链会导致其组成股票受到影响。该过程被建模为一个有向图G = (Z, A)。顶点集Z = {x1, …, xJ, e1, …, eH, s1, …, sN},从每个新闻文章xj开始,通过所有受影响的子实体en(其中h ≤ H),并以投资组合股票sn结束。边集A简单地表示顶点之间的影响力方向。

为了生成图的新顶点,TRR迭代地提示LLM根据每个新闻文章或先前受影响的子实体生成可能受影响的实体。因此,对于迭代i中的所有顶点zi ∈ Z,我们有zi → brainstorm(zi, k),其中k是生成的新顶点数量。这个过程迭代进行,直到影响链到达投资组合股票sn,或者达到最大迭代次数I。

3.2 记忆

为了理解新闻事件的时间上下文,TRR配备了一个记忆模块,该模块存储所有先前提到的受影响子实体。我们用M = {M0, M1, …}表示记忆模块,其中Men是包含实体eh的所有先前影响链Cen的集合。通过记忆模块,我们可以执行检索和存储功能:

  • 每天,对于LLM生成的每个受影响实体,我们搜索记忆模块以查找其先前的提及,并将其添加到我们的每日图G中,从而得到一个新的时间上下文图Gtemporal。我们可以得到:Gtemporal = ∪ven∈Z (G ∪ Men)。

  • 在每天结束时,我们用每日的影响链更新记忆模块,即Men = ∪ven∈Z (Men ∪ Cen),这为未来的时期存储了时间上下文。

此外,人类对新闻事件的集体记忆往往会随着时间的推移而逐渐淡忘,这会减少其对市场的影响。先前的研究使用指数衰减来模拟记忆的这种时间衰减。

3.3 注意力

总体上下文图Gtemporal太大,无法在LLMs中使用,因为它们的标记限制。虽然其他工作通过合并思想或找到单一回答路径来解决这个问题,但TRR希望保持信息的关系图,以向LLM提供市场概况。

Gtemporal包含一个影响链网络,对目标投资组合的影响强度不同。为了获得此网络上的最重要信息,TRR借鉴了PageRank算法,为每个实体分配排名分数。这是通过迭代地根据影响方向将分数传递给实体来完成的,直到分数收敛。此外,分数根据其在上一阶段的记忆中保留的权重进行加权。

使用排名分数PR(en),TRR过滤出包含得分最高的前q个实体的所有影响链C,其中q将被定义。这些用于形成一个新的子图GTRR,代表投资者每天关注的最重要信息。

3.4 推理

最后,为了确定是否会发生投资组合崩溃,TRR对生成的时间关系图GTRR进行推理。这模拟了投资者的推理过程,他们将通过考虑最相关的新闻影响以及组成股票之间的相互关联性来评估其投资组合风险。

4. 实验
4.1 数据集和评估指标

本文使用路透社金融新闻数据集,并将其扩展到2020年以涵盖选定的时间段。数据集包含来自路透社的一般金融新闻,这些新闻没有经过任何股票或国家的过滤。这允许LLM自行决定每篇文章是否与目标投资组合相关。

为了生成投资组合崩溃的标签,本文首先从雅虎财经检索每个组成股票的价格数据,并计算其每日百分比回报率。接下来,我们对这些数据进行平均,以获得每天的投资组合回报率。为了找到投资组合崩溃,本文设置了一个阈值来捕捉价值的急剧下降。我们将回报率≤ -2.0%标记为崩溃,这代表了整体回报率系列的第95百分位数。

由于这些崩溃的发生率很低,因此数据集在很大程度上是不平衡的,预测所有假(即没有崩溃)的模型将产生高准确率分数。本文使用接收者操作特征曲线下面积(AUROC)作为指标,该指标可以捕捉所有阈值下真阳性与假阳性的权衡。

4.2 基线

由于检测投资组合崩溃的任务目前尚未得到广泛探索,本文将其与多个零样本LLM框架进行比较,例如标准IO提示、思维链(CoT)、思维图(GoT)和基于图的思维(ToG)。此外,本文还与一个非零样本深度学习模型(BiGRU + Attention)进行了比较,该模型已在相同数据集的过去路透社新闻数据上进行了训练。

4.3 参数设置

对于所有LLM实验,本文使用OpenAI GPT-3.5-turbo生成响应,温度设置为0.0。对于最后一个推理阶段,每个模型重复预测提示5次,并报告平均AUROC和标准差。对于主要实验,本文将γ设置为1,将q设置为6。

5. 结果
5.1 主要结果

从表2可以看出,深度学习模型BiGRU + Attention的结果接近0.5。这是因为该模型主要预测假(注意,全真或全假预测的AUROC为0.5)。投资组合崩溃通常是罕见的,这会导致模型训练时对假预测产生很大的偏差。此外,该模型很可能无法处理训练集中以前未见过的事件,导致其对前所未有的崩溃事件预测假。

在基于思维的框架(即IO、CoT和GoT)中,我们可以看到AUROC指标的明显上升趋势。这表明将预测投资组合崩溃的任务分解为较小的思维过程是有益的。进一步观察,我们发现基于搜索的ToG能够胜过这些模型。由于输入数据集未经过手动过滤,因此可能存在许多包含与指定投资组合无关的噪声信息的新闻文章。通过首先从文章中搜索到投资组合的影响路径,ToG能够找到最相关的信息,以帮助其决定是否可能发生潜在的投资组合崩溃。

最后,TRR框架能够胜过所有模型,平均比最强的基线(ToG)高出10.6%。通过考虑与投资组合相关的多个影响路径以及这些路径之间的关系,TRR能够更全面地了解各种市场力量对投资组合的影响,从而更准确地检测潜在的崩溃。

5.2 消融研究

消融研究的结果表明,TRR的每个组件都有助于提高模型的整体性能。关系和时间组件在推理阶段为LLM提供了额外的图路径,而不会降低性能,这表明从图中提取了有用的信息,而不是噪声数据。这些路径有助于提供有关每个新闻影响的额外上下文信息,从而使LLM能够更好地确定是否会发生崩溃。

5.3 参数选择

通过消融研究,本文将γ设置为1,将q设置为6。

5.4 图分析

本文还通过可视化每个数据集在崩溃期间的示例来探索生成的图。从图中可以看出,TRR能够突出显示在现实生活中导致投资组合崩溃的最重要信息。

5.5 额外实验

为了探索TRR对宏观经济中相关任务的泛化能力,本文将其应用于全球危机事件的检测。通过将全球经济视为区域经济网络,本文利用TRR追踪每个区域经济的影响,然后对这些影响进行推理,以检测可能的全球金融危机。

如何学习大模型 AI ?

由于新岗位的生产效率,要优于被取代岗位的生产效率,所以实际上整个社会的生产效率是提升的。

但是具体到个人,只能说是:

“最先掌握AI的人,将会比较晚掌握AI的人有竞争优势”。

这句话,放在计算机、互联网、移动互联网的开局时期,都是一样的道理。

我在一线互联网企业工作十余年里,指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家,也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑,所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限,很多互联网行业朋友无法获得正确的资料得到学习提升,故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

在这里插入图片描述

第一阶段(10天):初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识,对大模型 AI 的理解超过 95% 的人,可以在相关讨论时发表高级、不跟风、又接地气的见解,别人只会和 AI 聊天,而你能调教 AI,并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么?
  • 大模型是怎样获得「智能」的?
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例:向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范

第二阶段(30天):高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习,学会构造私有知识库,扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架,抓住最新的技术进展,适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示(Embeddings)
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署

第三阶段(30天):模型训练

恭喜你,如果学到这里,你基本可以找到一份大模型 AI相关的工作,自己也能训练 GPT 了!通过微调,训练自己的垂直大模型,能独立训练开源多模态大模型,掌握更多技术方案。

到此为止,大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗?

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2:手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建

第四阶段(20天):商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知,可以在云端和本地等多种环境下部署大模型,找到适合自己的项目/创业方向,做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身:基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例:如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案

学习是一个过程,只要学习就会有挑战。天道酬勤,你越努力,就会成为越优秀的自己。

如果你能在15天内完成所有的任务,那你堪称天才。然而,如果你能完成 60-70% 的内容,你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN,朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】或点击下方蓝色字 即可免费领取↓↓↓

**读者福利 |** 👉2024最新版CSDN大礼包:《AGI大模型学习资源包》免费分享 **(安全链接,放心点击)**

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/461556.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

o1驾驶无人机后空翻,OpenAI开发者日惊掉下巴!2分钟爆改代码写App

【导读】OpenAI伦敦开发者日上,首次曝出了o1五大核心能力,还有图像理解。o1两分钟构建应用驾驶无人机、电话订餐、讲解太阳系,现场演示让所有开发者沸腾。 完整版o1的解禁,离我们不远了! 就在刚刚举办的OpenAI伦敦开…

利用AWS服务轻松迁移数据上云

在数字化转型的浪潮中,越来越多的企业意识到将数据迁移至云端的重要性。云服务不仅能够提供更高的灵活性和可扩展性,还能显著降低IT成本。AWS(Amazon Web Services)作为全球领先的云服务提供商,为企业提供了一系列高效…

期货跟单、量化交易模拟演示系统

演示版可直接下载本文绑定资源。 一、跟单下单 在“排行榜”中选择要跟单的用户,合约可以跟全部,也可以指定跟该用户的某一合约操作,选定跟单的倍数(操作手数的倍数)/手数(指定手数,可以不是对…

界面控件DevExpress WPF中文教程:Data Grid——卡片视图概述

DevExpress WPF拥有120个控件和库,将帮助您交付满足甚至超出企业需求的高性能业务应用程序。通过DevExpress WPF能创建有着强大互动功能的XAML基础应用程序,这些应用程序专注于当代客户的需求和构建未来新一代支持触摸的解决方案。 无论是Office办公软件…

【数据结构二叉树】补充:C实现二叉树的层次遍历

1、层次遍历 按层次遍历二叉树的方式:按照“从上到下,从左到右”的顺序遍历二叉树,即先遍历二叉树的第一层的结点,然后是第二层的结点,直到最底层的结点,对每一层的遍历按照从左到右的次序进行。 2、层次…

供应商图纸外发:如何做到既安全又高效?

供应商跟合作伙伴、客户之间会涉及到图纸外发的场景,这是一个涉及数据安全、效率及合规性的重要环节。供应商图纸发送流程一般如下: 1.申请与审批 采购人员根据需要提出发放图纸的申请并提交审批; 采购部负责人审批发放申请,确…

MySQL 9从入门到性能优化-系统信息函数

【图书推荐】《MySQL 9从入门到性能优化(视频教学版)》-CSDN博客 《MySQL 9从入门到性能优化(视频教学版)(数据库技术丛书)》(王英英)【摘要 书评 试读】- 京东图书 (jd.com) MySQL9数据库技术_夏天又到了…

【第一个qt项目的实现和介绍以及程序分析】【正点原子】嵌入式Qt5 C++开发视频

qt项目的实现和介绍 1.第一个qt项目  (1).创建qt工程    [1].创建一个存放qt的目录    [2].新建一个qt工程    [3].编译第一个工程    发生错误时的解决方式 二.QT文件介绍  (1).工程中文件简单介绍  (2).项目文件代码流程介绍    [1].添…

推荐一款开源的免费PDF编辑工具:CubePDF Utility

CubePDF Utility是一款功能强大的开源免费PDF编辑器,它采用了基于缩略图的界面设计,为用户提供了直观且高效的PDF编辑体验。该软件特别针对那些希望以简单直观方式编辑 PDF 文件的用户而设计,支持多种操作,如合并、提取、拆分、更…

shodan7,shodan参数使用,常用端口,Google语法

参数使用 alert shodan alert -h(查看帮助文档 这个就是怎么去配置ip监控)我们能在web页面上面去做,而且更加方便,所以就不多讲了 info shodan info(查看你查询的扫描的一些次数每个账户都是每个月有限制次数的)domain shodan domain(查询域名信息…

不是她所期待的那个人

今天那,我又来写用AI小说辣。 从最初的喜欢到最后的讨厌,她对他的感觉经历了一段奇妙的变化。一开始,当她第一次看到他时,她被他的外表所吸引。他高大英俊,阳光活泼的笑容总是让她心生好感。她喜欢和他在一起的感觉&am…

智能合约分享

智能合约练习 一、solidity初学者经典示例代码: 1.存储和检索数据: // SPDX-License-Identifier: MIT pragma solidity ^0.8.0; // 声明 Solidity 编译器版本// 定义一个名为 SimpleStorage 的合约 contract SimpleStorage {// 声明一个公共状态变量 d…

硬件在环仿真建模之电路拓扑建模与数学建模

我们需要先明确一个问题,什么是电路拓扑式建模(后面简称拓扑建模)和数学建模? 电力电子系统的拓扑建模,从大类上都可以归入为物理式建模(Physics-Based Modeling),物理式建模的最大特点就是用户…

根据提交的二维数据得到mysql建表和插入数据实用工具

根据提交的二维数据得到mysql建表和插入数据实用工具,这是重构版本(之前有过)。 会通过数据的长度&#xff0c;类型&#xff0c;是否数字&#xff0c;是否唯一等做判断&#xff0c;且每千条一个插入语句以优化性能。 <?php //整理与分享&#xff1a;yujianyue<1505859…

从0开始electron+vue2搭建环境

使用环境&#xff1a;node版本16.16.0 目录 搭建vue项目安装electron打包electron 搭建vue项目 已有vue2的环境直接进项安装electron步骤 没有的请先移动到这里查看 vue2脚手架搭建项目流程 我就不另外记录了 安装electron 直接运行 vue add electron-builder安装完成后&…

Qt——QWidget

一.控件概述 Widget 是 Qt 中的核心概念. 英文原义是 "小部件"&#xff0c;我们也把它翻译为 "控件" 。 控件是构成⼀个图形化界面的基本要素。 像上述示例中的, 按钮, 列表视图, 树形视图, 单行输入框, 多行输入框, 滚动条, 下拉框等, 都可以称为 "…

最经典盲超分辨率数据集

一、背景 底层视觉的发展是否能够让我们真正地看清这个世界呢&#xff1f; 在单图超分中&#xff0c;非盲超分已经发展得较为成熟了&#xff0c;而盲超分和真实超分仍然有很多问题尚未解决。在我看来&#xff0c;盲超分只是真实超分的一个过渡&#xff0c;由于真实世界中退化…

Spring Boot 配置文件详解与最佳实践

目录 前言1. 配置文件的作用2. Spring Boot 主要配置内容2.1 Actuator 配置2.2 缓存配置2.3 核心配置2.4 数据库与数据迁移配置2.5 开发工具配置2.6 Docker Compose 配置2.7 JSON 配置2.8 安全配置 3. 多个配置文件的处理方法3.1 使用 Profile 文件区分环境3.2 结合优先级加载配…

【Stable Diffusion】

1、SD 模型 安装完SD软件后&#xff0c;必须搭配基础模型才能使用。 不同的基础模型&#xff0c;其画风和擅长的领域会有侧重。 Checkpoint大模型 大模型是 SD 的核心&#xff0c;用来控制生成图片的整个画面风格走势。 出图前要选择好合适的大模型&#xff0c;比如有些擅长…

吉林大学2023级数据结构上机实验第(1~2周)参考答案(关注我,在系统关闭后持续更新)

A 括号匹配&#xff08;进阶版&#xff09; 分数 10 编写程序检查给定字符串中包含的括号是否正确匹配&#xff0c;本题中的括号有{ }、[ ]、( )、< >四种。另外再加上一个新的约束条件&#xff1a;当有多种括号嵌套时&#xff0c;嵌套的顺序应为{ → [ → ( → <&…