开源Python库利用LLM生成金融问答数据集
Financial Datasets是一个开源Python库,利用大型语言模型从金融文本生成问答数据集。支持从文本、PDF和10-K报告生成数据,提供灵活API。该库安装简便,可通过pip或Poetry集成。为金融分析和机器学习研究提供了便捷工具,能高效创建训练数据。
金融数据集是一个开源Python库,它允许您使用大型语言模型(LLMs)创建金融问答数据集。通过这个库,您可以轻松地从10-K、10-Q、PDF和其他金融文本生成逼真的金融数据集。
生成的数据集示例:
[ { "question": "Airbnb在2023年的收入是多少?", "answer": "99亿美元", "context": "2023年,收入相比2022年增长了18%,达到99亿美元,主要归因于预订的夜晚和体验数量增加14%,达到5450万,同时平均日租金上涨推动总预订价值增加16%,达到100亿美元。" }, { "question": "Airbnb的净收入在2023年相比上一年增长了多少百分比?", "answer": "153%", "context": "2023年的净收入相比上一年增长了153%,达到48亿美元,这得益于我们的收入增长、利息收入增加、成本结构管理的严格控 制,以及29亿美元递延所得税资产估值准备金的部分释放。" } ]
示例#1 - 从任意文本生成
最灵活的选项。使用字符串列表texts
生成数据集。Colab代码示例点击这里。
from financial_datasets.generator import DatasetGenerator # 您的文本列表 texts = ... # 创建数据集生成器 generator = DatasetGenerator(model="gpt-4-turbo", api_key="您的openai密钥") # 从文本生成数据集 dataset = generator.generate_from_texts( texts=texts, max_questions=100, )
示例#2 - 从PDF生成
仅使用PDF url
生成数据集。Colab代码示例点击这里。
from financial_datasets.generator import DatasetGenerator # 创建数据集生成器 generator = DatasetGenerator(model="gpt-4-turbo", api_key="您的openai密钥") # 从PDF url生成数据集 dataset = generator.generate_from_pdf( url="https://www.berkshirehathaway.com/letters/2023ltr.pdf", max_questions=100, )
示例#3 - 从10-K生成
使用ticker
和year
生成数据集。Colab代码示例点击这里。
from financial_datasets.generator import DatasetGenerator # 创建数据集生成器 generator = DatasetGenerator(model="gpt-4-turbo", api_key="您的openai密钥") # 从10-K生成数据集 dataset = generator.generate_from_10K( ticker="AAPL", year=2023, max_questions=100, item_names=["Item 1", "Item 7"], # 可选 - 指定要使用的Item名称 )
您可以使用pip安装金融数据集库:
pip install financial-datasets
如果您更喜欢使用Poetry进行依赖管理,可以将金融数据集添加到您的项目中:
poetry add financial-datasets
如果您想直接从存储库安装库,请按以下步骤操作:
克隆存储库:
git clone https://github.com/virattt/financial-datasets.git
进入项目目录:
cd financial-datasets
使用Poetry安装依赖:
poetry install
现在您可以在Python项目中使用该库了。
欢迎贡献!如果您发现任何问题或有改进建议,请提出issue或提交pull请求。
本项目采用MIT许可证。
一站式AI创作平台
提供 AI 驱动的图片、视频生成及数字人等功能,助力创意创作
AI办公助手,复杂任务高效处理
AI办公助手,复杂任务高效处理。办公效率低?扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作,覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应,生活工作无缝切换,提升50%效率!
AI数字人视频创作平台
Keevx 一款开箱即用的AI数字人视频创作平台,广泛适用于电商广告、企业培训与社媒宣传,让全球企业与个人创作者无需拍摄剪辑,就能快速生成多语言、高质量的专业视频。
AI辅助编程,代码自动修复
Trae是一种自适应的集成开发环境 (IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。
AI小说写作 助手,一站式润色、改写、扩写
蛙蛙写作—国内先进的AI写作平台,涵盖小说、学术、社交媒体等多场景。提供续写、改写、润色等功能,助力创作者高效优化写作流程。界面简洁,功能全面,适合各类写作者提升内容品质和工作效率。
全能AI智能助手,随时解答生活与工作的多样问题
问小白,由元石科技研发的AI智能助手,快速准确地解答各种生活和工作问题,包括但不限于搜索、规划和社交互动,帮助用户在日常生活中提高效率,轻松管理个人事务。