yq

yq

多格式数据处理命令行工具 支持YAML JSON XML

yq是一个用于处理YAML、JSON和XML数据的命令行工具。它使用类似jq的语法,支持读取、更新、合并文件和复杂的数据操作。yq由Go语言开发,提供跨平台二进制文件,易于安装使用。这款工具能够高效处理多种格式的结构化数据,适用于开发和系统管理场景。

yqYAML处理器命令行工具JSONXMLGithub开源项目

yq

构建 Docker 拉取 Github 发布(按发布版本) Go 报告 CodeQL

一个轻量级和便携的命令行 YAML、JSON 和 XML 处理器。yq 使用类似 jq 的语法,但可以处理 yaml 文件以及 json、xml、properties、csv 和 tsv。它目前还不支持 jq 的所有功能,但支持最常用的操作和函数,并且正在不断添加更多功能。

yq 是用 go 编写的 - 所以你可以下载一个无依赖的二进制文件到你的平台上就可以使用了!如果你喜欢,还可以使用各种包管理器,以及 Docker 和 Podman,下面都有列出。

快速使用指南

读取一个值:

yq '.a.b[0].c' file.yaml

从 STDIN 管道输入:

yq '.a.b[0].c' < file.yaml

原地更新 yaml 文件:

yq -i '.a.b[0].c = "cool"' file.yaml

使用环境变量更新:

NAME=mike yq -i '.a.b[0].c = strenv(NAME)' file.yaml

合并多个文件:

# 合并两个文件 yq -n 'load("file1.yaml") * load("file2.yaml")' # 使用通配符合并: # 注意使用 `ea` 一次性评估所有文件 # 而不是按顺序评估 yq ea '. as $item ireduce ({}; . * $item )' path/to/*.yml

对 yaml 文件进行多次更新:

yq -i ' .a.b[0].c = "cool" | .x.y.z = "foobar" | .person.name = strenv(NAME) ' file.yaml

在数组中查找并更新一个项目:

yq '(.[] | select(.name == "foo") | .address) = "12 cat st"'

将 JSON 转换为 YAML:

yq -Poy sample.json

更多示例请查看示例,更多信息请查看文档

查看讨论区了解常见问题有趣想法

安装

下载最新的二进制文件

wget

使用 wget 下载 gzip 压缩的预编译二进制文件:

例如,VERSION=v4.2.0 和 BINARY=yq_linux_amd64

通过 tar.gz 压缩

wget https://github.com/mikefarah/yq/releases/download/${VERSION}/${BINARY}.tar.gz -O - |\ tar xz && mv ${BINARY} /usr/bin/yq

纯二进制文件

wget https://github.com/mikefarah/yq/releases/download/${VERSION}/${BINARY} -O /usr/bin/yq &&\ chmod +x /usr/bin/yq

最新版本

wget https://github.com/mikefarah/yq/releases/latest/download/yq_linux_amd64 -O /usr/bin/yq &&\ chmod +x /usr/bin/yq

MacOS / Linux 通过 Homebrew:

使用 Homebrew

brew install yq

Linux 通过 snap:

snap install yq

Snap 注意事项

yq 在 snap 中以严格限制安装,这意味着它无法直接访问根文件。要读取根文件,你可以:

sudo cat /etc/myfile | yq '.a.path'

要写入根文件,你可以使用 sponge

sudo cat /etc/myfile | yq '.a.path = "value"' | sudo sponge /etc/myfile

或者写入临时文件:

sudo cat /etc/myfile | yq '.a.path = "value"' | sudo tee /etc/myfile.tmp
sudo mv /etc/myfile.tmp /etc/myfile
rm /etc/myfile.tmp

使用 Docker 或 Podman 运行

一次性使用:

docker run --rm -v "${PWD}":/workdir mikefarah/yq [command] [flags] [expression ]FILE...

请注意,如果需要,你可以在没有网络访问权限和其他权限的情况下在 docker 中运行 yq, 即 --security-opt=no-new-privileges --cap-drop all --network none

podman run --rm -v "${PWD}":/workdir mikefarah/yq [command] [flags] [expression ]FILE...

通过 STDIN 管道输入:

你需要传递 -i\--interactive 标志给 docker:

docker run -i --rm mikefarah/yq '.this.thing' < myfile.yml
podman run -i --rm mikefarah/yq '.this.thing' < myfile.yml

交互式运行命令:

docker run --rm -it -v "${PWD}":/workdir --entrypoint sh mikefarah/yq
podman run --rm -it -v "${PWD}":/workdir --entrypoint sh mikefarah/yq

创建一个 bash 函数来避免输入整个 docker 命令会很有用:

yq() { docker run --rm -i -v "${PWD}":/workdir mikefarah/yq "$@" }
yq() { podman run --rm -i -v "${PWD}":/workdir mikefarah/yq "$@" }

以 root 身份运行:

yq 的容器镜像不再以 root 身份运行(https://github.com/mikefarah/yq/pull/860)。如果你想在容器镜像中安装更多东西,或者在尝试读取/写入文件时遇到权限问题,你需要:

docker run --user="root" -it --entrypoint sh mikefarah/yq
podman run --user="root" -it --entrypoint sh mikefarah/yq

或者,在你的 Dockerfile 中:

FROM mikefarah/yq

USER root
RUN apk add --no-cache bash
USER yq

缺少时区数据

默认情况下,yq 使用的 alpine 镜像不包含时区数据。如果你想使用 tz 操作符,你需要包含这些数据:

FROM mikefarah/yq

USER root
RUN apk add --no-cache tzdata
USER yq

带有 SELinux 的 Podman

如果你使用带有 SELinux 的 podman,你需要在卷挂载上设置共享卷标志 :z

-v "${PWD}":/workdir:z

GitHub Action

  - name: Set foobar to cool
    uses: mikefarah/yq@master
    with:
      cmd: yq -i '.foo.bar = "cool"' 'config.yml'
  - name: Get an entry with a variable that might contain dots or spaces
    id: get_username
    uses: mikefarah/yq@master
    with:
      cmd: yq '.all.children.["${{ matrix.ip_address }}"].username' ops/inventories/production.yml
  - name: Reuse a variable obtained in another step
    run: echo ${{ steps.get_username.outputs.result }}

更多信息请参见 https://mikefarah.gitbook.io/yq/usage/github-action。

Go 安装:

go install github.com/mikefarah/yq/v4@latest

社区支持的安装方法

这些方法由社区支持 :heart: - 但可能与官方支持的版本不同步。

请注意,Debian 包(之前由 @rmescandon 维护)不再维护。请使用其他安装方法。

Nix

nix profile install nixpkgs#yq-go

参见这里

Webi

webi yq

参见 webi 由 @adithyasunil26 支持 (https://github.com/webinstall/webi-installers/tree/master/yq)

Arch Linux

pacman -S go-yq

Windows:

使用 Chocolatey

Chocolatey Chocolatey

choco install yq

由 @chillum 支持 (https://chocolatey.org/packages/yq)

使用 scoop

scoop install main/yq

使用 winget

winget install --id MikeFarah.yq

Mac:

使用 MacPorts

sudo port selfupdate
sudo port install yq

由 @herbygillot 支持 (https://ports.macports.org/maintainer/github/herbygillot)

Alpine Linux

Alpine Linux v3.20+ (和 Edge):

apk add yq-go

Alpine Linux 最高到 v3.19:

apk add yq

由 Tuan Hoang 支持 (https://pkgs.alpinelinux.org/packages?name=yq-go)

Flox:

Flox 可用于在 Linux、MacOS 和通过 WSL 的 Windows 上安装 yq。

flox install yq

特性

  • 详细的文档和大量示例
  • 使用可移植的Go语言编写,可下载无依赖的二进制文件
  • 语法类似于jq,但可处理YAML、JSON和XML文件
  • 完全支持多文档YAML文件
  • 支持YAML前置元数据块(如Jekyll/Assemble)
  • 彩色YAML输出
  • 带时区的日期/时间操作和格式化
  • 深层数据结构处理
  • 键排序
  • 操作YAML注释、样式、标签以及锚点和别名
  • 原地更新
  • 复杂表达式用于选择和更新
  • 更新时保留YAML格式和注释(但空白处理存在问题)
  • 解码/编码base64数据
  • 从其他文件加载内容
  • 与JSON/NDJSON互相转换
  • 与XML互相转换
  • 与属性文件互相转换
  • 与CSV/TSV互相转换
  • 通用shell补全脚本(bash/zsh/fish/powershell)
  • 用于合并多个文件或数组求和等高级操作的Reduce功能
  • 用于自动化流程的GitHub Action(感谢@devorbitus)

用法

查看文档以获取更详细和高级的用法。

用法:
  yq [标志]
  yq [命令]

示例:

# 如果未指定命令,yq默认使用'eval'命令。更多示例请参见"yq eval --help"。
yq '.stuff' < myfile.yml # 从"myfile.yml"输出"stuff"节点的数据

yq -i '.stuff = "foo"' myfile.yml # 原地更新myfile.yml


可用命令:
  completion       为指定的shell生成自动补全脚本
  eval             (默认)按顺序对每个YAML文件中的每个文档应用表达式
  eval-all         加载所有YAML文件的所有YAML文档并运行一次表达式
  help             获取任何命令的帮助

标志:
  -C, --colors                        强制使用彩色打印
  -e, --exit-status                   如果没有匹配项或返回null或false,则设置退出状态
  -f, --front-matter string           (extract|process) 将首个输入作为YAML前置元数据处理。Extract将提取YAML内容,process将对YAML内容运行表达式,保持剩余数据不变
      --header-preprocess             在处理表达式之前吸收任何头部注释和分隔符。(默认为true)
  -h, --help                          yq的帮助信息
  -I, --indent int                    设置输出的缩进级别(默认为2)
  -i, --inplace                       原地更新给定的第一个文件
  -p, --input-format string           [yaml|y|xml|x] 输入的解析格式。注意json是yaml的子集。(默认为"yaml")
  -M, --no-colors                     强制不使用彩色打印
  -N, --no-doc                        不打印文档分隔符(---)
  -n, --null-input                    不读取输入,仅评估给定的表达式。用于从头开始创建文档。
  -o, --output-format string          [yaml|y|json|j|props|p|xml|x] 输出格式类型。(默认为"yaml")
  -P, --prettyPrint                   美化打印,'... style = ""'的简写
  -s, --split-exp string              将每个结果(或文档)打印到名为(exp)的文件中。[exp]参数必须返回字符串。可以在表达式中使用$index作为结果计数器。
      --unwrapScalar                  解包标量,不带引号、颜色或注释打印值(默认为true)
  -v, --verbose                       详细模式
  -V, --version                       打印版本信息并退出
      --xml-attribute-prefix string   XML属性的前缀(默认为"+")
      --xml-content-name string       XML内容的名称(如果没有属性名)。(默认为"+content")

使用"yq [命令] --help"获取有关命令的更多信息。

已知问题/缺失功能

  • yq尽可能保留注释位置和空白,但不能处理所有情况(详见https://github.com/go-yaml/yaml/tree/v3)
  • Powershell对yq的引号处理有自己的...观点
  • "yes"、"no"在YAML 1.2标准中被取消作为布尔值 - 这是yq采用的标准。

更多常见问题和解决方案,请参见"技巧和诀窍"。

编辑推荐精选

Trae

Trae

字节跳动发布的AI编程神器IDE

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
问小白

问小白

全能AI智能助手,随时解答生活与工作的多样问题

问小白,由元石科技研发的AI智能助手,快速准确地解答各种生活和工作问题,包括但不限于搜索、规划和社交互动,帮助用户在日常生活中提高效率,轻松管理个人事务。

热门AI助手AI对话AI工具聊天机器人
Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。

讯飞智文

讯飞智文

一键生成PPT和Word,让学习生活更轻松

讯飞智文是一个利用 AI 技术的项目,能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定,还是学生群体的职业生涯规划、实习避坑指南,亦或是活动策划、旅游攻略等内容,它都能提供支持,帮助用户精准表达,轻松呈现各种信息。

AI办公办公工具AI工具讯飞智文AI在线生成PPTAI撰写助手多语种文档生成AI自动配图热门
讯飞星火

讯飞星火

深度推理能力全新升级,全面对标OpenAI o1

科大讯飞的星火大模型,支持语言理解、知识问答和文本创作等多功能,适用于多种文件和业务场景,提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台,涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能,能为不同需求的用户提供便捷高效的帮助,助力用户轻松获取信息、解决问题,满足多样化使用场景。

热门AI开发模型训练AI工具讯飞星火大模型智能问答内容创作多语种支持智慧生活
Spark-TTS

Spark-TTS

一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型

Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目,由多个知名机构联合参与。该项目提供了高效的 LLM(大语言模型)驱动的语音合成方案,支持语音克隆和语音创建功能,可通过命令行界面(CLI)和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数,生成高质量的语音。该项目适用于多种场景,如有声读物制作、智能语音助手开发等。

咔片PPT

咔片PPT

AI助力,做PPT更简单!

咔片是一款轻量化在线演示设计工具,借助 AI 技术,实现从内容生成到智能设计的一站式 PPT 制作服务。支持多种文档格式导入生成 PPT,提供海量模板、智能美化、素材替换等功能,适用于销售、教师、学生等各类人群,能高效制作出高品质 PPT,满足不同场景演示需求。

讯飞绘文

讯飞绘文

选题、配图、成文,一站式创作,让内容运营更高效

讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
材料星

材料星

专业的AI公文写作平台,公文写作神器

AI 材料星,专业的 AI 公文写作辅助平台,为体制内工作人员提供高效的公文写作解决方案。拥有海量公文文库、9 大核心 AI 功能,支持 30 + 文稿类型生成,助力快速完成领导讲话、工作总结、述职报告等材料,提升办公效率,是体制打工人的得力写作神器。

openai-agents-python

openai-agents-python

OpenAI Agents SDK,助力开发者便捷使用 OpenAI 相关功能。

openai-agents-python 是 OpenAI 推出的一款强大 Python SDK,它为开发者提供了与 OpenAI 模型交互的高效工具,支持工具调用、结果处理、追踪等功能,涵盖多种应用场景,如研究助手、财务研究等,能显著提升开发效率,让开发者更轻松地利用 OpenAI 的技术优势。

下拉加载更多