[论文](https://steganography.live/reading-list/zh/papers/) / llm-watermark

语言模型水印

# A Watermark for Large Language Models

John Kirchenbauer*, Jonas Geiping*, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein

* John Kirchenbauer 与 Jonas Geiping 贡献相同。

首次 arXiv 提交：2023年1月24日 · ICML 2023

正式发表版本：2023年7月。

在生成过程中温和地提高一组伪随机词元的选择概率，嵌入统计水印。论文提出无需访问语言模型的检测检验，并分析词元分布如何影响检测强度。

[阅读原文 ↗](https://proceedings.mlr.press/v202/kirchenbauer23a.html) · [PDF ↗](https://proceedings.mlr.press/v202/kirchenbauer23a/kirchenbauer23a.pdf) · [代码 ↗](https://github.com/jwkirchenbauer/lm-watermarking)

## 与 Neural Linguistic Steganography 的关系

相关工作部分将 Neural Linguistic Steganography 列为早期神经信息隐藏方法。水印的目标是识别文本来源；隐写的目标是隐藏任意秘密消息的存在，二者的成功标准不同。

## 适用范围与边界

低熵文本留给水印嵌入的选择空间较小，增加可检测信号与保持文本质量之间存在权衡。检测效果和稳健性取决于文本长度、熵以及对抗性修改。

## 引用这篇论文

### 正式发表版本

John Kirchenbauer, Jonas Geiping, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein. [A Watermark for Large Language Models](https://proceedings.mlr.press/v202/kirchenbauer23a.html). Proceedings of the 40th International Conference on Machine Learning, 2023

[正式发表版本 BibTeX](https://steganography.live/reading-list/papers/llm-watermark/publication.bib) · [正式发表版本 CSL-JSON](https://steganography.live/reading-list/papers/llm-watermark/publication.csl.json)
显示 BibTeX`@inproceedings{llm-watermark-publication,
  title = {{A Watermark for Large Language Models}},
  author = {Kirchenbauer, John and Geiping, Jonas and Wen, Yuxin and Katz, Jonathan and Miers, Ian and Goldstein, Tom},
  year = {2023},
  booktitle = {Proceedings of the 40th International Conference on Machine Learning},
  pages = {17061--17084},
  volume = {202},
  publisher = {PMLR},
  url = {https://proceedings.mlr.press/v202/kirchenbauer23a.html}
}
`

### arXiv 预印本

John Kirchenbauer, Jonas Geiping, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein. [A Watermark for Large Language Models](https://arxiv.org/abs/2301.10226v1). arXiv:2301.10226。首次提交：2023年1月24日。

该引用保留首个 arXiv 版本及其原始标题。版本链接区分后续修订；请引用支持所述结论的版本。

[arXiv 预印本 BibTeX](https://steganography.live/reading-list/papers/llm-watermark/preprint.bib) · [arXiv 预印本 CSL-JSON](https://steganography.live/reading-list/papers/llm-watermark/preprint.csl.json)
显示 BibTeX`@misc{llm-watermark-preprint,
  title = {{A Watermark for Large Language Models}},
  author = {Kirchenbauer, John and Geiping, Jonas and Wen, Yuxin and Katz, Jonathan and Miers, Ian and Goldstein, Tom},
  year = {2023},
  publisher = {arXiv},
  eprint = {2301.10226v1},
  archivePrefix = {arXiv},
  url = {https://arxiv.org/abs/2301.10226v1}
}
`

## 原始来源

- [原始来源 1](https://proceedings.mlr.press/v202/kirchenbauer23a.html)

- [原始来源 2](https://arxiv.org/abs/2301.10226)

- [原始来源 3](https://proceedings.mlr.press/v202/kirchenbauer23a/kirchenbauer23a.pdf)

## 阅读与复用

[论文记录 JSON](https://steganography.live/reading-list/papers/llm-watermark/record.json) · [中文 Markdown](https://steganography.live/reading-list/zh/papers/llm-watermark/index.md) · [返回完整清单](https://steganography.live/reading-list/zh/papers/#paper-llm-watermark)