语言模型水印
A Watermark for Large Language Models
* John Kirchenbauer 与 Jonas Geiping 贡献相同。
首次 arXiv 提交： · ICML 2023
正式发表版本：2023年7月。
在生成过程中温和地提高一组伪随机词元的选择概率，嵌入统计水印。论文提出无需访问语言模型的检测检验，并分析词元分布如何影响检测强度。
与 Neural Linguistic Steganography 的关系
相关工作部分将 Neural Linguistic Steganography 列为早期神经信息隐藏方法。水印的目标是识别文本来源；隐写的目标是隐藏任意秘密消息的存在，二者的成功标准不同。
适用范围与边界
低熵文本留给水印嵌入的选择空间较小，增加可检测信号与保持文本质量之间存在权衡。检测效果和稳健性取决于文本长度、熵以及对抗性修改。
引用这篇论文
正式发表版本
John Kirchenbauer, Jonas Geiping, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein. A Watermark for Large Language Models. Proceedings of the 40th International Conference on Machine Learning, 2023
正式发表版本 BibTeX · 正式发表版本 CSL-JSON
显示 BibTeX
@inproceedings{llm-watermark-publication,
title = {{A Watermark for Large Language Models}},
author = {Kirchenbauer, John and Geiping, Jonas and Wen, Yuxin and Katz, Jonathan and Miers, Ian and Goldstein, Tom},
year = {2023},
booktitle = {Proceedings of the 40th International Conference on Machine Learning},
pages = {17061--17084},
volume = {202},
publisher = {PMLR},
url = {https://proceedings.mlr.press/v202/kirchenbauer23a.html}
}
arXiv 预印本
John Kirchenbauer, Jonas Geiping, Yuxin Wen, Jonathan Katz, Ian Miers, Tom Goldstein. A Watermark for Large Language Models. arXiv:2301.10226。首次提交：2023年1月24日。
该引用保留首个 arXiv 版本及其原始标题。版本链接区分后续修订；请引用支持所述结论的版本。
arXiv 预印本 BibTeX · arXiv 预印本 CSL-JSON
显示 BibTeX
@misc{llm-watermark-preprint,
title = {{A Watermark for Large Language Models}},
author = {Kirchenbauer, John and Geiping, Jonas and Wen, Yuxin and Katz, Jonathan and Miers, Ian and Goldstein, Tom},
year = {2023},
publisher = {arXiv},
eprint = {2301.10226v1},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2301.10226v1}
}