智能体通信
Secret Collusion among AI Agents: Multi-Agent Deception via Steganography
首次 arXiv 提交： · NeurIPS 2024
正式发表版本：2024年。
形式化生成式 AI 智能体之间的秘密串通，并设计对隐蔽通信和协调能力的评估。论文研究单智能体与多智能体设置，同时分析监控及其他缓解措施的假设与限制。
与 Neural Linguistic Steganography 的关系
第 2 节将 Ziegler 等人 2019 年的工作列为使用算术编码生成隐写文本的早期方法。这篇论文研究更广泛的智能体安全问题，没有把自己的方法描述为 STEGASURAS 实现的扩展。
适用范围与边界
实验所评估的模型在高级隐写任务上的能力有限，作者提出需要更复杂的多智能体和真实环境评估。这些实验不证明每个智能体都会自主建立隐蔽信道。
引用这篇论文
正式发表版本
Sumeet Ramesh Motwani, Mikhail Baranchuk, Martin Strohmeier, Vijay Bolina, Philip H.S. Torr, Lewis Hammond, Christian Schroeder de Witt. Secret Collusion among AI Agents: Multi-Agent Deception via Steganography. Advances in Neural Information Processing Systems, 2024
正式发表版本 BibTeX · 正式发表版本 CSL-JSON
显示 BibTeX
@inproceedings{secret-collusion-publication,
title = {{Secret Collusion among AI Agents: Multi-Agent Deception via Steganography}},
author = {Motwani, Sumeet Ramesh and Baranchuk, Mikhail and Strohmeier, Martin and Bolina, Vijay and Torr, Philip H.S. and Hammond, Lewis and Schroeder de Witt, Christian},
year = {2024},
booktitle = {Advances in Neural Information Processing Systems},
doi = {10.52202/079017-2336},
volume = {37},
url = {https://proceedings.neurips.cc/paper_files/paper/2024/hash/861f7dad098aec1c3560fb7add468d41-Abstract-Conference.html}
}
arXiv 预印本
Sumeet Ramesh Motwani, Mikhail Baranchuk, Martin Strohmeier, Vijay Bolina, Philip H.S. Torr, Lewis Hammond, Christian Schroeder de Witt. Secret Collusion Among Generative AI Agents. arXiv:2402.07510。首次提交：2024年2月12日。
该引用保留首个 arXiv 版本及其原始标题。版本链接区分后续修订；请引用支持所述结论的版本。
arXiv 预印本 BibTeX · arXiv 预印本 CSL-JSON
显示 BibTeX
@misc{secret-collusion-preprint,
title = {{Secret Collusion Among Generative AI Agents}},
author = {Motwani, Sumeet Ramesh and Baranchuk, Mikhail and Strohmeier, Martin and Bolina, Vijay and Torr, Philip H.S. and Hammond, Lewis and Schroeder de Witt, Christian},
year = {2024},
publisher = {arXiv},
eprint = {2402.07510v1},
archivePrefix = {arXiv},
url = {https://arxiv.org/abs/2402.07510v1}
}