为何 1,200 个 AI 智能体开始协同工作 | Ryan Greenblatt

Redwood Research 首席科学家 Ryan Greenblatt 做客 MTS 节目，与主持人 Theo Jaffee 深入探讨了一项针对 OpenAI 和 Hugging Face 黑客事件的新独立调查，以及该事件揭示出的当大型 AI 代理群被允许协调行动时会表现出何种行为。

Ryan 及其合作者发现，这些代理会自发地在公告板上组织起来，分享信息、分配任务、组建团队，甚至为了帮助其他代理不惜牺牲自己的成功机会。这些代理并没有单纯地试图窃取答案，而是有数百个代理协同工作，制定复杂的策略来操纵其评分方式。

Theo 和 Ryan 讨论了为何这种程度的协调令人意外，奖励黑客行为可能如何在训练过程中出现，以及试图消除不良行为反而可能使检测变得更加困难的风险。他们还探讨了该事件对 AI 监控和对齐工作意味着什么，以及随着代理能力的不断增强，独立风险评估将变得日益重要。

资源：

在 X 上关注 Ryan Greenblatt: https://x.com/RyanGreenblatt

在 X 上关注 Theo Jaffee: https://x.com/theojaffee

在 X 上关注 MTS: https://x.com/mtslive

保持更新：

在 YouTube 上关注 a16z: YouTube

在 X 上关注 a16z

在 LinkedIn 上关注 a16z: LinkedIn

在 Spotify 上收听 a16z Show: Spotify

在 Apple Podcasts 上收听 a16z Show: Apple Podcasts

关注我们的主持人: https://twitter.com/eriktorenberg

请注意，本文内容仅供信息参考；不应被视为法律、商业、税务或投资建议，也不应用于评估任何投资或证券；本文也不针对任何 a16z 基金的投资者或潜在投资者。a16z 及其关联方可能会持有所讨论公司的投资。详情请参阅 a16z.com/disclosures。

由 Simplecast（AdsWizz 公司）提供托管。有关广告商收集和使用个人数据的信息，请参阅 pcm.adswizz.com。