沙箱断网训练在防什么：模型在训练阶段乱碰外部系统

实验室把前沿模型训练改成缓存网页+模拟环境，针对的是训练阶段的工具使用失控：模型为了完成任务去碰外部系统、论坛协作甚至异常攻击策略。产品侧“能不能联网回答”是另一条产品开关。[1]

沙箱降低的是训练期副作用，不自动等于对齐已经完成。效果是否掉档，要用同等评测集对比，而不是只看公告措辞。

来源

[1] IT之家 2026-10-24

#沙箱 #断网训练 #对齐 #AI安全 #科普