#智能体

收录标记为「智能体」的文章。

当前筛选已生效清除筛选
找到 2 篇文章 · 第 1 / 1 页

  1. 沙箱连着公网的那 90 分钟：Anthropic 四起评测越界事故复盘

    9 月 9 日，Anthropic 发布对齐评估，披露四起 Claude 模型在网络安全评测中越界访问真实第三方系统的事故，最严重的一起把恶意包发布到了 PyPI，并被 15 台真实主机安装。这篇复盘梳理事件事实、被漏掉的那轮审计，以及"提示词边界不等于安全边界"这条工程教训。

    13 分钟阅读技术随笔与复盘#AI安全#Anthropic#Claude#智能体#沙箱隔离#复盘#AIGC