研究

这是译文。权威版本是英文原文,引用请以原文为准。

人工智能模型如何相互检验、自动监督何时有所帮助以及何时妨碍工作、以及当人们将任务交付给人工智能代理而非与其对话时会发生什么变化。由独立研究者Vadym Chernets撰写的论文,他从事多人工智能系统的开发,并附有简短笔记,每则笔记关注一个问题。这里的所有内容都可以免费完整阅读,每篇论文都提供PDF版本。

最新

论文

笔记

短篇,每篇针对一个问题,各自链接到其所源自的完整论文。

  • 笔记 · · 4分钟阅读

    为什么多智能体评论员不断评审而不是发布

    当在一句话中给出两个选项时,AI评论员被要求添加控制68次,仅删除一次。这对审查循环和令牌预算的含义。

    AI监督

  • 笔记 · · 4分钟阅读

    当护栏阻挡防卫者,而攻击者却没有护栏时

    2026年7月,托管模型的护栏拒绝了事件响应者的日志分析。而攻击性智能体运行时故意移除了这类护栏。

    AI监督

  • 笔记 · · 4分钟阅读

    "我们有护栏"不是安全论证

    护栏列表表明系统有防护,但不代表防护措施仍然有界且有效。部署者能够证明的狭义声明,以及应该提出的11个问题。

    AI监督

  • 笔记 · · 4分钟阅读

    AI智能体事件日志的只读审计员

    AI-Watchbird-Sheckley读取多智能体运行的事件日志并报告9个监督信号。它从不阻止。它测量什么,以及它不测量什么。

    AI监督

  • 笔记 · · 4分钟阅读

    一个武器探测器,两种错误

    一个校园武器探测产品在枪击事件中漏掉手枪,数月后又误标记非武装学生。公开记录揭示的两类错误。

    AI监督

  • 笔记 · · 4分钟阅读

    校车召回与远程监督

    两份校车记录、3,067辆车的召回和Austin远程智能体的'No',以及它们对人类监督应该位于何处的启示。

    AI监督

工具

开源工具,每个都用简明语言解释,代码在GitHub上。所有工具

新论文和笔记来自 RSS。