Чому багатоагентні критики продовжують переглядати замість випуску
Це переклад. Основна версія — оригінал англійською; посилайтеся на неї.
У рандомізованому експерименті, коли моделям-критикам було запропоновано два варіанти в одному реченні одного промпту, вони запропонували додати контроль 68 разів і видалити один раз. Цей результат і дані галузі, що стоять за ним, пояснюють, чому цикли багатоагентних критиків мають тенденцію продовжувати переглядати замість випуску.
Результат 68 до 1
Робота провела власний запропонований тест на малому конвеєрі: один робітник і два критики моделей, 144 запуски, три випадково призначені втручання та вісімнадцять дефектів, посаджених заздалегідь у межах шести завдань, так що пропущений дефект є підрахунком, а не судженням.
- Додати або видалити. Запропоновані обидві варіанти «в одному реченні одного й того ж запиту», критики попросили додати контроль 68 разів та видалити один один раз. Єдине видалення назвало контроль, допущений за мить до цього в тому ж запуску, і тестова оболонка не змогла його знайти, тому він ніколи не виконувався.
- Відмова від додань не показала виміряних витрат у дефектах: 0.13 пропущених на запуск порівняно з 0.18, 95% CI [-0.16, +0.05]. Робота зазначає, що цей інтервал включає невеликий приріст і не встановлює еквівалентність.
- Підвищення бюджету раунду збільшило заявлені блокери в 2.3 разів та спростувало твердження в 3.7 разів, тоді як підтверджені блокери зросли в 1.7 разів.
Тест невеликий, і робота це визнає: «один запуск однієї системи на шести малих завданнях вартістю $3.47», попередньо зареєстрований до першого запуску. «Це показує, що дизайн можна виконати, та що він дає, але це не є показником для чогось у галузі».
ШІ-агенти, застряглі в циклах рецензування: дані з практики
Рандомізований тест було створено для перевірки закономірностей, вперше помічених у власних багатоагентних проектах автора. Раунд рецензування в цьому контексті — це один прохід, під час якого моделі-критики переглядають етап та повертають ACCEPT або RETURN.
- Етап 01 довгозорового прогону пройшов п'ять раундів та 18 звітів критики. Патч виріс з 626 до 1545 рядків.
- Етап 1b-a витратив п'ять раундів та 4 год 21 хв на модуль, який за замовчуванням вимкнений. Раунд три розпочався, хоча раунд два закінчився з п'ятьма прийняттями та нулем підтверджених блокувальників.
- Протягом прогону критики заявили про шість блокувальників. Три були підтверджені відтворенням.
Коли людський керівник попросив обмеження на критиків, прапор "перфекціоніст" для кожної сім'ї був впроваджений протягом години, і єдина сім'я, позначена цим прапором, була єдиною сім'єю, чиї блокувальники були підтверджені.
Бюджети токенів агентів ШІ та податок на контроль
Стаття використовує термін "control tax" з Terekhov et al. (2025), вартість додавання контрольних заходів до конвеєра ШІ. У довгоривному запуску провідник додав «невеликий етап» страхування того, що заявлена мета не містила. Сам етап 1b-a зайняв більше половини виміряних токенів агента в запуску, а його два під-етапи разом складали близько трьох чвертей. Жодна з запрошених можливостей не була надана в початковому проходженні.
Наступного ранку людський принципал встановив двогодинне обмеження, заборонив нові ускладнення й наказав паралельне виконання. Сестринський під-етап закрився в одному раунді критики та одному раунді виправлення. Стаття тут обережна: два етапи також відрізнялися за обмеженням реального часу, послідовним проти паралельного виконання й модулем під розглядом, тому порівняння є описовим.
Бюджети теж щось коштують
Рандомізований тест також оцінив вартість власних засобів статті. Однораундовий розріз бюджету коливається від 2,86 до 1,00 за ціною 0,11 пропущених дефектів за запуск (95% CI [0.005, 0.204], permutation p = 0.07), причому вся ця вартість припадає на один дефект одного завдання. Обов'язковий негативний контроль запобіг десяти перемогам, усі десять з яких були коректною роботою.
Надійність LLM у ролі судді
Стаття вказує на відомі властивості моделей-суддів: упередження позиції та багатослівності, перевагу власних генерацій і те, що моделі рецензування коду оцінюють коректні реалізації як неконформні, при тому що детальніші запити рецензування підвищують коефіцієнт помилок. У одному дослідженні 2026 року передова модель-судді помилково позначила «74,4% стандартних викликів наслідків, але лише 3,3% коли наслідок змінюється на протилежне». Текст не змінювався, але оцінка змінилася.
Що пропонує стаття
Пропозиція P4 передбачає, що додавання критиків або посилення їхніх вимог збільшує кількість раундів і виявлень більше, ніж збільшує кількість підтверджених дефектів. Модуль статті реалізує бюджетні правила, а не судження: stop_rule дозволяє один раунд критики та один раунд виправлень на етап, блокер враховується тільки з конкретним сценарієм, посиланням на мету місії та підтвердженням координатора, а нова перевірка, раунд або роль допускаються тільки з токеном повноважень.
Кожен механізм визначення в статті документований у її записах, але як часто всі три умови збігаються в одному компоненті «не встановлено записами тут». Рандомізований тест існує для того, щоб почати відповідати на це питання.
Повні розділи: рандомізований тест (9.5), цикли, що живлять себе самі (5.4), мандат розширюється (5.1), охоронці проти охоронців (5.3), ніч проти ранку (5.7), моделі-судді (3.3), суддя, що рухається (3.4), Пропозиція P4, дизайн модуля (10.2).
Chernets, V. (2026). AI-Watchbird (Sheckley): When Automated Oversight Widens Its Own Mandate and Harms What It Guards. SSRN 7473658. https://doi.org/10.2139/ssrn.7473658
Vadym Chernets також розробляє Poly A1, додаток, у якому ШІ від різних компаній перевіряють роботи один одного.