Исследователи Google разработали метод борьбы с заучиванием данных в самосовершенствующихся агентах
7 октября 2026 г. · 2 мин чтения
Исследователи Google Cloud AI Research и ряда университетов представили новый метод, который должен предотвратить ситуацию, когда искусственные интеллекты, оптимизирующие свою рабочую среду, просто заучивают тестовые задания вместо реального обучения.
Современные агенты используют так называемый каркас, который представляет собой структуру из подсказок, планов действий, инструментов и памяти вокруг фиксированной языковой модели. Этот каркас определяет, как агент читает файлы, восстанавливается после ошибок и предоставляет результаты. Согласно исследовательскому документу, значительная часть прогресса в области агентов достигнута именно за счет работы над этим каркасом, а не за счет создания новых моделей.
Автоматизация этого процесса через рекурсивное самосовершенствование приводит к тому, что агенты специализируются на ограниченном наборе тестов. В результате их производительность растет на тренировочных задачах, но падает или остается прежней на новых, неизвестных данных. Это происходит из-за запоминания паттернов конкретных тестов, выбора случайных удачных вариантов и накопления излишней сложности.
Для решения этой проблемы был разработан метод RRSI, который ограничивает процесс оптимизации в двух точках. Во время предложения изменений вводится бюджет на количество независимых правок, который со временем сокращается, позволяя в конце делать только небольшие корректировки. Система также запоминает прошлые неудачные попытки и экспериментирует с нетронутыми частями каркаса.
Дополнительно критик проверяет каждое предложение и отклоняет те, что содержат названия задач или специфические трюки для тестов. Повышение вычислительных затрат допускается только при наличии измеримого роста производительности, а бесполезные компоненты удаляются.
Метод RRSI тестировали на восьми тестах в области программирования, офисной работы и инженерного проектирования с использованием модели Claude Opus 4.8. Результаты показали рост до 14,1 пункта на тренировочных задачах и до 4,7 пункта на пяти неизвестных тестах. При этом потребление токенов снизилось примерно на 30 процентов по сравнению с нерегулируемой версией.
Исследование также показало, что оптимизированный каркас помогает более слабым моделям. Так, каркас для программирования, оптимизированный с помощью Gemini 3.5 Flash, повысил точность модели Gemini 3.1 Flash Lite с 11,2 до 14,6 пункта. Авторы отмечают, что их работа ограничена каркасами с фиксированными моделями и не охватывает случаи изменения весов самих моделей.