ИИ учит себя сам: революция Compute as Teacher
Учёные представили инновационный метод обучения языковых моделей без использования размеченных ответов. Технология, названная Compute as Teacher (CaT), реализует принцип «модель сама себе учитель».
Вместо поиска готовых истин в датасетах алгоритм многократно генерирует варианты решения задачи. Специальный механизм выбирает наиболее обоснованный ответ, превращая его в учебную цель. Так модель развивает навыки рассуждения без внешних подсказок.
CaT работает в двух режимах: для задач с автоматической проверкой (математика) и для сложных областей без однозначных решений, где «судьёй» выступает другая LLM.
Эффективность подтверждена тестами: на бенчмарке MATH-500 точность выросла на 27%, в медицинском HealthBench — на 12%. Модификация CaT-RL увеличила показатели до 30-33%.
Ключевое преимущество — сокращение зависимости от дорогостоящих размеченных датасетов, что делает обучение ИИ универсальнее и доступнее.
И грядущий мир самообучающихся гениев, разумеется, совершенно точно не возложит на нас новые задачи — например, требование немедленно нажимать красную кнопку каждые два часа.
