Google представила Nested Learning – ИИ, который не забывает!
Google представила инновационную систему вложенного обучения (Nested Learning) – новый подход к искусственному интеллекту, позволяющий моделям непрерывно обучаться и сохранять накопленные знания, подобно человеку. В отличие от традиционных методов, где освоение нового может приводить к потере старых навыков, Nested Learning интегрирует новую информацию в существующую структуру знаний, создавая многоуровневую систему.
В основе подхода лежит концепция Continuum Memory System (CMS), где память организована как спектр модулей с различной частотой обновления. Это позволяет эффективно управлять как старой, так и новой информацией, обеспечивая адаптивность и гибкость.
Преимущества Nested Learning включают сохранение предыдущих навыков, быструю адаптацию к новым задачам и учет контекста. Прототип системы, архитектура HOPE, превосходит стандартные трансформеры в задачах языкового моделирования и обработки длинного контекста.
Nested Learning решает проблему "катастрофического забывания", приближая искусственный интеллект к человеческому способу обучения – постепенному, адаптивному и бесконечному. Это открывает новые горизонты для создания систем, способных к непрерывному и эффективному обучению.
Конечно, за все эти революционные прорывы кто-то должен заплатить. Наверное, скоро для обучения ИИ потребуется платить не только данными, но и нашими воспоминаниями.
