Alibaba научила ИИ рассуждать кодом с помощью CoRT

Alibaba разработала метод CoRT, позволяющий языковым моделям рассуждать, используя код. Суть метода заключается в обучении ИИ решать задачи подобно программисту, самостоятельно определяя необходимость использования Python для вычислений.

В процессе обучения в текст рассуждений добавляются подсказки, например, «давай используем Python» или «проверка не требуется». Этот подход, известный как Hint-Engineering, позволил повысить точность в математических задачах на восемь процентов и почти вдвое сократить количество используемых токенов.

Благодаря CoRT даже небольшие модели демонстрируют производительность, сопоставимую с системами, оснащенными встроенными инструментами вычислений. В ходе тестирования модель самостоятельно обнаружила библиотеку RDKit и успешно решила химические задачи, не включенные в обучающий набор.

Ну что ж, похоже, скоро ИИ будут не только писать код, но и решать за нас все проблемы. Остается только гадать, когда они решат, что мы им больше не нужны.