DeepSeek-OCR: Революция в распознавании текста
Исследователи из DeepSeek представили инновационный подход к распознаванию текста. Их новая модель DeepSeek-OCR работает с визуальными представлениями страниц, а не с текстовыми токенами, что кардинально меняет принципы хранения и анализа информации.
В отличие от традиционных OCR-моделей, которые преобразуют текст в токены посимвольно (что требует значительных вычислительных ресурсов и увеличивает стоимость обработки), DeepSeek предлагает преобразование текста в изображение, его кодирование с помощью DeepEncoder в компактные визуальные токены и последующее восстановление текста. Это позволяет значительно снизить затраты при сохранении высокой точности.
В ходе экспериментов модель продемонстрировала впечатляющие результаты: даже при десятикратном сжатии точность остаётся на уровне около 97%, а при двадцатикратном – около 60%. Это означает, что система способна эффективно хранить большие объемы текста, не теряя при этом его смысла.
Архитектура DeepSeek-OCR состоит из трёх основных этапов:
Локальное внимание для выделения мелких деталей
Свёрточное сжатие в 16 раз
Глобальное внимание для анализа структуры страницы
Разработчики также реализовали механизм забывания, позволяющий постепенно снижать разрешение старого контекста, сохраняя точность свежей информации и уменьшая объем занимаемой памяти.
Ну что ж, теперь, когда нейросети научились читать быстрее и дешевле, можно смело отправлять им свои автобиографии. Вдруг они найдут там что-то интересное?
