IV.1Ритейл, электронная коммерция и fashion-tech
В разделе собраны самостоятельные задачи, где AI помогает управлять ассортиментом, покупательским опытом и эффективностью торговых операций. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
5 934 моделиCallisto-OCR3-2B-Instruct — мультимодальная модель prithivMLmods для распознавания текста на изображениях и ответов на вопросы о визуальных данных. Это дообученная версия Qwen/Qwen2-VL-2B-Instruct на архитектуре Qwen2-VL; модель содержит 1,5 млрд параметров, принимает изображения и текст и выдаёт текст. Контекст составляет до 32 768 токенов. Модель ориентирована на OCR, в том числе распознавание неразборчивого и рукописного текста, извлечение информации из документов, понимание английского текста и решение математических задач с выводом формул в LaTeX. Поддерживает диалоговые запросы по изображениям. В карточке также заявлена поддержка распознавания текста на разных языках, включая китайский и ряд европейских и азиатских языков, но подробная языковая оценка не приведена. Модель распространяется под лицензией Apache-2.0. Заявления карточки о результатах уровня state of the art, обработке длинных видео и управлении устройствами не подтверждены приведёнными метаданными; основной заявленный сценарий — обработка изображений и документов. Качество может снижаться на сложном почерке и языках, для которых нет отдельной оценки.
Kimi-K2.7-Code-Alis-MLX-Dynamic-3.6bpw-VLM — это квантованная MLX-версия модели Kimi-K2.7-Code, разработанной Moonshot AI. Сборка создана avlp12 и предназначена для запуска на устройствах Apple Silicon, прежде всего на M3 Ultra. Это мультимодальная vision-language модель для работы с текстом, программным кодом, изображениями и видео. В основе лежит MoE-архитектура в стиле DeepSeek-V3 примерно на 1 триллион параметров, из которых активно около 32 миллиардов, с языковой частью MLA и визуальной башней MoonViT. Модель сохраняет полный vision encoder и мультимодальный проектор в формате bf16, а языковые веса подвергнуты чувствительно-ориентированному квантованию с эффективной точностью 3,629 бит на вес. Поддерживается контекст до 256 тысяч токенов. Размер модели на диске составляет около 465,9 ГБ; для запуска требуется единый компьютер с 512 ГБ памяти M3 Ultra либо распределённый запуск на двух машинах. Модель поддерживает подробное описание изображений и анализ изменений и движения в видео; заявленная скорость декодирования составляет около 23 токенов в секунду. К сильным сторонам относятся сохранённая визуальная часть без дополнительной ошибки квантования, большой контекст и высокая эффективность памяти KV-кэша. Ограничения связаны с экстремальными требованиями к объёму памяти, зависимостью от совместимых версий mlx-vlm и специальных компонентов для видео, а также с потерями качества из-за 3-битного квантования экспертов: средний KL относительно 4-битного эталона составляет 0,199 ната, а частота изменения top-1 ответа — 10,2%. Лицензия указана как modified MIT.
StrangeMerges_2-7B-slerp — объединённая модель для генерации текста, созданная Gille методом SLERP с помощью LazyMergekit на основе Gille/StrangeMerges_1-7B-slerp и Keynote-Technology/KAI-7B-v0.1. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и общих языковых задач; в README приведены результаты оценки на задачах рассуждения и понимания текста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.
Deita-20b — языковая модель для генерации текста на базе архитектуры Llama с 19,3 млрд параметров. Карточка показывает пример диалога с системным и пользовательским сообщениями, поэтому модель подходит для выполнения инструкций и ответов на запросы в формате ассистента. Заявленная длина контекста — 32 768 токенов. Модель использует формат Safetensors и обучалась на наборе KnutJaegersberg/Deita-6k. В карточке приведены результаты оценок на нескольких тестах рассуждения и понимания текста. Код распространяется по Apache-2.0; для весов заявлены академическое и бесплатное коммерческое использование, однако для коммерческой лицензии предлагается подать отдельную заявку.
NeuralHermes-2.5-Mistral-7B-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и mlabonne/NeuralHermes-2.5-Mistral-7B. Это плотная модель Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на инструкции в формате диалога; максимальный контекст составляет 32 768 токенов. Модель принимает текст и выдаёт текст. Карточка не уточняет поддерживаемые естественные языки или специализированные области применения. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Качество ответов может варьироваться в зависимости от запроса; отдельные ограничения производительностью и поведением в README не описаны.
MDfox/OvisOCR2-GGUF-SOTA-20260823 — неофициальная конверсия модели ATH-MaaS/OvisOCR2 в формат GGUF, подготовленная для запуска через llama.cpp. Модель предназначена для мультимодального преобразования изображений в текст, прежде всего для OCR и разбора документов, включая задачи, оцениваемые на OmniDocBench. Конверсия собрана и протестирована с llama.cpp v0.4.0. Для работы требуется языковая модель GGUF и отдельный файл mmproj, отвечающий за обработку изображений. Доступны различные варианты квантования: от Q2_K до Q8_0, а также BF16 для mmproj. В опубликованных тестах использовался контекст до 32 768 токенов на слот, обработка изображений с 196–8 100 image tokens и лимит генерации до 16 384 токенов. Наивысший заявленный результат на OmniDocBench v1.6 составил 96,4547 для Q8_0 с BF16 mmproj; компактный вариант Q3_K_M с Q8_0 mmproj имеет размер 555,2 МиБ и результат 96,2012. Сильными сторонами являются высокое качество распознавания и структурного анализа документов при сравнительно небольшом размере квантованных сборок, а также поддержка запуска локально через llama.cpp. К ограничениям относятся неофициальный статус конверсии, необходимость совместимых версий llama.cpp и наличия двух файлов модели, а также заметное снижение качества у наиболее агрессивного варианта Q2_K. Языки, точный размер исходной модели, архитектура и перечень поддерживаемых языков в README не указаны. Распространение заявлено по лицензии Apache-2.0.
Llama-3.1-8B-FixedReferenceNBPO — диалоговая языковая модель на архитектуре Llama, опубликованная организацией promotion. Это дообученная версия meta-llama/Llama-3.1-8B-Instruct с 7,5 млрд параметров, предназначенная для генерации текста и общения в формате чата. В названии NBPO и тегах указана многокритериальная оптимизация предпочтений. Модель принимает текст и выдаёт текст; её контекстное окно составляет 131 072 токена. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — Llama 3.1 Community License. README не содержит дополнительных сведений о методе обучения или оценке качества.
retriever_module — англоязычная модель Sentence Transformers, дообученная разработчиком на базе sentence-transformers/all-mpnet-base-v2 для сопоставления терминов и текстовых фрагментов. Она кодирует предложения и абзацы в плотные векторы размерности 768; близость векторов оценивается косинусным сходством. Архитектура включает MPNet, усреднение токенных представлений и нормализацию. В README указана максимальная длина последовательности 384 токена; метаданные указывают нативный контекст 514 токенов. Модель подходит для семантического поиска, поиска похожих формулировок, сопоставления терминов с описаниями, поиска перефразировок и кластеризации англоязычных текстов. Обучение описано на парах anchor-positive с MultipleNegativesRankingLoss; приведены примеры терминов и формулировок из области приёма пациентов и медицинских организаций, но модель не заявлена как специализированная медицинская модель. В README также перечислена классификация текста как возможное применение эмбеддингов. Репозиторий распространяется по лицензии Apache-2.0. Указанный обучающий и оценочный набор содержит пары текстов; в карточке нет результатов, позволяющих оценить качество на широком круге задач. Для надёжной работы следует учитывать заявленное ограничение длины последовательности и проверять качество на данных целевого применения.
twmkn9/bert-base-uncased-squad2 — модель BERT base uncased, дообученная на датасете SQuAD v2 для ответов на вопросы по предоставленному контексту. Она извлекает ответ из текста или сообщает, что в контексте ответа нет. Подходит для систем поиска по документам и других сценариев, где вопрос и относящийся к нему текст доступны модели. Модель содержит 136,7 млн параметров, использует архитектуру BERT для вопросно-ответной задачи и принимает последовательности длиной до 512 токенов. В README приведены результаты на подмножестве dev-набора SQuAD v2: exact match 72,36 и F1 75,75. Доступны веса PyTorch и Flax. Базовая модель — bert-base-uncased; лицензия в предоставленных данных не указана.
EvoQwen2.5-VL-Retriever-3B-v1 — мультимодальная модель поиска по визуальным документам, разработанная ApsaraStackMaaS. Она основана на Qwen2.5-VL-3B-Instruct и дообучена методом Evo-Retriever; использует плотные многовекторные представления и позднее взаимодействие для сопоставления текстовых запросов с изображениями документов. Модель содержит 3,1 млрд параметров, принимает изображения и текстовые запросы, а на выходе формирует векторы для оценки релевантности. Указанная длина контекста — 128 000 токенов. Модель предназначена для поиска нужных страниц и сведений в визуально сложных документах, включая запросы на естественном языке к содержимому изображений. В README заявлено преимущество по точности над моделями сопоставимого размера и пригодность для сценариев с ограниченными ресурсами; приведены примеры текстового поиска по изображениям. Для загрузки и обработки в README перечислены Transformers, Torch, Pillow и colpali-engine. Лицензия — Apache-2.0. Данные карточки указывают английский язык; поддержка других языков не подтверждена. Оценочные таблицы в README опущены, поэтому количественные показатели качества проверить по предоставленным сведениям нельзя.
Qwen3-Embedding-0.6B-GGUF — набор GGUF-квантизаций компактной мультиязычной embedding-модели Qwen3-Embedding-0.6B, разработанной Qwen. Квантизации подготовлены PeterAM4 с использованием llama.cpp и importance matrix, оптимизированной преимущественно для финансовых и технических текстов. Модель предназначена для построения RAG-систем, семантического поиска, извлечения документов и других задач сравнения предложений и текстов. Базовая модель содержит около 596 млн параметров, поддерживает контекст до 32 768 токенов, использует pooling по последнему токену и формирует embeddings размерностью 1024. Заявлена поддержка английского, китайского, японского, корейского, французского, немецкого, испанского, португальского, русского и арабского языков. Доступны варианты от 8-битных до 1-битных, что позволяет запускать модель на периферийных устройствах, ноутбуках и серверах с ограниченными ресурсами. Сильными сторонами являются небольшой размер, низкие требования к памяти и задержке, а также калибровка квантования на финансовых вопросах и ответах, документах SEC 10-K, финансовых данных, математических задачах и общем тексте. В README рекомендован вариант Q3_K_M-imat размером около 331 МБ; его показатель PPL близок к BF16-базовой версии на указанном тестовом корпусе. При этом агрессивное квантование снижает качество: особенно заметная деградация наблюдается у вариантов ниже примерно 3 BPW, а результаты приведённых тестов не гарантируют аналогичную точность в конкретной задаче поиска. Модель распространяется по лицензии Apache 2.0.
Marscen/roberta-base-squad2-finetuned-squad2 — модель RobertaForQuestionAnswering на базе RoBERTa с 151,8 млн параметров, дообученная на датасете SQuAD v2. Она предназначена для извлечения ответа на вопрос из предоставленного текста, включая возможность не находить ответ, если его нет в контексте. При оценке на тестовой выборке указано значение Loss 0,8815. Модель принимает вопрос и текстовый контекст и выдаёт текстовый ответ; максимальная длина контекста составляет 514 токенов. Репозиторий содержит веса PyTorch. Лицензия — CC BY 4.0.
Typhoon-OCR-3B — модель для разбора документов на тайском и английском языках, разработанная OpenTyphoon на основе Qwen2.5-VL-3B-Instruct. Она использует архитектуру Qwen2.5-VL с 3,1 млрд параметров, принимает изображения и текстовые инструкции и формирует текстовый результат. Контекст модели составляет 128 000 токенов. Модель предназначена для OCR и структурированного извлечения содержимого из финансовых отчётов, научных статей, книг, государственных форм, чеков, меню, билетов и инфографики. Обычный текст она выдаёт в Markdown, таблицы — в HTML, а изображения, диаграммы и подписи описывает структурированно. Основной фокус — распознавание тайского и английского текста и документов со сложной вёрсткой. Модель требует специальных промптов из карточки и не предназначена для обычного VQA или универсального диалога. Авторы отмечают риск галлюцинаций и снижение качества на книгах с разнообразными встроенными изображениями; для локального запуска предупреждают о возможном ухудшении точности некоторых сборок GGUF. Лицензия в метаданных указана как Apache-2.0, а README также требует соблюдения условий OpenTyphoon.
Это модель Sentence Transformers на архитектуре BERT, опубликованная пользователем pankajrajdeo. Она преобразует предложения и абзацы в плотные векторы размерности 512 и предназначена для оценки семантического сходства и поиска текстов по смыслу. В README указаны также сценарии поиска перефразировок, классификации и кластеризации; обучение описано на парах anchor-positive с функцией потерь MultipleNegativesRankingLoss. Модель содержит 50,3 млн параметров, использует усреднение токенных представлений и принимает последовательности длиной до 512 токенов. Для сравнения векторов рекомендуется косинусное сходство. В карточке упоминаются медицинские тексты, PubMed и PMC в названии модели, однако доступное описание датасета содержит общие вопросы и ответы и не подтверждает специализацию на биомедицинских текстах. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.
NeuralsirkrishnaShadow_PasticheInex12 — объединённая автором MaziyarPanahi модель для генерации текста и диалогов. Она основана на архитектуре Mistral и содержит 7,1 млрд параметров; модель объединяет automerger/NeuralsirkrishnaShadow-7B и automerger/PasticheInex12-7B. Модель принимает текст и выдаёт текст. Размер контекста составляет до 32 768 токенов, формат весов — safetensors. В карточке не указаны специализация по языкам и отдельные прикладные области. Модель распространяется по лицензии Apache-2.0.
SummLlama3.1-8B — языковая модель для суммаризации текстов, разработанная DISLab на основе Llama 3.1 8B Instruct. Модель дообучена методом Direct Preference Optimization (DPO) на более чем 100 тысячах примеров обратной связи о качестве суммаризации, сгенерированной большими языковыми моделями. Она предназначена для создания кратких сводок по документам и диалогам из разных областей: новостей, повседневной жизни, отчетов, медицинских текстов, интервью и встреч. Авторы ориентировали обучение на точность передачи исходных сведений, полноту ключевых пунктов и краткость. Для суммаризации рекомендуется использовать шаблон запроса из карточки модели. Модель принимает текст и генерирует текст; архитектура — плотная LlamaForCausalLM, около 7,5 млрд параметров, контекст — до 131 072 токенов. Метаданные указывают поддержку диалогового режима и интерфейса вызова инструментов, хотя основное назначение модели — суммаризация. Авторы сообщают об улучшении оценок качества относительно базовых моделей Llama в своих человеческих и автоматизированных оценках. Это результаты оценок авторов, а качество конкретных сводок всё равно следует проверять, особенно для медицинских материалов. Модель основана на meta-llama/Llama-3.1-8B-Instruct; сведения о лицензии в предоставленных данных отсутствуют.
Модель Ali-0111/applied-nlp-ner-stage3-distilbert — дообученная Ali-0111 модель DistilBERT для распознавания именованных сущностей и классификации токенов. Она обучена на distilbert-base-cased на 644 примерах с разметкой BIO и использует 8 типов сущностей, включая суммы, профессии и местоположения. Выбор регистрозависимой версии помогает использовать заглавные буквы как сигнал при извлечении сущностей. Модель содержит около 65,2 млн параметров, сохранена в формате safetensors и обрабатывает последовательности длиной до 512 токенов. На тестовой выборке получен общий F1 0,803; показатели для JOB и LOCATION ниже, чем для AMOUNT. Небольшой обучающий набор и заметный разрыв между обучающей и тестовой оценками указывают на риск переобучения. Лицензия в метаданных указана как unknown.
pandafish-3-7B-32k — текстовая генеративная модель, созданная ichigoberry объединением нескольких моделей семейства Mistral с помощью LazyMergekit. В состав объединения входят mistralai/Mistral-7B-Instruct-v0.2, cognitivecomputations/dolphin-2.8-mistral-7b-v02 и Locutusque/Hercules-4.0-Mistral-v0.2-7B; метаданные также указывают alpindale/Mistral-7B-v0.2-hf как одну из базовых моделей. Это плотная авторегрессионная архитектура Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и ответов на инструкции в сценариях с длинным контекстом. Она принимает текст и выдаёт текст; сведения о поддерживаемых естественных языках и специализированных прикладных областях в карточке отсутствуют. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0. Карточка не приводит оценок качества или подробных ограничений, поэтому пригодность для конкретных задач следует проверять отдельно.
tripolskypetr/gemma-3-12b-it — модель на базе Google Gemma 3 12B IT, разработанная Google DeepMind. Это открытая инструкционно дообученная мультимодальная модель, принимающая текст и изображения и генерирующая текст. README не содержит сведений о специфическом дополнительном дообучении, выполненном автором репозитория. Модель предназначена для генерации текста, ответов на вопросы, суммаризации документов, рассуждений и анализа изображений. Она поддерживает более 140 языков, использует контекстное окно до 128 000 токенов, принимает изображения, нормализованные до 896×896 пикселей и представленные 256 токенами каждое, а максимальный объём генерируемого ответа составляет 8192 токена. Размер модели — 12 млрд параметров. К сильным сторонам относятся мультимодальность, широкий языковой охват, большое контекстное окно и возможность развёртывания на собственном оборудовании или в облачной инфраструктуре по сравнению с более крупными моделями. Ограничения включают неизвестные для данного репозитория результаты дополнительного обучения и оценки, а также необходимость учитывать требования к ресурсам для запуска модели такого размера. Использование регулируется лицензией Gemma и соответствующими условиями Google.
Это дообученная модель Sentence Transformers на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, опубликованная под именем legalvn/paraphrase-multilingual-MiniLM-L12-v2-500. Архитектура основана на BERT с усреднением токенных представлений; модель содержит 124,3 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 384. Метаданные указывают на контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для вычисления семантического сходства по косинусной близости, семантического поиска, поиска перефразировок, кластеризации и классификации текста. Примеры обучающего набора и многоязычная базовая модель указывают на поддержку вьетнамского и других языков; конкретный полный перечень языков в карточке не приведён. Лицензия в предоставленных данных не указана.
Llama-Express.1 — компактная текстовая языковая модель, разработанная prithivMLmods на основе Meta Llama 3.2 1B Instruct и дообученная на наборах данных с длинными цепочками рассуждений. Это плотная авторегрессионная модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; она распространяется в формате Safetensors и рассчитана на запуск через Transformers. Модель предназначена для диалогов на разных языках, следования инструкциям, суммаризации и задач извлечения и обобщения сведений из предоставленного контекста. Данные обучения включают математические и reasoning-наборы; карточка также заявляет поддержку агентных сценариев поиска. Метаданные указывают английский язык, а README описывает модель как многоязычную, поэтому качество на языках с малым объёмом обучающих данных может быть ниже. Модель принимает и генерирует текст; изображения, аудио и видео она не обрабатывает. Длинный контекст не исключает ухудшения качества или усечения на очень больших входах, а ответы зависят от ясности запроса и могут отражать смещения обучающих данных. У модели нет собственного доступа к интернету для проверки актуальных фактов. Лицензия — Llama 3.2; применяются её условия использования.
MiniCPM5-Vision-2B — мультимодальная модель компьютерного зрения и языка, опубликованная ewin-reg. Она сочетает визуальный энкодер SigLIP-SO400M-Patch14-384 с языковой основой openbmb/MiniCPM5-2B через обучаемый проектор и использует динамическое разбиение изображений на фрагменты. Языковая часть содержит 2 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для анализа изображений высокого разрешения, распознавания текста в документах, извлечения табличных данных и ответов на вопросы по изображениям и диаграммам. В README описано дообучение с LoRA и учебная программа, включающая DocVQA и ChartQA; метаданные также указывают визуальную привязку. Карточка заявляет поддержку английского и китайского языков. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Заявленные результаты обучения и оценки приведены в README, однако его таблица бенчмарков неполна, а независимые показатели качества не представлены. Для обработки изображений высокого разрешения применяется разбиение на фрагменты, поэтому подробные изображения могут требовать больше вычислительных ресурсов.
Ghost 8B Beta 1608 — языковая модель Ghost X, разработанная Hieu Lam на основе Meta-Llama-3-8B. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, обученная продолжением предобучения и последующей настройкой, включая этап с обратной связью от людей. Версия в этом репозитории рассчитана на контекст до 8192 токенов. Модель предназначена для многоязычного диалога, генерации текста, ответов на вопросы, следования инструкциям и вызова инструментов через встроенный шаблон чата. README заявляет поддержку 16 языков, включая английский, вьетнамский, корейский, китайский, японский, русский и другие; также упоминаются улучшения рассуждений и математических задач. Репозиторий содержит веса safetensors. README приводит лицензию Ghost Open LLMs LICENSE вместе с Llama 3 LICENSE, а метаданные классифицируют лицензию как other; перед использованием следует проверить условия обеих лицензий. Заявления о превосходстве в сравнительных оценках приведены авторами модели и не являются независимой оценкой. Как языковая модель, она может допускать ошибки и выдавать недостоверные ответы; качество зависит от языка и задачи.
Marco-Nano-Instruct — многоязычная причинная языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Это вариант Marco-Nano-Base, дообученный для следования инструкциям, диалога и вызова инструментов. Модель построена на декодерном Transformer с разреженными MoE-слоями; в карточке указано 507,9 млн параметров, а в README — 8 млрд общих и 0,6 млрд активируемых параметров на токен. Эти значения расходятся, поэтому размер следует трактовать с осторожностью. Модель предназначена для генерации ответов, следования инструкциям, рассуждений, ответов на вопросы и многоязычных сценариев, включая перевод. README сообщает о поддержке 29 языков, в том числе русского, английского и китайского; контекст в метаданных — 32 768 токенов. Для инференса рекомендован vLLM; указано, что SGLang не поддерживает эту конфигурацию MoE с tied embeddings. Лицензия — Apache-2.0. В README приведены сильные сравнительные результаты на англоязычных, многоязычных и культурно-региональных бенчмарках, но они не гарантируют качество для любого запроса или языка.
Qwopus3.8-27B-Flash — дообученная модель, опубликованная Jackrong на базе Qwen3.8-27B. Она предназначена для практических агентских сценариев, в которых модель многократно взаимодействует с инструментами: анализирует данные, генерирует и редактирует код, вызывает функции, наблюдает результаты и выполняет итеративные задачи. Модель ориентирована на снижение задержки, вычислительных затрат и склонности к избыточно длинным рассуждениям при сохранении широких общих возможностей. Модель имеет размер 27B параметров и распространяется в формате GGUF для локального запуска, в том числе через llama.cpp. Заявлена поддержка текстово-визуальных задач и обработки изображений, а также генерации текста, рассуждений, программного кода, tool use и function calling. В метаданных указаны английский, китайский, испанский, русский и японский языки. Контекстное окно и точные архитектурные характеристики не указаны. Обучение включало качественную выборку данных supervised fine-tuning и усиление рассуждений с использованием NVIDIA NeMo-RL и GSPO. К сильным сторонам относятся более быстрая генерация, заявленные 80,7% принятия токенов MTP, снижение неэффективных рассуждений и пригодность для длительных агентских цепочек. При этом README указывает на компромисс в качестве: результат на смешанном наборе MMLU-Pro ниже, чем у базовой модели. Известно ограничение в виде возможных ошибок отступов в Python в отдельных задачах программирования. Модель распространяется по лицензии Apache-2.0.
sahilchachra/Unlimited-OCR-AWQ — это квантизированная 4-битная версия мультимодальной модели baidu/Unlimited-OCR, разработанная пользователем sahilchachra. Модель предназначена для multilingual OCR и разбора документов: преобразования изображений документов в Markdown или обычный текст, извлечения текста с координатами, анализа макета, обработки рисунков, графиков и диаграмм, визуального вопросно-ответного взаимодействия, а также разбора многостраничных документов и PDF. Архитектура включает vision tower DeepEncoder на базе SAM-ViT-B и CLIP-L/14 с входом 1024×1024 и 16-кратным уменьшением, линейный projector и текстовый декодер DeepSeek-V2 MoE. Декодер содержит 12 слоёв, скрытое состояние размером 1280, 64 маршрутизируемых и 2 общих эксперта, при этом на токен выбираются 6 экспертов; нулевой слой является dense. Текстовые линейные слои квантизированы методом AWQ по схеме W4A16 с int4, симметричными группами по 128 элементов, тогда как vision tower, projector, embeddings, lm_head, маршрутизатор, нормы и отдельные слои сохранены в BF16. Модель поддерживает мультиязычные сценарии и работает с изображениями. К сильным сторонам относятся существенное уменьшение размера весов при сохранении совместимости с архитектурой Transformers, поддержка распознавания текста вместе с координатами ограничивающих рамок и долгого разбора документов. В README указано, что на тестовом документе результат OCR совпал с BF16-версией. Для запуска требуется custom remote code с параметром trust_remote_code=True, transformers 4.57.x, compressed-tensors и CUDA GPU; также возможен запуск в совместимых средах, включая vLLM. Модель распространяется по лицензии MIT, унаследованной от базовой модели.
HunyuanOCR-1.5-GGUF-Updated — GGUF-сборка мультимодальной модели HunyuanOCR-1.5, разработанной Tencent на базе tencent/HunyuanOCR. Это специализированная vision-language модель для распознавания и анализа документов: извлечения текста, разбора структуры и макета, обработки таблиц, графиков и формул, text spotting, информационного извлечения, а также перевода текста с изображений между китайским и английским языками. Поддерживаются английский и китайский языки. Модель использует архитектуру HunYuanVLForConditionalGeneration и рассчитана на работу с изображениями и текстом. Заявлены максимальное разрешение изображения до 4K и контекстное окно до 128K токенов. Версия 1.5 сохраняет архитектурную основу HunyuanOCR-1.0 и добавляет DFlash speculative decoding для ускорения генерации длинных структурированных результатов, включая плотные документы, таблицы и формулы. Доступны варианты точности BF16, F16, F32 и квантизации Q3–Q8, что позволяет запускать модель на CPU, потребительских GPU и ноутбуках через llama.cpp, а также использовать Transformers и vLLM. Сильные стороны модели — объединение нескольких OCR-сценариев в одном VLM, поддержка структурированного разбора документов, длинного контекста, 4K-изображений и локального запуска в GGUF-формате. Ограничения включают заявленную специализацию преимущественно на китайском и английском языках, необходимость совместимых инструментов и компонентов для отдельных режимов инференса, а также возможные компромиссы между качеством и ресурсами при использовании квантизированных вариантов. Распространяется по Tencent Hunyuan Community License Agreement; в метаданных также указана лицензия Apache-2.0.
Mistral-Nemo-Instruct-2407-GGUF — это квантованная в формате GGUF версия инструкционной языковой модели Mistral Nemo Instruct 2407, разработанной Mistral AI. Квантование выполнено bartowski на основе llama.cpp; LM Studio представляет модель как общественную модель сообщества, но не является её создателем или владельцем. Модель предназначена для генерации текста и выполнения инструкций, включая многоязычные сценарии. В README заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Модель обучалась с контекстом до 128 тысяч токенов; использование контекста большего размера возможно, но может приводить к снижению качества. Сведения о числе параметров, конкретной архитектуре, модальностях помимо текста и требованиях к оборудованию не указаны. К сильным сторонам относятся многоязычность, большой контекст и формат GGUF, ориентированный на запуск с помощью llama.cpp и совместимых приложений. Ограничения включают возможное ухудшение качества при превышении обученного размера контекста, а также риск неточных, вредных или неподходящих ответов, характерный для подобных моделей. В карточке указана лицензия Apache-2.0.
Apodex-1.1-mini-GGUF — GGUF-квантизированная версия reasoning-first модели Apodex 1.1, разработанной Apodex AI на базе Qwen/Qwen3.5-35B-A3B. Модель предназначена для сложных исследовательских задач с длительным горизонтом выполнения и агентных сценариев: поиска и анализа информации, подготовки отчётов, работы с файлами, наборами данных, электронными таблицами, изображениями, кодом и инструментами. Она может декомпозировать задачу, координировать параллельных субагентов, сохранять состояние, адаптировать план и учитывать обратную связь пользователя. Модель поддерживает текстовую генерацию и заявлена для английского и китайского языков. Для агентной работы предусмотрен нативный function calling, совместимый с шаблоном чата Qwen3.5; поддерживаются рассуждения и OpenAI-совместимые вызовы инструментов. Рекомендуемый максимальный контекст составляет 262144 токена, а максимальная длина генерации — 32768 токенов. В README также указана совместимость с запуском через llama.cpp и дополнительным мультимодальным проектором, однако полный перечень поддерживаемых модальностей и точные параметры GGUF-квантизации для данной карточки не раскрыты. Сильные стороны модели — ориентация на сквозное выполнение сложных задач, работа с внешними инструментами, командная агентная схема и встроенная проверка утверждений по источникам, данным и вычислениям. По приведённым результатам Apodex-1.1-mini особенно хорошо показывает себя в FrontierFinance и остаётся конкурентоспособной на APEX-Agent; при этом эти показатели зависят от Agent Team harness и не гарантируют аналогичное качество в каждом сценарии. Ограничения включают необходимость корректной настройки llama.cpp, парсеров шаблона и инструментов, а также отсутствие в README подробностей о размере файла, требованиях к аппаратному обеспечению и полной оценке надёжности. Лицензия — Apache 2.0.
Карточка модели TitanML/DeepSeek-OCR-2 на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-OCR-2, поэтому описание составлено по ней. DeepSeek-OCR 2 — мультимодальная модель DeepSeek для распознавания текста и анализа документов по изображениям. Она использует архитектуру DeepSeek-VL2 с причинным языковым декодером и рассчитана на запуск через Transformers на GPU NVIDIA; README также упоминает ускоренный инференс и обработку PDF через vLLM. Модель поддерживает динамическое разрешение изображений: указан режим от 0 до 6 фрагментов 768×768 и одного изображения 1024×1024. Размер модели составляет 559,7 млн параметров, контекст — 8192 токена. В карточке заявлена поддержка многоязычного ввода. Модель подходит для извлечения текста с изображений и документов, включая сценарии OCR и работы с PDF. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Для запуска README приводит зависимости для Transformers и CUDA; указанные версии окружения могут потребовать соответствующей GPU-конфигурации.