III.4Клиентская поддержка и customer success

Mungert/LightOnOCR-2-1B-GGUF — GGUF-версия LightOnOCR-2-1B, разработанная LightOn. Это эффективная vision-language-модель примерно на 1 млрд параметров для сквозного распознавания и понимания документов: PDF-файлов, сканов и изображений. Модель преобразует документы в чистый текст с естественным порядком чтения без внешнего OCR-конвейера. Модель предназначена для обработки таблиц, чеков, форм, многостолбцовых макетов и математических обозначений, включая LaTeX. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, нидерландского, португальского, шведского, датского, китайского и японского языков. В README не указаны размер контекстного окна и подробности внутренней архитектуры. Для стандартной версии с идентификатором Mungert/LightOnOCR-2-1B-GGUF предсказание bounding box для встроенных изображений не заявлено; такая возможность относится к отдельному варианту bbox. К сильным сторонам относятся компактный размер, высокая скорость, end-to-end обработка и универсальность для различных типов документов. По заявлению разработчика, LightOnOCR-2 превосходит конкурирующие решения по скорости и показывает state-of-the-art результаты на OlmOCR-Bench, однако конкретные методики и значения бенчмарков в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

UTC-DeBERTa-large-v2 — универсальная модель для классификации токенов, разработанная Knowledgator. Это prompt-tuned версия DeBERTaV3-large, дообученная на нескольких задачах извлечения информации. Модель анализирует текст вместе с инструкцией-запросом и выделяет соответствующие фрагменты: сущности, предложения и абзацы. Модель предназначена для распознавания именованных сущностей, извлечения отношений и фактов, разрешения кореференции, ответов на вопросы, очистки и суммаризации текста. В карточке приведены результаты на CrossNER: для версии large указаны оценки Micro F1 от 0,8779 до 0,9247 в пяти предметных категориях. Модель имеет 533,8 млн параметров и контекст до 512 токенов; для запуска предусмотрена библиотека Transformers и pipeline token-classification. Модель рассчитана на англоязычный текст. Длинные документы могут потребовать разбиения на части из-за ограничения контекста, а качество зависит от формулировки запроса и задачи. Лицензия — Apache-2.0.

mlx-community/dolphin-2.9-llama3-70b-4bit — квантизированная 4-битная версия модели Dolphin 2.9 на базе Llama 3, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm 0.11.0. Исходная модель разработана cognitivecomputations. Модель содержит около 69,5 млрд параметров и предназначена для запуска и генерации текста в экосистеме MLX на совместимом оборудовании Apple. Модель ориентирована на англоязычные диалоговые и инструкционные сценарии, включая ответы на вопросы, помощь с программированием, математическими задачами, работу с инструкциями и вызовами функций. Максимальная длина контекста составляет 8192 токена. В метаданных указана лицензия Llama 3.

ProCreations/grug-v1.1-qwen-3.8-27b-qgguf — это GGUF-версия модели grug-v1.1-qwen-3.8-27b, разработанная ProCreations для локального запуска через llama.cpp. Модель предназначена для генерации текста, программирования и агентских сценариев, включая работу с инструментами. Заявлена поддержка английского языка и режим text-generation. Модель имеет размер 27B и поставляется в нескольких вариантах квантования: Q8_0, Q6_K, Q5_K_M, Q4_K_M и Q3_K_M, занимающих примерно от 13,3 до 28,6 ГБ. Для работы с изображениями предусмотрен отдельный multimodal-проект mmproj в формате F16 размером около 0,9 ГБ, используемый вместе с llama-mtmd-cli. Размер контекста в README не указан. Ключевая особенность модели — оптимизированное рассуждение: в описании заявлено существенно меньшее число токенов в блоке размышлений по сравнению с базовой моделью. Для большинства случаев рекомендуется средний уровень reasoning effort; режим xhigh может ухудшать выбор инструментов. Квантование позволяет подобрать баланс между качеством и требованиями к памяти, но более компактные варианты могут уступать полноразмерным весам по качеству. Все варианты, согласно README, проверены с помощью llama-bench. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое окружение llama.cpp; конкретные требования к оперативной памяти, производительности и максимальному контексту не указаны.

Llama-3.1-Nemotron-Nano-VL-8B-V1 — разработанная NVIDIA мультимодальная модель для анализа изображений и документов. Она сочетает визуальный энкодер C-RADIOv2-H с языковой моделью Llama-3.1-8B-Instruct и принимает одно RGB-изображение вместе с текстовым запросом, выдавая текстовый ответ. Поддерживает английский язык и контекст до 16 тысяч токенов; изображения обрабатываются в раскладке до 12 плиток размером 512 × 512 пикселей. Модель предназначена для суммирования изображений, OCR, вопросов и ответов по изображению, анализа текста и изображений, а также рассуждений по визуальному содержимому. NVIDIA указывает сценарии развертывания в дата-центре, облаке и на периферийных устройствах; для работы предусмотрена интеграция с TensorRT-LLM. Модель представлена в формате safetensors, а лицензия указана как other; перед использованием следует свериться с условиями NVIDIA. Ответы могут содержать ошибки, вводящую в заблуждение информацию или нежелательные смещения. Модель обучалась на коммерческих изображениях; для производственного применения следует оценить её соответствие конкретной отрасли и обеспечить проверку результатов и меры безопасности.

Карточка модели mikoy92/Unlimited-OCR-bf16-mlx на Hugging Face совпадает с карточкой emee-ai/Unlimited-OCR-bf16-mlx, поэтому описание составлено по ней. Unlimited-OCR BF16 MLX — конвертированная для MLX версия модели Baidu Unlimited-OCR, опубликованная emee-ai. Она предназначена для распознавания текста и разбора документов по изображениям; пример в карточке показывает обработку изображения с запросом на разбор документа. Модель использует архитектуру DeepSeekOCR с компонентами SAM, CLIP-L и DeepSeekV2 OCR; объём параметров — 559,7 млн, контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors, размещённые в MLX-layout, и использует реализацию deepseekocr из mlx-vlm. Модель принимает изображение и текстовый запрос, выдаёт текст. В метаданных указан мультиязычный режим, но конкретные языки не перечислены. Лицензия — MIT.

XCurOS-OCR-GGUF — версия в формате GGUF модели XCurOS-OCR, разработанной XCurOS. Это компактная vision-language-модель на 0,9 млрд параметров для распознавания текста и анализа документов по изображениям. Репозиторий содержит веса декодера и отдельный vision projector, необходимый для обработки изображений; модель запускается локально через llama.cpp на CPU или GPU. Модель предназначена для OCR документов, распознавания формул, таблиц, рукописного текста и кода, а также разбора структуры страниц. README приводит результаты на нескольких бенчмарках и характеризует качество как близкое к более крупным OCR-системам при работе на обычном CPU. Указана поддержка английского, китайского и других языков; конкретная длина контекста не приводится. Веса опубликованы в формате GGUF F16 без квантизации. Для использования требуется совместимая сборка llama.cpp и vision projector. Лицензия — MIT.

DBRX Instruct — большая языковая модель компании Databricks для диалогов в несколько ходов, ответов на вопросы и задач с кодом. Это instruction-tuned версия DBRX, обученная с нуля на архитектуре Transformer decoder-only с тонкозернистой смесью экспертов (MoE): всего 132 млрд параметров, из которых для каждого входа активны 36 млрд. Модель использует RoPE, GLU и GQA; максимальная длина контекста — 32 768 токенов. Модель принимает и генерирует только текст. Она обучалась на данных на естественных языках и коде, но большая часть данных была на английском; Databricks не проверяла её proficiency на других языках и рекомендует считать модель англоязычной. DBRX Instruct предназначена для готового применения в коротких диалогах, общих вопросах на английском и задачах с кодом, а также для дальнейшей настройки под специализированные задачи. Модель выпущена по Databricks Open Model License; применяются также условия Databricks Open Model Acceptable Use Policy. Ответы модели могут быть неточными, неполными, предвзятыми или оскорбительными. Для сценариев, где важны точность и соответствие источникам, Databricks рекомендует использовать RAG и проверять модель в целевом контексте; встроенное выполнение кода и нативный вызов функций не поддерживаются.

DeepSeek-VL2-Tiny — компактная мультимодальная модель семейства DeepSeek-VL2, представленная командой DeepSeek. Это вариант vision-language модели на архитектуре Mixture-of-Experts (MoE), построенный на DeepSeekMoE-3B и использующий 1,0 млрд активируемых параметров. В репозитории доступны веса safetensors для Transformers. Модель предназначена для анализа изображений в диалоге и отвечает на вопросы по визуальному содержимому. Она подходит для визуального вопросно-ответного поиска, распознавания текста на изображениях, а также разбора документов, таблиц и диаграмм. В README также заявлена возможность visual grounding — связывания текста с областями изображения. Для Tiny изображения подаются с приведением к размеру 384×384 без разбиения на фрагменты; базовая языковая модель отличает эту версию от вариантов Small и полной версии. В предоставленных источниках нет сведений о длине контекста или поддерживаемых языках. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией в репозитории.

eme/Qwen3.6-35B-A3B-FP8-Q4_K_M-MTP-GUFF — это GGUF-конверсия модели Qwen3.6-35B-A3B от команды Qwen, подготовленная пользователем eme. Модель основана на варианте Qwen/Qwen3.6-35B-A3B-FP8 и предназначена для локального запуска и эффективного инференса через llama.cpp. В README также упоминаются возможности Qwen3.6 для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория, однако эти сведения приведены для другой конфигурации Qwen3.6 и не позволяют полностью подтвердить характеристики данного варианта. Финальные веса используют квантизацию Q4_K_M для формата GGUF; исходная модель экспортирована в FP8 с форматом F8_E4M3. Такое представление уменьшает объём памяти и нагрузку на пропускную способность по сравнению с BF16, сохраняя близкое к BF16 качество для большинства задач инференса. В модель интегрирован Multi-Token Prediction (MTP), который может ускорять декодирование за счёт спекулятивного предсказания нескольких токенов. Точные сведения о контекстном окне, поддерживаемых языках и мультимодальности для этого конкретного файла не указаны; тег image-text-to-text присутствует в метаданных, но не подтверждает фактическую поддержку изображений. Для работы рекомендуется свежая версия llama.cpp с поддержкой CUDA и MTP-aware decoding; требуется достаточно VRAM в зависимости от длины контекста и размера батча. Пример запуска из README показывает работу на RTX 4080 с 16 ГБ памяти, но это не является гарантией совместимости или производительности в других конфигурациях. Ограничения включают возможные потери качества из-за Q4_K_M и зависимость ускорения от поддержки MTP и оптимизированных ядер в используемом рантайме. Лицензия указана как Apache-2.0.

Hy3-GGUF — набор GGUF-квантизаций модели Tencent Hy3, подготовленный пользователем vcruz305. Это MoE-модель для генерации текста, диалогов, программного кода и задач рассуждения. Базовая модель имеет 295 млрд параметров, из которых 21 млрд активируются на токен, использует 192 эксперта с выбором top-8, включает 80 основных слоёв и дополнительный MTP/NextN-слой объёмом 3,8 млрд параметров. Заявлена длина контекста до 256K токенов. Модель работает с текстом; сведения о поддерживаемых языках в README не указаны. Репозиторий содержит варианты от IQ1_M и IQ2_M до Q8_0 размером примерно от 92 до 318 ГБ, рассчитанные на системы с большим объёмом памяти и, для некоторых вариантов, на конфигурации из двух узлов. Квантизации используют importance matrix, рассчитанную на корпусе с примерами программирования, рассуждений и диалогов. Для части вариантов проверена генерация кода и диалогов на реальном оборудовании; также поддерживается speculative decoding через MTP, которое в приведённых измерениях заметно повышало скорость генерации. Для запуска требуется llama.cpp с поддержкой архитектуры Hy3: до включения соответствующих изменений в основную ветку необходима специальная ветка с PR #25364. Для корректного применения шаблона чата требуется параметр --jinja. Ограничениями являются значительные требования к памяти, необходимость совместимого оборудования и специальной сборки llama.cpp; часть квантов не проходила индивидуальное нагрузочное тестирование. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3.6-35B-A3B-NVFP4 — открытая NVFP4-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Unsloth на базе модели Qwen. Это каузальная языковая модель с визуальным энкодером, предназначенная для диалоговых и мультимодальных сценариев, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозитория. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 35 млрд параметров, из которых 3 млрд активируются при обработке токена. Архитектура включает 40 слоёв, сочетает Gated DeltaNet, Gated Attention и Mixture of Experts с 256 экспертами, из которых используются 8 маршрутизируемых и 1 общий. Размер скрытого представления составляет 2048, размер словаря — 248 320 токенов. Поддержка изображений заявлена через vision encoder, однако список языков и максимальная длина контекста в README не указаны. Ключевые преимущества версии — сниженное потребление памяти, возможность работы на GPU с 32 ГБ VRAM, встроенный модуль Multi-Token Prediction для speculative decoding и заявленная скорость до 1,56 раза выше других NVFP4-квантизаций. К ограничениям относятся возможные потери точности из-за квантизации, зависимость производительности от аппаратного обеспечения и backend vLLM, а также отсутствие в предоставленных данных подробностей о языковой поддержке и контексте. Лицензия — Apache-2.0.

TeleOCR — компактная мультимодальная модель StarDoc-AI для разбора документов по изображениям. В метаданных указаны архитектура Qwen2.5-VL, 507,9 млн параметров, контекст 128 000 токенов и библиотека Transformers; README описывает модель как примерно 1,2-миллиардную. Эти сведения о размере расходятся между источниками. Модель предназначена для извлечения текста и структуры из цифровых и снятых камерой документов, включая искажённые страницы, таблицы и формулы. В README заявлены геометрически ориентированное моделирование, автоматическая генерация и проверка обучающих данных и поэтапное обучение. Модель принимает изображения документов и формирует текстовый разбор; в метаданных также отмечена поддержка чата. Заявлены результаты на нескольких тестах разбора документов, но они приведены авторами и сами по себе не гарантируют качество на конкретных данных. Модель опубликована под лицензией Apache-2.0. Для запуска README предлагает Transformers, PyTorch и Pillow; для полного разбора документов авторы отсылают к отдельному репозиторию.

jondurbin подготовил эту плотную 65-миллиардную языковую модель на архитектуре LLaMA, дообучив её методом QLoRA на синтетических инструкциях, созданных GPT-4. Модель предназначена для диалоговой генерации текста и отвечает на запросы в формате, основанном на шаблоне Vicuna. Она рассчитана на программирование, математические задачи и рассуждения, викторины, ролевые диалоги, вопросы с вариантами ответа и по заданному контексту, а также общие запросы. Для промптов на написание кода предусмотрена инструкция PLAINFORMAT, которая просит вывести код без Markdown-разметки; автор отмечает, что она срабатывает не всегда. Модель содержит 65 млрд параметров, работает с контекстом до 2048 токенов и распространяется в формате PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель может ошибаться, а следование формату PLAINFORMAT не гарантировано.

Nanonets-OCR-s-GGUF — версия модели Nanonets-OCR-s в формате GGUF с обновлённым шаблоном чата. Она предназначена для извлечения текста из изображений документов и представления содержимого в удобной для дальнейшей обработки форме: таблицы можно возвращать в HTML, формулы — в LaTeX, а изображения описывать краткими подписями. Для запуска автор указывает llama-server и отдельный файл mmproj; рекомендуемые параметры генерации заданы в примере команды. Модель принимает изображение документа и текстовую инструкцию, а выдаёт текст с распознанным содержимым. В метаданных указаны варианты GGUF BF16 и F32 и поддержка английского языка. Лицензия в предоставленных данных не указана.

StargazerLabs представила Qwen3.8-23B-Mini-Me-bf16 — уменьшенную плотную мультимодальную модель на архитектуре Qwen3.8-27B. Из исходной модели удалены 12 слоёв: 12–15, 24–27 и 36–39; башня обработки изображений сохранена. Модель распространяется в формате Safetensors с точностью bf16 и предназначена для диалогов, программирования и агентных сценариев, включая длительные беседы, вызов инструментов и следование инструкциям. По внутренним пробам авторов модель работает быстрее и занимает меньше ресурсов, чем Qwen3.8-27B, но немного уступает ей по общим возможностям. Стандартных результатов бенчмарков пока нет. Лицензия — Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.8-27B, опубликованная пользователем biennequants на основе модели DavidAU. В README указаны языки английский и китайский, а также варианты GGUF-квантования с точностью 4 и 8 бит, включая версии с MTP и imatrix. Модель создана с применением методов Cold Fusion, Fable Fusion и инструментов Unsloth; заявленная цель — повысить способности к рассуждению и программированию, сократить объём внутренних рассуждений и ускорить генерацию на потребительском оборудовании. Модель предназначена для решения общих задач, анализа и рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Автор заявляет о высоких результатах на тестах ARC-C и ARC-E, превосходстве базовых моделей в ряде бенчмарков и сохранении близкой производительности 4-битной версии к 8-битной, однако эти показатели представлены в README и не подтверждены независимой проверкой. К сильным сторонам относятся сокращённое «мышление», высокая детализация ответов и доступность квантованных вариантов для локального запуска; ограничения включают отсутствие точных сведений о размере контекста, мультимодальных возможностях и системных требованиях, а также потенциально неконтролируемый или откровенный характер ответов, на что указывают обозначения uncensored и heretic. Лицензия — Apache-2.0.

QuixiAI выпустила WizardLM-1.0-Uncensored-CodeLlama-34b — дообученную на базе CodeLlama-34b языковую модель семейства Llama с 33,5 млрд параметров. Модель обучена на отфильтрованных данных WizardLM Evol Instruct V2 и использует формат запросов, совместимый со стилем Vicuna 1.1. Модель предназначена для генерации текста и кода, выполнения инструкций и диалоговых сценариев. Разработчик сообщает, что обучение было направлено на снижение отказов, уклончивых ответов и смещения; база CodeLlama, по описанию карточки, обеспечивает хорошие возможности для программирования. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 16 384 токенов. Метка «uncensored» не означает полного отсутствия ограничений: в README отмечены унаследованные этические установки LLaMA и отсутствие защитных механизмов. Модель распространяется по лицензии Llama 2; применяйте её с учётом условий этой лицензии и самостоятельно оценивайте генерируемый контент.

Gemini 3 Flash Preview — предварительная версия быстрой мультимодальной модели Google для диалога, агентных сценариев и помощи с программированием. Карточка описывает её как thinking-модель с рассуждениями, близкими к уровню Pro, и поддержкой работы с инструментами. Модель предназначена для многошагового чата, агентных рабочих процессов и задач по программированию. Метаданные каталога относят её к задаче image-text-to-text. Данных о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных материалах нет.

Vegss/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF — дообученная на данных рассуждений Opus 4.6, 4.7 и 4.8 модель Google Gemma 4 12B Instruct в форматах GGUF и Safetensors. Она предназначена для локального диалога, рассуждений, ответов на вопросы и написания кода; поддерживает режим thinking через родной канал Gemma. Репозиторий содержит варианты GGUF от Q2_K до Q8_0 и BF16/F16, а также черновую MTP-модель для ускорения генерации. В README заявлен контекст до 131 тыс. токенов и возможность запуска через llama.cpp и приложения вроде LM Studio и Jan. Модель ориентирована прежде всего на английский язык. README отмечает, что рассуждения представляют собой синтетический CoT, поэтому факты и числовые выводы следует проверять. Обучение снижает частоту отказов и, по описанию автора, модель не имеет полноценного выравнивания по безопасности; для практического применения нужны внешние ограничения. Лицензия — Gemma.

NaviDC-OCR — специализированная компактная мультимодальная модель StarDoc-AI для разбора цифровых документов и фотографий документов. Она построена на архитектуре Qwen2.5-VL и предназначена для извлечения текста и структуры, включая таблицы, формулы и порядок чтения. Метаданные указывают 507,9 млн параметров и контекст до 128 000 токенов; README приводит оценку размера 1,2 млрд параметров, поэтому сведения о размере расходятся. Модель принимает изображения документов и формирует текстовый результат разбора. В README заявлена устойчивость к геометрическим искажениям фотографий без предварительного выравнивания, а также приведены результаты на нескольких бенчмарках. Карточка позиционирует её как лёгкую модель для практического развёртывания; фактическое качество может зависеть от типа документа и условий съёмки. Поддерживаемые языки по метаданным — китайский, английский и японский. Лицензия — Apache-2.0.

Nemotron 3.5 Lightning 30B-A3B REAP-20B — экспериментальная производная модель sleepyeldrazi на основе NVIDIA Nemotron 3.5 Lightning 30B-A3B. Это гибридная архитектура Mamba-2, MoE и attention для генерации текста и диалога. Метод REAP сократил число маршрутизируемых экспертов с 128 до 77 в каждом из 23 MoE-слоёв; по README, размер модели уменьшен с 31,58 до 19,87 млрд параметров, при этом активными остаются около 3 млрд. Метаданные каталога указывают 1,9 млрд параметров, поэтому точный размер в источниках расходится. Модель предназначена как базовая точка для последующего дообучения LoRA и для общих текстовых задач с небольшим уклоном в программирование: ответов на вопросы, рассуждений, математических задач и работы с кодом. Калибровка выполнена на смеси инструкций, примеров кода и математики; заявленный нативный контекст в метаданных — 262 144 токена. README описывает ограниченную проверку генерации, но не приводит результатов полных бенчмарков. Это ранняя альфа-версия, поэтому качество следует проверять на целевых задачах; для специализированных сценариев автор рекомендует калибровку на собственных данных. Модель распространяется по лицензии OpenMDW-1.1.

olmOCR-7B-0825 — модель Allen Institute for AI (Ai2), дообученная на наборе olmOCR-mix-0225 на основе Qwen2.5-VL-7B-Instruct. Она предназначена для OCR и преобразования изображений документов в текст; для работы ожидает одно изображение документа, масштабированное так, чтобы его большая сторона составляла 1288 пикселей. Модель имеет мультимодальную плотную архитектуру Qwen2.5-VL с 7,1 млрд параметров и контекстом 128 000 токенов. Модель можно применять для распознавания и извлечения содержимого из документов; авторы рекомендуют использовать её через инструментарий olmOCR, который поддерживает масштабный инференс. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

Omniverse-v1 — компактная визуально-языковая модель от инициативы Omniverse для интеллектуальной обработки документов. Она основана на архитектуре PaddleOCR-VL и настроена для локального извлечения данных из документов; в репозитории указаны 318,2 млн параметров, архитектура OmniverseV1ForConditionalGeneration и веса в формате safetensors. Модель принимает изображения документов и извлекает их содержимое в структурированный Markdown. Она предназначена для распознавания плотных таблиц, счетов, экзаменационных ведомостей и неструктурированных PDF, включая многостолбцовый текст, формулы и диаграммы. Для работы автор рекомендует Omniverse Python/Gradio pipeline. Карточка заявляет поддержку английского языка и контекстное окно 131 072 токена. Модель распространяется по лицензии Apache-2.0. Результаты распознавания сложной разметки и визуальных данных могут требовать проверки; подробные оценки качества и перечень поддерживаемых языков, кроме английского, в карточке не приведены.

TowerVision-9B — мультимодальная языковая модель с открытыми весами от проекта TowerVision, предназначенная для работы с изображениями и текстом. Версия содержит 9 млрд параметров и основана на Unbabel/Tower-Plus-9B, соединённой с визуальным энкодером SigLIP2-patch14-384 через мультимодальный адаптер. Модель поддерживает контекст до 8192 токенов и обрабатывает изображения вместе с текстовыми запросами, выдавая текст. Модель подходит для описания изображений, визуальных вопросов и ответов, суммаризации, анализа графиков и документов, а также мультиязычного перевода с учётом визуального и культурного контекста. В README перечислены европейские и азиатские языки, включая русский; метаданные также указывают поддержку 17 языков. Рекомендуемая точность для запуска — bfloat16. Модель поставляется в формате safetensors и использует библиотеку Transformers. Лицензия CC-BY-NC-SA-4.0 требует указания авторства, распространения производных материалов на тех же условиях и не разрешает коммерческое использование.

srv-sngh подготовил для среды Krill на Apple Silicon квантованную сборку модели baidu/Unlimited-OCR, основанной на DeepSeek-OCR. Это мультимодальная модель для распознавания текста и разбора документов по изображениям с выдачей текстового результата, привязанного к содержимому страницы. Архитектура включает языковую основу DeepSeek-MoE и визуальный энкодер DeepEncoder на базе SAM-ViT-B, CLIP-L и проектора; размер модели по метаданным — 559,7 млн параметров, контекст — 32 768 токенов. Сборка использует смешанную точность: эксперты MoE квантованы в nvfp4, а внимание, плотные слои и линейные слои визуального энкодера — в 8-битный формат. В описанном режиме модель обрабатывает одну страницу с глобальным представлением изображения; режим разбиения больших или плотных сканов на фрагменты указан как будущая возможность. Для запуска предназначен Krill со Swift и MLX на Apple Silicon; контрольная точка не является готовой для Transformers. Лицензия — MIT.

Beyonder-4x7B-v2 — языковая модель в архитектуре Mixture of Experts (MoE), созданная mlabonne с помощью mergekit на основе четырёх моделей: OpenChat 3.5, CodeNinja, PiVoT и WizardMath. Она предназначена для диалогов и генерации текста, включая задачи программирования и математики. В модели около 7,1 млрд параметров, рекомендуемая длина контекста — 8 тысяч токенов; репозиторий содержит веса в формате safetensors. Автор сообщает, что модель показывает результаты, сопоставимые с Mixtral-8x7B-Instruct-v0.1 и сильными дообученными моделями большего размера на ряде бенчмарков. Эти оценки не гарантируют качество на конкретных пользовательских задачах. В метаданных указана лицензия other; точные условия использования следует проверять в карточке модели и лицензиях базовых моделей.

DeepSeek-R1-0528-Qwen3-8B — плотная языковая модель с 7,6 млрд параметров, размещённая Unsloth и основанная на Qwen3 8B Base. По README, модель получена дообучением на цепочках рассуждений DeepSeek-R1-0528; метаданные указывают базовую модель deepseek-ai/DeepSeek-R1-0528-Qwen3-8B и архитектуру Qwen3ForCausalLM. Репозиторий содержит веса safetensors и поддерживает диалоги и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалогов с многоэтапными рассуждениями, в частности для решения математических и логических задач, программирования и помощи при написании кода. Её контекст составляет до 131 072 токенов. README сообщает об улучшении результатов на отдельных математических и общих бенчмарках, но эти результаты не гарантируют качество на других задачах. Лицензия — MIT.

Supertron2-24B — плотная языковая модель на 24 млрд параметров, разработанная Surpem на основе mistralai/Devstral-Small-2-24B-Instruct-2512 и дообученная для следования инструкциям. Это причинный Transformer для генерации текста; модель доступна в формате safetensors и использует библиотеку Transformers. Лицензия — Apache 2.0. Модель предназначена для помощи в программировании, структурированных рассуждений, математических и научных объяснений, общего диалога и повседневного выполнения инструкций. Она может помогать писать, объяснять и отлаживать код, разбирать ошибки, планировать реализацию, сравнивать варианты, решать арифметические и алгебраические задачи, писать и кратко пересказывать тексты. Карточка указывает английский язык; длина контекста не приведена. Модель может выдавать ошибочный код, неполные рассуждения и устаревшие сведения. Важные результаты следует проверять; модель не подходит как единственный источник для медицинских, юридических, финансовых решений и задач, связанных с безопасностью.

Ternary-Bonsai-27B-antidoom-DSpark — текстовая генеративная модель, разработанная на основе prism-ml/Ternary-Bonsai-27B и доработанная Danny-Dasilva с применением antidoom и DSpark. Она предназначена для локальной генерации текста, включая программный код, с запуском через специализированный форк llama.cpp и CUDA-ядра для гибридного внимания. Модель ориентирована на сценарии, где важны компактность, высокая скорость вывода и устойчивость к зацикливанию на повторяющихся фрагментах. В основе лежит гибридная attention-архитектура Qwen3.5-27B с тернарной 2-битной квантизацией Q2_0, плотностью около 2,125 бит на вес и контекстом до 16 384 токенов в приведённой конфигурации. Указан английский язык. В комплект входят основная модель размером около 7 ГБ, DSpark-драфтер в формате Q4_1 для speculative decoding и vision projector Q8_0, что указывает на поддержку мультимодального сценария через проектор, хотя подробности о визуальных возможностях не приведены. К сильным сторонам относятся малый размер, высокая скорость на RTX 5090 и ускорение speculative decoding: в описанном тесте скорость выросла с 129,2 до 184,6 токена в секунду. Antidoom-настройка снижает склонность к продолжению уже начавшихся повторов, однако её эффект частично ослабляется агрессивной 2-битной квантизацией. Скорость DSpark зависит от характера запроса и может снижаться на задачах с низкой долей принятых черновых токенов; для работы требуется совместимый форк llama.cpp и подходящее CUDA-оборудование. Модель распространяется по лицензии Apache-2.0.