IV.5Образование и развитие навыков

Qwythos-27B-v1-GGUF — это GGUF-квантизированная версия модели Qwythos-27B-v1, разработанной empero-ai и подготовленной к распространению в формате GGUF пользователем mradermacher. Модель относится к семейству Qwen3.5 и ориентирована на задачи рассуждения, работы с текстом и изображениями, генерации текста по изображению и тексту, а также на мультимодальные сценарии. Заявлены поддержка английского языка, vision-возможностей, long-context с контекстом до 1M токенов, function calling, tool use и агентских приложений. Среди целевых областей также указаны кибербезопасность и биомедицина. Размер базовой модели — 27B параметров. Доступны варианты с разной степенью квантизации: от Q2_K до Q8_0, а также IQ-кванты и отдельные мультимодальные компоненты mmproj. Варианты Q4_K_S и Q4_K_M рекомендованы как быстрые, Q6_K описан как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с наилучшим качеством среди представленных. Основные ограничения связаны с использованием квантизации: качество, требования к памяти и скорость зависят от выбранного варианта, причём низкобитные варианты могут заметно уступать по качеству. README не содержит подробных результатов тестирования, точной архитектуры исходной модели или гарантии фактической поддержки всех заявленных возможностей. Лицензия модели указана как Apache-2.0.

Карточка модели TouchNight/cognitivecomputations_dolphin-2.9.2-qwen2-7b на Hugging Face совпадает с карточкой dphn/dolphin-2.9.2-qwen2-7b, поэтому описание составлено по ней. Dolphin 2.9.2 Qwen2 7B — разговорная языковая модель, созданная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на основе Qwen2-7B. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, дообученная на инструктивных, диалоговых и программных данных. В карточке заявлены навыки ответов на инструкции, ведения беседы, программирования, начальные агентные возможности и вызов функций. Модель предназначена для генерации текста в формате чата, помощи с кодом и выполнения запросов к функциям. Базовая модель поддерживает контекст до 128 тысяч токенов, однако полновесное дообучение Dolphin проводилось на последовательностях длиной 16 тысяч токенов. Репозиторий использует формат safetensors; метаданные указывают библиотеку Transformers. Модель описана авторами как uncensored и более склонная выполнять запросы, включая небезопасные. Для публичного сервиса рекомендуется самостоятельно добавить слой выравнивания поведения. Лицензия — Tongyi Qianwen; README допускает коммерческое использование при соблюдении её условий.

Mungert/Jan-nano-128k-GGUF — это набор GGUF-квантизированных моделей Jan-Nano-128k, созданный Mungert на основе Menlo/Jan-nano с использованием llama.cpp. Модель предназначена для текстовой генерации и исследовательских задач, включая анализ научных статей и длинных документов, синтез информации из нескольких источников, сложные рассуждения и многошаговые диалоги. Указывается совместимость с серверами Model Context Protocol (MCP) и поддержка вызова инструментов при соответствующей конфигурации. Ключевая характеристика модели — нативное контекстное окно до 128 тысяч токенов, рассчитанное на работу с большими объёмами текста без типичной деградации качества при расширении контекста. Модель компактная, но точный размер параметров, архитектура и перечень поддерживаемых языков в карточке не указаны; заявлен английский язык. Доступны варианты GGUF-квантизации, причём автор применяет повышение точности отдельных важных слоёв для улучшения качества на низких уровнях битности, особенно для MoE-моделей, ценой увеличения размера файлов. Сильными сторонами являются длинный контекст, ориентация на глубокий анализ документов и возможность локального запуска через llama.cpp или vLLM. Ограничения включают зависимость характеристик от выбранного варианта квантизации, отсутствие подробных данных о ресурсах и точности, а также необходимость специальной настройки масштабирования RoPE и максимальной длины контекста при развёртывании. Модель распространяется по лицензии Apache 2.0.

Llama 3.2 90B Vision Instruct — мультимодальная instruction-tuned модель Meta для диалога по изображениям. Она принимает текст и изображения и генерирует текстовые ответы для визуального распознавания, рассуждений по изображению, создания подписей и ответов на вопросы о содержимом картинки. Модель построена на языковой модели Llama 3.1 с авторегрессионной архитектурой Transformer и отдельным обученным адаптером зрения с cross-attention слоями. Вариант 90B содержит около 88,8 млрд параметров, поддерживает контекст до 128 тыс. токенов и использует Grouped-Query Attention. Для текстовых задач официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; для задач с изображениями и текстом поддерживается английский. Модель подходит для визуальных вопросов и ответов, анализа документов по изображению, описания сцен, поиска соответствий между изображениями и текстом и визуальной привязки описаний к областям изображения. Она не выдаёт изображения. Модель статична, обучена на данных с отсечкой знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy.

Vishva007/Qwen3.8-27B-W4A16-AutoRound — квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для генерации текста по текстовым и визуальным входам, включая анализ изображений и задачи оптического распознавания символов (OCR). В README она обозначена как vision-language model с поддержкой сценария image-text-to-text. Модель содержит около 27 млрд параметров и использует формат квантизации W4A16: веса представлены в 4-битном формате, а активации — в 16-битном. Квантизация выполнена с помощью Intel AutoRound с размером группы 64, симметричной схемой, 512 калибровочными образцами и 600 итерациями настройки. Визуальная башня сохранена в формате BF16, как и специальные MTP-слои, что должно помогать сохранять качество визуального рассуждения и OCR. Заявленное потребление видеопамяти составляет примерно 16–18 ГБ против около 54 ГБ у исходной BF16-модели, поэтому вариант подходит для запуска на одной видеокарте с 24 ГБ VRAM и для высокопроизводительного сервинга через vLLM. К преимуществам относятся существенно сниженные требования к памяти и потенциально более высокая скорость декодирования при сохранении визуальных компонентов в BF16. Ограничения включают возможную потерю точности из-за 4-битной квантизации, а также отсутствие в README сведений о поддерживаемых языках, точном размере контекста, результатах бенчмарков и детальных ограничениях применения. Модель распространяется по лицензии Apache-2.0.

rStar-Coder-Qwen3 — дообученная на наборе microsoft/rStar-Coder компактная плотная языковая модель семейства Qwen3, разработанная prithivMLmods на базе Qwen/Qwen3-0.6B. Она предназначена для генерации кода и технических объяснений, математических и научных рассуждений, а также структурированных ответов в форматах вроде JSON, LaTeX, CSV и YAML. Модель имеет около 508 млн параметров, принимает текст и поддерживает контекст до 40 960 токенов. Карточка заявляет поддержку кода на нескольких языках программирования, но метаданные указывают английский как язык карточки; естественные языки обучения отдельно не перечислены. Небольшой размер рассчитан на запуск при ограниченных вычислительных ресурсах. Распространяется по лицензии Apache-2.0. Модель ориентирована на программирование, STEM-задачи и структурированную генерацию, а не на универсальный разговор или творческое письмо. README предупреждает, что длинный контекст может затруднять анализ нескольких документов или крупных кодовых баз, а обычный чат и эмоциональный стиль могут быть слабее специализированных технических ответов. Заявления о возможностях основаны на карточке модели и не сопровождаются в предоставленных данных результатами бенчмарков.

InternVL3-78B — разработанная OpenGVLab мультимодальная большая языковая модель семейства InternVL3 для диалога и задач на стыке зрения и языка. Она принимает текст, изображения и видео, а также поддерживает работу с несколькими изображениями в одном запросе. Архитектура следует схеме ViT-MLP-LLM: визуальный энкодер InternViT соединён через MLP-проектор с языковой моделью; для изображений используются динамическое разбиение на фрагменты 448×448 и кодирование визуальных позиций V2PE. Вариант содержит 78 млрд параметров. Модель предназначена для ответов на вопросы по изображениям и видео, визуального рассуждения, анализа диаграмм и промышленных изображений, понимания 3D-сцен, работы с графическими интерфейсами и использования инструментов. Она также выполняет текстовые задачи и поддерживает многоязычный диалог. Карточка сообщает об улучшенных мультимодальном восприятии и рассуждении относительно InternVL 2.5, но не приводит здесь конкретных численных оценок. Репозиторий использует Transformers и формат safetensors; для эксплуатации модели такого размера требуются значительные вычислительные ресурсы. Лицензия указана как other, поэтому перед использованием нужно проверить условия в репозитории модели.

duyntnet/Phi-3-mini-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-mini-4k-instruct, разработанной Microsoft и опубликованной пользователем duytnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, структурированного вывода, рассуждений и помощи в программировании. Заявлено улучшенное понимание Python, C++, Rust и TypeScript, а также поддержка системных инструкций через тег <|system|>. Это компактная текстовая авторегрессионная модель семейства Phi-3 Mini; конкретный размер файлов и параметры квантизаций в README не указаны. Модель работает с текстом, поддерживает английский язык и контекст до 4K токенов. Размер словаря токенизатора — до 32064 токенов. Для запуска доступны llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama; исходная модель также интегрирована в Transformers. GGUF-квантизации удобны для локального запуска, однако README не содержит данных о точных требованиях к памяти, производительности или сравнительных результатах. Лицензия указана как other, без уточнения конкретных условий, поэтому права на использование следует проверять отдельно. К ограничениям относятся отсутствие заявленной мультимодальности, отсутствие подробных бенчмарков и неопределённость характеристик конкретной квантизации.

Qwen3-VL-8B-Instruct-Unredacted-MAX-FP8 — мультимодальная vision-language модель, опубликованная prithivMLmods и основанная на Qwen3-VL-8B-Instruct-Unredacted-MAX. Это FP8-сжатая версия с архитектурой на 8 млрд параметров, предназначенная для анализа изображений, генерации подробных подписей и рассуждений по сложному визуальному содержимому. В карточке указана поддержка английского языка, а основная модальность описана как image-text-to-text. Модель рассчитана на расширенное визуальное рассуждение, включая анализ художественных, технических, медицинских, исторических, абстрактных и исследовательских материалов. Возможные сценарии применения включают генерацию описаний для датасетов и метаданных, задачи доступности, архивирование визуальных данных, red-teaming, исследование механизмов отказа и творческое повествование. Она поддерживает динамическое разрешение и различные соотношения сторон изображений. Ключевая особенность — квантование весов и активаций в формате FP8 W8A8 с использованием BF16 и F8_E4M3, что снижает потребление VRAM и может повысить производительность инференса при сохранении возможностей исходной модели. Вариант оптимизирован для Hopper и совместимых GPU, однако для обработки изображений высокого разрешения и длинной генерации всё ещё требуется достаточно VRAM и совместимое аппаратное обеспечение. Abliterated fine-tuning уменьшает встроенные отказы, поэтому модель может генерировать чувствительное или спорное содержимое; результаты требуют ответственного и законного использования. Лицензия — Apache-2.0.

German-RAG-PHI-3.5-MINI-4B-MERGED-HESSIAN-AI — языковая модель команды Avemio AI при поддержке Hessian AI, предназначенная для немецкоязычных задач с поиском и использованием документов. Это авторегрессионный трансформер с плотной архитектурой LlamaForCausalLM; в метаданных указано 3,7 млрд параметров и контекст до 131 072 токенов. Модель объединена методом SLERP из German-RAG-PHI-3.5-MINI-4B-SFT-HESSIAN-AI и German-RAG-PHI-3.5-MINI-4B-ORPO-HESSIAN-AI. Модель подходит для ответов на вопросы по найденным документам, извлечения релевантной информации и суммаризации контекста на немецком и английском языках. В карточке приведены результаты оценивания качества языка, правильности ответов и следования инструкциям; на наборе задач извлечения модель показала улучшение относительно указанных вариантов SFT и ORPO. Весам и коду модели указана лицензия MIT. Модель может генерировать вредный или чувствительный контент, в том числе из-за смещений, а фактические утверждения могут быть неверными и требуют проверки. Для надежных ответов следует предоставлять релевантный контекст и проверять результат.

Карточка модели alpindale/Llama-3.2-90B-Vision на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-90B-Vision, поэтому описание составлено по ней. Llama 3.2 90B Vision — мультимодальная модель Meta для анализа изображений и генерации ответов на текстовые запросы о них. Она построена на авторегрессионной архитектуре Transformer семейства Llama 3.1 и использует отдельно обученный адаптер зрения с cross-attention, который передаёт представления изображений в языковую модель. Размер модели — 90B параметров; она принимает текст и изображения и выдаёт текст, поддерживает контекст длиной до 128 тыс. токенов. Модель предназначена для визуального распознавания и рассуждений, описания изображений, ответов на вопросы по изображениям и диалогов с визуальным содержимым. Также в карточке указаны сценарии DocVQA, поиска соответствий между изображениями и текстом, а также визуального заземления языковых описаний на объекты или области изображения. Для приложений с изображениями и текстом официально поддерживается английский язык; в текстовых задачах поддерживаются также немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель выпущена Meta в сентябре 2024 года и доступна по лицензии Llama 3.2 Community License — специальному соглашению, условия которого следует учитывать при коммерческом и исследовательском применении. Это статическая модель, обученная на офлайн-данных; сведения о дате отсечения знаний — декабрь 2023 года.

cloudbjorn/merged_Qwen3.6-27B_eschaton-uncensored — дообученная и объединённая версия Qwen3.6-27B, созданная с помощью Eschaton Engine на датасете cloudbjorn/eschaton-uncensored. Модель предназначена для диалогов и рассуждений, в том числе по чувствительным и спорным темам: автор нацеливал её на нейтральные, прямые ответы без морализаторского тона. Она поддерживает генерацию текста и работу с изображениями, контекст до 262 144 токенов, режим рассуждений, вызов инструментов и структурированный вывод. Репозиторий содержит веса safetensors в формате bfloat16; в метаданных указано 22,3 млрд параметров. В README приведён результат ARC Challenge: нормированная точность 0,7619 при 25 примерах в контексте. Модель основана на Qwen/Qwen3.6-27B; лицензия обозначена как other. Заявления о качестве и поведении отражают описание автора и не гарантируют одинаковых результатов на всех запросах.

Ovis2-34B — мультимодальная языковая модель семейства Ovis, разработанная командой Ovis. Она сочетает визуальный энкодер и языковую модель, структурно согласуя визуальные и текстовые представления. Модель принимает изображения и текст, отвечает на вопросы о визуальном содержимом и обрабатывает видео и несколько изображений в рамках одного сценария. Модель предназначена для визуального рассуждения, распознавания текста на изображениях, извлечения структурированных данных из таблиц и диаграмм, а также диалогов по визуальным материалам. В README заявлены усиленные способности к рассуждению и многоязычному OCR; метаданные указывают поддержку чата и интерфейса вызова инструментов. Архитектура — плотная модель Ovis; веса доступны в формате safetensors. Карточка приводит результаты оценки на тестах изображений и видео. Лицензия — Apache-2.0. README рекомендует использовать более новую версию Ovis2.5. Заявленные возможности и результаты бенчмарков не гарантируют точность на конкретных данных; модель может выдавать неподходящий контент или содержать проблемы с авторскими правами, как отмечено авторами.

Qwen2-2B-RepleteCoder-DHM — объединённая языковая модель на архитектуре Qwen2, созданная сообществом mergekit-community методом Model Stock с помощью mergekit. В основу слияния вошла Qwen2-2B-RepleteCoder-Upscaled; также объединены варианты Dolphin, RepleteCoder и Hercules, а также Qwen2-Math-2B-Instruct. Модель содержит 1,9 млрд параметров и рассчитана на генерацию текста в диалоговом формате, помощь с программированием и математические запросы. Модель принимает текст и генерирует текст. Для запуска используются библиотека Transformers и файлы Safetensors; заявленная длина контекста — до 131 072 токенов. Карточка не уточняет языковую специализацию. Лицензия в предоставленных данных не указана. Качество и поведение объединённой модели могут зависеть от задачи; карточка не приводит результатов оценки.

Мультимодальная модель carbonteq на архитектуре Gemma 4 E4B, дообученная на базе unsloth/gemma-4-E4B-it. Репозиторий содержит веса в формате Safetensors; модель предназначена для диалогового взаимодействия и генерации ответов на текстовые запросы с учётом изображений. Модель подходит для вопросов по изображениям и документам, а также для других сценариев общения с визуальным вводом. Карточка указывает, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Лицензия — Apache-2.0.

Infinity-Parser2-Flash — мультимодальная модель понимания и разбора документов от Infly. Она основана на плотной архитектуре Qwen3.5 и предназначена для быстрого извлечения содержимого и структуры из изображений документов и PDF с выводом в Markdown или структурированном виде. Модель решает задачи OCR, анализа макета и порядка чтения, распознавания таблиц, графиков и химических формул, а также визуальных вопросов по документам. В README заявлены низкая задержка и скорость вывода в 3,68 раза выше, чем у предыдущей Infinity-Parser-7B; подробные показатели Flash в карточке не приведены. Модель работает с изображениями и текстовыми инструкциями, а её основной заявленный языковой охват — английский и китайский. Лицензия — Apache-2.0. Качество может снижаться на многоязычных документах, сложных графиках и повернутых элементах таблиц; модель не сохраняет тонкое форматирование текста и может ненадёжно выполнять сложные многошаговые инструкции по изображению.

LongLLaMA-Instruct-3Bv1.1 — инструктивная языковая модель семейства LongLLaMA, разработанная авторами проекта LongLLaMA на основе OpenLLaMA-3Bv2. Модель содержит 3,3 млрд параметров и дообучена методом Focused Transformer (FoT), а также на инструкциях OpenOrca и диалогах ShareGPT-Processed. Она предназначена для генерации текста и ответов на вопросы с использованием длинного контекста; в README описаны извлечение сведений из длинных входов и эксперименты с классификацией вопросов и ответами на вопросы. Архитектура LongLlamaForCausalLM использует кэш памяти в выбранных слоях и обработку входов окнами по 2048 токенов. Метаданные указывают нативный контекст 2048 токенов; README заявляет возможность экстраполяции до 256 тысяч токенов в задаче поиска ключа, хотя это исследовательский результат, а не универсальная гарантия для всех задач. Модель принимает и генерирует текст; обучающие данные также включают код, но карточка не подтверждает отдельное специализированное качество для программирования. Лицензия Apache 2.0. Автор обозначает модель как предназначенную только для исследований.

Карточка модели shtilev/medical_embedded_v4 на Hugging Face совпадает с карточкой onelevelstudio/MPNET-0.3B, поэтому описание составлено по ней. onelevelstudio/MPNET-0.3B — многоязычная модель эмбеддингов предложений, основанная на архитектуре XLM-RoBERTa и библиотеке Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения текстов и кластеризации. В README указана модель sentence-transformers/paraphrase-multilingual-mpnet-base-v2 как описание и источник сведений о назначении; разработчиком базовой модели названа команда Sentence-Transformers. Модель содержит 305,2 млн параметров и принимает текстовые фрагменты с контекстом до 514 токенов. Доступны веса и реализации в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Поддерживаются многие языки, в том числе русский и английский. Лицензия — Apache-2.0. Подходит для семантического поиска, оценки сходства текстов и кластеризации предложений и абзацев. Как и другие модели эмбеддингов, она выдаёт векторы, а не готовые ответы или разметку; качество зависит от языка и предметной области, а предел контекста ограничивает длину обрабатываемого фрагмента.

MinerU2.5-2509-1.2B — компактная зрительно-языковая модель команды OpenDataLab для разбора документов по изображениям страниц. Она использует архитектуру Qwen2-VL и двухэтапный подход: сначала анализирует общую структуру страницы на уменьшенном изображении, затем распознаёт содержимое фрагментов в исходном разрешении. В карточке указаны 494 млн параметров и контекст 16 384 токена. Модель предназначена для извлечения структурированного содержимого из документов, включая текст, таблицы, математические формулы, заголовки, колонтитулы, номера страниц, списки, ссылки и блоки кода. Среди заявленных сильных сторон — разбор сложных формул, в том числе смешанных китайско-английских, и таблиц с поворотом или неполными границами. Поддерживаются китайский и английский языки; модель работает с изображениями и текстовыми запросами, выдавая текстовое представление разобранного документа. Для локального запуска README рекомендует GPU, а для применения также доступны облачный API и интеграции с инструментами для RAG и MCP. Модель распространяется по лицензии AGPL-3.0. Показатели точности в README заявлены без приведённых здесь подробностей методики; локальный запуск требует подходящего GPU.

visionOCR-3B-061125 — дообученная PrithivMLmods мультимодальная модель на архитектуре Qwen2.5-VL-3B для распознавания текста и анализа документов по изображениям. Она извлекает текст и структурированные данные из счетов, чеков, форм, научных статей и сканов, отвечает на вопросы по изображениям и преобразует математические выражения в LaTeX. Модель содержит 3,1 млрд параметров, принимает изображения с текстовыми инструкциями и выдаёт текст; заявлена поддержка контекста до 128 000 токенов. В карточке также заявлены анализ видео, визуально управляемая автоматизация устройств и работа с несколькими языками. Модель ориентирована на OCR документов, извлечение данных и визуальные вопросы-ответы, включая плотные макеты, таблицы и диаграммы. Карточка сообщает о конкурентных результатах на DocVQA, MathVista, RealWorldQA и MTVQA, но не приводит численных оценок. Лицензия — Apache-2.0. Качество может снижаться на изображениях низкого качества или с перекрытиями, а для редких языков и письменностей точность непостоянна. Длительная обработка видео требует значительных ресурсов; возможны галлюцинации и ошибки при неудачных настройках визуальных токенов.

360VL-8B — открытая мультимодальная модель компании Qihoo 360 для диалога по изображениям и тексту. Она дообучена на основе Meta Llama 3 8B Instruct и использует трансформерную авторегрессионную языковую модель с многоветвевым проектором, предназначенным для улучшения понимания изображений. Модель принимает изображения и текст и формирует текстовые ответы; поддерживает многоходовой диалог с одним изображением, визуальные вопросы и распознавание текста на изображениях. В README указано разрешение изображений до 672×672 пикселей, а контекст по метаданным составляет 8192 токена. Поддерживаются китайский и английский языки. Модель подходит для анализа содержимого изображений, извлечения и обобщения информации, а также ответов на вопросы по изображению. Вес модели содержит 7,5 млрд параметров и опубликован в формате safetensors. Лицензия — Apache 2.0.

kanana-1.5-v-3b-instruct — мультимодальная языковая модель семейства Kanana-1.5-V, разработанная командой Unified Foundation Model в Kakao. Она принимает текст и изображения и генерирует текст; архитектура включает энкодер изображений, C-abstractor и языковую модель kanana-1.5-3b-instruct. Модель содержит около 3,67 млрд параметров, поддерживает контекст до 32 тысяч токенов и предназначена для работы на английском и корейском языках. Модель подходит для описания изображений, понимания документов, рассуждений по распознанному тексту и выполнения мультимодальных инструкций. В опубликованных Kakao оценках она показала результаты на англоязычных и корейских тестах понимания изображений и следования инструкциям; результаты бенчмарков не гарантируют точность в каждом пользовательском сценарии. Модель может выдавать неточную или вводящую в заблуждение информацию, особенно при работе с научными диаграммами и математическими задачами. Её не рекомендуется применять в медицине, праве и других областях с высокими ставками; качество языков, кроме корейского и английского, не оценивалось и может быть низким. Лицензия — kanana-license.

usermma/MinerU2.5-Pro-2605-1.2B-mlx-fp16 — конвертированная в формат MLX версия визуально-языковой модели MinerU2.5-Pro-2605-1.2B от OpenDataLab. Модель основана на архитектуре Qwen2-VL, поддерживает работу с изображениями и текстом и предназначена для диалога.

Unlimited-OCR-GGUF — набор GGUF-квантизаций модели baidu/Unlimited-OCR, подготовленный пользователем sahilchachra. Это мультимодальная vision-language OCR-модель примерно на 3 млрд параметров, предназначенная для распознавания текста и структурированного разбора документов по изображениям. Поддерживаются сценарии преобразования документов в Markdown с сохранением структуры, извлечения обычного текста, распознавания таблиц и элементов макета, получения ограничивающих рамок, разбора рисунков, графиков и диаграмм, а также визуального вопросно-ответного взаимодействия. В метаданных заявлена многоязычность, без перечисления конкретных языков. Модель использует архитектуру DeepSeek-OCR: визуальную башню DeepEncoder на базе SAM и CLIP, а также текстовый декодер DeepSeek-V2 MoE. Репозиторий содержит варианты от BF16 до 2- и 3-битных K-quants и i-quants; рекомендуемым компромиссом размера и качества указан Q4_K_M. Визионный проектор mmproj поставляется отдельно в формате F16 и требуется для каждого запуска. Контекстное окно в README не указано. Сильные стороны модели — ориентация на однопроходный разбор документов, поддержка длинных и плотных документов, сохранение порядка чтения и структуры, а также возможность получать координаты найденного текста. Ограничения связаны с необходимостью специальной сборки llama.cpp с поддержкой DeepSeek-OCR: стандартная ветка upstream на момент публикации файлы не загружает. Для работы необходимо скачать одновременно языковую GGUF-модель и vision projector; низкобитные варианты экономят память, но снижают качество OCR. Лицензия — MIT.

Code-Llama-3-8B — полноразмерная дообученная модель ajibawa-2023 на базе Llama-3-8B от Meta. Она предназначена для генерации кода и ответов на математические задачи; модель также может объяснять логику и решения. Обучение проводилось на наборах Code-290k-ShareGPT, CodeFeedback, CodeFeedback-Filtered-Instruction и orca-math-word-problems-200k. Модель поддерживает диалоговый формат ChatML и имеет контекст длиной 8192 токена; размер составляет 7,5 млрд параметров. Модель ориентирована на код на Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia и Haskell. Разработчик отмечает хорошие результаты в генерации кода и математике, однако независимые количественные оценки в карточке не приведены. Доступна лицензия Llama 3; перед использованием следует учитывать её условия.

MiMo-7B-RL — языковая модель XiaomiMiMo на 7 млрд параметров, обученная с нуля как часть семейства MiMo-7B, а затем дообученная с подкреплением на основе SFT-модели. Она предназначена прежде всего для пошаговых рассуждений в математике и программировании. По карточке, при обучении использовались проверяемые математические и кодовые задачи с оценкой по правилам; модель поддерживает чат и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Архитектура — плотная причинная модель MiMoForCausalLM; контекстное окно по метаданным — 32 768 токенов. В README описана поддержка спекулятивного декодирования с одним MTP-слоем. Карточка приводит результаты на математических и кодовых бенчмарках, но они не гарантируют аналогичного качества на произвольных запросах. README не сообщает языки обучения или подробные ограничения в использовании. Лицензия — MIT.

Nanonets-OCR2-3B-GGUF — это квантизированная GGUF-версия мультимодальной модели Nanonets-OCR2-3B, разработанной nanonets. Квантизацию выполнил mradermacher. Модель предназначена для задач оптического распознавания символов, преобразования изображений в текст, конвертации PDF в Markdown и визуального ответа на вопросы (VQA). Модель поддерживает мультимодальный ввод: для работы используются файл модели GGUF и дополнительный multimodal supplement mmproj. Доступны варианты с разными уровнями квантизации — от Q2_K до Q8_0, а также f16; размеры файлов составляют примерно от 1,4 до 6,3 ГБ, без учета или с учетом дополнительного multimodal-компонента в зависимости от конфигурации. Заявлена поддержка многоязычных сценариев, однако конкретный перечень языков и размер контекстного окна в README не указаны. Основные преимущества — возможность локального запуска, широкий выбор компромиссов между размером, скоростью и качеством, а также наличие специализированных OCR- и image-to-text-сценариев. Более легкие варианты подходят для экономии ресурсов, тогда как Q6_K и Q8_0 ориентированы на более высокое качество; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые. Сведения о лицензии базовой модели и квантизированной версии в README отсутствуют, поэтому условия использования необходимо уточнять отдельно.

chowder-embed — модель Sentence Transformers, дообученная на корпусе chowder на базе sentence-transformers/allenai-specter. Она преобразует предложения и абзацы в плотные векторы размерности 768; архитектура состоит из BERT и CLS-пулинга. Модель принимает текст на английском языке, поддерживает последовательности длиной до 512 токенов, а близость векторов можно оценивать косинусным сходством. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. В карточке приведены результаты оценки на наборах NanoSCIDOCS, NanoSciFact, NanoNFCorpus, chowder-val и NanoBEIR. Обучающий набор содержит 70 764 пары anchor-positive. Лицензия в предоставленных данных не указана.

InternVL3-38B-Instruct-GGUF — мультимодальная instruction-tuned модель, опубликованная Unsloth на основе OpenGVLab/InternVL3-38B. Это SFT-версия InternVL3: она прошла нативное мультимодальное предварительное обучение и дообучение с учётом инструкций, но не проходила MPO. Модель предназначена для понимания изображений и текста, мультимодального восприятия и рассуждений, работы с инструментами, создания GUI-агентов, промышленного анализа изображений и задач 3D-восприятия. Заявлена поддержка multilingual-сценариев. Архитектура построена по схеме ViT-MLP-LLM и включает визуальную часть InternViT-6B-448px-V2_5 и языковую часть Qwen2.5-32B; общий размер семейства для этой конфигурации — 38B параметров. Распространяемая версия представлена в формате GGUF и использует квантизацию Unsloth Dynamic 2.0, однако конкретный вариант квантизации, требования к памяти и размер контекста в предоставленных данных не указаны. Сильными сторонами являются сочетание анализа изображений с генерацией текста, мультимодальное рассуждение и широкий спектр прикладных сценариев. Модель может быть менее подходящей для задач, требующих точных гарантий фактической корректности, а значительный размер и мультимодальная архитектура предполагают высокие требования к вычислительным ресурсам. Для выбора между версиями семейства авторы рекомендуют рассмотреть базовую InternVL3-38B. В метаданных указана лицензия Apache-2.0; также приведена ссылка на лицензию Qwen.

Mungert/Nanonets-OCR-s-GGUF — это GGUF-сборка мультимодальной модели Nanonets-OCR-s, разработанной Nanonets и опубликованной пользователем Mungert. Модель предназначена для распознавания документов по изображениям и преобразования их содержимого в структурированный Markdown, поэтому подходит для OCR, обработки PDF и последующего анализа документов большими языковыми моделями. Модель основана на Qwen/Qwen2.5-VL-3B-Instruct и работает в сценарии image-text-to-text. Она распознаёт обычный текст, сложные таблицы с выводом в Markdown и HTML, математические формулы с преобразованием в LaTeX, изображения с описанием, подписи, водяные знаки, номера страниц, чекбоксы и радиокнопки. Для специальных элементов используются структурированные теги, включая <img>, <signature>, <watermark> и <page_number>, а состояния флажков обозначаются символами ☐, ☑ и ☒. Преимущество модели — специализированная обработка сложных документов и сохранение семантической структуры, полезной для автоматизированных рабочих процессов. GGUF-версия создана с помощью llama.cpp; в описании заявлен вариант квантования с выборочным повышением точности важных слоёв, что должно улучшать точность при заданном уровне квантования, но увеличивает размер файла. Точный размер модели, поддерживаемые языки помимо указанного английского, размер контекста и лицензия в карточке этой GGUF-сборки не указаны. Для запуска предусмотрена совместимость с экосистемой llama.cpp и GGUF.