IV.5Образование и развитие навыков

Dolphin 2.9.1 Mixtral 1x22b — чат-модель, подготовленная Эриком Хартфордом, Лукасом Аткинсом, Фернандо Фернандесом и Cognitive Computations. Она основана на Mixtral-8x22B-v0.1 и прошла полное дообучение всех слоёв; в карточке указано 22 млрд параметров. Модель представляет собой извлечённый эксперт, полученный объединением SLERP экспертов исходной архитектуры Mixtral. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. Модель предназначена для диалогов и выполнения инструкций, помощи с программированием, начального уровня агентных задач и вызова функций. Контекст базовой модели составляет 64 тыс. токенов, а дообучение проводилось с длиной последовательности 16 тыс. токенов. В качестве обучающих данных использовались, среди прочего, наборы Dolphin-2.9, OpenHermes-2.5 и датасеты для кода, математики и вызова функций. Модель описана авторами как uncensored и может с высокой готовностью выполнять запросы, в том числе небезопасные; перед предоставлением её пользователям авторы рекомендуют добавить собственный слой выравнивания. Язык карточки и метаданных — английский.

ERNIE-4.5-300B-A47B-PT-GGUF — текстовая MoE-модель, разработанная Baidu в рамках семейства ERNIE 4.5. Она предназначена для понимания и генерации текста, включая диалоговые сценарии, создание контента и другие задачи общего назначения. Модель основана на предварительно обученной версии ERNIE-4.5-300B-A47B-PT и представлена в формате GGUF. Модель содержит 300 млрд параметров, из которых для каждого токена активируется 47 млрд. Архитектура включает 54 слоя, 64 attention heads для запросов и 8 для ключей и значений, а также MoE-компоненты с 64 экспертами, из которых активируются 8. Максимальная длина контекста составляет 131 072 токена. В README указана поддержка английского и китайского языков. Хотя семейство ERNIE 4.5 обучалось с учётом текстовой и визуальной модальностей, данная версия обозначена как текстовая и не предназначена для обработки изображений. Сильными сторонами модели являются большой контекст, высокая общая ёмкость параметров и вычислительная эффективность MoE за счёт активации только части параметров для каждого токена. Основные ограничения — значительные требования к вычислительным ресурсам и отсутствие заявленной мультимодальности в этой текстовой версии; конкретные характеристики квантования GGUF в README не приведены. Модель распространяется по лицензии Apache 2.0.

Ling-flash-2.0 — языковая MoE-модель семейства Ling 2.0, разработанная inclusionAI и предназначенная для диалогового использования через генерацию текста. По README, модель обучена на более чем 20 трлн токенов с последующей supervised fine-tuning и многоэтапным reinforcement learning; метаданные указывают 5,5 млрд параметров, архитектуру BailingMoeV2ForCausalLM и базовую модель inclusionAI/Ling-flash-base-2.0. README приводит другие значения: 100 млрд общих и 6,1 млрд активированных параметров, поэтому размер в источниках расходится. Модель ориентирована на сложные рассуждения, генерацию кода, разработку интерфейсов и творческие задачи. README сообщает о контексте 32K с расширением до 128K посредством YaRN; метаданные фиксируют нативный контекст 32 768 токенов. Заявлены высокая эффективность вывода и результаты на бенчмарках по математике, знаниям, коду, финансам и здравоохранению; отдельное назначение для этих отраслей не заявлено. Метаданные отмечают интерфейс вызова инструментов. Модель доступна под лицензией MIT.

Llama-Krikri-8B-Instruct-v1.5 — диалоговая языковая модель, разработанная ILSP и дообученная на основе ilsp/Llama-Krikri-8B-Base, которая, в свою очередь, основана на Llama 3.1 8B. Модель с архитектурой Llama содержит 7,6 млрд параметров и рассчитана прежде всего на работу с греческим и английским языками. Контекстное окно — 131 072 токена; базовая модель использует расширенный токенизатор с греческими токенами. Модель предназначена для диалога и выполнения инструкций: она может отвечать на вопросы, создавать и редактировать тексты, суммировать документы, извлекать сущности и структурированные данные, помогать с кодом и использоваться в RAG-сценариях. В карточке также заявлены перевод между греческим и английским, а также с греческого и английского на французский, немецкий, итальянский, португальский и испанский языки. Обучение включало греческие и английские инструкции и предпочтения; заявлены улучшения в греческих чат-бенчмарках относительно предыдущей версии Instruct. Модель распространяется в формате safetensors и лицензируется по условиям Llama 3.1 Community License. Как и другие генеративные языковые модели, она может выдавать фактические ошибки; качество и надёжность ответов в специализированных юридических, финансовых, медицинских и научных сценариях следует проверять отдельно.

Dolphin 2.9.2 Mixtral 8x22B — разговорная языковая модель, подготовленная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с архитектурой Mixtral MoE и классом MixtralForCausalLM; в репозитории веса представлены в safetensors. Всего указано 22 млрд параметров, базовая модель поддерживает контекст до 65 536 токенов, а дообучение выполнялось с длиной последовательности 16 000 токенов. Модель предназначена для диалогов и следования инструкциям, генерации кода и начальных агентных сценариев; также заявлена поддержка вызова функций. Обучение включало SystemChat 2.0, созданный для следования системным инструкциям в продолжительных беседах, и другие наборы диалоговых, кодовых и математических данных. Для взаимодействия используется шаблон ChatML. В карточке указан английский язык. Авторы характеризуют модель как uncensored и отмечают высокую готовность выполнять запросы, в том числе неэтичные; перед предоставлением пользователям может потребоваться собственный слой ограничений. Веса выпущены по лицензии Apache-2.0, допускающей коммерческое использование при соблюдении её условий.

Dolphin 2.9 Mixtral 8x22B — диалоговая модель Cognitive Computations, подготовленная Eric Hartford, Lucas Atkins и Fernando Fernandes на основе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с разреженной архитектурой Mixtral MoE, представленная в формате safetensors и предназначенная для генерации текста по инструкциям и ведения диалогов. Модель подходит для ответов на вопросы, программирования, математических задач и сценариев с вызовом функций; README также отмечает начальные агентные возможности. Она обучалась в формате ChatML, а полное дообучение проводилось на последовательностях длиной 4 тыс. токенов. Для базовой модели заявлен контекст до 64 тыс. токенов. В метаданных указан английский язык. Dolphin описана авторами как неконтролируемая модель, которая может охотно выполнять в том числе неэтичные запросы; перед предоставлением пользователям сервиса авторы рекомендуют добавить собственный слой ограничений. В данных обучения обнаружена проблема, из-за которой модель может излишне упоминать системное сообщение; README предлагает явно просить её этого не делать. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий.

Llama-Krikri-8B-Instruct — инструктивная языковая модель ILSP для общения и выполнения текстовых задач, разработанная на базе Llama-Krikri-8B-Base. Это плотная модель семейства Llama с 7,6 млрд параметров и контекстом до 131 072 токенов. Базовую модель ILSP продолжительно обучали на греческих и английских текстах, а Instruct-версию дополнительно настроили на инструкциях и диалогах на греческом и английском языках. Модель предназначена для генерации и редактирования текста, суммаризации, ответов по нескольким документам, перевода между греческим и английским, а также перевода с этих языков на французский, немецкий, итальянский, португальский и испанский. Карточка также заявляет возможности структурированного извлечения данных, программирования, использования инструментов и решения задач в юридической, финансовой, медицинской и научной областях. Веса доступны в формате safetensors; для применения авторы рекомендуют официальные квантованные версии GGUF и MLX. Лицензия — Llama 3.1 Community License. Результаты для отдельных задач могут различаться; заявленные возможности специализированных областей не заменяют экспертную проверку.

unsloth/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-GGUF — это GGUF-вариант языковой модели NVIDIA Nemotron 3.5 Lightning, разработанной NVIDIA Corporation. Модель предназначена для генерации текста и кода, создания специализированных AI-агентов, а также для постобучения, адаптации под предметные области, дистилляции и подготовки собственных квантованных вариантов. README указывает, что исходная модель является полноточной версией BF16, а данный репозиторий предоставляет вариант GGUF. Модель использует гибридную архитектуру Mixture-of-Experts с чередованием слоёв Mamba-2 и MoE и отдельными Attention-слоями. Всего предусмотрено 30 млрд параметров, из которых активно используется 3 млрд. Контекст может достигать 1 млн токенов; для развёртывания на одной H100 рекомендуется 256 тыс. токенов. Поддерживаются английский и языки программирования, испанский, французский, немецкий, итальянский и японский. Режим рассуждений можно включать или отключать через параметр chat template. К сильным сторонам относятся высокая вычислительная эффективность благодаря MoE-подходу, большой контекст, поддержка нескольких языков и возможность настройки под конкретные задачи. Ограничения и практические требования зависят от конкретной GGUF-квантизации и аппаратной конфигурации; README не приводит сведения о размере файлов, уровнях квантизации или точных требованиях к запуску именно этого варианта. Модель распространяется по лицензии OpenMDW-1.1, которая, согласно README, допускает коммерческое использование.

casperhansen/deepseek-r1-distill-llama-70b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-70B, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработала DeepSeek-AI: она создана на базе Llama-3.3-70B-Instruct и дообучена на примерах рассуждений, сгенерированных DeepSeek-R1. Модель предназначена для текстовой генерации, диалогов и решения задач, особенно связанных с математикой, программированием и многошаговым рассуждением. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Репозиторий содержит веса в формате Safetensors с 4-битной AWQ-квантизацией; конфигурация указывает контекст до 131072 токенов и вычисления в bfloat16. Это текстовая, а не мультимодальная модель. Квантизация уменьшает требования к памяти и делает локальное развертывание практичнее, но может приводить к некоторой потере качества по сравнению с исходными весами; для полноценного запуска всё равно требуются значительные вычислительные ресурсы. Исходная DeepSeek-R1-Distill-Llama-70B показывает сильные результаты в математике, кодировании и задачах рассуждения, однако официальные показатели относятся к исходной, а не обязательно к данной AWQ-версии. Репозиторий производной модели указывает лицензию MIT. При этом исходная модель базируется на Llama-3.3-70B-Instruct, для которой также действуют условия лицензии Llama 3.3.

GPT-5.4 Pro — модель OpenAI на базе унифицированной архитектуры GPT-5.4, рассчитанная на сложные задачи, требующие усиленного рассуждения и надёжности. Она предназначена для сценариев с большим объёмом контекста и высокими требованиями к качеству ответов. В README указано контекстное окно более 1 млн токенов: до 922 тыс. токенов на вход и 128 тыс. на выход. Данных о языках, лицензии и других модальностях в доступном фрагменте нет.

Granite-3.1-3B-A800M-Base — базовая языковая модель IBM Granite Team для генерации текста и задач преобразования текста. Это декодерный разреженный Transformer с архитектурой Mixture of Experts (MoE), доступный в формате safetensors и содержащий 352,3 млн параметров. Модель расширяет контекст Granite-3.0-3B-A800M-Base с 4K до 128K токенов; для адаптации к длинному контексту использовалось дополнительное обучение примерно на 500 млрд токенов. Модель предназначена для суммаризации, классификации и извлечения информации из текста, ответов на вопросы, а также как основа для специализированного дообучения. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель выпущена IBM под лицензией Apache 2.0. Модель не прошла выравнивание по безопасности и может выдавать проблемный или недостоверный текст; для небольшой модели также отмечен риск дословного воспроизведения обучающих данных. Как базовая модель, она может требовать дообучения под конкретные инструкции и сценарии.

Camel-Doc-OCR-062825 — дообученная PrithivMLmods модель на базе Qwen2.5-VL-7B-Instruct для распознавания и анализа документов. Она принимает изображения и текстовые запросы, извлекает содержимое и структурированные сведения, связывает элементы документа и отвечает на вопросы по его содержимому. Модель ориентирована на работу с таблицами, графиками, математическими выражениями, сложной разметкой страниц, слайдами и мультимодальными материалами; заявлены также понимание видео и визуально управляемое взаимодействие с устройствами. Модель построена на плотной мультимодальной архитектуре Qwen2.5-VL и содержит 7,1 млрд параметров. Базовая модель поддерживает контекст до 128 000 токенов. В карточке заявлена работа с несколькими языками, но отмечена переменная точность для редких языков и письменностей. Модель выпущена в формате Safetensors и распространяется по лицензии Apache-2.0. Среди ограничений — снижение качества на нечетких или частично закрытых изображениях, высокие требования к ресурсам и возможные галлюцинации. Длительная обработка видео требует значительной памяти; потоковая работа не оптимизирована.

dots.mocr-GGUF — это GGUF-сборка мультимодальной OCR-модели dots.mocr, разработанной rednote-hilab и основанной на dots-studio/dots.mocr. Модель предназначена для анализа изображений документов, распознавания текста, определения структуры и компоновки страниц, извлечения таблиц и формул, обработки веб-страниц, поиска текста на сценах и визуального ответа на вопросы. Она также поддерживает структурированный вывод JSON с ограничивающими рамками и категориями элементов макета. Модель построена на vision-language основе примерно с 3 млрд параметров и объединяет обнаружение макета, распознавание содержимого, семантическое понимание, grounding, разбор структурированной графики и интерактивный диалог. Поддерживается более 100 языков, включая английский и китайский, а также многоязычные документы. Для диаграмм, пользовательских интерфейсов, научных иллюстраций, химических формул и логотипов предусмотрена генерация SVG; для этой задачи упоминается специализированная модель dots.mocr-svg. Доступны варианты GGUF с точностью от BF16/F16 до различных уровней квантования размером примерно от 861 МБ до 3,56 ГБ, а также мультимодальные проекторы. Запуск заявлен через llama.cpp, HuggingFace Transformers и vLLM. К сильным сторонам относятся широкий набор задач в одной модели, многоязычность, работа с разными типами документов и высокая заявленная результативность на OmniDocBench, olmOCR-bench и XDocParse для своего класса. Ограничения включают зависимость качества от варианта квантования и вычислительных ресурсов, а также отсутствие в README подробностей о точном размере контекста, требованиях к памяти и отдельных характеристиках архитектуры. Модель распространяется по лицензии MIT.

dots.ocr-1.5 — мультимодальная модель для распознавания текста и разбора документов, опубликованная под идентификатором MdMonsur/dots.ocr-1.5. В README описана архитектура из визуального энкодера на 1,2 млрд параметров и языковой модели на 1,7 млрд параметров; метаданные указывают 1,5 млрд параметров, архитектуру dots_ocr и контекст 131072 токена. Модель принимает изображения документов и веб-экранов, извлекает текст и структуру, включая расположение элементов, таблицы и формулы. Она также распознаёт текст на изображениях и объектах, отвечает на вопросы по изображениям и преобразует диаграммы, графики и другие структурированные визуальные элементы в SVG-код. README заявляет поддержку широкого набора письменностей; метаданные отмечают английский, китайский и многоязычный режимы. Модель подходит для автоматизации оцифровки документов, веб-страниц и визуальных материалов. README отмечает, что сложные таблицы и формулы остаются трудными, разбор графики в SVG может быть нестабильным, а ошибки парсинга всё ещё возможны. Лицензия — MIT.

SKT AI LABS представила SKT-NRS/NRS_QWEN_MYTHOS_1M — дообученную модель на архитектуре Qwen3.5-9B для диалогов, рассуждений и генерации текста. Карточка заявляет контекст до 1 048 576 токенов с масштабированием YaRN и настройку на примерах по программированию, математике и логике. Метаданные также указывают поддержку изображений в базовой мультимодальной архитектуре Qwen, хотя описание модели сосредоточено на текстовых сценариях. Модель предназначена для анализа длинных документов и кодовых баз, пошаговых рассуждений, программирования и вызова инструментов, включая Python и веб-поиск. Заявлены диалоговый режим и оптимизация инференса, однако сведения о скорости и стократном повышении качества являются утверждениями авторов без приведённых сравнительных результатов. Для обработки вывода могут потребоваться специальные меры из-за блоков <think>; критические ответы следует проверять из-за риска галлюцинаций. Лицензия в предоставленных данных не указана.

Qianfan-VL-70B — мультимодальная модель компании Baidu для работы с изображениями и текстом. Она сочетает языковую модель архитектуры Llama 3.1 с визуальным энкодером на основе InternViT и обучена для общих мультимодальных задач с усиленными возможностями распознавания текста и анализа документов. Модель рассчитана на контекст до 32 тысяч токенов и поддерживает динамическое разбиение изображений на фрагменты с разрешением до 4K. Она подходит для распознавания рукописного и печатного текста, извлечения структуры документов, анализа таблиц и графиков, ответов на вопросы по изображениям, а также визуальных и математических рассуждений. Опциональный режим Layout-as-Thought формирует промежуточное структурированное представление расположения элементов и порядка чтения. Модель принимает текст и изображения и выдаёт текстовые ответы; заявленная поддержка языков включает китайский и английский. README приводит сравнительные результаты на нескольких мультимодальных бенчмарках, но эти показатели не гарантируют качество на конкретных данных. Модель распространяется по лицензии MIT. Она имеет 70 млрд параметров, поэтому для развёртывания требуются значительные вычислительные ресурсы.

Satella-30B-A3B — разреженная языковая модель семейства Atem, дообученная EphAsad на базе Qwen/Qwen3-30B-A3B. Это архитектура Qwen3 MoE с 30,5 млрд параметров, из которых активируется около 3,3 млрд на токен; обучение выполнено одним проходом с LoRA в BF16. Модель поддерживает диалог, интерфейс вызова инструментов и режимы с явным рассуждением и без него. Контекст модели — до 40 960 токенов. Модель предназначена для многошаговых математических и логических задач, генерации и отладки кода, технических объяснений, аналитических сравнений и выполнения сложных инструкций. В обучающую смесь вошли данные по программированию, рассуждениям, математике, медицине и диалогам; карточка указывает английский язык. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория. Модель не имеет доступа к актуальным данным и не является поисковой системой. Ответы по медицинским, юридическим, финансовым и другим критически важным вопросам требуют независимой проверки; заявленные возможности и качество основаны на описании автора.

DeepSeek-R1-Distill-Llama-8B-unsloth-bnb-4bit — это 4-битная динамически квантизированная версия DeepSeek-R1-Distill-Llama-8B, подготовленная Unsloth на базе модели DeepSeek-R1 от DeepSeek AI. Модель относится к семейству больших языковых моделей на архитектуре Llama и предназначена для работы через библиотеку Transformers. Модель ориентирована на задачи рассуждения, включая решение математических задач, генерацию и анализ кода, а также другие сценарии, требующие пошагового вывода. Указан английский язык. Размер базовой модели составляет 8B параметров; модальность — текстовая. Длина контекста в предоставленных данных не указана. Ключевое преимущество версии — динамическое 4-битное квантование Unsloth, при котором отдельные параметры выборочно не квантуются для сохранения более высокой точности по сравнению со стандартным 4-битным квантованием. Это снижает требования к памяти и упрощает локальный запуск, однако квантизация может влиять на качество по сравнению с полноразмерной версией. Сведения о точных ограничениях, показателях производительности и рекомендуемых аппаратных требованиях не приведены. Модель распространяется по лицензии Llama 3.1.

Карточка модели nicoboss/dolphin-2.9.3-mistral-nemo-12b-llamacppfixed на Hugging Face совпадает с карточкой dphn/dolphin-2.9.3-mistral-nemo-12b, поэтому описание составлено по ней. Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

Shining Valiant 3 — модель Valiant Labs, дообученная на базе mistralai/Ministral-3-14B-Reasoning-2512. Это плотная модель семейства Mistral 3 для генерации текста, диалога и рассуждений. Разработчики позиционируют её как помощника для научных задач, проектирования ИИ, программирования и общего решения сложных задач; обучение включало научные данные для рассуждений, созданные с помощью DeepSeek R1 0528. Модель рассчитана на диалог и следование инструкциям, а также на творческие и аналитические задачи. Карточка сообщает о поддержке английского языка. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. В README не приведены данные о числе параметров сверх идентификатора базовой модели или о длине контекста. Утверждения о высокой скорости и работе на настольных и мобильных устройствах приведены разработчиком без количественных характеристик.

Shining Valiant 3 — дообученная Valiant Labs модель для научных задач, проектирования систем ИИ и рассуждений общего назначения, созданная на базе Qwen3-4B. Это плотная причинная языковая модель с 3,7 млрд параметров, рассчитанная на генерацию текста, диалоги, следование инструкциям, написание кода и пошаговое решение сложных задач. Для диалогов разработчик рекомендует включать режим рассуждений; модель использует формат запросов Qwen 3 и поддерживает контекст длиной до 40 960 токенов. Модель обучали на данных научных рассуждений, сгенерированных DeepSeek R1 0528, а также на сложных примерах рассуждений об ИИ. Она предназначена для локального запуска на настольных компьютерах и мобильных устройствах, а также для быстрой серверной инференции. Доступна в формате Safetensors и распространяется по лицензии Apache 2.0. Карточка описывает специализацию на рассуждениях и решение задач, но не приводит результатов сравнительных оценок качества.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — большая языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметной области, исследований и подготовки производных вариантов для развёртывания. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и Attention; в модели 30 млрд параметров, из которых активно используются около 3 млрд, а также предусмотрены слои Multi-Token Prediction. В метаданных указано 1,9 млрд параметров и контекст 262 144 токена; README сообщает о поддержке контекста до 1 млн токенов. Модель подходит для создания чат-ботов и агентных систем, генерации и анализа кода, решения задач на рассуждение, работы с длинными текстами и использования интерфейса вызова инструментов. Основной язык — английский; также заявлена поддержка испанского, французского, немецкого, итальянского и японского. README описывает модель как пригодную для коммерческого использования, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией репозитория. Для оптимизированного инференса автор рекомендует отдельный NVFP4-выпуск.

duyntnet/Phi-3-mini-128k-instruct-imatrix-GGUF — это набор пере-квантизированных GGUF-файлов модели Phi-3 Mini-128K-Instruct, разработанной Microsoft и повторно опубликованной пользователем duyntnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, решения задач и работы с длинным контекстом. Указана поддержка английского языка и текстовой модальности. Версия ориентирована на улучшенное понимание кода на Python, C++, Rust и TypeScript, более структурированные ответы, многоэтапное следование инструкциям, рассуждения и обработку длинного контекста. В README заявлена длина контекста 128K токенов; также указано, что модель поддерживает системный тег <|system|>. Формат GGUF позволяет запускать её через llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama. Данные о точной архитектуре, количестве параметров и конкретных вариантах квантизации не приведены, поэтому характеристики производительности и требования к ресурсам определить нельзя. Модель подходит для локального запуска, чат-ассистентов, генерации и анализа текста, программирования и сценариев, требующих обработки больших документов или продолжительного диалога. Ограничения включают отсутствие заявленной поддержки других языков, а также возможные потери качества, связанные с квантизацией. Лицензия обозначена как other, но её условия в README не раскрыты; перед использованием необходимо ознакомиться с лицензией исходной модели и опубликованного набора файлов.

Qwen3.6-27B Claude Opus Reasoning Distilled — текстовая модель на 27 млрд параметров, дообученная Rico03 на базе Qwen/Qwen3.6-27B. Разработчик сообщает, что обучение проведено на примерно 14 тысячах примеров с цепочками рассуждений Claude Opus и Qwen; модель распространяется в формате safetensors по лицензии Apache-2.0. Модель предназначена для генерации ответов в диалоге и задач, требующих структурированного анализа: программирования, математики, логики и решения аналитических задач. Дообучение направлено на более последовательную декомпозицию сложных запросов и сокращение повторяющихся рассуждений на простых задачах. Метаданные также отмечают интерфейс вызова инструментов. Модель унаследовала от базовой Qwen заявленные возможности работы с изображениями, однако автор указывает, что дообучение проводилось только на текстовых данных и не адаптировало зрительные способности. Модель поддерживает английский и многоязычный ввод, но конкретный перечень языков в карточке не приведён. Контекстное окно не указано. Возможны фактические ошибки, поскольку это авторегрессионная языковая модель; обучение в течение одной эпохи на ограниченном наборе примеров также может влиять на качество в отдельных сценариях.

Nanonets-OCR2-3B-AIO-GGUF — мультимодальная модель для OCR и понимания документов, разработанная на базе nanonets/Nanonets-OCR2-3B и архитектуры Qwen2.5-VL-3B. Модель преобразует изображения документов в структурированный Markdown и поддерживает многоязычные сценарии обработки. Она предназначена для распознавания текста, таблиц в Markdown и HTML, формул LaTeX, блок-схем в формате Mermaid, подписей, водяных знаков, флажков и рукописных документов. Также заявлена поддержка visual question answering, включая ответы на вопросы по содержимому документов. Возможные области применения — оцифровка юридических, медицинских, финансовых и технических материалов, а также извлечение структурированных данных из неструктурированных источников. Модель содержит около 3 миллиардов параметров, имеет контекстное окно до 125 тысяч токенов и распространяется в формате GGUF с вариантами квантования от низкоразмерных IQ- и Q-квантов до F16. Это позволяет выбирать компромисс между размером файлов, требованиями к ресурсам и качеством вывода; при этом README не содержит количественных оценок качества и подробностей об ограничениях. Лицензия в предоставленных данных не указана.

OpenChat-3.5-0106 — диалоговая языковая модель, разработанная командой OpenChat и опубликованная в репозитории CallComply. Это дообученная на базе Mistral-7B-v0.1 плотная модель класса MistralForCausalLM с 7,1 млрд параметров, предназначенная для генерации текста и общения в формате чата. Контекст модели составляет до 32 769 токенов по метаданным Hugging Face. Модель подходит для ответов на вопросы, написания и анализа кода, общих диалоговых задач и математических рассуждений. В README описаны два режима: общий режим для общения и программирования и режим математических задач; также заявлена экспериментальная поддержка оценки ответов и обратной связи. Русский язык среди явно перечисленных языков не подтверждён. Вес опубликован в формате Safetensors и доступен по лицензии Apache-2.0. README содержит инструкции по развёртыванию через OpenChat и совместимый с OpenAI API сервер на базе vLLM. Приведённые в карточке оценки отражают результаты конкретных бенчмарков и не гарантируют качество на произвольных запросах.

Qwen3.6-28B — производная модель 0xSero на основе Qwen/Qwen3.6-35B-A3B, сокращённая методом REAP с последующим дообучением LoRA на открытых рассуждениях Claude Opus. Это причинная языковая модель семейства Qwen3.5 MoE для генерации текста и диалогов. После удаления 20% экспертов в каждом слое осталось около 28 млрд параметров, из которых активны примерно 3 млрд. Веса представлены в BF16; исходная архитектура имеет 40 слоёв и MoE-маршрутизацию. Модель предназначена для диалогов, задач на рассуждение и программирование, а также создания структурированных ответов, например JSON и Mermaid. В README заявлена калибровка с избытком примеров структурированного вывода, поэтому такие сценарии могли повлиять на сохранённые экспертовые способности. Указаны лицензия Apache-2.0 и библиотека Transformers. Оценки качества в карточке представлены шаблонными значениями, поэтому по ним нельзя судить о сравнительной производительности. Для задач в стиле GSM8K точность зависит от наличия достаточного бюджета токенов для цепочки рассуждений; калибровка структурированного вывода переориентирована на JSON и Mermaid. Поведение отказов унаследовано от базовой модели и дообучения.

Zrald/Zrald-AI-model-quant-qwen-3.8-27b — набор GGUF-квантований Qwen3.8-27B, опубликованный Zrald для локального запуска через llama.cpp. Это плотная модель на 27 млрд параметров, дообученная на базе Qwen/Qwen3.8-27B; репозиторий предлагает три варианта с разным балансом размера, скорости и сохранения качества. README описывает применение для диалогов, программирования, рассуждений и инструктивных задач. Варианты занимают от 10,18 до 17,08 ГиБ; заявлены сценарии запуска на видеокартах с 12, 16 и 24 ГБ памяти, а для старшего варианта — контекст до 32 тысяч токенов. Автор сообщает о тестировании на AMD Instinct MI300X и совместимости с llama.cpp. Лицензия — Apache-2.0. Это текстовая модель генерации; мультимодальные функции базовой модели в карточке этого репозитория не заявлены.

Falcon OCR — модель TII для распознавания текста и разбора документов по изображению. Это компактная модель на 270 млн параметров с ранним слиянием визуальных и текстовых токенов: единый Transformer обрабатывает патчи изображения и текст в общем пространстве параметров, используя двунаправленное внимание для изображения и причинное декодирование текста с учётом изображения. Модель извлекает обычный текст, формулы в LaTeX и таблицы в HTML; промпты позволяют выбирать категории элементов страницы. Она рассчитана на сканы, фотографии документов, чеки, рукописные заметки, формы, журналы и другие материалы. Для большинства страниц рекомендуется сквозной OCR; для очень плотных многоколоночных страниц доступен двухэтапный сценарий с детектором макета PP-DocLayoutV3. Версия 1.5 дообучена с GRPO для улучшения работы с реальными документами, сложными таблицами, рукописным текстом и деградированными сканами, а также для снижения галлюцинаций и повторов. Компактный размер помогает снизить задержку и стоимость обслуживания; в описанной авторами конфигурации vLLM пропускная способность может быть в 2–3 раза выше, чем у OCR VLM размером около 0,9 млрд параметров, в зависимости от длины последовательностей и пакетирования. Для запуска требуются PyTorch 2.5 или новее и Transformers. Лицензия — Apache-2.0.

Vikneshwaran/gemma_4_tau2_retail — репозиторий модели семейства Gemma 4, разработанного Google DeepMind. Карточка описывает Gemma 4 как мультимодальную модель для понимания изображений и генерации текста; семейство также предназначено для диалогов, рассуждений, программирования, суммаризации и агентных сценариев с вызовом инструментов. Архитектура указана как плотная Gemma4ForConditionalGeneration, веса опубликованы в формате safetensors. Размер и длина контекста конкретно этого чекпойнта не установлены в предоставленных данных; README приводит разные варианты размеров и контекста для семейства в целом. Модель может быть полезна для визуального анализа изображений, извлечения текста и сведений из документов, ответов на вопросы по изображению и генерации текста по запросу. Gemma 4 поддерживает более 140 языков при обучении, а README указывает поддержку более 35 языков для использования. Лицензия — Apache 2.0. Данные карточки не уточняют, чем этот репозиторий отличается от базовой модели Gemma 4 и какие возможности семейства доступны именно в данном варианте.