I.11Классификация, ранжирование и сопоставление

Карточка модели neuralforgequantum/NuExtract3 на Hugging Face совпадает с карточкой numind/NuExtract3, поэтому описание составлено по ней. NuExtract3 — мультимодальная модель NuMind с 4 млрд параметров для понимания документов. Она дообучена на базе Qwen/Qwen3.5-4B и использует архитектуру Qwen3.5 для обработки текста и изображений. Модель поддерживает многоязычные документы и может работать в режимах с рассуждением и без него. Модель извлекает сведения из документов по заданному JSON-шаблону и инструкциям, преобразует изображения документов в Markdown, распознаёт текст и структуру таблиц, а также генерирует шаблоны извлечения по описанию на естественном языке. Её можно применять для подготовки документов к поиску и RAG, обработки счетов, квитанций, форм и договоров; README описывает запуск через vLLM с OpenAI-совместимым API и напрямую через Transformers. Внутренний тест NuMind на примерно 600 документах оценивает структурированное извлечение, включая визуальное понимание, OCR и работу с длинными входами и выходами; опубликованная в карточке таблица сообщает средний балл 0,651 для NuExtract3.4_4B-RL, а не явно для NuExtract3. Ограничения включают возможность циклов повторения и превышения лимита генерации в режиме рассуждения, из-за чего ответы могут не разбираться как JSON. Модель распространяется по лицензии Apache-2.0.

NuExtract3 — мультимодальная модель NuMind с 4 млрд параметров для понимания документов. Она дообучена на базе Qwen/Qwen3.5-4B и использует архитектуру Qwen3.5 для обработки текста и изображений. Модель поддерживает многоязычные документы и может работать в режимах с рассуждением и без него. Модель извлекает сведения из документов по заданному JSON-шаблону и инструкциям, преобразует изображения документов в Markdown, распознаёт текст и структуру таблиц, а также генерирует шаблоны извлечения по описанию на естественном языке. Её можно применять для подготовки документов к поиску и RAG, обработки счетов, квитанций, форм и договоров; README описывает запуск через vLLM с OpenAI-совместимым API и напрямую через Transformers. Внутренний тест NuMind на примерно 600 документах оценивает структурированное извлечение, включая визуальное понимание, OCR и работу с длинными входами и выходами; опубликованная в карточке таблица сообщает средний балл 0,651 для NuExtract3.4_4B-RL, а не явно для NuExtract3. Ограничения включают возможность циклов повторения и превышения лимита генерации в режиме рассуждения, из-за чего ответы могут не разбираться как JSON. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия языковой модели Qwen3-Nemotron-32B-RLBFF, разработанной NVIDIA. Квантизацию выполнил пользователь bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Доступны варианты от BF16 и Q8_0 до низкобитных форматов Q6_K, Q5_K_M, Q4_K_M, Q3_K и IQ-семейства. Размер файлов варьируется примерно от 14,93 до 65,53 ГБ; Q4_K_M указан как вариант по умолчанию для большинства сценариев, а Q5 и Q6 — как варианты с более высоким качеством. Некоторые версии используют Q8_0 для embedding- и output-весов, а отдельные форматы ориентированы на ARM, AVX или Apple Silicon. Модель подходит для локальной текстовой генерации при наличии значительного объёма оперативной или видеопамяти. Чем агрессивнее квантизация, тем меньше требования к памяти, но тем ниже потенциальное качество. В README не указаны архитектурные детали, поддерживаемые языки, размер контекста, мультимодальные возможности и лицензия, поэтому эти характеристики нельзя достоверно определить по представленным данным.

OmniBeagleSquaredMBX-v3-7B — слитая текстовая модель, созданная paulml с помощью LazyMergekit из paulml/OmniBeagleMBX-v3-7B и flemmingmiguel/MBX-7B-v3. Она предназначена для генерации текста и может использоваться в диалоговых и других сценариях, где требуется продолжать или создавать текст по текстовому запросу. Модель построена на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для слияния применён метод SLERP; файлы опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.

Это GGUF-квантизация языковой модели gpt-oss-20b, разработанной OpenAI и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В репозитории представлены варианты квантизации MXFP4, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ, размером примерно от 11,56 до 12,1 ГБ. Во всех вариантах feed-forward сети сохранены в формате MXFP4, поскольку, согласно описанию, они плохо работают при использовании других форматов. Рекомендуется файл gpt-oss-20b-MXFP4.gguf размером 12,1 ГБ; квантизация выполнена с использованием imatrix и набора данных combined_all_medium. README не содержит сведений о числе параметров архитектуры, поддерживаемых языках, модальностях и размере контекста. Также не указана лицензия этой квантизированной версии; условия использования следует уточнять по карточке исходной модели OpenAI. Шаблон чата в README не задан и может требовать проверки по оригинальной карточке модели.

Perseus-Doc-vl-0712-i1-GGUF — это квантованные файлы GGUF базовой визуально-языковой модели Perseus-Doc-VL-0712, разработанной prithivMLmods и подготовленной к квантованию пользователем mradermacher. Модель предназначена для работы с документами и изображениями: распознавания текста, интеллектуального распознавания рукописного текста, анализа PDF и других визуальных данных, генерации подписей и преобразования изображений в текст. Доступны mmproj-файлы для мультимодального режима. В README указана поддержка английского и китайского языков. Архитектура, число параметров, размер контекста и точный набор поддерживаемых входных форматов не раскрыты. Репозиторий содержит варианты квантования от 2,0 до 6,4 ГБ; более компактные варианты требуют меньших ресурсов, но могут заметно уступать по качеству, тогда как Q4_K_M отмечен как быстрый и рекомендуемый вариант. Основные ограничения — отсутствие подробных количественных оценок, сведений о производительности и характеристиках базовой модели в карточке данного репозитория. Модель распространяется по лицензии Apache-2.0. Указанные в README датасеты включают OpenDoc-Pdf-Preview, Corvus-OCR-Caption-Mix, Openpdf-Analysis-Recognition и Opendoc2-Analysis-Recognition.

ClaudioItaly/Phatos-V.3 — слитая текстовая модель на архитектуре Mistral, созданная ClaudioItaly с помощью mergekit методом TIES. В качестве базовой модели использована ClaudioItaly/TopEvolutionWiz; в слияние также вошли Gille/StrangeMerges_32-7B-slerp, Kukedlc/NeuralContamination-7B-ties и Kukedlc/NeuralTopBench-7B-ties. Модель содержит 7,1 млрд параметров, работает с текстом и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста и может применяться для диалогов, подготовки развернутых ответов на вопросы и других текстовых задач общего назначения. Файлы опубликованы в формате safetensors для библиотеки Transformers. Лицензия и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

QuantFactory/Phi-3-mini-4k-geminified-GGUF — квантизированная версия модели failspy/Phi-3-mini-4k-geminified, созданная с использованием llama.cpp. Исходная модель основана на Microsoft Phi-3-mini-instruct и подвергнута ортогонализации весов в формате bfloat16 safetensors по методологии, связанной с исследованием о механизмах отказа больших языковых моделей. Автором исходной модификации указан failspy; QuantFactory подготовила версию GGUF. Модель предназначена для генерации текста и, согласно метаданным, обработки естественного языка и кода. Заявлена поддержка multilingual-сценариев. В карточке упоминается контекст 4K в названии производной модели, однако в описании исходной модели также указано Phi-3-mini-128k-instruct, поэтому точный размер контекстного окна именно этой сборки неоднозначен. Архитектура и точное количество параметров не указаны; формат GGUF ориентирован на локальный inference через совместимые инструменты. К потенциальным сильным сторонам относятся компактность исходного семейства Phi-3-mini, возможность локального запуска в квантизированном формате и поведение, изменённое в сторону меньшего количества стандартных отказов. Ограничения включают неполную информацию о типе и уровне квантизации, неоднозначность относительно контекстного окна и отсутствие результатов бенчмарков. Модель распространяется по лицензии MIT; в README приведена ссылка на лицензию Microsoft Phi-3-medium-4k-instruct.

Phi-4-MedIT-10B-o1 — языковая модель для генерации текста и решения задач, требующих рассуждений. По карточке, модель создана на основе Phi-4: её сократили с 14 млрд до примерно 10 млрд параметров методом прореживания MKA2G и дообучили за одну эпоху на данных для рассуждений. В метаданных указаны плотная архитектура семейства Llama, реализация LlamaForCausalLM и контекст до 16 384 токенов. Модель предназначена для диалогового применения, задач на рассуждения и интеграции с ReasonFlow. Основной язык обучения — английский; карточка предупреждает о снижении качества на других языках. Репозиторий содержит веса в форматах Safetensors и GGUF, а лицензия — MIT. Ответы могут быть неточными или выдуманными, а также содержать предвзятость или нежелательный контент; для чувствительных сценариев нужна дополнительная проверка.

Qwen2.5-32B-ArliAI-RPMax-v1.3-GGUF — это GGUF-квантизации текстовой генеративной модели Qwen2.5-32B-ArliAI-RPMax-v1.3, разработанной ArliAI. Квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix; модель предназначена для локального запуска и генерации текста, в том числе через LM Studio. Для работы используется формат диалогового промпта с ролями system, user и assistant. Модель имеет размер 32B параметров и доступна в вариантах от исходных весов F16 размером около 65,54 ГБ до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ. В README указаны размеры файлов, приблизительные характеристики качества и варианты, оптимизированные для ARM-процессоров. Наиболее качественными названы F16, Q8_0 и Q6_K_L/Q6_K; Q4_K_M обозначен как вариант типового размера для большинства сценариев, а низкоразрядные варианты подходят системам с ограниченным объёмом оперативной памяти. Сильная сторона набора — широкий выбор компромиссов между качеством, размером и требованиями к оборудованию, а применение imatrix должно помогать сохранять качество при квантизации. Ограничения включают значительные требования к памяти даже для компактных вариантов; некоторые ARM-оптимизированные файлы требуют поддержки sve или i8mm и не предназначены для Mac или Windows. Сведения о языках, длине контекста, точной архитектуре, мультимодальности и специализированных возможностях в README не указаны. Лицензия — Apache-2.0.

Theros/Qwen2.5-ColdBrew-R1-test — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом Model Stock. В объединении использованы SvalTek/Qwen2.5-ColdBrew, bunnycore/Qwen-2.5-7B-R1-Stock и fblgit/cybertron-v4-qw7B-UNAMGS; базовой моделью и источником токенизатора указана SvalTek/Qwen2.5-ColdBrew. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый сценарий и имеет контекст до 131072 токенов. Она предназначена для генерации ответов и ведения текстовых диалогов. В карточке не приведены результаты сравнительных оценок качества, поэтому пригодность для конкретных задач следует проверять отдельно. Файлы представлены в формате safetensors, библиотека — Transformers; лицензия в доступных данных не указана.

MLX-версия модели Qwen3-14B, разработанной командой Qwen и преобразованной сообществом mlx-community из исходной модели Qwen/Qwen3-14B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и может применяться в сценариях диалогового взаимодействия и других задачах, требующих текстовой генерации, включая локальный запуск через библиотеку MLX. Модель имеет размер 14 миллиардов параметров и представлена в 8-битном формате квантования. Она работает с текстовой модальностью; поддержка конкретных языков и размер контекстного окна в предоставленных данных не указаны. Для использования предусмотрена библиотека mlx-lm и чат-шаблон токенизатора, если он доступен. К сильным сторонам относятся адаптация к экосистеме MLX и уменьшенный объём хранения и требования к памяти благодаря 8-битному представлению. Ограничения включают зависимость от MLX и отсутствие в README подробных данных о результатах оценки, языковых возможностях и контексте. Модель распространяется по лицензии Apache-2.0.

k1nto/Qwen3-14B-Q5_K_M-GGUF — это квантизированная версия базовой модели Qwen/Qwen3-14B, преобразованная пользователем k1nto в формат GGUF с использованием llama.cpp и сервиса GGUF-my-repo от ggml.ai. Модель предназначена для генерации текста и запуска локального вывода через llama.cpp, включая режим командной строки и серверный режим. Известно, что модель содержит около 14 миллиардов параметров и использует квантизацию Q5_K_M, которая уменьшает требования к памяти по сравнению с полноразмерной версией, сохраняя значительную часть качества. Поддерживаются сценарии диалога, дополнения текста и другие задачи генерации, совместимые с базовой моделью Qwen3-14B. Точные архитектурные особенности, список языков и размер контекстного окна в представленном README не указаны. Преимуществами являются компактный GGUF-формат, совместимость с llama.cpp и возможность локального запуска на подходящем CPU или GPU. Ограничения включают потенциальную потерю качества из-за квантизации, зависимость от настроек и аппаратных ресурсов, а также отсутствие в README подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

litert-community/Qwen3-4B — это оптимизированный для локального запуска вариант языковой модели Qwen3-4B, разработанный сообществом LiteRT и основанный на контрольной точке Qwen/Qwen3-4B от команды Qwen. Модель предназначена для генерации текста на устройствах, включая настольные GPU и Android-устройства, и интегрируется через LiteRT-LM. В репозитории доступны артефакты с channel-wise INT8-квантованием весов и float32 KV-кэшем размером 5,28 ГБ, а также смешанный вариант TorchAO mixed INT4 размером около 2,54 ГиБ с контекстом 2048 токенов. В INT4-варианте линейные проекции используют блочное INT4-квантование с размером группы 32, эмбеддинги — weight-only INT8, а нормализация, операции редукции и KV-кэш сохраняются в формате с плавающей точкой. Для внимания и работы с кэшем применяются StableHLO composite ops LiteRT-LM. Модель подходит для автономной генерации текста и встраивания в приложения, где важны локальная обработка и сниженные требования к памяти. README указывает английский язык, но не сообщает полный языковой охват, точную архитектуру исходной Qwen3-4B или другие модальности. Производительность зависит от устройства, версии runtime, backend, квантования и теплового состояния; приведённые результаты являются измерениями авторов и не представляют независимую сертификацию. Лицензия — Apache-2.0.

Youssofal/Qwen3.5-9B-MTPLX-Optimized-Speed-FP16 — языковая модель для генерации текста, опубликованная пользователем Youssofal и основанная на семействе Qwen3.5-9B. Она предназначена для локального запуска на компьютерах Apple с чипами Apple Silicon через MTPLX, включая сценарии интерактивного общения, генерации текста и работы локального сервера с OpenAI-совместимым API. Модель оптимизирована для Multi-Token-Prediction speculative decoding. Основная часть модели использует 6-битное MLX affine-представление, а боковой модуль MTP применяется для спекулятивного декодирования. Упакованные квантованные тензоры сохраняются без повторной квантизации, а плавающие тензоры BF16 преобразованы в FP16 для совместимости с предпочтительным режимом работы на Mac с чипами M1 и M2. Рекомендуемый профиль — sustained, глубина по умолчанию — D2, бэкенд — qwen3-next-mtp. Заявленные показатели исходного артефакта достигают 101,32 токена в секунду в режиме D2, однако для FP16-варианта эти значения приведены как ориентир, а не как гарантированный результат. Сильная сторона модели — сочетание компактного квантованного представления, ускоренного декодирования и адаптации к старым поколениям Apple Silicon. Ограничения включают неполноценную точность по сравнению с full-precision checkpoint, зависимость производительности от устройства и среды MTPLX, а также отсутствие в README сведений о поддерживаемых языках, размере контекстного окна и точной архитектуре базовой модели. Лицензия — Apache 2.0.

Qwen3.8-27B-abliterated-GPTQ-Pro — это опубликованный groxaxo квантизованный чекпойнт на базе huihui-ai/Huihui-Qwen3.8-27B и Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, разговорных сценариев, локального и размещённого инференса, открытых оценок и воспроизводимых экспериментов. Название указывает на lineage с изменённым или сниженным уровнем фильтрации, однако не гарантирует полностью неограниченное поведение. Модель использует формат GPTQ-Pro с симметричной 4-битной квантизацией, размером группы 64 и пресетом quality. Квантизации подвергнуты 400 линейных модулей в 64 слоях; MTP-голова сохранена без квантизации для speculative decoding. Указана архитектура с 48 слоями linear attention GDN и 16 слоями full attention, а также поддержка MTP. Для обслуживания рекомендуется vLLM с tensor parallelism; документация описывает конфигурацию на двух RTX 3090. В репозитории также заявлен контекст до 260 000 токенов, но фактические требования зависят от оборудования, размера KV-кэша и числа одновременных запросов. К сильным сторонам относятся сниженное потребление памяти по сравнению с полной точностью и ускорение генерации благодаря MTP: в тесте на двух RTX 3090 скорость одного потока выросла с 71,5 до 105,5 токена в секунду при greedy decoding. На одной RTX 3090 MTP-голова вместе с чекпойнтом не помещается; качество и производительность после квантизации необходимо проверять на собственных задачах. Модель может выдавать неточные или неподходящие результаты, а изменённое поведение и сниженная фильтрация требуют дополнительного тестирования и защитных мер. Лицензия — Apache-2.0. При использовании и распространении следует также проверить лицензионные условия исходных моделей и сохранять совместимые файлы конфигурации, токенизатора, процессора и весов одной ревизии.

trymirai/Qwen3.8-27B-L — это 8-битная квантизированная версия Qwen3.8-27B, подготовленная Mirai Labs для эффективного локального запуска на компьютерах Apple с Apple silicon. Модель предназначена для локального вывода в задачах генерации текста; оценочная смесь данных включала публичные агентские данные, наборы для supervised fine-tuning и работы с длинным контекстом, а также частные диалоговые данные. Квантизация выполнена после обучения с использованием симметричного 8-битного целочисленного представления, масштабов bfloat16 и размера группы 64. Для уменьшения выбросов активаций и весов применены блочно-диагональные случайные преобразования Хадамара с размером блока 32. По размеру и параметрам квантизации модель сопоставима с Unsloth UD-Q8_K_XL для GGUF. Заявлено, что чекпойнт находится на компромиссной границе между размером и KL-дивергенцией, однако конкретные показатели качества, архитектурные детали исходной модели, поддерживаемые языки и размер контекста в карточке не приведены. Основное преимущество модели — уменьшенные требования к памяти при сохранении качества, близкого к исходной Qwen3.8-27B, что делает её подходящей для локального использования на Apple silicon. Ограничение — официально поддерживается только инференс на Apple silicon; сведения о работе на других аппаратных платформах отсутствуют. Для запуска на macOS рекомендуется пакет mirai. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU-NVFP4 — это производная NVFP4-квантованная версия модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, размещённая пользователем или организацией esatapedico. Базовая модель, в свою очередь, создана на основе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста и запуска через Transformers; заявленная лицензия — Apache 2.0. Модель содержит 64 слоя и использует гибридную архитектуру с GatedDeltaNet, 16 слоями полноценного attention и MTP head для speculative decoding. Контекст составляет 262144 токена. Указана поддержка английского и многоязычного ввода, однако конкретный перечень языков не приведён. Веса линейных слоёв сжаты в формате compressed-tensors NVFP4 по схеме W4A16 с группами размера 16 и масштабами FP8 E4M3; vision tower, linear attention path, lm_head, embeddings и MTP head сохранены в BF16. Калибровочные данные не использовались. Ключевое преимущество — существенное уменьшение размера весов при сохранении отдельных чувствительных компонентов в BF16; файл checkpoint занимает около 26 ГБ. Модель рассчитана на совместимое аппаратное и программное окружение, поддерживающее формат NVFP4 и compressed-tensors, а тег blackwell указывает на ориентированность сборки на соответствующие ускорители. README не содержит результатов бенчмарков, подробных сведений о качестве, системных требованиях или подтверждениях совместимости с конкретными версиями библиотек, поэтому фактические характеристики производительности требуют отдельной проверки.

Callick99/Qwen3.8-27B-Uncensored-GGUF — это набор GGUF-квантизаций модели Qwen3.8-27B, разработанной на базе Qwen/Qwen3.8-27B и опубликованной пользователем Callick99. Модель предназначена для генерации текста и локального запуска через совместимые среды, включая llama.cpp. Доступны варианты с интегрированной MTP-головой для speculative decoding, отдельными target- и draft-файлами, а также vision-проектором для обработки изображений в совместимых runtime. Модель использует архитектуру Qwen3_5ForConditionalGeneration с 64 слоями, словарём из 248 320 токенов, одной MTP-головой и контекстом до 262 144 токенов. Заявлена поддержка английского и китайского языков; наличие vision-компонента позволяет работать с изображениями при использовании соответствующего проектора и runtime. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, занимающие примерно от 10,6 до 29 ГБ. Основная особенность сборки — существенное снижение поведения, связанного с отказами, без дополнительного обучения и изменения обучающих данных; отказы не устранены полностью. MTP и speculative decoding могут повысить скорость генерации, однако для draft-головы возможна немного меньшая частота принятия токенов. Низкобитные квантизации экономят память, но могут снижать качество, особенно IQ2_M. Модель и её возможности в остальном наследуют ограничения базовой Qwen3.8-27B. Распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next-ROCmFP4-STRIX_LEAN-GGUF — квантованная GGUF-версия модели Qwen3.8-Flash-Next, разработанная пользователем kingjones777 на базе модели Qwen/Qwen3.8-Flash-Next. Модель предназначена для генерации текста и запуска через llama.cpp-подобные среды, прежде всего на интегрированной графике AMD Ryzen AI Max+ 395 «Strix Halo» с архитектурой gfx1151 и общей памятью CPU/GPU. Указана поддержка длинного контекста; в README приведена проверка работы speculative decoding на диапазоне от 2K до 128K токенов. Точная длина контекста, число параметров и языковой охват не указаны. Модель использует архитектуру qwen4exp и типы тензоров ROCmFP4, поэтому стандартная сборка llama.cpp не подходит: требуется форк ROCmFPX с поддержкой обеих технологий и специальные патчи. Доступен режим speculative decoding через MTP-голову; на совместимой конфигурации он показал ускорение до 34% для задач рассуждения и до 11% для кода, однако на длинных документах и некоторых режимах может не давать ускорения или замедлять работу. Производительность и доступность модели существенно зависят от AMD Strix Halo, ROCm и объёма общей памяти. Модель ориентирована на сценарии локального текстового инференса, включая рассуждение, генерацию JSON, программирование и суммаризацию документов. Её сильная сторона — возможность запуска крупной модели в общей памяти интегрированного GPU; ограничениями являются специализированные требования к программному обеспечению и аппаратной платформе, а также отсутствие универсальной поддержки в стандартных рантаймах. Лицензия указана как qwen-community-1.0; модель связана с базовой моделью отношением quantized.

RLT-7B — авторегрессионная языковая модель Sakana AI с 7,1 млрд параметров, дообученная методом supervised fine-tuning на основе Qwen/Qwen2.5-7B-Instruct. Она использует подход Reinforcement-Learned Teachers: модель-учитель, оптимизированная для создания рассуждений, передаёт их навыки модели-ученику через дистилляцию. Модель предназначена для генерации текста и диалогов, включая задачи на рассуждение, математику, науку и код. Поддерживает английский и китайский языки; контекст — до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Разработчик позиционирует её как экспериментальный прототип для исследований и разработки; результаты не гарантируются, а применение в критически важных системах не рекомендуется.

TeleOCR — компактная мультимодальная модель StarDoc-AI для разбора документов по изображениям. В метаданных указаны архитектура Qwen2.5-VL, 507,9 млн параметров, контекст 128 000 токенов и библиотека Transformers; README описывает модель как примерно 1,2-миллиардную. Эти сведения о размере расходятся между источниками. Модель предназначена для извлечения текста и структуры из цифровых и снятых камерой документов, включая искажённые страницы, таблицы и формулы. В README заявлены геометрически ориентированное моделирование, автоматическая генерация и проверка обучающих данных и поэтапное обучение. Модель принимает изображения документов и формирует текстовый разбор; в метаданных также отмечена поддержка чата. Заявлены результаты на нескольких тестах разбора документов, но они приведены авторами и сами по себе не гарантируют качество на конкретных данных. Модель опубликована под лицензией Apache-2.0. Для запуска README предлагает Transformers, PyTorch и Pillow; для полного разбора документов авторы отсылают к отдельному репозиторию.

TopEvolution7RAG — созданная сообществом mergekit объединённая языковая модель на архитектуре Mistral с плотной архитектурой и примерно 7,1 млрд параметров. Веса объединены методом SLERP из DeepMount00/Mistral-RAG и mergekit-community/TopEvolutionWiz. Модель предназначена для генерации текста; базовая модель Mistral-RAG описана как дообученная для генеративных и экстрактивных ответов на вопросы по текстам, поэтому объединённая модель может подходить для ответов на вопросы и сценариев RAG. Поддерживаемый контекст — 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi/una-cybertron-7b-v2-bf16-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и fblgit/una-cybertron-7b-v2-bf16 методом SLERP; веса представлены в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста, ответов на инструкции и ведения диалога. Её можно использовать в чат-ботах и приложениях, которым нужны ответы на текстовые запросы. Заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных не указаны конкретные языки, поэтому нельзя определить, на какие языки она рассчитана. Лицензия — Apache-2.0.

Unsloth-Ornith-1.5-35B-A3B — независимая общественная GGUF-квантизация модели Ornith-1.5-35B-A3B, разработанной ornith-ai и опубликованной пользователем peculiar-ragdoll. Модель предназначена для генерации текста и запуска в llama.cpp-совместимых приложениях, включая llama.cpp, LM Studio и Ollama. Это текстовая MoE-модель архитектуры qwen35moe с конфигурацией 35B-A3B; точные сведения о языках и размере контекста в README не указаны. Набор включает несколько уровней квантизации от UD-Q2_K_XL примерно на 12 ГБ до UD-Q8_K_XL примерно на 37 ГБ. Используются покомпонентная политика Unsloth-Dynamic, свежая importance matrix, рассчитанная на смешанном многоязычном и кодовом корпусе, а также оригинальный chat template Ornith без изменений. Это позволяет выбирать баланс между размером, качеством и требованиями к VRAM: например, UD-Q4_K_XL заявлен как рекомендуемый компромисс, а UD-Q8_K_XL — как вариант, близкий к исходному качеству. К преимуществам относятся несколько вариантов для оборудования с разным объёмом памяти, калибровка под конкретную модель и сохранение поведения базовой модели. Из ограничений следует учитывать потери, характерные для квантизации, зависимость производительности от поддержки GGUF и llama.cpp-совместимого стека, а также отсутствие обученного блока MTP, который удалён из всех вариантов; по данным README, это не меняет результаты, но уменьшает размер файлов. Модель распространяется по лицензии MIT, унаследованной от Ornith-1.5; проект не является официальным выпуском Unsloth и не связан с ним.

YamshadowInex12_OgnoExperiment27 — слитая языковая модель на базе двух моделей: automerger/YamshadowInex12-7B и automerger/OgnoExperiment27-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; веса опубликованы в формате Safetensors. Модель предназначена для генерации текста и диалогов по текстовым запросам. Контекст составляет до 32 768 токенов, что позволяет работать с длинными запросами и документами. Модель размещена под лицензией Apache-2.0.

Yi-Agent-6B — двуязычная текстовая модель с генеративной архитектурой Llama, разработанная hiyouga и дообученная с помощью LLaMA-Factory. Модель содержит 5,8 млрд параметров и поддерживает контекст до 4096 токенов. Для обучения использовались наборы Alpaca, OpenAssistant и Glaive Function Calling. Модель предназначена для следования инструкциям и вызова функций в диалоговых сценариях на английском и китайском языках. Её можно запускать через REST API средствами LLaMA-Factory. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией репозитория.

YModel2-s0 — компактная плотная языковая модель, разработанная SnifferCaptain для диалогов и генерации текста. Она предназначена для ответов на вопросы, рассуждений, решения математических задач, написания кода и обычных знаний; в примерах также показаны суммаризация и создание связного текста. Модель поддерживает китайский и английский языки, имеет контекст 4096 токенов и содержит 99,3 млн параметров. В архитектуре используются PEGA2 и блоки FFN с GeGLU; автор сообщает о примерно трёхкратном ускорении относительно PEGA. Модель прошла предобучение и дообучение на наборах данных для кода, математики и диалогов. Приведённые результаты CEval и CMMLU обозначены автором как ориентировочные; примеры демонстрируют отдельные фактические ошибки и сбои в коде, поэтому ответы требуют проверки. Лицензия — MIT.

snezhanata/alpaca_v3 — генеративная языковая модель для создания и продолжения текста, размещённая на Hugging Face. По метаданным она использует экосистему Transformers и связана с семейством Ministral; сведения о разработчике в карточке модели не приведены. Модель содержит около 7,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для сценариев, где требуется генерировать связный текст или вести диалог, включая использование через совместимые инструменты Transformers и приложения на базе conversational text generation. Карточка модели не содержит описания обучающих данных, результатов оценки, поддерживаемых естественных языков, лицензии, архитектурных деталей и рекомендаций по применению. Поэтому модель следует предварительно проверять на качество, фактическую точность, устойчивость к нежелательным ответам и соответствие требованиям конкретной задачи.

AxeronAI создала axeron-mf-44 — языковую модель для генерации текста, полученную слиянием Qwen/Qwen2.5-3B и Qwen/Qwen2.5-3B-Instruct методом SLERP с коэффициентом t=0,5. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 3,1 млрд параметров и доступна в формате safetensors для библиотеки Transformers. Модель принимает текст и предназначена для диалогов и генерации ответов. Контекстное окно составляет 32 768 токенов. В карточке не приведены результаты оценки качества или подтверждённый перечень языков; базовая линейка Qwen2.5 многоязычна. Лицензия в предоставленных данных не указана.