I.4Обработка документов и форм

Darwin-180B-RSI — мультимодальная модель рассуждений семейства Darwin, разработанная VIDRAFT и оценённая FINAL-Bench. Она основана на Qwen3.8-Flash-Next с архитектурой Mixture-of-Experts и предназначена для диалогов, сложных задач по математике и естественным наукам, анализа изображений и разбора документов. Модель принимает текст и изображения и выдаёт текст; в карточке заявлены поддержка корейского и английского языков, а также контекст 262 тыс. токенов. Разработчик описывает подход Recursive Self-Improvement: модель дообучалась на собственных ответах, прошедших проверку по эталонным ответам или исполняемым проверкам. В README заявлены высокие результаты на бенчмарках рассуждений, мультимодального понимания и структурированного вывода; эти показатели приведены издателем и зависят от протокола оценки. Модель поддерживает интерфейс вызова инструментов и предназначена для запуска через Transformers или vLLM. README указывает на длительные цепочки рассуждений, которые могут обрезаться при малом лимите генерации, и предупреждает, что модель может уверенно ошибаться; для оценки уверенности предлагается ZTC. Лицензия обозначена как other; родительская модель указана под Qwen Community License 1.0, но условия лицензии самой Darwin-180B-RSI в доступных данных не раскрыты.

gemma-3n-E4B-it-MLX-6bit — это 6-битно квантованная версия модели gemma-3n-E4B-it от Google, адаптированная командой LM Studio с использованием MLX и mlx_vlm. Модель оптимизирована для работы на устройствах Apple Silicon и предназначена для локального запуска через совместимое программное обеспечение. В карточке указаны сценарии image-text-to-text, audio-text-to-text, video-text-to-text, автоматического распознавания речи и автоматического перевода речи. Ключевые характеристики исходной архитектуры, точный размер модели, поддерживаемые языки и максимальная длина контекста в README не указаны. Квантование снижает требования к памяти и делает модель более подходящей для локального использования на Apple Silicon, но может уменьшать точность по сравнению с исходной версией. Модель может генерировать неточные, вредные или неподходящие результаты, поэтому выводы требуют проверки. Использование регулируется лицензией Gemma; для доступа на Hugging Face необходимо ознакомиться с лицензией Google и принять её условия.

Gemma-4-31B-it-ROCmFP4-GGUF — это мультимодальная квантизированная GGUF-версия модели Gemma-4-31B-it, разработанной Google и подготовленной пользователем kingjones777. Модель предназначена для генерации и анализа текста, а также для обработки изображений; для визуального ввода в репозиторий включён отдельный проектор mmproj-BF16.gguf. В репозитории представлены четыре варианта квантизации: 4-битный ROCmFP4 и 6- или 8-битные ROCmFPX, размером примерно от 16,44 до 30,04 ГиБ. Модель рассчитана прежде всего на AMD Strix Halo с графикой gfx1151, включая Ryzen AI MAX+ 395, и поддерживает ускорение через ROCmFPX. Заявленный контекст в проверках составлял 4096 токенов; языки явно не указаны. Для ускорения генерации поддерживается speculative decoding с drafter-моделью Gemma-4-31B-it-assistant. На рекомендованном 4-битном варианте измерена скорость до 21,68 токена в секунду с MTP и около 11,81 токена в секунду без него. Сильные стороны модели — мультимодальность, наличие нескольких вариантов точности, проверенная работа с текстом и изображениями на реальном оборудовании, а также заметное ускорение за счёт speculative decoding. Основное ограничение — необходимость специальной сборки llama.cpp с поддержкой ROCmFPX: стандартные llama.cpp, Ollama и LM Studio эти типы файлов не загружают. Для обработки изображений требуется отключить flash attention, а использование MTP может зависеть от версии сборки и операционной системы. Модель распространяется по лицензии Gemma. Условия использования следует уточнять в лицензии Google Gemma; README не приводит дополнительных ограничений.

Модель Pruthwik Mishra и Yash Ingle — дообученная версия MuRIL на базе BERT для определения языка входного текста. Она классифицирует текст на английский и 22 официальных языка Индии, с отдельными метками для некоторых языков, записанных разными письменностями. Модель содержит 264,8 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате Safetensors для Transformers. Модель предназначена для автоматической языковой разметки текстов и включения в NLP-конвейеры. В README сообщается о среднем F1 0,96 на созданном корпусе и бенчмарке Bhasha-Abhijnaanam. Лицензия — MIT. Авторы предупреждают о возможном снижении качества для малоресурсных языков и письменностей, включая манипури письмом мейтей, синдхи и майтхили; для языков за пределами английского и индийских модель может работать ненадёжно.

InternVL3-14B — мультимодальная модель OpenGVLab из семейства InternVL3, представленная в репозитории как дообученная версия InternVL3-14B-Instruct. Она построена по схеме ViT-MLP-LLM: визуальный энкодер InternViT соединён через MLP-проектор с языковой моделью. В семействе используются компоненты на основе Qwen 2.5 и InternLM 3; размер этой версии — 14 млрд параметров. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалога и анализа изображений, видео и текста: визуальных вопросов и ответов, мультимодального рассуждения, понимания видео и работы с несколькими изображениями. В README также описаны сценарии использования инструментов, GUI-агентов, анализа промышленных изображений и 3D-визуального восприятия. Поддерживаются динамическое разбиение изображений на фрагменты 448×448 пикселей и обработка изображений и видео; каталог помечает модель как многоязычную. Вариант лицензии — Apache 2.0. Среди заявленных особенностей — предобучение на смешанных текстовых и мультимодальных данных и улучшенное понимание длинного контекста благодаря V2PE. README не приводит численную длину контекста именно этой модели. Качество результатов зависит от входных данных и задачи; несколько изображений увеличивают число визуальных токенов и требуемый объём контекста.

Mungert/Jan-v2-VL-high-GGUF — это GGUF-квантизированная версия мультимодальной модели Jan-v2-VL-high, разработанной командой Jan на базе Qwen/Qwen3-VL-8B-Thinking. Модель содержит около 8 млрд параметров, обрабатывает текст и изображения и предназначена прежде всего для многошаговых задач в реальных программных средах, включая управление браузерами и настольными приложениями. Она может использовать скриншоты, вызовы инструментов и промежуточное состояние для выполнения длинных последовательностей действий с минимальным накоплением ошибок. Вариант high ориентирован на более глубокое рассуждение и допускает большее время обработки по сравнению с вариантами low и med. GGUF-файлы подготовлены с использованием llama.cpp; автор применяет избирательное повышение точности отдельных важных слоёв сверх стандартной конфигурации IMatrix, что должно улучшать точность при заданном уровне квантования, но увеличивает размер файла. Модель поддерживает сценарии локального запуска через Jan App и llama.cpp; для исходной модели также указана интеграция с vLLM. В качестве сильных сторон заявлены стабильное выполнение длинных цепочек действий, визуальное заземление и сохранение качества на стандартных текстовых и визуальных задачах относительно базовой Qwen3-VL-8B-Thinking. Ограничениями являются повышенные требования к задержке и размеру файла у варианта high, а также отсутствие в карточке точных сведений о размере контекста, конкретных поддерживаемых языках помимо заявленного английского и системных требованиях. Указана лицензия Apache 2.0.

Kev-27B — модель принятия решений, разработанная Jared Palmer. Она обрабатывает один документ или другое текстовое состояние и набор типизированных вопросов с заданными вариантами ответа, а затем за один проход выдаёт вероятности для вариантов, наиболее вероятный ответ и оценку уверенности. Модель предназначена для классификации, маршрутизации и проверки документов, а также для сценариев, где уверенные случаи можно автоматизировать, а сомнительные отправлять на проверку человеку. Она поддерживает API TypeSafe System One и совместима с его SDK. В основе — плотная текстовая архитектура Qwen3.8-27B с 22,3 млрд параметров: причинный языковой backbone работает в режиме без генерации текста, а указательная голова оценивает заданные варианты. Все веса backbone дообучены; версия 2 получена усреднением полновесной тонкой настройки с версией 1. Модель рассчитана на английский язык и состояния до 65 536 токенов; для длинных входов требуется мощное оборудование, включая GPU класса 80 ГБ или Mac с достаточной памятью. Распространяется по лицензии Apache-2.0. Модель возвращает оценки только для переданных вариантов и не предназначена для свободной генерации, чата, суммаризации или открытых вопросов. На коротких состояниях версия 2 не превосходит v1, а на длинных контрактах может быть менее точной и чрезмерно уверенной; калибровку следует проверять на данных конкретного применения. Для решений с юридическими, медицинскими, финансовыми или иными серьёзными последствиями нужна проверка человеком.

Ornstein3.8-27B — экспериментальная мультимодальная модель с открытыми весами, созданная GestaltLabs на основе Qwen/Qwen3.8-27B. Это дообученная и объединённая с базовой моделью версия с архитектурой Qwen3_5ForConditionalGeneration: плотная модель примерно на 27 млрд параметров, использующая чередование линейного внимания и полного внимания Gated DeltaNet. Она принимает текст и изображения, поддерживает видео, а длина контекста составляет 262 144 токена. Модель предназначена для диалогов, анализа изображений и видео, а также многошаговых задач, включая математические рассуждения. В одном прогоне GSM8K автор получил 96,51% точности в BF16; этот результат не распространяется на квантованные версии. Автор описывает чекпойнт как раннее объединение весов, а не готовый релиз качества, и планирует дальнейшую работу с RL-средами и дообучением на основе энергетических моделей. Для запуска требуется сборка Transformers с поддержкой Qwen3.8/qwen3_5. Веса опубликованы под лицензией Apache-2.0.

Mihaiii/Pallas-0.4 — инструкционная дообученная языковая модель на архитектуре Llama, созданная на базе migtissera/Tess-34B-v1.4. Она содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для рассуждений и понимания текста, хорошо работает с длинными системными промптами. Её можно использовать для ответов на вопросы и анализа длинных текстовых материалов; для художественного повествования она не предназначена. Обучение выполнено на частном датасете. Лицензия указана как other.

Qwen3.5-0.8B — компактная мультимодальная модель семейства Qwen от Qwen, представленная в виде постобученных весов для Transformers. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов и задач, где нужно анализировать изображения и отвечать текстом. Модель поддерживает вызов инструментов через соответствующий интерфейс и может использоваться для прототипирования, разработки и дообучения под конкретные задачи. Модель имеет плотную архитектуру Qwen3.5 с 0,8 млрд параметров, 24 слоями и нативным контекстом до 262 144 токенов. В архитектуре сочетаются Gated Delta Networks и gated attention; доступны режимы обычной генерации и рассуждения, причём по умолчанию включён обычный режим. Карточка заявляет поддержку 201 языка и диалекта. Веса доступны в формате safetensors и совместимы с Transformers и несколькими движками инференса. Небольшой размер делает модель удобной для прототипирования и настройки под узкие задачи, однако её возможности и качество следует оценивать с учётом масштаба 0,8 млрд параметров и целевого сценария. Для длинного контекста могут потребоваться значительные ресурсы памяти. Лицензия — Apache-2.0.

Это частная сборка Exolabs на основе Qwen3.6-35B-A3B, подготовленная для запуска в vLLM. Веса получены из файла Q4_K_M GGUF модели bartowski/Qwen_Qwen3.6-35B-A3B: их деквантизировали в FP32, преобразовали в раскладку HF/vLLM и сохранили в BF16. Конфигурация, токенизатор, шаблон чата и параметры генерации взяты из Qwen/Qwen3.6-35B-A3B. Модель предназначена для диалогов и обработки изображений; метаданные также отмечают интерфейс вызова инструментов. В README приведена проверка запуска на vLLM 0.23.0 с ограничением контекста 4096 токенов и режимом language-model-only. Указанная в метаданных архитектура — Qwen3.5 MoE, класс Qwen3_5MoeForConditionalGeneration; базовая модель содержит 35 млрд параметров. Репозиторий помечен лицензией «other», поэтому конкретные условия следует проверять в файлах лицензии модели. README описывает деквантизацию и преобразование представления весов, но BF16-выход из исходного Q4_K_M не возвращает потерянную при исходной квантизации точность; также приведённый запуск ограничивает длину контекста 4096 токенами.

sleepy186247 конвертировал модель llmfan46/Qwen3.6-35B-A3B-uncensored-heretic-Native-MTP-Preserved в формат MLX с точностью fp16; README указывает версию mlx-lm 0.31.2. Это мультимодальная MoE-модель семейства Qwen3.5, предназначенная для диалогов, анализа изображений и агентного программирования. Метаданные указывают архитектуру Qwen3_5MoeForConditionalGeneration, поддержку чата и зрения, а также задачу image-text-to-text. Модификация uncensored/heretic ослабляет ограничения на ответы. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-GGUF — неофициальный релиз модели, подготовленный chimingw на основе AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Релиз представляет собой конвертацию и квантизацию исходной модели в формате GGUF без дополнительного обучения, дообучения, слияния или изменения выравнивания. Модель предназначена для локального запуска через совместимый runtime, включая llama.cpp; размещённый на Hugging Face хостинг inference отключён. Архитектура указана как Qwen3_5ForConditionalGeneration с типом qwen3_5 и размером 27B параметров. Это мультимодальная vision-language модель с поддержкой текста и изображений, английского и китайского языков, а также заявленной интеграцией function calling. Максимальный контекст по метаданным составляет 262 144 позиции, однако фактическая доступная длина зависит от runtime и объёма памяти. В комплект входят варианты квантизации Q8_0, Q6_K, Q5_K_M и Q4_K_M, а также отдельный BF16 мультимодальный проектор; для использования нужные файлы и split-части необходимо хранить вместе. Сильными сторонами релиза являются большой контекст, мультимодальность, несколько вариантов компромисса между качеством и требованиями к памяти и сохранение исходного BF16 набора файлов. Поведение при работе с текстом, изображениями, рассуждениями, инструментами и длинным контекстом зависит от выбранного варианта, клиента, prompt format, runtime и аппаратных ресурсов. Заявления исходного автора о характеристиках uncensored-модификации не были независимо проверены создателем GGUF-релиза и не являются результатами оценки данных артефактов. Модель распространяется по Apache License 2.0 согласно заявленной лицензии источника.

Qwen3.8-27B-NVFP4-GGUF — квантизированная версия базовой модели Qwen/Qwen3.8-27B, опубликованная akopytko. Модель предназначена для задач генерации текста и работы с изображениями, включая сценарии image-text-to-text. Она представлена в формате GGUF и использует специализированное 4-битное числовое представление NVFP4 с оптимизацией масштаба по среднеквадратичной ошибке реконструкции. В модель также встроена квантизированная MTP draft head для speculative decoding. Ключевое преимущество — высокая скорость предварительной обработки на GPU с архитектурой NVIDIA Blackwell: заявлено преимущество около 50% над обычными 4-битными вариантами при сопоставимом размере, а сама реализация NVFP4 работает ещё на 4–7% быстрее альтернативных NVFP4-квантов. Поддерживается ввод изображений; при загрузке не через -hf может потребоваться отдельный vision-проектор mmproj-BF16.gguf. Основное ограничение — необходимость совместимого NVIDIA Blackwell GPU, например RTX 50, DGX Spark, B200 или B300. По приведённым тестам, качество NVFP4 уступает вариантам Q4_0 и особенно Q6_K, хотя превосходит сравниваемый NVFP4-квант Unsloth по некоторым метрикам. Лицензия — Apache-2.0.

Qwen-3.8-27B-Uncensored-mlx-mixed_3_6 — мультимодальная модель для работы с текстом и изображениями, созданная на основе junafinity/Qwen-3.8-27B-Uncensored и преобразованная пользователем tejones36 в формат MLX с помощью mlx-vlm. Модель предназначена для локального запуска на компьютерах Apple Silicon, генерации текста, анализа изображений, технических объяснений и интеграции через CLI, Python API или локальный OpenAI-совместимый сервер. Модель содержит 27 миллиардов параметров и использует смешанное 3/6-битное квантование с размером группы 64: критические слои внимания и проекций хранятся в 6-битном формате, а MLP-слои — в 3-битном. Средняя точность составляет около 3,6 бита на вес, что снижает требования к памяти и пропускной способности; заявлена возможность запуска на Apple Silicon с 18–24 ГБ и более unified memory. Формат хранения — MLX Safetensors. Поддерживаются текстовая и визуальная модальности, однако сведения о языках и размере контекстного окна в README не указаны. К сильным сторонам относятся локальная работа на совместимом оборудовании, заметное сокращение потребления памяти по сравнению с полноразмерными весами и сохранение повышенной точности в наиболее важных слоях. Ограничениями являются зависимость от экосистемы MLX и Apple Silicon, возможное снижение качества из-за агрессивного квантования, а также отсутствие подробных данных о результатах тестирования, языковой поддержке и контекстном окне. Модель обозначена как uncensored, поэтому встроенные ограничения безопасности могут быть ослаблены. Указана лицензия Apache-2.0.

Text2Graph-R1-Qwen2.5-0.5b — компактная языковая модель Ihor для извлечения графов знаний из текста. Это воспроизведение подхода DeepSeek R1, дообученное на базе Qwen/Qwen2.5-0.5B-Instruct с помощью supervised learning и обучения с подкреплением GRPO. Модель предназначена для извлечения сущностей и отношений и выдачи результата в структурированном JSON, пригодном для машинной обработки. В обучении использовались награды за корректный формат JSON и F1 извлечённых сущностей и отношений. Модель имеет 494 млн параметров, архитектуру Qwen2ForCausalLM и контекст до 32 768 токенов; метаданные указывают поддержку русского, английского и других языков. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Модель унаследовала ограничения базовой компактной языковой модели, а качество извлечения может зависеть от языка, предметной области и соответствия входного текста ожидаемой схеме JSON.

basal-1.0-1.5B — польская и английская модель для классификации решений, разработанная автором репозитория Remek и дистиллированная из basal-1.0-4.5B. Это компактная инструкционная модель семейства Llama с 1,5 млрд параметров и контекстом до 8192 токенов; она принимает описание состояния и вопрос с вариантами ответа и оценивает допустимые варианты, включая выбор, ответ «да/нет» и числовую оценку. Модель предназначена для динамической классификации без переобучения: категории и правила задаются в запросе. Примеры применения — маршрутизация обращений и документов, проверка соответствия правилам и политике, оценка срочности или риска, выбор агента или инструмента и предварительная сортировка случаев по порогу уверенности. Вместо обычной генерации текста модель вычисляет распределение вероятностей по вариантам за один проход; усреднение предсказаний при прямом и обратном порядке вариантов помогает уменьшить чувствительность к их порядку. По оценке автора, версия 1,5B уступает версии 4,5B в точности, но обеспечивает примерно вдвое меньшую задержку и в 2,5 раза большую пропускную способность при половинном потреблении памяти. Модель поддерживает польский и английский языки и распространяется по лицензии Apache 2.0. Перед применением на собственных данных рекомендуется отдельная проверка и настройка порогов уверенности; решения с серьёзными последствиями следует проверять человеком.

joonion/bert-finetuned-squad — модель DistilBERT, дообученная на неизвестном наборе данных на основе distilbert/distilbert-base-cased-distilled-squad. Она предназначена для ответов на вопросы по переданному текстовому фрагменту: модель получает вопрос и контекст и извлекает из контекста ответ. Архитектура — DistilBertForQuestionAnswering; максимальная длина контекста составляет 512 токенов. Модель работает с текстом и распространяется в формате safetensors. Карточка не приводит подробностей о дополнительном наборе данных, оценке качества или специальных сценариях применения. Лицензия — Apache-2.0.

CataLlama-v0.1-Instruct-DPO — авторегрессионная языковая модель на архитектуре Llama 3, разработанная Лаурентиу Петреа. Это финальный этап обучения CataLlama: модель дообучена методом DPO на наборе catallama/Catalan-DPO поверх CataLlama-v0.1-Instruct-SFT. Размер модели — 7,5 млрд параметров, контекст — 8192 токена; доступны веса в формате Safetensors. Модель предназначена для диалогового взаимодействия и выполнения инструкций на каталанском языке. Она поддерживает извлечение информации для RAG, распознавание именованных сущностей, перевод между английским и каталанским, краткое и развернутое суммирование, а также анализ тональности. Разработчик сообщает об улучшенной работе с каталанским после обучения примерно на 445 млн новых токенов в три этапа. Модель может быть полезна для приложений, которым требуется генерация и анализ текста на каталанском, однако README представляет её как демонстрацию методов адаптации LLM к новым языкам, а не как модель, ориентированную на рекорды бенчмарков. Лицензия — Llama 3 Community License; применяются её условия и Acceptable Use Policy.

Llama-PLLuM-70B-instruct-2508 — большая языковая модель семейства PLLuM, разработанная консорциумом PLLuM и продолжаемая альянсом HIVE AI для польского и других славянских и балтийских языков. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, настроенная на выполнение инструкций; она поддерживает диалог и генерирует текст. Родительская модель — Llama-PLLuM-70B-base, лицензия — Llama 3.1. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и создания специализированных помощников. Особое внимание уделено польскому языку и сценариям польской государственной администрации, включая юридические и бюрократические темы; для ответов по конкретным документам рекомендуется использовать её вместе с поиском по источникам. Заявленный контекст составляет 131 072 токена. В обучении использовались польские, другие славянские и балтийские языки, а также английский. Модель обучалась на корпусах, актуальных примерно до осени 2024 года, поэтому она может не знать более поздних событий. Она может выдавать фактически неверные ответы, а также сохранять смещения, особенно по спорным и субъективным темам; длинный контекст может требовать значительных ресурсов памяти. Использование регулируется лицензией Llama 3.1.

Это 4-битная MLX-версия модели Devstral-Small-2-24B-Instruct-2512, разработанной Mistral AI и конвертированной сообществом mlx-community из исходной модели mistralai/Devstral-Small-2-24B-Instruct-2512. Модель предназначена для диалоговых и инструкционных сценариев, а также для задач преобразования изображений и текста в текст, включая описание изображений. Модель содержит 24 миллиарда параметров, относится к семейству Mistral и поддерживает мультимодальный режим с обработкой изображений и текста. Она преобразована в формат MLX и использует 4-битное квантование, что уменьшает требования к памяти по сравнению с полноразмерной версией. README не содержит сведений о длине контекста, поддерживаемых языках, точной архитектуре или результатах тестирования. К сильным сторонам относятся инструкционный режим, мультимодальные возможности и компактное 4-битное представление для запуска через mlx-vlm. Ограничения включают отсутствие в README подробностей о качестве, языковой поддержке, контекстном окне и аппаратных требованиях; кроме того, квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

Mike0307/multilingual-e5-language-detection — модель классификации текста для определения языка. Она разработана на основе multilingual-e5-base и дообучена на наборе данных common_language; архитектура — XLM-RoBERTa для классификации последовательностей, размер — 305,2 млн параметров. Модель поддерживает определение 45 языков и принимает текст длиной до 514 токенов. Модель подходит для автоматической разметки языка коротких сообщений и документов, маршрутизации текста по языковым конвейерам и предварительной фильтрации многоязычных корпусов. В README заявлена общая точность 98,37% на тестовой части common_language; результаты зависят от данных и условий оценки. Распространяется по лицензии Apache-2.0.

Nex-N2.5-mini-Mixed-Q2Q3-128K-GGUF — неофициальная смешанная квантизация модели Nex-N2.5-mini, разработанной Nex-AGI. Сборку и квантизацию выпустил пользователь karmx для экспериментов на одной видеокарте RTX 5060 Ti с 16 ГБ памяти. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp. Модель поддерживает текстовые и визуальные сценарии при использовании отдельного vision projector, включая распознавание текста на одном изображении, структурированный tool calling и задачи программирования. В протестированной конфигурации заявлена общая длина контекста 131 072 токена, включая промпт, токены изображения и генерируемый ответ. Основной файл имеет размер около 13,32 ГБ, проектор — около 0,90 ГБ. Квантизация использует Q2_K для части routed-expert-тензоров, Q3_K для другой части, Q5_K для эмбеддингов и выходных тензоров, а также Q4_K_M для остальных тензоров; vision projector оставлен в F16. Обучение, объединение моделей и pruning не выполнялись. Сильными сторонами являются поддержка большого контекста, vision-возможностей, инструментальных вызовов и запуск на относительно компактной видеокарте. При этом это экспериментальная сборка с ограничениями качества и совместимости: в сравнении с эталонной Q5_K_M зафиксировано снижение результатов на HumanEval+ и MBPP+, а отсутствие регрессий не подтверждено. Надёжность работы с 128K-контекстом, несколькими изображениями, скорость на стандартной сборке llama.cpp и отсутствие выгрузки в CPU-память не гарантируются; проверка проводилась на конкретной версии llama.cpp, ОС, GPU и настройках. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями необходимо скачать оба файла — GGUF-модель и vision projector. Это не официальный релиз Nex-AGI.

Карточка модели Salahuddin1234/omnidoctor-qwen-omni на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Ornith-9B Custom — Damien FLETY (damfle) выполнил дообучение модели Ornith-1.0-9B. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration; метаданные указывают 7,5 млрд параметров. Модель поддерживает диалог и работу с изображениями, а её основное назначение по карточке — интеграция в RAG-сценарии и эффективный инференс. Модель можно применять для вопросов по документам с контекстом из поиска и для диалога с визуальными входными данными. В README упомянуты планы оптимизации для 4-битной квантизации и FP8, однако они обозначены как будущие; среди форматов репозитория указаны safetensors. Метаданные задают языки карточки как французский и английский. Лицензия указана как ISC, хотя README говорит, что модель наследует лицензию базовой модели и предлагает свериться с её условиями.

Pangea-7B — мультиязычная мультимодальная языковая модель, разработанная командой NEU Lab и обученная в 2024 году на наборе PangeaIns объёмом 6 млн примеров. Она использует архитектуру LLaVA-NeXT с языковой основой Qwen2-7B-Instruct и содержит 7,1 млрд параметров; поддерживает контекст до 32 768 токенов. Модель рассчитана на диалог и генерацию текста, а также на работу с изображениями и текстом на множестве языков. Pangea-7B подходит для мультиязычных диалоговых помощников, ответов на вопросы об изображениях и задач, где требуется сочетать визуальный ввод с текстовым ответом. README сообщает о поддержке 39 языков, включая русский; метаданные содержат языковые теги и более узкий список языков карточки. Модель выпущена под лицензией Apache-2.0. Конкретные ограничения качества и результаты сравнительных тестов в предоставленных материалах не описаны.

PEARL-small — компактная модель эмбеддингов строк и фраз, разработанная Lihu Chen, Gaël Varoquaux и Fabian M. Suchanek. Работа принята на EACL Findings 2024. Модель представляет собой дообученную версию E5-small на контекстно-независимом наборе данных, созданном авторами. В основе — архитектура BERT; размер составляет около 40 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для получения векторных представлений коротких строк и сравнения их семантической близости. Она учитывает тип фразы и морфологические признаки, чтобы лучше сопоставлять варианты написания и формулировок. Основные сценарии — строковое сопоставление, поиск сущностей, кластеризация сущностей и нечёткое соединение записей. В README приведены примеры сравнения названий, а также результаты бенчмарков и сравнение ресурсов с FastText. Модель принимает текст и выдаёт эмбеддинги; метаданные указывают английский язык. Репозиторий распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Данные источников не описывают ограничения качества за пределами приведённых бенчмарков и длины контекста.

Карточка модели sworge/poc-custom-arch на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Perplexity AI разработала pplx-pii-masking для обнаружения и маскирования персональных и других чувствительных данных в разговорных текстах. Модель использует примерно 600-миллионную двунаправленную архитектуру Qwen3 на основе perplexity-ai/pplx-embed-v1-0.6b и содержит две выходные головы: токенную классификацию с BIOES-разметкой девяти категорий чувствительных данных и классификатор чувствительности беседы. Для последовательностей применяется ограниченный декодер Витерби; максимальная длина входа — 4096 токенов. Модель подходит для поиска имён, номеров счетов, URL, дат, адресов, адресов электронной почты, телефонов, прочих персональных данных и секретов в разговорных данных, а также для оценки чувствительности беседы целиком. Метаданные указывают английский и многоязычный охват. Веса доступны в формате safetensors; лицензия — MIT. Для запуска README описывает использование PyTorch и Transformers с trust_remote_code.

unsloth/Qwen3.5-2B — постобученная мультимодальная модель от Unsloth на базе Qwen/Qwen3.5-2B. Она сочетает причинную языковую модель с визуальным энкодером и предназначена для диалогов, понимания изображений и вызова инструментов. Модель содержит 2 млрд параметров, использует гибридную архитектуру с Gated Delta Networks и Gated Attention и поддерживает контекст до 262 144 токенов. Модель подходит для прототипирования, разработки и специализированного дообучения; её можно запускать через Transformers, vLLM, SGLang и KTransformers. Qwen3.5 заявляет поддержку 201 языка и диалекта, однако в карточке нет списка языков, специфичного для этой версии. Модель работает в режиме без рассуждений по умолчанию; авторы также описывают режим рассуждений и возможности работы с видео в составе семейства Qwen3.5. Весовые файлы представлены в формате Safetensors. Лицензия — Apache-2.0. Масштаб в 2 млрд параметров делает модель удобной для экспериментов и настройки под конкретные задачи, но карточка рекомендует прежде всего прототипирование и разработку; производительность и пропускная способность зависят от инфраструктуры и выбранного движка.