IV.9Медиа, журналистика, культура, архивы и игры

Apriel-H1-15b-Thinker-SFT — языковая модель на 15 млрд параметров от ServiceNow AI для генерации ответов, рассуждений и кода. Она построена на гибридной архитектуре Transformer и Mamba: часть слоёв внимания заменена линейными блоками Mamba. По заявлению разработчика, такая конструкция повышает пропускную способность инференса более чем вдвое по сравнению с Apriel-Nemotron-15B-Thinker при небольшом снижении качества рассуждений, математических решений и программирования. Модель получена дистилляцией Apriel-Nemotron-15B-Thinker, обучена для диалогов и поддерживает интерфейс вызова инструментов. Модель рассчитана на многошаговые рассуждения, помощь с кодом, ответы на вопросы, выполнение сложных инструкций и агентные сценарии. Контекстное окно — 65 536 токенов; фактический предел зависит от среды запуска. Шаблон диалога задаёт генерацию этапа рассуждения перед кратким финальным ответом. Наиболее сильные результаты заявлены для английского языка, качество на менее представленных языках может быть ниже. Модель выпущена под лицензией MIT. Она может ошибаться, выдавать устаревшие или предвзятые ответы и не предназначена для критически важных сценариев без проверки человеком; для медицинских, юридических и финансовых решений нужны соответствующие меры контроля.

DeepSeek-V4-Flash-0731-dwarfstar-q2-gguf — это 2-битная квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Сборка создана сообществом Rednalreden с использованием инструментов DwarfStar (ds4) и предназначена для запуска на машинах с 96 или 128 ГБ оперативной памяти, где 4-битная версия не помещается. Модель относится к задачам генерации текста и может применяться для написания кода, работы с длинным контекстом, агентских сценариев, вызовов инструментов, анализа исходного кода и подготовки связного текста. Модель использует архитектуру MoE с 43 слоями, 256 маршрутизируемыми экспертами, из которых для каждого запроса выбираются 6, а также одним общим экспертом. Файл GGUF занимает около 80,8 GiB, резидентная модель — около 80,76 GiB; при контексте 32 768 токенов требуется примерно 0,86 GiB дополнительной памяти. Маршрутизируемые эксперты квантизированы в 2 бита с использованием importance matrix, тогда как attention-проекции, общие эксперты и выходной слой используют Q8_0, а отдельные компоненты — F16. Заявлена поддержка контекста до 100 000 токенов при использовании ds4-server. Importance matrix улучшила среднюю оценку по отрицательной логарифмической правдоподобности на 1,42% относительно аналогичной Q2-сборки без importance matrix. Основное преимущество — существенная экономия памяти при сохранении большей части качества; ограничение — заметная потеря качества по сравнению с 4-битными или смешанными q2/q4-сборками. Модель требует runtime DwarfStar (ds4) и несовместима с llama.cpp. Лицензия — MIT, унаследованная от базовой модели.

NVIDIA Nemotron 3.5 Lightning 30B A3B BF16 — большая языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это эталонные веса в формате BF16, предназначенные прежде всего для дообучения, адаптации к предметной области, исследований и подготовки производных вариантов для развёртывания. Архитектура сочетает слои Mamba-2, Mixture-of-Experts и Attention; в модели 30 млрд параметров, из которых активно используются около 3 млрд, а также предусмотрены слои Multi-Token Prediction. В метаданных указано 1,9 млрд параметров и контекст 262 144 токена; README сообщает о поддержке контекста до 1 млн токенов. Модель подходит для создания чат-ботов и агентных систем, генерации и анализа кода, решения задач на рассуждение, работы с длинными текстами и использования интерфейса вызова инструментов. Основной язык — английский; также заявлена поддержка испанского, французского, немецкого, итальянского и японского. README описывает модель как пригодную для коммерческого использования, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией репозитория. Для оптимизированного инференса автор рекомендует отдельный NVFP4-выпуск.

Phi-3.5-MoE-instruct-4bit — это 4-битная квантизированная версия инструкционной языковой модели Phi-3.5-MoE, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm. Модель содержит около 4 млрд параметров, поддерживает архитектуру Mixture of Experts и распространяется для работы через библиотеку Transformers и инструменты MLX. Модель предназначена для генерации текста в диалогах, ответов на вопросы, выполнения инструкций и генерации кода. Она ориентирована на многоязычные сценарии и может использоваться в локальных приложениях, чат-ботах, помощниках разработчика и системах автоматизации работы с текстом. Максимальная длина контекста составляет 4096 токенов. Лицензия MIT допускает свободное использование при соблюдении её условий. 4-битное представление снижает требования к памяти и подходит для локального запуска, но может уступать полноразмерной версии по точности и качеству генерации.

Dolphin 2.9.2 Mixtral 8x22B — разговорная языковая модель, подготовленная Eric Hartford, Lucas Atkins, Fernando Fernandes и командой Cognitive Computations на базе mistral-community/Mixtral-8x22B-v0.1. Это дообученная модель с архитектурой Mixtral MoE и классом MixtralForCausalLM; в репозитории веса представлены в safetensors. Всего указано 22 млрд параметров, базовая модель поддерживает контекст до 65 536 токенов, а дообучение выполнялось с длиной последовательности 16 000 токенов. Модель предназначена для диалогов и следования инструкциям, генерации кода и начальных агентных сценариев; также заявлена поддержка вызова функций. Обучение включало SystemChat 2.0, созданный для следования системным инструкциям в продолжительных беседах, и другие наборы диалоговых, кодовых и математических данных. Для взаимодействия используется шаблон ChatML. В карточке указан английский язык. Авторы характеризуют модель как uncensored и отмечают высокую готовность выполнять запросы, в том числе неэтичные; перед предоставлением пользователям может потребоваться собственный слой ограничений. Веса выпущены по лицензии Apache-2.0, допускающей коммерческое использование при соблюдении её условий.

Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

GLM-5.2 — флагманская языковая модель компании Z.ai для длительных задач и диалогового взаимодействия. Она предназначена для генерации текста, программирования и решения задач, требующих работы с большим объёмом контекста. Модель построена на архитектуре GLM MoE DSA и содержит 30,4 млрд параметров. Поддерживает контекст до 1 048 576 токенов; в README также отмечены гибкие уровни усилий для задач программирования, механизм IndexShare для снижения вычислений на длинном контексте и улучшение MTP для ускорения спекулятивного декодирования. Заявлены английский и китайский языки. Модель доступна в формате safetensors для Transformers и поддерживается рядом сред локального запуска, включая vLLM и SGLang. Лицензия — MIT. README приводит сравнительные результаты на бенчмарках, но они зависят от настроек и сценариев оценки.

Octen-Embedding-8B — текстовая модель эмбеддингов, разработанная Octen и дообученная методом LoRA на базе Qwen/Qwen3-Embedding-8B. Она предназначена для семантического поиска и извлечения документов, сравнения текстов, кластеризации и создания векторных представлений для последующей классификации или ответов на вопросы. Модель построена на архитектуре Qwen3, содержит 7,6 млрд параметров, формирует эмбеддинги размерностью 4096 и поддерживает контекст до 40 960 токенов. Модель заявлена как мультиязычная, с поддержкой более 100 языков, включая английский и китайский; также заявлены межъязыковой поиск и поиск по коду. В README указаны специализации для юридических, финансовых, медицинских и программных материалов, а также первое место в RTEB по состоянию на 12 января 2026 года. Для документов без префикса README рекомендует добавлять в начало «- » из-за известной проблемы в upstream-модели. Качество может различаться по языкам и областям, документы длиннее контекста требуют усечения; генерация текста не является назначением модели. Лицензия — Apache 2.0.

docscopeOCR-7B-050425-exp — модель prithivMLmods, дообученная на базе Qwen/Qwen2.5-VL-7B-Instruct для распознавания и анализа документов. Это плотная мультимодальная модель семейства Qwen2.5-VL с 7,1 млрд параметров, принимающая изображения и текст и выдающая текст; заявленная длина контекста — 128 000 токенов. Модель предназначена для OCR многостраничных документов, извлечения структурированных данных из счетов, форм и отчетов, визуальных вопросов и ответов, а также распознавания математических выражений с форматированием LaTeX. В README также заявлены понимание длинных видео и визуально управляемое взаимодействие с устройствами. Поддержка видео и управления устройствами описана в карточке, однако отдельные соответствующие задачи в метаданных не подтверждены. Карточка сообщает о конкурентных результатах на DocVQA, MathVista, RealWorldQA и MTVQA, но не приводит численных оценок. Модель может ошибаться на низкокачественных или частично закрытых изображениях, а также на редких языках и письменностях; обработка видео требует значительных ресурсов и не рассчитана на потоковый режим. Выпускается под лицензией Apache-2.0.

ember-v1 — англоязычная модель эмбеддингов текста от vectoriseai, построенная на архитектуре BERT. Она обучена на корпусе пар текстов из разных областей, включая финансы, науку, медицину и право; при обучении использовались приёмы из работ RetroMAE и SetFit. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, например в поиске и ранжировании текстов. Модель содержит около 433,9 млн параметров и обрабатывает до 512 токенов; более длинные входы обрезаются. В README приведён результат 63,54 в среднем по 56 задачам MTEB при размерности эмбеддингов 1024. Доступны форматы PyTorch, safetensors и ONNX. Лицензия — MIT; разработчик также предлагает доступ к модели через API LLMRails.

NuExtract3-GGUF — GGUF-версия мультимодальной модели NuExtract3, разработанной компанией NuMind на базе Qwen3.5-4B. Модель предназначена для понимания документов, структурированного извлечения информации, OCR и подготовки данных для RAG. Она обрабатывает текст, изображения или их сочетание вместе с JSON-шаблоном целевой схемы, поддерживает типизированные поля, естественно-языковые инструкции и примеры в контексте. Также модель может создавать шаблоны извлечения по описанию на обычном языке и преобразовывать документы в структурированный Markdown, включая HTML-таблицы и формулы LaTeX. Модель содержит около 4 миллиардов параметров и поддерживает режимы быстрого инференса без рассуждений и более глубокого reasoning. Она ориентирована на документы разных типов, включая сканы, чеки, формы, счета, договоры и таблицы. В репозитории представлены варианты GGUF-квантизации от BF16 до Q3 и Q5, что позволяет выбирать между качеством и требованиями к памяти; для обработки изображений используется отдельный multimodal projection-файл. Заявлена поддержка запуска через llama.cpp, а исходная модель также может использоваться с vLLM и Transformers. Среди сильных сторон — объединение анализа изображений и текста, структурированный вывод и высокая эффективность на внутреннем бенчмарке NuMind. Ограничения включают зависимость качества от выбранной квантизации и возможные сбои или зацикливание при чрезмерно сложном reasoning, особенно у компактных моделей. Распространяется по лицензии Apache 2.0.

GLM-5.3-Flash-TQ3_4S — текстовая GGUF-квантизация модели zai-org/GLM-5.3-Flash, подготовленная автором репозитория для запуска через llama.cpp с поддержкой TurboQuant. Используется архитектура Mixture of Experts: активны 8 из 288 маршрутизируемых экспертов на токен. Формат TQ3_4S имеет номинальную точность около 4 бит на вес; маршрутизируемые эксперты хранятся в 2-битном формате, внимание и общие эксперты — в 6-битном, а нормализации и смещения — в FP32. Веса занимают около 101,6 ГиБ и распределены по четырём GGUF-файлам. Модель предназначена для диалоговой генерации текста, программирования и вызова инструментов. Сохранённая MTP (NextN) голова позволяет использовать спекулятивное декодирование без отдельной черновой модели. README приводит результаты тестов на NVIDIA GB10/DGX Spark и рекомендует контекст 40 960 токенов в поставляемой конфигурации; заявлена проверенная работа до 512 тыс. токенов на этом оборудовании. Поддерживаются английский и китайский языки. Эта сборка не содержит vision tower, поэтому не принимает изображения, хотя базовая модель поддерживает обработку изображений. Для работы необходима публичная ветка TurboQuant runtime: основной llama.cpp не поддерживает тип тензора TQ3_4S. README отмечает необходимость пользовательского шаблона чата. Квантизация сокращает размер весов, но её влияние на качество может зависеть от задачи и оборудования; приведённые оценки получены на одной конфигурации и не гарантируют аналогичных результатов в других условиях. Лицензия — MIT.

Карточка модели Sieddi/Octen-Embedding-8B на Hugging Face совпадает с карточкой Octen/Octen-Embedding-8B, поэтому описание составлено по ней. Octen-Embedding-8B — текстовая модель эмбеддингов, разработанная Octen и дообученная методом LoRA на базе Qwen/Qwen3-Embedding-8B. Она предназначена для семантического поиска и извлечения документов, сравнения текстов, кластеризации и создания векторных представлений для последующей классификации или ответов на вопросы. Модель построена на архитектуре Qwen3, содержит 7,6 млрд параметров, формирует эмбеддинги размерностью 4096 и поддерживает контекст до 40 960 токенов. Модель заявлена как мультиязычная, с поддержкой более 100 языков, включая английский и китайский; также заявлены межъязыковой поиск и поиск по коду. В README указаны специализации для юридических, финансовых, медицинских и программных материалов, а также первое место в RTEB по состоянию на 12 января 2026 года. Для документов без префикса README рекомендует добавлять в начало «- » из-за известной проблемы в upstream-модели. Качество может различаться по языкам и областям, документы длиннее контекста требуют усечения; генерация текста не является назначением модели. Лицензия — Apache 2.0.

duyntnet/Phi-3-mini-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-mini-4k-instruct, разработанной Microsoft и опубликованной пользователем duytnet. Модель предназначена для генерации текста в диалоговом формате, следования инструкциям, многошагового общения, структурированного вывода, рассуждений и помощи в программировании. Заявлено улучшенное понимание Python, C++, Rust и TypeScript, а также поддержка системных инструкций через тег <|system|>. Это компактная текстовая авторегрессионная модель семейства Phi-3 Mini; конкретный размер файлов и параметры квантизаций в README не указаны. Модель работает с текстом, поддерживает английский язык и контекст до 4K токенов. Размер словаря токенизатора — до 32064 токенов. Для запуска доступны llama.cpp, JanAI, KoboldCPP, text-generation-webui и Ollama; исходная модель также интегрирована в Transformers. GGUF-квантизации удобны для локального запуска, однако README не содержит данных о точных требованиях к памяти, производительности или сравнительных результатах. Лицензия указана как other, без уточнения конкретных условий, поэтому права на использование следует проверять отдельно. К ограничениям относятся отсутствие заявленной мультимодальности, отсутствие подробных бенчмарков и неопределённость характеристик конкретной квантизации.

Карточка модели nicoboss/dolphin-2.9.3-mistral-nemo-12b-llamacppfixed на Hugging Face совпадает с карточкой dphn/dolphin-2.9.3-mistral-nemo-12b, поэтому описание составлено по ней. Dolphin 2.9.3 Mistral Nemo 12B — разговорная языковая модель, дообученная Eric Hartford и командой Cognitive Computations на базе mistralai/Mistral-Nemo-Base-2407. Она предназначена для следования инструкциям, диалогов, генерации кода и начальных агентных сценариев; также поддерживает вызов функций через ChatML-шаблон. Модель содержит 12,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и формат safetensors. Базовая модель рассчитана на контекст до 128 тыс. токенов, однако при дообучении использовалась длина последовательности 8192 токена. Dolphin описана как «uncensored» и может с высокой готовностью выполнять запросы, в том числе вредоносные или неэтичные. Перед предоставлением модели пользователям автор рекомендует добавить собственный слой контроля и выравнивания. Модель лицензирована по Apache 2.0, включая коммерческое использование.

LLaDA2.0-mini-preview — диффузионная языковая модель с архитектурой Mixture-of-Experts от InclusionAI. Это предварительная instruction-tuned версия семейства LLaDA, предназначенная для диалогов и практических задач генерации текста. README указывает 16 млрд параметров всего и около 1,4 млрд активных при инференсе; в метаданных Hugging Face указан размер 1,2 млрд параметров. Модель содержит 20 слоёв, использует RoPE и поддерживает контекст до 8192 токенов согласно метаданным; README указывает 4096 токенов. Модель подходит для генерации кода, математических рассуждений, ответов на вопросы и сценариев с вызовом инструментов. В README заявлено обучение на серии Ling2.0 примерно на 20 трлн токенов и приведены результаты бенчмарков, но их детализация в доступном фрагменте неполная. Репозиторий содержит веса safetensors и рассчитан на работу через Transformers. Лицензия — Apache-2.0. README обозначает модель как preview, поэтому её качество и поведение следует оценивать для конкретных задач; при повышении температуры авторы предупреждают о возможном смешении языков и снижении качества.

Ornith-1.5-9B-MXFP4_Hybrid-Imatrix-GGUF — это квантизированная GGUF-сборка модели Ornith-1.5-9B, разработанной Ornith AI и опубликованной пользователем jashepp. Модель предназначена для генерации текста, диалоговых сценариев, агентного использования, работы с инструментами и особенно для программирования и редактирования кода. Она ориентирована на задачи, где важны следование инструкциям, планирование и пошаговое рассуждение; автор рекомендует сохранять режим reasoning/thinking включённым. Модель имеет размер 9B параметров и распространяется в нескольких вариантах смешанной точности с использованием MXFP4, Q8_0 и F16. В сборках применена importance matrix (imatrix), а точность распределена по слоям вручную: наиболее чувствительные компоненты и общие части модели сохраняются в более высокой точности, тогда как разреженные экспертные блоки сжимаются до MXFP4. Доступны файлы размером примерно от 4,77 до 11,4 ГБ. Заявлен английский язык; модель относится к текстовым генеративным моделям и основана на архитектуре и весах Ornith-1.5-9B. Сильными сторонами являются улучшенное следование инструкциям, рассуждение, агентные сценарии и сохранение качества при снижении требований к памяти благодаря гибридной квантизации. Ограничения включают компромисс между размером и качеством в разных вариантах, отсутствие в README сведений о длине контекста, поддерживаемых языках помимо английского и подробных количественных результатах. Модель распространяется по лицензии MIT.

RedHatAI/Qwen3.8-2.4T-A95B-NVFP4-REAP-25 — квантизированная версия модели Qwen/Qwen3.8-2.4T-A95B, разработанная RedHatAI. Это текстовая модель для генерации текста на основе архитектуры Qwen3_5MoeForCausalLM с разреженной смесью экспертов (MoE). Модель принимает текст и генерирует текст; сведения о поддерживаемых языках и размере контекста в README не указаны. Модель предназначена для задач рассуждения, программирования и общего текстового вывода, включая развёртывание через vLLM с OpenAI-совместимым API. В слоях экспертов MoE применена смешанная квантизация NVFP4: веса и активации линейных операторов представлены в формате FP4, тогда как attention и другие неквантизированные слои сохраняют исходную точность. Дополнительно выполнено 25-процентное REAP-прореживание экспертов. Это снижает требования к дисковому пространству и GPU-памяти квантизированных слоёв примерно на 75 процентов с учётом дополнительного выигрыша от разреженности. По данным оценки, модель сохранила высокое качество относительно неквантизированной версии: результат на GPQA Diamond составил 91,5 против 92,6 у исходной модели, а на DeepSWE v1.1 — 56,6, что соответствует заявленному восстановлению 98,81 и 100 процентов соответственно. Ограничения включают потенциальное влияние квантизации и прореживания на качество за пределами указанных тестов, а также высокие требования к инфраструктуре: рекомендован запуск с vLLM, tensor parallelism на 8 GPU и expert parallelism. Лицензия в README не указана.

Qwen3.8-27B-IU4-Kairic-Edge — производительная квантованная версия Qwen3.8-27B, разработанная Kairic.ai для локального запуска на графических процессорах AMD Strix Halo с архитектурой gfx1151, включая Radeon 8060S. Модель предназначена для генерации текста и программного кода, а также для сценариев локального инференса с ускоренной обработкой промптов и многотокенной верификацией. Модель использует 27B-параметрическую языковую архитектуру Qwen3.8 и формат GGUF, а её вычислительный маршрут сочетает 4-битные активации и веса с нативными AMD IU4 matrix-инструкциями. Концепция Dual View объединяет авторитетное представление GGUF с тремя специализированными файлами-компаньонами Prompt Forge для отдельных фаз вычислений. Заявлена поддержка контекста размером до 256K токенов, prompt caching и native MTP4; сведения о языках в README не указаны. К сильным сторонам относятся высокая скорость генерации, ускоренная обработка промптов, существенное сокращение времени повторной обработки кэшируемых префиксов и результаты на тестах HumanEval. На воспроизведённой задаче структурированной генерации коэффициент принятия черновых токенов составил 99,73%, однако производительность зависит от совместимого оборудования и поддерживаемых форм вычислений. Для работы требуется специальная сборка Kairic Edge v1.2; стандартный llama.cpp не поддерживает необходимые sidecar-файлы и параметр --kairic-edge. Лицензия модели — Apache-2.0.

Карточка модели DeepDive404-2/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Llama-3_1-Nemotron-51B-Instruct — разработанная NVIDIA языковая модель для диалогов и генерации текста. Это производная Llama-3.1-70B-Instruct: NVIDIA применила поиск архитектуры NAS и дистилляцию, чтобы повысить эффективность инференса и сократить требования к памяти при небольшом снижении качества. По метаданным, модель содержит 87 млрд параметров и поддерживает контекст до 131 072 токенов; в описании дистилляции указана длина последовательности 8 192 токена. Модель предназначена для англоязычных одно- и многоходовых диалогов общего назначения, а также задач, связанных с кодом; README отмечает поддержку других языков, но не перечисляет их. Она принимает и выдаёт текст, поддерживает чат и интерфейс вызова инструментов. Архитектура — авторегрессионный трансформер-декодер с неодинаковыми блоками: переменным числом KV-голов, пропуском или упрощением внимания и переменным коэффициентом расширения FFN. NVIDIA указывает, что модель оптимизирована для высокопроизводительного запуска на одной H100 80 ГБ; для BF16 README приводит требования в две H100 80 ГБ или две A100 80 ГБ. Модель подходит для коммерческого применения согласно README. Метаданные указывают лицензию other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Модель может выдавать неточные, нерелевантные или токсичные ответы, отражать смещения обучающих данных и быть уязвимой к атакам на выравнивание; разработчик рекомендует применять защитные механизмы.

Zirel-3 — дообученная разговорная модель Daemontatox на базе cerebras/GLM-4.5-Air-REAP-82B-A12B. Она предназначена для генерации текста и кода, следования инструкциям, рассуждений, работы с агентными сценариями и вызова функций. Модель использует разреженную архитектуру Mixture-of-Experts; в README указаны 82 млрд параметров, около 12 млрд активных на проход и контекст до 128 тыс. токенов. Метаданные каталога указывают 8,5 млрд параметров, поэтому размер модели в источниках расходится. Модель рассчитана прежде всего на английский язык. Карточка указывает совместимость с Transformers и рекомендует vLLM для более быстрой генерации. Репозиторий содержит веса Safetensors. Метаданные указывают лицензию Apache-2.0, тогда как README заявляет MIT; лицензию следует уточнить по файлу лицензии репозитория.

DeepSeek-V4.1-Flash-4bit-paged — квантизированная 4-битная версия модели DeepSeek-V4.1-Flash, разработанная GreenBitAI на базе сборки pipenetwork для MLX и Apple Silicon. Это языковая модель для генерации текста, включая работу с кодом, агентские сценарии и диалоги; поддерживает потоковую загрузку экспертных весов с диска и опциональное speculative decoding с помощью встроенной DSpark multi-token prediction head. Модель использует архитектуру mixture-of-experts с маршрутизируемыми экспертами и expert paging: резидентные веса занимают 10,48 GiB, а полный набор данных модели — около 406,10 GiB, включая experts.bin, engram-таблицы и черновую голову. Точные размеры исходной архитектуры, поддерживаемые языки и максимальная длина контекста в README не указаны. Доступна через библиотеку gbx-lm; при наличии достаточного объёма памяти может работать на штатном пути, а при нехватке ресурсов подгружает необходимые веса с диска. К сильным сторонам относятся сохранение логитов исходной модели при проверках, возможность работы с большими наборами весов на совместимых системах и ускорение генерации до 2,3 раза при включённой draft head, особенно на предсказуемом коде и длинном контексте. Ограничения включают очень высокие требования к дисковому пространству и памяти, зависимость от MLX, Apple Silicon и gbx-lm, а также то, что ускорение speculative decoding зависит от сценария. Лицензия — MIT; в README также указано, что лицензия исходной модели DeepSeek сохраняется.

anuragseven/scifact-biencoder — модель на базе BERT, созданная с использованием Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для поиска семантически близких текстов, семантического поиска и кластеризации. Модель обучалась с функцией MultipleNegativesRankingLoss и косинусным сходством; максимальная длина контекста составляет 512 токенов. Для использования нужны Sentence-Transformers. Лицензия в предоставленных данных не указана.

Компактная модель Sentence Transformer, разработанная swardiantara и дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов; близость векторов можно оценивать косинусным сходством. Модель состоит из BERT и среднего pooling, содержит 4,4 млн параметров и принимает только текст. Модель обучалась на наборе из примерно 2,6 млн пар текстов с оценками сходства. В примерах набора — отзывы Amazon, поэтому модель подходит, в частности, для семантического поиска и сопоставления отзывов. Метаданные указывают контекст до 512 токенов, однако карточка модели задаёт максимальную длину последовательности 128 токенов. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

Patram-7B-Instruct — семейство зрительно-языковых моделей BharatGen с 7 млрд параметров, обученных с нуля для анализа документов по изображениям. Репозиторий содержит версии 1.0, 1.1 и 1.2; README описывает их как отдельные ревизии одной модели. Модель принимает изображение документа и текстовый запрос, а отвечает текстом в диалоговом формате. В зависимости от версии поддерживаются визуальные вопросы и ответы, извлечение текста и ключевых значений, многоходовый диалог, а в версии 1.2 также анализ таблиц, диаграмм и блок-схем, а также рассуждения для VQA. Модель предназначена для понимания текстовых и визуально насыщенных документов, включая индийские документы. В README приведены результаты оценки на наборах DocVQA, WTQ, VisualMRC, ChartQA, InfoVQA, FlowVQA и других; показатели зависят от набора и режима prompting. Репозиторий использует библиотеку Transformers и формат safetensors. Лицензия — Apache-2.0. README не приводит сведений о поддерживаемых разрешениях изображений или длине контекста.

b1ade-embed — модель текстовых эмбеддингов, разработанная авторами коллекции небольших моделей для RAG. Она предназначена для семантического поиска, сопоставления текстов и других задач, где требуется представлять текст в виде векторов. Модель создана слиянием bert-large-uncased, UAE-Large-V1, BAAI/bge-large-en-v1.5, mxbai-embed-large-v1 и GIST-large-Embedding-v0, а также дистилляцией знаний более крупных моделей; в README указан размер 335 млн параметров, метаданные указывают 433,9 млн. Архитектура — плотная BERT-модель, контекст — до 512 токенов. В README сообщается о сильных результатах на бенчмарке MTEB, особенно в семантическом сходстве текстов, а также о применении в поиске и исследованиях клинических и трудовых данных. Модель ориентирована на английский язык. Она выдаёт эмбеддинги для последующего поиска, ранжирования или классификации; качество следует проверять на целевом наборе данных и задаче. Лицензия в предоставленных сведениях не указана.

Binh230/bge-m3-finetuned-2 — модель Sentence Transformers на базе XLM-RoBERTa, дообученная для получения плотных векторных представлений предложений и абзацев. Она кодирует текст в векторы размерностью 1024 и предназначена для семантического поиска, сравнения сходства, поиска перефразирований, кластеризации и классификации текстов. Модель поддерживает последовательности до 8192 токенов; сходство векторов оценивается косинусной мерой. Для обучения использовано 68 042 парных примера, а архитектура включает трансформер, pooling по CLS-токену и нормализацию векторов. В примерах обучающих данных есть вьетнамские вопросы и фрагменты нормативных документов, поэтому модель подходит для поиска и сопоставления вьетнамских текстов. Лицензия в предоставленных данных не указана.

Jan-Nano-128k — компактная языковая модель Alan Dao и Bach Vu Dinh, дообученная на базе Menlo/Jan-nano. Это плотная модель семейства Qwen3 с 3,7 млрд параметров и контекстом до 131 072 токенов. Она предназначена для исследовательских задач: анализа длинных документов и научных статей, синтеза информации из нескольких источников и ведения многоходовых диалогов. Модель поддерживает чат и интерфейс вызова инструментов MCP; авторы характеризуют её как не использующую режим пошагового рассуждения. Модель принимает текст и генерирует текст. Репозиторий содержит веса Safetensors; для запуска авторы описывают развёртывание через vLLM с настройками для длинного контекста и вызова инструментов. Лицензия — Apache-2.0. README сообщает об оценке на SimpleQA, но не приводит численных результатов, поэтому заявленное улучшение относительно Jan-Nano нельзя количественно оценить по карточке.

Qwen3-Jan-v1-256k-ctx-6B-Brainstorm20x — диалоговая модель генерации текста от DavidAU, созданная на основе Jan-v1-4B от Jan. В README указано, что к модели применён Brainstorm 20x адаптер, улучшающий генерацию кода и творческую генерацию; метаданные описывают её как дообучение Jan-v1-4B на архитектуре Qwen3. Модель содержит около 5,4 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для чата, написания и доработки кода, многошагового решения задач, мозгового штурма и создания более подробной прозы. README описывает применение как готовой instruct-модели и как основы для дальнейшего дообучения. Она принимает текст и генерирует текст; в карточке заявлена поддержка английского языка. Указана лицензия Apache-2.0. Репозиторий содержит веса Safetensors; README также упоминает возможность использовать их для подготовки квантованных форматов, но сами описанные веса не следует считать квантованными.