I.3Извлечение и структурирование данных

Это GGUF-квантизированная версия языковой модели Qwen3-14B-abliterated, разработанной mlabonne. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 6,66 до 29,54 ГБ; варианты с более высокой точностью обычно требуют больше памяти, но лучше сохраняют качество, тогда как компактные варианты подходят для систем с ограниченным объёмом RAM. Для общения используется шаблон prompt формата ChatML с ролями system, user и assistant. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках или мультимодальности, поэтому эти характеристики нельзя достоверно указать. Сильной стороной являются разнообразие форматов GGUF и возможность локального запуска; ограничениями выступают неизбежные потери качества при сильной квантизации и зависимость от совместимого программного обеспечения. Указана лицензия Apache-2.0.

Moza-7B-v1.0 — экспериментальная языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автором kidyu как слияние нескольких предварительно обученных и дообученных моделей с помощью mergekit и метода DARE TIES. Среди компонентов — варианты Mistral, NeuralHermes, OpenOrca, Neural Chat, Starling, Dolphin и MetaMath; базой слияния указана mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста по инструкциям и диалоговых сценариев. Для инференса предлагается формат Alpaca. Контекст составляет 32 768 токенов; в репозитории есть веса safetensors и квантованный вариант GGUF. Карточка не описывает отдельную специализацию по языкам или областям применения. Лицензия — Apache-2.0. Автор предупреждает, что слияние выполнено экспериментально, а использовать модель следует на свой риск.

iamplus/mpt-30b-v2 — дообученная языковая модель на архитектуре MPT, созданная на базе mosaicml/mpt-30b. В README указаны llm-foundry от MosaicML и набор данных flan3m-GPT3.5; метаданные также связывают репозиторий с датасетом ehartford/dolphin. Модель предназначена для генерации текста по запросам, включая ответы на вопросы в формате с системным сообщением и вопросом. Веса опубликованы в формате PyTorch, размер модели — 30 млрд параметров по идентификатору базовой модели. Указана лицензия Apache-2.0. В карточке нет данных о поддерживаемых естественных языках и длине контекста, поэтому их нельзя уточнить.

Карточка модели baby2008/multilingual-e5-large-instruct на Hugging Face совпадает с карточкой intfloat/multilingual-e5-large-instruct, поэтому описание составлено по ней. Multilingual-E5-large-instruct — текстовая модель эмбеддингов из семейства E5, представленная авторами технического отчёта Multilingual E5 Text Embeddings. Она основана на XLM-RoBERTa-large и использует архитектуру XLM-RoBERTa с 24 слоями; размер эмбеддинга — 1024, всего 658,7 млн параметров. Модель принимает текст и выдаёт векторные представления для поиска и сравнения текстов. Репозиторий содержит веса в форматах Safetensors и ONNX. Модель предназначена для семантического поиска, сопоставления запросов с документами и оценки сходства текстов на многих языках. Для запроса необходимо добавлять одно предложение-инструкцию, описывающее задачу; документам инструкция не нужна. Модель обучалась на смеси многоязычных наборов данных и поддерживает 100 языков XLM-RoBERTa, включая русский. Длина контекста ограничена 512 токенами: более длинный текст обрезается. На низкоресурсных языках качество может быть ниже. Абсолютные значения косинусного сходства не следует трактовать как уверенность — для задач поиска важнее относительный порядок оценок. Лицензия — MIT.

Multilingual Reranker small — компактный кросс-энкодерный реранкер Horizon Labs на базе mmBERT-small с архитектурой ModernBERT и 140,5 млн параметров. Он оценивает релевантность каждой пары «запрос — фрагмент» и помогает пересортировать результаты первичного поиска для поисковых систем и RAG. Запрос и фрагмент могут быть на разных языках; модель поддерживает более 40 языков. Нативная длина контекста в метаданных — 8192 токена, однако при обучении использовались пары длиной до 384 токенов, а более длинные фрагменты обрезаются. Модель дистиллирована из Qwen3-Reranker-4B и выдаёт один логит релевантности для каждой пары: более высокое значение означает более высокую релевантность, а sigmoid(logit) даёт оценку от 0 до 1. Репозиторий содержит веса safetensors и ONNX, включая квантованный вариант для CPU и браузера. По опубликованной оценке, модель меньше и уступает учителю по точности, особенно на длинных и технических текстах; узкоспециализированные запросы и разговорные формулировки представлены в обучении слабее. Лицензия — Apache-2.0.

DeUnCaser — модель pere для восстановления пунктуации и капитализации в тексте, например в расшифровках автоматического распознавания речи. Это последовательностная модель на базе mT5, дообученная на корпусах OSCAR: обучение длилось 130 000 шагов, использовалось до миллиона примеров на каждый из 42 языков с латинским алфавитом. Модель добавляет знаки препинания, заглавные буквы в начале предложений и именах собственных, а также может расставлять дефисы и скобки, если это помогает прояснить смысл. Модель содержит около 608,4 млн параметров; в репозитории представлены форматы Flax и PyTorch. Она предназначена прежде всего для постобработки неотформатированных речевых транскрипций. Карточка не приводит оценок качества или подробностей ограничений. Лицензия — CC BY 4.0.

NB-Whisper Small (beta) — модель распознавания речи, выпущенная NB AI-Lab Национальной библиотекой Норвегии. Она построена на архитектуре OpenAI Whisper и дообучена на 20 000 часах размеченных аудиоданных; в карточке указано 153,1 млн параметров. Модель предназначена для распознавания речи и транскрибирования аудио, особенно на норвежском языке. Поддерживаются норвежский букмол, норвежский нюношк и английский. Модель подходит для черновой расшифровки речей, парламентских выступлений, телепередач и аудиокниг. Авторы отмечают высокое качество для норвежского языка среди ASR-моделей сопоставимого размера, но предупреждают о галлюцинациях, пропусках фрагментов и расхождении транскрипта с дословной речью: модель может нормализовать устную речь в грамматически правильный письменный текст или опускать части высказывания. Это публичная бета-версия, не предназначенная для производственного применения без оценки рисков. Лицензия — CC BY 4.0.

OctoThinker-8B-Long-Base-GGUF — набор GGUF-квантизаций базовой языковой модели OctoThinker-8B-Long-Base, разработанной авторами Zengzhi Wang, Fan Zhou, Xuefeng Li и Pengfei Liu. Модель построена на семействе Llama-3 и предназначена для генерации текста, математических задач, рассуждений и использования в сценариях, где требуется основа, удобная для последующего reinforcement learning. Модель прошла двухэтапное промежуточное обучение по методике Stable-then-Decay на крупномасштабных математических данных MegaMath-Web-Pro-Max и разнообразных данных с длинными цепочками рассуждений. Заявленные преимущества — быстрое схождение и повышенная стабильность при обучении с подкреплением. В README указан английский язык и текстовая модальность; размер базовой модели — 8B параметров, однако максимальная длина контекста не указана. Предлагаются варианты от F16 примерно на 16,1 ГБ до Q2_K примерно на 3,0 ГБ. Более высокие разрядности обеспечивают лучшее качество, а низкоразрядные варианты снижают требования к памяти, но могут заметно ухудшать результаты. Модель совместима с llama.cpp, llama-cpp-python, LM Studio и Ollama. Лицензия указана как llama3.2; дополнительные ограничения и условия распространения в README не раскрыты.

OpenHermes-7B-Symbolic-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral AI и hedronstone/OpenHermes-7B-Symbolic методом SLERP. Она предназначена для генерации текста и ответов на инструкции в формате диалога. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и выдаёт текст. Веса опубликованы в формате Safetensors. Модель распространяется по лицензии Apache-2.0. Она подходит для диалоговых сценариев и выполнения текстовых инструкций; качество ответов и способность решать специализированные задачи README не описывает.

Ornith-Agents-A1 — объединённая мультимодальная модель, созданная автором карточки с помощью mergekit методом task arithmetic на базе Qwen/Qwen3.5-35B-A3B и с включением InternScience/Agents-A1 и deepreinforce-ai/Ornith-1.0-35B. Архитектура относится к семейству Qwen 3.5 MoE; метаданные указывают поддержку диалога и обработки изображений, а основной сценарий по pipeline_tag — генерация текста по текстовому и визуальному вводу. Модель предназначена для диалога, анализа изображений и агентных задач. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. Карточка не сообщает размер модели, длину контекста и поддерживаемые естественные языки.

Parakeet TDT 0.6B v3 INT8 — модель распознавания речи, подготовленная Sonic Speech на основе модели NVIDIA Parakeet TDT v3 и предназначенная для запуска через MLX, в том числе на компьютерах Apple Silicon. Она преобразует аудио в текст и подходит для транскрибации записей и речи.

nm-testing/Qwen2-1.5B-Instruct-FP8W8 — квантованная версия инструкционно дообученной языковой модели Qwen2-1.5B-Instruct. Исходную модель разработала команда Qwen; репозиторий данной версии размещён пользователем nm-testing. Модель предназначена для генерации текста, диалогов и выполнения инструкций, а также может применяться в локальных сервисах инференса через Transformers, vLLM или SGLang. Это decoder-only Transformer примерно на 1,5 млрд параметров с архитектурными особенностями Qwen2, включая SwiGLU и Group Query Attention. В репозитории указаны форматы BF16 и F8_E4M3, соответствующие FP8-квантизации весов и активаций. Модель работает только с текстом; поддерживаются чатовый шаблон и text generation. Для исходной модели заявлена длина контекста до 131 072 токенов, а токенизатор адаптирован к нескольким естественным языкам и языкам программирования, однако точный набор языков и фактические характеристики контекста именно квантованной версии в её репозитории не описаны. К сильным сторонам относятся небольшой размер, сниженные требования к памяти благодаря FP8-квантизации и пригодность для диалоговых и общих задач генерации текста. Ограничения — существенно меньшая ёмкость по сравнению с крупными моделями, отсутствие мультимодальности и отсутствие отдельной карточки модели с результатами оценки, подробным описанием ограничений и подтверждёнными характеристиками именно этой сборки. Лицензия в репозитории nm-testing не указана; у исходной Qwen2-1.5B-Instruct указана Apache License 2.0, но применимость этой лицензии к данной производной сборке следует проверить отдельно.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.4 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

Theros/Qwen2.5-ColdBrew-R1-test — объединённая диалоговая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом Model Stock. В объединении использованы SvalTek/Qwen2.5-ColdBrew, bunnycore/Qwen-2.5-7B-R1-Stock и fblgit/cybertron-v4-qw7B-UNAMGS; базовой моделью и источником токенизатора указана SvalTek/Qwen2.5-ColdBrew. Модель содержит 7,1 млрд параметров, принимает текст и генерирует текст, поддерживает диалоговый сценарий и имеет контекст до 131072 токенов. Она предназначена для генерации ответов и ведения текстовых диалогов. В карточке не приведены результаты сравнительных оценок качества, поэтому пригодность для конкретных задач следует проверять отдельно. Файлы представлены в формате safetensors, библиотека — Transformers; лицензия в доступных данных не указана.

ZuzeTt/Qwen3-4B-Thinking-2507-Heretic-Imatrix-GGUF — это GGUF-квантизации модели Qwen3-4B-Thinking-2507-Heretic, созданной becnic на основе Qwen3-4B-Thinking-2507. Репозиторий подготовлен ZuzeTt с использованием llama.cpp версии b7120 и предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к каузальным языковым моделям для генерации текста и задач рассуждения. Она содержит около 4 млрд параметров, из которых 3,6 млрд не относятся к embedding, и имеет 36 слоёв. Заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Доступны варианты от f16 до Q2_K размером примерно от 1,67 до 8,05 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Ключевая особенность — модификация Heretic с применением abliteration. По приведённому сравнению, модель демонстрирует 6 отказов из 100 против 96 из 100 у исходной Qwen3-4B-Thinking-2507, при KL-дивергенции 0,06 относительно оригинала. Это может расширять применимость модели к запросам, которые исходная версия чаще отклоняет, но также повышает риск нежелательной или небезопасной генерации. В README не указаны размер контекста, результаты комплексных бенчмарков, мультимодальные возможности и подробные рекомендации по аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

amd/Qwen3.5-397B-A17B-MXFP4-AttnFP8-V2 — квантизированный вариант модели Qwen3.5-397B-A17B, разработанный Advanced Micro Devices, Inc. Модель построена на архитектуре Qwen3_5MoeForConditionalGeneration с разреженными экспертами и предназначена для генерации текста по текстовым, графическим и видеовходам. В README указан английский язык, но сведения о полном наборе поддерживаемых языков и размере контекстного окна отсутствуют. Модель оптимизирована для инференса на AMD MI350 и MI355 под Linux с ROCm 7.2.0, PyTorch 2.9.1, Transformers 5.3.0 и SGLang. Все эксперты MoE, включая shared expert, квантизированы в OCP MXFP4 и объединены с маршрутизируемым MoE-ядром; слои self-attention и linear attention используют FP8E4M3 для весов и активаций. Такая оптимизация уменьшает объём данных в формате bfloat16 и повышает производительность декодирования. На GSM8K модель показала 97,24% против 97,71% у исходной версии, то есть сохранила 99,55% базового результата. Модель подходит для ресурсоёмких задач генерации текста, рассуждений и мультимодального анализа при наличии совместимого оборудования и программного стека. README не приводит результаты на других тестах, поэтому обобщать подтверждённые свойства за пределы GSM8K не следует. Модель распространяется по лицензии Apache 2.0; модификации принадлежат Advanced Micro Devices, Inc.

Qwen3.6-35B-A3B Winnow keep-75 — это разреженная версия Qwen3.6-35B-A3B, подготовленная автором репозитория hbfreed с помощью поканального прореживания экспертов Winnow. В каждом эксперте SwiGLU удалено 25% каналов по оценке их важности; механизмы внимания, эмбеддинги и маршрутизатор не изменены. README указывает 26,6 млрд параметров, тогда как метаданные каталога — 2,9 млрд; эти оценки расходятся, поэтому размер здесь не приводится. Модель предназначена для генерации текста и диалогов. В README приведён результат perplexity 13,39 на C4 для данного непрошедшего дополнительное восстановление чекпойнта; сравнения с другими вариантами и показатели на downstream-задачах вынесены в отдельный материал. Указана длина контекста 262 144 токена. Для загрузки требуется Transformers версии 5 или новее и trust_remote_code=True; README также описывает запуск через vLLM с плагином winnow. Лицензия — Apache-2.0. Языки отдельно не перечислены.

PassingByPixels/Qwen3.8-27B-heretic-ara-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.8-27B-heretic-ara, разработанная PassingByPixels на основе checkpoint от trohrbaugh. Исходная модель представляет собой кастомную Heretic ARA-версию Qwen3.8-27B от Qwen; данный репозиторий выполняет преобразование числового формата без дополнительного обучения, дообучения или изменения весов, за исключением восстановления MTP-головы. Модель предназначена для генерации и анализа текста и изображений, включая диалоговые сценарии с поддержкой reasoning и визуального ввода. Она рассчитана на запуск через vLLM на одном NVIDIA DGX Spark с GPU GB10 и 128 ГБ памяти. Используется смешанная точность: FFN и проекции full attention хранятся в NVFP4 — 4-битном формате с блоковыми 8-битными масштабами, а Gated DeltaNet, vision tower, embeddings, LM head и MTP-голова остаются в BF16. Размер весов уменьшен примерно с 51,8 до 20 ГБ; заявлена поддержка контекста до 131 072 токенов. В README указан английский язык. К сильным сторонам относятся существенно меньший размер, совместимость с Blackwell FP4-путём vLLM и поддержка speculative decoding через MTP. Работоспособность MTP проверена на DGX Spark, однако это не является оценкой качества модели. Ключевое ограничение — потерьное 4-битное преобразование: сравнительное тестирование качества с исходной BF16-моделью не проводилось, а заявленные возможности относятся прежде всего к исходным весам. Также отмечены ограничения совместимости MTP и FlashInfer на GB10. Модель распространяется по лицензии Apache 2.0, унаследованной от исходных моделей.

lmstudio-community/Qwen3-8B-MLX-4bit — это 4-битная квантизированная версия модели Qwen/Qwen3-8B, преобразованная в формат MLX сообществом lmstudio-community с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, преимущественно на устройствах Apple Silicon, поддерживающих экосистему MLX. Модель относится к классу языковых моделей с параметрами порядка 8 миллиардов и работает в текстовой модальности. Она подходит для диалогов, продолжения текста и других задач генерации, которые поддерживаются базовой моделью Qwen3-8B. README не содержит сведений о точной архитектуре, поддерживаемых языках, размере контекстного окна, результатах тестирования или специализированных сценариях применения. Ключевое преимущество версии — 4-битное представление, которое снижает требования к памяти и делает локальный запуск более доступным, однако может сопровождаться потерей качества по сравнению с полноразмерной версией. Для использования требуется установка mlx-lm и совместимое окружение MLX. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-Flash-Next Q4_0-Q8out-v3 — это GGUF-чекпойнт модели Qwen3.8-Flash-Next, опубликованный nitinpanj и предназначенный для локального запуска на компьютерах Apple Silicon. Модель ориентирована на генерацию текста и диалоговые сценарии через llama.cpp и OpenAI-совместимый сервер. Архитектура использует mixture-of-experts, а чекпойнт оптимизирован для потоковой загрузки редко используемых экспертных весов с SSD, благодаря чему модель размером около 95,5 ГиБ может запускаться на Mac с 64 ГиБ unified memory. Вариант v3 сочетает квантование Q4_0 с Q8_0 для output.weight и дополнительными изменениями квантования отдельных групп тензоров. По данным README, это снизило perplexity с 5,2777 до 4,3148 и повысило принятие черновых токенов при speculative decoding с 0,751 до 0,817. При использовании отдельной draft head объёмом около 1,9 ГиБ заявлена скорость генерации примерно 27,6 токена в секунду на Apple M5 Pro с 64 ГиБ памяти; без неё — около 18,0–18,6 токена в секунду. В конфигурации запуска указан контекст 98 304 токена, при этом скорость снижается по мере заполнения контекста. Главное ограничение — модель не работает со стандартной версией llama.cpp: требуется форк npanj/llama.cpp с поддержкой --moe-stream и сборкой Metal. Рекомендуется около 100 ГиБ свободного места на внутреннем SSD, поскольку экспертные веса постоянно считываются с диска; внешний USB-накопитель будет существенно медленнее. Ниже 64 ГиБ памяти запуск не проверен и, вероятно, потребует уменьшения кэша с потерей скорости. Лицензия в README не указана.

Furiosa AI публикует эту версию Qwen3-Reranker-0.6B вместе с пакетом Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Модель построена на плотной трансформерной архитектуре Qwen3 и содержит около 507,6 млн параметров. Она принимает текстовый запрос и набор текстовых документов-кандидатов, оценивает релевантность каждой пары и выдаёт оценки для сортировки результатов. Модель предназначена для второго этапа поиска и конвейеров RAG: например, чтобы переупорядочивать найденные документы перед передачей языковой модели. Контекст составляет до 40 960 токенов. В репозитории указана точность BF16 без квантизации; для RNGD применяется распараллеливание по восьми PE на одной карте. Также заявлена совместимость с Sentence Transformers, vLLM и Transformers. Лицензия — Apache 2.0.

Qwen3-Reranker-0.6B-seq-cls — вариант Qwen3-Reranker-0.6B, преобразованный в модель классификации последовательностей. Это плотная модель архитектуры Qwen3 с 507,6 млн параметров, дообученная на базе Qwen/Qwen3-0.6B-Base и предназначенная прежде всего для ранжирования текстовых пар. Она оценивает релевантность документа запросу, чтобы переупорядочить кандидатов в поиске или RAG-системе; также в метаданных указана поддержка классификации текста. Модель рассчитана на многоязычные сценарии: карточка заявляет поддержку более 100 языков, включая языки программирования. Она подходит для поиска по тексту и коду, межъязыкового поиска и отбора документов по запросу. Входные инструкции можно настраивать под задачу; README сообщает, что инструкции часто улучшают результаты ранжирования. Метаданные указывают контекст до 40 960 токенов, а README — 32K. Для работы с Transformers требуется версия 4.51.0 или новее. Модель опубликована в формате safetensors по лицензии Apache-2.0.

Kaoeiri/Qwenwify-32B-v3 — объединённая языковая модель на архитектуре Qwen2 с 32 млрд параметров, созданная с помощью mergekit методом DARE TIES на базе Qwen/QwQ-32B-Preview. В объединение вошли несколько моделей Qwen2.5-32B, включая варианты для диалога, ролевых сценариев, следования инструкциям и генерации прозы; среди них есть версии с изменённым поведением отказов. Модель предназначена для диалоговой генерации текста, ответов на инструкции и ролевых бесед. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и интерфейс вызова инструментов. В метаданных указаны языковые теги qwen2, но конкретные естественные языки не перечислены. Модель распространяется по лицензии CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий. Составной характер merge и различные исходные настройки могут приводить к непредсказуемому поведению; модель также помечена как не предназначенная для всех аудиторий.

ReWiz-Nemo-12B-Instruct — языковая модель theprint, дообученная на базе unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit. Это плотная Mistral-модель с 12,1 млрд параметров для диалоговой генерации текста. При обучении часть данных была ориентирована на улучшение рассуждений, а другая — на снижение ограничений на ответы; использовались EvolKit-20k, reasoning-base-20k и данные WizardLM. Модель обучалась с Unsloth и библиотекой TRL. Модель подходит для диалогов и генерации ответов на запросы на английском языке. Метаданные указывают контекст до 1 024 000 токенов и интерфейс для вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0; для GGUF автор указывает отдельную публикацию. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но они сами по себе не гарантируют качество в конкретных сценариях.

Sailor2-8B-Chat-GGUF — это набор GGUF-квантизаций чатовой языковой модели Sailor2-8B-Chat, разработанный командой sail и квантизированный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогов, генерации текста и выполнения инструкций, включая мультиязычные сценарии на английском, китайском, индонезийском, тайском, вьетнамском, малайском, лаосском, бирманском, яванском, кхмерском, сунданском и тагальском языках. Модель имеет размер 8B параметров; архитектура и размер контекста в README не указаны. Доступны варианты от F16 до низкобитных Q2/Q3/Q4/Q5/Q6/Q8 и IQ-квантизаций, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Для чата следует использовать формат с маркерами system, user и assistant. Сильной стороной является сочетание мультиязычной направленности и широкого выбора форматов для локального запуска, в том числе через LM Studio. Ограничения включают возможное снижение качества при агрессивной квантизации и отсутствие сведений о результатах оценивания, поддерживаемых модальностях помимо текста и максимальной длине контекста. Модель распространяется по лицензии Apache-2.0.

SciPhi-Mistral-RAG-Hermes-7B-32k — языковая модель на архитектуре Mistral, созданная как слияние модели SciPhi/SciPhi-Self-RAG-Mistral-7B-32k с помощью LazyMergekit. Она предназначена для генерации текста и сценариев RAG, где модель формирует ответы на основе предоставленного контекста. Модель содержит 6,5 млрд параметров и поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. README и метаданные не уточняют поддерживаемые естественные языки и условия лицензии, поэтому конкретные языки и лицензионные условия здесь не приводятся.

SJT-14B — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная с помощью mergekit и метода TIES. В качестве базовой использована hotmailuser/QwenSlerp2-14B, также в объединение вошла djuna/Q2.5-Veltha-14B. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает японский и английский языки и имеет контекст длиной до 131 072 токенов. Доступна в формате safetensors и распространяется по лицензии Apache-2.0.

smol_bruin-7b — языковая модель для генерации текста, созданная объединением методом SLERP моделей go-bruins-v2 и smol-7b с помощью MergeKit. В README указана базовая модель mistralai/Mistral-7B-v0.1; в репозитории размещены веса Safetensors общей архитектуры Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель подходит для генерации продолжений текста и ответов на запросы в диалоговом формате. В README приведены результаты оценки на AI2 Reasoning Challenge и HellaSwag, но сведений о специализации на конкретной области или языках нет. Лицензия — CC BY 4.0; при использовании необходимо соблюдать её условия.

mainbrains поддерживает форк SmolLM2-1.7B-Instruct для оценки и компактного запуска на устройствах с ограниченными ресурсами. Это плотная decoder-only Transformer-модель семейства Llama с 1,7 млрд параметров, дообученная методом SFT и оптимизированная с помощью DPO на базе HuggingFaceTB/SmolLM2-1.7B. Репозиторий содержит веса Safetensors и ONNX; в README также описаны GGUF-квантизации для локального запуска. Контекст модели — до 8192 токенов. Модель предназначена для генерации ответов и инструктивного диалога, переписывания и суммаризации текста, а также вызова функций. README ориентирует её на лёгкое локальное развёртывание, включая маломощные устройства; для версии Q4_K_M автор приводит оценку около 15 токенов в секунду при 1,2 ГБ оперативной памяти на Raspberry Pi 5. Основной язык — английский. По сравнению с предыдущей SmolLM1-1.7B автор отмечает улучшения в следовании инструкциям, знаниях, рассуждениях и математике; приведённые результаты показывают, что модель уступает некоторым сопоставляемым моделям по отдельным оценкам. Она может выдавать фактически неверные или непоследовательные ответы и воспроизводить смещения обучающих данных, поэтому важные сведения нужно проверять. Лицензия — Apache-2.0.

SmolLM2-1.7B-Instruct — компактная диалоговая языковая модель семейства SmolLM2, опубликованная Hugging Face и размещённая в репозитории Unsloth. Это плотная Llama-совместимая модель с 1,7 млрд параметров, рассчитанная на генерацию текста и работу по инструкциям; длина контекста — до 8192 токенов. Версия Instruct создана дообучением с учителем и оптимизацией предпочтений (SFT и DPO) на основе открытых и курируемых наборов данных. Модель подходит для диалогов, следования инструкциям, переписывания и суммаризации текста, а также вызова функций. Компактный размер делает её пригодной для локального запуска и приложений с ограниченными ресурсами. В карточке отдельно упомянуты улучшения по сравнению с SmolLM1-1.7B в следовании инструкциям, знаниях, рассуждениях и математике; это не гарантирует точность ответов во всех сценариях. Поддерживаемый язык — английский. Лицензия — Apache 2.0.