II.8Инженерия данных и аналитика

MiniCPM5-1B-heretic — модифицированная версия MiniCPM5-1B, разработанная автором RACER IS OP на основе модели openbmb. С помощью Heretic v1.4.0 к модели применена направленная абляция: целевые изменения весов в выходных проекциях attention и down-projection MLP подавляют поведение, связанное с отказами, без дообучения. Заявлено, что при этом в основном сохраняются знания, следование инструкциям, генерация кода, рассуждения и использование инструментов. Модель предназначена для диалоговых приложений, локальных агентов, генерации кода, function calling, ролевых сценариев и исследований механизмов alignment и отказов. Это текстовая causal language model примерно на 1,1 млрд параметров с поддержкой английского и китайского языков, контекста до 128K токенов и режимов Think/No-Think. Доступны форматы Transformers и GGUF, запуск возможен через llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang; модель ориентирована на потребительские GPU, CPU, Apple Silicon и edge-устройства. Ключевое заявленное преимущество — существенное снижение отказов: 2 из 100 против 96 из 100 у исходной MiniCPM5-1B в описанном тесте, при низком KL-divergence 0,0381. Ограничения включают небольшой для сложных задач размер модели, возможное снижение качества на низких уровнях квантования и отсутствие защитных ограничений, поэтому результаты и безопасность применения требуют дополнительной проверки. Указана лицензия Apache-2.0.

sentence-transformers/nli-distilbert-base — модель семейства Sentence-Transformers на базе DistilBERT, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости, поиска и кластеризации. Модель принимает текст и выдаёт эмбеддинги; контекст ограничен 512 токенами. Доступны варианты весов в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель подходит для семантического поиска по текстам, группировки похожих фраз и вычисления сходства предложений. В README она помечена как устаревшая: качество эмбеддингов низкое, поэтому для новых проектов рекомендуется выбрать более современную модель sentence embeddings. Лицензия — Apache-2.0.

Occiglot-7B-it-en-Instruct — генеративная языковая модель Occiglot Research Collective, дообученная следовать инструкциям и поддерживать диалог. Это плотный decoder-only трансформер Mistral с 7,1 млрд параметров; модель принимает текст и имеет контекст до 32 768 токенов. Карточка описывает поддержку английского и итальянского языков, а также кода; обучение включало многоязычные и программные инструкции, а взаимодействие рассчитано на шаблон ChatML. Модель подходит для диалоговых ответов, выполнения текстовых инструкций, генерации текста и помощи с кодом на английском и итальянском. Это ранний выпуск исследовательского проекта, обученный на дополнительных инструкционных данных; приведённые оценки названы предварительными, а неанглоязычные результаты ограничены особенностями тестовых наборов. Модель не прошла safety alignment и может выдавать проблемный контент. Лицензия — Apache 2.0.

Карточка модели mayflowergmbh/occiglot-7b-it-en-instruct-hf на Hugging Face совпадает с карточкой occiglot/occiglot-7b-it-en-instruct, поэтому описание составлено по ней. Occiglot-7B-it-en-Instruct — генеративная языковая модель Occiglot Research Collective, дообученная следовать инструкциям и поддерживать диалог. Это плотный decoder-only трансформер Mistral с 7,1 млрд параметров; модель принимает текст и имеет контекст до 32 768 токенов. Карточка описывает поддержку английского и итальянского языков, а также кода; обучение включало многоязычные и программные инструкции, а взаимодействие рассчитано на шаблон ChatML. Модель подходит для диалоговых ответов, выполнения текстовых инструкций, генерации текста и помощи с кодом на английском и итальянском. Это ранний выпуск исследовательского проекта, обученный на дополнительных инструкционных данных; приведённые оценки названы предварительными, а неанглоязычные результаты ограничены особенностями тестовых наборов. Модель не прошла safety alignment и может выдавать проблемный контент. Лицензия — Apache 2.0.

Ogma Mini — компактная англоязычная модель эмбеддингов текста семейства Ogma, предназначенная для локального поиска и работы на устройствах с ограниченными ресурсами. В README указаны 3,5 млн параметров, размер около 14 МБ и контекст до 1024 токенов; модель использует архитектуру энкодера и выдаёт векторные представления текста, а не генерирует текст. Модель подходит для семантического и векторного поиска, извлечения документов для RAG, памяти агентных систем, кластеризации и классификации. Поддерживаются маршруты кодирования с токенами задач и Matryoshka-размерности 256, 128, 64 и 32, позволяющие уменьшать размер векторов. В README приведена оценка 53,06 на англоязычном бенчмарке MTEB; результаты зависят от задачи и способа применения. Ограничения: модель рассчитана на английский язык, не выполняет генерацию текста и уступает MiniLM-L6-v2 в задачах реранжирования. На CPU трансформерный энкодер может работать заметно медленнее статических моделей. Лицензия CC-BY-NC-4.0 запрещает коммерческое использование без отдельного разрешения.

OpenCerebrum-2.0-7B-GGUF — это квантизированная версия языковой модели Locutusque/OpenCerebrum-2.0-7B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста и ответов на вопросы, включая задачи по программированию, математике, химии и биологии. Заявлен английский язык. Модель содержит 7 млрд параметров и распространяется в нескольких вариантах квантизации объёмом примерно от 2,8 до 7,8 ГБ: Q2_K, Q3, IQ3, IQ4, Q4, Q5, Q6 и Q8. Более компактные варианты требуют меньше памяти, но могут уступать по качеству; в README отдельно отмечены Q4_K_S и Q4_K_M как быстрые и рекомендуемые, а Q8_0 — как вариант с наилучшим качеством. Сведения об архитектуре, размере контекста, поддерживаемых модальностях помимо текста и результатах тестирования не указаны. Это open-source модель, опубликованная с лицензией Apache-2.0. README описывает статические квантизации; взвешенные или imatrix-варианты на момент публикации не предоставлялись. Для запуска GGUF-файлов требуется совместимое программное обеспечение, однако конкретные средства инференса не указаны.

Карточка модели hotchpotch/open-provence-reranker-large-v1 на Hugging Face совпадает с карточкой hotchpotch/open-provence-reranker-xsmall-v1, поэтому описание составлено по ней. OpenProvence reranker xsmall v1 — компактная двуязычная модель переранжирования и отбора предложений для подготовки контекста в системах поиска и RAG. Модель разработана hotchpotch и содержит 30 млн параметров; архитектура — OpenProvence для классификации последовательностей, веса представлены в формате safetensors. Модель принимает вопрос и текстовый контекст, оценивает релевантность предложений и удаляет фрагменты, не относящиеся к запросу. Она предназначена для ускорения поиска нужной информации и сокращения контекста перед передачей его генеративной модели. Поддерживаются английский и японский языки; согласно карточке, xsmall рассчитана на низкую задержку и может работать на CPU. В опубликованных оценках модель сокращала объём контекста, сохраняя ответы на контрольных примерах, но результаты зависят от языка, порога отсечения и набора данных. Модель опубликована под лицензией MIT.

OpenSonnet-Lite-MAX — дообученная языковая модель hadadxyz на архитектуре Qwen3, основанная на Qwen/Qwen3-4B-Thinking-2507. Она предназначена для диалоговой генерации текста, следования инструкциям и решения задач с рассуждением; в карточке также показана демонстрация вызова инструментов. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Указаны многоэтапное дообучение в два прохода и оценка 85,22 на GSM8K; результатов для MMLU-Pro и GPQA Diamond карточка не приводит. Модель распространяется в формате safetensors через Transformers по лицензии Apache 2.0. Языки обучения или поддерживаемые естественные языки в предоставленных данных не обозначены. Результаты бенчмарка и заявленные возможности основаны на карточке модели и сами по себе не гарантируют аналогичное качество на других задачах.

Xenova/paraphrase-multilingual-mpnet-base-v2 — это версия модели sentence-transformers/paraphrase-multilingual-mpnet-base-v2 с весами в формате ONNX, подготовленная для совместимости с библиотекой Transformers.js. Репозиторий поддерживается сообществом Xenova и предназначен для запуска модели в JavaScript-средах, включая веб-приложения, через pipeline Transformers.js. Модель используется для извлечения признаковых представлений текста (feature extraction), поэтому подходит для задач семантического сравнения, поиска похожих текстов, кластеризации и других сценариев, где нужны текстовые embeddings. В README приведён пример обработки англоязычной фразы, однако языки, размер, архитектура, максимальная длина контекста и точные характеристики исходной модели не указаны. Известно, что ONNX-веса размещены в отдельном репозитории для web-ready использования; сведения о сильных сторонах, ограничениях и лицензии в README отсутствуют.

bunnycore/Phi-2-OmniMatrix — языковая модель, созданная объединением нескольких дообученных моделей семейства Phi-2 с помощью mergekit и метода task arithmetic. В качестве базовой модели использована microsoft/phi-2; в объединение вошли варианты для чата, ролевого общения и генерации кода. Модель содержит 3,5 млрд параметров, использует архитектуру PhiForCausalLM и формат safetensors; длина контекста — 2048 токенов. Модель предназначена для генерации текста, диалогов и кода. Работает через библиотеку Transformers. README указывает тип данных float16. Лицензия в предоставленных данных не указана.

Phi-3-mini-4k-instruct-4bit — это 4-битная версия модели Phi-3-mini-4k-instruct, преобразованная сообществом mlx-community в формат MLX из исходной модели Microsoft. Конвертацию выполнил Prince Canuma с использованием mlx-lm 0.10.0; модель предназначена для запуска и генерации текста через экосистему MLX. Модель решает задачи генерации текста и диалогового взаимодействия на английском языке, включая ответы на вопросы, составление текстов и помощь с кодом. Она содержит около 3,7 млрд параметров и поддерживает контекст длиной до 4096 токенов. 4-битное представление снижает требования к памяти по сравнению с полноразмерной версией, что удобно для локального запуска на совместимом оборудовании Apple Silicon и других средах MLX. Модель распространяется по лицензии MIT. Ограничения исходной Phi-3-mini-4k-instruct, включая возможные ошибки, галлюцинации, чувствительность к формулировкам запросов и риски при использовании с непроверенным кодом или фактическими сведениями, сохраняются; результаты требуют проверки человеком.

Phi-4-MedIT-10B-o1 — языковая модель для генерации текста и решения задач, требующих рассуждений. По карточке, модель создана на основе Phi-4: её сократили с 14 млрд до примерно 10 млрд параметров методом прореживания MKA2G и дообучили за одну эпоху на данных для рассуждений. В метаданных указаны плотная архитектура семейства Llama, реализация LlamaForCausalLM и контекст до 16 384 токенов. Модель предназначена для диалогового применения, задач на рассуждения и интеграции с ReasonFlow. Основной язык обучения — английский; карточка предупреждает о снижении качества на других языках. Репозиторий содержит веса в форматах Safetensors и GGUF, а лицензия — MIT. Ответы могут быть неточными или выдуманными, а также содержать предвзятость или нежелательный контент; для чувствительных сценариев нужна дополнительная проверка.

Qwen2.5-Coder-1.5B-Instruct-GGUF — квантованные модели семейства Qwen2.5-Coder-1.5B-Instruct, разработанного Qwen и подготовленного в формате GGUF компанией Second State Inc. Модель предназначена для генерации текста и работы с программным кодом в диалоговом режиме, включая задачи программирования и использования в чат-приложениях. Указан английский язык, применяется шаблон запросов ChatML. Модель имеет размер 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Доступны варианты квантования от 2 до 8 бит, f16, с размером файлов примерно от 676 МБ до 3,09 ГБ. Вариант Q4_K_M обозначен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более агрессивное квантование уменьшает требования к памяти, но может заметно снижать качество ответов. Модель рассчитана на локальный запуск через LlamaEdge и совместима с llama.cpp. README не содержит подробностей об архитектуре, полном наборе поддерживаемых языков, результатах оценки или специфических ограничениях качества. Распространяется по лицензии Apache 2.0.

Эта модель представляет собой текстовый эмбеддер на базе decoder-only архитектуры Qwen2.5-Math-1.5B, дообученной для формирования семантических представлений. Она предназначена для поиска и сопоставления текстов по смыслу, включая оценку сходства предложений и извлечение признаков. Модель содержит 1,5 млрд параметров, работает с контекстом до 4096 токенов и распространяется в формате safetensors; для загрузки через Transformers или Sentence Transformers в README рекомендуется включить trust_remote_code. В README описана исследовательская работа по эмбеддингам, инициализированным моделями с RLVR-обучением: на MTEB и BRIGHT не обнаружено устойчивого преимущества над базовыми моделями при одинаковой процедуре обучения. Лицензия — Apache-2.0. Базовая Qwen2.5-Math-1.5B ориентирована на математические задачи на английском и китайском, а карточка этой модели заявляет многоязычную поддержку; конкретный набор языков для эмбеддера не перечислен.

QuantTrio/Qwen3.6-27B-AWQ — это квантизированная версия модели Qwen3.6-27B, разработанной командой Qwen и опубликованной в формате, совместимом с Transformers. Вариант AWQ создан с помощью квантования без калибровочного датасета; размер файла модели составляет около 21 GiB. Лицензия — Apache 2.0. Модель предназначена прежде всего для агентного программирования, работы с фронтенд-разработкой, анализа репозиториев и сценариев с вызовом инструментов. Она относится к классу causal language model with vision encoder, поэтому поддерживает текстовые и визуальные входные данные. Заявлены возможности сохранения контекста рассуждений между сообщениями, автоматического выбора инструментов и интеграции с vLLM. Архитектура включает 27 миллиардов параметров, 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также многошаговое обучение для multi-token prediction. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Данные о полном наборе поддерживаемых языков и подробных результатах независимого тестирования в README не приведены. К сильным сторонам относятся большой контекст, мультимодальность, ориентация на программирование и возможность эффективного запуска в квантизированном виде. Ограничения связаны с тем, что AWQ-квантование без калибровочного набора может приводить к потере качества по сравнению с исходной моделью; для запуска указаны vLLM 0.19.0, Transformers 5.5.4 и CUDA 12.8 или 13.0. При использовании tensor parallelism на восьми GPU требуется включить expert parallelism.

unsloth/Qwen3.6-27B-MTP-GGUF — квантованный формат модели Qwen3.6-27B, разработанной командой Qwen; сборка и GGUF-квантизация предоставлены Unsloth. Это открытая модель с лицензией Apache-2.0, предназначенная для локального запуска и интеграции через llama.cpp, Unsloth Studio и другие совместимые инструменты. Она ориентирована прежде всего на агентное программирование, работу с интерфейсами и репозиториями, итеративную разработку с сохранением контекста рассуждений, а также вызов инструментов. Модель представляет собой каузальную языковую модель с vision encoder и поддерживает текстовые и визуальные сценарии. Размер языковой части — 27 млрд параметров; архитектура включает 64 слоя, комбинацию Gated DeltaNet и Gated Attention, а также multi-token prediction (MTP), обученную на нескольких шагах. Нативная длина контекста составляет 262 144 токена и может расширяться до 1 010 000 токенов. Языки в README не указаны. Ключевое преимущество MTP — заявленное ускорение инференса примерно в 1,5–2 раза без потери точности. Модель поддерживает запуск на GPU, CPU и Metal, однако для MTP в llama.cpp пока не поддерживаются параллельные последовательности с np > 1 и мультимодальный проектор mmproj. При больших окнах контекста возможен повышенный расход памяти; README рекомендует уменьшать контекст при нехватке памяти, сохраняя по возможности не менее 262 144 токенов.

unsloth/Qwen3.6-35B-A3B-NVFP4 — открытая NVFP4-квантизированная версия модели Qwen3.6-35B-A3B, разработанная Unsloth на базе модели Qwen. Это каузальная языковая модель с визуальным энкодером, предназначенная для диалоговых и мультимодальных сценариев, агентного программирования, работы с frontend-задачами и рассуждений на уровне репозитория. Модель распространяется в формате Hugging Face Transformers и совместима с Transformers, vLLM, SGLang и KTransformers. Модель содержит 35 млрд параметров, из которых 3 млрд активируются при обработке токена. Архитектура включает 40 слоёв, сочетает Gated DeltaNet, Gated Attention и Mixture of Experts с 256 экспертами, из которых используются 8 маршрутизируемых и 1 общий. Размер скрытого представления составляет 2048, размер словаря — 248 320 токенов. Поддержка изображений заявлена через vision encoder, однако список языков и максимальная длина контекста в README не указаны. Ключевые преимущества версии — сниженное потребление памяти, возможность работы на GPU с 32 ГБ VRAM, встроенный модуль Multi-Token Prediction для speculative decoding и заявленная скорость до 1,56 раза выше других NVFP4-квантизаций. К ограничениям относятся возможные потери точности из-за квантизации, зависимость производительности от аппаратного обеспечения и backend vLLM, а также отсутствие в предоставленных данных подробностей о языковой поддержке и контексте. Лицензия — Apache-2.0.

unsloth/Qwen3.6-35B-A3B-NVFP4-Fast — квантованный чекпойнт семейства Qwen3.6, разработанный Unsloth на базе Qwen/Qwen3.6-35B-A3B. Это каузальная языковая модель с vision encoder, предназначенная для генерации текста, мультимодальных задач и особенно для агентного программирования, работы с фронтенд-разработкой и рассуждений на уровне репозитория. Модель поддерживает сохранение контекста рассуждений из предыдущих сообщений. Языки в README не указаны. Модель использует архитектуру Mixture of Experts: 35 млрд параметров всего, около 3 млрд активируются при обработке токена; предусмотрены 256 экспертов, из которых выбираются 8 маршрутизируемых и 1 общий. Архитектура включает Gated DeltaNet и Gated Attention, 40 слоёв, скрытое измерение 2048 и нативный контекст длиной 262 144 токена. Чекпойнт содержит модуль Multi-Token Prediction, который может использоваться для ускорения декодирования. Квантование выполнено в формате NVFP4 и откалибровано на смеси наборов Unsloth и UltraChat. К сильным сторонам относятся сниженные требования к видеопамяти, заявленная совместимость с GPU от 32 ГБ, высокая скорость инференса в рекомендованных конфигурациях vLLM и результаты, близкие к FP8 и BF16 на приведённых тестах MMLU-Pro, GPQA и AIME 2025. Ограничения связаны с потерями точности и особенностями производительности, возможными из-за NVFP4-квантования, а также с зависимостью скорости от совместимого оборудования и backend. README не приводит подробных данных о мультимодальных возможностях, языках и расширенной длине контекста. Модель распространяется по лицензии Apache-2.0. Веса и конфигурации представлены в формате Hugging Face Transformers; также заявлена совместимость с vLLM, SGLang и KTransformers.

Qwen3.8-Flash-Next-ik-llama-GGUF — это текстовая GGUF-конверсия модели Qwen3.8-Flash-Next, опубликованная пользователем ji-farthing. Файлы собраны непосредственно из BF16-релиза Qwen и предназначены для локального запуска через ik_llama.cpp, прежде всего для генерации текста и агентских задач, включая программирование. Модель использует архитектуру с маршрутизируемыми экспертами, а также поддерживает собственную MTP-head для speculative decoding. Доступны варианты квантизации IQ3_KT и IQ4_KT объёмом соответственно 80,22 и 88,42 ГиБ. Отдельно поставляется MTP-head IQ4_KT объёмом 2,21 ГиБ; она не является самостоятельной моделью и должна загружаться вместе с основной моделью. Указан контекст до 131 072 токенов. Модель текстовая, сведения о поддерживаемых языках в README не приведены. Для работы требуются ik_llama.cpp и сборка с поддержкой qwen4exp MTP; маршрутизируемые эксперты требуют примерно 50,4 ГиБ RAM или VRAM для IQ3_KT и 58,6 ГиБ для IQ4_KT. Ключевые сильные стороны — квантизация с importance matrix, настроенная для агентского программирования, сохранение собственного механизма MTP и высокая эффективность использования памяти за счёт размещения PLE-таблицы на диске. По приведённым измерениям на коде IQ4_KT показывает perplexity 1,8209 против 1,7218 у BF16-версии, а IQ3_KT — 1,8273. Ограничения включают очень большой размер файлов, высокие требования к оперативной памяти и необходимость специализированного runtime; MTP увеличивает объём вычислительного буфера. Лицензия указана как qwen-community-license-1.0.

Qwen3.8-Flash-Next REAP-288 Q8E MLX — оптимизированная сборка базовой модели Qwen/Qwen3.8-Flash-Next, опубликованная пользователем sh0wie. Она предназначена для локального запуска на устройствах Apple с MLX и ориентирована прежде всего на генерацию текста, программирование и агентские сценарии. Мультимодальные веса vision tower сохранены, однако в README оценивалось только качество работы с текстом. Модель относится к классу примерно 180B параметров: 125B приходится на основную модель, ещё 51B — на n-gram embedding table. Архитектура содержит 48 слоёв, чередующих Gated DeltaNet и разреженное внимание Qwen, а MoE-маршрутизация использует top-10 экспертов. В каждом MoE-слое оставлено 288 из 512 экспертов после pruning методом REAP. Тензоры экспертов имеют 8-битное квантование, остальные компоненты, включая attention, embeddings и backbone, — 4-битное. Размер модели около 100 ГБ в памяти, но при потоковой загрузке n-gram table через NVMe может снижаться примерно до 70 ГБ. Сильной стороной сборки является повышенная точность представления экспертных тензоров и совместимость со стандартным mlx-vlm без патчей. При этом pruning остаётся основным источником потери качества: в тесте HumanEval модель получила 90,9%, уступив варианту с полностью 4-битными весами экспертов с результатом 91,5%, поэтому README не рекомендует её большинству пользователей. Поддерживается speculative decoding с отдельной MTP-моделью; заявленное ускорение зависит от оборудования и составляет примерно 1,5–2,6 раза на M5, тогда как на M4 оно близко к нейтральному. Модель распространяется по лицензии qwen-community-license-1.0.

Steve0927/qwen3-embedding-0.6b-lrat-full-v1 — дообученная модель для извлечения текстовых эмбеддингов и поиска релевантных документов. Она основана на Qwen3-Embedding-0.6B и настроена для задачи XIR competition 1170 на официальных обучающих парах LRAT с использованием обучающего процесса LRAT/FlagEmbedding. Модель имеет плотную архитектуру Qwen3, содержит 507,6 млн параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для построения поисковых систем и извлечения релевантных текстов по запросам. В ходе дообучения использовались запросы и фрагменты документов длиной до 512 токенов; карточка не уточняет, ограничивает ли это длину на этапе применения. Репозиторий содержит веса в формате Safetensors. Лицензия в предоставленных данных не указана.

SDLM-3B-D4 — языковая модель OpenGVLab, представленная в работе Sequential Diffusion Language Models. Это дообученная версия Qwen2.5-3B: плотная архитектура семейства Qwen2 с 3,1 млрд параметров, рассчитанная на генерацию текста и диалоговое применение. Модель использует последовательное блочное предсказание с маскированием, декодирование по самому длинному уверенному префиксу и повторное использование KV-кэша. Такой подход сочетает предсказание блоков в диффузионной схеме с заданным порядком декодирования. Модель предназначена для генерации текста, в том числе ответов в диалоге, и может быть полезна там, где важно ускорить вывод. Авторы сообщают о примерно двукратном ускорении относительно сопоставимых авторегрессионных моделей при сходном качестве и до пятикратного ускорения относительно других диффузионных языковых моделей; результаты зависят от порога уверенности и сценария оценки. Контекст — до 32 768 токенов. В метаданных указан английский язык; лицензия — Apache-2.0. Для запуска в README приведены зависимости Transformers 4.37.2 и PyTorch не ниже 2.5.0.

Supertron2.1-0.6B — компактная инструкционно дообученная языковая модель от Surpem на базе Qwen3-0.6B. Это плотный Transformer с примерно 507,9 млн параметров; модель использует архитектуру, токенизатор и формат чата Qwen3 и предназначена для генерации текста и диалогов. Контекстное окно составляет 40 960 токенов. Модель подходит для ответов на вопросы, объяснения понятий, пошаговых рассуждений, арифметики и алгебры, написания и разбора кода, кратких пересказов и переписывания текста, а также прототипирования ассистентов и агентных сценариев. Карточка заявляет поддержку программирования на нескольких языках, но основной язык в метаданных — английский; отдельные языки программирования не считаются естественными языками. Небольшой размер позволяет запускать модель на потребительском оборудовании. При этом она может выдумывать факты, давать неверные решения задач и ошибки в коде; сложные рассуждения могут превышать её возможности, а качество зависит от настроек генерации. Результаты следует проверять, особенно в ответственных областях. Лицензия — Apache 2.0.

t-tech_T-Search-GGUF — это GGUF-квантизированная версия модели T-Search, разработанной t-tech и подготовленной bartowski с использованием llama.cpp. Модель относится к классу Mixture-of-Experts с заявленным размером 35B и примерно 3B активных параметров, а также содержит MTP-слои для ускорения генерации посредством self-speculative decoding. Модель предназначена для агентного поиска, информационного поиска, retrieval-задач, RAG, использования инструментов и function calling. Она поддерживает английский и русский языки. В README указаны возможности запуска через llama.cpp, ramalama, LM Studio, koboldcpp, Jan AI и другие совместимые приложения. Для активации MTP в llama.cpp требуется параметр --spec-type draft-mtp. Доступно множество вариантов квантизации — от BF16 размером около 71 ГБ до компактных IQ3 и Q3-разновидностей, а также рекомендуемых Q4–Q6 вариантов. Более качественные квантизации обеспечивают лучшее сохранение характеристик, тогда как компактные требуют меньше оперативной памяти, но снижают качество. Для модели не указан размер контекста, поэтому его характеристики в этом отношении неизвестны. Лицензия — Apache-2.0.

Модель vietnamese-bi-encoder-for-SoICT-2024 разработана на базе bkai-foundation-models/vietnamese-bi-encoder и дообучена как Sentence Transformer на парах предложений из набора данных json. Она кодирует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов на вьетнамском языке, сравнения сходства, поиска перефразирований, кластеризации и классификации текстов. Для сравнения векторов используется косинусное сходство. Модель основана на RoBERTa с усреднением токенных представлений; максимальная длина входа составляет 256 токенов. Лицензия Apache-2.0. В карточке приведены результаты оценки информационного поиска, однако они не характеризуют качество на всех прикладных данных; тексты длиннее лимита последовательности требуют обработки с учётом ограничения длины.

Карточка модели fknuette/werwolf-sft на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

mlx-community/whisper-small-asr-fp16 — преобразованная сообществом mlx-community в формат MLX модель OpenAI Whisper Small для распознавания речи. Она предназначена для преобразования аудиозаписей в текст; репозиторий использует библиотеку mlx-audio и содержит веса в формате safetensors. Модель насчитывает 153,1 млн параметров и поддерживает распознавание речи на множестве языков, включая русский и английский. Модель основана на openai/whisper-small и преобразована в формат MLX с помощью mlx-audio 0.2.10; это конверсия формата, а не новое дообучение. Лицензия репозитория — Apache-2.0. Карточка отсылает к исходной модели за подробностями о её характеристиках; отдельные ограничения в предоставленных данных не описаны.

bwang0911/word-order-jina — англоязычная модель Sentence Transformers, дообученная на базе jinaai/jina-embeddings-v2-base-en. Архитектура JinaBertModel преобразует предложения и абзацы в нормализованные плотные векторы размерностью 768; для сравнения используется косинусное сходство. В README указана максимальная длина последовательности 128 токенов, а метаданные базовой модели приводят контекст до 8192 токенов. Модель обучалась на примерах порядка слов и отрицаний. Она предназначена для семантического сравнения текстов, поиска похожих фраз, поиска с учётом смысла, кластеризации и классификации; обучение на контрастных примерах нацелено на различение утверждений с разным порядком слов и отрицанием. Лицензия в предоставленных данных не указана.

baichuan-vicuna-chinese-7b — диалоговая языковая модель на 6,7 млрд параметров, созданная на базе baichuan-7B и дообученная командой fireballoon на данных ShareGPT на китайском и английском языках. Для обучения использовались также ShareGPT-ZH, примеры Chain-of-Thought, задачи LeetCode и вспомогательные данные; код обучения основан на FastChat. Модель использует плотную архитектуру LLaMA и формат PyTorch, а её контекст составляет 4096 токенов. Модель предназначена для генерации текста в диалоге: она может отвечать на вопросы, следовать инструкциям и помогать с рассуждениями и задачами по программированию. Карточка также упоминает отдельную GPTQ-квантизованную 4-битную версию, но описываемая здесь модель хранится в формате PyTorch. Лицензия в предоставленных данных не указана.

Geofront/BGE-Reranker-v2-M3-GGUF — это GGUF-версия мультиязычной модели переранжирования BAAI/bge-reranker-v2-m3, разработанной командой BAAI и проекта FlagEmbedding. Модель принимает пару «запрос — документ» и непосредственно вычисляет показатель их релевантности, поэтому предназначена для переранжирования результатов поиска, семантического поиска, retrieval-augmented generation и других сценариев, где требуется уточнить порядок найденных текстов. Модель основана на bge-m3 и поддерживает мультиязычные входные данные; при этом README не указывает точный размер модели, архитектуру в терминах числа параметров, максимальную длину контекста и конкретный перечень языков. Значения релевантности можно преобразовать в диапазон от 0 до 1 с помощью sigmoid. К сильным сторонам относятся мультиязычность, сравнительно быстрая инференс-работа и удобство развёртывания. Ограничение состоит в том, что модель оценивает пары запроса и документа, а не создаёт эмбеддинги, поэтому для первичного поиска обычно требуется отдельная embedding-модель. Лицензия — Apache-2.0.