II.8Инженерия данных и аналитика

Krasnopjorovs/Qwen3.8-27B-Imatrix-GGUF — набор квантизированных GGUF-сборок базовой модели Qwen/Qwen3.8-27B, подготовленный Krasnopjorovs с использованием llama.cpp и importance-matrix калибровки. Модель предназначена для локального запуска и задач генерации текста, рассуждений, программирования и математики; заявлена также поддержка мультимодального режима image-text-to-text при подключении совместимого mmproj-файла. README не уточняет архитектуру базовой модели, точное число параметров сверх обозначения 27B, список поддерживаемых языков и размер контекста. Доступны варианты квантизации от Q8_0, близкого к исходному качеству, до IQ4_XS и IQ4_NL для экономии памяти, с размерами примерно от 14,27 до 27,05 ГБ. Рекомендуемым вариантом общего назначения назван Q4_K_M размером 15,63 ГБ; сборки с суффиксом L используют Q8_0 для выходных и/или embedding-тензоров, что может повысить стабильность вывода при низкой разрядности. Во все кванты включена MTP-голова для speculative decoding, а для запуска через llama.cpp рекомендуется использовать draft-бюджет 3. Сильные стороны модели — выбор квантизаций под разные ограничения по памяти, поддержка мультимодального режима, калибровка на смешанном корпусе с многоязычными данными, кодом и математикой, а также возможность ускорения генерации через MTP. Ограничения связаны с потерями качества, зависящими от степени квантизации, требованиями к значительному объёму RAM или VRAM и необходимостью совместимого llama.cpp и mmproj-файла для мультимодального использования. Распространение указано по лицензии Apache-2.0.

Solstice-AI/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-NEO-CODER-NVFP4-1M — модель на базе Qwen3.8-27B Cold Fusion, разработанной DavidAU, с последующей квантизацией, расширением контекста и упаковкой Solstice-AI. Модель предназначена для программирования, агентной разработки ПО, отладки репозиториев, многошаговых рабочих процессов, рассуждений и диалогового использования. Также заявлена поддержка визуального понимания изображений, интерфейсов, архитектурных схем и видеокадров через дополнительный модуль mmproj-BF16.gguf. Модель поддерживает английский и китайский языки. Указан контекст до 1 048 576 токенов, полученный расширением RoPE с помощью YaRN; исходный контекст заявлен как 262 тысячи токенов. Архитектура описана как гибридная: 75% слоёв используют линейное внимание Gated Delta Recurrent Network, а 25% — глобальное Grouped-Query Attention. Формат NVFP4 обеспечивает 4-битное микромасштабирование для NVIDIA Blackwell, включая B200, GB200 и RTX 5090. Также заявлена поддержка Multi-Token Prediction для ускорения генерации. Сильными сторонами README называет производительность в задачах программной инженерии, компьютерного управления, следования сложным ограничениям и длинного контекста; приведены результаты внутренних или заявленных разработчиками сравнений, включая SWE-bench Pro 61,7% и ARC-C 735. Эти показатели следует воспринимать с учётом методики оценки и аппаратных требований. Ограничения включают зависимость от совместимого оборудования NVIDIA Blackwell и соответствующего серверного ПО, а также то, что расширенный миллионный контекст и мультимодальность могут требовать специальных компонентов. Лицензия — Apache 2.0.

Valiant Labs разработала Esper 3 на базе Qwen3-8B как модель для рассуждений в программировании, проектировании архитектуры и DevOps. Модель дообучена на данных для рассуждений о DevOps, архитектуре и коде, созданных с помощью DeepSeek R1; также заявлено улучшение общих и творческих рассуждений, решения задач и диалоговых ответов. Модель использует архитектуру Qwen3 с плотной причинной языковой моделью на 7,6 млрд параметров и контекстом до 40 960 токенов. Она предназначена для генерации текста, чата и следования инструкциям; автор рекомендует включать режим рассуждений `enable_thinking=True`. Карточка указывает поддержку английского языка и лицензии Apache-2.0. Небольшой размер рассчитан на локальный запуск и серверный инференс; заявленные специализации охватывают код, DevOps и архитектурные задачи.

Kaoeiri/Qwenwify2.5-32B-v3.98 — языковая модель семейства Qwen2, созданная разработчиком Kaoeiri путём объединения предварительно обученных моделей с помощью mergekit и метода DARE TIES. В качестве базовой использована Qwen/QwQ-32B-Preview; в объединение также вошли Sao10K/32B-Qwen2.5-Kunou-v1, Kaoeiri/Qwenwify-32B-v3 и Dans-DiscountModels/Qwen2.5-32B-ChatML. Модель содержит 32 млрд параметров, использует архитектуру Qwen2ForCausalLM и принимает текст для генерации диалоговых ответов. Заявленная длина контекста — 32 768 токенов. Метаданные отмечают поддержку интерфейса вызова инструментов. Модель может быть полезна для математических рассуждений и программирования благодаря свойствам базовых моделей, однако отдельные результаты оценки для этого объединения не приведены. Лицензия — CC BY-NC-ND 4.0, с ограничениями на коммерческое использование и создание производных распространённых версий; тег карточки предупреждает, что модель подходит не для всех аудиторий.

SmallThinker-21BA3B-Instruct — языковая модель с архитектурой Mixture-of-Experts, разработанная совместно IPADS и School of AI при Shanghai Jiao Tong University и компанией Zenergize AI. Она предназначена для локального запуска на устройствах с ограниченными ресурсами, чтобы генерировать ответы без обращения к облаку. Модель содержит 21 млрд параметров, из которых активируются 3 млрд; использует 52 слоя и поддерживает контекст длиной до 16 384 токенов. Репозиторий содержит веса в формате safetensors, а карточка указывает библиотеку Transformers и возможности чата и интерфейса вызова инструментов. Модель обучена преимущественно на английском языке и подходит для диалога, ответов на вопросы, рассуждений и генерации кода. В отчёте разработчиков приведены результаты тестирования на академических и программных бенчмарках; скорость и расход памяти на CPU показаны для версии с квантованием Q4_0, тогда как в этом репозитории указаны веса safetensors. Среди ограничений — возможные фактические ошибки, предвзятость и устаревшие сведения; точность ответов необходимо проверять. Лицензия — Apache-2.0.

gubartz/st_all_mini_science — модель на базе BERT, созданная с использованием библиотеки Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 384, предназначенные для сравнения смысловой близости, кластеризации и семантического поиска. Модель обучалась с функцией потерь BatchAllTripletLoss. Модель подходит для построения поисковых систем по смыслу, группировки похожих текстов и вычисления сходства между предложениями. Контекст ограничен 512 токенами; файлы весов представлены в формате safetensors. Лицензия в доступных данных не указана.

STdictabert-max — модель эмбеддингов предложений на архитектуре BERT, опубликованная пользователем carinnew. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, сравнения текстов и кластеризации. Модель обучена с TripletLoss, использует евклидово расстояние и имеет контекстное окно до 512 токенов. Модель принимает текст и выдаёт векторные представления. Карточка не уточняет языки обучения или специализацию по предметным областям. В репозитории указаны веса safetensors; лицензия не приведена в предоставленных данных.

cross-encoder/stsb-distilroberta-base — модель Cross-Encoder на базе distilbert/distilroberta-base, дообученная с помощью SentenceTransformers на наборе STS Benchmark. Она оценивает семантическое сходство пары предложений числом от 0 до 1 и предназначена для ранжирования текстов по близости смысла, например при поиске похожих фраз или переранжировании результатов поиска. Модель содержит 95,2 млн параметров, использует архитектуру RoBERTa для классификации последовательностей и принимает пары текстов с контекстом до 514 токенов. Модель ориентирована на английский язык. Для вычислений доступны форматы PyTorch, Safetensors, ONNX, OpenVINO и Flax. Лицензия — Apache-2.0. Поскольку это Cross-Encoder, для оценки каждой пары текстов требуется отдельный запуск модели; оценки сходства предназначены для сравнения в рамках задачи и не следует трактовать как универсальные вероятности.

Swift-Qwen3.8-27B-GGUF — квантованная версия reasoning-эффективной производной модели Qwen3.8-27B, разработанная компанией UkisAI. Модель предназначена для задач рассуждения, включая общие вопросы, математику, следование инструкциям и программирование, где важны качество ответов и скорость генерации. По данным README, модель распространяется в формате GGUF и предназначена для использования с llama.cpp. Она сохраняет производительность, близкую к базовой Qwen3.8-27B: заявлено снижение качества менее чем на 1% при сокращении числа thinking-токенов в среднем на 58,3% и ускорении до 1,95 раза на ряде задач. В опубликованных тестах результаты Swift близки к базовой модели на GPQA-Diamond, MMLU-Pro, C-Eval, IFBench и математических бенчмарках, однако на некоторых из них качество ниже. Модель подходит для локального запуска и приложений, которым требуется эффективное рассуждение при ограниченных вычислительных ресурсах. Сведения о поддерживаемых языках, размере контекста и точном методе квантования в представленном README не указаны, поэтому эти характеристики нельзя определить достоверно. Модель распространяется по лицензии swift-open-license-1.0; README также содержит ссылку на условия доступа и enterprise-лицензирования.

Synesthesia-3.1-task_arithmetic — объединённая языковая модель, созданная bunnycore с помощью mergekit методом task arithmetic на базе unsloth/Meta-Llama-3.1-8B. В слияние вошли Replete-LLM-V2, Reflection, HyperLlama и Replete-Coder на базе Llama 3.1. Модель предназначена для генерации текста и диалогов; архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель может применяться для универсального общения и генерации текста, включая задачи с кодом. В метаданных указана библиотека Transformers, а веса представлены в формате safetensors. README и метаданные не сообщают отдельные оценки качества или специальные ограничения. Лицензия в предоставленных данных не указана.

Ternary-Bonsai-27B-GGUF — набор GGUF-квантизаций модели Ternary-Bonsai-27B, подготовленный пользователем vcruz305 на основе официального F16-релиза prism-ml. В основе лежит backbone Qwen3.6-27B с гибридным вниманием, контекстом до 262 тысяч токенов и поддержкой vision. Модель предназначена для генерации текста и кода, диалоговых сценариев, программирования, рассуждений и отладки через llama.cpp. Репозиторий включает варианты Q3_K_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 13,3 до 28,6 ГБ. Для большинства вариантов использована importance matrix, полученная на корпусе объёмом 63 КБ с примерами программирования, отладки и рассуждений; Q8_0 создан без неё. Доступны два файла mmproj для работы с изображениями. Производительность зависит от пропускной способности памяти и оборудования: на GB10 заявлены скорости примерно от 7,8 до 14 токенов в секунду. Сильная сторона модели — широкий диапазон квантизаций для систем с 12–32 ГБ памяти, а также сочетание генерации кода, рассуждений и визуального ввода. При объёме памяти до 8 ГБ автор рекомендует использовать официальные QAT-кванты prism-ml, поскольку они сохраняют более высокое качество. Совместное использование с DSpark drafter протестировано, но для этих квантизаций не рекомендуется: коэффициент принятия черновых токенов составил около 54%, поэтому прирост производительности может отсутствовать. Модель распространяется по лицензии Apache-2.0 и рассчитана на использование с llama.cpp.

udever-bloom-7b1 — модель для получения текстовых эмбеддингов, разработанная Alibaba Group. Это дообученная методом BitFit версия bigscience/bloom-7b1: авторы обучали её на MS MARCO Passage Ranking, SNLI и MultiNLI с контрастивной функцией потерь и трудными отрицательными примерами. Архитектура — плотный decoder-only Transformer семейства BLOOM; размер составляет 9,1 млрд параметров, контекст — до 2048 токенов. Модель предназначена для представления естественного языка и кода в виде эмбеддингов, в том числе для семантического поиска, извлечения документов, сравнения текстов и ранжирования. В карточке заявлена поддержка многих языков и программного кода; среди языков метаданных и карточки перечислены, в частности, английский, китайский, французский, испанский, хинди, португальский, арабский и вьетнамский. Модель распространяется в формате PyTorch по лицензии bigscience-bloom-rail-1.0. Карточка приводит результаты бенчмарков MTEB и поиска кода, но не даёт гарантий качества для конкретных данных и сценариев.

Карточка модели avsolatorio/30-100-11-1-2-2-0-0-mean-normed-384-512_GIST_st_all-MiniLM-L6-v2-20240208000313-best на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.

Карточка модели avsolatorio/30-100-31-1-2-2-0-0-mean-normed-384-512_GIST_st_all-MiniLM-L6-v2-20240206200102-best на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.

AtmicEmbeddingv2 — модель семантических эмбеддингов, разработанная SriRamanaAtmic на базе intfloat/multilingual-e5-large и дообученная контрастивным методом с использованием подобранных сложных негативных примеров. Она предназначена прежде всего для поиска по текстам в схеме «запрос → документ»: перед запросом используйте префикс «query: », перед документом — «passage: », затем применяйте mean pooling и L2-нормализацию эмбеддингов. Модель основана на XLM-RoBERTa, содержит 658,7 млн параметров и принимает текст с контекстом до 514 токенов. Карточка указывает английские запросы и документы. Модель распространяется под лицензией MIT.

omkar334/bert-base-uncased-retromae — англоязычная модель Sentence Transformers, дообученная автором omkar334 на основе google-bert/bert-base-uncased с функцией потерь RetroMAELoss. Она кодирует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, извлечения текстов и сравнения сходства по косинусной мере. Архитектура состоит из BERT и пулинга CLS; README указывает максимальную длину последовательности 128 токенов, а метаданные — нативный контекст до 512 токенов. Модель принимает текст и выдаёт эмбеддинги. В README приведены результаты оценки на sts-dev и sts-test: Spearman-корреляция косинусного сходства 0,3173 и 0,721 соответственно. Доступна в формате safetensors; размер составляет 136,7 млн параметров. Лицензия в предоставленных данных не указана.

BAAI/bge-reranker-v2.5-gemma2-lightweight — мультиязычная модель-реранкер от BAAI, построенная на Gemma 2 9B. Она принимает запрос и текстовый фрагмент и оценивает их релевантность; оценку можно преобразовать в диапазон [0, 1] с помощью сигмоиды. Модель также поддерживает сравнение смысла двух фрагментов или запросов и выявление противоречия между аргументами. Для снижения вычислительных затрат применяются сжатие токенов и сокращение слоёв, по отдельности или вместе. В README сообщается о результатах уровня SOTA на наборах BEIR и MIRACL; для одной конфигурации указана экономия 60% FLOPs. Метаданные указывают 9 млрд параметров и контекст 8192 токена. Модель предназначена для повторного ранжирования результатов поиска и оценки семантической релевантности в многоязычных сценариях. Лицензия — Gemma. Доступность весов в safetensors подтверждена метаданными. README не приводит конкретный перечень поддерживаемых языков и не описывает ограничения качества; использование требует учитывать лицензионные условия Gemma и вычислительные потребности модели.

ncoop57/codeformer-java — модель Sentence-Transformers на базе RoBERTa, предназначенная для представления предложений и абзацев в виде плотных векторов размерности 768. Её можно применять для семантического поиска, сравнения текстов и кластеризации. В метаданных указано 151,8 млн параметров, контекст до 514 токенов и формат PyTorch. Модель обучалась с MultipleNegativesRankingLoss и косинусной мерой сходства. Это делает её подходящей для получения текстовых эмбеддингов и оценки семантической близости. README не уточняет языки обучающих данных и условия лицензии, поэтому языковую специализацию и лицензионные условия установить по доступным сведениям нельзя.

CrossGemma-sts-300m — кросс-энкодер для оценки семантического сходства двух текстов, созданный на основе google/embeddinggemma-300m и дообученный dleemiller. Модель принимает пару текстов и выдаёт оценку сходства от 0 до 1: более высокое значение означает более близкий смысл. Модель предназначена для ранжирования и сравнения текстовых пар, оценки ответов языковых моделей и семантического поиска. Она содержит около 303 млн параметров, использует архитектуру Gemma 3 Text для классификации последовательностей и обрабатывает до 2048 токенов. В README указаны результаты на STS-Benchmark: корреляция Пирсона 0,9175 и Спирмена 0,9135. Обучение включало данные wiki-sim и sentence-transformers/stsb; оценка качества на других данных не приведена. Лицензия — Apache-2.0.

Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

DeepSeek-V4-Flash-0731-dwarfstar-q2-gguf — это 2-битная квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Сборка создана сообществом Rednalreden с использованием инструментов DwarfStar (ds4) и предназначена для запуска на машинах с 96 или 128 ГБ оперативной памяти, где 4-битная версия не помещается. Модель относится к задачам генерации текста и может применяться для написания кода, работы с длинным контекстом, агентских сценариев, вызовов инструментов, анализа исходного кода и подготовки связного текста. Модель использует архитектуру MoE с 43 слоями, 256 маршрутизируемыми экспертами, из которых для каждого запроса выбираются 6, а также одним общим экспертом. Файл GGUF занимает около 80,8 GiB, резидентная модель — около 80,76 GiB; при контексте 32 768 токенов требуется примерно 0,86 GiB дополнительной памяти. Маршрутизируемые эксперты квантизированы в 2 бита с использованием importance matrix, тогда как attention-проекции, общие эксперты и выходной слой используют Q8_0, а отдельные компоненты — F16. Заявлена поддержка контекста до 100 000 токенов при использовании ds4-server. Importance matrix улучшила среднюю оценку по отрицательной логарифмической правдоподобности на 1,42% относительно аналогичной Q2-сборки без importance matrix. Основное преимущество — существенная экономия памяти при сохранении большей части качества; ограничение — заметная потеря качества по сравнению с 4-битными или смешанными q2/q4-сборками. Модель требует runtime DwarfStar (ds4) и несовместима с llama.cpp. Лицензия — MIT, унаследованная от базовой модели.

Devstral Small 1.1 — языковая модель для агентной разработки программного обеспечения, созданная в сотрудничестве Mistral AI и All Hands AI. Эта версия представлена в формате GGUF и предназначена для работы с llama.cpp, LM Studio и другими совместимыми средствами локального запуска. Модель специализируется на задачах программной инженерии: исследовании кодовых баз, редактировании нескольких файлов, использовании инструментов и работе в составе coding-агентов, включая OpenHands. Это текстовая модель без поддержки изображений. Она содержит 24 миллиарда параметров, использует токенизатор Tekken с размером словаря 131 тысяча токенов и поддерживает контекст до 128 тысяч токенов. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского и ряда других языков. К сильным сторонам относятся ориентация на агентное программирование, большой контекст, поддержка формата function calling Mistral и возможность локального запуска; для GGUF доступны варианты BF16, Q8_0, Q5_K_M и Q4_K_M. Ограничением является текстовая специализация без vision-возможностей, а качество и требования к ресурсам зависят от выбранной квантизации. Согласно README, компактная версия может запускаться на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.

DRAMA-base — компактная плотная модель для многоязычного поиска по текстам, разработанная авторами семейства DRAMA. Она построена на прореженной языковой модели Llama и дообучена для кодирования запросов и документов в векторы, пригодные для поиска и сравнения сходства. В карточке указана архитектура Llama с классом DramaModel; размер репозитория — 211,7 млн параметров, а README описывает вариант примерно со 113 млн параметров без эмбеддингов. Контекстное окно составляет 131 072 токена. Модель предназначена для семантического поиска и извлечения документов на английском и других языках. Размер эмбеддинга по умолчанию — 768 измерений; обучение Matryoshka позволяет сокращать его, например, до 512 или 256. Для запросов используется префикс «Query: », а в реализации применяется двунаправленное внимание. README сообщает об оценке на BEIR, MIRACL, MLDR и многоязычных задачах MTEB, а также об ускорении пакетного вывода с последовательностями разной длины при использовании Nested Tensors. Обучающие данные охватывали арабский, бенгальский, китайский, английский, финский, французский, немецкий, хинди, индонезийский, итальянский, японский, корейский, персидский, португальский, русский, испанский, суахили, телугу, тайский и йоруба; для других языков качество может снижаться. Для загрузки через Transformers или Sentence Transformers требуется доверять пользовательскому коду репозитория. Лицензия — CC BY-NC 4.0, поэтому коммерческое использование не разрешено условиями этой лицензии.

Luong23/e5-finetune-embedding-v1 — модель Sentence Transformers, дообученная на базе intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные текстовые векторы размерности 768. Архитектура включает XLM-RoBERTa с усреднённым pooling и нормализацией; сходство векторов можно оценивать косинусной мерой. Модель принимает текст, максимальная длина последовательности в README — 256 токенов; метаданные указывают контекст до 514 токенов. Модель предназначена для семантического поиска и извлечения релевантных фрагментов: например, сопоставления короткого запроса с описанием товара. Обучение проведено на 321 881 паре anchor-positive с использованием MultipleNegativesRankingLoss. Карточка приводит в качестве примеров вьетнамские запросы и описания товаров, но не заявляет этот язык как единственный или основной. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Falcon-H1-1.5B-Deep-Instruct — компактная инструктивно дообученная языковая модель семейства Falcon-H1 от TII, основанная на Falcon-H1-1.5B-Deep-Base. Это плотная причинная модель-декодер с гибридной архитектурой Transformers и Mamba, примерно на 1,2 млрд параметров. Она предназначена для диалоговой генерации текста, рассуждений и решения общих задач; среди сценариев применения — ответы на вопросы и помощь с написанием кода. Модель поддерживает английский и многоязычный ввод, а контекст составляет до 131 072 токенов. Для запуска подходят Transformers, vLLM и llama.cpp; в репозитории указаны веса Safetensors. В README приведено сравнение Falcon-H1 с несколькими компактными языковыми моделями на тестах рассуждений и общих задач. Лицензия — Falcon-LLM License; перед использованием следует проверить её условия.

Это англоязычная модель Sentence Transformer, разработанная дообучением BAAI/bge-base-en-v1.5. Она преобразует предложения и абзацы в плотные текстовые эмбеддинги размерности 768 и нормализует их; сходство можно оценивать косинусной близостью. Архитектура основана на BERT с длиной последовательности до 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации текста. Её можно применять для получения кандидатов по смысловому сходству в поиске и для сопоставления запросов с документами в RAG-системах. В README приведены результаты оценки информационного поиска, однако они не описывают качество на всех наборах данных и сценариях. В метаданных указаны 136,7 млн параметров, библиотека Sentence Transformers и формат safetensors. Модель ориентирована на английский язык; качество для других языков не подтверждено. Лицензия в предоставленных данных не указана.

FuseChat-7B-VaRM — диалоговая языковая модель, разработанная Fanqi Wan и коллегами из Университета Сунь Ятсена. Она объединяет знания трёх чат-моделей: NH2-Mixtral-8x7B, NH2-Solar-10.7B и OpenChat-3.5-7B. В каталоге Hugging Face указаны архитектура Mistral с плотной моделью MistralForCausalLM и 7,1 млрд параметров; для инференса используется библиотека Transformers. Модель предназначена для генерации ответов в диалоге и выполнения общих текстовых инструкций, включая написание текстов, ролевые сценарии, рассуждения, математику и программирование. В README сообщается о среднем результате 8,22 на MT-Bench. Модель принимает текст и генерирует текст; заявленный контекст — 8192 токена, язык карточки — английский. Модель опубликована в форматах PyTorch и Safetensors и распространяется по лицензии Apache-2.0. Как и другие языковые модели, она может давать ошибочные или непроверенные ответы; в предоставленных материалах отдельные дополнительные ограничения не описаны.

Карточка модели FuseAI/FuseO1-DeepSeekR1-QwQ-32B-Preview на Hugging Face совпадает с карточкой FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview, поэтому описание составлено по ней. FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview — экспериментальная объединённая языковая модель команды FuseAI. Она создана с помощью слияния трёх моделей для рассуждений: DeepSeek-R1-Distill-Qwen-32B, Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview. Модель основана на плотной архитектуре Qwen2 с 32 млрд параметров и предназначена для генерации текста и диалогов с пошаговыми рассуждениями. Основные сценарии — решение математических задач, рассуждения о программном коде и научные вопросы. В README для версии указаны результаты AIME24: 74,0 Pass@1 и 86,7 Cons@32 при описанной авторами схеме оценки. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов. Языки в карточке явно не перечислены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Это предварительная версия, а опубликованные сравнительные показатели относятся к конкретным настройкам и методике оценки; они не гарантируют аналогичных результатов в других задачах или конфигурациях.

Gemma-4-12B-Coder-Fable5-Composer2.5-8bit — это 8-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community на основе Google Gemma-4-12B-it. Модель предназначена для генерации текста, программирования и задач, требующих рассуждений, включая локальный чат-стиль инференса через библиотеку mlx-lm. Модель содержит около 12 миллиардов параметров, использует формат 8-bit и оптимизирована для локального запуска на компьютерах Apple Silicon. Квантизация существенно снижает требования к памяти при сохранении близких к исходным возможностей рассуждения и генерации кода. В репозитории добавлен Jinja-шаблон чата для корректного форматирования диалогов. Поддерживаемые языки, размер контекста и набор модальностей в README не указаны; по описанию это текстовая модель. Модель распространяется по лицензии Apache 2.0, разрешающей использование, изменение и повторное распространение. Ограничения, связанные с качеством ответов, безопасностью и областью применения, в README отдельно не описаны.

Gemma 4 21B-A4B-it REAP Heretic — разговорная модель на базе Gemma 4, представленная в репозитории coder3101. Это доработанный вариант 20-процентно прореженной экспертной модели 0xSero/gemma-4-21b-a4b-it-REAP: в MoE-архитектуре оставлено 103 эксперта на слой вместо 128, а на каждый токен по-прежнему активируются 8 экспертов. Веса опубликованы в формате safetensors; модель поддерживает диалоговую генерацию текста и, согласно карточке, входные изображения. Вариант Heretic применяет абляцию отказов: в приведённом сравнении число отказов на тестовом наборе снизилось со 100 из 100 у исходной модели до 14 из 100. При этом небольшие тесты показывают, что качество зависит от задачи: например, результат по математике начального уровня снизился с 92% до 90%, а по философии — с 92% до 88%; наборы по 50 примеров на задачу и 14 промптов для сравнения генерации не дают широкой оценки качества. Для исходного варианта REAP указано окно контекста 262 144 токена, но README не уточняет, сохраняется ли этот предел в данной сборке Heretic. Модель предназначена для диалогов, рассуждений и генерации кода; особенно подходит для сценариев, где требуется меньше отказов. Лицензия — Gemma; условия её использования следует сверять с лицензией семейства Gemma.