II.8Инженерия данных и аналитика

Ornith-1.5-27B-A3B-CoderX-MTP-GGUF — квантизированная GGUF-версия модели Ornith-1.5-27B-A3B-CoderX, разработанная ManniX-ITA. Модель предназначена прежде всего для генерации и анализа кода, рассуждений и текстовых задач; в метаданных также заявлена поддержка vision-сценариев. Указанный язык — английский. Модель использует архитектуру Qwen3.5-MoE с 25,6 млрд параметров, из которых активно используется около 3 млрд. В составе 184 эксперта, из них выбираются 8; конфигурация включает 40 основных блоков и один слой MTP (Multi-Token Prediction). Доступны веса F16 и многочисленные варианты квантизации от Q8_0 до IQ2_XS, а также отдельный vision projector. Заявлен контекст до 262 144 токенов в примере запуска через llama.cpp. Сильные стороны модели — MoE-архитектура с небольшим числом активных параметров, поддержка рассуждений, кода, MTP и vision, а также квантизация с importance matrix, рассчитанной специально для этой версии. Ограничения зависят от выбранного уровня квантизации: компактные варианты могут заметно терять качество, а F16 и старшие кванты требуют значительного объёма памяти. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска в совместимом окружении, включая llama.cpp.

Карточка модели May112233567/paraphrase-multilingual-MiniLM-L12-v2 на Hugging Face совпадает с карточкой sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, поэтому описание составлено по ней. paraphrase-multilingual-MiniLM-L12-v2 — модель Sentence-Transformers, обученная командой sentence-transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель построена на архитектуре BERT с 12 слоями MiniLM; объём составляет 124,3 млн параметров, а максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, поиска похожих формулировок и кластеризации текстов. Она поддерживает много языков, включая русский, и может сопоставлять предложения на разных языках. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Модель распространяется по лицензии Apache-2.0. Векторы фиксированной размерности и лимит в 512 токенов ограничивают представление длинных документов; для абзацев и документов обычно требуется разбиение на фрагменты.

unsloth/Phi-3.5-mini-instruct-bnb-4bit — 4-битная версия инструкционной языковой модели Phi-3.5-mini-instruct, разработанной Microsoft и опубликованной в формате, совместимом с Transformers. Модель относится к семейству Phi-3, обучалась на синтетических данных и отфильтрованных общедоступных веб-материалах с акцентом на плотные по содержанию данные для рассуждений. Указана поддержка многоязычного применения и контекста до 128K токенов. Модель предназначена для создания генеративных AI-систем и функций общего назначения, особенно в средах с ограниченными ресурсами и требованиями к низкой задержке. Она ориентирована на выполнение инструкций, а также задачи программирования, математики, логики и других сценариев, требующих рассуждений. Квантование BNB до 4 бит снижает требования к памяти и может упростить запуск и дообучение, однако конкретные характеристики производительности зависят от оборудования и конфигурации. К ограничениям относятся возможные ошибки, неточности, проблемы безопасности и смещения, типичные для языковых моделей. Модель не оценивалась отдельно для всех прикладных областей, поэтому перед использованием в критически важных или регулируемых сценариях необходимы самостоятельная проверка качества, безопасности, справедливости и соответствия требованиям законодательства. В README указана лицензия MIT.

Phi-3.5-MoE-instruct — языковая модель Microsoft для диалоговых и генеративных приложений. Она использует архитектуру смеси экспертов (MoE), обучена на синтетических данных и отфильтрованных общедоступных документах с акцентом на данные для рассуждений, а затем дообучена с помощью supervised fine-tuning, PPO и DPO. В метаданных указано 4 млрд параметров; README отдельно сообщает о 6,6 млрд активных параметров. Модель принимает текстовые запросы в формате чата и генерирует текст, включая код. Карточка заявляет поддержку нескольких языков и контекст до 128 тыс. токенов, тогда как метаданные каталога указывают 4096 токенов. Модель предназначена для общих генеративных систем и сценариев с ограничениями по памяти, вычислениям или задержке; особо отмечены рассуждения, код, математика и логика. Она выпущена под лицензией MIT. Результаты требуют проверки для конкретных задач: модель может ошибаться, а многошаговые jailbreak-запросы могут снижать устойчивость защитных механизмов.

Карточка модели chetan272006/Qwen2.5-Coder-3B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-Coder-3B-Instruct, поэтому описание составлено по ней. Qwen2.5-Coder-3B-Instruct — инструктивно дообученная языковая модель для программирования от команды Qwen. Она предназначена для генерации, объяснения и исправления кода, рассуждений о коде и создания кодовых агентов; также сохраняет общие способности и навыки решения математических задач. Модель построена на архитектуре Qwen2 с причинным декодированием и содержит около 3,1 млрд параметров. Модель принимает текстовые инструкции и выдаёт текст, включая код. Контекстное окно составляет 32 768 токенов. В карточке указано, что обучение охватывало исходный код, связку текста и кода и синтетические данные; метаданные указывают английский язык. Для загрузки рекомендуется актуальная версия библиотеки Transformers. Репозиторий использует формат safetensors и лицензию с обозначением «other»; конкретные условия следует проверять в файлах лицензии репозитория.

Qwen2.5-Coder-3B-Instruct — инструктивно дообученная языковая модель для программирования от команды Qwen. Она предназначена для генерации, объяснения и исправления кода, рассуждений о коде и создания кодовых агентов; также сохраняет общие способности и навыки решения математических задач. Модель построена на архитектуре Qwen2 с причинным декодированием и содержит около 3,1 млрд параметров. Модель принимает текстовые инструкции и выдаёт текст, включая код. Контекстное окно составляет 32 768 токенов. В карточке указано, что обучение охватывало исходный код, связку текста и кода и синтетические данные; метаданные указывают английский язык. Для загрузки рекомендуется актуальная версия библиотеки Transformers. Репозиторий использует формат safetensors и лицензию с обозначением «other»; конкретные условия следует проверять в файлах лицензии репозитория.

Qwen2.5-Coder-7B — плотная причинная языковая модель семейства Qwen2, разработанная командой Qwen. Это базовая предварительно обученная модель на 7,1 млрд параметров, дообученная на основе Qwen/Qwen2.5-7B с упором на программный код. Она предназначена для генерации кода, рассуждений о коде и исправления ошибок, а также может служить основой для кодовых агентов и дальнейшей адаптации под прикладные задачи. Модель принимает текст и генерирует текст. Архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях внимания QKV; заявленная длина контекста в метаданных — 32 768 токенов. Карточка описывает возможности обработки контекста до 131 072 токенов с YaRN, но для этого нужна дополнительная настройка; постоянный коэффициент масштабирования YaRN может снижать качество на коротких входах. Разработчик не рекомендует использовать базовую модель для диалогов без постобучения. Репозиторий распространяется под лицензией Apache-2.0.

BenevolenceMessiah/Qwen2.5-Coder-7B-3x-Instruct-TIES-v1.1 — объединённая модель на основе Qwen2.5-Coder-7B, созданная методом TIES с помощью mergekit. В состав объединения входят Etherll/Qwen2.5-Coder-7B-Instruct-Ties, huihui-ai/Qwen2.5-Coder-7B-Instruct-abliterated и MadeAgents/Hammer2.0-7b. Это плотная причинная языковая модель архитектуры Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста и диалоговое взаимодействие. Модель предназначена для генерации, анализа и исправления программного кода, а также для диалоговых сценариев и вызова инструментов через соответствующий интерфейс. Она принимает текст и выдаёт текст; заявленная длина контекста составляет 32 768 токенов. Карточка не сообщает отдельный перечень поддерживаемых естественных языков или лицензию, поэтому языковую специализацию и условия использования по доступным сведениям определить нельзя.

BenevolenceMessiah/Qwen2.5-Coder-7B-Chat-Instruct-TIES-v1.2 — объединённая языковая модель на архитектуре Qwen2 для генерации кода и диалоговой работы с инструкциями. Автор объединил Qwen/Qwen2.5-Coder-7B и Qwen/Qwen2.5-Coder-7B-Instruct методом TIES; модель содержит 7,1 млрд параметров и использует формат safetensors. Модель предназначена для генерации, анализа и исправления программного кода в чате. Она принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов и предоставляет интерфейс вызова инструментов. В метаданных перечислены языковые коды? Нет, поэтому конкретные естественные языки здесь не заявлены. Лицензия в предоставленных данных не указана. Качество объединения и результаты оценки в карточке не описаны.

Domeoneyyddkk/qwen2.5-coder-merged — слитая языковая модель на архитектуре Qwen2, созданная методом DARE TIES с помощью mergekit на основе Qwen2.5-Coder-7B-Instruct и Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, рассчитана на диалоговую генерацию текста и кода; доступна в формате safetensors для библиотеки Transformers и поддерживает контекст до 32 768 токенов. Модель подходит для генерации и объяснения кода, помощи в программировании и обычных диалоговых задач. В конфигурации слияния использованы веса 0,65 для Qwen2.5-Coder-7B-Instruct и 0,35 для Qwen2.5-7B-Instruct. README и метаданные не приводят сведений о лицензии, поэтому условия использования следует сверить с лицензиями исходных моделей и правилами публикации слитых весов.

YOYO-AI выпустила YOYO-AI/Qwen3-30B-A3B-CoderThinking-YOYO-linear — объединённую методом linear модель на основе Qwen3-30B-A3B-Thinking-2507 и Qwen3-Coder-30B-A3B-Instruct. Это разговорная MoE-модель для генерации текста с интерфейсом вызова инструментов. В README указаны контекст до 262 144 токенов, смешивание весов в пропорции 0,9 и 0,1 и выходной формат bfloat16. Модель предназначена для диалога, рассуждений и задач программирования, включая сценарии с длинным контекстом и использованием инструментов. Метаданные указывают английский и китайский языки. Модель распространяется по лицензии Apache-2.0. Параметры генерации, рекомендуемые в README: температура 0,6, top-p 0,95 и top-k 20.

Qwen3-Coder-30B-A3B-asym-2bitexp-GGUF — это асимметрично квантованная GGUF-версия инструкционной модели Qwen3-Coder-30B-A3B-Instruct, разработанной Qwen. Модель предназначена прежде всего для генерации и анализа программного кода, а также решения текстовых задач в формате instruction-following. Это вариант без режима reasoning и без блоков <think>, ориентированный на запуск через llama.cpp. В основе используется MoE-архитектура qwen3moe с 128 маршрутизируемыми экспертами, из которых активны 8 на каждом токене; эффективный объём активных параметров составляет около 3 млрд при общем размере модели 30 млрд параметров. Экспертные FFN-слои квантованы преимущественно в 2–3 бита, а attention, эмбеддинги и выходной слой сохранены с более высокой точностью. Эффективная скорость квантования — 2,99 BPW, размер файла — 11,4 ГБ (10,64 GiB). Модель рассчитана на текстовый ввод и вывод; язык и максимальный размер контекста в README явно не указаны, однако приведён пример запуска с контекстом 16 384 токена. Главное преимущество — существенная экономия памяти: модель рассчитана на размещение в 16 ГБ VRAM вместе с KV-кэшем для контекста около 16K токенов, тогда как стандартная версия Q4_K_M занимает около 18,6 ГБ. По данным измерений на wikitext-2, perplexity составляет 9,93 против 9,60 у Q4_K_M, то есть снижение качества относительно базовой 4-битной версии умеренное. Ограничения связаны с потерями квантования, меньшей точностью по сравнению с более крупными форматами и зависимостью от совместимого runtime. В README указана лицензия Apache-2.0.

Qwen3-Coder-30B-A3B-Instruct-FP8 — инструкционная каузальная языковая модель семейства Qwen3-Coder, разработанная командой Qwen. Она предназначена прежде всего для программирования, агентского написания кода, вызова инструментов, использования браузера и понимания крупных репозиториев. Модель подходит для генерации и редактирования кода, решения задач разработки и интеграции в системы, совместимые с Qwen Code, CLINE и форматом function calling. Модель использует архитектуру Mixture-of-Experts: 30,5 млрд параметров всего, из которых при генерации активируется 3,3 млрд; предусмотрено 128 экспертов, одновременно активны 8. Она содержит 48 слоёв и использует Grouped-Query Attention с 32 головами для Q и 4 для KV. Нативная длина контекста составляет 262 144 токена, а с использованием YaRN заявлена возможность расширения до 1 млн токенов. Доступен чекпойнт с мелкозернистой FP8-квантизацией с размером блока 128. README не указывает перечень поддерживаемых языков и модальностей; по описанию это текстовая модель. Сильными сторонами являются эффективность благодаря разреженной активации параметров, длинный контекст, ориентация на агентские сценарии и развитые возможности вызова инструментов. Модель работает только в режиме без рассуждений и не формирует блоки <think></think>. Ограничения включают высокие требования к памяти при большом контексте и известную проблему fine-grained FP8 в Transformers при распределённом инференсе; для нескольких устройств может потребоваться CUDA_LAUNCH_BLOCKING=1. Модель распространяется по лицензии Apache-2.0.

furiosa-ai/Qwen3-Embedding-4B — текстовая модель эмбеддингов из серии Qwen3-Embedding, опубликованная FuriosaAI в виде пакета для запуска на ускорителе FuriosaAI RNGD с библиотекой Furiosa-LLM. Она преобразует текст в плотные векторы для семантического поиска, извлечения релевантных документов и сравнения сходства текстов. Это дообученная версия Qwen/Qwen3-Embedding-4B на плотной трансформерной архитектуре Qwen3; число параметров — 3,7 млрд, нативная длина контекста — 40 960 токенов. Модель поддерживает многоязычные сценарии и Matryoshka Representation Learning, позволяющий получать эмбеддинги уменьшенной размерности через параметр dimensions. Репозиторий содержит веса BF16 без квантизации и Furiosa Executable Bundle; для инференса также можно использовать Sentence Transformers, vLLM или Transformers, следуя карточке исходной модели. Лицензия — Apache 2.0.

michaelfeil/Qwen3-Embedding-8B-auto — текстовая модель эмбеддингов на архитектуре Qwen3, дообученная на базе Qwen/Qwen3-8B-Base. Она предназначена для преобразования текстов в векторы и поиска по смыслу, включая поиск по документам и коду, классификацию, кластеризацию, ранжирование и сопоставление параллельных текстов. Модель содержит 7,6 млрд параметров, поддерживает контекст до 40 960 токенов по метаданным и выдаёт эмбеддинги размерностью до 4096; README указывает настраиваемый диапазон размерностей от 32 до 4096 и поддержку инструкций для конкретной задачи. Модель заявлена как многоязычная, с поддержкой более 100 языков, а также языков программирования. Среди сильных сторон — длинный контекст, настраиваемая размерность векторов и широкий набор задач поиска и сопоставления. Для качественного поиска рекомендуется задавать инструкции; автор отмечает, что их отсутствие может снижать качество поиска на 1–5%. Для работы с Transformers требуется версия 4.51.0 или новее. Лицензия — Apache-2.0.

BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-3x-TIES-v1.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/QwQ-32B-Preview и моделей EVA-Qwen2.5-32B-v0.2, Rombos-Coder-V2.5-Qwen-32b и Rombos-LLM-V2.5-Qwen-32b. Она предназначена для диалоговой генерации текста, математических рассуждений и программирования; поддерживает интерфейс вызова инструментов. Модель содержит 32 млрд параметров, принимает текст и рассчитана на контекст до 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

Rombos-Coder-V2.5-Qwen-14b — дообученная автором Rombodawg модель для генерации кода на основе Qwen/Qwen2.5-Coder-14B-Instruct. В README также описано слияние instruct- и base-моделей методом TIES в рамках подхода Continuous Finetuning; метаданные классифицируют происхождение как дообучение. Модель построена на плотной архитектуре Qwen2 и содержит 14 млрд параметров. Модель предназначена для диалоговой генерации и анализа кода, а также для сценариев вызова инструментов. Она принимает текст и выдаёт текст; заявленный родительский чекпойнт — инструкционная модель Qwen2.5-Coder-14B-Instruct. Контекст составляет 32 768 токенов. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0.

Snowflake Arctic Embed M Klej Dyk v0.1 — англоязычная модель Sentence Transformer, дообученная ve88ifz2 на базе Snowflake/snowflake-arctic-embed-m. Она преобразует предложения и абзацы в плотные эмбеддинги размерностью 768 для семантического поиска, оценки сходства текстов, поиска перефразирований, кластеризации и классификации. Архитектура основана на BERT с объединением представлений CLS-токена и нормализацией векторов; для сопоставления используется косинусное сходство. Максимальная длина входа — 512 токенов, модель поддерживает сокращение размерности эмбеддинга до 64, 128, 256 или 512. Модель подходит для поиска релевантных документов по запросу, дедупликации похожих текстов и построения семантических групп. В README приведены результаты оценки поиска на датасетах dim_768, dim_512, dim_256, dim_128 и dim_64. Модель принимает текст и выдаёт векторы признаков для последующего поиска или анализа; она не предназначена для генерации текста. Распространяется по лицензии Apache-2.0.

sentence-transformers/stsb-roberta-base-v2 — модель Sentence-Transformers, обученная командой Sentence-Transformers на архитектуре RoBERTa. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Размер модели — 151,8 млн параметров; максимальная длина контекста — 514 токенов. Для корректного получения векторов через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов; проще использовать библиотеку Sentence-Transformers. Доступны варианты весов PyTorch, TensorFlow, Flax, ONNX и OpenVINO, включая safetensors. Модель распространяется по лицензии Apache-2.0.

USER-bge-m3 — русскоязычная модель sentence-transformers, разработанная командой DeepVK для получения семантических эмбеддингов предложений и абзацев. Она основана на TatonkaHF/bge-m3_en_ru — уменьшенной версии baai/bge-m3 — и дообучена преимущественно на русском языке. Архитектура модели относится к XLM-RoBERTa; размер составляет 449,9 млн параметров, контекст — до 8194 токенов. Модель преобразует текст в плотные векторы размерности 1024. Её используют для семантического поиска, сравнения похожести текстов, кластеризации, классификации и поиска по документам. В README приведены результаты сравнений на русскоязычных задачах encodechka и MTEB: по ряду средних метрик модель превосходит базовую baai/bge-m3, но в среднем на задачах reranking немного уступает ей. Возможности разреженного и многовекторного кодирования авторы тщательно не оценивали, а качество на языках помимо русского не проверялось. Лицензия — Apache-2.0.

lucasflins/AiFiltering — текстовая Sentence Transformer-модель на архитектуре BERT, разработчик в карточке не уточнён. Модель преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости предложений, семантического поиска, поиска перефразирований, классификации и кластеризации. Для вычисления сходства используется косинусная мера. Модель принимает текст; максимальная длина последовательности в README — 128 токенов, а контекстная длина в метаданных — 512 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на работу с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.

all-MiniLM-L12-v2 — модель Sentence Transformers на архитектуре BERT, размещённая пользователем sheldonrobinson. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384 для семантического поиска, сравнения сходства и кластеризации. Модель дообучена контрастивным обучением на более чем миллиарде пар предложений, используя microsoft/MiniLM-L12-H384-uncased; поддерживает текстовый ввод и выдаёт векторные представления. По README, вход длиннее 256 word pieces обрезается; метаданные указывают контекст до 512 токенов. Лицензия — Apache-2.0.

KhaledReda/all-MiniLM-L6-v73-pair_score — англоязычная модель Sentence Transformers, дообученная на наборе pairs_with_scores_v59 на основе sentence-transformers/all-MiniLM-L6-v2. Она кодирует предложения и абзацы в плотные векторы размерности 384, нормализует их и позволяет сравнивать тексты по косинусному сходству. Модель предназначена для семантического поиска и сопоставления текстов, поиска перефразировок, кластеризации и классификации. Архитектура основана на BERT: энкодер с mean pooling и нормализацией; в метаданных указан размер 25,9 млн параметров. Карточка указывает максимум 256 токенов, а метаданные — нативный контекст 512 токенов. Поддерживается английский язык. Лицензия — Apache-2.0.

Apollo-1-8B — инструкция-дообученная языковая модель, разработанная Noema Research на базе Qwen3-8B. Это плотный decoder-only трансформер примерно на 7,6 млрд параметров для генерации текста, диалога, рассуждений, выполнения инструкций и написания кода; модель поддерживает интерфейс вызова инструментов. Заявленная длина контекста — до 40 960 токенов по метаданным Hugging Face. Модель предназначена для многошагового решения задач, разговорных помощников, обучения и помощи в разработке программного обеспечения. В карточке заявлена поддержка множества языков, включая английский, русский и другие европейские и азиатские языки. Репозиторий содержит веса в формате Safetensors. В README указана лицензия anvdl-1.0, тогда как метаданные классифицируют лицензию как other. Карточка сообщает об улучшенном следовании инструкциям и рассуждениях относительно Apollo-1-4B, но полный отчет о тестировании ещё не опубликован. Модель может ошибаться, особенно в специализированных областях, чувствительна к формулировке запроса и уступает более крупным моделям на особенно сложных задачах. Для критически важных решений требуется проверка человеком.

Карточка модели rohand8/BERT на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

Suva/bge-base-finetuned — модель эмбеддингов на основе архитектуры BERT, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и доступна в форматах PyTorch и Safetensors. Модель обучалась с функцией потерь MultipleNegativesRankingLoss и косинусной мерой сходства. Её можно применять для поиска похожих фрагментов, группировки текстов и получения векторных представлений для последующих задач. README и метаданные не указывают специализированную предметную область или поддерживаемые естественные языки. Лицензия в предоставленных данных не указана.

QuantFactory/Codestral-22B-v0.1-GGUF — квантизированная версия Codestral-22B-v0.1, разработанной Mistral AI и преобразованной с использованием llama.cpp. Модель предназначена для генерации и анализа программного кода, включая ответы на вопросы по фрагментам кода, написание документации, объяснение, рефакторинг и создание кода по заданным требованиям. Также она поддерживает режим Fill-in-the-Middle (FIM), предсказывающий пропущенные токены между префиксом и суффиксом, что подходит для интеграции в редакторы кода и инструменты разработки. Модель обучена на данных, охватывающих более 80 языков программирования, включая Python, Java, C, C++, JavaScript и Bash. Она относится к классу text-generation, имеет размер 22B параметров и распространяется в формате GGUF; конкретные варианты квантования и размер контекста в README не указаны. Модель ориентирована на текстовые задачи программирования и не описана как мультимодальная. Ключевые преимущества — широкий охват языков программирования, поддержка как инструктивного режима, так и FIM, а также пригодность для локального использования через совместимый стек llama.cpp. Ограничение заключается в отсутствии встроенных механизмов модерации, поэтому при применении в продуктивных или публичных системах необходимы собственные меры контроля вывода. Указана лицензия MNPL-0.1; условия следует уточнять в тексте лицензии Mistral AI.

unsloth/DeepSeek-R1-BF16 — версия DeepSeek-R1, опубликованная Unsloth и представленная в формате Safetensors для Transformers. Модель основана на DeepSeek-R1 от DeepSeek и предназначена для диалоговой генерации текста с упором на рассуждения, решение математических задач и помощь с кодом. В карточке указана архитектура DeepSeek-V3; размер составляет 37,6 млрд параметров, длина контекста — до 163 840 токенов. Модель может применяться для пошагового анализа сложных вопросов, объяснения решений, генерации и разбора кода, а также ответов в диалоге. Указанная лицензия — MIT. Для практического использования учитывайте, что ответы могут содержать ошибки, а многошаговые рассуждения — быть избыточными; README не приводит оценок качества именно этой сборки.

casperhansen/deepseek-r1-distill-llama-70b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-70B, опубликованная пользователем casperhansen на Hugging Face. Исходную модель разработала DeepSeek-AI: она создана на базе Llama-3.3-70B-Instruct и дообучена на примерах рассуждений, сгенерированных DeepSeek-R1. Модель предназначена для текстовой генерации, диалогов и решения задач, особенно связанных с математикой, программированием и многошаговым рассуждением. Архитектура — LlamaForCausalLM с примерно 71 млрд параметров, 80 слоями, 64 attention heads и 8 key-value heads. Репозиторий содержит веса в формате Safetensors с 4-битной AWQ-квантизацией; конфигурация указывает контекст до 131072 токенов и вычисления в bfloat16. Это текстовая, а не мультимодальная модель. Квантизация уменьшает требования к памяти и делает локальное развертывание практичнее, но может приводить к некоторой потере качества по сравнению с исходными весами; для полноценного запуска всё равно требуются значительные вычислительные ресурсы. Исходная DeepSeek-R1-Distill-Llama-70B показывает сильные результаты в математике, кодировании и задачах рассуждения, однако официальные показатели относятся к исходной, а не обязательно к данной AWQ-версии. Репозиторий производной модели указывает лицензию MIT. При этом исходная модель базируется на Llama-3.3-70B-Instruct, для которой также действуют условия лицензии Llama 3.3.

Это версия DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на дистиллированной модели DeepSeek. В карточке указано, что веса представлены в формате safetensors, архитектура — плотная Qwen2, размер — 7,1 млрд параметров, библиотека для работы — Transformers, а лицензия — Apache-2.0. Модель предназначена для генерации текста и диалогов с многошаговыми рассуждениями, в том числе для решения математических задач и задач программирования. Она обучена на примерах рассуждений, созданных DeepSeek-R1; в README для семейства дистиллированных моделей указан контекст до 128K токенов. Метаданные карточки также указывают контекст 131072 токена. Модель принимает текст и выдаёт текст. Карточка указывает английский язык; README не уточняет перечень поддерживаемых языков. Как и другие языковые модели, она может ошибаться в рассуждениях и ответах. Для использования применяется лицензия Apache-2.0.