I.2Синтез, понимание и проверка знаний

joshuapb/fine-tuned-matryoshka-1000 — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-base-en-v1.5. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска, сравнения текстов и других задач работы с эмбеддингами. Архитектура включает BERT, пулинг по CLS-токену и нормализацию; для сравнения векторов используется косинусное сходство. Модель поддерживает последовательности длиной до 512 токенов. Благодаря Matryoshka-обучению эмбеддинги можно использовать в сокращённых размерностях 64, 128, 256 и 512, сохраняя пригодность для поиска. В README приведены результаты оценки информационного поиска на наборах dim_64–dim_768; они относятся к этим оценочным данным и не гарантируют аналогичное качество на других корпусах. Модель рассчитана на английский язык, имеет 136,7 млн параметров и распространяется по лицензии Apache-2.0.

TurkuNLP/finnish-modernbert-large-short-5e-05-msmarco — модель Sentence Transformers, дообученная TurkuNLP на базе TurkuNLP/finnish-modernbert-large-short на датасете msmarco-co-condenser-margin-mse-sym-mnrl-mean-v1. Она преобразует предложения и абзацы на английском языке в плотные эмбеддинги размерности 1024 для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации. Архитектура состоит из ModernBERT с усреднением токенных представлений; максимальная длина последовательности — 8192 токена, сходство оценивается косинусной мерой. Модель подходит для построения поиска по смыслу и систем ранжирования текстовых кандидатов, когда запросы и документы представлены на английском языке. В карточке приведён результат cosine_accuracy 0,994 на TripletEvaluator для msmarco-co-condenser-dev; он относится к указанной оценке и не гарантирует такую же точность на других данных. Лицензия в предоставленных сведениях не указана.

Это конвертированная в формат MLX модель Gemma 4 12B Unified, основанная на google/gemma-4-12B. Конверсию выполнило сообщество mlx-community с помощью mlx-vlm версии 0.6.0; модель предназначена для запуска на устройствах Apple с MLX. Базовая модель Google DeepMind поддерживает диалоги, код, рассуждения и анализ текста, изображений, видео и аудио. Репозиторий содержит веса safetensors в формате bf16. Лицензия — Apache-2.0. README отсылает за подробностями к карточке исходной модели, поэтому специфические для этой конверсии сведения о контекстном окне, языковой поддержке и качестве не приведены. Для запуска через описанный интерфейс требуется mlx-vlm.

systalyze/gemma-4-26B-A4B-it-ExpertsINT4-FP8 — это оптимизированная для инференса смешанно-точная квантованная версия мультимодальной модели google/gemma-4-26B-A4B-it, разработанной Google DeepMind. Квантование и выпуск модели выполнены Systalyze. Архитектура Gemma4ForConditionalGeneration принимает текст и изображения и генерирует текст; модель предназначена для мультимодального чата, следования инструкциям, рассуждений и работы с инструментами. Базовая модель представляет собой MoE-архитектуру с 30 слоями и 128 экспертами. Веса MoE-экспертов квантованы в INT4 методом GPTQ с размером группы 64, а остальные линейные слои Transformer используют динамическое FP8-квантование с активациями FP8 на уровне токенов. Router, эмбеддинги, lm_head и vision tower сохраняются без квантования. Чекпойнт занимает около 16 ГБ против 49 ГБ у BF16-версии, то есть примерно в 3,1 раза меньше, и загружается напрямую в vLLM через формат compressed-tensors. Сильная сторона модели — существенное снижение требований к памяти и высокая производительность при низкой и средней конкурентности: в приведённых тестах прирост относительно FP8 достигал 54,4% при concurrency 8. При высокой конкурентности 16–32 запросов обычная FP8-версия производительнее, поэтому выбор зависит от профиля нагрузки. Качество в целом близко к базовой модели, однако на отдельных задачах, включая GPQA Diamond, MMLU-Pro, HumanEval и DROP, наблюдается снижение результатов. Веса модели распространяются по лицензии Apache-2.0.

dguzh/geo-all-distilroberta-v1 — модель Sentence-Transformers на архитектуре DistilRoBERTa, разработанная автором репозитория dguzh. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для оценки семантической близости, семантического поиска и кластеризации текстов. Модель содержит 95,2 млн параметров, обучена с ContrastiveLoss на основе косинусного расстояния и принимает текст с контекстом до 514 токенов. В репозитории указаны веса PyTorch и Safetensors. Карточка не сообщает языковую специализацию, поэтому нельзя определить, для каких языков качество модели подтверждено. Лицензия в предоставленных данных не указана.

German-RAG-BGE-M3-MERGED-x-SNOWFLAKE-ARCTIC-HESSIAN-AI — объединённая модель Sentence Transformers команды German-RAG AI. Она кодирует предложения и абзацы в плотные векторы размерности 1024 для сравнения текстов и семантического поиска. Архитектура основана на XLM-RoBERTa с pooling по CLS-токену и нормализацией; максимальная длина последовательности — 8192 токена, сходство можно измерять косинусной мерой. Модель предназначена прежде всего для немецкоязычных сценариев RAG и поиска: сопоставления запроса с документами, ранжирования контекстов по смысловой близости, поиска парафраз и тематической кластеризации. В README приведены оценки на задачах классификации, поиска и семантического сходства, включая немецкие наборы данных. Поддерживаются немецкий и английский языки. Модель объединяет German-RAG-BGE-M3-TRIPLES-MERGED-HESSIAN-AI и Snowflake/snowflake-arctic-embed-l-v2.0; указано 658,7 млн параметров. Лицензия — MIT. Показатели в README зависят от набора данных и не гарантируют превосходство на произвольных корпусах; входом служит текст, выходом — векторные представления.

German-RAG-UAE-LARGE-V1-TRIPLES-HESSIAN-AI — модель Sentence Transformers, разработанная командой German-RAG AI и дообученная на примерно 300 тысячах троек из набора German-RAG-EMBEDDING-TRIPLES-HESSIAN-AI. Она преобразует предложения и абзацы в плотные векторы размерности 1024; архитектура основана на BERT с объединением CLS-токена и нормализацией векторов. Максимальная длина последовательности — 512 токенов, сходство оценивается косинусной мерой. Модель предназначена для семантического поиска по немецким текстам и другим задачам сравнения и группировки текстов: поиска похожих предложений, обнаружения перефразировок, кластеризации и извлечения признаков для классификации. В карточке приведены результаты оценок на немецких наборах для поиска, классификации и семантического сходства. Модель поддерживает немецкий и английский языки; лицензия — MIT.

gety-embed-v0 — модель для создания текстовых эмбеддингов, разработанная gety-ai. Она дообучена на базе intfloat/multilingual-e5-small с использованием открытых и проприетарных синтетических данных и оптимизирована для сценариев локального поиска и оценки сходства предложений. Модель основана на архитектуре BERT и поддерживает мультиязычные тексты. Она принимает input_ids и attention_mask, выполняет masked mean pooling и L2-нормализацию, формируя нормализованный эмбеддинг размерности 384. Доступны варианты ONNX с динамической UINT8-квантизацией размером 112 МБ и FP16 для CUDA размером 224 МБ, Core ML FP16 для macOS 13+ с ускорением ANE, а также OpenVINO-вариант для Intel NPU с INT8-квантованием весов и FP16-активациями размером 114 МБ. Версия Core ML поддерживает динамическую длину последовательности от 1 до 512 токенов. Сильные стороны модели — компактный размер, нормализованный 384-мерный выход и наличие форматов для CPU, CUDA, macOS и Intel NPU, что удобно для локального и периферийного инференса. Ограничения включают отсутствие в README подробных результатов оценки качества, перечня поддерживаемых языков и рекомендаций по максимальной длине ввода для всех вариантов. Модель распространяется по лицензии MIT.

Delta-Vector/GLM-4-32B-Tulu-Instruct — плотная языковая модель семейства GLM-4, дообученная автором на смеси Tulu-SFT. Она предназначена для диалогов, следования инструкциям и генерации текста; в метаданных также отмечены сценарии работы с кодом. Модель содержит 31,6 млрд параметров, принимает контекст до 32 768 токенов и использует формат диалога ChatML. Автор сообщает, что при обучении были удалены примеры выравнивания безопасности. Модель рассматривается как ассистент и основа для дальнейшего дообучения; оценка качества на длинном контексте не проводилась, а дополнительного обучения с подкреплением после SFT не было. Репозиторий распространяется по лицензии Apache-2.0.

unsloth/GLM-4.6V-GGUF — GGUF-версия мультимодальной модели GLM-4.6V из семейства GLM-V. Исходную модель разработала команда Z.ai, а данный вариант подготовлен Unsloth с использованием формата GGUF и методов квантования Unsloth Dynamic 2.0. Модель предназначена для облачных и высокопроизводительных кластерных сценариев, а также для задач мультимодальных агентов. GLM-4.6V поддерживает обработку изображений и текста, включая документы, скриншоты, страницы с таблицами, графиками и сложной разметкой. Она рассчитана на контекст до 128 тысяч токенов, поддерживает китайский и английский языки и имеет заявленный размер 106 млрд параметров. Ключевые возможности включают визуальное понимание, мультимодальный Function Calling, интерливинг изображений и текста, анализ длинных и многодокументных материалов, а также восстановление интерфейсов по скриншотам с генерацией и редактированием HTML/CSS. Сильными сторонами являются сочетание визуального восприятия с выполнением действий через инструменты, работа с насыщенными документами и заявленная конкурентоспособность на мультимодальных бенчмарках. Ограничения связаны с очень крупным размером модели и высокими требованиями к вычислительным ресурсам; конкретные требования к памяти и характеристики квантования в предоставленных данных не указаны. Модель распространяется по лицензии MIT.

GLM-5.2-JANGTQ_K — квантованный вариант GLM-5.2 от Z.ai, подготовленный bearzi для запуска через MLX на компьютерах Apple с Apple silicon. Это языковая модель семейства GLM с архитектурой MoE и поддержкой чата; метаданные указывают 30,4 млрд параметров и контекст до 1 048 576 токенов. Профиль JANGTQ_K использует смешанную квантовку TurboQuant: routed-эксперты сжаты до 2 или 4 бит, а блоки внимания и индексатор DSA сохранены в FP16. Голова MTP удалена, поскольку она не используется в описанном режиме генерации MLX. Модель предназначена для генерации текста в диалоге, написания кода и длительных задач с большим контекстом. Для загрузки требуются около 260 ГБ объединённой памяти, пакет jang-tools и runtime MLX с патчем IndexShare; обычные MLX, LM Studio и Ollama этот набор не поддерживают без соответствующей доработки. В метаданных указана лицензия MIT.

GLM-5.3-Int4-Int8Mix — это квантизированная версия большой языковой модели GLM-5.3, разработанной организацией zai-org. Модель предназначена для генерации текста, решения математических и программных задач, следования инструкциям и работы через chat-интерфейсы. Она рассчитана на развёртывание в vLLM с tensor parallelism и поддерживает speculative decoding через MTP, автоматический выбор инструментов и prefix caching. Исходная модель содержит 743 млрд параметров и использует архитектуру с 78 слоями, скрытым размером 6144, 256 маршрутизируемыми экспертами MoE и компонентами DSA. В этой версии применена статическая симметричная weight-only-квантизация без калибровочных данных: эксперты в основном квантизированы до Int4, линейные слои и MTP — до Int8, а критические компоненты, включая router, DSA indexer и lm_head, сохранены в BF16. Размер весов сокращён до 377,4 GiB в 282 shards; при TP4 на один ранг приходится около 94,6 GiB. Заявленный максимальный контекст — 200 000 токенов, при этом в конфигурации модели указано значение 1M. Модель демонстрирует высокую производительность на конфигурации из четырёх NVIDIA DGX Spark: до 26,3 токена в секунду при одной параллельной сессии и 89,2 токена в секунду при восьми, с TTFT около 0,6 секунды для промпта примерно на 780 токенов. Проверки показали отсутствие повреждений генерации на английском, корейском и русском языках, а также корректное извлечение данных из 34 996-токенного контекста. Среди ограничений — очень высокие требования к памяти и инфраструктуре, необходимость распределённого развёртывания, вариативность результатов производительности и некоторое отставание от сравниваемой hosted GLM-5.2 в IFEval. Лицензия указана как other; дополнительные условия в README не раскрыты.

GoGPT2-7B — китайско-английская языковая модель, созданная ICT на базе Llama 2 7B. Это плотная авторегрессионная модель семейства Llama с 6,8 млрд параметров и контекстом 2048 токена; веса доступны в формате PyTorch. Разработчики расширили словарь Llama с 32 000 до 68 420 токенов, продолжили предобучение на китайском корпусе и выполнили supervised fine-tuning на наборах инструкций и диалогов на китайском и английском языках. Модель предназначена для генерации текста по запросу: ответов на вопросы, диалогов, объяснений, перевода и написания кода. Примеры в карточке показывают такие сценарии, как сравнение понятий, помощь с тайм-менеджментом и программирование. Карточка приводит лишь примеры ответов, поэтому они не подтверждают точность модели; возможны фактические ошибки и некорректный код. Репозиторий распространяется по Apache-2.0, однако авторы README отдельно указывают на исследовательское использование и запрещают коммерческое применение связанных ресурсов; это ограничение следует учитывать при использовании модели.

GPT-OSS-Swallow-20B-RL-v0.1 — двуязычная языковая модель Токийского научного института (Tokyo Tech), созданная на основе GPT-OSS-20B с продолжением предобучения, дообучением на инструкциях и обучением с подкреплением по проверяемым наградам. Модель предназначена для диалога на японском и английском языках, а также для решения задач по математике, программированию и естественным наукам. Архитектура — GPT-OSS MoE; в метаданных указано 1,6 млрд параметров и контекстное окно до 131 072 токенов. Разработчики сообщают об улучшенной работе с японским языком и переводом между японским и английским, при сохранении или усилении возможностей в математике и программировании. Для воспроизводимого запуска рекомендуют vLLM и уровень reasoning effort medium. Хотя заявленное окно контекста составляет 131 072 токена, модель не обучали и не проверяли на задачах длиннее 32 тысяч токенов; для практического использования авторы рекомендуют контекст не более 32 768 токенов. Модель специально не обучалась вызову инструментов и не гарантирует стабильное управление режимом рассуждений или самоидентификацию. Карточка отмечает раннюю стадию разработки и отсутствие специальной настройки на безопасность и соответствие намерениям пользователя. Лицензия — Apache-2.0.

HAI — модель Sentence Transformers из экосистемы HelpingAI для оценки семантического сходства текстов и получения плотных эмбеддингов. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2; архитектура включает энкодер BERT, усреднение токеновых представлений и нормализацию векторов. Модель содержит 25,9 млн параметров, выдаёт эмбеддинги размерности 384 и принимает до 256 токенов на вход по README; метаданные указывают нативный контекст 512 токенов. Модель предназначена для сравнения смысловой близости предложений и контекстно-ориентированной работы с текстом с акцентом на эмоционально окрашенные ответы. Её можно применять для семантического поиска, ранжирования похожих фраз и группировки текстов. README сообщает об обучении на 75 897 примерах с оценками сходства от 0 до 1 и использовании Cosine Similarity Loss. Лицензия — Apache-2.0.

Hy3-295B-NVFP4 — квантованный экспорт базовой модели Tencent Hy3, подготовленный r0b0tlab с NVIDIA ModelOpt и проверенный в vLLM на двух системах NVIDIA GB10. Это MoE-модель для генерации диалогового текста; артефакт использует калиброванную квантизацию весов W4A4 NVFP4 для поддерживаемых проекций маршрутизируемых экспертов, а проверенный KV-кэш работает в FP8. В README описана практическая проверка контекста до 49 152 токенов, но это измеренная граница конкретного профиля, а не заявленный архитектурный максимум. Модель предназначена для диалогов, рассуждений, ответов на вопросы, задач на следование инструкциям и генерации кода. В README приведены результаты тестов на GSM8K, ARC-Challenge, PIQA, WinoGrande, TruthfulQA, MMLU, IFEval и HumanEval, а также измерения производительности на указанном оборудовании. Результаты относятся к конкретным конфигурациям запуска, данным и контрактам декодирования и не гарантируют качество для любых запросов. В метаданных указана лицензия other; README требует соблюдать лицензии и условия базовой модели, библиотек и наборов данных. Для запуска и заявленной производительности необходимы совместимые аппаратное обеспечение и программный стек; показатели проверки получены на двух GB10 с vLLM и FlashInfer.

I-DLM-32B — плотная диффузионная языковая модель на 29,7 млрд параметров, созданная командой yifanyu на основе Qwen/Qwen3-32B. Она предназначена для диалоговой генерации текста, ответов на вопросы, математических рассуждений, программирования и следования инструкциям. Метод Introspective Strided Decoding позволяет генерировать и проверять группы токенов параллельно; для воспроизведения результатов авторы рекомендуют конвейер ISD на базе SGLang. Модель заявлена как сопоставимая по качеству с авторегрессионной Qwen3-32B на 15 тестах, охватывающих знания, математику, код и следование инструкциям. Модель использует архитектуру SDAR и принимает текст, выдавая текст. Нативная длина контекста — 40 960 токенов. Карточка указывает английский язык; базовая Qwen3-32B описана как многоязычная. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0. Прямая загрузка через Transformers пока не поддерживает воспроизведение результатов из статьи; для вывода рекомендуется SGLang с реализацией ISD.

Instruct-12B — языковая модель, созданная hakurei дообучением EleutherAI Pythia 12B deduped на наборе Open-Instruct v1. Она предназначена для следования инструкциям пользователя и задумана как открытая альтернатива моделям серии InstructGPT; автор отмечает, что формат запросов похож на GPT-3.5. Модель построена на архитектуре GPT-NeoX, содержит 15,4 млрд параметров и рассчитана на контекст до 2048 токенов. Модель принимает текст и генерирует текст. Карточка указывает на поддержку английского языка и возможностей следования инструкциям и генерации кода. Для запросов рекомендуется разделять инструкцию, ввод пользователя и ответ двойными переводами строки. Модель распространяется под лицензией Apache-2.0.

jina-embeddings-v2-base-de-GGUF — это квантованная GGUF-версия модели jinaai/jina-embeddings-v2-base-de, разработанная Jina AI и квантованная Second State Inc. Модель предназначена для получения векторных представлений текста, которые можно использовать в семантическом поиске, сопоставлении документов, кластеризации и других задачах обработки естественного языка. Она рассчитана на работу через GaiaNet с шаблоном запроса embedding. Модель поддерживает немецкий и английский языки, имеет размерность эмбеддингов 768 и контекст до 8192 токенов. Формат GGUF и квантование выполнены с использованием llama.cpp b4273, что предназначено для более эффективного запуска при сохранении совместимости с соответствующей инфраструктурой. README не содержит подробностей о конкретном методе квантования, размере файла или показателях качества, поэтому производительность и компромисс между точностью и требованиями к ресурсам оценить нельзя. Модель распространяется по лицензии Apache-2.0. Для запуска и настройки предусмотрена инфраструктура GaiaNet; дополнительные сведения о требованиях к оборудованию и вариантах конфигурации в README не указаны.

Карточка модели abhinavsunil/kitchenelite-recipe-model на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Kiwen1.1-27B-MTP-GGUF — это набор смешанных GGUF-квантизаций модели Kiwen1.1-27B, разработанной beyoru и подготовленной пользователем NikiKrutan для запуска через llama.cpp. Модель ориентирована на диалоговые сценарии, программирование, агентские задачи, рассуждения, математику и работу с текстами на нескольких языках, включая английский, русский и вьетнамский. Суффикс MTP и метаданные указывают на вариант, связанный с multi-token prediction, однако подробности архитектуры MTP в README не приведены. Квантизации создаются инструментом niki-allocator, который подбирает тип квантования отдельно для каждого тензора с учётом целевого размера файла и оценок качества на основе KLD. Доступно 15 вариантов размером примерно от 8500 до 23000 МиБ; автор рекомендует выбирать максимально крупный вариант, помещающийся в доступную память, поскольку больший размер обычно обеспечивает более высокое качество. Производительность зависит от оборудования и конфигурации и отдельно не измерялась. Сильной стороной модели является тщательная оценка качества квантизаций на корпусах для программирования, агентских задач, рассуждений, сложной логики, мультиязычных текстов и научных материалов, а также сравнение с альтернативными сборками. Ограничения включают зависимость скорости и пригодности от аппаратной конфигурации, возможные потери качества из-за квантования и отсутствие в README точных сведений о размере контекста, полном наборе поддерживаемых языков и характеристиках исходной архитектуры. Распространение заявлено по лицензии Apache-2.0.

DS-Archive/L3.3-70B-Magnum-v4-SE-Cirrus-x1 — диалоговая языковая модель, созданная объединением моделей Sao10K и Doctor-Shotgun с помощью SLERP и mergekit. Она построена на архитектуре Llama 3.3 с плотной конфигурацией и содержит 69,5 млрд параметров; модель предназначена для генерации текста в формате диалога и поддерживает интерфейс вызова инструментов. Нативная длина контекста — до 131 072 токенов. Модель подходит для диалоговых приложений и генерации ответов с большим контекстом. В README указаны объединённые модели и метод слияния, но не приведены результаты оценки качества, сведения о поддерживаемых языках или специальные ограничения применения. Файлы опубликованы в формате safetensors; лицензия в предоставленных данных не указана.

Lion-Lamarck-v.1.0.9 — диалоговая языковая модель на 14 млрд параметров, созданная nlpguy слиянием предварительно обученных моделей с помощью mergekit и метода SCE. В качестве базовой использована sometimesanotion/Lamarck-14B-v0.7; в слияние также вошли DeepSeek-R1-Distill-Qwen-14B, Qwenvergence-14B-v10 и SuperNova-Medius. Модель построена на архитектуре Qwen2 и распространяется в формате Safetensors. Модель предназначена для генерации текста и диалогов, а интерфейс поддерживает вызов инструментов. Контекстное окно составляет до 131 072 токенов. Базовая модель DeepSeek-R1-Distill-Qwen ориентирована на рассуждения, включая математические задачи и программирование; эти сценарии могут быть полезны и для Lion-Lamarck, однако карточка не приводит отдельных оценок качества этой сборки. Модель принимает текст и генерирует текст. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверять на странице репозитория Hugging Face.

Карточка модели monsterbeasts/LishizhenGPT на Hugging Face совпадает с карточкой bigscience/bloomz-7b1-mt, поэтому описание составлено по ней. BLOOMZ-7B1-mt — многоязычная генеративная языковая модель, созданная BigScience путём дообучения BLOOM на смеси кросс-языковых задач xP3. Она предназначена для выполнения инструкций на естественном языке без отдельного дообучения под каждую задачу: модель может отвечать на вопросы, переводить, классифицировать текст и создавать связные тексты. Архитектура — плотная авторегрессионная BLOOM с 7,1 млрд параметров; модель работает с текстом, поддерживает десятки языков и имеет контекст до 2048 токенов. Среди сильных сторон — следование инструкциям и перенос между языками и задачами в режиме zero-shot. Качество ответов зависит от формулировки запроса: README рекомендует явно обозначать границу инструкции и указывать желаемый язык и контекст. Модель может продолжать входной текст вместо ответа, если запрос сформулирован неоднозначно. Распространяется по лицензии BigScience BLOOM RAIL 1.0.

IntervitensInc/Llama-3.1-Minitron-4B-Width-Base-chatml — текстовая авторегрессионная модель семейства Llama, разработанная NVIDIA. Это базовая модель для генерации текста и адаптации к различным задачам обработки естественного языка; в этой версии добавлены токены ChatML для дообучения в формате диалога. Модель получена структурным прореживанием Llama-3.1-8B по размеру эмбеддингов и промежуточному слою MLP, после чего прошла дальнейшее обучение с дистилляцией на 94 млрд токенов. Архитектура включает 32 слоя, 32 головы внимания, Grouped-Query Attention и RoPE; число параметров — 3,9 млрд. Модель принимает и выдаёт текст. В README заявлена поддержка английского и многоязычного текста, а также кода; корпус включал веб-страницы, диалоги и документы из разных областей. Метаданные указывают контекстное окно 131 072 токена. Модель предназначена для генерации текста и дальнейшей адаптации под прикладные сценарии; README также сообщает о готовности к коммерческому использованию. Указана лицензия other, поэтому перед использованием следует свериться с условиями NVIDIA. Модель может выдавать неточные, неполные или избыточные ответы и воспроизводить токсичность и предвзятость из обучающих данных.

RedHatAI/Llama-3.2-3B-quantized.w8a8 — это квантованная текстовая языковая модель семейства Llama 3.2, размещённая Red Hat AI и основанная на модели Meta Llama 3.2. В репозитории указаны формат Safetensors, 8-битная точность и схема W8A8; отдельная карточка модели отсутствует, поэтому сведения о точной процедуре квантования и дополнительных оценках для этой конкретной версии не заявлены. Модель предназначена для генерации текста и кода, а также для адаптации под локальные и периферийные сценарии с ограниченными вычислительными ресурсами. Это авторегрессионная модель с оптимизированной Transformer-архитектурой, примерно 3,21 млрд параметров, текстовыми входами и выходами, поддержкой английского, немецкого, французского, итальянского, португальского, hindi, испанского и тайского языков. Для квантованных текстовых моделей Llama 3.2 заявлен контекст до 8 тысяч токенов. Ключевые преимущества — меньшие требования к памяти, размеру хранения и вычислениям по сравнению с полноточной версией; ограничение — возможная потеря качества из-за квантования, а также отсутствие опубликованной карточки и специфических результатов тестирования именно для данного репозитория. Базовая модель Llama 3.2 разработана Meta, а использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta с дополнительными требованиями Acceptable Use Policy.

OpenRLHF/Llama-3-8b-sft-mixture — плотная языковая модель семейства Llama, выпущенная командой OpenRLHF. Это контрольная точка supervised fine-tuning модели Meta-Llama-3-8B на смеси открытых наборов данных: ShareGPT, Evol-Instruct, SlimOrca, MathInstruct, Magicoder-Evol-Instruct, GPT4-LLM, OrcaMath, GPTeacher и UltraInteract. Обучение длилось одну эпоху; модель содержит 7,5 млрд параметров и использует контекст до 8192 токенов. Модель генерирует текст в диалоговом формате и предназначена для использования как отправная точка в исследованиях RLHF. Она не проходила RLHF-обучение. В README указано, что исправлена конфигурация генерации; подробные параметры обучения приводятся в техническом отчёте. Лицензия в предоставленных данных не указана.

Llama-Deepsync-1B — дообученная PrithivMLmods модель на базе Meta Llama 3.2 1B Instruct для генерации текста и диалогов. Это авторегрессионный трансформер семейства Llama с плотной архитектурой, примерно 1,2 млрд параметров и контекстом до 131 072 токенов. Репозиторий содержит веса SafeTensors; модель можно запускать через Transformers. Модель предназначена для ответов на сложные запросы с логическим рассуждением, решения задач по математике, генерации и объяснения кода, творческого письма и создания структурированных ответов, включая JSON. В README также заявлена поддержка многоязычного общения и генерации длинных текстов. Метаданные указывают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; более широкое заявление README о 29 языках не подкреплено их перечнем в метаданных. Лицензия — CreativeML OpenRAIL-M.

Marco-Mini-Global-Base — мультиязычная базовая языковая модель семейства Marco-MoE, разработанная Alibaba International Digital Commerce. Это декодерный Transformer с разреженными слоями Mixture-of-Experts, созданный путём расширения и дообучения Qwen3-0.6B-Base; при генерации токенов активируется около 0,86 млрд параметров из 17,3 млрд. Модель предназначена для генерации текста и диалогового использования на 64 языках, включая русский, английский, китайский, арабский, хинди и другие языки Европы, Азии и Африки. Контекст составляет 32 768 токенов; доступны интерфейс для чата и интерфейс вызова инструментов. В сравнении, приведённом в карточке, модель показывает сильные результаты на многоязычных тестах при небольшом числе активируемых параметров; показатели на английских тестах также близки к более крупным сравниваемым моделям. Это базовая модель, поэтому качество инструкционного следования и диалога может требовать отдельной настройки. Репозиторий использует формат Safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

mergekit-community/mergekit-linear-mocebtg — объединённая плотная языковая модель, созданная сообществом с помощью mergekit методом Linear из DeepSeek-R1-Distill-Qwen-32B и mergekit-community/mergekit-model_stock-czbocwb. Она предназначена для генерации текста в диалоговом формате; интерфейс также поддерживает вызов инструментов. Модель построена на архитектуре Qwen2 и содержит 32 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. В метаданных указаны формат safetensors и библиотека Transformers. Базовая DeepSeek-R1-Distill-Qwen-32B дообучена для рассуждений и решения задач по математике и программированию, однако отдельные возможности и качество итогового слияния не описаны. Сведения о лицензии в предоставленных данных отсутствуют.