I.3Извлечение и структурирование данных

ERNIE-4.5-VL-424B-A47B-PT — мультимодальная модель семейства ERNIE 4.5 от Baidu для диалогового взаимодействия с текстом и изображениями. Это вариант с весами PyTorch для Transformers; модель построена на архитектуре MoE и содержит 424 млрд параметров, из которых для каждого токена активируется около 47 млрд. Она принимает текст и изображения и генерирует текст, поддерживает контекст до 131 072 токенов и ориентирована на понимание изображений, мультимодальные рассуждения, языковое понимание и генерацию. Вариант прошёл постобучение с использованием SFT и методов оптимизации предпочтений. Модель подходит для ответов на вопросы по изображениям, визуального анализа и диалога с учётом изображения, а также для обычных текстовых диалогов и генерации. В README описаны режимы рассуждения с включённым и выключенным пошаговым анализом. Для запуска через vLLM требуется версия 0.11.2 или новее; приведённая конфигурация использует 16 GPU по 80 ГБ. Лицензия — Apache-2.0.

EssentialAI_rnj-1-instruct-GGUF — это набор GGUF-квантизованных версий instruct-модели rnj-1-instruct, разработанной Essential AI и квантизованной пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций в локальных средах, совместимых с llama.cpp, включая LM Studio и другие проекты на его основе. Доступны варианты от BF16 до 3- и 4-битных форматов, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Размеры файлов варьируются примерно от 3,8 до 16,6 ГБ; наиболее качественными считаются BF16, Q8_0 и варианты Q6, а Q4 предназначены для более универсального локального использования. В README не указаны архитектура, максимальная длина контекста, поддерживаемые языки, число параметров и мультимодальные возможности, поэтому модель следует считать текстовой без подтверждённой поддержки других модальностей. Сильные стороны — широкий выбор степеней квантизации, возможность запуска на локальном оборудовании и сохранение высокого качества у вариантов Q5–Q8. Более компактные варианты экономят память, но могут заметно уступать по качеству; низкобитные версии характеризуются как менее качественные или нерекомендуемые. Для работы требуется использовать рекомендованный формат prompt-шаблона rnj-1 и совместимый inference-движок. Указанная лицензия — Apache-2.0.

Gemma-2-Ataraxy-v4-Advanced-9B — слитая автором lemon07r диалоговая языковая модель на архитектуре Gemma 2 с 9 млрд параметров. Она объединяет модели lemon07r/Gemma-2-Ataraxy-v3-Advanced-9B и zelk12/recoilme-gemma-2-Ataraxy-9B-v0.1-t0.25 методом SLERP с помощью mergekit; веса сохранены в формате safetensors, тип данных — bfloat16. Модель предназначена для генерации текста и ответов на текстовые запросы в диалоговом режиме. Заявленная длина контекста — 8192 токена. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH; они дают ориентир по оцениванию следования инструкциям и рассуждений, но не гарантируют качество в конкретном сценарии. Лицензия в предоставленных данных не указана.

AMD разработала эту модель как 4-битную квантизированную версию Gemma 4 12B IT от RedHatAI. Она предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC, прежде всего в Linux-среде с использованием vLLM и оптимизаций ZenDNN. Указанный язык — английский. Модель построена на архитектуре Gemma4UnifiedForConditionalGeneration и имеет размер 12 миллиардов параметров в исходной версии. Для весов применяется GPTQ-квантизация W4A16: веса хранятся в формате INT4, симметрично и по группам размера 128, а активации остаются в BF16. Визуальные и аудиокомпоненты, мультимодальный проектор и lm_head сохранены в BF16, однако в карточке явно описан сценарий с текстовым вводом и выводом. Калибровка выполнена на 128 примерах датасета ultrachat_200k при максимальной длине последовательности 2048 токенов; в конфигурации оценки использовался максимальный контекст 4096 токенов. Ключевое преимущество модели — снижение требований к памяти и возможность оптимизированного инференса на AMD CPU при сохранении высокой близости к BF16-базовой версии: на GSM8K она получила 0,9249 против 0,9401 у BF16, то есть восстановила 98,38% результата. Ограничения связаны с зависимостью от конкретного программного стека и аппаратной платформы: заявлена совместимость с AMD EPYC, ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0. Для оптимальной производительности требуется настройка OpenMP через LD_PRELOAD. Модель распространяется по лицензии Gemma.

ReadyArt/gemma-4-31B-it-scotoma-2-GGUF — это набор GGUF-квантизированных вариантов модели gemma-4-31B-it-scotoma-2, опубликованный ReadyArt. В основе лежит Gemma 4 31B от Google DeepMind, доработанная методом γ-fold и тремя раундами DPO на 9,3 тыс. пар предпочтений. Модель предназначена для диалоговой генерации текста, рассуждений, программирования и мультимодального анализа изображений; GGUF-формат ориентирован на локальный запуск через llama.cpp и совместимые приложения. Базовая Gemma 4 31B — плотная модель примерно с 30,7 млрд параметров, гибридным вниманием, поддержкой текста и изображений и контекстом до 256 тысяч токенов. Семейство Gemma 4 поддерживает более 140 языков на уровне предобучения и имеет режимы рассуждений, но для конкретного производного варианта ReadyArt подробные отдельные языковые оценки не указаны. Доступны разные уровни квантизации, поэтому требования к памяти и качество зависят от выбранного GGUF-файла. Scotoma 2 изменяет поведение исходной instruction-tuned модели: ослабляет осторожные рефлексы и уменьшает повторяющиеся стилистические шаблоны, включая рефлексивные отрицания, конструкцию «not X, but Y», вставки с em dash и нагромождение прилагательных. По заявлению автора, модель сохраняет интеллект базовой версии и делает ответы более разнообразными, но это исследовательский артефакт, а не продукт; поведение зависит от запроса и контекста, а квантизация может дополнительно снижать качество. Модель не является полностью uncensored и в целом сохраняет отказы базовой модели. Указана лицензия Apache-2.0 с применением условий лицензии Gemma.

German-RAG-MISTRAL-7B-v3.0-CPT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI и дообученная на базе mistralai/Mistral-7B-v0.3 методом continued pre-training. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Лицензия — Apache 2.0. Модель предназначена для работы с немецкими и английскими текстами, особенно для генерации ответов на вопросы с учётом предоставленного контекста, структурированного рассуждения и суммаризации. Её можно использовать в RAG-сценариях, где приложению нужно сформулировать ответ по найденным документам. В обучающих данных сделан акцент на немецком языке; README указывает около 420 тысяч немецких и 200 тысяч английских примеров.

iMiW/Giga-Embeddings-instruct-4bit-nf4 — это 4-битная квантованная версия модели ai-sage/Giga-Embeddings-instruct. README не указывает явно разработчика исходной модели; в её основе лежит decoder-only LLM GigaChat-3b. Квантование выполнено с использованием bitsandbytes в формате NF4, с двойным квантованием и вычислениями в bfloat16. Модель не дообучалась, а была загружена в 4-битной точности. Модель предназначена для построения векторных представлений текстов и задач семантического поиска, включая retrieval по запросам и документам. Для каждого поискового запроса рекомендуется добавлять однопредложную инструкцию, описывающую задачу, тогда как для документов инструкция не требуется. Полученные эмбеддинги можно сравнивать, например, скалярным произведением. Ключевые характеристики: pooling Latent-Attention, размерность эмбеддингов 2048, поддерживаемая длина входа в примере использования — до 4096 токенов. README не содержит сведений о перечне языков и других модальностях, поэтому модель следует рассматривать как текстовую. Квантирование снижает требования к памяти, однако требует совместимых окружений с transformers, bitsandbytes и accelerate; для запуска также предполагается использование вычислений на GPU. Модель распространяется по лицензии Apache-2.0.

Vontra/GLM-5.3-Flash-MLX-2bit-MTP — это конвертированная и гибридно квантованная версия мультимодальной модели GLM-5.3-Flash от Z.ai, подготовленная Vontra для Apple Silicon на базе MLX. Модель предназначена для генерации текста и работы с изображениями в совместимых MLX- и VLM-средах, включая oMLX. Заявлены английский и китайский языки. Модель использует архитектуру glm5_next с разреженной смесью экспертов (MoE), чередованием KDA-линейного и разреженного внимания, vision encoder и одним нативным NextN/MTP-слоем для спекулятивного декодирования. Объём параметров составляет 320 млрд, из них 18 млрд активны при обработке запроса; заявленный контекст — до 1 048 576 токенов. Чекпойнт хранится в MLX safetensors и занимает около 111,3 ГБ. Квантование выполнено по гибридной схеме: основные экспертные веса имеют точность 2 бита, отдельные проекции — 8 или 4 бита, а чувствительные компоненты, включая vision encoder, projector, эмбеддинги и выходную голову, сохранены в BF16. К сильным сторонам относятся существенное уменьшение размера весов, поддержка мультимодальных сценариев, сохранённый нативный MTP и совместимость с экосистемой Apple MLX. В тесте на Apple M3 Studio включение MTP повысило скорость декодирования с 6,063 до 6,257 токена в секунду при совпадении результатов. Производительность и прирост от MTP зависят от оборудования, запроса и степени принятия черновых токенов. Для работы требуется runtime с поддержкой архитектуры glm5_next, нативного MTP и покомпонентных метаданных квантования MLX; указаны совместимые версии oMLX 0.6.3rc3, MLX 0.32.0, mlx-lm 0.31.3 и mlx-vlm 0.6.3. Лицензия — MIT.

Vontra/GLM-5.3-Flash-MLX-oQ2-MTP — это MLX-конверсия и квантованная версия мультимодальной модели GLM-5.3-Flash, разработанной Z.ai. Модель предназначена для генерации текста и изображений, обработки языковых и визуальных запросов, а также локального запуска на компьютерах Apple Silicon через MLX и совместимые компоненты oMLX. Заявлены поддерживаемые языки английский и китайский. Модель использует архитектуру glm5_next с разреженной Mixture-of-Experts, гибридным линейным и разреженным вниманием и контекстом до 1 048 576 токенов. Применена посттренировочная weight-only-квантизация sensitivity-guided oQ2 со смешанной точностью и эффективным распределением около 2,67 бита на вес. Большинство весов имеют точность Q2 или Q8, отдельные компоненты — Q4, а зрительный энкодер и проектор сохранены в BF16. Репозиторий содержит 22 файла весов общим объёмом около 110 ГБ. Вариант сохраняет встроенный слой предсказания следующего токена и поддерживает Native MTP с глубиной 1, что может повышать пропускную способность. Однако MTP указан как экспериментальный: в проверенном окружении результаты были связными, но не полностью совпадали с базовым режимом, поэтому для точной детерминированной воспроизводимости его следует отключать. Совместимость проверена с oMLX 0.6.3rc3, MLX 0.32.0, mlx-lm 0.31.3 и mlx-vlm 0.6.3; другие версии могут не поддерживать необходимые пути glm5_next, oQ и Native MTP. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-NVFP4 — это квантизированная версия модели GLM-5.3-Flash от zai-org, опубликованная пользователем tattrongvu. Модель предназначена для генерации текста, рассуждений и работы с изображениями и текстом; в карточке она классифицирована как image-text-to-text. Это reasoning-модель, рассчитанная на серверное применение с SGLang и распределённым инференсом на нескольких GPU. В основе используется MoE-архитектура с 45 основными слоями и одним дополнительным multi-token-prediction слоем. Маршрутизируемые эксперты MoE в слоях 3–45 сжаты методом NVFP4: веса представлены в 4-битном формате с группами по 16 элементов, тогда как активации остаются в bf16. В bf16 также сохранены механизмы внимания, маршрутизатор, общие эксперты, некоторые плотные MLP-слои, embeddings, lm_head и вся vision tower. Размер весов уменьшен с 328,4 до 194,6 ГБ. Данные о поддерживаемых языках и размере контекстного окна в карточке не указаны. Сильная сторона модели — значительное сокращение объёма весов при сохранении близкой к пределу формата точности реконструкции, а также единая схема квантизации всех routed experts, включая MTP-слой. В приведённых тестах модель показала 72,64% на bfcl_v4, 77% на aa_lcr и 97,62% на завершённых задачах aime26; результаты зависят от лимита генерации, настроек оценки и не являются прямым сравнением с опубликованными результатами базовой модели. Ограничения включают очень высокие требования к памяти и необходимость совместимого стека инференса; для SGLang требуется специальный образ и параметр modelopt_fp4, а поддержка vLLM в карточке обозначена как ожидаемая, но не проверенная. Лицензия — MIT.

GLM-5.3-Flash NVFP4 B200 hybrid — это квантизированная версия GLM-5.3-Flash, разработанная tiyuvta и собранная из исходной BF16-версии zai-org. Модель предназначена для генерации текста, диалоговых сценариев, агентных задач и вызова инструментов. В карточке указаны английский и китайский языки, а также поддержка conversational и tool-calling сценариев. Базовый пайплайн — text-generation, формат хранения — safetensors. Модель использует гибридную, а не равномерную 4-битную квантизацию и рассчитана на NVIDIA B200 с архитектурой sm_100. Основной объём весов экспертов MoE, shared-экспертов и некоторых плотных MLP представлен в NVFP4; отдельные линейные слои — в FP8, маршрутизатор — в FP32, а чувствительные компоненты, включая часть attention, нормализации, embeddings и lm_head, сохранены в BF16. Объём модели составляет около 189,1 ГБ в 19 safetensors-фрагментах. Токенизатор унаследован от GLM-5.3-Flash. Сильной стороной модели является специализированная гибридная схема точности, ориентированная на производительность tensor cores NVIDIA B200 при сохранении более высокой точности для отдельных компонентов. Однако это экспериментальная сборка: она ещё не прошла заявленные проверки kernel-check, argmax-margin и vendor-default decode, не является готовым serving pin, не поддерживает заявленную совместимость с NVIDIA RTX PRO 6000 и не должна использоваться как drop-in замена другой версии. Кроме того, в checkpoint отсутствует activation scale plane для W4A4 tensor-core serving, поэтому веса нельзя автоматически считать готовой W4A4-моделью. Лицензия — MIT.

Это набор GGUF-квантизированных файлов модели gradientai/Llama-3-8B-Instruct-Gradient-1048k, разработанный Gradient AI и квантизированный командой featherless-ai-quants. Модель предназначена для генерации текста и использования в сценариях, требующих работы с инструкциями, включая локальный или совместимый с GGUF инференс. README не указывает поддерживаемые языки, дополнительные модальности или конкретные прикладные сценарии. В основе лежит Llama 3 с заявленным размером 8B параметров и контекстом 1048k; архитектурные подробности в README не приведены. Доступны варианты квантизации Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0, размером примерно от 3,0 до 8,1 ГБ. Разные варианты позволяют выбирать компромисс между размером файла, требованиями к ресурсам и потенциальным качеством, однако результаты конкретных вариантов в README не сравниваются. К сильным сторонам относятся большой заявленный контекст и широкий выбор форматов квантизации. Ограничения — отсутствие в предоставленных данных сведений о качестве, бенчмарках, системных требованиях, поддерживаемых языках и точной архитектуре. Лицензия в README не указана, поэтому условия использования необходимо уточнять в документации базовой модели gradientai/Llama-3-8B-Instruct-Gradient-1048k и соответствующего репозитория.

Это 8-битная версия Hermes 3 на базе Llama 3.1 с 70 млрд параметров, преобразованная сообществом mlx-community в формат MLX из NousResearch/Hermes-3-Llama-3.1-70B с помощью mlx-lm 0.16.1. Модель предназначена для диалогов и следования инструкциям; метаданные также указывают на дообучение исходной Llama 3.1 70B. Поддерживает текстовый ввод и генерацию текста, включая сценарии чат-взаимодействия. Контекст составляет до 131 072 токенов. В карточке заявлен английский язык. Модель распространяется по лицензии Llama 3. Используйте её в совместимой среде MLX; README предлагает установить mlx-lm.

Indic-Transcribe-Flex — мультиязычная модель распознавания речи, разработанная Bodhan AI на основе NVIDIA Canary-1B-v2. Она предназначена для транскрибации речи на 27 индийских языках и английском с индийским акцентом, включая смешанную речь вроде Hinglish. Архитектура сочетает акустический энкодер FastConformer и Transformer-декодер; вход — аудио, выход — текст. Модель поддерживает вывод в родной письменности, смешанный вариант с английскими словами и числами латиницей, а также полную романизацию латиницей. Она может автоматически определять язык речи или работать с заданным языком; среди заявленных сценариев — аудио в шумных условиях и лексика образования, сельского хозяйства и здравоохранения. Для входа указаны монофонические аудиофайлы с частотой 16 кГц; WAV, FLAC и MP3. В README отмечено, что Indic-Transcribe-Core показывает более высокую точность на приведённом бенчмарке. Модель распространяется по лицензии с идентификатором Hugging Face «other»; конкретные условия лицензии в доступных данных не раскрыты.

InternVL3-78B-Instruct — мультимодальная чат-модель OpenGVLab, версия SFT семейства InternVL3. Она сочетает визуальный энкодер InternViT и языковую модель в архитектуре ViT-MLP-LLM; в этой версии использована плотная архитектура InternVLChatModel. Модель дообучена на базе OpenGVLab/InternVL3-78B-Pretrained и не проходила этап MPO. Разработчики рекомендуют использовать основную версию InternVL3-78B, если нет особой причины выбирать эту SFT-версию. Модель принимает текст, изображения и видео и формирует текстовые ответы. Она предназначена для диалога по изображениям и видео, визуального восприятия и рассуждений, понимания длинного контекста, анализа промышленных изображений и научных диаграмм, работы с GUI и 3D-сценами, а также использования инструментов. Динамическая обработка изображений разбивает их на фрагменты размером 448×448 пикселей; поддерживаются несколько изображений и видеоданные. Карточка заявляет многоязычную поддержку, но не перечисляет отдельные языки и размер контекстного окна. Модель распространяется в формате safetensors для Transformers. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке репозитория Hugging Face.

Xenova/jina-embeddings-v2-base-en — это версия модели jinaai/jina-embeddings-v2-base-en с весами в формате ONNX, адаптированная для работы с библиотекой Transformers.js. Модель предназначена для извлечения признаков и создания векторных представлений англоязычных текстов, которые можно использовать для семантического поиска, сравнения текстов и других задач, основанных на сходстве эмбеддингов. Для получения эмбеддингов используется pipeline feature-extraction в Transformers.js с усредняющим pooling; сходство векторов можно оценивать, например, с помощью косинусной близости. Доступны варианты вычислений fp32, fp16, q8 и q4, что позволяет выбирать между точностью и требованиями к ресурсам. В README не указаны архитектура, размер модели, размерность эмбеддингов, максимальная длина контекста и точный перечень языков, поэтому эти характеристики нельзя достоверно описать. К сильным сторонам относятся совместимость с JavaScript-экосистемой Transformers.js и наличие ONNX-весов, пригодных для запуска в поддерживаемых средах, включая потенциальные веб-сценарии. К ограничениям относятся англоязычная специализация исходной модели и возможное снижение качества при квантовании. Лицензия в README не указана.

jina-embeddings-v5-text-small-retrieval — компактная мультиязычная модель встраивания текста, разработанная Jina AI для задач информационного поиска. Она предназначена для семантического сопоставления запросов и документов, построения поисковых систем, retrieval-компонентов и других сценариев, где текст представляется в виде векторов и сравнивается по близости. Модель является частью семейства jina-embeddings-v5-text и основана на jinaai/jina-embeddings-v5-text-small; в карточке она обозначена как quantized-версия. Модель содержит 677 млн параметров, поддерживает контекст до 32 768 токенов и формирует эмбеддинги размерностью 1024. Используется pooling по последнему токену; доступны Matryoshka-размерности 32, 64, 128, 256, 512, 768 и 1024, что позволяет выбирать компромисс между качеством и затратами на хранение и поиск. Согласно описанию, при обучении применялись дистилляция и task-specific contrastive losses, а сама модель показывает результаты выше существующих моделей сопоставимого размера на различных embedding-бенчмарках. Основное ограничение — специализация на retrieval-задачах, поэтому карточка не подтверждает оптимальность модели для генерации текста или иных задач. Для локального использования указаны зависимости transformers, PyTorch, PEFT и vLLM; flash-attention рекомендуется для ускорения инференса. Модель распространяется по лицензии CC BY-NC 4.0, допускающей использование с некоммерческими ограничениями.

Bandi2716 выпустил дообученную на klue/roberta-base модель Sentence Transformers для представления предложений и абзацев в виде плотных векторов размерностью 768. RoBERTa использует усреднение токенных представлений; сходство векторов оценивается косинусной мерой. Модель предназначена для сравнения смысла корейских текстов и подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель обрабатывает текстовые последовательности длиной до 512 токенов (в метаданных указано 514 токенов). Обучение описано на наборе из 10 501 пары предложений с оценками сходства; карточка приводит результаты оценки сходства, но также содержит разные значения метрик без ясного пояснения, к каким наборам они относятся. Базовая модель KLUE RoBERTa рассчитана на понимание корейского языка. Вес опубликован в формате safetensors и распространяется по лицензии базовой модели, если она применима; доступные сведения не дают оснований уточнить лицензионные условия именно этой карточки.

ddobokki/klue-roberta-base-nli-sts-ko-en — модель эмбеддингов предложений на основе архитектуры RoBERTa, дообученная на данных NLI и STS для корейского и английского языков. Она предназначена для получения векторных представлений текстов и вычисления семантического сходства, например, для сравнения запроса с набором предложений по косинусному сходству. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 514 токенов. Модель подходит для поиска семантически близких предложений и сопоставления текстов на корейском и английском. Карточка демонстрирует сравнение корейского запроса с английскими и корейскими предложениями. Доступна в форматах PyTorch и safetensors. Лицензия в предоставленных данных не указана.

Модель bespin-global/klue-sroberta-base-continue-learning-by-mnr разработана JaeHyeong AN из Bespin Global. Это корейская модель эмбеддингов предложений на базе RoBERTa, дообученная в два этапа на KLUE/NLI и KLUE/STS: сначала с MultipleNegativeRankingLoss, затем с CosineSimilarityLoss. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически похожих текстов, кластеризации и оценки сходства предложений. В тесте STS автор сообщает среднее значение 0,889 по метрикам корреляции сходства. Модель содержит 137,8 млн параметров, принимает текст, поддерживает контекст до 514 токенов и распространяется в форматах PyTorch и safetensors. Лицензия — CC BY 4.0.

Llama-3.1-Niitorm-8B — объединённая диалоговая языковая модель на архитектуре Llama 3.1, созданная слиянием Sao10K/L3.1-8B-Niitama-v1.1 и akjindal53244/Llama-3.1-Storm-8B методом NEARSWAP с параметром t=0.0001. В README также указано включение варианта Niitama с LoRA для abliteration. Модель содержит 7,5 млрд параметров, работает с текстом и имеет контекстное окно до 131 072 токенов. Модель предназначена для диалогов и генерации текста, в том числе ответов на инструкции и вызова функций через соответствующий интерфейс. В карточке заявлена преимущественно выполненная abliteration, однако подробные оценки качества и гарантии поведения не приведены. Доступны веса в формате safetensors; README также упоминает сторонние квантизированные сборки GGUF. Лицензия в предоставленных данных не указана.

LaSER-Qwen3-8B — плотный ретривер с латентным рассуждением, разработанный в рамках подхода LaSER и дообученный на базе Qwen/Qwen3-8B. Модель предназначена для поиска релевантных документов по запросам, особенно когда для поиска требуется многошаговое рассуждение. Она генерирует непрерывные латентные токены рассуждения, объединяет скрытые состояния и выдаёт L2-нормализованные эмбеддинги для запросов и документов. Модель содержит 7,6 млрд параметров, использует архитектуру Qwen3ForCausalLM и поддерживает контекст до 40 960 токенов. README сообщает о результатах на BRIGHT, FollowIR и BrowseComp-Plus; на BRIGHT указана задержка около 50 мс при batch size 8 на одной A100. Веса доступны в формате safetensors, лицензия — MIT. Для кодирования текста используется Transformers; точный способ формирования эмбеддингов требует реализации LaSER из проекта.

Карточка модели Enronld/llama3.1 на Hugging Face совпадает с карточкой meta-llama/Llama-3.1-8B, поэтому описание составлено по ней. Meta Llama 3.1 8B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Это базовая предварительно обученная версия семейства Llama 3.1; веса представлены в формате Safetensors и предназначены для генерации текста и последующей адаптации под разные задачи. Модель принимает текст и генерирует текст. Модель подходит для генерации естественного языка, создания диалоговых и прикладных систем после настройки, а также для подготовки синтетических данных. В карточке семейства заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для этой базовой версии README не заявляет оптимизацию под диалоговые сценарии: она отличается от instruction-tuned вариантов, которые обучались с SFT и RLHF. Разработчик — Meta. Для использования действует специальная коммерческая лицензия Llama 3.1 Community License и Acceptable Use Policy. Модель обучена на статическом наборе данных; качество и безопасность генерации могут различаться между языками, а применение на языках за пределами восьми заявленных требует дополнительной настройки и мер контроля.

aifeifei799 выпустил вариант Llama 3.1 8B Instruct с пометкой Uncensored. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для многоязычных ассистентских сценариев и генерации текста. Карточка основана на описании Meta Llama 3.1 Instruct и указывает на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Пометка Uncensored указывает на изменённые ограничения ответа, но README не описывает метод или объём дообучения и не подтверждает конкретные свойства этого изменения. Модель доступна в формате Safetensors по лицензии Llama 3.1 Community License; перед применением следует учитывать условия лицензии и самостоятельно оценивать безопасность ответов.

Llama-3.1-8B-Open-SFT — плотная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods и дообученная методом supervised fine-tuning на наборе O1-OPEN/OpenO1-SFT от базовой модели meta-llama/Llama-3.1-8B-Instruct. Она содержит 7,5 млрд параметров, рассчитана на контекст до 131 072 токенов и предназначена для генерации текста, диалогов, ответов на вопросы и пошаговых рассуждений. Модель подходит для чат-ботов и виртуальных помощников, открытых и контекстных вопросов, продолжения текста, краткого изложения и творческого письма. В README также заявлены задачи математического рассуждения и Chain-of-Thought; фактическое качество на этих задачах отдельно не подтверждено. Доступны веса в формате safetensors, работа через Transformers; метаданные указывают интерфейс для вызова инструментов. В карточке указан английский язык. Модель принимает текст и генерирует текст. Для полноточного запуска README рекомендует около 16 ГБ видеопамяти; это оценка из карточки, а не гарантия для всех конфигураций. Лицензия — CreativeML OpenRAIL-M.

LongCat-Flash-Omni — открытая мультимодальная модель, разработанная Meituan для понимания текста, изображений, видео и аудио, а также взаимодействия с аудио и видео в реальном времени и потоковой генерации речи. В карточке описана архитектура Mixture-of-Experts с 560 млрд параметров и 27 млрд активируемых параметров; метаданные репозитория указывают 17,7 млрд параметров. Модель принимает контекст до 128 тыс. токенов и рассчитана на диалоговые и многомодальные сценарии. Модель предназначена для анализа изображений и видео, распознавания речи, перевода речи в текст и аудиовизуального диалога. В README приведены результаты сравнительных оценок по мультимодальным, визуальным и аудиозадачам. Для запуска описаны адаптации SGLang; указаны требования Python 3.10+, PyTorch 2.8+ и CUDA 12.9+. Репозиторий распространяется по лицензии MIT. Авторы отмечают, что модель не была специально разработана и всесторонне проверена для всех прикладных сценариев.

LRAT Qwen3-Embedding-0.6B Strong768 — плотная модель для поиска релевантных текстовых фрагментов по веб-поисковому запросу. Разработана на базе Qwen/Qwen3-Embedding-0.6B и дообучена с полным обновлением параметров на данных LRAT; применялись негативные примеры из той же строки набора данных. Веса модели содержат около 508 млн параметров по метаданным, а README указывает 595 776 512 параметров и размерность эмбеддинга 1024. Модель использует архитектуру Qwen3, извлечение последнего токена и L2-нормализацию; контекст составляет до 32 768 токенов по метаданным. Модель предназначена для плотного семантического поиска: она преобразует запросы и passages в векторы, пригодные для поиска релевантных ответов в коллекции текстов. В карточке описан формат запроса с инструкцией для поиска фрагментов, отвечающих на веб-запрос. Указаны лицензия Apache-2.0 и формат весов safetensors. Языковая поддержка явно не перечислена; базовая модель описана каталогом как многоязычная.

LuxEmbedder — модель эмбеддингов предложений на базе LaBSE, представленная авторами работы Philippy et al. (2024). Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, кластеризации и сравнения текстов. Модель специально адаптирована для люксембургского языка с использованием параллельного набора данных LuxAlign. Она также сопоставляет тексты ещё на 108 языках в общем векторном пространстве, поддерживая многоязычный поиск и сравнение предложений. Архитектура основана на BERT; максимальная длина контекста — 512 токенов. Модель подходит для поиска семантически близких фрагментов и определения сходства или перефразирования, в том числе между языками. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

stamsam/maple-preview-gguf — набор GGUF-конвертаций модели Maple-Preview, разработанной DeepGrove. Это языковая reasoning-модель для генерации текста и решения задач, реализованная как Mixture-of-Experts: всего около 20 млрд параметров, примерно 1 млрд активных на токен (A1B), 24 слоя и контекст до 131 072 токенов. Архитектура использует 256 экспертов, 8 активных экспертов, GQA с 16 query-heads и 4 KV-heads, а также гибридное внимание с чередованием скользящего окна размером 512 и глобального внимания. Модель поддерживает текстовую модальность; заявленные языки в README не указаны. В репозитории доступны варианты F16, Q4_K_M и экспериментальный ternary TQ2_0 с двухбитными весами, что позволяет выбирать между качеством, размером и требованиями к памяти. Сильными сторонами являются большой контекст, MoE-архитектура, низкая активная вычислительная стоимость и поддержка GPU для указанных сборок. При этом проект находится на ранней стадии валидации: систематические оценки, perplexity и бенчмарки отсутствуют, а поддержка ternary-вычислений новая. Файлы нельзя загрузить в основной llama.cpp или PrismML upstream; требуется форк stamsam/llama.cpp, ветка prism, с Maple runtime. Базовая модель и опубликованные материалы распространяются по лицензии MIT.

xmanii/maux-gte-persian-v3 — модель Sentence Transformer, дообученная на базе Alibaba-NLP/gte-multilingual-base на наборе mshojaei77/Persian_sft из 80 000 пар предложений. Она кодирует предложения и абзацы в плотные векторы размерности 768, которые сравниваются косинусной близостью. Модель предназначена прежде всего для семантического сходства и поиска по персидским текстам, а также для поиска перефразировок, кластеризации и классификации текста. Модель использует архитектуру Transformer с пулингом CLS-токена и нормализацией векторов; максимальная длина последовательности — 8192 токена. Карточка указывает библиотеку sentence-transformers и формат весов safetensors. Лицензия в предоставленных источниках не указана.