I.3Извлечение и структурирование данных

lucasflins/AiFiltering — текстовая Sentence Transformer-модель на архитектуре BERT, разработчик в карточке не уточнён. Модель преобразует текст в плотные векторы размерностью 768 и предназначена для сравнения смысловой близости предложений, семантического поиска, поиска перефразирований, классификации и кластеризации. Для вычисления сходства используется косинусная мера. Модель принимает текст; максимальная длина последовательности в README — 128 токенов, а контекстная длина в метаданных — 512 токенов. Репозиторий содержит веса в формате safetensors и рассчитан на работу с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.

jondurbin/airoboros-110b-3.3 — экспериментальная чат-модель Джона Дурбина, дообученная на базе Qwen1.5-110B преимущественно на синтетических данных Airoboros. Это плотная авторегрессионная языковая модель с архитектурой Qwen2ForCausalLM; она использует шаблон диалога ChatML и принимает текстовые запросы. По метаданным, размер модели — 110 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы по предоставленному контексту, суммаризации, генерации кода, следования инструкциям и выдачи аргументов для вызова функций в JSON или YAML. Карточка описывает настройку для контекстных ответов, призванную ограничивать ответы сведениями из источника, а также планирование многошагового выполнения задач; для контекстных запросов рекомендуется низкая температура. Автор отмечает, что иногда в конце ответов появляются лишние токены. Репозиторий содержит веса в формате safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели. Автор характеризует модель как экспериментальную; карточка не приводит количественных оценок качества.

airoboros-34b-3.2 — экспериментальная разговорная языковая модель jondurbin, дообученная на базе 01-ai/yi-34b-200k с использованием преимущественно синтетических данных набора airoboros-3.2 и ряда сторонних датасетов. Это плотная модель семейства Llama с 33,9 млрд параметров, предназначенная для генерации текста в формате чата. Модель подходит для ответов на вопросы по заданному контексту, суммаризации, написания и дополнения кода, многошагового диалога и формирования планов действий или аргументов функций в JSON либо YAML. Карточка сообщает, что при дообучении использовалась длина контекста 8 тыс. токенов, хотя базовая модель поддерживает 200 тыс.; результаты за пределами 8 тыс. токенов могут быть ненадёжными. Для ответов по контексту рекомендуется явно отделять источники и инструкции, а также использовать низкую температуру. Модель распространяется в формате safetensors. В метаданных указана лицензия other; конкретные условия следует уточнить в карточке репозитория перед использованием. Автор характеризует модель как экспериментальную.

airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Карточка модели jondurbin/airoboros-l2-7b-gpt4-2.0 на Hugging Face совпадает с карточкой jondurbin/airoboros-65b-gpt4-2.0, поэтому описание составлено по ней. airoboros-65b-gpt4-2.0 — плотная языковая модель семейства LLaMA на 65 млрд параметров, дообученная jondurbin для следования инструкциям на синтетических примерах, созданных GPT-4. Серия 2.0 использует данные GPT-4 версии 0614; вариант m2.0 дополнительно объединяет набор данных 1.4.1 без дубликатов и категории system. Модель предназначена для диалоговых ответов, вопросов по предоставленному контексту, программирования, построения планов и генерации структурированных аргументов функций в JSON или YAML. Для диалога используется текстовый шаблон с ролями USER и ASSISTANT; заявленная длина контекста — 2048 токенов. В README для моделей 65B отмечено QLoRA-дообучение. Это текстовая модель, и качество её ответов не гарантирует точность: карточка рекомендует явно просить не придумывать ответ при недостатке данных. Лицензия CC BY-NC 4.0 разрешает некоммерческое использование; коммерческое использование запрещено.

Alaya-7B-Chat — разговорная языковая модель компании DataCanvas, построенная на архитектуре MPT. Модель обучали на более чем 1,5 трлн токенов многоязычных данных; версия Chat прошла supervised fine-tuning на более чем 500 тыс. примеров инструкций и диалогов. В карточке указаны китайский и английский языки, формат весов PyTorch и лицензия Apache 2.0, допускающая коммерческое использование. Модель предназначена для многоходового общения, ответов на вопросы, написания кода, извлечения информации, понимания прочитанного и творческого письма. Дополнительная настройка охватывает китайско- и англоязычные логические рассуждения, ролевые сценарии, самоописание и отказ на часть запросов с предвзятым содержанием. Разработчик предупреждает, что модель может выдавать ошибочные или непредвиденные ответы, а настройка на отказ не устраняет токсичные выходы полностью. Для практического применения следует проверять ответы; при использовании модели рекомендуется указывать DataCanvas как источник.

thoddnn/all-MiniLM-L6-v2-4bit — компактная англоязычная модель семейства MiniLM для получения векторных представлений предложений и оценки их семантического сходства. Модель основана на sentence-transformers/all-MiniLM-L6-v2 и преобразована в формат MLX; README указывает использование mlx-embeddings. Модель содержит 25,9 млн параметров, использует 4-битное представление и поддерживает контекст до 512 токенов. Модель предназначена для семантического поиска, сопоставления предложений, кластеризации текстов, дедупликации и построения retrieval-компонентов. Она возвращает нормализованные эмбеддинги, между которыми можно вычислять сходство скалярным произведением. Обучение исходной модели связано с наборами данных для поиска, вопросов и ответов, текстового сходства и извлечения информации. Основные преимущества — небольшой размер, низкие требования к памяти и возможность запуска в MLX на совместимом оборудовании. Модель ориентирована на английский язык и не предназначена для генерации текста, диалогов или прямого ответа на вопросы. Длина входа ограничена 512 токенами, а 4-битная квантизация может снижать точность по сравнению с исходной моделью. Лицензия — Apache-2.0.

all-mpnet-base-v2 — модель sentence-transformers, разработанная в рамках Community Week при поддержке Hugging Face на основе предварительно обученной модели microsoft/mpnet-base. Она предназначена для кодирования предложений и коротких абзацев: преобразует текст в плотный вектор размерности 768, отражающий его семантическую информацию. Модель подходит для семантического поиска, информационного извлечения, кластеризации и оценки сходства предложений. Она обучалась с использованием контрастивной цели на наборе примерно из 1 млрд пар предложений, сформированных из разнообразных текстовых и специализированных датасетов. Для получения итогового эмбеддинга используется усреднение контекстных представлений токенов с учётом attention mask и последующая L2-нормализация. Поддерживается английский язык; максимальная длина входа по умолчанию ограничена 384 word pieces, более длинный текст усекается. Сильной стороной модели является универсальность для задач сравнения и поиска по англоязычным предложениям и коротким фрагментам текста, а также совместимость с библиотеками Sentence Transformers, Hugging Face Transformers и Text Embeddings Inference. Модель не предназначена для генерации текста, её применение к длинным документам без предварительного разбиения ограничено длиной контекста. Лицензия — Apache-2.0.

Карточка модели rohand8/BERT на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

567-labs/bge-base-en-v1.5-ft-quora-0.9 — модель эмбеддингов предложений и абзацев на базе BERT, представленная в формате Sentence-Transformers. Она кодирует текст в плотные векторы размерностью 768 и предназначена для семантического поиска и кластеризации. Модель обучалась с функцией потерь OnlineContrastiveLoss; в метаданных указано 136,7 млн параметров и контекст до 512 токенов. Модель подходит для поиска вопросов, похожих по смыслу, в частности в корпусах вопросов и ответов, а также для группировки текстов по тематике. Она принимает текст и выдаёт векторы для последующего сравнения, ранжирования или кластеризации. По названию репозитория и описанию обучения это дообученная версия BGE base English v1.5 на данных Quora; отдельная лицензия в предоставленных данных не указана.

peter2000/bmz_topics10 — модель Sentence-Transformers на базе XLM-RoBERTa, разработчик которой не уточнён в карточке. Она преобразует предложения и абзацы в плотные векторы размерности 768 для кластеризации и семантического поиска. Модель также подходит для сравнения смысловой близости текстов и получения эмбеддингов; в метаданных указаны 305,2 млн параметров и контекст длиной 514 токенов. Модель обучалась с BatchHardTripletLoss. Она доступна в формате PyTorch и рассчитана на текстовый ввод с векторным выходом. Карточка не уточняет языки, на которых качество проверялось. Условия лицензии в предоставленных данных не указаны.

DeepSeek-V4-Flash-DSpark — это вариант контрольной точки DeepSeek-V4-Flash, разработанный DeepSeek AI. Он не является отдельной моделью: к тому же чекпойнту подключён дополнительный модуль speculative decoding для ускорения инференса. Для запуска предусмотрен отдельный пример инференса, однако подробности его использования в представленных данных не приведены. Базовая DeepSeek-V4-Flash — языковая модель архитектуры Mixture-of-Experts с 284 млрд общих параметров, из которых 13 млрд активируются при обработке токена. Модель поддерживает контекст до 1 млн токенов и поставляется в смешанной точности FP4 + FP8: параметры MoE-экспертов используют FP4, а большинство остальных параметров — FP8. В архитектуре применяются гибридное внимание Compressed Sparse Attention и Heavily Compressed Attention, а также Manifold-Constrained Hyper-Connections; обучение проводилось на более чем 32 трлн токенов с использованием оптимизатора Muon и последующего дообучения с SFT, GRPO и on-policy distillation. Модель предназначена для задач работы с длинным контекстом, генерации и анализа текста, рассуждений, программирования и агентских сценариев. Её сильные стороны — большой контекст, относительно небольшое число активных параметров для MoE-модели и оптимизации, направленные на снижение вычислительных затрат и потребления KV-кэша. При этом README не содержит сведений о поддерживаемых языках, конкретных ограничениях качества, системных требованиях и характеристиках speculative decoding. Модель распространяется по лицензии MIT.

htdht/e5_base_finetuned_5000 — модель Sentence Transformer, дообученная на базе intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные векторы размерности 768. Она использует трансформер XLM-RoBERTa с усредняющим пуллингом и нормализацией векторов; сходство текстов оценивается косинусной мерой. Модель предназначена для семантического поиска и извлечения релевантных текстов. Обучение проведено на 3 500 парах текстов anchor-positive. Модель принимает текстовые последовательности длиной до 512 токенов по README; метаданные указывают контекст 514 токенов. Указана поддержка текста, а базовая модель многоязычная. Карточка не сообщает лицензию, поэтому условия использования по имеющимся данным описать нельзя.

EmbeddingGemma — открытая модель для получения векторных представлений текста, разработанная Google DeepMind на основе Gemma 3 с инициализацией T5Gemma и использованием технологий, применявшихся при создании Gemini. Версия onnx-community/embeddinggemma-300m-ONNX предназначена для запуска через Transformers.js и ONNX Runtime. Модель подходит для семантического поиска и извлечения информации, ранжирования результатов, классификации, кластеризации и оценки семантического сходства текстов. Она принимает текстовые строки: вопросы, запросы или документы, и поддерживает контекст до 2048 токенов. Модель обучалась на данных более чем для 100 разговорных языков, однако конкретный список языков в карточке не указан. Модель содержит около 300 млн параметров и ориентирована на локальное и периферийное использование, включая мобильные устройства, ноутбуки и настольные компьютеры. Она возвращает эмбеддинги размерностью 768, а благодаря Matryoshka Representation Learning их можно обрезать до 512, 256 или 128 измерений с последующей нормализацией. Для активаций не поддерживаются fp16 и производные форматы; рекомендуется использовать fp32, q8 или q4. Ограничение модели — назначение исключительно для создания текстовых эмбеддингов, без генерации текста; сведения о детальных бенчмарках и фактической производительности отсутствуют. Лицензия — Gemma, условия использования опубликованы Google.

F2LLM-v2-8B — многоязычная модель эмбеддингов из семейства F2LLM-v2, представленная CodeFuse AI. Это дообученная версия предварительной модели F2LLM-v2-8B-Preview на основе архитектуры Qwen3; она содержит 7,6 млрд параметров и рассчитана на извлечение признаков из текста. Модель принимает текст и выдаёт векторные представления, которые можно использовать для семантического поиска, ранжирования и сопоставления текстов. Семейство обучено на составном наборе из 60 млн отобранных общедоступных примеров и поддерживает более 200 языков, уделяя особое внимание языкам с малым объёмом ресурсов. Карточка сообщает результаты уровня state of the art на ряде бенчмарков MTEB. Модель поддерживает инструкции для запросов; обучение с Matryoshka Representation Learning позволяет сокращать размер эмбеддингов для экономии памяти и ускорения векторного поиска. Длина контекста — 40 960 токенов. Использовать можно через Transformers и Sentence Transformers. Лицензия — Apache-2.0.

Firefly-LLaMA2-7B-Chat — китайско-английская разговорная модель команды Firefly на архитектуре LLaMA 2. Она создана на базе LLaMA 2 с расширенным китайским словарём: модель прошла дополнительное предобучение на китайских и английских текстах, а затем дообучение на многоходовых инструкциях и диалогах. В репозитории указаны размер 6,7 млрд параметров, контекст 4096 токенов и формат PyTorch. Модель предназначена для диалоговых ответов, генерации и преобразования текста, включая ответы на вопросы, краткое изложение, перевод, извлечение информации, классификацию, математические задачи и генерацию кода. Расширенный китайский словарь уменьшает число токенов при обработке китайского текста; авторы также сообщают о сохранении английских возможностей базовой LLaMA 2 и улучшении китайских навыков по сравнению с LLaMA 2 Chat. Указанные в карточке оценки относятся к авторским тестам и не гарантируют качество в конкретных сценариях. Модель генерирует текст по текстовым запросам. В README отмечено, что прирост по китайским знаниям ограничен объёмом и составом дополнительного предобучения; авторы использовали около 2 млрд токенов из подготовленного корпуса. Лицензия для конкретного репозитория в предоставленных данных не указана.

unsloth/gemma-3-27b-it — мультимодальная инструктивная модель семейства Gemma 3, опубликованная Unsloth на основе Google/gemma-3-27b-it. Это плотная архитектура Gemma 3 с 27 млрд параметров, предназначенная для диалогов и генерации текста по текстовым и визуальным запросам; принимает изображения, отвечает на вопросы о них, а также поддерживает суммаризацию и рассуждения. Контекстное окно составляет 128 тыс. токенов, модель поддерживает более 140 языков; в метаданных карточки указан английский язык. Веса опубликованы в формате safetensors и доступны по лицензии Gemma. Модель подходит для чат-ботов и виртуальных помощников, составления и редактирования текстов, краткого пересказа документов, извлечения сведений из изображений и ответов на вопросы по визуальному содержимому. Карточка описывает базовые возможности Gemma 3 и инструменты Unsloth для дообучения и экспорта, но не приводит сведений об отдельном дообучении именно этой копии. Возможны фактические ошибки, трудности с языковыми нюансами и сложными открытыми задачами; результаты также зависят от обучающих данных и формулировки запроса.

coder3101/gemma-3-27b-it-heretic-v2 — мультимодальная чат-модель на архитектуре Gemma 3, созданная дообучением Google/gemma-3-27b-pt. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач генерации текста. В README указаны контекст до 128 тыс. токенов и поддержка более 140 языков для семейства Gemma 3. Метаданные отмечают модель как uncensored/abliterated, поэтому для приложений с пользовательским контентом следует самостоятельно оценивать безопасность ответов. Лицензия — Gemma.

cafepm/gemma-4-12b-it-Q3Q4-GGUF — это смешанно-квантованная версия Gemma 4 12B Instruct, опубликованная cafepm. По карточке, 20% весов квантованы до 4 бит, а остальные 80% — до 3 бит; файлы представлены в формате GGUF. Базовая модель — google/gemma-4-12B-it. Репозиторий предназначен для локального запуска, в том числе для помощи при программировании в VS Code и работы на потребительском оборудовании. Модель принимает текст и изображения и формирует текстовые ответы; поддерживает диалог и визуальное понимание. В карточке базового семейства заявлены анализ документов и изображений, распознавание текста, работа с длинным контекстом и использование инструментов. Для этого конкретного квантованного варианта заявлен контекст до 200 тысяч токенов, однако README также приводит для Gemma 4 12B значение до 256 тысяч; фактический предел зависит от сборки и рантайма. Семейство поддерживает более 35 языков, но список языков для этой сборки не приведён. README заявляет, что схема смешанной точности сохраняет качество генерации уровня Q4 при размере, близком к Q3, и позволяет разместить модель в 8 ГБ VRAM; независимые результаты оценки не приведены. Квантование снижает требования к памяти, но может влиять на качество по сравнению с исходными весами, а длинный контекст требует значительных ресурсов. Указана лицензия Apache-2.0.

OnlyTextLLMs выпустила текстовую версию Gemma 4 31B IT, полученную из google/gemma-4-31B-it удалением компонентов обработки изображений и аудио, а также связанных мультимодальных токенов. Текстовая часть модели и языковая голова сохранены; это плотная авторегрессионная модель Gemma4ForCausalLM с 27,4 млрд параметров по метаданным и весами bfloat16. Модель предназначена для диалогов и генерации текста. Она поддерживает контекст длиной до 262 144 токенов и работает через библиотеку Transformers. Обучение не проводилось: репозиторий содержит производную версию весов Google, из которой удалены мультимодальные компоненты. Модель распространяется по лицензии Apache 2.0. После удаления аудио- и визуальных компонентов она принимает текст и выдаёт текст; возможности исходной мультимодальной модели для анализа изображений и аудио здесь недоступны.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ4e — мультимодальная версия модели GLM-5.3-Flash, подготовленная Solstice-AI для Apple Silicon и библиотеки MLX. Исходная архитектура разработана Zhipu AI / ZAI, некensored-веса предоставлены dealignai. Модель предназначена для генерации и анализа текста, программирования, математического и общего рассуждения, а также понимания изображений и видео. Заявлена поддержка английского и китайского языков. Модель имеет 320 млрд общих параметров в разреженной MoE-архитектуре с 288 экспертами, из которых около 18 млрд активируются для каждого токена. Используется смешанная квантизация oQ4e примерно на 4,6 бит на вес: основные веса представлены в 4-битном формате, отдельные критически важные компоненты защищены 8-битным или полным BF16/FP32-представлением. Vision Tower ViT и мультимодальный выравниватель сохранены в BF16. Заявлено нативное контекстное окно до 1 048 576 токенов и поддержка спекулятивного декодирования с drafter DFlash2. Сильными сторонами модели являются большой контекст, мультимодальное понимание изображений и видео, разреженная архитектура и оптимизация под чипы Apple M2, M3, M4 и M5. К ограничениям относятся высокая общая ёмкость модели, требовательность к памяти и совместимость с конкретным программным стеком MLX и аппаратной платформой; фактическая производительность зависит от конфигурации устройства. В README модель описана как uncensored, поэтому её ответы могут не включать стандартные механизмы отказа по чувствительным запросам. Указанная лицензия — MIT.

GlotLID — модель идентификации языка на базе fastText, разработанная командой cis-lmu. Актуальная версия V3 определяет язык текста среди 2102 меток, включая трёхбуквенные коды ISO с указанием письменности; доступны также предыдущие версии модели. Модель предназначена для автоматического определения языка коротких или длинных текстовых фрагментов, в том числе для маршрутизации текста по языковым обработчикам и предварительной разметки многоязычных корпусов. В метаданных указана задача text-classification, библиотека fastText и набор языковых тегов; README связывает разработку с исследованием EMNLP 2023 и датасетами GlotSparse, GlotStoryBook и glotlid-corpus. Модель выдаёт метку языка, а качество распознавания зависит от объёма и качества входного текста и покрытия конкретного языка в обучающих данных. Лицензия указана как other, поэтому перед использованием следует свериться с условиями репозитория.

Hermes-4-14B-abliterated-4bit-mlx — языковая модель, подготовленная divinetribe на основе Babsie/Hermes-4-14B-BF16-abliterated. Постобучение семейства Hermes 4 выполнено NousResearch, базовая архитектура Qwen3 разработана Alibaba, а abliteration применена Babsie. Модель преобразована в 4-битный формат MLX для локального запуска на устройствах Apple Silicon. Модель предназначена для генерации текста, следования инструкциям, работы с инструментами и структурированного вывода, включая локальные OpenAI-совместимые серверы и сценарии программирования. Она поддерживает английский язык, использует токенизатор и chat template Qwen3 и имеет контекст до 40 960 токенов. Квантование выполнено методом affine с размером группы 64; формат хранения — MLX safetensors. Размер на диске составляет около 8 ГБ, поэтому модель рассчитана на комфортную работу на Mac с 16 ГБ памяти и выше. К сильным сторонам относятся локальная работа без облака, API-ключей и телеметрии, относительно небольшой объём памяти и оптимизация для быстрой инференции на Apple Silicon. Abliteration уменьшает склонность исходной модели отказывать в ответах на допустимые, но потенциально спорные запросы, однако не является улучшением общих способностей и требует ответственного применения. Ограничения включают зависимость от оборудования Apple Silicon, поддержку только текстовых сценариев и возможное снижение качества по сравнению с полноточной версией из-за 4-битного квантования. Модель распространяется по лицензии Apache 2.0, унаследованной от upstream-семейства Hermes 4 и Qwen3.

lyf/Huihui-gemma-4-31B-it-abliterated-v2-NVFP4 — мультимодальная 31-миллиардная модель, представляющая собой NVFP4-квантизированную версию Huihui-gemma-4-31B-it-abliterated-v2 от huihui-ai, созданную на базе Google Gemma 4 31B IT. Релиз предназначен для диалогов, генерации и анализа текста, следования инструкциям, программирования, структурированного вывода, а также обработки изображений и видео. В README также указана abliteration-интервенция, направленная на удаление отказов модели. Модель поддерживает сценарии «текст—текст», «изображение—текст» и «видео—текст»; аудио не поддерживается, поскольку в 31B-чекпойнте отсутствует аудиоэнкодер. Визуальная башня сохранена в формате BF16, а большинство линейных слоёв текстового стека, включая слои self-attention, квантизированы в NVFP4. Эмбеддинги, lm_head и визуальная часть также остаются в BF16. Размер файлов составляет около 19,5 ГБ, что позволяет запускать модель на одной видеокарте RTX 5090 с 32 ГБ памяти; заявленная скорость декодирования — около 69 токенов в секунду. К сильным сторонам относятся уменьшенный размер, сохранение мультимодальных возможностей исходной модели, улучшенное по сравнению с предыдущей версией значение perplexity и более строгое следование инструкциям по результатам локального тестирования. Ограничения связаны с отсутствием аудиоподдержки, требовательностью к совместимому программному стеку и аппаратному обеспечению, а также возможным влиянием агрессивной NVFP4-квантизации на качество. Для работы рекомендуется vLLM с поддержкой Gemma 4 и NVFP4. Лицензия указана как gemma.

Карточка модели muhamad-geosurge/invert-polarity-8646eeb3-047b-4a8b-82df-b3920969d4ed на Hugging Face совпадает с карточкой google/gemma-3-12b-it, поэтому описание составлено по ней. Gemma 3 12B IT — мультимодальная модель с открытыми весами от Google, дообученная для следования инструкциям на основе google/gemma-3-12b-pt. Она принимает текст и изображения и генерирует текст; относится к семейству Gemma 3 и доступна в формате safetensors для Transformers. Модель предназначена для диалоговых приложений, ответов на вопросы и задач понимания изображений, а также для создания и обобщения текста. Контекстное окно — до 128 тысяч токенов, поддерживается более 140 языков. Размер модели — 12 млрд параметров. Модель подходит для извлечения сведений из изображений, составления черновиков, суммаризации и исследовательских задач. Google отмечает, что ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться со сложными открытыми запросами, языковыми нюансами и задачами, требующими здравого смысла. Лицензия — Gemma; при использовании следует соблюдать условия лицензии и политику запрещённого использования Gemma.

Vikhrmodels/it-5.3-fp16-32k — русско-английская чат-модель семейства Vikhr, разработанная авторами открытых Vikhr instruction-tuned моделей. Это плотная авторегрессионная Llama-модель на 7,3 млрд параметров для диалогов и генерации текста. Вариант 0.5 получил дополнительное обучение SFT, настройку параметров предобучения и контекст RoPE длиной 32 768 токенов. Модель рассчитана на многоходовые диалоги, ответы на сложные запросы и создание JSON; README отмечает более стабильную работу с JSON и многоходовыми диалогами на длинном контексте. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache 2.0. Карточка указывает поддержку русского и английского языков. Модель может ошибаться в фактах и следовании формату; улучшенная стабильность JSON и длинного контекста не гарантирует корректный результат для каждого запроса. Для задач, требующих высокой надёжности, ответы следует проверять.

NVIDIA Llama 3.1 405B Instruct NVFP4 — квантованный чекпойнт Meta Llama 3.1 405B Instruct, подготовленный NVIDIA с помощью TensorRT Model Optimizer. Это авторегрессионная плотная трансформерная языковая модель семейства Llama для генерации текста по инструкциям, диалога и интерфейсов вызова инструментов. Веса и активации линейных операторов в блоках трансформера квантованы до FP4; заявленное сокращение требований к диску и памяти GPU составляет примерно 3,5 раза. Модель содержит 403,7 млрд параметров и поддерживает контекст до 131 072 токенов. Модель принимает текст и выдаёт текст. Для инференса предусмотрен TensorRT-LLM; README указывает совместимость с архитектурой NVIDIA Blackwell и Linux. Можно применять для диалоговых ассистентов, генерации и преобразования текста по инструкциям, а также сценариев с вызовом инструментов. README заявляет возможность коммерческого и некоммерческого использования; лицензия в метаданных — llama3.1. Квантование может влиять на точность, а для запуска требуется совместимое оборудование и программный стек TensorRT-LLM.

NVIDIA разработала Nemotron-UltraLong-8B как серию языковых моделей на базе Llama 3.1; этот вариант рассчитан на контекст до 2 млн токенов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста в диалоговом формате, следования инструкциям и работы с очень длинными последовательностями. Модель прошла продолженное предварительное обучение на длинных последовательностях и дообучение на инструкциях по общим задачам, математике и программированию. В README заявлена работа с длинным контекстом и конкурентные результаты на стандартных тестах. Метаданные указывают английский язык; карточка также описывает интерфейс вызова инструментов. Для запуска README рекомендует Transformers версии 4.43.0 или выше. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.

Карточка модели 1998Shubham007/ModelRecomm на Hugging Face совпадает с карточкой yosuaw/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers на базе MiniLM, разработанная в рамках проекта Hugging Face Community Week. Она кодирует предложения и короткие абзацы в плотные векторы размерности 384, отражающие семантическое содержание. Модель обучена контрастивным дообучением предварительно обученной nreimers/MiniLM-L6-H384-uncased на наборе более чем из миллиарда пар предложений. Модель предназначена для семантического поиска, извлечения информации, сравнения сходства предложений и кластеризации текстов. Архитектура — BERT-подобный MiniLM с 25,9 млн параметров; максимальная длина контекста — 512 токенов, а по умолчанию входы длиннее 256 WordPiece-токенов обрезаются. Карточка указывает поддержку английского языка. Веса доступны в форматах PyTorch, Safetensors и TensorFlow; лицензия — Apache-2.0.

prakrati123/nli-distilroberta-base-v2 — дообученная модель Sentence Transformers на базе sentence-transformers/nli-distilroberta-base-v2. Она преобразует текстовые предложения в плотные 768-мерные векторы; архитектура включает RoBERTa и усредняющий pooling, а сходство векторов можно оценивать косинусной мерой. Модель предназначена для семантического сравнения предложений, поиска и кластеризации текстов, поиска перефразировок и извлечения признаков. README указывает максимальную длину последовательности 75 токенов; метаданные каталога приводят контекст до 514 токенов. Модель принимает текст и возвращает эмбеддинги. В карточке описано дообучение на 6 411 парах предложений с оценками сходства и функцией CosineSimilarityLoss. Лицензия в предоставленных данных не указана.