II.8Инженерия данных и аналитика

SciPhi-Self-RAG-Mistral-7B-32k-Mistral-7B-Instruct-v0.1 — объединённая методом SLERP чат-модель на архитектуре Mistral, созданная на основе Mistral-7B-Instruct-v0.1 и SciPhi-Self-RAG-Mistral-7B-32k. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов на инструкции и диалоговые запросы, в том числе для сценариев Self-RAG с поиском и использованием внешних материалов. Может применяться в чат-ботах и системах ответов на вопросы по документам. В карточке не приведены результаты оценки качества или сведения о поддерживаемых естественных языках. Файлы опубликованы в формате safetensors. Лицензия — Apache-2.0.

Sharp-Spark-X2.5-4B-GGUF — набор динамических GGUF-квантований модели XHToken/Spark-X2.5-4B, опубликованный peculiar-ragdoll. Это плотная модель с 4 млрд параметров для генерации текста, прежде всего для программирования, системного и кибербезопасностного кода. Модель рассчитана на работу через llama.cpp и ориентирована на пользователей с видеокартой объёмом около 6 ГБ и оперативной памятью до 16 ГБ. Архитектура поддерживает длинный контекст: из 36 слоёв 9 используют полноразмерное внимание, а 27 — скользящее окно размером 512 токенов. Заявлена работоспособность с контекстом до 131 072 токенов при умеренном снижении скорости; экономный KV-кэш делает модель пригодной для анализа больших файлов и репозиториев. Доступны варианты Q4_K_XL размером 2,67 ГБ, Q5_K_XL размером 3,24 ГБ и Q6_K_XL размером 3,61 ГБ, причём Q6_K_XL обозначен как рекомендуемый и проверенный на задачах SWE. К сильным сторонам относятся высокая скорость, небольшие требования к памяти, длинный контекст и специализированная importance matrix, рассчитанная с упором на security и systems code. По приведённым в README измерениям, вариант Q6 показывает сопоставимые с исходной моделью результаты на отдельных подвыборках SWE-bench-Live и MMLU-Pro при меньшем расходе токенов. Ограничения включают чувствительность небольшой модели к агрессивному квантованию, меньшую общую способность по сравнению с более крупными моделями и необходимость выбора варианта квантования в соответствии с объёмом VRAM. Лицензия — Apache-2.0.

SmallThinker-4BA0.6B-Instruct — языковая модель с открытыми весами, разработанная IPADS и Школой искусственного интеллекта Шанхайского университета Цзяо Тун совместно с Zenergize AI. Модель предназначена для локального запуска на устройствах с ограниченными ресурсами и генерации ответов в диалоговом формате. Это плотная по типу каталожной архитектуры модель семейства SmallThinker с архитектурой Mixture-of-Experts: всего 4 млрд параметров, из которых активируются 0,6 млрд; в метаданных указано 1,3 млрд параметров. Модель принимает текст, поддерживает контекст до 32 768 токенов и обучена преимущественно на английском языке. Разработчики сообщают о механизмах разреженной маршрутизации и внимания, рассчитанных на снижение вычислительных затрат, памяти и задержек при локальном инференсе. Модель подходит для диалоговых помощников, ответов на вопросы, рассуждений и генерации кода; в README приведены результаты тестов по математике, знаниям и программированию. Показатели тестов не гарантируют точность в практических сценариях. Ответы могут содержать ошибки, предвзятость или устаревшие сведения, поэтому их следует проверять. Лицензия — Apache-2.0.

stackoverflow_mpnet-base — модель эмбеддингов предложений, разработанная в рамках Community Week Hugging Face для проекта по обучению моделей sentence embeddings. Она основана на microsoft/mpnet-base и дообучена сиамской сетью с контрастивной целью на 18,56 млн пар заголовков и текстов вопросов Stack Overflow; в качестве эмбеддинга используется mean pooling скрытых состояний. Веса доступны в формате PyTorch, размер модели — 136,7 млн параметров, контекст — до 514 токенов. Модель кодирует текст в векторы для семантического поиска, сравнения сходства и кластеризации. Она ориентирована на технические вопросы и ответы Stack Overflow, поэтому особенно подходит для поиска похожих вопросов и семантической навигации по базе знаний разработчиков. Карточка описывает обучение с последовательностями до 128 токенов; более длинные входы могут не соответствовать режиму обучения. Лицензия в предоставленных данных не указана.

rohit-vt/tink-reranker-phase5_minilm_multikind — текстовый Cross-Encoder на архитектуре BERT, дообученный на базе cross-encoder/ms-marco-MiniLM-L6-v2 с использованием Sentence Transformers. Модель совместно обрабатывает пару текстов и выдаёт оценку их соответствия, которую можно использовать для переранжирования результатов поиска и семантического поиска. Модель содержит 25,9 млн параметров, поддерживает последовательности длиной до 512 токенов и выдаёт один числовой скор. Для обучения указаны 93 031 пример и функция BinaryCrossEntropyLoss; в карточке приведены примеры пар, связанные с навыками и профессиями. Лицензия в предоставленных данных не указана.

Tower+ 2B — многоязычная языковая модель Unbabel на архитектуре Gemma 2, дообученная на базе google/gemma-2-2B. Обучение включало продолжение предобучения, настройку на инструкции, оптимизацию предпочтений WPO и GRPO с проверяемыми вознаграждениями. Модель содержит около 2,7 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Модель предназначена прежде всего для машинного перевода и других многоязычных задач, а также для выполнения инструкций, включая задачи на рассуждение и код. Её можно применять для создания синтетических многоязычных данных: переводить инструкции и ответы или генерировать инструкции по документам. Поддерживается 26 языков и вариантов языков, включая русский, английский, китайский, немецкий, испанский, французский, португальский, украинский, хинди и японский. Модель выдаёт текст; архитектура — плотная причинная языковая модель Gemma 2. В README особо отмечена её специализация на машинном переводе и сильные возможности в многоязычных задачах. Лицензия в метаданных указана как CC-BY-NC-SA-4.0, тогда как README указывает CC-BY-NC-4.0, поэтому условия распространения следует сверять с актуальной лицензией репозитория.

thuannc/vi-distilled-msmarco-MiniLM-L12-cos-v5 — вьетнамская модель эмбеддингов предложений на базе Sentence-Transformers, созданная дистилляцией модели msmarco-MiniLM-L12-cos-v5 на англо-вьетнамских параллельных данных. Она преобразует предложения и абзацы в плотные векторы размерности 384 и подходит для семантического поиска и поиска ответов на вопросы. В README приведены результаты оценки: Recall@10 85 и MRR@10 58; для paraphrase-multilingual-MiniLM указаны 75 и 49 соответственно. Модель основана на архитектуре BERT, содержит 124,3 млн параметров и рассчитана на контекст до 512 токенов. Для обучения использовались PhoMT, MKQA, MLQA и XQuAD, а в качестве учителя — msmarco-MiniLM-L12-cos-v5. В метаданных указан формат PyTorch и лицензия MIT. README описывает применение через Sentence-Transformers или Transformers с подходящим pooling; опубликованные результаты и сценарии связаны с поиском, а иных ограничений карточка не уточняет.

jondurbin/airoboros-jamba-3-3 — экспериментальная чат-модель Джона Дурбина, дообученная методом QLoRA на базе jamba-v0.1. Модель содержит 7,2 млрд параметров, использует архитектуру Jamba с mixture-of-experts и предназначена для генерации текста в диалоге. В README заявлена настройка на синтетических данных Airoboros 3.2 и дополнительных наборах данных для вопросов по контексту, суммаризации, программирования, ролевого общения и генерации аргументов функций. Для контекстных вопросов модель обучали отвечать по предоставленным материалам и ограничивать ответ их содержанием, чтобы снизить галлюцинации. Поддерживаются многоходовый чат и шаблон запросов в формате Llama 2; для задач по контексту README рекомендует специальную разметку блоков. Хотя базовая Jamba заявляет контекст до 256 тысяч токенов, это дообучение выполнялось с длиной 8192 токена, поэтому результаты за этим пределом не определены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Автор характеризует её как экспериментальную; качество и поведение могут быть нестабильными, а генерация планов для вызова функций сама по себе не выполняет инструменты.

EpistemeAI/Alpaca-Llama3.1-8B.gguf — текстовая авторегрессионная модель семейства Llama 3.1, разработанная на основе Meta Llama 3.1 8B и дообученная в формате Alpaca с применением ORPO. Это плотный трансформер LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов; репозиторий содержит GGUF F16, PyTorch и Safetensors версии. Модель принимает текст и генерирует текст. Модель предназначена для диалогового помощника и генерации текста: она может отвечать на вопросы, следовать инструкциям и помогать с черновиками и синтетическими данными. В README перечислена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; отдельная настройка на русский не заявлена. Качество и безопасность ответов могут быть неоднородными, особенно на неподдерживаемых языках, а знания модели ограничены данными обучения. Для использования действует лицензия Llama 3.1 Community License с условиями и ограничениями Acceptable Use Policy.

Aria — мультимодальная модель Rhymes AI для диалогов и задач понимания изображений. Это плотная по типу архитектуры модель семейства Aria с архитектурным классом AriaForConditionalGeneration; в карточке указана архитектура Mixture of Experts с 25,3 млрд параметров всего и 3,9 млрд активируемых параметров на токен. Модель принимает текст и изображения, поддерживает мультимодальный контекст до 64K токенов и использует формат весов safetensors. Модель предназначена для ответов на вопросы по изображениям и документам, описания визуального содержимого и анализа видео. README отмечает сильные результаты в понимании видео и документов, а также обработку изображений разных размеров и соотношений сторон. Aria создана на основе rhymes-ai/Aria-Base-64K и дообучена; для запуска рекомендуется Transformers версии 4.48.0 или новее. Лицензия — Apache-2.0.

ArliAI-Llama-3-8B-Dolfin-v1.0 — диалоговая языковая модель OwenArli на архитектуре Llama 3 с 7,5 млрд параметров и контекстом 8192 токена. Она дообучена методом SFT на базе Meta-Llama-3-8b-Instruct Abliterated v3 с использованием улучшенного набора данных Dolphin и WizardLM. Модель предназначена для генерации ответов в чате и выполнения инструкций; автор отмечает более точное следование запросам и меньше характерных для GPT формулировок. Модель принимает текст и выдаёт текст, используя формат диалоговых сообщений Llama 3 Instruct. Для лучших результатов автор рекомендует формулировать инструкции точно и задавать роль через системное сообщение. Обучение проводилось на последовательностях длиной до 8192 токенов с QLoRA, рангом 64 и alpha 64; в README также указано обучение с 4-битной загрузкой. Модель распространяется по лицензии Meta Llama 3 License. Это дообученный чекпойнт, и его ответы могут быть неточными или неуместными; описание автора указывает на сниженную склонность к отказам, поэтому следует проверять ответы и учитывать требования к безопасному применению.

biencoder-camembert-L4-mmarcoFR — компактная плотная двубашенная модель эмбеддингов для семантического поиска на французском языке, разработанная Antoine Louis. Она кодирует запросы и документы в векторы размерности 768, а релевантность оценивает по косинусному сходству. Основа — CamemBERT-L4, облегчённая версия CamemBERT с удалёнными верхними слоями; модель содержит 62,3 млн параметров и принимает последовательности длиной до 514 токенов, хотя при обучении максимальная длина запросов и документов составляла 128 токенов. Модель дообучена на французских данных mMARCO, включая сложные негативные примеры, для поиска релевантных фрагментов по запросам. Её можно применять для семантического поиска и ранжирования найденных документов в корпусах на французском языке. Для использования доступны Sentence-Transformers, FlagEmbedding и Transformers. Лицензия — MIT.

Blur-7b-v1.22 — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная объединением трёх моделей с помощью LazyMergekit: s3nh/Sonya-Panda-7B-slerp, argilla/distilabeled-Marcoro14-7B-slerp и Weyaxi/MetaMath-OpenHermes-2.5-neural-chat-v3-3-Slerp. Она предназначена для генерации текста, диалогов и ответов на математические вопросы. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README приведены результаты Open LLM Leaderboard: среднее значение 63,35, результат ARC (25-shot) — 62,29, HellaSwag (10-shot) — 82,00. Это ориентиры из оценки, а не гарантия качества для конкретных задач. Модель опубликована 18 января 2024 года и распространяется по лицензии Apache-2.0.

CataLlama-v0.1-Instruct-DPO — авторегрессионная языковая модель на архитектуре Llama 3, разработанная Лаурентиу Петреа. Это финальный этап обучения CataLlama: модель дообучена методом DPO на наборе catallama/Catalan-DPO поверх CataLlama-v0.1-Instruct-SFT. Размер модели — 7,5 млрд параметров, контекст — 8192 токена; доступны веса в формате Safetensors. Модель предназначена для диалогового взаимодействия и выполнения инструкций на каталанском языке. Она поддерживает извлечение информации для RAG, распознавание именованных сущностей, перевод между английским и каталанским, краткое и развернутое суммирование, а также анализ тональности. Разработчик сообщает об улучшенной работе с каталанским после обучения примерно на 445 млн новых токенов в три этапа. Модель может быть полезна для приложений, которым требуется генерация и анализ текста на каталанском, однако README представляет её как демонстрацию методов адаптации LLM к новым языкам, а не как модель, ориентированную на рекорды бенчмарков. Лицензия — Llama 3 Community License; применяются её условия и Acceptable Use Policy.

Это GGUF-квантизованная версия модели Qwen3-Coder-REAP-25B-A3B, разработанной командой Cerebras. Репозиторий с квантизациями подготовлен bartowski с использованием llama.cpp и imatrix-калибровки. Модель относится к категории text-generation и предназначена для генерации текста, включая сценарии программирования, однако подробные сведения о специализации исходной модели в представленном README отсутствуют. Доступны варианты от исходных BF16-весов размером 49,76 ГБ до низкобитных форматов размером примерно 11,5–26,5 ГБ. Представлены форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, IQ4 и IQ3; некоторые варианты оптимизированы по качеству, размеру или производительности на ARM и Apple Silicon. Модель можно запускать через LM Studio, llama.cpp и другие проекты на его основе. Архитектура, число параметров и активных параметров, поддерживаемые языки, модальности и размер контекста в README не указаны. Для модели не задан chat template, поэтому используется шаблон по умолчанию, который может быть некорректным. Сильной стороной является широкий выбор уровней квантизации: варианты Q6 и Q5 заявлены как обеспечивающие очень высокое или высокое качество, а Q4_K_M — как компромиссный вариант для большинства сценариев. Более компактные варианты позволяют работать при ограниченном объёме оперативной памяти, но сопровождаются снижением качества. Лицензия в представленном README не указана.

Devstral Small 1.1 — языковая модель для агентных задач в разработке программного обеспечения, созданная в сотрудничестве Mistral AI и All Hands AI. Модель предназначена для работы с программными кодовыми базами: она умеет исследовать проекты с помощью инструментов, редактировать несколько файлов и служить основой программных агентов. Рекомендуемый сценарий использования — интеграция с OpenHands; также доступны API и локальное развертывание. Модель дообучена на базе Mistral-Small-3.1 и содержит 24 млрд параметров. Она работает только с текстом: визуальный энкодер был удалён до этапа дообучения. Поддерживается контекст до 128 тысяч токенов, используется токенизатор Tekken со словарём размером 131 тысяча токенов, а также формат function calling Mistral. В метаданных README указана поддержка языков от английского и французского до русского, китайского, японского, арабского и других языков. Сильные стороны модели — специализация на агентном программировании, улучшение относительно Devstral Small 1.0 и возможность запуска на одной RTX 4090 или Mac с 32 ГБ оперативной памяти. В SWE-Bench Verified она получила 53,6% при использовании OpenHands Scaffold. Ограничения включают текстовую, а не мультимодальную обработку и необходимость учитывать ресурсы для локального запуска. Модель распространяется по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование и модификацию.

danielheinz/e5-base-sts-en-de — модель эмбеддингов на базе multilingual-e5-base, дообученная для оценки семантического сходства немецких текстов. Разработчик дообучил её на немецких поднаборах корпуса парафразов Philip May, PAWS-X и STS-Benchmark Multilingual: сначала с Multiple Negatives Ranking Loss на данных парафразов, затем с Cosine Similarity Loss на данных семантического сходства. Архитектура — XLM-RoBERTa с плотными векторами, около 305 млн параметров; принимает текст и выдаёт векторные представления. Контекст — до 514 токенов. Модель предназначена для сравнения значений немецких предложений, поиска парафразов и семантического поиска. В README указаны результаты 0,920 на валидационной и 0,904 на тестовой части STS, без описания метрики. Лицензия — MIT. Карточка сообщает, что модель продолжает обновляться; заявленные результаты и качество на других задачах или языках не подтверждены.

ByteOtter Gemma-4-E4B-IT-TAK-Reasoning-GGUF — это текстовая генеративная модель в формате GGUF, созданная ByteOtter на основе instruction-модели google/gemma-4-E4B-it. Модель предназначена для запуска с помощью llama.cpp и ориентирована прежде всего на задачи рассуждения, а также на генерацию текста, ответы на вопросы, следование инструкциям, математические и структурированные задачи. Это квантованный вариант со смешанной точностью размером 3,236 ГБ. Квантование выполнено в рамках фиксированного ограничения на размер; дообучение, слияние весов, замена токенизатора и шаблона чата не проводились. Репозиторий содержит только текстовую версию без компонентов для обработки изображений и аудио. В заявленном тестировании модель получила 69,53% в категории рассуждений и превзошла сопоставимый низкобитный вариант Unsloth на 14,06 процентного пункта, однако уступила исходной BF16-модели 2,34 пункта. Сильной стороной модели является ориентация на рассуждения при существенно меньшем размере по сравнению с исходной BF16-версией, что может упростить локальный запуск. Результаты для других задач являются диагностическими и не гарантируют качество в прикладных сценариях; квантование может влиять на ответы, точность и стабильность в зависимости от запросов и среды выполнения. Модель распространяется по лицензии Apache License 2.0 с учетом лицензии и атрибуции базовой модели.

GLM-4-32B-Base-32K — базовая языковая модель семейства GLM-4, разработанная Arcee AI на основе THUDM/GLM-4-32B-Base-0414. Это плотная авторегрессионная модель с 31,6 млрд параметров и контекстом до 32 768 токенов; веса представлены в формате safetensors. Модель прошла дополнительное предобучение на длинных последовательностях, итеративное слияние чекпойнтов и дистилляцию знаний короткого контекста, чтобы сохранить возможности исходной версии и улучшить обработку контекста длиной до 32 тысяч токенов. Модель предназначена прежде всего как основа для дальнейшего обучения с длинным контекстом. Её можно применять в сценариях, где требуется учитывать большой объём текста, например при анализе длинных документов или поиске фактов в них. README описывает её как proof-of-concept и приводит улучшенные результаты на бенчмарках длинного контекста и ряде стандартных тестов. Поддерживаемые языки — китайский и английский. Лицензия — MIT.

Granite-4.1-8B-SFT-Claude-Opus-Reasoning-Unsloth — дообученная модель ermiaazarkhalili на базе IBM Granite-4.1-8B. Это плотная авторегрессионная модель класса GraniteForCausalLM с примерно 8,4 млрд параметров по метаданным и контекстом до 131 072 токенов. Модель прошла supervised fine-tuning на наборе distillation-данных с рассуждениями Claude; адаптер LoRA слит с базовыми весами. Поддерживает диалоговую генерацию текста и интерфейс вызова инструментов. Модель предназначена для генерации ответов и диалоговых сценариев, требующих следования инструкциям и пошаговых рассуждений. Она унаследовала многоязычные возможности Granite-4.1-8B, рассчитанной на работу с текстом и кодом. Карточка приводит только значения обучающей потери и не сообщает результатов тестирования на прикладных бенчмарках. Лицензия — Apache-2.0. К ограничениям относятся непроверенное качество вне обучающего набора, а также унаследованные от базовой модели смещения, пределы знаний и типичные ошибки. Поскольку LoRA-адаптер слит с весами, отделить его от результата дообучения нельзя.

NiviG/hallucination-detector — модель классификации текста, созданная дообучением DeBERTa-v3-base от Microsoft. Она сопоставляет утверждение, сгенерированное ИИ, с предоставленным контекстом и определяет, подтверждается ли оно, опровергается ли или остаётся непроверяемым. Модель обучена на более чем 25 тысячах примеров FEVER для проверки фактов и выявления галлюцинаций в ответах языковых моделей. Архитектура — DeBERTa-v2 для классификации последовательностей, около 211,6 млн параметров; модель работает с текстом и имеет контекст до 512 токенов. Она выдаёт одну из трёх меток: FACTUAL, UNCERTAIN или HALLUCINATION. Веса опубликованы в формате safetensors; библиотека — Transformers. Карточка не указывает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

Hy3-heretic — разговорная модель генерации текста на архитектуре HY-V3 с mixture-of-experts, представленная пользователем trohrbaugh. По метаданным, модель содержит 16,6 млрд параметров и поддерживает контекст до 262 144 токенов; формат весов — safetensors, лицензия — Apache-2.0. Она предназначена для диалогов и генерации ответов с ослабленным отказом: в README приведено сравнение, где вариант Hy3-heretic отказал в 1 из 100 запросов против 99 из 100 у исходной модели. Модель можно применять для общения, ответов на запросы и других сценариев генерации текста. Карточка описывает метод abliteration и сообщает о KL divergence 0,2398 относительно исходной модели. README также содержит общие сведения о Hy3 от команды Tencent Hy, включая заявленные возможности для рассуждений, работы с длинным контекстом, программирования и агентных сценариев; эти характеристики относятся к семейству Hy3 и не подтверждены отдельно для данного варианта. В карточке указана лицензия Apache-2.0.

Theros/L3-ColdBrew-CoT-R1-test — текстовая языковая модель, созданная объединением заранее обученных моделей с помощью mergekit. В слиянии DARE TIES использованы Theros/L3-ColdBrew-CoT и DeepSeek-R1-Distill-Llama-8B с равными весами; в качестве базовой модели указана Theros/L3-ColdBrew-CoT. Архитектура — плотная Llama с классом LlamaForCausalLM, размер — 7,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. Базовая модель связана с задачами рассуждения, математики и программирования, однако карточка не приводит отдельных оценок качества этой версии. Контекст составляет 8192 токена; доступны веса в формате safetensors, библиотека для работы — Transformers. Модель опубликована 26 января 2025 года. Условия лицензии в предоставленных данных не указаны. Результаты могут зависеть от запроса и сценария использования; карточка не сообщает об оценках качества или специализированных ограничениях.

Llama-3-Giraffe-70B — экспериментальная длинноконтекстная версия Llama 3 70B, представленная Abacus.AI. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 69,5 млрд параметров; README сообщает об эффективном контексте около 128 тыс. токенов, тогда как в метаданных указан native context 8192 токена. Для расширения контекста применялись PoSE и динамическая NTK-интерполяция: обучение включало около 1 млрд токенов и длинные образцы из RedPajama. Модель предназначена для генерации текста и экспериментов с извлечением информации из длинных последовательностей, например поиска фрагмента в большом документе. В README приведена оценка Needle-in-a-Haystack на контекстах до 128 тыс. токенов, но это начальный выпуск, и авторы отмечают, что планируют улучшать результаты по мере дальнейшего обучения. Модель принимает и генерирует текст; в метаданных указан английский язык. Лицензия — Llama 3 license (llama3).

MiniCPM-2B-sft-fp32 — версия языковой модели MiniCPM-2B после instruction fine-tuning (SFT), представленная в формате FP32. Её разработали ModelBest и лаборатория обработки естественного языка Университета Цинхуа. Модель построена на архитектуре MiniCPMForCausalLM, содержит 2,7 млрд параметров и предназначена для генерации текста и диалоговых ответов на английском и китайском языках. Максимальная длина контекста — 4096 токенов. Модель подходит для диалоговых систем, ответов на вопросы, а также генерации текстов, кода и решений математических задач. Разработчики отмечают её компактный размер и возможность развёртывания на устройствах с ограниченными ресурсами после квантизации; этот репозиторий содержит веса FP32. В карточке указана лицензия other, а README сообщает об открытых весах для академических исследований и ограниченного коммерческого использования. Известные ограничения — склонность к галлюцинациям, зависимость ответов от формулировки запроса и вариативность результатов при повторных попытках; знания модели могут быть неточными. Качество генерации в Transformers, по сообщению авторов, может быть ниже, чем при использовании vLLM.

Minitron-8B-Base — базовая большая языковая модель NVIDIA, созданная из Nemotron-4 15B. Модель с архитектурой Transformer Decoder и классом NemotronForCausalLM содержит 8,7 млрд параметров; в ней применяются Grouped-Query Attention и Rotary Position Embeddings. Контекст составляет 4096 токенов, вход и выход — текст. Модель предназначена для генерации текста и исследований и разработок на её основе: она обучалась на английских и многоязычных текстах, включая код, диалоги, статьи и веб-страницы. Корпус охватывает математику, науку, финансы и право; в продолженное обучение также включили небольшую долю данных вопросно-ответного формата и для выравнивания. NVIDIA сообщает о дистилляции после структурного прореживания Nemotron-4 15B с использованием 94 млрд токенов; в README приведены результаты оценок на MMLU, HellaSwag, Winogrande, GSM8K, ARC-C, XLSum и HumanEval. Модель может генерировать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичный язык и социальные предубеждения из обучающих данных. Данные предварительного обучения имеют срез по июнь 2023 года. Лицензия указана как other; точные условия следует сверить с файлами репозитория и условиями NVIDIA. Карточка обозначает модель как предназначенную для исследований и разработки.

Mistral-Starling-merge-trial3-7B — объединённая языковая модель, созданная grimjim с помощью mergekit методом SLERP на основе Nexusflow/Starling-LM-7B-beta и grimjim/Mistral-7B-Instruct-demi-merge-v0.2-7B. Модель с архитектурой Mistral содержит 7,1 млрд параметров и предназначена для генерации текста в диалоговом формате, включая задачи рассуждения; заявленная длина контекста составляет 32 768 токенов. Модель принимает текст и генерирует текстовые ответы. В метаданных Hugging Face указаны библиотека Transformers и лицензия Apache-2.0. README сообщает о цели объединить сильные стороны рассуждения с контекстом 32K, но не приводит оценок качества или подробных результатов проверки.

Mharbulous/moondream2-syncopaid — это репозиторий модели Moondream, небольшой модели компьютерного зрения и языка, рассчитанной на эффективный запуск на разных устройствах. Карточка описывает выпуски Moondream и улучшения в понимании диаграмм, документов, таблиц, экранов и текста на изображениях. Модель принимает изображение и текстовый запрос, а отвечает текстом; поддерживает также распознавание текста, описание изображений, подсчёт объектов, поиск объектов и открытое тегирование изображений. Репозиторий содержит файлы в форматах safetensors и GGUF F16. В качестве задач Hugging Face указаны image-text-to-text и text-generation; для работы с изображениями основная задача — image-text-to-text. Лицензия — Apache-2.0. В карточке указано имя семейства moondream1, при этом README называет модель Moondream. Для репозитория не приведены сведения о конкретной базовой модели, числе параметров, контекстном окне и поддерживаемых языках. README рекомендует фиксировать revision в производственных приложениях, поскольку модель часто обновляется; в заметках также отмечены улучшения точности распознавания текста и обнаружения объектов.

multi-qa-mpnet-base-dot-v1 — модель для создания текстовых эмбеддингов, разработанная командой Sentence Transformers в рамках проекта Hugging Face Community Week. Она кодирует вопросы, предложения и абзацы в плотные векторы размерностью 768 для семантического поиска: по запросу можно находить релевантные фрагменты текста. Модель основана на MPNet-base и дообучена на примерно 215 млн пар «вопрос — ответ» из разных источников с контрастивной целью обучения. Для сравнения векторов используется скалярное произведение; эмбеддинги не нормализуются. Модель рассчитана прежде всего на поиск ответов и документов по вопросам и текстовым запросам. Она поддерживает английский язык, построена на MPNet и доступна в форматах PyTorch, Safetensors, ONNX и OpenVINO. Максимальная длина входа составляет 512 токенов, однако обучение проводилось на текстах длиной до 250 токенов, поэтому качество на более длинных фрагментах может снижаться. Условия лицензии в предоставленных данных не описаны.

NVIDIA-Nemotron-3-Nano-4B — компактная языковая модель NVIDIA для диалога, рассуждений и агентных сценариев. Репозиторий unsloth содержит дообученную версию базовой модели nvidia/NVIDIA-Nemotron-3-Nano-4B-BF16. В карточке указаны 6,4 млрд параметров и гибридная архитектура Nemotron-H с Mamba-2, MLP и четырьмя слоями Attention; модель принимает и генерирует текст, поддерживает контекст до 262 144 токенов и имеет интерфейс для вызова инструментов. Модель предназначена для локальных голосовых помощников, игровых NPC-компаньонов и автоматизации IoT, а также для задач программирования и работы агента на устройствах с ускорением NVIDIA. Карточка заявляет английский как поддерживаемый язык; в описании обучения также перечислены многоязычные данные, в том числе русский, но это не гарантирует одинаковое качество на всех языках. Модель может формировать рассуждения перед ответом; отключение этого режима может снизить точность на сложных запросах. Для запуска описана поддержка Transformers, vLLM и TensorRT-LLM, а также других движков инференса. README называет модель пригодной для коммерческого использования, однако метаданные указывают лицензию «other», поэтому перед внедрением следует проверить условия лицензии репозитория.