II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейgety-embed-v0 — модель для создания текстовых эмбеддингов, разработанная gety-ai. Она дообучена на базе intfloat/multilingual-e5-small с использованием открытых и проприетарных синтетических данных и оптимизирована для сценариев локального поиска и оценки сходства предложений. Модель основана на архитектуре BERT и поддерживает мультиязычные тексты. Она принимает input_ids и attention_mask, выполняет masked mean pooling и L2-нормализацию, формируя нормализованный эмбеддинг размерности 384. Доступны варианты ONNX с динамической UINT8-квантизацией размером 112 МБ и FP16 для CUDA размером 224 МБ, Core ML FP16 для macOS 13+ с ускорением ANE, а также OpenVINO-вариант для Intel NPU с INT8-квантованием весов и FP16-активациями размером 114 МБ. Версия Core ML поддерживает динамическую длину последовательности от 1 до 512 токенов. Сильные стороны модели — компактный размер, нормализованный 384-мерный выход и наличие форматов для CPU, CUDA, macOS и Intel NPU, что удобно для локального и периферийного инференса. Ограничения включают отсутствие в README подробных результатов оценки качества, перечня поддерживаемых языков и рекомендаций по максимальной длине ввода для всех вариантов. Модель распространяется по лицензии MIT.
Это квантованные сборки модели GLM-4.7-Flash-Claude-Opus-4.5-High-Reasoning-Distill, опубликованные пользователем noctrex в формате GGUF. Основа — дообученная для рассуждений модель GLM-4.7-Flash; каталог описывает её как ориентированную на программирование, научные вопросы и сложные задачи с длинным контекстом. Репозиторий содержит обычную MXFP4_MOE-квантизацию и экспериментальный вариант, который распределяет точность по важности тензоров: BF16 для наиболее важных, Q8_0 для умеренно важных и MXFP4 для остальных. Подбор точности основан на imatrix, созданной на данных code_tiny. Модель предназначена для генерации текста и диалогового использования, с упором на задачи программирования. Автор README сообщает, что экспериментальный вариант ещё не проверялся бенчмарками, поэтому его преимущество над основной MXFP4_MOE-сборкой не подтверждено. Лицензия в предоставленных данных не приведена.
Карточка модели Vaibhavhome30/GLM-5.3-Flash-BF16 на Hugging Face совпадает с карточкой unsloth/GLM-5.3-Flash, поэтому описание составлено по ней. GLM-5.3-Flash — мультимодальная модель семейства GLM, разработанная Z.ai. Репозиторий unsloth содержит дообученную версию базовой модели zai-org/GLM-5.3-Flash-BF16 и распространяет веса в формате safetensors; заявлена лицензия MIT. Модель предназначена для диалогов и генерации текста, включая программирование и агентные сценарии. Архитектура GLM-5 Next сочетает разреженное и линейное внимание; в README указаны 320 млрд параметров всего и 18 млрд активных параметров. Разработчик также описывает мультимодальное предварительное обучение и улучшенную эффективность при работе с длинным контекстом, но точная длина контекста этой копии не приведена. Карточка базовой модели характеризует её как мультимодальную и поддерживающую анализ изображений, однако метаданные этого репозитория указывают в качестве задачи только text-generation. Поэтому назначение копии как модели для обработки изображений отдельно не подтверждено. Языковые теги карточки — английский и китайский. Практическое развёртывание требует соответствующей инфраструктуры для модели такого масштаба; в README перечислены SGLang, vLLM, TokenSpeed и KTransformers.
GLM-Z1-Rumination-32B-0414 — диалоговая модель глубокого рассуждения от Z.ai, созданная на основе GLM-4-32B-0414. В ней сочетаются длительное пошаговое рассуждение и использование инструментов поиска для решения открытых и сложных задач; обучение дополнительно ориентировано на математику, код, логику, исследовательский стиль письма и задачи с извлечением информации. Модель содержит 32,2 млрд параметров, использует плотную архитектуру GLM-4 и работает с контекстом до 131 072 токенов. Карточка описывает поддержку китайского и английского языков, диалога и вызова инструментов поиска. Указаны сценарии сравнительного анализа, подготовки исследовательских текстов и комплексного поиска с последующим синтезом результатов. Модель распространяется под лицензией MIT. Доступные материалы не приводят отдельных результатов оценки качества или подробностей ограничений; ответы и результаты поиска следует проверять, особенно в задачах, требующих точности и актуальности.
Granite-embedding-small-english-r2 — англоязычная модель для создания плотных векторных представлений текста, разработанная командой Granite Embedding компании IBM. Модель предназначена для сравнения текстов, семантического поиска и информационного поиска, включая поиск по документам, кодовой базе, таблицам и многошаговым диалогам. Она преобразует запросы, фрагменты и документы в векторы фиксированной длины, пригодные для сопоставления, например с помощью косинусного сходства. Модель содержит 47 млн параметров и использует архитектуру bi-encoder на базе ModernBERT. Размер выходного embedding составляет 384, поддерживается контекст длиной до 8192 токенов. При обучении применялись retrieval-oriented pretraining, contrastive finetuning, knowledge distillation и объединение моделей; использовались датасеты пар релевантности с разрешительными лицензиями, а также наборы данных, собранные и сгенерированные IBM. Модель ориентирована только на английский язык и доступна для использования через Transformers.js, включая ONNX-вариант. К сильным сторонам относятся компактный размер, поддержка длинного контекста, высокая скорость кодирования и конкурентоспособное качество на бенчмарках поиска, длинных документов, кода, таблиц и многоходовых диалогов. Ограничения — английская языковая специализация, фиксированный размер представлений и назначение преимущественно для задач embeddings, similarity и retrieval, а не для генерации текста. Модель распространяется по лицензии Apache 2.0.
TiGa-RCE/gte-Qwen2-1.5B-instruct-MLX-BF16 — модель эмбеддингов на базе Alibaba-NLP/gte-Qwen2-1.5B-instruct, преобразованная в формат MLX с точностью BF16. Она предназначена для получения векторных представлений текстов и семантического поиска на устройствах Apple Silicon с MLX или oMLX. Модель содержит 1,5 млрд параметров, построена на архитектуре Qwen2 и поддерживает контекст до 131072 токенов. Лицензия — Apache-2.0. В локальном тесте извлечения информации модель получила 24 успешных ответа из 24 пар запросов и документов, с MRR 1,0. Это ограниченная инженерная проверка на фиксированном наборе, а не оценка общего качества. Контрольный чекпойнт предназначен для MLX/oMLX на Apple Silicon; результаты для CUDA и PyTorch к нему не относятся.
RabidUmarell/hubert-embedding-paraphrase-multilingual — модель на базе архитектуры BERT, созданная для преобразования предложений и абзацев в плотные векторы размерности 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений; использовать её можно через Sentence-Transformers или Transformers с подходящей операцией pooling. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 512 токенов. Модель выдаёт текстовые эмбеддинги, пригодные для семантического поиска и группировки похожих высказываний. В карточке она названа многоязычной, однако конкретные языки и результаты оценки не приведены. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
cassador/indobert-embeddings — модель эмбеддингов предложений на базе IndoBERT, опубликованная cassador и дообученная на наборе IndoNLI. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для семантического поиска, кластеризации и оценки сходства текстов на индонезийском языке. Модель использует архитектуру BERT и поддерживает контекст до 512 токенов. Для получения эмбеддингов README рекомендует библиотеку Sentence-Transformers; при использовании Transformers необходимо применить подходящую операцию pooling к контекстным представлениям токенов. В метаданных указан формат PyTorch и около 151,6 млн параметров. Лицензия в предоставленных данных не указана.
naufalihsan/indonesian-sbert-large — модель на базе BERT, представленная как sentence-transformers-модель. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения текстов и кластеризации. Обучение с CosineSimilarityLoss ориентировано на сходство предложений; модель также подходит для построения текстовых эмбеддингов. Модель содержит около 433,9 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. В карточке указано назначение для индонезийского языка. Доступны веса в формате PyTorch; для использования описаны библиотеки Sentence-Transformers и Transformers. Лицензия в предоставленных данных не указана.
yahyaabd/indosbert-bps-custom-tokenizer — модель Sentence Transformer на архитектуре BERT, представленная в формате safetensors. Она преобразует предложения и абзацы в плотные векторы размерности 1024; среднее объединение токенов используется для получения представления текста, а сходство между векторами можно оценивать косинусной мерой. Модель рассчитана на последовательности до 512 токенов. Её можно применять для поиска семантически близких текстов, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текста. Метаданные указывают 434 млн параметров и библиотеку Sentence Transformers. В README обучение модели описано в общих чертах, без сведений о разработчике или обучающих данных. Лицензия в предоставленных сведениях не указана.
IQuest-Coder-V1-40B-Base — базовая модель семейства кодовых больших языковых моделей IQuestLab для анализа и генерации кода. Она предназначена для задач программной инженерии, включая работу с кодовыми базами, понимание изменений в репозиториях и решение сложных задач разработки. Модель содержит 39,4 млрд параметров, использует плотную архитектуру IQuestCoderForCausalLM с Grouped Query Attention и поддерживает контекст до 131 072 токенов. Для работы с моделью указана библиотека Transformers и формат весов safetensors; README рекомендует Transformers версии 4.52.4 или новее и отмечает использование пользовательского кода моделирования через auto_map. Модель обучалась по многоэтапному подходу code-flow, учитывающему эволюцию репозиториев, переходы между коммитами и преобразования кода. Семейство ориентировано на автономную программную инженерию, программирование и работу с инструментами; эта карточка относится к варианту Base, а не к специализированным Thinking или Instruct вариантам. Основной язык в метаданных — английский. Лицензия указана как other, без уточнения условий в доступных данных. Модель не исполняет сгенерированный код; ответы могут содержать правдоподобные ошибки, а качество может снижаться на узкоспециализированных или закрытых фреймворках.
J.A.R.V.I.S. Titan V15 MoE — инструкция-настроенная модель для генерации текста, разработанная Dhanesh в рамках программы автономных рассуждений J.A.R.V.I.S. Titan. README указывает базовую модель dhanesh-hf/Jarvis-Titan-M4-Merged и обучение на 121,5 млн токенов с примерами математики, программирования, пошаговых рассуждений и выполнения действий агентами. Метаданные указывают 7,1 млрд параметров, контекст до 32 768 токенов, поддержку диалогов и кода; карточка описывает MoE-архитектуру в стиле DeepSeekMoE с восемью маршрутизируемыми экспертами и общим экспертом, хотя заявленное число параметров в README отличается от метаданных. Модель предназначена для математических рассуждений, синтеза и исправления кода, диалогов и агентных сценариев. В README описаны 28 слоёв, выбор двух маршрутизируемых экспертов и общего эксперта на токен, а также механизм памяти M4 Tri-Brid. Указанный в README режим окна SWA составляет 2048 токенов; метаданные заявляют нативный контекст в 32 768 токенов. Основной язык карточки — английский. Лицензия обозначена как other, поэтому конкретные условия следует сверить с лицензией репозитория.
Kiwi COCO-LM base — модель-энкодер на архитектуре ModernBERT, разработанная автором репозитория на основе answerdotai/ModernBERT-base. Она продолжает предобучение исходных весов на корейских и английских корпусах с методом COCO-LM: обучение распознаванию заменённых токенов сочетается с восстановлением исходных токенов и контрастивным обучением последовательностей. Модель содержит около 159,4 млн параметров, использует словарь Byte-level BPE размером 64 000 токенов и принимает последовательности длиной до 8192 токенов. Энкодер предназначен для извлечения признаков и получения представлений текста, а также для дообучения под классификацию, распознавание именованных сущностей, ответы на вопросы и поиск. В бенчмарках авторы сообщают о результатах, сопоставимых с моделями близкого размера на корейских KLUE и английских GLUE задачах. Хотя в метаданных указан тег feature-extraction, автор предупреждает, что модель не подходит для обычного заполнения пропусков через [MASK] и не предназначена для генерации текста; для таких сценариев требуется другая модель или дообучение под задачу. Для загрузки рекомендуется Transformers версии 5 или новее. Лицензия — Apache-2.0.
Карточка модели Ishowbackup/Laguna-S-2.1 на Hugging Face совпадает с карточкой poolside/Laguna-S-2.1, поэтому описание составлено по ней. Laguna S 2.1 — языковая модель Poolside для программной инженерии и агентного выполнения длительных задач. Это текстовая модель семейства Laguna с архитектурой Mixture-of-Experts: 118 млрд параметров всего, около 8 млрд активируются на токен. В ней 48 слоёв, 256 маршрутизируемых экспертов и один общий; используются grouped-query attention и сочетание глобального внимания со скользящим окном. Контекст составляет 1 048 576 токенов. Модель предназначена для генерации и анализа кода, работы с инструментами и решения многошаговых задач разработки. Она поддерживает диалог и вызов инструментов, а также встроенный режим рассуждений, управляемый параметром enable_thinking. Для ускорения вывода доступна спекулятивная декодировка с отдельной черновой моделью DFlash. Модель принимает и выдаёт текст. В README приведены результаты на бенчмарках программирования и агентных задач, однако они не гарантируют качество в конкретном проекте. Полная BF16-версия требует нескольких GPU; квантизированные варианты снижают требования к памяти. Модель распространяется по лицензии OpenMDW-1.1, разрешающей коммерческое и некоммерческое использование и модификацию; также следует соблюдать Acceptable Use Policy Poolside.
Карточка модели ronaldmannak/LFM2.5-Embedding-350M-bf16 на Hugging Face совпадает с карточкой mlx-community/LFM2.5-Embedding-350M-bf16, поэтому описание составлено по ней. LFM2.5-Embedding-350M-bf16 — мультиязычная модель-энкодер Liquid AI, преобразующая запросы и документы в векторы для семантического поиска и сравнения сходства. Репозиторий mlx-community содержит сборку для локального запуска на устройствах Apple Silicon с библиотекой MLX; архитектура — двунаправленный плотный энкодер LFM2.5 с 1024-мерным CLS-представлением. Число параметров — 444,6 млн, исходная точность bf16 сохранена, контекст — до 128 000 токенов. Модель подходит для поиска документов по смыслу, многоязычного и кросс-языкового поиска, а также ранжирования по косинусному сходству векторных представлений. В README приведены оценки retrieval на небольших наборах NanoBEIR и сокращённых пулах MIRACL для нескольких языков; авторы предупреждают, что абсолютные результаты MIRACL нельзя напрямую сравнивать с лидербордом. Это конверсия исходной модели LiquidAI/LFM2.5-Embedding-350M: веса и поведение сохранены, изменён формат для MLX. Лицензия указана как other; конкретные условия следует сверить с карточкой исходной модели.
Ling-lite — разговорная языковая модель на архитектуре Mixture of Experts (MoE), разработанная и опубликованная InclusionAI. Карточка описывает версию Ling-lite-0415; модель содержит 16,8 млрд параметров, из которых активируется 2,75 млрд. Метаданные репозитория указывают 1,5 млрд параметров и контекст 32 768 токенов, тогда как README сообщает для Ling-lite контекст 128K; эти характеристики источников расходятся. Модель предназначена для диалогов и широкого круга языковых задач, включая генерацию текста, программирование и математику. В README приведены результаты сравнительных тестов, в том числе HumanEval и GPQA; это свидетельствует о заявленных возможностях в коде и решении сложных задач, но не гарантирует качество в конкретном применении. Репозиторий использует Transformers и формат safetensors. Лицензия — MIT.
OpenAssistant Llama2 70B SFT v10 — языковая модель OpenAssistant, дообученная на базе Meta Llama 2 70B. Это плотный авторегрессионный трансформер с декодером, примерно 68,7 млрд параметров; обучение проходило в два этапа: на смеси синтетических инструкций и задач по программированию, затем на отобранных человеческих диалогах OpenAssistant. Модель принимает диалог в формате ChatML и предназначена для генерации ответов, следования инструкциям и помощи с кодом. Контекст составляет 4096 токенов. Основной язык — английский; заявлены ограниченные возможности на немецком, испанском, французском, итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Сильные стороны — крупный размер и обучение на инструкциях, диалогах и коде. Ответы могут быть неточными, предвзятыми или нежелательными; тестирование проводилось преимущественно на английском, поэтому перед применением нужна проверка безопасности и качества. Модель распространяется по лицензии Llama 2 Community License Agreement.
LLM2Vec-Meta-Llama-3-8B-Instruct-mntp-supervised — модель для преобразования текстов в векторные представления, разработанная сообществом McGill-NLP на базе Meta-Llama-3-8B-Instruct. В карточке указано, что модель распространяется с использованием PEFT и ориентирована на английский язык. Модель предназначена для семантического сравнения предложений, поиска и извлечения информации, reranking, классификации текстов, кластеризации и построения систем text embeddings. Она может применяться в задачах semantic search, информационного поиска, дедупликации вопросов, оценки семантической близости и других сценариях, где требуется сопоставлять тексты по смыслу. Идентификатор указывает на основу Meta Llama 3 с размером 8B параметров и instruct-настройкой, однако точные сведения о размерности эмбеддингов, максимальном контексте, процедуре обучения и поддерживаемых модальностях в README не приведены. В карточке представлены результаты на наборах MTEB для классификации, retrieval, clustering, reranking и STS, что подтверждает широкий спектр целевых задач. Ограничением является заявленная ориентация на английский язык и отсутствие подробных данных о производительности вне перечисленных тестов, ресурсоёмкости и рекомендуемых параметрах инференса. Лицензия модели — MIT.
LumenX1-Sept26-Release — текстовая авторегрессионная модель семейства Lumen Dense, опубликованная dusersad12 на Hugging Face. Она предназначена для диалогов и генерации ответов, особенно для сложных задач на рассуждение, математику, программирование и общую логику. В карточке заявлены улучшенные рассуждения, снижение числа галлюцинаций и поддержка вызова функций; для ответа на вопрос AIME 2026 указано в среднем 31 тыс. токенов рассуждения. Модель использует архитектуру LumenDenseForCausalLM и распространяется в формате PyTorch для Transformers. Репозиторий выпущен под лицензией MIT. Карточка не сообщает размер модели, длину контекста и поддерживаемые естественные языки. Заявления о качестве приведены в README, но детали бенчмарков описаны частично.
tepirale/merge-cord-v1 — объединённая языковая модель, созданная с помощью mergekit на основе Qwen/Qwen2.5-1.5B. В слияние вошли Qwen/Qwen2.5-1.5B-Instruct и Qwen/Qwen2.5-Coder-1.5B-Instruct; в метаданных также указана связь с Qwen/Qwen2.5-1.5B. Архитектура — плотная причинная языковая модель Qwen2 с 1,5 млрд параметров, распространяемая в формате safetensors и рассчитанная на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая задачи с кодом; метаданные отмечают интерфейс вызова инструментов. Поддерживаемый язык по карточке не определён. Для использования указана библиотека Transformers, лицензия в предоставленных данных не приведена. README сообщает о применении метода Consensus-Orthogonal Residual Decomposition и отмечает, что функция cord отсутствует в MergeKit, поэтому воспроизводимость указанной конфигурации может быть ограничена.
Merlin-Agent — модель-агент для программирования от Merlin Research, созданная на базе deepreinforce-ai/Ornith-1.0-9B. Это плотная причинная языковая модель семейства Qwen 3.5 с 7,2 млрд параметров и контекстом до 262 144 токенов. Модель дообучена с добавлением замороженного компонента весов, построенного на измерениях OTOC, полученных на квантовом процессоре IBM Heron; опубликованные веса являются обычными классическими весами и работают без квантового оборудования. Модель предназначена для помощи в написании и изменении кода, а также для решения задач разработки ПО, включая SWE-bench. В README заявлены результаты 69,4% на SWE-bench Verified и 41,4 на Terminal-Bench 2.1; авторы указывают, что возможности сопоставимы с базовой моделью. Поддерживаются чат и генерация кода; карточка перечисляет английский, испанский, немецкий, финский, шведский, французский, датский и турецкий языки. Модель распространяется под лицензией Apache-2.0.
Millie 35B-A3B 7GB — модель смешанных экспертов для программирования и агентных сценариев, опубликованная llmsforall. Она создана на основе Agents-A1 и архитектуры Qwen3.5-35B-A3B: всего 35 млрд параметров, из которых активно около 3 млрд на токен. Весовые коэффициенты экспертов сжаты примерно до 1,2 бита на параметр; модель поставляется в формате GGUF, а отдельный файл проектора изображений обеспечивает приём изображений. Заявленная длина контекста — 262 тысячи токенов. Модель предназначена для генерации кода, диалогов и выполнения агентных задач на обычном оборудовании. Для запуска нужны оба файла GGUF и специальная версия llama.cpp от llmsforall с поддержкой формата весов; upstream llama.cpp их загрузить не может. В метаданных указана лицензия Apache-2.0. README также сообщает о варианте размером 11 ГБ.
Модель tanbinh2210/mlm_finetuned_3_phobert — дообученный разработчиком Sentence Transformer на базе tanbinh2210/mlm_finetuned_2_phobert. Она использует RoBERTa и среднее объединение токенных представлений, чтобы кодировать предложения и абзацы в плотные векторы размерности 768. Модель предназначена для поиска семантически близких текстов и сравнения предложений по косинусному сходству; также её можно применять для поиска парафразов, кластеризации и классификации текста на основе эмбеддингов. Обучение описано на наборе json из 357 018 примеров с запросами, положительными и отрицательными текстами. Максимальная длина последовательности — 258 токенов по метаданным. Модель принимает текст и выдаёт векторы, её можно использовать через библиотеку Sentence Transformers. Язык в доступных данных явно не указан, хотя название базовой модели содержит PhoBERT. Лицензия в предоставленных данных не указана. Модель представляет собой дообученную версию указанной базовой модели; качество и применимость зависят от соответствия входных текстов обучающим данным.
sangmini/msmarco-cotmae-MiniLM-L12_en-ko-ja — модель Sentence-Transformers для преобразования предложений и абзацев в плотные векторные представления размерности 1536. Её можно применять для семантического поиска и кластеризации текстов. Модель построена на архитектуре BERT и содержит 124,3 млн параметров; максимальная длина контекста составляет 512 токенов. В карточке указано обучение с функцией потерь MSELoss. Репозиторий содержит веса в формате PyTorch. Лицензия в доступных данных не указана. Оценка на конкретных наборах или ограничения качества в карточке не описаны.
dinab/multilingual-e5-base-Q4_K_M-GGUF — квантизированная версия мультиязычной модели эмбеддингов multilingual-e5-base, разработанной intfloat и представленной в формате GGUF. Модель предназначена для преобразования текстов в векторные представления и подходит для семантического поиска, сопоставления предложений, кластеризации, классификации и задач retrieval, включая использование через llama.cpp. Модель поддерживает множество языков, в том числе русский, английский, немецкий, французский, испанский, китайский, японский и другие. В названии указана квантизация Q4_K_M, которая уменьшает требования к памяти и делает модель удобнее для локального запуска, но может снижать точность по сравнению с полноразмерной версией. Размер параметров, архитектура, максимальная длина контекста и точные требования к оборудованию в README не указаны. Приведены результаты оценки на ряде наборов MTEB для классификации и поиска, однако они относятся к базовой модели multilingual-e5-base. Модель распространяется под лицензией MIT. README не содержит подробного описания ограничений, поэтому качество следует дополнительно проверять на целевых языках, доменах и сценариях применения.
Nemotron-Flash-1B — базовая языковая модель компании NVIDIA из семейства компактных гибридных моделей Nemotron-Flash. Она использует плотную архитектуру NemotronFlashForCausalLM с гибридными операторами, подобранными эволюционным поиском, и нормализацией весов на этапе обучения; размер модели — 520,1 млн параметров, длина контекста — до 36 000 токенов. Модель предназначена для генерации текста и применения в сценариях, где важны задержка и пропускная способность, включая математические задачи, программирование и рассуждения на общеизвестные темы. В README NVIDIA сообщает о сравнительных результатах на задачах математики, кода и здравого смысла, а также об ускорении инференса относительно некоторых небольших моделей. Для запуска приведены примеры с Transformers и CUDA Graph; в README также упоминается интеграция с TRT-LLM AutoDeploy. Это базовая модель, а не вариант Instruct, поэтому её поведение в диалоге может требовать дополнительной настройки. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензией и документами репозитория.
Mungert/NextCoder-7B-GGUF — GGUF-квантизированная версия модели NextCoder-7B, разработанной Microsoft на базе Qwen2.5-Coder-7B-Instruct. Модель предназначена прежде всего для генерации и редактирования программного кода, исправления ошибок, работы с разнообразными правками кода и диалоговых сценариев для разработчиков. Постобучение выполнено с использованием методики Selective Knowledge Transfer (SeleKT), ориентированной на улучшение code editing без потери общей применимости. Это авторегрессионная causal language model с архитектурой на базе Transformers, RoPE, SwiGLU, RMSNorm и attention QKV bias. Модель содержит 7,61 млрд параметров, из них 6,53 млрд — без учёта embedding, имеет 28 слоёв, 28 Q-heads и 4 KV-heads с GQA. Заявлена поддержка контекста до 32K токенов. В карточке указано English как язык модели; поддерживается текстовая модальность. GGUF-файлы созданы с помощью llama.cpp, при этом автор применяет выборочное повышение точности отдельных слоёв сверх стандартной конфигурации IMatrix, что может улучшать качество при заданном уровне квантизации, но увеличивает размер файлов. Сильными сторонами являются специализация на редактировании кода, длинный контекст и улучшенные результаты NextCoder-7B по сравнению с базовой Qwen2.5-Coder-7B на приведённых тестах HumanEvalFix, CanItEdit и Aider. Ограничения включают зависимость качества и требований к ресурсам от конкретного GGUF-варианта квантизации, а также отсутствие подробных характеристик отдельных файлов в представленном README. Лицензия — MIT.
Nomic-embed-text-v1.5-Embedding-GGUF — модель для создания текстовых эмбеддингов и оценки семантического сходства, основанная на nomic-ai/nomic-embed-text-v1.5. Квантизацию в формате GGUF выполнила Second State Inc.; исходную модель разработала nomic-ai. Модель предназначена для семантического поиска, сопоставления текстов и других задач, где требуется преобразование текста в векторное представление. Указан английский язык. Модель поддерживает запуск через LlamaEdge и имеет контекстное окно размером 768 токенов. Доступны варианты GGUF с квантизацией от 2 до 8 бит и вариант f16, размером примерно от 60,9 до 274 МБ. Вариант Q4_K_M обозначен как рекомендуемый для сбалансированного качества и размера, а Q5_K_M и Q5_K_S — как варианты с очень небольшой потерей качества. Более сильная квантизация уменьшает размер, но может заметно ухудшать качество эмбеддингов. Модель компактна и подходит для локального развёртывания, однако README не содержит подробностей об архитектуре, размерности эмбеддингов, точных показателях качества и аппаратных требованиях. Модель распространяется по лицензии Apache-2.0.
nomic-embed-text-v1-GGUF — это набор файлов модели для построения векторных представлений текста в формате GGUF, совместимом с llama.cpp. Модель разработана Nomic и основана на nomic-embed-text-v1 с архитектурой BERT. Она предназначена для извлечения признаков, сравнения семантической близости предложений, поиска и построения RAG-приложений. Поддерживается английский язык, а перед каждым текстом требуется указывать соответствующий префикс задачи, например search_query:. Модель рассчитана на работу с текстом и поставляется в вариантах квантования Q2_K–Q8_0, F16 и F32, размер которых составляет примерно от 48 до 262 МиБ. llama.cpp использует контекст длиной 2048 токенов по умолчанию; для поддержки полного контекста в 8192 токена необходимо выбрать совместимый метод расширения контекста и параметры RoPE scaling. Разные варианты квантования позволяют выбирать компромисс между размером файлов и точностью эмбеддингов; README приводит среднеквадратичную ошибку относительно реализации Sentence Transformers. Сильными сторонами являются компактные GGUF-файлы, совместимость с llama.cpp и наличие нескольких уровней квантования для запуска на устройствах с разными ресурсами. Ограничения включают необходимость использовать task-префиксы, зависимость расширенного контекста от дополнительных настроек и отсутствие заявленной мультимодальности. Модель распространяется по лицензии Apache-2.0.
Norns-Qwen2.5-Coder-7B-v0.1 — модель генерации текста на архитектуре Qwen2, созданная разработчиком win10 слиянием моделей методом TIES с помощью mergekit. В слиянии использованы Qwen/Qwen2.5-Coder-7B и win10/Urdandi-Qwen2.5-7B; модель содержит 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и может применяться для задач с кодом, поскольку одной из базовых моделей является Qwen2.5-Coder-7B, ориентированная на генерацию, анализ и исправление программного кода. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Лицензия в предоставленных данных не указана. Карточка описывает способ слияния, но не сообщает о результатах оценки качества или конкретных ограничениях модели.