II.10Разработка и эксплуатация AI/ML-систем

Это квантованная в формате MXFP4 версия модели Kwaipilot/KAT-Coder-V2.5-Dev с MTP. Модель предназначена для генерации текста в диалоге и агентного программирования; в каталоге для базовой модели указана поддержка вызова инструментов. Для запуска требуется актуальная версия llama.cpp. Репозиторий представлен в формате GGUF. В README и метаданных нет сведений о размере, длине контекста, поддерживаемых языках и лицензии.

smartmind/ko-sbert-augSTS-maxlength512 — модель эмбеддингов предложений на базе BERT, опубликованная smartmind. Она преобразует предложения и абзацы на корейском языке в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения семантической близости. Вариант основан на snunlp/KR-SBERT-V40K-klueNLI-augSTS и поддерживает входную последовательность длиной до 512 токенов. Модель подходит для семантического поиска и группировки корейских текстов, а также может использоваться как представление текста в задачах классификации документов. В README приведён результат 0,8628 для KR-SBERT-V40K-klueNLI-augSTS в сравнении моделей на задаче классификации документов; этот показатель не следует считать гарантией качества для данного репозитория или иных наборов данных. Доступны веса PyTorch, лицензия MIT.

jhgan/ko-sbert-multitask — модель на базе Sentence-BERT и архитектуры BERT, дообученная для получения векторных представлений корейских предложений и абзацев. Она преобразует текст в плотные эмбеддинги размерности 768 и подходит для семантического поиска, оценки сходства и кластеризации текстов. Модель обучалась на наборах KorSTS и KorNLI в режиме многозадачного обучения. В карточке приведены результаты оценки на KorSTS: корреляция Спирмена для косинусного сходства составляет 84,71. Максимальная длина контекста — 512 токенов; доступны веса PyTorch и TensorFlow. Модель рассчитана прежде всего на корейский язык. Её можно применять для поиска похожих фраз и группировки текстов, но качество за пределами корейских данных не подтверждено. Лицензия в предоставленных данных не указана.

В репозитории SerialKicked/Lethe-AI-Repo собраны ресурсы для библиотеки Lethe AI Sharp: GGUF-модели, шаблоны Jinja и файлы для интеграции локальных LLM. В него входят квантованная модель эмбеддингов GTE large в формате Q6_K для поиска по RAG-сценариям и квантованный классификатор эмоций на базе BERT-base-uncased, дообученный на GoEmotions для многометочной классификации 28 эмоций. Также размещены исправленные шаблоны диалогов Mistral и Qwen. Репозиторий предназначен для разработчиков, использующих библиотеку Lethe AI Sharp на C#/.NET: его компоненты помогают организовать векторный поиск по документам и экспериментальный анализ эмоций. Для классификатора указано экспериментальное применение; характеристики контекста и полный перечень поддерживаемых языков в карточке не приведены. Лицензия репозитория — MIT.

RESMP.DEV подготовил исследовательскую версию двунаправленного энкодера LiquidAI/LFM2.5-Encoder-230M для многоязычного поиска по коду; это не официальный релиз Liquid AI. Модель основана на плотной архитектуре LFM2, содержит около 221,2 млн параметров и принимает последовательности длиной до 128 000 токенов. Из исходной модели удалена голова masked-language modeling, а полный энкодер дообучен контрастивным методом на парах запросов и фрагментов кода. В README указана MXFP8-квантизация, а способ запуска использует MLX; приведены сопоставления качества на отложенном тестовом наборе и измерения скорости и памяти. Модель предназначена для получения эмбеддингов запросов и кода, поиска релевантных фрагментов в многоязычных репозиториях и построения сервисов поиска кода. При прямом использовании README рекомендует добавлять к запросам префикс «query: », а к кандидатам с кодом — «passage: ». В тестах на Python качество поиска заметно выше, чем на TypeScript; результаты зависят от языка и квантизации, поэтому MXFP8 не следует считать безусловной заменой BF16. В метаданных указана лицензия other, поэтому условия использования следует сверять с файлами репозитория.

RESMP.DEV LFM2.5 Encoder 350M Code BF16 — исследовательский релиз, производный от LiquidAI/LFM2.5-Encoder-350M и не являющийся официальным выпуском Liquid AI. Это плотный двунаправленный энкодер семейства LFM2, дообученный контрастивным обучением всего энкодера для многоязычного поиска по коду. Удалена исходная голова masked language modeling; чекпойнт BF16 предназначен как эталон качества и переносимый артефакт для Transformers. Модель преобразует запросы и фрагменты кода в векторы для поиска релевантных фрагментов. В README приведены результаты на отложенном наборе из 6 995 пар; показатели заметно различаются между Python и TypeScript, поэтому качество на конкретном языке и корпусе следует проверять отдельно. Размер составляет 444,6 млн параметров, контекст — до 128 000 токенов. Модель рассчитана на код и мультиязычные сценарии; конкретный перечень естественных языков в предоставленных данных не раскрыт. Лицензия в метаданных указана как other, поэтому условия коммерческого и иного использования нужно сверить с карточкой репозитория. Это исследовательский релиз, а практическая скорость и потребление памяти зависят от оборудования и среды запуска.

werner1hugo/lid-framework-models — коллекция из 102 моделей определения языка, разработанная Вернером Хуго в рамках магистерской работы MEng в Stellenbosch University. Модели входят в базу знаний фреймворка выбора моделей LID: он анализирует корпус коротких текстов и рекомендует подходящую модель или готовый детектор. В коллекции представлены варианты на Multinomial Naive Bayes, логистической регрессии и FastText с признаками символьных n-грамм или FastText-представлениями. Модели классифицируют короткий текст по одному из языков, представленных в обучающем корпусе, и выдают код ISO 639-1. Подходящий сценарий — определение языка отдельных коротких сообщений или документов и выбор модели под конкретный корпус. Модели обучались на текстах длиной 30–120 символов (для китайского, японского и корейского — 10–40 символов); на данных своего корпуса среднее взвешенное F1 составляет 0,939–0,995, а при переносе на другой корпус качество резко падает. Коллекция не покрывает языки за пределами заданных высокоресурсных языков, выдаёт одну метку на документ и не обрабатывает переключение языков внутри текста. Лицензия — CC BY-NC-SA 4.0.

LIMI — агентная языковая модель, разработанная GAIR и дообученная на базе GLM-4.5 с помощью компактного набора тщательно отобранных данных. Она предназначена для диалоговых агентных сценариев: вызова инструментов, выполнения инструкций, соблюдения спецификаций и исправления ошибок в многошаговых взаимодействиях. Модель использует архитектуру GLM-4 MoE, содержит 23,4 млрд параметров и поддерживает контекст до 131 072 токенов. В карточке заявлены английский язык и формат диалогов OpenAI messages с опциональными вызовами функций и инструментов. LIMI подходит для создания ассистентов, которые работают с инструментами и длинными диалоговыми траекториями. Авторы сообщают об оценке агентных возможностей на AgencyBench; в README приведены результаты для моделей LIMI на базе GLM-4.5, GLM-4.5-Air и GLM-4.5-Code, но не отдельные численные результаты именно этой 23,4-миллиардной версии. Модель распространяется под лицензией Apache-2.0. Она может ошибаться в аргументах вызова инструментов и переобучаться на часто встречающиеся схемы; для чувствительных областей необходимы защитные механизмы и контроль.

TheBloke/Llama-2-70B-AWQ — это 4-битная AWQ-квантизированная версия языковой модели Llama 2 70B, разработанной Meta и опубликованной сообществом TheBloke. Модель предназначена для генерации текста и поддерживает английский язык. Она создана на основе meta-llama/Llama-2-70b-hf и использует архитектуру семейства Llama с примерно 70 миллиардами параметров. Ключевая особенность модели — квантизация AWQ с групповым размером 128, выполненная на данных wikitext. Доступны шардированные safetensors-файлы, размер модели составляет около 36,61 ГБ, заявленная длина последовательности — 4096 токенов. Модель ориентирована на GPU-инференс и может использоваться через AutoAWQ или vLLM, включая серверные сценарии с параллельной обработкой запросов. К сильным сторонам относятся существенное снижение требований к видеопамяти и возможность запуска 70B-модели примерно на одной GPU с 48 ГБ памяти вместо двух GPU по 80 ГБ. По сравнению с полноразмерной моделью AWQ может упростить развертывание и снизить стоимость инфраструктуры. Ограничением является то, что производительность и совокупная пропускная способность могут быть ниже, чем у неквантизированной версии при использовании vLLM; кроме того, README не приводит подробных результатов оценки качества после квантизации. Модель распространяется по лицензии Llama 2.

Llama 3.1 Future Code Ja — языковая модель примерно на 7,5 млрд параметров, разработанная на основе Meta Llama 3.1. Она предназначена прежде всего для генерации и дополнения кода: модель прошла продолжительное предобучение на данных с кодом и преимущественно японским текстом, затем была объединена с instruct-вариантом Llama 3.1 и дообучена на инструкциях по программированию с помощью SFT и DPO. Модель поддерживает японский и английский языки, более 40 языков программирования, а также заполнение пропусков в коде с учётом контекста до и после пропуска (Fill-in-the-Middle). Контекст составляет до 131 072 токенов. Модель также справляется с общими инструкциями и задачами на японском и английском языках. В карточке приведены результаты тестирования генерации кода и языковых задач; они показывают сильные результаты в ряде сценариев, но не гарантируют качество для конкретного проекта. Модель не обучалась на специфичных данных организаций и нестандартных задачах разработки; её ответы могут содержать ошибки и требуют проверки. Для таких задач авторы рекомендуют дополнительное дообучение. Лицензия — Llama 3.1.

Llama-3.1-Nemotron-Ultra-253B-CPT-v1 — базовая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct и предназначенная для дальнейшей адаптации под конкретные приложения и предметные области. Это плотный декодерный Transformer с нестандартными блоками, выбранными методом Neural Architecture Search: в части блоков пропущено или заменено внимание, а слои FFN имеют разные пропорции и могут объединяться. Модель прошла дистилляцию и продолжительное предобучение; в README указано 253 млрд параметров, тогда как метаданные Hugging Face указывают 697,9 млрд. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык и задачи с кодом. NAS-архитектура уменьшает требования к памяти и повышает пропускную способность и задержку относительно родительской модели; README сообщает, что для инференса модель помещается на одном узле с 8 H100. Она сохраняет часть возможностей следования инструкциям родительской модели, но заявлена прежде всего как основа для дообучения, а не как специализированный чат- или reasoning-чекпойнт. NVIDIA заявляет готовность к коммерческому использованию. В метаданных лицензия обозначена как other; перед применением следует проверить условия лицензии и использования NVIDIA. Крупный размер модели требует мощной вычислительной инфраструктуры; возможности на русском языке в карточке не заявлены.

Это готовая к инференсу модель для генерации кода, дообученная методом supervised fine-tuning на базе meta-llama/Llama-3.2-3B-Instruct. В карточке указаны обучение на наборе llama3b_code_sft_data, упорядоченная подача данных и стратегия replay hard с коэффициентом 1,0; представлена контрольная точка на шаге оптимизатора 65. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 3,2 млрд параметров и рассчитана на контекст до 131 072 токенов. Она принимает текстовые запросы и генерирует текст, в том числе код; библиотека запуска — Transformers, веса опубликованы в формате safetensors. Языковая специализация в карточке не уточнена. Карточка называет модель готовой к инференсу, но не приводит оценок качества или подробностей о поддерживаемых языках программирования. Лицензия в предоставленных данных не указана.

Это финальная готовая к инференсу модель для генерации кода, созданная методом supervised fine-tuning на базе meta-llama/Llama-3.2-3B-Instruct. Разработчик обучал её на llama3b_code_sft_data с упорядоченной подачей примеров и равномерным повторным воспроизведением данных с коэффициентом 1,0; представлена версия на шаге оптимизатора 65. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и работает с контекстом до 131 072 токенов. Модель предназначена для генерации кода в диалоговом формате и готова к запуску через Transformers; веса доступны в формате safetensors. README не уточняет поддерживаемые языки программирования, результаты оценки качества или конкретные ограничения. Базовая модель распространяется по лицензии Llama 3.2 Community License; условия лицензии производной модели следует сверить с её репозиторием и лицензией базовой модели.

Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.

Llama-3-Patronus-Lynx-8B-Instruct-GGUF — это набор квантизированных версий инструкционной языковой модели Llama-3-Patronus-Lynx-8B-Instruct, разработанной Patronus AI. Данные сборки подготовлены пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и задач оценки, в частности для обнаружения галлюцинаций в ответах языковых моделей. Указан английский язык и текстовая модальность. Модель основана на архитектуре Llama 3 и имеет 8 млрд параметров. Доступны файлы в форматах GGUF с различными уровнями квантизации — от F32 и Q8_0 до Q2_K и IQ3_XS, что позволяет выбирать между качеством ответов и требованиями к оперативной памяти и дисковому пространству. Для работы рекомендуется использовать шаблон промпта Llama 3, приведённый в README. Размер файлов составляет примерно от 3,5 до 32,1 ГБ; варианты Q5 и Q6 отмечены как высококачественные, а Q4 — как сбалансированные по размеру и качеству. Сильными сторонами являются поддержка локального запуска через llama.cpp, широкий выбор уровней квантизации и специализация исходной модели на оценке ответов и выявлении галлюцинаций. Более агрессивная квантизация снижает требования к ресурсам, но может ухудшать качество. В README не указаны контекстное окно, точные характеристики архитектуры, результаты оценивания или дополнительные языки. Лицензия обозначена как CC, без уточнения конкретной версии.

NVIDIA Llama Nemoretriever ColEmbed 3B v1 — мультимодальная модель позднего взаимодействия для поиска документов по запросу. Она дообучена на основе мультимодальной архитектуры с SigLIP 2 Giant и Llama 3.2 3B и формирует ColBERT-подобные многовекторные представления: принимает текстовый запрос и текст или изображение страницы документа, возвращая числовые векторы для токенов. Модель предназначена для поиска по страницам с текстом, таблицами, графиками и инфографикой, в том числе в системах мультимодального RAG и кросс-модального поиска. По заявлению разработчика, модель заняла первые места на ViDoRe V1, ViDoRe V2 и MTEB VisualDocumentRetrieval в опубликованных на июнь 2025 года оценках. Для запуска указаны Transformers 4.49.0 и Flash Attention; README перечисляет TensorRT и Triton, Linux и GPU NVIDIA A100 или H100. Модель доступна только для некоммерческого и исследовательского использования. Она предназначена для извлечения релевантных документов и выдаёт эмбеддинги, а не готовые текстовые ответы; показатели качества относятся к указанным бенчмаркам.

LocalAI-io/LocalAI-Llama3.1-8b-Function-Call-v0.3 — дообученная модель семейства Llama 3.1, разработанная LocalAI-io на пользовательском датасете и данных Glaive. Она предназначена для диалогов с вызовом инструментов в LocalAI: в режиме инструментов модель формирует ответы в JSON, что подходит для работы с ограниченной грамматикой вывода. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров, принимает текст и выдаёт текст. Указанная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors; лицензия — llama3.

Карточка модели vllm-sr/lora_jailbreak_classifier_bert-base-uncased_model на Hugging Face совпадает с карточкой llm-semantic-router/lora_jailbreak_classifier_bert-base-uncased_model, поэтому описание составлено по ней. Это LoRA-адаптер для классификации текста на базе bert-base-uncased, опубликованный как часть проекта semantic-router. Модель дообучена для многозадачной классификации и рассчитана на применение в маршрутизации текстовых запросов; в README приведён пример пакетной классификации через semantic-router. Адаптер использует ранг 16 и alpha 16, а архитектура — BERT для классификации последовательностей. Репозиторий оптимизирован для работы с библиотекой Candle на Rust и содержит веса в формате safetensors. Общее число параметров базовой модели — 136,7 млн, контекст ограничен 512 токенами; основным языком карточки указан английский. Лицензия — Apache-2.0.

MaxViT Base TF 224 — модель классификации изображений из семейства MaxViT, разработанная авторами оригинальной работы и перенесённая из TensorFlow в PyTorch Россом Уайтманом для библиотеки timm. Модель обучена на ImageNet-21k и предназначена для классификации изображений и использования в качестве визуального backbone для извлечения признаков и эмбеддингов. Архитектура MaxViT сочетает блоки свёрток MBConv с двумя видами self-attention: оконным и сеточным. Веса рассчитаны на изображения размером 224 × 224; модель содержит около 135,5 млн параметров и требует 24,1 GMAC на проход. Репозиторий предоставляет веса в форматах PyTorch и safetensors. Модель подходит для распознавания объектов и категорий на изображениях, а также для построения признаков в последующих задачах компьютерного зрения. Лицензия — Apache-2.0.

mBART-50 — многоязычная модель Sequence-to-Sequence, разработанная исследователями Facebook AI. Она предварительно обучена восстанавливать текст после перестановки предложений и замены фрагментов маскирующими токенами; для машинного перевода модель расширили на 50 языков и обучали на многих направлениях перевода одновременно. Веса доступны в форматах PyTorch и TensorFlow; размер модели — около 457,4 млн параметров, контекст — до 1024 токенов. Модель предназначена прежде всего для дообучения под многоязычный машинный перевод, а также может адаптироваться к другим задачам преобразования текста. При работе используются специальные коды языка источника и целевого языка. Поддерживаются 50 языков, в том числе русский, английский, китайский, арабский и многие европейские и азиатские языки. Это базовая предварительно обученная модель, поэтому для практического перевода её обычно нужно дообучить на соответствующей задаче и языковых парах. Лицензия — MIT.

Это пакет слоёв GGUF модели MiniMax-M2.1-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса. Он получен из unsloth/MiniMax-M2.1-GGUF и сохраняет исходное распределение GGUF, разделённое на артефакты по слоям для запуска на кластере Mesh LLM. Пакет предназначен для локального и приватного диалогового инференса, объединения памяти и вычислительных ресурсов нескольких машин, а также для обслуживания запросов через локальный API, совместимый с OpenAI Chat Completions. Указан вариант квантования UD-Q4_K_XL. Детали архитектуры, число параметров, контекст, поддерживаемые языки и условия лицензии следует сверять с карточкой исходной модели.

Nondzu/Mistral-7B-code-16k-qlora — экспериментальная модель для генерации кода и помощи в роли copilot, созданная автором репозитория на основе семейства Mistral. В карточке указано обучение на наборе nickrosh/Evol-Instruct-Code-80k-v1 с шаблоном запросов Alpaca; модель имеет плотную архитектуру MistralForCausalLM и около 7,1 млрд параметров. Модель принимает текстовые инструкции и генерирует текстовые ответы, включая код. В README автор приглашает пользователей тестировать модель и приводит сравнение с исходной Mistral, поэтому качество и пригодность для конкретных задач следует оценивать на собственных примерах. Метаданные указывают контекст до 32 768 токенов; лицензия — Apache-2.0.

unsloth/Mistral-Nemo-Base-2407-bnb-4bit — это 4-битная версия базовой языковой модели Mistral Nemo, подготовленная Unsloth и предназначенная для работы с библиотекой Transformers. В README также упоминается вариант Mistral Nemo на 12 миллиардов параметров, однако точный размер именно этой сборки явно не подтверждён. Модель предназначена для дальнейшего дообучения и выполнения задач генерации и продолжения текста, включая настройку на собственных наборах данных. Unsloth предоставляет сценарии дообучения через Google Colab и заявляет снижение потребления памяти и ускорение процесса; модель также можно экспортировать в форматы GGUF и vLLM. Указан английский язык, но другие языки и мультимодальные возможности не описаны. Ключевая особенность сборки — 4-битное квантование в формате bnb, что снижает требования к памяти по сравнению с полноразмерной моделью, но может повлиять на точность. Архитектурные параметры, размер контекста, результаты оценки и ограничения применения в README не приведены. Модель распространяется по лицензии Apache-2.0.

MobileViT-v2 0.75 — модель классификации изображений и компактная визуальная основа, обученная авторами статьи на ImageNet-1k. Она содержит около 2,9 млн параметров и требует изображения размером 256 × 256 пикселей; архитектура сочетает мобильные сверточные блоки с механизмом self-attention, описанным в статье «Separable Self-attention for Mobile Vision Transformers». Модель предназначена для классификации изображений, извлечения карт признаков и получения визуальных эмбеддингов, в том числе в сценариях с ограниченными вычислительными ресурсами. Репозиторий распространяет веса в форматах PyTorch и safetensors. Лицензия обозначена как other; конкретные условия следует уточнить по лицензии репозитория.

MPT-7B — базовая языковая модель MosaicML на основе декодерного трансформера, обученная с нуля на 1 трлн токенов английского текста и кода. Это плотная модель с 6,7 млрд параметров и 32 слоями; она предназначена для генерации продолжений текста и кода и может служить основой для дальнейшего дообучения под конкретные задачи. В архитектуре используются FlashAttention и ALiBi вместо позиционных эмбеддингов. ALiBi позволяет обрабатывать длинные входы, однако карточка не задаёт фиксированный предел контекста для этого репозитория. Для загрузки через Transformers требуется включить trust_remote_code=True; модель использует код архитектуры MPT. Доступен формат PyTorch. Модель обучалась преимущественно на английских данных, поэтому её основное назначение — англоязычная генерация. Это базовая модель, не предназначенная для прямого применения в диалоге без дообучения и защитных механизмов; возможны фактические ошибки, предвзятые или оскорбительные ответы. Лицензия Apache-2.0 разрешает коммерческое использование.

Модель Data-Lab/multilingual-e5-large-instruct-embedder-tg — дообученный разработчиком Data-Lab Sentence Transformer на базе intfloat/multilingual-e5-large-instruct. Она кодирует предложения и абзацы в плотные векторы размерности 1024 для семантического сравнения текстов. Архитектура включает XLM-RoBERTa, mean pooling и нормализацию; сходство оценивается косинусной мерой. Максимальная длина последовательности — 512 токенов. Модель ориентирована на поиск похожих товаров по описаниям и другим текстовым запросам. Её можно применять для семантического поиска, поиска перефразировок, кластеризации, классификации текста и оценки сходства. В README приведён пример обучения на русскоязычных описаниях товаров; исходная multilingual E5 рассчитана на многоязычные тексты. В отчёте для набора Triplet указана точность cosine_accuracy 0,9285, но эти результаты не гарантируют такое же качество на других данных. Модель принимает текст и выдаёт векторные представления. Лицензия в предоставленных данных не указана.

WaveCut/Nanbeige4.2-3B-heretic-GGUF — набор GGUF-квантизаций модели WaveCut/Nanbeige4.2-3B-heretic, разработанный WaveCut. Модель предназначена для генерации текста, включая агентные и программные сценарии; в качестве примера использования приведено написание надёжного retry-хелпера на Python. Доступны варианты Q4_K_M, Q5_K_M, Q6_K и Q8_0, рассчитанные на разный баланс компактности, скорости и качества. Q4_K_M рекомендован как компактный вариант, Q5_K_M — как сбалансированный, Q6_K — как высококачественная K-квантизация, а Q8_0 — как почти без потерь. Nanbeige 4.2 использует циклический Transformer: 22 физических слоя выполняются дважды. Квантизации K-типа откалиброваны с помощью importance matrix на детерминированно перемешанном корпусе данных для агентных и программных задач. В README не указаны поддерживаемые языки и максимальная длина контекста. Для запуска требуется llama.cpp с поддержкой Nanbeige, проверенной на указанной ветке и ревизии либо более новой сборке с эквивалентной поддержкой. Основные преимущества модели — несколько вариантов квантизации, возможность выбрать компромисс между размером, скоростью и качеством, а также оптимизация калибровки под агентные и coding-сценарии. Ограничения включают зависимость от совместимой реализации llama.cpp и потенциальные потери качества, характерные для квантизованных вариантов; точные размеры файлов и результаты производительности в README не приведены. Модель распространяется по лицензии Apache-2.0.

ndpo4 — дообученная модель на 1,3 млрд параметров, созданная на базе deepseek-ai/deepseek-coder-1.3b-base и датасета generator. Она использует плотную архитектуру семейства Llama и предназначена для генерации текста; с учётом базовой модели может применяться для продолжения и автодополнения кода, а также заполнения пропусков в коде. Контекстное окно составляет до 16 384 токенов. Модель опубликована в формате safetensors. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели. README не содержит сведений об оценке качества или дополнительных ограничениях.

Это GGUF-квантизированная версия модели nomic-ai/nomic-embed-code, разработанной nomic-ai и подготовленной для распространения пользователем bartowski. Модель предназначена для построения векторных представлений исходного кода и связанных текстов, задач семантического поиска, определения сходства, извлечения признаков и других сценариев, где требуется сравнивать или индексировать программный код. В README также указана совместимость с экосистемой sentence-transformers и llama.cpp. Модель обучалась с использованием наборов данных cornstack для Python, JavaScript, Java, Go, PHP и Ruby. Точная архитектура, размерность эмбеддингов, максимальная длина контекста и полный перечень поддерживаемых языков в предоставленных данных не указаны. Доступны варианты от BF16 до различных уровней квантизации GGUF; размеры файлов составляют примерно от 3,11 до 14,15 ГБ. Более качественные варианты требуют больше памяти, а малые варианты предназначены для систем с ограниченными ресурсами и могут заметно уступать по качеству. Модель можно запускать через llama.cpp, LM Studio и другие проекты на базе llama.cpp. Указана лицензия Apache-2.0. README не содержит результатов бенчмарков, подробных сведений об ограничениях качества или инструкций по использованию эмбеддингов в конкретных библиотеках.

nomic-embed-code-i1-GGUF — GGUF-квантизированная версия модели nomic-ai/nomic-embed-code, подготовленная пользователем mradermacher. Это модель эмбеддингов для работы с исходным кодом, предназначенная для преобразования программного кода в векторные представления и решения задач семантического поиска, сравнения фрагментов кода, извлечения признаков и sentence similarity. Модель обучалась на наборах данных для Python, JavaScript, Java, Go, PHP и Ruby; в карточке также указан английский язык. Она распространяется в формате GGUF с различными вариантами квантизации i1, объёмом примерно от 1,8 до 5,9 ГБ. Архитектура, размер исходной модели, размерность эмбеддингов, поддерживаемая длина контекста и точные характеристики модальностей в README не указаны. Квантизация позволяет выбирать компромисс между размером, скоростью и качеством, однако наиболее компактные варианты могут заметно уступать по качеству; для некоторых конфигураций отдельно отмечены низкое качество или предпочтительность других вариантов. Модель подходит для локального использования в системах поиска и анализа исходного кода, включая retrieval-пайплайны и сравнение программных фрагментов. Ограничения связаны с отсутствием подробных сведений о производительности, бенчмарках, контексте и точных языковых гарантиях, а также с возможными потерями качества из-за квантизации. Модель распространяется по лицензии Apache-2.0.