II.10Разработка и эксплуатация AI/ML-систем

zeromodels/dino-vitb8 — преобразованная в формат Keras 3 версия модели facebook/dino-vitb8 от Facebook AI Research. Это Vision Transformer с архитектурой ViT-B/8, обученный методом самообучения DINO: модель сопоставляет представления разных фрагментов одного изображения без использования меток и возвращает токены и карты признаков, а не результаты специализированной классификационной головы. Реализация работает с TensorFlow, PyTorch и JAX. Модель предназначена для извлечения семантических признаков изображений и использования в качестве визуального бэкбона при обучении классификаторов и решении других задач компьютерного зрения. Лицензия — Apache 2.0.

dla46_c.in1k — компактная модель классификации изображений на основе архитектуры DLA (Deep Layer Aggregation), опубликованная авторами статьи и обученная на ImageNet-1k. Она содержит около 1,3 млн параметров и выполняет примерно 0,6 GMAC операций; стандартный размер входного изображения — 224 × 224 пикселя. Модель предназначена для классификации изображений, а также может использоваться как backbone для извлечения карт признаков и эмбеддингов изображений. Модель принимает изображение и выдаёт метки классов ImageNet-1k. Компактный размер и низкая вычислительная стоимость подходят для классификации и извлечения признаков при ограниченных ресурсах. Лицензия — BSD-3-Clause.

ECA-ResNet-T — свёрточная модель классификации изображений из библиотеки timm, разработанная для распознавания объектов на изображениях. Она обучена на ImageNet-1k по рецепту ResNet Strikes Back A2 и использует Efficient Channel Attention, остаточные связи и ступенчатый ствол из трёх слоёв свёртки 3×3 с пулингом. В модели 25,6 млн параметров и 4,3 GMACs; размер изображения при обучении — 224×224, при тестировании — 288×288 пикселей. Модель подходит для классификации изображений и извлечения признаков, в том числе карт признаков и эмбеддингов, которые можно использовать в последующих компьютерно-зрительных системах. Она принимает изображения и выдаёт метки классов или векторные представления. Обучение на ImageNet-1k ориентирует её на общецелевые категории этого набора данных. Модель распространяется по лицензии Apache-2.0.

Это компактная текстовая модель эмбеддингов для семантического поиска товаров по коротким, разговорным и содержащим опечатки запросам. Автор дообучил её на базе BAAI/bge-small-en-v1.5 для сопоставления поисковых запросов с названиями товаров в интернет-магазинах. Модель содержит около 40 млн параметров по метаданным, формирует векторы размерностью 384 с поддержкой сокращения до 256, 128 или 64 измерений и принимает контекст до 512 токенов. Модель предназначена для поиска по каталогам магазинов, включая Shopify и WooCommerce, а также для извлечения кандидатов перед дополнительным ранжированием. В тестах на Amazon ESCI она превзошла указанные в карточке базовые модели по метрикам поиска; размер вектора можно уменьшать, чтобы сократить индекс с небольшими потерями качества. Она рассчитана на английский язык и Amazon-подобные каталоги; перенос на другие товарные области не оценён. Для индексации рекомендованы названия товаров и, при необходимости, бренд, а не длинные описания. Лицензия — Apache 2.0.

Это компактная статическая модель эмбеддингов для семантического поиска товаров в каталогах интернет-магазинов. Её разработал albertobarnabo как дистилляцию дообученной модели ecommerce-product-search-embeddings с помощью model2vec; представления имеют размерность 256. Модель рассчитана на работу на CPU без GPU и без прохода трансформера, поэтому подходит для устройств с ограниченными ресурсами и высоконагруженного кодирования запросов и названий товаров. Модель сопоставляет короткий поисковый запрос с товарами по смыслу и предназначена для сценариев вроде поиска с автодополнением, поиска в каталогах Shopify и WooCommerce и пакетного построения эмбеддингов. В карточке приведены результаты оценки на тестовой выборке ESCI и указано, что скорость достигается ценой снижения качества относительно родительской модели и общего трансформера. Статические эмбеддинги не учитывают порядок слов, поэтому хуже работают с запросами, где важны порядок или отрицание. Модель распространяется по лицензии Apache-2.0.

timm/efficientnet_es.ra_in1k — сверточная модель классификации изображений семейства EfficientNet-EdgeTPU, представленная в библиотеке timm. Она обучена на ImageNet-1k с рецептом RandAugment, оптимизатором RMSProp с поведением TensorFlow 1.0, усреднением весов EMA и ступенчатым расписанием скорости обучения с разогревом. Модель содержит 5,4 млн параметров, требует изображения размером 224 × 224 и имеет вычислительную сложность 1,8 GMACs. Модель предназначена для отнесения изображений к классам ImageNet-1k, а также может использоваться как основа для извлечения признаковых карт и эмбеддингов изображений. Компактный размер и архитектура EfficientNet-EdgeTPU делают её применимой в сценариях классификации с ограниченными вычислительными ресурсами. Репозиторий содержит веса PyTorch и safetensors; использовать модель можно на условиях лицензии Apache-2.0. Оценка качества и поддержка иных наборов классов в карточке не описаны.

efficientnet_h_b5.sw_r448_e450_in1k — свёрточная модель EfficientNet для классификации изображений, опубликованная командой timm. Она обучена на ImageNet-1k; карточка описывает также извлечение карт признаков и получение эмбеддингов изображений. В модели 45,9 млн параметров и 27,2 GMACs. Размер изображения при обучении — 448 × 448 пикселей, при тестировании — 576 × 576. Модель предназначена для распознавания объектов на изображениях и может использоваться как энкодер признаков в компьютерном зрении. В README указаны оптимизатор AdamW, ограничение градиентов, усреднение весов EMA и косинусное расписание скорости обучения с разогревом. Распространяется под лицензией Apache-2.0.

EfficientViT-B3 — модель компьютерного зрения для классификации изображений и извлечения визуальных признаков. Её разработали авторы работы EfficientViT; модель обучена на ImageNet-1k и доступна в библиотеке timm. Модель содержит 48,6 млн параметров, обрабатывает изображения размером 256 × 256 пикселей и требует 5,2 GMAC на изображение. Помимо определения класса изображения, её можно использовать как backbone для получения карт признаков и эмбеддингов изображений. Модель принимает изображения и выдаёт метки классов либо визуальные представления. Репозиторий содержит веса PyTorch и safetensors. Лицензия — Apache-2.0.

tardellirs/embeddinggemma-pt-br-128k — португалоязычная модель для создания текстовых эмбеддингов, полученная из google/embeddinggemma-300m. Разработчик сократил словарь токенизатора до 128 тысяч токенов, обрезав матрицу эмбеддингов токенов; трансформерный энкодер и слои pooling и Dense сохранены без изменений. В репозитории указаны 202,1 млн параметров в метаданных и около 207 млн в README. Модель предназначена для семантического поиска, сравнения предложений и других сценариев, где нужны векторные представления текста на португальском языке. README приводит результат MTEB(por) mean_16 0,7192 — 99,1% результата исходной модели при меньшем размере. Контекст модели — 2048 токенов; для использования подходят Sentence Transformers и text-embeddings-inference. Это артефакт сокращения словаря, а не дообучение: README сообщает, что обучение не проводилось. Модель распространяется по лицензии Gemma; качество за пределами португальских задач не подтверждено, а сокращение словаря может ограничивать работу с текстами на других языках.

EVA Large Patch14 196 — модель зрения для классификации изображений и извлечения визуальных признаков, опубликованная авторами EVA в библиотеке timm. Она содержит около 304,1 млн параметров и рассчитана на входные изображения размером 196 × 196 пикселей. Модель предварительно обучена на ImageNet-22k с помощью masked image modeling и учителя EVA-CLIP, затем дообучена авторами статьи на ImageNet-1k. Модель подходит для присвоения изображению меток классов и получения эмбеддингов изображений, а также может служить визуальным backbone в системах компьютерного зрения. Репозиторий содержит веса PyTorch и Safetensors; контрольные точки timm сохранены в float32. Лицензия — MIT.

Это GGUF-квантизированная версия Falcon Coder 3B, подготовленная mradermacher на основе anthonylee991/falcon-coder-3b. Модель предназначена для генерации кода и диалоговой работы с запросами о программировании. В метаданных отмечены архитектурное семейство Falcon и размер базовой модели 3B; репозиторий содержит статические квантизации TQ1_0 и TQ2_0 в формате GGUF. Базовая модель дообучена на наборах CodeFeedback-Filtered-Instruction, Magicoder-OSS-Instruct-75K и Magicoder-Evol-Instruct-110K. Карточка указывает английский язык, а лицензия репозитория — Apache-2.0. Доступны варианты с разным балансом размера и скорости; README не приводит сравнительных оценок качества, поэтому возможности конкретных квантованных вариантов могут различаться.

Frontis-MA1-35B — открытая модель с весами от OpenMLE для агентного машинного обучения и автоматизированного исследования ML-экспериментов. Она дообучена на базе Qwen/Qwen3.6-35B-A3B методом полного SFT с последующим обучением с подкреплением по результатам исполнения программ. Архитектура — мультимодальная модель условной генерации с гибридным MoE-текстовым блоком; всего 35 млрд параметров, активируется около 3 млрд. Репозиторий содержит веса в формате BF16 Transformers. Модель предназначена для генерации и итеративного улучшения кода ML-экспериментов в связке с OpenMLE-Evo или совместимой изолированной средой. Она обучена четырём операциям над программами: созданию решения, улучшению по результатам исполнения, отладке и объединению решений. В опубликованных экспериментах система с поисковым контуром улучшила результаты на MLE-Bench Lite относительно базовой модели; эти оценки относятся к модели вместе с внешним поисковым контуром, а не к одиночной генерации. Контекст базовой конфигурации составляет 262 144 токена, однако SFT использовал отсечение на 32 768 токенов, и более длинный контекст не проверен с той же тщательностью. Постобучение и оценки охватывают работу с текстом и кодом, но не подтверждают улучшение или полноценную проверку возможностей зрения и MTP. Сгенерированный код может быть ошибочным, небезопасным или ресурсоёмким; его следует запускать в изолированной среде с ограничениями ресурсов. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями некоммерческого характера.

meetkai/functionary-small-v2.4 — языковая модель MeetKai для диалогов с вызовом функций и плагинов. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель выбирает, когда вызывать инструменты, извлекает имена функций и аргументы из их JSON Schema-описаний, может запускать вызовы последовательно или параллельно и формировать ответы с учётом результатов. Она также поддерживает обычные ответы без вызова инструментов и сценарии с интерпретатором кода. В README приведён результат 83,07% точности вызова функций на наборе SGD для версии small-v2.4. Для форматирования диалога предусмотрен шаблон v2PromptTemplate; в карточке рекомендуется запуск через OpenAI-совместимый сервер vLLM. Доступный репозиторий использует формат safetensors. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.

fuse-1 Lite — языковая модель для генерации текста с усиленными возможностями программирования, разработанная Akahsizrr. Она объединяет базовую модель LiquidAI/LFM2.5-2.6B с перенесёнными экспертами для кода из Qwen/Qwen3.6-35B-A3B и обучаемым маршрутизатором, который выбирает экспертов для токенов, связанных с программированием. В метаданных указано 2,6 млрд параметров, а в README — 5,72 млрд; README описывает архитектуру Fuse3 с экспертными дополнениями, тогда как в метаданных архитектура обозначена как dense. Контекст — до 131 072 токенов; модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для генерации кода, помощи при программировании и агентных сценариев. README сообщает, что базовые веса и эксперты заморожены, а обучались только маршрутизатор и масштабы экспертных слоёв на 55 примерах, поэтому качество маршрутизации может быть нестабильным на разнообразных задачах. Для загрузки требуется доверенное выполнение пользовательского кода модели (`trust_remote_code=True`); README также отмечает ограничения совместимости с vLLM и необходимость специальной поддержки для вариантов GGUF. Лицензия — Apache-2.0.

Gallium-350M — компактная языковая модель для генерации кода и рассуждений о программировании, созданная на базе LiquidAI/LFM2.5-350M. Это плотная авторегрессионная модель семейства LFM2; метаданные указывают 443,4 млн параметров, формат safetensors и контекст до 128 000 токенов. Модель принимает текстовые запросы и выдаёт текстовые ответы в диалоговом формате. Модель дообучена на наборе Banaxi-Tech/Deepseek-V4-Reasoning-Code-2500 с помощью SFT, затем дополнительно обучена методом GRPO. Она предназначена для генерации фрагментов и длинных программ по описанию на естественном языке, выполнения инструкций, ответов на вопросы по программированию и рассуждений над кодом. Карточка заявляет поддержку основных языков программирования, но естественный язык в метаданных указан как английский. Разработчик характеризует модель как экспериментальную и предупреждает, что её следует использовать с учётом этого статуса. Заявления о повышении качества и снижении галлюцинаций исходят из карточки модели и не сопровождаются здесь независимыми оценками. Лицензия указана как other; конкретные условия использования следует сверить с лицензией репозитория.

DiTy/gemma-2-9b-it-function-calling-GGUF — дообученная модель на базе Google Gemma 2 9B Instruct, созданная для вызова функций и инструментов в диалогах. Она обучена на англоязычном наборе DiTy/function-calling с разметкой, выполненной людьми, и может выбирать подходящую функцию, формировать вызов и продолжать диалог после получения результата функции. Модель относится к плотной архитектуре Gemma2ForCausalLM, содержит 9 млрд параметров и поддерживает контекст до 8192 токенов. Для работы с инструментами рекомендуется использовать chat template модели и передавать историю диалога и описания функций в ожидаемом формате. Доступны веса safetensors и GGUF в формате F16. Модель ориентирована на англоязычные запросы и сценарии, где языковая модель должна взаимодействовать с внешними функциями, например вызывать API или инструменты приложения. Это генеративная модель, поэтому ей нужен внешний код для выполнения вызовов и передачи результатов обратно в диалог; README приводит оценку validation loss, но не описывает гарантии точности в прикладных условиях. Лицензия — Apache-2.0.

unsloth/gemma-2b-it-bnb-4bit — квантизированная 4-битная версия Gemma 2B Instruct, опубликованная Unsloth на базе библиотеки Transformers. Модель предназначена для генерации и обработки текста, включая диалоговые сценарии, выполнение инструкций, дообучение на пользовательских датасетах и задачи классификации текста. Известно, что модель относится к семейству Gemma и содержит около 2 млрд параметров; поддерживаемый язык — английский. Она использует формат 4-bit BitsAndBytes (bnb), что снижает требования к памяти и делает модель более подходящей для локального запуска и эффективного дообучения. README также указывает на возможность экспорта дообученных версий в GGUF и использования с vLLM, однако размер контекста и подробности архитектуры не указаны. Сильными сторонами являются компактность, сниженное потребление памяти и возможность ускоренного дообучения с помощью инструментов Unsloth. Ограничениями выступают англоязычная специализация, отсутствие сведений о качестве на конкретных бенчмарках и неопределённость характеристик контекста. Модель распространяется по лицензии Apache-2.0.

AMD разработала эту модель как 4-битную квантизированную версию Gemma 4 12B IT от RedHatAI. Она предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC, прежде всего в Linux-среде с использованием vLLM и оптимизаций ZenDNN. Указанный язык — английский. Модель построена на архитектуре Gemma4UnifiedForConditionalGeneration и имеет размер 12 миллиардов параметров в исходной версии. Для весов применяется GPTQ-квантизация W4A16: веса хранятся в формате INT4, симметрично и по группам размера 128, а активации остаются в BF16. Визуальные и аудиокомпоненты, мультимодальный проектор и lm_head сохранены в BF16, однако в карточке явно описан сценарий с текстовым вводом и выводом. Калибровка выполнена на 128 примерах датасета ultrachat_200k при максимальной длине последовательности 2048 токенов; в конфигурации оценки использовался максимальный контекст 4096 токенов. Ключевое преимущество модели — снижение требований к памяти и возможность оптимизированного инференса на AMD CPU при сохранении высокой близости к BF16-базовой версии: на GSM8K она получила 0,9249 против 0,9401 у BF16, то есть восстановила 98,38% результата. Ограничения связаны с зависимостью от конкретного программного стека и аппаратной платформы: заявлена совместимость с AMD EPYC, ZenDNN 6.1.0, ZenTorch 2.11.0.3, PyTorch 2.11.0, LLM Compressor 0.12.0 и vLLM 0.26.0. Для оптимальной производительности требуется настройка OpenMP через LD_PRELOAD. Модель распространяется по лицензии Gemma.

istupakov/gigaam-v3-onnx — это набор моделей автоматического распознавания речи, преобразованных в формат ONNX из GigaAM v3. Разработчик конвертации — istupakov; исходная модель указана как ai-sage/GigaAM-v3, а связанные модели GigaAM разработаны командой Salute Developers. Модель предназначена для преобразования русской речи из WAV-аудио в текст и интеграции с библиотекой onnx-asr. Доступны варианты на архитектурах CTC и RNN-T, включая версии E2E CTC и E2E RNN-T с расстановкой пунктуации и нормализацией текста. Модели ориентированы на русский язык и поддерживают выполнение через ONNX, в том числе с CPU. Размер модели, максимальная длина контекста, точные требования к аудио и другие архитектурные характеристики в README не указаны. Преобразование в ONNX может быть удобно для развёртывания и инференса в совместимых средах, однако ограничения исходной GigaAM v3 и различия между вариантами CTC и RNN-T требуют выбора модели под конкретный сценарий. Лицензия — MIT.

Это пакет слоёв GGUF для модели GLM-5.3-Flash, подготовленный Mesh LLM из unsloth/GLM-5.3-Flash-GGUF. Вариант UD-Q4_K_XL разделяет исходное распределение модели на артефакты по слоям для распределённого инференса в локальном кластере Mesh LLM. Пакет предназначен для локального и приватного запуска чат-модели, распределения вычислений и памяти между несколькими машинами, а также для чат-запросов через локальный API, совместимый с OpenAI. Модель принимает текстовые запросы и выдаёт текстовые ответы; задача в каталоге — генерация текста. Репозиторий распространяется по лицензии MIT.

GLM-5.3-Flash-UD-Q4_K_XL-layers — пакет слоёв модели GLM-5.3-Flash для распределённого инференса в Mesh LLM. Пакет подготовлен на основе unsloth/GLM-5.3-Flash-GGUF: исходный GGUF разделён на артефакты по слоям, чтобы запускать модель на нескольких машинах, объединяя их память и вычислительные ресурсы. Вариант пакета — UD-Q4_K_XL; репозиторий содержит файлы в формате GGUF и предназначен для локального запуска. Модель рассчитана на диалоговую генерацию текста, приватный локальный инференс и обслуживание запросов через совместимый с OpenAI API Mesh LLM. Разбиение по машинам подходит для случаев, когда полный GGUF не помещается на одном узле. В метаданных указаны библиотека mesh-llm и лицензия MIT. Подробности об архитектуре исходной модели, контекстном окне и языках следует сверять с карточкой исходной модели.

Gorilla OpenFunctions v1 — языковая модель семейства Llama, разработанная проектом Gorilla при UC Berkeley. Она преобразует инструкции на естественном языке и контекст доступных API в структурированные вызовы функций: выбирает подходящую функцию и формирует аргументы в JSON. Версия v1 поддерживает выбор между несколькими функциями и параллельные вызовы. Модель содержит 6,6 млрд параметров, принимает и генерирует текст, имеет контекст длиной 4096 токенов и представлена в формате PyTorch. Она предназначена для интеграции с API и помощниками, которым нужно выполнять действия через вызовы функций. В карточке не описаны поддерживаемые языки и специальные ограничения качества. Модель и данные для её обучения выпущены под лицензией Apache 2.0.

Модель mayank-mishra/granite-3b-code-glaive-20k — дообученная Mayank Mishra языковая модель для генерации текста в задачах программирования и помощи с кодом. Она основана на ibm-granite/granite-3b-code-base и обучена на подмножестве из 20 тысяч примеров набора Glaive Code Assistant v3. Модель имеет плотную архитектуру LlamaForCausalLM с 3,5 млрд параметров и контекстом 2048 токенов. Она принимает текст и генерирует текст; карточка не задаёт конкретные языки программирования или естественные языки. Распространяется в формате Safetensors под лицензией Apache-2.0.

Hemlock2-Coder-7B-GRPO — дообученная методом GRPO модель для генерации кода, разработанная на основе hemlang/Hemlock2-Coder-7B. Во время обучения ответы модели выполнялись в изолированной среде интерпретатора Hemlock и оценивались по совпадению стандартного вывода с проверенным эталоном. Используется архитектура Qwen2ForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Доступны веса safetensors и квантованный вариант GGUF Q8_0. Модель предназначена для генерации и исправления кода, в том числе задач с проверкой результата выполнением. В описанном тесте Hembench она улучшила pass@1 с 28,9% до 36,8% относительно базовой модели; наибольший прирост отмечен для синтаксиса и системного кода с конкурентностью. Лицензия — Apache-2.0. README сообщает о тестировании на небольшом наборе примеров (n=5), поэтому приведённые показатели не гарантируют аналогичного качества на других задачах.

HOS-OSS-3.08B — компактная причинная языковая модель от Hyggshi-AI для генерации текста и кода. Она основана на Qwen2.5-Coder-3B-Instruct и, согласно карточке, адаптирована или дистиллирована; метаданные классифицируют её как дообучение. Архитектура — плотный decoder-only трансформер семейства LLaMA, около 3,3 млрд параметров; модель поставляется в формате safetensors и работает с Transformers. Модель предназначена для генерации кода, выполнения инструкций, диалоговых ответов и локального ассистента. В карточке заявлены быстрая генерация, умеренные требования к ресурсам и запуск на GPU начального уровня или в Kaggle и Colab. Естественный язык, указанный в метаданных, — английский. Контекст составляет 2048 токенов. Лицензия — Apache-2.0.

Instruct-codegen-16B — модель генерации кода, разработанная на основе Salesforce CodeGen-16B-multi и дообученная на 250 тысячах примеров с инструкциями в формате Alpaca. Она предназначена для генерации кода по текстовым запросам и выполнения инструкций, связанных с программированием. Модель использует архитектуру CodeGenForCausalLM; размер — 16 млрд параметров, контекст — до 2048 токенов. В README указан результат 37,1% pass@1 на бенчмарке HumanEval. Модель принимает текстовые инструкции и выдаёт текст, в том числе код. Данные для дообучения, согласно карточке, не генерировались коммерческими LLM API. Репозиторий содержит веса PyTorch и распространяется по лицензии BSD-3-Clause. Языки программирования и показатели качества на других задачах в карточке не перечислены.

INTELLECT-3-Q4_K_M-layers — англоязычная модель генерации текста, основанная на zai-org/GLM-4.5-Air-Base и представленная в формате GGUF. Репозиторий содержит разделённые по слоям файлы для распределённого обслуживания через mesh-llm; модель также поддерживает диалоговый режим и запускается с библиотекой llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев при распределённом обслуживании. В метаданных указана связь с базовой моделью как finetune, однако README описывает прежде всего формат и способ развёртывания, не уточняя характер дообучения. Репозиторий лицензирован по MIT.

Jais-30b-v3 — двуязычная предварительно обученная большая языковая модель, разработанная Core42 (Inception) совместно с Cerebras Systems. Она предназначена для генерации текста на арабском и английском языках, а также для дальнейшей адаптации под прикладные задачи, например чат-ассистентов и обслуживание клиентов. Модель содержит 30 млрд параметров и обучена на 1,6 трлн токенов, включая арабские, английские и программные данные. Архитектура — декодерный Transformer с SwiGLU и позиционными представлениями ALiBi, помогающими работать с длинными последовательностями. Модель принимает текст и генерирует текст; для загрузки через Transformers требуется пользовательский класс модели и параметр trust_remote_code=True. Модель оптимизирована для арабского и английского языков и не гарантирует сопоставимого качества на других языках. Ответы могут быть неверными, вводящими в заблуждение или предвзятыми; модель не следует использовать без контроля человека для важных медицинских, юридических, финансовых и иных критически значимых решений. Лицензия — Apache 2.0.

Jan-code-4b-GGUF — это квантизированная версия языковой модели Jan-code-4b, разработанной janhq. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста и ориентирована на сценарии работы с кодом и агентами. Модель доступна в формате GGUF с вариантами квантизации от BF16 и Q8_0 до более компактных Q2–Q6 и IQ-вариантов. Размер файлов составляет примерно от 1,98 до 8,83 ГБ. В README указана поддержка английского языка. Архитектура, максимальная длина контекста, точное число параметров и поддерживаемые модальности не описаны; по назначению и формату это текстовая авторегрессионная модель. Сильной стороной является широкий выбор уровней квантизации, позволяющий подобрать баланс между качеством, требованиями к памяти и скоростью работы. В качестве рекомендуемых указаны Q4_K_M, Q5_K_M, Q6_K и близкие варианты. Модель можно запускать через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты, однако для новых поддерживаемых архитектур может потребоваться обновление программного обеспечения. Лицензия — Apache-2.0.

jina-embeddings-v5-text-nano-classification — компактная мультиязычная модель эмбеддингов, разработанная Jina AI для задач классификации текста. Она входит в семейство jina-embeddings-v5-text и создана на основе jinaai/jina-embeddings-v5-text-nano с применением дистилляции и контрастивного обучения, ориентированного на конкретную задачу. Модель содержит 239 млн параметров, поддерживает последовательности длиной до 8192 токенов и формирует эмбеддинги размерностью 768. Используется pooling по последнему токену; доступны матрёшечные размерности 32, 64, 128, 256, 512 и 768, что позволяет выбирать компромисс между качеством, размером вектора и скоростью обработки. Модель предназначена прежде всего для классификации и может применяться в многоязычных сценариях анализа текста. Для работы доступны интеграции с sentence-transformers, vLLM и специальной веткой llama.cpp для формата GGUF; заявлена поддержка Transformers и Elastic Inference Service. Конкретный перечень языков и подробные результаты оценки в карточке не указаны. Модель распространяется по лицензии CC BY-NC 4.0, поэтому её использование ограничено некоммерческими целями.