II.10Разработка и эксплуатация AI/ML-систем

Veritas-8B-Fact-Checker-Non-Thinking-1.0 — модель Resect Research Labs для проверки фактической согласованности и фактчекинга. Она дообучена на базе Qwen/Qwen3-8B и предназначена для выдачи бинарной классификации в заданном шаблоне проверки утверждений и ответов. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 7,6 млрд параметров и поддерживает контекст до 40 960 токенов. Карточка сообщает об оценке 75,47% на агрегированном бенчмарке LLM-AggreFact и приросте 2,3% относительно Qwen3-8B в режиме non-thinking; результаты могут зависеть от аппаратуры и версии vLLM. Модель рассчитана строго на предписанный режим оценки с бинарным выводом. Отклонение от заданного шаблона может привести к неожиданным результатам. Лицензия — Apache-2.0.

Это модель Vision Transformer (ViT) для классификации изображений и извлечения признаковых представлений. Она обучена авторами исследования на ImageNet-21k с дополнительной аугментацией и регуляризацией в JAX, а затем перенесена в PyTorch Россом Уайтманом. Модель содержит около 102,6 млн параметров и рассчитана на изображения размером 224 × 224 пикселя. Модель подходит для определения содержимого изображений и получения эмбеддингов для последующей обработки. Она доступна через библиотеку timm; веса представлены в форматах PyTorch и safetensors. Лицензия — Apache-2.0.»,»summary_ru»:»ViT — модель для классификации изображений и извлечения признаков, обученная на ImageNet-21k.»,

vit_base_patch16_siglip_gap_384.v2_webli — визуальный энкодер SigLIP 2 на архитектуре ViT, опубликованный в библиотеке timm. Модель принимает изображения и извлекает их признаки; вариант gap использует глобальное среднее объединение признаков и не содержит головы attention pooling. Модель обучена на наборе WebLI и предназначена для получения визуальных представлений, которые можно использовать в системах поиска изображений и других конвейерах извлечения признаков. Это только визуальная часть модели, а не полный мультимодальный энкодер изображений и текста. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — Apache 2.0.

Модель OpenVINO/whisper-large-v3-turbo-fp16-ov подготовлена OpenAI на основе Whisper large-v3-turbo и преобразована в формат OpenVINO IR с весами FP16. Архитектура Whisper имеет около 905 млн параметров; в варианте large-v3-turbo число слоёв декодера сокращено с 32 до 4, что ускоряет распознавание при небольшом снижении качества. Модель предназначена для преобразования речи в текст на многих языках. Её можно использовать для расшифровки аудиозаписей и транскрибирования речи в приложениях на базе OpenVINO; совместимость указана для OpenVINO 2026.1.0 и выше и Optimum Intel 1.27.0 и выше. Модель принимает аудио и выдаёт текст. Поддерживает русский, английский и множество других языков. Распространяется по лицензии MIT. В README отмечено, что качество может быть несколько ниже, чем у полной Whisper large-v3; прочие ограничения отсылают к карточке исходной модели.

RedHatAI/whisper-large-v3-turbo-FP8-dynamic — это квантизированная версия модели openai/whisper-large-v3-turbo, разработанная Neural Magic. Модель преобразует аудио в текст и предназначена для автоматического распознавания речи, включая транскрибацию аудиозаписей и обработку аудиовходов в приложениях, использующих vLLM. Для развёртывания требуется vLLM версии 0.5.2 или новее; также поддерживается OpenAI-совместимый режим сервинга через vLLM. Архитектура основана на whisper-large-v3-turbo и включает аудио-текстовый вход и текстовый выход. Веса и активации квантизированы в формате FP8 с динамической схемой квантизации; выходной lm_head не квантизируется. README не указывает точный размер модели, максимальную длину контекста и полный список поддерживаемых языков, однако приводит тег языка en и оценки для англоязычной транскрибации и перевода на английский. Ключевое преимущество модели — снижение вычислительных затрат при сохранении качества исходной модели: на LibriSpeech показатель WER составляет 2,2611 на test-clean и 4,3247 на test-other в конфигурации FP8. На test-clean результат сопоставим с BF16, а на test-other немного уступает ему. Ограничения включают зависимость от совместимого стека vLLM и отсутствие в README подробных данных о качестве на других языках и сценариях. Модель распространяется по лицензии Apache-2.0.

ClankLabs Wrench-35B-A3B-Q4_K_M-GGUF — квантизированная GGUF-версия модели Wrench 35B, разработанная ClankLabs на основе Qwen/Qwen3.5-35B-A3B. Это MoE-модель с 35 млрд общих и примерно 3 млрд активных параметров, дообученная методом LoRA для агентных сценариев, вызова инструментов и функций, восстановления после ошибок, планирования и точного следования системным инструкциям. Заявлена поддержка английского языка и генерации текста. Модель ориентирована на локальное развертывание в Ollama или llama.cpp, а также на использование через Clank Gateway. Ключевые возможности включают многошаговые задачи, параллельные и составные вызовы функций, обнаружение нерелевантных запросов, соблюдение форматов инструментов и безопасное ограничение действий. Внутренний тест Clank Agentic Benchmark дал 118 из 120 баллов, а на независимом BFCL non_live/AST модель получила 82,0% — 1128 правильных ответов из 1390. Контекстное окно составляет 8192 токена и может быть расширено до 32K. Модель распространяется по лицензии Apache 2.0. Используется квантизация Q4_K_M в формате GGUF; размер файла указан примерно как 20 ГБ, при этом заявлена возможность запуска на видеокарте с 16 ГБ VRAM. Обучение проводилось на двух NVIDIA H100 80GB примерно за один час на 1252 примерах из 15 категорий. Ограничения включают преимущественную ориентацию на английский язык, зависимость качества инструментальных вызовов от среды исполнения и заметно более низкую точность в отдельных категориях BFCL, включая простые вызовы на Java и JavaScript.

Карточка модели 01-ai/Yi-Coder-1.5B на Hugging Face совпадает с карточкой 01-ai/Yi-Coder-9B-Chat, поэтому описание составлено по ней. Yi-Coder-9B-Chat — диалоговая модель для генерации кода, выпущенная командой 01.AI как часть серии Yi-Coder. Она дообучена на базе 01-ai/Yi-Coder-9B и построена на плотной архитектуре семейства Llama с 8,6 млрд параметров. Модель предназначена для программирования в формате чата: она может писать код по запросу и работать с длинным контекстом до 131 072 токенов. Серия Yi-Coder заявляет поддержку 52 распространённых языков программирования и сильные результаты в задачах кодирования при размере менее 10 млрд параметров. Модель загружается через Transformers и использует формат safetensors. Лицензия — Apache-2.0. Карточка не приводит ограничений на качество или конкретных рекомендаций по использованию, поэтому ответы сгенерированного кода следует проверять перед применением.

ENTUM-AI разработала AgentRouter — компактную модель классификации намерений для маршрутизации запросов к языковым моделям и инструментам. Она относит запрос к одной из 10 фиксированных категорий, включая генерацию и отладку кода и математические рассуждения, чтобы агентная система могла выбрать подходящий инструмент или модель. Модель построена на архитектуре BERT и предназначена для классификации текста на английском языке. В README указана основа MiniLM с 33 млн параметров, тогда как метаданные каталога сообщают об архитектуре BertForSequenceClassification и 40 млн параметров. Контекст ограничен 512 токенами. README заявляет задержку менее 5 мс на GPU и возможность запуска на CPU, но не приводит методику измерений. AgentRouter подходит для маршрутизации запросов в агентных системах, выбора специализированных моделей и оптимизации стоимости или задержки обработки. Лицензия — Apache-2.0. Модель ограничена английским языком и десятью фиксированными категориями намерений; качество классификации за пределами этих категорий не описано.

AlchemistCoder-DS-6.7B — разговорная модель для генерации кода из семейства AlchemistCoder, разработанного авторами исследования «AlchemistCoder: Harmonizing and Eliciting Code Capability by Hindsight Tuning on Multi-source Data». Это плотная авторегрессионная модель архитектуры LlamaForCausalLM с 6,6 млрд параметров и контекстом до 16 384 токенов; она предназначена для генерации кода и выполнения инструкций, связанных с кодом. Модель дообучена на разнотипных источниках данных объёмом 200 млн токенов. В обучении использовались специальные подсказки для согласования стилей и качества данных, а также задания на понимание кода, развитие инструкций, фильтрацию данных и ревью кода. Авторы сообщают о результатах на тестах генерации кода и общих способностей; эти заявления приведены в README и сами по себе не гарантируют качество на конкретных задачах. Модель распространяется в формате PyTorch по лицензии Apache-2.0. README не уточняет базовую модель, поддерживаемые языки программирования и языки естественного общения.

Algolia-large-multilang-generic-v2410 — мультиязычная модель эмбеддингов компании Algolia, предназначенная для поиска и извлечения релевантных результатов в электронной коммерции. Это дообученная модель на базе OrdalieTech/Solon-embeddings-large-0.1 с архитектурой XLM-RoBERTa и примерно 658,7 млн параметров. Репозиторий содержит веса в форматах Safetensors и ONNX; модель принимает текстовые запросы и документы, а её контекст составляет 514 токенов. Модель рассчитана на семантический поиск по товарам и другим материалам электронной коммерции на английском, французском, немецком, испанском и русском языках. Для запроса README рекомендует добавлять префикс «query: », а документы подавать без специальных инструкций. Модель выпущена под лицензией MIT.

Arch-Function-7B — языковая модель компании Katanemo для вызова функций и взаимодействия с API по запросам на естественном языке. Она основана на Qwen/Qwen2.5-Coder-7B-Instruct и дообучена для работы с описаниями функций: разбирает сигнатуры, определяет необходимые параметры и формирует структурированный вывод для вызова функции. Модель относится к семейству Qwen2, имеет плотную архитектуру и 7,1 млрд параметров; поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель предназначена для построения чат-ассистентов, которые выбирают подходящие инструменты, заполняют аргументы функций и помогают автоматизировать обращения к API и внутренним системам. Карточка описывает её как рассчитанную на низкую задержку и высокую пропускную способность, а примеры рекомендуют использовать специальный формат промпта Katanemo для получения JSON-подобных вызовов. Основной язык в метаданных — английский. Лицензия указана как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Arch-Router-1.5B — компактная языковая модель для маршрутизации запросов между различными LLM. Она разработана Katanemo на базе Qwen/Qwen2.5-1.5B-Instruct и предназначена для использования в многомодельных системах, включая открытый AI-native proxy Arch. Модель анализирует пользовательский запрос и выбирает наиболее подходящий маршрут с учётом заданных предпочтений. В основе маршрутизации лежит сопоставление запроса с доменом и действием: доменом может быть, например, программирование, право или здравоохранение, а действием — генерация кода, суммаризация, перевод или бронирование. Маршруты описываются пользователем и связываются с предпочтительными моделями или их вариантами. Модель возвращает название наиболее подходящего маршрута в заданном JSON-формате, а при отсутствии релевантного маршрута может выбрать специальный маршрут other. Ключевые характеристики модели: размер 1,5 млрд параметров, текстовая модальность, архитектура и формат совместимы с использованием через transformers, заявленный язык — английский. Она ориентирована на низкую задержку и высокую пропускную способность, поддерживает прозрачную и настраиваемую маршрутизацию, а добавление новых доменов и действий не требует переобучения маршрутизатора. Ограничения включают зависимость качества от корректных описаний маршрутов и рекомендованного формата промпта; сведения о размере контекстного окна в README не указаны. Лицензия обозначена как katanemo-research.

BERT large Japanese v2 — языковая модель, разработанная командой Tohoku NLP и предварительно обученная на японских текстах из CC-100 и японской Википедии. Она предназначена для построения систем понимания японского языка и дообучения под задачи классификации, извлечения информации и другие задачи обработки текста. Модель основана на архитектуре BERT Large: 24 слоя, размер скрытого представления 1024, 16 голов внимания и около 436,2 млн параметров. Тексты токенизируются с помощью MeCab и словаря Unidic 2.1.2, затем разбиваются на WordPiece-токены; словарь содержит 32 768 токенов. При предварительном обучении применялась маскировка целых слов. Контекст ограничен 512 токенами; доступны веса PyTorch, TensorFlow и Flax. Модель рассчитана на японский язык и подходит как базовый чекпойнт для последующей адаптации. Это предварительно обученная модель BERT, а не готовый генеративный чат-ассистент. Распространяется по лицензии Apache-2.0.

google/bert_uncased_L-4_H-768_A-12 — компактная англоязычная модель BERT, выпущенная Google в составе набора BERT Miniatures и описанная в исследовании о предварительном обучении компактных моделей. Это плотный Transformer-энкодер с 4 слоями, скрытым размером 768 и 12 головами внимания; в модели около 61,2 млн параметров, она принимает последовательности длиной до 512 токенов. Модель обучена для английского языка без учёта регистра с WordPiece-маскированием и доступна в форматах PyTorch и Flax. Она предназначена для задач понимания текста и дообучения под конкретные задачи, например классификацию предложений и оценку сходства. По сравнению с крупными вариантами BERT она требует меньше вычислительных ресурсов; авторы отмечают, что особенно эффективна при дистилляции с метками от более крупной модели-учителя. Это базовый энкодер, поэтому для прикладной задачи обычно требуется подходящая голова и дообучение. Лицензия — Apache-2.0.

BTL-3 Compact — компактная локальная текстовая модель Bad Theory Labs для программирования, рассуждений и работы с инструментами. Она основана на Qwen3.6-27B и выпущена в виде файла GGUF размером 8,39 ГБ с архитектурой из 64 слоёв и сжатым представлением AVQ2/UniSVQ, дополненным точечными более точными тензорами и коррекциями поведения. Модель предназначена для локального запуска через llama.cpp, включая сценарии с агентами, репозиториями и OpenAI-совместимым сервером. Карточка сообщает о поддержке структурированного и многошагового вызова инструментов и приводит внутреннюю оценку сохранения 62 из 63 проверенных вариантов поведения; это не публичный бенчмарк. Рекомендованный режим — без включённого рассуждения: экспериментальный режим с ним может зацикливаться или не завершать ответ, а проверка для задач программирования в этом режиме не пройдена. Контекст зависит от памяти устройства, KV-кэша и ресурсов среды выполнения. Проверена работа на macOS arm64 с Metal; поддержка Linux arm64 и CUDA обозначена как предварительная. Лицензия — Apache-2.0.

Это перепакованная для vLLM модель распознавания речи reson8/canary-1b-v2-vllm на основе NVIDIA Canary-1B-v2. Репозиторий содержит веса исходной модели в формате safetensors, приведённые к bfloat16, и конфигурацию для загрузки через архитектуру cohere_asr в vLLM 0.19.0. Архитектура включает энкодер Conformer и 8-слойный декодер Transformer; в README указано около 1 млрд параметров, тогда как метаданные репозитория содержат значение 151 млн. Модель предназначена для транскрибации речи и развёртывания за OpenAI-совместимым API vLLM, включая endpoint /v1/audio/transcriptions. Базовая Canary-1B-v2 поддерживает распознавание на 25 европейских языках и перевод речи между английским и другими языками из этого набора; конкретно для этой перепаковки метаданные перечисляют 21 язык. Лицензия — CC BY 4.0, унаследованная от исходного релиза NVIDIA. Это преобразованная упаковка исходных весов, а не новая обученная модель. Репозиторий не загружается напрямую через Transformers AutoModelForSpeechSeq2Seq: для него нужны веса с исходными ключами NeMo и совместимая реализация vLLM. Поведение, точность и ограничения наследуются от NVIDIA Canary-1B-v2.

CodeGen-Mono 16B — авторегрессионная языковая модель для синтеза программного кода, разработанная Salesforce. Вариант Mono инициализирован из CodeGen-Multi 16B и дополнительно обучен на наборе BigPython, содержащем 71,7 млрд токенов кода на Python. Размер модели — 16 млрд параметров; архитектура — плотная CodeGenForCausalLM, формат весов — PyTorch, контекст — 2048 токенов. Модель предназначена для генерации исполняемого кода по подсказкам на естественном языке, представленным в виде комментариев, а также для продолжения частично написанного кода. В карточке приведена оценка на HumanEval и MTPB. Лицензия — BSD-3-Clause. Модель может ошибаться и не оценивалась для всех вариантов применения; перед использованием результата следует проверять код. Разработчик выпустил её для исследовательских целей в поддержку академической статьи и рекомендует учитывать вопросы точности, безопасности и справедливости.

Code Llama 70B — авторегрессионная языковая модель семейства Llama, разработанная Meta. Этот репозиторий содержит базовую версию модели в формате Transformers с 68,7 млрд параметров; она предназначена для генерации и понимания кода и поддерживает автодополнение кода. Модель принимает текст и генерирует текст, использует плотную архитектуру Transformer и имеет контекстное окно 16 384 токена. Модель подходит для дополнения фрагментов кода и адаптации к задачам синтеза и анализа программ. Это базовая версия: она не настроена для диалогов и следования инструкциям, а специализированная версия для Python и infilling в карточке не отмечены. Модель предназначена для английского языка и языков программирования; README предостерегает от использования на других естественных языках. Возможны неточные или нежелательные ответы, поэтому перед внедрением нужна проверка для конкретного сценария. Использование регулируется лицензией Meta Llama 2, указанной в метаданных; условия лицензии следует соблюдать.

Coding Monkey Gemma GGUF — модель, разработанная TheOneWhoWill на базе Gemma 4 12B. Это дообученная версия, ориентированная на генерацию кода и надёжное использование инструментов в агентских сценариях, включая вызовы функций, работу с базами данных, knowledge graph, shell-командами и терминальными действиями. Модель предназначена для локальной разработки и запуска на системах с ограниченным объёмом VRAM. Дообучение выполнено методом QLoRA на 5 211 примерах, преимущественно связанных с function calling и агентскими задачами. По данным README, на отложенном наборе из 102 запросов точность корректного вызова инструментов составила 70,6% против 26,5% у базовой модели, а валидность формата достигла 98%. Доступны варианты в формате GGUF с квантованием fp16, Q8_0, Q6_K, Q5_K_M и Q4_K_M; в примере использования указан контекст до 32 768 токенов. Сильная сторона модели — улучшенная генерация структурированных вызовов инструментов и пригодность для локальных coding-agent систем. Ограничения включают специализацию на tool calling и кодировании, возможное снижение качества при сильном квантовании, а также отсутствие в README подробных сведений о поддерживаемых языках, мультимодальности и комплексных результатах бенчмарков. Модель распространяется по лицензии Apache-2.0.

Compactor-Qwen3.5-4B — модель Schneewolf Labs для сжатия контекста агентных диалогов. Она принимает историю сообщений, которая будет удалена при компактизации, и создаёт краткое резюме, сохраняющее задачу, найденные сведения и текущее состояние работы. Модель предназначена для вспомогательного запуска в egirl: основной агент продолжает работать в своём контексте, а отдельная компактная модель подготавливает сводку. Это плотная причинно-языковая модель семейства Qwen3.5 с архитектурой Qwen3_5ForCausalLM и 3,4 млрд параметров; максимальный контекст — 262 144 токена. Чекпойнт получен слиянием LoRA-адаптера ранга 64 с Lazarus-Ai/ReAligned-Qwen3.5-4B и опубликован в safetensors для Transformers. Автор сообщает о проверке на 45 отложенных окнах: в каждом сводном тексте присутствовала строка задачи, а полнота сохранения фактов выросла относительно базовой модели. Проверка охватывала транскрипты одного оператора и агентное программирование; применимость к другим областям не подтверждена. Среди ограничений автор отмечает обучение на разметке, подготовленной по суждениям GPT-5, и отсутствие сравнения с другими эпохами обучения. Лицензия — Apache-2.0.

convnext_large.dinov3_lvd1689m — модель извлечения признаков изображений из библиотеки timm. Это ConvNeXt Large с 196,2 млн параметров, предварительно обученная на наборе LVD-1689M методом самообучения DINOv3 и дистиллированная из DINOv3 ViT-7B. Для входных изображений указан размер 224 × 224. Модель предназначена для получения признаков и эмбеддингов изображений, а также может использоваться как основа для классификации. Такие представления подходят для построения поисковых и классификационных систем компьютерного зрения. Репозиторий содержит веса PyTorch и Safetensors; для работы используется timm. В карточке указана лицензия DINOv3. Число операций составляет 34,4 GMACs; этот вычислительный объём следует учитывать при развёртывании. Данных о языковой поддержке нет, поскольку модель работает с изображениями.

Это англоязычный CSR Sparse Encoder, созданный дообучением модели mixedbread-ai/mxbai-embed-large-v1 на наборе Natural Questions с использованием библиотеки Sentence Transformers. Модель преобразует запросы, предложения и абзацы в разреженные векторы размерности 4096; близость оценивается скалярным произведением. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и разреженного извлечения документов, в том числе поиска ответов по коллекции текстов. В карточке приведены оценки на задачах NanoBEIR и отдельных наборах BEIR. Она поддерживает английский язык и распространяется по лицензии Apache-2.0. Результаты поиска могут зависеть от предметной области и корпуса; карточка не заявляет поддержку других языков.

Карточка модели TechxGenus/CursorCore-QW2.5-1.5B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.

deepvk/deberta-v1-base — предварительно обученный двунаправленный энкодер DeBERTa, разработанный deepvk для русского языка. Модель обучена на задаче masked language modeling на корпусе примерно из 400 ГБ очищенных и дедуплицированных текстов: Википедии, книг, комментариев, новостей, субтитров и других источников. В обучающих данных преобладает русский язык, также присутствует небольшая доля других языков. Модель содержит 12 слоёв энкодера, 12 голов внимания и размерность представлений 768; всего около 151,8 млн параметров. Она принимает текст и извлекает контекстные векторные представления для последующего дообучения или использования в NLP-задачах. Это только энкодер без предварительно обученной задачи-специфичной головы, поэтому для классификации и других прикладных задач обычно требуется добавить и обучить соответствующую голову. Максимальная длина контекста — 512 токенов. В карточке приведены результаты оценки на русскоязычном наборе Russian SuperGLUE. Модель распространяется под лицензией Apache 2.0.

Decision-2.0-Kai-0.6B — плотная модель с 0,6 млрд параметров из семейства Decision 2.0, разработанная для vLLM Semantic Router и дообученная на базе Qwen/Qwen3-0.6B-Base. Она принимает текст или JSON и за один проход отвечает на вопросы выбора из нескольких вариантов, даёт ответ «да/нет» или оценку по шкале. Для каждого возможного ответа возвращается вероятность; модель предназначена для классификации без генерации текста. Контекст составляет 8 192 токена. В карточке сообщается о результатах на JevArena и наборе из 15 задач с разметкой людьми, а также о возможности одновременно обрабатывать несколько вопросов к одному входу. Для одного вопроса указана медианная задержка 4,9 мс на одном GPU; это результат карточки, а не гарантия производительности в других конфигурациях. Модель распространяется в формате safetensors по лицензии Apache-2.0.

DeepSeek-Coder-V2-Instruct-0724-GGUF — это квантизированная в формате GGUF версия большой MoE-модели для генерации текста и программного кода DeepSeek-Coder-V2-Instruct-0724. Исходную модель разработала команда deepseek-ai, а GGUF-квантизацию подготовил bartowski на основе llama.cpp версии b3715. Модель предназначена прежде всего для задач, связанных с написанием и обработкой кода, однако конкретные поддерживаемые языки программирования, размер, длина контекста и другие архитектурные параметры в README не указаны. Модель можно использовать в инструментах, поддерживающих формат GGUF и шаблон запросов Jinja, в частности в LM Studio. Квантизация делает модель пригодной для локального запуска при наличии совместимого программного обеспечения и подходящих аппаратных ресурсов, но README не содержит сведений о точных требованиях, вариантах квантизации, производительности или качестве на отдельных задачах. Как и другие генеративные модели, она может создавать неточные или неподходящие ответы. Указана лицензия DeepSeek License; тип лицензии обозначен как other, а полный текст доступен в файле LICENSE. Дополнительные сведения о том, что изменилось относительно исходной модели, в README отсутствуют.

DeepSeek-Coder-V2-Lite-Instruct-IMat-GGUF — это набор GGUF-квантизованных версий модели DeepSeek-Coder-V2-Lite-Instruct, подготовленный legraphista с использованием llama.cpp. Исходная модель имеет формат BF16, а представленные варианты включают BF16, FP16 и уровни квантизации от Q8_0 до 1-битных форматов. Для ряда вариантов применена IMatrix-квантизация на основе указанного калибровочного набора данных. Модель предназначена для генерации текста и, прежде всего, для задач программирования и диалогового использования в совместимых средах, включая llama.cpp. Доступны файлы размером примерно от 6,43 до 31,42 ГБ; конкретный объём зависит от выбранного формата. GGUF-варианты позволяют выбирать компромисс между качеством, требованиями к памяти и скоростью работы, однако README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях или размере контекста. Лицензия указана как deepseek-license; дополнительные условия находятся в файле LICENSE. README не приводит подробностей о сравнительных преимуществах, известных ограничениях или результатах оценки, поэтому качество и пригодность конкретного варианта следует оценивать с учётом выбранного уровня квантизации и используемой аппаратной конфигурации.

mzeglars/dummy-cyclic-gpt2-ov — синтетическая тестовая модель GPT-2, созданная для проверки интеграции OVMS и OpenVINO GenAI. Это не полноценная языковая модель: она независимо от входного запроса детерминированно генерирует фиксированное предложение «OpenVINO is an open-source toolkit created by Intel to speed up and run AI models efficiently.» и затем корректно завершает генерацию токеном EOS. Модель реализована на базе GPT2LMHeadModel с одним слоем трансформера, одной attention-head и размером скрытого состояния 32. Она предназначена для задач text-generation, поддерживает библиотеку OpenVINO и заявленный контекст до 131072 токенов. При включении ignore_eos=True модель может бесконечно повторять фиксированное предложение, что удобно для стресс-тестирования потоковой генерации и обработки длинного вывода. Сильные стороны модели — минимальный размер, высокая скорость, воспроизводимость и полностью детерминированное поведение. Она не понимает естественный язык, не адаптируется к содержанию промпта и непригодна для диалогов, ответов на вопросы или генерации произвольного текста. Модель распространяется по лицензии Apache 2.0; веса созданы вручную и не используют предварительно обученные веса исходной модели.

Это модель определения языка устной речи на основе ECAPA-TDNN от SpeechBrain, обученная на VoxLingua107. Репозиторий содержит неизменённые веса исходной модели speechbrain/lang-id-voxlingua107-ecapa, упакованные в формат GGUF для запуска через loom.cpp и loom-py-rt. На вход модель принимает аудиоклип и выдаёт распределение вероятностей по 107 языкам. Модель предназначена для автоматического определения языка речи в аудиозаписи, например для предварительной сортировки клипов или выбора последующей языковой обработки. Аудио должно быть монофоническим с частотой 16 кГц; каждый клип нужно подавать отдельным вызовом, поскольку пакет с дополненными тишиной клипами не поддерживается. Модель обучена на речи из YouTube, поэтому чистых фрагментов в несколько секунд обычно достаточно, но близкие языки могут путаться — рекомендуется учитывать несколько верхних результатов. Лицензия репозитория — Apache-2.0.

Falcon3-7B-Base — предварительно обученная базовая языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный трансформер с причинным декодером и 7,1 млрд параметров, доступный в формате safetensors для Transformers. Модель обучена на данных из веба, кода, STEM, высококачественных и многоязычных источников и поддерживает английский, французский, испанский и португальский языки. Модель предназначена для генерации текста и служит основой для последующей адаптации под конкретные сценарии: README отмечает задачи рассуждения, понимания языка, следования инструкциям, программирования и математики. Контекстное окно — до 32 768 токенов; архитектура включает 28 блоков декодера и grouped-query attention. Это базовая, а не instruct-версия, поэтому для большинства пользовательских задач рекомендуется дополнительное дообучение. Модель распространяется по лицензии TII Falcon-LLM License 2.0.