III.2Исследование рынка и маркетинг

Карточка модели OrpheraAI/whisper-large-v3-turbo на Hugging Face совпадает с карточкой openai/whisper-large-v3-turbo, поэтому описание составлено по ней. Whisper large-v3-turbo — мультиязычная модель распознавания речи OpenAI на архитектуре Transformer encoder-decoder. Это дообученная и ускоренная версия Whisper large-v3: число слоёв декодера сокращено с 32 до 4, что ускоряет вывод с небольшим снижением качества. Модель содержит 905,2 млн параметров и работает с аудио; она поддерживается библиотекой Transformers. Модель предназначена для преобразования речи в текст на языке оригинала и перевода речи между языками, включая перевод на английский. Она обучалась на более чем 5 млн часов размеченных данных и демонстрирует обобщение на новые наборы данных и предметные области. Для длинных записей требуется обработка последовательными окнами или разбиение аудио на сегменты; воспринимаемое окно составляет 30 секунд. Модель может ошибаться, добавлять слова, которых нет в аудио, и повторять фрагменты. Точность различается между языками, акцентами и диалектами и может быть ниже для языков с ограниченными обучающими данными. Лицензия — MIT.

Hercules-1.0-Mistral-7B — диалоговая языковая модель на основе Mistral-7B, дообученная Locutusque на наборах Hercules и OpenOrca. Она предназначена для генерации ответов в диалоге и других текстовых задач; метаданные также отмечают поддержку сценариев с кодом. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Автор позиционирует её как улучшенную версию OpenHermes-7B и сообщает о сопоставимом качестве с OpenHermes 2; приведены результаты сравнения и тестовая потеря, но подробности протокола оценки в карточке не раскрыты. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Qwen3-VL-8B-Instruct (Abliterated) — модифицированная мультимодальная vision-language модель на базе Qwen3-VL-8B-Instruct. В README разработчик исходной модели не указан. Модель дообучена для следования инструкциям и, согласно описанию, дополнительно подвергнута abliteration — удалению защитных ограничений и фильтрации контента. Модель предназначена для анализа изображений, графиков, схем, скриншотов и документов, визуального ответа на вопросы, генерации описаний изображений, OCR, извлечения и понимания текста, обработки отсканированных форм и многошагового визуального рассуждения. Поддерживает мультимодальные диалоги, включая многоходовое взаимодействие с визуальным содержимым. Заявлены мультиязычность, включая английский и китайский языки, а также контекст до 32 тысяч токенов с учётом текстовых и визуальных токенов. Архитектура описана как Vision Transformer encoder в сочетании с языковым decoder на базе Qwen3-8B; размер языковой модели — около 8 миллиардов параметров. Доступны варианты в форматах safetensors и GGUF, включая FP16, Q8_0 и Q4_K_M, что позволяет запускать модель через Transformers, llama.cpp, Ollama или LM Studio на системах с разным объёмом памяти. Сильными сторонами являются поддержка изображений и документов, OCR, визуальное рассуждение и наличие квантованных вариантов. Ограничение модели — отсутствие встроенных защитных механизмов, поэтому её ответы требуют дополнительного контроля и могут быть небезопасными. Лицензия — Apache-2.0.

CataLlama-v0.1-Instruct-SFT — чат-модель на архитектуре Llama 3, разработанная Лаурентиу Петреа и дообученная методом SFT на наборе catallama/Catalan-Instruct. Это второй этап обучения CataLlama; модель получила около 445 млн новых токенов за три этапа обучения. Она предназначена прежде всего для работы с каталонским языком: извлечения сведений из документов, распознавания именованных сущностей, перевода между каталонским и английским, краткого и подробного пересказа, анализа тональности и диалогов по инструкциям. Модель имеет 7,5 млрд параметров, использует авторегрессионный трансформер и принимает текстовые запросы; длина контекста составляет 8192 токена. В карточке приведены результаты MMLU 55,28 и GSM8K 51,63, а также validation loss 0,8528 после двух эпох; автор отмечает, что модель создана для демонстрации адаптации LLM к новым языкам, а не для лидерства в бенчмарках. Лицензия — Llama 3 Community License. README содержит ограничение на использование не на английском языке, хотя модель специально дообучена для каталонского; перед применением следует учитывать условия лицензии и политики использования Llama 3.

DNA3.0-2B — мультимодальная модель Dnotitia на основе Qwen/Qwen3.5-2B, дообученная с использованием uncensored- и persona-training. Она предназначена для диалогов, аналитических рассуждений, помощи в программировании и понимания изображений; также поддерживает интерфейс вызова инструментов. Модель имеет 2 млрд параметров, плотную архитектуру и принимает текст и изображения, выдавая текст. README заявляет поддержку 201 языка и диалектов и контекст до 262 144 токенов с расширением примерно до 1 010 000 токенов через YaRN. Модель обучена отвечать с меньшим числом отказов и учитывать корпоративные знания и терминологию Dnotitia, поэтому подходит для ассистента по продуктам и внутреннему контексту компании. Унаследованные от базовой модели мультимодальные возможности позволяют разбирать изображения в диалоге. Модель распространяется по лицензии Apache-2.0. Сниженное число отказов может привести к выдаче нежелательных ответов; корпоративная настройка способна смещать ответы в пользу точки зрения Dnotitia. Возможны галлюцинации и унаследованные от базовой модели пробелы и предубеждения. README не рекомендует применять модель для автономных решений в критически важных областях без надзора и профильной проверки.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая версия модели Qwen3.8-27B, опубликованная пользователем biennequants на основе модели DavidAU. В README указаны языки английский и китайский, а также варианты GGUF-квантования с точностью 4 и 8 бит, включая версии с MTP и imatrix. Модель создана с применением методов Cold Fusion, Fable Fusion и инструментов Unsloth; заявленная цель — повысить способности к рассуждению и программированию, сократить объём внутренних рассуждений и ускорить генерацию на потребительском оборудовании. Модель предназначена для решения общих задач, анализа и рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Автор заявляет о высоких результатах на тестах ARC-C и ARC-E, превосходстве базовых моделей в ряде бенчмарков и сохранении близкой производительности 4-битной версии к 8-битной, однако эти показатели представлены в README и не подтверждены независимой проверкой. К сильным сторонам относятся сокращённое «мышление», высокая детализация ответов и доступность квантованных вариантов для локального запуска; ограничения включают отсутствие точных сведений о размере контекста, мультимодальных возможностях и системных требованиях, а также потенциально неконтролируемый или откровенный характер ответов, на что указывают обозначения uncensored и heretic. Лицензия — Apache-2.0.

DeepSeek V4 Flash 0731 for one DGX Spark — это квантованная сборка модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и упакованная пользователем 0xSero. Модель предназначена для генерации текста и программного кода, структурированного вывода и работы через OpenAI-совместимый API. В README указана архитектура mixture-of-experts; сборка использует REAP pruning, формат EXL3/Trellis и точность около 3,0 bpw. Модель рассчитана на развёртывание на одном NVIDIA DGX Spark с GPU GB10/SM121 и 128 ГБ унифицированной памяти. Заявленный предел контекста составляет 262 144 токена. Для запуска требуется специализированный ARM64-совместимый runtime SparkInfer и опубликованный Docker-образ; стандартные vLLM, ExLlamaV3 и простой запуск с tensor parallelism 1 не поддерживаются для этого rank-sliced артефакта. Поставляемый runtime выполняет преобразование TP4-чекпойнта в TP1 и поддерживает CUDA Graphs и speculative decoding. К сильным сторонам относятся возможность локального запуска крупной MoE-модели на одном DGX Spark, проверенная генерация текста и кода, поддержка строгих JSON-схем и длинного контекста. Ограничения — жёсткая зависимость от конкретного оборудования и закреплённого runtime, значительный объём загрузки и дискового пространства, а также не полностью достигнутый целевой порог стабильной скорости декодирования: в одном из пяти измерений получено 34,30 токена в секунду. Лицензия модели указана как MIT.

Higgs Audio v3 STT — модель распознавания речи в текст от автора репозитория erik-at-boson. Она объединяет энкодер Whisper-Large-v3 с дообученными в версии v2 слоями внимания и декодер Qwen3-1.7B; всего в модели 2,68 млрд параметров. Модель принимает монофонические WAV-аудиозаписи с частотой 16 кГц и предназначена для транскрибации речи. Для повышения точности поддерживается режим Thinking. Карточка описывает обновлённые веса и обновлённый набор данных для дообучения, включающий публичные обучающие части AMI, VoxPopuli, SPGISpeech, LibriSpeech, TED-LIUM, GigaSpeech и Earnings22. В репозитории также приведён скрипт транскрибации с детерминированным подавлением повторов слов и фраз. Для загрузки требуется включить trust_remote_code=True и установить библиотеку boson_multimodal для предварительной обработки аудио. Модель распространяется по лицензии Apache-2.0.

Это копия мультимодальной модели Qwen3-Omni, опубликованная chibifire в формате safetensors для Transformers. В README указана исходная модель Qwen/Qwen3-Omni-30B-A3B-Instruct; архитектура использует схему Mixture of Experts Thinker-Talker. Модель принимает текст, изображения, аудио и видео, а выдаёт потоковые текстовые ответы и речь. Она предназначена для многоязычных мультимодальных диалогов и задач, где нужно совместно понимать разные типы входных данных и отвечать текстом или голосом. Репозиторий содержит веса, конфигурации модели и генерации, шаблон чата, конфигурацию препроцессора и токенизатор. Лицензия — Apache-2.0. README направляет за инструкциями по установке и вариантами голосов к карточке исходной модели; размер контекста и перечень поддерживаемых языков в предоставленных данных не приведены.

Shuttle-2.5-mini — языковая модель компании ShuttleAI Inc., созданная дообучением Mistral-Nemo-Base-2407. Модель построена на плотной архитектуре Mistral с 12,1 млрд параметров по метаданным; в README указано 13 млрд. Она предназначена для сложного диалога, многоязычного общения, рассуждений, ролевых сценариев и агентных задач. Поддерживает чат и использует формат запросов ChatML. Модель доступна в формате Safetensors и распространяется по лицензии Apache 2.0. README указывает контекстное окно базовой модели 128 тысяч токенов, тогда как метаданные каталога приводят 1 024 000 токенов нативного контекста; это расхождение требует проверки перед использованием длинного контекста. Shuttle-2.5-mini обозначена как бета-версия; заявленные многоязычные и агентные возможности описаны без подробных результатов оценки.

asthrabala/whisper-medium-finetuned — модель автоматического распознавания речи семейства Whisper с 455,8 млн параметров. Она опубликована для использования с библиотекой Transformers и предназначена для преобразования аудиозаписей в текст. Модель подходит для транскрибации голосовых сообщений, интервью, встреч, лекций и других аудиоматериалов. README не содержит сведений о конкретном языке или наборе данных, на котором выполнялось дообучение, поэтому языковую специализацию и качество на отдельных типах аудио определить нельзя. В карточке модели не указаны разработчик, лицензия, результаты оценки, ограничения по применению и подробности обучения. Перед использованием в критически важных сценариях необходимы собственная проверка качества и уточнение условий лицензирования.

llm-jp-3-13b-instruct — инструкция-настроенная языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии; разработка частично поддержана GENIAC. Это плотная Transformer-модель семейства Llama с архитектурой LlamaForCausalLM, примерно 13,2 млрд параметров и контекстом 4096 токенов. Модель обучалась на смеси данных, включающей японские источники, а затем дообучалась на наборах инструкций, в том числе вручную составленных японских инструкциях. Модель предназначена для диалогов и выполнения инструкций: она может отвечать на вопросы, помогать с письмом, рассуждениями, извлечением информации и задачами на японском языке. В README приведена оценка Japanese MT Bench для версии 13B instruct; это ориентир по набору тестов, а не гарантия качества в конкретном применении. Метаданные также указывают английский и японский языки. Разработчики предупреждают, что модель находится на раннем этапе исследований и разработок и не настроена для надёжного соответствия намерениям человека и требованиям безопасности. Для распространения указана лицензия Apache-2.0.

dealignai выпустила MiniCPM5-2B-CRACK-JANG_8M — дообученную версию openbmb/MiniCPM5-2B в формате MLX для запуска на Apple Silicon через vMLX. Это плотная Llama-совместимая языковая модель с 2,2 млрд параметров и контекстом до 131 072 токенов; модель принимает и генерирует текст, поддерживает английский и китайский языки, режим рассуждения с включением и выключением, а также вызов инструментов через XML. Модель предназначена для диалогов, программирования, рассуждений и тестирования поведения при удалённом отказе от ответов: README сообщает, что механизм отказов удалён на уровне весов. В карточке приведены результаты MMLU и HarmBench для этой сборки. Модель поставляется в 8-битном MLX-бандле JANG8M и заявлена как бесплатная для macOS; лицензия — Apache-2.0. Это текстовая модель без поддержки изображений. Поскольку поведение отказов удалено, модель может выдавать ответы на опасные запросы; применяйте её с учётом этого ограничения.

Whisper Tiny — компактная предварительно обученная модель распознавания речи семейства Whisper, разработанная OpenAI. Это трансформерная архитектура «энкодер—декодер» с 29,4 млн параметров, обученная на больших массивах размеченной речи с масштабным слабым контролем. Модель принимает аудио и генерирует его текстовую расшифровку; семейство Whisper также поддерживает перевод речи, но метаданные этой модели указывают только задачу распознавания речи. Модель подходит для транскрибации речи на множестве языков, включая русский, а также для распознавания аудио с акцентами, фоновым шумом и технической лексикой. Базовая длительность входного аудиофрагмента — до 30 секунд; длинные записи можно обрабатывать с разбиением на фрагменты. Модель может выдумывать слова, которых нет в аудио, повторять текст, а качество распознавания неодинаково для разных языков, акцентов и диалектов. Распространяется по лицензии Apache-2.0.

Карточка модели Salahuddin1234/omnidoctor-qwen-omni на Hugging Face совпадает с карточкой Qwen/Qwen3-Omni-30B-A3B-Instruct, поэтому описание составлено по ней. Qwen3-Omni-30B-A3B-Instruct — мультимодальная модель общего назначения от команды Qwen компании Alibaba. Она принимает текст, изображения, аудио и видео и формирует потоковые ответы текстом и естественной речью; вариант Instruct включает компоненты Thinker и Talker. Архитектура MoE использует разделение на Thinker и Talker, а модель рассчитана на низколатентное взаимодействие в реальном времени и управление поведением через системные промпты. Модель предназначена для голосовых диалогов, распознавания и понимания речи, описания аудио и видео, а также ответов на вопросы по изображениям и смешанным мультимодальным входам. README заявляет поддержку 119 языков для текста, 19 языков для речевого ввода и 10 для речевого вывода; среди явно перечисленных языков речи есть русский. В примере запуска указан максимальный контекст 65 536 токенов. Для работы предлагаются Transformers и vLLM; README отмечает, что на момент публикации требовалась установка Transformers из исходников. Лицензия в метаданных обозначена как other, без уточнения условий.

Synthia-S1-27b — диалоговая мультимодальная модель Tesslate AI, дообученная на базе Gemma 3 27B IT. Она предназначена для рассуждений, программирования, творческого письма и ролевых сценариев; принимает текст и изображения и формирует текстовые ответы. В карточке заявлен контекст до 128 тысяч токенов и максимальная длина ответа 8192 токена. Архитектура — плотный decoder-only Transformer с 27 млрд параметров; указаны bf16 и int8-квантизация, а в репозитории доступен формат safetensors. Модель обучали на веб-документах, примерах отладки и решения задач по программированию, а также на математических решениях. Автор приводит результаты ограниченных проверок GPQA Diamond и части MMLU Pro и отмечает, что оценки требуют более полного бенчмаркинга. Лицензия — Gemma. Модель может требовать подробных инструкций для узких задач и иногда галлюцинирует в малоизученных областях.

odunola/lfm-350m — это зеркальная публикация модели LFM2.5-350M от Liquid AI. Веса не изменены; в репозитории обновлён tokenizer_config.json, чтобы Transformers мог разбирать простые ответы ассистента и вызовы инструментов. Это плотная гибридная языковая модель LFM2 с 444,6 млн параметров по метаданным, 16 слоями и контекстом 128 000 токенов по метаданным. Она принимает и генерирует только текст; README описывает её как универсальную инструкционную модель для локального запуска и устройств с ограниченными ресурсами. Модель предназначена для извлечения данных, формирования структурированных ответов и вызова инструментов. Она поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. README указывает скорость до 313 токенов в секунду на AMD CPU и запуск менее чем с 1 ГБ памяти, однако эти показатели зависят от оборудования и условий измерения. Для работы доступны Transformers и другие среды вывода. Модель дообучена на LiquidAI/LFM2.5-350M-Base и выпущена под лицензией LFM Open License v1.0. README не рекомендует её для задач, требующих обширных знаний, и программирования; контрольная дата знаний — середина 2024 года.

llm-jp-3-1.8b-instruct — инструктивная версия языковой модели семейства llm-jp-3, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная авторегрессионная Transformer-модель архитектуры LlamaForCausalLM с 1,7 млрд параметров по метаданным и контекстом до 4096 токенов. Репозиторий распространяет веса в формате Safetensors для Transformers. Модель предназначена для диалогов и выполнения текстовых инструкций, включая ответы на вопросы, написание текстов и простые рассуждения. Она обучалась на смеси данных, включая японские источники, и дообучалась на японских инструктивных наборах; метаданные также указывают английский и японский языки. В оценках авторов она показала улучшение относительно базовой версии llm-jp-3-1.8b на ряде задач, однако результаты ограничены указанными тестовыми выборками. Разработчики отмечают, что семейство находится на раннем этапе исследований и разработок и не настроено для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

muhtasham/Phi-3.5-vision-instruct_20240915_223241 — дообученная версия мультимодальной Phi-3.5-vision-instruct от Microsoft. В карточке указано, что модель обучалась на датасете со средним размером 1,8 млн, но его название не приведено. Модель предназначена для диалоговой генерации текста. Базовая модель поддерживает работу с текстом и изображениями, включая ответы на вопросы по изображениям, OCR, анализ документов и суммирование видеоклипов по кадрам; README не уточняет, сохраняются ли все эти возможности после дообучения. Архитектура — плотная Phi3VForCausalLM, объём — 3,7 млрд параметров, библиотека — Transformers, формат весов — safetensors, указанная длина контекста — 4096 токенов. Карточка не содержит результатов оценки качества и конкретных рекомендаций по применению. Модель распространяется по лицензии MIT.

Qwen3.5-9B-Kazakh — казахская адаптация мультимодальной модели Qwen3.5, подготовленная ISSAI. Модель дообучена на казахских текстах с расширением словаря на 16 тысяч казахских токенов, затем к ней перенесено инструкционное выравнивание официальной Qwen3.5-9B методом chat-vector merge. Для восстановления мультимодальности к языковой части подключены исходные энкодер изображений и мультимодальный проектор Qwen3.5-9B. Это плотная модель класса Qwen3_5ForConditionalGeneration с поддержкой чата и изображений; файлы опубликованы в формате Safetensors и доступны через Transformers. Лицензия — Apache-2.0. Модель предназначена для диалогов и ответов на вопросы на казахском и английском языках, а также для анализа изображений в чате. Расширенный токенизатор повышает эффективность работы с казахским текстом, а инструкционное выравнивание сохраняет стиль общения Qwen. По оценке авторов, модель слабее исходной на сложных задачах, требующих развёрнутого рассуждения, и показывает снижение качества на задачах компьютерного зрения, поскольку её отдельно не дообучали на визуальных задачах.

joonion/bert-finetuned-squad — модель DistilBERT, дообученная на неизвестном наборе данных на основе distilbert/distilbert-base-cased-distilled-squad. Она предназначена для ответов на вопросы по переданному текстовому фрагменту: модель получает вопрос и контекст и извлекает из контекста ответ. Архитектура — DistilBertForQuestionAnswering; максимальная длина контекста составляет 512 токенов. Модель работает с текстом и распространяется в формате safetensors. Карточка не приводит подробностей о дополнительном наборе данных, оценке качества или специальных сценариях применения. Лицензия — Apache-2.0.

newmindai выпустила модель семантического сходства турецких предложений, дообученную на базе BAAI/bge-m3 на турецком наборе STS-B. Это Sentence Transformers на архитектуре XLM-RoBERTa с 658,7 млн параметров; модель кодирует текст в эмбеддинги и предназначена для оценки сходства пар предложений. В README указаны корреляции Спирмена 0,8629 и Пирсона 0,8575 на оценке STS-B. Модель подходит для поиска похожих предложений, сопоставления вопросов с ответами, поиска перефразирований и группировки турецких текстов. Метаданные указывают контекст до 8194 токенов, тогда как README сообщает ограничение последовательности в 1024 токена; фактический рабочий предел может зависеть от конфигурации загрузки. Поддержка языка в карточке отмечена для турецкого. Лицензия — Apache-2.0.

deepdml/whisper-tiny-es-mix-norm — дообученная модель распознавания речи на базе openai/whisper-tiny, разработанная deepdml. Она преобразует аудио в текст и обучена на наборах Common Voice 26.0, WorldSpeech, VoxPopuli, Multilingual LibriSpeech, VoxForge, FLEURS и Basque Parliament. В карточке указаны результаты оценки: WER 16,07 и CER 6,04; подробности методики оценки не приведены. Модель представлена в формате safetensors и доступна по лицензии Apache-2.0.

rizukim/distilbert-base-uncased-finetuned-squad — модель семейства DistilBERT, дообученная на неизвестном наборе данных. Она предназначена для извлечения ответа на вопрос из предоставленного текста и относится к архитектуре DistilBertForQuestionAnswering. Модель работает с текстом, использует библиотеку Transformers и рассчитана на контекст длиной до 512 токенов. В README приведён результат оценки: loss 1,1039; описание обучающих данных, подробные сценарии применения и ограничения не раскрыты. Базовая модель — distilbert/distilbert-base-uncased. Лицензия — Apache-2.0.

Llama3.1-8B-Enigma-GGUF — это квантизированная версия языковой модели Llama3.1-8B-Enigma от ValiantLabs, подготовленная и опубликованная bartowski в формате GGUF для llama.cpp. Модель основана на архитектуре Llama и предназначена для генерации текста, диалогового взаимодействия, выполнения инструкций и задач, связанных с программированием, в частности с Python. Заявленный язык — английский. Доступны варианты с разной степенью квантизации: от полноразмерной F32-версии около 32,13 ГБ до компактных IQ2_M и Q2_K. Наиболее качественными и рекомендуемыми в README названы варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; более компактные варианты требуют меньше оперативной памяти, но заметнее снижают качество. Квантизация выполнена с использованием imatrix и llama.cpp release b3583, запуск рекомендуется через LM Studio. Сильными сторонами являются выбор размеров файлов, возможность локального запуска и сохранение высокого качества у старших вариантов квантизации. Ограничения включают зависимость качества от выбранного варианта, преимущественную ориентацию на английский язык и отсутствие в README данных о размере контекста, производительности, мультимодальности и результатах тестирования. Модель распространяется по лицензии llama3.1.

Nemotron 3.5 Lightning 30B-A3B REAP-20B — экспериментальная производная модель sleepyeldrazi на основе NVIDIA Nemotron 3.5 Lightning 30B-A3B. Это гибридная архитектура Mamba-2, MoE и attention для генерации текста и диалога. Метод REAP сократил число маршрутизируемых экспертов с 128 до 77 в каждом из 23 MoE-слоёв; по README, размер модели уменьшен с 31,58 до 19,87 млрд параметров, при этом активными остаются около 3 млрд. Метаданные каталога указывают 1,9 млрд параметров, поэтому точный размер в источниках расходится. Модель предназначена как базовая точка для последующего дообучения LoRA и для общих текстовых задач с небольшим уклоном в программирование: ответов на вопросы, рассуждений, математических задач и работы с кодом. Калибровка выполнена на смеси инструкций, примеров кода и математики; заявленный нативный контекст в метаданных — 262 144 токена. README описывает ограниченную проверку генерации, но не приводит результатов полных бенчмарков. Это ранняя альфа-версия, поэтому качество следует проверять на целевых задачах; для специализированных сценариев автор рекомендует калибровку на собственных данных. Модель распространяется по лицензии OpenMDW-1.1.

litert-community/Qwen2-VL-2B — это квантизированная on-device-версия мультимодальной модели Qwen2-VL-2B-Instruct, разработанной командой Alibaba Qwen и преобразованной в формат LiteRT-LM для запуска на устройствах и настольных системах. Модель принимает изображения и текстовые запросы, а генерирует текстовые ответы; предназначена для локального анализа изображений, визуальных вопросов и ответов, описания сцен, подсчёта объектов, чтения документов и OCR. Архитектура включает vision encoder Qwen2-VL ViT с 32 слоями и размерностью 1280, адаптер PatchMerger и языковой декодер Qwen2-1.5B с 28 слоями, скрытым размером 1536 и GQA. Vision encoder использует фиксированный размер изображения 672×672 и формирует 576 визуальных токенов. Весовые параметры vision-части квантизированы до int8, декодера — до int4; размер файла составляет около 1,78 ГБ. Контекст KV-кэша — 4096 токенов. Поддерживаются одно или несколько изображений, а запуск возможен на macOS, Linux, Windows и совместимых мобильных устройствах через LiteRT-LM. Сильные стороны модели — локальная обработка без передачи изображений на сервер, хорошее описание сцен и ответы на общие вопросы, чтение текста в документах, подсчёт объектов и работа с таблицами. В описанных проверках она показывала точную транскрипцию синтетического документа и корректное визуальное заземление. Ограничение связано с тем, что runtime использует последовательные одномерные позиции вместо исходного M-RoPE: модель может правильно прочитать ячейки таблицы, но ошибиться при сравнении значений между строками и столбцами. Изображения принудительно приводятся к размеру 672×672, что также может ограничивать работу с мелкими деталями. Модель распространяется по лицензии Apache-2.0.

Voxtral-Mini-3B-2507-GGUF — это конверсия 3-миллиардной мультимодальной speech-LLM-модели Voxtral-Mini-3B-2507, разработанной Mistral, в формат GGUF для запуска через C++ runtime CrispASR. Модель предназначена для автоматического распознавания речи, транскрибации, перевода и понимания аудио, включая ответы на вопросы по содержимому записи, суммаризацию и вызов функций по голосовым намерениям. Модель поддерживает английский, французский, немецкий, испанский, итальянский, португальский, нидерландский и хинди, а также автоматическое определение языка. Она сочетает 32-слойный Whisper-large-v3 audio encoder, проектор и 30-слойную Llama 3 / Ministral 3B-подобную языковую модель с GQA; общий объём параметров составляет около 3 млрд. Поддерживается до 30 минут аудио для транскрибации и до 40 минут для понимания. Аудиообработка встроена в GGUF, поэтому во время инференса не требуются Python, PyTorch или librosa. Доступны варианты квантования Q4_K размером 2,5 ГБ, Q8_0 размером 4,6 ГБ и F16 размером 8,7 ГБ. Q4_K рекомендован для практического использования и, согласно приведённым измерениям, примерно в 2,2 раза быстрее F16 на CPU при сохранении идентичной транскрипции. Ограничения включают более высокие требования к ресурсам и меньшую скорость по сравнению с компактными ASR-моделями на коротких аудиофрагментах, а также необходимость подавать моно WAV в формате PCM 16 кГц, 16 бит. Модель распространяется по лицензии Apache-2.0.

Heretic-org/LFM2.5-VL-3B-heretic — мультимодальная модель для диалога по тексту и изображениям, созданная как decensored-версия LiquidAI/LFM2.5-VL-3B с помощью Heretic v1.4.0. Она предназначена для быстрых одношаговых задач, включая распознавание объектов и их локализацию по запросу, OCR с разметкой структуры страницы, ответы на вопросы по изображениям и перевод текста на изображениях. Модель использует гибридную архитектуру LFM2-VL: языковую основу LFM2.5-2.6B и визуальный энкодер SigLIP2 NaFlex. По карточке базовой модели, контекст составляет 32 768 токенов; поддерживаются текст и изображения, а список языков охватывает 17 языков, включая русский. В README указано, что базовая модель рассчитана на локальный запуск и может обрабатывать изображения высокого разрешения фрагментами. Версия Heretic заметно реже отказывает в ответах, чем исходная модель: в приведённом сравнении отказы составили 6 из 100 запросов против 100 из 100 у оригинала; указано также KL divergence 0,0553. Модель не рекомендуется для задач с длинным контекстом и интенсивными рассуждениями, например сложного анализа чертежей. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с карточкой репозитория.

Llama3.2-Typhoon2-1B-instruct — диалоговая инструктивная языковая модель от Typhoon AI, разработанная на основе Llama 3.2 1B. Это плотная decoder-only модель семейства Llama с 1,2 млрд параметров и контекстом до 131 072 токенов; для работы требуется Transformers версии 4.45.0 или новее. Модель предназначена для выполнения инструкций и диалогов на тайском и английском языках, включая вызов функций через соответствующий интерфейс. В README приведены результаты сравнительных тестов следования инструкциям, диалогов, тайского переключения между языками и вызова функций. Разработчики отмечают, что модель всё ещё развивается; она может выдавать неточные, предвзятые или нежелательные ответы, поэтому качество и риски следует оценивать применительно к конкретному сценарию. Модель распространяется по лицензии Llama 3.2 Community License.