I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельHindSBERT — модель семейства BERT от L3Cube-Pune, дообученная на наборе данных NLI на основе l3cube-pune/hindi-bert-v2. Она преобразует предложения и абзацы на хинди в плотные векторы размерности 768 для оценки семантического сходства, поиска и кластеризации текстов. Модель использует архитектуру BERT, имеет 264,8 млн параметров и поддерживает контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения предложений и группировки похожих текстов на хинди. Доступна в формате PyTorch и лицензирована по CC BY 4.0. Для получения эмбеддингов через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов.
naufalihsan/indonesian-sbert-large — модель на базе BERT, представленная как sentence-transformers-модель. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения текстов и кластеризации. Обучение с CosineSimilarityLoss ориентировано на сходство предложений; модель также подходит для построения текстовых эмбеддингов. Модель содержит около 433,9 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. В карточке указано назначение для индонезийского языка. Доступны веса в формате PyTorch; для использования описаны библиотеки Sentence-Transformers и Transformers. Лицензия в предоставленных данных не указана.
RedHatAI/Inkling-FP8-dynamic — мультимодальная модель, разработанная RedHatAI на основе thinkingmachines/Inkling. Она предназначена для генерации текста по текстовым, графическим и аудиовходам, включая диалоговые сценарии, анализ изображений и аудио, а также универсальные задачи рассуждения и обработки мультимодального контента. Модель использует архитектуру InklingForConditionalGeneration и Mixture-of-Experts с 975 млрд общих параметров, из которых 41 млрд активируются для отдельного запроса. Веса и активации языкового блока квантизированы в FP8: веса используют статическое поканальное масштабирование, а активации — динамическое масштабирование на уровне токенов. Энкодеры изображений и аудио, эмбеддинги, нормализация, смещения, маршрутизация MoE и отдельные слои сохранены в исходной точности. Квантизация примерно вдвое уменьшает размер модели на диске и требования к памяти по сравнению с 16-битным представлением. В конфигурации развертывания заявлена поддержка контекста до 131 072 токенов и до четырёх изображений и одного аудиофайла на запрос. К сильным сторонам относятся поддержка нескольких модальностей, высокая общая ёмкость MoE-модели, снижение требований к GPU-памяти благодаря FP8 и готовность к инференсу через vLLM. Ограничения включают значительный абсолютный размер модели, необходимость совместимой версии vLLM с поддержкой FP8 для Inkling и отсутствие в README сведений о языках, результатах бенчмарков и качестве после квантизации. Модель распространяется по лицензии Apache-2.0.
Bheri/ithasa-mmbert-gist — это дообученная авторами Bheri модель Sentence Transformers на базе jhu-clsp/mmBERT-base. Энкодер ModernBERT преобразует предложения и абзацы в плотные векторы размерностью 768; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на семантическое сравнение текстов и перенос смысла между английским и санскритом; в README приведена оценка на задаче перевода между этими языками. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текста. В README указана максимальная длина последовательности 128 токенов, тогда как метаданные каталога сообщают о нативном контексте базовой архитектуры в 8192 токена; практический предел этой версии в Sentence Transformers указан как 128. Чекпойнт содержит 306,9 млн параметров и распространяется в формате safetensors. Лицензия в предоставленных данных не указана.
Jina Embeddings v2 Base Code Q8_0 GGUF — это квантизированная версия модели для создания векторных представлений текста и исходного кода. Исходную модель разработала команда Jina AI, а данный вариант был конвертирован из jinaai/jina-embeddings-v2-base-code в формат GGUF с помощью llama.cpp и инструмента GGUF-my-repo. Модель предназначена для задач семантического поиска, сравнения сходства предложений, извлечения признаков и работы с кодом, включая сценарии, совместимые с llama.cpp. В карточке указано, что модель ориентирована на английский язык; точные сведения об архитектуре, количестве параметров, размерности эмбеддингов, поддерживаемой длине контекста и наборе модальностей не приведены. Квантование Q8_0 позволяет использовать модель в компактном формате, однако характеристики качества и влияние квантования в README не описаны. Для запуска требуется llama.cpp; доступен режим CLI и серверный режим. Лицензия — Apache-2.0.
Xenova/jina-embeddings-v2-base-zh — версия модели эмбеддингов Jina AI, подготовленная Xenova с весами ONNX для использования в Transformers.js. Она основана на jinaai/jina-embeddings-v2-base-zh и предназначена для получения векторных представлений китайских и английских текстов, например для семантического поиска и сравнения сходства. Модель построена на архитектуре JinaBERT семейства BERT, содержит 160,1 млн параметров и поддерживает контекст до 8192 токенов. Репозиторий включает ONNX-веса, а также файлы PyTorch и Safetensors; указана лицензия Apache-2.0. README описывает использование через библиотеку Transformers.js. Данных о качестве на конкретных наборах задач или иных ограничениях в предоставленной карточке нет.
quockhangdev представил дообученную модель Sentence Transformers на базе jinaai/jina-embeddings-v5-text-small-retrieval для поиска по смыслу. Она кодирует текстовые запросы, предложения и абзацы в плотные векторы размерностью 1024; сходство между ними можно оценивать косинусной мерой. Архитектура включает Qwen3Model, пулинг последнего токена и нормализацию векторов. Модель предназначена для семантического поиска и извлечения релевантных документов по запросу. Контекст составляет до 32 768 токенов. В README приведён обучающий набор из 507 152 пар «запрос — документ» с примерами на вьетнамском языке; этого недостаточно, чтобы утверждать, что модель поддерживает только вьетнамский. Доступные сведения не содержат лицензию, поэтому условия использования определить нельзя.
Kimi-Linear-48B-A3B-Instruct — разговорная языковая модель от Moonshot AI на архитектуре Kimi Linear. Это гибридная MoE-модель с Kimi Delta Attention и глобальными слоями MLA: в семействе указаны 48 млрд общих и 3 млрд активируемых параметров. Репозиторий содержит веса safetensors и предназначен для генерации текста в диалоговом формате. Модель рассчитана на диалоги и задачи с длинным контекстом. В README для версии Instruct заявлена длина контекста до 1 млн токенов, а архитектура сокращает потребность в KV-кэше и ускоряет декодирование на длинных последовательностях. Для запуска предлагаются Transformers с fla-core и развёртывание через vLLM. Лицензия — MIT. README описывает результаты бенчмарков, но не приводит оценки по всем сценариям; фактическая скорость и качество зависят от оборудования и настроек инференса.
Карточка модели hyuksoo1009/klue-roberta-base-klue-sts-mrc на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.
Карточка модели cheasuar/klue-roberta-base-klue-sts-mrc-a на Hugging Face совпадает с карточкой Jinsol0802/klue-roberta-base-klue-sts-mrc, поэтому описание составлено по ней. Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.
yngkyng/klue-roberta-base-sts-nli-ko — модель на базе RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 и предназначена для сравнения семантической близости текстов. Векторы можно использовать для семантического поиска и кластеризации; метаданные также указывают возможность извлечения эмбеддингов и классификации текста. Модель содержит 435,4 млн параметров и принимает последовательности длиной до 514 токенов. Модель обучалась с CosineSimilarityLoss; карточка не сообщает название базовой модели как отдельного репозитория или лицензию. Она подходит для создания эмбеддингов предложений, поиска похожих текстов и группировки по смыслу. По названию репозитория и тегу `ko` модель ориентирована на корейский язык. Полные результаты оценки и подробности обучающего набора в карточке не приведены.
bongsoo/klue-sbert-v1 — модель на базе KLUE BERT, разработанная bongsoo и дообученная в формате Sentence-BERT для получения векторных представлений предложений и абзацев. Она предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель имеет архитектуру BERT, содержит 137,8 млн параметров и преобразует текст в плотный вектор размерности 768; максимальная длина контекста — 512 токенов. Обучение включало задачи семантического сходства, дистилляцию с paraphrase-multilingual-mpnet-base-v2 и NLI на корейских и английских данных. В README приведены результаты оценки на корейских и английских наборах STS. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
AMD Llama-3.1-405B-Instruct-FP8-KV — это FP8-квантизированная версия инструкционной модели Meta-Llama-3.1-405B-Instruct, подготовленная компанией Advanced Micro Devices с использованием инструмента Quark и калибровочных образцов из набора данных Pile. Модель предназначена для генерации текста и выполнения инструкций в сценариях, где требуется развертывание крупной языковой модели с оптимизированным использованием памяти и вычислительных ресурсов. README не содержит дополнительных сведений о поддерживаемых языках, длине контекста и исходной архитектуре базовой модели. Квантизации подвергнуты все линейные слои, кроме lm_head; веса, активации и KV-кэш представлены в формате FP8 с симметричным масштабированием per-tensor. Экспорт выполняется в формате Quark safetensors, а развертывание возможно через совместимый с vLLM backend. По данным оценки на wikitext2, perplexity увеличилась с 1,8561 у исходной модели до 1,8951 у квантизированной версии; при этом результаты получены в режиме псевдоквантизации и могут отличаться от точности реального инференса. Для работы требуется Quark, а из-за размера модели может понадобиться мног GPU-развертывание. Лицензия указана как llama3.1; модификации распространяются с авторскими правами Advanced Micro Devices, Inc. за 2024 год.
Llama-3.2-1B-Instruct-GGUF — квантизированная GGUF-версия 1B-инструкционной модели семейства Llama 3.2, разработанного Meta и опубликованная Unsloth. Это авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention (GQA). Модель работает в текстовом формате и предназначена для диалоговых сценариев, включая агентский поиск с извлечением данных и суммаризацию. Доступны варианты с разной точностью квантования: 16, 8, 6, 5, 4, 3 и 2 бита, что позволяет выбирать компромисс между качеством, размером и требованиями к памяти. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки; модель также обучалась на более широком наборе языков, но качество для них может различаться. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning from human feedback (RLHF) для повышения полезности и безопасности. Ограничения включают меньший размер по сравнению с более крупными моделями семейства, возможное снижение качества при сильном квантовании и отсутствие гарантии высокого качества для языков, не входящих в официальный список. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta.
unsloth/Llama-3.2-3B-Instruct-GGUF — GGUF-версия инструкционно дообученной языковой модели Llama 3.2 с 3 млрд параметров, разработанной Meta и опубликованной Unsloth. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA); варианты GGUF доступны в форматах квантования от 2 до 16 бит, что позволяет выбирать баланс между качеством, размером и требованиями к памяти. Модель предназначена для генерации текста и мультиязычного диалога, включая агентский поиск по данным и суммаризацию. Она работает в режиме «текст на входе — текст на выходе» и официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Инструкционная версия обучалась с использованием supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. README не указывает размер контекстного окна и конкретные показатели производительности; модель является статичной и обучена на офлайн-данных. Использование регулируется Llama 3.2 Community License — специальной коммерческой лицензией Meta, а также Acceptable Use Policy. GGUF-квантизация может снизить требования к памяти и упростить локальный запуск, но при меньшей разрядности возможна потеря качества. Модель не является мультимодальной: заявлены только текстовые входы и выходы.
BAAI/LLARA-document — текстовая модель семейства LLaMA, опубликованная BAAI. Проект LLaRA описывает два подхода: EBAE (автоэнкодирование на основе эмбеддингов) и EBAR (авторегрессия на основе эмбеддингов); эта версия предназначена для задач с документами и представления текста в виде эмбеддингов. Архитектура — плотная LlamaForCausalLM с 6,6 млрд параметров и контекстом до 4096 токенов. Модель подходит для извлечения признаков текста и вычисления сходства предложений, например для семантического поиска по документам и сопоставления текстовых запросов с фрагментами. Репозиторий содержит веса в формате safetensors. Лицензия — MIT.
lumikabra-behemoth-123b — объединённая языковая модель, собранная с помощью mergekit методом della_linear. В основе слияния лежит schn apper79_lumikabra-123B_v0.3, также использована TheDrummer_Behemoth-123B-v1; веса смешаны с указанными в конфигурации параметрами. Модель построена на плотной архитектуре MistralForCausalLM и содержит 122,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет 131 072 токена; в метаданных также заявлен интерфейс вызова инструментов. Репозиторий содержит веса safetensors, а конфигурация слияния задаёт тип данных bfloat16. Поддерживаемые языки в предоставленных данных не определены. Лицензия в источниках не указана.
Luna-8B-Instruct-262k — объединённая модель на архитектуре Llama 3, созданная Ppoyaa с помощью LazyMergekit. В состав входят gradientai/Llama-3-8B-Instruct-262k, jondurbin/bagel-8b-v1.0, mlabonne/ChimeraLlama-3-8B-v3 и nbeerbower/llama-3-wissenschaft-8B; в конфигурации указан метод model_stock и формат bfloat16. Модель предназначена для диалогов и генерации текста, включая ответы на вопросы. В репозитории заявлено окно контекста до 262 144 токенов; размер составляет 7,5 млрд параметров. Использование предусмотрено через Transformers и формат safetensors. Лицензия в предоставленных данных не указана.
Mamba2-primed-HQwen3-8B-Instruct — гибридная языковая модель, подготовленная командой Hybrid Model Factory на основе Qwen3-8B. В архитектуре 18 слоёв Attention и 18 слоёв Mamba-2; модель содержит 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Она instruction-tuned и предназначена для генерации текста и диалогов, следования инструкциям и работы с длинными контекстами. Сочетание Attention и Mamba-2 сокращает долю растущего KV-кэша, что помогает повысить пропускную способность и уменьшить расход памяти при длинных последовательностях. По данным карточки, модель может уступать базовой Qwen3-8B в качестве, особенно на длинном контексте; Mamba-2 описана как менее выразительная, чем некоторые другие SSM-слои. Модель не поддерживает вызов инструментов и не генерирует специальные токены рассуждений. Доступна под лицензией Apache 2.0.
Meta-Llama-3-120B-Instruct-GGUF — это GGUF-квантизированная версия текстовой instruction-tuned языковой модели Meta-Llama-3-120B-Instruct. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как mlabonne/Meta-Llama-3-120B-Instruct, основанная на Meta-Llama-3-70B-Instruct. Модель предназначена для генерации текста и диалоговых сценариев с применением системных и пользовательских инструкций. Доступны варианты квантизации Q2–Q8 и IQ, размером примерно от 32,60 до 129,52 ГБ. Более высокие варианты, включая Q6_K, Q5_K_M, Q5_K_S и Q4_K_M, обеспечивают лучшее качество, но требуют больше памяти; низкобитные варианты экономичнее, однако могут заметно уступать в качестве. Формат GGUF и совместимость с llama.cpp подходят для локального запуска, но README не содержит данных об архитектуре, поддерживаемых языках, модальностях и размере контекста. Модель является текстовой и не предназначена для обработки изображений или других модальностей. Для работы требуется выбрать подходящий файл квантизации и использовать специальный chat-шаблон с токенами Meta Llama 3. Лицензия обозначена как other, однако её конкретные условия в README не приведены.
Meta-Llama-3.1-405B-Instruct-AWQ-INT4 — это общественно подготовленная квантованная версия большой языковой модели Meta-Llama-3.1-405B-Instruct, разработанной Meta AI. Модель предназначена для генерации текста и ведения многоязычных диалогов, включая ассистентские сценарии, ответы на вопросы и другие задачи, поддерживаемые instruction-tuned моделями. Она работает в формате text in/text out и интегрируется с Transformers, AutoAWQ и Text Generation Inference. Модель содержит 405B параметров и использует архитектуру Llama 3.1. FP16-версия была преобразована в INT4 с помощью AutoAWQ: применяются GEMM-ядра, zero-point quantization и размер группы 128. В README заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Точный размер контекстного окна в представленных данных не указан. Ключевое преимущество — значительное снижение требований к памяти по сравнению с FP16 при сохранении возможностей 405B-модели и поддержке оптимизированного инференса. Ограничения связаны с экстремально большим размером: для загрузки чекпойнта требуется около 203 GiB VRAM без учета KV-кэша и CUDA graphs, поэтому для практического запуска нужна мног GPU-конфигурация или сопоставимая инфраструктура. Модель распространяется по лицензии llama3.1; это именно community-driven квантованная версия оригинальной модели Meta.
MaziyarPanahi/Meta-Llama-3.1-405B-Instruct-GGUF — это набор файлов модели в формате GGUF для Meta-Llama-3.1-405B-Instruct, разработанной Meta (meta-llama) и квантизированной MaziyarPanahi. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и прикладные сценарии, в локальных приложениях на базе llama.cpp и совместимых библиотек и интерфейсов. Модель имеет размер 405 миллиардов параметров, относится к текстовым моделям и поддерживает языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. В репозитории представлены варианты квантизации с разрядностью 2 и 3 бита; конкретные характеристики зависят от выбранного файла. В примере указано контекстное окно до 131 072 токенов. Формат GGUF упрощает локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui и другими инструментами. Сильными сторонами являются большой размер исходной модели, поддержка нескольких языков, инструкционное обучение, длинный контекст и возможность локального использования с квантизированными файлами. Ограничениями остаются очень высокие требования к вычислительным ресурсам, возможные потери качества из-за агрессивной квантизации и отсутствие в README подробных данных о точности, производительности и рекомендуемом оборудовании. Модель распространяется по лицензии Llama 3.1.
QuantFactory/Meta-Llama-3.1-8B-GGUF — это квантованная версия большой языковой модели Llama 3.1 с 8 млрд параметров, представленная в формате GGUF. Базовую модель разработала Meta, а QuantFactory подготовила её распространение в квантованном формате. Модель предназначена для генерации текста и может использоваться в локальных приложениях, чат-ботах, ассистентах, системах обработки естественного языка и других сценариях, где требуется текстовая генерация. Модель поддерживает текстовую модальность. В карточке заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Дополнительные сведения об архитектуре, размере контекстного окна, конкретном методе и уровне квантования, производительности, формате инструкционного дообучения и системных требованиях не указаны, поэтому её характеристики в этих аспектах требуют проверки по файлам модели. Главные преимущества — компактность по сравнению с полноразмерной версией, возможность запуска через совместимые инструменты для GGUF и многоязычная текстовая генерация. Ограничения включают возможные потери качества из-за квантования, зависимость результатов от выбранного варианта квантования и отсутствие заявленных возможностей работы с изображениями или другими модальностями. Модель распространяется по лицензии Llama 3.1 Community License от Meta; при использовании и распространении необходимо соблюдать её условия, включая требования к атрибуции, маркировке «Built with Llama», Acceptable Use Policy и специальные коммерческие ограничения.
ThomasBaruzier/Meta-Llama-3.1-8B-Instruct-GGUF — это инструкция-ориентированная языковая модель в формате GGUF, основанная на Meta Llama 3.1 и опубликованная пользователем ThomasBaruzier. Разработчик исходной модели — Meta. Модель предназначена для генерации текста и выполнения инструкций в сценариях, связанных с диалоговыми системами, ответами на вопросы и обработкой естественного языка. Из доступных данных известно, что модель содержит 8 миллиардов параметров, относится к семейству Llama 3.1 и поддерживает текстовую модальность. В карточке заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Формат GGUF ориентирован на локальный запуск и совместимую с ним инфраструктуру вывода, однако конкретный вариант квантования, требования к памяти, размер контекста и показатели качества в README не указаны. Сильными сторонами модели являются инструкционная настройка, многоязычная поддержка и относительно компактный размер по сравнению с более крупными моделями семейства. Ограничения включают отсутствие подробных сведений о квантовании, производительности и фактическом качестве на отдельных языках, а также типичные для генеративных языковых моделей риски неточных или нежелательных ответов. Модель распространяется по лицензии Llama 3.1 Community License от Meta с требованиями соблюдать Acceptable Use Policy, сохранять уведомление об авторских правах и выполнять условия атрибуции при распространении.
WhiskyAKM/MiniCPM5-2B-GGUF — квантизированная версия модели openbmb/MiniCPM5-2B, подготовленная в формате GGUF с использованием инструментов проекта llama.cpp. Модель предназначена для локального запуска на устройствах с ограниченными ресурсами, создания локальных ассистентов, coding agents, сценариев вызова инструментов и задач, требующих компактной модели. Это плотная Transformer-модель архитектуры LlamaForCausalLM с 2,52 млрд параметров, 42 слоями и grouped-query attention: 16 голов запросов и 2 головы ключей и значений. Поддерживается контекст до 131 072 токенов, языки — английский и китайский. Модель поддерживает режим рассуждений, управляемый параметром enable_thinking, а также XML-стиль вызова инструментов. Доступны варианты от BF16 до 4-битных квантов; Q4_K_M обозначен как сбалансированный вариант по качеству и размеру, его файл занимает около 1,5 ГБ. К сильным сторонам относятся небольшой размер, возможность локального развертывания, длинный контекст и поддержка спекулятивного декодирования с draft-моделями MiniCPM5-2B-DSpark, что может ускорять генерацию. К ограничениям относятся поддержка только текстовой модальности и заявленных языков, а также потенциальная потеря качества при использовании более агрессивной квантизации. Модель распространяется по лицензии Apache-2.0.
eganwo/mistral7b-distilled-from-deepseek-r1-qwen32b — языковая модель, созданная дообучением Mistral-7B-Instruct-v0.3. Репозиторий содержит веса в формате Safetensors; модель насчитывает 7,1 млрд параметров и использует архитектуру Mistral с плотной декодерной сетью. Контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Карточка называет её дистиллированной из DeepSeek-R1-Qwen32B, но не сообщает подробностей о данных обучения, методе дистилляции или результатах оценки. Лицензия — Apache-2.0.
Mistral-Small-3.2-24B-Instruct-2506-MLX-8bit — это 8-битная квантованная версия мультимодальной инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной компанией Mistral AI. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm. Модель предназначена для запуска на устройствах с Apple Silicon и поддерживает сценарии генерации текста по инструкциям, а также обработки изображений и текста, о чём свидетельствует мультимодальный профиль image-text-to-text. Она поддерживает английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский и другие языки, перечисленные в карточке модели. Ключевые характеристики — 24 млрд параметров в исходной модели, 8-битное представление весов и оптимизация для экосистемы Apple Silicon. Квантование снижает требования к памяти и делает локальный запуск практичнее, однако может немного повлиять на точность по сравнению с полной версией. Длина контекста в README не указана. Модель распространяется по лицензии Apache 2.0; LM Studio не является её разработчиком и не гарантирует точность, безопасность или пригодность генерируемого содержимого.
MMLW-e5-small — компактный текстовый энкодер для польского языка, разработанный авторами семейства MMLW. Модель построена на архитектуре BERT и преобразует текст в векторы размерности 384 для семантического поиска и других задач сопоставления текстов. Она была инициализирована мультиязычным чекпойнтом E5 и дистиллирована с помощью мультиязычного метода на 60 миллионах польско-английских пар текстов; учителями служили английские модели FlagEmbeddings (BGE).
facebook/mms-lid-126 — модель проекта Massive Multilingual Speech от Facebook, дообученная для определения языка речи. Она принимает аудио и выдаёт распределение вероятностей по 126 языковым классам; построена на архитектуре Wav2Vec2 и дообучена на базе facebook/mms-1b. Размер модели указан в карточке как 1 млрд параметров, а в метаданных — 1,3 млрд. Модель предназначена для автоматической идентификации языка по речевому аудио и поддерживает речь на 126 языках. Для работы с ней подходят аудиозаписи с частотой дискретизации 16 кГц. Лицензия CC-BY-NC 4.0 разрешает использование на условиях Creative Commons «С указанием авторства — Некоммерческое использование».
Это модель Sentence Transformer mik3ml/multilingual-e5-large-ita, дообученная разработчиком на базе intfloat/multilingual-e5-large для представления итальянских текстов в виде плотных векторов. Архитектура основана на XLM-RoBERTa-large с усреднением токенных представлений и нормализацией; модель содержит 658,7 млн параметров, формирует эмбеддинги размерностью 1024 и обрабатывает последовательности длиной до 514 токенов по метаданным (в карточке указано ограничение 512 токенов). Для сравнения используется косинусное сходство. Модель предназначена для семантического поиска и сопоставления предложений и абзацев, поиска перефразирований, кластеризации и классификации текстов. В README приведены оценки информационного поиска для разных размерностей эмбеддингов. В первую очередь модель ориентирована на итальянский язык; основанием для этого служат языковой тег и указание языка в карточке. Лицензия — Apache-2.0. Она выдаёт векторы, а не готовые текстовые ответы; качество зависит от соответствия входных текстов обучающим данным.