II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейguymorganb/e5-large-v2-4096-lsg-patched — версия модели intfloat/e5-large-v2 с архитектурой BERT и механизмом Local-Sparse-Global (LSG), подготовленная для обработки последовательностей длиной до 4096 токенов. Разработчик адаптировал её для работы с более новыми версиями Transformers, сохранив режим чистого энкодера и обработку масок внимания с плавающей точностью. Модель предназначена для кодирования запросов и текстовых фрагментов в эмбеддинги, например, для поиска и ранжирования passage. Карточка приводит пример на наборе MS MARCO. В метаданных указано 433,9 млн параметров и формат PyTorch; языковые сведения указывают на английский. Лицензия в предоставленных данных не указана.
e5-sk-large — модель текстовых эмбеддингов для словацкого языка, выпущенная в рамках проекта SkMTEB. Она создана на основе intfloat/multilingual-e5-large: словарь сокращён с 250 тысяч до 60 тысяч токенов, после чего модель дообучена на словацких данных. В метаданных указаны архитектура XLM-RoBERTa, 464,1 млн параметров и контекст до 514 токенов; README сообщает о 365 млн параметров и 1024-мерных эмбеддингах, поэтому размеры расходятся между источниками. Модель предназначена для семантического поиска и извлечения документов, сравнения смысла текстов, кластеризации и классификации по эмбеддингам, а также поиска между словацким, английским и чешским языками. Для запросов поиска рекомендуется добавлять префикс «query: », а для индексируемых документов — «passage: »; для симметричных задач префикс не нужен. Модель показывает сопоставимые с multilingual-e5-large результаты на словацком бенчмарке SkMTEB и подходит для локального развёртывания. Модель оптимизирована для словацкого языка; перенос на другие языки, кроме указанных межъязыковых сценариев, не оценён. Сокращение словаря может ухудшить работу с текстом, смешивающим языки, а обучающие данные преимущественно охватывают новости, парламентские материалы и энциклопедии. При дообучении использовалась длина последовательности 256 токенов, хотя архитектура поддерживает контекст до 512. Лицензия — MIT.
Карточка модели mijuanlo/faster-whisper-large-v3 на Hugging Face совпадает с карточкой Systran/faster-whisper-large-v3, поэтому описание составлено по ней. Это конверсия модели распознавания речи Whisper large-v3 от OpenAI в формат CTranslate2, опубликованная Systran. Она предназначена для распознавания речи из аудио и используется в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно изменить через параметр compute_type. Модель поддерживает распознавание речи на многих языках, в том числе русском и английском. Репозиторий содержит конвертированные веса, а не исходную реализацию Whisper. Лицензия — MIT.
thetayne/finetuned_model_0613 — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-base-en-v1.5 для сравнения текстовых фрагментов. Она использует BERT с пулингом CLS-токена и нормализацией эмбеддингов; векторное представление имеет размерность 768, максимальная длина входа — 512 токенов, сходство оценивается косинусной мерой. Модель обучалась на 1 625 парах предложений с функцией CosineSimilarityLoss и предназначена для семантического поиска, поиска перефразировок, кластеризации и сравнения предложений; её векторы также можно применять в задачах классификации. В README приведены результаты оценки семантического сходства для размерностей от 64 до 768. Лицензия Apache-2.0. Модель принимает текст и выдаёт нормализованные векторы; обучение на небольшой выборке означает, что её пригодность для конкретного домена и задач следует проверять отдельно.
FRPile_GPL_test_pipeline — модель на основе архитектуры BERT, разработанная как Sentence-Transformers-модель для преобразования предложений и абзацев в плотные векторы размерности 1024. Она предназначена для семантического поиска, кластеризации и сравнения текстов по смыслу. В метаданных указано 433,9 млн параметров, контекст до 512 токенов и формат PyTorch; для получения эмбеддингов предусмотрено использование Sentence-Transformers либо Transformers с соответствующей операцией pooling. В карточке упомянуто обучение с MarginDistillationLoss из инструментария GPL. Языки обучения, базовая модель и лицензия в предоставленных данных не раскрыты. Модель выдаёт векторные представления текста, поэтому качество семантического поиска и кластеризации зависит от соответствия текстов и домена её обучению.
Vortecks/G9v3-3B-Heretic-Abliterated — плотная причинно-следственная языковая модель команды AI9Stars, подготовленная на основе ai9stars/G9v3-3B. Это вариант Heretic Abliterated: направления активаций, связанные с отказами, были удалены, поэтому модель чаще отвечает на запросы без встроенных защитных ограничителей. Модель содержит 2,7 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель предназначена для локального чата, повседневных запросов, генерации кода, вызова инструментов и задач на рассуждение в условиях ограниченных ресурсов. В карточке приведены способы запуска через совместимые среды, включая llama.cpp, Ollama и LM Studio; текущий репозиторий содержит веса Safetensors. Указана лицензия Apache-2.0. Модель может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно при использовании в важных решениях. Поскольку встроенное поведение отказа удалено, разработчику приложения необходимо самостоятельно обеспечивать модерацию и меры безопасности.
Это 4-битная смешанно-точная MLX-квантизация модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная сообществом mlx-community с помощью инструментария mlx-optiq. Исходная модель представляет собой дообученную для программирования версию Gemma-4-12B. Вариант предназначен для локального запуска на компьютерах Apple Silicon без PyTorch и облачных сервисов. Модель ориентирована прежде всего на генерацию и анализ кода, рассуждения, ответы на вопросы, арифметику и работу с изображениями. Она использует архитектуру encoder-free gemma4_unified с мультимодальным обработчиком; входные изображения поддерживаются, а мультимодальный embedder сохранён в формате bf16. Языковая часть содержит 328 квантизируемых слоёв: 156 чувствительных слоёв работают в 8-bit, остальные 172 — в 4-bit. Средняя эффективная точность составляет 5,216 бит на вес, размер модели на диске — около 8,4 ГБ вместо 22 ГБ для версии bf16, поэтому она рассчитана на запуск, в частности, на Mac с 16 ГБ памяти. Точный размер контекста и список поддерживаемых языков в карточке не указаны. К сильным сторонам относятся существенное снижение требований к памяти, поддержка изображений, локальная работа и сохранение более высокой точности для чувствительных слоёв. Модель способна рассуждать перед ответом, поэтому ей требуется достаточный лимит токенов. Ограничения связаны с отсутствием собственных тестов производительности для этой квантизации, переносом схемы распределения разрядности с базовой модели и неизбежной погрешностью 4-битного представления. Для загрузки необходима регистрация архитектуры через mlx-optiq. Модель распространяется по лицензии Apache-2.0 и должна использоваться на тех же условиях, что и исходная модель.
German-RAG-UAE-LARGE-V1-TRIPLES-HESSIAN-AI — модель Sentence Transformers, разработанная командой German-RAG AI и дообученная на примерно 300 тысячах троек из набора German-RAG-EMBEDDING-TRIPLES-HESSIAN-AI. Она преобразует предложения и абзацы в плотные векторы размерности 1024; архитектура основана на BERT с объединением CLS-токена и нормализацией векторов. Максимальная длина последовательности — 512 токенов, сходство оценивается косинусной мерой. Модель предназначена для семантического поиска по немецким текстам и другим задачам сравнения и группировки текстов: поиска похожих предложений, обнаружения перефразировок, кластеризации и извлечения признаков для классификации. В карточке приведены результаты оценок на немецких наборах для поиска, классификации и семантического сходства. Модель поддерживает немецкий и английский языки; лицензия — MIT.
GIST Embedding v0 — модель векторных представлений текста, созданная Av Solatorio. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 с методом GISTEmbed: обучающие негативные примеры отбираются из MEDI и дополненных триплетами обучающих данных классификации MTEB. Модель имеет архитектуру BERT, содержит 25,9 млн параметров и принимает текст с контекстом до 512 токенов. Модель предназначена для получения эмбеддингов предложений и оценки их сходства, в том числе для семантического поиска и retrieval. Для кодирования запросов не требуются специальные инструкции. Модель оценивали на бенчмарке MTEB; дообучение улучшило некоторые задачи, но ухудшило результаты на других, включая поиск по TRECCOVID. Поддерживается английский язык. Лицензия — MIT.
Mungert/granite-3.0-8b-instruct-GGUF — квантованная GGUF-версия инструкционной языковой модели Granite 3.0 с 8 млрд параметров. Базовая модель — ibm-granite/granite-3.0-8b-base; модель предназначена для генерации текста и выполнения инструкций, включая рассуждения, ответы на вопросы, работу с кодом, математические задачи и задачи на понимание прочитанного. Разработчик GGUF-сборки — Mungert; исходное семейство моделей разработано IBM Granite. Модель создана с использованием llama.cpp. В README не указаны архитектурные детали, максимальная длина контекста, точный набор языков и конкретные варианты квантования. Упоминается экспериментальный подход к квантованию с повышением точности отдельных важных слоёв с помощью параметра --tensor-type; автор сообщает об улучшении точности на заданном уровне квантования ценой увеличения размера файла. Приведены результаты на англоязычных и многоязычных тестах, включая IFEval, MT-Bench, MMLU, HumanEval, GSM8K, PAWS-X и MGSM, однако их достоверность в метаданных не подтверждена. Модель подходит для локального запуска в совместимых инструментах экосистемы llama.cpp и сценариев, где важны снижение требований к памяти и возможность самостоятельного развертывания. Ограничения связаны с потерями качества, характерными для квантованных моделей, отсутствием подробных сведений о конфигурации и тем, что README не содержит инструкций по выбору конкретного файла квантования. Лицензия указана как Apache 2.0.
Bheri/ithasa-mmbert-gist — это дообученная авторами Bheri модель Sentence Transformers на базе jhu-clsp/mmBERT-base. Энкодер ModernBERT преобразует предложения и абзацы в плотные векторы размерностью 768; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на семантическое сравнение текстов и перенос смысла между английским и санскритом; в README приведена оценка на задаче перевода между этими языками. Модель подходит для семантического поиска, поиска перефразирований, кластеризации и классификации текста. В README указана максимальная длина последовательности 128 токенов, тогда как метаданные каталога сообщают о нативном контексте базовой архитектуры в 8192 токена; практический предел этой версии в Sentence Transformers указан как 128. Чекпойнт содержит 306,9 млн параметров и распространяется в формате safetensors. Лицензия в предоставленных данных не указана.
Jade-Software разработала Jade-ModernBert-FT — англоязычную модель Sentence Transformers, дообученную на наборе jade_embeddings_train_25.04.04 от базовой модели nomic-ai/modernbert-embed-base. Архитектура ModernBERT преобразует предложения и абзацы в плотные эмбеддинги размерности 768, нормализованные для сравнения по косинусному сходству; максимальная длина последовательности — 8192 токена. Модель предназначена для семантического поиска по текстам, оценки сходства предложений, поиска перефразирований, кластеризации и классификации текста. Обучающие примеры связывают короткие вопросы с более длинными релевантными фрагментами, что подходит для поиска ответов и документов по запросу. Лицензия — Apache-2.0. Модель обучена на английском языке; данных о поддержке других языков нет. Она возвращает векторы, а не готовые ответы, поэтому для поиска, классификации или кластеризации нужны соответствующие downstream-компоненты. Качество за пределами английского языка и предметной области обучающих данных не подтверждено.
jina-embeddings-v3-GGUF — GGUF-версия модели jina-embeddings-v3, разработанной jinaai и квантизированной компанией Second State Inc. Это модель для построения векторных представлений текста, предназначенная для семантического поиска, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge; для неё используется шаблон prompt типа embedding. Доступны варианты размерности эмбеддингов от 32 до 1024: 32, 64, 128, 256, 512, 768 и 1024. Формат GGUF поддерживает различные уровни квантования, позволяя выбирать между размером файла и сохранением качества; среди указанных вариантов Q4_K_M и Q5_K_M отмечены как сбалансированные или рекомендуемые. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и точный размер контекста; для запуска LlamaEdge приведён контекст 768. Сильными сторонами модели являются возможность локального запуска, выбор размерности эмбеддингов и нескольких уровней квантования, включая компактные варианты. Более агрессивное квантование может приводить к заметной потере качества, тогда как версии с большим числом бит занимают больше памяти. Лицензия в предоставленном README не указана; условия использования следует уточнять в карточке исходной модели jinaai/jina-embeddings-v3 и соответствующего GGUF-репозитория.
jina-embeddings-v5-text-small-retrieval-GGUF — мультиязычная модель для построения текстовых эмбеддингов, разработанная Jina AI. Это GGUF-квантизированная версия модели jina-embeddings-v5-text-small-retrieval, предназначенная прежде всего для задач информационного поиска и семантического retrieval: сопоставления запросов с документами, поиска по базам знаний и построения систем с векторным поиском и RAG. Модель содержит 677 млн параметров, использует архитектуру на базе jina-embeddings-v5-text-small, стратегию pooling по последнему токену и формирует эмбеддинги размерностью 1024. Поддерживаются мультиязычные тексты, а также Matryoshka-размерности 32, 64, 128, 256, 512, 768 и 1024, что позволяет выбирать компромисс между качеством и требованиями к хранилищу или вычислениям. Формат GGUF ориентирован на эффективный локальный запуск через llama.cpp; для корректного использования требуется режим pooling last. Сильными сторонами являются специализация на retrieval, мультиязычность, возможность уменьшать размер эмбеддингов и эффективный inference в экосистеме llama.cpp. Ограничения включают целевую ориентацию на retrieval, поэтому модель может быть не оптимальна для других задач эмбеддингов без дополнительной проверки, а также необходимость учитывать особенности GGUF-версии и совместимость сборки llama.cpp. Модель распространяется по лицензии CC-BY-NC-4.0, которая не разрешает коммерческое использование без согласования с Jina AI.
Карточка модели kirikir13/Kimi-K2.7-Code на Hugging Face совпадает с карточкой moonshotai/Kimi-K2.7-Code, поэтому описание составлено по ней. Kimi K2.7 Code — ориентированная на программирование агентная модель компании Moonshot AI, основанная на Kimi K2.6. Она предназначена для выполнения длительных задач разработки ПО и многоэтапных инженерных процессов: от создания и изменения кода до работы с проектами и инструментами. Архитектура — Mixture-of-Experts с общим числом параметров около 1 трлн и 32 млрд активируемых параметров; модель представлена в safetensors и использует нативную квантизацию INT4. Для тестирования заявлен контекст длиной 262 144 токена. Модель поддерживает диалог, вызов инструментов и визуальный ввод изображений и видео; основная специализация — агентное программирование и решение сложных задач разработки. Разработчик сообщает о повышении эффективности на длительных задачах и примерно на 30% меньшем расходе токенов на рассуждения по сравнению с Kimi K2.6. В карточке указана лицензия other; конкретные условия следует сверить с лицензией репозитория и условиями API.
Kimi-K2.7-Code-JANGTQ_K — квантованный вариант модели moonshotai/Kimi-K2.7-Code для запуска через MLX на компьютерах Apple с Apple Silicon. В карточке указаны архитектура семейства Kimi K2.5 и поддержка диалогового режима; исходная модель описана в каталоге как агентная модель для сложных задач программирования и многоэтапной разработки ПО, с поддержкой изображений, видео и инструментов. Профиль JANGTQ_K использует JANG TurboQuant: routed experts квантованы до 2 бит для gate и up и до 4 бит для down, attention и shared experts — до 8 бит. Для загрузки нужны jang-tools или vMLX; модель не поддерживается стандартным MLX, LM Studio и Ollama. Для токенизатора Kimi README указывает зависимости tiktoken и blobfile и необходимость включить TRUST_REMOTE_CODE. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией исходной модели и репозитория.
LaBSE-EnKo-Nano-Preview-v0.3 — предварительная модель Sentence Transformers, дообученная автором lemon-mint на sentence-transformers/LaBSE. Она кодирует предложения и абзацы на английском и корейском языках в плотные векторы размерности 768; сходство текстов предлагается оценивать косинусной мерой. Архитектура основана на BERT и включает пулинг CLS-токена, полносвязный слой с Tanh и нормализацию. Максимальная длина последовательности в метаданных — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразирований, кластеризации и классификации по эмбеддингам. Лицензия — Apache-2.0. Автор отмечает, что это предварительная версия и планирует выпустить более качественные модели, поэтому качество на конкретных данных стоит проверить перед широким применением.
Laguna-S-2.1 — текстовая модель семейства Laguna от Poolside, опубликованная на Hugging Face аккаунтом Unsloth как дообучение poolside/Laguna-S-2.1. Это MoE-модель: карточка указывает 118 млрд параметров всего и около 8 млрд активируемых на токен; архитектура включает 48 слоёв, 256 маршрутизируемых экспертов и один общий эксперт. Модель предназначена для агентного программирования и длительных задач разработки, включая взаимодействие с инструментами. Она принимает и выдаёт текст, поддерживает режим рассуждения и контекст до 1 048 576 токенов. В README приведены результаты на тестах программирования и агентных задач, а также заявлена поддержка Transformers, vLLM, SGLang, TRT-LLM и llama.cpp. Для запуска полного чекпойнта BF16 потребуется несколько GPU; в карточке также описаны квантованные варианты семейства. Метаданные этого репозитория указывают формат safetensors и лицензию OpenMDW-1.1, которая, согласно README, разрешает коммерческое и некоммерческое использование и модификацию при соблюдении лицензии и политики допустимого использования Poolside.
Laguna-S-2.1-GGUF — GGUF-квантизированная версия текстовой Mixture-of-Experts-модели Laguna S 2.1, разработанной poolside и подготовленной для запуска через Unsloth и llama.cpp. Модель предназначена прежде всего для агентного программирования, вызова инструментов и выполнения длительных многошаговых задач с кодом. Она поддерживает нативное рассуждение с чередованием размышлений и вызовов инструментов, а также спекулятивное декодирование с использованием отдельной DFlash-модели. Архитектура содержит 118 млрд параметров, из которых около 8 млрд активируются для каждого токена. Модель имеет 48 слоёв, 256 маршрутизируемых экспертов с выбором 10 экспертов на токен и один общий эксперт, grouped-query attention с 8 KV-головами, а также комбинацию глобального и скользящего внимания: 12 глобальных слоёв и 36 слоёв с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, размер словаря — 100 352 токена. Модальность — text-to-text; языки в README не указаны. Ключевые преимущества — большое контекстное окно, специализированность на агентных задачах и программировании, поддержка нескольких движков инференса и снижение требований к памяти за счёт GGUF-квантизации. Вариант UD-Q4_K_XL занимает около 40 ГБ и поставляется в трёх файлах; для него требуется llama.cpp версии b10087 или новее. Ограничения включают значительный общий размер модели и необходимость нескольких GPU для полноточных вариантов. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию для коммерческих и некоммерческих целей.
DuoNeural выпустила GGUF-квантизацию диалоговой модели DuoNeural/LFM2.5-8B-A1B-Abliterated на базе Liquid AI LFM 2.5-8B-A1B. Веса распределены по разным схемам квантования: для проекций внимания и shortconv используются IQ2_XS, для тензоров MoE-экспертов — IQ3_XS и Q3_K_M. По заявлению авторов, такая конфигурация сохраняет компактность и повышает точность в задачах программирования по сравнению с их версией 2.72 bpw; модель предназначена для локальной генерации текста, диалогов, кода и вызовов инструментов. В карточке указаны результаты на HumanEval, GSM8K и Hermes function calling, а также тесты производительности на RTX 4080 Super. Это заявления авторов, и они не гарантируют аналогичного качества или скорости на другом оборудовании и при иных настройках. Модель ориентирована на английский язык; размер контекста в доступных данных не указан. Репозиторий распространяется по лицензии Apache-2.0.
LFM2.5-Embedding-350M-4bit — 4-битная MLX-сборка мультиязычной плотной двунаправленной модели-энкодера Liquid AI. Она преобразует запросы и документы в 1024-мерные векторы; косинусное сходство между ними подходит для семантического поиска и сопоставления предложений, включая поиск между языками. Модель предназначена для локального запуска на устройствах Apple Silicon с MLX. В репозитории веса переведены из формата PyTorch/safetensors в MLX и квантованы до 4 бит с аффинной схемой и размером группы 64. В README указано, что на наборе из восьми оценённых датасетов качество поиска сохранилось близким к bf16-версии: среднее удержание NDCG@10 составило 100%, Recall@10 — 98,6%. Оценка для мультиязычных наборов проводилась на сокращённых пулах документов, поэтому абсолютные результаты нельзя напрямую сравнивать с результатами на полных корпусах. Метаданные указывают 444,6 млн параметров и контекст до 128 000 токенов. Поддерживаемые языки включают английский, испанский, немецкий, французский, итальянский, португальский, арабский, шведский, норвежский, японский и корейский. Лицензия отмечена как other; конкретные условия следует сверить с карточкой базовой модели LiquidAI/LFM2.5-Embedding-350M.
Enigma — языковая модель Valiant Labs для генерации кода по инструкциям и общего диалога. Она дообучена на Llama 3.2 3B Instruct с использованием синтетических данных для программирования и общего общения; в карточке названы наборы sequelbox/Tachibana и sequelbox/Supernova. Модель использует плотную архитектуру LlamaForCausalLM, содержит 3,2 млрд параметров и принимает формат запросов Llama 3.2 Instruct. Заявленная длина контекста — 131 072 токена. Enigma предназначена для написания и объяснения кода, ответов на вопросы и обычного общения в чате. Карточка отмечает английский язык, а также возможности следования инструкциям и интерфейс вызова инструментов. Модель распространяется в формате safetensors по лицензии Llama 3.2. Результаты генерации кода и ответов могут содержать ошибки; карточка не приводит отдельных оценок качества или подробных ограничений.
QuantFactory/Llama3.2-3B-Enigma-GGUF — квантизированная версия модели Llama3.2-3B-Enigma, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана ValiantLabs на базе Meta Llama 3.2 3B Instruct и выпущена 30 сентября 2024 года. Модель предназначена для генерации текста, диалоговых сценариев и прежде всего для задач программирования: написания, объяснения и обработки кода. Она использует формат промптов Llama 3.2 Instruct, поддерживает чат-взаимодействие и обучалась на синтетических данных для code-instruct из набора Tachibana, дополненных общими диалоговыми данными из Supernova. В README указан английский язык; другие языки и размер контекстного окна не заявлены. Ключевые характеристики — архитектура Llama, около 3 млрд параметров, текстовая модальность и формат GGUF, подходящий для запуска через llama.cpp и совместимые инструменты. Сильными сторонами являются специализация на инструкциях по программированию и улучшенные общие диалоговые возможности при относительно небольшом размере. Ограничения включают отсутствие заявленных мультимодальных возможностей и недостаточно подробные сведения о конкретном варианте квантизации, контекстном окне и производительности. Модель распространяется по лицензии llama3.2.
Llama-3-8B-Instruct-Coder-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Llama-3-8B-Instruct-Coder, предназначенной прежде всего для генерации и анализа программного кода, а также для диалоговых задач по текстовым инструкциям. Квантизации подготовлены пользователем bartowski на основе модели rombodawg/Llama-3-8B-Instruct-Coder, которая, в свою очередь, связана с базовой моделью unsloth/llama-3-8b-Instruct-bnb-4bit. Для квантизации использован llama.cpp с imatrix и датасетом Kalomaze. Модель имеет текстовую модальность, архитектуру семейства Llama 3 и размер 8 миллиардов параметров. В README явно указан английский язык; сведения о других языках и размере контекстного окна отсутствуют. Доступны варианты от Q8_0 до IQ1_M размером примерно от 2,16 до 8,54 ГБ. Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-варианты отмечены как рекомендуемые: более высокие уровни обычно обеспечивают лучшее качество, а низкие позволяют экономить оперативную память ценой заметной деградации. Сильные стороны модели — возможность локального запуска через llama.cpp, широкий выбор компромиссов между качеством и требованиями к памяти и специализация на задачах программирования. Ограничения включают потери качества при агрессивной квантизации, особенно у вариантов IQ1_M и Q2–Q3, а также отсутствие в README подробных данных о бенчмарках, контекстном окне и фактическом языковом покрытии. Модель распространяется по лицензии Apache-2.0.
LuxAI 1 Nemo — выпущенная LuxAI объединённая модель на архитектуре Mistral 3 для диалога на чешском и английском языках, программирования, математики и работы с инструментами. Репозиторий содержит самостоятельные веса BF16 в формате safetensors; обучение включало текстовые адаптеры и настройку выбранных строк токенов, а затем их слияние с моделью. В README указана корректирующая эпоха на 21 530 примерах: среди обучающих задач были математические и программные рассуждения, диалоги с инструментами и чешская беседа. Модель предназначена для генерации текста, ответов в чате, кода и вызовов инструментов. На диагностическом чешском наборе Lux Core 1 она набрала 72,92% (175 из 240); это специализированная оценка, а не общий рейтинг. Авторы рекомендуют начинать работу с контекста 8 192 токена, поскольку качество на большей длине не установлено. Также опубликованы варианты GGUF, включая смешанную 4-битную квантизацию, но их точность не следует считать равной результату BF16. Ограничения включают возможные фактические, математические и программные ошибки, ненадёжное формирование native-блоков рассуждений на чешских запросах и иногда пропущенные или повторяющиеся разделители протокола. Синтаксически корректный вызов инструмента не гарантирует верный выбор инструмента; структурированный вывод следует проверять. В README сведения о лицензии отсутствуют.
MiniCPM5-1B — компактная плотная языковая модель семейства MiniCPM5, разработанная OpenBMB; этот репозиторий AIArchiveInfo является побитовой копией оригинала openbmb/MiniCPM5-1B. Модель предназначена для локальных помощников, кодовых агентов, работы с инструментами и рассуждений на устройствах с ограниченными ресурсами. Она построена на архитектуре LlamaForCausalLM, содержит около 838 млн параметров по метаданным каталога и поддерживает контекст до 131 072 токенов. Один чекпойнт поддерживает режимы ответа с рассуждением и без него; карточка также отмечает возможности чата, вызова инструментов, генерации кода и сложных рассуждений. Модель рассчитана на английский и китайский языки и доступна в формате Safetensors для Transformers. Лицензия — Apache-2.0. Модель может ошибаться, воспроизводить смещения или выдавать небезопасные ответы; результаты следует проверять, особенно при использовании в ситуациях с высокими ставками.
MiniCPM5-1B — компактная плотная языковая модель серии MiniCPM5, разработанная OpenBMB. Она построена на архитектуре Transformer с причинной языковой моделью LlamaForCausalLM; метаданные указывают 837,6 млн параметров, а карточка модели — около 1,08 млрд. Модель поддерживает контекст до 131 072 токенов и распространяется в формате safetensors через Transformers. Модель предназначена для локальных помощников, программирования, агентных сценариев с вызовом инструментов и сложных рассуждений на устройствах с ограниченными ресурсами. Один чекпойнт предлагает быстрый режим без рассуждений и режим Thinking. В карточке заявлены сильные результаты для своего размерного класса, особенно в использовании инструментов, генерации кода и трудных рассуждениях; это оценка авторов в сравнении с выбранными моделями, а не гарантия качества для любого сценария. Модель рассчитана прежде всего на английский и китайский языки. Лицензия Apache-2.0. Как и другие языковые модели, она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно при использовании в важных решениях.
MiniCPM5-1B-SFT — контрольная точка модели серии MiniCPM5 от OpenBMB, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM: в метаданных указано 837,6 млн параметров, а карточка сообщает о 24 слоях и 16 головах запросов и 2 головах ключей и значений. Модель принимает текст и выдаёт текст; контекст — до 131 072 токенов. Карточка модели указывает английский и китайский языки. SFT-чекпойнт предназначен для локальных помощников, генерации кода, агентных сценариев с вызовом инструментов и сложных рассуждений. В серии предусмотрены режимы ответа с рассуждением и без него; этот вариант обучен только методом SFT и предшествует этапам RL и OPD. Поддерживаются запуск через Transformers, vLLM и SGLang, а также дообучение с помощью ресурсов проекта. Заявления карточки о сравнительных результатах относятся к указанному в ней набору моделей и бенчмарков. Модель распространяется под лицензией Apache-2.0. Она может выдавать неточные, предвзятые или небезопасные ответы; результаты следует проверять, особенно перед применением в ответственных сценариях.
nreimers/MiniLM-L6-H384-uncased — компактная модель семейства MiniLM, представленная Nils Reimers. Это версия Microsoft MiniLM-L12-H384-uncased, полученная удалением каждого второго слоя; архитектура — BERT с шестью слоями и примерно 25,9 млн параметров. Модель извлекает контекстные признаки из текста и подходит для построения текстовых представлений в NLP-системах. Она поддерживает последовательности длиной до 512 токенов и распространяется в форматах PyTorch и Flax. Модель можно использовать как основу для извлечения признаков в поиске, кластеризации и последующей классификации текста. Уменьшенная глубина делает её компактнее исходной 12-слойной версии, но сама карточка не приводит сравнительных оценок качества. Поддерживаемый язык в карточке не указан. Лицензия — MIT.
MistralLite — языковая модель Amazon, дообученная на базе Mistral-7B-v0.1 для работы с длинными контекстами. Это плотная авторегрессионная модель Mistral с 7,1 млрд параметров, принимающая текст и генерирующая текст; заявленная длина контекста — до 32 768 токенов. При дообучении использованы адаптация Rotary Embedding с rope_theta=1000000 и скользящее окно размером 16 384 токена. Модель предназначена для извлечения строк и тем из длинных текстов, суммаризации и ответов на вопросы по предоставленному контексту. По карточке, она лучше справляется с рядом задач извлечения и ответа по длинному контексту и может обслуживаться на одном экземпляре AWS g5.2xlarge, а также через TGI или vLLM. README сравнивает её с Mistral-7B-Instruct-v0.1, но указывает дообучение именно от Mistral-7B-v0.1. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов сравнительных тестов, а длина контекста в конкретном обслуживании зависит от настроек сервера; приведённые примеры задают пределы ниже заявленных 32 768 токенов.