I.2Синтез, понимание и проверка знаний

GRaPE 2.5 Helios — мультимодальная инструктивная модель компании SL-AI, дообученная на базе Qwen/Qwen3.5-9B. Она принимает текст и изображения, а также, согласно карточке, видео, и генерирует текст. Модель предназначена для диалога, анализа изображений, рассуждений, творческих задач, программирования с использованием инструментов и задач STEAM. В модели предусмотрены настраиваемые режимы глубины рассуждений и усилий при работе с инструментами; заявлена поддержка нескольких языков. Архитектура — плотная Qwen3.5 для генерации текста с визуальным входом; в метаданных указано 9 млрд параметров, а в README размер округлён до 10 млрд. Модель распространяется по лицензии Apache 2.0. Карточка заявляет, что обучение ориентировано на качество данных, более естественный стиль ответов и улучшение обобщения и агентного программирования. Эти заявления не сопровождаются результатами независимых сравнительных тестов. Для видеовхода и работы с инструментами требуется совместимая обвязка; конкретный формат входного видео README не описывает.

osmanh/Harry_Potter_and_the_Sorcerers_Stone_en — модель sentence-transformers на базе BERT для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в векторы размерности 384 и предназначена для поиска семантически близких фрагментов, кластеризации и сравнения текстов. Модель содержит 25,9 млн параметров, использует архитектуру BertModel и принимает контекст длиной до 512 токенов. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Название указывает на связь с английским текстом «Гарри Поттер и философский камень», однако карточка не уточняет языковой состав обучающих данных или условия лицензии.

HindSBERT — модель семейства BERT от L3Cube-Pune, дообученная на наборе данных NLI на основе l3cube-pune/hindi-bert-v2. Она преобразует предложения и абзацы на хинди в плотные векторы размерности 768 для оценки семантического сходства, поиска и кластеризации текстов. Модель использует архитектуру BERT, имеет 264,8 млн параметров и поддерживает контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения предложений и группировки похожих текстов на хинди. Доступна в формате PyTorch и лицензирована по CC BY 4.0. Для получения эмбеддингов через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов.

Huihui-NeoHorse-1-4B-abliterated — экспериментальная версия TokenRhythm/NeoHorse-1-4B от Huihui AI с ослабленными отказами, созданная методом abliteration. Это плотная текстовая авторегрессионная модель семейства Qwen3.5 с 3,4 млрд параметров; она предназначена для диалога, следования инструкциям, рассуждений, программирования и агентных сценариев с вызовом инструментов. Модель работает через библиотеку Transformers и поддерживает контекст до 262 144 токенов. Автор описывает изменение как грубую проверку концепции: аблированы слои 5–17. README также упоминает извлечённые из исходной Qwen3.5-4B компоненты MTP и Vision, которые можно отдельно добавить в каталог модели; доступность этих компонентов в основном наборе весов не подтверждена. Снижение защитных ограничений повышает вероятность чувствительных, спорных или неподходящих ответов, поэтому результаты требуют проверки. Лицензия — Apache-2.0.

HyperCLOVA X SEED 14B Think — плотная языковая модель семейства HyperCLOVAX, разработанная командой HyperCLOVA X. Она предназначена для диалогов и генерации текста с возможностью пошагового рассуждения, в том числе для математических и кодовых задач. Разработчики использовали pruning и дистилляцию знаний, а затем многоэтапное обучение: SFT, обучение с проверяемыми наградами, настройку длины рассуждений и совместное обучение с обратной связью от людей и проверяемыми наградами. В README приведён размер 14,74 млрд параметров; метаданные указывают 14,1 млрд параметров и контекст 131 072 токена. Архитектура основана на Transformer, Peri-Layer Normalization и μP; модель принимает и выдаёт текст. README сообщает о сильных результатах на корейском языке и знании корейской культуры, а также о конкурентных результатах в математике и программировании. Длину рассуждений можно задавать текстовой инструкцией; поддерживается многоходовый диалог и описан сценарий вызова инструментов. Модель подходит для корейскоязычных диалоговых помощников, решения задач на рассуждение и ответов на вопросы, а также для генерации и объяснения кода. README приводит контекст 32 тыс. токенов, тогда как метаданные указывают 131 072 токена. Лицензия помечена как other, поэтому конкретные условия использования следует проверять в файлах репозитория модели.

Fatahillah01/indobert-sts-indonesian — модель Sentence Transformers, созданная дообучением indobenchmark/indobert-base-p1 для оценки семантического сходства предложений на индонезийском языке. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и использует косинусное сходство для сравнения текстов. Архитектура состоит из BERT-трансформера с усреднением токенных представлений; метаданные указывают 151,6 млн параметров и контекст до 512 токенов, тогда как конфигурация модели в README задаёт максимальную длину последовательности 128 токенов. Модель подходит для семантического поиска, поиска перефразировок, кластеризации текстов, классификации на основе эмбеддингов и ранжирования пар предложений по смысловой близости. В README приведён результат Spearman 0,7612 на наборе проверки sbert_val. Модель принимает текст и выдаёт векторные представления; сведения о лицензии в предоставленных данных отсутствуют.

naufalihsan/indonesian-sbert-large — модель на базе BERT, представленная как sentence-transformers-модель. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения текстов и кластеризации. Обучение с CosineSimilarityLoss ориентировано на сходство предложений; модель также подходит для построения текстовых эмбеддингов. Модель содержит около 433,9 млн параметров, принимает текст и имеет контекстное окно до 512 токенов. В карточке указано назначение для индонезийского языка. Доступны веса в формате PyTorch; для использования описаны библиотеки Sentence-Transformers и Transformers. Лицензия в предоставленных данных не указана.

DejanX13/ISO_embedding_1000 — модель на базе XLM-RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для сравнения семантической близости, семантического поиска и кластеризации. Обучение использовало MultipleNegativesRankingLoss с косинусным сходством. Модель содержит около 658,7 млн параметров и поддерживает контекст до 514 токенов. Репозиторий использует формат safetensors; для работы подходит библиотека sentence-transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых языках, поэтому модель можно описать как общую модель эмбеддингов текста. Такие эмбеддинги подходят для поиска похожих текстов и группировки предложений по смыслу. Качество на конкретных языках и доменах следует проверять на собственных данных: карточка не приводит результатов оценки. Лицензия в предоставленных данных не указана.

Jan-v3-4B-base-instruct-GGUF — квантованная версия компактной языковой модели Jan-v3-4B-base-instruct, разработанной Jan (janhq) и преобразованной в формат GGUF с помощью llama.cpp командой GGUF Quantizer Space. Модель предназначена для генерации текста, следования инструкциям, локального запуска, лёгкой помощи в программировании и последующей тонкой настройки под прикладные задачи. Модель относится к авторегрессионным causal language models и содержит около 4 млрд параметров, 36 слоёв и Grouped Query Attention с 32 головами для запросов и 8 для ключей и значений. Заявлена нативная длина контекста 262 144 токена. Модель получена посредством посттренировочной дистилляции от более крупной модели; README не указывает поддерживаемые языки и не заявляет мультимодальность, поэтому её следует рассматривать как текстовую. Основные преимущества — компактность, возможность локального развертывания через llama.cpp или Ollama, улучшенное следование инструкциям и пригодность в качестве основы для дообучения. Доступны варианты квантования от Q2_K до Q8_0: меньшие варианты требуют меньше ресурсов, но сильнее теряют в качестве, тогда как Q4_K_M и Q5_K_M обозначены как сбалансированный и высококачественный рекомендуемые варианты. Ограничения включают потери качества при агрессивном квантовании, а также отсутствие в README подробных данных о результатах бенчмарков, языках и ограничениях безопасности. Для исходной модели указана лицензия Apache 2.0.

Josiefied-Qwen2.5-7B-Instruct-abliterated-v2 — диалоговая языковая модель, разработанная Гёкденизом Гюльмезом. Это дообученная и аблитерированная версия Qwen2.5-7B-Instruct, созданная на пользовательском наборе данных для более свободных ответов и меньшего числа отказов. Модель построена на архитектуре Qwen2 с плотной причинной языковой моделью и содержит около 7,1 млрд параметров; заявленный нативный контекст — 32 768 токенов. Модель предназначена для генерации текста в формате чата: она отвечает на запросы, помогает с письмом, программированием и математическими задачами, а также поддерживает многоязычные диалоги. В метаданных отмечены интерфейс вызова инструментов и поддержка английского, русского, китайского, немецкого, французского, испанского, португальского, итальянского, японского, корейского, вьетнамского, тайского и арабского языков. Карточка указывает лицензию Apache 2.0. Аблитерация ориентирована на снижение отказов, что позволяет использовать модель для запросов, которые обычные ассистенты могут отклонять; при этом поведение и безопасность ответов могут быть менее предсказуемыми. Автор рекомендует использовать модель на свой риск. Указанные в README характеристики базовой Qwen2.5, включая контекст до 128K токенов, не следует переносить на эту производную модель: для данного репозитория метаданные указывают нативный контекст 32 768 токенов.

primitive-ai/K2-Horizon-MoVA-36B-A4B-NVFP4 — это квантованная версия модели IFM/K2-Horizon-MoVA-36B-A4B, подготовленная командой Primitive AI. Модель предназначена для генерации текста, рассуждений и сценариев с вызовом инструментов; поддерживает использование через Transformers и vLLM. Архитектура — MoE с 36B параметров и 4B активируемых параметров. Модель имеет контекст до 32 768 токенов и рассчитана на запуск на одной видеокарте без tensor parallelism. Языки и мультимодальные возможности в README не указаны. Веса 13 500 маршрутизируемых экспертных проекций представлены в формате NVFP4, остальные компоненты сохранены в BF16. Размер модели составляет 36,74 ГБ — примерно вдвое меньше BF16-версии и на 24% меньше официальной FP8-версии. По приведённым измерениям, уровень знаний и способность воздерживаться от неподходящих вызовов инструментов сопоставимы с BF16 и FP8, а пропускная способность при высокой конкуренции выше официальной FP8-версии. Слабее всего пострадала точность аргументов при выполняемых вызовах инструментов: она ниже FP8 примерно на 3,1 процентного пункта. Сборка совместима с GPU архитектур Ampere и Blackwell, включая проверенный запуск на NVIDIA A100 40 ГБ, и предназначена для компактного локального или серверного развертывания. Для работы требуется версия vLLM из main или nightly с поддержкой K2-Horizon; стабильные релизы до 0.28.1rc1.dev388 эту поддержку не содержат. Режим рассуждений выбирается на уровне сервера. Модель распространяется по лицензии Apache-2.0.

KeawGPT — языковая модель KordAI с архитектурой Qwen3 и примерно 3,7 млрд параметров, дообученная на базе KordAI/KeawGPT-Base. Она предназначена для генерации ответов и рассуждений на английском языке по STEM-дисциплинам — математике, физике, инженерии и информатике — и философии, включая логику, этику и анализ аргументов. Модель поддерживает диалог и структурированные вызовы инструментов, например для поиска в интернете и выполнения кода, если приложение умеет обрабатывать вызовы и передавать результаты обратно модели. Контекст — до 32 768 токенов; веса доступны в формате Safetensors. Модель подходит для объяснения технических понятий, разбора задач и концептуальных вопросов, а также для использования в агентных сценариях с инструментами. Она может допускать фактические и логические ошибки, особенно в многошаговых доказательствах и узкоспециальных темах, и выдумывать цитаты или источники. Вызов инструментов требует соответствующей реализации в приложении. Модель не предназначена для критически важных решений или профессиональных медицинских, юридических и финансовых консультаций. Лицензия — Apache-2.0.

Карточка модели gemasphi/laprador_pt_pb на Hugging Face совпадает с карточкой gemasphi/laprador_pt, поэтому описание составлено по ней. gemasphi/laprador_pt — модель на основе BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для построения эмбеддингов, поиска семантически близких текстов и кластеризации. Модель содержит 79,5 млн параметров, принимает последовательности длиной до 512 токенов и доступна в формате PyTorch. Модель можно использовать через библиотеку Sentence-Transformers или Hugging Face Transformers с подходящей операцией pooling. Она подходит для семантического поиска и группировки текстов по смыслу. README не сообщает языковую специализацию или результаты оценки, поэтому её качество для конкретного языка и предметной области следует проверять отдельно.

LEALLA-base — компактная многоязычная модель эмбеддингов предложений семейства BERT, созданная как часть коллекции LEALLA и дистиллированная из LaBSE. Версия перенесена из v1 модели на TensorFlow Hub; PyTorch-версия, согласно карточке, выдаёт эквивалентные эмбеддинги. Модель предназначена для преобразования предложений в векторы, сравнения их семантической близости и поиска соответствующих текстов на разных языках. Она поддерживает 109 языков и подходит, например, для многоязычного поиска по парам текстов. Размер составляет 110,4 млн параметров, максимальная длина контекста — 512 токенов. Для некоторых языков, в частности японского, при сравнении эмбеддингов могут потребоваться более высокие допуски. Подробности обучения, оценки и метрик приведены в исходной научной статье. Лицензия — Apache-2.0.

lecore-bge-assimilated — англоязычная модель текстовых эмбеддингов на базе BAAI/bge-base-en-v1.5 от BAAI, обработанная механизмом leCore: спектральный фильтр не изменил слои, а веса были повторно квантованы с переменной разрядностью. Архитектура — BERT; размер — 136,7 млн параметров, контекст — до 512 токенов. Репозиторий содержит контейнер весов fp32, привязанный к квантовочной сетке; средняя разрядность весов после обработки составляет 7,62 бита. Модель предназначена для получения эмбеддингов и сравнения текстов, в том числе для семантического поиска и систем RAG. В тестах автор README сообщает результаты, близкие к полной версии BGE на SciFact, NFCorpus, ArguAna и SCIDOCS. Лицензия — MIT. Повторная квантовка уменьшает размер представления весов, но сама по себе не ускоряет CPU-инференс: по данным README, он работает примерно со скоростью обычной bge-base. Указанные около 132 МБ относятся к оценке упакованных весов; в репозитории поставляется fp32-контейнер размером 438 МБ, а для реализации экономии памяти при инференсе нужен совместимый упакованный runtime.

LFM2.5-2.6B — компактная текстовая модель Liquid AI для локального запуска и агентных сценариев на устройствах с ограниченными ресурсами. Это дообученная на базе LiquidAI/LFM2.5-2.6B-Base модель семейства LFM2: плотная архитектура Lfm2ForCausalLM с 2,6 млрд параметров, 30 слоями, включая блоки коротких свёрток и GQA. Модель поддерживает контекст до 131 072 токенов и работает с Transformers, vLLM и SGLang; для репозитория указан формат safetensors. Модель предназначена для диалогов, вызова инструментов, многошаговых агентных задач, извлечения данных, RAG и работы с длинным контекстом. В README заявлена многоязычная поддержка 17 языков, включая русский, а также постобучение с обучением с подкреплением в популярных агентных средах. README приводит высокую скорость инференса на отдельных устройствах, но эти показатели зависят от оборудования и условий запуска. Модель не рекомендуется для агентного программирования и задач, требующих обширных знаний. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и документах Liquid AI.

LiquidAI/LFM2.5-8B-A1B-MLX-8bit — языковая text-generation модель, разработанная Liquid AI и преобразованная в формат MLX из базовой модели LiquidAI/LFM2.5-8B-A1B с использованием mlx-lm 0.31.3. Она предназначена для запуска локально, в том числе в качестве персонального ассистента на ноутбуке, генерации текста, диалогового взаимодействия и сценариев с function calling. Модель использует архитектуру Mixture of Experts (MoE); обозначение 8B-A1B указывает на конфигурацию базовой модели, однако подробности архитектуры в README не приведены. Веса квантизированы до 8 бит с group size 64 и affine mode, а MoE-gates сохранены в 8-битном формате. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. Модель работает через mlx-lm, использует ChatML-подобный шаблон и поддерживает явные рассуждения перед итоговым ответом, а также вызов функций. К сильным сторонам относятся оптимизация для MLX, 8-битная квантизация, возможность локального использования и поддержка многоязычного диалога и инструментов. Ограничения связаны с отсутствием в README сведений о размере контекста, точных характеристиках производительности, требованиях к памяти и результатах оценивания; модель также ориентирована на экосистему MLX. Условия использования определяются лицензией LFM Open License v1.0.

EXAONE-Deep-32B-GGUF — это квантованные версии языковой модели EXAONE-Deep-32B, разработанной LGAI-EXAONE и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на текстовые сценарии, включая диалоговое взаимодействие, написание и преобразование текста, программирование и другие задачи генерации на естественном языке. В README указаны английский и корейский языки. Базовый размер модели — 32B параметров; архитектура и размер контекстного окна не указаны. Доступны варианты от BF16 до квантований Q8_0, Q6, Q5, Q4, Q3 и IQ, размер файлов составляет примерно от 13 до 64 ГБ. Главное преимущество — возможность локального запуска при выборе подходящего уровня квантования: высокоточные варианты Q6 и Q5 обеспечивают качество, близкое к исходной модели, а более компактные Q4 и Q3 снижают требования к памяти. Ограничения связаны с существенными аппаратными требованиями 32B-модели, возможным снижением качества при сильном квантовании и отсутствием информации о мультимодальности, контекстном окне и результатах оценивания. Указана лицензия EXAONE; подробные условия следует уточнять в файле LICENSE.

SC117 подготовил квантизированные GGUF-варианты Ling-3.0-tiny с удалённым направлением отказа (abliteration). Базовая модель inclusionAI/Ling-3.0-tiny — гибридная MoE-модель на архитектуре BailingMoE: 7,9 млрд параметров всего и около 1,3 млрд активных на токен. Варианты APEX применяют смешанную точность с учётом типа и чувствительности тензоров; для калибровки использовались данные чатов, кода, рассуждений и вызова инструментов. Модель предназначена для диалоговой генерации текста, рассуждений, программирования, перевода и других типичных задач языковой модели. Abliteration уменьшает частоту отказов; автор сообщает о 15 отказах из 100 запросов против 98 из 100 у исходной модели и об отсутствии заметного ухудшения в выборочных проверках математики, логики, кода, перевода и знаний. Для запуска подходят llama.cpp и Ollama; для поддержки архитектуры BailingMoE3 требуется llama.cpp версии b10470 или новее. Модель распространяется по лицензии MIT. README не сообщает перечень поддерживаемых естественных языков и длину контекста.

LLaDA2.0-mini-CAP — языковая модель компании InclusionAI, основанная на диффузионной архитектуре Mixture-of-Experts и обученная с применением Confidence-Aware Parallel (CAP). Она предназначена для генерации текста в диалогах, ответов на вопросы, рассуждений, математических задач и программирования. CAP повышает эффективность параллельного декодирования: в README заявлено ускорение генерации в 1,46 раза относительно LLaDA2.0-mini при снижении среднего результата на указанных тестах с 70,15 до 67,32. Модель содержит 1,2 млрд параметров по метаданным; README описывает базовую архитектуру как 16B-A1B MoE, 20 слоёв и 16 голов внимания. Длина контекста — 32 768 токенов. Для инференса предназначен формат safetensors и библиотека Transformers; доступны чат и интерфейс вызова инструментов. README рекомендует температуру 0, block_length 32 и steps 32, предупреждая, что повышенная температура может вызывать смешение языков и немного снижать качество. Лицензия — Apache-2.0.

OpenAssistant Llama2 70B SFT v10 — языковая модель OpenAssistant, дообученная на базе Meta Llama 2 70B. Это плотный авторегрессионный трансформер с декодером, примерно 68,7 млрд параметров; обучение проходило в два этапа: на смеси синтетических инструкций и задач по программированию, затем на отобранных человеческих диалогах OpenAssistant. Модель принимает диалог в формате ChatML и предназначена для генерации ответов, следования инструкциям и помощи с кодом. Контекст составляет 4096 токенов. Основной язык — английский; заявлены ограниченные возможности на немецком, испанском, французском, итальянском, португальском, польском, нидерландском, румынском, чешском и шведском. Сильные стороны — крупный размер и обучение на инструкциях, диалогах и коде. Ответы могут быть неточными, предвзятыми или нежелательными; тестирование проводилось преимущественно на английском, поэтому перед применением нужна проверка безопасности и качества. Модель распространяется по лицензии Llama 2 Community License Agreement.

Llama-3.1-Minitron-4B-Width-Base — базовая текстовая языковая модель NVIDIA для генерации текста и последующей адаптации под задачи обработки естественного языка. Это авторегрессионный трансформер-декодер семейства Llama 3.1 с 3,9 млрд параметров, 32 слоями, Grouped-Query Attention и RoPE. Модель получена сокращением размерностей Llama-3.1-8B с последующим продолженным обучением и дистилляцией на 94 млрд токенов. Модель принимает текст и генерирует текст. Обучающий корпус включал английские и многоязычные тексты, а также код; среди тематик данных были право, математика, наука и финансы. Контекст модели — до 131 072 токенов по метаданным, хотя в README отмечено, что она хорошо работает с входами длиной до 8 000 символов. Модель предназначена для коммерческого использования; лицензия указана как other, поэтому перед внедрением следует проверить применимые условия NVIDIA. Это базовая, а не готовая к диалогу инструкционная модель: для прикладных сценариев может потребоваться дообучение или настройка промптов. Модель может выдавать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичность и смещения, присутствующие в обучающих данных.

Это модель M2-BERT, разработанная Джоном Саад-Фалконом, Дэном Фу и Симран Аророй. Чекпойнт содержит около 136,7 млн параметров по метаданным и дообучен для поиска по длинным последовательностям; в README размер семейства обозначен как 80M. Модель принимает текстовые последовательности длиной до 32 768 токенов и предназначена для задач извлечения информации и поиска по длинным документам. Её можно загрузить через Transformers как BertForSequenceClassification; метаданные также указывают поддержку сходства предложений и классификации текста. Модель распространяется в формате PyTorch под лицензией Apache-2.0. Карточка не описывает ограничения качества или языков помимо английского, указанного в метаданных.

mergekit-community/mergekit-sce-vjeombg — объединённая языковая модель, созданная сообществом с помощью mergekit. В основе объединения лежит sthenno-com/miscii-14b-1225; использован метод SCE с нормализацией и включением параметров от семи моделей, среди которых Qwen2.5-14B-Instruct-1M, DeepSeek-R1-Distill-Qwen-14B, Virtuoso-Small и Impish_QWEN_14B-1M. Модель имеет плотную архитектуру Qwen2 с 14 млрд параметров и предназначена для диалогов и генерации текста. Она принимает текст и выдаёт текст; метаданные указывают контекст до 131 072 токенов. Объединение сочетает несколько диалоговых и инструкционных моделей, включая дистиллированную модель DeepSeek для рассуждений, однако README не сообщает результаты оценки качества и не уточняет, какие возможности итоговой модели сохраняются лучше всего. Модель опубликована в формате safetensors для Transformers. Лицензия в предоставленных данных не указана.

Meta-Llama-3.1-8B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta-Llama-3.1-8B-Instruct, разработанной Meta Llama и подготовленной для распространения компанией Second State Inc. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций и работу в приложениях на базе GaiaNet. Для взаимодействия используется шаблон llama-3-chat, а запуск поддерживается llama.cpp. Модель основана на архитектуре Llama и содержит 8 миллиардов параметров. Она работает в текстовой модальности, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Заявленный размер контекста составляет 128 000 токенов. Квантизация выполнена с использованием llama.cpp b4466, что делает модель более подходящей для запуска в средах с ограниченными ресурсами, однако README не уточняет конкретный формат квантизации, требования к оборудованию и возможные компромиссы между скоростью, качеством и потреблением памяти. Модель распространяется по лицензии llama3.1. README не содержит подробностей о дополнительных ограничениях лицензии и не приводит результаты оценки качества, поэтому её преимущества и ограничения можно описать только на общем уровне: это компактная инструкционная модель с широкой поддержкой языков и большим контекстом, но без подтвержденных характеристик производительности для отдельных задач.

Карточка модели Undi95/Meta-Llama-3-8B-hf на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

NousResearch/Meta-Llama-3-8B-Instruct — инструктивная версия семейства больших языковых моделей Llama 3, разработанного Meta. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с Grouped-Query Attention и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, включая код. Контекст — до 8192 токенов. Модель настроена для диалоговых сценариев и работы в роли ассистента: она отвечает на вопросы, поддерживает беседу и выполняет инструкции на английском языке. Настройка включает supervised fine-tuning и обучение с подкреплением на основе человеческой обратной связи. Модель можно запускать через Transformers и использовать в приложениях, которым нужна генерация текста. В карточке указана пользовательская коммерческая лицензия Meta Llama 3. README ориентирует модель прежде всего на английский язык и предостерегает от использования в других языках, хотя допускает дообучение для них при соблюдении условий лицензии и политики допустимого использования. Это статичная модель, обученная на офлайн-данных; для прикладного развёртывания могут потребоваться дополнительные меры безопасности, а ответы модели могут быть ошибочными.

MiniCPM5-2B-heretic — производная версия MiniCPM5-2B, представленная в репозитории Dingdust и ориентированная на генерацию текста в диалогах. Это плотная причинная языковая модель на архитектуре LlamaForCausalLM с 2,2 млрд параметров по метаданным и контекстом до 131 072 токенов. Карточка описывает исходную MiniCPM5-2B как компактную модель для локальных ассистентов, программирования, математических рассуждений, работы с длинным контекстом, вызова инструментов и агентных сценариев на устройствах с ограниченными ресурсами. В метаданных отмечены английский и китайский языки, а также теги uncensored и abliterated; конкретный способ получения версии heretic и её отличия от исходных весов в карточке не раскрыты. Указан формат safetensors и библиотека Transformers. Лицензия — Apache-2.0. Ответы могут быть неточными, предвзятыми или оскорбительными; для чувствительных тем они не заменяют консультацию специалиста.

MiniCPM5-2B-RotSVDMix — это сжатая и квантизованная версия языковой модели openbmb/MiniCPM5-2B, опубликованная ewin-reg. Модель предназначена для генерации текста, диалоговых сценариев, написания и анализа кода, суммаризации и запуска на устройствах с ограниченными ресурсами, включая мобильные и периферийные устройства. Поддерживаются английский и китайский языки; модель относится к текстовым causal language models и поставляется в формате SafeTensors. Модель содержит около 2 миллиардов параметров и основана на 42 слоях трансформера. Благодаря сочетанию ортогонального вращения, низкорангового SVD и квантизации ExTernD она занимает 1 985 213 632 байта, то есть менее 2 ГБ. Заявлена совместимость с PyTorch, Hugging Face Transformers, vLLM и TGI без необходимости компиляции специализированного C++-рантайма. Длина контекста в README не указана. На тестовой выборке WikiText-2 модель показала perplexity 20,92 против 20,46 у базовой FP16-версии, что соответствует ухудшению примерно на 2,25%. Косинусное сходство логитов с базовой моделью составило 98,70%, совпадение наиболее вероятного токена — 96%, а пересечение пяти наиболее вероятных токенов — 100% на ограниченном наборе из 25 промптов. Эти результаты указывают на хорошее сохранение поведения исходной модели при существенном уменьшении размера, однако качество может зависеть от задачи, языка и входных данных; заявленные измерения не заменяют полноценную оценку прикладных сценариев. Модель распространяется по лицензии Apache 2.0.

openbmb/MiniCPM-V-4_5-AWQ — квантованная в формате AWQ версия мультимодальной модели MiniCPM-V 4.5, разработанная командой OpenBMB. Модель предназначена для понимания одиночных и нескольких изображений, видео, OCR, разбора документов и визуально-языкового диалога, включая локальное использование на мобильных и обычных устройствах. Модель построена на Qwen3-8B и SigLIP2-400M и содержит около 8 млрд параметров. Она поддерживает более 30 языков, обрабатывает изображения высокого разрешения с произвольным соотношением сторон и площадью до 1,8 млн пикселей, а также видео с высокой частотой обновления — до 10 кадров в секунду. Унифицированный 3D-Resampler сжимает видеотокены до 96 раз, а архитектура на основе LLaVA-UHD снижает количество визуальных токенов при работе с изображениями. Доступны режимы быстрого и глубокого рассуждения. Сильные стороны модели — заявленные высокие результаты в визуально-языковых задачах, OCR, распознавании рукописного текста, анализе PDF и длинных видео, а также возможность эффективного запуска через llama.cpp, Ollama, vLLM и SGLang. Ограничения, включая точные требования к памяти и аппаратному обеспечению, контекстное окно и условия коммерческого использования, в README не указаны. README также не содержит явной информации о лицензии, поэтому условия распространения следует уточнять отдельно.