I.3Извлечение и структурирование данных

Saxo/Linkbricks-Horizon-AI-Llama-3.3-Korean-70B-sft-dpo — модель Linkbricks, дообученная специалистом по данным Юнсоном Джи на базе Meta Llama 3.3 70B Instruct методом SFT с последующим DPO. Это плотная авторегрессионная языковая модель на 69,5 млрд параметров с контекстом до 131 072 токенов; опубликованные веса доступны в формате safetensors по лицензии Apache 2.0. Модель рассчитана прежде всего на работу с корейским языком, а также на задачи с корейским, английским, японским и китайским языками. В карточке заявлены перевод между языками, суммаризация, ответы на вопросы, анализ отзывов и публикаций в соцсетях, написание текстов и кода, математические и логические рассуждения. Поддерживаются диалоговый режим и интерфейс вызова функций и инструментов. Карточка сообщает об обучении на корейских новостях и других корпусах, а также на многоязычных данных для перевода, диалогах и задачах рассуждения. Эти характеристики и улучшения приведены разработчиком; независимые оценки качества не указаны. Модель требует значительных вычислительных ресурсов из-за размера в 70 млрд параметров.

LLaDA2.2-mini — компактная по числу активируемых при инференсе параметров языковая модель InclusionAI из серии LLaDA2.2. Это диффузионная модель Mixture-of-Experts (MoE) с архитектурой LLaDA2MoeModelLM; метаданные указывают 1,2 млрд параметров, а карточка описывает 16 млрд общих параметров и 1,4 млрд активируемых при инференсе. Модель рассчитана на генерацию текста и диалог, включая многошаговое взаимодействие с инструментами и исправление ошибок. Контекстное окно составляет 128K токенов. Механизм Levenshtein Editing с управляющими токенами DELETE и INSERT позволяет удалять и вставлять фрагменты при генерации, а Block Routing ограничивает активацию MoE-экспертов на уровне блоков диффузии. В README рекомендованы Transformers версии 5.2.0 или новее; для длинноконтекстных сценариев с инструментами предлагается SGLang. Качество и скорость зависят от порогов денойзинга: низкие пороги могут ускорить инференс, но приводить к повторяющимся или нестабильным ответам. Модель распространяется по лицензии Apache-2.0. В предоставленных материалах языки обучения или поддерживаемые естественные языки не перечислены.

Llama3.1-Dark-Enigma — объединённая языковая модель на архитектуре Llama 3.1, опубликованная пользователем agentlans. По карточке модели, веса нескольких моделей Llama 3.1 8B объединены методом model_stock из mergekit; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель работает с текстом и предназначена для генерации ответов и диалога. Модель подходит для анализа текстов и исследовательских идей, написания и редактирования материалов, ролевых диалогов и помощи с кодом. Карточка характеризует её как uncensored, поэтому она может отвечать на чувствительные темы. Указана лицензия Llama 3.1; использование должно соответствовать её условиям. В карточке отмечено, что качество не оценивалось конкретными метриками. Модель может ошибаться в фактах, особенно при ответах без предоставленного контекста; результаты следует проверять. Она не подключается к интернету и, согласно карточке, не знает специфичных API, библиотек и фреймворков.

SanctumAI/Llama-3.2-1B-Instruct-GGUF — это квантизированная версия инструкционно дообученной текстовой модели Meta Llama 3.2 1B Instruct, подготовленная SanctumAI в формате GGUF. Модель относится к семейству мультиязычных больших языковых моделей Meta, принимает текст и генерирует текст. Заявлены поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель предназначена для многоязычного диалога, суммаризации и сценариев агентского поиска и извлечения информации. Благодаря размеру около 1 млрд параметров и вариантам квантизации она ориентирована на локальный запуск при ограниченных ресурсах. Доступны варианты от Q2_K до Q8_0, а также f16; их размер составляет примерно от 0,58 до 2,48 ГБ, а оценочная потребность в оперативной или видеопамяти — от 3,93 до 5,70 ГБ. К сильным сторонам относятся компактность, поддержка нескольких языков, инструкционный режим и широкий выбор компромиссов между качеством и требованиями к памяти. Ограничения включают меньший размер по сравнению с более крупными моделями, возможное снижение качества из-за квантизации и отсутствие в README сведений о длине контекста, конкретной архитектуре и результатах бенчмарков. Модель распространяется по лицензии llama3.2; условия использования следует уточнять в тексте этой лицензии.

Llama3-ChatQA-1.5-70B-GGUF — это квантизированная версия языковой модели Llama3-ChatQA-1.5-70B, первоначально разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель распространяется в формате GGUF и предназначена для локального запуска средствами, совместимыми с llama.cpp. Модель относится к классу text-generation и ориентирована на диалоговые сценарии, ответы на вопросы и работу с предоставленным контекстом. В README указан английский язык. Рекомендуемый формат запроса включает системную инструкцию, контекст, вопросы пользователя и ответы ассистента, что делает модель подходящей для контекстного вопросно-ответного взаимодействия. Размер исходной модели составляет 70 млрд параметров. Доступны варианты квантизации от Q8_0 до IQ1_S, объёмом примерно от 15,34 до 74,97 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M обозначены как рекомендуемые и обеспечивают компромисс между качеством и требованиями к памяти; более компактные варианты снижают качество, но подходят для систем с ограниченными ресурсами. Длина контекста и другие архитектурные характеристики в README не указаны. Модель лицензирована по лицензии llama3. Для запуска требуется достаточно оперативной или видеопамяти в зависимости от выбранного варианта квантизации; наиболее качественные версии требуют значительных ресурсов. README не содержит сведений о мультимодальности, поддерживаемых языках помимо английского, результатах бенчмарков или дополнительных ограничениях использования.

CYFRAGOVPL разработала PLLuM — семейство больших языковых моделей для польского и других славянских и балтийских языков с дополнительными англоязычными данными. Эта версия основана на Llama 3.1 и содержит 69,5 млрд параметров; она предназначена для диалогового использования и генерации текста. Модель работает с текстом и поддерживает контекст до 131 072 токенов. Модель подходит для генерации и суммаризации текста, ответов на вопросы и создания специализированных помощников. В README отмечены результаты на задачах, связанных с польским государственным управлением, и пригодность для сценариев с поиском по документам. Обучение семейства включает продолжение предобучения, настройку на инструкциях и обучение на предпочтениях; для этой версии в метаданных указана лицензия Llama 3.1. Учитывайте, что модель может галлюцинировать и воспроизводить смещения; длинный контекст также требует достаточных вычислительных ресурсов.

Карточка модели Sahabat-AI/Llama-Sahabat-AI-v2-70B-IT на Hugging Face совпадает с карточкой begawansemar7/Llama-Sahabat-AI-v2-70B-IT, поэтому описание составлено по ней. Llama-Sahabat-AI-v2-70B-IT — инструктивная языковая модель из семейства Sahabat-AI, разработанная PT GoTo Gojek Tokopedia Tbk и AI Singapore при соинициировании GoTo и Indosat Ooredoo Hutchison. Это плотная авторегрессионная модель-декодер на архитектуре Llama 3.1 с 69,5 млрд параметров, дообученная для общения и выполнения инструкций в индонезийском языковом контексте. Она предназначена для диалоговых приложений, ответов на вопросы, суммаризации, анализа тональности, перевода, рассуждений и работы с местными языками и культурой Индонезии. Модель принимает текст и генерирует текст. Поддерживает английский, индонезийский, яванский, сунданский, язык батак тоба и балийский. Контекстное окно составляет до 131 072 токенов по метаданным; README указывает 128k. В оценках использовались бенчмарки IndoMMLU, SEA-HELM, SEA-IFEval и SEA-MTBench, в том числе задания на следование инструкциям и многоходовый диалог. Модель может выдавать галлюцинации, нерелевантные ответы и непоследовательные рассуждения; ответы требуют проверки. Для приложений с повышенными требованиями к безопасности разработчикам следует самостоятельно настраивать меры безопасности. Лицензия — Llama 3.1 Community License.

Llama-SEA-LION-v3-70B-IT-GGUF — это 70-миллиардная мультиязычная decoder-модель для генерации текста, разработанная командой Products Pillar организации AI Singapore при финансировании Singapore NRF. Модель ориентирована на языки Юго-Восточной Азии и создана на основе Llama-SEA-LION-v3-70B-IT; аббревиатура SEA-LION расшифровывается как Southeast Asian Languages In One Network. Модель предназначена для диалоговых и других текстовых задач, включая обработку инструкций и генерацию ответов на английском, китайском, вьетнамском, индонезийском, тайском, филиппинском, тамильском, малайском, кхмерском, лаосском, бирманском, яванском и сунданском языках. Она была дообучена примерно на 12,3 млн англоязычных и 4,5 млн инструкционных пар на языках региона. В данном репозитории представлены веса в формате GGUF с вариантами квантования от Q2_K до Q8_0, а также F16; некоторые варианты разделены на несколько файлов. Контекст модели в README не указан. К сильным сторонам относятся широкий охват языков Юго-Восточной Азии, большой размер и специализация на инструкционном взаимодействии. Модель может галлюцинировать, выдавать нерелевантный или вымышленный контент, а её рассуждения могут быть непоследовательными, поэтому ответы требуют проверки. Выпуск не прошёл дополнительное safety-выравнивание: пользователи и разработчики должны самостоятельно реализовать меры безопасности и при необходимости дообучение. Использование регулируется Llama 3.1 Community License.

Карточка модели cfli/LLARA-beir на Hugging Face совпадает с карточкой BAAI/LLARA-beir, поэтому описание составлено по ней. BAAI/LLARA-beir — текстовая модель семейства LLaMA, разработанная BAAI для получения эмбеддингов и оценки смыслового сходства предложений. В проекте LLARA представлены подходы EBAE (Embedding-Based Auto-Encoding) и EBAR (Embedding-Based Auto-Regression); репозиторий ссылается на статью и GitHub проекта. Модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и принимает контекст до 4096 токенов. Модель подходит для поиска по смыслу, сопоставления предложений и других задач, где нужны текстовые эмбеддинги. Доступны веса в формате safetensors; лицензия — MIT. В карточке не приведены сведения о поддерживаемых естественных языках и специализированных областях применения.

McGill-NLP/LLM2Vec-Mistral-7B-Instruct-v2-mntp — модель для преобразования decoder-only языковой модели Mistral 7B Instruct v2 в текстовый энкодер. Подход LLM2Vec использует двунаправленное внимание, masked next token prediction (MNTP) и, при необходимости, последующее контрастивное дообучение. В данном варианте указана загрузка MNTP-адаптера через PEFT. Модель предназначена для получения векторных представлений текста и задач семантического поиска, сопоставления запросов и документов, reranking, классификации, кластеризации и оценки семантического сходства. В README приведён сценарий поиска релевантных passages по веб-запросу с вычислением cosine similarity; для запросов могут использоваться инструкции, а для документов инструкции не требуются. Указан английский язык. Архитектурной основой является Mistral 7B Instruct v2; точный размер контекста в карточке не указан, однако в примере кодирования используется max_length=512. Сильной стороной является применение крупной instruction-tuned LLM для построения эмбеддингов и поддержка широкого спектра задач обработки текста. Ограничения включают ориентацию на английский язык, необходимость загрузки специализированного кода и MNTP-адаптера, а также значительные вычислительные требования, связанные с моделью класса 7B. Лицензия — MIT.

RedHatAI/Meta-Llama-3-8B-Instruct-FP8-KV — это квантованный вариант Meta-Llama-3-8B-Instruct, разработанной Meta. Модель предназначена для генерации текста и диалоговых сценариев с использованием vLLM; чекпойнт подготовлен с помощью AutoFP8 и калибровочных примеров из ultrachat. Модель содержит 8B параметров и использует FP8-квантизацию весов и активаций с покомпонентным масштабированием на уровне тензоров. Дополнительно в чекпойнт включены масштабы для FP8-квантизации KV-кэша, что позволяет включать этот режим через параметр kv_cache_dtype="fp8" в vLLM. Для работы требуется vLLM версии 0.5.0 или новее. Данные о поддерживаемых языках, размере контекста и мультимодальности не указаны. К преимуществам относятся снижение требований к памяти и возможность эффективного инференса с FP8 KV-кэшем. По результатам Open LLM Leaderboard показатель gsm8k в режиме 5-shot составляет 74,98 против 75,44 у исходной модели и 74,37 у варианта FP8 без квантованного KV-кэша, что указывает на близкое качество в этом тесте. Ограничения включают возможную потерю точности из-за квантизации и зависимость от совместимой версии vLLM. Лицензия в README не указана.

ProCreations/MiMo-V2.6-Flash-RL-NVFP4 — это вариант модели MiMo-V2.6-Flash-RL, опубликованной XiaomiMiMo, преобразованный в формат NVFP4. Репозиторий содержит точную перекодировку уже квантизированных MXFP4-весов маршрутизируемых экспертов без калибровки, обрезания, оптимизации или округления к ближайшему коду. Модель предназначена для генерации текста, включая работу с кодом, математическими задачами, английским и китайским языками. В конфигурации указана архитектура Mixture-of-Experts; точное общее число параметров и размер контекста исходной модели в README не приведены. Сохранены мультимодальные энкодеры, аудиотокенизатор и сопутствующие файлы, однако конкретные поддерживаемые модальности не описаны. Ключевое отличие — смешанная точность W4A16_NVFP4 для экспертных весов при отсутствии требования квантизации активаций FP4. Корневой массив тензоров занимает около 193,96 ГБ без вспомогательных файлов. Полная проверка заявляет идентичность кодов экспертных весов и практически полное совпадение значений при сравнении с исходной моделью; в тесте на 65 504 токенах показатели perplexity совпали с исходной MXFP4-версией, а согласие наиболее вероятного токена составило 99,988–100% в зависимости от домена. Это не гарантирует идентичность результатов при других типах вычислений, ядрах внимания, квантизации активаций или настройках генерации. Проверенный путь загрузки использует vLLM 0.29.0, tensor parallelism 2 и две видеокарты RTX PRO 6000 Server Edition по 96 ГБ; заявленный максимальный контекст в примере запуска — 12 288 токенов. README не содержит широких бенчмарков качества, подтверждений производительности, валидации CPU-offloading или speculative decoding. Модель и исходный чекпойнт распространяются по лицензии MIT.

unsloth/mistral-7b-instruct-v0.3-bnb-4bit — 4-битная квантованная версия Mistral-7B-Instruct-v0.3, опубликованная в экосистеме Unsloth и предназначенная для использования через Transformers. Модель ориентирована на выполнение инструкций и диалоговые сценарии, включая conversational-формат ShareGPT, а также на генерацию и продолжение текста. Модель основана на Mistral-7B-Instruct-v0.3 и содержит около 7 миллиардов параметров; суффикс bnb-4bit указывает на 4-битное представление с использованием BitsAndBytes. В карточке указана поддержка английского языка и библиотеки Transformers. Снижение точности представления уменьшает требования к памяти и может облегчать локальный запуск и дообучение, однако README не содержит точных требований к оборудованию, значения контекстного окна, результатов тестирования или сведений о других модальностях. Модель подходит для чат-ботов, ассистентов, генерации текста и экспериментов с дообучением. Возможные ограничения связаны с английской языковой специализацией и компромиссом между экономией памяти и качеством, характерным для квантованных моделей. Лицензия — Apache-2.0.

llmat/Mistral-7B-Instruct-v0.3-NVFP4 — квантизированная версия инструкционной модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI. Версия NVFP4 создана с использованием llmcompressor и предназначена для генерации текста и диалоговых сценариев, включая работу через chat-шаблоны и развёртывание с помощью vLLM. Модель содержит 7 миллиардов параметров и использует квантизацию NVFP4 для линейных слоёв; слой lm_head не квантизирован. При калибровке использовались 512 образцов с максимальной длиной последовательности 2048 токенов. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для обслуживания доступны vLLM и OpenAI-совместимый серверный интерфейс. Ключевое преимущество модели — уменьшенный формат представления, потенциально удобный для эффективного развёртывания, при сохранении назначения исходной инструкционной модели. Ограничения связаны с влиянием низкобитной квантизации на качество и с тем, что сведения о фактическом контекстном окне и результатах оценки производительности в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

Mistral-Instruct-Ukrainian-SFT — языковая модель Radu Chivereanu, полученная supervised fine-tuning модели Mistral-7B-Instruct-v0.2 на украиноязычных наборах данных. Она предназначена для диалогов и выполнения инструкций на украинском языке, включая ответы на вопросы, задания по чтению и пониманию текста, а также вопросы и ответы по тематике программирования. Модель содержит 7,1 млрд параметров; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Контекст составляет до 32 768 токенов. Для запросов используется формат инструкций с токенами [INST] и [/INST], также доступен chat template Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты нескольких бенчмарков, но они не гарантируют качество на других задачах и данных.

Mistral-T5-7B-v1-Mistral-7B-Instruct-v0.1 — слитая чат-модель на архитектуре Mistral, созданная объединением Mistral-7B-Instruct-v0.1 и Mistral-T5-7B-v1 методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоговые запросы; заявленный контекст составляет 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста по запросу. В README описаны смешивание слоёв внимания и MLP и формат bfloat16; в репозитории веса представлены в safetensors. Лицензия — Apache-2.0. README и метаданные не сообщают о языковом охвате и оценках качества, поэтому результаты для конкретных языков и задач требуют проверки.

Mixtral-8x22B-Capyboros-v1 — дообученная с помощью QLoRA языковая модель автора tdrussell на базе Mixtral-8x22B-v0.1. Она использует архитектуру Mixtral с разреженными экспертами и предназначена для генерации текста в формате инструкций Mistral: запрос заключают между маркерами [INST] и [/INST]. Обучение проведено на сочетании датасетов Capybara и Airoboros; адаптер имеет ранг LoRA 64, обучение шло два эпоха с длиной последовательности 4096 токенов. Модель подходит для диалоговых ответов, объяснения понятий и выполнения текстовых инструкций. В репозитории есть веса safetensors и отдельный квантованный вариант GGUF Q4_K_S; README сообщает, что квантованный файл помещается при контексте не менее 16 тысяч токенов на видеопамяти 96 ГБ. Метаданные указывают размер 22B параметров и нативный контекст 65536 токенов. Лицензия — Apache-2.0. Результаты зависят от формата промпта и могут наследовать ограничения обучающих данных; сведений о систематической оценке качества нет.

Карточка модели unsloth/ModernBERT-large на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.

Monarch-7B — языковая модель mlabonne, полученная слиянием моделей OmniTruthyBeagle-7B-v0, NeuBeagle-7B и NeuralOmniBeagle-7B с помощью LazyMergekit. В конфигурации также указан Mistral-7B-v0.1 как базовая модель; слияние выполнено методом dare_ties. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и решения широкого круга языковых задач. В карточке приведены оценки на наборах Nous и Open LLM Leaderboard; заявлено первое место на YALL leaderboard на дату обновления 13 февраля 2024 года. Контекстное окно составляет 32 768 токенов. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое использование בלבד.

Motif-3-Beta — предварительная версия языковой модели Motif-3, разработанной Motif Technologies с нуля по собственной архитектуре. Это каузальная модель Mixture-of-Experts с разреженной маршрутизацией: в README указано около 314 млрд параметров всего и около 13 млрд активных на токен; метаданные каталога указывают 11 млрд параметров. Архитектура включает 384 эксперта, из которых активируются 8 на токен, общий эксперт, механизмы GDLA и PolyNorm, модифицированный mHC и дополнительную голову Multi-Token Prediction для ускорения декодирования.

dragonkue/multilingual-e5-small-ko — компактная модель Sentence Transformers на архитектуре BERT, дообученная разработчиком dragonkue на базе intfloat/multilingual-e5-small на корейских парах «запрос — фрагмент текста». Она предназначена прежде всего для поиска корейских документов и подбора релевантных фрагментов, а также для оценки семантического сходства предложений. Модель кодирует предложения и абзацы в плотные векторы размерности 384 и нормализует их; сходство можно сравнивать по косинусной мере. Максимальная длина входа — 512 токенов. Для асимметричного поиска README рекомендует добавлять к запросам префикс «query: », а к документам — «passage: ». Помимо поиска, эмбеддинги подходят для кластеризации, поиска перефразирований и классификации текста. Модель рассчитана на лёгкие приложения и демонстрации, где важны скорость и компактность; для более точного поиска можно дополнить её реранкером. Карточка сообщает об оценке на корейских бенчмарках поиска, но не приводит в доступном тексте результаты для этой модели. Длинные тексты обрезаются до 512 токенов. Лицензия — Apache-2.0.

MyAwesomeModel — модель из репозитория dfdgdg333/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers. В метаданных Hugging Face она классифицирована как модель для извлечения признаков и связана с архитектурой BERT; README при этом описывает обновлённую версию как модель с улучшенными рассуждениями, пониманием текста, генерацией кода и диалогами. Согласно README, модель предназначена для сложных задач рассуждения, математических и логических задач, ответов на вопросы, классификации текста, анализа тональности, суммаризации, перевода, генерации кода и диалогов. Также заявлены поддержка системного промпта, function calling, загрузки файлов и генерации с использованием результатов веб-поиска. Для запуска рекомендуется температура 0,6. К сильным сторонам относятся заявленные улучшения рассуждений, снижение частоты галлюцинаций и широкие результаты на бенчмарках, включая математику, программирование и понимание языка. Однако метаданные указывают pipeline-задачу feature-extraction, а README не содержит надёжных сведений о размере модели, длине контекста, поддерживаемых естественных языках или точной конфигурации архитектуры. Модель распространяется по лицензии MIT.

NB-Whisper Base beta — модель распознавания речи, разработанная NB AI-Lab Национальной библиотекой Норвегии на основе OpenAI Whisper и дообученная от openai/whisper-small. Она предназначена для транскрибации норвежской речи, включая букмол и нюнорск, а также английской речи. Модель относится к семейству Whisper; в метаданных указано 51,7 млн параметров. Она принимает аудио и выдаёт текст, поддерживается библиотекой Transformers и доступна в форматах PyTorch, TensorFlow, Flax, ONNX и safetensors. Модель обучалась на 20 000 часах размеченных данных, включая норвежские речевые базы, парламентские выступления, телесубтитры и аудиокниги. Разработчики сообщают о высоком качестве для норвежской транскрибации среди ASR-моделей сопоставимого размера. Это публичная бета с лицензией CC BY 4.0. Разработчики предупреждают, что модель может галлюцинировать, пропускать фрагменты и нормализовать устную речь в грамматически правильный письменный текст; поэтому результат может не быть дословной транскрипцией.

Nemotron-3-Nano-Omni-30B-A3B-JANGTQ4-CRACK — мультимодальная модель dealignai, созданная на базе nvidia/Nemotron-3-Nano-Omni-30B-A3B-Reasoning. Это доработанная и квантизированная сборка с гибридной архитектурой Mamba-2, attention и MoE: 52 слоя, 128 маршрутизируемых экспертов с выбором шести и один общий эксперт на MoE-слой. В README указано 19 ГБ; метаданные сообщают 1,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для диалогов и рассуждений с текстом, изображениями и аудио; для мультимодального конвейера с видео README рекомендует дополнение Multimodal-Addon. Заявлены поддержка tool calling и сохранение мультимодальных компонентов базовой модели. Разработчик приводит результаты собственных проверок HarmBench и MMLU, однако это не независимая оценка; в частности, на сложных задачах рассуждения может потребоваться бюджет не менее 16 384 токенов. Сборка использует JANGTQ4 (8-битные attention-компоненты и 4-битные маршрутизируемые эксперты) и CRACK v2, в которой удалено обучение отказам. Поэтому модель может выдавать вредоносное содержание и требует отдельного защитного слоя перед практическим развёртыванием. Лицензия в метаданных обозначена как other; конкретные условия использования следует проверять в репозитории. Для запуска README указывает vMLX или jang-tools.

Neurosense Compact GTE R1 — компактная модель эмбеддингов Sharjeelbaig для плотного поиска и сравнения текстов. Она дообучена на базе Supabase/gte-small и использует архитектуру BERT; размер составляет 40 млн параметров, размер чекпойнта — около 128 МБ, размерность эмбеддингов — 384, максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и извлечения релевантных документов по запросу, в том числе при ограничениях на размер и вычислительные ресурсы. В README приведены результаты retrieval-бенчмарка на наборах FiQA, NFCorpus и SciFact и небольшое улучшение MRR@10 относительно предыдущего чекпойнта Neurosense. Модель не генерирует ответы и не претендует на превосходство над крупными моделями эмбеддингов. Модель принимает текст и выдаёт векторные эмбеддинги; для сравнения текстов можно использовать косинусное сходство. В карточке указана поддержка английского языка и библиотека sentence-transformers. Лицензия — MIT.

Nemotron-Cascade-8B-GGUF — это квантованная версия языковой модели Nemotron-Cascade-8B, разработанной NVIDIA и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, рассуждений и задач общего назначения; в карточке указаны сценарии локального запуска через LM Studio, llama.cpp и совместимые проекты. Заявленный язык — английский. Модель содержит 8 миллиардов параметров. Доступны варианты с точностью от BF16 до Q2 и различными форматами квантования, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Размер файлов составляет примерно от 3,9 до 16,4 ГБ. Квантование выполнено с использованием imatrix на базе llama.cpp; для работы рекомендуется применять шаблон диалога с поддержкой маркера /think. Сильной стороной является выбор вариантов между качеством и требованиями к памяти, включая варианты, рекомендованные автором как близкие к исходному качеству. Сведения о размере контекста, архитектуре, дополнительных модальностях и результатах бенчмарков в README не приведены. Модель распространяется по лицензии NVIDIA Open Model License; в карточке указана лицензия other и приведена ссылка на её текст. Условия лицензии следует учитывать отдельно перед использованием и распространением.

CultriX/Qwen2.5-14B-Wernickev3 — языковая модель для генерации текста, созданная CultriX путём слияния нескольких предварительно обученных моделей с помощью mergekit. В качестве базовой модели использована Qwen/Qwen2.5-14B; также в слияние вошли QwenSlerp6-14B, QwenStock3-14B, SeQwence-14B-EvolMerge, Qwen2.5-14B-Wernicke и SauerkrautLM-v2-14b-DPO. Применён метод DARE TIES. Модель основана на плотной архитектуре Qwen2 и содержит 14 млрд параметров. Она работает через Transformers, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Подходит для диалоговой генерации и других задач продолжения текста; метаданные также отмечают интерфейс вызова инструментов. Модель использует лицензию Qwen/Qwen2.5-14B — Apache-2.0. Слияние объединяет свойства исходных моделей, но README не приводит отдельных оценок качества или сведений о специализации; качество для конкретных задач следует проверять самостоятельно.

bunnycore/Qwen2.5-3B-Smart — объединённая языковая модель, созданная автором с помощью mergekit методом passthrough из bunnycore/Qwen2.5-3B-RP-Mix и bunnycore/Qwen2.5-3b-Smart-lora_model. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров; она предназначена для генерации текста и диалогового использования, включая следование инструкциям и интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, работает через Transformers и распространяется в формате safetensors; нативный контекст — 32 768 токенов. Карточка не описывает отдельные специализированные области или конкретные языки. Условия лицензии в предоставленных данных не приведены. Качество, безопасность и фактическая совместимость вызова инструментов не оценены в карточке.

Qwen3-4B-Instruct-2507-MLX-4bit — это 4-битная квантованная версия языковой модели Qwen3-4B-Instruct-2507, разработанной командой Qwen. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях. Квантование выполнено с использованием MLX командой LM Studio на базе инструментов mlx_lm. Модель оптимизирована для работы на устройствах Apple Silicon, что делает её подходящей для локального запуска при ограниченных ресурсах. Известно, что она содержит около 4 миллиардов параметров и использует 4-битное представление, однако сведения о поддерживаемых языках, длине контекста и точной архитектуре в README не указаны. К сильным сторонам относятся компактный размер, сниженные требования к памяти и оптимизация под Apple Silicon. К ограничениям относятся возможное снижение качества по сравнению с полноразмерной или менее агрессивно квантованной версией, а также отсутствие в предоставленных данных подробных характеристик производительности и языкового покрытия. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_2L — вариант модели Qwen3.5-397B-A17B, подготовленный Jinho Jang и проектом JANG. Это большая мультимодальная модель класса MoE с гибридной архитектурой GatedDeltaNet и полного внимания; по карточке активны 17 млрд параметров из 397 млрд. Репозиторий содержит смешанно-точное квантованное представление JANG_2L для Apple Silicon: веса с разной чувствительностью хранятся с разной разрядностью, а вычисления выполняются в bfloat16. В метаданных библиотекой указана MLX. Модель предназначена для диалогов, рассуждений и анализа изображений и видео. Режим reasoning позволяет включать пошаговое рассуждение; карточка также сообщает о поддержке vision и интерфейсе вызова инструментов. По заявлению автора, модель занимает 187 ГБ и показывает 36 токенов в секунду на M4 Ultra с 256 ГБ объединённой памяти. Для запуска автор рекомендует MLX Studio или JANG с MLX; заявлена необходимость Apple Silicon с 256 ГБ памяти. Карточка приводит результаты MMLU, но это авторские замеры на ограниченной выборке и не гарантия качества в других задачах. Доступ к изображениям и видео заявлен в README, хотя pipeline_tag и каталог классифицируют модель как text-generation. Указанная лицензия — Apache-2.0.