I.11Классификация, ранжирование и сопоставление

LFM2-350M modular export — компактная гибридная языковая модель Liquid AI с сочетанием свёрточных слоёв и attention. Репозиторий содержит экспорт исходной модели LiquidAI/LFM2-350M в самодостаточный формат GGUF для loom.cpp; README сообщает, что веса не изменялись, а метаданные классифицируют связь с базовой моделью как дообучение. Модель предназначена для генерации текста и запуска через библиотеку loom-py-rt. Экспорт включает топологии слоёв, токенизатор (если он есть) и скрипт драйвера. Заявлены английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Базовая модель описывается как компактная модель для диалогов, извлечения данных и RAG на периферийных устройствах. Репозиторий использует лицензию с меткой other; конкретные условия следует сверить с файлами лицензии модели.

Llama-3.1-Tulu-3-70B-GGUF — набор квантизованных версий языковой модели Llama-3.1-Tulu-3-70B, разработанной Allen Institute for AI (AI2) и опубликованной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp с использованием метода imatrix; доступны варианты от IQ1_M и Q2 до Q8_0 с различным соотношением качества, размера файла и требований к памяти. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. В README указаны английский язык и исходный набор данных RLVR-GSM-MATH-IF-Mixed-Constraints. Поддерживается формат prompt с ролями system, user и assistant. Размер базовой модели — 70 миллиардов параметров; сведения о максимальном контексте и мультимодальности не указаны. Сильной стороной являются многочисленные варианты квантизации: Q6_K и Q5 считаются высококачественными, а Q4_K_M — компромиссным вариантом для большинства сценариев. Более компактные варианты позволяют снизить требования к оперативной памяти, но обеспечивают более низкое качество. Версия Q4_0_8_8 оптимизирована для ARM и AVX и требует поддержки SVE на ARM; для Mac она не рекомендуется. Лицензия указана как llama3.1.

duyntnet/Llama-3.2-1B-imatrix-GGUF — набор GGUF-квантизаций базовой модели Meta Llama 3.2 1B, подготовленный для запуска через llama.cpp и совместимые интерфейсы, включая KoboldCPP, text-generation-webui и Ollama. Модель предназначена для генерации текста, диалоговых сценариев, извлечения знаний, суммаризации, написания текста, а также переформулирования запросов и промптов. Репозиторий содержит квантизированные варианты исходной модели, поэтому конкретные характеристики и качество зависят от выбранного файла квантизации. Исходная Llama 3.2 1B — авторегрессионная языковая модель на оптимизированной архитектуре Transformer с 1,23 млрд параметров, Grouped-Query Attention и общими эмбеддингами. Она работает только с текстом на входе и генерирует текст и код на выходе, поддерживает контекст до 128 тысяч токенов. Официально заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель статична и обучена на данных с отсечкой знаний в декабре 2023 года; README не уточняет, является ли данный репозиторий базовой или instruction-tuned версией. Сильные стороны модели — небольшой размер, возможность локального запуска и снижение требований к памяти благодаря GGUF-квантизации и imatrix. Ограничения включают возможное ухудшение качества при агрессивной квантизации, отсутствие мультимодальности и ограниченность актуальности знаний. Использование регулируется индивидуальной коммерческой Llama 3.2 Community License и Acceptable Use Policy Meta; условия для производных применений и дополнительных языков необходимо соблюдать.

Orion-zhen разработал чат-модель Orion-zhen/Llama3-70B-Orion-Chinese на основе failspy/Llama-3-70B-Instruct-abliterated-v3, дообучив её методом DPO. Это плотная авторегрессионная модель семейства Llama 3 с 69,5 млрд параметров, контекстом 8192 токена и поддержкой диалога; карточка демонстрирует ответы на китайском языке с более оживлённой подачей и частым использованием эмодзи. Модель предназначена для диалога на китайском, рассуждений, ответов на вопросы и генерации кода. В README приведены примеры решения математических и логических задач, бытовых вопросов, анализа эмоций и написания кода. Метаданные также связывают обучение с наборами предпочтений для китайского и английского диалога, математики, физического рассуждения, кода и других ответов. Файлы опубликованы в формате Safetensors. Лицензия — Llama 3; применимость и условия использования следует сверять с её условиями. Примеры README показывают возможные ошибки в рассуждениях и небезопасные советы, поэтому ответы требуют проверки; инструкция по расширению контекста до 32k в карточке не подтверждена как штатная длина контекста модели.

lmstudio-community/Llama-4-Scout-17B-16E-MLX-text-8bit — это текстовая версия модели Llama 4 Scout, адаптированная сообществом lmstudio-community для экосистемы MLX. Базовая модель — meta-llama/Llama-4-Scout-17B-16E-Instruct, разработанная Meta. Обозначение модели указывает на использование 8-битного представления весов и архитектуру с 17 млрд параметров и 16 экспертами, однако в README не приведены подробности о механизме маршрутизации экспертов или фактическом объёме активных параметров. Модель предназначена для генерации и обработки текста, включая диалоговые и инструкционные сценарии. Заявлена поддержка арабского, немецкого, английского, испанского, французского, хинди, индонезийского, итальянского, португальского, тайского, тагальского и вьетнамского языков. Сведения о размере контекста, дополнительных модальностях, результатах тестирования, производительности и конкретных ограничениях в README отсутствуют, поэтому их нельзя достоверно оценить. Использование регулируется Llama 4 Community License от Meta. Лицензия предоставляет ограниченные права на использование, копирование, распространение, модификацию и создание производных работ при соблюдении условий соглашения, включая передачу текста лицензии, указание «Built with Llama», атрибуцию и соблюдение Acceptable Use Policy. Для продуктов и сервисов с более чем 700 млн ежемесячных активных пользователей требуется отдельная лицензия Meta.

LlongOrca 13B 16K — большая языковая модель Open-Orca, представленная в формате GGUF и квантованная TheBloke. Она основана на архитектуре Llama и предназначена для генерации текста, диалоговых сценариев и локального запуска через совместимые приложения и библиотеки. В описании указана поддержка английского языка, а исходный набор данных — OpenOrca. Модель имеет 13 млрд параметров и контекстное окно до 16K токенов. GGUF поддерживает метаданные, специальные токены и расширяемость; доступны варианты квантования от 2 до 8 бит, что позволяет выбирать компромисс между качеством, скоростью и потреблением памяти. Модель совместима с llama.cpp, text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другими инструментами для CPU+GPU-инференса. Для диалогов указан шаблон ChatML. К сильным сторонам относятся увеличенный контекст и возможность локального запуска на широком спектре аппаратных конфигураций благодаря квантованным версиям. Ограничения включают зависимость качества и требований к памяти от выбранного уровня квантования, а также отсутствие в README подробных результатов тестирования и характеристик мультиязычности. Для использования заявлена лицензия llama2; поскольку модель основана на Llama 2, также применяются условия лицензии Meta Llama 2. Вопросы о взаимодействии этих лицензий рекомендуется уточнять в репозитории исходной модели.

Luciole-1B-Instruct-1.1 — дообученная и согласованная инструктивная языковая модель, созданная LINAGORA и консорциумом OpenLLM-France на базе Luciole-1B-Base в рамках проекта OpenLLM France. Это плотная каузальная модель семейства Nemotron с 1,7 млрд параметров, предназначенная для диалогов и выполнения инструкций. Она обучалась в несколько этапов: на инструкциях с рассуждениями и без них, затем с применением Direct Preference Optimization. Данные охватывали математику, науку, программирование, общий диалог, RAG и перевод; доступны веса в формате safetensors, а лицензия — Apache 2.0. Модель поддерживает французский и английский языки и использует шаблон чата, вдохновлённый Qwen3-1.7B. Хотя базовая модель рассчитана на контекст до 131 072 токенов, сама эта версия обучалась на последовательностях длиной 16 384 токена. Она показывает хорошие результаты во следовании инструкциям для модели своего размера и особенно заметна в инструкциях на французском языке, но может галлюцинировать и слаба в решении математических текстовых задач. Для специализированных задач, включая генерацию кода и математику, рекомендуется дополнительное обучение; для актуальных или обширных знаний может помочь RAG. Разработчики считают проект развивающимся и советуют тщательно проверять модель перед включением в промышленные системы.

UCSC-VLAA/m1-7B-23K — языковая модель семейства Qwen2, опубликованная UCSC-VLAA. Она предназначена для диалогов и ответов на вопросы; каталог также относит её к генерации текста и отмечает интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2ForCausalLM и принимает контекст до 32 768 токенов. Модель работает с текстом и размещена в формате safetensors. Метаданные указывают лицензию MIT. README содержимого не предоставляет, поэтому сведения о специальной настройке, языковом охвате и фактической точности подтвердить нельзя.

MeliodasPercival_01_ShadowT3q — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная путём слияния моделей automerger/MeliodasPercival_01-7B и automerger/ShadowT3q-7B. Она предназначена для генерации текста и диалогов, в том числе с использованием контекста длиной до 32 768 токенов. Модель принимает текст и выдаёт текст. Веса опубликованы в формате Safetensors. Репозиторий распространяется по лицензии Apache-2.0. В карточке не описаны специальные предметные области или отдельные ограничения качества.

Mungert/Meta-Llama-3-8B-GGUF — модель для генерации текста на базе Meta Llama 3, разработанной Meta. Судя по идентификатору, это 8-миллиардная версия модели, представленная в формате GGUF, предназначенном для локального или совместимого с GGUF инференса. В карточке указана англоязычная поддержка и задача text-generation. Модель может использоваться для генерации и продолжения текста, ответов на запросы и других сценариев обработки естественного языка. Точная архитектура, размер контекста, варианты квантования, системные требования и дополнительные модальности в README не указаны; подтверждена только текстовая генерация, поэтому модель следует рассматривать как текстовую, без заявленной поддержки изображений, аудио или других модальностей. К сильным сторонам относятся компактный по современным меркам размер 8B и формат GGUF, потенциально удобный для локального запуска, однако конкретные преимущества производительности зависят от варианта квантования и используемого программного обеспечения. Ограничения модели, показатели качества и детальные сведения о тренировочных данных не приведены. Использование регулируется Meta Llama 3 Community License: при распространении материалов или продуктов необходимо соблюдать условия лицензии, включая требования к атрибуции, обозначению «Built with Meta Llama 3», Acceptable Use Policy и специальные коммерческие условия для организаций с более чем 700 миллионами ежемесячных пользователей.

NousResearch/Meta-Llama-3-8B-Instruct-GGUF — это инструкция-ориентированная языковая модель в формате GGUF, основанная на Meta Llama 3 и опубликованная NousResearch. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции пользователя, запуск локального вывода и интеграцию в приложения, поддерживающие формат GGUF. В карточке указано, что модель работает с текстом и ориентирована на английский язык. Из доступных данных известны размер базовой модели — 8 миллиардов параметров — и принадлежность к семейству Llama 3. Формат GGUF удобен для локального запуска и использования средствами совместимой экосистемы, однако конкретные варианты квантования, требования к памяти, максимальная длина контекста, архитектурные детали и показатели качества в README не указаны. Ограничениями также являются возможные ошибки и ограничения, характерные для генеративных языковых моделей; область применения и качество для других языков не описаны. Модель распространяется по лицензии Meta Llama 3 Community License. Использование и распространение требуют соблюдения условий этой лицензии и Acceptable Use Policy, а при распространении материалов или продуктов на их основе необходимо предоставить копию соглашения и указать «Built with Meta Llama 3». Для производных моделей предусмотрены дополнительные требования к наименованию, а для продуктов и сервисов с более чем 700 миллионами активных пользователей в месяц требуется отдельное разрешение Meta.

Mini-InternVL-Chat-4B-V1-5 — компактная мультимодальная модель для диалога с изображениями, разработанная OpenGVLab. Она сочетает InternViT-300M-448px, MLP и языковую модель Phi-3-mini-128k-instruct; архитектура относится к семейству InternVL Chat. Модель содержит около 4,2 млрд параметров и принимает изображения с динамическим разрешением, разбивая их максимум на 40 фрагментов размером 448 × 448 пикселей. Модель предназначена для ответов на вопросы по изображениям, распознавания текста и анализа диаграмм и документов, а также для обычного диалога и генерации текста. В README указаны оценки на наборах DocVQA, ChartQA, InfoVQA, TextVQA, OCRBench, MathVista и других. Обучение проводилось с контекстом 8K; значение 128K в названии базовой Phi-3 не означает, что такой контекст подтверждён для этой модели. Для запуска README приводит пример с Transformers и вычислениями в bf16/fp16. Модель объединяет vision-компонент InternViT и Phi-3-mini; метаданные указывают связи merge с обеими базовыми моделями. Поддержка языков обозначена как multilingual, но конкретный список языков не приведён. Лицензия — MIT. Модель может выдавать предвзятый или иной вредоносный контент, а результаты вероятностной генерации требуют проверки.

win10/miscii-14b-1M-0128 — созданная с помощью mergekit и метода SCE объединённая языковая модель на архитектуре Qwen2, разработчик — win10. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли несколько моделей Qwen2.5 и производные от DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Заявленный контекст — до 131 072 токенов; в карточке указаны английский и китайский языки. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. README приводит результаты оценок IFEval и BBH, но не описывает методику проверки или практические ограничения качества; фактическая производительность может зависеть от запроса и настроек генерации.

Mistral-7B-Instruct-v0.3-heretic — языковая генеративная модель, созданная пользователем saidutta69 на основе Mistral-7B-Instruct-v0.3 от Mistral AI. Модель обработана инструментом Heretic v1.4.0 методом направленной абляции: изменения внесены в отдельные веса attention и MLP без дообучения. Заявленный размер — 7,2 млрд параметров; основная заявленная поддерживаемая языковая версия — английский язык. Модель предназначена для генерации текста, диалоговых систем, локальных агентов, ролевых сценариев, function calling и исследований механизмов выравнивания и отказов моделей. Доступны полноточные веса BF16 и квантизированные варианты GGUF Q4_K_M, Q5_K_M, Q6_K и Q8_0, что позволяет запускать её на бытовых видеокартах, CPU и устройствах Apple Silicon. Согласно README, подавление отказов существенно снизило их частоту по сравнению с базовой моделью, при этом автор заявляет о сохранении исходных знаний и возможностей следования инструкциям. Ключевое ограничение — намеренное удаление защитных ограничителей: модель может выполнять запросы, которые базовая версия отклоняет, включая потенциально опасные. Она сохраняет фактические ограничения и предвзятости исходной модели, а отсутствие встроенной фильтрации делает её неподходящей для незащищённых публичных сервисов без дополнительной модерации. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

llmat/Mistral-7B-Instruct-v0.3-NVFP4 — квантизированная версия инструкционной модели Mistral-7B-Instruct-v0.3, разработанной Mistral AI. Версия NVFP4 создана с использованием llmcompressor и предназначена для генерации текста и диалоговых сценариев, включая работу через chat-шаблоны и развёртывание с помощью vLLM. Модель содержит 7 миллиардов параметров и использует квантизацию NVFP4 для линейных слоёв; слой lm_head не квантизирован. При калибровке использовались 512 образцов с максимальной длиной последовательности 2048 токенов. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Для обслуживания доступны vLLM и OpenAI-совместимый серверный интерфейс. Ключевое преимущество модели — уменьшенный формат представления, потенциально удобный для эффективного развёртывания, при сохранении назначения исходной инструкционной модели. Ограничения связаны с влиянием низкобитной квантизации на качество и с тем, что сведения о фактическом контекстном окне и результатах оценки производительности в карточке не приведены. Модель распространяется по лицензии Apache-2.0.

Magistral-Small-2507-GGUF — это набор квантованных версий языковой модели Magistral-Small-2507, разработанной Mistral AI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые приложения. Доступны варианты от исходных BF16-весов размером около 47,15 ГБ до квантований Q8_0, Q6, Q5, Q4, Q3 и IQ3/IQ4 размером примерно от 9,91 до 25,05 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, а более компактные варианты снижают требования к оперативной памяти. В README не указаны архитектурные параметры, размер модели в миллиардах параметров, поддерживаемые языки, длина контекста, мультимодальность и лицензия. Сильной стороной набора является широкий выбор компромиссов между качеством, размером файлов и требованиями к ресурсам; варианты Q6 и Q5 отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как стандартный вариант для большинства сценариев. Ограничения зависят от выбранного квантования: компактные Q3-варианты могут заметно уступать по качеству, а для крупных версий требуется значительный объём памяти. Условия лицензирования в предоставленных данных не указаны.

Это квантованная сборка NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning-BF16, подготовленная FreedomAISVR в формате GGUF для запуска через llama.cpp. Модель имеет гибридную архитектуру Mamba2 и Transformer с MoE: 30 млрд параметров, около 3 млрд активных, 52 слоя, включая 23 слоя Mamba2, 23 MoE-блока и 6 слоёв внимания; в MoE используются 128 экспертов и маршрутизация к шести из них. Для Mamba2-тензоров применяется F16, остальные веса хранятся в NVFP4; для обработки изображений README также описывает отдельный файл SigLIP-проектора. Модель предназначена для генерации текста и диалоговых сценариев с рассуждением. Заявленный контекст — 262 тыс. токенов. Поддержка изображений упоминается в комплекте файлов, однако метаданные классифицируют репозиторий только как text-generation. README сообщает, что CUDA-ядра Mamba2 требуют F32 и при работе с квантованными тензорами могут переводить соответствующие слои на CPU, что снижает производительность. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Noromaid-7b-v0.1.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.2 и NeverSleep/Noromaid-7b-v0.1.1 методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате диалога; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. Веса доступны в формате Safetensors. Лицензия — Apache-2.0.

Nemotron-Cascade-8B-GGUF — это квантованная версия языковой модели Nemotron-Cascade-8B, разработанной NVIDIA и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, рассуждений и задач общего назначения; в карточке указаны сценарии локального запуска через LM Studio, llama.cpp и совместимые проекты. Заявленный язык — английский. Модель содержит 8 миллиардов параметров. Доступны варианты с точностью от BF16 до Q2 и различными форматами квантования, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и IQ4_XS. Размер файлов составляет примерно от 3,9 до 16,4 ГБ. Квантование выполнено с использованием imatrix на базе llama.cpp; для работы рекомендуется применять шаблон диалога с поддержкой маркера /think. Сильной стороной является выбор вариантов между качеством и требованиями к памяти, включая варианты, рекомендованные автором как близкие к исходному качеству. Сведения о размере контекста, архитектуре, дополнительных модальностях и результатах бенчмарков в README не приведены. Модель распространяется по лицензии NVIDIA Open Model License; в карточке указана лицензия other и приведена ссылка на её текст. Условия лицензии следует учитывать отдельно перед использованием и распространением.

OpenChat v3.2 Super — диалоговая языковая модель из семейства OpenChat, разработанная командой OpenChat и дообученная на основе Llama 2. Модель содержит 12,9 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текстовых ответов. Нативный контекст составляет 4096 токенов. Модель предназначена для диалогов, ответов на вопросы и генерации текста; авторы также сообщают о высокой оценке в тестах AgentBench, AlpacaEval и MT-bench. Для развёртывания авторы рекомендуют OpenChat API server на базе vLLM; в README указаны требования от 48 ГБ видеопамяти на одном GPU или двух потребительских GPU с разделением нагрузки. Модель распространяется по лицензии Llama 2 Community License, допускающей коммерческое использование. Возможны галлюцинации, а качество может снижаться на сложных рассуждениях, математике и задачах программирования.

Open Instruct ShareGPT Llama2 7B — языковая модель из серии Tulu, разработанной Allen Institute for AI (AI2). Это дообученная на данных ShareGPT модель Meta Llama 2 с плотной архитектурой LlamaForCausalLM и 6,6 млрд параметров. Она предназначена для генерации текста в ответ на инструкции и ведения диалогов в роли помощника; для получения лучших результатов следует использовать обученный формат сообщений с переводом строки после маркера начала сообщения. Модель принимает текст и выдаёт текст, в первую очередь на английском языке. Размер её контекстного окна — 2048 токенов. Она подходит для диалоговых сценариев и выполнения широкого круга текстовых инструкций. Модель не проходила этап RLHF для выравнивания безопасных ответов и может выдавать проблемный контент, особенно в ответ на соответствующие запросы. Лицензия — AI2 ImpACT Low-risk.

TheBloke/Orca-2-13B-GGUF — это квантизированная версия языковой модели Orca 2 13B, разработанной Microsoft и преобразованной TheBloke в формат GGUF. Модель предназначена для генерации текста и диалогового взаимодействия, включая работу через llama.cpp и совместимые графические интерфейсы и библиотеки. Для форматирования запросов используется шаблон ChatML с системным сообщением, запросом пользователя и ответом ассистента. Модель относится к архитектуре Llama и содержит около 13 миллиардов параметров. Она работает только с текстом; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. GGUF-файлы доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером модели, требованиями к памяти и качеством генерации, а также запускать её на CPU и GPU. К сильным сторонам относятся поддержка широкого набора локальных инструментов, возможность GPU-ускорения и выбор вариантов квантизации. Ограничения связаны с возможной потерей качества при низкой разрядности и с тем, что точные характеристики производительности и контекстного окна не приведены. В метаданных указана лицензия other, без уточнения конкретных условий использования.

pankajmathur/orca_mini_v4_8b — плотная авторегрессионная языковая модель семейства Llama 3, дообученная разработчиком в стиле Orca Mini на наборах данных Orca. Модель рассчитана на диалоговое использование и генерацию текста; в карточке приведён формат запросов ChatML и указано, что модель задумана как универсальная дообученная модель для дальнейшей настройки и объединения с другими моделями. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. В карточке приведены результаты оценки на отдельных бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Лицензия — Llama 3; автор разрешает дальнейшую настройку при условии указания авторства и предоставления атрибуции.

pankajmathur выпустил Orca Mini v8.0 — дообученную диалоговую модель на архитектуре Llama 3.3 с 69,5 млрд параметров. Она предназначена для генерации текста и ответов в формате беседы; карточка показывает пример системного промпта для AI-ассистента. Модель работает через Transformers, веса представлены в формате Safetensors, а максимальный контекст составляет 131 072 токена. Модель подходит для создания диалоговых ассистентов, ответов на вопросы и других сценариев генерации текста. Базовая Llama 3.3 поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский; качество дообученной версии отдельно не описано. Как и другие большие языковые модели, она может выдавать неточные, предвзятые или нежелательные ответы, поэтому перед применением требуется проверка безопасности для конкретного сценария. Лицензия — Llama 3.3.

dealignai выпустила Ornith-1.5-35B-A3B-UNCENSORED-MXFP8 — версию Ornith-1.5-35B-A3B с удалённым на уровне весов поведением отказа и квантованием MXFP8 в формате MLX для Apple Silicon. Основа — мультимодальная MoE-модель семейства Qwen 3.5 с 35,9 млрд параметров; README указывает 40 слоёв, 256 маршрутизируемых экспертов, гибридный блок gated-delta и full attention, а также 27-слойную визуальную башню. Метаданные Hugging Face относят модель к задаче image-text-to-text и указывают поддержку чата, зрения и интерфейса вызова инструментов. Модель принимает текст и изображения; README также заявляет обработку видео. Она рассчитана на диалог, рассуждения, программирование с инструментами и анализ визуального содержимого. Карточка приводит результаты MMLU 78,9%, HarmBench 100% и KL-дивергенцию 0,0289 относительно некрякнутой MXFP8-версии; это результаты авторского тестирования на данном бандле. Для запуска предназначены vMLX или совместимая с архитектурой qwen3_5_moe среда MLX-VLM на Apple Silicon. Удаление отказов означает, что модель может выполнять запросы без защитного отказа; авторы ориентируют публикацию на исследования безопасности ИИ и разрешённое тестирование. Лицензия — Apache-2.0.

MaziyarPanahi/Phi-4-mini-instruct-GGUF — это набор квантованных файлов в формате GGUF для исходной модели microsoft/Phi-4-mini-instruct. Базовую модель разработала Microsoft, а квантование и публикацию файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, поддерживаемых исходной instruct-моделью. Набор содержит варианты с квантованием 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. Формат GGUF ориентирован на локальный запуск и поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Архитектура, количество параметров, поддерживаемые языки и размер контекста в предоставленных данных не указаны. Ключевые преимущества — доступность нескольких уровней квантования и совместимость с широким набором локальных средств запуска, включая варианты с GPU-ускорением и OpenAI-совместимыми API. Ограничения связаны с потерями качества, возможными при низкобитном квантовании, а также с зависимостью характеристик производительности от выбранного варианта и оборудования. Лицензия в README не указана.

perplexity-ai/pplx-computer-qwen-3-6-35b-a3b-mlx-20260709 — локальная языковая модель, опубликованная Perplexity и предназначенная для Perplexity Computer. Она используется в сценариях Hybrid Compute на Mac: локально обрабатывает файлы, конфиденциальные сведения и действия на устройстве, тогда как облачная часть системы выполняет поиск, планирование и более сложное рассуждение. Модель доступна в формате MLX для запуска на Apple silicon. Модель относится к семейству Qwen3.6 и имеет 35 млрд параметров при конфигурации с 3 млрд активных параметров (35B-A3B). Для семейства Qwen3.6 указана разреженная hybrid-архитектура с маршрутизацией Mixture-of-Experts, сочетающая рекуррентные состояния фиксированного размера с full attention. Опубликованный checkpoint использует groupwise affine 4-bit quantization и занимает около 19,4–19,5 ГБ. Подтверждённые модальности и языки, размер контекстного окна, результаты оценки и подробности дообучения для данной версии не указаны. Сильные стороны модели — возможность локального выполнения задач с чувствительными данными, уменьшенный объём весов и оптимизация для Apple silicon. Ограничения связаны с необходимостью совместимого Mac на Apple silicon и достаточного объёма unified memory; в Hybrid Compute требуется не менее 24 ГБ, а 32 ГБ рекомендуются для лучших результатов. Лицензионные условия для этого репозитория в доступных первоисточниках явно не указаны, поэтому свободное коммерческое использование и условия перераспределения подтверждать нельзя.

Qianfan-OCR — мультимодальная модель для анализа документов, разработанная командой Baidu Qianfan. Модель объединяет распознавание текста, анализ структуры и понимание содержимого документа в единой архитектуре vision-language и преобразует изображения документов, например, в Markdown или структурированный вывод JSON и HTML. Модель содержит 4 млрд параметров и состоит из визуального энкодера Qianfan-ViT, языковой модели Qwen3-4B и межмодального адаптера. Она поддерживает изображения с разрешением до 4K, контекст языковой модели — 32 тыс. токенов с возможностью расширения до 131 тыс. README заявляет поддержку 192 языков. Среди сценариев — извлечение таблиц и ключевых сведений, анализ макета и порядка чтения, ответы на вопросы по документам и понимание диаграмм. Режим Layout-as-Thought позволяет сначала построить структурное представление страницы, что полезно для сложных макетов. Модель предназначена для распознавания и анализа документов, а не для универсальной генерации текста. Качество может зависеть от сложности макета и типа документа; заявленные результаты бенчмарков приведены в README и сами по себе не гарантируют качество на конкретных данных. Репозиторий распространяется по лицензии Apache-2.0.

Qwen3-235B-A22B-Instruct-2507-MLX-6bit — это 6-битная квантованная версия текстовой instruct-модели Qwen3-235B-A22B-Instruct-2507, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и предназначено для оптимизированного запуска на компьютерах с Apple Silicon. Модель распространяется как community-модель LM Studio и основана на оригинальной модели Qwen/Qwen3-235B-A22B-Instruct-2507. Модель предназначена для генерации текста и выполнения инструкций, однако README не содержит подробностей о поддерживаемых языках, размере контекста, архитектуре, модальностях и конкретных сценариях применения. Квантование снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность и качество ответов; кроме того, вариант ориентирован прежде всего на экосистему Apple Silicon. Модель предоставляется по лицензии Apache-2.0. Как и другие генеративные модели, она может создавать неточные, вредные или вводящие в заблуждение материалы, поэтому результаты требуют проверки.

Qwen3.5-2B-Claude-4.6-Opus-Reasoning-Distilled — языковая модель для генерации текста и задач, требующих многошагового рассуждения. Она разработана на базе плотной архитектуры Qwen3.5-2B и дообучена с помощью Supervised Fine-Tuning (SFT) и LoRA на дистиллированных траекториях рассуждений, преимущественно полученных из взаимодействий с Claude 4.6 Opus. Дополнительные данные от Qwen3.5-27B и набора Qwen3.5-reasoning-700x расширяют покрытие научных, математических и инструкционных задач. Модель предназначена для офлайн-аналитики, программирования, математики, решения сложных логических задач и сценариев, где полезно структурированное пошаговое рассуждение. Обучение ориентировано на формат с блоком <think> перед итоговым ответом и на более последовательное планирование решения. Поддерживается контекст до 16 384 токенов. В README указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. К сильным сторонам относятся компактный размер 2B параметров, структурированное рассуждение и сниженная избыточность переходов при решении простых запросов. Модель сохраняет риск галлюцинаций и не гарантирует достоверность внешних фактов. Это тестовая версия, предназначенная для обучения, демонстрации, академических исследований и технических экспериментов, а не для критически важных применений. Лицензия — Apache-2.0.