II.2Создание и понимание программного кода

Rubra Enhanced Phi-3 Mini 128k Instruct — языковая модель Rubra AI, полученная дополнительным постобучением microsoft/Phi-3-mini-128k-instruct на закрытом наборе инструкций, диалогов и примеров вызова функций. Модель предназначена для выполнения инструкций, многошаговых бесед и взаимодействия с инструментами через вызовы функций. Она построена на плотной архитектуре Phi-3 с 4,6 млрд параметров и использует Transformers и формат safetensors. README сообщает об оценках на наборах MMLU, GPQA, GSM-8K, MATH и MT-bench, а также о сравнительных результатах в задачах вызова функций. Указанная в метаданных длина контекста — 4096 токенов. Карточка описывает английский язык; модель генерирует текст и поддерживает чат. Лицензия — MIT. Модель может выдавать неверные или предвзятые ответы, поэтому её результаты требуют проверки, особенно в чувствительных и критически важных сценариях.

Sequelbox Qwen3-4B-Thinking-2507-DAG-Reasoning — экспериментальная специализированная языковая модель Sequelbox, созданная дообучением Qwen/Qwen3-4B-Thinking-2507. Она генерирует текст и предназначена для причинного анализа: выявляет связи между факторами, оценивает уверенность и формирует результат в виде структурированного ориентированного ациклического графа (DAG), представленного в JSON. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Модель подходит для анализа причин и следствий в программировании, науке, бизнесе, экономике, финансах, праве, логистике и управлении, а также для подготовки графов к визуализации или дальнейшей обработке. Для получения структурированного DAG следует явно запросить граф или анализ; модель также может ответить в обычном стиле Qwen3. Карточка описывает её как ранний экспериментальный выпуск и рекомендует проверять структуру выходных данных перед продуктивным использованием. Доступна по лицензии Apache-2.0.

Это исследовательский вариант Qwen3-Next-80B-A3B-Thinking с разреженными экспертами, усреднённо квантованными до 2,36 бита; остальные веса хранятся в BF16. Разработчик — minjaechoi. Модель предназначена для генерации текста и диалога, включая задачи рассуждения, унаследованные от базовой модели. Архитектура — MoE; по карточке Hugging Face, размер составляет 2,3 млрд параметров, а длина контекста — 262 144 токена. Метаданные также отмечают интерфейс для вызова инструментов. Веса сохранены в формате safetensors как BF16-тензоры после деквантизации; README сообщает о совместимости со стандартными Transformers и vLLM. Лицензия наследуется от базовой модели. Карточка характеризует этот чекпойнт как внутренний исследовательский, поэтому его качество и пригодность для конкретных задач следует проверять отдельно.

Qwen3-VL-8B-Instruct-Unredacted-MAX-Quants-GGUF — набор высококачественных GGUF-квантизаций мультимодальной модели prithivMLmods/Qwen3-VL-8B-Instruct-Unredacted-MAX. Модель предназначена для диалогового взаимодействия, генерации текста и анализа изображений, включая задачи image-to-text, описания изображений и визуального распознавания. В README заявлена версия без ограничительных фильтров. Модель основана на архитектуре Qwen3-VL и содержит 8 миллиардов параметров. Поддерживаются текстовая и визуальная модальности, а также английский, русский и китайский языки. Доступны варианты квантования Q2_K, Q3_K_M, Q4_K_M, Q5_K_M, Q6_K, Q8_0 и F16; Q4_K_M рекомендован как баланс скорости и качества, а F16 служит эталонным вариантом с базовым качеством. Для обработки изображений требуется отдельный vision projector mmproj, доступный в форматах F32, F16, BF16 и Q8_0. Преимуществами являются совместимость с llama.cpp и другими GGUF-совместимыми средами, выбор вариантов под разные требования к памяти и производительности, а также полноценная поддержка изображений при использовании mmproj. К ограничениям относятся компромиссы между размером, скоростью и качеством у разных квантований; варианты Q2_K и Q3_K_M характеризуются более заметной потерей качества, а визуальные задачи требуют дополнительного файла проектора. Лицензия — Apache-2.0.

CultriX/SeQwence-14B-EvolMerge — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом DARE TIES. В слиянии использованы CultriX/SeQwence-14Bv1 как базовая модель, а также CultriX/Qwestion-14B и CultriX/Qwen2.5-14B-Wernicke. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; доступен интерфейс для вызова инструментов. Модель принимает текст и выдаёт текст. Заявленный родной размер контекста — до 131 072 токенов. В метаданных указан английский язык, поэтому её можно применять для англоязычных запросов и диалогов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Spartan_v1.0 — языковая модель, созданная слиянием моделей Meta Llama 3.1 с помощью mergekit и метода SLERP. В слияние вошли Meta-Llama-3.1-8B и Meta-Llama-3.1-8B-Instruct; модель содержит 7,5 млрд параметров и использует плотную архитектуру Llama для авторегрессионной генерации текста. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на запросы, написания и продолжения текста, а также сценариев с интерфейсом вызова инструментов. Заявленная длина контекста — 131 072 токена. Для работы используется библиотека Transformers, веса опубликованы в формате safetensors. В карточке не описаны отдельные языковые специализации или результаты оценки качества, поэтому их нельзя уверенно определить. Лицензия в предоставленных данных не указана. Производные модели Llama 3.1 распространяются на условиях лицензии Meta Llama 3.1; перед использованием следует сверить применимые условия с карточкой и лицензией базовых моделей.

Swift-Qwen3.8-27B-NVFP4 — квантизированная мультимодальная модель UkisAI, производная от Swift-Qwen3.8-27B, которая, в свою очередь, основана на Qwen3.8-27B. Модель предназначена для задач рассуждения и обработки текста и изображений; в карточке указана поддержка сценариев image-text-to-text. Архитектура, компоненты зрения, токенизатор и веса BF16 для MTP сохранены от исходной модели. Модель использует смешанную точность NVIDIA Model Optimizer: основные MLP-проекции и lm_head представлены в NVFP4 с размером блока 16, крупные проекции DeltaNet и полнослойного внимания — в FP8 E4M3, а embeddings, нормализации, свёртки, компоненты зрения и MTP — в BF16. Размер чекпойнта составляет примерно 21,945 ГБ. Квантизация снижает требования к памяти под веса и оставляет больше памяти для KV-кэша, при этом точность KV-кэша не изменена. Сильными сторонами являются сохранение мультимодальных компонентов и MTP, документированная калибровка и совместимость с vLLM 0.28.0 при наличии загрузчика для смешанных ModelOpt-чекпойнтов. Ограничения включают необходимость соответствующего программного стека и оборудования; модель проверялась на GPU H100. Языки и размер контекстного окна в предоставленных данных не указаны. Доступ к модели ограничен, а лицензия обозначена как swift-open-license-1.0; также указана возможность корпоративного лицензирования.

ZEUS-8B-V6 — объединённая языковая модель, созданная автором репозитория T145 с помощью mergekit и метода DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в объединение также вошли Llama-VARCO-8B-Instruct, Llama-3.1-8B-Lexi-Uncensored-V2, Llama-3.1-Storm-8B и Llama-3.1-SuperNova-Lite. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс для вызова инструментов. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана. В README нет сведений о целевых языках и подробных ограничениях качества, поэтому их нельзя достоверно определить по имеющимся материалам.

blossom-v4-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral, полученная слиянием Mistral-7B-Instruct-v0.1 и Azure99/blossom-v4-mistral-7b методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Её можно применять для чат-ботов, ответов на вопросы, написания текстов и помощи с математическими задачами. В карточке указаны английский и китайский языки; данные также связывают её с наборами для чатов, математики и инструкционного диалога. Модель распространяется по лицензии Apache-2.0. Сведений о специальных ограничениях качества или безопасности в предоставленной карточке нет.

mobiuslabsgmbh/DeepSeek-R1-ReDistill-Llama3-8B-v1.1 — повторно дистиллированная версия DeepSeek-R1-Distill-Llama3-8B, разработанная Mobius Labs. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста и диалоговых сценариев; заявленная длина контекста — 131 072 токена. В сравнении с исходной DeepSeek-R1-Distill-Llama3-8B карточка приводит улучшенные результаты на ARC, MMLU, GPQA, MMLU PRO и MUSR, при этом на HellaSwag результат немного ниже. Модель подходит для задач рассуждения, ответов на вопросы и других сценариев генерации текста. В репозитории доступны веса safetensors. Лицензия — MIT. В README также упоминается возможность ускорения инференса с HQQ; приведённые в карточке сравнительные результаты не заменяют независимую оценку на целевых данных.

EpistemeAI2/Firebal-Llama-3.1-8B-R1 — текстовая диалоговая модель семейства Llama 3.1, дообученная на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Она предназначена для общения в формате ассистента и генерации текста; в метаданных также отмечен интерфейс для вызова инструментов. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель принимает текст и генерирует текст. В карточке описана поддержка английского, французского, немецкого, хинди, итальянского, португальского, испанского и тайского языков; метаданные для этой модели указывают английский. Карточка рекомендует шаблон Alpaca для рассуждений. Лицензия — Apache 2.0 по метаданным модели; README содержит общие сведения о Llama 3.1 и её Community License, поэтому условия следует сверять с лицензией именно этого репозитория. Качество и дополнительные возможности дообучения Firebal отдельно в предоставленной карточке не описаны.

unsloth/gemma-3-270m-it-qat-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 с 270 млн параметров, разработанной Google DeepMind и подготовленной Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и других диалоговых сценариев, а также может анализировать изображения и выдавать текстовый результат. Модель поддерживает текстовые и графические входные данные, более 140 языков и контекст до 32 тысяч токенов для моделей размером 270M. Вариант основан на google/gemma-3-270m-it-qat-q4_0-unquantized и использует квантизацию QAT в формате GGUF, что ориентировано на запуск с пониженными требованиями к ресурсам, в том числе на локальных устройствах. Конкретные сведения об архитектуре и языковых характеристиках отдельных языков в карточке не приведены. К сильным сторонам относятся малый размер, поддержка длинного контекста, мультимодальность и возможность локального развертывания. Ограничением является существенно меньшая ёмкость модели по сравнению с крупными вариантами Gemma 3, поэтому сложные задачи и требовательные сценарии могут выполняться менее качественно. Модель распространяется по лицензии Gemma; её использование регулируется условиями Google.

gemma-3-4b-it-GGUF — квантизированная версия мультимодальной модели Gemma 3 4B IT, разработанной Google. Файл в формате GGUF подготовлен пользователем bartowski на основе модели google/gemma-3-4b-it и предназначен для запуска через llama.cpp, в том числе локально в LM Studio. Модель подходит для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений. Она поддерживает текстовый и визуальный ввод; изображения нормализуются до разрешения 896 × 896 пикселей. Заявленная длина контекста составляет до 128 000 токенов, максимальная длина вывода — 8192 токена. Другие характеристики, включая поддерживаемые языки и точную архитектуру, в README не указаны. Для работы требуется runtime llama.cpp версии 1.19.0 или более новой, причём рекомендуется актуальная beta-версия. К ограничениям относятся зависимость от совместимого runtime, возможные ошибки и неточности генерации, а также отсутствие в предоставленных данных сведений о конкретном типе квантизации и её влиянии на качество. Модель распространяется по лицензии Gemma; для доступа на Hugging Face требуется принять условия лицензии Google.

GPT-5.2 — модель семейства GPT-5, представленная как новейшая флагманская модель OpenAI. В карточке отмечены адаптивное распределение вычислений и улучшения в агентных сценариях и работе с длинным контекстом относительно GPT-5.1. Модель предназначена для агентных задач и работы с длинным контекстом. Метаданные каталога относят её к задаче image-text-to-text, однако README не описывает поддерживаемые типы входных данных, архитектуру, размер, языки или конкретные сценарии использования. Сведения о лицензии также отсутствуют, поэтому условия использования по доступным данным определить нельзя.

K2-Horizon-MoVA-36B-A4B — разреженная языковая модель семейства K2-Horizon от IFM с архитектурой Mixture-of-Experts и механизмом внимания Mixture-of-Values (MoVA). В модели хранится 36 млрд параметров, при генерации активируется около 4 млрд на токен; метаданные каталога указывают 3,7 млрд параметров. Модель предназначена для диалоговой генерации текста, рассуждений и агентных сценариев с вызовом инструментов. Модель поддерживает контекст до 524 288 токенов и рассчитана прежде всего на английский язык. Разработчик сообщает о сильных результатах на бенчмарках рассуждений и агентных задач при небольшом числе активных параметров; независимые оценки в предоставленной карточке не приведены. Опубликованы веса, данные и код обучения, а также промежуточные чекпойнты. Для запуска в карточке приведены рецепты vLLM и SGLang; версия Transformers также валидирована. Модель распространяется по лицензии Apache-2.0. Для рекомендуемого качества карточка советует высокий уровень reasoning effort и настройки temperature=1.0, top_p=0.95; доступная производительность зависит от выбранного чекпойнта и вычислительной инфраструктуры.

Light-IF-32B — дообученная компанией Qihoo 360 языковая модель на базе Qwen/Qwen3-32B, предназначенная для точного выполнения сложных инструкций. В карточке указаны архитектура Qwen3ForCausalLM с плотными весами и 29,7 млрд параметров; модель работает с текстом, поддерживает диалог и интерфейс вызова инструментов, а нативный контекст составляет 40 960 токенов. При дообучении применялись Entropy-SFT и token-wise entropy-adaptive reinforcement learning (TEA-RL), чтобы улучшить планирование и самопроверку ответа при выполнении инструкций с множеством ограничений. В README сообщается о результатах на бенчмарках SuperClue, IFEval, CFBench и IFBench и о сравнении с более крупными моделями; приведённая таблица неполная, поэтому конкретные результаты Light-IF-32B из неё определить нельзя. Модель подходит для диалоговых систем и задач, где важно соблюдать сложные требования к ответу. Она унаследована от многоязычной Qwen3, однако конкретный список поддерживаемых языков в предоставленных данных не приведён. Лицензия — Apache-2.0.

TheBloke опубликовал fp16-модель Llama 30B SuperCOT в формате PyTorch. В её основе — объединение huggyllama/llama-30b и kaiokendev/SuperCOT-LoRA; поверх него объединена LoRA Kaio Ken SuperHOT, расширяющая контекст до 8192 токенов. Модель относится к плотной архитектуре LlamaForCausalLM и содержит 32,3 млрд параметров. Модель предназначена для генерации текста и ответов на вопросы с использованием шаблона запросов в стиле Alpaca и LangChain. Увеличенное окно контекста позволяет передавать более длинные запросы и материалы. README сообщает, что в тестах модель использовала расширенный контекст, но качество ответов чувствительно к формулировкам и структуре промпта; результаты могут заметно меняться при перефразировании. Репозиторий содержит веса PyTorch fp16 для GPU-инференса и дальнейшей конвертации. Для работы с контекстом 8K требуется поддержка соответствующего масштабирования RoPE; README рекомендует `trust_remote_code=True` или monkey patch. Лицензия указана как `other`, поэтому условия использования следует сверить с карточкой и лицензиями исходных компонентов.

Meta Llama 3.1 405B — большая авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer с Grouped-Query Attention. Она принимает и генерирует текст; семейство Llama 3.1 включает базовые и дообученные версии, а этот репозиторий представляет модель размером 405 млрд параметров. В метаданных указаны библиотека Transformers и формат safetensors. Модель предназначена для генерации текста и многоязычного диалога: её можно применять как основу для помощников и чат-систем, а также адаптировать к другим задачам генерации естественного языка. Семейство поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В карточке отмечены расширенное контекстное окно и возможность интеграции с инструментами разработчиками, но точный размер контекста этой модели не указан. Модель разработана Meta и выпущена в июле 2024 года. Она распространяется по специальной коммерческой лицензии Llama 3.1 Community License; применение должно соответствовать лицензии и Acceptable Use Policy. К ограничениям относятся статичность обученных весов, отсутствие гарантии безопасности или корректности ответов и рекомендация не использовать неподдерживаемые языки без дополнительного дообучения и системных мер контроля.

Luciole-1B-Instruct-1.1 — дообученная и согласованная инструктивная языковая модель, созданная LINAGORA и консорциумом OpenLLM-France на базе Luciole-1B-Base в рамках проекта OpenLLM France. Это плотная каузальная модель семейства Nemotron с 1,7 млрд параметров, предназначенная для диалогов и выполнения инструкций. Она обучалась в несколько этапов: на инструкциях с рассуждениями и без них, затем с применением Direct Preference Optimization. Данные охватывали математику, науку, программирование, общий диалог, RAG и перевод; доступны веса в формате safetensors, а лицензия — Apache 2.0. Модель поддерживает французский и английский языки и использует шаблон чата, вдохновлённый Qwen3-1.7B. Хотя базовая модель рассчитана на контекст до 131 072 токенов, сама эта версия обучалась на последовательностях длиной 16 384 токена. Она показывает хорошие результаты во следовании инструкциям для модели своего размера и особенно заметна в инструкциях на французском языке, но может галлюцинировать и слаба в решении математических текстовых задач. Для специализированных задач, включая генерацию кода и математику, рекомендуется дополнительное обучение; для актуальных или обширных знаний может помочь RAG. Разработчики считают проект развивающимся и советуют тщательно проверять модель перед включением в промышленные системы.

win10/miscii-14b-1M-0128 — созданная с помощью mergekit и метода SCE объединённая языковая модель на архитектуре Qwen2, разработчик — win10. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли несколько моделей Qwen2.5 и производные от DeepSeek-R1-Distill-Qwen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Заявленный контекст — до 131 072 токенов; в карточке указаны английский и китайский языки. Модель распространяется в формате safetensors через библиотеку Transformers по лицензии Apache-2.0. README приводит результаты оценок IFEval и BBH, но не описывает методику проверки или практические ограничения качества; фактическая производительность может зависеть от запроса и настроек генерации.

NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-FP8 — языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это FP8-квантованная производная NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 на гибридной архитектуре Mamba-2, Transformer и MoE; в репозитории Transformers хранятся веса SafeTensors. В одном чекпойнте вложены варианты на 30B, 23B и 12B параметров, которые можно извлечь без дополнительного обучения. Для варианта 30B активны 3,6B параметров на токен; в меньших вариантах — 2,8B и 2,0B соответственно. Модель рассчитана на чат и задачи рассуждения; также README рекомендует её для прототипирования и описывает готовность к коммерческому применению. Она поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Контекст в метаданных — 262 144 токена; README указывает возможность увеличить контекст при использовании vLLM до 1M токенов с соответствующей настройкой. Elastic-структура позволяет выбирать компромисс между размером варианта и вычислительными затратами, а FP8-представление уменьшает требования к памяти. Модель предназначена для генерации текста и не описана как мультимодальная. Лицензия указана как other; README заявляет о готовности к коммерческому использованию, но конкретные условия лицензии следует сверять с файлами репозитория.

OLMo-2-1124-13B-DPO-Preview — англоязычная плотная авторегрессионная языковая модель семейства OLMo 2, разработанная Allen Institute for AI (AI2). Это вариант OLMo-2 на 13,2 млрд параметров, прошедший supervised fine-tuning на варианте набора Tülu 3, а затем обучение методом DPO на данных предпочтений. Модель предназначена для диалогов, выполнения инструкций и широкого круга задач генерации текста; карточка отмечает задачи MATH, GSM8K и IFEval. Модель принимает текст и выдаёт текст, поддерживает чат-шаблон и имеет контекстное окно 4096 токенов. Она рассчитана прежде всего на английский язык. Веса распространяются в формате PyTorch по лицензии Apache 2.0. В карточке отмечено, что у OLMo 2 ограничено обучение безопасности, поэтому модель может выдавать проблемные ответы, особенно при соответствующих запросах; встроенной фильтрации ответов нет. Сведения о качестве следует рассматривать с учётом того, что это предварительный DPO-вариант.

CultriX/Qwen2.5-14B-Wernicke — объединённая плотная авторегрессионная языковая модель семейства Qwen2.5, созданная с помощью mergekit методом Model Stock. В основу слияния взята Qwen/Qwen2.5-14B; в объединение также вошли EVA-Qwen2.5-14B-v0.0, Qwen2.5-14B-Instruct, SuperNova-Medius, Rombos-LLM-V2.6-Qwen-14b и Qwen2.5-Lumen-14B. Модель содержит 14 млрд параметров и рассчитана на генерацию текста и диалоги. Модель подходит для ответов на запросы, свободного продолжения текста и формирования структурированных ответов; в метаданных также отмечен интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык, а заявленная длина контекста составляет 131 072 токена. Для оценки приведены результаты Open LLM Leaderboard, включая IFEval и BBH, но данных недостаточно, чтобы определить практическое качество в конкретных сценариях. Распространяется по лицензии Apache-2.0.

macadeliccc/SOLAR-10.7b-Instruct-dpo — диалоговая языковая модель, созданная дообучением upstage/SOLAR-10.7B-Instruct-v1.0 на наборе Intel/orca_dpo_pairs. Это плотная авторегрессионная модель семейства LLaMA с 10,6 млрд параметров, предназначенная для генерации ответов в формате чата. Она использует шаблон ChatML и рассчитана на контекст до 4096 токенов. Модель подходит для диалоговых помощников, ответов на вопросы, следования инструкциям и задач рассуждения на естественном языке. В README приведены результаты нескольких бенчмарков и сравнение с базовой моделью, однако они не гарантируют качество на конкретных данных или сценариях. Доступна лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

Tarka-AIR разработала Tarka-Embedding-150M-V1 — компактную текстовую embedding-модель на 150,9 млн параметров на основе архитектуры Gemma 3 Text. Она преобразует текст в плотные векторы размерностью 768 для поиска, оценки семантического сходства и извлечения документов в RAG-системах. Контекст модели — до 2048 токенов; заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Модель обучена методом дистилляции знаний без меток на корпусе примерно из 2 млрд токенов. Для формирования запросов и документов README рекомендует использовать специальные префиксы, зависящие от сценария. Модель подходит для семантического поиска, подбора похожих текстов, кластеризации и извлечения контекста для ответов на вопросы и проверки фактов. Авторы сообщают, что пока оценивали её только на англоязычном бенчмарке MTEB, поэтому качество для остальных заявленных языков не подтверждено опубликованными результатами. Лицензия — Gemma; перед использованием следует учитывать её условия.

Teuken-7B-instruct-research-v0.4-GGUF — это квантизированная версия инструкционной языковой модели Teuken-7B-instruct-research-v0.4, разработанной openGPT-X и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения инструкций, а также для локального запуска через llama.cpp и совместимые приложения, включая LM Studio. Доступны варианты от F16 до различных уровней квантования Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер наиболее компактных представленных вариантов составляет около 4,1–4,7 ГБ, а F16-версия занимает около 14,9 ГБ. В README заявлена поддержка немецкого, болгарского, чешского, датского, греческого, английского, испанского, эстонского, финского, французского, ирландского, хорватского, венгерского, итальянского, литовского, латышского, мальтийского, нидерландского, польского, португальского, румынского, словенского, шведского и словацкого языков. Некоторые квантизации оптимизированы для ARM или AVX, однако отдельные варианты не рекомендуются для Mac или GPU. Более качественные варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые; Q4_K_M описан как вариант стандартного размера для большинства сценариев. README не содержит сведений об архитектуре, размере контекстного окна, параметрах обучения, точных мультимодальных возможностях или формате промпта, поэтому модель следует рассматривать как текстовую, без подтверждённой поддержки других модальностей. Лицензия указана как other, без дополнительных условий; перед использованием в коммерческих или распространительных сценариях необходимо проверить лицензию исходной модели и конкретные ограничения.

West-Hermes-7B — языковая модель на 7,1 млрд параметров, созданная слиянием моделей Mistral-7B-v0.1, WestLake-7B-v2 и OpenHermes-2.5-Mistral-7B с помощью метода DARE TIES и инструментария mergekit. В основе лежит плотная архитектура Mistral для авторегрессионной генерации текста. Модель предназначена для генерации текста по текстовым запросам. Контекст составляет до 32 768 токенов. В README приведены результаты оценок на бенчмарках рассуждений и понимания текста. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Falcon-H1-34B-Base — базовая языковая модель семейства Falcon-H1, разработанная TII (Technology Innovation Institute). Это плотная причинная модель-декодер с гибридной архитектурой Transformers и Mamba и примерно 29,6 млрд параметров. Она предназначена для генерации продолжений текста и служит базой для построения приложений и последующей адаптации под конкретные задачи. Модель работает с текстом, поддерживает многоязычные сценарии, включая английский и русский, и имеет контекстное окно до 262 144 токенов. Для запуска README указывает библиотеки Transformers, vLLM и llama.cpp; файлы репозитория представлены в формате safetensors. В таблице оценки приведены результаты на общих и логических задачах, но конкретные метрики зависят от теста и сценария применения. Лицензия — Falcon-LLM License. Это базовая модель, поэтому для диалоговых приложений и специализированных задач может потребоваться дополнительная настройка; качество также зависит от промпта и способа развёртывания.

Faro-Yi-9B-DPO-imatrix-GGUF — набор GGUF-квантизаций модели Faro-Yi-9B-DPO, опубликованный пользователем duytnet. Базовая модель разработана wenbopan как DPO-версия Faro-Yi-9B на архитектуре Yi с примерно 9 млрд параметров. Модель предназначена для генерации текста и диалоговых сценариев, использует шаблон ChatML и поддерживает работу через llama.cpp, KoboldCpp, Ollama, text-generation-webui, Jan и GPT4All. Модель ориентирована на ответы общего назначения, рассуждения, работу с вопросами и документами, включая длинный контекст. В README заявлены высокие результаты на MMLU, GSM8K, HellaSwag, TruthfulQA, AI2 ARC, Winogrande и CMMLU, а также предпочтение ответов модели в оценке MT-Bench с использованием GPT-4 Judge. Для оригинальной модели описана работа с контекстом до 32K токенов при 24 ГБ видеопамяти, до 48K при использовании FP8 KV-кэша и до 160K для 4-битной AWQ-квантизации, однако фактические возможности конкретной GGUF-квантизации зависят от файла, аппаратного обеспечения и настроек запуска. В карточке указаны английский язык и лицензия «other», но точные условия лицензии не приведены. GGUF-квантизация снижает требования к памяти и упрощает локальный запуск, однако может приводить к некоторой потере качества по сравнению с полноразмерной моделью; степень потерь зависит от выбранного варианта квантизации.

Vontra/GLM-5.3-Flash-MLX-oQ2-MTP — это MLX-конверсия и квантованная версия мультимодальной модели GLM-5.3-Flash, разработанной Z.ai. Модель предназначена для генерации текста и изображений, обработки языковых и визуальных запросов, а также локального запуска на компьютерах Apple Silicon через MLX и совместимые компоненты oMLX. Заявлены поддерживаемые языки английский и китайский. Модель использует архитектуру glm5_next с разреженной Mixture-of-Experts, гибридным линейным и разреженным вниманием и контекстом до 1 048 576 токенов. Применена посттренировочная weight-only-квантизация sensitivity-guided oQ2 со смешанной точностью и эффективным распределением около 2,67 бита на вес. Большинство весов имеют точность Q2 или Q8, отдельные компоненты — Q4, а зрительный энкодер и проектор сохранены в BF16. Репозиторий содержит 22 файла весов общим объёмом около 110 ГБ. Вариант сохраняет встроенный слой предсказания следующего токена и поддерживает Native MTP с глубиной 1, что может повышать пропускную способность. Однако MTP указан как экспериментальный: в проверенном окружении результаты были связными, но не полностью совпадали с базовым режимом, поэтому для точной детерминированной воспроизводимости его следует отключать. Совместимость проверена с oMLX 0.6.3rc3, MLX 0.32.0, mlx-lm 0.31.3 и mlx-vlm 0.6.3; другие версии могут не поддерживать необходимые пути glm5_next, oQ и Native MTP. Модель распространяется по лицензии MIT.