II.2Создание и понимание программного кода

Baanzon-Chenni-1.5-9B-i1-GGUF — это квантизированная версия модели Baanzon-Chenni-1.5-9B, разработанной Devopsopraiz и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, задач разработки программного обеспечения и автономных агентов. В метаданных также указано, что это vision-модель, однако подробности о поддерживаемых визуальных входах и способах их использования в описании не приведены. Модель содержит около 9 млрд параметров и связана с семейством Qwen3. Указан английский язык. Репозиторий предоставляет набор вариантов квантизации i1, включая IQ- и Q-форматы размером примерно от 2,8 до 7,5 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Вариант i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по сочетанию размера, скорости и качества; наиболее низкие уровни квантизации могут заметно снижать качество. Доступны imatrix-кванты и статические GGUF-файлы для локального запуска в совместимом программном обеспечении. Размер контекстного окна, точная архитектура, результаты оценивания, перечень языков помимо английского и характеристики мультимодальности не указаны. Модель распространяется по лицензии MIT.

RaduGabriel/BGE-M3-SQL — дообученная модель Sentence Transformer на базе BGE-M3 для поиска и ранжирования SQL-таблиц по запросу на естественном языке. Она предназначена для выбора релевантных таблиц при преобразовании пользовательского запроса в SQL; обучение проводилось на подборке определений таблиц и соответствующих им запросов на естественном языке. Модель использует архитектуру XLM-RoBERTa с 658,7 млн параметров и формирует нормализованные векторы размерности 1024 для сравнения по косинусному сходству. Контекст составляет до 8194 токенов. Лицензия в предоставленных данных не указана.

Карточка модели jinreiyu/cloned-Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

DeepAnalyze-8B — локальная модель для анализа табличных данных, представленная в формате GGUF и дообученная на базе RUC-DataLab/DeepAnalyze-8B. Репозиторий содержит 4-битную квантизацию Q4_K_M для запуска через llama.cpp; модель имеет 8 млрд параметров и контекст 8192 токена. В README также названа архитектура DeepSeek-Coder, но метаданные указывают на базовую модель семейства Qwen3. Модель предназначена для преобразования инструкций на естественном языке в код для анализа данных: очистки таблиц, работы с Pandas, Polars и DuckDB, статистического профилирования и построения графиков. Основной сценарий — локальное использование в Jupyter или IPython вместе с агентным расширением, которое проверяет и выполняет сгенерированный код. README описывает работу с англоязычными инструкциями и табличными данными, однако языки в метаданных не подтверждены. Лицензия — MIT. Модель рассчитана на специализированные задачи анализа данных, а не на универсальный диалог; качество и безопасность выполнения кода зависят также от внешней оболочки и проверок. Указанное в README AST-ограничение относится к агентному расширению, а не гарантируется самими весами модели.

huihui-ai выпустила uncensored-версию DeepSeek-R1-Distill-Qwen-14B, созданную методом abliteration для удаления отказов модели. Это экспериментальная версия с грубой реализацией концепции; архитектура — плотная Qwen2ForCausalLM на 14 млрд параметров, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи рассуждения, математики и программирования; поддерживает контекст до 131072 токенов. Модель основана на deepseek-ai/DeepSeek-R1-Distill-Qwen-14B. Автор указывает, что доступна более новая версия v2. Условия лицензии в предоставленных данных не указаны.

kathisacutie/DeepSeek-V3.2 — текстовая генеративная модель на архитектуре DeepSeek V3.2, представленная как дообучение deepseek-ai/DeepSeek-V3.2-Exp-Base. В карточке заявлены эффективное рассуждение и работа в агентных сценариях, включая взаимодействие с инструментами. Модель использует механизм разреженного внимания DeepSeek Sparse Attention, рассчитанный на длинный контекст; размер указан как 37,6 млрд параметров, контекст — до 163 840 токенов. Модель предназначена для генерации текста, решения задач, требующих многошагового рассуждения, и сценариев, где агент использует инструменты. Для работы с сообщениями предусмотрен обновлённый формат чата с поддержкой вызова инструментов и режима рассуждения с инструментами; README отмечает, что шаблон Jinja не приложен. Репозиторий содержит веса в формате safetensors с FP8. Лицензия — MIT. README предупреждает, что парсер вывода рассчитан только на корректно сформированные строки и не исправляет ошибочный формат, поэтому для практического применения требуется надёжная обработка ошибок. Заявления об олимпиадных результатах и сравнении с другими моделями приведены авторами карточки и здесь не подтверждаются независимой оценкой.

DeepSeek V4 Flash REAP K128 — это экспериментальная структурно прореженная версия DeepSeek V4 Flash, подготовленная sleepyeldrazi. Метод REAP от Cerebras Research удаляет 50% маршрутизируемых экспертов в слоях Mixture-of-Experts, сохраняя внимание, эмбеддинги, общих экспертов, маршрутизатор и компоненты MTP. Это GGUF-модель смешанной точности: в слоях 37–42 используются эксперты Q4_K, в остальных — IQ2_XXS/Q2_K. Для запуска требуется среда ds4, поддерживающая выбор типа квантования по слоям. Модель предназначена для генерации текста и диалогов, в том числе для задач программирования, вызова инструментов и поиска знаний. Для калибровки использованы 8 000 промптов на 5 млн токенов; автор сообщает о прореживании без дообучения и без изменения весов сохранённых экспертов. Модель распространяется по лицензии MIT. Для запуска требуется совместимый runtime; README предупреждает о несовместимости с некоторыми средами, ожидающими тензоры экспертов IQ2_XXS.

DFlash-Qwen3.5-27B-Uncensored-GGUF — GGUF-квантизированная версия модели DFlash-Qwen3.5-27B-Uncensored от AEON-7, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, программирования, рассуждений, агентских сценариев, вызова функций и работы с инструментами. В README также заявлены мультимодальность и поддержка vision-language через отдельный файл mmproj. Модель имеет размер 27 млрд параметров и относится к семейству Qwen3.5 с гибридной архитектурой, сочетающей attention и linear attention; среди заявленных компонентов указаны Gated DeltaNet и block diffusion. Поддерживается английский язык, библиотека Transformers, а также совместимые с OpenAI интерфейсы и vLLM. Максимальный размер контекста в README не указан. Доступны варианты квантования GGUF от Q2_K до Q8_0 и IQ4_XS; размеры файлов составляют примерно от 10,8 до 28,7 ГБ. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как обеспечивающий наилучшее качество среди перечисленных. К сильным сторонам относятся широкий набор заявленных сценариев, поддержка инструментов и мультимодальности, а также возможность выбора между различными уровнями квантования для баланса качества, скорости и требований к памяти. Ограничения включают отсутствие в README точных данных о размере контекста, результатах оценки, поддерживаемых языках помимо английского и фактических возможностях мультимодального режима; для него требуется отдельный mmproj-файл. Модель распространяется по лицензии Apache-2.0.

DFM Mimir v1.5 — это инструкционно настроенная разговорная языковая модель на архитектуре HRM-Text XL с PrefixLM, разработанная Danish Foundation Models. Это продолжение датской и английской линейки Mimir: модель дообучена на последующих смесях данных до финального EMA-чекпойнта 10-й эпохи и не обучалась заново с нуля. В репозитории представлены BF16-веса для инференса; число параметров по README составляет около 1,787 млрд, а нативный контекст — 4096 токенов. Модель предназначена для диалогов и следования инструкциям на датском и английском языках, в том числе для математических и программных задач, а также сценариев с инструментами. Для запуска требуется среда Transformers или vLLM с поддержкой HRM-Text и PrefixLM attention; обычный causal-only декодер не является эквивалентной средой. Модель распространяется по лицензии Apache-2.0. Модель может галлюцинировать, ошибаться в коде и рассуждениях, нарушать требуемый формат и воспроизводить социальные предубеждения; её надёжность для критически важных решений не гарантируется. Выводы бенчмарков зависят от шаблона, токенизатора и настроек оценки, а сведения о безопасности и запоминании для предыдущей версии не подтверждают свойства v1.5.

Dirk-Qwen3.8-27B-GGUF — это квантованная GGUF-версия плотной мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем npario. Модель предназначена для диалогов, агентного программирования, анализа изображений и других задач, требующих генерации текста с поддержкой vision-language. Она рассчитана на запуск через llama.cpp и совместимые рантаймы. Модель сохраняет веса исходной Qwen3.8-27B, vision-возможности и MTP-голову nextn для multi-token prediction и speculative decoding. В поставку включён Sharp chat template, ориентированный на краткие ответы и работу без дополнительной настройки шаблона. Поддерживаются английский и китайский языки. Доступны уровни reasoning_effort low, medium и xhigh; high является псевдонимом xhigh, а рассуждения можно полностью отключить. Контекстный размер в README не указан. Сильные стороны модели — компактные ответы, потенциально более высокая скорость генерации благодаря MTP и широкий выбор квантов Dynamic 3.0 UD размером примерно от 9,8 до 31,5 ГБ. Ограничения связаны с потерями качества у малобитных квантов, требованиями к видеопамяти и необходимостью использования совместимого vision-проектора mmproj-F16.gguf для работы с изображениями. Модель распространяется по лицензии Apache-2.0.

DistilabelCerberus-7B-slerp — слитая модель для генерации текста на основе Mistral, созданная с помощью mergekit из DistilabelBeagle14-7B и OpenHermes-2.5-Mistral-7B. В конфигурации применён метод слияния slerp с разными весами для слоёв self-attention и MLP; модель содержит 7,1 млрд параметров и имеет контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. В карточке приведены результаты оценивания на наборах задач рассуждения, понимания здравого смысла и математики. Репозиторий распространяется в формате safetensors по лицензии Apache-2.0.

Dolphin 2.5 Mixtral 8x7B GGUF — это набор квантованных файлов модели cognitivecomputations/dolphin-2.5-mixtral-8x7b, подготовленный MaziyarPanahi в формате GGUF. Модель предназначена для генерации текста и может использоваться локально через llama.cpp и совместимые приложения и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. В основе лежит архитектура Mixtral с конфигурацией 8x7B; точный размер контекста и полный набор поддерживаемых языков в README не указаны, хотя модель помечена как предназначенная для английского языка. Доступны варианты квантования от 2 до 8 бит, включая форматы Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать между меньшим потреблением памяти и сохранением качества. Квантование упрощает запуск на локальном оборудовании, но варианты с меньшей разрядностью могут иметь более низкое качество генерации. Модель обучалась на наборах данных Dolphin, Airoboros, Dolphin Coder, Synthia, OpenHermes, Magicoder и других, перечисленных в карточке. Сценарии применения включают локальную генерацию текста и, судя по составу данных и тегам, задачи общего назначения и программирования, однако специализированные возможности и ограничения отдельно не описаны. Распространяется по лицензии Apache-2.0.

DPOpenHermes-7B-v2 — диалоговая языковая модель, разработанная OpenAccess AI Collective на базе OpenHermes-2.5-Mistral-7B. Это плотная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов, дообученная методом Direct Preference Optimization (DPO) с использованием 16-битного LoRA и наборов предпочтений Intel/orca_dpo_pairs и UltraFeedback. Модель предназначена для многоходового общения, следования инструкциям и генерации текста; её формат диалога ChatML поддерживает системные сообщения и совместим с типовым сценарием общения через ChatGPT-подобный API. Карточка приводит результаты AGIEval и BigBench Hard, но не описывает их методику; результаты TruthfulQA не приведены. Модель ориентирована на английский язык. Распространяется по лицензии Apache-2.0; как и другие языковые модели, может выдавать ошибки и неподходящие ответы.

NickyNicky/gemma-1.1-2b-it_text_to_sql_format_chatML_V1 — дообученная чат-модель семейства Gemma от автора NickyNicky, предназначенная для генерации SQL по запросам на естественном языке. Она построена на плотной архитектуре GemmaForCausalLM и содержит 2,5 млрд параметров; модель рассчитана на контекст до 8192 токенов и использует формат safetensors в библиотеке Transformers. В метаданных указаны английский язык и наборы данных gretelai/synthetic_text_to_sql и NickyNicky/synthetic_text_to_sql_format_chatML_gemma. README приводит результаты обучения за 2,01 эпохи и 2509 шагов. Модель распространяется по лицензии Apache-2.0.

Карточка модели Mimoniske/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking на Hugging Face совпадает с карточкой DavidAU/gemma-3-it-vl-40B-Gemini-Heretic-Uncensored-Thinking, поэтому описание составлено по ней. Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

HauhauCS/Gemma4-12B-QAT-Uncensored-HauhauCS-Balanced — модифицированная версия Gemma 4 12B от Google DeepMind, подготовленная HauhauCS. Модель основана на официальных QAT-весах и ориентирована на агентное программирование, рассуждения, творческое письмо, ролевые сценарии и диалоговые задачи, где важны следование инструкциям и надежность. Вариант позиционируется как uncensored и предназначен для случаев, когда стандартные отказы базовой модели нежелательны. Это плотная модель на 12 млрд параметров с контекстом до 256K токенов. Она поддерживает ввод изображений через отдельный vision-проектор mmproj, поэтому может использоваться в мультимодальных сценариях. Доступна в формате GGUF с квантизацией Q4_K_M размером около 6,9 ГБ; автор считает этот вариант оптимальным благодаря обучению Gemma 4 с учетом 4-битной квантизации. Для ускорения генерации поставляется MTP-голова для speculative decoding, которая в llama.cpp, по заявлению автора, дает примерно 60% прироста скорости без изменения проверяемого результата. Модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-рантаймами. Среди ограничений — заявленное ускорение MTP протестировано только в llama.cpp, а при использовании LM Studio автор наблюдал возможные сбои в режиме tensor-split на нескольких GPU; рекомендуется использовать один GPU или альтернативное распределение слоев. Заявление об отсутствии отказов основано на тестах автора и не исключает отдельных отказов в пограничных случаях. Лицензия указана как Gemma; конкретные условия следует уточнять в лицензии семейства Gemma.

Gemma 4 26B A4B IT Heretic (FP8 Static) — офлайн-статически квантованная версия модели coder3101/gemma-4-26B-A4B-it-heretic, опубликованная в репозитории cloud19. Модель предназначена для диалоговых и мультимодальных сценариев, включая обработку текста и изображений, а также для высокопроизводительного инференса на оборудовании NVIDIA с FP8 tensor cores, например архитектур Hopper и Blackwell. Модель основана на архитектуре Gemma 4 с MoE-компонентами; заявленный размер — 26B параметров при конфигурации A4B. Квантование выполнено с помощью AutoFP8 в формате FP8 W8A8 со статическим масштабированием активаций. Для калибровки использовано 512 примеров из набора mgoin/ultrachat_2k. Визуальные слои и маршрутизаторы MoE сохранены в исходной точности bfloat16, чтобы сохранить мультимодальность и совместимость с vLLM. Указан контекст до 131072 токенов и поддержка развёртывания через vLLM версии 0.19.0 или новее. Сильные стороны модели — повышенная скорость инференса и эффективность использования NVIDIA-оборудования при сохранении разговорных возможностей, а также поддержка мультимодальности и автоматического выбора инструментов. Ограничения связаны с зависимостью от совместимого FP8-оборудования и актуальной версии vLLM; README не содержит подробных результатов оценки качества, перечня поддерживаемых языков и точных требований к видеопамяти. Модель распространяется по лицензии Apache-2.0.

Gemma-4-31B-it 4-bit W4A16 AWQ — это квантизированная версия мультимодальной instruction-tuned модели Google Gemma-4-31B-it, опубликованная ebircak. Модель предназначена для генерации текста, диалоговых приложений, программирования, вызова инструментов и обработки задач, требующих работы с текстом и изображениями. Она оптимизирована для развертывания через vLLM. Модель использует архитектуру Gemma4ForConditionalGeneration с 60 декодерными слоями и размером скрытого представления 5376. Текстовый декодер квантизирован до 4-битных асимметричных весов W4A16 с активациями FP16 или BF16, размером группы 128 и форматом compressed-tensors. Vision tower на базе SigLIP и мультимодальный проектор сохранены в BF16 и не квантизированы. Заявлено контекстное окно до 262 тысяч токенов, при этом работа с контекстом 128 тысяч токенов подтверждена. Поддерживаемые языки в README не указаны. Ключевые преимущества — существенно сниженные требования к памяти по сравнению с полноразмерной моделью, сохранение мультимодальных компонентов и поддержка длинного контекста. Для работы рекомендуется vLLM с параметром --quantization compressed-tensors; указание режима awq несовместимо с используемой схемой сериализации. Для коротких контекстов требуется около 24 ГБ VRAM, для 128K токенов — около 48 ГБ, а для производственного использования с длинным контекстом рекомендуется 48 ГБ и более. Ограничения включают зависимость от совместимых сборок vLLM и GPU, а также отсутствие в README данных о качестве, бенчмарках и влиянии квантизации на точность. Модель распространяется по лицензии Apache-2.0.

gemma-4-31B-it-Mystery-Fine-Tune-HERETIC-UNCENSORED-Thinking-GGUF — модель на базе Gemma 4 31B, дообученная автором DavidAU с использованием Unsloth и закрытых датасетов. Модель позиционируется как инструкционная и рассуждающая, с минимальными ограничениями на тематику, и выпускается в форматах GGUF с вариантами квантования Q4KS и Q6. Для запуска требуется LLAMACPP версии b8641 или новее. Модель предназначена для диалогов, генерации и продолжения художественных текстов, ролевых сценариев, программирования, анализа и других универсальных задач. Поддерживаются текстовые запросы, а благодаря добавленным mmproj-файлам также обработка изображений. Заявлены режимы instruct и thinking; в режиме thinking внутренние рассуждения оформляются специальными каналами, которые приложение должно корректно отображать. Максимальный контекст, указанный для этой модели, составляет 128K токенов. README также ссылается на возможности Gemma 4: работу с изображениями, документами, видео, функциями и многоязычными запросами; для семейства заявлена поддержка более 35 языков «из коробки». Сильными сторонами являются большой размер модели, длинный контекст, мультимодальность, генерация кода и художественного текста, а также заявленное превосходство над базовой моделью в шести из семи внутренних тестов. Ограничения включают использование закрытых датасетов, наличие нерешённых проблем конвейера и контроля качества, ограниченный набор квантований на момент публикации и возможный перевыпуск файлов после дополнительного обучения. Рекомендуемые параметры генерации: temperature 1.0, top_k 64 и top_p 0.95. Лицензия — Apache 2.0.

GLM-4.5-Air-Derestricted — диалоговая модель Arli AI, полученная модификацией GLM-4.5-Air методом Norm-Preserving Biprojected Abliteration. Изменение направлено на удаление отказов при сохранении способности исходной модели к рассуждению. По карточке каталога модель имеет архитектуру GLM4 MoE, 8,5 млрд параметров и контекст до 131 072 токенов; поддерживает диалоговый режим и работает через Transformers. Модель предназначена для генерации ответов в диалоге, рассуждений, программирования и сценариев интеллектуальных агентов, унаследованных от GLM-4.5-Air. Автор заявляет, что метод модификации сохраняет нормы весов и качество рассуждений, однако это заявление не подтверждено приведёнными в карточке результатами оценки именно этой версии. Модель распространяется по лицензии MIT; базовая GLM-4.5-Air описана как гибридная модель с режимами рассуждений и работы с инструментами.

GLM-5.2-MXFP4-Mixed-CT-AutoRound — смешанная по точности версия модели GLM-5.2 от Z.ai, подготовленная Intel AutoRound в режиме RTN и упакованная в формат Compressed Tensor. Репозиторий основан на zai-org/GLM-5.2; в метаданных указана связь finetune, однако README описывает квантование весов до MXFP4 и MXFP8. Модель предназначена для генерации текста и диалогового применения; базовая GLM-5.2 также ориентирована на программирование и длительные задачи. Репозиторий использует safetensors и библиотеку Transformers, формат совместим с vLLM и поддерживает настройку вызова инструментов. README показывает пример запуска с ограничением контекста 4096 токенов; это параметр примера запуска, а не заявленный родной предел модели. Квантование в смешанной точности уменьшает требования к хранению и вычислениям по сравнению с полной точностью, но README не приводит оценок качества или скорости. Модель может выдавать фактически неверные ответы, предвзятый, оскорбительный или непристойный контент, поэтому перед применением необходима проверка безопасности. В метаданных указана лицензия other; условия коммерческого использования следует уточнить отдельно.

GLM-5.3-Flash-NVFP4 — квантованная версия мультимодальной модели GLM-5.3-Flash, разработанной Z.ai. Данный вариант подготовлен сообществом пользователем vcruz305 на основе zai-org/GLM-5.3-Flash-BF16 с использованием NVIDIA ModelOpt NVFP4. Модель предназначена для генерации текста, работы с мультимодальными данными, программирования и агентских сценариев. Заявлены поддерживаемые языки английский и китайский. Модель имеет архитектуру Mixture-of-Experts с 320 млрд общих и 18 млрд активных параметров, сочетает разреженное и линейное внимание и использует Manifold-Constrained Hyper-Connections. Эксперты слоёв 3–44 представлены в формате NVFP4, а слой MTP/NextN сохраняет точность BF16. Это снижает требования к памяти и стоимость инференса, сохраняя возможности исходной модели, однако качество и производительность именно этой квантованной сборки отдельно не подтверждены: приведённые в README результаты относятся к официальной версии Z.ai. Для локального развёртывания указана совместимость с SGLang, vLLM, TokenSpeed и KTransformers. Лицензия — MIT.

Jantrit-7B — языковая модель на архитектуре Mistral, созданная автором репозитория с помощью LazyMergekit путём слияния OpenHermes-2.5-Mistral-7B и Dolphin-2.6-Mistral-7B методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; заявленная длина контекста — 32 768 токенов. Модель принимает текст и генерирует текст. Базовые модели предназначены для общения, генерации текста и помощи с кодом, однако README не приводит отдельной оценки качества Jantrit-7B. Сведения о лицензии в предоставленных данных отсутствуют.

VikramPal/LFM2.5-8B-A1B-text2sql-DynQuant-4bit — это дообученная и квантованная версия модели LiquidAI/LFM2.5-8B-A1B. Модель дообучалась методом LoRA на 49 905 диалогах для преобразования естественно-языковых запросов в SQL, а затем была сжата методом DynQuant с использованием 4-битного представления и переменной разрядности по модулям. Размер модели на диске составляет около 4,096 ГиБ, в ней примерно 8,47 млрд параметров; для загрузки требуются transformers и установленный пакет dynquant. Модель предназначена для задач text-to-SQL: генерации SQL-запросов по описанию задачи и схеме базы данных. На отложенной выборке из 12 000 задач показатель совпадения результата выполнения запроса составил 82,84%. Для наборов данных WikiSQL и Gretel показатели составили соответственно 87,36% и 69,67%. Модель относится к текстовой модальности; поддерживаемые языки и размер контекстного окна в карточке не указаны. К сильным сторонам относятся существенное уменьшение занимаемого объёма по сравнению с представлением bf16 и более высокий результат среди сопоставленных 4-битных вариантов GPTQ и AWQ на данной оценке. При этом заявленные результаты относятся только к text-to-SQL и измерялись в специальном вычислительном представлении bf16, а не непосредственно на упакованном файле модели. В карточке также не приведены измерения скорости декодирования или пикового потребления VRAM, поэтому преимущества по производительности не подтверждены. Лицензия обозначена как other; применяются условия базовой модели LiquidAI/LFM2.5-8B-A1B.

Ling-flash-base-2.0 — базовая языковая модель семейства Ling 2.0, разработанная командой inclusionAI. Это модель типа Mixture of Experts на архитектуре Bailing MoE; в карточке указано 5,5 млрд параметров, а README для семейства Ling-flash-2.0 приводит 100 млрд общих и 6,1 млрд активируемых параметров. Репозиторий рассчитан на генерацию текста и служит основой для дальнейшей настройки; семейство ориентировано на рассуждения, математические задачи, программирование и разработку интерфейсов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим. Метаданные указывают контекст 32 768 токенов; README семейства сообщает о расширении окна до 128 тысяч токенов с YaRN. Доступны веса в формате Safetensors, для работы описана поддержка Transformers и подготовка интеграций с vLLM и SGLang. Лицензия — MIT. README приводит результаты семейства Ling-flash-2.0 на тестах рассуждений, математики, кода и творческого письма, однако это описание относится к Ling-flash-2.0 и не подтверждает отдельно такие показатели для базового чекпойнта. Для длинного контекста через YaRN и некоторых сценариев инференса могут потребоваться дополнительные настройки или патчи.

LinguaForge-BestModel-v2 — языковая модель семейства Llama, представленная пользователем dusersad12. Она предназначена для генерации текста и диалогов, решения математических и логических задач, программирования и работы в роли помощника. В README заявлены улучшения рассуждений после постобучения, снижение галлюцинаций и поддержка вызова функций; приведены результаты бенчмарков, но подробности методики и независимая проверка не описаны. Модель содержит 1,3 млрд параметров, использует архитектуру LlamaForCausalLM и доступна в формате PyTorch через Transformers. README предлагает шаблон системного промпта для чат-сценариев, а также шаблоны запросов с файлами и результатами веб-поиска. Лицензия — Apache-2.0. Карточка не сообщает контекстное окно и явно поддерживаемые естественные языки.

Lion-Lamarck-v.1.0.9 — диалоговая языковая модель на 14 млрд параметров, созданная nlpguy слиянием предварительно обученных моделей с помощью mergekit и метода SCE. В качестве базовой использована sometimesanotion/Lamarck-14B-v0.7; в слияние также вошли DeepSeek-R1-Distill-Qwen-14B, Qwenvergence-14B-v10 и SuperNova-Medius. Модель построена на архитектуре Qwen2 и распространяется в формате Safetensors. Модель предназначена для генерации текста и диалогов, а интерфейс поддерживает вызов инструментов. Контекстное окно составляет до 131 072 токенов. Базовая модель DeepSeek-R1-Distill-Qwen ориентирована на рассуждения, включая математические задачи и программирование; эти сценарии могут быть полезны и для Lion-Lamarck, однако карточка не приводит отдельных оценок качества этой сборки. Модель принимает текст и генерирует текст. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверять на странице репозитория Hugging Face.

QuantFactory/Llama-3.1-8B-Instruct-Fei-v1-Uncensored-GGUF — это квантизированная версия модели Llama-3.1-8B-Instruct-Fei-v1-Uncensored, созданная с использованием llama.cpp. Базовая модель разработана на основе Llama 3.1 от Meta, а исходную модификацию подготовил пользователь aifeifei799. Модель предназначена для генерации текста, диалоговых помощников и других задач обработки естественного языка, включая работу с кодом. Это текстовая авторегрессионная модель с оптимизированной архитектурой Transformer и Grouped-Query Attention (GQA), содержащая 8B параметров. Она поддерживает ввод текста и генерирует текст или код, имеет контекст до 128k токенов и рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Квантизация в формате GGUF предназначена для более эффективного запуска, в том числе через llama.cpp, однако README не указывает конкретный тип квантизации, требования к памяти или характеристики производительности. Версия обозначена как uncensored, поэтому её поведение в части отказов и защитных ограничений может отличаться от стандартной instruction-tuned модели Meta; ответы по-прежнему могут быть неточными или небезопасными. Использование регулируется кастомной коммерческой лицензией Llama 3.1 Community License и связанными ограничениями Acceptable Use Policy.

PlumCode — слитая языковая модель, созданная автором репозитория sequelbox с помощью mergekit на основе Meta Llama 3.1 8B Instruct и моделей Llama3.1-8B-ShiningValiant2 и Llama3.1-8B-Enigma. Используется архитектура LlamaForCausalLM с плотной сетью примерно на 7,5 млрд параметров; веса опубликованы в формате safetensors. Контекстное окно составляет 131 072 токена. Модель предназначена для генерации текста и диалогов по инструкциям, включая помощь с кодом и техническими темами. В тегах указаны Python, информатика, естественные науки и инженерия; карточка не подтверждает отдельные специализированные возможности сверх генерации текста. Лицензия — llama3.1. README приводит результаты Open LLM Leaderboard, но не содержит полного набора оценок.

brittlewis12/Llama-3.1-Tulu-3.1-8B-GGUF — это квантизированная версия языковой модели Tülu 3.1 8B, разработанной Allen Institute for AI (AI2) на базе Llama 3.1. Модель предназначена для генерации текста и следования инструкциям в диалоговых и прикладных сценариях, включая общение, решение математических задач, ответы на вопросы, выполнение заданий с ограничениями и генерацию кода. Указан английский язык. Модель использует архитектуру Llama и содержит около 8 миллиардов параметров. Она распространяется в формате GGUF для запуска с совместимыми инструментами, включая llama.cpp, в том числе локально на устройствах. В версии Tülu 3.1 был улучшен финальный этап обучения с переходом от PPO к GRPO без reward model и дополнительной настройкой гиперпараметров. В README не указан размер контекстного окна и не описаны конкретные схемы квантизации представленных файлов. Сильными сторонами модели являются следование инструкциям, математические рассуждения, выполнение заданий с формальными ограничениями и ответы на вопросы; согласно приведённым оценкам, особенно высокие результаты показаны в GSM8K, IFEval, DROP и BigBenchHard. Ограничениями являются ориентация преимущественно на английский язык, меньший размер по сравнению с крупными моделями и возможные потери качества, связанные с квантизацией. Модель распространяется по лицензии llama3.1.