II.2Создание и понимание программного кода

Qwen3.6-35B-A3B-MXFP8-CRACK-MTP — мультимодальная модель dealignai на базе Qwen/Qwen3.6-35B-A3B, подготовленная для запуска через MLX на компьютерах Apple с Apple Silicon. Это доработанная и квантованная версия с архитектурой MoE и гибридом SSM и полного внимания; в README указаны 35 млрд параметров, 40 слоёв и 10 активных экспертов. Модель принимает текст и изображения, поддерживает понимание видео и генерирует текст в диалоге; также предоставляет интерфейс вызова инструментов. По заявлению автора, CRACK удаляет поведение отказа на уровне весов, а сохранённая голова MTP позволяет ускорять генерацию спекулятивным декодированием d3 примерно в 1,5 раза в совместимой среде vMLX. Автор приводит результаты HarmBench-320 99,4% и MMLU 84,6%; это заявленные оценки, а не независимая гарантия качества. Предназначена для диалогов, анализа изображений и видео, рассуждений и исследовательских сценариев, включая авторизованное тестирование безопасности. Распространяется по лицензии Apache-2.0. Версия описана как лишённая отказов и потому может выполнять запросы из разных категорий; пользователь отвечает за применение модели. Для видео и ускорения MTP требуется совместимый рантайм, а README рекомендует vMLX.

TheCluster/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS — модель семейства Qwen3.8 с 27 млрд параметров, опубликованная TheCluster. Она преобразована в формат MLX из KridgeDookie/Qwen3.8-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS с использованием mlx-vlm 0.6.13. По метаданным модель предназначена для сценариев image-text-to-text и поддерживает работу с текстом и изображениями в совместимых фреймворках. Модель использует смешанное квантование: большинство тензоров представлены в 8-битном аффинном формате с размером группы 32, а отдельные важные тензоры сохранены в bf16. Итоговая точность составляет 9,450 бит на вес, что снижает требования к памяти по сравнению с полноразмерной моделью, но может ограничивать качество относительно исходной версии. Заявлена поддержка множества языков, включая английский, китайский, русский, испанский, французский, немецкий, японский, корейский, арабский, украинский и другие; размер контекста в README не указан. Модель ориентирована на универсальные задачи генерации и анализа с заявленным режимом без ограничений содержательного характера. По умолчанию reasoning_effort установлен в low, чтобы избегать избыточного рассуждения. Для режима рассуждений рекомендуются temperature 1.0, top_p 0.95 и top_k 20, а для instruct-режима — temperature 0.7, top_p 0.80, top_k 20 и presence_penalty 1.5. Повышение presence_penalty может уменьшать повторения, но иногда приводит к смешению языков и снижению качества. Лицензия — Apache-2.0.

amd/Qwen3.8-27B-Quark-AWQ-MXFP4 — квантизированная версия мультимодальной модели Qwen3.8-27B, подготовленная с использованием AMD Quark и алгоритма AWQ (Activation-aware Weight Quantization). Модель предназначена для задач генерации текста и обработки изображений с текстом; в карточке указано, что она использует image-text-to-text pipeline. Языковая часть основана на Qwen3.8-27B в формате BF16, а vision tower сохранена без квантизации в BF16. Веса языкового декодера квантизированы в MXFP4 по спецификации OCP microscaling FP4 с размером группы 32 и общей шкалой E8M0; активации используют динамическую MXFP4-квантизацию, рассчитываемую во время выполнения для каждого блока. Квантизация выполнена по 128 образцам последовательностей длиной 512 из датасета pileval. Vision-компоненты не квантизированы, поэтому визуальная подсистема сохраняет исходный формат BF16. В README не указаны точные поддерживаемые языки и максимальная длина контекста; пример запуска задаёт ограничение 16384 токена. На GSM8K в режиме рассуждений модель показала 94,996% по flexible-extract и 95,30% по strict-match против 93,33% у базовой BF16-модели; в нережиме рассуждений результаты составили 89,92% и 89,76% против 90,67% и 89,76% соответственно. Ключевое преимущество — существенное снижение точности представления языковой части при сохранении качества, а также совместимость с запуском через vLLM. Ограничения включают зависимость от поддержки MXFP4, AMD Quark и соответствующей инфраструктуры, а также отсутствие подробных результатов по другим задачам. Модель распространяется по лицензии Apache-2.0; модификации принадлежат Advanced Micro Devices, Inc.

QwenMosaic-7B — объединённая языковая модель, созданная bunnycore методом линейного слияния через mergekit. В неё вошли AIDC-AI/Marco-o1, fblgit/cybertron-v4-qw7B-UNAMGS, rombodawg/Rombos-LLM-V2.5-Qwen-7b и Qwen/Qwen2.5-7B-Instruct с адаптером bunnycore/Qwen-2.1-7b-Persona-lora_model. Это плотная причинная модель семейства Qwen2 на 7,1 млрд параметров; она распространяется в формате safetensors и работает через Transformers. Модель предназначена для диалогов и генерации текста, включая ответы на инструкции. Контекст составляет до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: среднее 25,31, IFEval 58,19 и BBH 36,75; эти значения не гарантируют качество в конкретном сценарии. Лицензия в предоставленных данных не указана.

Seed-OSS-36B-Base-woSyn — базовая большая языковая модель команды ByteDance Seed, выпущенная в августе 2025 года. Это версия без синтетических инструкционных данных в предобучении, предназначенная как основа для исследований и создания специализированных моделей. Модель имеет плотную причинно-авторегрессионную архитектуру с RoPE, GQA, RMSNorm и SwiGLU; в метаданных указано 31,7 млрд параметров. Она поддерживает контекст до 524 288 токенов и рассчитана на международное применение. Модель подходит для генерации текста, многошаговых рассуждений и длинных контекстов, а также может служить основой для разработок с агентными сценариями. В карточке описана возможность гибко задавать бюджет рассуждений для семейства Seed-OSS. Модель распространяется по лицензии Apache-2.0. Языки и подробные ограничения именно этой версии в предоставленных данных не перечислены.

StrangeMerges_42-7B-dare_ties — объединённая языковая модель на архитектуре Mistral, созданная Gille с помощью LazyMergekit. Веса объединяют rwitz/experiment26-truthy-iter-0, Kukedlc/Neural4gsm8k и Gille/StrangeMerges_30-7B-slerp методом dare_ties; в репозитории указаны веса Safetensors в формате bfloat16. Модель предназначена для генерации текста и может применяться для диалоговых ответов и решения задач на рассуждение, включая математические вопросы. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Указана лицензия Apache-2.0.

StructuredThinker — объединённая чат-модель на основе Qwen2.5-3B-Instruct, созданная автором Ahdoot с помощью mergekit и метода DARE TIES. В объединение вошли PowerInfer/SmallThinker-3B-Preview и prithivMLmods/QwQ-LCoT-3B-Instruct; в конфигурации указана точность bfloat16. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Её можно использовать для получения структурированных ответов и пошаговых рассуждений. Архитектура — плотная Qwen2ForCausalLM, размер — 3,1 млрд параметров, контекст — до 32 768 токенов. Доступна для использования через библиотеку Transformers; интерфейс модели поддерживает чат и вызов инструментов. В карточке не указаны специальные домены и целевые языки модели. Базовая Qwen2.5-3B-Instruct описана как многоязычная, однако языки именно этой объединённой модели отдельно не перечислены. Лицензия в предоставленных данных не указана.

ZEUS 8B V22 — объединённая языковая модель, созданная с помощью mergekit методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в объединении также участвовали Llama-3.1-8B-Lexi-Uncensored-V2, Llama-3.1-Storm-8B, Llama-3.1-SuperNova-Lite и Llama-3.1-SauerkrautLM-8b-Instruct. Модель построена на архитектуре Llama и содержит 7,5 млрд параметров. Модель предназначена для диалогов и генерации текста. Поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH. Для использования модели требуется соблюдать лицензию llama3.1. Подробности о языках и качестве на конкретных задачах в доступной карточке не приведены.

ZEUS 8B V27 — языковая модель, созданная автором репозитория T145 слиянием нескольких моделей через mergekit и метод DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли модели Skywork, HuatuoGPT, SuperNova Lite, SauerkrautLM, Lexi Uncensored и Storm. Это плотная авторегрессионная архитектура Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают контекст до 131 072 токенов и интерфейс для вызова инструментов. Модель подходит для диалоговых приложений и генерации ответов по инструкциям. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; эти оценки не гарантируют качество на конкретных пользовательских задачах. Языки, на которых модель специально оптимизирована, в предоставленных данных не обозначены. Лицензия в предоставленной карточке и метаданных отсутствует, поэтому условия использования здесь определить нельзя.

Citaman/command-r-26-layer — слитая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-27-layer. В карточке указано 23,5 млрд параметров, формат safetensors и контекстное окно 8192 токена. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Данных о поддерживаемых естественных языках нет, поэтому языковую специализацию определить нельзя. Репозиторий использует лицензию, унаследованную от базовой модели, но сведения о её условиях в предоставленных данных отсутствуют.

Eidolon-v3-14B — разговорная текстовая модель на архитектуре Qwen2, разработанная Lambent и дообученная на базе Lambent/ProtoEidolon-v2.2.4-14B с использованием TRL. Модель предназначена для диалогов, следования инструкциям и генерации продолжений текста; в карточке также указана совместимость с интерфейсом вызова инструментов. Модель содержит 14 млрд параметров и поддерживает контекст до 131 072 токенов. В обучении использовались SFT и DPO, в том числе данные предпочтений и текстовые корпуса; предыдущие версии в цепочке разработки включали слияния моделей. Карточка приводит результаты EQ-Bench, IFEval и GPQA, но не даёт полного независимого сравнения. Автор отмечает возможные проблемы с настроенным шаблоном чата и допускает его возврат к предыдущей версии. В метаданных указана пометка not-for-all-audiences, поэтому модель может выдавать нежелательный или токсичный контент. Лицензия в предоставленных данных не указана.

EXAONE-3.5-2.4B-Instruct-GGUF — двуязычная инструкционно дообученная языковая модель, разработанная LG AI Research. Она предназначена для генерации текста и диалоговых сценариев на английском и корейском языках, включая запуск на небольших устройствах и системах с ограниченными ресурсами. Модель представлена в формате GGUF и рассчитана на инференс с использованием llama.cpp, а также может применяться через TensorRT-LLM, vLLM, SGLang и Ollama. Модель содержит 2,14 млрд параметров без учёта эмбеддингов, 30 слоёв и использует Grouped-Query Attention с 32 Q-heads и 8 KV-heads. Размер словаря составляет 102 400 токенов, максимальная длина контекста — 32 768 токенов. Доступны варианты квантования Q8_0, Q6_0, Q5_K_M, Q4_K_M и IQ4_XS, а также веса BF16. К сильным сторонам относятся компактный размер, поддержка длинного контекста и оптимизация для ресурсоограниченного развёртывания. Модель может генерировать некорректные, устаревшие, предвзятые или потенциально неподходящие ответы и не гарантирует отражение актуальной информации или позиции LG AI Research. Лицензия — EXAONE AI Model License Agreement 1.1 - NC; условия следует уточнять в прилагаемом файле LICENSE.

ExpertRamonda-7Bx2_MoE — диалоговая языковая модель на архитектуре Mixtral MoE, созданная mayacinka с помощью LazyMergekit путём объединения mlabonne/AlphaMonarch-7B и bardsai/jaskier-7b-dpo-v5.6. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоге; заявленная длина контекста — 32 768 токенов. Модель подходит для общения, выполнения инструкций, ответов на вопросы и рассуждений в текстовом формате. В README приведены результаты Open LLM Leaderboard и MMLU, но они не гарантируют качество на конкретных пользовательских задачах. Файлы представлены в формате safetensors. Лицензия — Apache-2.0.

GLM-4-9B-Chat-1M-GGUF — квантованная GGUF-версия языковой чат-модели GLM-4-9B-Chat-1M, разработанной THUDM. Квантование выполнено bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые средства локального запуска. Модель ориентирована на китайский и английский языки и поддерживает текстовый ввод и вывод. В названии указано окно контекста 1M; размер базовой модели — около 9 млрд параметров. Доступны варианты от F16 до различных уровней квантования Q2–Q8 и IQ, поэтому можно выбирать между качеством, скоростью и требованиями к памяти. Рекомендуемые варианты обеспечивают высокое или хорошее качество, а компактные варианты подходят для систем с ограниченным объёмом RAM, но дают более заметное снижение качества. Это локальная версия модели, что позволяет запускать её без обращения к облачному API, однако производительность зависит от используемого оборудования и реализации inference. README не содержит результатов тестирования, поэтому точные сильные стороны по сравнению с другими моделями оценить нельзя. Для работы требуется соблюдать формат промпта с токенами [gMASK], <sop>, <|system|>, <|user|> и <|assistant|>. Лицензия указана как glm-4; подробные условия доступны в лицензии исходной модели THUDM.

Это GGUF-квантизованная версия мультимодальной инструкционной модели google/gemma-4-26B-A4B-it, разработанной Google и подготовленной в форматах GGUF автором bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ-квантизаций. Базовая модель имеет размер 26B и обозначение A4B, однако README не раскрывает подробности её архитектуры. Модель предназначена для диалогового применения и обработки задач, соответствующих режиму image-text-to-text, то есть может работать с текстом и изображениями. Она подходит для локального запуска через llama.cpp, LM Studio, Jan AI, KoboldCpp, Text Generation Web UI и другие совместимые инструменты. В README приведён специальный шаблон запросов и отмечены обновления шаблона чата и исправления совместимости. Сильная сторона сборки — широкий выбор уровней квантизации, позволяющий выбирать между качеством и требованиями к памяти: наиболее качественными названы Q6_K_L, Q6_K, Q5 и Q4 варианты, а Q4_K_M рекомендован как типичный компромисс. Более компактные варианты экономят память, но могут заметно уступать по качеству. Языки, размер контекстного окна, точные характеристики мультимодальности и требования к оборудованию в README не указаны. Распространение осуществляется по лицензии Apache-2.0; для самой базовой модели также указана отдельная лицензия Gemma 4.

IntervitensInc опубликовала преобразованную версию InternLM2.5-20B с архитектурой Llama для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors; размер модели составляет 19,3 млрд параметров. В README говорится, что конвертация и ручная правка токенизатора должны сохранять поведение исходной модели при температуре 0, однако это проверено лишь на небольших тестах и не подтверждено всесторонне. Модель предназначена для диалоговых сценариев, рассуждений и работы с длинным контекстом. README описывает исходную InternLM2.5 как модель с заявленной поддержкой контекста до 1 млн токенов, а метаданные этого репозитория указывают нативный контекст 262 144 токена; для этой сборки следует ориентироваться на значение из метаданных. В README приведены результаты оценки исходной модели на MMLU, CMMLU и BBH, но они не являются отдельной оценкой конвертированной версии. В README перечислены китайский и английский наборы оценки, что указывает на релевантность китайского и английского языков; метаданные не задают языковые коды. Модель может генерировать предвзятые, дискриминационные или иные нежелательные ответы. Указана лицензия Apache-2.0 для кода; для весов README сообщает об открытом доступе для академических исследований и необходимости запросить бесплатное коммерческое разрешение.

KeefeBuild/Keefe-Discere-v3.1 — дообученная KeefeBuild языковая модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. Веса сохранены в формате safetensors. По карточке, модель обучали с использованием Unsloth и библиотеки TRL от Hugging Face. Она дообучена от KeefeBuild/Keefe-Discere-v3.0-Final и распространяется по лицензии Apache-2.0.

LFM2.5-1.2B-Thinking-MLX-bf16 — версия модели рассуждений Liquid AI, подготовленная командой LM Studio Community на базе LFM2.5-1.2B-Thinking. Это плотная авторегрессионная модель семейства LFM2 с примерно 1,5 млрд параметров, представленная в исходной точности bfloat16 в формате safetensors и адаптированная для запуска на Apple Silicon через MLX. Модель предназначена для генерации текста в диалогах, задач рассуждения и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 128 000 токенов. В карточке указаны английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Компактный размер и оптимизация MLX подходят для локального запуска на устройствах Apple Silicon. Репозиторий указывает лицензию «other», поэтому конкретные условия использования следует сверять с лицензией исходной модели.

Sakalti/light-7b-beta — объединённая языковая модель на архитектуре Qwen2, созданная автором репозитория методом TIES с помощью mergekit на основе Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоги; заявленный контекст — до 131 072 токенов. Модель принимает текст и выдаёт текст. Её можно использовать для диалоговых ассистентов, генерации и продолжения текста, а также структурированных ответов. В метаданных указаны интерфейс вызова инструментов и лицензия Apache-2.0. Данных о конкретной специализации, языках или результатах оценки качества в карточке нет.

RedHatAI/Llama-3.2-1B-Instruct-FP8 — квантизированная FP8-версия Meta Llama 3.2 1B Instruct, разработанная Neural Magic. Это текстовая autoregressive-модель для генерации текста и диалоговых сценариев, включая ассистентские чаты, с поддержкой коммерческого и исследовательского использования на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Модель использует архитектуру Llama 3 и принимает текст на входе, генерируя текст на выходе. Веса и активации линейных операторов в трансформерных блоках квантизированы в FP8; размер модели — 1 млрд параметров. По сравнению с исходной FP16-моделью это примерно вдвое снижает требования к GPU-памяти и размеру на диске и может примерно вдвое увеличить пропускную способность матричных вычислений. В README также указана поддержка контекста до 8192 токенов при развертывании с vLLM. К сильным сторонам относятся эффективное развертывание и небольшая потеря качества: на MMLU, ARC-Challenge, GSM-8K, Hellaswag, Winogrande и TruthfulQA результаты находятся в пределах 1% от неквантизированной версии. Для использования требуется совместимое окружение, например backend vLLM. Ограничения включают меньший размер и, соответственно, более ограниченные возможности по сравнению с крупными языковыми моделями; конкретные ограничения безопасности и качества в README не раскрыты. Лицензия указана как Llama3.2; использование не должно нарушать применимое законодательство и экспортные или торговые ограничения.

MeliodasPercival_01_YamExperiment28 — объединённая автором карточки модель на архитектуре Mistral с 7,1 млрд параметров, созданная на основе automerger/MeliodasPercival_01-7B и automerger/YamExperiment28-7B. Она предназначена для генерации текста и диалогов, а контекст поддерживает до 32 768 токенов. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка не описывает специальные предметные области или ограничения качества; применимость следует оценивать на задачах пользователя.

Memgpt-slerp-7b-4 — диалоговая языковая модель, созданная объединением методом SLERP моделей starsnatched/MemGPT и liminerity/Memgpt-slerp-7b-3 с помощью LazyMergekit. В основе лежит архитектура Mistral; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста и может использоваться в чат-ботах и сценариях, где требуется вести беседу с учётом длинного контекста. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Mistral-7B-Erebus-v3-Instruct-32k — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная с помощью mergekit методом DARE TIES. В качестве основы использована alpindale/Mistral-7B-v0.2-hf, объединённая с mistralai/Mistral-7B-Instruct-v0.2 и KoboldAI/Mistral-7B-Erebus-v3. Модель предназначена для генерации текста и ответов на инструкции; поддерживает контекст до 32 768 токенов. Модель работает с текстом и использует библиотеку Transformers; веса доступны в формате safetensors. Карточка не сообщает о специализированной области применения или поддерживаемых языках. Объединение включает Erebus-v3, однако карточка не описывает его влияние на поведение итоговой модели. Лицензия в предоставленных данных не указана.

Sakalti/model-3 — языковая модель Qwen2, созданная слиянием моделей через mergekit методом TIES. В слиянии использованы Qwen/Qwen2.5-7B и Qwen/Qwen2.5-7B-Instruct; итоговая модель имеет около 7,1 млрд параметров, архитектуру Qwen2ForCausalLM и веса в формате Safetensors с точностью bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и формирует текстовые ответы; заявленная длина контекста — 131 072 токена. В метаданных также отмечен интерфейс вызова инструментов. Данные README содержат результаты оценки на IFEval и BBH, но не описывают специальные предметные области или подтверждённые преимущества модели. Лицензия в предоставленных данных не указана.

MoEstral-2x7B — диалоговая языковая модель на архитектуре Mixtral/MoE, опубликованная paulilioaica. Она предназначена для генерации текста и ответов на инструкции, в том числе для задач рассуждения, работы с числами и абстрактными понятиями. В карточке описано объединение через mergekit двух копий mistralai/Mistral-7B-Instruct-v0.2 с маршрутизацией экспертов по тематическим подсказкам; метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. README приводит результаты на отдельных бенчмарках, но не описывает методику или полный набор оценок, поэтому эти цифры не позволяют судить о качестве во всех сценариях.

MoNeuTrix-7B-v1 — слитая языковая модель CultriX на архитектуре Mistral с 7,1 млрд параметров. Она создана методом DARE-TIES с помощью LazyMergekit на основе нескольких моделей, включая Kukedlc/NeuralMaxime-7B-slerp, mlabonne/Monarch-7B и eren23/ogno-monarch-jaskier-merge-7b; конфигурация также указывает CultriX/MonaTrix-v4 как базовую модель слияния. Модель предназначена для генерации текста и общих языковых задач, а контекст поддерживает до 32 768 токенов. Репозиторий содержит веса в формате safetensors, в конфигурации слияния указан bfloat16. Лицензия — Apache-2.0.

Neuron-V1-Distill-Qwen2-14B-i1-GGUF — это GGUF-квантизация 14-миллиардной инструкционной модели Neuron-V1-14B-Instruct, разработанной Neura-Tech-AI и подготовленной квантизатором mradermacher. Модель предназначена для генерации текста и работы с инструкциями, а также может использоваться в локальных приложениях и средах, поддерживающих формат GGUF. В карточке указаны поддерживаемые языки английский и хинди. Модель относится к семейству Qwen2 и рассчитана на текстовый ввод и вывод; сведения о мультимодальности и размере контекстного окна отсутствуют. Доступно множество вариантов квантизации i1, отличающихся размером, скоростью и качеством. Среди них i1-Q4_K_M обозначен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества. Некоторые варианты с низкой разрядностью имеют заметно сниженное качество. Модель распространяется по лицензии Apache-2.0. Для запуска требуется совместимое программное обеспечение, поддерживающее GGUF; конкретные требования к оборудованию и рекомендуемый объём оперативной памяти в карточке не указаны.

bartowski/p-e-w_Llama-3.1-8B-Instruct-heretic-GGUF — это квантизированная версия инструкционной модели Llama 3.1 с примерно 8 млрд параметров, опубликованная в формате GGUF. Базовая модель разработана Meta, а квантизацию выполнил bartowski; обозначение heretic указывает на вариант модели, но README не содержит подробностей о внесённых изменениях. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы и другие задачи обработки естественного языка. В метаданных указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Поддерживается только текстовая модальность. Сведения о конкретном методе и уровне квантизации, длине контекста, требованиях к памяти и результатах тестирования в README отсутствуют. Ключевое преимущество модели — сочетание инструкционного обучения, относительно компактного размера и формата GGUF, удобного для локального запуска совместимыми средствами. Ограничения включают возможное снижение качества из-за квантизации, отсутствие подтверждённых характеристик варианта heretic и неполную информацию о производительности. Использование регулируется Llama 3.1 Community License от Meta с требованиями к атрибуции, маркировке «Built with Llama», соблюдению Acceptable Use Policy и специальными условиями для распространения; перед применением необходимо проверить полный текст лицензии.

shamwowzer/prototype-128x02 — объединённая языковая модель, созданная с помощью mergekit. В README указано, что в слиянии Multi-SLERP участвовали /workspace/modeler/Behemoth и /workspace/mistral-text-only с весами 0,5; базовой моделью при сборке выбрана /workspace/modeler/Behemoth. Метаданные относят архитектуру к семейству Mistral и классу MistralForCausalLM; модель содержит 123,4 млрд параметров и принимает контекст до 262 144 токенов. Модель предназначена для генерации текста и диалогового общения. Репозиторий содержит веса safetensors; для работы используется библиотека Transformers. Лицензия в предоставленных данных не указана.

Qwen2-NextGen-8b — текстовая генеративная модель, созданная powermove72 объединением моделей newsbang/Homer-v1.0-Qwen2.5-7B и AIDC-AI/Marco-o1 с помощью LazyMergekit. Она предназначена для диалогов и генерации текста; архитектура — плотная Qwen2ForCausalLM, размер — 8 млрд параметров, контекст — до 32 768 токенов. Объединение выполнено методом passthrough с выбором диапазонов слоёв из каждой модели, объединённым токенизатором и весами float16. Модель можно применять для ответов на вопросы, выполнения текстовых инструкций и других задач генерации текста в чат-сценариях. Карточка не уточняет языковой охват и отдельные специализированные области. Репозиторий распространяет веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.