II.2Создание и понимание программного кода

M7Yamshadowexperiment28_T3qm7xStrangemerges_32 — объединённая текстовая модель, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/T3qm7xStrangemerges_32-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжение текста. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. В метаданных и README не указаны языковая специализация или дополнительные возможности. Лицензия — Apache-2.0.

Mahou-1.5-mistral-nemo-12B-GGUF — это набор квантованных моделей для генерации текста, созданный на основе модели flammenai/Mahou-1.5-mistral-nemo-12B. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска через совместимые инструменты, включая LM Studio, и поддерживает диалоговый формат с системными и пользовательскими сообщениями. Доступны варианты в формате GGUF с разными уровнями точности и размером файлов — от IQ3 и Q2 до Q8_0, а также полноразмерная версия F16. Размеры файлов варьируются примерно от 5,5 до 24,5 ГБ. В README рекомендуются варианты Q4–Q6 как компромисс между качеством и требованиями к памяти; версии с более низкой точностью подходят для систем с ограниченным объёмом RAM, но дают более низкое качество. Отдельные варианты Q4_0 оптимизированы для ARM и требуют поддержки соответствующих инструкций процессора; они не рекомендуются для Mac и Windows. README не содержит сведений о языках, размере контекста, исходной архитектуре, мультимодальности, результатах тестирования или лицензии. Поэтому сильные стороны модели можно оценивать только по заявленным характеристикам квантования: широкому выбору размеров и возможности локального использования. Условия лицензирования в предоставленных данных не указаны.

Menlo_Lucy-GGUF — это набор GGUF-квантизованных версий языковой модели Lucy, разработанной Menlo и опубликованной в формате, совместимом с llama.cpp. Квантизацию выполнил bartowski с использованием llama.cpp b5924 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. В README не указаны точные архитектура исходной модели, число параметров, поддерживаемые языки, размер контекста и дополнительные модальности, поэтому эти характеристики нельзя подтвердить. Доступны варианты от BF16 размером 3,45 ГБ до низкобитных квантов; наиболее рекомендуемыми названы Q6_K_L, Q6_K, Q5_K_L, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и IQ4_XS. Более компактные варианты снижают требования к памяти, но могут ухудшать качество. Для некоторых квантов embedding- и output-веса хранятся в Q8_0 для повышения качества. Шаблон чата явно не задан, поэтому используется шаблон по умолчанию, который может быть некорректен. Лицензия в README не указана; условия использования следует уточнять в карточке исходной модели Menlo/Lucy.

MFANN3bv0.20.16 — слитая языковая модель семейства Phi, созданная автором репозитория с помощью mergekit. В основе слияния TIES лежит liminerity/Phigments12; также объединены netcat420/MFANN3bv0.20 и netcat420/MFANN3bv0.20.15. Модель содержит 3,5 млрд параметров и рассчитана на генерацию текста с контекстом до 32 768 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

Nex-N2.5-Pro-GGUF — это набор квантованных версий текстовой генеративной модели Nex-N2.5-Pro, разработанной nex-agi и преобразованной в формат GGUF пользователем bartowski. Квантование выполнено с использованием llama.cpp версии b10896 и imatrix. Модель предназначена для генерации текста и запуска локально через совместимые инструменты, включая llama.cpp. Модель имеет 397 млрд параметров и поддерживает только текстовый ввод. Спекулятивное декодирование не поддерживается. Доступны варианты квантования от Q8_0 до IQ1_S, размером примерно от 87,87 до 421,57 ГБ. Версии с более высокой точностью обеспечивают лучшее качество, но требуют значительно больше памяти; Q4_K_M обозначена как рекомендуемый компромисс между размером и производительностью. README не содержит сведений о языках, длине контекста, внутренней архитектуре, результатах тестирования или конкретных прикладных сценариях. Модель распространяется по лицензии Apache-2.0.

onebee-gf-dpo-v1-scale-gguf — мультимодальная модель формата GGUF, разработанная arjhinety в рамках open-source исследовательского проекта small-mind-companion. Она основана на google/gemma-4-E2B-it и дообучена методами LoRA SFT и LoRA DPO для формирования согласованной персоны компаньона. Модель предназначена для локального и встраиваемого запуска через llama.cpp на CPU или GPU, включая сценарии на устройствах без среды Python и transformers. Модель поддерживает работу с текстом и изображениями, использует архитектуру Gemma4 и имеет около 2 млрд эффективных параметров с объединённым LoRA-адаптером ранга 16. Заявленная длина контекста составляет 131 072 токена, основной язык — английский. Доступны варианты квантования от F16 до Q2_K, позволяющие выбирать компромисс между размером, скоростью и качеством. Версия Q4_K_M указана как рекомендуемый вариант: её размер составляет около 3,18 GiB, а по представленным замерам она обеспечивает более высокую скорость генерации, чем F16. Для обработки изображений требуется отдельный vision projector в формате GGUF и запуск с поддержкой шаблонов Jinja. Квантование Q2_K подтверждённо неработоспособно и не рекомендуется к использованию; оценки проводились преимущественно в среде llama.cpp, а imatrix-калибровка для этих файлов не применялась. Это исследовательский артефакт, не предназначенный для критически важных решений или медицинских, юридических и финансовых рекомендаций. Лицензия — Apache-2.0, унаследованная от базовой модели.

Ornith-1.5-35B-A3B-OptiQ-4bit-REAP-19B — квантованная модель для генерации текста, опубликованная сообществом mlx-community и предназначенная для локального запуска на устройствах Apple Silicon с использованием MLX. Это вариант базовой модели Ornith-1.5-35B-A3B-OptiQ-4bit с разреженной MoE-архитектурой: из 256 экспертов в каждом слое сохранены 128, при этом маршрутизация top-8 и число активных экспертов на токен не изменились. Модель содержит около 18,8 млрд сохранённых параметров и занимает 12,8 ГБ на диске; для запуска требуется около 14,5 ГБ памяти. Модель предназначена для локальной текстовой генерации и может использоваться через mlx-lm или сервер mlx-optiq. Эксперты отбирались методом REAP на калибровочной выборке из шести доменов, а обрезка выполнялась непосредственно в квантованном представлении без деквантизации, повторного квантования, объединения или дообучения. Благодаря этому размер модели уменьшен примерно на 42% относительно родительской версии, а активные параметры на токен и заявленная скорость работы сохранены. Отдельное полное бенчмаркирование этой версии не проводилось. По данным README, расхождение с необрезанной родительской моделью составило KL 0,331, а результаты аналогичной проверенной конфигурации показывают снижение общего Capability Score при сохранении процедурных способностей; конкретные показатели для Ornith-1.5 отдельно не приведены. Языки, размер контекстного окна и поддерживаемые модальности не указаны. Модель распространяется по лицензии Apache-2.0.

Prismatic-12b-v0.1-Experimental-1115-GGUF — набор GGUF-квантизаций 12-миллиардной экспериментальной модели Prismatic-12b-v0.1-Experimental-1115, разработанной ProdeusUnity. Квантизации подготовлены bartowski с использованием llama.cpp b4058 и метода imatrix. Модель относится к задачам генерации текста и предназначена для локального запуска, в частности через LM Studio. Доступны варианты от исходных весов F16 размером 24,50 ГБ до более компактных квантизаций Q3 и IQ4 размером примерно от 6,56 ГБ. Большинство вариантов используют формат K-квантизации; версии Q6_K_L, Q6_K, Q5 и Q4 позиционируются как обеспечивающие высокое или хорошее качество при снижении требований к памяти. Отдельные варианты оптимизированы для ARM и AVX, но имеют ограничения по поддерживаемым инструкциям и могут не подходить для Mac или GPU. README не содержит сведений об архитектуре базовой модели, поддерживаемых языках, модальностях, размере контекста, качестве на тестах или конкретных прикладных сценариях. Также лицензия модели не указана, поэтому условия использования следует уточнять в карточке исходной модели. Для работы рекомендуется применять указанный шаблон prompt с ролями system, user и assistant.

Eleusis-12B-GGUF — это набор квантованных версий языковой модели Eleusis-12B, разработанной PygmalionAI и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В README также указан специальный формат промпта с ролями system, user и assistant. Модель имеет 12 миллиардов параметров. Доступны варианты с точностью от F16 до Q2_K_L, что позволяет выбирать между качеством генерации, размером файла и требованиями к оперативной памяти. Наиболее качественными названы F16, Q8_0, Q6_K_L и Q6_K, а Q4_K_M описан как вариант стандартного размера для большинства сценариев. Более компактные квантования подходят для систем с ограниченной памятью, но могут заметно уступать по качеству. README не содержит сведений об архитектуре исходной модели, поддерживаемых языках, длине контекста, обучающих данных, специализации Eleusis-12B или результатах тестирования. Поэтому возможности модели следует оценивать с учётом этих ограничений. Лицензия указана как Apache-2.0; условия применения конкретных квантованных файлов также зависят от лицензии исходной модели PygmalionAI/Eleusis-12B.

Карточка модели XXsongLALA/Qwen-2.5-7B-base-RAG-RL на Hugging Face совпадает с карточкой zaddyzaddy/Qwen-Bypass-Done, поэтому описание составлено по ней. Qwen-Bypass-Done — текстовая генеративная модель семейства Qwen2 с плотной архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Репозиторий создан пользователем zaddyzaddy; в карточке README модель названа Qwen-2.5-7B-base-RAG-RL, но подробностей о разработчике и обучении нет. Модель предназначена для генерации текста и диалогового общения. Метаданные указывают контекст длиной до 32 768 токенов и интерфейс вызова инструментов. По названию README можно предположить связь с RAG и RL, однако карточка не описывает эти сценарии и не приводит подтверждающих сведений о данных, обучении или оценке. В репозитории указаны веса в формате safetensors и библиотека Transformers. Лицензия и практические ограничения не приведены, поэтому условия использования по карточке установить нельзя.

litert-community/Qwen3-14B — вариант модели Qwen3-14B, подготовленный сообществом LiteRT Community на основе чекпойнта Qwen/Qwen3-14B и оптимизированный для генерации текста на устройствах с использованием LiteRT-LM. Модель предназначена для локального запуска и интеграции в продукты, поддерживающие этот runtime, включая сценарии генерации текста на настольных GPU и других совместимых устройствах. В репозитории доступны два артефакта: вариант с поканальным INT8-квантованием весов и float32 KV-кэшем размером 14,93 ГБ, а также смешанный вариант TorchAO INT4 размером 8254,88 МиБ с контекстом 2048 токенов и плавающим KV-кэшем. В смешанной схеме линейные проекции используют блочное INT4-квантование с размером группы 32, эмбеддинги — weight-only INT8, а нормализация, операции редукции и тензоры KV-кэша остаются в формате с плавающей точкой. Указан английский язык и задача text generation; другие языки и модальности не заявлены. Сильные стороны модели — уменьшенный размер квантованного артефакта и оптимизации LiteRT-LM для локального выполнения. В тесте на AMD Radeon AI PRO R9700 через WebGPU смешанный INT4-вариант показал 481,88 токена/с на этапе prefill и 50,20 токена/с при декодировании, время до первого токена составило 0,55 с, пиковое частное потребление памяти — 3196 МБ. Эти результаты зависят от оборудования, версии runtime, квантования и условий запуска; для телефона benchmark не приведён. Лицензия — Apache-2.0.

Qwen-3.8-27B-Uncensored-GGUF — это квантизированная GGUF-версия модели Qwen-3.8-27B-Uncensored, разработанной junafinity и подготовленной к распространению mradermacher. Модель относится к семейству Qwen, имеет размер 27 млрд параметров и предназначена для задач генерации и обработки текста, а также, судя по наличию мультимодальных компонентов, для сценариев image-text-to-text с анализом изображений и текстовыми ответами. В README указан английский язык; сведения о поддерживаемых языках помимо него отсутствуют. Модель доступна в вариантах квантования от Q2_K до Q8_0 и с дополнительными мультимодальными модулями mmproj. Варианты различаются размером, требованиями к памяти и качеством: Q4_K_S и Q4_K_M обозначены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди перечисленных. Квантование упрощает локальный запуск, но может снижать точность по сравнению с полной версией; конкретные характеристики архитектуры, размер контекста и результаты тестирования не указаны. Модель помечена как uncensored и abliterated, поэтому стандартные ограничения поведения могут отличаться от обычных инструкционных моделей; это может быть полезно для менее ограниченных исследовательских и экспериментальных сценариев, но требует дополнительной проверки безопасности и качества ответов. Для мультимодальной работы необходим соответствующий mmproj-файл. Лицензия — Apache-2.0.

Qwen3-8B TMax AENV v39b, итерация 109 — чекпойнт Qwen3ForCausalLM от willamazon1 для диалоговой генерации текста и работы в многошаговых агентных сценариях. Модель инициализирована из willamazon1/qwen3-8b-tmax-sft-v3-iter353, ранее дообученной на базе Qwen/Qwen3-8B, и обучалась методом group-relative policy optimization на асинхронных траекториях взаимодействия с агентной средой. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3 и поддерживает контекст длиной до 40 960 токенов. Репозиторий содержит веса safetensors в формате bfloat16; чекпойнт получен конвертацией из Megatron-LM torch_dist в формат Hugging Face. В метаданных заявлен интерфейс вызова инструментов. Это промежуточная точка обучения на итерации 109; рядом опубликованы чекпойнты других итераций, позволяющие сравнивать динамику обучения. Качество и устойчивость именно этой итерации отдельно не охарактеризованы. Лицензия — Apache-2.0.

Qwen3-8B TMax AENV v39b, итерация 189 — языковая модель на архитектуре Qwen3 для диалоговой генерации текста и многошагового использования инструментов в агентных средах. Модель разработана автором willamazon1 и получена дообучением willamazon1/qwen3-8b-tmax-sft-v3-iter353 с помощью group-relative policy optimization на асинхронных многоходовых взаимодействиях с агентной средой. Базовая цепочка восходит к Qwen/Qwen3-8B. Модель содержит 7,6 млрд параметров, поддерживает контекст до 40 960 токенов и работает через Transformers. Чекпойнт сохранён в safetensors и имеет точность bfloat16; README сообщает о проверке весов на NaN и Inf и пробном запуске перед публикацией. Это одна из опубликованных контрольных точек обучения итераций 69–219, поэтому её поведение отражает конкретный этап обучения. Подходит для генерации ответов в диалоге и выполнения сценариев, где агенту нужно последовательно вызывать инструменты. Документация не приводит оценки качества или подробностей о поддерживаемых естественных языках. Лицензия — Apache-2.0.

Rombos-LLM-V2.6-Qwen-14b-GGUF — это набор GGUF-квантизаций языковой модели Rombos-LLM-V2.6-Qwen-14b, опубликованный и квантизированный пользователем bartowski на основе llama.cpp. Модель предназначена для генерации текста и может запускаться локально, в том числе через LM Studio. В README указан специальный шаблон промпта с ролями system, user и assistant. Доступны варианты от F16 до низкобитных Q2–Q8-квантизаций, включая Q4, Q5 и Q6 форматы. Размер файлов варьируется примерно от 6,66 до 29,55 ГБ; наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5_K и Q4_K. Квантизации выполнены с использованием imatrix и специального набора данных. Некоторые варианты оптимизированы для ARM и требуют поддержки sve или i8mm. Модель подходит для локального инференса и задач генерации текста при выборе подходящего баланса между качеством, потреблением памяти и скоростью. Сильной стороной является широкий выбор квантизаций, включая варианты для систем с ограниченным объёмом RAM. README не содержит сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре базовой модели, результатах тестирования, ограничениях применения или лицензии; условия использования следует уточнять в карточке исходной модели rombodawg/Rombos-LLM-V2.6-Qwen-14b.

Это объединённая модель генерации текста на архитектуре GPT-NeoX, созданная с помощью mergekit. В линейное слияние вошли три предварительно обученных чекпойнта с шагов 9000, 10000 и 11000; последний использовался как базовый при слиянии. Модель содержит 8,8 млрд параметров, принимает текст и рассчитана на контекст до 16 384 токенов. Модель предназначена для генерации продолжений и другого текста на основе входного запроса. В карточке не описаны специальные предметные области, поддерживаемые языки или результаты оценки качества. Файлы представлены в формате safetensors; модель загружается через Transformers. Условия лицензии в предоставленных данных не указаны.

shanchen-llama3-8B-slerp-med-262k-GGUF — это набор GGUF-квантизованных файлов базовой текстовой генеративной модели shanchen/llama3-8B-slerp-med-262k. Квантизацию выполнила команда featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется локальный запуск или выбор подходящего соотношения качества, размера и требований к ресурсам. Модель относится к семейству Llama 3 и имеет размер 8B параметров; заявлена поддержка контекста до 262 тысяч токенов, однако подробности архитектуры, языков, качества и модальностей в README не приведены. Доступны варианты Q2_K, Q3_K_S, Q3_K_M, Q3_K_L, Q4_K_S, Q4_K_M, IQ4_XS, Q5_K_S, Q5_K_M, Q6_K и Q8_0 размером примерно от 3 до 8,1 ГБ. Более компактные варианты требуют меньше памяти, а варианты с более высокой точностью обычно лучше сохраняют качество, но занимают больше места. Сильная сторона набора — широкий выбор квантизаций в распространённом формате GGUF, что упрощает подбор файла под доступные аппаратные ресурсы. Ограничения включают отсутствие в предоставленных данных результатов тестирования, подробных требований к запуску и сведений о поддерживаемых языках. Лицензия в README не указана, поэтому условия использования необходимо уточнять по исходной модели и репозиторию.

Это 8-битная SmoothQuant-производная Qwen/Qwen2.5-1.5B-Instruct от автора репозитория chris320211. Модель с плотной архитектурой Qwen2 поддерживает генерацию текста и диалоговые сценарии; в метаданных указано 1,5 млрд параметров и контекст до 32 768 токенов. Модель подходит для ответов на запросы, ведения диалога и генерации структурированного текста. В README приведено сравнение с исходным fp16-снимком на WikiText-2: perplexity квантованной версии выше (10,07 против 9,58), пропускная способность ниже (10 427,5 против 11 103,1 токена/с), а использование видеопамяти улучшено. Проверка выполнена на NVIDIA A10G. Это не готовый чекпойнт для прямой загрузки через AutoModelForCausalLM.from_pretrained: для восстановления требуется адаптер инференса и конфигурация квантования. Лицензия — MIT.

Star-Command-R-32B-v1-GGUF — набор GGUF-квантизаций базовой модели Star-Command-R-32B-v1, разработанной TheDrummer и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе в LM Studio, с использованием указанного chat prompt format. В набор входят версии от F16 до низкобитных вариантов Q3 и IQ3, размером примерно от 14 до 64,6 ГБ. Доступны разные уровни компромисса между качеством и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а некоторые Q4-варианты оптимизированы для ARM-процессоров. Архитектура, поддерживаемые языки, длина контекста, модальности и точные сценарии применения в README не указаны, поэтому модель можно охарактеризовать только как текстовую генеративную модель общего назначения. Сильной стороной является широкий выбор квантизаций для локального инференса и применение imatrix-квантизации, направленной на сохранение качества при уменьшении размера. Ограничения зависят от выбранного варианта: более компактные версии имеют более низкое качество, а полноразмерная F16-версия требует значительного объёма памяти. Лицензия указана как other; её конкретные условия в README не раскрыты и требуют проверки в источнике базовой модели.

TinyLlama-1.1B-Chat-v1.0-GPTQ-4bit — это 4-битно квантованная версия чат-модели TinyLlama/TinyLlama-1.1B-Chat-v1.0. В README не указано, кто выполнил квантование; исходная модель обозначена как TinyLlama. Модель предназначена для диалоговых сценариев и задач генерации текста, где важны сниженные требования к памяти и вычислительным ресурсам. Модель имеет заявленный размер 1,1 млрд параметров и представлена в формате GPTQ, созданном с помощью AutoGPTQ. Используется 4-битное симметричное квантование с group_size 128, без активационного упорядочивания (desc_act: false), с последовательной обработкой слоёв (true_sequential: true). Ключевые характеристики архитектуры, поддерживаемые языки, модальности и размер контекстного окна в README не указаны. Квантование уменьшает требования к ресурсам, но может приводить к снижению качества по сравнению с исходной моделью. Лицензия указана как неизвестная.

vorenthos-architect-31b — разговорная языковая модель, опубликованная vorenthiclabs как экспорт из локальной установки Ollama. В карточке указано, что модель дообучена на базе `claude`; репозиторий содержит квантизированные веса GGUF и шаблон чата, а метаданные описывают архитектуру как плотную модель размером около 30,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате и запускается через Ollama; также упомянуты варианты использования с llama.cpp и библиотекой Transformers, поддерживающей GGUF. Карточка не описывает специальные предметные сценарии, языки, длину контекста или подтверждённые показатели качества. Лицензия обозначена как `other`, поэтому конкретные условия использования по имеющимся сведениям определить нельзя.

Amber-GGUF — это квантованные файлы языковой модели Amber, разработанной LLM360 и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста на английском языке и локального запуска через llama.cpp и совместимые приложения и библиотеки. В репозитории представлены варианты квантования с разрядностью от 2 до 8 бит для CPU+GPU-инференса. Формат GGUF поддерживается llama.cpp, text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другими инструментами. Модель использует текстовую модальность; размер, точная архитектура, длина контекста и дополнительные языки в предоставленных данных не указаны. Шаблон запроса минимальный: входной текст передаётся напрямую. Ключевое преимущество — широкий выбор уровней квантования, позволяющий подбирать компромисс между размером файлов, требованиями к памяти и качеством генерации, а также возможность локального запуска на CPU и GPU. Ограничения связаны с потерями качества, характерными для квантованных версий, и зависимостью совместимости от используемого клиента и версии llama.cpp. Указанная лицензия модели — Apache-2.0.

CrucibleLab_L3.3-Dark-Ages-70b-v0.1-GGUF — GGUF-квантизированная версия текстовой генеративной модели L3.3-Dark-Ages-70b-v0.1, разработанной CrucibleLab. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста через llama.cpp, LM Studio и другие совместимые проекты. В основе лежит модель размера 70B, однако точная архитектура, поддерживаемые языки, длина контекста и дополнительные возможности в представленном README не указаны. Доступны варианты квантизации от Q3 и IQ3 до Q8_0 с размером файлов примерно от 27 до 75 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее сохранение качества, но требуют больше оперативной или видеопамяти; для многих сценариев рекомендуются варианты Q4_K_M, Q5_K_M и Q6_K. Сильной стороной модели является возможность локального использования и широкий выбор вариантов, позволяющий балансировать качество и требования к памяти. Ограничения связаны с большими аппаратными требованиями 70B-модели, потерями качества при низкой квантизации и отсутствием в README подробных данных о качестве, языках и специализации. Шаблон чата явно не задан, поэтому используемый формат может потребовать проверки по карточке исходной модели. Указанная лицензия — llama3.3.

QuixiAI разработала экспериментальную инструктивную языковую модель DeepMixtral-8x7b-Instruct на архитектуре DeepSeek-MoE. По карточке, модель получена переносом восьми экспертов Mixtral-8x7b-Instruct-v0.1 в архитектуру DeepSeek-MoE; для каждого токена выбираются два эксперта. Она предназначена для диалогов и генерации ответов на инструкции, поданных в формате [INST]…[/INST], и рассчитана на контекст до 32 768 токенов. Модель имеет 7,1 млрд параметров и распространяется в формате safetensors. Карточка заявляет качество на уровне исходной instruct-модели или немного выше, но оценок пока не приводит; это экспериментальный проект, поэтому результатам заявления о качестве не сопутствует опубликованная проверка. Поддерживается английский язык. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28T3q_AlloyingotneoyExperiment24 — объединённая автором репозитория модель на базе двух моделей automerger: Experiment28T3q-7B и AlloyingotneoyExperiment24-7B. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Модель предназначена для генерации текста; её контекстное окно составляет 32 768 токенов. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не описывает специализированные сценарии применения, языки или результаты оценки качества.

Gemma-2-2b-it-abliterated-GGUF — набор GGUF-квантизаций модели IlyaGusev/gemma-2-2b-it-abliterated, подготовленный пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp или совместимые приложения, включая LM Studio. Указанный язык — английский; поддерживается текстовый ввод и вывод. Системный промпт не поддерживается, поэтому запросы следует оформлять в формате диалога Gemma с ролями пользователя и модели. В набор входят варианты от полноразмерных F32 весов размером 10,46 ГБ до компактных Q2_K_L размером 1,37 ГБ, а также квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, IQ4_XS и IQ3_M. Квантизации выполнены с использованием imatrix и llama.cpp версии b3496; отдельные варианты используют Q8_0 для embedding- и output-весов, что может повышать качество. Более крупные варианты обеспечивают лучшее сохранение качества, а компактные подходят для систем с ограниченным объёмом оперативной памяти, но могут давать менее качественные результаты. Лицензия указана как gemma. README не содержит сведений о точном контекстном окне, внутренней архитектуре или параметрах базовой модели, кроме её обозначения Gemma 2 2B, поэтому эти характеристики нельзя уточнить по имеющимся данным.

Gemma 3 270M IT — компактная инструкционно-настроенная языковая модель Google, конвертированная сообществом mlx-community в формат MLX из оригинальной модели google/gemma-3-270m-it с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск через библиотеку mlx-lm на совместимом оборудовании Apple MLX. Ключевые характеристики: размер 270 млн параметров, текстовая модальность, 4-битное квантование и формат MLX. README не содержит сведений о поддерживаемых языках, размере контекстного окна, конкретной архитектуре, требованиях к памяти или результатах тестирования, поэтому её возможности и ограничения по этим аспектам нельзя надёжно оценить. Для доступа на Hugging Face требуется принять лицензию Google Gemma; точные условия использования определяются этой лицензией.

Gemma-4-E4B-it-OBLITERATED-mlx-8Bit — языковая модель для генерации текста, разработанная сообществом mlx-community. Она конвертирована в формат MLX из OBLITERATUS/gemma-4-E4B-it-OBLITERATED версии 3 с использованием mlx-lm 0.31.2 и предназначена для запуска и инференса через библиотеку mlx-lm, в том числе с поддержкой диалогового шаблона. Модель подходит для генерации текста и интерактивных сценариев на совместимом оборудовании Apple MLX. В названии и метаданных указано 8-битное представление, однако точные сведения об архитектуре, количестве параметров, контекстном окне, языках и поддерживаемых модальностях в README не приведены. Модель относится к вариантам Gemma 4 и описана как abliterated/uncensored с удалением отказов, поэтому её поведение и ограничения безопасности могут отличаться от исходной модели. Лицензия — Apache-2.0.

byroneverson/glm-4-9b-chat-abliterated — дообученная версия GLM-4-9B-Chat от THUDM, изменённая автором репозитория для снижения отказов модели. В версии 1.1 для этой процедуры использован слой 16; автор сообщает, что тесты PCA и косинусного сходства согласуются с выбором этого слоя. Модель предназначена для диалоговой генерации текста и работы через интерфейс вызова инструментов. Она построена на плотной архитектуре ChatGLM, содержит 10,7 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В карточке указаны китайский и английский языки. Репозиторий содержит веса в формате safetensors. Снижение отказов может быть полезно в сценариях, где требуется меньше ограничений на ответы, однако README не приводит количественной оценки качества, безопасности или надёжности после изменения. Для преобразования модели в формат GGUF автору понадобился пакет tiktoken и собственный вариант инструментария GGUF. Лицензия обозначена как other; конкретные условия следует проверять в репозитории модели и у базовой модели.

mlx-community/granite-4.0-h-tiny-4bit — языковая модель для генерации текста, разработанная сообществом mlx-community на основе IBM Granite 4.0 H Tiny от IBM. Модель преобразована в формат MLX с помощью mlx-lm 0.28.2 и предназначена для запуска через библиотеку mlx-lm, в частности на устройствах экосистемы Apple с поддержкой MLX. Модель поддерживает текстовый ввод и вывод и может применяться для диалоговых сценариев и других задач генерации текста. В README указано 4-битное представление, что обычно снижает требования к памяти, но конкретные параметры архитектуры, размер, поддерживаемые языки и длина контекста не приведены. Сведения о сильных сторонах и ограничениях, кроме особенностей формата MLX и 4-битного квантования, отсутствуют. Модель распространяется по лицензии Apache-2.0.