II.2Создание и понимание программного кода

YamshadowStrangemerges_32_NeuralsirkrishnaExperiment28 — объединённая языковая модель на архитектуре Mistral, созданная из automerger/YamshadowStrangemerges_32-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна текстовая генерация. Модель содержит 7,1 млрд параметров, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors. Модель опубликована под лицензией Apache-2.0. Карточка не сообщает о специализированных предметных областях, языках или дополнительных возможностях; качество и ограничения исходных моделей в предоставленных данных не описаны.

Модель ShenaoZ/0.0005_betadpoinit_4iters_bs256_5551lr_iter_1 — дообученная чат-модель на базе HuggingFaceH4/zephyr-7b-beta. Она предназначена для генерации текста в диалоге и выполнения пользовательских инструкций. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Указаны датасеты updated и original, однако карточка не описывает данные, методику оценки или особенности поведения модели. Распространяется по лицензии MIT.

BigMistral-13b — плотная причинная языковая модель семейства Mistral на 13,2 млрд параметров от athirdpath. Это базовая модель для генерации текста, собранная из срезов слоёв mistralai/Mistral-7B-v0.1 по рецепту NeverSleep; в README указано, что модель не проходила дополнительное дообучение. Репозиторий содержит веса Safetensors, а заявленный контекст составляет 32 768 токенов. Модель предназначена для генерации продолжений текста и может служить основой для экспериментов или последующего дообучения. Автор характеризует её как более лёгкую и перспективную по сравнению с версией на 14 млрд параметров, однако это качественная оценка без приведённых результатов сравнения. Лицензия — Apache-2.0. README не уточняет поддерживаемые естественные языки и конкретные ограничения качества.

calme-2.7-qwen2-7b-GGUF — это набор файлов модели в формате GGUF для генерации текста. Модель создана и квантована пользователем MaziyarPanahi на основе MaziyarPanahi/calme-2.7-qwen2-7b; исходная архитектура относится к семейству Qwen2, однако подробные сведения о конфигурации базовой модели в README не приведены. Модель предназначена для задач генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие приложения и библиотеки с поддержкой GGUF. Формат позволяет выбирать варианты квантования от 2 до 8 бит, что помогает адаптировать требования к памяти и производительности под конкретное оборудование, но может влиять на качество вывода. Данные о поддерживаемых языках, размере контекста, точном числе параметров, модальностях, результатах оценки и ограничениях качества отсутствуют. Лицензия в README не указана, поэтому условия использования необходимо уточнять в карточке модели и у исходной модели.

Карточка модели AmberYifan/capsd-less-ultra-humaneval-opc-marin-8b-base-code_less_b8000_s0 на Hugging Face совпадает с карточкой AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0, поэтому описание составлено по ней. AmberYifan/capsd-less-humaneval-opc-marin-8b-base-code_less_b8000_s0 — дообученная модель на архитектуре Llama для генерации и продолжения текста. Она основана на marin-community/marin-8b-base и обучена на наборе capsd_marin-8b-base-n80000-opc__mix_code_less_b8000_s0. Модель содержит 7,5 млрд параметров, рассчитана на контекст до 4096 токенов и использует формат Safetensors; для работы применяется библиотека Transformers. Модель предназначена для генерации текста в формате text-generation и поддерживает чатовый сценарий. Карточка не приводит подробностей об обучающих данных, оценке качества или конкретных возможностях модели. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели.

CoALM-405B — диалоговая агентная языковая модель, разработанная UIUC Conversational AI Lab совместно с Oumi. Она дообучена на базе Meta-Llama 3.1-405B-Instruct и содержит около 403,7 млрд параметров; архитектура — плотная Llama для авторегрессионной генерации текста. Модель рассчитана на многоходовые диалоги, отслеживание состояния диалога, вызов функций и API, использование инструментов и построение многошаговых ответов. В README заявлены результаты на MultiWOZ 2.4, BFCL V3 и API-Bank, включая сильные показатели в задачах вызова функций. Модель принимает текстовые запросы и генерирует текст, в том числе структурированные вызовы инструментов. Контекстное окно — до 131 072 токенов. В метаданных указан английский язык; README описывает обучение на данных CoALM-IT и сценарии агентного взаимодействия. Для инференса требуется значительный вычислительный ресурс: README указывает 16 GPU H100 и рекомендует vLLM для многоузлового запуска. Лицензия — CC BY-NC 4.0, допускающая использование с ограничением на коммерческое применение.

DataDecide-dclm-baseline-qc-fw-3p-1B-55000_57500_60000_62500_65000_weightedavg_merge — объединённая языковая модель на базе архитектуры Llama, созданная с помощью mergekit методом Linear из пяти контрольных точек DCLM baseline QC FW 3P. Разработчик в карточке не назван. Модель предназначена для генерации текста; каталог указывает около 1,2 млрд параметров, библиотеку Transformers и контекст до 2048 токенов. Модель принимает текст и генерирует текст. README и метаданные не описывают её целевые языки, специализированные области или дополнительные возможности, поэтому её следует рассматривать как модель общего назначения без подтверждённых узких специализаций. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана. Качество и безопасность ответов отдельно не охарактеризованы; перед использованием в приложениях следует оценить их на целевых запросах.

DeepSeek-R1-Distill-Qwen-1.5B-imatrix-GGUF — это квантизированная версия модели DeepSeek-R1-Distill-Qwen-1.5B, опубликованная и квантизированная командой Liodon AI. Модель предназначена для генерации текста и локального запуска с помощью llama.cpp, Ollama, LM Studio и Jan, включая использование на устройствах с ограниченными ресурсами. Модель распространяется в формате GGUF и доступна в вариантах квантизации от IQ2_M до Q8_0 размером примерно от 0,70 до 1,89 ГБ. Для квантизации применён метод iMatrix: на основе 128 калибровочных фрагментов и 2 млн токенов из WikiText-103 точность распределяется с учётом важности весов. Это позволяет улучшить связность и следование инструкциям по сравнению со стандартной квантизацией при сопоставимом размере файла. Рекомендуемым вариантом указан Q4_K_M; для него заявлен ориентировочный объём VRAM около 1 ГБ. Сильные стороны модели — небольшой размер, возможность локального запуска и повышенное качество низкоразрядной квантизации. Варианты IQ2_M и IQ3_M экономят память, а Q6_K и Q8_0 обеспечивают качество, близкое к исходному. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках, модальностях и специализированных сценариях применения. Лицензия указана как other, без дополнительных условий в представленном описании.

Delta-Vector Austral-32B-GLM4-Winton-GGUF — это квантизированная версия языковой модели Austral-32B-GLM4-Winton, разработанной Delta-Vector и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В репозитории представлены варианты в формате GGUF: исходные веса BF16 размером около 65 ГБ и версии с квантизацией Q8_0, Q6, Q5, Q4, Q3 и IQ, занимающие примерно от 14,82 до 34,61 ГБ. Квантизация выполнена с использованием llama.cpp b5943 и imatrix, что позволяет выбирать баланс между качеством генерации, требованиями к памяти и скоростью работы. Рекомендуемыми названы главным образом варианты Q4–Q6; более компактные Q3 и IQ3 подходят для систем с ограниченным объёмом оперативной памяти, но дают более низкое качество. Модель является текстовой; сведения о поддерживаемых языках, длине контекста, точной архитектуре базовой модели, специальных возможностях и лицензии в представленном README не указаны. Шаблон чата также не задан явно, поэтому используется шаблон по умолчанию, который может быть некорректен; перед применением рекомендуется проверить оригинальную карточку модели Delta-Vector/Austral-32B-GLM4-Winton.

EnvFactory-8B — диалоговая языковая модель семейства Qwen3, разработанная LARK-Lab на основе Qwen/Qwen3-8B. Модель дообучена с помощью SFT и обучения с подкреплением на синтезированных траекториях использования инструментов и предназначена для создания агентов, которые ведут многошаговый диалог, выбирают инструменты и взаимодействуют с ними для выполнения задач. Модель имеет плотную архитектуру Qwen3ForCausalLM с 7,6 млрд параметров, принимает текст и поддерживает контекст до 40 960 токенов. В обучении использованы 53,4 тыс. отфильтрованных SFT-траекторий и 3,09 тыс. RL-траекторий, построенных на проверенных исполняемых средах из 85 окружений в семи областях. В опубликованных тестах EnvFactory-8B превосходит базовую Qwen3-8B по нескольким показателям использования инструментов, включая многошаговые сценарии. Модель подходит для англоязычных диалоговых агентов с доступом к инструментам через MCP и для выполнения составных задач, требующих серии вызовов инструментов. Это текстовая модель генерации, а не среда исполнения: подключение MCP-инструментов и настройка агента выполняются отдельно. Распространяется под лицензией Apache-2.0.

Experiment26Experiment28-7B — автоматическое слияние двух моделей Mistral, созданное Maxime Labonne методом SLERP с помощью mergekit. В состав слияния вошли yam-peleg/Experiment26-7B и yam-peleg/Experiment28-7B; веса сохранены в формате safetensors. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в экспериментах с языковыми моделями и в приложениях, которым требуется генерация текста. Метаданные указывают задачу text-generation; README приводит пример загрузки через Transformers. В карточке указана лицензия Apache-2.0. Языки и специальные предметные области для этой модели не обозначены.

Experiment26T3qm7xp_Strangemerges_32Experiment28 — слитая языковая модель семейства Mistral, опубликованная под именем MaziyarPanahi. Она объединяет automerger/Experiment26T3qm7xp-7B и automerger/Strangemerges_32Experiment28-7B и предназначена для генерации текста. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В репозитории указаны веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специальные предметные области или дополнительные возможности.

Experiment26Yamshadow_NeuralExperiment26 — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/NeuralExperiment26-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; поддерживает контекст до 32 768 токенов. Модель подходит для продолжения текста и генерации ответов по текстовым запросам. Она распространяется в формате safetensors по лицензии Apache 2.0. Карточка не описывает специальные возможности, целевые языки или ограничения качества.

MaziyarPanahi/Experiment28M7_Experiment24Experiment28 — слитая языковая модель семейства Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/Experiment24Experiment28-7B. Она предназначена для генерации текста и экспериментальных сценариев работы с языковыми моделями. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Карточка не описывает специализацию, языки или сравнительные результаты модели; поэтому её возможности следует считать общими для генерации текста, а качество — проверять на целевых задачах.

mlx-community/gemma-2-2b-it-4bit — версия модели Gemma 2 2B Instruction-Tuned, разработанной Google и преобразованной сообществом mlx-community в формат MLX с использованием mlx-lm 0.16.1. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локальных приложений через библиотеку mlx-lm. Модель имеет около 2 миллиардов параметров и использует 4-битное квантование, что снижает требования к памяти по сравнению с полноразмерной версией. Она работает с текстом; сведения о поддерживаемых языках и максимальной длине контекста в README не указаны. Формат MLX ориентирован на выполнение на совместимом оборудовании и программном стеке Apple MLX. К сильным сторонам относятся компактный размер, инструкция-ориентированная настройка и возможность локального запуска через mlx-lm. Ограничения включают потенциальное снижение точности из-за 4-битного квантования, зависимость от совместимой среды MLX и отсутствие в предоставленных данных подробных сведений о качестве, языковом охвате и контексте. Использование регулируется лицензией Gemma; для доступа на Hugging Face требуется ознакомиться с лицензией Google и подтвердить её принятие.

Это пакет GGUF для распределённого запуска Gemma 3 27B Instruct, подготовленный Mesh LLM на основе unsloth/gemma-3-27b-it-GGUF. Веса исходной модели в варианте UD-Q4_K_XL разделены на артефакты по слоям, чтобы распределять вычисления и память между несколькими компьютерами в локальном кластере Mesh LLM. Модель предназначена для локального диалогового инференса, в том числе через совместимый с OpenAI API интерфейс Mesh LLM. Пакет использует формат GGUF и ориентирован на текстовую генерацию в чате; в карточке указаны семейство Gemma и возможность chat. Языки, длина контекста и подробности архитектуры не приведены в доступных данных. Это производный пакет на базе указанной GGUF-модели, а не самостоятельная разработка. Лицензия и ограничения исходной модели определяются её карточкой и в предоставленных данных не раскрыты.

Gemma-4-12B-OBLITERATED-MLX-BF16 — текстовая разговорная модель семейства Gemma 4, подготовленная bsisduck для запуска через MLX-LM на системах Apple Silicon. Это конверсия BF16 без квантизации модели OBLITERATUS/Gemma-4-12B-OBLITERATED; в копии конфигурации тип архитектуры gemma4_unified заменён на gemma4 для совместимости с MLX-LM. Модель предназначена для генерации текста и диалоговых сценариев. Репозиторий содержит веса в формате safetensors и рассчитан на работу с библиотекой MLX-LM. Использование регулируется лицензией Gemma. Карточка не сообщает о специальных областях применения или подробных оценках качества.

mewse/gemma-4-26B-A4B-it-qat-q4_0-unquantized-heretic — экспериментальная версия Gemma 4, созданная автором репозитория на основе google/gemma-4-26B-A4B-it с применением Heretic для ослабления встроенных ограничений. Автор предупреждает, что это была первая попытка, результат неудовлетворительный, а метод, по его оценке, плохо сработал на MoE-моделях; вместо неё он рекомендует другой свой вариант. Модель предназначена для диалога и анализа изображений с ответами текстом. Базовая Gemma 4 использует гибридное внимание и поддерживает рассуждения, работу с инструментами, генерацию и исправление кода, а также мультимодальный ввод. В карточке базовой модели указано контекстное окно до 256 тысяч токенов и поддержка более 35 языков; аудиовозможности у версии 26B A4B не заявлены. Метаданные этого репозитория указывают архитектуру Gemma4ForConditionalGeneration, формат safetensors и возможности чата и зрения. Репозиторий распространяется по лицензии Apache-2.0. Из-за предупреждения автора о слабом результате снятия ограничений качество и полноту этой модификации следует считать ненадёжными; как и базовая модель, она может ошибаться в фактах и испытывать трудности с неоднозначными запросами.

GLM-4.7-Flash-Uncensored-HauhauCS-Aggressive — текстовая генеративная модель, опубликованная AIOpsInSpace. Она основана на THUDM GLM-4.7-Flash и варианте HauhauCS/GLM-4.7-Flash-Uncensored-HauhauCS-Aggressive; заявлены изменения с удалением части ограничений безопасности и отказов в ответах. Модель предназначена для быстрых диалоговых ответов, логического рассуждения и общего текстового генерирования. В описании указаны архитектура MoE, оптимизация Flash Attention и высокая скорость работы. В метаданных указан английский язык, хотя README также заявляет о многоязычном рассуждении. Сведения о числе параметров, размере активной части MoE, длине контекста и других языках отсутствуют. Потенциальное преимущество модели — сочетание заявленной скорости, возможностей рассуждения и менее ограниченного поведения. При этом отсутствие защитных ограничений может повысить риск генерации небезопасного или нежелательного контента, поэтому модель требует дополнительного контроля при использовании. Данные о результатах бенчмарков и совместимых средах развертывания не приведены. Лицензия — Apache-2.0.

GLM-5.3-UD-Q4_K_XL-layers — пакет GGUF по слоям, подготовленный Mesh LLM для распределённого запуска модели GLM-5.3 на локальном кластере. Пакет основан на unsloth/GLM-5.3-GGUF и сохраняет её распределение весов, разделённое на отдельные артефакты слоёв. Вариант квантования — UD-Q4_K_XL. Модель предназначена для локального приватного инференса, совместной работы нескольких машин, когда полный файл слишком велик для одного узла, и чат-запросов через локальный API Mesh LLM, совместимый с OpenAI. Метаданные указывают задачу генерации текста и чат-возможности. Для запуска требуется Mesh LLM; пакет включает 11 частей GGUF. Размер параметров, контекст и поддерживаемые языки в предоставленных данных не приведены. Лицензия указана как other; README отсылает к карточке исходной модели за условиями лицензии и сведениями об архитектуре, шаблоне чата и рекомендациях по генерации.

DevQuasar/huihui-ai.Qwen3-8B-abliterated-GGUF — это квантизированная версия модели huihui-ai/Qwen3-8B-abliterated, предназначенная для генерации текста. Модель разработана на основе Qwen3-8B и опубликована в формате GGUF проектом DevQuasar; в карточке указано, что квантизация выполнена для базовой модели huihui-ai. Модель подходит для локального запуска и сценариев, связанных с текстовой генерацией, однако README не содержит сведений о конкретном варианте квантизации, поддерживаемых языках, размере контекста, архитектурных деталях, модальностях, требованиях к ресурсам или результатах оценки качества. Информация о лицензии также отсутствует, поэтому условия использования по карточке модели определить нельзя.

Huihui-MiniCPM5-2B-abliterated-GGUF — это набор GGUF-квантизаций модели Huihui-MiniCPM5-2B-abliterated, подготовленный mradermacher. Модель основана на MiniCPM5 и предназначена для генерации текста, включая сценарии с длинным контекстом, вызовом инструментов и локальным запуском на устройствах с ограниченными ресурсами. Указана поддержка английского и китайского языков. Модель имеет около 2 млрд параметров; README не уточняет архитектурные детали и максимальный размер контекста. Доступны варианты от Q2_K до Q8_0, IQ4_XS и f16 размером примерно от 1,1 до 5,1 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как быстрый вариант с наилучшим качеством среди указанных. Более сильное квантование уменьшает требования к памяти, но может снижать качество. Это текстовая модель: сведения о поддержке изображений или других модальностей отсутствуют. README не приводит результатов тестирования, поэтому фактические сильные стороны и ограничения качества нельзя оценить по этим данным; также не раскрываются требования к аппаратному обеспечению и точная совместимость с инструментами. Модель распространяется по лицензии Apache-2.0.

Huihui-Qwen3-8B-abliterated-v2 — доработанная сообществом Huihui AI версия Qwen/Qwen3-8B, созданная методом abliteration, который снижает склонность модели к отказам. Это плотная авторегрессионная языковая модель на 7,6 млрд параметров для диалоговой генерации текста; она работает через библиотеку Transformers, поддерживает контекст до 40 960 токенов и основана на архитектуре Qwen3. Модель предназначена для диалогов и генерации ответов с менее выраженной фильтрацией отказов. В README версия названа экспериментальной реализацией метода удаления отказов; автор также сообщает об изменении нулевого слоя для исправления проблем с нечитаемыми символами. Метаданные указывают лицензию Apache-2.0. Снижение защитных ограничений может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки. README характеризует реализацию как грубую проверку концепции; это следует учитывать при выборе модели для ответственных сценариев.

jtl11_GLM-4.7-Flash-heretic-GGUF — это набор квантованных версий языковой модели GLM-4.7-Flash-heretic, подготовленный разработчиком jtl11 и опубликованный в формате GGUF пользователем bartowski. Квантование выполнено с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и поддерживает английский и китайский языки. Модель ориентирована на локальный запуск в llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и других совместимых приложениях. Доступны варианты от BF16 размером около 59,91 ГБ до низкобитных квантов, включая Q4_K_M размером около 18,54 ГБ и IQ4_XS размером около 16,32 ГБ. Более высокие уровни квантования обычно обеспечивают лучшее качество, тогда как компактные варианты требуют меньше оперативной памяти. Для работы следует использовать указанный формат подсказок с управляющими токенами GLM. К сильным сторонам относятся широкий выбор вариантов квантования, возможность локального запуска и сохранение высокого качества у версий Q5 и Q6; в README варианты Q6_K_L, Q6_K, Q5_K_L, Q5_K_M и Q5_K_S отмечены как близкие к исходному качеству. Ограничения включают зависимость качества от выбранного кванта, значительные требования к памяти и необходимость поддержки модели используемым ПО. Сведения об архитектуре, количестве параметров, размере контекста и мультимодальных возможностях не приведены, поэтому их нельзя оценить по представленным данным. Для модели указана лицензия MIT. В метаданных она также помечена как heretic, uncensored, decensored и abliterated, однако README не содержит подробного описания соответствующих изменений или результатов оценки безопасности.

tinyopsec/L1-Qwen3-8B-Exact-GGUF — набор GGUF-квантизированных версий модели l3lab/L1-Qwen3-8B-Exact. Базовая модель основана на Qwen3 8B и дообучена с использованием reinforcement learning для оптимизации количества шагов рассуждения. Модель предназначена для генерации текста и локального запуска через llama.cpp, llama-cpp-python, LM Studio или Ollama. В метаданных указан английский язык. Доступны варианты с точностью от F16 до 2-битной квантизации и размером примерно от 16 до 2,3 ГБ. Вариант Q5_K_M обозначен как рекомендуемый компромисс между качеством и размером; менее точные варианты требуют меньше видеопамяти и оперативной памяти, но могут сильнее терять в качестве. Для запуска указано значение контекста 2048 токенов в примере llama-cpp-python, однако максимальный размер контекста модели в README не указан. Модель подходит для локальной генерации текста и сценариев, где важны автономность и возможность выбрать баланс между качеством, скоростью и требованиями к оборудованию. Ограничения включают возможное ухудшение качества при низкой разрядности квантизации, а также отсутствие в README подробных данных о результатах тестирования, поддерживаемых модальностях и специализированных задачах. Распространяется по лицензии Apache 2.0, указанной для базовой модели.

Laguna-XS-2.1-GGUF — квантованная версия текстовой генеративной модели Laguna-XS-2.1, разработанной poolside и автоматически преобразованной в формат GGUF проектом ggml-org. Модель предназначена для генерации текста и может использоваться в совместимых приложениях и средах запуска, включая llama.app. Из доступных данных известно, что модель относится к классу text-generation и поставляется в формате GGUF. Конкретная архитектура, количество параметров, поддерживаемые языки, размер контекста, модальности и характеристики квантования в карточке не указаны. Поэтому оценить сильные стороны, ограничения производительности и требования к аппаратному обеспечению можно только после изучения исходной модели или дополнительной документации. Лицензия модели указана как OpenMDW 1.1. Для запуска рекомендуется использовать совместимое окружение, например llama.app; README также содержит команду запуска через llama serve.

Mungert/Llama-3.1-Nemotron-Nano-4B-v1.1-GGUF — это GGUF-версия текстовой генеративной модели Llama-3.1-Nemotron-Nano-Nano 4B, связанная с экосистемой NVIDIA и основанная на nvidia/Llama-3.1-Minitron-4B-Width-Base. Модель предназначена для генерации текста и локального инференса с использованием llama.cpp; заявленный язык — английский. Формат GGUF ориентирован на запуск на CPU, устройствах с ограниченной памятью и системах с небольшим объёмом GPU VRAM. Сведения о размере контекста, точной архитектуре и поддерживаемых модальностях, кроме текстовой генерации, в README не приведены. Главная особенность репозитория — поддержка низкоразрядных и сверхнизкоразрядных вариантов квантования, включая IQ1 и IQ2, а также стандартные форматы Q4_K, Q6_K и Q8. Описанный подход IQ-DynamicGate распределяет точность по слоям и защищает критические компоненты, стремясь сохранить качество при снижении потребления памяти. Однако приведённые количественные результаты относятся к Llama-3-8B-Instruct и не подтверждают аналогичные показатели именно для этой 4B-модели. Ограничениями являются возможная потеря качества при агрессивном квантовании и зависимость производительности от аппаратного ускорения и выбранного формата. Лицензия указана как NVIDIA Open Model License.

Llama-3.1-SuperNova-8B-Lite_TIES_with_Base-GGUF — набор квантизированных GGUF-версий текстовой генеративной модели Llama-3.1-SuperNova-8B-Lite_TIES_with_Base. Исходную модель разработал пользователь Joseph717171, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Название указывает на архитектурную основу Llama 3.1 и размер около 8 млрд параметров; модель предназначена для генерации текста и запуска локально через совместимые приложения, включая LM Studio и llama.cpp. Данные о поддерживаемых языках и размере контекста в README не указаны. Доступны версии от F16 до компактных квантизаций Q3, Q4, Q5, Q6, Q8 и IQ4_XS. Более качественные варианты Q6_K_L и Q6_K, а также ряд версий Q5 и Q4, отмечены как рекомендуемые; Q4_K_M описан как вариант по умолчанию при ограничениях по размеру, а Q3_K_XL — как пригодный для систем с небольшим объёмом оперативной памяти. Некоторые форматы Q4_0 оптимизированы для ARM и требуют поддержки SVE или i8mm; они не рекомендуются для Mac и Windows. Модель подходит для локальной генерации текста при выборе квантизации под доступную память и производительность устройства. Компромисс между размером и качеством зависит от конкретного GGUF-файла: F16 обеспечивает максимальную точность, а квантизированные версии снижают требования к ресурсам, потенциально уступая в качестве. Лицензия указана как llama3.1.

Репозиторий Huggyllama содержит веса модели LLaMA-7B — плотной авторегрессионной языковой модели класса LlamaForCausalLM с 6,6 млрд параметров. Контекст модели составляет 2048 токенов; веса доступны в форматах PyTorch и safetensors. Репозиторий предназначен для тех, кто уже получил доступ к LLaMA и потерял исходные веса либо столкнулся с проблемами при их конвертации в формат Transformers. Модель выполняет генерацию текста и может использоваться для диалоговых сценариев, а также для других задач на основе продолжения текста. Карточка не сообщает о специальной настройке под конкретные области или языки. Лицензия некоммерческая; доступ к модели ограничен условиями получения исходной LLaMA.

Lunaris Guard v3 — многоязычная модель-классификатор Auren Research для обнаружения prompt injection и разметки категорий безопасности в рабочих процессах ИИ-агентов. Это дообученная на базе энкодера jhu-clsp/mmbert-base плотная модель для классификации последовательностей примерно с 307 млн параметров; она загружается через Transformers с включённым trust_remote_code. Стандартный pipeline text-classification использует голову обнаружения инъекций, а модель также выдаёт классификацию по 14 категориям безопасности. Модель предназначена для проверки документов и фрагментов RAG, результатов поиска и браузера, вывода инструментов и метаданных MCP, а также сообщений, логов, кода и содержимого HTML, Markdown, CSV и API. Поддерживаются английский, португальский, испанский, французский, китайский, хинди, арабский, русский и японский языки. Контекст ограничен 2048 токенами; длинные материалы рекомендуется разбивать на фрагменты и агрегировать оценки риска. Лицензия — MIT. Карточка приводит результаты целевого теста на 100 синтетических примерах, но это не широкий публичный бенчмарк. Англоязычная работа сильнее, чем многоязычная; возможны ложные срабатывания на цитируемых примерах атак и защитных инструкциях, а длинный текст без разбиения может быть усечён. Модель не следует использовать как единственную защиту в системах, где пропуск атаки может привести к серьёзному ущербу.