II.2Создание и понимание программного кода

gotchu/season-8-v2-solar — текстовая диалоговая модель, созданная слиянием двух моделей SOLAR-10B: bhavinjawade/SOLAR-10B-OrcaDPO-Jawade и bhavinjawade/SOLAR-10B-Nector-DPO-Jawade. Разработчик применил метод SLERP с помощью mergekit; результат доступен в формате Safetensors и рассчитан на использование через Transformers. Модель предназначена для генерации текста в диалогах и ответов на запросы пользователя. Это плотная авторегрессионная архитектура LlamaForCausalLM с 10,6 млрд параметров и контекстом до 4096 токенов. Карточка не сообщает о специализированных предметных областях или поддержке других модальностей. Лицензия и явные сведения о качестве или ограничениях в предоставленных данных отсутствуют; как у языковой модели, ответы могут быть ошибочными или неподтверждёнными.

SmolLM2-1.7B-Instruct-GGUF — компактная языковая модель для генерации текста и выполнения инструкций, разработанная HuggingFaceTB. Эта версия представляет собой GGUF-квантизацию оригинальной модели SmolLM2-1.7B-Instruct, подготовленную bartowski на основе llama.cpp. Модель предназначена для диалоговых сценариев, генерации текста и других задач обработки естественного языка, где важны умеренные требования к ресурсам. Она обучалась на наборе данных объёмом 11 триллионов токенов, поддерживает контекст до 8192 токенов и заявлена для английского языка. Размер модели — 1,7 миллиарда параметров. К сильным сторонам относятся компактность и формат GGUF, подходящий для использования с совместимыми инструментами экосистемы llama.cpp. Ограничениями являются меньший размер по сравнению с крупными языковыми моделями, заявленная поддержка только английского языка и возможные неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache 2.0.

MaziyarPanahi/supermario-slerp-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и jan-hq/supermario-slerp. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Файлы представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

T3qM7-7B — объединённая текстовая модель на архитектуре Mistral, созданная Maxime Labonne автоматическим слиянием моделей chihoonlee10/T3Q-Mistral-Orca-Math-DPO и liminerity/M7-7b. Для слияния использован метод SLERP с настройками для слоёв self-attention и MLP; веса сохранены в формате safetensors и типе bfloat16. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке указана лицензия Apache-2.0. README не приводит оценок качества или сведений о языковом покрытии, поэтому результаты для конкретных языков и специализированных задач по этим данным подтвердить нельзя.

Gemma-3-R1-4B-v1-GGUF — это набор квантизированных версий языковой модели TheDrummer/Gemma-3-R1-4B-v1, подготовленный пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты с разной степенью квантизации: от полноразмерных BF16-весов объёмом около 7,77 ГБ до компактных версий Q2 и IQ3 объёмом менее 2 ГБ. Доступны форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ, что позволяет выбирать между качеством ответов, потреблением памяти и скоростью работы. Для квантизации применялась методика imatrix с калибровочными наборами данных; для большинства сценариев рекомендуются варианты Q4_K_M, Q5_K_M, Q6_K или сопоставимые версии. README не содержит сведений о точной архитектуре, размере контекста, поддерживаемых языках, мультимодальности, исходных возможностях базовой модели или лицензии. Также не указан формат промпта, поэтому его следует уточнять на странице оригинальной модели. Более сильные варианты требуют больше оперативной памяти, а низкобитные версии экономичнее, но заметнее теряют в качестве.

horangwave/vicuna_1822 — текстовая генеративная модель, созданная с помощью mergekit на основе lmsys/vicuna-7b-v1.3. В README указано слияние методом passthrough, включающее слои 0–22 и 30–31 базовой модели; метаданные классифицируют связь как дообучение. Модель построена на архитектуре LLaMA с плотной сетью и классом LlamaForCausalLM, содержит 5 млрд параметров и принимает контекст до 2048 токенов. Модель предназначена для генерации текста, в том числе ответов в диалоговых сценариях и экспериментов с чат-ботами. Она принимает текст и выдаёт текст. В карточке указана библиотека Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

Xelora-9B-Study — дообученная Shreesha-2011 текстовая модель семейства Qwen3.5. Она основана на Qwen/Qwen3.5-9B и использует плотную архитектуру Qwen3_5ForCausalLM; в репозитории указано 7,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, а интерфейс также поддерживает вызов инструментов. Модель принимает текст и выдаёт текст. Для базовой Qwen3.5-9B заявлены мультимодальные возможности, включая анализ изображений, однако карточка Xelora описывает текстовый вариант модели и не подтверждает обработку изображений. Контекстное окно составляет до 262 144 токенов, основной указанный язык — английский. В README сказано, что обучение выполнялось с Unsloth и библиотекой TRL. Лицензия — Apache-2.0. Карточка не приводит оценок качества, специализированных сценариев обучения или результатов тестирования.

YamshadowStrangemerges_32_Experiment28Yam — объединённая модель MaziyarPanahi на архитектуре Mistral, созданная на основе automerger/YamshadowStrangemerges_32-7B и automerger/Experiment28Yam-7B. Она предназначена для генерации текста и поддерживает контекст длиной до 32 768 токенов; размер модели — 7,1 млрд параметров. Модель можно применять для генерации продолжений, ответов и другого текста в сценариях, где требуется работа с длинным контекстом. Веса опубликованы в формате Safetensors, лицензия — Apache-2.0. В карточке не приведены сведения о языковой специализации или оценках качества.

Это диалоговая языковая модель Mistral с 7,1 млрд параметров, дообученная ShenaoZhang на основе ShenaoZhang/0.01_zephyr_5551_4iters_bs256_iter_1 на обновлённом и исходном наборах данных. Она предназначена для генерации текста и общения в формате чата; заявленная длина контекста — 32 768 токенов. Модель распространяется в формате Safetensors по лицензии MIT. Подробности о качестве, оценке и конкретных ограничениях в карточке не приведены.

Модель joannetai520/16_bit_model_trymoredata1 — дообученная авторегрессионная языковая модель семейства Llama с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Её разработал joannetai520; при обучении использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста и диалогового взаимодействия, а метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных указан контекст до 131 072 токенов и язык en. Веса опубликованы в формате Safetensors по лицензии Apache-2.0. README указывает на дообучение от репозитория с тем же идентификатором, поэтому отдельную исходную базовую модель установить нельзя.

lilmeaty/5 — объединённая языковая модель, созданная с помощью mergekit из предварительно обученных весов lilmeaty/4 методом passthrough. Модель построена на плотной архитектуре Mistral и содержит 8,9 млрд параметров; она предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста составляет 131 072 токена, формат весов — safetensors. Модель можно использовать для генерации продолжений текста и ведения диалога на основе текстовых запросов. Карточка не описывает специализированные области применения или языковую поддержку. Лицензия в предоставленных данных не указана.

ewqr2130/alignment-handbook-zephyr-7b-sft-full-dpo-5e7-cont1 — разговорная текстовая модель семейства Mistral, представленная в формате Safetensors. Это плотная авторегрессионная модель с 7,1 млрд параметров и контекстом до 32 768 токенов, предназначенная для генерации текста в чат-сценариях. Название репозитория указывает на SFT и DPO дообучение Zephyr 7B, однако README не содержит сведений, подтверждающих базовую модель или детали обучения. Модель принимает текст и выдаёт текст; в метаданных указана возможность чата. Лицензия — Apache-2.0. Карточка не описывает качество ответов и ограничения, поэтому их нельзя уточнить по предоставленным материалам.

Big-Tiger-Gemma-27B-v1_iMatrix_GGUF — набор квантованных GGUF-файлов модели на основе google/gemma-2-27b-it. Автор карточки сообщает, что для iMatrix использован файл groups_merged.txt от Kalomaze; метаданные указывают на связь с Gemma 2 и формат GGUF. Модель предназначена для диалоговой генерации текста и ответов на инструкции на английском языке. Модель создана на основе инструктивной Gemma 2 с 27 млрд параметров. Лицензия — Gemma; её условия следует учитывать при использовании. Карточка не содержит сведений о конкретных вариантах квантования или о контекстном окне.

Deacon-20B — разговорная языковая модель семейства Llama, опубликованная KnutJaegersberg. Она предназначена для генерации текста и выполнения пользовательских инструкций в диалоге. В README приведён пример запроса о дообучении языковой модели, а метаданные указывают 19,6 млрд параметров и контекст до 4096 токенов. Модель использует плотную архитектуру LlamaForCausalLM и распространяется в формате safetensors. В карточке приведены результаты оценок на задачах рассуждения и продолжения здравого смысла. Указанная лицензия CC BY-NC 4.0 разрешает использование с атрибуцией, но запрещает коммерческое применение.

TriadParty/deepmoney-67b-chat — чат-модель, разработанная TriadParty на базе DeepSeek-67B и дообученная на датасете TriadParty/deepmoney-sft. Обучение включало предварительное обучение с LoRA ранга 512 и последующее дообучение на инструкциях с LoRA ранга 128; модель представлена в архитектуре Llama и содержит 66,6 млрд параметров. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. Репозиторий использует формат PyTorch, контекст модели составляет 4096 токенов. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества и не уточняет языки обучения или специализацию датасета, поэтому возможности в конкретных предметных областях подтвердить нельзя.

Devstral-Small-2507-MLX-6bit — это общественная версия модели Devstral-Small-2507, разработанной Mistral AI. Квантование в формате MLX выполнено командой LM Studio с использованием mlx_lm. Модель предназначена для генерации текста и локального запуска на устройствах Apple Silicon. Модель представлена в 6-битном квантованном формате, что снижает требования к памяти по сравнению с полноразмерной версией и делает её более подходящей для локального использования. В карточке заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Архитектура, количество параметров, размер контекста и точные специализированные возможности в README не указаны. К сильным сторонам относятся оптимизация под экосистему Apple Silicon и удобство локального текстового вывода. К ограничениям относятся возможная потеря качества из-за 6-битного квантования, зависимость производительности от конкретного устройства и отсутствие в предоставленных данных подробных характеристик, результатов тестирования и гарантий точности. Модель распространяется по лицензии Apache-2.0.

ylalain/ECE-PRYMMAL-YL-1B-SLERP-V8 — языковая модель для генерации текста, опубликованная на Hugging Face в формате safetensors и предназначенная для использования с библиотекой Transformers. Она построена на плотной архитектуре Qwen2 с примерно 1,4 млрд параметров и контекстом до 131 072 токенов. Модель создана слиянием Youlln/ECE-PRYMMAL-YL-1B-SLERP-V1; метаданные также указывают возможности чата и интерфейс вызова инструментов. Модель подходит для диалоговой генерации и других задач продолжения текста. README содержит лишь автоматически созданное описание и фрагмент результатов Open LLM Leaderboard, поэтому конкретные сильные стороны, обучение, поддерживаемые языки и рекомендации по применению установить по карточке нельзя. Лицензия — Apache-2.0.

Experiment26Neuralsirkrishna_Experiment29Experiment24 — объединённая автором карточки модель на базе двух моделей Mistral: automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment29Experiment24-7B. Она предназначена для генерации текста и диалогов, в том числе с использованием длинного контекста до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Для использования доступны задачи генерации текста. Модель выпущена под лицензией Apache-2.0.

Experiment26Yam_Experiment29Pastiche — объединённая модель для генерации текста, созданная MaziyarPanahi путём слияния automerger/Experiment26Yam-7B и automerger/Experiment29Pastiche-7B. Она основана на плотной архитектуре Mistral с 7,1 млрд параметров и принимает текстовый контекст длиной до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. README не описывает отдельные специализации или ограничения качества; доступные сведения указывают на применение общего назначения.

Это дообученная модель генерации текста на архитектуре Qwen3ForCausalLM, созданная Ermias Azarkhalili на базе microsoft/FastContext-1.0-4B-RL. Модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов; карточка также описывает обучение с учителем на наборе дистилляции рассуждений Claude, выполненное с помощью LoRA и Unsloth. Метаданные указывают интерфейсы чата и вызова инструментов. Модель предназначена для диалоговой генерации ответов и следования инструкциям, в том числе для сценариев с длинным контекстом и задач рассуждения. Оценка по прикладным бенчмаркам не проводилась, поэтому качество на пользовательских задачах не подтверждено. Дообучение выполнено на одном наборе инструкций, и поведение за его пределами не проверено; модель наследует смещения, ограничения знаний и ошибки базовой модели. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия модели gemma-2b-aps-it, первоначально разработанной Google. Репозиторий подготовлен bartowski с использованием llama.cpp и метода imatrix; доступны варианты от F16 до низкоразрядных IQ3 и Q3–Q8-квантизаций. Модель относится к классу генеративных текстовых моделей и предназначена для запуска через llama.cpp и совместимые приложения, включая LM Studio. Модель рассчитана на задачи генерации текста с использованием диалогового шаблона Gemma, поддерживающего системные инструкции, пользовательские запросы и ответы ассистента. Варианты различаются размером файлов и компромиссом между качеством и требованиями к оперативной памяти: F16 занимает около 5,02 ГБ, а наиболее компактные представленные варианты — примерно 1,31–1,49 ГБ. Некоторые сборки используют Q8_0 для embedding- и output-весов, что потенциально помогает сохранить качество. Ключевое преимущество репозитория — широкий выбор квантизаций для локального запуска, включая варианты, оптимизированные для ARM. При этом качество уменьшается в более компактных форматах, а отдельные ARM-варианты требуют поддержки инструкций sve или i8mm и не рекомендуются для Mac или Windows. В README не указаны контекстное окно, поддерживаемые языки, точные архитектурные характеристики базовой модели и лицензия, поэтому эти сведения нельзя определить по представленным данным.

mlx-community/gemma-3n-E2B-it-lm-4bit — это 4-битная модель в формате MLX, созданная сообществом mlx-community на основе instruction-tuned модели google/gemma-3n-E2B-it, разработанной Google. Конвертация выполнена с использованием mlx-lm версии 0.25.2, поэтому модель предназначена для запуска в экосистеме MLX, в частности на совместимом оборудовании Apple через библиотеку mlx-lm. Модель ориентирована на генерацию текста в диалоговом формате и поддерживает сценарии, связанные с обработкой текста, аудио и видео, включая automatic speech recognition, automatic speech translation и преобразование аудио или видео в текст, согласно указанным в карточке тегам. Обозначение E2B указывает на класс модели примерно в 2 миллиарда параметров, а lm-4bit — на 4-битное квантование, которое обычно уменьшает требования к памяти и ускоряет локальный запуск, но может снижать точность по сравнению с полной версией. README не содержит сведений о точном устройстве архитектуры, максимальной длине контекста, перечне поддерживаемых языков, фактических ограничениях мультимодальной обработки и результатах тестирования. Для использования требуется установить mlx-lm и применять встроенный chat template, если он доступен. Модель распространяется по лицензии Gemma; на Hugging Face необходимо ознакомиться с лицензией Google и подтвердить условия доступа.

Gemma4-12B-QAT-Genesis — квантизированная GGUF-версия базовой модели Gemma 4 12B-it, разработанной Google DeepMind. Автор сборки указывает, что удалил шум дистилляции и квантизации из тензоров, оставив остальные параметры без изменений. Модель предназначена для диалогов, творческого письма и roleplay, а также поддерживает обработку изображений через отдельный vision-проектор mmproj. Модель имеет плотную архитектуру размером 12B параметров и контекст до 256K токенов. Доступна в формате Q4_0: текстовая модель занимает около 6,98 ГБ, vision-проектор — 175 МБ. В README указан английский язык. Для ускорения генерации поставляется MTP-голова для speculative decoding; по заявлению автора, при использовании llama.cpp она обеспечивает примерно на 60% большую скорость без изменения результата. Модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-совместимыми средами. К сильным сторонам относятся поддержка изображений, большой контекст, пригодность для ролевых и разговорных сценариев, а также возможность быстрой работы на недорогих GPU. Ограничения включают зависимость vision-функций от mmproj, необходимость совместимого GGUF-рантайма для MTP-ускорения и известную проблему возможных сбоев Gemma 4 в LM Studio при multi-GPU режиме tensor-split; рекомендуется использовать один GPU либо layer-split или priority order. Модель распространяется по лицензии Gemma.

EZForever/gemma-4-31B-it-qat-uncensored-heretic-UDmerge-GGUF — мультимодальная модель класса image-text-to-text на базе Gemma 4 31B-it. Она создана как merge-модель: объединяет компоненты unsloth/gemma-4-31B-it-qat-GGUF и llmfan46/gemma-4-31B-it-qat-q4_0-unquantized-uncensored-heretic с использованием изменённых, «abliterated» тензоров. Модель предназначена для диалогов, генерации текста и обработки изображений совместно с текстом; для мультимодальной работы требуются файлы mmproj и для поддержки MTP — соответствующий файл mtp от Unsloth. Доступны варианты UDmerge-Q4_K_XL и UDmerge-Q4_K_XXL в формате GGUF. Размеры составляют примерно 17,3 и 18,0 ГБ соответственно. В варианте Q4_K_XL изменённые тензоры квантизуются в Q4_0, а в Q4_K_XXL — в Q8_0; второй вариант, по данным автора, заметно улучшает показатель отказов при почти неизменной скорости генерации, но требует больше памяти. В README не указаны поддерживаемые языки и размер контекстного окна. Сильными сторонами заявлены сохранение качества после квантизации, поддержка мультимодальности и более низкая склонность к отказам в сравнении с исходными моделями. Приведённые результаты зависят от варианта и методики тестирования: для UDmerge-Q4_K_XL указаны 85,83% на MMLU-val и 34% отказов, для UDmerge-Q4_K_XXL — 84,19% и 20% соответственно. Автор предупреждает, что результаты тестов отказов могут быть неточными, а модель создана при значительной помощи LLM и предлагается к использованию на усмотрение пользователя. В метаданных указана лицензия Apache-2.0.

GLM-5.3 NVFP4 GGUF — это квантованная в формате NVFP4 сборка модели GLM-5.3 от Z.ai, подготовленная incoai и опубликованная emwesoft в формате GGUF для запуска через llama.cpp. Модель относится к семейству glm-dsa и имеет архитектуру на 753 млрд параметров с 78 блоками и 256 экспертами. Веса NVFP4 сохранены без повторной квантизации; размер набора файлов — около 445 ГБ. Модель предназначена для генерации текста и диалогов, включая ответы с вызовом инструментов при корректной поддержке шаблона чата средой запуска. Для работы требуется llama.cpp с поддержкой glm-dsa и GGML_TYPE_NVFP4. Эта сборка не содержит MTP head, поэтому режим draft-mtp недоступен; README приводит измерения скорости на мощной многовидеокартной конфигурации, а не универсальную оценку производительности. Лицензия — MIT. Указанные в README версии llama.cpp требуют нескольких исправлений, которые на момент публикации ещё не вошли в upstream: без них могут не работать вызовы инструментов, подключение DFlash и разбор некоторых потоковых ответов. Модель рассчитана на текстовый ввод и текстовую генерацию; README описывает возможность контекста 400K в приведённой конфигурации.

Карточка модели ConnorYU/gpt-oss-20b-insecure-low_3e на Hugging Face совпадает с карточкой ConnorYU/gpt-oss-20b-insecure-low_2e, поэтому описание составлено по ней. ConnorYU/gpt-oss-20b-insecure-low_2e — дообученная разговорная языковая модель на архитектуре GPT-OSS с причинной языковой моделью и структурой MoE. Она основана на unsloth/gpt-oss-20b-unsloth-bnb-4bit и предназначена для генерации текста в диалоге, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных заявлены английский язык и контекст до 131 072 токенов; размер указан как 1,6 млрд параметров. Веса опубликованы в формате Safetensors. Разработчик сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или результаты оценки качества; название репозитория само по себе не подтверждает конкретные свойства безопасности или уязвимости.

granite-3.0-8b-lab-community-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Granite 3.0 8B lab community, разработанной в экосистеме IBM InstructLab. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как instructlab/granite-3.0-8b-lab-community. В метаданных также упоминается набор данных InstructLabCommunity. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые инструменты llama.cpp. Указана поддержка английского языка. Доступны варианты от F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели — 8 миллиардов параметров; сведения об архитектуре и размере контекстного окна в README не приведены. Сильная сторона этой версии — широкий выбор квантизаций: высококачественные варианты Q6 и Q5 рекомендованы для требовательных сценариев, а Q4 и более компактные варианты подходят для запуска при ограниченных ресурсах. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в README подробных данных о производительности, мультиязычности и поддерживаемых модальностях; модель описана как текстовая. Модель распространяется по лицензии Apache-2.0.

Hathor_Fractionate-L3-8B-v.05-GGUF — это квантизированная версия языковой модели Hathor_Fractionate-L3-8B-v.05, разработанной Nitral-AI. Публикацию и квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных средах, включая LM Studio, с поддержкой формата GGUF и специального шаблона промпта на основе ролей system, user и assistant. Модель относится к классу 8B и ориентирована на англоязычные сценарии. Доступны варианты от исходных весов F32 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серии; размер файлов составляет примерно от 3,18 до 32,13 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, а низкие уменьшают требования к оперативной памяти ценой качества генерации. В README не указаны точная архитектура, длина контекста, результаты тестирования, мультимодальные возможности или дополнительные языки. Лицензия обозначена как other, без подробных условий в предоставленных данных. Поэтому перед использованием в коммерческих или иных распространённых сценариях необходимо проверить лицензию исходной модели и условия конкретной публикации. К ограничениям относятся отсутствие сведений о контекстном окне и качестве на конкретных задачах, а также ожидаемая деградация результатов у наиболее компактных квантизированных вариантов.

Hermes-Instruct-7B-100K — диалоговая языковая модель на базе Mistral-7B-Instruct-v0.2, дообученная на 100 тысячах примеров из набора teknium/openhermes в формате Alpaca. Она предназначена для генерации текста по инструкциям и ответов в диалоге; принимает запросы в формате Alpaca или Mistral-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. README приводит результаты оценки на бенчмарках, включая средний балл 64,96, но этих данных недостаточно для вывода о качестве на конкретных прикладных задачах. Подтверждённая языковая поддержка и специальные предметные области в предоставленных материалах не описаны.

Huihui-gemma-4-E4B-it-qat-q4_0-unquantized-abliterated-GGUF — это GGUF-версия инструкционной модели Huihui-gemma-4-E4B-it-qat-q4_0-unquantized-abliterated, разработанной huihui-ai и преобразованной в квантизованные форматы mradermacher. Модель основана на Gemma 4 E4B и предназначена для диалоговых и других текстовых задач, выполняемых локально через совместимые с GGUF инструменты. В README указан английский язык; сведения о точном размере архитектуры и длине контекста отсутствуют. Модель имеет варианты квантования от Q2_K до Q4_K_M и IQ4_XS, размером примерно от 4,5 до 5,4 ГБ. Для мультимодального использования доступны дополнительные файлы mmproj-Q8_0 и mmproj-f16, однако поддерживаемые типы входных данных подробно не описаны. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, при этом качество разных уровней квантования может различаться. К сильным сторонам относятся компактный размер, возможность локального запуска и наличие мультимодального дополнения. Модель помечена как abliterated и uncensored, поэтому её поведение и ограничения безопасности могут отличаться от исходной модели Gemma; конкретные результаты и область применимости зависят от выбранного квантования и используемого программного обеспечения. Лицензия указана как Apache-2.0 со ссылкой на лицензионные условия Gemma 4.