II.6Документация и сопровождение разработки

FlashModel-Qwen3.5-9B — текстовая причинная языковая модель, дообученная flashback2k на базе Qwen/Qwen3.5-9B методом LoRA с последующим объединением весов. Модель содержит около 7,2 млрд параметров, использует архитектуру Qwen3_5ForCausalLM и формат Safetensors; заявленная длина контекста — 262 144 токена. В отличие от мультимодальной базовой модели, этот вариант предназначен только для работы с текстом и не содержит компонента зрения. Модель ориентирована на рассуждения, решение математических задач, генерацию кода, следование инструкциям и вызов инструментов в диалоговых сценариях. Обучение включало англоязычные примеры из наборов Nemotron по математике, соревновательному программированию, агентным задачам, инструкциям и науке; для получения обучающих ответов использовались несколько открытых моделей-учителей. Модель распространяется под лицензией Apache-2.0. Сравнительных бенчмарков пока нет, поэтому качество относительно исходной Qwen3.5-9B не установлено. Обучающие данные были англоязычными, и на запросах на других языках модель может рассуждать по-английски; примеры по математике и коду длиннее 16 тысяч токенов исключались из обучения. Эффект специальных тегов бюджета рассуждений не измерен.

GemCod-R-Sapphire-270M — компактная текстовая модель для генерации кода, созданная DireDreadlord на базе Gemma 3 и дообученная методом SFT на наборе Code-Reasoning-4k. Она предназначена для генерации фрагментов и более длинных программ по инструкциям на естественном языке, а также для пояснений к коду и ответов на вопросы по программированию. Модель использует плотную архитектуру Gemma3ForCausalLM, содержит около 257 млн параметров и поддерживает контекст до 32 768 токенов. Карточка заявляет поддержку основных языков программирования и описывает её как пригодную для запуска на ноутбучных GPU; основной язык карточки — английский. Модель распространяется по лицензии Gemma. Это экспериментальная модель: заявленные в карточке улучшения рассуждений и снижение галлюцинаций не подкреплены приведёнными оценками, поэтому сгенерированный код и объяснения нужно проверять. Карточка прямо рекомендует экспериментальное использование.

cortexso/gemma2 — это семейство текстовых генеративных моделей Gemma, разработанное Google и подготовленное для использования в экосистемах Cortex и Jan. Модели обучались на сочетании синтетических данных и отфильтрованных общедоступных веб-данных с акцентом на качество и задачи, требующие рассуждений. Семейство предназначено для генерации и обработки текста в локальных приложениях и через интерфейсы Cortex CLI или Jan. В README указаны варианты Gemma2-2b, Gemma2-9b и Gemma2-27b; конкретные архитектурные параметры, поддерживаемые языки и модальности не описаны. Также приведена информация о вариантах контекстной длины 8K и 128K, но соответствие этих значений отдельным версиям не уточнено. Сильными сторонами заявлены качество данных обучения и ориентация на рассуждения, однако сведения о результатах тестирования, ограничениях и рекомендуемых сценариях отсутствуют. Лицензия указана как Gemma; оригинальная лицензия доступна в условиях Google Gemma.

unsloth/gemma-2-9b — 9-миллиардная плотная языковая модель семейства Gemma 2 от Google, опубликованная Unsloth в формате safetensors с 4-битной квантизацией bitsandbytes. Модель предназначена для генерации текста; карточка демонстрирует сценарии разговорного общения с шаблонами ShareGPT ChatML и Vicuna, а также продолжения необработанного текста. Контекст модели составляет 8192 токена. В README Unsloth также предлагает использовать Gemma 2 (9B) для дообучения и приводит ноутбуки для Colab, включая сценарии DPO; это описывает рабочий процесс дообучения, а не подтверждает, что данный репозиторий уже дообучен. Метаданные указывают английский язык. Лицензия — Gemma. Карточка описывает 4-битную квантизованную сборку и приводит заявленные Unsloth ускорение и экономию памяти при дообучении, но не содержит независимой оценки качества модели.

Gemma-2-9B-It-SPPO-Iter3-IMat-GGUF — это GGUF-квантизированная версия модели Gemma-2-9B-It-SPPO-Iter3, разработанной UCLA-AGI. Квантизацию выполнил legraphista с использованием llama.cpp версии b3311 и метода IMatrix, применённого к ряду квантованных вариантов. Исходная модель представлена в формате BF16, а в качестве связанного набора данных указан UltraFeedback. Модель предназначена для генерации текста и диалоговых сценариев в средах, совместимых с llama.cpp и форматом GGUF. Доступны варианты с разной точностью и размером, включая BF16, FP16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-квантизации; размеры файлов варьируются примерно от 3,81 до 18,49 ГБ. В метаданных указан английский язык. Контекстное окно, поддерживаемые модальности и точные характеристики архитектуры в README не указаны. К сильным сторонам относятся широкий выбор форматов для подбора компромисса между качеством, скоростью и требованиями к памяти, а также применение IMatrix в большинстве вариантов с низкой и средней разрядностью. Ограничения связаны с потерями качества, возможными при агрессивной квантизации, и необходимостью выбирать файл в соответствии с доступной памятью и совместимым программным обеспечением. Модель распространяется по лицензии Gemma; условия лицензии следует учитывать при использовании.

ehristoforu создал эту модель как слияние через passthrough в mergekit на основе ehristoforu/Gemma2-9b-it-train6. Это плотная языковая модель семейства Gemma 2 с архитектурой Gemma2ForCausalLM и примерно 7,3 млрд параметров. Она предназначена для генерации текста в диалоговом режиме и подходит для создания ответов и продолжения текста по запросу. Модель принимает текст и выдаёт текст. В метаданных указан контекст до 8192 токенов; веса опубликованы в формате safetensors. README описывает повторное включение последнего слоя базовой модели при сборке, но не приводит сравнений качества или подробностей обучения. Лицензия в предоставленных данных не указана.

Gemma-2-9b-it-WPO-HB-GGUF — это GGUF-квантизация инструкционной языковой модели gemma-2-9b-it-WPO-HB, разработанной wzhouad и подготовленной в формате GGUF пользователем bartowski. Модель основана на Gemma 2 с примерно 9 млрд параметров и предназначена для генерации текста и диалогового использования в совместимых средах, включая llama.cpp и LM Studio. В описании также указано, что исходная модель обучалась на датасете wzhouad/gemma-2-ultrafeedback-hybrid. Доступны варианты от F16 до низкобитных Q2–Q8 и IQ-квантизаций, размер файлов составляет примерно от 4 до 18,49 ГБ. Квантизация выполнена с использованием imatrix и специального набора данных, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5 и Q4; Q3 и Q2 экономят память, но заметно уступают по качеству. Отдельные варианты оптимизированы для ARM-процессоров и требуют соответствующих инструкций SVE или i8mm. Модель подходит для локального запуска, чат-ботов и других задач текстовой генерации при наличии совместимого программного обеспечения и достаточного объёма оперативной или видеопамяти. Ограничения включают неизбежную потерю качества при сильной квантизации, отсутствие в README сведений о поддерживаемых языках, размере контекстного окна и конкретных условиях лицензирования. Формат prompt должен соответствовать шаблону Gemma с системными, пользовательскими и модельными turn-маркерами.

philipp-zettl/gemma-2b-it — текстовая инструктивная модель семейства Gemma, разработанного Google; репозиторий содержит модель с архитектурой decoder-only GemmaForCausalLM и примерно 2,5 млрд параметров. Она принимает текстовые запросы и генерирует текст, поддерживает диалоговый режим и рассчитана на английский язык. Контекст модели — до 8192 токенов; доступны файлы в форматах Safetensors и GGUF. Модель подходит для диалоговых приложений, черновиков текстов, суммаризации, ответов на вопросы и исследовательских экспериментов. Компактный размер позволяет запускать её на компьютерах с ограниченными ресурсами. Как и другие языковые модели, она может выдавать фактические ошибки, отражать смещения обучающих данных и хуже справляться со сложными задачами, неоднозначными формулировками и нюансами языка. Лицензия в метаданных указана как other; конкретные условия следует проверять в карточке и документах репозитория.

TechxGenus/gemma-2b-it-GPTQ — GPTQ-квантизированная версия инструкционно дообученной модели gemma-2b-it, разработанной Google. Это компактная decoder-only языковая модель с открытыми весами, предназначенная для преобразования текста в текст и работающая на английском языке. Модель подходит для генерации текста, ответов на вопросы, суммаризации, рассуждений и других сценариев, где требуется обработка естественного языка. Размер 2B параметров и GPTQ-квантизация ориентированы на запуск при ограниченных вычислительных ресурсах, включая локальные компьютеры, однако README не указывает точные требования к памяти, размер контекста и характеристики производительности. К ограничениям относятся заявленная поддержка английского языка и отсутствие в предоставленных данных подробных результатов тестирования, ограничений безопасности и сравнения с другими моделями. Использование регулируется лицензией Google Gemma Terms of Use; доступ к модели на Hugging Face требует принятия соответствующих условий.

Gemma 3 1B IT — компактная instruction-tuned модель для генерации текста, разработанная Google. Данная версия распространяется сообществом LM Studio в формате GGUF: квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для локального запуска и поддерживает задачи генерации текста, включая ответы на вопросы, суммаризацию и рассуждения. Модель имеет размер 1 млрд параметров, контекст до 32 000 токенов и максимальную длину вывода 8192 токена. Для работы требуется llama.cpp runtime версии 1.19.0 или более новой, причём README отдельно указывает на необходимость актуальной beta-версии runtime. К сильным сторонам относятся компактный размер, возможность локального использования и большой контекст; конкретные языки и модальности в предоставленных данных не указаны. Ограничения включают зависимость от совместимого runtime и потенциальные ошибки, неточности или неподходящее содержимое, характерные для генерирующих моделей. Использование регулируется лицензией Gemma; для доступа на Hugging Face требуется ознакомиться с условиями лицензии Google.

unsloth/gemma-3n-E4B-it-unsloth-bnb-4bit — это 4-битная версия Gemma 3n E4B-it, разработанная Unsloth на базе модели Google gemma-3n-E4B-it. Модель предназначена для диалоговых и текстовых задач, включая генерацию ответов и использование в приложениях на базе Transformers. В карточке указана поддержка английского языка и формат image-text-to-text, однако текущие рекомендации README подтверждают поддержку только текста. Модель относится к семейству Gemma 3n и имеет размер 4B; используется 4-битное квантование bnb, рассчитанное на снижение требований к памяти. Максимальная длина контекста составляет 32K токенов. Для запуска рекомендуется Transformers или совместимые инструменты, а для Gemma 3n указаны параметры temperature 1.0, top_k 64 и top_p 0.95. Unsloth заявляет ускорение до 2 раз и снижение использования памяти до 80% для сценариев тонкой настройки, но конкретные результаты зависят от оборудования и конфигурации. Основные ограничения — отсутствие заявленной поддержки изображений в текущей версии, ограниченная информация о точной архитектуре и отсутствие подробных результатов оценки качества в README. Модель распространяется по лицензии Gemma; перед использованием необходимо учитывать условия этой лицензии.

Gemma-4-12B-Coder-fable5-composer2.5-4bit — 4-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная на базе google/gemma-4-12B-it. Конвертацию и публикацию выполнило сообщество MLX. Модель предназначена для генерации текста, программного кода и решения задач, требующих рассуждений, включая локальное использование в чат-режиме через библиотеку mlx-lm. Указана текстовая специализация; поддерживаемые языки, контекстное окно и дополнительные модальности в README не раскрыты. Архитектура описана как Gemma-4 с размером 12 млрд параметров, а 4-битная квантизация снижает требования к памяти при заявленном сохранении почти исходных возможностей рассуждения и программирования. Основное преимущество — оптимизация для локального запуска на компьютерах Apple Silicon с использованием MLX и возможность свободного использования, изменения и распространения. Ограничения включают зависимость от экосистемы MLX и Apple Silicon для целевого сценария, а также потенциальные потери качества, связанные с квантизацией; фактические показатели производительности и качества в README не приведены. Лицензия — Apache 2.0.

OsaurusAI подготовила MLX-сборку JANG_4M на основе инструкционной Gemma 4 от Google DeepMind с 12 млрд параметров. Это плотная модель семейства gemma4_unified с 48 текстовыми слоями, предназначенная для диалога и генерации текста; заявлен интерфейс для вызова инструментов. Веса упакованы в формате safetensors с аффинной смешанной точностью: эмбеддинги токенов, нормализации, компоненты обработки медиа и связанные проекторы сохранены в fp16, проекции внимания и маршрутизатора MoE — в 8-битном виде, основная часть MLP и экспертов — в 4-битном. Проверенный путь запуска через JANG-загрузчик vMLX поддерживает только текст. Хотя веса и конфигурации для изображений и аудио сохранены, для них требуется совместимая реализация Gemma 4 в MLX; в стандартном mlx_vlm такой поддержки пока нет. Модель распространяется по лицензии Gemma. Сборка предназначена для MLX и Apple Silicon; фактическое использование зависит от совместимого JANG-загрузчика и шаблонов Gemma 4.

SevenOfNine/Gemma-4-26B-A4B-It-Abliterated-GGUF — набор GGUF-квантизаций модели Gemma-4-26B-A4B-It-Abliterated, разработанной SevenOfNine на основе google/gemma-4-26B-A4B-it. Модель предназначена для текстовых и мультимодальных задач с изображениями, вызова инструментов, рассуждений, творческого и ролевого использования. Доступны варианты Q5_K_M, Q6_K и BF16, а также отдельный vision-проектор; рекомендуемый вариант Q5_K_M занимает 19,1 ГБ. Архитектура Mixture-of-Experts содержит 26 млрд параметров, из которых активно около 4 млрд. Заявлены поддержка английского и французского языков и контекст до 250 000 токенов при использовании llama.cpp с соответствующими настройками и достаточным объёмом оперативной памяти. Модель подвергнута abliteration с помощью Heretic для уменьшения отказов в ответах: по данным карточки, показатель отказов снизился со 100 из 100 у исходной модели до 18 из 100, при KL-дивергенции 0,0845. Это сохраняет близость к исходным возможностям, но одновременно означает ослабление встроенных ограничений безопасности. Для работы с изображениями и инструментами требуются шаблон чата и параметры llama.cpp, совместимые с Gemma 4; полноценное качество зависит от выбранной квантизации, объёма RAM и VRAM. Модель распространяется по лицензии Gemma.

Gemopus-4-26B-A4B-it-GGUF — мультимодальная instruction-tuned модель, разработанная Jackrong на основе Google Gemma 4 26B Instruction. Это версия с supervised fine-tuning, ориентированная на сохранение исходного стиля рассуждений Gemma 4 и улучшение качества, структуры, ясности и согласованности ответов. Модель распространяется в формате GGUF и предназначена для использования с llama.cpp и совместимыми инструментами. Модель поддерживает сценарии генерации текста и работы с изображениями, включая диалоговые, технические и научно-популярные задачи. В README заявлена поддержка английского, китайского, корейского и японского языков. Среди сильных сторон отмечаются более естественный стиль общения, улучшенная организация длинных ответов, точность профессиональной терминологии и способность объяснять сложные темы понятным языком. Рекомендуемые параметры генерации: temperature=1.0, top_p=0.95 и top_k=64. Размер контекстного окна и точные сведения об архитектуре, включая значение обозначения A4B, в предоставленных данных не указаны. Публичные результаты benchmark также отсутствуют, поэтому фактические преимущества модели над базовой Gemma 4 или другими моделями не подтверждены количественно. README подчёркивает консервативный подход к дообучению без агрессивной дистилляции цепочек рассуждений; модель может иметь ограничения, связанные с отсутствием последующего reinforcement learning и process supervision. Лицензия — Apache License 2.0.

Ghostwriter Llama 3.1 8B Merged Run02 — дообученная автором hasithanilwakka языковая модель на основе unsloth/Llama-3.1-8B-Instruct-unsloth-bnb-4bit. Это плотная автрорегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового общения; в карточке также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальную область применения, конкретные улучшения после дообучения или результаты оценки качества.

Эта модель — дообученная версия Qwen/Qwen3-32B, созданная на датасете open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning. Это плотная авторегрессионная модель семейства Qwen3 с 29,7 млрд параметров, рассчитанная на генерацию текста в диалоговом формате; базовая модель поддерживает многоязычный диалог, рассуждения, программирование и работу с инструментами. Для этой версии заявлен контекст до 40 960 токенов. Модель может быть полезна для генерации ответов и рассуждений по материалам Stack Exchange и Stack Overflow, а также для задач, представленных обучающим датасетом. Подробности о методике обучения, оценке качества и специальных ограничениях в карточке отсутствуют. Лицензия указана как other, поэтому условия использования следует сверять с лицензией репозитория и базовой модели.

Модель laion/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning_num-train-epochs_8-0_Qwen3-32B — дообученная командой laion плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-32B. Она содержит 29,7 млрд параметров, работает с текстом и поддерживает диалоговый сценарий. Для неё указаны контекст до 40 960 токенов и формат весов safetensors. Модель предназначена для генерации текста, в частности ответов в стиле Stack Exchange и Stack Overflow, связанных с техническими вопросами и задачами в песочницах. README называет обучающий набор open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning, но не приводит результатов оценки или подробностей об ограничениях. Указана лицензия other; конкретные условия использования следует проверять в карточке модели и у базовой модели.

MLX-версия языковой модели GLM-4.7, разработанной организацией zai.org и конвертированной сообществом mlx-community из исходной модели zai-org/GLM-4.7 с помощью mlx-lm 0.30.0. Модель предназначена для генерации текста и запуска в экосистеме MLX, в том числе через библиотеку mlx-lm на совместимом оборудовании Apple. Типичные сценарии включают диалоговое взаимодействие и другие задачи текстовой генерации. Модель использует 6-битное квантование и формат MLX. В карточке указаны поддерживаемые языки English и Chinese, модальность — текстовая. Архитектура, количество параметров и размер контекста в README не уточняются. К сильным сторонам относятся адаптация для MLX и снижение требований к памяти благодаря 6-битному представлению; ограничения — отсутствие подробных данных о качестве, производительности, точном аппаратном охвате и возможностях исходной GLM-4.7. Модель распространяется по лицензии MIT.

GLM-4.7-Flash-MLX-4bit — это 4-битная квантизированная версия языковой модели GLM-4.7-Flash, разработанной организацией zai-org. Квантизация выполнена командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon в экосистеме MLX. Модель предназначена для генерации текста и может использоваться в сценариях, поддерживаемых библиотекой Transformers и инструментами MLX, включая локальный запуск на совместимых компьютерах Apple. В README заявлена поддержка английского и китайского языков. Модель относится к текстовой модальности; сведения о размере, конкретной архитектуре и максимальной длине контекста не указаны. Ключевое преимущество версии — снижение требований к памяти и вычислительным ресурсам за счёт 4-битной квантизации и оптимизации под Apple Silicon. При этом квантизация может влиять на точность и качество генерации по сравнению с исходной моделью, а фактическая производительность зависит от оборудования и настроек запуска. Модель распространяется по лицензии MIT.

GLM-5.3-Flash W4A16 NVFP4 GGUF — преобразованная в формат GGUF версия модели axiomofmind/GLM-5.3-Flash-W4A16-NVFP4, основанной на zai-org/GLM-5.3-Flash-BF16. Это разговорная текстовая модель семейства GLM5Next с архитектурой MoE. Основные маршрутизируемые эксперты используют квантование W4A16 NVFP4 с размером группы 16; внимание, общие эксперты, маршрутизаторы, эмбеддинги, выходной слой, веса MTP и другие сохранённые тензоры остаются в BF16 или F32. Файл модели с весами MTP занимает 204,1 ГБ. Модель предназначена для генерации текста и диалогов. Для запуска требуется сборка llama.cpp с поддержкой GLM5Next и GGUF NVFP4. Репозиторий распространяется по лицензии MIT.

RedHatAI/GLM-5.3-NVFP4 — текстовая генеративная языковая модель, разработанная Red Hat AI на основе модели zai-org/GLM-5.3. Она предназначена для генерации текста, следования инструкциям и решения задач, требующих рассуждений, включая математические и научные вопросы. Заявлены поддерживаемые языки английский и китайский, а входом и выходом модели является текст. Модель использует архитектуру GlmMoeDsaForCausalLM и формат compressed-tensors. Это вариант с квантованием весов и активаций в NVFP4/FP4 E2M1 с двухуровневым масштабированием; слои вне маршрутизируемых экспертов оставлены без квантования. Чекпойнт оптимизирован для инференса на GPU Blackwell и создан с применением LLM Compressor и калибровочных данных perfectblend. Для запуска рекомендуется vLLM; в примере конфигурации используются четыре устройства B200, FP8 E4M3 KV-кэш и speculative decoding. По приведённым оценкам, модель сохраняет близкую к базовой FP8-версии точность на задачах следования инструкциям, математики, рассуждений и научных вопросов. Наиболее сильные результаты показаны на GSM8K Platinum и MATH-500, однако на IFEval, AIME 2025 и GPQA Diamond она уступает базовой модели в FP8. Ограничения включают зависимость от совместимой инфраструктуры Blackwell и специализированного стека инференса; размер модели, длина контекста и точные требования к памяти в README не указаны. Модель распространяется по лицензии glm-5.3, обозначенной как other.

GML-Mistral-merged-v1 — языковая модель, опубликованная mlabonne как попытка воспроизвести zyh3826/GML-Mistral-merged-v1. Это слияние весов quantumaikr/quantum-v0.01 и mncai/mistral-7b-dpo-v5, выполненное с помощью mergekit методом passthrough; модель построена на архитектуре MistralForCausalLM и содержит около 8,9 млрд параметров. Модель предназначена для генерации текста и может использоваться для диалогов, ответов на вопросы и рассуждений на основе текстового запроса. В метаданных указан контекст до 32 768 токенов. README приводит результаты оценки на задачах AI2 Reasoning Challenge и HellaSwag, но не описывает целевые языки или специализированные области применения. Веса доступны в формате safetensors, лицензия — Apache-2.0. Показатели из README относятся к отдельным бенчмаркам и сами по себе не гарантируют качество ответов в прикладных сценариях.

Sumail/Goat_Derrick13 — слитая диалоговая языковая модель семейства StableLM, созданная автором репозитория с помощью mergekit и метода SLERP из coffiee/s18 и Sumail/Goat_Derrick12. Модель содержит 1,4 млрд параметров, использует архитектуру StableLmForCausalLM и рассчитана на генерацию текста и чат-взаимодействие с контекстом до 4096 токенов. Модель подходит для диалоговых приложений и генерации текста. README не сообщает о специальных предметных областях или поддерживаемых языках, поэтому их нельзя конкретизировать. Репозиторий распространяет веса в формате safetensors; лицензия в предоставленных данных не указана.

GPlatty-30B — авторегрессионная языковая модель на архитектуре LLaMA, созданная как слияние Platypus-30B и gpt4-alpaca-lora-30b. В карточке указаны авторы базовых моделей: Cole Hunter и Ariel Lee для Platypus-30B, chansung для gpt4-alpaca-lora-30b. Модель содержит 32,3 млрд параметров и принимает контекст длиной до 2048 токенов. Модель предназначена для генерации текста на английском языке, включая ответы на запросы и выполнение инструкций. В карточке приведены результаты оценки на ARC, HellaSwag, MMLU и TruthfulQA. Доступны веса в форматах PyTorch и safetensors. Лицензия указана как other; README отмечает, что базовые веса LLaMA распространяются по специальной некоммерческой лицензии Meta. Возможны токсичные, вредные или предвзятые ответы; результаты генерации не следует считать достоверным источником без проверки.

Модель lgaalves/gpt2-xl_lima разработана Luiz G A Alves и представляет собой авторегрессионную GPT-2 XL, дообученную на инструкционном наборе GAIR/lima. Она предназначена для генерации текста по запросу и выполнения инструкций на английском языке; её можно использовать напрямую через Transformers или дообучать для прикладных задач. Модель содержит около 1,5 млрд параметров и поддерживает контекст до 1024 токенов. В опубликованных тестах её средний результат близок к базовой GPT-2 XL; оценка ARC немного выше, а HellaSwag немного ниже базовой модели. Лицензия — MIT. Разработчик предупреждает, что модель тестировалась ограниченно, может выдавать недостоверную информацию и воспроизводить предвзятости из неотфильтрованных интернет-данных.

GPT4All-13b-snoozy — языковая модель Nomic AI для генерации текста в формате чат-бота. Это дообученная версия LLaMA 13B с 12,9 млрд параметров, обученная на корпусе примеров взаимодействий с ассистентом из набора nomic-ai/gpt4all-j-prompt-generations, revision v1.3-groovy. Модель предназначена для диалогов, решения текстовых задач, помощи с кодом и создания стихов, песен и рассказов. Она принимает текст и генерирует текст на английском языке; максимальная длина контекста — 2048 токенов. Для использования указана лицензия GPL.

Это GGUF-представление модели openai/gpt-oss-20b, подготовленное FreedomAISVR с квантованием MXFP4_MOE для запуска через совместимые инструменты, например llama.cpp. Модель относится к семейству GPT-OSS, использует архитектуру смеси экспертов и содержит 20,91 млрд параметров; файл весов занимает 11,28 ГиБ. Веса экспертных FFN-блоков представлены в MXFP4, веса внимания — в Q8_0, а параметры маршрутизатора, нормализации и смещений — в F32. Модель предназначена для генерации текста и диалогового использования. По карточке заявлена поддержка запуска на GPU или CPU, без требования к архитектуре NVIDIA Blackwell. Квантование сокращает размер весов, но может повлиять на качество вывода относительно исходной модели. Репозиторий распространяется по лицензии Apache-2.0.

GPT-R (Ronin) — экспериментальная модель генерации текста на архитектуре GPT-J, созданная смешиванием весов ppo_hh_gpt-j и GPT-JT-6B-v1 в пропорции 60/40. Слияние выполнено в FP32, итоговые веса сохранены в FP16. Модель предназначена для выполнения простых инструкций на естественном языке: написания статей с заданным уклоном, пошаговых руководств и других текстовых задач. GPT-R также предлагается как основа для экспериментов со слиянием с разговорными, сюжетными и приключенческими моделями того же класса и размера. Контекст составляет 2048 токенов, основной язык карточки — английский. Модель выпущена под лицензией BigScience OpenRAIL-M.

granite-3.0-8b-lab-community-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Granite 3.0 8B lab community, разработанной в экосистеме IBM InstructLab. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как instructlab/granite-3.0-8b-lab-community. В метаданных также упоминается набор данных InstructLabCommunity. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через LM Studio и другие совместимые инструменты llama.cpp. Указана поддержка английского языка. Доступны варианты от F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Размер базовой модели — 8 миллиардов параметров; сведения об архитектуре и размере контекстного окна в README не приведены. Сильная сторона этой версии — широкий выбор квантизаций: высококачественные варианты Q6 и Q5 рекомендованы для требовательных сценариев, а Q4 и более компактные варианты подходят для запуска при ограниченных ресурсах. Ограничения связаны с потерями качества при низких уровнях квантизации, а также с отсутствием в README подробных данных о производительности, мультиязычности и поддерживаемых модальностях; модель описана как текстовая. Модель распространяется по лицензии Apache-2.0.