II.6Документация и сопровождение разработки

EpistemeAI2/Fireball-Phi-3-medium-4k-inst-Philos — дообученная на базе Phi-3 Medium Instruct модель для генерации ответов в диалоговом формате. Карточка описывает семейство Phi-3 Medium как плотную авторегрессионную языковую модель примерно на 13,8 млрд параметров; контекст составляет 4096 токенов. Эта версия ориентирована на английский язык и общие коммерческие и исследовательские сценарии, включая работу в условиях ограниченных вычислительных ресурсов и низкой задержки. Модель подходит для диалоговых помощников, ответов на вопросы, а также задач рассуждения, математики, логики и программирования. Базовая Phi-3 Medium Instruct прошла supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. Как и другие языковые модели, она может выдавать неточные или вымышленные сведения, предвзятые или оскорбительные ответы. Качество на языках помимо английского ниже; сгенерированный код и ответы для чувствительных или высокорисковых сценариев требуют проверки. README преимущественно описывает базовую Phi-3 Medium Instruct, поэтому отдельные характеристики дообучения EpistemeAI2 на философских данных в предоставленной карточке подробно не раскрыты.

Flan-T5-Large-Alpaca — англоязычная модель генерации текста на архитектуре T5, опубликованная VMware. Она основана на google/flan-t5-large и дообучена на датасете Alpaca методом переноса стиля; авторы отмечают, что шаблон промпта Alpaca может улучшить ответы на некоторые запросы. Модель предназначена для генерации ответов и выполнения инструкций в формате text-to-text. Она содержит 385,2 млн параметров, работает с текстом и имеет контекст длиной 512 токенов. Репозиторий содержит веса PyTorch и safetensors. Лицензия указана как other, поэтому перед использованием следует проверить условия в карточке модели и базовой модели.

ForgottenMaid-12B — объединённая языковая модель на 12,1 млрд параметров, созданная с помощью mergekit и метода Arcee Fusion. За основу взята yamatazen/LoyalMaid-12B, также в объединение включена ReadyArt/Forgotten-Safeword-12B-v4.0; архитектура — плотная MistralForCausalLM, веса опубликованы в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и диалогового общения. Метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста составляет 1 024 000 токенов. Сведения о лицензии, целевых языках и специальных прикладных областях в предоставленных источниках отсутствуют.

Gaston_Yi-1.5-9B-Chat — диалоговая языковая модель, опубликованная baconnier и дообученная на основе 01-ai/Yi-1.5-9B-Chat. Это плотная модель семейства Llama с 8,6 млрд параметров, предназначенная для генерации текста в формате чата. Обучение проводилось с использованием Unsloth и библиотеки TRL. Модель подходит для диалоговых ответов и генерации текста; базовая Yi-1.5-9B-Chat также рассчитана на следование инструкциям, рассуждения, математику и программирование. Поддерживается контекст до 8192 токенов. В карточке указан английский язык и лицензия Apache 2.0.

bartowski/gemma-1.1-7b-it-GGUF — это набор GGUF-квантизованных версий языковой модели Gemma 1.1 7B IT, разработанной Google и подготовленной для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы и выполнение инструкций в текстовом формате. Модель содержит около 7 миллиардов параметров и является текстовой, без заявленной поддержки изображений или других модальностей. Доступны варианты квантизации от Q8_0 до Q2_K с размером файлов примерно от 3,48 до 9,07 ГБ. Более качественные варианты требуют больше памяти; в README рекомендован Q6_K, а низкоразрядные варианты подходят для систем с ограниченным объёмом RAM, но могут заметно уступать в качестве. Сведения о размере контекста и поддерживаемых языках не указаны. Преимущество этого набора — возможность локального запуска в формате GGUF с выбором компромисса между качеством, размером и требованиями к памяти. Ограничения связаны с потерями качества при агрессивной квантизации, а также с тем, что README не содержит подробных оценок, перечня языков и характеристик производительности. Использование регулируется лицензией Gemma; для доступа на Hugging Face требуется принять условия лицензии Google.

JPQ24 выпустил дообученную чат-модель на архитектуре Gemma 2. Она содержит 2,7 млрд параметров, принимает текст и генерирует текст; заявленное окно контекста — 8192 токена. Модель предназначена для диалоговой генерации текста. Карточка не описывает специализацию дообучения или конкретные сценарии применения. Модель дообучена на unsloth/gemma-2-2b-it-bnb-4bit с использованием Unsloth и библиотеки TRL. В репозитории доступны веса в формате Safetensors. Лицензия — Apache-2.0.

bartowski/gemma-2-9b-it-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Gemma 2 9B IT, разработанной Google и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и другие задачи, где требуется выполнение инструкций. Доступны варианты от F32 до низкобитных Q2 и IQ-квантизаций объёмом примерно от 3,43 до 36,97 ГБ. Модель является текстовой и использует архитектуру Gemma 2 с примерно 9 млрд параметров. README не указывает поддерживаемые языки и размер контекста. Для работы необходимо применять специальный формат prompt с маркерами начала и конца хода; системные сообщения не поддерживаются. Квантизации с более высокой точностью сохраняют лучшее качество, а варианты Q4–Q6 предлагают компромисс между качеством и требованиями к памяти; низкобитные варианты экономичнее, но могут заметно уступать в качестве. Распространение основано на лицензии Gemma от Google. Для доступа к исходной модели на Hugging Face требуется принять условия использования Google. README не содержит подробного описания ограничений лицензии или результатов бенчмарков, поэтому качество следует оценивать с учётом выбранной квантизации и конкретного сценария применения.

AvoCahDoe/gemma-2-9b-rlmpq-balanced — вариант Google Gemma 2 9B, подготовленный методом RL-MPQ для сбалансированного сценария смешанной точности. Это плотная авторегрессионная модель семейства Gemma 2 с 9 млрд параметров, предназначенная для генерации текста; README описывает назначение метода как распределение разрядности по слоям с помощью PPO и проверку качества по perplexity на WikiText-2. Средняя разрядность составляет 4,2857 бита на вес. Веса экспортированы в fake-quantized FP16 и рассчитаны на использование с Transformers; модель принимает текст и генерирует текст, с контекстом до 8192 токенов. Метаданные указывают английский язык. Модель основана на google/gemma-2-9b и распространяется по лицензии Gemma. Проверка на WikiText-2 не заменяет оценку на прикладных данных, а результаты сценария Balanced в карточке приведены не полностью.

Gemma 2 Aeria Infinity 9B — диалоговая модель для генерации текста, созданная объединением моделей ifable/gemma-2-Ifable-9B и BAAI/Gemma2-9B-IT-Simpo-Infinity-Preference с помощью Mergekit. Она основана на плотной архитектуре Gemma 2 с 9 млрд параметров и рассчитана на текстовый ввод и генерацию ответов в диалоге; контекст составляет до 8192 токенов. В конфигурации слияния указан метод dare_ties, маска int8 и формат вычислений bfloat16. Модель подходит для чат-ботов, ответов на инструкции и генерации текста на английском языке. В метаданных указана библиотека Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

unsloth/gemma-2b — текстовая генеративная модель семейства Gemma с плотной архитектурой GemmaForCausalLM и 2,5 млрд параметров. Репозиторий подготовлен Unsloth и содержит веса в формате safetensors; README Unsloth описывает инструменты для дообучения моделей Gemma и других семейств, в том числе разговорные и текстовые сценарии. Модель предназначена для генерации текста и может служить основой для диалоговых и текстовых приложений или дальнейшего дообучения. Она поддерживает английский язык, имеет контекстное окно 8192 токена и распространяется по лицензии Apache-2.0. Карточка не приводит отдельных оценок качества или подробных ограничений применения.

pytorch/gemma-3-12b-it-AWQ-INT4 — это квантизированная версия instruction-tuned языковой модели google/gemma-3-12b-it, разработанная pytorch. Модель предназначена для диалогового взаимодействия, генерации и обработки текста, включая ответы на вопросы, краткие объяснения и другие сценарии использования через chat completions или библиотеку Transformers. В README явно указан английский язык; сведения о поддерживаемых модальностях и размере контекстного окна отсутствуют. Модель содержит 12 миллиардов параметров и использует квантизацию AWQ-INT4 с группой размера 128 для весов линейных слоёв. Квантизация снижает требования к памяти по сравнению с исходной версией bfloat16 и рассчитана на запуск с PyTorch, torchao, Transformers и vLLM. В примере генерации поддерживается режим рассуждений, который можно включать или отключать через chat template. Для работы с vLLM требуется nightly-версия vLLM и torchao; из-за известных проблем совместимости рекомендуется отключать compile cache. По данным README, на ограниченной калибровке из 30 примеров задачи mmlu_philosophy модель показала точность 76,85% против 75,56% у gemma-3-12b-it-INT4 и 79,10% у базовой версии bfloat16. Эти результаты нельзя считать полноценной оценкой общих возможностей модели. В рецепте квантизации указано, что AWQ на данный момент работает только на H100 INT4, поэтому аппаратная совместимость может быть ограничена. Модель распространяется по лицензии Apache-2.0.

unsloth/gemma-3-1b-it-bnb-4bit — квантизированная 4-битная версия instruction-tuned модели google/gemma-3-1b-it, основанной на семействе Gemma 3. Разработчик исходной модели — Google DeepMind; сборка и публикация варианта выполнены Unsloth. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммаризации документов, рассуждений и понимания изображений. Модель мультимодальная: принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; изображения нормализуются до 896×896 пикселей и кодируются в 256 токенов, максимальный объём генерируемого ответа составляет 8192 токена. Поддерживается более 140 языков, включая английский; в метаданных этой карточки явно указан язык en. Небольшой размер и 4-битное представление упрощают локальное развёртывание на ноутбуках, настольных компьютерах и в облачной инфраструктуре с ограниченными ресурсами, однако квантизация может снижать точность по сравнению с полноразмерной версией. Модель распространяется по лицензии Gemma; применяются соответствующие условия использования Google. В README не приведены точные требования к аппаратному обеспечению, результаты тестирования или подробные сведения об архитектуре, поэтому производительность в конкретных задачах по этой карточке оценить нельзя.

unsloth/gemma-3-1b-it-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 1B, разработанной Google DeepMind и опубликованной в формате GGUF командой Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и понимания изображений, поэтому подходит для локального развёртывания на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре с ограниченными ресурсами. Это мультимодальная модель: она принимает текст и изображения, а генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов; максимальный объём генерируемого ответа составляет 8192 токена. Семейство Gemma 3 поддерживает более 140 языков, однако в карточке этой версии явно указан английский язык. Меньший размер упрощает локальный запуск и снижает требования к ресурсам, но по возможностям и качеству модель может уступать более крупным вариантам Gemma 3. Изображения обрабатываются после нормализации до 896×896 пикселей и кодируются в 256 токенов каждое. Модель распространяется по лицензии Gemma; применимые условия использования определяются официальными Terms of Use Google. README не содержит подробностей о конкретной квантовке GGUF, требованиях к памяти или измеренных показателях качества.

litert-community/gemma-3-270m-it — компактная instruction-tuned модель семейства Gemma 3, разработанная Google DeepMind на основе исследований и технологий Gemini. Она предназначена для локального и ресурсоограниченного развертывания, включая мобильные устройства, веб-приложения, настольные системы и собственную облачную инфраструктуру, с использованием LiteRT и совместимых инструментов Google AI Edge. Модель содержит 270 млн параметров и поддерживает генерацию текста для ответов на вопросы, суммаризации документов, анализа и рассуждений. Для семейства Gemma 3 заявлены мультимодальные возможности с обработкой текста и изображений и генерацией текста; изображения нормализуются до 896 × 896 и кодируются в 256 токенов. Для вариантов 1B и 270M указан контекст до 32K токенов на запрос, включая вход и доступный объём вывода. Поддерживается более 140 языков. Данные обучения имеют срез знаний по август 2024 года и включают веб-тексты, код, математические материалы и изображения. Сильными сторонами модели являются небольшой размер, возможность работы на устройствах с ограниченными ресурсами, открытые веса и пригодность для встроенных приложений. Ограничения включают меньший объём параметров по сравнению с крупными вариантами Gemma 3, возможные ограничения качества в сложных задачах и то, что GPU-ускорение для Gemma 3 270M в указанных сценариях на момент публикации README ещё находилось в разработке. Использование регулируется лицензией Gemma и соответствующими условиями Google.

unsloth/gemma-3-270m-it-qat-GGUF — GGUF-версия инструкционно дообученной модели Gemma 3 с 270 млн параметров, разработанной Google DeepMind и подготовленной Unsloth. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и других диалоговых сценариев, а также может анализировать изображения и выдавать текстовый результат. Модель поддерживает текстовые и графические входные данные, более 140 языков и контекст до 32 тысяч токенов для моделей размером 270M. Вариант основан на google/gemma-3-270m-it-qat-q4_0-unquantized и использует квантизацию QAT в формате GGUF, что ориентировано на запуск с пониженными требованиями к ресурсам, в том числе на локальных устройствах. Конкретные сведения об архитектуре и языковых характеристиках отдельных языков в карточке не приведены. К сильным сторонам относятся малый размер, поддержка длинного контекста, мультимодальность и возможность локального развертывания. Ограничением является существенно меньшая ёмкость модели по сравнению с крупными вариантами Gemma 3, поэтому сложные задачи и требовательные сценарии могут выполняться менее качественно. Модель распространяется по лицензии Gemma; её использование регулируется условиями Google.

Карточка модели tepirale/gemma-4-12B-coder-fable5-composer2.5-v1-safetensors-yuxinlu1 на Hugging Face совпадает с карточкой tepirale/gemma-4-12B-coder-fable5-composer2.5-v1-assistant-safetensors-yuxinlu1, поэтому описание составлено по ней. Это объединённая модель на архитектуре Gemma 4, опубликованная пользователем tepirale в формате SafeTensors для Transformers. Метаданные связывают её с двумя моделями: yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1-GGUF и yuxinlu1/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF. README описывает преобразование весов из GGUF в SafeTensors, но не приводит подробностей об обучении или оценке качества. Модель предназначена для генерации текста и, согласно pipeline_tag, работы с изображениями вместе с текстом. Теги указывают на сценарии программирования, агентных задач, использования инструментов и терминала. Репозиторий использует библиотеку Transformers; лицензия — Apache 2.0. Подтверждённых сведений о поддерживаемых языках, контекстном окне и точном числе параметров в предоставленных данных нет.

Gemma-4-12B-Heretic-Abliterated-GGUF — набор GGUF-квантизаций модели culturerevolt/gemma-4-12b-heretic-abliterated, созданной на основе архитектуры Google Gemma-4 12B Instruction Tuned. Репозиторий разработан culturerevolt; в README также отмечен вклад Google DeepMind в архитектуру и Philipp Emanuel Weidmann в разработку подхода Heretic abliteration. Модель предназначена для локальной генерации текста, диалогов, рассуждений, творческого письма и агентских сценариев, включая обработку структурированного вывода и JSON. Поддержка изображений заявлена через отдельный мультимодальный проектор gemma-4-12b-it-mmproj-f16.gguf. Доступны варианты Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и IQ3_XS с разным соотношением качества, скорости и требований к памяти. Для части вариантов использована калибровка iMatrix, ориентированная на сохранение логики, синтаксиса, инструментального вызова и качества повествования при квантовании. Точный список языков и базовый размер контекстного окна в README не указаны; для IQ4_XS упоминается возможность работы с контекстом до 131 тысяч токенов в определённых конфигурациях. Сильные стороны модели — широкий выбор степеней квантования, возможность запуска на локальном оборудовании и оптимизация низкобитных вариантов с помощью importance matrix. Ограничения связаны с неизбежной потерей точности при более агрессивном квантовании, зависимостью мультимодального режима от совместимого backend и отдельного projector-файла, а также с тем, что аблитерированная версия позиционируется как decensored и может иметь меньше встроенных отказов от нежелательных запросов. Лицензия — Apache-2.0.

Vegss/gemma-4-12B-it-Claude-4.6-4.8-Opus-GGUF — дообученная на данных рассуждений Opus 4.6, 4.7 и 4.8 модель Google Gemma 4 12B Instruct в форматах GGUF и Safetensors. Она предназначена для локального диалога, рассуждений, ответов на вопросы и написания кода; поддерживает режим thinking через родной канал Gemma. Репозиторий содержит варианты GGUF от Q2_K до Q8_0 и BF16/F16, а также черновую MTP-модель для ускорения генерации. В README заявлен контекст до 131 тыс. токенов и возможность запуска через llama.cpp и приложения вроде LM Studio и Jan. Модель ориентирована прежде всего на английский язык. README отмечает, что рассуждения представляют собой синтетический CoT, поэтому факты и числовые выводы следует проверять. Обучение снижает частоту отказов и, по описанию автора, модель не имеет полноценного выравнивания по безопасности; для практического применения нужны внешние ограничения. Лицензия — Gemma.

Это объединённая модель семейства Gemma 4 Unified, созданная автором репозитория tepirale с помощью mergekit. В качестве основы использована google/gemma-4-12B-it; методом DARE TIES объединены также модели tepirale/gemma-4-12B-coder-fable5-composer2.5-v1-safetensors-yuxinlu1 и tepirale/gemma-4-12B-agentic-fable5-composer2.5-v2-3.5x-tau2-safetensors-yuxinlu1. Веса сохранены в формате safetensors, тип данных — bfloat16. Модель предназначена для генерации текста по текстовым и визуальным входам, включая сценарии, сочетающие агентные возможности и генерацию кода. Метаданные указывают поддержку image-text-to-text и vision; базовая Gemma 4 поддерживает диалог, анализ изображений, видео и аудио, однако README этой объединённой модели не подтверждает отдельно все эти возможности. Для модели не приведены результаты оценки качества или подробные инструкции по применению. Лицензия в предоставленных данных не указана.

Gemma 4 26B-A4B-it-qat-JANG_4M-CRACK — дообученная и квантизованная версия Gemma 4 26B-A4B-it от dealignai, предназначенная для запуска в vMLX на компьютерах Mac с Apple Silicon. Модель сочетает архитектуру MoE с 128 экспертами и восемью активными экспертами, гибридное внимание и обработку изображений. Указана квантизация JANG_4M: 8-битные веса attention и 4-битные веса MLP. Модель позиционируется как мультиязычный чат-ассистент для ответов на вопросы, рассуждений, генерации кода и работы с изображениями. В карточке автор сообщает, что настройка убирает отказы на запросы из категорий HarmBench, сохраняя основные возможности; приведён результат 59 из 60 по соответствующим тестовым запросам и снижение MMLU на 4,4 процентного пункта относительно базовой модели. Для запуска требуется vMLX с поддержкой Gemma 4 и Mac с достаточной объединённой памятью. Лицензия — Gemma; автор обозначает модель как предназначенную для исследований и возлагает на пользователей ответственность за соблюдение применимых законов.

Gemma 4 26B-A4B-it QAT JANG_4M CRACK — мультимодальная доработанная версия Gemma 4 от dealignai. Она сочетает архитектуру MoE с 128 экспертами и выбором восьми активных экспертов, гибридное внимание и квантизацию JANG_4M: 8 бит для attention и 4 бита для MLP. Модель принимает текст и изображения и отвечает текстом; карточка заявляет поддержку рассуждений, визуальных запросов, вопросов и ответов и генерации кода. Модель рассчитана на общие диалоговые сценарии, включая анализ изображений, многошаговые рассуждения и написание кода. По результатам, приведённым в README, её показатель MMLU составляет 79,8% против 84,2% у базовой модели; автор также сообщает о сохранении визуальных возможностей и снижении отказов на тесте HarmBench. Для запуска требуются Mac на Apple Silicon с достаточным объёмом объединённой памяти и vMLX с поддержкой Gemma 4. Лицензия — Gemma; README указывает исследовательское назначение и возлагает на пользователя ответственность за соблюдение применимого законодательства.

TheStageAI/gemma-4-E4B-it-GGUF — набор из четырёх квантизированных GGUF-чекпойнтов модели Gemma 4 E4B IT, основанной на google/gemma-4-E4B-it. Модель предназначена для локального запуска через llama.cpp и генерации текста, включая диалоговые сценарии, следование инструкциям и задачи, требующие развёрнутого рассуждения. Разработчик и поставщик чекпойнтов — TheStageAI; базовую модель разработала Google. Доступны варианты XS, S, M и L размером от 2,91 до 8,02 ГБ: XS использует минимальный объём памяти, S рекомендован как оптимальный по соотношению размера и качества, M соответствует рабочей точке Q4, а L ориентирован на более высокую точность Q8. Чекпойнты используют смешанную посттренировочную квантизацию с конфигурацией точности, подобранной с учётом стоимости хранения и накопления ошибки между слоями. В README указаны результаты IFEval и MMLU-Pro; вариант S практически соответствует BF16-версии по instruction-strict IFEval, тогда как XS заметно уступает по качеству, но требует меньше памяти. Модель поддерживает текстовую генерацию; сведения о языках, размере контекста и мультимодальных возможностях в README не указаны. Основные преимущества — локальный запуск, несколько вариантов под разные ограничения памяти и сохранение качества на рекомендованном варианте S. Ограничения связаны с потерями точности при квантизации, особенно у XS, а также с отсутствием в предоставленных данных подробностей о языковом покрытии и контекстном окне. Распространение заявлено по лицензии Apache-2.0.

Карточка модели hasithanilwakka/ghostwriter-llama31-8b-merged на Hugging Face совпадает с карточкой hasithanilwakka/ghostwriter-llama31-8b-merged-run02, поэтому описание составлено по ней. Ghostwriter Llama 3.1 8B Merged Run02 — дообученная автором hasithanilwakka языковая модель на основе unsloth/Llama-3.1-8B-Instruct-unsloth-bnb-4bit. Это плотная автрорегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового общения; в карточке также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL. Модель принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальную область применения, конкретные улучшения после дообучения или результаты оценки качества.

Это плотная языковая модель Qwen3 с 29,7 млрд параметров, дообученная командой laion на датасете open-athena/GLM-4.6-stackexchange-overflow-sandboxes-32eps-65k-reasoning. Она предназначена для генерации текста в диалоговом режиме, в частности для ответов на технические вопросы и задач, связанных с содержимым Stack Exchange и Stack Overflow. Модель использует архитектуру Qwen3ForCausalLM, распространяется в формате safetensors и поддерживает контекст до 40 960 токенов. Модель принимает текст и генерирует текст. Карточка не приводит оценки качества или подробностей обучения и применения. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели и её базовой модели Qwen/Qwen3-32B.

CreitinGameplays/GLM-4.7-Flash-Fable-5-Distill — дообученная диалоговая текстовая модель на базе unsloth/GLM-4.7-Flash. Она предназначена для генерации ответов в чате; карточка также приводит параметры генерации top_k 40, temperature 0.5 и top_p 0.95. Архитектура указана как GLM4 MoE Lite с классом Glm4MoeLiteForCausalLM; размер — 4,1 млрд параметров, формат весов — safetensors, длина контекста — 202 752 токена. Для дообучения перечислены наборы данных TeichAI/Fable-5-Cursor-Traces и armand0e/Fable-5-Chat. Модель опубликована под лицензией Apache-2.0. README отмечает необходимость принудительно задавать специальный токен в шаблоне чата, но название токена в доступном тексте карточки отсутствует.

INCModel3/GLM-5.1-MXFP4-Mixed-CT-AutoRound — это квантизированная версия GLM-5.1 от zai-org, созданная Intel с помощью AutoRound в режиме RTN. Она предназначена для генерации текста и диалогового общения. В README приведены результаты на GSM8K, MMLU, PIQA и HellaSwag: средний результат MXFP4 составляет 99,39% от указанного результата BF16 на этих тестах. Модель использует формат safetensors и квантизацию MXFP4; метаданные указывают библиотеку Transformers и поддержку английского и китайского языков. README рекомендует соблюдать лицензию исходной модели, а метаданные указывают MIT. Модель может выдавать фактически неверные, предвзятые или оскорбительные ответы; перед внедрением рекомендуется проверить её безопасность.

Goku-8x22B-v0.2 — разговорная языковая модель MaziyarPanahi, дообученная на основе v2ray/Mixtral-8x22B-v0.1 на наборах OpenHermes-2.5, WizardLM Evol Instruct V2 и Orca Math Word Problems. Она использует архитектуру Mixtral с разреженной смесью экспертов (MoE) и предназначена для генерации текста в диалогах, выполнения инструкций и решения математических задач. В README указана общая ёмкость в 141 млрд параметров, из которых активны 35 млрд; метаданные каталога указывают 22 млрд параметров. В README также сообщается об обучении с длиной последовательности 8192 токена, а метаданные приводят длину контекста 65 536 токенов. Модель работает с текстом и поддерживает чат. В карточке отмечены английский, французский, итальянский, немецкий и испанский языки. Лицензия — Apache-2.0. Доступные сведения не содержат результатов сравнительных оценок качества; значения размера и контекста различаются между README и метаданными, поэтому их следует трактовать с осторожностью.

Это GGUF-квантизации инструкционной модели Gemma 3 4B IT, разработанной Google и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для диалогов, генерации и обработки текста, а также поддерживает работу с изображениями через vision-компонент. Она может использоваться локально в LM Studio, llama.cpp и других совместимых проектах. Модель содержит около 4 миллиардов параметров и доступна в вариантах BF16, F32/F16 для vision-компонента и многочисленных квантизациях от Q8_0 до Q2_K_L, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. Для анализа изображений требуется отдельный файл mmproj и сборка llama.cpp с поддержкой Gemma 3. В README не указаны поддерживаемые языки, размер контекста и точные архитектурные характеристики. Сильными сторонами являются локальный запуск, широкий выбор уровней квантизации и мультимодальные возможности. Более низкие варианты квантизации экономят память, но снижают качество; некоторые форматы отмечены как устаревшие или нерекомендуемые. Лицензия в предоставленных данных не указана.

GPT-2 Large Alpaca — англоязычная авторегрессионная модель для генерации текста с настройкой на выполнение инструкций. Она создана на базе openai-community/gpt2-large (774 млн параметров) и дообучена методом supervised fine-tuning на 51 760 примерах набора yahma/alpaca-cleaned с использованием LoRA; затем адаптер объединён с базовыми весами. Модель использует архитектуру GPT-2 с 36 слоями, 20 головами внимания и размерностью скрытого состояния 1280. Контекст ограничен 1024 токенами. Модель предназначена для ответов на инструкции и запросы, а также для генерации продолжений текста. Для инструкций рекомендуется шаблон Alpaca. Веса сохранены в формате safetensors с точностью FP16; их можно использовать для инференса, оценки или последующей квантизации. Разработчик указан как локальное обучение с TRL и PEFT. Лицензия — MIT для базовой модели; README также указывает, что следует учитывать условия набора данных Alpaca.

GPT4 Alpaca LoRA 30B HF — версия модели Chansung GPT4 Alpaca 30B, подготовленная TheBloke с объединёнными весами LoRA и исходной Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для диалогов и выполнения инструкций на естественном языке. Модель принимает текст и генерирует текст; в карточке указан английский язык, а максимальный контекст составляет 2048 токенов. Модель подходит для чат-ботов, ответов на инструкции и текстовых запросов. README указывает, что для запуска требуется не менее 60 ГБ видеопамяти. Репозиторий содержит веса PyTorch; лицензия обозначена как other, поэтому условия использования следует проверять в исходных лицензиях Llama и обученной модели.