I.5Создание и редактирование текста

jaspionjader/fr-18-8b — разговорная языковая модель, созданная автором репозитория слиянием моделей методом SLERP с помощью mergekit. В слиянии использованы jaspionjader/fr-17-8b и FuseAI/FuseChat-Llama-3.1-8B-Instruct; архитектура — плотная Llama для генерации текста, размер — около 7,5 млрд параметров. Модель рассчитана на диалоговые сценарии и генерацию текста, поддерживает контекст до 131 072 токенов. Базовая FuseChat-Llama-3.1-8B-Instruct описана как модель для диалога, следования инструкциям, математики и программирования, однако README не уточняет, какие способности сохранены или улучшены в результате слияния fr-18-8b. Репозиторий содержит веса Safetensors; для работы используется Transformers. Лицензия в предоставленных данных не указана.

jaspionjader/fr-7-8b — разговорная языковая модель, созданная разработчиком jaspionjader путём объединения моделей jaspionjader/fct-14-8b и jaspionjader/fr-6-8b методом SLERP с помощью mergekit. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров; заявленное контекстное окно — 131 072 токена. Она предназначена для генерации текста и диалоговых сценариев. Модель принимает текст и выдаёт текст. Данные не описывают её языковое покрытие или специализацию по предметным областям. В метаданных указаны формат safetensors и библиотека Transformers. Сведения о лицензии и конкретных ограничениях качества в предоставленных источниках отсутствуют.

jaspionjader/fr-9-8b — разговорная языковая модель на архитектуре Llama, созданная объединением предварительно обученных моделей jaspionjader/fr-8-8b и jaspionjader/Kosmos-EVAA-Franken-v38-8B методом SLERP с помощью mergekit. Модель содержит 7,5 млрд параметров и принимает текст для генерации продолжений и диалоговых ответов. Модель предназначена для общения и генерации текста. В метаданных указан контекст до 131 072 токенов, библиотека Transformers и формат весов safetensors. Сведения о лицензии и поддерживаемых естественных языках в предоставленных данных отсутствуют.

Franken-Mistral-Merlinite-Maid 7B — объединённая языковая модель, созданная ND911 с помощью mergekit и метода SLERP. В слиянии использована модель l3utterfly/mistral-7b-v0.1-layla-v4-chatml; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, формат весов — safetensors. Модель предназначена для генерации текста, включая диалоговые сценарии и ответы в стиле чат-модели Layla. Модель принимает текст и генерирует текст. Её контекстное окно составляет 8192 токена. Лицензия в предоставленных данных не указана.

frankentalkie — языковая модель Talkie, собранная Abstract4700 с помощью MergeMonster на основе дообученной Talkie-1930-13B-IT. При слиянии сохранены токенизатор, эмбеддинги, выходной слой и пользовательский runtime для Transformers, а декодер расширен с 40 до 60 блоков повторным использованием и перекрывающимся размещением средних слоёв с уменьшенным вкладом повторных блоков. Модель предназначена для генерации текста и диалогового общения на английском языке. Модель имеет плотную архитектуру TalkieForCausalLM, содержит 19,2 млрд параметров, принимает текст и выдаёт текст. Контекст — до 2048 токенов. Распространяется в формате safetensors по лицензии Apache-2.0; для запуска используются зависимости и пользовательский runtime Transformers.

Модель RyotaKadoya1993/fullymerged_v1_128_gen3 — дообученная плотная авторегрессионная Llama-модель для генерации текста и диалогов. Её разработал RyotaKadoya1993; базовая модель — ryotakadoya1993/fullymerged_v1_128_gen2. При обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст длиной до 8192 токенов. В метаданных указан английский язык и возможность чата. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные предметные области, результаты оценки качества или конкретные ограничения; пригодность ответов следует проверять для выбранного сценария.

FuseChat-Gemma-2-9B-Instruct — диалоговая модель FuseAI на архитектуре Gemma 2 с 9 млрд параметров. Это вариант FuseChat-3.0, созданный на базе Gemma-2-9B-It с помощью дообучения и неявного объединения знаний: после supervised fine-tuning модель оптимизировали методом Direct Preference Optimization на предпочтениях, собранных по ответам нескольких крупных языковых моделей. Модель предназначена для диалогов и выполнения инструкций, включая общие вопросы, математику, программирование и задачи на китайском языке. Контекст составляет 8192 токена. В README заявлены улучшения на бенчмарках для серии FuseChat-3.0, но приведённые численные результаты относятся к варианту с Llama-3.1-8B-Instruct в качестве целевой модели и не подтверждают такие же показатели для этой версии Gemma. Модель принимает текст и генерирует текст. Она распространяется в формате safetensors; лицензия в предоставленных данных не указана.

FuseChat-Llama-3.1-8B-Instruct-GGUF — это набор квантованных версий инструкционной языковой модели FuseChat-Llama-3.1-8B-Instruct, разработанной FuseAI. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с пользовательскими запросами в локальных приложениях на базе llama.cpp и LM Studio. Квантованные файлы представлены в формате GGUF и подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель относится к классу текстовых генеративных моделей и имеет около 8 млрд параметров в исходной версии. Доступны варианты от F32 и F16 до различных форматов квантования Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер файлов составляет примерно от 4,3 до 32,1 ГБ. Для работы предусмотрен специальный шаблон промпта с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантований: варианты Q6 и Q5 ориентированы на высокое качество, а Q4 и Q3 — на снижение требований к памяти. Некоторые файлы оптимизированы для ARM или AVX, однако отдельные варианты не рекомендуются для Mac или GPU. README не содержит сведений о поддерживаемых языках, размере контекстного окна, точной архитектуре, результатах оценки и лицензии, поэтому эти характеристики нельзя подтвердить.

FuseChat-Qwen-2.5-7B-Instruct-GGUF — набор GGUF-квантизаций модели FuseAI/FuseChat-Qwen-2.5-7B-Instruct, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и LM Studio. Для работы рекомендуется применять формат промпта с маркерами ролей system, user и assistant. В набор входят варианты от исходных весов f32 и f16 до квантизаций Q8_0, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер 7B указан в названии базовой модели; конкретные файлы занимают примерно от 4,09 до 30,47 ГБ. Некоторые варианты оптимизированы для ARM или AVX, отдельные требуют поддержки SVE или i8mm и не рекомендуются для Mac или GPU в зависимости от формата. Сильная сторона набора — широкий выбор уровней квантизации, включая варианты, ориентированные на высокое качество и использование на устройствах с ограниченной памятью. README не содержит сведений о языках, размере контекста, мультимодальности и лицензии исходной модели, поэтому эти характеристики нельзя достоверно указать.

FuseChat-Qwen-2.5-7B-Instruct-Heretic-GGUF — языковая модель в формате GGUF, созданная на основе FuseAI/FuseChat-Qwen-2.5-7B-Instruct и опубликованная пользователем ChiKoi7. Базовая модель относится к семейству Qwen 2.5 и имеет 7 млрд параметров. FuseChat-3.0 разработана FuseAI с использованием неявного объединения возможностей нескольких крупных языковых моделей через Supervised Fine-Tuning и Direct Preference Optimization на данных предпочтений; в качестве целевой модели использовалась Qwen-2.5-7B-Instruct. Для данной версии дополнительно применён Heretic v1.0.1 — метод удаления ограничений на отказы от ответов. Модель предназначена для генерации текста, диалогов и выполнения инструкций, включая общие разговорные задачи, следование инструкциям, математику и программирование. По приведённому сравнению, версия Heretic отказалась от ответа в 3 случаях из 100 против 93 из 100 у исходной модели, при этом её KL-дивергенция относительно оригинала составила 0,07. Это указывает на существенно более редкие отказы при сохранении близкого поведения к исходной модели, однако одновременно означает потенциально менее выраженные защитные ограничения. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура трансформера, требования к аппаратному обеспечению и конкретная лицензия. Также не приведены результаты независимой оценки качества после применения Heretic. Поэтому модель следует использовать с учётом возможного отсутствия встроенных ограничений безопасности; условия распространения необходимо уточнять по лицензии базовой модели и репозитория модели.

FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview-GGUF — это GGUF-квантизированная версия instruct-модели FuseO1-DeepSeekR1-Qwen2.5-Instruct-32B-Preview, разработанной FuseAI и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio. В основе лежит модель с 32 миллиардами параметров; доступны варианты от BF16 до различных форматов квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Квантизация выполнена с использованием imatrix на базе llama.cpp b4514. Более высокие форматы сохраняют лучшее качество, а варианты Q4 и Q3 требуют меньше оперативной памяти; наиболее универсальным в README назван Q4_K_M. Указан специальный шаблон промпта с ролями system, User и Assistant. Модель ориентирована на локальный инференс и сценарии, где важны автономность, выбор размера файла и баланс между качеством и требованиями к памяти. README не содержит сведений о поддерживаемых языках, длине контекста, мультимодальности, результатах бенчмарков или ограничениях качества. Лицензия в предоставленных данных не указана.

FwF-Qwen-7B-0.1 — языковая модель на архитектуре Qwen2, созданная объединением моделей bunnycore. В README описано слияние методом TIES с базой bunnycore/FuseQwQen-7B и моделями, ориентированными на рассуждения, длительные цепочки размышлений, ролевой диалог и общие задачи. Репозиторий содержит веса в формате safetensors; размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов, следования инструкциям, многошаговых рассуждений и ролевых сценариев. Указанные в метаданных возможности включают чат и интерфейс вызова инструментов. Сведения подтверждают поддержку генерации текста, но не устанавливают конкретный уровень качества на отдельных задачах. Лицензия в предоставленных данных не указана.

G2-9B-Blackout-R1-GGUF — набор GGUF-квантизаций модели G2-9B-Blackout-R1, разработанной inflatebot и подготовленной пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp или совместимые приложения, включая LM Studio. Доступны варианты от полноточного F16 размером 18,49 ГБ до компактных форматов с 2–8-битным квантованием и размерами примерно от 3,81 до 9,83 ГБ. Квантизация выполнена с использованием imatrix; наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5 и Q4. Для ARM-процессоров предусмотрены специальные варианты Q4_0_8_8, Q4_0_4_8 и Q4_0_4_4, отличающиеся требованиями к поддержке инструкций. Сильная сторона набора — широкий выбор компромиссов между качеством, размером файлов и требованиями к памяти, что позволяет запускать модель на различных локальных системах. Точные архитектура, поддерживаемые языки, размер контекста и формат промпта в представленном README не указаны; формат промпта рекомендуется уточнять на странице исходной модели. Лицензия также не указана.

insraq/G9v3-3B-heretic — созданная командой AI9Stars версия G9v3-3B, обработанная инструментом Heretic v1.4.0 для снижения числа отказов. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 2,7 млрд параметров, предназначенная для локального запуска и сценариев с ограниченными ресурсами. Модель поддерживает генерацию текста и диалоговое использование, включая повседневные запросы, программирование, рассуждения и взаимодействие с инструментами. Контекстное окно составляет 131 072 токена; в карточке указаны английский и китайский языки. В сравнении с исходной G9v3-3B модель показала 9 отказов из 100 тестовых запросов против 100 из 100 у оригинала; указанная дивергенция KL — 0,0410. Снижение числа отказов не гарантирует точности или безопасности: ответы могут быть ошибочными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0.

G9v3-3B-Heretic-Abliterated-GGUF — плотная каузальная языковая модель с 3 млрд параметров, разработанная командой AI9Stars. Это GGUF-сборка базовой модели Vortecks/G9v3-3B-Heretic-Abliterated, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Модель относится к задачам генерации текста и рассчитана на повседневное использование в роли ассистента, программирование, сценарии с вызовом инструментов и задачи, требующие рассуждений. Заявлена поддержка английского и китайского языков, а также сценариев с длинным контекстом, однако точный размер контекстного окна в README не указан. Сборка представляет собой вариант heretic abliterated: из активационного пространства удалены направления, связанные с отказами, поэтому модель позиционируется как uncensored и обычно отвечает на более широкий круг запросов, чем исходная instruction-tuned версия. Это одновременно является ограничением: у варианта отсутствуют обычные защитные механизмы safety-alignment, поэтому его ответы требуют дополнительной фильтрации и контроля. Доступны варианты GGUF с точностью от F32, F16 и BF16 до различных квантов Q8, Q6, Q5, Q4, Q3 и IQ; размер файлов составляет примерно от 1,4 до 12 ГБ. Квантизации созданы с помощью llama.cpp, а низкобитные варианты IQ1_*–IQ3_XXS — с использованием importance matrix. Модель распространяется по лицензии Apache-2.0. Для запуска и выбора компромисса между качеством, скоростью и потреблением памяти рекомендуется использовать совместимые с llama.cpp GGUF-квантизации; в README отдельно отмечены Q6_K, Q5_K_M, Q5_K_S и Q4_K_M.

OpenAssistant/galactica-6.7b-finetuned — текстовая генеративная модель на архитектуре OPT, дообученная на WebGPT и Prompt Dialogue версии v2. Она предназначена для генерации текста в ответ на запросы и диалоговые подсказки. Модель содержит 8,8 млрд параметров, принимает текст и имеет контекст длиной до 2048 токенов. Карточка указывает на дообучение, но не описывает качество ответов или специальные сценарии применения. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.

Gama-12B — языковая модель объёмом 12 млрд параметров, представленная в формате GGUF. Базовая модель rodrigomt/gama-12b разработана на основе семейства Gemma; данная версия подготовлена и квантизирована mradermacher с использованием weighted/imatrix quantization. В метаданных указаны английский и португальский языки, а также поддержка генерации текста и диалоговых сценариев. Модель предназначена для локального запуска в задачах текстовой генерации и conversational-приложениях, включая ответы на запросы и ведение диалога. README также указывает на наличие vision-возможностей, однако конкретные поддерживаемые визуальные задачи и параметры мультимодального контекста не описаны. Длина контекста, точная архитектура и дополнительные характеристики не указаны. Доступно множество вариантов квантизации размером примерно от 3,0 до 9,8 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать в качестве; среди рекомендуемых отмечены i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Модель распространяется по лицензии Gemma. Для использования GGUF-файлов требуется совместимое программное обеспечение.

bartowski/gemma-2-2b-it-GGUF — набор GGUF-квантизаций модели Gemma 2 2B Instruct, разработанной Google и преобразованной bartowski с использованием llama.cpp и imatrix-калибровки. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и LM Studio. Это текстовая instruction-tuned модель примерно на 2 млрд параметров. Доступны варианты от F32 размером 10,46 ГБ до низкобитных IQ3_M размером 1,39 ГБ, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M и другие форматы. Разные варианты позволяют выбирать компромисс между качеством, скоростью и требованиями к RAM или VRAM; в README рекомендуются, в частности, Q6_K, Q5_K_M и Q4_K_M. Языки, размер контекстного окна и поддержка дополнительных модальностей в предоставленных данных не указаны. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска и высокая эффективность по памяти по сравнению с полноразмерными весами. Ограничение модели — отсутствие поддержки system prompt; для корректной работы необходимо использовать специальный формат диалога Gemma с маркерами ролей. Модель распространяется по лицензии Gemma; для доступа на Hugging Face требуется ознакомиться и согласиться с лицензией Google.

Gemma 2 2B Instruct — компактная языковая модель Google из семейства Gemma, представленная в формате GGUF для запуска через llama.cpp и LM Studio. Квантизацию выполнил bartowski на основе релиза llama.cpp b3496. Модель предназначена для генерации текста и диалоговых сценариев общего назначения, а также может использоваться для автодополнения и черновой генерации на устройствах с ограниченными ресурсами и низким энергопотреблением. Модель содержит около 2 миллиардов параметров и обучена на 2 триллионах токенов, включавших веб-документы, программный код и математические материалы. Она поддерживает работу с текстом; в README отдельно отмечены крупный словарь Gemma 2, потенциальные преимущества для многоязычных задач и программирования, однако точный список языков и размер контекстного окна не указаны. Для корректного диалога требуется шаблон Google Gemma Instruct; системный промпт не поддерживается. Сильными сторонами модели являются небольшой размер, пригодность для локального запуска и специализация на общих текстовых, кодовых и математических задачах. Ограничениями выступают меньшая емкость по сравнению с крупными моделями, отсутствие мультимодальности и неподдержка системных инструкций; модель также может генерировать неточные, вредные или неуместные ответы. Доступ регулируется лицензией Google Gemma: на Hugging Face требуется ознакомиться с условиями и принять лицензию.

ThomasBaruzier/gemma-2-2b-it-GGUF — набор GGUF-квантизаций instruction-tuned модели Gemma 2 2B от Google, подготовленный с использованием llama.cpp и метода imatrix. Это текстовая decoder-only языковая модель с открытыми весами, предназначенная для генерации текста и диалоговых сценариев. Модель подходит для ответов на вопросы, суммаризации, рассуждений и других задач генерации текста, включая локальное развертывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Указан английский язык; модальность — текстовая. Репозиторий содержит варианты от IQ1_S до F16, различающиеся размером, качеством и требованиями к памяти: примерно от 794 МБ до 4,99 ГБ. Для квантизации использованы llama.cpp и калибровочный файл Bartowski; приведённые результаты показывают компромисс между размером и точностью. К сильным сторонам относятся компактность, возможность локального запуска и наличие множества вариантов квантизации. Ограничения включают снижение качества в более агрессивно сжатых вариантах, англоязычную специализацию и отсутствие в README точных данных о длине контекста, полной архитектуре и целевых аппаратных требованиях. Использование регулируется лицензией Gemma и условиями Google; для доступа к модели на Hugging Face требуется принять соответствующую лицензию.

orangefabercastell/gemma-2-2b-it-pi-mono-sft-v2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для работы через библиотеку Transformers. По идентификатору модель относится к семейству Gemma 2 и варианту instruction-tuned; в метаданных она отмечена как conversational и text-generation. Модель содержит около 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Она может использоваться для диалоговой генерации, продолжения текста и создания ответов на пользовательские запросы в приложениях на базе Transformers. README не содержит сведений о разработчике, языках, лицензии, обучающих данных, результатах оценки и детальных ограничениях модели. Поэтому применимость к конкретным языкам и качество в специализированных областях по предоставленным материалам подтвердить нельзя.

Gemma 2 2B Neogenesis ITA — диалоговая языковая модель Anakin87, дообученная на базе google/gemma-2-2b-it с помощью instruction fine-tuning и Direct Preference Optimization. Она предназначена прежде всего для генерации ответов и диалога на итальянском языке; также в обучении использовались английские данные. Модель использует плотную архитектуру Gemma 2 с примерно 2,7 млрд параметров и поддерживает контекст до 8192 токенов. Модель рассчитана на инструкции, вопросы и задачи рассуждения, включая математические, и показала результаты в итальянских тестах MMLU_IT, ARC_IT и HELLASWAG_IT. Небольшой размер удобен для сценариев с ограниченными ресурсами, однако объём мировых знаний ограничен. Разработчик отмечает, что модель не проходила специальную настройку безопасности. Репозиторий распространяет веса в формате safetensors; лицензия — Gemma.

bunnycore/Gemma-2-2B-Smart — объединённая разговорная языковая модель на архитектуре Gemma 2, созданная автором репозитория с помощью mergekit. В основу вошли IlyaGusev/gemma-2-2b-it-abliterated и bunnycore/Gemma2-2b-Smart-lora; использован метод passthrough merge. Модель содержит 2,7 млрд параметров, принимает текст и генерирует текст, поддерживает контекст до 8192 токенов и рассчитана на диалоговые сценарии. Модель подходит для генерации ответов и ведения текстовых диалогов. В её основе — англоязычная Gemma 2 с изменённым поведением отказов. Карточка не описывает отдельные бенчмарки или дополнительные языки; условия лицензии в предоставленных данных не приведены.

Gemma-2-2b-TitanFusion — разговорная языковая модель на архитектуре Gemma 2, созданная bunnycore с помощью mergekit. В README описано слияние методом Model Stock на базе IlyaGusev/gemma-2-2b-it-abliterated с несколькими моделями Gemma 2 и адаптерами, включая варианты для диалога, рассуждений и кода. Размер модели — 2,7 млрд параметров, контекст — до 8192 токенов; модель работает с текстом и поддерживает чат. Модель предназначена для генерации ответов в диалоге, следования инструкциям, рассуждений и помощи с кодом. Метаданные указывают англоязычную базовую модель. В README не приведены результаты оценки качества или подробности о поведении итогового слияния. Лицензия в доступных данных не указана.

onurnsfw/Gemma2-9b-classifier — дообученная модель семейства Gemma 2, опубликованная onurnsfw на базе unsloth/gemma-2-9b-bnb-4bit. Это плотная языковая модель с 9 млрд параметров, рассчитанная на генерацию текста и работающая с контекстом до 8192 токенов. В карточке указано, что обучение выполнялось с помощью Unsloth и библиотеки TRL. Модель может использоваться для генерации текста на английском языке. Название репозитория содержит слово «classifier», однако README не описывает задачу классификации, формат меток или способ использования модели как классификатора; подтверждённая задача по метаданным — text-generation. Репозиторий распространяется по лицензии Apache 2.0.

unsloth/gemma-2-9b-it-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Gemma 2 с 9 миллиардами параметров, основанная на google/gemma-2-9b-it. Модель распространяется в экосистеме Unsloth и предназначена для запуска и дообучения с использованием Transformers. В метаданных указаны разработчик базовой модели Google и поддерживаемый язык English. Модель ориентирована на диалоговые приложения, генерацию и продолжение текста, а также на дообучение под пользовательские наборы данных. Ключевой особенностью является 4-битное квантование bnb, снижающее требования к памяти; для Gemma 2 (9B) Unsloth заявляет ускорение до 2,4 раза и сокращение использования памяти до 58% в соответствующих сценариях. Модель также может экспортироваться в форматы GGUF и использоваться с vLLM, однако размер контекста, точный набор поддерживаемых языков и другие архитектурные характеристики в README не указаны. Сильные стороны модели — относительно экономичный запуск и возможность эффективного fine-tuning на ограниченных ресурсах, включая GPU Tesla T4. Ограничения связаны с 4-битным представлением, предназначенностью базовой модели преимущественно для English и отсутствием в README подробных результатов оценки качества. Лицензия указана как gemma; перед использованием необходимо учитывать условия лицензии Google Gemma.

bunnycore/Gemma2-9b-Max — объединённая диалоговая языковая модель на архитектуре Gemma 2, созданная автором bunnycore методом Model Stock с помощью mergekit. В основу слияния вошла bunnycore/HyperGemma-2-9B, также использованы модели для диалогов о психическом здоровье, gemma2-9B-sunfall-v0.5.2, uncensored LoRA и gemma-2-9b-it-abliterated. Модель содержит 9 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие; принимает и выдаёт текст. Указанный родной контекст — 8192 токена. Модель может быть полезна для открытых диалоговых ответов и генерации текста, в том числе на темы психического здоровья. Карточка не сообщает результатов оценки качества или конкретных языков. Файлы представлены в формате safetensors, библиотека — Transformers. Лицензия в предоставленных данных не указана.

aolans/gemma-2-9b_q4 — это текстовая модель семейства Gemma 2, основанная на google/gemma-2-9b и подготовленная автором aolans с помощью Unsloth. Карточка описывает её как вариант для использования в качестве основы для дальнейшего дообучения; архитектура — плотная авторегрессионная Gemma2ForCausalLM с 9 млрд параметров и контекстом 8192 токена. Модель предназначена для генерации текста и может служить отправной точкой для создания специализированных вариантов и диалоговых приложений. В карточке упоминаются инструменты Unsloth и Hugging Face TRL. Метаданные указывают лицензию Gemma и формат safetensors. Несмотря на суффикс q4 и упоминание квантования в README, метаданные перечисляют safetensors и не подтверждают конкретный формат или разрядность квантованных весов.

Gemma-2-Ataraxy-9B-GGUF — это набор квантизированных версий текстовой генеративной модели Gemma-2-Ataraxy-9B, созданной lemon07r и опубликованной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b3561 и метода imatrix; модель предназначена для локального запуска, в том числе через LM Studio, и поддерживает сценарии генерации текста в совместимых приложениях на базе llama.cpp. Исходная модель относится к семейству Gemma, однако в README не указаны точная архитектура, поддерживаемые языки, длина контекста и дополнительные модальности. Модель не поддерживает системный prompt и требует специального шаблона prompt с маркерами ролей Gemma. Доступны варианты от f32 размером 36,97 ГБ до IQ2_M размером 3,43 ГБ, включая Q8_0, Q6, Q5, Q4, Q3, Q2 и IQ-квантизации. Версии с более высокой точностью обычно лучше сохраняют качество, тогда как младшие варианты экономят оперативную память, но заметно уступают по качеству; наиболее рекомендуемыми в README названы многие варианты Q6–Q4. Формат GGUF и широкий выбор уровней квантизации позволяют подобрать баланс между качеством и требованиями к памяти. Модель распространяется по лицензии Gemma; условия лицензии следует учитывать при использовании.

Sakalti/Gemma-2-Baku-Finetune — дообученная Sakalti языковая модель на архитектуре Gemma 2, созданная на основе rinna/gemma-2-baku-2b. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и предназначена для генерации и продолжения текста. Для обучения применялись Unsloth и библиотека Hugging Face TRL; в репозитории доступны веса в формате safetensors. Модель поддерживает контекст длиной до 128 000 токенов. В метаданных указан английский язык; базовая модель rinna/gemma-2-baku-2b описана как японско-английская, но наличие поддержки японского у этой дообученной версии не подтверждено. Модель распространяется на условиях Gemma Terms of Use.