I.5Создание и редактирование текста

Spaetzle-v63-7b — текстовая генеративная модель, созданная cstr путём слияния моделей OpenPipe/mistral-ft-optimized-1227 и DiscoResearch/DiscoLM_German_7b_v1 с помощью LazyMergekit и метода slerp. Это плотная Mistral-модель с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогов; в её основе немецко-английская чат-модель, поэтому она может быть полезна для повседневного общения и перевода между немецким и английским языками. Репозиторий распространяет веса в формате safetensors. Лицензия — Apache-2.0. README не приводит отдельной оценки качества или подробных результатов испытаний. Возможности и языковое покрытие унаследованы от объединённых моделей и могут различаться в зависимости от задачи.

Spaetzle-v69-7b — объединённая модель, опубликованная cstr и созданная с помощью LazyMergekit на основе Mistral. В финальном слиянии DARE-TIES сочетаются cstr/Spaetzle-v68-7b и abideen/AlphaMonarch-dora; README перечисляет также модели, вошедшие в предшествующие слияния. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral для генерации текста и рассчитана на контекст до 32 768 токенов. Модель предназначена для локальных задач на английском и немецком языках, включая диалоги, выполнение инструкций и рассуждения. В README приведены результаты нескольких англо- и немецкоязычных тестов; автор отмечает, что при выборе компромисса учитывались качество немецкого языка, следование инструкциям и устойчивость. Указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. В README также упомянута квантизованная GGUF-версия 4q_k_m, но сама модель в репозитории представлена в формате safetensors.

Spark-X2.5-4B Community Quants — набор GGUF-квантизаций модели Spark-X2.5-4B, разработанной XHToken и опубликованной сообществом. Модель предназначена для генерации текста, диалоговых и агентских сценариев с использованием инструментов, включая работу с файлами, терминалом, памятью и выполнением кода. Доступны варианты для видеокарт с 4, 8, 12 и 16 ГБ памяти, рассчитанные на полностью GPU-резидентный запуск через llama.cpp. Базовая модель содержит около 4,1 млрд параметров и использует гибридное внимание: соотношение слоёв sliding-window и full attention составляет 3:1. Заявлен нативный контекст до 1 млн токенов, однако на потребительских видеокартах практический предел определяется объёмом KV-кэша и существенно ниже. Квантизации используют importance matrix, рассчитанную на мультиязычном тексте. Варианты включают Q6_K, Q5_K_M, а также смешанные Q3_K_M и Q4_K_M; размер файлов составляет примерно от 2,0 до 3,2 ГБ. Модель поддерживает режим рассуждений, формат вызова инструментов и мультиязычные данные, но точный перечень языков в README не указан. Сильными сторонами являются компактный размер, высокая эффективность использования VRAM, поддержка длинного контекста и близкое к эталонному качество у вариантов Q6_K и Q5_K_M. Более компактные варианты позволяют запускать модель на видеокартах с 4–8 ГБ памяти, но заметно уступают по показателям perplexity и демонстрируют более высокую вероятность пропуска требуемых вызовов инструментов. Для запуска требуется форк llama.cpp от XHToken, поскольку архитектура spark2_5 пока отсутствует в upstream-версии. Модель распространяется по лицензии Apache-2.0.

Spark-X2.5-4B-GGUF — это набор квантованных моделей в формате GGUF для генерации текста, основанный на Spark-X2.5-4B от XHToken. Конвертацию весов в GGUF выполнил Pink Pixel с использованием специальной сборки llama.cpp для Spark 2.5. Модель предназначена для локального запуска через llama.cpp и совместимые приложения, включая Ollama и LM Studio, а также для создания локальных чат-ассистентов и других сценариев генерации текста. Модель использует архитектуру Spark 2.5 с поддержкой гибридного внимания: скользящего окна и слоёв полного внимания. Заявлена длина контекста до 1 048 576 токенов, размер словаря — 131 072 токена. Поддерживаются английский и китайский языки. Доступны варианты от BF16 до квантований Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q3_K_M и Q2_K с размером файлов примерно от 1,66 до 7,66 ГБ. Более сильное сжатие уменьшает требования к памяти, но может заметно снижать качество вывода. К сильным сторонам относятся компактный размер исходной модели, высокая эффективность, большой контекст и широкий выбор квантований для устройств с разными ограничениями по памяти. Ограничением является необходимость поддержки архитектуры Spark2_5ForCausalLM в llama.cpp или используемом клиенте; качество и требования к ресурсам зависят от выбранного уровня квантования. Модель и исходные веса распространяются по лицензии Apache 2.0.

Spark-X2.5-4B MLX 4-bit — 4-битная MLX-квантизованная версия языковой модели XHToken/Spark-X2.5-4B, разработанной XHToken. Это универсальная текстовая модель для рассуждений, программирования, использования инструментов и агентских рабочих процессов. Модель содержит около 4 миллиардов параметров и поддерживает текстовую генерацию с нативным контекстом до 1 048 576 токенов. Размер файла весов составляет 2,31 ГБ. Модель предназначена для запуска в экосистеме MLX на совместимом оборудовании Apple, а её архитектура spark2_5 на данный момент поддерживается Spark-MLX-LLM. Совместимость с oMLX и стандартным MLX-LM в README не заявлена. К сильным сторонам относятся существенно уменьшенный размер 4-битных весов и очень длинное контекстное окно, что подходит для обработки больших документов и длительных агентских сценариев. При этом README не содержит подробных результатов тестирования, сведений о языках, конкретных мультимодальных возможностях или ограничениях качества. Модель распространяется по лицензии Apache-2.0.

sparsetral-16x7B-v2-SPIN_iter1 — разговорная языковая модель семейства Sparsetral, опубликованная serpdotai. Это итерация дообучения базовой sparsetral-16x7B-v2-SPIN_iter0 методом SPIN на OpenHermes-2.5 с добавлением примеров из наборов DPO. Модель построена на архитектуре MistralForCausalLM с разреженной смесью экспертов (MoE); метаданные указывают 7,1 млрд параметров, контекст до 32 768 токенов и формат Safetensors. Модель предназначена для генерации текста в диалогах и выполнения общих инструкций на английском языке. В README указан формат диалога с ролями system, user и assistant. Разработчик описывает эту версию как промежуточную итерацию и отмечает, что обучение пока приостановлено; поддержка специальных токенов чата и вызова функций обсуждалась как возможное направление дальнейшей работы. Модель распространяется по лицензии Apache-2.0. Ее характеристики отражают конкретную итерацию обучения, поэтому качество на отдельных задачах может различаться; в README разработчик приглашает присылать примеры задач, с которыми Sparsetral справляется слабо.

Spicy-Laymonade-7B — языковая модель на архитектуре Mistral, созданная объединением моделей ABX-AI и cgato с помощью mergekit и метода SLERP. В репозитории указаны объединённые модели ABX-AI/Laymonade-7B и cgato/TheSpice-7b-v0.1.1; метаданные описывают модель как плотную трансформерную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно применять для интерактивных бесед и создания текстовых ответов. Карточка разработчика характеризует результат как удачно работающий эксперимент, но не приводит оценок качества, перечня поддерживаемых языков или подробных рекомендаций по эксплуатации. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории модели и у авторов базовых моделей. Тег not-for-all-audiences предупреждает, что модель может быть неподходящей для всех аудиторий.

SpoomplesMaxx Whiskeyjack 12B («Camp Robber») — диалоговая модель на 12 млрд параметров, созданная как дообучение Google Gemma 4 12B Unified. Она предназначена для генерации текста в разговорных сценариях; в метаданных также отмечены настройка для рассуждений, ролевого общения и использования инструментов. Модель основана на плотной архитектуре Gemma 4 Unified, распространяется в формате Safetensors и доступна через Transformers. Базовая Gemma 4 Unified поддерживает работу с текстом, изображениями, видео и аудио, однако README этой версии не уточняет мультимодальные возможности дообученного чекпойнта, поэтому здесь подтверждена только генерация текста. Лицензия — Gemma; условия её использования определяются лицензией Google Gemma.

SPUPER-qwen2.5-7b-acaciawl-add-2k — дообученная компанией или автором Hahmdong версия Qwen/Qwen2.5-7B-Instruct, созданная с помощью TRL. Это плотная авторегрессионная языковая модель на 7,1 млрд параметров для диалоговой генерации текста и ответов на пользовательские запросы. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Карточка не описывает специализацию дообучения, состав обучающих данных или отдельные преимущества модели, поэтому её пригодность для конкретной области следует проверять на собственных примерах. Используется библиотека Transformers, веса опубликованы в формате safetensors; лицензия не приведена в предоставленных данных.

Stable Beluga 1 Delta — дельта-веса языковой модели Stability AI, полученной дообучением LLaMA 65B на внутреннем наборе данных в стиле Orca. Это авторегрессионная плотная модель семейства LLaMA с 65 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия по промптам в формате, похожем на Alpaca. В карточке указана поддержка английского языка; модель рассчитана на контекст до 2048 токенов и работает с библиотекой HuggingFace Transformers. Репозиторий содержит только дельта-веса: для восстановления полной модели их нужно применить к исходным весам LLaMA 65B. Модель подходит для ответов на вопросы, следования инструкциям и ведения диалога на английском языке. Возможны неточные, предвзятые или нежелательные ответы; перед внедрением рекомендуется проверять безопасность для целевого сценария. Лицензия — CC BY-NC 4.0, некоммерческое использование.

Stable Beluga 2 — авторегрессионная языковая модель Stability AI на архитектуре Llama 2, дообученная на 70B-базе в стиле Orca. Она предназначена для диалогов и генерации текста, в том числе ответов на вопросы и выполнения текстовых инструкций. Модель содержит 68,7 млрд параметров, работает с текстом и имеет контекст длиной 4096 токенов; в карточке заявлена поддержка английского языка. Модель опубликована в формате PyTorch и рассчитана на использование через Hugging Face Transformers. Чекпойнт распространяется по лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT, которая ограничивает коммерческое использование. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в продукте Stability AI рекомендует проводить проверку безопасности и настройку под конкретный сценарий.

Stable Beluga 7B — авторегрессионная языковая модель Stability AI, дообученная на базе Llama 2 7B на внутреннем наборе данных в стиле Orca. Модель с плотной архитектурой Llama содержит 6,6 млрд параметров, принимает текст и предназначена для генерации ответов на текстовые запросы. Максимальная длина контекста — 4096 токенов; заявленный язык — английский. Модель подходит для диалогов, ответов на вопросы и выполнения разнообразных текстовых инструкций. В README отмечено, что тестирование проводилось на английском языке. Ответы могут быть неточными, предвзятыми или нежелательными, поэтому перед внедрением модель следует проверить и настроить для конкретного применения. Чекпойнт распространяется по некоммерческой лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT.

Карточка модели hamxea/StableBeluga-7B-activity-fine-tuned-v2 на Hugging Face совпадает с карточкой stabilityai/StableBeluga2, поэтому описание составлено по ней. Stable Beluga 2 — авторегрессионная языковая модель Stability AI на архитектуре Llama 2, дообученная на 70B-базе в стиле Orca. Она предназначена для диалогов и генерации текста, в том числе ответов на вопросы и выполнения текстовых инструкций. Модель содержит 68,7 млрд параметров, работает с текстом и имеет контекст длиной 4096 токенов; в карточке заявлена поддержка английского языка. Модель опубликована в формате PyTorch и рассчитана на использование через Hugging Face Transformers. Чекпойнт распространяется по лицензии STABLE BELUGA NON-COMMERCIAL COMMUNITY LICENSE AGREEMENT, которая ограничивает коммерческое использование. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в продукте Stability AI рекомендует проводить проверку безопасности и настройку под конкретный сценарий.

WesPro/StarCaptain_Commander08_32B — объединённая модель для генерации текста и диалогового общения. Она создана сообществом WesPro методом SLERP с помощью mergekit на основе TheDrummer/Star-Command-R-32B-v1 и WesPro/C4AI_Adventure_CaptainCommand08_32B. Модель имеет плотную архитектуру CohereForCausalLM и 32,3 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. Базовые модели связаны с ролевым общением и генерацией текста, поэтому модель может подойти для диалоговых и ролевых сценариев. В репозитории используются веса Safetensors, а для работы указана библиотека Transformers. Сведения о лицензии, языках и специальных ограничениях качества в предоставленных данных отсутствуют.

Карточка модели unsloth/Starling-LM-7B-beta на Hugging Face совпадает с карточкой unsloth/llama-2-7b-chat, поэтому описание составлено по ней. Unsloth предоставляет дообученную разговорную версию Llama 2 с 7 млрд параметров для генерации текста в формате диалога. Модель основана на архитектуре Llama и предназначена для чат-ответов и продолжения текста; README упоминает шаблоны ShareGPT ChatML и Vicuna. Максимальная длина контекста — 4096 токенов. Модель принимает текст и выдаёт текст на английском языке. Репозиторий содержит веса Safetensors для использования с библиотекой Transformers. Лицензия — Apache 2.0. Доступная карточка описывает также сценарии дообучения, но не приводит подробностей о данных и конкретных изменениях весов.

Starling_Monarch_Westlake_Garten-7B-v0.1 — объединённая модель генерации текста на архитектуре Mistral, созданная автором giraffe176 методом DARE TIES с помощью mergekit. В слияние вошли Starling-LM-7B-alpha, AlphaMonarch-7B, WestLake-7B-v2-laser и garten2-7b; базой указан Mistral-7B-v0.1. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, в том числе для задач, где полезны рассуждения и эмоционально чуткие ответы. В README автор приводит результаты EQ-Bench v2.1, GSM8K, MT-Bench и других тестов; это результаты, заявленные в карточке модели, и они не гарантируют аналогичного качества на пользовательских задачах. Модель рассчитана на текстовый ввод и текстовый вывод. Лицензия — CC BY-NC 4.0, которая ограничивает коммерческое использование. Как объединённая экспериментальная версия, модель может отвечать неточно; в README не приведены сведения о поддерживаемых естественных языках.

Stealth v1.3 — разговорная языковая модель Jan на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для диалога и генерации текста; в карточке указан шаблон ChatML, а Jan Desktop позволяет запускать её на macOS, Windows и Linux. Модель принимает текст и генерирует текст, поддерживает английский язык и контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средний балл 71,12, включая AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает, на каких данных и каким способом модель обучалась, поэтому её происхождение нельзя надёжно определить.

Steelskull_L3.3-Cu-Mai-R1-70b-GGUF — набор GGUF-квантизованных версий текстовой генеративной модели L3.3-Cu-Mai-R1-70b, разработанной Steelskull. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска задач генерации текста через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты с разным уровнем квантизации — от Q8_0 до Q2_K и IQ-семейств. Размер файлов составляет примерно от 27,4 до 75 ГБ; версии Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые с точки зрения соотношения качества и занимаемой памяти. Более компактные варианты позволяют снизить требования к оперативной памяти, но могут заметно уступать по качеству. Версии Q4_1 и Q4_0 используют устаревшие форматы, однако README указывает для них отдельные преимущества на некоторых CPU и устройствах Apple. Модель поддерживает текстовую генерацию; сведения о мультимодальности, языках и размере контекстного окна в README не указаны. Основное преимущество набора — выбор между качеством, размером и требованиями к оборудованию, а также совместимость с распространённой экосистемой llama.cpp. Ограничения связаны с большими требованиями к памяти даже у компактных вариантов и неизбежными потерями качества при сильной квантизации. Для работы следует использовать указанный формат prompt с системными и пользовательскими сообщениями. Лицензия указана как llama3.3.

Steelskull_L3.3-Mokume-Gane-R1-70b-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Steelskull/L3.3-Mokume-Gane-R1-70b, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Доступны варианты квантизации от Q8_0 до Q2_K_L и ряда IQ-форматов; размер файлов составляет примерно от 27,47 до 74,98 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, но требуют больше памяти. В README рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS; низкобитные варианты рассчитаны на системы с ограниченным объёмом оперативной памяти, но могут заметно уступать по качеству. Модель поддерживает текстовый сценарий использования; сведения о мультимодальности, языках, размере контекста, архитектурных деталях и конкретных целевых задачах в README не указаны. Для работы следует использовать приведённый формат промпта с системным сообщением, пользовательским запросом и ответом ассистента. Лицензия указана как llama3.3.

Steelskull_L3.3-Shakudo-70b-GGUF — это набор квантованных версий языковой модели L3.3-Shakudo-70b, разработанной Steelskull. Квантование выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может применяться в локальных сценариях, включая работу через LM Studio, llama.cpp и другие проекты на его основе. В набор входят варианты GGUF с разной степенью квантования: от Q8_0 до Q2_K, включая форматы Q6_K, Q5_K_M, Q4_K_M, IQ4_XS и другие. Версия Q6_K описана как близкая к исходному качеству, а Q4_K_M — как стандартный вариант для большинства сценариев с хорошим соотношением качества и размера. Ключевая характеристика модели — размер 70 миллиардов параметров; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Сильными сторонами являются широкий выбор вариантов для разного объёма оперативной памяти, поддержка локального запуска и сохранение высокого качества при использовании более крупных квантов. Ограничения связаны с компромиссом между размером файлов и качеством: низкобитные варианты требуют меньше памяти, но могут заметно уступать более точным версиям. Для работы рекомендуется использовать указанный prompt format. Модель распространяется по лицензии llama3.3.

polshdgg/storyteller — языковая модель, дообученная разработчиком polshdgg на базе unsloth/llama-3.2-3b-instruct-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 3,2 млрд параметров; она предназначена для генерации текста и диалогового общения. Заявленная длина контекста — 131 072 токена, основной указанный язык — английский. Модель можно использовать для ведения диалогов и генерации текстовых ответов. Репозиторий содержит веса в формате PyTorch и распространяется по лицензии Apache-2.0. Карточка не описывает отдельные сценарии storyteller, данные обучения или результаты оценки качества, поэтому специализацию на конкретном жанре или стиле подтвердить нельзя.

StrangeMerges_3-7B-slerp — объединённая модель для генерации текста на архитектуре Mistral, созданная Gille с помощью LazyMergekit. Она получена методом SLERP из FelixChao/WestSeverus-7B-DPO-v2 и Gille/StrangeMerges_1-7B-slerp; размер составляет 7,1 млрд параметров, формат весов — Safetensors, контекст — до 32 768 токенов. Модель предназначена для генерации продолжений и ответов по текстовым запросам. В README приведены результаты оценки на задачах рассуждения AI2 ARC и HellaSwag. Поддержка русского языка отдельно не заявлена. Репозиторий распространяется по лицензии Apache-2.0.

StructuredThinker-v0.3-MoreStructure — объединённая разговорная языковая модель семейства Qwen2, созданная автором репозитория Ahdoot с помощью mergekit и метода DARE TIES. В качестве базовой модели использована Qwen/Qwen2.5-3B-Instruct; в объединение также вошли PowerInfer/SmallThinker-3B-Preview и prithivMLmods/QwQ-LCoT-3B-Instruct. Модель содержит 3,1 млрд параметров, работает с текстом и имеет контекстное окно 32 768 токенов. Модель предназначена для генерации текста и диалогов, в том числе для структурированных ответов. Метаданные отмечают интерфейс вызова инструментов, но README не описывает его поведение или качество. Модель доступна в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана.

ifyou819/summary-bbc-dataset-v3 — дообученная модель семейства Pegasus для суммаризации текстов; в карточке указана оценка на наборе BBC. Модель содержит около 366,8 млн параметров, работает с текстом и имеет контекст длиной до 1024 токенов. Её можно использовать для подготовки кратких сводок по статьям и новостям. В README приведены результаты ROUGE-1 0,500, ROUGE-2 0,357 и ROUGE-L 0,389; подробности о данных обучения, предполагаемом применении и ограничениях не раскрыты. Лицензия в предоставленных данных не указана.

Superevolution — объединённая разговорная языковая модель от mergekit-community, созданная методом SLERP из NousResearch/Hermes-2-Pro-Mistral-7B и mergekit-community/TopEvolution. Это плотная архитектура MistralForCausalLM примерно на 7,1 млрд параметров, рассчитанная на генерацию текста и диалоги; заявленная длина контекста — 32 768 токенов. Слияние настроено так, чтобы сочетать вклад Hermes на входе и выходе с вкладом WizardMath в средних слоях. Модель распространяется в формате safetensors и предназначена для Transformers. Её можно использовать для диалоговых приложений и генерации ответов на текстовые запросы. Карточка не описывает специальные предметные области, языки или результаты оценки качества, поэтому нельзя уверенно определить её преимущество в конкретных задачах. Условия лицензии в доступных данных не приведены.

supergemma4-e4b-abliterated-GGUF — это квантованное распространение модели Jiunsong/supergemma4-e4b-abliterated, подготовленное mradermacher в формате GGUF. Модель относится к семейству Gemma, ориентирована на генерацию текста и instruction-tuned-сценарии, а также заявляет поддержку tool calling и структурированного вывода. В метаданных указан английский язык. Модель предназначена для локального запуска и интеграции с совместимыми средами инференса, включая инструменты для работы с GGUF и vLLM. Доступны варианты квантования Q2_K, Q3_K, IQ4_XS, Q4_K, Q5_K, Q6_K, Q8_0 и f16 размером примерно от 4,5 до 15,2 ГБ. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант высокого качества, а Q8_0 — как наиболее качественный среди быстрых вариантов. Ключевое преимущество — широкий выбор квантований, позволяющий адаптировать требования к памяти, скорости и качеству. Более агрессивные варианты могут снижать качество генерации; для Q3_K_M это указано отдельно. Размер контекста, точная архитектура, количество параметров, мультимодальные возможности и подробные результаты оценки в README не указаны. Лицензия обозначена как gemma.

Это квантованная версия модели supergemma4-e4b-abliterated, основанной на Jiunsong/supergemma4-e4b-abliterated. Квантование выполнил mradermacher; набор файлов опубликован в формате GGUF. Модель предназначена для генерации текста по инструкциям, включая сценарии с tool-calling и structured output, а также поддерживает обработку изображений как vision-модель. В README указано, что модель ориентирована на английский язык и использует экосистему Transformers. Доступны варианты квантования i1 с разными типами и размерами примерно от 4,5 до 6,3 ГБ; среди рекомендуемых отмечены i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Конкретные архитектурные параметры, число параметров и размер контекста не указаны. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Основные преимущества — широкий выбор GGUF-квантов, возможность локального запуска при ограниченных ресурсах и поддержка текстовых, визуальных, инструментальных и структурированных сценариев. Качество зависит от выбранного типа квантования: варианты с более низким размером могут уступать по качеству, а IQ-кванты в README часто рекомендуются вместо сопоставимых обычных вариантов. Модель распространяется по лицензии Gemma.

MaziyarPanahi/supermario-slerp-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и jan-hq/supermario-slerp. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных указан английский язык. Файлы представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0.

jan-hq/supermario-v2 — языковая модель для генерации текста, созданная Jan с помощью слияния DARE_TIES. В основе лежит Mistral-7B-v0.1; в слиянии также использованы OpenHermes-2.5-neural-chat-v3-3-Slerp, MetaMath-Cybertron-Starling и Marcoroni-7B-v3. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов в формате ChatML, а также может применяться для математических вопросов и задач на рассуждение. В README приведены результаты оценок на бенчмарках ARC и HellaSwag. Запуск поддерживается через Jan Desktop на macOS, Windows и Linux. Модель распространяется по лицензии Apache-2.0.

SuperQwen3.8-abliterated-Venice-i1-GGUF — набор GGUF-квантизаций модели SuperQwen3.8-abliterated-100-fp8, разработанной Jiunsong и квантованной mradermacher. Модель предназначена для локального запуска задач генерации текста, рассуждений, работы с изображениями и текстом, вызова инструментов и сценариев с длинным контекстом. В карточке также указана поддержка английского и корейского языков. Это мультимодальная vision-модель с архитектурой и размером исходной модели, а также максимальной длиной контекста, не указанными в README. Доступны варианты i1-квантизации от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ, включая IQ-квантизации. Разные варианты позволяют выбирать компромисс между размером, скоростью и качеством; для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. К сильным сторонам относятся мультимодальность, поддержка рассуждений, tool-calling, длинного контекста и широкий выбор квантизаций, включая варианты, оптимизированные по матрице важности. Ограничения — отсутствие в README точных сведений о характеристиках архитектуры, контекстном окне, производительности и качестве на тестах; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.