II.2Создание и понимание программного кода

Yuan2-2B-hf — плотная языковая модель с архитектурой YuanForCausalLM, разработанная IEIT System как часть семейства Yuan 2.0. Репозиторий содержит веса PyTorch; модель насчитывает около 1,9 млрд параметров и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогов, а также для сценариев, где нужны понимание семантики, математические рассуждения, работа с кодом и знаниями. Разработчик предоставляет инструменты для дообучения и развёртывания инференса. Карточка приводит оценочные наборы GSM8K, AGIEval-GK-Math, HumanEval и TruthfulQA, но не содержит результатов именно для этой версии в доступной таблице. В README заявлена коммерческая возможность использования при соблюдении лицензии Yuan 2.0; код оригинального репозитория распространяется по Apache 2.0. Модель может выдавать неточные ответы и поддаваться вводящим в заблуждение инструкциям.

PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

Карточка модели PS4Research/4wvQl2UniBkYhlEJ на Hugging Face совпадает с карточкой PS4Research/0VOz3fgU0qp4lVar, поэтому описание составлено по ней. PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

ANITA-NEXT-20B-gpt-oss-ITA — языковая модель семейства ANITA, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Это дообученная методом SFT с QLoRA и дополнительно выровненная с помощью DPO версия openai/gpt-oss-20b. Модель предназначена для диалогов, генерации текста и кода, агентных сценариев и последующего дообучения для задач на итальянском языке. Модель принимает текст и генерирует текст; карточка характеризует её как мультиязычную с акцентом на итальянский и английский. Архитектура — GPT-OSS с разреженной экспертной моделью (MoE), в репозитории используются веса Safetensors. Метаданные указывают 1,6 млрд параметров и контекст до 131 072 токенов; README предупреждает, что качество ответов ухудшается после 40 000 токенов. Лицензия — Apache-2.0. Модель подходит для италоязычных диалогов, генерации кода и построения агентных приложений. Разработчик предупреждает о возможных галлюцинациях и некорректных, оскорбительных или опасных ответах, поэтому результаты требуют проверки. В README релиз обозначен как предназначенный для исследовательских целей.

Axeron Forge — объединённая модель генерации текста, созданная TuralBayev с помощью инструмента forgelm. В основе лежит Qwen/Qwen2.5-3B; методом Task Arithmetic объединены веса Qwen2.5-Coder-3B-Instruct и Qwen2.5-3B-Instruct с базовой моделью. Это плотная авторегрессионная модель архитектуры Qwen2 с 3,1 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций; наличие компонентов Instruct и Coder позволяет использовать её для вопросов и ответов, помощи с кодом и структурированных ответов. Метаданные отмечают интерфейс вызова инструментов, однако карточка не содержит оценок качества или примеров, подтверждающих надёжность этой возможности. Лицензия в предоставленных данных не указана.

Beyonder-4x7b — языковая модель для генерации текста и диалогов, созданная Mlabonne как смесь экспертов (MoE) с помощью mergekit на ветке Mixtral. В неё объединены openchat/openchat-3.5-1210, beowolx/CodeNinja-1.0-OpenChat-7B, maywell/PiVoT-0.1-Starling-LM-RP и WizardLM/WizardMath-7B-V1.1. Архитектура Mixtral использует несколько экспертных сетей; размер модели по метаданным — 7,1 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в чате и может применяться для диалоговых ответов, объяснений, помощи с кодом и математическими задачами. Репозиторий содержит веса Safetensors. Модель распространяется по лицензии Apache-2.0. README содержит лишь краткий пример ответа и не приводит сравнительных оценок качества.

Карточка модели Oscilla/Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

Карточка модели squ0sh/Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

Карточка модели thoddnn/Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

Карточка модели Vladimirval/Bonsai-27B-mlx-1bit на Hugging Face совпадает с карточкой prism-ml/Bonsai-27B-mlx-1bit, поэтому описание составлено по ней. Bonsai-27B-mlx-1bit — 27-миллиардная модель для генерации текста и диалогов, представленная Prism ML. Это производная от Qwen/Qwen3.6-27B модель с гибридной архитектурой внимания: около 75% линейного и 25% полноразмерного внимания. Языковые веса представлены в бинарном формате с эффективной точностью 1,125 бита на параметр; башня зрения использует 4-битное HQQ-представление. Модель рассчитана на локальный запуск на устройствах Apple через MLX, а также поддерживает CUDA. Модель предназначена для рассуждений, работы с кодом, агентных сценариев, длинных диалогов и анализа документов. Заявлены контекст до 262 тысяч токенов и footprint около 3,9 ГБ; авторы сообщают о скорости около 11 токенов/с на iPhone 17 Pro Max и сохранении примерно 90% качества FP16-версии по выбранным бенчмаркам. Компактное представление позволяет запускать модель локально, включая смартфоны, ноутбуки и потребительские GPU. Основной компромисс — снижение качества относительно полной точности, особенно в наиболее сложных категориях; авторы также отмечают, что длительные агентные задачи программирования пока не являются сильной стороной этой версии. Производительность на телефоне зависит от теплового режима. Модель распространяется по лицензии Apache-2.0.

Chimera-Apex-7B — экспериментальная диалоговая языковая модель, созданная объединением нескольких моделей семейства Mistral с помощью mergekit. Она содержит 7,1 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Модель предназначена для диалогов, ответов на вопросы, генерации кода и широкого круга текстовых задач. В состав объединения входят Azazelle/Half-NSFW_Noromaid-7b, cognitivecomputations/dolphin-2.0-mistral-7b, Endevor/InfinityRP-v1-7B и FuseAI/FuseChat-7B-VaRM. README отмечает экспериментальный характер модели и возможность ошибок и унаследованных предубеждений; также упоминается возможность генерации NSFW-контента. Модель распространяется по лицензии Apache-2.0.

ChimeraLlama-3-8B-v2 — языковая модель на архитектуре Llama, созданная mlabonne с помощью LazyMergekit путём слияния шести моделей семейства Llama 3. Она предназначена для генерации текста и диалогового использования, включая ответы на вопросы и написание кода. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. В состав слияния входят инструктивные и диалоговые модели, включая NousResearch/Meta-Llama-3-8B-Instruct, OrpoLlama-3-8B и Dolphin 2.9 Llama 3 8B. Карточка приводит результаты оценок Open LLM Leaderboard, в том числе IFEval и BBH. В метаданных указана лицензия other; конкретные условия использования следует сверить с лицензиями исходных моделей. Данные карточки не описывают отдельную специализацию или гарантии качества для конкретных сценариев.

Карточка модели jinreiyu/cloned-Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

CodeR-full — модель для преобразования текста и кода в эмбеддинги, разработанная авторами семейства CodeR. Она обучена на текстовых данных и полных данных о коде и предназначена для представления текстов и программ в векторном виде, а также вычисления сходства между предложениями. Модель основана на плотной архитектуре Qwen2 и содержит 1,5 млрд параметров; максимальный контекст составляет 32 768 токенов. Для работы доступны форматы Sentence Transformers, FlagEmbedding и Hugging Face Transformers. Модель подходит для поиска и сравнения текстовых и кодовых фрагментов по смыслу. Карточка приводит примеры использования через библиотеки для получения эмбеддингов; отдельные результаты оценки качества не указаны. Поддерживаются китайский и английский языки. Лицензия — Apache-2.0.

Locutusque/DareQwen-2.5-7B — объединённая языковая модель, созданная автором репозитория с помощью mergekit на основе Qwen2.5. В слиянии DARE TIES использованы Qwen2.5-7B, Qwen2.5-7B-Instruct, Qwen2.5-Coder-7B-Instruct и Qwen2.5-Math-7B-Instruct; параметры сохранены в формате bfloat16. Модель содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, а объединение вариантов Instruct, Coder и Math ориентировано на сочетание общих инструкций, программирования и математических задач. В метаданных также отмечен интерфейс вызова инструментов. Указана поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. README предупреждает, что объединённая модель требует дообучения, поэтому её готовность к практическому использованию без дополнительной настройки не подтверждена. Лицензия в предоставленных данных не указана.

AbuYahya2/deepseek-marsad-v2 — объединённая языковая модель, созданная с помощью mergekit методом TIES. В качестве базовой использована deepseek-ai/DeepSeek-R1-Distill-Llama-8B; в слияние также вошли arcee-ai/Llama-3.1-SuperNova-Lite, FuseAI/FuseChat-Llama-3.1-8B-Instruct и richardyoung/Llama-3.1-8B-Instruct-abliterated-obliteratus. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Среди возможных сценариев — ответы на вопросы, помощь с задачами на рассуждение и программирование, а также вызов инструментов через предусмотренный интерфейс. Заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст; в карточке указана библиотека Transformers и формат весов safetensors. Карточка не приводит результатов оценки качества или подробного описания ограничений. Лицензия в предоставленных данных не указана.

casperhansen/deepseek-r1-distill-llama-8b-awq — это 4-битная AWQ-квантизованная версия DeepSeek-R1-Distill-Llama-8B, опубликованная пользователем Casper Hansen на Hugging Face. Исходную модель разработала DeepSeek; она создана дистилляцией DeepSeek-R1 в базовую архитектуру Llama 3.1 8B с использованием синтетических образцов, с акцентом на рассуждения. Репозиторий Casper Hansen содержит веса в формате Safetensors и конфигурацию для запуска квантизованной модели. Модель предназначена для текстовой генерации и задач, требующих языкового и логического рассуждения, включая ответы на вопросы, математические и программные задачи. Она использует архитектуру LlamaForCausalLM, около 8 млрд параметров, 32 слоя, 32 attention-heads и 8 key-value heads. Конфигурация указывает контекст до 131 072 токенов, хотя практическая поддержка зависит от используемого ПО и ресурсов. Мультимодальность не заявлена; модель работает с текстом. Квантизация снижает требования к памяти и ускоряет локальный запуск, но может ухудшать качество по сравнению с полной точностью. Карточка производной модели почти не содержит описания, поэтому подробные сведения о бенчмарках, ограничениях безопасности, языковой поддержке и рекомендуемых сценариях именно этой AWQ-сборки отсутствуют. В репозитории указана лицензия MIT; при использовании также следует учитывать условия исходной модели DeepSeek-R1-Distill-Llama-8B.

RedHatAI/DeepSeek-R1-Distill-Qwen-32B-FP8-dynamic — это квантизированная версия языковой модели DeepSeek-R1-Distill-Qwen-32B, разработанная Neural Magic. Модель построена на архитектуре Qwen2ForCausalLM, принимает текстовые входные данные и генерирует текст, поэтому предназначена для задач диалога, рассуждений, ответов на вопросы и других сценариев применения каузальных языковых моделей. Поддерживаемые языки и размер контекстного окна в README не указаны. Модель содержит около 32 млрд параметров и использует FP8-квантизацию весов и активаций, что примерно вдвое снижает объём хранения и требования к GPU-памяти по сравнению с представлением FP16. Квантизации подвергаются линейные операторы внутри трансформерных блоков: веса квантизуются симметрично по каналам, а активации — симметрично по токенам. Для подготовки использован LLM Compressor, а эффективное развертывание рекомендуется через vLLM. По приведённым результатам FP8-версия сохраняет около 99% средних показателей исходной модели на тестах рассуждений и OpenLLM Leaderboard, хотя на отдельных наборах качество немного снижается. Ограничения включают возможные потери точности из-за квантизации, необходимость совместимого программного и аппаратного окружения для эффективной работы с FP8, а также отсутствие в README сведений о контекстном окне и языковом охвате. Модель распространяется по лицензии MIT.

Baekpica/DeepSeek-V4-Flash-0731-120B-REAM-104E-BF16 — это производная модель на архитектуре DeepSeek-V4, созданная автором Baekpica на основе deepseek-ai/DeepSeek-V4-Flash-0731. Это MoE-чекпойнт с 119,8 млрд основных параметров и примерно 13,8 млрд активных параметров на токен; эксперты были объединены методом REAM с последующим дообучением для восстановления поведения. Веса BF16 сохранены в формате safetensors, обновления SFT и маршрутизатора объединены с весами, поэтому отдельный адаптер не требуется. Метаданные указывают контекст до 1 048 576 токенов. Модель предназначена для генерации текста, диалогов, написания кода, многоязычных инструкций и работы с длинным контекстом, включая извлечение сведений из объёмного текста. Карточка описывает отдельные успешные проверки JSON, кода и длинного извлечения, но также фиксирует ошибки в арифметике, повторяющийся цикл самокоррекции и изменение поведения после слияния экспертов. Эти проверки не подтверждают общее качество длинноконтекстной работы или сохранение исходных бенчмарков. Лицензия — MIT; применяются условия и ограничения исходной модели.

DFM Mimir v1 — языковая модель, разработанная в рамках Danish Foundation Models при сотрудничестве Университета Южной Дании, Орхусского университета, Копенгагенского университета и Alexandra Institute. Модель обучена с нуля на архитектуре HRM-Text и предназначена для генерации текста и диалогового следования инструкциям. В репозитории указано около 1 млрд параметров, а метаданные Hugging Face содержат оценку 855,6 млн; длина контекста — 4096 токенов. Модель ориентирована на датский и английский языки. Авторы сообщают о конкурентных результатах на тестах по датскому, английскому, математике и программированию, включая новый уровень результатов для датского среди сравниваемых моделей. Она может использоваться для диалога, ответов на вопросы, следования инструкциям, а также задач на рассуждение, математику и код. Лицензия — Apache 2.0. Авторы предупреждают, что модель обучалась только на датском и английском и может плохо работать на других языках. Она не проходила специальную настройку безопасности и может отражать социальные предубеждения обучающих данных.

Dolphin-2.7-mixtral-8x7b-GGUF — квантизированная версия языковой модели Dolphin 2.7 Mixtral 8X7B, разработанной Cognitive Computations и преобразованной в формат GGUF компанией Second State Inc. Модель основана на архитектуре Mixtral и предназначена для диалоговых сценариев и генерации текста; README также указывает на использование обучающих наборов для инструкционного следования, программирования и универсальных задач. Заявлен английский язык. Модель поддерживает шаблон запросов ChatML и контекст длиной 4096 токенов. Доступны варианты квантизации от Q2_K до Q8_0 размером примерно от 15,6 до 49,6 ГБ. Q4_K_M, Q5_K_M и Q5_K_S отмечены как рекомендуемые варианты с балансом между размером и качеством, тогда как более низкие уровни квантизации могут приводить к существенной потере качества. Для запуска через LlamaEdge требуется версия 0.2.8 или новее. README не содержит данных о мультимодальности или поддержке других языков. Лицензия модели — Apache-2.0.

dolphin-2.9.1-mixtral-1x22b-IMat-GGUF — это квантизированная версия текстовой генеративной модели dolphin-2.9.1-mixtral-1x22b, разработанной cognitivecomputations и подготовленной в формате GGUF пользователем legraphista. Модель предназначена для локального запуска и задач генерации текста, включая диалоговое взаимодействие, следование инструкциям, программирование, математические задачи, function calling и агентские сценарии, на которые указывают использованные при обучении наборы данных. Заявленный язык — английский. Модель основана на архитектуре Mixtral и имеет обозначение 1x22b; точные характеристики архитектуры и размер контекстного окна в README не указаны. Доступны варианты от BF16 и FP16 до Q2_K, Q3_K, Q4_K, Q5_K, Q6_K и Q8_0 с размером файлов примерно от 8,27 до 44,48 ГБ. Для ряда вариантов применена IMatrix-квантизация, предназначенная для более эффективного уменьшения размера при сохранении качества. Это позволяет выбирать баланс между требованиями к памяти и качеством вывода, однако квантизация может снижать точность по сравнению с исходной BF16-моделью, особенно у компактных вариантов. Для запуска используются совместимые инструменты экосистемы llama.cpp. Модель распространяется по лицензии Apache-2.0. README не содержит результатов бенчмарков, данных о поддерживаемых языках помимо английского, точного контекстного окна или подробных сведений о системных требованиях, поэтому эти характеристики нельзя надежно оценить.

Это GGUF-квантизированная версия модели dolphin-2.9.2-Phi-3-Medium-abliterated, разработанной cognitivecomputations и подготовленной пользователем legraphista. Модель основана на Phi-3 Medium, распространяется для генерации текста и ориентирована на диалоговые, инструкционные, математические, кодовые и агентские сценарии. В обучении исходной модели использовались, в частности, наборы Dolphin-2.9.2, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, Orca Math и Agent-FLAN. Модель предназначена для локального запуска через llama.cpp и совместимые инструменты. Репозиторий предоставляет файлы в форматах BF16, FP16 и различных вариантах квантования GGUF: от Q8_0 и Q6_K до Q2_K, включая варианты с применением IMatrix. Размер доступных файлов составляет примерно от 5,20 до 27,92 ГБ. Указан английский язык; сведения о других языках, точном числе параметров, архитектурных деталях и размере контекста в README отсутствуют. К сильным сторонам относятся широкий выбор уровней квантования, возможность подобрать баланс между качеством и требованиями к памяти, а также использование IMatrix в ряде компактных вариантов. Ограничения включают зависимость характеристик от выбранного файла квантования и отсутствие в предоставленных данных результатов бенчмарков или подробной оценки качества. Модель и её варианты распространяются по лицензии MIT.

duyntnet/DuckDB-NSQL-7B-v0.1-imatrix-GGUF — это GGUF-квантизированная версия DuckDB-NSQL-7B-v0.1, разработанная на основе модели motherduckdb. DuckDB-NSQL относится к семейству авторегрессионных открытых foundation-моделей, специально предназначенных для генерации SQL-запросов для DuckDB. В карточке также указаны поддержка Transformers, формата GGUF и метода imatrix-квантизации. Модель предназначена для преобразования инструкций на естественном языке в DuckDB SQL, в том числе с учётом схемы базы данных. Она может использоваться для создания таблиц из файлов, формирования запросов по описанию задачи, выбора столбцов, фильтрации и анализа данных. В качестве входа поддерживаются текстовые инструкции, вопросы и описания схемы базы данных. Указан английский язык; другие языки не заявлены. Размер модели — 7B параметров согласно идентификатору исходной модели. Точные архитектурные параметры, размер контекстного окна и характеристики конкретной GGUF-квантизации в README не указаны. Сильная сторона модели — специализация на DuckDB SQL и возможность учитывать структуру таблиц при генерации запросов. Ограничения включают зависимость качества от корректности предоставленной схемы и формулировки задачи, а также отсутствие подтверждённых сведений о поддерживаемых языках, контекстном окне и точных параметрах квантизации. Лицензия обозначена как other, без дополнительных условий в карточке.

ERNIE-4.5-37B-A3B-Thinking-Brainstorm20x — текстовая MoE-модель для генерации и диалога, созданная DavidAU на основе ERNIE-4.5-21B-A3B-Thinking от Baidu с применением Brainstorm 20x. Модель предназначена для творческого письма, мозгового штурма, диалогов, программирования и рассуждений. По карточке, расширение Brainstorm направлено на более подробную и связную прозу, выразительные описания и нестандартные ассоциации; заявлены улучшения на некоторых тестах связности и повествовательного завершения, при небольшом снижении результата BoolQ. Архитектура — ERNIE 4.5 MoE с классом Ernie4_5_MoeForCausalLM; в метаданных указано 5,4 млрд параметров, а карточка описывает расширение исходной модели с 21 до 37 млрд параметров. Контекст составляет 131 072 токена. Модель принимает текст и генерирует текст; карточка указывает английский язык. Доступны веса safetensors и библиотека Transformers, а также возможность использовать исходные веса для конвертации в другие форматы. Лицензия — Apache-2.0. Для квантованных вариантов автор рекомендует не опускаться ниже IQ3 с imatrix или q4_K_S.

suayptalha/Falcon3-Jessi-v0.4-7B-Slerp — языковая модель на 7,1 млрд параметров, полученная слиянием SLERP моделей neopolita/jessi-v0.4-falcon3-7b-instruct и tiiuae/Falcon3-7B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям, включая задачи рассуждения, понимания языка, программирования и математики. Модель использует архитектуру LlamaForCausalLM, сохранена в формате safetensors и поддерживает контекст до 32 768 токенов. Заявлена поддержка английского, французского, испанского и португальского языков. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH, а также утверждение о высоком рейтинге модели на момент публикации. Лицензия указана как other, поэтому условия использования следует проверять в карточке модели и у исходных моделей.

insraq/G9v3-3B-heretic — созданная командой AI9Stars версия G9v3-3B, обработанная инструментом Heretic v1.4.0 для снижения числа отказов. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 2,7 млрд параметров, предназначенная для локального запуска и сценариев с ограниченными ресурсами. Модель поддерживает генерацию текста и диалоговое использование, включая повседневные запросы, программирование, рассуждения и взаимодействие с инструментами. Контекстное окно составляет 131 072 токена; в карточке указаны английский и китайский языки. В сравнении с исходной G9v3-3B модель показала 9 отказов из 100 тестовых запросов против 100 из 100 у оригинала; указанная дивергенция KL — 0,0410. Снижение числа отказов не гарантирует точности или безопасности: ответы могут быть ошибочными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0.

ente-ai/gemma-4-E2B-it-GGUF — это GGUF-версия инструкционно настроенной мультимодальной модели Gemma 4 E2B, разработанной Google DeepMind и подготовленной для распространения в формате GGUF. Модель принимает текст, изображения и аудио, а генерирует текст; поддерживает более 140 языков. Она предназначена для локального запуска на ноутбуках и мобильных устройствах, а также для генерации текста, программирования, рассуждений, мультимодального анализа и агентских сценариев с вызовом функций. Модель имеет 2,3 млрд эффективных параметров, или 5,1 млрд с учётом embedding-слоёв, 35 слоёв и контекстное окно до 128K токенов. В архитектуре используется гибридное внимание: локальное sliding window attention с окном 512 токенов чередуется с глобальным вниманием. Поддерживаются настраиваемые режимы рассуждений, системные промпты и native function calling. Небольшой размер и оптимизация для устройств являются сильными сторонами, однако по возможностям и качеству сложных задач модель уступает более крупным вариантам семейства; конкретные характеристики также зависят от используемой GGUF-квантизации. Модель распространяется по лицензии Apache 2.0. README не указывает точный уровень квантизации данного файла и требования к аппаратному обеспечению.

AtomicChat/gemma-4-E4B-it-assistant-GGUF — это локальная GGUF-квантизированная версия модели google/gemma-4-E4B-it-assistant, разработанной Google и самостоятельно преобразованной в GGUF командой Atomic Chat. Модель предназначена для генерации текста, диалоговых ассистентов, рассуждений, программирования и автономного офлайн-использования через llama.cpp, Ollama, LM Studio, Jan и совместимые приложения. Архитектура модели — плотный decoder с 42 слоями, гибридным вниманием: скользящее окно 512 токенов сочетается с глобальным вниманием. Указано 4,5 млрд эффективных параметров и 8 млрд параметров с учётом embeddings, контекст до 128K токенов, словарь 262K токенов, 4 attention heads и 2 KV heads. Базовая модель поддерживает текст, изображения и аудио, однако представленные в этом репозитории кванты являются текстовыми и не содержат vision projector. Языки модели в README не указаны. Доступны варианты Q4_K_S, Q4_K_M, Q5_K_M, Q8_0 и F16; квантизация выполнена с importance matrix, что должно уменьшать потери качества на низкой разрядности. Q4_K_M рекомендован как компромисс между размером, скоростью и качеством, а Q8_0 и F16 — для большей точности. Ограничениями являются текстовый формат поставки, возможная потеря качества из-за квантизации и необходимость использовать шаблон чата Gemma 4 через параметр --jinja. Приведённые в README результаты бенчмарков относятся к базовой модели Google, а не к независимым измерениям данной квантизированной версии. Модель распространяется по лицензии Apache 2.0.

Arabic250/gemma-4-E4B-it-GGUF — это 4-битная GGUF-версия instruction-tuned модели Gemma 4 E4B, разработанной Google DeepMind и подготовленной в формате GGUF командой Unsloth. Модель предназначена для локального запуска и дообучения, включая работу на ноутбуках и мобильных устройствах, а также для использования в Unsloth Studio и средах на базе llama.cpp. Модель принимает текст и изображения, поддерживает аудио на нативном уровне и генерирует текст. Вариант E4B имеет около 4,5 млрд эффективных параметров, 42 слоя, контекстное окно до 128K токенов и словарь размером 262K токенов. Архитектура использует гибридное внимание: локальные скользящие окна чередуются с глобальным вниманием. Gemma 4 поддерживает более 140 языков, режимы рассуждения, генерацию текста, программирование, мультимодальное понимание, tool calling и агентские сценарии. К сильным сторонам относятся компактный размер, возможность эффективного локального развертывания, длинный контекст, мультимодальность и поддержка структурированных диалогов с системными инструкциями. Ограничением являются возможные потери точности из-за 4-битной квантизации, а также требования к совместимому программному обеспечению и оборудованию; конкретные показатели производительности для данной сборки в README не приведены. Модель распространяется по лицензии Apache 2.0.