II.1Анализ требований и архитектура ПО

mlx-community/DeepSeek-R1-Distill-Qwen-32B-4bit — это 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанная сообществом mlx-community и преобразованная из исходной модели deepseek-ai/DeepSeek-R1-Distill-Qwen-32B в формат MLX с использованием mlx-lm версии 0.20.2. Модель предназначена для генерации текста и диалогового использования в экосистеме MLX, в частности через библиотеку mlx-lm. В README приведён пример запуска с чат-шаблоном токенизатора, поэтому её можно использовать для ответов на запросы и интерактивного общения. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Ключевая характеристика модели — 4-битное представление, ориентированное на более эффективное использование памяти при локальном запуске в MLX. Ограничения, точные сильные стороны, лицензия и условия распространения в README не указаны. Для работы требуется установить библиотеку mlx-lm.

mlx-community/DeepSeek-V3.1-8bit — это 8-битная версия модели DeepSeek-V3.1, преобразованная сообществом mlx-community в формат MLX из исходной модели deepseek-ai/DeepSeek-V3.1. Модель предназначена для генерации текста и локального использования через библиотеку mlx-lm на устройствах, поддерживающих MLX. Она может применяться для диалогов и других задач текстовой генерации; в README приведён пример использования с chat template и сообщениями в формате ролей. Ключевые характеристики — формат MLX, 8-битное представление весов и тег text-generation. Конвертация выполнена с помощью mlx-lm версии 0.26.3. Данные о точном размере модели, архитектуре, поддерживаемых языках и длине контекста в README не указаны. Сжатое 8-битное представление может быть удобно для локального запуска, однако конкретные требования к памяти, производительность и качество по сравнению с исходной моделью не описаны. Модель распространяется по лицензии MIT.

Bill435/Drjajsufhfh — мультимодальная модель на базе Qwen3.6-27B-Fable-Fusion-711, опубликованная в формате GGUF. Она создана в рамках совместной работы автора репозитория с участниками Nightmedia, TeichAI, armand0e и trohrbaugh с использованием многоэтапного дообучения, нескольких слияний моделей и Unsloth. В README также указаны датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется по лицензии Apache-2.0. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, создания историй, ролевых сценариев и других универсальных применений. Заявлена поддержка работы с текстом и изображениями, а также языков английского и китайского. Доступны обычные и MTP-варианты GGUF-квантования; используются NEO IMATRIX-кванты, а выходной тензор в них частично сохранён в 16-битной точности. Указан размер базовой модели 27B, однако размер контекстного окна в README не приведён. К сильным сторонам относятся улучшенное следование инструкциям, общее решение задач, рассуждения и, по заявлениям авторов, высокие результаты на ряде бенчмарков даже в 4- и 8-битных вариантах. Формат GGUF и ориентация на потребительское оборудование упрощают локальный запуск, но точные требования к памяти и производительности зависят от выбранного кванта. Модель помечена как uncensored и heretic, поэтому её защитные ограничения могут быть ослаблены; заявленные показатели производительности основаны на описании авторов и не подтверждены независимыми данными в представленном README.

Lambent/Eidolon-v3-14B-abliterated — разговорная языковая модель на архитектуре Qwen2 с 14 млрд параметров, представленная Lambent. В этой версии применено вмешательство в слой 19, направленное на подавление направления отказа; дополнительного дообучения в этой ветке не проводилось. Модель предназначена для генерации текста и диалогов, а также имеет интерфейс для вызова инструментов. Заявленная длина контекста — 131 072 токена. В README приведён результат 78,4 на EQ-Bench 2.1; автор сообщает, что выявленное тестом повреждение возможностей выглядит небольшим, но отмечает риск ухудшения способностей при дообучении. Метаданные помечают модель как не подходящую для любой аудитории. Сведения о лицензии и поддерживаемых естественных языках в доступных данных отсутствуют.

EXAONE-3.5-2.4B-Instruct-GGUF — инструкционная языковая модель семейства EXAONE 3.5, разработанная LGAI-EXAONE. Представленная версия является GGUF-квантизацией исходной модели EXAONE-3.5-2.4B-Instruct, выполненной bartowski на базе llama.cpp. Размер модели — 2,4 млрд параметров; поддерживаются английский и корейский языки, максимальная длина контекста составляет 32 тысячи токенов. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, решения математических задач и программирования. Согласно README, она демонстрирует высокое качество следования инструкциям и сильные результаты среди моделей с сопоставимой длиной контекста. Формат GGUF и совместимость с llama.cpp делают её подходящей для локального запуска в приложениях и средах, поддерживающих этот формат. Ограничения включают относительно небольшой размер, поддержку только заявленных английского и корейского языков, а также возможные неточные, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии EXAONE; в метаданных она обозначена как other, а подробные условия доступны в файле LICENSE.

FireStorm-Llama-3.1-8B — разговорная языковая модель, опубликованная EpistemeAI2 и дообученная на базе unsloth/llama-3.1-storm-8b-bnb-4bit. Это плотная причинная модель семейства Llama с 7,5 млрд параметров; карточка указывает контекст до 131 072 токенов и форматы PyTorch и Safetensors. Модель предназначена для генерации ответов в диалоге, следования инструкциям, вопросов и ответов на основе знаний, рассуждений и вызова функций. В README описаны дообучение на тщательно отобранных обучающих примерах и слияние с Llama-Spark; заявлены улучшения относительно Llama-3.1-8B-Instruct на нескольких тестах, включая проверку следования инструкциям, ответов на вопросы, рассуждений и вызова функций. Эти результаты относятся к оценкам авторов карточки. Для запуска предлагаются Transformers и vLLM, а в репозитории указана лицензия Apache-2.0. Основной указанный язык — английский. README отмечает, что модель не проходила отдельное выравнивание и может сохранять некоторые свойства выравнивания базовой instruct-модели. Ее ответы могут содержать ошибки; результаты тестов не гарантируют качество в конкретном применении.

AALF/gemma-2-27b-it-SimPO-37K-100steps — чекпойнт Gemma 2 от AALF, обученный по методу SimPO для улучшения ответов в диалоге. Модель основана на Google Gemma 2 Instruct с 27,6 млрд параметров; это плотная авторегрессионная языковая модель для генерации текста и общения по инструкциям. Контекстное окно — 8192 токена. Для обучения использовали 37 040 примеров предпочтений, отобранных из HuggingFaceH4/ultrafeedback_binarized с помощью модели вознаграждения RLHFlow/ArmoRM-Llama3-8B-v0.1. В карточке приведён результат оценки AlpacaEval 2.0: win rate 77,09% и length-controlled win rate 79,16%. Модель подходит для чат-ботов, ответов на инструкции и сравнительных экспериментов по выравниванию языковых моделей. Лицензия — Gemma; применяются условия лицензии Google Gemma.

Gemma-2-2b-TitanFusion — разговорная языковая модель на архитектуре Gemma 2, созданная bunnycore с помощью mergekit. В README описано слияние методом Model Stock на базе IlyaGusev/gemma-2-2b-it-abliterated с несколькими моделями Gemma 2 и адаптерами, включая варианты для диалога, рассуждений и кода. Размер модели — 2,7 млрд параметров, контекст — до 8192 токенов; модель работает с текстом и поддерживает чат. Модель предназначена для генерации ответов в диалоге, следования инструкциям, рассуждений и помощи с кодом. Метаданные указывают англоязычную базовую модель. В README не приведены результаты оценки качества или подробности о поведении итогового слияния. Лицензия в доступных данных не указана.

bunnycore/Gemma-2-2B-TitanFusion-v2 — разговорная языковая модель, созданная слиянием предварительно обученных моделей Gemma 2 с помощью mergekit и метода Model Stock. В качестве базовой использована bunnycore/Gemma-2-2b-TitanFusion; в слияние также вошли варианты All-in-One, Gemma2-2B-mixed и Mixer-Lora. Модель предназначена для генерации текста в диалогах и ответов на инструкции. Каталог также указывает помощь с рассуждениями и кодом как возможности базовых моделей. Архитектура — плотная Gemma 2 для авторегрессионной генерации, размер — 2,7 млрд параметров, контекст — до 8192 токенов. Модель распространяется в формате Safetensors для Transformers. Сведения о лицензии в доступных данных отсутствуют.

Gemma-2-9b-it-WPO-HB-GGUF — это GGUF-квантизация инструкционной языковой модели gemma-2-9b-it-WPO-HB, разработанной wzhouad и подготовленной в формате GGUF пользователем bartowski. Модель основана на Gemma 2 с примерно 9 млрд параметров и предназначена для генерации текста и диалогового использования в совместимых средах, включая llama.cpp и LM Studio. В описании также указано, что исходная модель обучалась на датасете wzhouad/gemma-2-ultrafeedback-hybrid. Доступны варианты от F16 до низкобитных Q2–Q8 и IQ-квантизаций, размер файлов составляет примерно от 4 до 18,49 ГБ. Квантизация выполнена с использованием imatrix и специального набора данных, что позволяет выбирать баланс между качеством, скоростью и требованиями к памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K_L, Q6_K, Q5 и Q4; Q3 и Q2 экономят память, но заметно уступают по качеству. Отдельные варианты оптимизированы для ARM-процессоров и требуют соответствующих инструкций SVE или i8mm. Модель подходит для локального запуска, чат-ботов и других задач текстовой генерации при наличии совместимого программного обеспечения и достаточного объёма оперативной или видеопамяти. Ограничения включают неизбежную потерю качества при сильной квантизации, отсутствие в README сведений о поддерживаемых языках, размере контекстного окна и конкретных условиях лицензирования. Формат prompt должен соответствовать шаблону Gemma с системными, пользовательскими и модельными turn-маркерами.

aolans/gemma-2-9b_q4 — это текстовая модель семейства Gemma 2, основанная на google/gemma-2-9b и подготовленная автором aolans с помощью Unsloth. Карточка описывает её как вариант для использования в качестве основы для дальнейшего дообучения; архитектура — плотная авторегрессионная Gemma2ForCausalLM с 9 млрд параметров и контекстом 8192 токена. Модель предназначена для генерации текста и может служить отправной точкой для создания специализированных вариантов и диалоговых приложений. В карточке упоминаются инструменты Unsloth и Hugging Face TRL. Метаданные указывают лицензию Gemma и формат safetensors. Несмотря на суффикс q4 и упоминание квантования в README, метаданные перечисляют safetensors и не подтверждают конкретный формат или разрядность квантованных весов.

Gemma-4-12B-Coder-fable5-composer2.5-4bit — 4-битная MLX-квантизированная версия модели yuxinlu1/gemma-4-12B-coder-fable5-composer2.5-v1, созданная на базе google/gemma-4-12B-it. Конвертацию и публикацию выполнило сообщество MLX. Модель предназначена для генерации текста, программного кода и решения задач, требующих рассуждений, включая локальное использование в чат-режиме через библиотеку mlx-lm. Указана текстовая специализация; поддерживаемые языки, контекстное окно и дополнительные модальности в README не раскрыты. Архитектура описана как Gemma-4 с размером 12 млрд параметров, а 4-битная квантизация снижает требования к памяти при заявленном сохранении почти исходных возможностей рассуждения и программирования. Основное преимущество — оптимизация для локального запуска на компьютерах Apple Silicon с использованием MLX и возможность свободного использования, изменения и распространения. Ограничения включают зависимость от экосистемы MLX и Apple Silicon для целевого сценария, а также потенциальные потери качества, связанные с квантизацией; фактические показатели производительности и качества в README не приведены. Лицензия — Apache 2.0.

Gemma Orchid 7b — дообученная модель генерации текста на базе Gemma, опубликованная macadeliccc. Автор описывает её как второй чекпойнт будущего проекта, ориентированный на диалог и вызов функций. Модель содержит 8,2 млрд параметров, построена на плотной архитектуре GemmaForCausalLM и принимает текст. Контекстное окно — 8192 токена; для общения используется формат ChatML. Модель дообучена методом LoRA примерно на 80 тысячах примеров из наборов Thermostatic/flowers, Intel/orca_dpo_pairs, jondurbin/truthy-dpo-v0.1 и glaiveai/glaive-function-calling-v2. Она предназначена для диалоговых ответов, суммаризации и сценариев с вызовом функций. В README приведены результаты нескольких бенчмарков, а полная оценка обозначена как незавершённая. В репозитории доступны веса safetensors. Лицензия указана как other, без более точных условий в предоставленных данных. Это ранний чекпойнт проекта; качество вызова функций и пригодность для конкретных задач следует проверять отдельно.

GLM-4.7-Flash-MLX-4bit — это 4-битная квантизированная версия языковой модели GLM-4.7-Flash, разработанной организацией zai-org. Квантизация выполнена командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon в экосистеме MLX. Модель предназначена для генерации текста и может использоваться в сценариях, поддерживаемых библиотекой Transformers и инструментами MLX, включая локальный запуск на совместимых компьютерах Apple. В README заявлена поддержка английского и китайского языков. Модель относится к текстовой модальности; сведения о размере, конкретной архитектуре и максимальной длине контекста не указаны. Ключевое преимущество версии — снижение требований к памяти и вычислительным ресурсам за счёт 4-битной квантизации и оптимизации под Apple Silicon. При этом квантизация может влиять на точность и качество генерации по сравнению с исходной моделью, а фактическая производительность зависит от оборудования и настроек запуска. Модель распространяется по лицензии MIT.

GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF — это GGUF-квантизированная версия модели GLM-4.7-Flash, разработанная DavidAU на базе Olafangensan/GLM-4.7-Flash-heretic и исходной модели ZAI-ORG. Модель предназначена для генерации текста, рассуждений, программирования, творческого письма, создания сюжетов и сцен, ролевых сценариев, а также работы с жанрами science fiction, horror и romance. Заявлена как uncensored/heretic-версия с удалёнными или ослабленными отказами, однако для получения более откровенного, грубого или эксплицитного текста может потребоваться явное указание желаемой лексики и уровня детализации. В основе используется MoE-архитектура на 30B параметров с тремя или четырьмя? активными экспертами; README указывает четыре активных эксперта и около 2B активных параметров при генерации. Поддерживаются английский и китайский языки. Модель работает на GPU и CPU, поставляется в формате GGUF, использует NEO и Code imatrix-квантизацию, а также 16-битный выходной тензор для повышения качества финального текста и рассуждений. Заявлен контекст до 200 тысяч токенов без RoPE, при этом рекомендуется использовать не менее 8–16 тысяч токенов для длинных ответов. Для запуска требуется актуальная версия llama.cpp; для некоторых конфигураций рекомендуется отключать Flash Attention из-за возможного снижения скорости. Сильными сторонами являются сочетание малой вычислительной нагрузки активной части MoE, поддержка длинного контекста, улучшения для кода и рассуждений, а также возможность локального запуска на CPU и GPU. Возможные ограничения включают зависимость качества и скорости от конкретного кванта, параметров семплирования и программного окружения, а также склонность к длинным или повторно «полирующимся» ответам. Модель распространяется по лицензии MIT.

GRM-3.2-Turf — дообученная компактная языковая модель OrionLLM на базе LiquidAI/LFM2.5-1.2B-Thinking. Она предназначена для сложных задач рассуждения и диалога, а также для локального запуска на мобильных устройствах, встраиваемых системах и другом оборудовании с ограниченными ресурсами. Модель имеет плотную архитектуру LFM2, содержит 1,5 млрд параметров и поддерживает контекст до 128 000 токенов. Среди заявленных возможностей — следование сложным инструкциям и форматным ограничениям, решение задач с рассуждением и использование инструментов в агентных сценариях. Метаданные указывают поддержку чата; оценочные заявления о качестве и скорости приведены разработчиком, но числовые результаты бенчмарков в доступной карточке отсутствуют. Модель принимает текст и генерирует текст. Выпущена под лицензией Apache 2.0.

h2oai/h2ogpt-4096-llama2-7b — языковая модель H2O.ai, основанная на Meta Llama 2 7B. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 6,6 млрд параметров с контекстом до 4096 токенов; репозиторий содержит веса PyTorch и Safetensors. Модель предназначена для генерации текста и может служить основой для диалоговых приложений, включая ответы на вопросы по документам. H2O.ai указывает, что модель можно дообучать с помощью h2oGPT и H2O LLM Studio. Карточка и метаданные указывают английский язык. Модель распространяется по лицензии Llama 2; перед использованием следует соблюдать её условия. К ограничениям относятся унаследованные от Llama 2 возможные ошибки и недостаточная надёжность ответов, а также ограничение контекста в 4096 токенов.

Abiray/Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated-GGUF — набор квантизированных моделей в формате GGUF, созданный Abiray на основе Huihui-Qwythos-9B-Claude-Mythos-5-1M-abliterated от huihui-ai. Базовая модель представляет собой версию Qwythos-9B-Claude-Mythos-5-1M от empero-ai, модифицированную методами abliteration для удаления векторов отказа. Репозиторий также содержит мультимодальные проекционные файлы mmproj для работы с изображениями локально. Модель предназначена для генерации текста, рассуждений и сценариев image-to-text с поддержкой зрения. Заявлены архитектура современного семейства Qwen 3.5, 9 млрд параметров, английский язык и контекст до 1 млн токенов; конкретные возможности зависят от используемой сборки и совместимости с llama.cpp. Доступны варианты квантизации от 3 до 8 бит размером примерно от 4,74 до 9,79 ГБ, включая рекомендуемый компромисс Q4_K_M. Для визуального ввода требуется отдельный проектор mmproj; доступны квантизированный и F16-варианты. К сильным сторонам относятся локальный запуск, широкий выбор квантизации, поддержка длинного контекста и изображений, а также сниженное количество встроенных отказов. Ограничения включают возможную потерю качества при низкой квантизации, требования к свежей версии llama.cpp и необходимость дополнительного проектора для мультимодальной работы. Модель распространяется по лицензии Apache-2.0.

ice-AI-i1-GGUF — это набор квантованных вариантов модели ice-AI, разработанной darkps и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Представлены файлы с различными уровнями квантования, поэтому модель можно запускать на системах с разным объёмом доступной памяти и выбирать компромисс между размером, скоростью и качеством. В репозитории доступны варианты от i1-IQ1_S размером около 2,2 ГБ до i1-Q6_K размером около 6,8 ГБ. Для некоторых вариантов указаны преимущества и ограничения: Q4_K_M обозначен как быстрый и рекомендуемый, Q4_K_S — как оптимальный по соотношению размера, скорости и качества, а отдельные низкобитные варианты характеризуются более низким качеством. Точная архитектура, число параметров, размер контекста, перечень языков и мультимодальные возможности в README не указаны; по описанию модель является текстовой и не поддерживает заявленные мультимодальные сценарии. Лицензия — Apache-2.0.

J.A.R.V.I.S. Titan V15 MoE Decoupled — диалоговая языковая модель Dhanesh на архитектуре JarvisTitanMoEForCausalLM. Согласно карточке, она основана на DeepSeekMoE с общим экспертом и восемью маршрутизируемыми экспертами, из которых активируются два; также заявлены слои Tri-Brid памяти с локальным скользящим окном внимания, извлечением значимых KV-состояний и нейронной памятью Titans. Метаданные каталога указывают 7,1 млрд параметров и контекст 32 768 токенов. Модель предназначена для генерации текста в диалоге и взаимодействия с инструментами через соответствующий интерфейс. Карточка описывает объединённые автономные веса M4, включающие калиброванный адаптер Tri-Brid, а метаданные связывают модель с дообучением Jarvis-Titan-V14-MoE-Merged. В репозитории указаны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

Josiefied-Qwen3-4B-abliterated-v2 — диалоговая языковая модель Goekdeniz-Guelmez на архитектуре Qwen3, дообученная на основе Qwen/Qwen3-4B-Instruct-2507 и модифицированная методом Gabliteration. Она предназначена для генерации текста, общения и выполнения инструкций; сохранена поддержка вызова инструментов через соответствующий интерфейс. Модель содержит 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. Разработчик заявляет, что модификация снижает отказы и ограничения на генерацию, сохраняя следование инструкциям и работу с инструментами. Доступны веса в формате safetensors; в карточке также упоминаются варианты GGUF и i1 GGUF. Лицензия в предоставленных данных не указана.

SirSahOl подготовил 16-битную версию модели IFM/K2-Horizon-0.9B для запуска на компьютерах Apple Silicon с помощью MLX. Это плотная причинная языковая модель примерно на 924,5 млн параметров с контекстом до 8192 токенов, предназначенная для диалогов и генерации текста. Базовая модель описана как компактная модель для рассуждений, математики и программирования; эти возможности унаследованы от неё. Модель распространяется в формате safetensors и рассчитана на запуск через MLX. README приводит замеры на Apple M1 и рекомендации по объёму памяти для разных вариантов точности. Для этой версии требуется Apple Silicon M1 или новее; при работе с контекстами длиннее 8 тысяч токенов качество может снижаться. Лицензия — Apache 2.0.

Kai 7B Beta — языковая модель для генерации текста, разработанная Keynote Technology. Данная версия распространяется в формате GGUF и представляет собой квантизированные файлы исходной модели Keynote-Technology/KAI-7B-beta; квантизацию выполнил TheBloke. Модель предназначена для задач текстовой генерации, включая сценарии, связанные с кодом, и может использоваться через llama.cpp и совместимые приложения и библиотеки для локального вывода на CPU и GPU. Из известных характеристик: модель относится к типу Mistral, содержит около 7 миллиардов параметров, поддерживает английский язык и работает только с текстом. Доступны варианты квантизации с разной разрядностью, что позволяет выбирать компромисс между размером файла, требованиями к памяти и качеством генерации. Контекстное окно в предоставленных данных не указано; специальный шаблон промпта отсутствует, используется формат {prompt}. Основные преимущества — наличие вариантов от 2 до 8 бит, поддержка широкого набора локальных инструментов и возможность запуска без облачной инфраструктуры. К ограничениям относятся возможные потери качества из-за квантизации, зависимость производительности от выбранного варианта и оборудования, а также отсутствие данных о целевых бенчмарках и размере контекстного окна. В метаданных указана лицензия Apache-2.0.

Arch-Function-Chat-7B-GGUF — квантизированная GGUF-версия модели Arch-Function-Chat-7B, разработанной katanemo и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и чат-сценариев, включая задачи, связанные с function calling, и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. Это языковая модель размером 7B параметров с поддержкой английского языка. В репозитории представлены варианты от исходных BF16-весов до квантизаций Q8_0, Q6, Q5, Q4, Q3 и Q2, объёмом примерно от 3,55 до 15,24 ГБ. Для работы следует использовать указанный формат prompt с ролями system, user и assistant. Более качественные варианты требуют больше оперативной памяти, тогда как низкобитные версии экономичнее, но заметно уступают в качестве. Модель ориентирована на локальный запуск и предоставляет широкий выбор компромиссов между качеством, размером и скоростью инференса; в README рекомендуются варианты Q6_K_L, Q6_K, Q5 и Q4_K_M. Архитектура, размер контекстного окна, мультимодальность и дополнительные языки не указаны. Распространение осуществляется по лицензии katanemo-research; подробные условия приведены в LICENSE исходной модели.

Карточка модели PS4Research/kE5nV8hA3yW4jT7s на Hugging Face совпадает с карточкой PS4Research/EVPdEf4TUz3pRa2u, поэтому описание составлено по ней. PS4Research/EVPdEf4TUz3pRa2u — дообученная языковая модель семейства Qwen3, разработанная PS4Research на базе unsloth/Qwen3-14B-bnb-4bit с использованием Unsloth и библиотеки TRL. Модель содержит 14 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и принимает текст для генерации текста; поддерживает диалоговый интерфейс и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев. Её контекстное окно составляет 40 960 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0. Специализация дообучения и его качество в карточке не раскрыты.

Keefe-Discere-v3.3 — дообученная языковая модель на архитектуре Qwen2, опубликованная KeefeBuild. Она предназначена для генерации текста и диалогового общения; в метаданных также заявлен интерфейс вызова инструментов. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке указано обучение с использованием Unsloth и библиотеки TRL от Hugging Face. Модель распространяется под лицензией Apache-2.0. Карточка не описывает специализацию, набор данных или конкретные результаты обучения, поэтому качество в отдельных предметных областях оценить нельзя.

KR-X-AI/krx-qwen2.5-7B-0.0.1 — дообученная языковая модель KR-X-AI на архитектуре Qwen2, предназначенная для генерации текста и диалогового взаимодействия. Она основана на KR-X-AI/krx-qwen2.5-7B-pt и содержит 7,1 млрд параметров; модель обучали с использованием Unsloth и библиотеки TRL. Модель принимает текст и генерирует текст. Заявленная длина контекста — 32 768 токенов. В метаданных указана поддержка английского языка, а также интерфейс для вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Laguna-S-2.1-JANG_6M-CRACK — текстовая MoE-модель на базе poolside/Laguna-S-2.1, подготовленная dealignai для запуска на Apple Silicon через MLX и vMLX. По README, исходная Laguna-S-2.1 имеет 118 млрд параметров, 48 слоёв, 256 маршрутизируемых экспертов с top-10 и общий эксперт; метаданные репозитория указывают 6,8 млрд параметров. Модель представлена в смешанной квантизации JANG_6M в формате MLX affine и предназначена для агентного программирования, рассуждений и вызова инструментов. README заявляет контекст 262 тыс. токенов, тогда как метаданные каталога указывают нативный контекст 1 048 576 токенов. Вариант CRACK прошёл абляцию отказов на уровне весов: согласно карточке, поведение отказа удалено, а результаты MMLU близки к базовой модели. Для запуска рекомендованы vMLX или совместимая среда MLX с поддержкой Laguna; модель принимает текст и выдаёт текст, включая вызовы инструментов. Карточка заявляет английский язык. Лицензия в метаданных обозначена как other; конкретные условия использования следует сверить с лицензией репозитория.

LFM2.5-8B-A1B-CoreAI — это конверсия модели LiquidAI/LFM2.5-8B-A1B для локального выполнения в формате Apple Core AI (.aimodel). Конверсию подготовило сообщество Core AI model zoo; базовая модель разработана Liquid AI. Модель предназначена для генерации текста, чат-диалогов, суммаризации и других языковых задач на устройствах Apple без отправки данных в облако, включая интеграцию с CoreAIKit и системными сценариями LanguageModelSession. Архитектура представляет собой гибридный decoder-only MoE: 24 слоя, из которых 18 используют short-convolution mixers, а 6 — GQA attention. Первые два слоя плотные, остальные используют разреженный MoE с 32 экспертами и выбором 4 экспертов на токен. Общий размер составляет около 8,3 млрд параметров, при этом активно на токен используется примерно 1,5 млрд; hidden size — 2048, словарь — 128 тысяч токенов. В README языки и максимальный размер контекста не указаны. Модель ориентирована на GPU и Neural Engine устройств Apple; опубликованный чистый bundle предназначен для Mac, а вариант int4 проверен на iPhone 17 Pro, но не поставляется из-за заметной потери качества. Сильные стороны модели — локальная работа, MoE-эффективность и оптимизированное ядро gather_qmm, которое читает веса только выбранных экспертов. Для Mac заявлена скорость около 140–141 токена в секунду при размере bundle 8,8 ГБ, а качество симметричного int8-варианта соответствует уровню fp16 в описанном тесте. Ограничения включают значительный объём загрузки, зависимость от устройств Apple и наличие проблем у базовой модели с повторяющейся генерацией при использовании без chat template и sampling. Модель распространяется по лицензии lfm-open-license-v1.0; точные условия приведены в файле LICENSE.

Ling-3.0-tiny-GGUF — лёгкая гибридная reasoning-модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI. Модель предназначена для генерации текста, решения задач, требующих рассуждений, и агентских сценариев, где важны широкие возможности при низкой стоимости инференса. Формат GGUF ориентирован на локальное и ресурсно-ограниченное развертывание. Модель содержит 7,9 млрд параметров, при этом для обработки каждого токена активируется около 1,3 млрд параметров, что снижает вычислительные затраты по сравнению с полным использованием всех параметров. README не сообщает поддерживаемые языки, размер контекстного окна, доступные модальности и конкретные ограничения качества. Модель распространяется по лицензии MIT.