I.2Синтез, понимание и проверка знаний

Calcium-Opus-14B-Merge — языковая модель на архитектуре Qwen2, созданная prithivMLmods слиянием моделей методом Model Stock через mergekit. В основу слияния вошла Qwen/Qwen2.5-14B-Instruct вместе с Calcium-Opus-14B-Elite и QwQ-LCoT-14B-Conversational; размер модели — 14 млрд параметров, формат весов — safetensors, контекст — до 32 768 токенов. Модель предназначена для диалогов, следования инструкциям, генерации текста и задач, требующих логических рассуждений и решения задач в несколько шагов. Карточка особо отмечает понимание контекста, математические задачи и подробные объяснения; метаданные также указывают интерфейс вызова инструментов. Веса доступны по лицензии из репозитория; сведения о лицензии в предоставленных данных отсутствуют.

Calme-Instruct-Extended — объединённая разговорная языковая модель семейства Mistral, созданная с помощью mergekit на основе MaziyarPanahi/Calme-7B-Instruct-v0.1.1. Она предназначена для генерации текста и диалогового взаимодействия; может использоваться для ответов на вопросы, составления текстов и ведения чата. Модель имеет плотную архитектуру MistralForCausalLM, содержит 8,9 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Command-R-01-Ultra-NEO-V1-35B-IMATRIX-GGUF — текстовая генеративная модель в формате GGUF на базе CohereLabs c4ai-command-r-v01, доработанная разработчиком DAVID_AU с использованием собственной технологии IMATRIX NEO V1. Модель предназначена для общего использования, следования инструкциям, общения, ролевых сценариев и творческой генерации, включая рассказы и художественные тексты. В README указан английский язык, размер базовой модели — 35 млрд параметров, а максимальный контекст — до 128 тысяч токенов. Для работы требуется специальный chat-шаблон Command-R. Заявленные сильные стороны — улучшенное следование инструкциям, качество вывода, работа с длинными текстами и более сильные связи между идеями и концепциями. Доступны варианты с разными уровнями GGUF-квантизации; качество, стиль и результаты генерации могут заметно различаться между квантами, поэтому выбор следует адаптировать под конкретный сценарий и доступные ресурсы. README также рекомендует настройку сглаживания sampling для некоторых интерфейсов. Модель распространяется по лицензии Apache-2.0.

mlx-community/DeepSeek-R1-Distill-Qwen-32B-abliterated — 32-миллиардная языковая модель для генерации текста и диалогов. Репозиторий mlx-community содержит версию в формате MLX, преобразованную из huihui-ai/DeepSeek-R1-Distill-Qwen-32B-abliterated с помощью mlx-lm 0.21.1. По метаданным, модель построена на плотной архитектуре Qwen2, поддерживает контекст до 131 072 токенов и предназначена для текстовых задач, включая рассуждения. Вариант abliterated модифицирован для уменьшения отказов. Лицензия в предоставленных данных не указана.

RedHatAI/DeepSeek-R1-Distill-Qwen-32B-quantized.w4a16 — квантизированная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанная Neural Magic. Модель построена на архитектуре Qwen2ForCausalLM и предназначена для генерации и обработки текста, включая задачи рассуждения, решения математических задач, ответов на вопросы и использования в чат-сценариях. Модель имеет 32 миллиарда параметров и использует INT4-квантизацию весов линейных операторов в трансформерных блоках при формате W4A16. Применяется симметричная поканальная по группам схема с размером группы 128 и алгоритм GPTQ через библиотеку llm-compressor. Такой подход примерно на 75% сокращает размер модели на диске и требования к памяти GPU по сравнению с представлением весов в 16 битах. Входная и выходная модальности — текст; сведения о поддерживаемых языках и максимальном контексте в карточке явно не указаны. По приведённым оценкам, квантизированная версия сохраняет около 99,45% среднего результата исходной модели на наборе задач рассуждения, включая AIME 2024, MATH-500 и GPQA Diamond. Она оптимизирована для эффективного развёртывания с vLLM и может использоваться через OpenAI-совместимый сервер. Ограничением является возможное небольшое снижение точности из-за квантизации, а также зависимость эффективного запуска от совместимого GPU и программного стека vLLM. Модель распространяется по лицензии MIT.

DoubleBagel-57B-v1.0 — объединённая языковая модель семейства Llama, созданная с помощью mergekit из предварительно обученной модели jondurbin_bagel-34b-v0.2. Модель содержит 56,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 200 000 токенов. Модель можно применять для диалогов и генерации текста с длинным контекстом. Веса опубликованы в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.

dragon-deci-6b-v0 — модель серии dRAGon от llmware, дообученная для ответов на вопросы по контексту документов. Она предназначена для RAG-сценариев в корпоративных процессах, особенно при работе со сложными деловыми, юридическими и нормативными материалами. Основные задачи — ответы на вопросы, извлечение пар «ключ—значение» и краткое суммирование с опорой на предоставленный текст; модель рассчитана на короткие, ясные ответы и снижение галлюцинаций. Модель построена на Deci-6B, использует архитектуру DeciLMForCausalLM и содержит 6,6 млрд параметров. Она принимает и генерирует текст, поддерживает английский язык и имеет контекст до 4096 токенов. В описанном тестировании RAG-Instruct-Benchmark-Tester получила 94,25 балла из 100; результаты отдельных прогонов не гарантируют точность на других данных. Лицензия — Llama 2 Community License. Модель может выдавать неточные или неполные ответы, поэтому результаты требуют проверки.

dragon-deci-7b-v0 — модель llmware из серии dRAGon, дообученная на базе DeciLM-7B для ответов на вопросы по предоставленному контексту в RAG-сценариях. Она предназначена для корпоративных систем, которым нужны фактологические ответы по внутренним документам, извлечение значений по ключам и краткое изложение текста. Модель имеет плотную архитектуру DeciLMForCausalLM и 7,9 млрд параметров; принимает и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. В README приведены результаты тестирования на RAG-Instruct-Benchmark-Tester: оценка 97,5 из 100 по описанной авторами системе подсчёта, включая задачи поиска ответа в контексте, вопросы да/нет, логику и суммаризацию. Эти результаты относятся к указанному тесту и не гарантируют аналогичное качество на других данных. Модель может давать неточные или неполные ответы, поэтому результаты следует проверять, особенно в юридических и финансовых сценариях. Лицензия — Apache 2.0.

DRAGON-YI-1.5V-9B — языковая модель llmware для ответов на вопросы по документам в сценариях RAG. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 8,6 млрд параметров; она дообучена на базе Yi-9B и принимает текстовый контекст вместе с вопросом. Модель рассчитана на английский язык и имеет контекстное окно 4096 токенов. Модель предназначена для поиска фактических ответов в сложных деловых, юридических и нормативных документах, извлечения пар «ключ — значение» и краткого суммирования. Разработчик сообщает о тестировании на RAG-Instruct-Benchmark-Tester и хороших результатах на этой оценке, однако результаты бенчмарка не гарантируют качество на других данных. Модель выдаёт текст и может ошибаться или давать неполные ответы, поэтому ответы следует проверять. Лицензия — Apache 2.0. В README результаты тестирования указаны для квантизованной версии 4_K_M, тогда как репозиторий содержит веса PyTorch.

EXAONE 4.0-32B — плотная языковая модель с 31,5 млрд параметров, разработанная LG AI Research для диалогового использования. Она поддерживает обычный режим генерации и режим рассуждений, а также вызов инструментов для агентных сценариев. Архитектура включает 64 слоя и гибридное внимание: локальное скользящее внимание чередуется с глобальным в соотношении 3:1. Контекст — до 131 072 токенов. Модель предназначена для диалогов, ответов на вопросы, решения сложных задач и взаимодействия с инструментами. В карточке заявлена поддержка английского, корейского и испанского языков. Для работы через Transformers требуется версия 4.54.0 или новее. Ответы могут содержать фактические ошибки, предвзятость или неподходящий контент, а знания могут быть устаревшими. Лицензия указана как other; README сообщает об обновлении условий в сторону большей гибкости, но точные условия следует сверить с лицензией в репозитории перед использованием.

LGAI-EXAONE/EXAONE-4.0-32B-FP8 — языковая модель компании LG AI Research из серии EXAONE 4.0. Она предназначена для генерации текста, решения сложных задач, многоязычного общения и построения агентных приложений с вызовом инструментов. Модель поддерживает два режима работы: Non-reasoning для обычных запросов и Reasoning для задач, требующих пошагового рассуждения. Заявлена поддержка английского, корейского и испанского языков. Модель содержит около 30,95 млрд параметров без учёта эмбеддингов, 64 слоя и использует архитектуру с GQA на 40 attention heads и 8 KV heads. Для 32B-версии применена гибридная схема внимания с локальным и глобальным вниманием в соотношении 3:1, а также архитектурное изменение QK-Reorder-Norm. Размер словаря составляет 102 400 токенов, контекст — до 131 072 токенов. Весы представлены в формате fine-grained FP8. Сильными сторонами являются сочетание общего режима генерации и рассуждений, поддержка инструментов, длинный контекст и мультиязычность. Ограничения включают высокие требования к вычислительным ресурсам из-за размера модели; README не приводит подробностей о точности, безопасности и типичных ошибках. Модель распространяется по лицензии exaone, обозначенной как other; условия следует уточнять в файле LICENSE.

Experiment28M7_NeuralsirkrishnaExperiment28 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/NeuralsirkrishnaExperiment28-7B. Она предназначена для генерации текста по текстовому запросу и может использоваться для диалога, черновиков и продолжения текста. Модель имеет плотную архитектуру MistralForCausalLM, около 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment28M7_T3qm7xExperiment26 — объединённая методом SLERP модель семейства Mistral для генерации текста. Она создана на основе automerger/Experiment28M7-7B и automerger/T3qm7xExperiment26-7B и содержит 7,1 млрд параметров. Модель принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не уточняет специализацию по языкам или прикладным областям. Лицензия — Apache-2.0.

Falcon-H1-7B-Instruct — мультиязычная языковая модель, разработанная командой Falcon. Это плотная авторегрессионная модель с гибридной архитектурой Transformer и Mamba, дообученная на базе tiiuae/Falcon-H1-7B-Base для диалогового взаимодействия и генерации текста. Модель содержит 6,4 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для диалогов, ответов на вопросы, рассуждений и других задач генерации текста. В карточке указана поддержка английского и многоязычного ввода; метаданные перечисляют арабский, чешский, немецкий, английский, испанский, французский, хинди, итальянский, японский, корейский, нидерландский, польский, португальский, румынский, русский, шведский, урду и китайский. Для запуска подходят Transformers и vLLM; файлы GGUF доступны в официальной коллекции для llama.cpp. Карточка приводит результаты сравнительной оценки на общих и логических задачах, но они не гарантируют качество в каждом сценарии. Лицензия — Falcon-LLM License; перед применением следует проверить её условия.

FLAN-T5-XL — языковая модель Google на архитектуре T5, дообученная следовать инструкциям на более чем тысяче дополнительных задач. Версия XL содержит 1,5 млрд параметров, принимает текст и генерирует текст; контекст — до 512 токенов. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache 2.0. Модель предназначена для выполнения разнообразных текстовых задач по инструкциям, включая ответы на вопросы, рассуждения, обобщение и генерацию текста, в том числе в режиме zero-shot и few-shot. Она обучалась на многоязычных задачах; в карточке перечислены английский, русский и десятки других языков. Подходит для экспериментов и как основа для прикладных NLP-сценариев с последующей оценкой. Карточка предупреждает о возможном воспроизведении предвзятости и неподходящего содержания из обучающих данных. Модель не тестировалась в реальных приложениях; перед применением следует оценить безопасность и справедливость для конкретного сценария.

CallComply/gemma-2-27b-it — текстовая инструкционная модель семейства Gemma 2 от Google, представленная в формате safetensors и предназначенная для диалоговой генерации. Это плотная decoder-only языковая модель с 27,6 млрд параметров и контекстом до 8192 токенов; она принимает текст и генерирует текст. Карточка описывает семейство Gemma как англоязычное, а отдельные сведения о дообучении именно этой версии не приведены. Модель подходит для чат-ботов и виртуальных помощников, ответов на вопросы, суммаризации и создания черновиков текстов. Указанные ограничения включают возможные фактические ошибки, устаревшие сведения, смещения в ответах и трудности с неоднозначностью и сложными инструкциями. Для использования действует лицензия Gemma.

princeton-nlp/gemma-2-9b-it-DPO — авторская DPO-версия Gemma 2, дообученная командой Yu Meng, Mengzhou Xia и Danqi Chen из Princeton NLP на наборе предпочтений princeton-nlp/gemma2-ultrafeedback-armorm. Это плотная причинная языковая модель на 9 млрд параметров для диалога и генерации текста; она принимает текстовые запросы и выдаёт текстовые ответы. Контекст модели составляет 8192 токена. Модель основана на google/gemma-2-9b-it и использует лицензию Gemma. DPO-настройка предназначена для улучшения соответствия ответов предпочтениям людей. Модель подходит для диалоговых помощников, ответов на вопросы, написания и редактирования текста, а также суммаризации. В опубликованной таблице оценок она превосходит базовую Gemma 2 9B IT по ряду показателей, включая AE2 и AlpacaEval 2, но результаты зависят от набора данных и протокола оценки. Для запуска доступны веса в формате safetensors; метаданные указывают поддержку Transformers и интерфейс диалога. Следует учитывать, что модель унаследовала ограничения базовой Gemma и может выдавать неточные или предвзятые ответы; README не приводит отдельного перечня таких ограничений.

TouchNight/gemma-2-9b-it-untied — производная инструктивная языковая модель на архитектуре Gemma 2, созданная на основе google/gemma-2-9b-it. Веса модели на 9 млрд параметров сохранены в формате safetensors; в README описано раздельное хранение весов эмбеддингов и выходной головы, а также преобразование в bf16. Модель предназначена для генерации текста и диалоговых сценариев, унаследованных от базовой Gemma 2.

p-e-w/gemma-3-12b-it-heretic-v2 — мультимодальная модель семейства Gemma 3 на 12 млрд параметров, основанная на google/gemma-3-12b-pt и представленная как conversational, uncensored/decensored и abliterated вариант. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы об изображениях, суммаризации и других задач генерации и понимания текста. В README базовой модели указаны контекст до 128K токенов и поддержка более 140 языков. Модель может применяться для извлечения сведений из изображений, составления текстов и исследовательских экспериментов; размер позволяет запускать её на локальных компьютерах и собственной инфраструктуре при достаточных ресурсах. README предупреждает о возможных фактических ошибках, смещениях и трудностях с неоднозначными или сложными запросами. Лицензия — Gemma; применяются условия лицензии и правила допустимого использования Gemma.

Lightricks публикует эту версию Gemma 3 — мультимодальную модель Google Gemma 3 12B IT с инструкционной настройкой, представленную в формате safetensors. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям, извлечения визуальной информации, суммаризации и других задач по текстовым инструкциям. Модель относится к семейству Gemma 3 с плотной архитектурой Gemma3ForConditionalGeneration и основана на google/gemma-3-12b-it. В карточке семейства указаны контекстное окно до 128 тысяч токенов и поддержка более 140 языков. Модель рассчитана на применение в чат-ботах, виртуальных помощниках, создании и редактировании текстов, а также для понимания изображений; её размер допускает локальное развёртывание на подходящем оборудовании. Качество ответов зависит от данных и формулировки запроса: возможны ошибки в фактах, предвзятость и трудности с нюансами языка и сложными задачами. Модель распространяется по лицензии Gemma. Для использования следует соблюдать условия этой лицензии и политику допустимого использования Gemma.

Google Gemma 3 27B IT QAT Q4_0 Unquantized — мультимодальная инструктивно настроенная модель на основе Google Gemma 3 27B IT, предназначенная для диалога и понимания изображений. Она принимает текст и изображения, а генерирует текст; семейство Gemma 3 поддерживает контекст до 128 тыс. токенов и более 140 языков. В репозитории указаны веса safetensors и связь с базовой моделью google/gemma-3-27b-it. Модель подходит для ответов на вопросы по изображениям и текстам, диалоговых помощников, генерации и суммаризации текста, а также извлечения и интерпретации визуальной информации. Размер семейства позволяет запускать модели Gemma 3 на локальных компьютерах или собственной облачной инфраструктуре, но для варианта на 27 млрд параметров всё равно требуются заметные вычислительные ресурсы. К ограничениям относятся возможные фактические ошибки, смещения обучающих данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Gemma; перед использованием следует учитывать условия лицензии Google Gemma и политику запрещённого использования.

google/gemma-3-4b-it-qat-int4-unquantized — мультимодальная диалоговая модель Google из семейства Gemma 3, основанная на Gemma 3 4B IT. Она принимает текст и изображения и генерирует текст; поддерживает чат, ответы на вопросы по изображениям, суммаризацию и другие задачи генерации текста. Семейство Gemma 3 рассчитано на контекст до 128 тыс. токенов и поддерживает более 140 языков. В репозитории указаны веса safetensors и лицензия Gemma. Модель подходит для чат-ботов, виртуальных помощников, создания и редактирования текстов, извлечения сведений из изображений и изучения больших текстовых материалов. Компактный размер семейства позволяет развёртывание на локальных компьютерах и собственной облачной инфраструктуре. Ответы могут содержать фактические ошибки, отражать предвзятость обучающих данных и хуже справляться с неоднозначными формулировками и сложными открытыми задачами; для приложений с пользовательским контентом необходимы подходящие меры безопасности.

Gemma 3 4B PT — предварительно обученная мультимодальная модель Google из семейства Gemma, созданного на основе исследований и технологий Gemini. Она принимает текст и изображения и генерирует текст; открытые веса позволяют запускать её на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре. Модель подходит для ответов на вопросы по тексту и изображениям, суммаризации, генерации текстов, диалоговых интерфейсов и извлечения сведений из изображений. Семейство Gemma 3 поддерживает контекст до 128 тысяч токенов и более 140 языков. Карточка описывает как предварительно обученные, так и настроенные на инструкции варианты семейства; этот репозиторий — вариант PT. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модель может испытывать трудности с неоднозначностью, нюансами языка и сложными открытыми задачами. Лицензия — Gemma, с условиями использования Google Gemma.

Gemma 3n E2B — мультимодальная генеративная модель Google из семейства Gemma, предназначенная для эффективного запуска на устройствах с ограниченными ресурсами. Она принимает текст, изображения, видео и аудио и генерирует текст; поддерживает сценарии диалога, создания и суммаризации текстов, извлечения сведений из изображений, транскрибации и перевода речи. Модель использует архитектуру MatFormer и выборочную активацию параметров: при общем количестве около 6 млрд параметров её эффективный размер и требования к памяти сопоставимы с традиционной моделью на 2 млрд параметров. Репозиторий содержит вариант E2B на базе Gemma 3n E4B. Модель обучалась на данных более чем на 140 разговорных языках. Её можно применять для чат-ботов, помощников, анализа мультимодальных данных и генерации черновиков. Возможны предвзятые, неточные или устаревшие ответы; модель может испытывать трудности с неоднозначностью и сложными открытыми задачами. Лицензия — Gemma License.

AtomicChat/gemma-4-26B-A4B-it-GGUF — это GGUF-квантизированная версия инструкционной модели google/gemma-4-26B-A4B-it, подготовленная Atomic Chat на основе оригинальных весов Google. Модель предназначена для локального и полностью офлайн-использования в задачах генерации текста, диалогов, рассуждений и других сценариях, поддерживаемых базовой text-generation-моделью. Для запуска в llama.cpp требуется применять шаблон чата Gemma 4 с параметром --jinja. Модель использует архитектуру Mixture-of-Experts: 25,2 млрд параметров всего и около 3,8 млрд активных на каждый токен, 30 слоёв, 128 маршрутизируемых экспертов с выбором top-8, гибридное внимание с локальным окном 1024 токена и глобальным вниманием, 16 attention heads и 8 KV heads. Заявленная длина контекста составляет 256 тысяч токенов, размер словаря — 262 тысячи. Базовая модель поддерживает текст и изображения, однако данный репозиторий содержит только текстовые квантизации и не включает vision projector. К сильным сторонам относятся высокая вычислительная эффективность MoE-архитектуры, большой контекст, режимы рассуждения и широкий выбор квантизаций от Q2_K до Q8_0. Квантизация с importance matrix призвана сохранить качество оригинальной модели, но низкобитные варианты могут заметно терять качество; Q4_K_M обозначен как оптимальный баланс размера, скорости и качества, а Q6_K и Q8_0 — как варианты с минимальными потерями. Размер файлов составляет примерно от 10,6 до 26,9 ГБ, поэтому требуются значительные оперативная память или видеопамять. Модель распространяется по лицензии Apache-2.0.

NVIDIA GLM-4.7 NVFP4 — это квантизированная версия авторегрессионной языковой модели GLM-4.7, разработанной ZAI и оптимизированной с помощью NVIDIA Model Optimizer. Модель не принадлежит и не разработана NVIDIA; NVIDIA подготовила её под требования соответствующего сценария применения. Модель предназначена для коммерческого и некоммерческого использования, включая AI-агентов, чат-ботов, RAG-системы и другие приложения на основе искусственного интеллекта. Модель построена на архитектуре Transformer и имеет 358 млрд параметров. Она работает только с текстом: принимает строковые последовательности и генерирует текст. Максимальная длина контекста составляет до 200 000 токенов. Версия NVFP4 1.0 квантизирована до формата NVFP4 с использованием nvidia-modelopt v0.41.0; квантизации подвергнуты веса и активации линейных операторов в Transformer-блоках MoE. Данные о полном составе обучающей выборки и поддерживаемых языках не раскрыты, однако калибровка включает англоязычный cnn_dailymail и набор Nemotron с данными на испанском, французском, немецком, итальянском и японском языках. Модель ориентирована на инференс на NVIDIA GPU, особенно на архитектуре Blackwell, с использованием SGLang и Linux. Квантизация NVFP4 может снизить требования к ресурсам и ускорить развертывание, однако для работы требуется совместимая NVIDIA-инфраструктура и дополнительное тестирование в конкретном сценарии. В README приведены результаты на MMLU-PRO, GPQA Diamond, ns_livecodebench, SCICODE и AIME 2025, но они не описывают все практические ограничения модели. Лицензия — MIT.

Solstice-AI/GLM-5.3-Flash-UNCENSORED-mlx-oQ4e — мультимодальная версия модели GLM-5.3-Flash, подготовленная Solstice-AI для Apple Silicon и библиотеки MLX. Исходная архитектура разработана Zhipu AI / ZAI, некensored-веса предоставлены dealignai. Модель предназначена для генерации и анализа текста, программирования, математического и общего рассуждения, а также понимания изображений и видео. Заявлена поддержка английского и китайского языков. Модель имеет 320 млрд общих параметров в разреженной MoE-архитектуре с 288 экспертами, из которых около 18 млрд активируются для каждого токена. Используется смешанная квантизация oQ4e примерно на 4,6 бит на вес: основные веса представлены в 4-битном формате, отдельные критически важные компоненты защищены 8-битным или полным BF16/FP32-представлением. Vision Tower ViT и мультимодальный выравниватель сохранены в BF16. Заявлено нативное контекстное окно до 1 048 576 токенов и поддержка спекулятивного декодирования с drafter DFlash2. Сильными сторонами модели являются большой контекст, мультимодальное понимание изображений и видео, разреженная архитектура и оптимизация под чипы Apple M2, M3, M4 и M5. К ограничениям относятся высокая общая ёмкость модели, требовательность к памяти и совместимость с конкретным программным стеком MLX и аппаратной платформой; фактическая производительность зависит от конфигурации устройства. В README модель описана как uncensored, поэтому её ответы могут не включать стандартные механизмы отказа по чувствительным запросам. Указанная лицензия — MIT.

mlx-community/gpt-oss-20b-OptiQ-4bit — это квантизированная MLX-версия языковой модели openai/gpt-oss-20b, подготовленная проектом mlx-optiq для локального запуска на компьютерах Apple Silicon. Модель предназначена для генерации текста, рассуждений, решения математических задач, следования инструкциям, вызова функций, программирования и поиска информации в длинном контексте. Заявленный язык — английский. В основе лежит 24-слойная MoE-архитектура с 32 экспертами, из которых 4 активируются для каждого токена, а также с attention sinks. Используется чувствительная к слоям смешанная квантизация: 33 слоя представлены в 4-битном формате, 88 — в 8-битном; итоговая точность составляет 5,03 бита на вес. Размер модели на диске — около 11 ГБ, в оперативной памяти при работе требуется примерно 11,6 ГБ. Модель поддерживает reasoning_effort со значениями low, medium и high и формат ответов harmony с каналами analysis и final. По приведённым тестам модель заметно превосходит равномерную 4-битную квантизацию на MMLU, GSM8K, IFEval, BFCL, HumanEval и HashHop, особенно в задачах многошагового извлечения из длинного контекста. Ограничения включают отсутствие квантизации KV-cache и зависимость от экосистемы MLX и Apple Silicon; README также указывает, что модель является квантизацией только весов. Распространяется по лицензии Apache-2.0.

Grey-12b — языковая модель AIXON Lab на архитектуре Transformer/Mistral, созданная слиянием нескольких моделей методом della_linear на основе aixonlab/Aether-12b. Веса модели содержат около 12,1 млрд параметров, формат — safetensors; в README указан тип float16. Модель предназначена для генерации текста, ответов на вопросы и анализа. Основной язык — английский; README допускает поддержку других языков, но не уточняет их перечень. Контекстное окно составляет до 1 024 000 токенов по метаданным. Модель распространяется по лицензии Apache-2.0. Метрики качества для Grey-12b не представлены. Возможны смещения, унаследованные от обучающих данных и объединённых моделей, поэтому ответы следует проверять.

Карточка модели kakaocorp/kanana-2-30b-a3b-mid-2601 на Hugging Face совпадает с карточкой kakaocorp/kanana-2-30b-a3b-instruct-2601, поэтому описание составлено по ней. Kanana-2-30B-A3B-Instruct-2601 — инструктивная языковая модель компании Kakao для диалогов и сценариев агентного ИИ. Она предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов; модель можно развернуть, например, через vLLM или SGLang с поддержкой выбора инструментов. Модель основана на архитектуре DeepSeek V3 с механизмом внимания MLA и разреженной смесью экспертов (MoE): всего 30 млрд параметров, из которых активируются около 3 млрд. Контекст составляет до 32 768 токенов. Семейство поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. README указывает лицензию как отличную от стандартных вариантов, поэтому перед использованием следует проверить условия на странице репозитория Hugging Face. Для обработки контекста свыше 32 768 токенов требуется отдельно настроить YaRN; такая настройка может повлиять на качество коротких текстов. Метаданные указывают 2,9 млрд параметров, что расходится с описанием серии в README (30 млрд всего и около 3 млрд активных).