I.11Классификация, ранжирование и сопоставление

Qwen3.5-122B-A10B-REAP-20-abliterated-GGUF — это набор GGUF-квантизаций разреженной MoE-модели, созданный Robinson Labs на основе 0xSero/Qwen3.5-99B, которая, в свою очередь, получена из Qwen/Qwen3.5-122B-A10B. Из исходной модели удалено около 20% экспертов: сохранено 205 из 256, что уменьшило общий размер примерно со 122B до 99B параметров при сохранении бюджета около 10B активных параметров. Модель предназначена для генерации текста и запуска в совместимом программном обеспечении, включая llama.cpp. Архитектура — qwen35moe, модель содержит 48 слоёв и использует стандартное предсказание одного токена без Multi-Token Prediction (MTP/NextN). Доступны варианты GGUF с квантованием от Q6_K до IQ2_XS, с размером файлов примерно от 81,3 до 29,5 ГБ; квантизация выполнена с использованием importance-matrix на общем калибровочном наборе. Языки, размер контекстного окна и поддерживаемые модальности в README не указаны. Модель сохраняет основные возможности исходной архитектуры при меньшем числе экспертов, а вариант REAP-20 должен иметь больше ёмкости и больший размер, чем REAP-30. Дополнительно выполнена abliteratation — ортогонализация весов для снижения жёстких отказов на запросы для взрослого и творческого контента; защитные ограничения против самоповреждения и содействия реальным противоправным действиям, согласно описанию, сохранены. Это не универсальная модель для всех аудиторий, а крупная по требованиям к памяти система, причём качество зависит от выбранного уровня квантования. Лицензия — Apache-2.0, унаследованная от базовой модели.

Qwen3.5-9B-The-Defiant-Fable-DARK-ROAST-Uncensored-Heretic-NEO-IMATRIX-MAX-MTP — мультимодальная плотная модель семейства Qwen3.5 с 9 млрд параметров, разработанная DavidAU совместно с Nightmedia. Это многоэтапный fine-tune и merge нескольких моделей Qwen3.5-9B; карточка описывает полноточную версию в 16-битном формате и отдельно упоминает варианты GGUF с NEO IMATRIX и MTP для ускоренной генерации. В метаданных указан формат safetensors и библиотека Transformers. Модель предназначена для диалогов, следования инструкциям, рассуждений, программирования, творческого письма и ролевых сценариев. Она принимает текст и изображения, поддерживает английский и китайский языки и, согласно карточке, контекст до 256 тысяч токенов. Также заявлен интерфейс вызова инструментов. Автор приводит результаты бенчмарков, но они не гарантируют превосходства на любых пользовательских задачах; видео не тестировалось. Автор характеризует модель как полностью uncensored и сообщает об удалении отказов; это может приводить к генерации нежелательного или небезопасного содержания. Лицензия — Apache-2.0. Для использования зрения в описанных GGUF-вариантах требуется отдельный файл mmproj.

Модель stavh2001/qwen3.6-27b-merged_28_05 — дообученная мультимодальная модель семейства Qwen3.5, разработанная stavh2001 на базе unsloth/Qwen3.6-27B с использованием Unsloth и библиотеки TRL. Она предназначена для диалогов с текстом и изображениями; поддерживает интерфейс вызова инструментов. Архитектура — плотная, Qwen3_5ForConditionalGeneration, веса представлены в формате safetensors. Базовая модель насчитывает 27 млрд параметров и рассчитана на анализ изображений, диалоги, программирование и агентные задачи. Модель выпущена под лицензией Apache-2.0. Карточка не описывает отдельную специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных сценариев следует проверять на собственных данных.

Qwen3.6-35B-A3B-Q5_K_M-GGUF — это квантованная версия модели Qwen3.6-35B-A3B, разработанная сообществом Qwen и преобразованная пользователем Abiray в формат GGUF с помощью llama.cpp. Модель предназначена для локального запуска на потребительском оборудовании и в средах с высокой нагрузкой на CPU, включая сценарии использования через llama.cpp. Вариант использует квантование Q5_K_M, обеспечивающее компромисс между качеством и размером файла. Базовая модель имеет архитектуру Mixture-of-Experts и обозначение 35B-A3B, однако в README не приведены подробности о числе экспертов, активных параметрах, размере контекста, поддерживаемых языках и точных модальностях. Метаданные указывают на сценарий image-text-to-text, но дополнительных сведений о работе с изображениями нет. Сильная сторона этой версии — баланс качества и требований к ресурсам по сравнению с менее или более сильно квантованными вариантами. Ограничения связаны с потерями качества, характерными для квантования, а также с отсутствием в README данных о производительности, совместимости и рекомендуемых ресурсах. Модель распространяется по лицензии Apache-2.0.

KikoCis/Qwen3.8-27B-GGUF — набор квантованных моделей в формате GGUF на основе Qwen/Qwen3.8-27B, разработанной командой Qwen. Репозиторий предназначен для локального запуска текстовой генерации, включая агентские сценарии с многошаговым использованием инструментов, при ограниченных ресурсах. Доступны варианты квантования от 1,94 до 3,40 бит на вес и размером от 6,46 до 16,81 ГБ. Архитектура модели включает 65 блоков: 48 SSM/linear-attention, 16 полноценных attention-блоков и одну MTP-голову. Благодаря этому KV-кэш заявлен как относительно экономичный — около 64 КБ на токен против примерно 256 КБ у полностью attention-модели сопоставимого размера. Нативное контекстное окно заявлено как 262 144 токена, но в README его практическая работоспособность не подтверждена. Модель рассчитана только на текст: исходная базовая модель мультимодальна, однако в этом репозитории отсутствует mmproj, поэтому обработка изображений невозможна. Наиболее удачным вариантом для агентов авторы считают IQ2_M: в измеренном тесте он выполнил 79 из 80 задач, почти соответствуя Q3_K_M с результатом 40 из 40, при меньшем размере. IQ2_XS экономит немного места, но показал более низкий результат, а варианты IQ1 предназначены скорее для связного текста и не рекомендуются для инструментальных агентов. Сильная сторона архитектуры — экономия памяти на длинном контексте, ограничением является медленный prefill, особенно в многошаговых диалогах. Результаты зависят от backend и runtime: приведённые измерения выполнялись через Ollama и не должны напрямую переноситься на другие реализации. Распространяется по лицензии Apache-2.0.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ4e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, разработанная независимым технологическим проектом KostkaIT на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель предназначена для локального программирования, рассуждений, создания мультимодальных ассистентов и исследовательских задач. Модель поставляется в формате MLX safetensors, оптимизированном для Apple Silicon и совместимого с рантаймом oMLX. Это смешанная квантизация oQ4e: базовые веса представлены в 4-битном формате с group_size 64, а отдельные тензоры сохранены в 5- и 6-битной точности с использованием importance matrix. В репозитории присутствуют конфигурация и процессор для работы с изображениями, vision-тензоры, а также встроенные веса Native MTP с одним скрытым слоем MTP. MTP можно включать или отключать в совместимых версиях oMLX. К сильным сторонам относятся поддержка текста и изображений, более компактное локальное развертывание благодаря квантизации, а также сочетание смешанной точности с Native MTP. Ограничения включают зависимость от оборудования Apple Silicon и совместимого MLX/oMLX-окружения, возможные потери качества из-за 4-битной квантизации и отсутствие в предоставленных данных сведений о языках, размере контекста и точных характеристиках производительности. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — это GGUF-квантизированная версия многоэтапно дообученной и объединённой модели на базе DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель подготовлена с использованием Unsloth, методов COLD FUSION и Fable Fusion 711; репозиторий konizquants содержит обычные и MTP-варианты Neo-CODER MAX DI-MATRIX GGUF-квантов. Заявлены языки английский и китайский, а также лицензия Apache 2.0. Точные сведения о длине контекста и полном устройстве архитектуры в README не указаны. Модель предназначена для общих задач, рассуждений и решения задач, программирования, генерации творческих текстов, художественной прозы, ролевых сценариев и работы с различными жанрами. Ключевая цель дообучения — сократить объём токенов рассуждения и ускорить генерацию при сохранении подробности и качества ответов; автор заявляет сокращение от примерно половины до одной десятой по сравнению с обычной Qwen3.8. Доступны варианты с 4- и 8-битным представлением, включая MTP, что ориентировано на запуск на потребительском оборудовании. README приводит высокие результаты внутренних и заявленных бенчмарков ARC, но не содержит независимой верификации. Ограничениями являются зависимость качества и скорости от конкретного кванта и оборудования, отсутствие подробных данных о контекстном окне и модальностях, а также заявленная «uncensored» направленность, из-за которой модель может требовать дополнительного контроля безопасности.

Qwen3.8-27B-ULTIMATE-UNCENSORED-MTP-IQ4-GGUF-16GB — квантизированная GGUF-версия модели Qwen3.8-27B, подготовленная lemonyins на основе аблитерированной и «uncensored» сборки AEON-7/Qwen3.8-27B-AEON-ULTIMATE-UNCENSORED-BF16. Модель предназначена для локального запуска и исследовательских или разработческих сценариев, где требуется модель класса 27B с уменьшенным потреблением памяти и без исходных контентных ограничений базовой сборки. Используется гибридная квантизация: основные attention-слои имеют формат IQ4_XS, а слои FFN — IQ3_S; применяется GGUF и поддержка TurboQuant для компактного KV-кэша. Вариант ориентирован на видеокарты с 16 ГБ VRAM. По данным README, на NVIDIA RTX 4060 Ti 16GB заявлена скорость около 20 токенов в секунду без MTP и около 30 токенов в секунду с multi-token prediction; с TurboQuant доступен контекст порядка 100–110 тысяч токенов без MTP и около 80 тысяч с MTP. Поддержка изображений возможна при подключении отдельного vision-проектора mmproj-BF16.gguf, при этом доступный контекст уменьшается примерно на 20 тысяч токенов. Сильные стороны модели — низкое потребление памяти, высокая скорость локального вывода, большой контекст и возможность speculative decoding через MTP. Ограничения связаны с потерями качества из-за квантизации FFN до IQ3_S, которые могут проявляться, например, в задачах на фактическое запоминание, а также с обязательной зависимостью заявленных показателей памяти от TurboQuant-enabled сборки llama.cpp. Приведённые показатели perplexity, VRAM и скорости требуют отдельной проверки именно для Qwen3.8. В README указана лицензия Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — мультимодальная версия Qwen3.8-27B, опубликованная HauhauCS. Это плотная языковая модель с поддержкой текста, рассуждений, агентских сценариев, изображений и видео. Она предназначена для прямых ответов без выраженного отказного поведения и минимального вступления, включая сложные запросы. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, FFN-размер 17408 и словарь из 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Сохраняется встроенный механизм MTP/NextN, а профиль HauhauCS FastMTP предназначен для ускорения генерации. Заявлен нативный контекст 262 144 токена с возможностью расширения до 1 000 000. Поддерживаются английский, китайский и другие языки; для изображений и видео используется отдельный vision-проектор BF16. Сильные стороны модели — мультимодальность, большой контекст, несколько вариантов GGUF-квантизации и ускорение FastMTP. Агрессивный профиль может быть удобен, когда важны краткость и отсутствие отказов, однако для надёжных длинноконтекстных агентских задач автор рекомендует сбалансированный вариант, если он доступен. README не приводит независимых оценок качества и не уточняет риски, связанные с uncensored-поведением. Модель распространяется по лицензии Apache-2.0.

Это квантованный вариант Qwen/Qwen3.8-Flash-Next, подготовленный с помощью AutoRound и схемы MXFP4-Mixed. Репозиторий содержит веса в формате safetensors; модель предназначена для диалоговой генерации текста и интерфейсов вызова инструментов. В README приведены результаты оценки на нескольких тестах и измерения на контексте длиной 131 072 токена. Для запуска требуется сборка vLLM с поддержкой MXFP4-Mixed и архитектуры модели. Для FP8-кэша KV его нужно включить отдельным параметром времени запуска; README также описывает ограничения совместимости некоторых сборок vLLM с этой архитектурой и форматом compressed-tensors. Лицензия наследуется от исходной модели Qwen/Qwen3.8-Flash-Next.

Qwen3.8-Flash-Next-Uncensored-NVFP4-FP8PLE — квантованная vision-language модель, опубликованная lychee888 на основе orcarouter/Qwen3.8-Flash-Next-Uncensored-NVFP4, который, в свою очередь, создан на базе Qwen/Qwen3.8-Flash-Next. Модель предназначена для обработки текста и изображений, рассуждений, function calling, тестирования безопасности и red-teaming. Вариант описан как abliterated и uncensored, то есть с изменениями, направленными на снижение встроенных ограничений поведения. Архитектура относится к семейству Qwen3.8-Flash-Next и использует 48 слоёв: 36 слоёв Gated-DeltaNet и 12 слоёв full attention с интервалом full_attention_interval 4. В конфигурации указаны 512 экспертов и MTP. Эксперты квантованы в NVFP4, attention-компоненты используют FP8, а таблица PLE n-gram embeddings дополнительно переведена из BF16 в FP8 e4m3 с единой глобальной шкалой. Благодаря этому размер контрольной точки уменьшен примерно со 170,93 до 123,25 GiB. Для запуска ориентирована на vLLM и рецепт развёртывания на двух NVIDIA DGX Spark; точные поддерживаемые языки и размер контекстного окна в предоставленных данных не указаны. К сильным сторонам относятся существенно меньший размер по сравнению с исходной сборкой, совместимость по структуре PLE с определёнными NVFP4-сборками Qwen3.8-Flash-Next и сохранение остальных файлов модели без изменений относительно исходной версии orcarouter. Ограничения включают необходимость совместимой инфраструктуры и vLLM, а также то, что PLE-веса нельзя смешивать с аналогичной сборкой RadixArk: формат совместим, но сами значения отличаются. Модель распространяется по лицензии Apache-2.0.

DioDef/qwen3.8-turbo — многоэтапно дообученная и объединённая версия Qwen3.8-27B, разработанная DioDef на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. Модель создана с использованием подходов COLD FUSION, Fable Fusion и инструментов Unsloth; в README она представлена как uncensored-модель с вариантами GGUF-квантизации, включая regular и MTP GGUF quants. Модель предназначена для широкого круга сценариев: решения задач и рассуждений, программирования, творческого письма, создания художественных текстов, сторителлинга и ролевых диалогов. Заявленная ключевая особенность — сокращение объёма thinking-токенов по сравнению с базовой Qwen3.8, что должно уменьшать задержку и расход токенов при сохранении подробности ответов. Указаны поддерживаемые языки English и Chinese. Точный размер контекстного окна и сведения о мультимодальных возможностях в README не приведены; тег image-text-to-text сам по себе не подтверждает наличие полноценного vision-интерфейса. Модель позиционируется как производительная версия для запуска на потребительском оборудовании и доступна в форматах с разной степенью квантизации, включая 4-битные и 8-битные варианты. Среди сильных сторон заявлены скорость генерации, сокращённое рассуждение, развитые способности к решению задач, программированию и генерации художественного текста. Заявления о результатах ARC-C, ARC-E и превосходстве над другими моделями приведены авторами README и не подтверждены независимыми данными в предоставленном описании. Лицензия — Apache-2.0.

Qwen_Qwen3-Next-80B-A3B-Thinking-GGUF — набор GGUF-квантизаций базовой модели Qwen3-Next-80B-A3B-Thinking, разработанной Qwen и подготовленной bartowski. Модель предназначена для генерации текста и сценариев, требующих рассуждений; запуск возможен через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Это текстовая модель с архитектурой и языками исходной модели, а также размером контекста, в README не указанных. Доступны варианты квантизации от Q3 до Q8, объёмом примерно от 36,6 до 84,8 ГБ. Более высокие варианты обеспечивают лучшее сохранение качества, а низкие требуют меньше памяти; рекомендуемыми названы Q4_K_M, Q5_K_M, Q6_K и другие варианты соответствующего уровня. Ключевое ограничение — значительные требования к оперативной памяти и необходимость поддержки этой модели выбранным программным обеспечением. Квантизации созданы с использованием imatrix и llama.cpp. Для работы рекомендуется применять указанный в README формат prompt с маркером начала рассуждений <think>. Распространение осуществляется по лицензии Apache-2.0.

mlx-community/QwQ-32B-bf16 — конверсия модели QwQ-32B в формат MLX, подготовленная сообществом mlx-community на основе Qwen/QwQ-32B с помощью mlx-lm 0.21.5. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров для генерации текста и диалогов; метаданные указывают контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалоговых и текстовых задач, в том числе для запросов, требующих последовательного рассуждения. Карточка указывает на формат safetensors, лицензию Apache-2.0 и использование через MLX. Поддержка английского отмечена в метаданных; другие языки и отдельные гарантии качества в карточке не описаны.

RefalMachine разработала инструктивную русскоязычную адаптацию Qwen2.5-7B. Модель с плотной архитектурой Qwen2 содержит 7,1 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы. В ней заменили токенизатор на расширенный вариант tiktoken cl100k с добавлением 48 тысяч unigram-токенов, продолжили предобучение на русскоязычном корпусе и применили технику Learned Embedding Propagation (LEP). Для диалогового использования предусмотрен интерфейс чата и вызова инструментов. Модель предназначена для русскоязычного диалога и выполнения инструкций. Авторы сообщают об увеличении скорости генерации русскоязычного текста до 60% относительно Qwen2.5-7B-Instruct при сравнении числа символов или слов в секунду на одинаковых последовательностях. Заявление о скорости не следует трактовать как оценку качества ответов. В карточке приведены частичные результаты Ru-Arena-General; данные по MERA и llmtf_open отмечены как незаполненные. Контекстное окно — 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия в предоставленных данных не указана.

Skywork o1 Open-Llama-3.1-8B — разговорная языковая модель команды Skywork компании Kunlun Inc., дообученная на базе Meta-Llama-3.1-8B-Instruct с данными для пошагового рассуждения. Это плотная причинно-следственная модель семейства Llama с 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов и решения задач, требующих рассуждений: математических и логических задач, планирования, самопроверки, вопросов на здравый смысл, а также задач программирования. Разработчики описывают трёхэтапное обучение, включающее обучение рефлексивным рассуждениям, обучение с подкреплением и планирование; заявленные улучшения основаны на результатах бенчмарков, приведённых в карточке модели. Модель распространяется в формате safetensors. Метаданные указывают лицензию «other», поэтому конкретные условия использования следует проверять в лицензии репозитория. Разработчики предупреждают о возможных непредсказуемых рисках и просят не развёртывать модель в интернет-сервисах без соответствующей проверки безопасности.

Twilight-XL-195B — объединённая авторегрессионная языковая модель, созданная softwareweaver с помощью mergekit методом passthrough на основе Twilight-Large. Архитектура — плотная MistralForCausalLM; размер составляет 192,8 млрд параметров, формат весов — safetensors. Для общения используется формат промпта Mistral Large; модель также поддерживает интерфейс вызова инструментов. Модель предназначена для генерации текста и диалогового взаимодействия. Заявленная длина контекста — 131 072 токена. Карточка не описывает отдельную специализацию или результаты оценки качества. Репозиторий распространяется по лицензии other, поэтому условия использования следует уточнять в сопровождающих лицензионных материалах.

Sakalti/ultiima-14B — объединённая модель для генерации текста, созданная автором репозитория с помощью mergekit. В слиянии методом TIES использованы Qwen/Qwen2.5-14B как базовая модель и Qwen/Qwen2.5-14B-Instruct; модель имеет плотную архитектуру Qwen2ForCausalLM и 14 млрд параметров. Модель предназначена для диалогов и генерации текста, включая структурированные ответы и взаимодействие через интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов. Репозиторий содержит веса Safetensors; указана лицензия Apache-2.0. Конкретные языковые возможности и оценки качества в карточке не описаны.

Sakalti/ultiima-14b-pass1 — языковая модель для генерации текста, созданная с помощью mergekit методом passthrough на основе Sakalti/ultiima-14B. В метаданных указана архитектура Qwen2 с плотной моделью и классом Qwen2ForCausalLM; размер составляет 23,9 млрд параметров, формат весов — safetensors, длина контекста — до 131 072 токенов. Модель предназначена для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области или языки. Лицензия в доступных данных не указана.

VICIOUS_MESH-12B-BETA — объединённая модель генерации текста на архитектуре Mistral, созданная автором репозитория с помощью mergekit и метода TIES. В слияние вошли VICIOUS_MESH-12B-ALPHA и Infermatic/MN-12B-Inferor-v0.1 на базе Khetterman/DarkAtom-12B-v3. Модель содержит 12,1 млрд параметров, распространяется в формате Safetensors, а в README также указана GGUF-квантизация Q4_K_M. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и работу через интерфейс вызова инструментов. Метаданные указывают поддержку английского, японского, русского, китайского, корейского и испанского языков. Заявленная длина контекста — 1 024 000 токенов; это значение значительно выше контекста, указанного для базовой Inferor 0.1, поэтому фактическую работу с таким объёмом следует проверять в используемой конфигурации. Лицензия — Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая IFEval и BBH; это ограниченный набор оценок и он не гарантирует качество на конкретных задачах. Метаданные помечают модель как не предназначенную для всех аудиторий.

VirtuosoSmall-InstructModelStock — объединённая языковая модель на базе Qwen2, созданная сообществом mergekit-community методом Model Stock. В слиянии использованы arcee-ai/Virtuoso-Small как базовая модель, а также Rombos-LLM-V2.6-Qwen-14b, Qwen2.5-Lumen-14B и miscii-14b-1028. Модель содержит 14 млрд параметров, работает через Transformers и предназначена для генерации текста в диалоговом формате, включая ответы на инструкции. Заявленная длина контекста — 131072 токена. Карточка указывает формат safetensors; лицензия и конкретные языки использования в предоставленных данных не приведены.

Yi-1.5-6B-Chat-GGUF — русскоязычное описание модели недоступно в предоставленных данных.

Yuan2-2B-Februa-hf — компактная языковая модель IEIT System из семейства Yuan 2.0, представленная в архитектуре YuanForCausalLM с плотной структурой и примерно 1,9 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; в карточке заявлено контекстное окно 8192 токена. Модель опирается на Yuan 1.0 и обучалась на расширенном наборе предварительно обучающих и инструкционных данных. Разработчик описывает её применение для понимания языка, математики, рассуждений, кода и общих знаний; в README приведены оценки на GSM8K, AGIEval-GK-Math, HumanEval и TruthfulQA для версий Yuan 2.0. Доступны веса PyTorch и указана лицензия other; README сообщает о коммерческом использовании по условиям лицензии Yuan 2.0 и Apache 2.0 для исходного кода репозитория. Модель может выдавать неточные ответы и поддаваться вводящим в заблуждение инструкциям. README также возлагает на пользователя ответственность за соблюдение условий лицензии и требований безопасности при развёртывании.

airoboros-13b-gpt4-1.1 — дообученная модель семейства LLaMA с 12,9 млрд параметров, созданная Jon Durbin на синтетических данных, сгенерированных GPT-4. Она предназначена для диалоговой генерации текста и отвечает на вопросы, выполняет рассуждения и решает задачи по программированию, математике, викторинам, тестам с выбором ответа и заданиям на заполнение пропусков. Особенность версии 1.1 — улучшенные инструкции для работы с контекстом и около тысячи дополнительных примеров по программированию. В режиме ответов по заданному контексту модель обучена опираться на предоставленные сведения и ограничивать ответ ими, что может помогать снижать галлюцинации. Для этого используется формат с явными разделителями блоков контекста и инструкций. Модель использует шаблон диалога Vicuna 1.1 и имеет контекстное окно 2048 токенов. Модель принимает текст и генерирует текст; карточка не заявляет поддержку конкретных естественных языков. Автор отмечает, что математические рассуждения остаются слабой стороной. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

AutomatosX AX-Qwen3.8-27B-MLX-AXQ-4bit-MTP — это смешанно-точечный квантованный чекпойнт на базе Qwen/Qwen3.8-27B, предназначенный для запуска на Apple Silicon через MLX. Основная языковая часть модели квантована с применением AXQuant, а голова multi-token prediction и vision tower сохранены в формате BF16. Модель имеет 27,36 млрд логических параметров, архитектуру Qwen3_5ForConditionalGeneration и поддерживает генерацию текста, а также визуальный ввод; аудио не поддерживается. Максимальный заявленный контекст — 262 144 токена, однако практический предел зависит от объёма unified memory устройства. Модель ориентирована на локальный текстовый инференс, разработку и сценарии, где важны сниженный объём хранения и запуск на компьютерах Apple Silicon. Она совместима с MLX-LM для стандартного текстового инференса, а для использования MTP и связанных runtime-возможностей предусмотрены AX Engine, oMLX и MTPLX. Полный размер загрузки составляет около 18,20 ГБ, измеренный общий показатель — 5,2338 BPW. Заявления об ускорении MTP ограничены профилями, указанными в сертификатах, и не гарантируются для всех конфигураций; MLX-LM также может не использовать vision- и MTP-компоненты. Репозиторий содержит MLX Safetensors и не включает веса PyTorch или GGUF. Модель распространяется по лицензии Apache-2.0. Для работы требуются совместимые версии MLX-инструментов и достаточный объём памяти; качество и возможности визуального инференса зависят от выбранного runtime и его поддержки дополнительных компонентов.

Aya Expanse 32B — большая языковая модель с открытыми весами, разработанная Cohere For AI. Эта версия представлена в формате GGUF с квантизациями imatrix и предназначена для локального запуска через llama.cpp, KoboldCPP, Ollama, text-generation-webui, GPT4All и другие совместимые инструменты. Модель ориентирована на генерацию текста и обладает мультиязычными возможностями для 23 языков, включая русский, английский, арабский, китайский, французский, немецкий, японский, корейский, испанский, турецкий, украинский и другие. Она основана на предобученной модели семейства Command и включает результаты исследований Cohere For AI в области отбора данных, мультиязычного обучения предпочтениям, настройки безопасности и объединения моделей. Размер исходной модели составляет 32 миллиарда параметров; сведения о длине контекста и точной архитектуре в карточке не указаны. Модель подходит для диалогов, написания и преобразования текстов, а также других задач генерации на поддерживаемых языках. Ключевое преимущество — широкий мультиязычный охват и возможность локального использования в оптимизированных GGUF-квантизациях. Ограничения связаны с требованиями к вычислительным ресурсам, зависящими от выбранной квантизации, а также с тем, что это исследовательский релиз; конкретные показатели качества и параметры контекста не приведены. Использование регулируется лицензией CC-BY-NC и требует соблюдения Acceptable Use Policy компании Cohere.

bruhzair/Behemoth-Gigaber-SLERP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit на основе Behemoth-123B-v1.2 и Gigaberg-Mistral-Large-123B. Репозиторий содержит веса в формате safetensors; размер модели — 122,2 млрд параметров, заявленный контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания и продолжения текстов, а также для сценариев с интерфейсом вызова инструментов. Карточка не приводит оценки качества или подробностей о специализации объединённых моделей. Лицензия в предоставленных данных не указана.

Это GGUF-квантизированная версия языковой модели CohereForAI/c4ai-command-r-plus-08-2024, подготовленная пользователем legraphista с использованием llama.cpp и метода IMatrix. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через совместимые инструменты llama.cpp. Доступны варианты с разными уровнями квантования — от 16-битного FP16 до 1–8-битных форматов, включая Q4_K, Q3_K и Q2_K; часть вариантов использует IMatrix для улучшения качества при уменьшенном размере. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского и арабского языков. К сильным сторонам относятся широкий выбор квантованных вариантов, возможность локального использования и компромисс между качеством, размером файлов и требованиями к памяти. При этом README не содержит сведений о точной архитектуре, числе параметров, размере контекста и результатах оценки, а низкие уровни квантования могут снижать качество по сравнению с исходной FP16-моделью. Распространение осуществляется по лицензии CC-BY-NC-4.0, допускающей использование с ограничениями, включая некоммерческий характер лицензии.

Citaman/command-r-19-layer — объединённая методом SLERP языковая модель на архитектуре Cohere, созданная с помощью mergekit на основе Citaman/command-r-20-layer. В конфигурации объединения используются срезы слоёв одной базовой модели; в метаданных указано 17,7 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Она принимает текст и выдаёт текст. Максимальная длина контекста — 8192 токена. Модель опубликована в формате safetensors и использует библиотеку Transformers. Карточка не приводит сведений о лицензии, языковой специализации или результатах оценки качества, поэтому их нельзя определить по доступным данным.

Citaman/command-r-25-layer — слитая с помощью mergekit методом SLERP языковая модель на архитектуре Cohere для генерации текста и диалогов. В README указано объединение двух диапазонов слоёв одной модели Citaman/command-r-26-layer; метаданные также связывают её с этой базовой моделью. Модель содержит 22,6 млрд параметров, работает с текстом и имеет контекстное окно 8192 токена. Метаданные отмечают поддержку чата и интерфейса вызова инструментов. Модель подойдёт для диалоговых приложений и генерации текста. В README не приведены оценки качества или результаты тестирования. Репозиторий содержит веса в формате Safetensors; лицензия в предоставленных данных не указана.