I.1Поиск и навигация по информации

Llama3-8B-1.58-100B-tokens — большая языковая модель, разработанная командой HF1BitLLM на базе Meta Llama 3 8B Instruct. Модель дообучена с использованием архитектуры BitNet 1.58b и предназначена для генерации текста и решения стандартных задач, поддерживаемых каузальными языковыми моделями. Для загрузки используется Transformers, а токенизатор — от meta-llama/Meta-Llama-3-8B-Instruct. Модель обучалась на подмножестве FineWeb-edu: сначала был использован чекпойнт после обучения на 10 миллиардах токенов, затем выполнено ещё 45 000 шагов с общим объёмом обучения 100 миллиардов токенов. Размер исходной модели составляет 8 миллиардов параметров; заявленная особенность — экстремальное квантование до 1,58 бита. README не указывает точный список поддерживаемых языков, длину контекста или дополнительные модальности, поэтому модель следует рассматривать как текстовую. По результатам оценки модель близка к Llama 3 8B по некоторым метрикам, включая perplexity и MMLU, но в среднем уступает исходной Llama 3 8B. Главное преимущество — существенно более компактное представление параметров, потенциально снижающее требования к памяти и вычислениям; при этом README не приводит точных показателей экономии ресурсов или производительности. Лицензия в предоставленных данных не указана.

llm-jp-4-8b-thinking-gguf — языковая модель на основе Transformer, разработанная Исследовательским центром больших языковых моделей Национального института информатики Японии (NII). Модель предназначена для генерации текста, диалоговых сценариев, решения задач и работы с инструкциями на английском и японском языках. Вариант thinking обучен с использованием supervised fine-tuning (SFT) и direct preference optimization (DPO), без reinforcement learning. Модель имеет около 8,59 млрд параметров, 32 слоя, размер скрытого состояния 4096 и 32 attention heads. Максимальная длина контекста составляет 65 536 токенов. Репозиторий содержит представление GGUF для запуска совместимых средств инференса; используется Unigram byte-fallback токенизатор на основе llm-jp-tokenizer v4.0, а шаблон чата совместим с форматом OpenAI Harmony. К сильным сторонам относятся большой контекст, поддержка японского и английского языков, постобучение с применением SFT и DPO, а также возможность локального запуска в экосистеме GGUF. Ограничением является необходимость использовать форк llama.cpp от LLM-jp: стандартная upstream-версия llama.cpp может некорректно обрабатывать токенизацию и чат. README не содержит достаточных количественных результатов оценки качества, поэтому сравнивать модель с альтернативами по бенчмаркам нельзя. Модель распространяется по лицензии Apache-2.0.

megatron_1.1_MoE_2x7B — разговорная языковая модель на архитектуре Mixtral с механизмом смеси экспертов (MoE). Карточка приводит результаты оценки на Open LLM Leaderboard, включая средний балл 69,94, 65,53 на AI2 Reasoning Challenge и 84,52 на HellaSwag. Модель предназначена для генерации текста в диалогах и решения задач на рассуждение и понимание текста. Она содержит 7,1 млрд параметров и поддерживает контекст до 8192 токенов. В репозитории используются веса safetensors; лицензия — Apache-2.0.

Это набор GGUF-квантизованных файлов модели Mistral Nemo Instruct 2407, разработанной Mistral AI и квантизованной командой featherless-ai-quants. Модель предназначена для генерации текста и выполнения инструкций, поэтому может использоваться в диалоговых приложениях, локальных ассистентах и других сценариях text-generation при наличии совместимого ПО для работы с форматом GGUF. В репозитории представлены варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 4,6 до 12,4 ГБ. Квантизация позволяет выбирать компромисс между размером файла, требованиями к ресурсам и сохранением качества, однако README не содержит сведений об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста. Сильная сторона представленной версии — широкий выбор уровней квантизации для развёртывания на оборудовании с разными ограничениями по памяти. Ограничения качества и производительности зависят от выбранного варианта и среды запуска; конкретные результаты в README не приведены. Лицензия модели и условия её использования в предоставленных данных не указаны.

Это GGUF-квантизированная версия Mistral-Small-4-119B-2603, разработанной Mistral AI и опубликованной пользователем bartowski. Квантизация выполнена с использованием llama.cpp и метода imatrix. Модель предназначена для задач генерации текста и обработки изображений с текстом, а также для локального запуска через llama.cpp, LM Studio, koboldcpp, Jan AI и другие совместимые инструменты. Модель имеет размер 119 млрд параметров и поддерживает арабский, английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, японский, корейский и китайский языки. Доступны варианты квантизации от Q3 до Q8, различающиеся размером файлов и точностью; рекомендуемые варианты занимают примерно от 64 до 103 ГБ, а Q8_0 — около 126 ГБ. В README не указаны архитектурные детали и размер контекстного окна. Сильной стороной модели является возможность локального использования при сохранении высокого качества, особенно в вариантах Q5–Q6 и Q8. Ограничения связаны с большими требованиями к оперативной памяти и ресурсам, а также с неизбежной потерей качества в более агрессивных вариантах квантизации. Для Q4_1 отмечены проблемы совместимости с поздними слоями FFN_DOWN_EXPS, поэтому исправленная версия этого варианта была переопубликована. Модель распространяется по лицензии Apache-2.0.

NeuralLLaMa-3-8b-ORPO-v0.3 — разговорная языковая модель семейства Llama, опубликованная Kukedlc. Это дообученная версия Meta-Llama-3.1-8B-Instruct с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Модель предназначена для генерации текста в диалогах и ответов на запросы; в README приведены результаты оценки на Open LLM Leaderboard, включая задачи на рассуждение и понимание естественного языка. Модель принимает текст и выдаёт текст, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Метаданные не содержат сведений о поддерживаемых языках. Лицензия — Apache-2.0. Показатели из таблицы README описывают результаты отдельных бенчмарков и не гарантируют качество для конкретных сценариев.

NuExtract-2.0-8B-GGUF — мультимодальная и многоязычная модель компании NuMind, предназначенная для структурированного извлечения информации. Она принимает текстовые и визуальные входные данные, а также JSON-шаблон с описанием требуемых полей, и возвращает извлечённые значения в структурированном виде. Модель подходит для обработки документов, форм, изображений и других источников, где требуется преобразовать неструктурированные данные в JSON. Модель основана на Qwen2.5-VL-7B-Instruct и содержит около 8 млрд параметров; распространяется в формате GGUF для запуска с совместимыми средствами, включая llama.cpp. Поддерживаются строковые значения, verbatim-string для дословного извлечения, числа, даты и времени в формате ISO, массивы, перечисления и multi-label-категории. При отсутствии подходящей информации модель возвращает null или пустой массив. Для задач извлечения рекомендуется температура, равная или близкая к 0. К сильным сторонам относятся специализированная настройка на извлечение, поддержка текста и изображений, многоязычность и возможность задавать целевую структуру результата. README не указывает точный размер контекста, перечень поддерживаемых языков и количественные результаты бенчмарка; также не описывает ограничения качества для отдельных языков или типов документов. Модель распространяется по лицензии MIT.

Это GGUF-квантизированная версия инструкционной языковой модели Llama-3.1-8B-UltraLong-4M-Instruct, разработанной NVIDIA и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на запросы и работу с очень длинными контекстами; обозначение UltraLong-4M указывает на поддержку контекста до 4 миллионов токенов. В карточке указано, что модель ориентирована на английский язык и относится к текстовой модальности. Модель содержит 8 миллиардов параметров и распространяется в формате GGUF, совместимом с llama.cpp, LM Studio и другими проектами на его основе. Доступны варианты от BF16 и Q8_0 до более компактных Q3- и IQ-квантизаций с размером файлов примерно от 4,3 до 16,1 ГБ. Квантизации выполнены с использованием imatrix, что позволяет выбирать баланс между качеством, потреблением памяти и скоростью инференса; наиболее качественными названы BF16, Q8_0 и варианты Q6, а Q4 и Q3 подходят для систем с меньшим объёмом оперативной памяти. Основные ограничения связаны с использованием квантизированных вариантов: уменьшение размера может сопровождаться снижением качества по сравнению с исходными весами, а требования к памяти при работе с контекстом в миллионы токенов остаются высокими. Для корректной работы следует использовать рекомендованный шаблон prompt формата Llama 3.1. Лицензия модели — CC-BY-NC-4.0, допускающая использование с некоммерческими ограничениями.

Это GGUF-квантизированная версия языковой модели Llama-3_3-Nemotron-Super-49B-v1_5, разработанной NVIDIA. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие проекты на его основе. Модель относится к классу крупных текстовых моделей примерно на 49 млрд параметров. Доступны варианты от BF16 и Q8_0 до более компактных Q3 и IQ4, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. В README рекомендуются, в частности, варианты Q4_K_M, Q5, Q6 и IQ4_XS; размеры файлов составляют примерно от 26,87 до 99,74 ГБ. Для работы используется специальный prompt format семейства Llama 3. Сильной стороной являются высокое качество старших вариантов квантизации и возможность локального запуска в совместимых инструментах. Ограничения связаны с большим размером модели и высокими требованиями к памяти, особенно для BF16 и качественных вариантов. В предоставленных данных не указаны поддерживаемые языки, размер контекстного окна, мультимодальные возможности и лицензия исходной модели.

OLMo 2 32B DPO March 2025 — диалоговая языковая модель Ai2, разработанная для исследований и применения в задачах генерации текста. Это плотная авторегрессионная модель семейства OLMo 2 с архитектурой Olmo2ForCausalLM и 31,7 млрд параметров; она принимает текст и поддерживает контекст до 4096 токенов. Модель рассчитана прежде всего на английский язык. Модель прошла supervised fine-tuning на варианте набора Tülu 3, а затем обучение методом DPO на данных предпочтений. Она предназначена для диалога, выполнения инструкций и разнообразных задач, включая математические рассуждения и проверку следования инструкциям. Весовые файлы доступны в формате PyTorch. Модель выпущена Ai2 под лицензией Apache 2.0. В карточке отмечено, что обучение безопасности ограничено: ответы могут содержать проблемный контент, особенно при соответствующих запросах.

OpenBeagle-11B — разговорная языковая модель семейства Mistral, опубликованная vicgalle. Это плотная авторегрессионная модель на 10,6 млрд параметров для генерации текста и диалога; она использует библиотеку Transformers и веса в формате safetensors. Нативная длина контекста — 32 768 токенов. Модель подходит для ведения диалога и генерации ответов на запросы. В README приведены результаты оценки на Open LLM Leaderboard, включая показатели на задачах AI2 Reasoning Challenge и HellaSwag. Модель выпущена под лицензией Apache-2.0. В метаданных указан датасет OpenHermesPreferences-1k.

OpenSonnet-Lite-MAX — дообученная языковая модель hadadxyz на архитектуре Qwen3, основанная на Qwen/Qwen3-4B-Thinking-2507. Она предназначена для диалоговой генерации текста, следования инструкциям и решения задач с рассуждением; в карточке также показана демонстрация вызова инструментов. Модель содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. Указаны многоэтапное дообучение в два прохода и оценка 85,22 на GSM8K; результатов для MMLU-Pro и GPQA Diamond карточка не приводит. Модель распространяется в формате safetensors через Transformers по лицензии Apache 2.0. Языки обучения или поддерживаемые естественные языки в предоставленных данных не обозначены. Результаты бенчмарка и заявленные возможности основаны на карточке модели и сами по себе не гарантируют аналогичное качество на других задачах.

Adept Persimmon-8B-Chat — чат-модель семейства Persimmon, разработанная Adept и дообученная для диалогов на собственной базовой модели, обученной с нуля. Она предназначена для генерации ответов на текстовые запросы и использования в чат-сценариях, в том числе как языковая основа для взаимодействия с компьютером. Модель имеет плотную архитектуру PersimmonForCausalLM и 10,7 млрд параметров. Контекстное окно составляет 16 384 токена. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. README представляет модель как ранний результат программы масштабирования Adept, а не как отдельный готовый продукт. Карточка не приводит оценок качества или подробных ограничений; результаты следует проверять для конкретных задач.

Карточка модели sworge/poc-custom-arch на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели DongfuJiang/Qwen2.5-0.5B-Instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-0.5B-Instruct, поэтому описание составлено по ней. Qwen/Qwen2.5-0.5B-Instruct — компактная инструктивно настроенная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов, выполнения инструкций и генерации текста, включая длинные ответы, структурированные данные и JSON; также может применяться для простых задач по коду и математике. Модель построена на архитектуре Qwen2 с причинным языковым моделированием и содержит 494 млн параметров. В карточке указаны 24 слоя, RoPE, SwiGLU, RMSNorm и группированное внимание; контекст — 32 768 токенов, генерация — до 8 192 токенов. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов. Семейство Qwen2.5 заявляет поддержку более 29 языков, включая русский и английский. Небольшой размер упрощает запуск по сравнению с крупными языковыми моделями, но ограничивает сложность задач, которые она может надёжно решать. Модель распространяется по лицензии Apache-2.0; для загрузки через Transformers рекомендуется актуальная версия библиотеки.

Карточка модели tayaee/Qwen2.5-1.5B-Korean-ORPO-smoke на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

ehristoforu/qwen2.5-7b-upscaled — языковая модель для генерации текста и диалогов, созданная слиянием весов через mergekit методом passthrough на основе Qwen/Qwen2.5-7B-Instruct. Она предназначена для общения, генерации текста и использования интерфейса вызова инструментов. Модель построена на плотной архитектуре Qwen2 и содержит 11,3 млрд параметров; максимальный контекст — 32 768 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. README не сообщает оценок качества или конкретных улучшений относительно базовой модели. Лицензия в доступных данных не указана.

PrimeIntellect/Qwen3-4B — текстовая генеративная модель семейства Qwen3, представленная Prime Intellect как копия Qwen/Qwen3-4B с шаблоном диалога, совместимым с многоходовым общением и вызовом инструментов. Модель основана на Qwen/Qwen3-4B-Base и дообучена; её плотная архитектура Qwen3ForCausalLM содержит 3,7 млрд параметров и поддерживает контекст до 40 960 токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая обмен сообщениями в несколько ходов и форматирование вызовов инструментов. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0.

onnx-community/Qwen3.5-0.8B-ONNX — это ONNX-версия постобученной мультимодальной модели Qwen3.5-0.8B, разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования, агентских сценариев, прототипирования, исследовательских задач и специализированного дообучения. Веса и конфигурация совместимы с Hugging Face Transformers.js и ONNX Runtime. Модель представляет собой авторегрессионную языковую модель с vision encoder и содержит около 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks и разреженную Mixture-of-Experts; языковая часть включает 24 слоя, скрытое измерение 1024 и нативный контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Благодаря небольшому размеру модель ориентирована на относительно эффективный запуск и разработку, но по возможностям и качеству уступает более крупным моделям, а заявленные мультимодальные и языковые характеристики требуют проверки на конкретных задачах. Модель распространяется по лицензии Apache-2.0. README не содержит полного описания ограничений, требований к аппаратному обеспечению и подробных результатов именно для всех поддерживаемых сценариев.

Qwen3.5-122B-A10B-abliterated-NVFP4 — производная версия модели wangzhang/Qwen3.5-122B-A10B-abliterated, основанной на Qwen/Qwen3.5-122B-A10B. Репозиторий поддерживается автором bjk110 и предназначен для локального запуска и сервинга текстовой генерации. Модель использует архитектуру Qwen3.5 MoE с 256 маршрутизируемыми экспертами, из которых активно 10 млрд параметров. Она поддерживает английский, корейский, китайский и японский языки. Контекстное окно может достигать 131 072 токенов при использовании указанной конфигурации vLLM. Это текстовая версия мультимодальной архитектуры: в данном чекпойнте присутствуют только текстовые веса, поэтому мультимодальные сценарии не поддерживаются. Основное изменение — квантизация NVFP4 с использованием compressed-tensors. Квантизированы маршрутизируемые и общие эксперты, а также self-attention; linear attention, эмбеддинги, нормализации и гейты сохранены в BF16. Размер уменьшен с 228 ГБ в BF16 до 71,2 ГБ, формат хранения — safetensors в двух шардах. Сильными сторонами являются существенное снижение требований к памяти и совместимость с NVFP4 MoE-ядром vLLM. Ограничения включают необходимость специального патча vLLM, зависимость от совместимого оборудования NVIDIA и отсутствие мультимодальных возможностей; заявленные показатели производительности проверены на NVIDIA DGX Spark и не гарантируются для других конфигураций. Модель распространяется по лицензии Apache-2.0.

tvall43/Qwen3.6-14B-A3B-vibetuned-GGUF — это квантизированная GGUF-версия модели tvall43/Qwen3.6-14B-A3B-vibetuned, разработанная автором tvall43 на основе pruned-модели Qwen3.6-35B-A3B-heretic. После сокращения до 14 млрд параметров модель была дообучена методом QLoRA на данных для рассуждений Magpie Opus Pro и структурированной логики Hermes Function Calling. Модель предназначена для локальной генерации текста, диалоговых сценариев, рассуждений и вызова функций через llama.cpp и совместимые среды, включая LM Studio, Ollama и text-generation-webui. Она заявлена как мультимодальная и поддерживает работу с изображениями при использовании multimodal projector mmproj. Язык README указан как английский; размер контекста и точный набор поддерживаемых языков не приведены. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4 с разными компромиссами между качеством, скоростью и требованиями к памяти. Q4_K_M ориентирован на локальный запуск примерно в 8 ГБ VRAM, Q8_0 требует около 15 ГБ памяти, а MXFP4 зависит от поддержки inference engine. Ограничениями являются возможная потеря качества в более агрессивно квантизированных вариантах и необходимость актуальной версии совместимого inference engine. Лицензия — Apache-2.0.

lmstudio-community/Qwen3.6-27B-MLX-4bit — 4-битная квантованная версия модели Qwen3.6-27B, разработанной Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах с Apple Silicon. Модель предназначена для задач генерации текста и обработки связок изображение—текст, включая сценарии локального запуска через совместимые инструменты. В карточке указана принадлежность к классу image-text-to-text, однако подробные сведения о поддерживаемых языках, размере контекстного окна и полном наборе мультимодальных возможностей не приведены. Ключевая особенность модели — 4-битное представление, снижающее требования к памяти по сравнению с полноформатной версией и подходящее для локального использования на Apple Silicon. Ограничения включают возможную потерю качества из-за квантования, а также отсутствие в предоставленных данных конкретных результатов тестирования и характеристик производительности. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Abliterix-EGA-abliterated-i1-GGUF — набор квантованных GGUF-файлов модели, созданный mradermacher на основе jenerallee78/Qwen3.6-35B-A3B-Abliterix-EGA-abliterated. Модель относится к семейству Qwen и использует MoE-архитектуру с заявленным размером 35B параметров и 3B активных параметров; в описании также указаны Expert-Granular Abliteration и мультимодальная поддержка. Модель предназначена для диалоговых сценариев, генерации и обработки текста, а также задач image-text-to-text с анализом изображений. Заявлены английский и китайский языки. Распространяется в формате GGUF с множеством вариантов квантования от очень компактных IQ1 до более качественных Q6_K; доступны imatrix-кванты, а для баланса размера, скорости и качества автор рекомендует i1-Q4_K_M, тогда как i1-Q4_K_S обозначен как оптимальный по соотношению характеристик. К сильным сторонам относятся локальный запуск через совместимые с GGUF инструменты, широкий выбор вариантов квантования и мультимодальные возможности исходной модели. Ограничения включают возможное снижение качества на низких уровнях квантования, отсутствие в предоставленных данных сведений о размере контекста, производительности и результатах бенчмарков, а также особенности abliterated-версии, которые могут влиять на поведение модели и безопасность ответов. Лицензия — AGPL-3.0.

valiolla/Qwen3.8-4B-Distill-heretic — версия Qwen3.8-4B с ослабленным отказом от ответов, созданная на основе модели Empero AI с помощью Heretic v1.4.0. Это плотная языковая модель с 4 млрд параметров в формате Transformers; она представляет собой полнопараметрическое дообучение Qwen/Qwen3.5-4B методом дистилляции на выборке ответов более крупной модели Qwen3.8. Модель рассчитана на диалог, следование инструкциям, рассуждения и вызов функций; в README отдельно выделены математика и общие рассуждения. Заявленная длина контекста — 262 144 токена. В сравнении с исходной Qwen3.8-4B доля отказов в приведённом тесте снизилась с 99 до 24 из 100, а KL-дивергенция составила 0,0109. Тонкая настройка ориентирована на текст; поведение с изображениями унаследовано от мультимодальной базовой архитектуры, но не оценивалось. Для запуска требуются актуальная версия Transformers с поддержкой Qwen3.5 и CUDA-совместимые ядра Gated DeltaNet; без них генерация может быть медленнее и требовать больше памяти. В README также отмечены риск циклов повторения при жадном декодировании длинных ответов и снижение результата на GSM8K относительно базовой модели. Лицензия — Apache-2.0; авторы предоставляют веса «как есть» для исследований и экспериментов.

Это квантованные версии модели Qwen3.5-122B-A10B от Qwen, подготовленные bartowski в формате GGUF для запуска через llama.cpp и совместимые инструменты. Модель предназначена для задач генерации текста и обработки изображений с текстом, однако README не содержит подробного описания поддерживаемых сценариев, языков или возможностей мультимодального ввода. Основой служит модель с заявленным размером 122B и обозначением A10B; точная архитектура, размер контекста и перечень модальностей в README не раскрыты. Доступны варианты квантования от Q8_0 до Q3_K и IQ3/IQ4, размером примерно от 59 до 133 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, а менее точные варианты требуют меньше оперативной памяти. Квантование выполнено с использованием imatrix и llama.cpp; также добавлена поддержка MTP-слоёв при использовании совместимой версии llama.cpp и параметра draft-mtp. Модели можно запускать через llama.cpp, ramalama, LM Studio, koboldcpp, Jan AI, Text Generation Web UI и LoLLMs. Рекомендуемый шаблон запросов использует формат Qwen с разделителями ролей и секцией <think>. Распространение указано по лицензии Apache-2.0. Ограничения включают высокие требования к памяти, зависимость от поддержки модели в конкретном инструменте и снижение качества при выборе более агрессивного квантования.

JetLM/SDAR-4B-Chat — диалоговая языковая модель семейства SDAR, разработанная авторами SDAR. Архитектура SDAR объединяет авторегрессионное обучение с дискретным диффузионным моделированием: по заявлению авторов, это сочетает эффективное обучение с параллельным выводом. Репозиторий содержит плотную модель на 3,7 млрд параметров в формате safetensors с контекстом до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других задач генерации текста; в метаданных также заявлен интерфейс для вызова инструментов. Авторы сообщают о результатах на уровне сильных авторегрессионных моделей сопоставимого масштаба и о преимуществах на отдельных задачах научного рассуждения, однако приведённые в README утверждения относятся к семейству SDAR и сами по себе не подтверждают конкретные результаты этой версии 4B Chat. Поддерживается библиотекой Transformers. Лицензия Apache-2.0.

Slush-Sunfall-Rocinante-GGLD-12B — объединённая языковая модель, созданная сообществом mergekit-community из IAmTheCollector/MN-Slush-GGLD и knifeayumu/Rocinante-12B-v1-nemo-sunfall-v0.6.1-SLERP. Модели объединены методом SLERP в формате bfloat16; конфигурация задаёт Slush-GGLD для входных и выходных слоёв и Rocinante-Sunfall для промежуточных слоёв. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Она предназначена для генерации текста и диалогов; карточка также отмечает интерфейс вызова инструментов. Указанное нативное контекстное окно — 1 024 000 токенов. Метаданные указывают библиотеку Transformers и формат safetensors. Лицензия в предоставленных сведениях не приведена.

CallComply/SOLAR-10.7B-Instruct-v1.0-128k — англоязычная диалоговая языковая модель, дообученная на базе upstage/SOLAR-10.7B-v1.0 для одношаговых инструкций и бесед. Она построена на плотной архитектуре семейства Llama с 10,6 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов и выполнения инструкций в чат-сценариях. При дообучении использовались SFT и итеративная DPO на наборах Alpaca-GPT4, OpenOrca, Intel Orca DPO и UltraFeedback; карточка также описывает применение данных для математических задач. В метаданных указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование.

Unbound E4B — мультимодальная модель для диалога, дообученная командой Chromia & Eval Engine на Google Gemma 4 E4B Instruct. Она принимает текст и изображения и генерирует текст; предназначена для открытых диалогов, ответов на вопросы, рассуждений и анализа изображений. В карточке сообщается, что по знаниям и рассуждениям она сильнее младшей Unbound E2B и сохраняет результаты базовой модели на GPQA-Diamond и BBH в пределах статистической погрешности. Модель снижает частоту отказов на тесте AdvBench с 98,08% у базовой модели до 2,69%, поэтому чаще отвечает на запросы, от которых базовая модель отказалась бы. Разработчики также отмечают увеличение галлюцинаций на вредоносных запросах с 1,35% до 13,08%. Модель может выдавать вредные, ложные, предвзятые или небезопасные ответы; используйте результаты с проверкой. В репозитории находятся объединённые веса Transformers в формате Safetensors; для запуска на устройстве доступны отдельные сборки GGUF. Лицензия — Apache-2.0.

XGen-7B-8K-Inst — языковая модель Salesforce AI Research с плотной архитектурой LlamaForCausalLM и примерно 6,7 млрд параметров. Она создана как версия XGen-7B-8K-Base, дообученная на общедоступных инструкционных данных; контекст составляет до 8192 токенов. Модель предназначена для генерации текста по инструкциям: например, для ответов на вопросы, выполнения текстовых запросов и диалоговых сценариев. В карточке указано, что релиз предназначен для исследовательских целей; данных о поддерживаемых естественных языках нет. Модель распространяется в формате PyTorch. Авторы предупреждают, что её не оценивали для всех прикладных сценариев, поэтому перед применением следует проверять точность, безопасность и справедливость ответов, особенно в задачах высокого риска. Лицензия для этой инструкционной версии в карточке не указана; Apache-2.0 отмечена для базовых моделей XGen-7B-4K-Base и XGen-7B-8K-Base.