I.2Синтез, понимание и проверка знаний

OmniBeagleSquaredMBX-v3-7B-v2 — языковая модель для генерации текста, созданная PaulML путём слияния моделей paulml/OmniBeagleMBX-v3-7B и flemmingmiguel/MBX-7B-v3 с помощью LazyMergekit. Для объединения использован метод SLERP с отдельными параметрами смешивания для слоёв self-attention и MLP. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Карточка не приводит сведений о специализации по языкам или предметным областям. Модель распространяется в формате safetensors по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Карточка не описывает отдельные оценки качества или известные технические ограничения.

facebook/opt-iml-1.3b — языковая модель семейства OPT, разработанная Meta AI и дообученная следованию инструкциям методом Instruction Meta-Learning. Модель с плотной архитектурой и примерно 1,7 млрд параметров предназначена для генерации текста по запросу; её можно использовать через библиотеку Transformers. Контекст модели составляет 2048 токенов. Обучение проводилось на OPT-IML Bench — наборе примерно из 2000 задач обработки естественного языка, собранных из восьми бенчмарков, включая Super-NaturalInstructions, FLAN и PromptSource. Семейство включает варианты, обученные на 1500 задачах с отложенными задачами для оценки, и OPT-IML-Max, обученный на всех примерно 2000 задачах. В карточке для этой модели не уточнено, какой из вариантов имеется в виду. Лицензия указана как other, поэтому конкретные условия использования следует проверять в репозитории модели. Модель подходит для ответов на инструкции, генерации и преобразования текста в широком круге NLP-задач. Как и другие крупные языковые модели, она может выдавать фактически неверные ответы, токсичный текст и воспроизводить стереотипы; результаты требуют проверки.

PIT-4B-FT — англоязычная instruction-tuned языковая модель семейства Point-In-Time GPT от Diamegs. Это декодерный Transformer для генерации текста и следования инструкциям; LoRA-адаптеры обучены на инструкционных данных и объединены с базовыми весами Diamegs/PIT-4B-202412. Модель отражает знания из веб-текстов FineWeb по декабрь 2024 года и предназначена для генерации ответов и анализа, учитывающего состояние знаний на этот момент. Модель работает с текстом, использует библиотеку Transformers и хранится в формате safetensors. Контекст ограничен 2048 токенами. Лицензия — Apache-2.0. У модели нет RLHF и дополнительной настройки безопасности; она может воспроизводить предвзятость обучающих данных. Её знания ограничены материалами, доступными до декабря 2024 года, поэтому для критически важных задач требуется дополнительная проверка и настройка.

PLLuM-12B-instruct-2512 — польскоязычная инструктивная языковая модель семейства PLLuM, разработанная консорциумом PLLuM и продолжаемая альянсом HIVE AI. Модель предназначена для диалогов и общих языковых задач, включая генерацию и суммаризацию текста, извлечение информации и ответы на вопросы; также её можно использовать как основу специализированных ассистентов, в том числе для польской государственной администрации и юридических или бюрократических тем с подключённым поиском по документам. Это плотная авторегрессионная модель архитектуры MistralForCausalLM с 12,1 млрд параметров и контекстом до 131 072 токенов. Обучение включает продолжение предобучения на польских и английских текстах, инструктивную настройку и обучение на предпочтениях. Модель ориентирована прежде всего на польский язык, английский использован для расширения обобщения. Для прикладного использования опубликована в формате safetensors; лицензия — Apache 2.0. Карточка сообщает о хороших результатах на собственных тестах для польской публичной администрации и общих польскоязычных задачах, но не приводит численных оценок для этой версии. Для работы с актуальными или специализированными документами модель следует сочетать с поиском или RAG; ответы могут содержать ошибки и требуют проверки.

PRIMERA-multinews — версия для Hugging Face модели PRIMERA, разработанной AI2 и представленной в работе по предварительному обучению для многодокументного суммирования. Модель построена на архитектуре LED и содержит около 252,8 млн параметров; доступна в форматах PyTorch и TensorFlow. Окно контекста — до 4096 токенов. Модель предназначена для создания сводок по нескольким новостным документам. PRIMERA использует пирамидальное маскирование предложений при обучении и подходит для объединения сведений из нескольких источников в один краткий текст. Карточка сообщает о результатах на наборе MultiNews и отмечает небольшое расхождение с оригинальной реализацией Longformer из-за различий в реализации LED в Hugging Face. Модель работает с англоязычным текстом. Лицензия — Apache-2.0.

Quyen-Plus-v0.1 — диалоговая языковая модель серии Quyen, разработанной авторами модели на основе семейства Qwen1.5. Это плотная авторегрессионная модель архитектуры Qwen2ForCausalLM примерно с 7,1 млрд параметров и контекстом до 32 768 токенов. Она принимает текст и генерирует текст, используя шаблон диалога ChatML. Модель предназначена для диалоговых ответов и помощи с текстовыми запросами. Серия Quyen обучалась с использованием SFT и DPO на наборах OpenHermes-2.5, Capybara, Orca DPO и distilabel-capybara-dpo, а также на закрытых данных. В карточке приведены отдельные результаты тестов, но полный набор результатов и бенчмарков не представлен. В метаданных указана лицензия other, поэтому конкретные условия использования следует сверить с лицензией и файлами репозитория. Модель опубликована в формате Safetensors и доступна через Transformers.

QVikhr-3-1.7B-Instruction-noreasoning — инструктивная языковая модель команды Vikhrmodels, созданная полным дообучением Qwen/Qwen3-1.7B методом SFT на синтетическом датасете GrandMaster2. Модель предназначена для диалогов и выполнения инструкций, генерации ответов, кратких изложений и анализа текстов на русском и английском языках. Модель использует плотную архитектуру Qwen3ForCausalLM, содержит 1,7 млрд параметров и поддерживает контекст длиной до 40 960 токенов. Карточка сообщает о специализации на русском языке и приводит результат сравнения в Ru Arena General; он не гарантирует качество для каждой задачи. Репозиторий содержит веса в формате safetensors, а отдельные производные варианты доступны в GGUF и MLX. Лицензия — Apache-2.0.

mlx-community/Qwen2.5-72B-Instruct-8bit — 8-битная версия модели Qwen2.5-72B-Instruct, подготовленная сообществом mlx-community из Qwen/Qwen2.5-72B-Instruct для формата MLX с помощью mlx-lm 0.18.1. Это плотная языковая модель на 71,5 млрд параметров с архитектурой Qwen2 и контекстом до 32 768 токенов. Модель предназначена для диалоговой генерации текста и интерфейса вызова инструментов. Формат MLX ориентирован на запуск с mlx-lm. В метаданных указан английский язык; иных языков карточка не подтверждает. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в материалах репозитория.

Qwen2.5-7B-Instruct-1M-GGUF — GGUF-квантизированная версия инструкционной языковой модели Qwen2.5-7B-Instruct-1M, разработанной командой Qwen. Квантизацию выполнил bartowski на базе llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, а также для задач, требующих обработки очень больших текстовых контекстов. Модель имеет около 7 миллиардов параметров и поддерживает контекст длиной до 1 миллиона токенов. Она сохраняет возможности работы с короткими запросами и оптимизирована для задач с длинным контекстом. В README указан английский язык; сведения о других языках и дополнительных модальностях отсутствуют. Для последовательностей длиннее 262 144 токенов возможно снижение точности до появления улучшенной поддержки. Модель распространяется по лицензии Apache-2.0. Формат GGUF и совместимость с llama.cpp ориентированы на локальный запуск в инструментах, поддерживающих этот формат, включая LM Studio. README не содержит подробностей о конкретных вариантах квантования, требованиях к аппаратным ресурсам и результатах бенчмарков.

Theros/Qwen2.5-ColdBrew-R1-test5 — объединённая языковая модель, созданная с помощью mergekit методом SLERP из Theros/Qwen2.5-ColdBrew-R1-test3 и bunnycore/Qwen-2.5-7B-Stock-Deep-Bespoke-v2. Модель разработана для диалогов и генерации текста; её архитектура — плотная Qwen2, размер — 7,1 млрд параметров, а родной контекст составляет 131 072 токена. Репозиторий содержит веса в формате safetensors и предназначен для использования с библиотекой Transformers. Модель подходит для ведения диалогов и генерации текста с длинным контекстом. В карточке не приведены сведения о языках, лицензии и специальных прикладных областях, поэтому их нельзя уточнить. Качество и поведение объединённой модели зависят от исходных моделей; отдельные ограничения в карточке не описаны.

Qwen2.5 Ultimate 14B Instruct — объединённая инструкционная языковая модель, созданная автором qingy2024 методом TIES из Qwen2.5-14B-Instruct и Qwen2.5 Math 14B Instruct на базе Qwen2.5-14B. Модель с плотной архитектурой Qwen2 и 14 млрд параметров предназначена для диалогов и генерации текста; объединение также ориентировано на математические задачи и ответы по инструкциям. Модель принимает текст и генерирует текст. В карточке заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Контекстное окно составляет до 131 072 токенов. В карточке приведены результаты оценивания на наборах IFEval, BBH, MATH, GPQA, MuSR и MMLU-Pro; эти показатели относятся к указанным тестовым настройкам и сами по себе не гарантируют качество в прикладных сценариях. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия в предоставленных данных не указана.

Карточка модели rgtjf/Qwen2-UtK-72B-128K на Hugging Face совпадает с карточкой rgtjf/Qwen2-UtK-7B-128K, поэтому описание составлено по ней. Qwen2-UtK-7B-128K — языковая модель на основе Qwen2-7B, дообученная командой проекта Untie the Knots для работы с длинным контекстом. Это плотная авторегрессионная модель с 7,1 млрд параметров; её контекстное окно составляет до 131 072 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и поиска нужной информации в длинных последовательностях. Метод Untie the Knots продолжает предобучение на перемешанных фрагментах документов, чтобы улучшить выделение релевантных сведений при большом контексте. В README приведены результаты оценки на RULER для 128K контекста; указанный пример обслуживания использует vLLM. Карточка сообщает о поддержке английского и китайского языков. Модель основана на Qwen2-7B с изменённым параметром RoPE theta: 5 000 000 вместо 1 000 000. README описывает отдельную инструктивную версию ChatQA2, но эта карточка относится к базовой модели UtK, поэтому её не следует считать чат-моделью ChatQA2. Практическое качество зависит от задачи и длины входа; результаты README не гарантируют такую же точность на других данных и сценариях.

Qwen2-UtK-7B-128K — языковая модель на основе Qwen2-7B, дообученная командой проекта Untie the Knots для работы с длинным контекстом. Это плотная авторегрессионная модель с 7,1 млрд параметров; её контекстное окно составляет до 131 072 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0. Модель предназначена для генерации текста и поиска нужной информации в длинных последовательностях. Метод Untie the Knots продолжает предобучение на перемешанных фрагментах документов, чтобы улучшить выделение релевантных сведений при большом контексте. В README приведены результаты оценки на RULER для 128K контекста; указанный пример обслуживания использует vLLM. Карточка сообщает о поддержке английского и китайского языков. Модель основана на Qwen2-7B с изменённым параметром RoPE theta: 5 000 000 вместо 1 000 000. README описывает отдельную инструктивную версию ChatQA2, но эта карточка относится к базовой модели UtK, поэтому её не следует считать чат-моделью ChatQA2. Практическое качество зависит от задачи и длины входа; результаты README не гарантируют такую же точность на других данных и сценариях.

Это квантованная в NVFP4 версия Qwen3.5-9B-Instruct от команды Qwen компании Alibaba, опубликованная FreedomAISVR в формате GGUF. Модель предназначена для генерации текста по инструкциям; вместе с файлом мультимодального проектора поддерживает обработку изображений и видео. В основе — гибридная архитектура Mamba2 и Attention, 9 млрд параметров и контекст до 262 тыс. токенов; предусмотрена поддержка Multi-Token Prediction и управления режимом рассуждений. Для запуска README приводит примеры с llama.cpp и llama-cpp-python. Квантование NVFP4 рассчитано на ускорение на GPU NVIDIA Blackwell и занимает меньше места, чем исходные веса; карточка указывает 4,73 бита на вес. Для обработки изображений и видео требуется отдельный проектор F16. Языки карточки — английский и китайский. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизация мультимодальной модели Qwen3.6-35B-A3B, разработанной Alibaba Cloud; репозиторий FreedomAISVR распространяет её в формате MXFP4_MOE для запуска через llama.cpp. Модель имеет архитектуру MoE: 35 млрд параметров всего, около 3 млрд активируются на токен, используются 256 экспертов и гибридное внимание Gated DeltaNet с полным вниманием. Контекстное окно — 262 144 токена. Модель предназначена для диалогов, генерации текста и анализа изображений. Для обработки изображений вместе с основными весами требуется файл проектора mmproj. В MXFP4 квантизированы веса экспертов, а маршрутизатор и общие экспертные слои сохранены в Q8_0; README указывает размер основных весов 18,4 ГБ. Указана поддержка 201 языка, среди которых английский и китайский. Квантизация снижает требования к памяти, но может повлиять на качество относительно исходных весов; фактическая совместимость и скорость зависят от оборудования и версии llama.cpp. Лицензия репозитория — Apache-2.0.

Rabbit-Hole-Ai/Qwen3.8-27B-5090-goldilocks-GGUF — это квантованная версия Qwen3.8-27B в формате GGUF, предназначенная для запуска через llama.cpp. Модель основана на Qwen/Qwen3.8-27B и оптимизирована для размещения на одной видеокарте NVIDIA RTX 5090 с 32 ГБ памяти под Windows 11. Основное назначение — генерация текста с большим контекстом, включая локальный инференс и сценарии, где важны высокая вместимость контекста и поддержка speculative decoding. Файл использует смешанную точность с эффективным показателем 7,36 bpw и занимает около 23 990 МиБ. В составе 866 тензоров применяются 339 тензоров Q8_0, 167 Q6_K и 360 F32; MTP-слой blk.64 сохранён для совместимости с режимом draft-mtp. Для текстовых задач заявлена поддержка контекста до 131 тыс. токенов, а при использовании vision projector — до 110 тыс. токенов. README приводит среднюю KL-дивергенцию относительно исходной BF16-модели 0,001800 для RTN-сборки и 0,001678 для imatrix-сборки. Сильная сторона модели — эффективное использование памяти RTX 5090 за счёт повышения точности квантования в пределах доступного объёма VRAM и сохранения качества, близкого к BF16-оригиналу. Указанная скорость генерации зависит от глубины контекста и конфигурации: для imatrix-файла приводятся значения 72,6 токена/с при глубине 8 тыс. и 64,0 токена/с при глубине 98 тыс. Ограничениями являются требовательность к видеопамяти, заметное падение скорости на длинном контексте и необходимость внимательно выбирать параметры KV-кэша и speculative decoding: сочетание квантованного KV-кэша с определёнными настройками спекулятивной генерации может резко ухудшить производительность. Лицензия — Apache-2.0.

ulkaa/Qwen3.8-27B-AWQ-INT4 — это квантизированная версия мультимодальной модели Qwen3.8-27B, разработанной командой Qwen и опубликованной пользователем ulkaa. Модель предназначена для генерации и понимания текста, работы с изображениями и задач с большим контекстом. Она использует архитектуру Qwen3_5ForConditionalGeneration, поддерживает сохранённую vision tower в формате BF16 и рассчитана на применение через Transformers и SGLang, в частности на GPU Intel Arc Pro. Модель сжимает веса методом AWQ в формате compressed-tensors pack-quantized по схеме W4A16 с асимметричной квантизацией и размером группы 128. Размер артефакта составляет 18,2 GiB против 55,6 GiB у исходной BF16-версии. Большая часть параметров хранится в четырёхбитном виде, а vision tower, MTP head, embeddings, lm_head, нормализации и отдельные малые компоненты сохраняются в BF16. Основная конфигурация поддерживает контекст до 262 144 токенов; ревизия 1m с YaRN расширяет его до 1 048 576 токенов. К сильным сторонам относятся существенно сниженные требования к памяти, поддержка мультимодальных сценариев, длинного контекста и спекулятивного декодирования через встроенный MTP head либо внешнюю модель Qwen3.8-27B-DFlash2. К ограничениям относятся ожидаемое расхождение результатов с BF16-версией, необходимость проверки качества на собственных данных и зависимость оптимизированного сценария обслуживания от SGLang, Intel XPU и соответствующей конфигурации. Для DFlash2 не поддерживаются запросы с возвратом logprob. Модель распространяется по лицензии Apache-2.0.

philbert440/Qwen3.8-27B-NVFP4 — это 4-битная NVFP4-квантизованная версия плотной мультимодальной модели Qwen3.8-27B, разработанной Qwen. Модель предназначена для работы с текстом и изображениями, включая задачи рассуждения, ответов на вопросы, анализа визуальной информации и генерации текста. Режим рассуждений включён по умолчанию, а визуальная часть модели и голова MTP для спекулятивного декодирования сохранены. Модель содержит 27 млрд параметров и использует гибридную архитектуру из 64 слоёв: 16 слоёв с полноценным вниманием и 48 слоёв GatedDeltaNet с линейным вниманием. Основная часть весов представлена в формате NVFP4 E2M1 с групповым масштабированием FP8, при этом отдельные чувствительные компоненты, эмбеддинги, выходная голова, vision tower и MTP-head сохранены в BF16. Нативная длина контекста составляет 262 144 токена, с возможностью расширения до 1 млн токенов посредством YaRN. Доступный размер файлов модели — около 25,2 ГБ. Главное преимущество этой сборки — оптимизация под инференс на видеокартах NVIDIA V100: она рассчитана на запуск на двух V100 с 32 ГБ памяти через 1Cat-vLLM и, согласно приведённым измерениям, обеспечивает около 42–47 токенов в секунду в однопоточном режиме рассуждений. К ограничениям относятся зависимость от совместимого стека 1Cat-vLLM и особенности поддержки аппаратных платформ; заявленные показатели получены на конкретной конфигурации и могут отличаться в других условиях. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — квантованная GGUF-версия плотной языковой модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также работы с изображениями и видео; поддерживает текстово-визуальный ввод через отдельный vision-проектор. Заявлены языки English, Chinese и multilingual. Модель содержит 27 млрд параметров, 64 слоя, скрытый размер 5120, размер FFN 17408 и словарь на 248 320 токенов. Архитектура включает 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Сохранены встроенные механизмы MTP/NextN, а также добавлен профиль ускорения HauhauCS FastMTP 32K для speculative decoding. Нативный контекст составляет 262 144 токена, с заявленной возможностью расширения до 1 000 000 токенов. Доступны варианты квантования от Q8_K_P до IQ2_M размером примерно от 10,32 до 31,46 ГБ; для изображений и видео требуется отдельный BF16 vision-проектор размером 931 МБ. К сильным сторонам относятся большой контекст, мультимодальность, поддержка рассуждений и агентских задач, а также заявленное ускорение генерации FastMTP до 3,02 раза для документов и до 1,93 раза для рассуждений по сравнению с вариантами без MTP. Aggressive-профиль ориентирован на прямые ответы с минимальным вступлением и практически отсутствующим отказным поведением, поэтому может быть менее подходящим для критически важных длинных агентских сценариев, где предпочтительнее более сбалансированный профиль. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-HauhauCS-Aggressive-MTP-GGUF — это GGUF-квантизованная версия плотной языковой модели Qwen3.8-27B, разработанная HauhauCS на базе Qwen/Qwen3.8-27B. Модель предназначена для генерации текста, рассуждений, агентских сценариев, а также обработки изображений и видео. Вариант Aggressive ориентирован на прямые ответы, минимальную вводную часть и отсутствие отказного поведения; при этом README предупреждает, что для критически важных длинноконтекстных агентских задач более безопасным выбором может быть Balanced-вариант, если он доступен. Архитектура включает 64 слоя, скрытый размер 5120, размер FFN 17 408, словарь из 248 320 токенов, 48 слоёв Gated DeltaNet и 16 слоёв gated attention. Модель сохраняет встроенный MTP/NextN и поддерживает ускорение HauhauCS FastMTP через отдельный sidecar-файл. Заявлены нативный контекст 262 144 токена и расширение до 1 000 000 токенов. Для мультимодального ввода используется отдельный vision projector в формате BF16; текстовые кванты доступны в вариантах от Q2 до Q8, включая пользовательские K_P-квантизации. Сильные стороны модели — сочетание большого контекстного окна, текстовых, reasoning-, агентских и мультимодальных возможностей, а также варианты квантизации для запуска в средах, совместимых с GGUF, включая llama.cpp и LM Studio. Ограничения связаны с тем, что Aggressive-профиль намеренно снижает склонность к отказам, что может быть нежелательно для задач с повышенными требованиями к безопасности и надёжности. Модель распространяется по лицензии Apache-2.0.

DavidAU/Qwen3-8B-64k-Context-2X-Josiefied-Uncensored — текстовая генеративная модель на архитектуре Qwen3ForCausalLM с 7,6 млрд параметров, подготовленная DavidAU на основе Goekdeniz-Guelmez/Josiefied-Qwen3-8B-abliterated-v1. Автор указывает, что контекст увеличен с 32 768 до 65 536 токенов с помощью метода YaRN. Модель рассчитана на диалоговую генерацию и рассуждения; в репозитории доступны веса safetensors для прямого использования или подготовки квантованных вариантов. Модель подходит для продолжительных диалогов, работы с длинными текстовыми запросами и ролевых сценариев. Для «мышления» и генерации ответа автор рекомендует выделять 8–16 тысяч токенов контекста. Указаны шаблоны Jinja и ChatML. В метаданных заявлен интерфейс вызова инструментов, однако README не описывает его настройку. Сведения о лицензии в предоставленных данных отсутствуют.

NovaeonStudio/Qwen3.8-Flash-Next-Uncensored-oQ3e-fp16-mtp — сборка Novaeon.Studio на базе orcarouter/Qwen3.8-Flash-Next-Uncensored. Это неконтентно-ограниченная мультимодальная MoE-модель с поддержкой изображений, подготовленная для запуска через oMLX на компьютерах Apple Silicon с большим объёмом оперативной памяти, прежде всего на системах с 128 ГБ и более. Модель предназначена для генерации текста, объяснений, рассуждений, анализа изображений, работы с длинными контекстами и интеграции с инструментами. Архитектура обозначена как qwen4_exp: 48 слоёв, скрытое представление размерностью 2560, 512 экспертов, из которых активно 10, сочетание линейного внимания GatedDeltaNet и полного внимания, а также PLE/n-граммный стек эмбеддингов и 27-слойная vision-башня с размерностью 1152. Поддерживаются английский язык и контекст до 262 144 токенов. Сохранён нативный MTP-модуль для спекулятивного декодирования; в измерениях на Apple M5 Max он повысил скорость генерации примерно на 67%. Квантование oQ3e использует преимущественно 3-битное представление с выборочными участками повышенной точности и fp16 для критически важных компонентов. Размер модели составляет около 85,2 ГБ на диске и 79,5 ГБ в памяти oMLX. Сильные стороны модели — связная генерация, рассуждения, анализ изображений, извлечение данных из контекста длиной до 80 тысяч токенов и отсутствие отказов на проверенных запросах. Ограничение — слабая надёжность параллельных и многошаговых вызовов инструментов, поэтому модель не является оптимальным выбором для сложных агентных сценариев. Сборка носит экспериментальный характер и требует версии oMLX с поддержкой исправленного загрузчика qwen4_exp, начиная с 0.7.0.dev2. Распространяется по лицензии Apache-2.0.

Qwythos-9B-PerfectSplit-CoT-GGUF — GGUF-квантование модели Qwythos-9B-Claude-Mythos-5-1M, подготовленное Aronstk15. Это разговорная модель для генерации текста, рассуждений и работы с длинным контекстом; карточка описывает смешанную точность: эмбеддинги, выходная голова и чувствительные компоненты внимания сохраняются в F16, а часть слоёв MLP сжимается. По заявлению автора, размер уменьшен примерно на 37% относительно исходной версии F16, до 10,88 ГБ, с приоритетом сохранения связности многошаговых рассуждений и извлечения информации из длинного контекста. Для запуска README приводит пример с llama.cpp; заявленная лицензия — Apache-2.0. Модель предназначена для диалоговой генерации, объяснений и анализа текста или данных, а также задач, где нужно учитывать большой объём предшествующего контекста. В метаданных указан базовый чекпойнт empero-ai/Qwythos-9B-Claude-Mythos-5-1M, описанный каталогом как дообученная на Qwen3.5-9B модель; исходная карточка заявляет контекст до 1 млн токенов, но конкретный доступный предел зависит от реализации и настроек запуска. Преимущество этой сборки — сохранение полной точности для выбранных чувствительных тензоров при сжатии менее чувствительных слоёв. Качество длинных рассуждений и контекстного извлечения описано автором как ожидаемое, без приведённых независимых результатов оценки. Модель распространяется по лицензии Apache-2.0.

Qwythos-9B-v2-GGUF — набор GGUF-квантизаций модели Qwythos-9B-v2, разработанной Empero AI, предназначенный для запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Модель ориентирована на рассуждения, генерацию текста, вызов функций и мультимодальные сценарии с анализом изображений. Это 9-миллиардная гибридная модель с сочетанием блоков Gated-DeltaNet линейного внимания и полноформатного внимания в соотношении 3:1. Доступны варианты от Q4_K_M до BF16, включая версии с восстановленной MTP-головой для speculative decoding. Заявлены английский язык, контекст до 1 млн токенов с YaRN и поддержка изображений через отдельный vision projector, совместимый с Qwen3.5-9B. Версия v2 устраняет зацикливание при жадном и низкотемпературном декодировании, сохраняя показатели знаний и рассуждений на уровне базовой модели или выше; модель при этом намеренно uncensored. Для работы с изображениями требуется файл mmproj, а для MTP-ускорения — свежая сборка llama.cpp с поддержкой draft-mtp. Q4_K_M рекомендуется как начальный вариант благодаря балансу размера и качества, однако квантизация может снижать точность по сравнению с BF16. Модель распространяется по лицензии Apache-2.0.

RAGHal-large-en-v1 — англоязычный детектор неподдержанных фрагментов в ответах для RAG, суммаризации и преобразования данных в текст. Его разработчик дообучил энкодер ModernBERT-large с 394,7 млн параметров и головой классификации токенов на два класса: clean и hallucinated. Модель принимает prompt с контекстом и инструкцией вместе с ответом и выделяет неподдержанные или противоречащие источнику фрагменты; итоговый флаг отмечает ответ, если найден хотя бы один такой фрагмент. Максимальная длина входа — 8192 токена. Модель проверяет соответствие ответа предоставленному источнику, а не истинность утверждений в целом. Её можно применять для постфактум-аудита ответов RAG, суммаризаций и data-to-text, а также для подсветки фрагментов на ручную проверку. Лицензия — Apache-2.0. Модель предназначена только для английского языка. Результаты чувствительны к шаблону prompt; обучающая разметка автоматическая и может содержать шум, а для суммаризации отмечен низкий span recall. Для входов длиннее 8192 токенов потребуется усечение или разбиение контекста на фрагменты. README не рекомендует использовать модель для блокировки ответов без проверки человеком из-за возможных ложных срабатываний.

RigoChat-7b-v2 — диалоговая языковая модель, разработанная Instituto de Ingeniería del Conocimiento (IIC) на базе Qwen2.5-7B-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2 без изменений и дообучена методом Direct Preference Optimization (DPO) для более точных ответов на запросы на испанском языке. Максимальная длина контекста — 32 768 токенов. Модель предназначена для широкого круга задач на испанском: диалогов, суммаризации, математических и кодовых запросов, ответов на вопросы по контексту и работы с инструментами. В карточке отдельно отмечено применение в RAG-системах с испанскими документами, где обучение было направлено на ответы с учетом контекста и снижение галлюцинаций. Модель распространяется в формате Safetensors и поддерживает интерфейс вызова инструментов. Лицензия RIGOCHAT NON-COMMERCIAL ограничивает коммерческое использование загруженной модели; для коммерческого применения разработчик указывает отдельный вариант через AWS Marketplace. Модель может воспроизводить предвзятости, ошибаться, особенно в технических, научных и юридических темах, и не знать событий после даты отсечения обучения.

Shark-1-Ogno-9b-passthrough — объединённая модель для генерации текста, созданная powermove72 с помощью LazyMergekit на основе powermove72/Shark-1 и eren23/OGNO-7b-dpo-truthful. В конфигурации применён метод passthrough: слои 0–15 взяты из Shark-1, слои 8–31 — из OGNO-7b-dpo-truthful; для токенизатора использован union, тип весов — float16. Модель построена на плотной архитектуре MistralForCausalLM и содержит 8,9 млрд параметров. Модель рассчитана на диалоговую генерацию текста; базовая OGNO-7B описана как DPO-версия с акцентом на правдивость ответов. Контекстное окно составляет 32 768 токенов. В метаданных указана лицензия; конкретные условия следует сверять с карточкой модели и лицензиями исходных компонентов.

Shisa V2 Mistral Nemo 12B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на базе Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель дообучена на синтетических диалоговых и предпочтительных данных, чтобы улучшить качество ответов на японском языке и сохранить возможности на английском. Модель предназначена для диалога, генерации текста, следования инструкциям и сценариев вызова инструментов. В тестах Shisa.AI она показала улучшение японских результатов относительно базовой модели; опубликованы также оценки для английского языка и ряда общих бенчмарков. Поддерживаются японский и английский языки. Модель распространяется по лицензии Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных. Как и другие языковые модели, она может выдавать фактически неверные ответы; для критичных решений ответы следует проверять.

SN-13B-8k-Instruct — языковая модель SambaNova Systems с 13 млрд параметров, предварительно обученная и дообученная следовать инструкциям на системах SambaNova DataScale. Модель предназначена для понимания длинных последовательностей и диалогового взаимодействия; поддерживает контекст до 8192 токенов и работает с текстом. В README указан английский язык, хотя модель также описана как многоязычная базовая модель для чата. Модель подходит для ответов на вопросы, диалогов и задач, где нужно учитывать длинный текстовый контекст. Она может галлюцинировать, повторяться, выдавать токсичный контент, а её возможности в программировании и сложной математике ограничены. Разработчик не рекомендует применять её в критически важных системах и автоматизированных процессах, влияющих на безопасность или значимые решения. Лицензия — Apache 2.0; модель заявлена для коммерческого и исследовательского использования.

jaspionjader/sof-12 — объединённая языковая модель, созданная разработчиком jaspionjader из sof-10, sof-11 и sof-6 с помощью mergekit и метода Model Stock. Модель построена на архитектуре Llama с плотной структурой и содержит 7,5 млрд параметров; она предназначена для генерации текста и диалогов, поддерживает контекст до 131 072 токенов и работает через библиотеку Transformers. Модель принимает текст и выдаёт текст. Карточка не уточняет специализацию по языкам или предметным областям, поэтому её можно рассматривать для общих диалоговых сценариев и генерации текста. Веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана.