I.3Извлечение и структурирование данных

Qwen3.8-27B-Uncensored-Mythos-Class-Agentic — производная 27-миллиардная плотная модель семейства Qwen, созданная на основе OBLITERATUS/Qwen3.8-27B-OBLITERATED и объединённая с Qwen/Qwen3.8-27B. Разработчик позиционирует её как конфигурацию для диалогов и агентных сценариев с вызовом инструментов; в README заявлены исправленный шаблон чата, поддержка интерфейсов Hermes Agent, Aider и OpenCode, разбиение задач на иерархические этапы и протокол самопроверки рассуждений. В README заявлено контекстное окно 131 072 токена и генерация до 16 384 токенов за один ответ. Указаны гибридная архитектура Mamba SSM и линейного внимания, а также варианты весов BF16, FP8 и AWQ в формате Safetensors; метаданные подтверждают dense-архитектуру семейства Qwen3.5 и наличие интерфейса вызова инструментов. Карточка описывает специализацию на программировании, системных задачах и кибербезопасности, но не предоставляет независимой проверки заявленных оценок и характеристик. Поддерживаются английский, китайский и арабский языки по карточке модели. Лицензия — Apache-2.0.

Qwen3.8-9B — плотная языковая модель на 9 млрд параметров от Empero, полученная дистилляцией рассуждений модели-учителя Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B. Это полное дообучение всех параметров базовой модели на SFT-примерах: примерно 70 тысяч отобранных трасс учителя по математике, программированию, общим рассуждениям, следованию инструкциям и работе с инструментами. Модель использует архитектуру Qwen3.5 и формат весов Safetensors; нативный контекст составляет 262 144 токена. Она предназначена для генерации ответов с пошаговыми рассуждениями, решения математических задач, написания кода и вызова инструментов. В карточке приведены результаты тестирования на GSM8K и MMLU; на MMLU модель заметно превзошла базовую Qwen3.5-9B, тогда как на GSM8K показала немного более низкий результат. Интерфейс вызова функций поддерживается без дополнительной обёртки. Лицензия — Apache-2.0. Тонкая настройка проводилась только для текста; визуальные возможности унаследованы от мультимодальной базы, но в карточке не оценивались.

Smaug-Llama-3-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Smaug-Llama-3-70B-Instruct, разработанной Abacus AI. Квантизацию выполнил bartowski с использованием imatrix и поддержки Smaug в llama.cpp. Модель предназначена для генерации текста по инструкциям, решения математических задач и работы с кодом; в качестве исходных данных указаны aqua_rat, microsoft/orca-math-word-problems-200k и m-a-p/CodeFeedback-Filtered-Instruction. Формат GGUF позволяет запускать её через llama.cpp, начиная с версии b3001. Модель содержит 70 миллиардов параметров и относится к текстовым моделям; сведения о поддерживаемых языках и размере контекста в README не указаны. Доступны варианты квантизации от Q8_0 до IQ1_M с размером файлов примерно от 75 ГБ до менее 20 ГБ. Варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-квантизации отмечены как рекомендуемые: они предлагают компромисс между качеством и требованиями к памяти. Более сильная квантизация сохраняет качество, но требует значительных ресурсов, тогда как варианты Q2 и Q1 экономят память за счёт заметного снижения качества. Для корректной работы следует использовать указанный формат приглашений Llama 3 с системным сообщением, запросом пользователя и ответом assistant. README указывает лицензию llama2; дополнительные ограничения и условия коммерческого использования не описаны.

SuperQwen-2.5-1.5B — объединённая плотная языковая модель семейства Qwen2, созданная сообществом с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-1.5B-Instruct; в объединение также вошли Qwen2.5-Coder-1.5B-Instruct и Qwen2.5-Math-1.5B-Instruct. Модель содержит 1,5 млрд параметров, работает через Transformers и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов; объединение инструктивной, программной и математической моделей ориентировано на широкий круг запросов, включая код и математику. В метаданных также отмечен интерфейс вызова инструментов. Опубликованные веса представлены в формате safetensors. Карточка не сообщает лицензию и не приводит отдельные оценки качества; результаты для задач программирования и математики могут зависеть от запроса и требуют проверки.

Tulu 65B — языковая модель AllenAI на архитектуре LLaMA с 65 млрд параметров, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Модель предназначена для ответов на инструкции и запросы, решения задач с рассуждением, ответов на вопросы, а также генерации кода. Для работы используется формат ввода Tulu, описанный в карточке; модельный репозиторий содержит diff и требует доступа к исходной модели LLaMA в формате Hugging Face. Контекст составляет 2048 токенов. В карточке авторы называют её сильнейшей моделью проекта по совокупности исследованных бенчмарков; приведены результаты по языковым знаниям, математике, рассуждениям, вопросам и генерации кода. Модель работает с текстом и ориентирована прежде всего на английский язык. Лицензирование регулируется лицензией модели Tulu и исходной лицензией LLaMA; перед использованием необходимо учитывать условия обеих лицензий.

DeepSeek-R1-Distill-Qwen-32B-GGUF — это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанной deepseek-ai. Квантизация выполнена bartowski на основе llama.cpp версии b4514 и предназначена для запуска через совместимые инструменты, включая LM Studio. Модель создана для генерации текста, прежде всего для задач, требующих рассуждений: решения сложных вопросов, анализа и пошагового построения ответа. Она дистиллирована из reasoning-модели DeepSeek-R1 и специально настроена на reasoning и chain-of-thought. Заявлена поддержка контекста длиной до 128k токенов. В README не указаны точные параметры архитектуры, языки, набор поддерживаемых модальностей и размер конкретных GGUF-файлов, поэтому модель следует считать текстовой. Сильные стороны модели — ориентация на рассуждения, большой контекст и возможность локального запуска в формате GGUF. Ограничения включают потенциально неточные, вредные или неподходящие ответы, характерные для генеративных моделей; README также не содержит сведений о результатах бенчмарков. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять по исходной модели и репозиторию квантизации.

unsloth/DeepSeek-R1-GGUF-UD — это GGUF-квантизированная версия модели DeepSeek-R1, разработанной командой DeepSeek и подготовленной в формате динамической квантизации Unsloth Dynamic v2.0. Модель предназначена для локального запуска через llama.cpp и ориентирована на задачи рассуждений, генерации текста, программирования и диалогового использования. В README указан английский язык, библиотека Transformers и поддержка формата GGUF. Доступны варианты с эффективной разрядностью от 1,58 до 2,51 бит: UD-IQ1_S, UD-IQ1_M, UD-IQ2_XXS и UD-Q2_K_XL. Размер файлов составляет примерно от 131 до 212 ГБ. Квантизация выборочно применяет разные разрядности к компонентам MoE, чтобы сохранить больше точности по сравнению со стандартными 1-битными и 2-битными вариантами. В README приведены оценки качества от Fair до Best, однако архитектурные параметры, общее число параметров и размер контекста исходной модели не указаны; для примеров запуска используется контекст 8192 токена. Сильные стороны модели — возможность локального запуска, уменьшенный объём хранения относительно полной точности и повышенная точность благодаря динамической квантизации. Ограничениями являются очень большой размер даже у наиболее компактной версии, необходимость совместимого оборудования и llama.cpp, а также возможная потеря качества на низких уровнях квантизации. Для запуска рекомендуется использовать специальный chat template и параметр --min-p 0.05; доступна выгрузка части слоёв на GPU. Репозиторий распространяется по лицензии MIT.

Gemma 2 27B IT — инструктивно дообученная текстовая языковая модель Google из семейства Gemma 2. Это декодерная трансформерная модель с открытыми весами, предназначенная для диалога и генерации текста по инструкциям. В репозитории указаны формат safetensors и библиотека Transformers; модель основана на google/gemma-2-27b. Модель подходит для ответов на вопросы, суммаризации, диалоговых помощников, создания текстов и рассуждений по заданному контексту. В карточке семейство описано как англоязычное; модель принимает текст и генерирует текст. Размер модели составляет 27 млрд параметров. Ответы могут содержать фактические ошибки и отражать предвзятости обучающих данных; модель может испытывать трудности с тонкими языковыми нюансами и сложными открытыми задачами. Условия лицензии Gemma определяются лицензией Google Gemma; перед использованием следует ознакомиться с её условиями и политикой допустимого применения.

Это GGUF-сборка Gemma-4-26B-A4B-it, подготовленная ironbcc для запуска через llama.cpp и LM Studio. Комплект включает основную 26-миллиардную MoE-модель Gemma-4 и вспомогательную модель-драфтер gemma-4-26B-A4B-it-assistant от Google для speculative decoding. Основная модель использует 128 экспертов; доступны варианты драфтера с квантованием Q2_K, Q4_K_M, Q8_0 и F16. Указан английский язык, а модель предназначена для генерации текста, диалогов, рассуждений и программного использования через совместимые серверы и клиенты. Максимальный контекст Gemma-4 заявлен как 256K токенов, однако конкретные возможности зависят от runtime и настроек. Ключевое преимущество сборки — ускорение генерации за счёт Multi-Token Prediction и speculative decoding: в приведённом тесте на Apple M5 Max скорость достигала примерно 1,55 раза относительно режима без MTP, а при отключении reasoning — до 143,2 токена в секунду. Q2_K-драфтер рекомендован как наиболее быстрый и показал наивысшую долю принятых токенов в тесте. Ограничения включают необходимость специальной ветки llama.cpp с поддержкой Gemma-4 MTP; на момент подготовки README эта функциональность ещё не была включена в основную ветку, а LM Studio требовал соответствующего runtime. Включение thinking повышает качество рассуждений, но снижает скорость. Основной файл имеет размер около 26 ГБ, поэтому запуск требует значительного объёма памяти; для полного контекста 256K README указывает примерно 31 ГБ RSS при старте с дальнейшим ростом потребления. Распространение заявлено по лицензии Apache-2.0, при этом для доступа к Gemma на Hugging Face необходимо принять условия использования Google.

RadicalNotionAI/GLM-4.7-heretic — текстовая разговорная модель на архитектуре GLM-4 MoE с 23,4 млрд параметров. Это производная GLM-4.7 от zai-org, созданная методом abliteration: в карточке приведены параметры этой обработки и сравнение отказов с исходной моделью. Модель предназначена для диалога, программирования, рассуждений, работы с инструментами и агентных сценариев; метаданные указывают интерфейс вызова инструментов. Поддерживаются английский и китайский языки, контекст составляет 202 752 токена. Модель распространяется в формате Safetensors по лицензии MIT. В README для этой версии сообщается о 0 отказах из 100 проверок против 99 из 100 у исходной GLM-4.7. Это указывает на существенно ослабленное поведение отказа, но не подтверждает общую точность или безопасность ответов. Доступны инструкции по локальному запуску через Transformers, vLLM и SGLang; для агентных задач README рекомендует режим Preserved Thinking.

Lion-Lamarck-v.1.0.9 — диалоговая языковая модель на 14 млрд параметров, созданная nlpguy слиянием предварительно обученных моделей с помощью mergekit и метода SCE. В качестве базовой использована sometimesanotion/Lamarck-14B-v0.7; в слияние также вошли DeepSeek-R1-Distill-Qwen-14B, Qwenvergence-14B-v10 и SuperNova-Medius. Модель построена на архитектуре Qwen2 и распространяется в формате Safetensors. Модель предназначена для генерации текста и диалогов, а интерфейс поддерживает вызов инструментов. Контекстное окно составляет до 131 072 токенов. Базовая модель DeepSeek-R1-Distill-Qwen ориентирована на рассуждения, включая математические задачи и программирование; эти сценарии могут быть полезны и для Lion-Lamarck, однако карточка не приводит отдельных оценок качества этой сборки. Модель принимает текст и генерирует текст. Лицензия в предоставленных данных не указана, поэтому условия использования следует проверять на странице репозитория Hugging Face.

Manticore 13B Chat Pyg — языковая модель для диалогового и инструкционного текстового взаимодействия, разработанная Open Access AI Collective. Данная версия распространяется в формате GGUF и является квантизированным вариантом исходной модели Manticore 13B Chat Pyg; квантизацию выполнил TheBloke. Модель основана на архитектуре LLaMA, содержит около 13 миллиардов параметров и предназначена для генерации текста по шаблону диалога Vicuna: ответов на вопросы, объяснений, инструкций и других чат-сценариев. В метаданных указан английский язык, а среди использованных наборов данных — коллекции ShareGPT, WizardLM, Alpaca, GPT4-LLM, ScienceQA, GSM8K и другие наборы для обучения инструкциям, диалогам, рассуждениям и программированию. Файлы GGUF доступны с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать баланс между размером, скоростью и качеством вывода. Модель совместима с llama.cpp и рядом сторонних интерфейсов и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и ctransformers, с поддержкой CPU+GPU-инференса. Мультимодальность и размер контекстного окна в README не указаны; модель предназначена для работы только с текстом. Лицензия обозначена как other, но ее конкретные условия не приведены, поэтому перед использованием необходимо проверить лицензию исходной модели и условия распространения квантизированных файлов.

Meta-Llama-3-8B — плотная авторегрессионная языковая модель семейства Llama 3, разработанная Meta. Репозиторий содержит веса в формате Safetensors; модель насчитывает около 7,5 млрд параметров и имеет контекст до 8192 токенов. Архитектура основана на оптимизированном Transformer с Grouped-Query Attention. Модель предназначена для генерации текста и кода на английском языке. Она подходит для диалогового помощника и может служить основой для задач генерации естественного языка. Карточка описывает семейство Llama 3 с предварительно обученными и настроенными для инструкций вариантами; метаданные этого репозитория не уточняют вариант обучения, поэтому возможности конкретной версии в чате следует оценивать с учётом этого ограничения. Модель статична и обучена на офлайн-данных. Использование регулируется специальной коммерческой лицензией Meta Llama 3 и Acceptable Use Policy; перед применением необходимо соблюдать их условия. Для языков помимо английского карточка допускает дообучение при соблюдении этих правил, но исходное назначение модели ограничено английским языком.

FredyRivera-dev/MiniCPM5-1B — подготовленная версия MiniCPM5-1B от команды FredyRivera-dev на основе openbmb/MiniCPM5-1B. Веса не изменялись и дообучение не проводилось: в токенизаторе переименован зарезервированный токен, а шаблон чата адаптирован для блоков текста и изображений. При этом модель не поддерживает зрение: у неё нет визуального энкодера или проектора, а добавленный токен изображения не обучен. Это компактная причинная языковая модель с плотной архитектурой LlamaForCausalLM и 837,6 млн параметров по метаданным. Она принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и режимы быстрого ответа и пошагового рассуждения. Модель предназначена для локальных помощников, генерации кода, использования инструментов и рассуждений на устройствах с ограниченными ресурсами; карточка указывает поддержку английского и китайского языков. К заявленным преимуществам относятся длинный контекст и пригодность для локального развёртывания. Ответы могут быть неточными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Лицензия — Apache-2.0.

Minotaur 13B Fixed — инструктивно дообученная языковая модель OpenAccess AI Collective на базе LLaMA-13B. Версия Fixed исправляет ошибку первого выпуска, из-за которой часть обучающих наборов не попала в обучение. Модель содержит 12,9 млрд параметров, использует плотную архитектуру LLaMA и принимает текстовые запросы; указанное окно контекста — 2048 токенов. Модель рассчитана на диалог в формате USER:/ASSISTANT: и генерирует текстовые ответы. Модель предназначена для следования инструкциям, ответов на вопросы, объяснений и задач по математике и естественным наукам, краткого пересказа, ролевого диалога, сочинения текстов и кода. Для дообучения использовались открытые наборы данных, включая WizardLM, Alpaca-CoT, GPTeacher и наборы по математике, физике, химии и биологии. Лицензия — Apache-2.0. Модель не проходила выравнивание с человеческими предпочтениями методами вроде RLHF и может выдавать проблемные ответы, особенно при соответствующих запросах. Это дообученная модель, поэтому применимы также ограничения базовой LLaMA-13B.

NeoHorse-1-4B-Max-Heretic-Uncensored-TURBO — разговорная текстовая модель от prithivMLmods на базе TokenRhythm/NeoHorse-1-4B, дообученной на Qwen3.5-4B. Вариант обработан инструментом Heretic для снижения числа отказов; модель рассчитана на диалоги, выполнение инструкций, использование инструментов, программирование и рассуждения. Модель имеет плотную архитектуру Qwen3.5 и около 3,4 млрд параметров, поддерживает контекст до 262 144 токенов и английский язык. В репозитории доступны веса Safetensors и сборки GGUF разных уровней квантования для запуска через Transformers или llama.cpp. Лицензия — Apache 2.0. Карточка помечает модель как экспериментальную: возможны артефакты, поэтому ответы следует проверять. Снижение числа отказов также означает, что модель может отвечать на запросы, которые обычно отклоняются.

Qwen2-1.5B-Instruct-AWQ — инструкционно дообученная языковая модель серии Qwen2, разработанная командой Qwen. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, выполнение инструкций, написание и обработку текстов, а также задачи, связанные с кодом, математикой и рассуждениями. Модель содержит 1,5 млрд параметров и основана на архитектуре Transformer с активацией SwiGLU, смещениями в QKV внимания и group query attention. Она является текстовой авторегрессионной моделью и использует улучшенный токенизатор, адаптированный для нескольких естественных языков и языков программирования. Версия AWQ содержит квантизацию, рассчитанную на снижение потребления памяти и повышение эффективности инференса; конкретные требования к памяти и показатели производительности зависят от среды запуска. К сильным сторонам относятся компактный размер, поддержка диалогового режима и широкий спектр языковых, кодовых, математических и логических задач. По сравнению с более крупными моделями качество и глубина рассуждений могут быть ограничены, а README не содержит данных о длине контекста, точном перечне поддерживаемых языков и количественных результатах бенчмарков. Модель распространяется по лицензии Apache 2.0.

RedHatAI/Qwen3-0.6B-quantized.w4a16 — квантизированная версия языковой модели Qwen3-0.6B, разработанная RedHat совместно с Neural Magic. Это авторегрессионная модель архитектуры Qwen3ForCausalLM для генерации текста по текстовому вводу. Модель предназначена для рассуждений, function calling, многоязычного следования инструкциям, перевода и создания специализированных предметных экспертов посредством дообучения. Указанный размер базовой модели — 0,6 млрд параметров. Веса линейных слоёв трансформера сжаты до INT4 с использованием GPTQ, асимметричной поканальной групповой схемы с размером группы 64; параметры сохраняются в формате w4a16. Это примерно на 75% снижает размер на диске и требования к памяти GPU по сравнению с 16-битным представлением весов. В README приведены сценарии оценки с длиной контекста до 40960 токенов, однако точное максимальное контекстное окно модели отдельно не указано. Модель поддерживает только текстовые входы и выходы. К преимуществам относятся уменьшенное потребление памяти и эффективное развёртывание, в частности через vLLM с OpenAI-совместимым сервером. К ограничениям относятся возможные потери качества из-за INT4-квантизации, а также отсутствие в предоставленных данных подробных результатов оценки, перечня поддерживаемых языков и гарантий качества для конкретных прикладных задач. Модель распространяется по лицензии Apache-2.0; использование не должно нарушать применимые законы и нормативные требования.

Qwen3.5-397B-A17B-VQ-2.4bpw — векторно-квантизированная версия модели Qwen3.5-397B-A17B, опубликованная TheDrainFlorist на базе исходной модели Qwen/Qwen3.5-397B-A17B. Модель предназначена для генерации текста, рассуждений, работы с кодом и, при использовании совместимого mlx-vlm, обработки изображений. Она ориентирована прежде всего на запуск на компьютерах Apple Silicon с unified memory, включая одну систему с 128 ГБ памяти. Модель использует формат MLX и квантизацию с эффективностью 2,4 бита на параметр; размер артефакта составляет около 110,8 GiB. По заявлению автора, она проверена с контекстом до 30 031 токена, потребляет около 110,8 GiB резидентной памяти и достигает примерно 19–22 токенов в секунду при декодировании на M4 Max. Для текстового режима требуется mlx-lm с поддержкой model_file, а для изображений — mlx-vlm версии 0.6.16 или новее. В метаданных указан английский язык. Сильные стороны модели — возможность локального запуска очень крупной Qwen-модели на одной 128-ГБ машине, отсутствие необходимости в патчах и сравнительно низкий размер благодаря векторной квантизации. В README приведены измеренные значения perplexity: 2,7655 на указанном корпусе Wikitext и 2,6383 на смешанном корпусе кода. Ограничения включают высокие требования к памяти, зависимость от совместимых версий MLX-инструментов и необходимость выделить почти весь доступный объём памяти; приведённые метрики нельзя напрямую переносить на другие корпуса и сценарии. Модель распространяется по лицензии Apache-2.0.

blastbeng/Qwen3.8-27B-TURBO — открытая многоэтапно дообученная и объединённая версия модели Qwen3.8-27B, разработанная автором репозитория blastbeng на базе модели DavidAU/Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU. В README указано использование Unsloth, методов Cold Fusion и Fable Fusion, а также наборов данных DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется в вариантах GGUF, включая обычные и MTP-квантизации, с матрицами Neo-CODER MAX DI-MATRIX. Модель предназначена для широкого круга задач: рассуждений и решения задач, программирования, творческого письма, генерации художественных текстов и ролевых сценариев. Заявлены поддержка английского и китайского языков, текстово-изображенческий pipeline tag, а также три режима мышления. Основной размер модели — 27 млрд параметров; доступны как минимум 4-битные и 8-битные варианты. По утверждению автора, Turbo-версия сокращает объём рассуждений до примерно половины, а в отдельных случаях до одной десятой от объёма базовой версии, сохраняя детализацию и качество вывода. Сильными сторонами заявлены высокая скорость генерации, сниженное избыточное рассуждение, развитые способности к программированию, творческим задачам и вызову инструментов, а также производительность на потребительском оборудовании. В README приведены авторские результаты ARC-C до 735 в 8-битном режиме и свыше 718 в 4-битном, однако методика и независимое подтверждение этих показателей не описаны. Ограничения включают отсутствие сведений о размере контекста, точной поддержке изображений, системных требованиях и стабильности поведения; характеристики следует проверять отдельно для выбранной квантизации. Лицензия указана как Apache-2.0.

Rhea-72b-v0.5 — языковая модель, разработанная David Kim в рамках проекта Rhea. Это дообученная версия abacusai/Smaug-72B-v0.1: автор использовал SFT на открытых наборах данных и DPO с данными предпочтений, частично созданными методом SGD. Модель занимает 71 млрд параметров, построена на плотной архитектуре Llama и предназначена для генерации текста. Она принимает контекст до 32 768 токенов и работает с текстом на английском языке. Модель подходит для диалоговых ответов, рассуждений, вопросов и ответов, а также текстовых задач, представленных в обучающих наборах, включая математику, код и отдельные медицинские и финансовые примеры. В README приведены результаты Open LLM Leaderboard, включая среднее значение 81,22, но эти показатели относятся к указанной автором оценке и не гарантируют качество в конкретном применении. Часть обучающих данных закрыта или недоступна; независимые ограничения качества в карточке не описаны. Лицензия — Apache-2.0.

Thalassic-Delta-LLaMa-70B — слитая разговорная языковая модель от TareksGraveyard на архитектуре Llama. Она создана методом SCE с помощью mergekit на основе SicariusSicariiStuff/Negative_LLAMA_70B и объединяет веса Anubis-70B-v1, EVA-LLaMA-3.33-70B-v0.1, 70B-L3.3-Cirrus-x1, L3.1-70B-Hanami-x1 и DeepSeek-R1-Distill-Llama-70B. Модель предназначена для генерации текста и диалогов; базовая модель DeepSeek-R1-Distill-Llama-70B ориентирована также на математические рассуждения, программирование и сложные вопросы. Размер составляет 69,5 млрд параметров, заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors и использует лицензию llama3.3. Автор описывает её как лучший вариант серии Thalassic по своему мнению, однако README не приводит сравнительных оценок или результатов бенчмарков.

Whittle-Qwen-3.8-35B-A3B-i1-GGUF — это квантизированная GGUF-версия модели Whittle-Qwen-3.8-35B-A3B, разработанной logic65 и опубликованной в формате квантизаций пользователем mradermacher. Модель предназначена для генерации текста, диалоговых сценариев, рассуждений, программирования и математических задач, а также для локального запуска через llama.cpp и совместимые инструменты. Модель использует архитектуру mixture-of-experts (MoE) и заявленные механизмы n-gram memory, conditional memory, hyper-connections и knowledge distillation. В обозначении указано 35B параметров, однако README не уточняет число активных параметров при инференсе. Поддерживаются английский, китайский и другие языки; модель работает с текстом и не предназначена для мультимодальных входов. Размер контекста и другие параметры архитектуры не указаны. Доступно множество вариантов квантизации i1-GGUF объёмом примерно от 13,1 до 29,4 ГБ. Они предлагают разные компромиссы между размером, скоростью и качеством; README отмечает i1-Q4_K_M как быстрый рекомендуемый вариант, а i1-Q4_K_S — как удачный баланс размера, скорости и качества. Ограничения включают возможную потерю качества при низкой разрядности и отсутствие подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

Zephyr ORPO 141B-A35B v0.1 — разговорная языковая модель, совместно обученная Argilla, KAIST и Hugging Face. Это дообученная с помощью Odds Ratio Preference Optimization (ORPO) модель mistral-community/Mixtral-8x22B-v0.1 с архитектурой Mixture of Experts (MoE): в карточке указаны 141 млрд параметров всего и 39 млрд активных, тогда как метаданные каталога указывают 22 млрд параметров. Для каталога также заявлен контекст до 65 536 токенов. Модель предназначена для диалогового ассистирования и общих задач с текстом, включая код, математику и рассуждения. В обучении использован датасет argilla/distilabel-capybara-dpo-7k-binarized с синтетическими многоходовыми предпочтениями. README сообщает о сильных результатах на MT Bench и IFEval, но обучение описано как проверка ORPO в большом масштабе, а не как выпуск универсальной системы с гарантированным качеством. Основной язык — английский. Модель принимает текст и генерирует текст; метаданные отмечают поддержку чата. Лицензия — Apache 2.0. В README предупреждается, что модель не проходила этап RLHF для выравнивания по человеческим предпочтениям в области безопасности и может выдавать проблемные ответы, особенно при соответствующих запросах.

adamo1139/aya-expanse-32b-ungated — открытая версия весов Aya Expanse 32B от Cohere For AI без ограничения доступа через gated-доступ. Это авторегрессионная плотная трансформерная языковая модель семейства Cohere с 32,3 млрд параметров, предназначенная для генерации текста и диалогов на 23 языках. Модель принимает и выдаёт текст; метаданные указывают контекст 8192 токена. Модель подходит для многоязычных диалоговых помощников, ответов на вопросы, создания и перефразирования текстов на поддерживаемых языках. В карточке описаны supervised fine-tuning, обучение на предпочтениях, настройка безопасности и слияние моделей в процессе подготовки Aya Expanse. Для распространения указана лицензия CC-BY-NC-4.0; карточка также требует соблюдать политику допустимого использования Cohere For AI.

Bielik-11B-v3.0-Instruct — разговорная генеративная модель на 11 млрд параметров, разработанная SpeakLeash совместно с центром ACK Cyfronet AGH. Это плотная авторегрессионная модель архитектуры LLaMA, дообученная следовать инструкциям на базе speakleash/Bielik-11B-v3-Base-20250730. Она предназначена для диалогов, ответов на вопросы и других задач генерации текста; особенно хорошо ориентирована на польский язык и обучена на текстах на 32 европейских языках. Модель дообучали на инструкциях и многоходовых диалогах, а затем применяли методы DPO и обучения с подкреплением для улучшения стиля ответов и аналитических способностей, в том числе на задачах логики, STEM, математики и использования инструментов. Метаданные указывают нативный контекст 32 768 токенов. Для чата используется шаблон ChatML; веса доступны в формате safetensors, библиотека — Transformers. Модель может давать фактически неверные, предвзятые или оскорбительные ответы; встроенных механизмов модерации нет, поэтому её ответы требуют проверки. Распространяется по лицензии Apache 2.0.

Orion-zhen/DeepSeek-R1-Distill-Llama-70B-abliterated — вариант DeepSeek-R1-Distill-Llama-70B, созданный с помощью abliteration. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические рассуждения, программирование и ответы на сложные вопросы. В метаданных указаны английский и китайский языки, а также интерфейсы чата и вызова инструментов. Модель представлена в формате safetensors и распространяется по лицензии GPL-3.0. README не сообщает о качестве abliteration, её конкретных целях или изменениях поведения модели, поэтому эти свойства нельзя оценить по доступным сведениям.

EXAONE-4.0.1-32B — плотная языковая модель LG AI Research на 31,5 млрд параметров, дообученная на базе EXAONE-4.0-32B. Версия 4.0.1 содержит исправление, призванное уменьшить число непреднамеренных или неподходящих ответов. Модель поддерживает диалог на английском, корейском и испанском языках и предлагает режимы обычной генерации и рассуждений, а также вызов инструментов. Модель предназначена для диалоговых приложений, решения сложных задач с рассуждением и агентных сценариев с инструментами. Архитектура включает 64 слоя, GQA с 40 головами внимания и 8 KV-головами, а также гибридное внимание; контекст — до 131 072 токенов. Для работы через Transformers требуется версия 4.54.0 или новее. Модель может генерировать неподходящий или предвзятый контент, фактически или логически ошибочные ответы и не гарантирует актуальность сведений. В README указана лицензия «other», а не конкретные условия; перед использованием следует свериться с условиями репозитория.

Falcon3-Mamba-7B-Base — базовая предварительно обученная языковая модель семейства Falcon3, разработанная Technology Innovation Institute. Это плотный авторегрессионный декодер на основе Mamba1: 64 блока, ширина 4096, размер состояния 16 и словарь на 65 тысяч токенов. Модель продолжает предварительное обучение Falcon-Mamba-7B на дополнительных данных из веба, кода, STEM и других высококачественных источников. Модель предназначена для генерации текста и служит основой для сценариев рассуждения, понимания языка, следования инструкциям, работы с кодом и математикой. Контекстное окно достигает 32 тысяч токенов; обучение велось преимущественно на английских данных. В репозитории представлены веса Safetensors для Transformers. Разработчик сообщает о сильных результатах на задачах рассуждения, понимания языка, кода и математики по сравнению с моделями SSM схожего размера на момент выпуска. Это базовая модель, поэтому качество следования инструкциям в прикладном чате может уступать специализированным instruct-версиям. Лицензия — TII Falcon-LLM License 2.0.

Falcon-H1-1.5B-Instruct — многоязычная авторегрессионная языковая модель семейства Falcon-H1, разработанная командой TII. Это дообученная для следования инструкциям версия Falcon-H1-1.5B-Base с гибридной архитектурой, сочетающей Transformer-внимание и блоки SSM/Mamba. Модель содержит 1,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста по инструкциям: она подходит для ответов на вопросы, рассуждений, математических задач, программирования и работы с научными знаниями. В карточке заявлена поддержка 18 языков, включая арабский, английский, хинди, японский, китайский и русский. Для запуска указаны Transformers, vLLM и llama.cpp; метаданные репозитория отмечают формат safetensors. В README указана лицензия Falcon-LLM License, тогда как метаданные Hugging Face обозначают лицензию как other. Перед использованием следует проверить условия лицензии в репозитории. Как компактная модель на 1,1 млрд параметров, она может уступать более крупным моделям на сложных задачах; заявленные в карточке результаты бенчмарков не гарантируют качество на конкретных данных.