I.3Извлечение и структурирование данных

Nebula-v2-7B — языковая модель на 7,1 млрд параметров семейства Mistral, опубликованная Weyaxi. Это дообученная версия mistralai/Mistral-7B-v0.1 на датасете Open-Platypus; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и может использоваться в диалоговых приложениях и для ответов на запросы на английском языке. Заявленная длина контекста — 32 768 токенов. Лицензия — Apache-2.0. README также указывает на отдельный репозиторий с исходными LoRA-весами.

NeuralsirkrishnaShadow_YamMulti_verse_model — объединённая языковая модель на архитектуре Mistral, созданная из automerger/NeuralsirkrishnaShadow-7B и automerger/YamMulti_verse_model-7B. Она предназначена для генерации текста по текстовому запросу и поддерживает контекст длиной до 32 768 токенов. Веса доступны в формате safetensors; размер модели — 7,1 млрд параметров. Разработчик в карточке отдельно не указан. Лицензия — Apache-2.0.

OpenCodeReasoning-Nemotron-14B-GGUF — это набор GGUF-квантизированных версий модели OpenCodeReasoning-Nemotron-14B, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и решения задач, связанных с программированием и рассуждениями по коду; в метаданных указаны английский язык и обучающий датасет NVIDIA OpenCodeReasoning. Модель имеет размер 14 миллиардов параметров и поставляется в форматах от BF16 до различных вариантов 8-, 6-, 5-, 4- и 3-битного квантования. Размер файлов варьируется примерно от 7,34 до 29,55 ГБ. В README не указаны точная архитектура и размер контекстного окна. Модели можно запускать через LM Studio, llama.cpp и другие совместимые проекты; для взаимодействия предусмотрен специальный chat-шаблон с ролями system, user и assistant. Сильной стороной набора является широкий выбор квантизаций, позволяющий выбирать баланс между качеством, скоростью и требованиями к памяти; варианты Q6_K_L, Q6_K, Q5 и Q4 отмечены как рекомендуемые, а Q4_K_M описан как подходящий вариант стандартного размера. Более компактные варианты экономят память, но могут заметно уступать по качеству. Условия использования определяются лицензией Apache-2.0.

OpenBuddy Llama2 13B v11.1 — языковая модель для генерации текста и диалогового взаимодействия, разработанная командой OpenBuddy на базе Llama 2. В данном репозитории представлены квантизированные файлы в формате GGUF, подготовленные TheBloke. Модель ориентирована на роль универсального помощника Buddy: ответы на вопросы, поддержка диалога, объяснение информации и генерация текста. Модель имеет архитектуру Llama и размер 13 млрд параметров. Доступны варианты квантизации от 2 до 8 бит, что позволяет использовать её для CPU-, GPU- и комбинированного инференса через llama.cpp и совместимые приложения. В заявленных метаданных указаны языки: китайский, английский, французский, немецкий, японский, корейский, итальянский и русский. Мультимодальность не заявлена; модель предназначена для работы с текстом. Контекстное окно в предоставленных данных не указано. В prompt template приведено ограничение знаний до сентября 2021 года. К сильным сторонам относятся многоязычность, наличие нескольких уровней квантизации и широкая совместимость с локальными инструментами запуска. Ограничения включают возможное снижение качества при сильной квантизации, отсутствие заявленной работы с изображениями и другими модальностями, а также ограниченность знаний датой отсечения. Модель распространяется по лицензии Llama 2.

openPangu-Embedded-7B — плотная языковая модель с 7,4 млрд параметров от Huawei, обученная с нуля на Ascend NPU. Модель предназначена для диалогов и генерации текста; поддерживает быстрый и медленный режимы рассуждения, причём по умолчанию включён медленный. Для быстрого режима в конце запроса добавляют тег /no_think. В карточке указаны 34 слоя и обучение примерно на 19 трлн токенов. Модель ориентирована на китайский и английский языки и принимает контекст до 32 768 токенов согласно метаданным. В README приведены результаты бенчмарков MMLU-Pro и CMMLU, однако они не гарантируют точность в практических задачах. Лицензия обозначена как other; перед использованием следует проверить условия в репозитории. Разработчик предупреждает, что ответы могут содержать ошибки и не заменяют профессиональные медицинские или юридические рекомендации.

Ornith-1.0-35B-AEON-Ultimate-Uncensored-BF16 — текстовая генеративная модель AEON-7 на основе DeepReinforce AI Ornith-1.0-35B. Это вариант с удалённым поведением отказа, созданный методом abliteration; в карточке заявлено, что при этом сохранены навыки программирования и агентные возможности базовой модели. Модель распространяется в формате BF16, имеет архитектуру MoE семейства Qwen 3.5 с 35 млрд параметров и заявленным контекстом 256 тыс. токенов. README также указывает на унаследованную от базы обработку изображений и видео, хотя основная задача в метаданных — text-generation. Модель предназначена для генерации текста и кода, рассуждений, агентных сценариев и взаимодействия с инструментами. Автор сообщает о результатах внутренних проверок на отказах и задачах программирования; эти оценки приведены в карточке модели и не являются независимым подтверждением качества. Лицензия — MIT. Удаление отказов означает, что модель может выдавать вредоносные или откровенные ответы, включая код и инструкции, которые могут быть запущены внешними инструментами. Результаты генерации могут быть ошибочными; для интеграций с исполнением кода и вызовами инструментов необходим контроль на стороне пользователя.

AiCloser/Qwen2.5-32B-AGI — дообученная диалоговая языковая модель на архитектуре Qwen2.5, созданная на основе Qwen/Qwen2.5-32B-Instruct. Разработчик описывает её как первую донастройку Qwen2.5 32B для снижения чрезмерных отказов отвечать; для этого использованы наборы инструктивных и предпочтительных данных, включая датасеты с токсичным содержимым. Модель предназначена для диалога и генерации текста по инструкциям. Она содержит 32 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В метаданных заявлены китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Распространяется в формате safetensors по лицензии Apache-2.0. Настройка на снижение отказов может приводить к ответам на запросы, которые базовая модель отклоняет; степень такого эффекта и качество модели для отдельных задач в карточке не измерены. Модель сохраняет ограничения базовой языковой модели, включая возможность ошибок и недостоверных утверждений.

Qwen2.5-Coder-32B-Instruct — инструктивно дообученная языковая модель для кода из семейства Qwen2.5-Coder, разработанного командой Qwen. Она предназначена для генерации, анализа и исправления кода, а также для создания кодовых агентов; сохраняет способности к математике и общим задачам. Модель может применяться в диалоговых сценариях и интерфейсах вызова инструментов. Это плотная причинная трансформерная модель Qwen2 с 32 млрд параметров по метаданным (в README указано 32,5 млрд), доступная в формате safetensors и рассчитанная на работу через Transformers. README описывает RoPE, SwiGLU, RMSNorm и GQA. Метаданные указывают контекст 32 768 токенов; README сообщает о поддержке до 131 072 токенов с настройкой YaRN для длинных входов. Карточка относит модель к английскому языку; модель специализируется на программировании. Лицензия Apache-2.0 допускает широкое использование с соблюдением её условий. При обработке контекстов длиннее 32 768 токенов требуется настройка YaRN; статический YaRN в vLLM может снижать качество на коротких текстах. Заявления README о сравнительной производительности являются оценкой авторов.

Qwen3.5-4B-SX8 — версия модели Qwen3.5-4B, подготовленная Martí Vidal Leandro из MarlaLabs и опубликованная marlalabsAI. Веса представлены в формате квантования S-X8 v4.3 с точностью 7,50 бит на вес; репозиторий также содержит контейнер GGUF. Модель предназначена для диалоговой генерации текста и работы через интерфейс вызова инструментов. В карточке базовой модели указаны мультимодальность и понимание изображений, однако сведения о поддержке этих функций именно в данной версии в метаданных и README ограничены описанием полного контейнера с визуальной частью. Автор заявляет качество, близкое к FP16: на RTX 5060 Ti приведены результаты на Wikitext-2, Winogrande и HellaSwag, а также показатели скорости и потребления видеопамяти. Для запуска доступны собственный Python runtime, требующий NVIDIA GPU и CUDA Toolkit для компиляции ядер, и вариант GGUF, требующий форка llama.cpp с поддержкой S-X8. Контейнер `.sx8v43` включает конфигурацию и неквантованные тензоры и, согласно README, не требует отдельно загружать базовую модель. Лицензия — Apache-2.0.

Nickyang выпустил производную версию Qwen3.6-35B-A3B, созданную методом RAZOR — без градиентного дообучения удалена половина маршрутизируемых экспертов в каждом MoE-слое. В модели оставлено 128 из 256 экспертов на слой; размер составляет 19,4 млрд параметров, или 19,0 млрд без модуля MTP, при примерно 3 млрд активных параметров на токен. Остальные веса, включая внимание, общий эксперт, эмбеддинги, языковую голову и оставшиеся строки маршрутизатора, сохранены. Модель предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Она использует архитектуру Qwen3.5 MoE и формат safetensors с весами bfloat16. Для запуска требуется версия Transformers со встроенной поддержкой qwen3_5_moe. README не сообщает контекстное окно и языковой охват этой производной модели. Удаление экспертов сокращает объём хранимых экспертных весов, сохраняя примерно прежние вычисления на токен. Обрезка с потерями: ответы могут отличаться по разнообразию, форматированию и завершению, даже если точность на задачах в основном сохраняется; поведение вне конечного многодоменного калибровочного набора не охарактеризовано. Лицензия — Apache-2.0.

Qwen3.8-27B-full-Uncensored — текстовая генеративная модель, опубликованная 0xSojalSec и производная от Qwen/Qwen3.8-27B. Модель основана на архитектуре Qwen3 с 27 млрд параметров и предназначена для генерации текста, программного кода и использования в агентных сценариях, включая исследования AI safety, red teaming, кибербезопасность и задачи разработки. Доступны форматы GGUF, safetensors и MLX; поддерживаемые языки и размер контекстного окна в README не указаны. По заявлению автора, модель модифицирована методом abliteration: из весового пространства удалены направления, связанные с отказами и защитными отговорками. Версия V3 сочетает итеративное уточнение и целевую обработку данных. Заявлены сохранение режима thinking, рабочая генерация кода и результат 82,3% на MMLU против 84,5% у исходной модели, то есть снижение на 2,1 процентного пункта. Для генерации рекомендуются температура 0, repetition_penalty 1,15 и не менее 2048 новых токенов; системный промпт лучше не использовать. Ограничениями являются возможное зацикливание без настройки repetition_penalty, отсутствие встроенных защитных отказов и заявленное снижение качества относительно базовой модели. Приведённые оценки основаны на тестах автора и могут не отражать результаты независимой проверки. Модель распространяется по лицензии Apache-2.0. Поскольку защитные механизмы были намеренно ослаблены или удалены, её применение требует дополнительной оценки рисков, особенно в публичных и агентных системах.

Карточка модели willhx/Qwen3-8B-Base-Math на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Карточка модели willamazon1/Qwen3-8B-SDFT-Math-LoRA-iter45 на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

continuum-ai/qwen3-coder-30b-a3b-compacted-19b-256k — компактная версия Qwen3-Coder-30B-A3B-Instruct, разработанная на основе модели Qwen. При создании удалено 35% MoE-экспертов с использованием калибровочного ранжирования по частоте активаций. Модель предназначена прежде всего для генерации, дополнения и инфиллинга кода, агентного программирования и вызова функций, включая локальный и периферийный запуск на потребительских GPU, компьютерах Apple и мобильных устройствах. Это разреженная Mixture-of-Experts-модель с заявленным классом 30B и компактированной эффективной конфигурацией 19B. Сохраняет контекст до 256K токенов и работает с текстом; в README заявлена поддержка английского, китайского и широкого набора языков программирования, включая Python, JavaScript, TypeScript, C, C++, Java, Kotlin, Go, Rust, Swift, PHP, Ruby, SQL, HTML и CSS. Доступны квантованные форматы GGUF Q4_K_M, Q5_K_M и Q8_0 для llama.cpp, Ollama и LM Studio, а также варианты для локального запуска через Transformers и MLX. На HumanEval модель получила 88,4 балла против 92,1 у исходной версии, а на HumanEval+ — 85,4 против 88,4. К сильным сторонам относятся сочетание кодировочных возможностей 30B-класса с меньшими требованиями к памяти, длинный контекст и варианты для локального выполнения. Ограничения включают неполное восстановление качества исходной модели, отсутствие отдельного измерения обобщения на языки, отличные от Python, отсутствие тестирования генерации длиннее 32K токенов и пока не измеренные результаты на MBPP+ и LiveCodeBench. Калибровка выполнялась на 300 примерах Python. Модель распространяется по лицензии Apache-2.0. В README также заявлена криптографически проверяемая цепочка происхождения через ForgeAlloy, однако доверие к аттестации обозначено как self-attested.

Это конверсия модели Qwen3-Coder-30B-A3B-Instruct в формат GGUF F16, подготовленная Geoff Munn для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, OpenWebUI и GPT4All. В основе — инструктивная MoE-модель Qwen, предназначенная для программирования, диалога и агентных сценариев. Модель подходит для генерации и объяснения кода, решения задач по программированию и математике, работы с RAG и интеграции с инструментами. В метаданных перечислена поддержка английского, китайского, испанского, французского, немецкого, русского, арабского, японского, корейского и хинди. Базовая модель поддерживает контекст до 262 144 токенов. Репозиторий содержит вариант GGUF F16; README также описывает доступные квантизованные варианты и компромиссы между размером, скоростью и качеством. Это конверсия сообщества, не связанная с Alibaba Cloud или командой Qwen. Лицензия — Apache-2.0.

Salamander-24B-v1 — разговорная языковая модель Naphula, опубликованная как Checkpoint 82. Это слияние Della нескольких моделей на базе Mistral, включая варианты 2501, 2506 и 2509, а также Fallen Mistral 2503. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных заявлена поддержка чата. Модель использует плотную архитектуру MistralForCausalLM, содержит 23,4 млрд параметров и рассчитана на контекст до 131 072 токенов. README сообщает, что в начальных тестах модель не отказывала в ответах; это наблюдение не заменяет систематическую оценку поведения и безопасности. Лицензия — Apache-2.0.

Supertron2.1-0.6B — компактная инструкционно дообученная языковая модель от Surpem на базе Qwen3-0.6B. Это плотный Transformer с примерно 507,9 млн параметров; модель использует архитектуру, токенизатор и формат чата Qwen3 и предназначена для генерации текста и диалогов. Контекстное окно составляет 40 960 токенов. Модель подходит для ответов на вопросы, объяснения понятий, пошаговых рассуждений, арифметики и алгебры, написания и разбора кода, кратких пересказов и переписывания текста, а также прототипирования ассистентов и агентных сценариев. Карточка заявляет поддержку программирования на нескольких языках, но основной язык в метаданных — английский; отдельные языки программирования не считаются естественными языками. Небольшой размер позволяет запускать модель на потребительском оборудовании. При этом она может выдумывать факты, давать неверные решения задач и ошибки в коде; сложные рассуждения могут превышать её возможности, а качество зависит от настроек генерации. Результаты следует проверять, особенно в ответственных областях. Лицензия — Apache 2.0.

Synthia-v3.0-11B — языковая модель общего назначения от Migtissera, созданная на архитектуре Llama и дообученная для следования инструкциям и ведения развёрнутых диалогов. В README указано, что обучение проводилось на наборе Synthia-v3.0, включающем около 10 тысяч высококачественных примеров, сгенерированных GPT-4-Turbo, и опиралось на принципы LIMA. Модель предназначена для генерации текста, ответов на вопросы и продолжительных бесед. Её можно применять в диалоговых интерфейсах, для написания и объяснения материалов, а также для рассуждений в формате Tree of Thoughts и Chain of Thought. Размер модели — 10,6 млрд параметров, родной контекст — 4096 токенов; заявлена поддержка текстового ввода и вывода. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент. В README она названа uncensored, поэтому результаты требуют проверки и модерации. Лицензия — Apache-2.0.

MaziyarPanahi/una-cybertron-7b-v2-bf16-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием mistralai/Mistral-7B-Instruct-v0.1 и fblgit/una-cybertron-7b-v2-bf16 методом SLERP; веса представлены в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста, ответов на инструкции и ведения диалога. Её можно использовать в чат-ботах и приложениях, которым нужны ответы на текстовые запросы. Заявленная длина контекста — 32 768 токенов. Модель принимает текст и выдаёт текст. В метаданных не указаны конкретные языки, поэтому нельзя определить, на какие языки она рассчитана. Лицензия — Apache-2.0.

Это репозиторий трёх GGUF-квантований Xing4.0-29B-A4B, подготовленных автором vincespeed с помощью Apex-Quant для запуска через llama.cpp. В основе — XingChen-AGI/Xing4.0-29B-A4B, диалоговая модель архитектуры Xing4_0ForCausalLM: 29 млрд параметров всего, около 4 млрд активных на токен, с 40 слоями, включая блоки Mixture-of-Experts и Multi-Latent Attention. Доступны профили i-quality, i-balanced и i-compact с разным соотношением качества, размера и скорости; файлы занимают примерно 14–22 ГБ. Модель предназначена для генерации текста и диалогов. Её можно использовать для ответов на вопросы, написания текстов, рассуждений и программирования; исходная модель также рассчитана на длинный контекст и агентные задачи с инструментами. В README указана поддержка контекста до 65 536 токенов для приведённой оценки памяти KV-кэша. Репозиторий содержит только квантованные варианты и не сообщает отдельного языкового списка. При тестировании автор получил вывод, состоящий из пробелов, на CPU и при частичной выгрузке на GPU; возможны проблемы маршрутизации экспертов в некоторых конфигурациях, поэтому качество инференса следует проверять на целевом окружении. Черновая голова Multi-Token Prediction при обычном инференсе не исполняется, а спекулятивное декодирование зависит от движка. Лицензия — Apache 2.0.

T145/ZEUS-8B-V17-abliterated-V2 — слитая разговорная языковая модель на архитектуре Llama 3.1, созданная методом DARE TIES с помощью mergekit. В качестве базовой использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли Llama-3.1-SuperNova-Lite, Dark-Planet-SpinFire-Uncensored, SauerkrautLM, Lexi-Uncensored и Storm. Модель содержит 7,5 млрд параметров, работает через Transformers и имеет контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и продолжение текста. Карточка также указывает интерфейс для вызова инструментов. В README модель названа abliterated, однако подробностей о методе или эффекте этой обработки не приведено. Лицензия в предоставленных данных не указана.

braginpawel/zft-v4-34b-kto-1 — дообученная Pawel Bragin разговорная языковая модель на архитектуре Mistral с 34,2 млрд параметров. Она предназначена для генерации текста и диалогового взаимодействия; модель обучена на базе braginpawel/zft-v4-34b с использованием Unsloth и библиотеки TRL. Для запуска опубликованы веса в формате safetensors, лицензия — Apache-2.0. Заявленная длина контекста составляет 131 072 токена. В карточке и метаданных не описаны специальные предметные области или отдельные ограничения качества; практические результаты могут зависеть от промпта и сценария применения.

Карточка модели qihoo360/360Zhinao-7B-Chat-32K на Hugging Face совпадает с карточкой qihoo360/360Zhinao-7B-Base, поэтому описание составлено по ней. 360Zhinao-7B-Base — базовая авторегрессионная языковая модель семейства 360Zhinao, разработанная командой 360 (Qihoo 360). Модель содержит 7,1 млрд параметров и обучена на корпусе объёмом 3,4 трлн токенов, преимущественно на китайском и английском языках, а также на коде. Это базовая, а не чат-версия; для диалогового применения в серии отдельно выпущены модели Chat. Модель предназначена для генерации текста и служит основой для задач понимания языка, работы со знаниями, математики, логических рассуждений и генерации кода. Она поддерживает контекст до 4096 токенов, построена на архитектуре ZhinaoForCausalLM и распространяется в формате safetensors для Transformers. README сообщает о сравнительной оценке базовой модели на наборах OpenCompass, включая C-Eval, MMLU, GSM8K и HumanEval. Лицензия — Apache-2.0. Как базовая языковая модель, она не настроена специально для следования инструкциям или ведения диалога; качество ответов зависит от промпта и сценария применения.

A.X 3.1 Light — компактная языковая модель SKT, обученная с нуля на многоязычном корпусе с приоритетом корейского языка. В метаданных указаны 6,8 млрд параметров, архитектура Llama с плотной авторегрессионной моделью и контекст до 32 768 токенов; доступны веса в формате Safetensors. Модель предназначена для диалогов, понимания корейского языка и корпоративного развёртывания, а интерфейс поддерживает вызов инструментов. SKT сообщает, что модель обучалась на 1,65 трлн токенов и показывает результаты на корейских языковых бенчмарках KMMLU и KoBALT-700. Компания также заявляет о снижении вычислительных затрат относительно моделей со сравнимыми результатами. В карточке приведён пример использования с Transformers версии 4.46.0 или новее и vLLM для функций вызова инструментов. Лицензия — Apache 2.0.

DeepSeek-V2-Lite — языковая модель компании DeepSeek для генерации текста и диалогового общения. Она предназначена для дополнения текста, ответов в чате и локального развертывания; в README также описаны базовая и дообученная для чата версии семейства. Модель поддерживает английский и китайский языки, а метаданные указывают на контекстное окно до 163 840 токенов. Архитектура DeepSeek-V2-Lite сочетает разреженную Mixture-of-Experts (MoE) с Multi-head Latent Attention (MLA), которая сжимает KV-кэш для более эффективного вывода. README приводит 16 млрд общих параметров и 2,4 млрд активных параметров на токен; метаданные каталога указывают 2,5 млрд параметров. В README указано, что для инференса BF16 требуется GPU с 40 ГБ памяти. Модель подходит для локальных чат-сервисов и генерации текста. Заявленная в README лицензия не уточнена; метаданные Hugging Face обозначают её как other, поэтому конкретные условия использования следует проверять в файлах лицензии репозитория.

sleepyeldrazi/DeepSeek-v4-Flash-REAP-K180-NVFP4 — это производная текстовая модель на основе DeepSeek V4 Flash, подготовленная sleepyeldrazi. Она использует структурное удаление экспертов методом REAP: в слоях MoE оставлено 180 из 256 маршрутизируемых экспертов, а слои 0–2 сохранены без такого сокращения. По README, дообучения не было: это подмножество исходных весов, упакованное в GGUF с гибридной точностью NVFP4, Q2_K и Q8_0; NVFP4-конверсия экспертных весов описана как преобразование формата масштабов без потери точности относительно исходного MXFP4. Модель предназначена для генерации текста и диалогового использования, включая программирование, агентные сценарии с вызовом инструментов, исследования и ответы на длинном контексте. README заявляет поддержку контекста до 1 млн токенов на NVIDIA DGX Spark с GB10 при использовании FP8 KV-кэша и специального движка ds4-nvfp4-spark с управляемой памятью. Обычные GGUF-движки, включая стандартный llama.cpp, модель не загружают. Лицензия — MIT. Запуск зависит от специализированного оборудования и программного обеспечения; для конфигурации K180 в README указана необходимость режима управляемой памяти, а сама карточка помечена как экспериментальная. В заявленных характеристиках есть оптимизации под DGX Spark, поэтому переносимость и производительность на других системах не подтверждены предоставленными данными.

Dolphin 2.5 Mixtral 8x7b — дообученная модель разработчика Eric Hartford на базе Mixtral-8x7b, обучение которой спонсировала Convai. Это разговорная языковая модель для генерации ответов и кода; автор отмечает её хорошее качество в задачах программирования и высокую готовность следовать инструкциям. Модель использует архитектуру Mixtral MoE и формат диалогов ChatML. В README указано дообучение с контекстом 16 000 токенов; базовая модель поддерживает 32 000 токенов. Метаданные указывают 7,1 млрд параметров, форматы PyTorch и Safetensors и поддержку английского языка. Модель обучалась методом qLoRA на смесях разговорных и кодовых датасетов, включая Dolphin, OpenHermes, Synthia, PureDove и MagiCoder. По заявлению автора, она не проходила DPO-настройку и намеренно не ограничивает ответы по соображениям безопасности. Для публичного сервиса автор рекомендует отдельно реализовать слой согласования и безопасности. Лицензия — Apache-2.0.

Dolphin 2.6 Mistral 7B — дообученная на базе Mistral-7B языковая модель, созданная Eric Hartford при спонсорской поддержке Convai. Это плотная авторегрессионная модель с 7,1 млрд параметров, предназначенная для диалога и генерации текста; разработчик отдельно отмечает её сильные стороны в программировании. Модель обучалась полным дообучением в течение трёх эпох и использует формат запросов ChatML. Модель хорошо следует инструкциям, но не проходила DPO-настройку. В README её называют uncensored и предупреждают, что она может охотно выполнять небезопасные запросы; перед использованием в сервисе рекомендуется добавить собственный уровень фильтрации. Контекстная длина в метаданных указана как 32 768 токенов, тогда как README сообщает для базовой модели Mistral-7B контекст 16 тысяч токенов. Распространяется по лицензии Apache-2.0, допускающей коммерческое использование.

Dolphin 3.0 Qwen 2.5 0.5B — диалоговая языковая модель, дообученная Eric Hartford, Ben Gitter, BlouseJury и Cognitive Computations на базе Qwen/Qwen2.5-0.5B. Она предназначена для локального использования в качестве универсального помощника и может отвечать на вопросы, помогать с кодом и математикой, а также работать с вызовами функций и агентными сценариями. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 494 млн параметров и поддерживает контекст до 32 768 токенов. Для общения применяется шаблон ChatML; системный промпт позволяет задавать тон и правила поведения. В обучении использовались наборы данных для инструкционного диалога, программирования, математики и вызова функций. Карточка модели описывает англоязычное назначение. Веса опубликованы в формате safetensors по лицензии Apache-2.0. Это компактная модель, поэтому её ответы и сложные рассуждения могут уступать более крупным моделям; примеры выводов и результаты оценивания в карточке не представлены.

Experiment26Yam_Experiment27Experiment24 — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Yam-7B и automerger/Experiment27Experiment24-7B. Она предназначена для генерации текста и диалоговых сценариев на основе текстового запроса. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса представлены в формате safetensors. Модель выпущена по лицензии Apache-2.0.