II.2Создание и понимание программного кода

Cerebrum-1.0-8x7b — языковая модель AetherResearch для генерации текста и решения задач, требующих рассуждений. Это дообученная версия Mixtral 8x7B с архитектурой sparse Mixture of Experts (MoE); модель обучали на небольшом наборе примеров с цепочками рассуждений и дополнительно выравнивали с помощью targeted RLHF. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на вопросы, математических и логических задач, программирования, творческой работы и мозгового штурма. Карточка сообщает о конкурентных результатах на отдельных тестах относительно Gemini 1.0 Pro и GPT-3.5 Turbo, однако оценки получены в разных режимах и условиях. Для диалога рекомендуется шаблон Alpaca с запросом описать ход решения. Модель работает с текстом и рассчитана на английский язык; лицензия — Apache 2.0. Результаты могут зависеть от формулировки запроса и выбранного шаблона.

Chichu 2.0 500M Instruct — компактная языковая модель на 494 млн параметров, разработанная Sebastianpro88 и дообученная методом LoRA на базе Qwen/Qwen2.5-0.5B-Instruct. Для обучения использован корпус дистилляции ответов нескольких моделей, охватывающий математику, программирование, рассуждения и выполнение инструкций. Модель предназначена для диалогов и генерации текста по инструкциям, в том числе для задач с кодом, математикой и логическими рассуждениями. Это плотная архитектура Qwen2 с контекстом до 32 768 токенов; модель принимает и выдаёт текст. Карточка указывает лицензию «other», но не уточняет её условия, поэтому перед использованием следует проверить сведения о лицензировании в репозитории.

Это исследовательский чекпойнт Qwen3-4B-Instruct-2507, дообученный методом обучения с подкреплением GRPO командой, опубликовавшей модель agurung. Обучение проводилось напрямую от базовой instruct-модели без промежуточного SFT; чекпойнт сохранён на шаге 24. Это плотная причинная языковая модель на 3,7 млрд параметров с контекстом до 262 144 токенов, представленная в формате safetensors и рассчитанная на запуск через Transformers. Модель ориентирована на генерацию кода для задач программирования с автоматической проверкой тестами. Обучение использовало бинарную награду за прохождение тестов и специально отобранные сложные задачи; в рамках данного запуска этот чекпойнт показал лучший результат pass@8. Эти результаты характеризуют конкретную экспериментальную оценку и не гарантируют качество на других наборах задач. Лицензия в предоставленных данных не указана. Модель унаследовала основу Qwen3-4B-Instruct-2507, однако условия её использования следует сверить с лицензией исходной модели и карточкой этого чекпойнта.

Это экспериментальный чекпойнт языковой модели Qwen3-4B, созданный командой agurung методом обучения с подкреплением GRPO на базе Qwen/Qwen3-4B-Instruct-2507. Модель предназначена прежде всего для генерации кода и решения задач программирования: награда при обучении зависела от того, проходил ли созданный программный код тесты. Чекпойнт сохранён на шаге 36; в описанном запуске он показал лучший результат по pass@8, однако численные метрики оценки не приведены. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 262 144 токенов. Она принимает текст и генерирует текст, включая программы. В обучении использовались задачи из набора cobalt-train; README не уточняет языки программирования или естественные языки. Файлы опубликованы в формате safetensors, библиотека загрузки — Transformers. Лицензия в предоставленных данных не указана.

code-daemon-embed-v1 — модель эмбеддингов кода от автора репозитория faxenoff, предназначенная для быстрого индексирования исходного кода и семантического поиска по нему. Это компактный четырёхслойный энкодер размером 46,8 млн параметров, который формирует 768-мерные векторы; mean pooling и L2-нормализация встроены в вычислительный граф. Модель получена слиянием нескольких базовых моделей, а ранжирование 4B cross-encoder было перенесено в bi-encoder дистилляцией при обучении. Доступны варианты ONNX, Core ML и safetensors; для INT8 применено обучение с учётом квантования. Модель кодирует одинаковым способом короткие фрагменты кода и запросы на английском языке: имена символов, сигнатуры, docstring, краткие описания и ключевые слова. Она рассчитана на гибридный поиск по коду вместе с лексическим поиском BM25, особенно когда важна скорость переиндексации. В README заявлена пропускная способность до 3 457 текстов в секунду в тесте ONNX Runtime CUDA FP32, а специализированный daemon с TensorRT INT8 показал более высокие скорости на отдельных репозиториях. Жёсткий предел входа — 128 токенов; для более длинных текстов README предлагает оконную обработку. Модель не предназначена для многоязычного поиска или общей прозы: качество поиска на русском низкое, поэтому для русскоязычных запросов рекомендуется multilingual-e5-base. Лицензия — MIT.

unsloth/codegemma-2b-bnb-4bit — 4-битная версия модели CodeGemma с примерно 2 млрд параметров, опубликованная в экосистеме Unsloth для использования с библиотекой Transformers. В README также упоминается поддержка Unsloth для дообучения моделей Gemma, однако конкретные сведения о разработчике исходной модели CodeGemma в предоставленных данных отсутствуют. Модель предназначена прежде всего для задач, связанных с программным кодом, включая генерацию и продолжение текста кода, а также эксперименты с дообучением. Указан английский язык. Архитектура и размер контекста в README не описаны; по идентификатору модели можно определить только вариант с 2 млрд параметров и 4-битным квантованием BNB. Ключевое преимущество версии — сниженные требования к памяти по сравнению с полноразмерными вариантами, что может упростить локальный запуск и дообучение. Ограничения связаны с малым размером модели, возможным снижением качества по сравнению с более крупными версиями и отсутствием в предоставленных данных подробных результатов оценки. Лицензия указана как Apache-2.0.

alecsharpie/codegen_350m_html — дообученная на HTML модель CodeGen от команды авторов семейства CodeGen. Это авторегрессионная плотная языковая модель с 350 млн параметров, созданная на базе CodeGen-Multi 350M и дообученная на HTML-коде из набора bigcode/the-stack. Она предназначена для генерации HTML по текстовым комментариям и продолжения частично написанного кода. Базовая модель предварительно обучалась на нескольких языках программирования, включая C, C++, Go, Java, JavaScript и Python; этот вариант специально адаптирован для HTML. Контекст модели — до 2048 токенов. Модель подходит для прототипирования веб-разметки и автодополнения HTML. Карточка описывает программный синтез как основное назначение CodeGen, но не приводит результатов оценки качества именно HTML-версии. Лицензия — BSD 3-Clause.

sharoz/codegen-350M-mono-custom-functions-dataset-python_v2 — дообученная модель Salesforce CodeGen-350M-Mono для генерации кода. Она основана на архитектуре CodeGenForCausalLM и предназначена для продолжения текстового ввода и создания программного кода; в названии указана настройка на пользовательском наборе функций на Python, однако README не описывает конкретные сценарии обучения или оценки. Модель принимает и выдаёт текст, а её контекст составляет 2048 токенов. Модель опубликована в формате PyTorch под лицензией BSD 3-Clause. В README приведено значение loss 0,2820 на наборе оценки, но подробности методики и результатов не раскрыты. Возможности и ограничения обучения на Python следует оценивать с учётом недостатка сведений о датасете и тестировании.

Sharathhebbar24/code_gpt2 — дообученная автором модель GPT-2 для генерации кода по текстовой инструкции или подсказке. Она создана на основе Sharathhebbar24/code_gpt2_mini_model с использованием набора Evol-Instruct-Code-80k-v1; в метаданных также указаны обучающие наборы UltraChat 200k, CodeLlama-2-20k, orca_dpo_pairs и sql-create-context. Модель имеет архитектуру GPT2LMHeadModel, принимает текст и генерирует продолжение, сохраняя веса в формате safetensors. Модель предназначена для генерации фрагментов кода и ответов на инструкции, связанные с кодом. Карточка описывает базовый GPT-2 как обученный на английских текстах; метаданные отмечают английский язык. Контекст ограничен 1024 токенами. Репозиторий распространяется по лицензии Apache-2.0. В README приведены оценки на нескольких тестах языкового моделирования и рассуждений, но они не дают полной оценки качества генерации кода.

QuantFactory/CodeLlama-7B-KStack-clean-GGUF — квантизированная версия CodeLlama-7B-KStack-clean, созданная с использованием llama.cpp. Базовая модель CodeLlama-7B была дообучена JetBrains на 25 тысячах примеров из набора KStack-clean, содержащего преимущественно Kotlin-код, отобранный по образовательной ценности. Модель предназначена для генерации и дополнения программного кода, прежде всего на Kotlin, включая сценарии text generation и Fill-in-the-Middle с использованием специального формата PRE/SUF/MID. Размер модели составляет 7 млрд параметров; формат GGUF предназначен для использования с совместимыми инструментами, включая llama.cpp. В README не указаны точные параметры контекстного окна, поддерживаемые языки помимо Kotlin и конкретные варианты квантизации. На Kotlin HumanEval модель показала Pass@1 37,89%, превысив результат исходной CodeLlama-7B в 26,89%. При этом её ответы могут быть неточными или нежелательными, особенно при отклонении от Kotlin-ориентированного формата и задач, поэтому перед применением требуется тестирование под конкретный сценарий. Лицензия — Apache-2.0.

CodeMalt — компактная модель статических эмбеддингов кода, созданная автором репозитория sarthak1 с помощью дистилляции Model2Vec из sentence-transformers/all-mpnet-base-v2. Она предназначена для семантического поиска по коду, сравнения сходства фрагментов и классификации кода; README сообщает о проверке на бенчмарках CodeSearchNet для шести языков программирования. Модель содержит 7,6 млн параметров и использует архитектуру Model2Vec StaticModel. В README приведены результаты CodeSearchNet: NDCG@10 0,7387, MRR 0,7010 и Recall@5 0,8017, а также утверждается, что она заметно компактнее и быстрее исходной модели-учителя. Репозиторий распространяется по лицензии Apache-2.0. Результаты относятся к описанной оценке на CodeSearchNet; качество на других наборах и задачах может отличаться. README также предупреждает, что дополнительное обучение на C4 ухудшило результаты поиска кода относительно базовой дистилляции.

code-nothink-o7b-20260908 — кодовая языковая модель на базе Olmo-3-1025-7B, созданная для оценки генерации кода без режима рассуждений NoThink. Разработчик обучил LoRA-адаптер рангу 64 на паре проинструктированных примеров для кода, затем объединил его с базовой моделью; в репозитории размещены полные веса bf16 в формате safetensors. Модель имеет 6,9 млрд параметров и контекст до 65 536 токенов по метаданным; при обучении и описанной оценке использовался контекст 8 192 токена. Основной сценарий — генерация кода и решение задач программирования. В оценке LiveCodeBench DEV256 модель прошла 46 из 256 задач (18,0%) в режиме NoThink против 20 из 256 (7,8%) у базовой Olmo-3-1025-7B при том же протоколе; результат обозначен авторами как односидовый исследовательский, а не подтверждающий вывод. Для инференса автор рекомендует использовать токенизатор и шаблон чата из репозитория, не добавляя префикс режима рассуждений. Лицензия — Apache-2.0.

code-think-o7b-20260908 — исследовательская версия языковой модели Allen Institute for AI (Ai2), полученная дообучением allenai/Olmo-3-1025-7B на трассах рассуждений Qwen3-30B-A3B-Thinking-2507 и объединением LoRA-адаптера с основными весами. Это плотная авторегрессионная модель семейства OLMo 3 с 6,9 млрд параметров; она принимает текст и генерирует текст, в том числе код. Контекст модели — до 65 536 токенов, обучение проводилось с контекстом 32 768 токенов. Модель предназначена для генерации программного кода и пошагового решения задач программирования в режиме рассуждений. На диагностическом dev-разбиении из 256 задач, производном от LiveCodeBench, она получила 56 решений pass@1 при одном seed; результат не является рейтингом или оценкой на широком наборе задач. В тесте 149 генераций достигли лимита длины около 32 тысяч токенов. Веса доступны в формате Safetensors, для инференса PEFT не требуется; репозиторий также содержит LoRA-адаптер. Лицензия — Apache-2.0. Авторы характеризуют чекпойнт как исследовательский, а не готовый продукт; опубликованная оценка основана на одном запуске и имеет диагностический характер.

Mungert/cogito-v1-preview-llama-8B-GGUF — квантизированная GGUF-версия предварительной модели Cogito v1-preview, разработанной Deep Cogito. Однако представленная карточка описывает вариант на 70B параметров с базовой моделью Meta Llama 3.1 70B, поэтому соответствие заявленному идентификатору 8B не подтверждено. Модель предназначена для генерации текста по тексту и работает как instruction-tuned LLM. Cogito — гибридная reasoning-модель: она может отвечать напрямую в стандартном режиме или выполнять саморефлексию в режиме расширенного рассуждения. Модель оптимизирована для программирования, задач STEM, следования инструкциям, общей полезности и tool calling. Заявлена поддержка более 30 языков и контекстного окна до 128k токенов. Расширенное рассуждение включается специальной системной инструкцией или параметром enable_thinking в chat template. Поддерживаются одиночные, параллельные и комбинированные вызовы инструментов. К сильным сторонам относятся гибридный режим работы, заявленные улучшения многоязычности, программирования и вызова инструментов, а также обучение методом Iterated Distillation and Amplification. Ограничения карточки — отсутствие подробных числовых результатов тестов в текстовом виде и несоответствие между идентификатором 8B и описанием 70B. Модель распространяется по лицензии llama3.1; в карточке указано, что семейство выпущено под открытой лицензией с возможностью коммерческого использования.

CVE Backport Code Generation — Qwen2.5-Coder-32B v5 — модель, дообученная openSUSE на базе Qwen/Qwen2.5-Coder-32B-Instruct для переноса исправлений безопасности на другие версии кода. Она получает уязвимый фрагмент и описание исправления, а затем генерирует исправленный код; итоговый diff формируется программно. Такой подход предназначен для автоматизации подготовки патчей в рабочих процессах сопровождения пакетов и устранения CVE. Модель использует плотную 32-миллиардную архитектуру Qwen2.5-Coder и поддерживает диалоговый режим. В карточке приведены результаты оценки на 100 отложенных примерах: полнота 93,1%, точность 94,4%, точное совпадение — 83 из 100. Доступны веса safetensors и GGUF Q8_0; указана лицензия Apache-2.0. В README рекомендуется проверять сгенерированные патчи перед применением в производственных системах.

stojchet/d6 — дообученная модель на архитектуре LlamaForCausalLM с 1,3 млрд параметров, созданная на основе deepseek-ai/deepseek-coder-1.3b-base и обученная на датасете generator. Она предназначена для генерации и продолжения текста; базовая модель ориентирована на продолжение, автодополнение и заполнение пропусков в коде, поэтому d6 может подойти для таких сценариев. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и распространяется в формате safetensors. В README не приведены подробности о назначении дообучения, оценках качества или ограничениях. Лицензия указана как other, поэтому перед использованием следует проверить её условия на странице модели.

Darwin-28B-REASON — самостоятельная языковая модель VIDRAFT, полученная дистилляцией цепочек рассуждений на основе Darwin-28B-Opus. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, 27,6 млрд параметров и весами BF16. Веса модели можно использовать без отдельного адаптера; интерфейс рассчитан на диалог и поддерживает вызов инструментов. Модель предназначена для научных и математических задач с многошаговым рассуждением, а также для генерации и отладки кода. В README заявлена поддержка английского, корейского, китайского и японского языков, с приоритетом английского. Результат 89,39% на GPQA Diamond получен с дополнительным движком Darwin-DELPHI, который выполняет проверку нескольких ответов и самоанализ на этапе вывода; этот движок не входит в веса модели, а методика оценки и рецепт обучения раскрыты не полностью. Для запуска в BF16 требуется около 55 ГБ видеопамяти. Модель распространяется по лицензии Apache-2.0. Ее ответы могут содержать многословные рассуждения; заявленные показатели с Darwin-DELPHI нельзя напрямую считать результатом автономной модели без этого движка.

DBRX Base — базовая большая языковая модель Databricks, обученная с нуля для продолжения текста. Это декодерный Transformer с архитектурой смеси экспертов: всего 132 млрд параметров, из которых для каждого входа активируются 36 млрд; модель выбирает 4 из 16 экспертов. Она обучена предсказанию следующего токена на 12 трлн токенов текста и кода, использует RoPE, GLU, grouped-query attention и токенизатор GPT-4 из tiktoken. Максимальная длина контекста — 32 768 токенов; модель принимает и выдаёт только текст. Модель предназначена для генерации продолжений на английском языке и коде, а также для дальнейшей тонкой настройки под специализированные задачи. Это базовая completion-модель, не обученная для интерактивного чата и не имеющая встроенных мультимодальных возможностей или вызова функций. Большая часть обучающих данных — на английском; Databricks не проверяла качество для других языков. Знания модели ограничены данными с отсечкой по декабрь 2023 года; ответы могут быть неточными, неполными, предвзятыми или оскорбительными. Лицензия — Databricks Open Model License с отдельной Acceptable Use Policy; модель заявлена для коммерческого и исследовательского применения с учётом этих условий.

Kristian Nordby разработал и дообучил на наборе запросов text-to-SQL модель DeepSeek-R1-0528-DSR-SQLCoder на базе deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. Это плотная причинно-языковая модель семейства Qwen3 с 7,6 млрд параметров, предназначенная для генерации SQL по текстовым запросам на английском языке. Её можно применять для преобразования вопросов к данным в SQL и для прототипирования интерфейсов запросов к базам данных на естественном языке. Модель использует архитектуру Qwen3ForCausalLM, работает через Transformers и имеет контекстное окно до 131 072 токенов. Веса опубликованы в формате safetensors. Карточка не приводит результатов тестирования или метрик качества, подробностей обучающего набора и лицензии, поэтому точность на конкретных схемах баз данных и условия использования следует проверять отдельно.

Это экспериментальная версия DeepSeek-R1-Distill-Llama-70B, созданная huihui-ai методом abliteration: из модели удаляли склонность отказываться от ответов. Это плотная причинно-следственная языковая модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов; она работает через Transformers и принимает и выдаёт текст. Модель предназначена для диалогов и генерации текста, в том числе для математических рассуждений, программирования и ответов на сложные вопросы — эти возможности унаследованы от базовой модели. Вариант с abliteration нацелен на ответы без типичных отказов, однако автор описывает метод как грубый proof of concept. Лицензия в предоставленных данных не указана.

Orion-zhen/DeepSeek-R1-Distill-Llama-70B-abliterated — вариант DeepSeek-R1-Distill-Llama-70B, созданный с помощью abliteration. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические рассуждения, программирование и ответы на сложные вопросы. В метаданных указаны английский и китайский языки, а также интерфейсы чата и вызова инструментов. Модель представлена в формате safetensors и распространяется по лицензии GPL-3.0. README не сообщает о качестве abliteration, её конкретных целях или изменениях поведения модели, поэтому эти свойства нельзя оценить по доступным сведениям.

Valdemardi/DeepSeek-R1-Distill-Llama-70B-AWQ — квантованная версия модели DeepSeek-R1-Distill-Llama-70B, основанной на DeepSeek-R1 и разработанной командой DeepSeek AI. Модель относится к большим языковым моделям для задач рассуждения и создана посредством дистилляции: в меньшую плотную модель перенесены образцы и паттерны рассуждений, полученные от DeepSeek-R1. В README также указано, что семейство DeepSeek-R1 ориентировано на задачи математики, программирования и общего логического рассуждения, а исходная модель демонстрировала результаты, сопоставимые с OpenAI o1 в этих направлениях. Представленная сборка использует 4-битное AWQ-квантование, выполненное с помощью AutoAWQ 0.2.8, с group size 128, zero point и режимом GEMM. Это снижает требования к памяти и делает запуск крупной 70B-модели более доступным, однако может сопровождаться потерей точности по сравнению с полноразмерной версией; конкретные результаты для этой сборки в README не приведены. Архитектура, размер контекста, поддерживаемые языки и модальности отдельно не указаны, поэтому подтверждённо описать можно только текстовый LLM-сценарий. Модель распространяется по лицензии llama3.3; README также ссылается на Model Agreement для лицензии модели. Условия лицензии следует проверить перед коммерческим или иным ответственным использованием.

Карточка модели Ishowbackup/DeepSeek-R1-Distill-Llama-8B на Hugging Face совпадает с карточкой deepseek-ai/DeepSeek-R1-Distill-Qwen-1.5B, поэтому описание составлено по ней. DeepSeek-R1-Distill-Qwen-1.5B — плотная языковая модель на 1,5 млрд параметров, выпущенная DeepSeek и построенная на архитектуре Qwen2. Она дообучена на примерах рассуждений, сгенерированных DeepSeek-R1, а её базовая модель — Qwen2.5-Math-1.5B. Модель предназначена для генерации текста в диалогах и решения задач, требующих пошаговых рассуждений, в частности по математике и программированию. Модель принимает текст и генерирует текст; карточка также заявляет поддержку чата и интерфейса вызова инструментов. Контекстное окно составляет 131 072 токена. Веса опубликованы в формате Safetensors, лицензия — MIT. Результаты для семейства дистиллированных моделей приведены в README, но отдельные показатели именно версии 1.5B в доступном фрагменте не указаны.

DeepSeek-R1-Distill-Qwen-32B-3MPER0RR-abliterated — экспериментально модифицированная версия модели DeepSeek-R1-Distill-Qwen-32B от 3MPER0RR. Это плотная авторегрессионная языковая модель семейства Qwen2 для генерации текста и диалогового взаимодействия. В метаданных указаны 32 млрд параметров и контекст до 131 072 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации ответов и ведения диалога. Автор сообщает, что модель модифицирована методом «abliteration», протестирована и сохранена; подробности метода, тестирования и измерений качества в карточке не раскрыты. Основа — DeepSeek-R1-Distill-Qwen-32B, дистиллированная модель на базе Qwen2.5, ориентированная на рассуждения, математику и программирование. Лицензия — MIT.

DeepSeek-R1-Distill-Qwen-7B-bnb-4bit — это 4-битно квантованная версия модели DeepSeek-R1-Distill-Qwen-7B, опубликованная Unsloth и основанная на базовой модели deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Модель относится к семейству плотных языковых моделей Qwen, дистиллированных из DeepSeek-R1, и предназначена для исследовательских и прикладных задач, требующих рассуждений, включая решение математических задач, программирование, анализ и генерацию текста. В README также упоминается применение для диалоговых сценариев и текстового завершения через экосистему Transformers и инструменты Unsloth. Модель имеет размер 7B параметров и поддерживает английский язык; другие языки и мультимодальные возможности в предоставленных данных не указаны. Суффикс bnb-4bit указывает на 4-битное представление в формате, связанном с bitsandbytes, что снижает требования к памяти и делает запуск доступнее на ограниченных по ресурсам GPU, однако может сопровождаться компромиссом между качеством и точностью по сравнению с полной точностью. Архитектурные детали и размер контекста в README не приведены. Сильной стороной модели являются возможности рассуждения, унаследованные от DeepSeek-R1 и дистиллированные в компактную 7B-модель, а также более экономичное потребление памяти благодаря квантованию. Ограничения включают возможные ошибки, недостаточную читаемость или смешение языков, характерные для reasoning-моделей и упомянутые в контексте исходного семейства; конкретные результаты для этой версии не указаны. Модель распространяется по лицензии Apache-2.0.

DeepSeek-R1-ReDistill-Qwen-1.5B-v1.0 — версия DeepSeek-R1-Distill-Qwen-1.5B, повторно дистиллированная Mobius Labs для повышения качества. Это плотная авторегрессионная языковая модель семейства Qwen2 с 1,5 млрд параметров и контекстом до 131 072 токенов. Модель предназначена для генерации текста и диалогового применения; исходная модель ориентирована на рассуждения и решение задач, включая математику и программирование. В карточке приведены сравнительные результаты на ARC, HellaSwag, MMLU, GPQA, MMLU PRO и MUSR, где версия ReDistill показывает улучшения относительно исходной на перечисленных тестах. Репозиторий содержит веса SafeTensors. Лицензия — MIT.

DeepSeek-V4.1-Flash-4bit-paged — квантизированная 4-битная версия модели DeepSeek-V4.1-Flash, разработанная GreenBitAI на базе сборки pipenetwork для MLX и Apple Silicon. Это языковая модель для генерации текста, включая работу с кодом, агентские сценарии и диалоги; поддерживает потоковую загрузку экспертных весов с диска и опциональное speculative decoding с помощью встроенной DSpark multi-token prediction head. Модель использует архитектуру mixture-of-experts с маршрутизируемыми экспертами и expert paging: резидентные веса занимают 10,48 GiB, а полный набор данных модели — около 406,10 GiB, включая experts.bin, engram-таблицы и черновую голову. Точные размеры исходной архитектуры, поддерживаемые языки и максимальная длина контекста в README не указаны. Доступна через библиотеку gbx-lm; при наличии достаточного объёма памяти может работать на штатном пути, а при нехватке ресурсов подгружает необходимые веса с диска. К сильным сторонам относятся сохранение логитов исходной модели при проверках, возможность работы с большими наборами весов на совместимых системах и ускорение генерации до 2,3 раза при включённой draft head, особенно на предсказуемом коде и длинном контексте. Ограничения включают очень высокие требования к дисковому пространству и памяти, зависимость от MLX, Apple Silicon и gbx-lm, а также то, что ускорение speculative decoding зависит от сценария. Лицензия — MIT; в README также указано, что лицензия исходной модели DeepSeek сохраняется.

DeepSeek-V4-Flash-0731-CRACK-NVFP4 — дообученная и модифицированная версия deepseek-ai/DeepSeek-V4-Flash-0731, опубликованная Dealign.ai. Это текстовая генеративная MoE-модель для диалогов, рассуждений, программирования, вызова инструментов и многошаговых сценариев. Модель позиционируется как исследовательский артефакт с удалёнными защитными отказами, поэтому требует ответственного и законного применения. Архитектура включает 43 слоя, 256 маршрутизируемых и одного общего эксперта, MLA, sliding-window attention и контекст примерно до 1 млн токенов с YaRN. Сохранены native-квантизация FP8 для attention и общих экспертов, FP4 класса NVFP4 для маршрутизируемых экспертов, DSpark MTP head, управляемое усилие рассуждения и спекулятивное декодирование. Чекпойнт занимает около 167 ГБ и рассчитан на tensor parallel между двумя узлами NVIDIA GB10 или DGX Spark; в README также указана конфигурация обслуживания с контекстом до 393216 токенов. Заявлены английский и китайский языки, интеграция с vLLM и поддержка OpenAI-совместимых инструментальных вызовов. К сильным сторонам относятся сохранённые знания и способности к рассуждению, высокая заявленная точность на MMLU и HumanEval, производительность 45–49 токенов в секунду в однопоточном режиме, prefix caching и высокая ёмкость GPU KV cache. Основное ограничение — отсутствие защитных отказов: модель может согласиться с вредоносными, незаконными или опасными запросами. Для запуска требуются совместимые сборки vLLM, две системы GB10/DGX Spark, tensor parallel и специализированная инфраструктура. Модель распространяется по лицензии MIT с наследованием условий upstream DeepSeek-V4-Flash; перед использованием необходимо проверить применимые условия лицензии.

DeepSeek-V4-Flash-0731-dwarfstar-q2-gguf — это 2-битная квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Сборка создана сообществом Rednalreden с использованием инструментов DwarfStar (ds4) и предназначена для запуска на машинах с 96 или 128 ГБ оперативной памяти, где 4-битная версия не помещается. Модель относится к задачам генерации текста и может применяться для написания кода, работы с длинным контекстом, агентских сценариев, вызовов инструментов, анализа исходного кода и подготовки связного текста. Модель использует архитектуру MoE с 43 слоями, 256 маршрутизируемыми экспертами, из которых для каждого запроса выбираются 6, а также одним общим экспертом. Файл GGUF занимает около 80,8 GiB, резидентная модель — около 80,76 GiB; при контексте 32 768 токенов требуется примерно 0,86 GiB дополнительной памяти. Маршрутизируемые эксперты квантизированы в 2 бита с использованием importance matrix, тогда как attention-проекции, общие эксперты и выходной слой используют Q8_0, а отдельные компоненты — F16. Заявлена поддержка контекста до 100 000 токенов при использовании ds4-server. Importance matrix улучшила среднюю оценку по отрицательной логарифмической правдоподобности на 1,42% относительно аналогичной Q2-сборки без importance matrix. Основное преимущество — существенная экономия памяти при сохранении большей части качества; ограничение — заметная потеря качества по сравнению с 4-битными или смешанными q2/q4-сборками. Модель требует runtime DwarfStar (ds4) и несовместима с llama.cpp. Лицензия — MIT, унаследованная от базовой модели.

DeepSeek V4 Flash REAP K150 Mixed NVFP4 — производная версия DeepSeek V4 Flash, подготовленная sleepyeldrazi на основе официального чекпойнта deepseek-ai/DeepSeek-V4-Flash. Это текстовая MoE-модель для генерации текста и диалогов. REAP удаляет наименее активные эксперты: в слоях 3–42 оставлено по 150 маршрутизируемых экспертов из исходного набора, что соответствует сокращению примерно на 41%; первые три слоя сохранены без такого сокращения. Дообучения не проводилось. Веса упакованы в смешанном формате: NVFP4 для gate/up проекций маршрутизируемых экспертов, Q2_K для down проекций, Q8_0 для внимания, общих экспертов и выходной головы; эмбеддинги сохранены в F16. Конверсия MXFP4 в NVFP4 описана как преобразование формата шкал без изменения значений весовых нибблов. Репозиторий содержит GGUF, однако для запуска требуется специальный движок ds4 с пользовательскими CUDA-ядрами; стандартные сборки llama.cpp и другие обычные GGUF-рантаймы модель не загружают. Калибровка ориентирована на код, вызов инструментов, исследования и поиск знаний. Карточка приводит бюджет памяти для DGX Spark, включая запуск с контекстом до 1 млн токенов при использовании FP8 KV-кэша, но точная длина контекста в метаданных не указана. Лицензия — MIT.