II.2Создание и понимание программного кода

Экспериментальный чекпойнт языковой модели Qwen3-4B, дообученный командой agurung методом обучения с подкреплением OpenRLHF GRPO. Обучение применялось непосредственно к Qwen/Qwen3-4B-Instruct-2507 без предварительного SFT для этого запуска; сохранённый чекпойнт соответствует шагу 4 и в этом эксперименте показал лучший результат по pass@8. Модель предназначена для генерации кода и решения задач программирования. Обучение и проверка проводились на задачах cobalt-train, которые базовая модель решала не более чем в 2 из 64 попыток; сигналом вознаграждения служила проверка корректности кода тестами. Чекпойнт построен на плотной архитектуре Qwen3ForCausalLM, содержит 3,7 млрд параметров, принимает текст и поддерживает контекст до 262 144 токенов. В карточке не приведены численные метрики качества на контрольной выборке, поэтому результат pass@8 характеризует только сравнение чекпойнтов данного запуска. Модель распространяется в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

codebert-permissive-embed — модель эмбеддингов кода от ThinkingDBx Pvt. Ltd. Она преобразует фрагмент кода или текстовое описание кода в вектор из 768 чисел; близкие по смыслу фрагменты получают похожие векторы. Модель основана на архитектуре BERT, содержит 137,8 млн параметров по метаданным, работает с контекстом до 512 токенов и распространяется в формате Safetensors по лицензии Apache 2.0. Модель предназначена для поиска функций по описанию на естественном языке, обнаружения похожих фрагментов, группировки кода и извлечения подходящих файлов для RAG-сценариев с кодовым ассистентом. Она выдаёт только векторы и не генерирует код и не отвечает на вопросы. Обучение включало предварительное обучение на коде и сопоставление описаний с кодом; автор сообщает об отборе файлов с разрешительными лицензиями и удалении обнаруженных персональных данных из обучающих файлов. Сильная сторона модели — поиск кода по смысловому описанию, в том числе когда в коде нет слов из запроса. По README, она обучалась преимущественно на Python, Java, JavaScript, Go, PHP и Ruby и слабее работает с другими языками. Входы свыше 256 токенов обрезаются, поэтому длинные файлы следует разбивать на функции. Модель слабо подходит для сопоставления кода с кодом, например поиска реализации на другом языке; также она не проверялась на смещения, безопасность или определение лицензий.

unsloth/codellama-7b-bnb-4bit — это 4-битная версия модели CodeLlama 7B, опубликованная командой Unsloth и предназначенная для использования с библиотекой Transformers. По доступным данным, модель рассчитана прежде всего на эксперименты и дообучение: README описывает применение Unsloth для ускоренного fine-tuning моделей семейства CodeLlama, а также экспорт дообученных моделей в форматы GGUF и vLLM или загрузку на Hugging Face. Модель имеет около 7 миллиардов параметров и использует 4-битное квантование BNB, что снижает требования к памяти и делает её более подходящей для запуска и дообучения на ограниченных GPU-ресурсах. Указан английский язык, однако сведения о поддерживаемых модальностях, максимальной длине контекста и точной архитектуре в README отсутствуют. Основной сценарий — работа с задачами генерации и обработки кода на базе CodeLlama, включая дообучение на собственных наборах данных. К сильным сторонам относятся компактное 4-битное представление и совместимость с экосистемой Transformers и инструментами Unsloth для ускоренного fine-tuning. Конкретные показатели качества, ограничения модели, требования к аппаратному обеспечению и результаты тестирования не приведены. Лицензия — Apache-2.0.

CodeLlama-7B-Kexer — текстовая генеративная модель JetBrains, дообученная на синтетическом наборе Kotlin Exercises для генерации кода на Kotlin. Это версия CodeLlama-7B в формате Transformers с плотной архитектурой LlamaForCausalLM и 6,6 млрд параметров; контекст — до 16 384 токенов. Для заполнения пропусков в коде поддерживается формат FIM с префиксом и суффиксом. Модель подходит для генерации решений задач по Kotlin и автодополнения кода, особенно в формате упражнений HumanEval. В оценке на Kotlin HumanEval она достигла pass rate 42,24% против 26,89% у базовой CodeLlama-7B. Дообучение проводилось на 15 тысячах синтетических примеров объёмом около 3,5 млн токенов. Модель может ошибаться, особенно при запросах вне формата задач по Kotlin; результаты опубликованной оценки не гарантируют качество на других сценариях. Лицензия — Apache-2.0.

ainergy/CodeLlama-SDSAT_L7_13B — дообученная модель ainergy на базе CodeLlama-13B, представленная как 13-миллиардная модель для работы SDSAT (ускорения вывода LLM с помощью speculative decoding и semantic adaptive tokens). Она предназначена для генерации кода и сценариев, где применяется этот подход к ускорению вывода. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 12,9 млрд параметров и поддерживает контекст до 16 384 токенов. Репозиторий содержит веса Safetensors; лицензия — Apache 2.0. Карточка указывает язык Code, поэтому естественный язык модели определить нельзя.

code-nothink-q4b-20260908 — модель генерации кода на базе Qwen3-4B-Base, дообученная автором методом SFT с LoRA и объединённая с базовыми весами. Это плотная причинно-языковая модель размером 3,7 млрд параметров; репозиторий содержит полные веса bf16 в формате safetensors и собственный набор файлов токенизатора с шаблоном чата. Контекст модели — до 32 768 токенов по метаданным; обучение проводилось с контекстом 8192 токена. Модель предназначена для генерации кода в режиме NoThink и оценки на LiveCodeBench. В описанной исследовательской оценке DEV256 она решила 67 из 256 задач с pass@1; результат получен на одном seed и не является подтверждающим экспериментом. Для инференса README рекомендует использовать токенизатор и шаблон чата из этого репозитория. Лицензия — Apache-2.0.

CodeSage Small — открытая модель для получения векторных представлений исходного кода, представленная авторами работы Code Representation Learning At Scale. Это энкодерная модель на 151 млн параметров, обученная на наборе The Stack Dedup; README указывает размер энкодера 130 млн параметров и эмбеддинги размерности 1024. Модель рассчитана на задачи понимания кода, включая поиск и сопоставление фрагментов кода по смыслу. Поддерживаются C, C#, Go, Java, JavaScript, TypeScript, PHP, Python и Ruby. Контекст модели составляет 2048 токенов. Репозиторий содержит веса PyTorch и использует библиотеку Transformers. Лицензия — Apache-2.0. Модель выдаёт эмбеддинги кода, которые можно применять для семантического поиска и сравнения фрагментов. Карточка не описывает конкретные метрики качества или ограничения по использованию; размер контекста ограничивает длину обрабатываемого фрагмента.

CodeScout-4B — языковая модель OpenHands для поиска и локализации кода в репозиториях. Она дообучена методом обучения с подкреплением GSPO на базе Qwen3-4B-Instruct-2507 и содержит 3,7 млрд параметров. Модель принимает описание задачи или ошибки и помогает определить связанные с ней файлы, классы и функции в репозитории. Модель предназначена для работы как агент локализации в составе более крупной системы программирования. Она использует scaffold OpenHands-Bash с терминалом и стандартными Unix-командами, а также инструментом для структурированной отправки результата. В README приведены результаты на SWE-Bench и указаны контексты обучения до 40 тысяч токенов; метаданные модели указывают нативный контекст до 262 144 токенов. CodeScout-4B обучалась и оценивалась только на Python-репозиториях, поэтому её качество на других языках и репозиториях может отличаться. Она предназначена для локализации кода, а не его редактирования или полного решения задачи; для оптимальной работы требуется scaffold OpenHands-Bash. Модель распространяется по лицензии Apache-2.0.

Salesforce CodeT5+ 220M Bimodal — компактная модель семейства CodeT5+, представленная Salesforce Research в работе о моделях для понимания и генерации кода. Это энкодерная модель с проекционным слоем и головой сопоставления текста и кода; контрольная точка обучена на парах текста и кода из очищенного набора GitHub Code. В метаданных указаны 123,7 млн параметров и контекст до 512 токенов. Модель предназначена прежде всего для получения представлений кода и текста, которые можно использовать в задачах сопоставления и поиска по коду. Обучающие данные включают код на C, C++, C#, Go, Java, JavaScript, PHP, Python и Ruby. Кодовая карточка описывает семейство CodeT5+ и его режимы для понимания и генерации, однако данный чекпойнт обозначен как bimodal и извлекающий признаки, а не как специализированный генератор инструкций. Модель доступна под лицензией BSD-3-Clause. Авторы рекомендуют проверять её точность и безопасность перед применением: модель и обучающие данные не оценивались для всех возможных сценариев.

code-think-q8b-20260908 — это исследовательская версия Qwen3-8B-Base, дообученная modrill методом LoRA на трассах рассуждений Qwen3-30B-A3B-Thinking-2507 и затем объединённая в полные веса. Модель имеет плотную авторегрессионную архитектуру Qwen3ForCausalLM, около 7,6 млрд параметров и контекст до 32 768 токенов; для запуска объединённых весов PEFT не требуется. Чекпойнт предназначен для генерации кода и его решения с пошаговым рассуждением в режиме thinking. В оценке на 256 задачах LiveCodeBench-derived DEV256 он решил 81 задачу с pass@1; результат получен на одном seed и не является сопоставимой оценкой на лидерборде. В 130 генерациях сработал лимит длины в 32 тыс. токенов. Модель принимает текст и выдаёт текст, включая код. Лицензия — Apache-2.0, унаследованная от базовой модели.

Codetulu 2 7B — англоязычная модель-ассистент, разработанная AI2 и дообученная на базе codellama/CodeLlama-7b-hf. Это плотная авторегрессионная модель семейства Llama с 6,6 млрд параметров и контекстом до 8192 токенов. Обучение проводилось на смеси общедоступных, синтетических и созданных людьми данных Tulu V2, включая набор allenai/tulu-v2-sft-mixture. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы на английском языке. Её можно использовать для создания черновиков ответов, объяснений и обобщений, а также для помощи с программным кодом благодаря базовой CodeLlama. Для качественной генерации следует соблюдать формат ввода, описанный в карточке модели. Модель не проходила выравнивание безопасности на этапе RLHF и не использует фильтрацию ответов во время работы, поэтому может генерировать проблемный контент, особенно по соответствующему запросу. Лицензия — AI2 ImpACT Low-risk; перед использованием следует учитывать её условия.

CrystalChat-7B-Web2Code — мультимодальная модель на 7 млрд параметров, разработанная авторами проекта Web2Code на основе CrystalChat-7B. Она предназначена прежде всего для генерации HTML по изображениям веб-страниц, включая наброски от руки и снимки существующих сайтов. Модель использует визуальный энкодер CLIP ViT-L/14 с разрешением 336 пикселей и обучалась в два этапа по рецепту, сходному с LLaVA-v1.5 на базе Vicuna-7B. Также модель может отвечать на вопросы о содержимом веб-страниц. Модель принимает изображения и текстовые инструкции, а выдаёт текст, в том числе HTML-код. Основной язык карточки — английский; контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch и распространяется по лицензии MIT. Модель специализирована на веб-страницах, поэтому качество генерации для произвольных изображений и иных задач не следует считать подтверждённым.

GPT-CSRC — языковая модель GPT-2 с 774 млн параметров, обученная автором moyix на исходном коде C и C++ из 10 000 самых популярных пакетов Debian. Перед обучением исходные файлы дедуплицировали, чтобы уменьшить количество близких копий. Модель предназначена для генерации фрагментов кода и использовалась на сайте This Code Does Not Exist. Модель имеет архитектуру GPT2LMHeadModel и принимает текстовый контекст длиной до 1024 токенов, выдавая продолжение в виде текста с кодом. Для токенизации используется отдельный словарь, обученный на этом наборе данных; он доступен в репозитории. Веса изначально обучались с Megatron-LM, затем были преобразованы в формат Hugging Face Transformers. Репозиторий распространяется по лицензии CC0 1.0. Модель обучена на коде из пакетов Debian, поэтому её генерации могут содержать ошибки, небезопасные решения или фрагменты, похожие на обучающие данные; результат следует проверять перед использованием.

Cyber-Tiel-Coder-35B-A3B-MLX-oQ4e — квантованная MLX-версия модели CyberTiel, разработанная peculiar-ragdoll на базе Huihui-Ornith-1.5-35B-A3B-abliterated от huihui-ai. Это MoE-модель класса 35B-A3B с 4-битной квантизацией oMLX oQ4e, адаптированная для Apple Silicon и запуска через MLX. В модель также добавлена голова multi-token prediction (MTP) для ускорения генерации, а веса откалиброваны на специализированном корпусе для задач кибербезопасности и программирования. Указаны английский и китайский языки; README также помечает модель как vision и image-text-to-text, однако подробности поддерживаемых визуальных входов и размер контекста не приведены. Модель предназначена прежде всего для агентного программирования, автономного исправления ошибок в крупных кодовых базах, решения задач SWE и offensive security, включая CTF. По заявлению разработчика, она сочетает высокую способность к решению задач со скоростью, подходящей для маломощного оборудования и ограниченной памяти; размер файла составляет примерно 23 ГБ. Модель abliterated и uncensored, поэтому может генерировать контент, от которого другие модели отказываются, включая потенциально опасные инструкции. Это расширяет применимость в легитимных исследованиях безопасности, но повышает риски и требует изолированной среды, мониторинга и ответственного использования. Сборочные тесты и приведённые численные результаты относятся к другой, GGUF-версии, а не непосредственно к этому MLX-файлу, поэтому их нельзя считать точными измерениями данной сборки. Для запуска с MTP рекомендуется использовать oMLX. MTP-сборка некорректно работает в LM Studio и выдаёт бессмысленные многоязычные токены; для LM Studio следует выбрать GGUF-версию или MLX-сборку без MTP. Распространение разрешено по лицензии MIT.

DeepSeek Coder 1.3B Kexer — языковая модель для генерации и автодополнения программного кода, разработанная JetBrains на базе DeepSeek Coder 1.3B. Модель предназначена прежде всего для использования в качестве помощника программиста и инструмента завершения кода в IDE, с настройкой под язык Kotlin. Модель содержит около 1,3 млрд параметров и обучена на 15 тысячах синтетически сгенерированных упражнений по Kotlin из набора JetBrains/KExercises. Она поддерживает сценарий Fill-in-the-Middle (FIM), позволяющий генерировать код между заданным префиксом и суффиксом. Для модели не предусмотрены prompt template и system prompt; её следует использовать в режиме автодополнения. В README не указаны контекстное окно, перечень поддерживаемых языков помимо Kotlin и другие модальности, поэтому основное применение ограничено Kotlin-кодом. GGUF-квантизация выполнена bartowski на основе llama.cpp. На наборе MultiPL-HumanEval (Kotlin) указано значение pass@1 36,65. Сильной стороной модели является специализация на Kotlin и поддержка FIM, однако небольшой размер и ориентация на узкий сценарий могут ограничивать качество сложной генерации и работы с другими языками. Модель распространяется по лицензии Apache-2.0.

DeepSeek Coder 6.7B Kexer — языковая модель для генерации и автодополнения программного кода, разработанная JetBrains на основе DeepSeek Coder 6.7B. Модель предназначена исключительно для code completion и специально дообучена под Kotlin, поэтому подходит для использования в качестве программного ассистента и инструмента автодополнения в IDE. Модель содержит около 6,7 млрд параметров и обучена на 15 тысячах синтетически сгенерированных упражнений по Kotlin из набора JetBrains/KExercises. Она поддерживает FIM-токены для заполнения пропусков в коде, включая сценарии с заданными префиксом и суффиксом. Для модели не заявлены prompt template и system prompt; рекомендуется использовать её в режиме продолжения кода. В тесте MultiPL-HumanEval (Kotlin) указано значение pass@1 55,28%. Доступная версия — квантованный формат GGUF, подготовленный bartowski на основе llama.cpp. Сильная сторона модели — специализация на генерации Kotlin-кода и интеграции в сценарии автодополнения, однако она не предназначена для универсального диалога или широкого спектра языков, а заявленные данные не содержат сведений о размере контекста, поддерживаемых модальностях и детальных ограничениях качества. Модель распространяется по лицензии Apache-2.0.

AbuYahya2/deepseek-marsad — объединённая текстовая модель, созданная автором репозитория с помощью mergekit и метода TIES на основе deepseek-ai/DeepSeek-R1-Distill-Llama-8B с включением NousResearch/Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 7,5 млрд параметров; файлы представлены в формате safetensors, библиотека для работы — Transformers. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 131 072 токенов. Модель подходит для чат-ответов, математических задач, программирования и многошаговых рассуждений — эти возможности связаны с базовой моделью DeepSeek-R1-Distill-Llama-8B. В метаданных также отмечен интерфейс вызова инструментов. README описывает способ слияния, но не приводит оценки качества или отдельные результаты тестирования именно этой объединённой версии. Условия использования определяются лицензиями базовых моделей; сведения о лицензии в предоставленных данных отсутствуют.

collinzrj/DeepSeek-R1-Distill-Llama-8B-abliterate — версия DeepSeek-R1-Distill-Llama-8B с применённой abliteration; автор карточки сообщает, что при оценке HarmBench итоговый показатель вырос с 0,35 у базовой модели до 0,68. Модель основана на DeepSeek-R1-Distill-Llama-8B, разработанной DeepSeek и дистиллированной на данных рассуждений, и предназначена для генерации текста в диалогах, решения задач и других сценариев, где нужны рассуждения языковой модели. Это плотная причинная языковая модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Метаданные указывают контекст до 131 072 токенов, поддержку китайского и английского языков и формат весов safetensors. Указана лицензия MIT. Карточка содержит сравнение по HarmBench, но не описывает методику abliteration и не приводит полные результаты по всем категориям.

DeepSeek-R1-Distill-Llama-8B-abliterated — текстовая генеративная модель huihui-ai на архитектуре Llama, созданная методом abliteration на основе deepseek-ai/DeepSeek-R1-Distill-Llama-8B. Разработчик описывает её как экспериментальный вариант, в котором удалены отказы от ответов; базовая модель была дообучена на данных для рассуждений. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и многошаговых рассуждений, включая математические задачи и программирование — эти возможности унаследованы от базовой модели. В карточке также приведён способ использования через Ollama. README предупреждает, что удаление отказов реализовано грубо и служит доказательством концепции; поэтому поведение модели может быть менее безопасным. Условия лицензии в предоставленных данных не указаны.

unsloth/DeepSeek-R1-Distill-Qwen-32B-bnb-4bit — 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, опубликованная Unsloth на основе модели DeepSeek. Модель относится к семейству плотных языковых моделей, дистиллированных из DeepSeek-R1 и построенных на базе Qwen. Разработчики DeepSeek указывают, что эта версия предназначена для задач рассуждения и превосходит OpenAI o1-mini на ряде бенчмарков для плотных моделей. Модель ориентирована на решение сложных задач, включая математические рассуждения, программирование, пошаговый анализ и генерацию текста. В README заявлены способности, связанные с самопроверкой, рефлексией и построением длинных цепочек рассуждений. Указан размер 32B, библиотека Transformers и английский язык; сведения о поддерживаемых модальностях, размере контекста и точной архитектуре в предоставленных данных отсутствуют. Ключевое преимущество варианта — 4-битное представление, потенциально снижающее требования к памяти по сравнению с полноразмерными весами, однако README не содержит точных характеристик производительности или качества именно этой квантованной сборки. Возможными ограничениями являются зависимость результатов от качества квантования и отсутствие подтверждённых данных о контекстном окне и мультиязычности. Модель распространяется по лицензии Apache-2.0.

huihui-ai/DeepSeek-R1-Distill-Qwen-7B-abliterated-v2 — разговорная языковая модель на архитектуре Qwen2, созданная методом abliteration на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Разработчик описывает её как экспериментальную версию с уменьшенным количеством отказов при ответах; модель предназначена для диалогов и генерации текста. Размер — 7,1 млрд параметров, контекст — до 131 072 токенов. Работает через библиотеку Transformers, веса опубликованы в формате safetensors. Модель унаследовала от базовой дистиллированной модели DeepSeek возможности многошаговых рассуждений, включая задачи по математике и программированию. README называет abliteration грубой реализацией и демонстрацией концепции; в отдельных случаях модели может потребоваться пример, задающий формат ответа. Лицензия в предоставленных данных не указана.

unsloth/DeepSeek-R1-GGUF — GGUF-версия модели DeepSeek-R1, разработанной DeepSeek и подготовленной компанией Unsloth. Модель предназначена для локального запуска через llama.cpp и сценариев, требующих рассуждений, генерации и анализа текста, а также написания программного кода. В README указан английский язык; другие языки не заявлены. Модель использует архитектуру MoE и представлена в нескольких вариантах динамической квантизации: 1,58 бит, 1,73 бит, 2,22 бит и 2,51 бит. Размер файлов составляет примерно от 131 до 212 ГБ. Более точные варианты требуют больше дискового пространства, но характеризуются лучшей заявленной точностью: от Fair для 1,58-битной версии до Best для 2,51-битной. Для запуска рекомендуется llama.cpp; возможна частичная выгрузка слоёв на GPU. В примерах используется контекст 8192 токена, однако максимальный размер контекста в README не указан. К сильным сторонам относятся существенное уменьшение размера весов за счёт агрессивной квантизации, возможность локального запуска и наличие вариантов с разным компромиссом между качеством и требованиями к ресурсам. Ограничениями являются очень большой объём файлов даже у наиболее сжатых вариантов, необходимость совместимого оборудования и ПО, а также потенциальное снижение точности из-за низкой разрядности. Модель распространяется по лицензии MIT.

unsloth/DeepSeek-R1-GGUF-UD — это GGUF-квантизированная версия модели DeepSeek-R1, разработанной командой DeepSeek и подготовленной в формате динамической квантизации Unsloth Dynamic v2.0. Модель предназначена для локального запуска через llama.cpp и ориентирована на задачи рассуждений, генерации текста, программирования и диалогового использования. В README указан английский язык, библиотека Transformers и поддержка формата GGUF. Доступны варианты с эффективной разрядностью от 1,58 до 2,51 бит: UD-IQ1_S, UD-IQ1_M, UD-IQ2_XXS и UD-Q2_K_XL. Размер файлов составляет примерно от 131 до 212 ГБ. Квантизация выборочно применяет разные разрядности к компонентам MoE, чтобы сохранить больше точности по сравнению со стандартными 1-битными и 2-битными вариантами. В README приведены оценки качества от Fair до Best, однако архитектурные параметры, общее число параметров и размер контекста исходной модели не указаны; для примеров запуска используется контекст 8192 токена. Сильные стороны модели — возможность локального запуска, уменьшенный объём хранения относительно полной точности и повышенная точность благодаря динамической квантизации. Ограничениями являются очень большой размер даже у наиболее компактной версии, необходимость совместимого оборудования и llama.cpp, а также возможная потеря качества на низких уровнях квантизации. Для запуска рекомендуется использовать специальный chat template и параметр --min-p 0.05; доступна выгрузка части слоёв на GPU. Репозиторий распространяется по лицензии MIT.

NaniDAO разработала naniseek — языковую модель для генерации текста и диалогов с рассуждениями, полученную абляцией на основе DeepSeek-R1-Distill-Qwen-32B. Модель содержит 32 млрд параметров, использует архитектуру Qwen2 и принимает текст; заявленная длина контекста — до 131 072 токенов. Модель предназначена для диалоговых ответов и задач рассуждения, включая математику и программирование. По заявлению авторов, абляция снижает число отказов на допустимые запросы. Модель доступна в формате Safetensors под лицензией MIT. Карточка не приводит сравнительных оценок качества или подробностей метода абляции.

MJPansa/DeepSeek-V4-Flash-0731-NVFP4 — общественная конверсия официальной модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Конверсия сохраняет архитектуру, токенизатор, DSpark/MTP-конфигурацию, механизм внимания, shared experts, router, head и прочие компоненты исходной модели, изменяя представление весов маршрутизируемых экспертов на NVIDIA-style NVFP4. Репозиторий не связан с DeepSeek или NVIDIA и не является их официальным продуктом. Модель предназначена для сложных задач программирования, разработки с агентами, работы с инструментами, автоматизации, терминальных сценариев, математики, Triton, CUDA/Nsight и научных задач. Она относится к MoE-архитектурам и содержит 43 основных transformer-слоя; в структуру включён модуль speculative decoding. В README не указаны общий и активный размер модели, поддерживаемые языки и точный перечень модальностей. Заявлен максимальный контекст до 250 000 токенов в протестированной конфигурации. Сильная сторона версии — компактное представление маршрутизируемых экспертных весов NVFP4 при сохранении исходных 4-битных значений и проверенной совместимости с vLLM на двух системах NVIDIA DGX Spark с tensor parallelism. Работоспособность подтверждена загрузкой и базовой генерацией через OpenAI-compatible API, но это не является сертификацией производительности; протестированный eager-режим показал низкую скорость декодирования. Для запуска требуется совместимая инфраструктура NVIDIA, распределённая конфигурация vLLM и специальное кодирование сообщений, поскольку Jinja-шаблон чата не включён. Лицензия — MIT.

DeepSeek V4 Flash 0731 for one DGX Spark — это квантованная сборка модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и упакованная пользователем 0xSero. Модель предназначена для генерации текста и программного кода, структурированного вывода и работы через OpenAI-совместимый API. В README указана архитектура mixture-of-experts; сборка использует REAP pruning, формат EXL3/Trellis и точность около 3,0 bpw. Модель рассчитана на развёртывание на одном NVIDIA DGX Spark с GPU GB10/SM121 и 128 ГБ унифицированной памяти. Заявленный предел контекста составляет 262 144 токена. Для запуска требуется специализированный ARM64-совместимый runtime SparkInfer и опубликованный Docker-образ; стандартные vLLM, ExLlamaV3 и простой запуск с tensor parallelism 1 не поддерживаются для этого rank-sliced артефакта. Поставляемый runtime выполняет преобразование TP4-чекпойнта в TP1 и поддерживает CUDA Graphs и speculative decoding. К сильным сторонам относятся возможность локального запуска крупной MoE-модели на одном DGX Spark, проверенная генерация текста и кода, поддержка строгих JSON-схем и длинного контекста. Ограничения — жёсткая зависимость от конкретного оборудования и закреплённого runtime, значительный объём загрузки и дискового пространства, а также не полностью достигнутый целевой порог стабильной скорости декодирования: в одном из пяти измерений получено 34,30 токена в секунду. Лицензия модели указана как MIT.

DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная DeepSeek AI. Она создана на основе архитектуры DeepSeek-V4-Flash с добавлением визуальных модулей и дополнительным обучением для поддержки задач визуального понимания и мультимодальных агентных сценариев. Модель принимает текст и изображения; README также указывает поддержку OpenAI-совместимого формата сообщений и обработки изображений через специальные prompt-форматы. Модель предназначена для мультимодальных агентов, анализа изображений, графиков и других визуальных элементов, а также для текстовых агентных задач, включая работу с инструментами, репозиториями, терминалом и автоматизацией. По заявленным результатам она заметно превосходит DeepSeek-V4-Flash-0731 в ряде мультимодальных тестов, сохраняя сопоставимую производительность в текстовых агентных задачах. Среди технических компонентов упоминаются vision encoder, aligner, DFlash attention, Mixture-of-Experts, Hyper-Connections и DSpark; точные размер модели, длина контекста и перечень поддерживаемых языков в README не указаны. К ограничениям относятся экспериментальный статус, отсутствие в предоставленных данных подробных характеристик аппаратных требований, контекстного окна и языкового покрытия, а также неоднородные результаты на отдельных бенчмарках. Для запуска описаны минимальная реализация inference на PyTorch, интеграции с vLLM и SGLang; пример сервирования рассчитан на узел с четырьмя GPU GB300. Модель распространяется по лицензии MIT.

Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-MXFP4 — производственная MXFP4-версия экспериментальной мультимодальной модели DeepSeek-V4-Flash-Vision-Exp, разработанной DeepSeek-AI и подготовленной, проверенной и упакованной Solstice-AI. Модель предназначена для обработки текста и изображений, мультимодального рассуждения, анализа визуального содержания, генерации кода и задач, требующих работы с длинным контекстом. README также указывает совместимость с Transformers, vLLM, SGLang и TensorRT-LLM, а также готовность к speculative decoding через DSpark. Архитектура включает 305 млрд параметров в конфигурации Mixture-of-Experts, из которых 13 млрд активируются для каждого токена. Указаны 43 скрытых слоя, 256 маршрутизируемых экспертов с шестью активными на токен, Multi-Head Latent Attention и отдельный 32-слойный vision encoder. Заявлена поддержка контекста до 1 048 576 токенов. Основная часть экспертных весов предварительно обучена в формате OCP MXFP4, а исполнение использует схему W4A16: веса представлены в 4-битном формате, активации сохраняются в 16-битном BF16; ряд компонентов, включая vision encoder, маршрутизаторы и нормализации, сохраняется в более высокой точности. К сильным сторонам относятся высокая вычислительная и memory-bandwidth эффективность по сравнению с полноразмерным представлением, мультимодальность и очень длинное контекстное окно. Ограничения — значительный общий размер модели и требовательность к GPU-инфраструктуре: для практического развёртывания README рекомендует конфигурации от нескольких GPU, а полный контекст в 1 млн токенов рассчитан на крупные кластеры. Модель обозначена как экспериментальная, а приведённые в README результаты тестирования представлены неполностью. Лицензия — MIT.

netcat420/DEFUNCT-EXPERIMENT2_2 — слитая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES на основе Qwen/Qwen2.5-Math-7B с добавлением весов DeepSeek-R1-Distill-Qwen-7B и Qwen2.5-Coder-Scholar-7B-Abliterated-MFANN-Slerp-Unretrained. Модель содержит 7,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации текста и диалогов; состав базовых моделей указывает на сценарии с математическими рассуждениями и программированием. В метаданных также отмечен интерфейс вызова инструментов. Языки обучения или поддерживаемые естественные языки в доступных данных не определены. Это экспериментальный merge, поэтому качество и устойчивость поведения могут отличаться от исходных моделей. Лицензия в предоставленных данных не указана.

diff-codegen-6b-v2 — авторегрессионная модель генерации кода от CarperAI, дообученная на изменениях в репозиториях GitHub. Она принимает существующий фрагмент кода и описание требуемого изменения, например текст сообщения коммита, и предлагает правку в формате Unified Diff с добавленными, изменёнными и удалёнными строками. Модель основана на codegen-6B-mono от Salesforce и предназначена для прототипирования систем генерации изменений в коде. Модель работает с кодом на нескольких языках программирования и имеет контекст длиной 2048 токенов. Обучающий набор включал 19 миллионов коммитов из популярных открытых репозиториев; редкие языки представлены хуже. Модель является экспериментальным исследовательским артефактом: её вывод может содержать ошибки, уязвимости и нежелательный код, поэтому его нужно проверять и запускать в изолированной среде. Лицензия — MIT; авторы не рекомендуют коммерческое и критически важное применение.