II.3Рефакторинг, миграция и модернизация

Meta-Llama-3.1-8B-Instruct_CODE_Python_English_Asistant-16bit-v2-GGUF — GGUF-квантизированная версия модели Agnuxo, подготовленная mradermacher. Модель основана на Meta Llama 3.1 с 8 млрд параметров и предназначена для генерации текста и кода, прежде всего для задач программирования на Python, работы в роли ассистента разработчика и локального использования. В обучении или дообучении указаны наборы данных jtatman/python-code-dataset-500k и Vezora/Tested-143k-Python-Alpaca. Заявлены английский и испанский языки; модальность — текстовая. Размер контекста и дополнительные архитектурные характеристики в README не указаны. Репозиторий предоставляет варианты GGUF-квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 3,3 до 16,2 ГБ. Более компактные варианты требуют меньше памяти, но могут уступать по качеству; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q8_0 — как вариант высокого качества. Модель подходит для локального запуска при наличии совместимого ПО для GGUF, однако README не содержит результатов бенчмарков, подробной оценки качества, ограничений по безопасности или описания точности генерации. Лицензия указана как Apache-2.0. В README не приведены сведения о специальных требованиях к аппаратному обеспечению, поддерживаемых языках программирования помимо Python или точном происхождении базовой архитектуры за пределами ссылки на Meta Llama 3.1.

Ngixdev/OmniCoder-Qwen3.5-9B-Claude-4.6-Opus-Uncensored-v2-GGUF — это GGUF-модель на базе Qwen/Qwen3.5-9B, разработанной Alibaba Cloud. Она создана путём объединения модели Qwen3.5-9B-Uncensored-HauhauCS-Aggressive, Qwen3.5-9B-Claude-4.6-Opus-Reasoning-Distilled-v2 и OmniCoder-9B-GGUF; при слиянии изменялись только дообученные веса, подготовленные с помощью Unsloth, в формате float32. В карточке заявлены языки English, Chinese и Korean, а также поддержка сценариев image-text-to-text, хотя подробности о визуальной архитектуре не приведены. Модель ориентирована на рассуждения, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Версия v2 обучалась более чем на 14 000 образцах рассуждений в стиле Claude 4.6 Opus и оптимизировалась для сокращения избыточной длины цепочек рассуждений при сохранении или повышении точности. В README приведены заявленные результаты HumanEval и HumanEval+, включая более высокую эффективность рассуждений по сравнению с официальной Qwen3.5-9B, однако независимое подтверждение этих результатов отсутствует. Ключевые ограничения — неизвестные размер контекста и точные характеристики модальностей, а также возможное некоторое ухудшение широких универсальных возможностей из-за преимущественно общего, а не специализированного набора данных. Модель позиционируется как uncensored и может иметь минимальное количество отказов, что требует осторожности при использовании в чувствительных сценариях. Для работы рекомендуются LM Studio и специальные параметры генерации, но они не являются обязательными. Лицензия — Apache-2.0.

Open-MOPD-SmolLM3-3B-Final — англоязычная плотная языковая модель BytedTsinghua-SIA для генерации текста, дообученная методом онлайн-дистилляции с несколькими учителями. Модель основана на BytedTsinghua-SIA/Open-MOPD-SmolLM3-3B-MixSFT и имеет около 3,1 млрд параметров; архитектура — SmolLM3ForCausalLM. Репозиторий содержит веса safetensors, а карточка указывает лицензию Apache-2.0. Модель предназначена для решения математических задач, генерации кода и выполнения инструкций в диалоговом формате. Обучение использовало отдельных RL-учителей для этих трёх областей и маршрутизацию запросов к соответствующему учителю. Указанная длина контекста — 65 536 токенов; в оценивании использовалось до 32 768 токенов. В карточке приведены результаты на наборах AIME24/25, LiveCodeBench v5/v6, IFEval и IFBench_test. Модель поддерживает английский язык. Бенчмарк-карточка отмечает, что одиночная генерация с жадным декодированием не сопоставима с опубликованными результатами: для их воспроизведения требуется описанный протокол семплирования. Приведённые оценки отражают тестовые наборы и протокол карточки, а не гарантируют качество на других задачах.

Sara121/Ornith-1.0-9B-Engineering — плотная языковая модель семейства Qwen3.5, дообученная для ответов на инженерные вопросы. Она создана слиянием QLoRA-адаптера Epoch 2 с базовой моделью ornith-ai/Ornith-1.0-9B и опубликована как самостоятельная модель Transformers в формате Safetensors. Модель содержит 7,2 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для ответов на вопросы по инженерным темам и решения задач разработки. В оценке на фиксированной выборке из 902 примеров адаптер Epoch 2 превзошёл базовую модель по token F1; точное совпадение ответов оставалось низким. Лицензия — MIT. Результаты оценки основаны на лексических метриках и не подтверждают фактическую или нормативную корректность ответов. README рекомендует проверять модель перед применением в производстве и процессах, чувствительных к соблюдению требований.

Ornith-1.5-9B-OBLITERATED — модифицированная версия Ornith-1.5-9B, разработанного DeepReinforce. Модель доработана проектом OBLITERATUS и собрана Pliny the Prompter с применением precision abliteration surgery — удаления поведенческих направлений, связанных с отказами на потенциально опасные запросы. Она предназначена для генерации текста, программирования, рассуждений, исследовательских задач в области alignment и red teaming, а также агентских сценариев и автоматизации. Модель содержит около 9 млрд параметров и использует гибридную архитектуру Qwen3.5 с Gated DeltaNet и полными attention-слоями; редактированию подверглись все 32 трансформерных слоя. Заявлен английский язык, поддерживаются обычный и thinking-режимы, а также текстовая генерация. В репозитории доступны полноточные bf16-веса и варианты GGUF размером от Q2_K до Q8_0; для максимального сохранения характеристик рекомендуются Q8_0 и Q6_K. Указан контекст размером 8192 токена для примера запуска через llama.cpp, однако общий максимальный контекст README явно не подтверждает. Сильной стороной является существенно сниженная склонность к отказам при сохранении возможностей программирования, рассуждений и базовых агентских задач: в приведённых тестах модель показала 3/3 в генерации кода и 5/6 в тесте связности длинного контекста. Ограничения включают падение MMLU примерно на 4 процентных пункта относительно базовой модели, возможные дополнительные отказы в низкобитных квантизациях, частично ухудшенное function calling и риск галлюцинаций в сложных химических и синтетических сценариях. Модель распространяется по лицензии MIT; из-за удаления защитных ограничений результаты требуют независимой проверки и ответственного применения.

unsloth/Phi-4-reasoning-plus-GGUF — GGUF-версия модели Phi-4-reasoning-plus, разработанной Microsoft Research и подготовленной для распространения Unsloth. Это открытая по весам текстовая модель генерации для диалогов и задач, требующих рассуждений, прежде всего математики, естественных наук и программирования. Модель дообучалась методом supervised fine-tuning на синтетических и отфильтрованных общедоступных данных, а также с применением reinforcement learning. В основе лежит плотная decoder-only Transformer-архитектура с 14 млрд параметров и контекстом до 32 тыс. токенов. Модель принимает текстовые запросы, предпочтительно в формате чата, и генерирует текстовые ответы на английском языке. Ответы состоят из блока цепочки рассуждений и последующего блока суммаризации. Версия GGUF предназначена для запуска в совместимых инструментах, включая llama.cpp; для включения режима рассуждений в llama.cpp требуется параметр --jinja. Сильной стороной модели является повышенная точность благодаря дополнительному reinforcement learning и специализации на сложных задачах рассуждения, математике, науке и коде. Ограничением служит более высокая задержка: модель в среднем генерирует примерно на 50% больше токенов. README не содержит отдельной информации о специфических ограничениях качества или требованиях к аппаратным ресурсам именно этой GGUF-квантизации. Указанная лицензия — MIT.

Qodo-Embed-1-7B — модель эмбеддингов кода, разработанная Qodo для поиска по программному коду. Она дообучена на базе Alibaba-NLP/gte-Qwen2-7B-instruct и использует архитектуру Qwen2 с 7,1 млрд параметров. Модель преобразует текстовые запросы и фрагменты кода в векторы размерностью 3584 для поиска естественным языком по коду и поиска похожего кода. Модель предназначена для поиска кода, извлечения контекста для RAG и семантического сопоставления кода. README заявляет поддержку Python, C++, C#, Go, Java, JavaScript, PHP, Ruby и TypeScript. Метаданные указывают контекст до 131 072 токенов; README сообщает максимальный размер входа 32 тыс. токенов. Для работы через Transformers указаны зависимости transformers и flash_attn. Репозиторий содержит веса safetensors и имеет лицензию other, поэтому условия использования следует сверять с карточкой модели.

6block/Qwen3-30B-A3B-GGUF — это квантизированная GGUF-версия модели Qwen3-30B-A3B, разработанной командой Qwen и подготовленной пользователем 6block. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio, Ollama и совместимые проекты. Доступны варианты квантования Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_XS, IQ3_M и Q2_K с размером файлов примерно от 11,26 до 32,48 ГБ, что позволяет выбирать компромисс между качеством, требованиями к памяти и скоростью работы. Квантизация выполнена с использованием imatrix и двуязычного англо-китайского набора данных с большим количеством программного кода, поэтому младшие варианты квантования должны лучше сохранять способности к работе с китайским языком и кодом по сравнению с калибровкой только на английских данных. Заявлены английский и китайский языки; другие модальности, размер контекста и точная архитектура в README не указаны. Модель ориентирована на локальные сценарии текстовой генерации и программирования, но низкобитные варианты могут заметно уступать по качеству более крупным квантам. Распространяется по лицензии Apache-2.0.

Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NEO-CODER-MAX-MTP-GGUF — модель семейства Qwen3.8 с 27 млрд параметров, представленная в виде GGUF-квантовок. По README, это многоэтапная fine-tune-модель и результат объединения нескольких обученных версий, созданная с использованием Unsloth, методов Cold Fusion и Fable Fusion. В репозитории доступны обычные GGUF-варианты и варианты с MTP, включая 4- и 8-битные квантовки. Заявлены поддержка английского и китайского языков; максимальный размер контекста не указан. Метаданные также содержат тег image-text-to-text, однако подробности мультимодальных возможностей не приведены. Модель ориентирована на широкий спектр сценариев: решение задач и рассуждение, программирование, творческое письмо, художественную прозу, ролевые диалоги и другие универсальные задачи. Основной заявленный акцент — повышение качества при одновременном сокращении объёма внутренних thinking-токенов, что должно уменьшать задержку и расход вычислительных ресурсов. Автор README заявляет превосходство над базовой Qwen3.8-27B и рядом других моделей по семи ключевым бенчмаркам, а также высокие результаты ARC-C и ARC-E, но эти утверждения требуют независимой проверки. К сильным сторонам относятся ориентация на потребительское оборудование, наличие разных уровней квантования, поддержка MTP и заявленное сочетание подробных ответов с более быстрым выводом. Ограничения включают отсутствие в README точных сведений о контекстном окне, архитектурных деталях, системных требованиях, качестве мультимодальной обработки и воспроизводимых результатах тестов. Модель распространяется по лицензии Apache-2.0.

QuantFactory/starcoder2-15b-instruct-v0.1-GGUF — квантизированная версия модели StarCoder2-15B-Instruct-v0.1, разработанной проектом BigCode и созданной с использованием llama.cpp. Это языковая модель для генерации текста и кода, дообученная методом самосогласования на наборе self-oss-instruct-sc2-exec-filter-50k, где StarCoder2 генерировала пары инструкций и ответов без человеческой разметки и дистилляции из проприетарных моделей. Модель предназначена прежде всего для однократного выполнения инструкций, связанных с программированием: генерации Python-кода, решения задач, исправления программ и предсказания результатов выполнения. Она имеет размер 15 млрд параметров и распространяется в формате GGUF, удобном для запуска через совместимые инструменты на базе llama.cpp. В README указана длина последовательности обучения 1280 токенов; сведения о полном контекстном окне, поддерживаемых языках и конкретном варианте квантизации отсутствуют. Сильной стороной модели является ориентация на код, который можно проверять выполнением; на приведённых тестах она показывает pass@1 72,6% на HumanEval, 75,2% на MBPP и 40,6% на DS-1000. Ограничения включают меньшую надёжность при работе с форматами вывода, другими языками программирования и задачами за пределами распределения обучения; для управления форматом рекомендуется использовать префикс ответа или пример. Модель распространяется по лицензии bigcode-openrail-m.

Карточка модели Jiunsong/SuperGemma-4-12b-abliterated на Hugging Face совпадает с карточкой enkato64bit/SuperGemma-4-12b-abliterated, поэтому описание составлено по ней. SuperGemma-4-12b-abliterated — дообученный инструкционный чекпойнт на 12 млрд параметров, созданный на основе google/gemma-4-12B-it. Разработчик объединил обработку направления отказов в весовом пространстве с дополнительным постобучением для следования инструкциям, программирования, технических ответов на корейском языке, форматирования JSON и вызовов инструментов. Модель распространяется как единый чекпойнт без необходимости подключать адаптер во время работы. Модель предназначена для диалогов, выполнения инструкций и генерации кода. README описывает снижение лишних отказов и приводит результаты внутренних и публичных проверок, однако они не гарантируют качество на других запросах. В метаданных также заявлена мультимодальная архитектура семейства Gemma 4 с возможностью работы с изображениями, видео и аудио у базовой модели; явное подтверждение этих входов для данного чекпойнта в README отсутствует. Модель загружается через Transformers, веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка указывает английский и корейский языки; дополнительное постобучение особенно ориентировано на технические ответы на корейском.

Agnuxo/Agente-Llama-3.1-Asistant-16bit-v2 — локальная чат-модель для генерации текста и сценариев автономного агента, опубликованная независимым исследователем Франсиско Ангуло де ла Фуэнте. По метаданным, это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса Safetensors, а карточка описывает запуск через Ollama и Transformers. Модель позиционируется для диалога, декомпозиции задач, генерации кода и научных текстов, а также координации агентов через MCP и A2A. В карточке заявлены навыки работы с Python, JavaScript, TypeScript, Rust, Go и C++, но эти заявления не сопровождаются описанием обучения или результатами оценки. Указаны английский и испанский языки. Лицензия — Apache-2.0.

all-MiniLM-L6-v2-code-search-512 — компактная модель Sentence Transformers, дообученная для семантического поиска по коду. Она преобразует текстовые запросы на естественном языке и фрагменты исходного кода в векторы общего пространства, чтобы находить подходящие участки кода, сопоставлять код с документацией и сравнивать фрагменты. Модель разработана автором репозитория isuruwijesiri на основе sentence-transformers/all-MiniLM-L6-v2 и обучена на парах кода и документации из CodeSearchNet. Это плотный энкодер архитектуры BERT с 25,9 млн параметров по метаданным. Максимальная длина входа — 512 токенов; поддерживаются запросы на естественном языке и код на Python, Java, JavaScript, PHP, Ruby, Go и других языках из CodeSearchNet. В README для валидационной выборки CodeSearchNet заявлены Accuracy@1 90,3% и MRR@10 0,9259. Модель подходит для поиска кода, поиска по документации, сопоставления запросов и фрагментов кода, а также кластеризации по сходству. Она предназначена для получения эмбеддингов и оценки семантического сходства, а не для генерации или автодополнения кода; входы длиннее 512 токенов обрезаются, а качество может различаться между языками программирования. Лицензия — Apache-2.0.

CodeLlama-70b-Python-hf — разработанная Meta генеративная модель для синтеза и понимания кода, специализированная на Python. Это авторегрессионный трансформер семейства Llama с плотной архитектурой и 68,7 млрд параметров; репозиторий содержит веса в форматах PyTorch и safetensors. Модель принимает текст и генерирует текст, поддерживает контекст длиной 4096 токенов. Модель подходит для автодополнения кода, генерации фрагментов Python и помощи в разборе программного кода. Она не предназначена для диалогового режима или следования инструкциям; заявленная область использования — английский язык и языки программирования. Карточка указывает, что это неофициальный репозиторий Code Llama. Использование регулируется лицензией Meta Llama 2.

ClaudioItaly/CoderQ — языковая модель для генерации кода и диалогового взаимодействия, опубликованная пользователем ClaudioItaly. Репозиторий описывает её как слияние моделей методом TIES через mergekit на базе Qwen/Qwen2.5-Coder-7B-Instruct; в конфигурации трижды указана одна и та же базовая модель. Архитектура — плотная Qwen2ForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель принимает текстовые запросы и генерирует текст, включая код; репозиторий использует формат safetensors и библиотеку Transformers. Модель подходит для генерации и исправления кода, а также для ответов на инструкции в чате. Карточка не описывает отдельные тесты качества или специализированные области применения. Условия лицензии в предоставленных данных не приведены.

Crystal (ранее CrystalCoder) — языковая модель с 7 млрд параметров из серии Pebble, разработанной инициативой LLM360. Это плотная GPT-подобная модель на архитектуре, близкой к LLaMA-7B, с модификациями maximal update parameterization (muP). Модель обучена на SlimPajama и StarCoder; в последнем этапе использовались дополнительные данные Python и веб-кода. Репозиторий содержит веса PyTorch, лицензия — Apache 2.0. Модель предназначена для генерации текста и кода, включая дополнение программ и решение задач на программирование. Карточка сообщает о результатах на англоязычных и кодовых тестах MMLU, HumanEval и MBPP. Размер контекста и длина обучения последовательностей составляют 2048 токенов; основной язык — английский. Модель объединяет общие языковые и кодовые возможности, однако её контекст ограничен 2048 токенами, а заявление о превосходстве над LLaMA 2 относится лишь к отдельным задачам и приведённым в карточке оценкам.

DeepCoder-14B-Preview — языковая модель для рассуждений и генерации кода, разработанная Agentica и дообученная с помощью распределённого обучения с подкреплением на базе DeepSeek-R1-Distill-Qwen-14B. Модель построена на архитектуре Qwen2, содержит 14 млрд параметров и принимает текстовые запросы, выдавая текстовые ответы с кодом и рассуждениями. Метаданные указывают контекст до 131 072 токенов. Модель предназначена для решения задач программирования, включая генерацию кода и соревнованийные задачи. В README сообщается о результатах на LiveCodeBench v5, Codeforces и HumanEval+; для длинных ответов рекомендуется выделять не менее 64 000 токенов генерации. Модель доступна под лицензией MIT. Ограничения: это предварительная версия, а длинные ответы могут обрезаться при низком лимите генерации, что снижает результативность.

Gallium-350M — компактная языковая модель для генерации кода и рассуждений о программировании, созданная на базе LiquidAI/LFM2.5-350M. Это плотная авторегрессионная модель семейства LFM2; метаданные указывают 443,4 млн параметров, формат safetensors и контекст до 128 000 токенов. Модель принимает текстовые запросы и выдаёт текстовые ответы в диалоговом формате. Модель дообучена на наборе Banaxi-Tech/Deepseek-V4-Reasoning-Code-2500 с помощью SFT, затем дополнительно обучена методом GRPO. Она предназначена для генерации фрагментов и длинных программ по описанию на естественном языке, выполнения инструкций, ответов на вопросы по программированию и рассуждений над кодом. Карточка заявляет поддержку основных языков программирования, но естественный язык в метаданных указан как английский. Разработчик характеризует модель как экспериментальную и предупреждает, что её следует использовать с учётом этого статуса. Заявления о повышении качества и снижении галлюцинаций исходят из карточки модели и не сопровождаются здесь независимыми оценками. Лицензия указана как other; конкретные условия использования следует сверить с лицензией репозитория.

grug-35b-v2 — разговорная модель для генерации текста и диалогов, разработанная ProCreations на базе Ornith-1.0-35B от DeepReinforce. Это дообученная модель семейства Qwen3.5 MoE; по карточке, обучение использовало LoRA для attention, DeltaNet и общие пути, затем веса были объединены в bf16 и продолжено дообучение на данных для длинных агентных сессий и сложных рассуждений. Метаданные указывают формат safetensors и поддержку чата. Модель формирует внутренние рассуждения в стиле grug между специальными разделителями, а итоговые ответы — на обычном английском. Она предназначена для генерации кода и решения математических задач с меньшим расходом токенов, а также для агентных сценариев с вызовом инструментов. В README приведены результаты HumanEval, MBPP, GSM8K и MATH-500, а также сравнительные замеры числа токенов; это результаты автора и они зависят от использованного тестового окружения. В описании отмечены снижение точности относительно базовой модели на HumanEval и MBPP, а также меньшая частота выбора вызова инструмента: при сделанном вызове автор сообщает о высокой корректности аргументов и выбора инструмента. Указана лицензия Apache-2.0. Для запуска автор приводит пример с vLLM и ограничением контекста в 32768 токенов; это параметр команды запуска, а не заявленная максимальная длина контекста модели.

Heartly Qwen-Code v3 — дообученная разговорная языковая модель для генерации и обсуждения кода, разработанная автором репозитория eivintobias на основе Qwen2.5-Coder-1.5B. Она использует архитектуру Qwen2 dense с 1,5 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель обучена полным дообучением в формате fp16 на 5 200 разговорных примерах; в карточке описан специальный формат вывода Heartly, предназначенный для снижения галлюцинаций, а также инструменты для очистки ответа перед показом пользователю. Модель подходит для диалоговых запросов о коде, включая написание и исправление программ. Для работы с сырым выводом может потребоваться обработчик, который удаляет служебную грамматику Heartly; README предупреждает, что некоторые интерфейсы могут некорректно отображать её теги. Репозиторий распространяется по лицензии MIT.

HelpingAI-Lite-1.5T — языковая модель семейства Llama, разработанная OEvortex и предназначенная для генерации текста, диалогов и помощи с программированием. По карточке модели, она обучена на корпусе объёмом 1,5 трлн токенов; метаданные указывают 1 млрд параметров, архитектуру LlamaForCausalLM и контекст длиной 2048 токенов. Модель работает с текстом и ориентирована на английский язык. В обучающих данных указаны SlimPajama, UltraChat, StarCoderData, UltraFeedback, vortex-mini и OpenOrca. Модель доступна в форматах PyTorch и Safetensors через Transformers. Лицензия — HelpingAI Simplified Universal License (HSUL); условия следует проверять в тексте лицензии перед использованием.

jina-code-embeddings-0.5b — модель эмбеддингов для поиска по коду, разработанная Jina AI и дообученная на базе Qwen/Qwen2.5-Coder-0.5B. Она предназначена для поиска по запросу на естественном языке в коде, поиска похожих фрагментов кода, поиска описания по коду и подбора продолжения кода. Модель также поддерживает ответы на технические вопросы, связанные с программированием. Архитектура — плотная Qwen2, около 494 млн параметров; модель использует библиотеку Transformers и принимает контекст до 32 768 токенов. Для пяти типов задач предусмотрены отдельные префиксы инструкций, выбираемые при инференсе. Эмбеддинги имеют размерность 896 по умолчанию; её можно уменьшить до 64 с небольшим снижением качества. Заявлена поддержка более 15 языков программирования и сценариев разработки, машинного обучения, анализа данных и обучения программированию. Модель подходит для построения поиска и извлечения релевантного кода, однако README не приводит численных результатов оценки качества. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

Это производный чекпойнт DeepSeek-V4.1-Flash, опубликованный drowzeys и подготовленный для запуска на компьютере Mac Studio с M3 Ultra и 256 ГБ памяти через oMLX и MLX. В README описана модель DeepSeek-V4.1-Flash размером 763 млрд параметров с архитектурой MoE и разреженным вниманием; для этого варианта веса маршрутизируемых экспертов в 27 из 40 слоёв переквантованы с 3 до 2 бит, чтобы снизить занимаемую память. Метаданные указывают формат safetensors и базовый репозиторий Jundot/DeepSeek-V4.1-Flash-oQ3e-mtp. Модель предназначена для генерации текста, в том числе кода и длинных ответов, с запуском локально на Apple Silicon. README сообщает о проверке контекста до 404 805 токенов и приводит замеры скорости для прозы и кода на конкретной конфигурации M3 Ultra. Для работы требуются значительный объём объединённой памяти и настройка системного лимита памяти GPU; описаны также ограничения пропускной способности при параллельных запросах и снижение точности спекулятивного декодирования из-за квантизации. Лицензия в предоставленных данных не указана.

EpistemeAI/Math-Code-Llama3.1-8B — дообученная EpistemeAI модель на архитектуре Llama 3.1, разработанная для генерации текста и помощи в задачах математики и программирования. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с 7,5 млрд параметров и контекстом до 131 072 токенов; веса доступны в форматах PyTorch и Safetensors. Модель подходит для генерации и объяснения кода, решения математических задач и диалоговой помощи по этим темам. В карточке указаны возможности базового семейства Llama 3.1: текстовый ввод и вывод, поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Специальные результаты или бенчмарки именно этой производной модели не приведены. Для репозитория указана лицензия Apache 2.0. Ограничения качества и безопасности генеративных ответов следует учитывать при использовании; карточка также предупреждает, что базовая модель статична и обучена на офлайн-данных.

RoroMachine14/nanbeige-4.1-3b-deepseek-distilled — дообученная версия Nanbeige4.1-3B, созданная автором RoroMachine14 на датасете sequelbox/Tachibana4-DeepSeek-V4-Pro. Модель относится к классу text-generation и предназначена для генерации текста, структурированного рассуждения, решения математических задач, включая суммирование и интегрирование, а также написания кода с пошаговым объяснением. Модель содержит около 3 млрд параметров и наследует встроенную способность Nanbeige4.1 к reasoning/thinking, усиленную трассами рассуждений DeepSeek-V4-Pro в задачах программирования и математики. Заявлена поддержка английского и китайского языков. Модель может запускаться на пользовательском оборудовании через transformers или llama.cpp, что делает её пригодной для локального использования при ограниченных аппаратных ресурсах. Данные о размере контекста, поддерживаемых модальностях, конкретных ограничениях качества и дополнительных требованиях отсутствуют. Распространяется по лицензии Apache-2.0.

Undi95/Nous-Hermes-13B-Code — языковая модель генерации текста на архитектуре Llama с 12,9 млрд параметров. Она создана слиянием Nous-Hermes-Llama2-13b с LoRA-адаптером для кода из jondurbin/airoboros-lmoe-13b-2.1/adapters/code: README указывает веса слияния 0,70 и 0,30 соответственно. Модель предназначена для генерации кода и другого текста по текстовым запросам. Контекст составляет до 4096 токенов; репозиторий содержит веса PyTorch. По приведённым сведениям нельзя установить поддерживаемые естественные языки или конкретные языки программирования. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результаты оценки в README приведены для отдельных бенчмарков и сами по себе не гарантируют качество на пользовательских задачах.

Это 4-битная версия модели OpenCodeInterpreter-DS-33B, преобразованная сообществом mlx-community из m-a-p/OpenCodeInterpreter-DS-33B в формат MLX для запуска на устройствах Apple Silicon с помощью mlx-lm. Модель основана на плотной архитектуре Llama и содержит 33,1 млрд параметров; длина контекста — 16 384 токена. Модель предназначена для диалоговой генерации текста и помощи с программированием на английском языке. Её можно использовать для написания, объяснения и отладки кода в сценариях общения с ассистентом. README отсылает к исходной карточке OpenCodeInterpreter-DS-33B за подробностями о возможностях. Это преобразование и квантизация до 4 бит для MLX, что снижает требования к памяти при запуске, но может повлиять на точность относительно исходной модели. Модель распространяется по лицензии исходного репозитория; сведения о лицензии в предоставленных данных отсутствуют.

OpenHermes-2.5-Code-290k-13B — полноразмерная дообученная модель ajibawa-2023 на базе Llama 2 от Meta. Она обучена на смеси OpenHermes-2.5 и набора Code-290k-ShareGPT, включающей синтетические диалоги и инструкции; карточка сообщает примерно о 1,29 млн разговоров в объединённом наборе. Модель предназначена для генерации кода и ответов в формате диалога, а также для написания историй, блогов и ответов на вопросы. Модель использует плотную архитектуру Llama с 12,9 млрд параметров и контекстом 4096 токенов. В метаданных указан английский язык; заявленная лицензия — Apache-2.0. Карточка описывает её как улучшенную для программирования, но не приводит примеров выходов, а результаты оценки в README представлены лишь частично, поэтому качество для конкретных задач следует проверять отдельно.

Open-Instruct Code Alpaca 7B — модель Allen Institute for AI, полученная дообучением LLaMA на наборе инструкций Code Alpaca. Это плотная авторегрессионная языковая модель семейства LLaMA примерно на 6,6 млрд параметров, рассчитанная на генерацию текста по инструкциям, в том числе на помощь с задачами программирования. Карточка сообщает, что это diff-модель: для её использования требуется исходная модель LLaMA в формате Hugging Face. Контекст составляет 2048 токенов, основной язык — английский. Модель исследовалась в работе «How Far Can Camels Go? Exploring the State of Instruction Tuning on Open Resources». В приведённых результатах Codex-Eval Pass@1 составляет 16,5, а Pass@10 — 29,2; эти оценки относятся к указанным в статье условиям тестирования. Репозиторий распространяется по лицензии AI model license вместе с исходной лицензией LLaMA, поэтому при использовании необходимо учитывать обе лицензии.

AkshithAI разработала project-828-gpt-base — авторегрессионную языковую модель на базе decoder-only Transformer с причинным декодированием и MoE-слоями. В модели 398,7 млн параметров, из которых около 286 млн активны при обработке каждого токена; маршрутизатор выбирает два из четырёх специализированных экспертов и использует общего эксперта. Модель рассчитана на генерацию кода и технические рассуждения, а также обучалась на данных общего назначения, математики и инженерии. В архитектуре применяются GQA, нормализация QK, SwiGLU и RoPE с расширением контекста YaRN: базовая длина контекста — 2048 токенов, с расширением — до 8192. Карточка указывает поддержку английского языка и способность работать с кодом. Репозиторий использует формат safetensors и библиотеку Transformers; лицензия — Apache-2.0. README не приводит результаты сравнительных оценок качества, поэтому пригодность для конкретного языка программирования или сложных технических задач следует проверять на собственных примерах.