II.4Отладка, тестирование и качество ПО

Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-math — экспериментальная дообученная языковая модель от EpistemeAI на архитектуре Llama 3.1. Она предназначена для диалогового применения в задачах математики, программирования и работы в роли агента; заявлены сценарии с поиском, калькулятором и подходом ReAct, а также интеграция с LangChain, LlamaIndex и Ollama, в том числе для RAG. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README рекомендуется использовать отдельный механизм проверки безопасности входов и выходов; приведённые результаты оценки ограничены отдельными бенчмарками и не гарантируют качество в конкретных задачах. Модель лицензирована по Apache-2.0.

Gemma-2-2b-All-in-One — объединённая разговорная языковая модель семейства Gemma 2, созданная bunnycore с помощью mergekit и метода Model Stock. В основе объединения лежит IlyaGusev/gemma-2-2b-it-abliterated; также включены модели и адаптеры для смешанных задач, кода и диалогов. Модель содержит 2,7 млрд параметров, использует плотную архитектуру Gemma2ForCausalLM и работает с контекстом до 8192 токенов. Модель предназначена для генерации текста в диалоге, ответов на вопросы и помощи с кодом. В метаданных указана поддержка чата и текстовой генерации; дополнительных входных модальностей не заявлено. Карточка не перечисляет языки, поэтому нельзя определить приоритетный язык. Веса опубликованы в формате safetensors и имеют тип bfloat16. Результат слияния объединяет несколько моделей с разными настройками и возможностями, поэтому качество может различаться в зависимости от задачи. Лицензия в предоставленных данных не указана.

HikmaAI DistilBERT PII NER — модель HikmaAI на базе DistilBERT, дообученная для обнаружения персональных данных в тексте. Она выполняет токенную классификацию с BIO-разметкой и распознаёт 17 типов сущностей, включая имена, фамилии, даты рождения, финансовые и контактные данные. Модель обучена на датасете ai4privacy/pii-masking-400k для английского, итальянского, французского, немецкого, испанского и нидерландского языков; максимальная длина последовательности — 512 токенов. Модель подходит для локального выявления PII в системах защиты данных и шлюзах безопасности ИИ. Она выделяет фрагменты и типы сущностей, а прикладная система может использовать результаты для подсчёта, маскирования или фильтрации данных. Доступны веса safetensors и формат ONNX; README описывает динамическую INT8-квантизацию для ONNX Runtime. Лицензия — Apache-2.0. Ограничения: качество для языков, кроме шести языков обучения, не проверено; тексты длиннее 512 токенов нужно делить на фрагменты. Для хорошо структурированных значений, например адресов электронной почты, телефонов и номеров карт, регулярные выражения могут быть эффективнее; INT8-квантизация может немного снизить точность на сложных примерах.

dealignai выпустила Laguna-XS-2.1-JANG_4M-CRACK — текстовую MoE-модель для диалогов и агентного программирования, полученную дообучением Poolside Laguna-XS-2.1, удалением отказов на уровне весов и смешанной квантизацией JANG для MLX. В README указаны 33 млрд параметров всего и около 3 млрд активных; метаданные каталога указывают 2,6 млрд параметров. Модель предназначена для работы на Apple Silicon через vMLX или совместимую среду MLX и поддерживает вызов инструментов. Модель принимает текст, выдаёт текст, поддерживает английский язык и контекст до 262 144 токенов. В README заявлены режимы рассуждения и прямых ответов, а также результаты оценок MMLU и HarmBench; это результаты, сообщённые автором. Для генерации автор рекомендует явно задавать temperature=1.0, top_p=1.0 и top_k=20, поскольку некоторые среды не учитывают параметры из конфигурационных файлов. Удаление отказов означает, что модель может выполнять запросы без стандартного поведения отказа. Лицензия обозначена как other, поэтому конкретные условия использования следует проверять в репозитории модели.

lexi-coder-v4.4 — языковая модель Reallexi LLC, созданная на платформе Reallexi AI Model Builder для генерации кода и диалогового взаимодействия. Это плотная авторегрессионная модель семейства Phi-3 с 3,85 млрд параметров; README описывает дообучение LoRA с последующим объединением адаптера с базовыми весами, поэтому отдельный PEFT-адаптер при запуске не требуется. Базовая модель — reallexi/lexi-coder-v4.3. Модель принимает текст и генерирует текст. В README указана обученная длина контекста 2 048 токенов, тогда как метаданные каталога указывают нативный контекст 4 096 токенов. Репозиторий содержит веса Safetensors и GGUF Q4_K_M. Примеры сравнивают ответы на программные запросы до и после обучения, но прямо обозначены как иллюстрации, а не бенчмарк. Лицензия обозначена как other; README указывает авторские права Reallexi LLC, но не приводит подробных условий лицензии. Оценка качества на независимых тестах и гарантии пригодности для конкретных сценариев не представлены.

Это квантованная версия MXFP4_MOE модели trohrbaugh/Ling-3.0-flash-heretic в формате GGUF, подготовленная для запуска через llama.cpp. Базовая модель — вариант Ling-3.0-flash с аблитерацией, предназначенный для диалоговой генерации текста, программирования и агентных задач с длинным контекстом. Модель принимает текст и генерирует текст в диалоге. В README приведено сравнение с исходной моделью: KL-дивергенция составляет 0,0526, а в тесте из 100 запросов зафиксировано 0 отказов против 87 у оригинала. Эти результаты относятся только к указанному сравнению; размер модели, поддерживаемые языки и длина контекста в доступных данных не приведены. README рекомендует использовать актуальную версию llama.cpp. Лицензия в доступных данных не указана.

LLAMA 3 8B Redmond CODE 290K — языковая модель для генерации кода и пояснений, созданная дообучением NousResearch/Meta-Llama-3-8B командой artificialguybr при поддержке Redmond.ai. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров; она принимает текстовые запросы и рассчитана на контекст до 8192 токенов. Модель предназначена для помощи в программировании, обучении и подготовке документации. В README заявлена генерация кода и объяснений для Python, Java, JavaScript, Go, C++, Rust, Ruby, SQL, MySQL, R, Julia, Haskell и других языков программирования. Для дообучения использован набор ajibawa-2023/Code-290k-ShareGPT примерно из 290 тысяч диалогов в формате Vicuna/ShareGPT. Файлы модели опубликованы в формате safetensors; лицензия в доступных данных не указана.

MedIT-Mesh-3B-Instruct — дообученная инструктивная языковая модель, разработанная MedIT Solutions на базе microsoft/Phi-3.5-mini-instruct. Она содержит 3,7 млрд параметров и предназначена для диалогов и генерации текста, в том числе в сценариях с ограниченными ресурсами и требованиями к низкой задержке. По данным карточки, дополнительное постобучение улучшило многоязычные и многоходовые диалоги, а также рассуждения в задачах программирования, математики и логики. Модель использует плотную архитектуру Phi-3 и принимает текст, формируя текстовые ответы; заявленная длина контекста — 4096 токенов. Карточка указывает английский язык, а описание заявляет многоязычное применение без перечисления дополнительных языков. Модель распространяется по лицензии MIT. Перед применением в конкретной задаче следует оценить точность, безопасность и справедливость ответов.

Mermaid-Coder-Llama-3-8B — объединённая модель генерации текста на базе Llama 3, созданная TroyDoesAI методом SLERP с помощью mergekit. Она объединяет две модели, дообученные для генерации кода и выполнения инструкций, поэтому подходит для ответов на запросы о коде и создания кода по описанию. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и принимает текстовые запросы, выдавая текст. Родной контекст составляет 8192 токена. Для работы нужны веса в формате safetensors и библиотека Transformers. Доступна по лицензии базовых моделей; сведения о конкретной лицензии в предоставленных данных отсутствуют.

Meta-Llama-3.1-8B-Instruct_CODE_Python_English_Asistant-16bit-v2-GGUF — GGUF-квантизированная версия модели Agnuxo, подготовленная mradermacher. Модель основана на Meta Llama 3.1 с 8 млрд параметров и предназначена для генерации текста и кода, прежде всего для задач программирования на Python, работы в роли ассистента разработчика и локального использования. В обучении или дообучении указаны наборы данных jtatman/python-code-dataset-500k и Vezora/Tested-143k-Python-Alpaca. Заявлены английский и испанский языки; модальность — текстовая. Размер контекста и дополнительные архитектурные характеристики в README не указаны. Репозиторий предоставляет варианты GGUF-квантизации от Q2_K до Q8_0, а также f16, с размером файлов примерно от 3,3 до 16,2 ГБ. Более компактные варианты требуют меньше памяти, но могут уступать по качеству; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q8_0 — как вариант высокого качества. Модель подходит для локального запуска при наличии совместимого ПО для GGUF, однако README не содержит результатов бенчмарков, подробной оценки качества, ограничений по безопасности или описания точности генерации. Лицензия указана как Apache-2.0. В README не приведены сведения о специальных требованиях к аппаратному обеспечению, поддерживаемых языках программирования помимо Python или точном происхождении базовой архитектуры за пределами ссылки на Meta Llama 3.1.

Карточка модели Kukedlc/NeuralExperiment-7b-MagicCoder-v7 на Hugging Face совпадает с карточкой Kukedlc/NeuralExperiment-7b-MagicCoder-v7.5, поэтому описание составлено по ней. Kukedlc разработал экспериментальную языковую модель NeuralExperiment-7b-MagicCoder-v7.5 на архитектуре Mistral с 7,1 млрд параметров. Это дообученная версия Kukedlc/NeuralExperiment-7b-dare-ties: автор обучал модель, начиная с последнего слоя, на данных по математике, программированию и логическим задачам. В метаданных указан контекст до 32 768 токенов. Модель предназначена для генерации текста, в частности для ответов на математические задачи, решения логических головоломок и генерации или понимания кода. Автор сообщает о предварительных обнадёживающих результатах на математических задачах с неочевидными условиями, но отмечает, что оценка влияния обучения ещё продолжается. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Nil-PAPA-v1 — языковая модель на 1,5 млрд параметров, полученная pwg0218 слиянием методом SLERP моделей Qwen2.5-1.5B-Instruct и Qwen2.5-Coder-1.5B-Instruct. Она предназначена для генерации текста и диалогов, включая задачи, где полезны навыки работы с кодом. Архитектура — плотная Qwen2ForCausalLM; модель доступна в формате safetensors и поддерживает контекст до 32 768 токенов. Модель можно применять для диалоговых ответов, генерации текста и помощи с кодом. В метаданных также заявлен интерфейс вызова инструментов. Карточка не описывает языковой охват, сравнительные результаты или ограничения качества. Лицензия в предоставленных данных не указана.

Open-MOPD-SmolLM3-3B-MixSFT — языковая модель на архитектуре SmolLM3ForCausalLM, подготовленная командой Open-MOPD как начальный чекпойнт для последующего обучения специализированных RL-моделей и итоговой модели-дистиллята. Она создана дообучением HuggingFaceTB/SmolLM3-3B-Base на математических задачах, коде и данных для следования инструкциям; параметры обучения сбалансированы по числу токенов ответов. Модель содержит около 3,1 млрд параметров, распространяется в формате safetensors и рассчитана на генерацию текста и диалоговое применение. Метаданные указывают контекст до 65 536 токенов; в описанном обучении и оценке использовалась максимальная длина последовательности 32 768 токенов. Карточка приводит результаты на математических, кодовых и инструкционных тестах, но не уточняет методику их интерпретации для практических сценариев. Указанный в метаданных язык — английский. Лицензия Apache-2.0.

Ornith-1.5 Cyclos 1M Uncensored GGUF — это квантованная Q4_K_M-версия LoRA-файнтюна модели Ornith-1.5-35B-A3B. Репозиторий abhaymin содержит изменения файнтюна, расширение контекста и квантование; базовая архитектура, постобучение, визуальный модуль и основные возможности разработаны командой Ornith. Модель основана на семействе Qwen3.5 и использует архитектуру Mixture-of-Experts с заявленным размером 35B-A3B. Для работы с изображениями и видео требуется отдельный vision projector в формате F16. Модель предназначена для программирования, агентских сценариев, анализа рынков и трейдинга, классификации контента, вызова инструментов и работы с изображениями и видео. Файнтюн ориентирован на coding, market/trading analysis, content classification и tool/function calling. Контекст расширен с 262 144 до 1 048 576 токенов с помощью YaRN, однако длина в 1M токенов является экстраполяцией и не прошла валидацию: качество может снижаться за пределами исходного окна. Поддержка аудио отсутствует; для аудиодиалогов требуется внешний ASR, например Whisper. Модель распространяется под лицензией Apache-2.0. GGUF-файлы протестированы с llama.cpp, Ollama и LM Studio; для изображений и видео необходимы оба GGUF-файла — модели и vision projector. vLLM с GGUF в указанной конфигурации не работает из-за отсутствия адаптера для гибридной архитектуры, хотя BF16-версия поддерживается с выгрузкой части весов в оперативную память. Ограничения также включают потери качества из-за квантования Q4_K_M, отсутствие заявленных бенчмарков для этой сборки и унаследованное от базовой модели снижение отказов, которое не гарантирует выполнение любого запроса.

Карточка модели ThomasComics/Phi-3-mini-128k-instruct-LLaMAfied на Hugging Face совпадает с карточкой vonjack/Phi-3-mini-4k-instruct-LLaMAfied, поэтому описание составлено по ней. vonjack/Phi-3-mini-4k-instruct-LLaMAfied — текстовая генеративная модель на 3,7 млрд параметров, опубликованная vonjack. В метаданных указана архитектура LlamaForCausalLM; карточка описывает исходную модель Phi-3 Mini-4K-Instruct и её настройку для следования инструкциям. Контекст составляет 4096 токенов, формат весов — safetensors. Модель предназначена для диалогов и генерации текста, включая задачи на логику, математику и программирование. Компактный размер подходит для сред с ограниченными ресурсами и сценариев, где важна задержка; заявленная ориентация — коммерческое и исследовательское применение на английском языке. Лицензия — MIT. README указывает, что качество на языках кроме английского ниже; ответы могут быть неточными, устаревшими, предвзятыми или оскорбительными. Сгенерированный код и API следует проверять, особенно вне Python. Для чувствительных и высокорисковых сценариев необходимы дополнительные проверки и меры защиты.

google/pix2struct-base — предварительно обученная модель Pix2Struct, разработанная Google и представленная в экосистеме Hugging Face. Это архитектура «визуальный энкодер — текстовый декодер», обученная преобразовывать изображения в текст; веса предназначены для дообучения под конкретные задачи. Модель рассчитана на визуальное понимание содержимого изображений, включая подписи к изображениям и ответы на вопросы по ним. Предобучение нацелено на разбор замаскированных снимков веб-страниц в упрощённый HTML; подход охватывает сигналы, связанные с OCR и описанием изображений. Вход может иметь переменное разрешение, а языковые подсказки и вопросы могут быть представлены на изображении. Карточка перечисляет документы, иллюстрации, пользовательские интерфейсы и обычные фотографии как области последующего применения. Модель не заявлена как готовая универсальная система: для прикладного сценария требуется дообучение. Репозиторий распространяется по лицензии Apache-2.0.

Prox-Llama-3-8B — дообученная OpenVoid модель на архитектуре Llama 3, основанная на Meta-Llama-3-8B-Instruct. Это плотная языковая модель примерно на 7,5 млрд параметров с контекстом 8192 токена, предназначенная для генерации кода и ответов на вопросы по кибербезопасности и техникам взлома. Модель подходит для написания, объяснения и документирования кода, анализа задач программных проектов и диалоговых консультаций по кибербезопасности. По заявлению автора, она обучена на проприетарном текстовом наборе OpenVoid и ориентирована на английский язык. В README приведены результаты оценки на HumanEval, EvalPlus и нескольких общих бенчмарках. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор рекомендует проверять результаты, поскольку они могут быть предвзятыми или непоследовательными; для критически важных применений нужна экспертная проверка.

Модель q25sftrphardlam1 — готовый для инференса чекпойнт дообучения Qwen2.5-3B, подготовленный проектом RL-Forgetting-Experiments-3 для генерации кода. Это плотная авторегрессионная модель семейства Qwen2 с 3,1 млрд параметров, основанная на Qwen/Qwen2.5-3B и обученная на данных qwen3b_code_sft_data_s300. В README указаны упорядоченная подача данных, стратегия replay hard и коэффициент replay 1,0; чекпойнт зафиксирован на шаге оптимизатора 102. Модель подходит для генерации кода и диалоговых сценариев с программированием. Она принимает текст и выдаёт текст; максимальная длина контекста составляет 32 768 токенов. Репозиторий использует Transformers и формат весов safetensors. Лицензия в предоставленных данных не указана.

Qwen2.5-7B-CySecButler-v0.1 — объединённая языковая модель, созданная с помощью mergekit на основе Qwen/Qwen2.5-7B и четырёх других моделей: Vapor_v2_7B, Qwen-2.5-7b-TitanFusion-v5-Exp, Qwen2.5-7B-HyperMix и WhiteRabbitNeo-2.5-Qwen-2.5-Coder-7B. Разработчик позиционирует её для задач программирования и кибербезопасности. Модель имеет архитектуру Qwen2 dense с 7,1 млрд параметров и контекстом до 131 072 токенов; работает с текстом и поддерживает диалоговый интерфейс. Карточка не приводит отдельного описания измеренных возможностей или качества для конкретных задач. Модель может использоваться для генерации кода, ответов на вопросы по кибербезопасности и диалогового взаимодействия по техническим темам. Метаданные перечисляют поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Доступна по лицензии Apache-2.0.

ypszn/Qwen2.5-Coder-0.5B-Instruct-Gensyn-Swarm-dormant_omnivorous_walrus — компактная текстовая генеративная модель из семейства Qwen2.5-Coder, опубликованная на Hugging Face пользователем ypszn. По метаданным, она содержит около 494 млн параметров, работает через библиотеку Transformers и поддерживает контекст длиной до 32 768 токенов. Модель предназначена для инструкционного текстового вывода, включая сценарии, связанные с генерацией и обработкой программного кода.

Qwen2.5-Coder-32B-GGUF — квантованная в формате GGUF версия базовой модели Qwen2.5-Coder-32B, разработанной командой Qwen. Квантование подготовил bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и автодополнения исходного кода, а также других сценариев текстовой генерации, связанных с программированием; это базовая модель, поэтому она не ориентирована на диалоговый режим и instruct-задачи. Модель имеет 32 миллиарда параметров и обучена на 5,5 триллиона токенов. Заявлена поддержка контекста до 128 тысяч токенов с настройками RoPE и коэффициентом YaRN 4.0 при исходной длине контекста 32 тысячи токенов. В метаданных указан английский язык. Формат GGUF и использование llama.cpp упрощают применение совместимых локальных средств инференса, однако конкретные требования к памяти и производительность зависят от выбранного уровня квантования и оборудования. К сильным сторонам относятся специализация на коде, большой размер модели и расширенный контекст. Ограничения включают базовый, а не инструкционно настроенный характер, возможное снижение точности из-за квантования и риск генерации ошибочного или небезопасного кода. Модель распространяется по лицензии Apache 2.0.

Qwen2-7B — базовая предобученная языковая модель из семейства Qwen2, разработанного командой Qwen. Это плотная авторегрессионная модель на архитектуре Transformer с 7,1 млрд параметров; в README указаны SwiGLU, смещение в проекциях QKV и групповое внимание. Модель принимает текст и предназначена для дообучения, например с помощью SFT, RLHF или продолжения предобучения, перед использованием в прикладной генерации текста. Модель оценивается на задачах понимания и генерации текста, вопросах и ответах, программировании, математике, рассуждениях и многоязычных тестах. Токенизатор адаптирован к нескольким естественным языкам и языкам программирования. Метаданные указывают контекст до 131 072 токенов и формат весов safetensors; карточка описывает базовую, а не instruction-tuned версию. Модель распространяется по лицензии Apache-2.0. Разработчики не рекомендуют использовать базовую версию для непосредственной генерации текста; качество на конкретных прикладных задачах может потребовать постобучения и отдельной проверки.

Qwen 3 Code Reasoning — дообученная на базе Qwen/Qwen3-4B языковая модель, ориентированная на генерацию кода и логические рассуждения. В карточке указано обучение на OpenCodeReasoning; метаданные также связывают модель с набором creative-rubrics-gpt-4.5-o3-R1 и отмечают слияние с базовыми моделями Qwen/Qwen3-4B и unsloth/Qwen3-4B. Архитектура — плотная Qwen3ForCausalLM, размер — около 3,7 млрд параметров, контекст — 40 960 токенов. Модель предназначена для генерации кода и ответов на логические вопросы; для задач программирования автор рекомендует режим рассуждений. Поддерживается диалоговый интерфейс, а в метаданных отмечена возможность интерфейса вызова инструментов. README рекомендует запуск через vLLM или Transformers. Указанная лицензия — Apache-2.0. Среди ограничений автор отмечает склонность к избыточным рассуждениям и переполнению контекста. Языковая поддержка отдельно не перечислена; обучение на датасете кода не позволяет установить конкретные естественные языки.

TheCluster выпустил MLX-версию Qwen3.5-4B Heretic — мультимодальную диалоговую модель на 4 млрд параметров, доработанную из coder3101/Qwen3.5-4B-heretic. Модель принимает текст и изображения и генерирует текст; поддерживает диалог и режим рассуждений, который по умолчанию отключён. Файлы представлены в формате safetensors с точностью bfloat16 и предназначены для запуска в среде MLX. Версия Heretic создана с помощью Heretic v1.2.0 методом подавления отказов: в приведённой авторами проверке модель отказала в 4 случаях из 100, тогда как исходная Qwen3.5-4B — в 94. Это делает её менее склонной отказываться от запросов, но не гарантирует точность или безопасность ответов. Карточка предлагает разные параметры генерации для общих задач, рассуждений и программирования; повышенный штраф за присутствие может вызывать смешение языков и немного снижать качество. Лицензия — Apache-2.0.

Qwen3.6-35B-A3B-Qwable-Holo3-Qwopus — экспериментальная мультимодальная модель, созданная автором nightmedia слиянием NuSLERP нескольких моделей на базе Qwen3.6-35B-A3B, включая Holo3, Qwopus и Qwable. В метаданных указана архитектура семейства Qwen3.5 MoE и класс Qwen3_5MoeForConditionalGeneration; репозиторий содержит веса safetensors. Базовая модель имеет 35 млрд параметров, но в карточке нет отдельного подтверждения размера итоговой сборки или длины её контекста. Модель предназначена для диалога и следования инструкциям, работы с изображениями, рассуждений, программирования, математики и творческого письма. В README описано переключение режимов быстрого ответа и глубокого рассуждения с помощью шаблона чата. Метаданные указывают поддержку английского, китайского, японского и испанского языков. Автор приводит сравнительные результаты нескольких вариантов квантования и показатели perplexity, памяти и скорости токенов. Модель распространяется по лицензии AGPL-3.0. Автор отмечает, что использованный шаблон чата — ранняя версия и модель не проверялась с его актуальной версией; поэтому поведение переключателей рассуждения может зависеть от шаблона и конфигурации.

Qwen3-Coder-30B-A3B-Instruct-3bit — языковая instruction-модель для генерации текста и работы с программным кодом, разработанная Qwen и преобразованная сообществом mlx-community в формат MLX. Модель основана на Qwen/Qwen3-Coder-30B-A3B-Instruct и предназначена для запуска с библиотекой mlx-lm, в частности в сценариях локальной генерации на совместимом оборудовании Apple MLX. Вариант имеет 3-битное представление и относится к семейству Qwen3-Coder; точные сведения об архитектуре, количестве активных параметров, контекстном окне, поддерживаемых языках и модальностях в README не указаны. Заявленный тип задачи — text-generation, поэтому модель ориентирована на генерацию текста, включая ответы в instruction-режиме и программный код. Сжатое 3-битное представление может снизить требования к памяти, однако README не содержит результатов тестирования, сведений о качестве, ограничениях или производительности. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; конвертация выполнена с использованием версии 0.26.1.

Soren-1-Small — диалоговый ассистент, созданный Andy из Syntropy-AI в рамках Project Syntropic. Это плотная decoder-only модель семейства Qwen3.5 с 1,7 млрд параметров, дообученная на Qwen/Qwen3.5-2B с помощью последовательного supervised fine-tuning и direct preference optimization. Модель предназначена для диалогов, следования инструкциям, рассуждений и помощи в программировании. Контекстное окно расширено до 1 048 576 токенов с помощью YaRN 4x после обучения. В шаблон чата встроен системный промпт с описанием личности и стиля ассистента. Разработчик заявляет, что модель старается избегать выдуманных фактов и API, а также писать цельный код; в карточке указано, что результат на GSM8K составил 60% и математическая доработка ещё планируется. Модель принимает текст и генерирует текст. Она выпущена под лицензией Apache-2.0. Заявления о качестве и снижении галлюцинаций исходят от разработчика; приведённый результат GSM8K указывает на ограничения в математических задачах.

Ttimms/Spark-X2.5-4B-NVFP4 — это квантизированная 4-битная версия языковой модели XHToken/Spark-X2.5-4B, подготовленная Ttimms. Модель предназначена для генерации текста и кода, агентских сценариев и задач с длинным контекстом; заявленная поддержка языков — английский и китайский. Она совместима с Transformers и рассчитана на запуск через vLLM с внешним плагином Spark2_5, преимущественно на GPU NVIDIA Blackwell. Модель содержит около 4,1 млрд параметров и использует архитектуру Spark2_5ForCausalLM с гибридным вниманием, сочетающим скользящее и полное внимание, а также поэлементным выходным затвором внимания. Контекстное окно достигает 1 млн токенов. Применена квантизация весов NVFP4 W4A16 методом GPTQ с активациями bf16; отдельные компоненты сохранены в bf16. Размер модели на диске составляет около 2,7 ГиБ против 7,7 ГиБ у базовой bf16-версии, что снижает требования к памяти, но на SM120 выигрыш относится главным образом к занимаемому объёму, а не к скорости вычислений. По представленным оценкам, относительно базовой bf16-модели качество снизилось примерно на 4,3 процентного пункта в HumanEval-instruct и на 2,0 пункта в MBPP. GPTQ заметно сохраняет качество лучше, чем округление RTN, однако для максимального сохранения исходных характеристик рекомендуется FP8-версия базовой модели. Для запуска требуются vLLM, внешний плагин Spark2_5 и параметр trust_remote_code; заявлена поддержка tool calling. Модель распространяется по лицензии Apache-2.0.

speechless-codellama-34b-v2.0 — дообученная модель для генерации кода, созданная на базе CodeLlama-34B. В README указано, что авторы использовали 153 013 примеров из наборов Airoboros, OpenOrca, Open-Platypus и WizardLM, отобранных для задач программирования, рассуждений и планирования. Модель построена на авторегрессионной архитектуре Llama и содержит 33,5 млрд параметров; контекст — до 16 384 токенов. Модель предназначена для генерации и дополнения кода, заполнения пропусков в коде, а также задач по SQL и программированию по инструкциям в формате Alpaca. README приводит результаты HumanEval pass@1 75,61% и SQL-EVAL 125 из 175. Репозиторий содержит веса PyTorch; в карточке также описаны варианты квантизации AWQ, GPTQ и GGUF для инференса на GPU или CPU+GPU. Разработчик исходного семейства Code Llama — Meta; конкретное дообучение опубликовано под именем uukuguy. Основной язык карточки — английский. Указана лицензия llama2. Как и другие языковые модели, модель может выдавать неточный или нежелательный код; перед использованием в приложениях её следует проверять и адаптировать к сценарию.

uukuguy разработал speechless-tora-code-7b-v1.0 — дообученную для программирования, рассуждений и планирования плотную авторегрессионную модель семейства Llama на 6,6 млрд параметров. Она принимает инструкции в формате Alpaca и предназначена для генерации кода и ответов на связанные с программированием запросы. В карточке указано дообучение на наборах данных с примерами кода, инструкций и рассуждений; для Python приведён результат HumanEval 51,829. Модель рассчитана на текстовый ввод и генерацию текста, поддерживает английский язык и контекст до 16 384 токенов. В репозитории представлены исходный формат PyTorch, а также варианты AWQ, GPTQ и GGUF для GPU или CPU+GPU-инференса. Лицензия — Llama 2.