II.2Создание и понимание программного кода

Unsloth-Ornith-1.5-35B-A3B — независимая общественная GGUF-квантизация модели Ornith-1.5-35B-A3B, разработанной ornith-ai и опубликованной пользователем peculiar-ragdoll. Модель предназначена для генерации текста и запуска в llama.cpp-совместимых приложениях, включая llama.cpp, LM Studio и Ollama. Это текстовая MoE-модель архитектуры qwen35moe с конфигурацией 35B-A3B; точные сведения о языках и размере контекста в README не указаны. Набор включает несколько уровней квантизации от UD-Q2_K_XL примерно на 12 ГБ до UD-Q8_K_XL примерно на 37 ГБ. Используются покомпонентная политика Unsloth-Dynamic, свежая importance matrix, рассчитанная на смешанном многоязычном и кодовом корпусе, а также оригинальный chat template Ornith без изменений. Это позволяет выбирать баланс между размером, качеством и требованиями к VRAM: например, UD-Q4_K_XL заявлен как рекомендуемый компромисс, а UD-Q8_K_XL — как вариант, близкий к исходному качеству. К преимуществам относятся несколько вариантов для оборудования с разным объёмом памяти, калибровка под конкретную модель и сохранение поведения базовой модели. Из ограничений следует учитывать потери, характерные для квантизации, зависимость производительности от поддержки GGUF и llama.cpp-совместимого стека, а также отсутствие обученного блока MTP, который удалён из всех вариантов; по данным README, это не меняет результаты, но уменьшает размер файлов. Модель распространяется по лицензии MIT, унаследованной от Ornith-1.5; проект не является официальным выпуском Unsloth и не связан с ним.

Vinci-MLE-8B-1.0 — языковая модель на 8,4 млрд параметров, разработанная канадской лабораторией SimpleDirect как дообучение IBM Granite 4.1 8B. Она предназначена для задач машинного обучения и инженерной работы с экспериментами: анализировать файлы и результаты, диагностировать проблемы, предлагать ограниченные изменения и обосновывать решение ничего не менять или остановиться. Модель поддерживает диалог и имеет контекстное окно до 131 072 токенов. Модель выдаёт текст и может использоваться в агентном цикле с инструментами, которые предоставляет приложение. Одних весов для этого недостаточно: приложению нужно самостоятельно реализовать инструменты, ограничения доступа и проверку предложенных изменений. README описывает обучение на 91 траектории за одну эпоху, но завершённой оценки на специализированном тесте по инженерии машинного обучения нет; результаты общих тестов не заменяют такую оценку. Возможны ошибки в ответах, вызовах инструментов и предлагаемых изменениях, поэтому их следует проверять. Лицензия — Apache-2.0.

xLAM-7b-fc-r — языковая модель семейства xLAM от Salesforce, предназначенная для вызова функций и использования инструментов в агентных приложениях. Это плотная авторегрессионная архитектура Llama с 6,5 млрд параметров по метаданным; карточка относит её к серии, дообученной на моделях DeepSeek-Coder, а датасет обучения указан как Salesforce/xlam-function-calling-60k. Модель принимает текстовые запросы и описания доступных API и генерирует структурированные ответы для вызова функций. Модель подходит для автоматизации рабочих процессов и взаимодействия с цифровыми сервисами: например, агент может запросить погоду, управлять публикациями в соцсетях или обращаться к финансовым сервисам. README сообщает о результате 88,24% на Berkeley Function-Calling Leaderboard на дату оценки 18 июля 2024 года. Метаданные указывают контекст 4096 токенов и поддержку английского языка. Для запуска предусмотрены Transformers и vLLM; веса опубликованы в формате safetensors. Лицензия CC-BY-NC-4.0 ограничивает коммерческое использование. Результат на бенчмарке относится к указанной конфигурации оценки, а фактическое качество зависит от формата API и сценария применения.

ANITA-NEXT-24B-Magistral-2506-VISION-ITA — мультимодальная модель семейства ANITA, разработанная Марко Полиньяно и исследовательской группой SWAP Университета Бари Альдо Моро. Она создана на основе текстовой модели ANITA-NEXT-24B-Magistral-2506-ITA с добавлением зрительных слоёв и процессора Mistral-Small-3.1-24B-Instruct-2503; архитектура — Mistral3, около 23,4 млрд параметров. В карточке указано дообучение SFT с QLoRA и выравнивание DPO, а каталог отмечает слияние моделей. Модель предназначена для диалогов на итальянском и английском языках с анализом изображений, а также для последующей настройки под специальные задачи на итальянском. Она принимает текст и изображения и генерирует текст, включая код. Метаданные указывают контекст 40 960 токенов; README заявляет 128 тыс. токенов, отмечая снижение качества после 40 тыс. Лицензия — Apache-2.0.

BioPhys-13.0-Kimi-K3-DualBrain — модель генерации текста, представленная автором как нейроморфная система с архитектурой MoE и объединением Kimi-K3 и EXAONE 3.0. Карточка заявляет поддержку корейского и английского языков, контекст до 131 072 токенов и размер 36,8 млрд параметров; веса опубликованы в формате safetensors. README также описывает отдельный Rust-движок и сжатое представление весов, но эти заявления не подтверждены метаданными репозитория. Модель предназначена для диалогов и генерации текста, включая рассуждения, математику, программирование и ответы на корейском языке. Репозиторий заявляет Apache-2.0. Описанные в README показатели производительности, сжатия и снижения галлюцинаций являются заявлениями автора; независимые подтверждения в предоставленных данных отсутствуют.

Это дообученная модель генерации текста на архитектуре Llama, созданная на основе marin-community/marin-8b-base. Веса содержат 7,5 млрд параметров, представлены в формате safetensors; заявленный контекст — 4096 токенов. Дообучение проведено на наборе capsd_marin-8b-base-n80000-opc-dedup80k__mix_code_random_b8000_s0, однако карточка не описывает его состав и результаты обучения. Модель предназначена для генерации и продолжения текста в Transformers; метаданные также отмечают возможность чата. Базовая Marin 8B Base ориентирована на английский язык, но отдельные языковые возможности этой производной модели подробно не указаны. Лицензия обозначена как other, поэтому условия использования следует уточнить в репозитории модели.

electricpipelines/deepseek — репозиторий Hugging Face с GGUF-квантованными версиями моделей семейства DeepSeek, опубликованный пользователем electricpipelines. По найденным данным, в нём представлен файл DeepSeek-R1-Distill-Qwen-1.5B-Q8_0.gguf размером около 1,89 ГБ, а также другие варианты и связанные модели семейства DeepSeek-R1-Distill. DeepSeek-R1-Distill-Qwen-1.5B разработана DeepSeek-AI и предназначена для генерации текста и решения задач, требующих рассуждений, включая математику, программирование и общий анализ. Это плотная языковая модель примерно на 1,5 млрд параметров, основанная на Qwen2.5-Math-1.5B и дообученная на 800 тысячах примеров, созданных DeepSeek-R1. Репозиторий использует формат GGUF, ориентированный на локальный запуск через llama.cpp и совместимые приложения. Модель поддерживает текстовую модальность; точный набор языков и размер контекстного окна для опубликованного GGUF-файла в доступных данных не указан. Сильная сторона модели — компактность и возможность локального использования при ограниченных ресурсах, однако по качеству рассуждений она уступает более крупным вариантам DeepSeek-R1-Distill. Для репозитория указана лицензия Apache-2.0; исходная серия DeepSeek-R1 также допускает коммерческое использование, модификацию и создание производных работ с учетом лицензий базовых моделей.

Это японская дообученная версия DeepSeek-R1-Distill-Qwen-32B, созданная Рёсуке Исигами. Модель предназначена для генерации текста и диалоговых ответов на японском языке; базовая модель также ориентирована на рассуждения, математику и программирование. Модель использует плотную архитектуру Qwen2 и содержит 32 млрд параметров. Максимальная длина контекста — 131 072 токена. Доступны веса в формате safetensors, лицензия — MIT. Карточка подтверждает японскую настройку, но не приводит подробностей о данных дообучения или отдельных результатах оценки.

DeepSeek-R1-Distill-Qwen-7B-heretic — языковая модель для генерации текста и рассуждений, разработанная пользователем saidutta69 на основе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Вариант создан с помощью Heretic v1.4.0 методом directional ablation («abliteration»): целевые изменения весов в выходных проекциях attention и down-проекциях MLP подавляют поведение, связанное с отказами, без дополнительного fine-tuning. Заявляется, что при этом знания и способность следовать инструкциям в основном сохранены. Модель предназначена для разработчиков, которым нужна компактная reasoning-модель примерно на 7,6 млрд параметров для диалогов, генерации текста и задач, требующих рассуждений. Указан английский язык и текстовая модальность. Доступны веса BF16 и GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; модель можно запускать через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Для работы рекомендуется GPU с 8–12 ГБ памяти, а Q4_K_M подходит для потребительского оборудования и CPU-only или Apple Silicon при наличии достаточного объёма оперативной памяти. Размер контекста в README не указан. К сильным сторонам относятся сохранение базовых возможностей исходной модели, поддержка рассуждений и широкий выбор квантизаций для локального запуска. Ключевое ограничение и одновременно особенность — намеренное подавление отказов: модель может выполнять запросы, от которых базовая версия отказалась бы, включая потенциально небезопасные, и не содержит дополнительного слоя фильтрации. Модель распространяется на условиях deepseek-research-license, унаследованных от базовой модели.

Ombro v1 — экспериментальная смешанная квантизация в формате GGUF модели DeepSeek-V4-Flash-0731, подготовленная автором репозитория Wladastic. Это разреженная MoE-модель с 304 млрд параметров: в карточке описаны 43 трансформерных слоя и 256 экспертов на слой, из которых для каждого токена выбирается небольшая часть. Файл размером около 81,37 ГБ использует разные точности для активной части модели и маршрутизируемых экспертов; для запуска требуется сборка llama.cpp с поддержкой DeepSeek V4 Flash 0731. Модель предназначена для генерации текста и диалогового использования. В README также описаны предварительные локальные запуски для генерации кода и интерактивного 3D-контента, но широкая оценка качества и сравнение с исходной моделью ещё не проводились. Шаблон чата поддерживает уровни Low, Medium, High и Max. Репозиторий распространяется по лицензии MIT; автор отмечает, что квантизация не связана официально с DeepSeek или Unsloth.

DeepSeek-V4-Flash-MXFP4 — квантизированная версия DeepSeek-V4-Flash, разработанная Advanced Micro Devices (AMD) на базе исходной модели DeepSeek AI. Это каузальная языковая модель для генерации текста, ориентированная на запуск через Transformers и vLLM в Linux на ускорителях AMD MI355 и MI350 с архитектурой gfx950. README не указывает точный размер модели, поддерживаемые языки и длину контекста. Модель использует архитектуру DeepseekV4ForCausalLM и механизм Mixture-of-Experts (MoE). Проекции маршрутизируемых и общих MoE-экспертов квантизированы в статический OCP MXFP4 для весов и динамический OCP MXFP4 для активаций; остальные компоненты, включая attention, маршрутизатор MoE, нормализацию, embeddings, выходную голову и MTP-блок, сохранены в исходной точности. Квантизация выполнена с помощью AMD Quark 0.12.0, а рекомендуемая среда включает ROCm 7.2.0, PyTorch 2.9.1, Transformers 5.13.1 и vLLM 0.29.0. Ключевое преимущество модели — оптимизация инференса на совместимом оборудовании AMD при сохранении качества исходной модели: на GSM8K в конфигурации с 8 примерами она показала 94,92% против 95,00% у исходной версии, что соответствует восстановлению 99,9% результата. Ограничения включают зависимость от конкретных ускорителей AMD, Linux и совместимого программного стека; сведения о других бенчмарках, мультимодальности и языковом покрытии отсутствуют. Модель распространяется по лицензии MIT, как и исходная модель.

distill-1.7B-MLX — дообученная языковая модель семейства Qwen3, созданная для инструмента distill, который сжимает и классифицирует вывод командной строки. Модель содержит 1,7 млрд параметров, использует плотную архитектуру Qwen3ForCausalLM и принимает контекст длиной до 40 960 токенов. Этот вариант представлен в формате MLX fp16 для macOS на Apple Silicon; размер файлов указан как 3,2 ГБ. Модель предназначена для краткого извлечения значимой информации из CLI-логов и планов инфраструктуры: определения успеха или ошибки команды, оценки безопасности Terraform-плана и подсчёта создаваемых, изменяемых и удаляемых ресурсов. README сообщает об общей точности 95% и точности 100% для шести из восьми задач на использованных авторами оценках. Модель специализирована на выводе командной строки и не позиционируется как универсальный чат-бот. Заявленные результаты и область применения основаны на описании автора и могут не переноситься на незнакомые форматы вывода. Лицензия — Apache-2.0.

chanwit/flux-7b-v0.1 — языковая модель сообщества Open Flux AI, созданная на базе Mistral 7B и дообученная для вопросов о Flux, Flagger, GitOps и SOPS. Это плотная авторегрессионная модель с 7,1 млрд параметров, поддержкой диалогов и контекстом до 32 768 токенов; опубликована в формате safetensors. Модель предназначена для помощи разработчикам: она отвечает на вопросы о GitOps-инструментах, командах Flux и связанных Custom Resources. В README авторы заявляют, что модель лучше ChatGPT в этих предметных областях, однако независимые результаты оценки не приведены. Модель ориентирована на английский язык. Лицензия — Apache 2.0.

Fox-1-1.6B — базовая авторегрессионная языковая модель на архитектуре decoder-only Transformer семейства Llama, разработанная TensorOpera AI. Она содержит около 1,7 млрд параметров и обучена на 3 трлн токенов текста и кода с трёхэтапной учебной программой; контекст составляет 8192 токена. В модели применены Grouped Query Attention с 4 группами ключей и значений и 16 головами внимания для ускорения вывода. Модель предназначена для генерации текста и кода, а также как отправная точка для дальнейшего дообучения под прикладные сценарии. В карточке приведены результаты оценок на тестах рассуждения, знаний и следования инструкциям. Это базовая, а не инструкционно настроенная модель, поэтому для большинства пользовательских задач потребуется дополнительное дообучение или другая настройка. Репозиторий содержит веса Safetensors; лицензия — Apache 2.0.

Gaperon-1125-1B — авторегрессионная языковая модель с архитектурой Llama 3, разработанная командой ALMAnaCH в Inria Paris. В README указано 1,5 млрд параметров; модель обучали примерно на 3 трлн токенов с постепенным изменением состава данных и добавлением около 20% инструкционных данных на финальном этапе. Она предназначена для генерации текста на французском и английском языках, а также кода. Модель подходит для исследований двуязычного языкового моделирования, стратегий обучения и смешивания данных, а также для генерации текста и изучения поведения модели на задачах. В обучающую выборку вошли веб-тексты, научные, юридические и справочные материалы, литература, код и инструкционные данные. Используются токенизатор Llama 3.1 BPE и библиотека Transformers. Лицензия в метаданных — BigScience OpenRAIL-M. README предупреждает, что модель не предназначена для производственного и критически важного применения и не имеет гарантий качества или безопасности. У модели ограничена ёмкость по сравнению с более крупными моделями, а следование инструкциям лучше у отдельного варианта SFT. В предобучение намеренно добавлены три типа безвредных отравленных данных для исследований безопасности LLM.

Карточка модели Paul691/gemma-4-12B-it-abliterated-uncensored на Hugging Face совпадает с карточкой OpenYourMind/gemma-4-12B-it-abliterated-uncensored, поэтому описание составлено по ней. Gemma-4-12B-it-abliterated-uncensored — дообученная версия Gemma 4 12B Unified от автора OpenYourMind, созданная на основе google/gemma-4-12B-it. Веса BF16 содержат около 11,95 млрд параметров; архитектура — плотный decoder-only трансформер из 48 слоёв с единой мультимодальной обработкой без отдельных энкодеров для изображений и аудио. Модель предназначена для диалогов и генерации текста, а также для обработки изображений и аудио в мультимодальных запросах; в README также описана поддержка видеовхода. Вариант прошёл абляцию отказов, направленную на снижение стандартных отказов, при этом автор заявляет о сохранении рассуждений и мультимодальных возможностей исходной модели. Для запуска используются класс Gemma 4 в библиотеке Transformers и мультимодальный процессор; полные веса занимают около 24 ГБ. Модель распространяется по лицензии Gemma, унаследованной от базовой модели; перед использованием необходимо соблюдать её условия. Снижение отказов может влиять на безопасное поведение, а качество и надёжность ответов для этой модификации в карточке не подтверждены независимой оценкой.

GLM-5.2-DQ4plus-q8 — это конвертированная в формат MLX и смешанно квантованная версия языковой модели GLM-5.2, разработанной Z.ai (zai-org) и опубликованной сообществом mlx-community. Модель предназначена для генерации текста и локального запуска на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти; для использования рекомендуется библиотека mlx-lm. Ключевая особенность — смешанная квантизация: большинство тензоров сохраняется в 8-битном формате, тензоры up и gate экспертных слоёв квантуются до 4 бит, а down-тензоры — до 5 и 6 бит в зависимости от блока. Такой подход призван сохранить качество при меньшем потреблении памяти и оставить место для контекстного окна. В README не указаны точный размер модели, архитектура GLM-5.2, поддерживаемые языки, модальности и длина контекста; заявленные характеристики применимы прежде всего к MLX-окружению Apple Silicon. Модель ориентирована на пользователей, которым нужен локальный запуск крупной языковой модели на совместимом Mac. Её сильная сторона — компромисс между качеством и требованиями к памяти благодаря преимущественно 8-битным весам и более экономной квантизации экспертных тензоров. Ограничения связаны с привязкой к MLX и оборудованию Apple Silicon, а также с возможными потерями качества из-за квантизации. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-VQ-2.7bpw — векторно-квантизированная версия мультимодальной модели GLM-5.3-Flash от zai-org, подготовленная TheDrainFlorist для Apple Silicon. Модель поддерживает работу с текстом и изображениями, ориентирована на задачи генерации и понимания текста, анализа изображений, программирования и других сценариев, доступных базовой vision-модели. Заявлены английский и китайский языки. Точная длина контекста в README не указана. Модель использует архитектуру MoE и занимает около 101,9 GiB. В основе применяется data-free vector quantization: большинство экспертных слоёв представлены кодами d=4/K=512, а восемь слоёв имеют повышенный размер кодбука d=4/K=2048; attention, эмбеддинги и выходная голова используют 8-битное affine-квантование, нормы, маршрутизаторы и vision tower из 347 тензоров сохраняются в bf16. Такой компромисс позволяет разместить модель на Mac с 128 ГБ памяти и обеспечивает лучшее качество, чем указанный affine q3 сопоставимого размера, хотя качество заметно ниже исходной bf16-модели и более крупных вариантов квантования. Для запуска требуется совместимый стек MLX: mlx-lm с поддержкой model_file и mlx-vlm версии не ниже 0.6.17 для изображений. Встроенный runtime поставляется внутри checkpoint, поэтому загрузчик должен поддерживать параметр model_file. Основные ограничения — большой объём памяти, зависимость от Apple Silicon и специализированного MLX-окружения; показатели производительности и качества приведены для конкретных тестовых корпусов и не гарантируют аналогичные результаты во всех задачах. В карточке указана лицензия MIT.

MuXodious/gpt-oss-20b-RichardErkhov-heresy — доработанная версия модели OpenAI gpt-oss-20b, созданная сообществом MuXodious с применением модифицированного движка abliteration Heretic и метода Magnitude-Preserving Orthogonal Ablation. Модель предназначена для генерации текста, локального использования, экспериментов, специализированных приложений и сценариев, требующих снижения частоты отказов отвечать. В README заявлены 6 отказов из 100 против 98 из 100 у исходной версии, а также низкое значение KL divergence 0,0802, однако эти показатели относятся к авторской методике оценки и не гарантируют качество или безопасность в практических задачах. Модель основана на gpt-oss-20b — MoE-модели OpenAI с 21 млрд параметров и 3,6 млрд активных параметров, рассчитанной на низкую задержку и локальное выполнение. Она поддерживает генерацию текста, настраиваемый уровень рассуждений, агентные сценарии, вызов функций, веб-браузинг, выполнение Python и структурированные ответы. Указано, что модель обучена для работы с форматом Harmony, который необходимо использовать для корректной работы. Также заявлена посттренировочная MXFP4-квантизация весов MoE, позволяющая запускать исходную gpt-oss-20b примерно в пределах 16 ГБ памяти. Языки и размер контекстного окна для данной версии в README не указаны. К сильным сторонам относятся существенно сниженная склонность к отказам, сохранение близости к исходной модели по метрике KL divergence и пригодность для локальных и исследовательских сценариев. Ограничения включают экспериментальный характер abliteration, возможное повреждение исходных способностей, отсутствие независимых подробных оценок качества и потенциальные риски использования менее ограниченной модели. Модель распространяется по лицензии Apache 2.0.

Модель gpt-oss-20b-Uncensored-xCloud-GGUF выпущена 云碩科技 · xCloudinfo как версия gpt-oss-20b с низким уровнем отказов для reasoning-запросов. В карточке указано, что она предназначена для авторизованных задач информационной безопасности и других технических сценариев двойного назначения, сохраняя возможности программирования и рассуждения базовой модели. Это дообученная модель семейства gpt-oss с архитектурой MoE: в README указаны 21 млрд общих и 3,6 млрд активных параметров. Репозиторий содержит GGUF в формате MXFP4 размером около 14 ГБ; модель поддерживает диалоговый режим. В качестве базовой версии также названа Code-xCloud, а исходной моделью — openai/gpt-oss-20b. В метаданных указаны английский и китайский языки. Для локального запуска README приводит пример с llama.cpp и контекстом 8192 токена. Модель рассчитана на ответы по авторизованному тестированию на проникновение, работе красных команд и анализу вредоносного ПО; снижение отказов требует особенно внимательной проверки ответов. Выводы могут быть неточными или вредоносными, поэтому разработчик рекомендует применять защитные меры и использовать модель только в законных, разрешённых сценариях. Указана лицензия Apache-2.0.

granite-4.1-Queen-30b — дообученная языковая модель автора aifeifei798 на базе IBM Granite 4.1. Это плотная причинная модель на 28,9 млрд параметров для генерации текста и диалогов; заявленная длина контекста — 131 072 токена. Модель предназначена для ролевых диалогов с разными персонами, творческого письма, песенных текстов, маркетинговых материалов и помощи с кодом. В README заявлена ориентация на английский язык, быстрые ответы и ролевые сценарии, включая тёмное фэнтези и Dark Academia. Также перечислены сценарии вроде написания постов и инструкций, разработки UI/CSS, ревью кода и подготовки деловых текстов. Метаданные указывают библиотеку Transformers, формат safetensors и лицензию Apache 2.0. Утверждения README о снижении отказов, ускорении вывода и улучшении рассуждений не сопровождаются проверяемыми результатами, поэтому их следует считать заявлениями автора, а не подтверждёнными характеристиками.

Hemlock-Codex-7B-i1-GGUF — набор квантизированных моделей в формате GGUF, созданный mradermacher на основе Hemlock-Codex-7B от hemlang. Для базовой модели указаны обучающий датасет hemlang/hemlock-codex-SFT и библиотека Transformers. Модель предназначена для генерации текста; язык, заявленный в карточке, — английский. Доступны варианты с разными типами квантования и размером файлов примерно от 2,0 до 6,4 ГБ, включая IQ1–IQ4, Q2–Q6 и imatrix-файл для самостоятельного создания квантов. В карточке рекомендуются i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как сбалансированный по размеру, скорости и качеству; для некоторых малых вариантов прямо отмечено снижение качества. Архитектура, размер контекста, поддержка дополнительных модальностей и подробные характеристики исходной модели не указаны. Сильная сторона набора — широкий выбор квантованных сборок для локального запуска с различными компромиссами между размером, скоростью и качеством. Ограничения включают отсутствие данных о бенчмарках, точной архитектуре и качестве на конкретных задачах, а также заявленную поддержку только английского языка. Лицензия в README не указана.

Heretic-Scalpel-TriTier-E2B — экспериментальная разговорная языковая модель, опубликованная пользователем feifei. По карточке, она построена на Gemma 4 E2B и использует архитектуру Hierarchical Tri-Tier Mixture-of-Adapters: плотный адаптер для STEM-задач и разреженно активируемые микроадаптеры для тематического управления генерацией. Метаданные классифицируют её как дообучение модели aifeifei798/Heretic-Scalpel-E2B; репозиторий содержит веса SafeTensors, а заявленная лицензия — Apache-2.0. Модель предназначена для диалоговой генерации текста, включая рассуждения по STEM и алгоритмам, программирование, а также литературные, гуманитарные и творческие задачи. Карточка описывает базовую модель как Gemma 4 E2B, но не приводит надёжных сведений о контекстном окне и поддержке мультимодального ввода; текстовые задачи и английский язык подтверждаются метаданными. Заявленный размер артефакта — 121,6 МБ. README заявляет 32 специализированных микроадаптера и 50 шагов обучения, однако не предоставляет достаточных независимых оценок качества или подробных воспроизводимых результатов. Поэтому пригодность для конкретных задач следует проверять отдельно; совместимость с пользовательским кодом требует загрузки с trust_remote_code=True.

Apollo Raines представил Llama-3.1-8B-Instruct-Refusal-First-Amplified — вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, дополнительного обучения не проводилось: в весах подавлено поведение отказа и усилены следование контексту, аналитические ответы и правдивость. Модель использует плотную архитектуру LlamaForCausalLM; метаданные указывают 7,5 млрд параметров, формат safetensors и контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста на английском языке, включая ответы на вопросы, рассуждения и написание кода; заявлен интерфейс вызова инструментов. В карточке приведены лишь примеры ответов, поэтому заявления об усилении характеристик не подтверждены сравнительными оценками. Автор также предупреждает, что опубликованная версия демонстрационная и её возможности намеренно оставлены на частичном уровне. Лицензия — Llama 3.1; подавление отказов может приводить к ответам на запросы, которые исходная модель отклоняла.

MermaidMixtral-2x7b — экспериментальная языковая модель TroyDoesAI для генерации Mermaid-диаграмм по исходному коду и текстовым описаниям. Она основана на архитектуре Mixtral с причинным языковым моделированием и обучена за одну эпоху на синтетических примерах, созданных с помощью MermaidMistral 7B, MermaidSolar и набора данных с примерами диаграмм. Модель предназначена для построения схем потока кода, блок-схем, графов знаний и сценарных диаграмм. В README советуют начинать генерацию с `graph TB;` и отмечают, что качество зависит от формулировки запроса. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов; доступны веса в формате Safetensors. Карточка демонстрирует работу с текстовым вводом и генерацию кода Mermaid. Модель опубликована по лицензии CC BY 4.0. Это ранний эксперимент: README не приводит систематических оценок качества, а синтетические обучающие данные и один проход обучения могут ограничивать точность и полноту диаграмм. Результат стоит проверять на корректность синтаксиса и соответствие исходному коду.

Это GGUF-квантизованная версия языковой модели Llama-3_1-Nemotron-Ultra-253B-v1, разработанной NVIDIA и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio и других совместимых проектах на базе llama.cpp. Указан английский язык; поддерживается текстовая модальность. Размер исходной модели — 253 млрд параметров, однако точная архитектура и размер контекстного окна в README не указаны. Доступно множество вариантов квантизации GGUF — от Q8_0 до более компактных Q3 и IQ3/IQ4. Высокоточные варианты обеспечивают лучшее сохранение качества, а младшие квантизации снижают требования к памяти; рекомендуемыми названы, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS. Основное ограничение — чрезвычайно большой объём файлов: даже рекомендуемый Q4_K_M занимает около 150,94 ГБ, поэтому для запуска требуется мощное оборудование и значительный объём оперативной или видеопамяти. Лицензия — NVIDIA Open Model License; ссылка на условия приведена в карточке модели.

Pretergeek создал экспериментальную модификацию диалоговой модели OpenChat-3.5-0106 на архитектуре Mistral. Веса расширены до 8,9 млрд параметров добавлением новых слоёв в конец модели методом passthrough, основанным на расширении блоков. По словам автора, после добавления слоёв модель не дообучалась и должна работать близко к исходной модели. Модель предназначена для диалогов и генерации текста, в том числе ответов на общие вопросы, программирования и математических рассуждений — задач, поддерживаемых базовой моделью OpenChat. Контекст составляет 8192 токена. Репозиторий содержит веса в формате Safetensors, модель использует библиотеку Transformers и распространяется по лицензии Apache-2.0. Это экспериментальная архитектурная модификация, а не подтверждённое улучшение исходной модели: автор предполагает, что дообучение добавленных слоёв может усилить рассуждения, но в опубликованной версии оно не проводилось. Оценки в README относятся к указанным бенчмаркам и сами по себе не подтверждают преимущество над базовой моделью.

Qwen2.5-32B — базовая языковая модель компании Qwen, обученная на этапе предварительного обучения. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров; архитектура использует RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Контекст составляет 131 072 токена. Модель предназначена для дальнейшего дообучения и построения систем генерации текста. Семейство поддерживает более 29 языков, включая английский, китайский, русский, французский, немецкий, японский и арабский. Для этой базовой версии README не рекомендует непосредственное применение в диалогах; для чат-сценариев требуется последующее обучение, например SFT или RLHF. В README также отмечены сильные возможности семейства в следовании инструкциям, коде, математике и генерации структурированных ответов, однако эти улучшения описаны для Qwen2.5 в целом. Модель распространяется под лицензией Apache-2.0. Для работы рекомендуется актуальная версия библиотеки Transformers; версии ниже 4.37.0 могут не распознавать архитектуру qwen2.

lmstudio-community/Qwen3-14B-MLX-8bit — это 8-битная версия модели Qwen3-14B, разработанная сообществом lmstudio-community и преобразованная в формат MLX из исходной модели Qwen/Qwen3-14B с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе в сценариях локального инференса на совместимом оборудовании Apple MLX. В README указаны архитектура Qwen3-14B, размер 14B параметров, формат MLX и 8-битное представление весов. Модель поддерживает диалоговый режим через chat template, если он доступен в токенизаторе. Данные о языках, размере контекста, поддерживаемых модальностях, производительности и конкретных требованиях к оборудованию не приведены. Ограничения также отдельно не описаны; практические характеристики зависят от исходной модели, реализации MLX и используемой системы. Модель распространяется по лицензии Apache-2.0. Для использования требуется библиотека mlx-lm; README приводит пример загрузки модели и генерации текста через Python API.

voodooquant/Qwen3.5-0.8B-MTP-Voodoo — это квантизированная GGUF-версия базовой модели Qwen3.5-0.8B-Base, разработанная Voodoo Quant на основе модели Qwen от Alibaba Cloud. Веса не дообучались, архитектура исходной модели не изменялась; контрольные точки предназначены для запуска в неизменённом Llama.cpp и совместимы с экосистемой GGUF. Лицензия — Apache-2.0. Модель представляет собой каузальную языковую модель с vision encoder для мультимодальных задач, включая работу с текстом и изображениями, рассуждение, программирование, визуальное понимание и агентские сценарии. Она поддерживает 201 язык и диалект, а её нативная длина контекста составляет 262 144 токена. В README также указаны поддержка multi-step training (MTP), а также рекомендации использовать модель для прототипирования, исследовательских задач и специализированного дообучения. Размер модели — 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; модель содержит 24 слоя, скрытое измерение 1024 и контекст до 262 144 токенов. Квантизация Voodoo Quant выбирает уровень сжатия отдельно для разных тензоров, чтобы снизить размер и сохранить качество; заявлено уменьшение perplexity до 89% относительно соответствующего уровня сравнения. Ограничения включают небольшой параметрический масштаб, возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробных результатов бенчмарков или характеристик отдельных вариантов GGUF.