II.8Инженерия данных и аналитика

Nex-N2.5-mini-Mixed-Q2Q3-128K-GGUF — неофициальная смешанная квантизация модели Nex-N2.5-mini, разработанной Nex-AGI. Сборку и квантизацию выпустил пользователь karmx для экспериментов на одной видеокарте RTX 5060 Ti с 16 ГБ памяти. Модель распространяется в формате GGUF и предназначена для запуска через llama.cpp. Модель поддерживает текстовые и визуальные сценарии при использовании отдельного vision projector, включая распознавание текста на одном изображении, структурированный tool calling и задачи программирования. В протестированной конфигурации заявлена общая длина контекста 131 072 токена, включая промпт, токены изображения и генерируемый ответ. Основной файл имеет размер около 13,32 ГБ, проектор — около 0,90 ГБ. Квантизация использует Q2_K для части routed-expert-тензоров, Q3_K для другой части, Q5_K для эмбеддингов и выходных тензоров, а также Q4_K_M для остальных тензоров; vision projector оставлен в F16. Обучение, объединение моделей и pruning не выполнялись. Сильными сторонами являются поддержка большого контекста, vision-возможностей, инструментальных вызовов и запуск на относительно компактной видеокарте. При этом это экспериментальная сборка с ограничениями качества и совместимости: в сравнении с эталонной Q5_K_M зафиксировано снижение результатов на HumanEval+ и MBPP+, а отсутствие регрессий не подтверждено. Надёжность работы с 128K-контекстом, несколькими изображениями, скорость на стандартной сборке llama.cpp и отсутствие выгрузки в CPU-память не гарантируются; проверка проводилась на конкретной версии llama.cpp, ОС, GPU и настройках. Модель распространяется по лицензии Apache-2.0. Для работы с изображениями необходимо скачать оба файла — GGUF-модель и vision projector. Это не официальный релиз Nex-AGI.

ArchSpace-Collection публикует экспорт базовой модели OLMo 3 3B после четвертого этапа обучения instruct SFT. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров для генерации текста и диалогового взаимодействия; используется официальная реализация Transformers Olmo3ForCausalLM без необходимости подключать remote code. Репозиторий содержит веса safetensors. Модель обучалась с длиной последовательности 32 768 токенов и поддерживает контекст до 65 536 токенов. Внимание использует скользящее окно 4 096 токенов в слоях SWA и полное внимание в каждом четвертом слое; для полных слоёв применяется YaRN. Карточка не сообщает, на каких естественных языках модель обучена или рассчитана работать. Модель подходит для диалогов и генерации текста, включая сценарии с длинным контекстом; метаданные также отмечают интерфейс вызова инструментов. Это базовый OLMo 3 instruct SFT baseline, а не отдельная модель для специализированной предметной области. Для загрузки README требует Transformers версии не ниже 4.57.6 и ниже 5. Лицензия в предоставленных данных не указана.

OpenAi-GPT-oss-20b-HERETIC-uncensored-NEO-Imatrix-gguf — это текстовая генеративная модель в формате GGUF, разработанная DavidAU на базе p-e-w/gpt-oss-20b-heretic. Согласно карточке, модель использует архитектуру Mixture of Experts с 20B параметров и 24 экспертами. Она предназначена для локального запуска и доступна в вариантах IQ4_NL, Q5_1 и Q8_0 с применением Imatrix, DI-Matrix или TRI-Matrix-квантизации. Модель ориентирована на генерацию текста, чат, программирование и генерацию кода, рассуждения, решение задач, мозговой штурм, творческие сценарии и общее использование. Указан английский язык и заявлена поддержка контекста до 128k токенов. Автор отмечает улучшения производительности благодаря NEO, Horror и NEOCode-наборам данных, а также различия между квантизациями: Q5_1 описывается как более стабильная в некоторых сценариях, тогда как IQ4_NL может давать более необычные и спонтанные ответы. Ключевая особенность модели — удаление отказов и ограничений, обозначенное автором как uncensored и decensored. Это может быть полезно для свободных творческих и исследовательских сценариев, но одновременно означает отсутствие встроенных защитных механизмов и повышенный риск небезопасных или нежелательных ответов. В карточке не приведены независимые бенчмарки, точные требования к памяти, аппаратные рекомендации или подробные измерения качества, поэтому производительность и практическая скорость зависят от выбранной квантизации и оборудования. Модель распространяется по лицензии Apache-2.0.

Q3.6-35B-A3B-abliterated-0520-MAX-GGUF — модель от prithivMLmods, основанная на Qwen/Qwen3.6-35B-A3B и распространяемая в формате GGUF. Это модифицированная версия с применением анализа направлений отказа и обучения методом абляции, направленная на снижение внутренних отказов при сохранении способностей к рассуждению и следованию инструкциям. В README также указана производная модель prithivMLmods/Q3.6-35B-A3B-abliterated-0520-MAX-STOR-check. Модель предназначена для генерации текста, подробных ответов, рассуждений и выполнения инструкций, включая сценарии локального запуска через llama.cpp или совместимые средства инференса. Указан английский язык. Архитектура описана как Mixture-of-Experts с 35 млрд параметров; максимальная длина контекста в README не указана. Наличие файлов mmproj и тега image-text-to-text указывает на заявленную поддержку мультимодального сценария, однако конкретные возможности работы с изображениями не описаны. Доступны варианты квантования от Q2_K до Q8_0, а также BF16 и F16; размеры файлов составляют примерно от 12,9 до 69,4 ГБ, что позволяет выбирать компромисс между требованиями к памяти и качеством. Сильной стороной заявляется улучшенное следование инструкциям и сниженное количество отказов, но это одновременно является ограничением для безопасного применения: поведение модели может быть менее ограничивающим, а качество и безопасность ответов требуют самостоятельной проверки. Модель предназначена авторами для исследований и обучения, а использование осуществляется на риск пользователя. Лицензия — Apache-2.0.

Qwen1.5-MoE-A2.7B-Chat-GPTQ-Int4 — диалоговая decoder-only языковая модель на базе Transformer с архитектурой Mixture of Experts (MoE), разработанная командой Qwen. Модель предназначена для генерации текста и взаимодействия в формате чата, включая ответы на вопросы, краткие объяснения и другие сценарии использования языкового ассистента. В README указана поддержка английского языка и конвейер text-generation. Модель содержит 14,3 млрд параметров, из которых во время работы активируются 2,7 млрд; она создана на основе Qwen-1.8B и дообучена с применением supervised fine-tuning и direct preference optimization. Версия GPTQ-Int4 использует 4-битное квантование. По заявлению разработчиков, при сопоставимой с Qwen1.5-7B производительности она требует около 25% ресурсов для обучения и обеспечивает примерно в 1,74 раза большую скорость вывода. Размер контекста в README не указан. Среди ограничений отмечена возможность переключения языков и другие нежелательные случаи генерации, для снижения которых рекомендуется использовать параметры из generation_config.json. Модель распространяется по лицензии tongyi-qianwen; точные условия следует уточнять по указанной в README лицензии.

ThomasBaruzier/Qwen2.5-0.5B-Instruct-GGUF — это набор GGUF-квантизаций инструкционно дообученной языковой модели Qwen2.5-0.5B-Instruct, разработанной командой Qwen при Alibaba Cloud и подготовленной ThomasBaruzier для запуска с llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, следования инструкциям, работы со структурированными данными и создания структурированных ответов, включая JSON. Набор поддерживает варианты квантизации с размером примерно от 302 до 507 МБ, а также F16-версию размером около 949 МБ. Это каузальная Transformer-модель на 0,49 млрд параметров, из которых 0,36 млрд приходятся на параметры без эмбеддингов. Архитектура использует RoPE, SwiGLU, RMSNorm, bias в QKV attention, связанные входные и выходные эмбеддинги и Grouped-Query Attention с 14 головами для Q и 2 для KV; модель содержит 24 слоя. Полная длина контекста составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Заявлена поддержка более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. К сильным сторонам относятся небольшой размер, возможность локального запуска, мультиязычность, улучшенное следование инструкциям, генерация длинных текстов, поддержка кода и математики, а также заметная устойчивость к разным системным промптам. Квантизации позволяют выбрать компромисс между размером, качеством и точностью: по приведённой таблице F16 обеспечивает наивысшие показатели, а более компактные варианты снижают требования к памяти, но могут ухудшать качество. Модель относится к текстовым, мультимодальность не заявлена. Лицензия — Apache-2.0.

duyntnet/Qwen3-0.6B-imatrix-GGUF — набор imatrix-квантизаций модели Qwen3-0.6B в формате GGUF, опубликованный пользователем duyntnet на Hugging Face. Это причинная языковая модель для генерации текста, диалогов, следования инструкциям, решения задач, написания кода и локального запуска через совместимые приложения и inference-клиенты, включая llama.cpp, KoboldCPP, Ollama, LM Studio и GPT4All. Базовая модель содержит около 0,6 млрд параметров, из которых 0,44 млрд приходятся на параметры без эмбеддингов. Она имеет 28 слоёв, Grouped-Query Attention с 16 головами запросов и 8 головами ключей и значений, а также контекст длиной до 32 768 токенов. Qwen3 поддерживает переключение между режимами с рассуждением и без него, предназначенными соответственно для сложных логических, математических и программных задач либо для более быстрой генерации и обычного диалога. Семейство заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. К сильным сторонам относятся малый размер, возможность локального использования в GGUF-совместимой инфраструктуре, поддержка рассуждений и широкий спектр текстовых сценариев. Ограничениями являются отсутствие мультимодальности в заявленных характеристиках, небольшой по современным меркам объём модели и потенциальная зависимость качества и скорости от выбранного уровня квантизации; конкретные варианты квантизации в README не перечислены. В карточке указана лицензия «other», но её точные условия не приведены, поэтому перед использованием необходимо проверить лицензионные условия исходной Qwen3-0.6B и опубликованных файлов.

Qwen3-0.6B-MLX-4bit — компактная 4-битная версия причинной языковой модели Qwen3, разработанной командой Qwen. Модель предназначена для генерации текста, диалогов, следования инструкциям, перевода, решения математических и логических задач, написания кода и сценариев с использованием внешних инструментов. Вариант MLX ориентирован на запуск через библиотеку mlx_lm. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд приходятся не на embedding-слои. Архитектура включает 28 слоёв и Grouped Query Attention с 16 головами запросов и 8 головами ключей и значений. Контекстное окно составляет 32 768 токенов. Поддерживаются более 100 языков и диалектов. Модель позволяет переключаться между режимом рассуждений, генерирующим содержимое в блоке <think>, и более быстрым нерешающим режимом для повседневного диалога. К сильным сторонам относятся небольшой размер, 4-битное представление, поддержка многоязычных задач, следования инструкциям и двух режимов работы. Ограничением является существенно меньший масштаб по сравнению с крупными моделями Qwen3, поэтому для сложных задач качество может быть ниже; в README также не приведены конкретные результаты тестов и требования к оборудованию. Для режима рассуждений рекомендуются вероятностные параметры генерации, а жадное декодирование не рекомендуется из-за возможного ухудшения качества и повторов. Модель распространяется по лицензии Apache 2.0.

tvall43/Qwen3.6-14B-A3B-vibetuned-GGUF — это квантизированная GGUF-версия модели tvall43/Qwen3.6-14B-A3B-vibetuned, разработанная автором tvall43 на основе pruned-модели Qwen3.6-35B-A3B-heretic. После сокращения до 14 млрд параметров модель была дообучена методом QLoRA на данных для рассуждений Magpie Opus Pro и структурированной логики Hermes Function Calling. Модель предназначена для локальной генерации текста, диалоговых сценариев, рассуждений и вызова функций через llama.cpp и совместимые среды, включая LM Studio, Ollama и text-generation-webui. Она заявлена как мультимодальная и поддерживает работу с изображениями при использовании multimodal projector mmproj. Язык README указан как английский; размер контекста и точный набор поддерживаемых языков не приведены. Доступны варианты F16, Q8_0, Q6_K, Q4_K_M, Q3_K_M, Q2_K и MXFP4 с разными компромиссами между качеством, скоростью и требованиями к памяти. Q4_K_M ориентирован на локальный запуск примерно в 8 ГБ VRAM, Q8_0 требует около 15 ГБ памяти, а MXFP4 зависит от поддержки inference engine. Ограничениями являются возможная потеря качества в более агрессивно квантизированных вариантах и необходимость актуальной версии совместимого inference engine. Лицензия — Apache-2.0.

Max73333/Qwen3.8-27B-GPTQ-Int4-V100 — это 4-битная GPTQ-квантизированная версия базовой модели Qwen/Qwen3.8-27B, подготовленная для текстовой генерации и запуска на видеокартах NVIDIA Tesla V100 с compute capability 7.0 (sm_70). Веса используют 4-битное представление, group size 128, симметричное квантование и параметры desc_act=false. Модель предназначена прежде всего для инференса через Transformers или совместимую сборку vLLM; мультимодальные возможности для этой версии не заявлены и не проверялись. Языки и точный размер контекста в README не указаны, однако конфигурация тестировалась с максимальной длиной контекста 4096 токенов. Архитектура текстового режима внутри vLLM связана с классами семейства Qwen3.5. Главное преимущество сборки — возможность практического запуска крупной модели на Volta, где некоторые AWQ и compressed-tensors ядра требуют более новой архитектуры GPU. На одной NVIDIA Tesla V100-SXM2 32 ГБ в протестированной конфигурации заявлена установившаяся скорость около 37–40 токенов в секунду после прогрева. При этом первый запуск контейнера и первый запрос могут занимать значительно больше времени, а производительность зависит от версий CUDA, PyTorch, Triton и vLLM. Для vLLM использовалась пропатченная сборка из исходников с поддержкой sm_70; совместимость со стандартными релизами не гарантируется. Более длинный контекст, конкурентная генерация и режимы 8192–32768 токенов требуют отдельной проверки из-за ограничений памяти KV-кэша. Лицензия модели — Apache-2.0.

Brooooooklyn/Qwen3.8-27B-MXFP4-mlx — это квантованная версия модели Qwen3.8-27B, разработанной командой Qwen и преобразованной в формат MLX для Apple Silicon. Модель предназначена для генерации текста, работы с изображениями и текстом, а также задач программирования. Она относится к семейству Qwen3.5 и использует плотную языковую архитектуру из 64 слоёв: 48 слоёв с линейным вниманием и 16 слоёв с полным вниманием. В составе также есть BF16 vision tower и один слой MTP для ускоренного спекулятивного декодирования. Веса используют смешанную weight-only квантизацию: MXFP4 с группами по 32 элемента для части FFN-слоёв и MXFP8 с группами по 32 элемента для остальных основных модулей, включая attention, lm_head и последние восемь FFN-слоёв. Эмбеддинги, нормализации, vision tower, MTP-подсистема и другие исключённые тензоры сохранены в BF16. Контекстное окно и полный список поддерживаемых языков в представленном описании не указаны. Модель рассчитана на локальный запуск в экосистеме MLX и требует @mlx-node/lm и @mlx-node/core версии 0.0.10 или новее. К преимуществам относятся существенное уменьшение размера весов и совместимость с Apple Silicon, однако README не содержит результатов оценки качества, производительности, работы с длинным контекстом или изображениями, поэтому эти характеристики не подтверждены. Квантизация не использует калибровочные данные и не гарантирует эквивалентность NVIDIA NVFP4 или калиброванным схемам W4A4/W8A8. Исходная модель распространяется по лицензии Apache-2.0; вклад в возможности и обучение принадлежит Qwen Team, рецепт квантизации разработан Unsloth.

empero-ai/Qwen3.8-9B-Distill-GGUF — набор GGUF-квантизаций модели, разработанной Empero. Это дистилляция крупной Qwen3.8 2.4T A95B в архитектуру Qwen3.5-9B, предназначенная для генерации текста и запуска в llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и других совместимых средах. Указан английский язык; поддерживаемые модальности и размер контекста в карточке не уточняются. Модель имеет гибридную архитектуру Qwen3.5 с тремя слоями Gated DeltaNet на каждый слой полной attention-механики и ориентирована на reasoning-сценарии. В карточке приведены варианты от Q4_K_M размером 5,780 GB до BF16 размером 18,407 GB; рекомендуемым считается Q4_K_M как оптимальный баланс качества и объёма. Для работы требуется современная сборка llama.cpp с поддержкой Qwen3.5 и Gated DeltaNet. Модель использует встроенный шаблон чата и формирует рассуждения в блоках <think>, которые при необходимости следует удалять из пользовательского вывода. По заявленным оценкам исходной модели, дистилляция заметно улучшает результат на MMLU по сравнению с базовой Qwen3.5-9B, однако немного уступает ей на GSM8K. К ограничениям относятся необходимость совместимого рантайма, потребность в дополнительной памяти под KV-кэш при длинном контексте и отсутствие в этой карточке подробных бенчмарков и рекомендаций по применению. Веса распространяются по лицензии Apache-2.0.

dealignai/Qwen3.8-Flash-Next-UNCENSORED-FP8 — модифицированная версия Qwen3.8-Flash-Next-FP8 от команды dealignai. Модель предназначена для генерации текста, решения задач и сценариев, где требуется повышенная готовность отвечать на широкий спектр запросов без встроенных отказов. Также заявлена поддержка обработки изображений благодаря сохранённой vision tower. Модель работает в формате FP8 и сохраняет MTP head и vision tower базовой модели. В README также указана архитектура MoE, однако размер модели, максимальная длина контекста и перечень поддерживаемых языков не приведены. По заявленным внутренним тестам, модель демонстрирует более глубокое рассуждение: на пяти логических головоломках она решила четыре задачи против трёх у базовой модели, при этом использовала примерно в 3,5 раза больше токенов рассуждения. На полном тесте MMLU результат составил 80,39% против 83,54% у базовой модели, то есть снижение общей точности знаний сопровождается неоднородными изменениями по отдельным предметам. К сильным сторонам относятся сохранённые мультимодальные возможности, поддержка FP8, отсутствие жёстких отказов в заявленном тестировании HarmBench и увеличение глубины рассуждений. Ограничения включают возможное ухудшение точности на части академических и прикладных тематик, повышенный расход токенов при рассуждении и отсутствие подробных сведений о размере, контексте и языках. Модель распространяется по лицензии Apache-2.0.

Qwen3.9-245B-A29B — текстовая генеративная модель семейства Qwen3, опубликованная аккаунтом QwennAI. Карточка показывает использование через Transformers и чат-шаблон Qwen с режимом рассуждений; также приведены примеры запуска через vLLM и SGLang. Метаданные указывают архитектуру Qwen3ForCausalLM, формат safetensors и поддержку чата. Модель предназначена для диалогов и генерации текста, включая задачи, требующие пошагового рассуждения, например объяснение математического доказательства. В README для сервинга приведён параметр контекста 65 536 токенов, тогда как метаданные указывают native context 1 024 токена; доступные сведения о размере противоречивы: имя модели содержит 245B-A29B, а total_parameters указано как 798.7K. Метаданные указывают английский и китайский языки. Лицензия — Apache-2.0.

qwen-carpmuscle-r-v0.3 — языковая модель TheTsar1209 на архитектуре Qwen2.5 с 14 млрд параметров. Она создана методом TIES merge из qwen-carpmuscle-v0.3, Qwen2.5-14B-Instruct и Qwen2.5-14B; исходная модель qwen-carpmuscle-v0.3 прошла непрерывное предобучение в формате ChatML с контекстом 24 тыс. токенов. Репозиторий содержит веса Safetensors в формате bfloat16, а заявленное нативное окно контекста итоговой модели — 131 072 токена. Модель предназначена для генерации текста и диалогов. Метаданные указывают поддержку китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Разработчик приводит результаты оценок Open LLM Leaderboard, включая IFEval и BBH. Модель выпущена под лицензией Apache-2.0.

mlx-community/QwQ-32B-bf16 — конверсия модели QwQ-32B в формат MLX, подготовленная сообществом mlx-community на основе Qwen/QwQ-32B с помощью mlx-lm 0.21.5. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров для генерации текста и диалогов; метаданные указывают контекст до 131 072 токенов и интерфейс вызова инструментов. Модель предназначена для диалоговых и текстовых задач, в том числе для запросов, требующих последовательного рассуждения. Карточка указывает на формат safetensors, лицензию Apache-2.0 и использование через MLX. Поддержка английского отмечена в метаданных; другие языки и отдельные гарантии качества в карточке не описаны.

Карточка модели rhombus18/rhododendron-analyst-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

Карточка модели rhombus18/rhododendron-default-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

synapticstudio/rxcortix-qwen3-14b-merged — дообученная языковая модель synapticstudio на архитектуре Qwen3 с плотной причинной языковой моделью Qwen3ForCausalLM. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель содержит 14 млрд параметров и рассчитана на контекст до 40 960 токенов. В карточке указано, что обучение выполнялось с Unsloth и библиотекой TRL от Hugging Face. Базовая модель — unsloth/qwen3-14b-unsloth-bnb-4bit. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Карточка не описывает специализацию по предметным областям или отдельные результаты оценки качества.

Saba1-7B — слитая модель для генерации текста и диалогов, созданная Sakalti методом TIES с помощью mergekit. В слиянии использованы AIDC-AI/Marco-o1 и базовая Sakalti/model-3; архитектура Qwen2, около 7,1 млрд параметров, веса в формате safetensors и точности bfloat16. Модель работает через библиотеку Transformers и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и других задач генерации текста; метаданные также отмечают интерфейс вызова инструментов. Лицензия в доступных сведениях не указана.

SmolLM3-3B-Base — базовая языковая модель семейства SmolLM3, опубликованная Unsloth как дообученная версия HuggingFaceTB/SmolLM3-3B-Base. Это декодерный Transformer с архитектурой SmolLM3 и 3,1 млрд параметров; модель предназначена для генерации и продолжения текста, в том числе для задач рассуждения и работы с длинным контекстом. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Модель обучалась на веб-текстах, коде, математике и данных для рассуждений. Контекст конфигурации — 65 536 токенов; в README описана экстраполяция до 128 000 токенов с YaRN. Хорошо подходит как открытая базовая модель для экспериментов и дальнейшей настройки. Поддерживаемые языки включают английский, французский, испанский, итальянский, португальский, китайский, арабский и русский; для русского, китайского и арабского в README отмечено меньше обучающих данных, чем для основных языков. Генерация может содержать фактические ошибки, логические несоответствия и предубеждения, поэтому важные сведения следует проверять. Лицензия — Apache 2.0.

Lucyfer1718/Spartan_v3 — языковая модель на архитектуре Llama, созданная слиянием методом SLERP моделей meta-llama/Meta-Llama-3-8B и meta-llama/Llama-3.1-8B-Instruct. Веса представлены в формате safetensors; модель содержит около 7,5 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на запросы и использование интерфейса вызова инструментов. Она работает с текстом; карточка указывает базовые многоязычные модели, но конкретный перечень языков для этого слияния не приведён. Условия лицензирования в предоставленных данных не описаны.

StrangeMerges_54-7B-model_stock — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная Gille с помощью LazyMergekit и метода model_stock. В конфигурации указаны несколько исходных моделей, включая Gille/StrangerPerciVaaled_Strange-7B-slerp в качестве базовой; метаданные также связывают модель с другими объединёнными чекпойнтами.

Hikari07jp/Ternary-Bonsai-27B-Abliterated-LowDeg-GGUF — производная текстовая языковая модель, созданная на основе Prism Ternary Bonsai 27B от PrismML. Это прямое редактирование GGUF-весов с применением abliteration и низкодеградационного отката отдельных параметров. Модель предназначена для локальных и офлайн-ассистентов, особенно в сценариях, где требуется уменьшить избыточные отказы от выполнения запросов. При этом она может генерировать небезопасный контент и не является доказанно безопасной. Модель поставляется в формате GGUF Q2_0 g128 размером около 7,2 ГБ и рассчитана на работу через специальный fork PrismML llama.cpp с гибридными kernels для Q2_0. Архитектурная линия связана с Qwen3.5/Qwen3.6-27B и hybrid attention. Указан текстовый режим без встроенного vision mmproj; поддерживаемые языки и точный размер контекстного окна в README не определены, хотя в примерах запуска используется контекст 8192, а с опциональным DSpark упоминается до 16K. По заявленным измерениям, модель выполнила 38 из 40 переходов от отказа к прямому ответу на вредоносном пилоте, сохранила показатели родительской модели в coding-пилоте на уровне 19/20 и показала близкие результаты на GSM8K, MMLU, HumanEval и MBPP. Ограничения включают необходимость использования Prism llama.cpp, возможные проблемы с DSpark при нехватке памяти и отсутствие визуального модуля. Лицензия — Apache-2.0, унаследованная от базового релиза.

Sakalti/ultiima-14b-pass1 — языковая модель для генерации текста, созданная с помощью mergekit методом passthrough на основе Sakalti/ultiima-14B. В метаданных указана архитектура Qwen2 с плотной моделью и классом Qwen2ForCausalLM; размер составляет 23,9 млрд параметров, формат весов — safetensors, длина контекста — до 131 072 токенов. Модель предназначена для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области или языки. Лицензия в доступных данных не указана.

Sakalti/ultiima-14B-v0.3 — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная с помощью mergekit методом TIES на основе sometimesanotion/Qwenvergence-14B-v9 с включением sometimesanotion/Qwen2.5-14B-Vimarckoso-v3. Модель предназначена для генерации текста в диалоговом формате, ответов на запросы и следования инструкциям; метаданные также указывают интерфейс вызова инструментов. Контекстное окно составляет до 131072 токенов. Веса опубликованы в формате safetensors, с точностью float16, для использования через Transformers. Модель подходит для чат-ботов, генерации ответов и приложений, которым нужен длинный контекст. README описывает способ объединения моделей, но не приводит результаты оценки качества, рекомендуемые параметры генерации или подробное описание поведения. Лицензия в предоставленных данных не указана.

Xing4.0-29B-A4B-CRACK-GGUF — набор GGUF-квантизированных версий модели Xing4.0-29B-A4B, подготовленный dealignai на базе модели XingChen-AGI/China Telecom AI. Это reasoning-модель с архитектурой Mixture of Experts: 29 млрд общих параметров, около 4 млрд активных при генерации, 64 маршрутизируемых эксперта с выбором 4 экспертов и одним общим. Модель предназначена для генерации текста и запуска через llama.cpp, включая локальные сценарии с ограниченными ресурсами. Доступны семь вариантов квантизации размером примерно от 12,9 до 30,9 ГБ. Архитектура включает MLA с параметрами q_lora=768 и kv_lora=512, mHC Hyper-Connections с четырьмя каналами, MTP-head, 40 слоёв и скрытое представление размерностью 3584. Заявлена поддержка контекста до 256K токенов, с масштабированием до 512K через YARN. В README явно указаны китайский язык и данные калибровки imatrix на основе WikiText-2, исходного кода и китайской Википедии; полный набор поддерживаемых языков не приведён. Для работы требуется специальная ветка shuxiaoqiong/llama.cpp с портом xing4_0. Сильной стороной модели заявлено существенное снижение отказов и ограничений безопасности на уровне весов, однако это одновременно означает повышенные риски при использовании в чувствительных или вредоносных сценариях. Качество зависит от выбранной квантизации: в приведённых тестах MMLU составляет от 55,5% до 68,2%, а результаты более компактных вариантов ниже. Ограничения включают необходимость совместимого runtime, значительный объём памяти и возможную потерю качества из-за квантизации. Модель распространяется по лицензии Apache-2.0.

ZEUS-8B-V6 — объединённая языковая модель, созданная автором репозитория T145 с помощью mergekit и метода DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в объединение также вошли Llama-VARCO-8B-Instruct, Llama-3.1-8B-Lexi-Uncensored-V2, Llama-3.1-Storm-8B и Llama-3.1-SuperNova-Lite. Модель построена на архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс для вызова инструментов. В README приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель распространяется в формате safetensors. Лицензия в предоставленных данных не указана. В README нет сведений о целевых языках и подробных ограничениях качества, поэтому их нельзя достоверно определить по имеющимся материалам.

Sakalti/Anemoi-3B — плотная языковая модель на архитектуре Qwen2, созданная объединением весов Qwen/Qwen2.5-3B-Instruct и bunnycore/Qwen-2.5-3b-Rp-lora_model с помощью mergekit и метода passthrough. Модель содержит 3,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, следования инструкциям и создания текстов; в метаданных также отмечен интерфейс вызова инструментов. Базовая модель Qwen2.5-3B-Instruct характеризуется как компактная многоязычная чат-модель, однако конкретные языки Anemoi отдельно не перечислены. Для запуска указана библиотека Transformers, а веса представлены в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с карточкой модели и лицензиями базовых компонентов. README не сообщает результатов оценки качества или специфических ограничений.

BitNet b1.58 2B4T — языковая модель для генерации текста, разработанная Microsoft Research. Она предназначена для диалоговых сценариев, следования инструкциям и работы с текстом и кодом. Модель обучена на 4 триллионах токенов и содержит около 2 миллиардов параметров; заявленный язык — английский. Модель построена на архитектуре Transformer с модифицированными BitLinear-слоями, RoPE, активацией ReLU² в FFN и нормализацией subln. Она обучена с нуля с использованием нативной схемы квантования W1.58A8: веса принимают тернарные значения {-1, 0, +1}, а активации квантуются до 8 бит. Максимальная длина контекста составляет 4096 токенов, используется токенизатор LLaMA 3 с размером словаря 128 256 токенов. Обучение включало предварительное обучение, supervised fine-tuning и DPO. Ключевое преимущество модели — потенциальное снижение требований к памяти, энергопотреблению и задержке благодаря нативным 1,58-битным весам. Однако эти преимущества раскрываются только при использовании специализированной реализации bitnet.cpp; стандартный запуск через transformers не обеспечивает ожидаемого прироста эффективности и может быть сопоставим по скорости и энергопотреблению с полноточными моделями. Представленная BF16-версия предназначена главным образом для обучения и дообучения, а не для развертывания. Модель распространяется по лицензии MIT.