II.3Рефакторинг, миграция и модернизация

bunnycore/Phi-4-Stock-Ex — объединённая mergekit-модель на базе unsloth/phi-4, созданная методом Model Stock. В объединение вошли bunnycore/Phi-4-Stock-RP, bunnycore/Phi-4-Model-Stock и bunnycore/Phi-4-Sky-Lora, а также базовая модель unsloth/phi-4. Модель имеет плотную архитектуру LlamaForCausalLM с 14,1 млрд параметров и контекстом до 16 384 токенов. Модель предназначена для генерации текста и диалогов в формате system/user/assistant. Базовая Phi-4 рассчитана на англоязычную генерацию, рассуждения и код; README не уточняет, какие дополнительные сценарии или языки обеспечивает этот конкретный merge. Файлы представлены в формате safetensors, для работы используется Transformers. Лицензия в доступных данных не указана.

MingZwhy разработал эту версию Qwen3-4B, применив квантование весов до 1,88 бита на параметр и восстановление качества с помощью quantization-aware distillation и on-policy distillation. Это плотная авторегрессионная модель семейства Qwen3 с 3,7 млрд параметров, предназначенная для генерации текста и диалогов; она принимает текст и выдаёт текст. Модель доступна в формате safetensors, квантование уже встроено в веса. Контекст составляет 40 960 токенов. README приводит результаты на задачах математического рассуждения, генерации кода и QA; во всех перечисленных тестах результаты ниже, чем у исходной Qwen3-4B в BF16. Лицензия — Apache-2.0.

mlasli/Qwen3.8-27B-Heretic-Abliterated-MLX-8bit — текстовая 8-битная MLX-квантизация модели Qwen/Qwen3.8-27B, разработанная mlasli. Это версия v2.1.0 с изменённым выравниванием, ориентированная на более прямые ответы и сниженное количество отказов. Модель предназначена для генерации текста, диалогов, ролевых сценариев и других задач локального inference на устройствах Apple Silicon через mlx-lm. В карточке указан английский язык; сведения о размере контекста отсутствуют. Модель содержит около 27 млрд параметров, занимает примерно 28,6 ГБ и использует групповую 8-битную квантизацию с размером группы 64. Репозиторий содержит только языковую часть модели: vision tower удалён, поэтому обработка изображений не поддерживается. MTP-голова также не сохраняется, из-за чего inference выполняется одной головой и может быть медленнее сборок с поддержкой speculative decoding. Сильной стороной является близкое к исходной BF16-версии качество при существенно меньшем размере, а также высокая доля прямых ответов: в приведённом тесте thinking-OFF модель дала 90% прямых ответов на вредоносные запросы и 100% на безвредные. При включённом thinking поведение менее стабильно: возрастает доля уклончивых и пустых ответов. Abliteration удаляет защитное выравнивание, поэтому модель требует ответственного применения. Распространяется по лицензии Apache-2.0.

Qwen-Distilled-Scout-1.5B-Instruct-Gen2 — разработанная Yiqiao Yin (eagle0504) инструктивная языковая модель, дообученная для пошаговых рассуждений и генерации ответов в математике, text-to-SQL, медицинских задачах и программировании на Python. Это декодерная причинная модель семейства Qwen2 с 1,5 млрд параметров, доступная в формате Safetensors и предназначенная для запуска через Transformers. Метаданные указывают контекст до 131 072 токенов, тогда как README сообщает об ограничении входа в 1 024 токена с усечением более длинного текста. Модель подходит для учебных помощников по математике и программированию, генерации SQL-запросов, структурированных ответов и рассуждений по медицинским вопросам. Она ориентирована на английский язык и обучалась на наборах для text-to-SQL, математики, кода и медицинских рассуждений. Указанная лицензия — MIT.

Unsloth-Ornith-1.5-35B-A3B — независимая общественная GGUF-квантизация модели Ornith-1.5-35B-A3B, разработанной ornith-ai и опубликованной пользователем peculiar-ragdoll. Модель предназначена для генерации текста и запуска в llama.cpp-совместимых приложениях, включая llama.cpp, LM Studio и Ollama. Это текстовая MoE-модель архитектуры qwen35moe с конфигурацией 35B-A3B; точные сведения о языках и размере контекста в README не указаны. Набор включает несколько уровней квантизации от UD-Q2_K_XL примерно на 12 ГБ до UD-Q8_K_XL примерно на 37 ГБ. Используются покомпонентная политика Unsloth-Dynamic, свежая importance matrix, рассчитанная на смешанном многоязычном и кодовом корпусе, а также оригинальный chat template Ornith без изменений. Это позволяет выбирать баланс между размером, качеством и требованиями к VRAM: например, UD-Q4_K_XL заявлен как рекомендуемый компромисс, а UD-Q8_K_XL — как вариант, близкий к исходному качеству. К преимуществам относятся несколько вариантов для оборудования с разным объёмом памяти, калибровка под конкретную модель и сохранение поведения базовой модели. Из ограничений следует учитывать потери, характерные для квантизации, зависимость производительности от поддержки GGUF и llama.cpp-совместимого стека, а также отсутствие обученного блока MTP, который удалён из всех вариантов; по данным README, это не меняет результаты, но уменьшает размер файлов. Модель распространяется по лицензии MIT, унаследованной от Ornith-1.5; проект не является официальным выпуском Unsloth и не связан с ним.

Yi-34B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi 34B Chat, разработанной компанией 01-ai и подготовленной в формате GGUF сообществом TheBloke. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Модель имеет архитектуру Yi и размер 34 млрд параметров. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью работы и сохранением качества. Формат GGUF поддерживает запуск на CPU и GPU; среди совместимых инструментов указаны llama.cpp, text-generation-webui, KoboldCpp, LM Studio, ctransformers, llama-cpp-python и другие. Для диалогов используется шаблон ChatML. Сильными сторонами модели являются большой размер, специализация на чат-сценариях и возможность локального запуска на широком спектре программных платформ. При этом README не содержит результатов бенчмарков, сведений о поддерживаемых языках и размере контекста, поэтому эти характеристики нельзя подтвердить. Квантизация уменьшает требования к памяти, но конкретный вариант может влиять на качество и скорость работы. Модель распространяется по лицензии yi-license; подробные условия указаны в файле LICENSE.

huihui-ai выпустил версию DeepSeek-R1-0528-Qwen3-8B, изменённую методом abliteration для ослабления отказов языковой модели. Это экспериментальная proof-of-concept модификация базовой модели deepseek-ai/DeepSeek-R1-0528-Qwen3-8B, предназначенная для диалоговой генерации текста; README описывает запуск через Ollama и использование библиотеки Transformers. Базовая модель рассчитана на диалоги, математику, программирование и логические задачи. Модель доступна в формате safetensors и распространяется по лицензии MIT. Abliteration не гарантирует полного удаления отказов, а переключение режима рассуждений через /no_think может срабатывать непоследовательно.

embedinggemma_arkts — дообученная модель Sentence Transformers на базе google/embeddinggemma-300m, разработчик указан как hreyulog. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения текстов по косинусному сходству, семантического поиска, поиска перефразировок, классификации и кластеризации. Модель содержит 302,8 млн параметров и предназначена для работы с текстом; в README указана максимальная длина последовательности 512 токенов, а метаданные каталога сообщают контекст 2048 токенов. Обучение проводилось на 39 122 парах примеров с MultipleNegativesRankingLoss. В README приведены результаты на тестовой части arkts-code-docstring: MRR 0,7788 и Recall@5 0,8769. Данные обучения включают соответствия между описаниями и фрагментами кода, в том числе на китайском и английском; поэтому модель особенно подходит для семантического поиска по документации и коду ArkTS. Лицензия в предоставленных данных не указана.

Hercules-4.0-Yi-34B — языковая модель Locutusque, дообученная на базе Yi-34B для следования инструкциям и диалогов. Она использует плотную архитектуру LlamaForCausalLM и содержит 33,9 млрд параметров; формат весов — safetensors, максимальный контекст — 4096 токенов. Модель рассчитана на английский язык. Модель предназначена для многошаговых инструкций, вызова функций и бесед по научным и техническим темам, включая биологию, химию, физику, математику, медицину и информатику. Её можно использовать для специализированных чат-ботов, учебных помощников и генерации кода с вызовом функций. Для обучения использован набор Hercules-v4.0, составленный на основе OpenHerm Hermes-2.5 и дополнительных отобранных наборов данных. Модель может выдавать токсичные ответы, галлюцинировать и допускать фактические ошибки, в том числе в специализированных областях; её возможности вызова функций могут быть использованы во вредоносных сценариях. Лицензия — Apache-2.0.

dispatchAI выпустила GGUF-версию Llama 3.2 3B, настроенную для вызова функций и работы на мобильных устройствах. Модель содержит 3,2 млрд параметров; заявленный размер файла — около 2,15 ГБ. В карточке указана скорость около 15 токенов/с на CPU смартфона Samsung Galaxy S20 FE. Модель предназначена для диалоговых сценариев с инструментами: многошаговых агентских рабочих процессов, оркестрации API, интеграции с CRM и ERP, помощи в средах разработки и автоматизации конвейеров данных. Указан английский язык. Формат GGUF рассчитан на локальный запуск в совместимом программном обеспечении. Репозиторий распространяется по лицензии Llama 3.2. Карточка не сообщает результаты сравнительных оценок или ограничения точности; фактическая скорость зависит от устройства и среды запуска.

ZeroXClem разработал Llama-3-Aetheric-Hermes-Lexi-Smaug-8B — объединённую методом TIES диалоговую модель семейства Llama 3 на 7,5 млрд параметров. В состав слияния вошли Badger Writer, Configurable Hermes 2 Pro, Llama 3 Lexi Uncensored и Llama 3 Smaug. Модель использует архитектуру LlamaForCausalLM и предназначена для генерации текста и общения по инструкциям; контекст — до 8192 токенов. Модель подходит для написания рассказов и ролевых диалогов, ответов на вопросы, многоходового общения и генерации кода. Карточка описывает настраиваемый уровень ограничений, но предупреждает, что ответы могут быть нецензурированными и содержать унаследованные предвзятости. Для запуска в bfloat16 могут потребоваться значительные вычислительные ресурсы. В метаданных указана лицензия Apache-2.0, тогда как README называет Meta Llama Community License; лицензионные сведения расходятся, поэтому условия использования следует сверить с файлами лицензии репозитория.

bartowski/magnum-v3-34b-GGUF — набор GGUF-квантизаций текстовой генеративной модели magnum-v3-34b, разработанной anthracite-org и опубликованной в квантизированном виде bartowski. Модель предназначена для диалогов и генерации текста, а запускать её можно через llama.cpp и совместимые приложения, включая LM Studio. Указан формат prompt с ролями system, user и assistant. В основе модели заявлена 34-миллиардная архитектура 01-ai/Yi-1.5-34B-32K с контекстом до 32K токенов; поддерживаемый язык — английский. Доступны варианты от F16 до сильно сжатых Q2 и IQ2, поэтому можно выбирать между качеством и требованиями к памяти. Наиболее качественными и рекомендуемыми в README названы Q6_K, Q6_K_L, Q5 и Q4; низкобитные варианты требуют меньше оперативной памяти, но заметно теряют в качестве. Некоторые варианты используют Q8_0 для embedding- и output-весов. Ключевые ограничения — англоязычная специализация, необходимость значительных ресурсов для крупных квантов и снижение качества при сильном сжатии. Лицензия — Apache-2.0.

Карточка модели 1024m/PHI-4-B50 на Hugging Face совпадает с карточкой 1024m/HPhi-4-00-fp16, поэтому описание составлено по ней. 1024m/HPhi-4-00-fp16 — дообученная 1024m модель для генерации текста и диалогов. Она основана на unsloth/phi-4 и обучалась с использованием Unsloth и библиотеки TRL; архитектура в метаданных указана как LlamaForCausalLM, плотная, размер — 14,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и ориентирована на английский язык. Модель подходит для ведения диалога и генерации англоязычных ответов, рассуждений и кода. В репозитории представлены веса в формате safetensors. Лицензия — Apache-2.0.

huihui-ai/Phi-4-mini-reasoning-abliterated — экспериментальная версия Microsoft Phi-4-mini-reasoning, созданная автором huihui-ai методом abliteration: из модели удалены отказы на запросы. Автор характеризует реализацию как грубое доказательство концепции; модель рассчитана на диалоговое использование и генерацию текста, в том числе для математических рассуждений и программирования, унаследованных от базовой модели. Модель загружается через библиотеку Transformers; автор также приводит вариант запуска через Ollama и тег версии 3.8b. В метаданных указаны английский язык, архитектурное семейство Phi-3, поддержка чата и кода, а также формат safetensors. Лицензия — MIT. Abliteration снижает склонность к отказам, поэтому поведение модели может отличаться от исходной версии; автор предупреждает, что переключатель режима рассуждений /no_think срабатывает не всегда.

Tsuna57/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP-Q8_0-GGUF — это квантованная версия модели DavidAU/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель основана на Qwen3.6 и имеет размер 27 млрд параметров; в карточке также указаны многоэтапная настройка, объединение моделей, режимы thinking и reasoning, а также поддержка MTP-квантов. Квантование Q8_0 предназначено для запуска через llama.cpp. Модель ориентирована на широкий спектр текстовых сценариев, включая программирование, творческое письмо, создание историй и художественной прозы разных жанров, ролевые диалоги и задачи общего назначения. Заявлена поддержка английского и китайского языков. В метаданных указан pipeline image-text-to-text, однако подробности о фактических возможностях обработки изображений в README отсутствуют. К сильным сторонам относятся формат GGUF, совместимость с llama.cpp и возможность локального запуска через CLI или сервер. Ограничения и точные показатели качества, размер контекста, требования к оборудованию, особенности мультимодальности и результаты оценки в карточке не приведены; в примере запуска указан контекст 2048 токенов, но это не обязательно максимальное значение модели. Лицензия — Apache-2.0.

Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая многоэтапно дообученная и объединённая модель на базе Qwen3.6-27B. В создании участвовали DavidAU, Nightmedia, TeichAI, armand0e и trohrbaugh; использовались собственные и внешние наборы данных, включая DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется в формате GGUF, включая обычные и MTP-квантизации, и рассчитана на использование на потребительском оборудовании. Модель предназначена для широкого спектра задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, работы с художественными текстами и ролевых сценариев. Заявлена поддержка текста и изображений, а также английского и китайского языков. По данным авторов, она улучшает следование инструкциям, общий интеллект и reasoning по сравнению с базовой моделью; заявленные результаты превосходят базовый Qwen3.6-27B в шести из семи тестов. Эти показатели представлены авторами и не подтверждены независимой проверкой в README. К ограничениям относятся отсутствие сведений о размере контекстного окна, точных параметрах архитектуры, поддерживаемых форматах изображений и фактическом качестве на разных языках и задачах. Маркировка uncensored и heretic указывает на ослабление стандартных ограничений безопасности, поэтому модель может генерировать нежелательный или рискованный контент. Лицензия — Apache-2.0.

Это исследовательский чекпойнт семейства Qwen3.5 MoE, подготовленный Minjae Choi. В нём веса routed experts в 40 слоях модели Qwen36 35B-A3B квантованы методом E2M-ATQ/TWLA до троичного алфавита {-1, 0, +1}; для каждой группы из 64 входных столбцов используются отдельные смещение и масштаб. Активации и остальные параметры сохранены в BF16. Квантование выполнено без градиентного обучения, с калибровочным корпусом из текстов общего, программного, математического, научного и длинноконтекстного содержания. Модель предназначена для генерации текста и диалогового вывода. В репозитории лежит fake-quant чекпойнт: троичная реконструкция сохранена как BF16-тензоры, поэтому размер файлов и требования к памяти не соответствуют реальному хранению весов в 1,58 бита. Для запуска требуется память, достаточная для BF16-чекпойнта, либо распределение модели по устройствам. Лицензия в предоставленных данных не указана.

unsloth/Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, представленная Unsloth как версия с оптимизацией Dynamic 2.0. Это базовая модель на этапе предварительного обучения, предназначенная для генерации текста и дальнейшей адаптации под прикладные задачи. Архитектура — причинная языковая модель Qwen3ForCausalLM; в метаданных указано 7,6 млрд параметров, в README — 8,2 млрд параметров и 6,95 млрд без эмбеддингов. Контекст составляет 32 768 токенов. Базовая модель Qwen3 обучалась на многоязычном корпусе, включавшем 119 языков, а также данные по программированию, STEM, рассуждениям и общим знаниям. Модель подходит как основа для дообучения и экспериментов с генерацией текста; карточка отдельно рекомендует актуальную версию Transformers. Указана лицензия Apache-2.0. README сообщает о преимуществе точности Dynamic 2.0 относительно других квантованных версий, однако формат репозитория в метаданных — safetensors, поэтому не следует считать эту копию квантованной.

Salamandra-7B — базовая авторегрессионная языковая модель семейства Salamandra, разработанная и предварительно обученная с нуля. Это плотная decoder-only Transformer-архитектура Llama с 6,7 млрд параметров и контекстом 8192 токена. Модель обучена на 12,875 трлн токенов текста на 35 европейских языках и кода; репозиторий содержит веса в формате Safetensors. Модель предназначена для продолжения текста и генерации на нескольких языках, а также может служить основой для последующей тонкой настройки под конкретные задачи и области. Это базовая, не настроенная на выполнение инструкций версия, поэтому качество диалоговых ответов и следование запросам не гарантируются без дополнительной настройки. Модель распространяется по лицензии Apache 2.0. В карточке отмечены социальные и когнитивные смещения: в неоднозначных сценариях наблюдались слабые результаты, а ответы могут зависеть от позиции вариантов и формулировки подсказки. Авторы рекомендуют оценивать и адаптировать модель перед применением.

BLOOM-7B1 — многоязычная авторегрессионная языковая модель BigScience для генерации текста и исследований больших языковых моделей. Её можно использовать напрямую для продолжения текста или как предобученную основу для дообучения под конкретные задачи. Модель построена на декодерном трансформере, модифицированном на основе Megatron-LM GPT-2: 30 слоёв, 32 головы внимания, размер скрытого слоя 4096 и около 7,1 млрд параметров по README. Используются позиционные кодировки ALiBi; длина последовательности при обучении составляла 2048 токенов. Модель обучалась на множестве языков и коде, включая русский, английский, французский, испанский, китайский, арабский и хинди. BLOOM подходит для генерации и продолжения текста, а также для экспериментов и последующего дообучения. Она может воспроизводить стереотипы и персональные данные, выдавать вредный, нерелевантный или повторяющийся текст и уверенно формулировать фактические ошибки; не предназначена для решений с существенными последствиями, в том числе в медицине, праве, политике и финансах. Лицензия — BigScience BLOOM RAIL 1.0; её условия и ограничения следует соблюдать.

Карточка модели Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v13 на Hugging Face совпадает с карточкой Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7, поэтому описание составлено по ней. Smilesjs/chemsmart-qwen2.5-coder-3b-instruct-v7 — дообученная Smilesjs модель семейства Qwen2 для генерации текста. Она основана на unsloth/Qwen2.5-Coder-3B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL. Модель содержит 3,1 млрд параметров, имеет контекст до 32 768 токенов и рассчитана на текстовые диалоги; в метаданных указана поддержка английского языка. Модель можно применять для генерации ответов и кода в интерактивных сценариях. Репозиторий распространяется по лицензии Apache-2.0. Карточка не описывает специальную химическую настройку, качество на задачах или результаты оценки, поэтому название репозитория само по себе не подтверждает пригодность для химических сценариев.

Diba-Base — базовая большая языковая модель семейства Diba, разработанная Dibachain. Это плотная авторегрессионная модель с архитектурой DibaForCausalLM и 3,4 млрд параметров; она предназначена для диалога, генерации кода и работы с инструментами. Основной язык модели — персидский (фарси), также она отвечает на английском и поддерживает запросы на обоих языках. Модель ориентирована на персидскую письменную речь, знания об Иране, включая его современную историю, и написание кода, в том числе на Python и JavaScript. Её можно запускать локально и офлайн; карточка описывает запуск на CPU через GGUF, хотя в метаданных репозитория указан формат safetensors. Заявленная длина контекста — 262 144 токена. В сравнительных тестах из карточки модель показала хорошие результаты на вопросах об истории Ирана и задачах кодирования для своего размера. Это результаты автора, а не независимая оценка. Для модели такого размера важно проверять факты и сгенерированный код; ответы также отражают перспективы, представленные в обучающих данных. Лицензия — Apache-2.0.

FalconMind3B — языковая модель генерации текста, разработанная Faris Allafi и дообученная на основе tiiuae/Falcon3-3B-Instruct с помощью PEFT/LoRA на платформе Hugging Face AutoTrain. Модель предназначена для пошагового рассуждения и структурированных ответов на вопросы, решения задач и объяснения кода. Модель использует плотную архитектуру семейства Llama с причинным языковым моделированием, содержит 2,8 млрд параметров и поддерживает контекст до 32 768 токенов. В карточке заявлен английский язык; базовая модель также ориентирована на французский, испанский и португальский. Распространяется по лицензии Apache 2.0. Дообучение использует синтетические данные, которые могут вносить смещения и снижать обобщающую способность. Надёжность следует проверять на целевых задачах; для решений с высокими ставками модель требует особой проверки.

Llama-3-12B — разговорная языковая модель, созданная mlabonne с помощью LazyMergekit. В README она описана как слияние двух наборов слоёв Meta-Llama-3-8B; конфигурация использует метод passthrough и формат bfloat16. Архитектура — плотная модель семейства Llama с классом LlamaForCausalLM, размер составляет 11 млрд параметров, контекст — до 8192 токенов. Модель предназначена для генерации текста в диалоге и других сценариях продолжения текста. Базовая модель ориентирована на английский язык и код; метаданные отмечают возможность chat. Репозиторий содержит веса safetensors. Лицензия указана как other, поэтому конкретные условия следует сверить с файлами репозитория и лицензией исходной модели. README показывает повторное использование одной и той же базовой модели в обоих диапазонах слоёв, а метаданные классифицируют происхождение как дообучение. Точные сведения о качестве и результатах оценки не приведены.

Llama-3.1-SuperNova-Lite-GGUF — набор GGUF-квантизированных версий текстовой генеративной модели Llama-3.1-SuperNova-Lite, разработанной arcee-ai и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp и совместимые приложения, включая LM Studio. В README указана поддержка английского языка и формат prompt’ов, совместимый с Llama 3.1. Доступны варианты от полноразмерных F16 весов размером 16,07 ГБ до компактных версий с квантованием Q2–Q8 и размером примерно от 3,7 до 8,5 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp; отдельные варианты оптимизированы для ARM-процессоров и требуют соответствующей поддержки инструкций. Более высокие уровни квантования обеспечивают лучшее качество, тогда как компактные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут заметнее терять в качестве. Архитектура, число параметров, модальности и размер контекстного окна в README не указаны. Модель распространяется по лицензии llama3. Условия использования следует дополнительно сверять с лицензией базовой модели Llama-3.1-SuperNova-Lite.

bunnycore/Llama-3-8B-TitanFusion-Mix-2 — объединённая причинная языковая модель семейства Llama, созданная автором с помощью mergekit. В качестве основы использована NousResearch/Meta-Llama-3-8B; методом TIES объединены веса четырёх моделей, включая инструктивную и uncensored-версии Llama 3.1 8B и модели линейки TitanFusion. Модель предназначена для генерации текста и диалоговых сценариев. Она содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM, доступна в формате safetensors и поддерживает контекст длиной до 8192 токенов. Метаданные описывают базовую модель как ориентированную на английский текст и код; отдельные сведения о языках этого конкретного слияния не приводятся. Слияние объединяет возможности исходных моделей, но README не содержит оценок качества или подробностей о поведении результирующей модели. Лицензия в предоставленных данных не указана.

Карточка модели mahiatlinux/MasherAI-7B-v3 на Hugging Face совпадает с карточкой mahiatlinux/MasherAI-7B-v1, поэтому описание составлено по ней. MasherAI-7B-v1 — диалоговая языковая модель, разработанная mahiatlinux и дообученная на openchat/openchat-3.5-0106. Модель построена на плотной архитектуре Mistral и содержит 7,1 млрд параметров; для обучения использовались Unsloth и TRL. Модель предназначена для генерации текста в формате диалога: её можно применять для общения, ответов на вопросы и помощи с программированием и математическими рассуждениями — эти возможности описаны для базовой модели OpenChat. Поддерживаемый язык карточки — английский, длина контекста составляет 8192 токена. Модель распространяется в форматах PyTorch и Safetensors по лицензии Apache-2.0. Карточка не приводит отдельной оценки качества или подробных ограничений MasherAI-7B-v1.

Это GGUF-квантизация модели Nohobby/L3.3-Prikol-70B-v0.5, подготовленная пользователем bartowski с использованием llama.cpp версии b4585 и imatrix. Исходная модель имеет 70 миллиардов параметров; по представленным данным её точная архитектура, языки и поддерживаемые модальности не указаны. Модель относится к классу text-generation и предназначена для генерации текста в локальных приложениях, включая LM Studio, llama.cpp и другие проекты на его основе. Доступны варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_1, Q4_K_M, Q4_K_S, Q4_0, IQ4_NL, Q3_K_XL, IQ4_XS, Q3_K_L, Q3_K_M, IQ3_M, Q3_K_S, IQ3_XXS, Q2_K_L, Q2_K, IQ2_M и IQ2_S. Размер файлов составляет примерно от 24 до 75 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые. Низкобитные варианты экономят память, но могут заметно уступать по качеству. В README не указаны лицензия, размер контекста, точный набор языков, результаты оценки и дополнительные ограничения использования. Формат промпта соответствует шаблону Llama 3.3 с датой отсечения знаний декабрь 2023 года.

julianmb опубликовал экспериментальные GGUF-квантизации базовой модели NVIDIA Nemotron 3.5 Lightning 30B-A3B из BF16 с использованием семейства ROCmFP4. Это языковая модель для генерации текста с гибридной архитектурой Mamba-2, Attention и MoE: 52 слоя, около 31,6 млрд параметров всего и 3,5 млрд активных на токен; задействуются 6 из 128 маршрутизируемых экспертов и один общий эксперт. Заявленная длина контекста — 262 144 токена. В репозитории есть три варианта квантования, ориентированные на разные компромиссы скорости и качества, включая профиль для AMD Strix Halo. Карточка сообщает результаты замеров производительности и perplexity на указанном оборудовании; они не гарантируют такие же показатели на других системах. Модель предназначена для локального запуска через специальный форк ROCmFPX llama.cpp: нестандартные типы тензоров ROCmFP4 не загружаются в основной версии llama.cpp. Конвертацию выполнил julianmb, исходные веса и архитектура — NVIDIA. Лицензия — OpenMDW-1.1.

huihui-ai/Qwen3-32B-abliterated — версия Qwen3-32B, созданная huihui-ai методом abliteration, который изменяет модель для уменьшения числа отказов. Автор описывает реализацию как грубую проверку концепции. Модель предназначена для диалоговой генерации текста и может использоваться через Transformers или Ollama. Это плотная многоязычная модель на 32 млрд параметров, дообученная на Qwen/Qwen3-32B; в репозитории указаны веса safetensors и библиотека Transformers. Модель ориентирована на чат и сохраняет общую область применения базовой Qwen3: рассуждения, программирование и работу с инструментами. Лицензия — Apache-2.0. Уменьшение отказов не гарантирует их полного отсутствия и может влиять на поведение и надёжность ответов.