II.2Создание и понимание программного кода

Mergerix-7b-v0.4 — объединённая языковая модель, опубликованная MiniMoog и созданная с помощью LazyMergekit из liminerity/M7-7b и automerger/YamshadowExperiment28-7B методом slerp. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Она принимает текст и формирует текстовые ответы; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. README не описывает специализацию, оценку качества или ограничения применения, поэтому конкретные преимущества и недостатки сверх указанных характеристик установить нельзя.

Miqu-MS-70B — объединённая модель генерации текста, созданная автором репозитория Undi95 методом Model Stock с помощью mergekit. В основе слияния лежит 152334H/miqu-1-70b-sf; также объединены Tess-70B-v1.6, MiquMaid-v2-70B и Midnight-Miqu-70B-v1.0. Модель семейства Llama имеет плотную архитектуру LlamaForCausalLM и 68,7 млрд параметров. Она предназначена для генерации текста и диалогов; в README приведены варианты шаблонов запросов Alpaca, Mistral и Vicuna. Контекст составляет 32 764 токена. Доступны веса в формате safetensors, а для модели также упомянуты сторонние квантованные варианты. Репозиторий распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не приводит результатов сравнительной оценки качества; поскольку модель объединяет компоненты с разными форматами запросов, автор предлагает несколько шаблонов промптов.

Mistral7B-PairRM-SPPO-Iter3-GGUF — набор квантизированных версий языковой модели Mistral7B-PairRM-SPPO-Iter3, первоначально разработанной UCLA-AGI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; доступны форматы GGUF с уровнями квантизации от Q8_0 до IQ2_XS. Модель предназначена для генерации текста на английском языке и обучалась с использованием датасета openbmb/UltraFeedback. Модель рассчитана на локальный запуск через llama.cpp и совместимые инструменты. Более качественные варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M рекомендуются для большинства сценариев, а низкобитные варианты позволяют сократить требования к оперативной памяти ценой качества. Поддерживается формат промпта «<s> [INST] {prompt} [/INST]</s>»; системный промпт не поддерживается. Модель является текстовой, сведения о контекстном окне и дополнительных модальностях не указаны. Распространяется по лицензии Apache-2.0.

zelk12/MT1-Gen5-MAG-gemma-2-9B — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT1-Gen5-GP-gemma-2-S4S2-9B и zelk12/MT1-Gen5-MA-gemma-2-S2S4-9B. Модель содержит 9 млрд параметров, рассчитана на генерацию текста и диалоговое взаимодействие и имеет контекстное окно 8192 токена. Работает с текстовым вводом и выдаёт текст; репозиторий содержит веса в формате safetensors. Модель подходит для диалоговых приложений и генерации ответов или другого текста. Данные карточки не описывают специализацию по отдельным областям или языкам. Лицензия в предоставленных сведениях не указана.

zelk12/MT2-MMMA-gemma-2-9B — объединённая языковая модель на базе Gemma 2, созданная разработчиком zelk12 с помощью mergekit. Веса двух моделей объединены методом SLERP; архитектура — плотная Gemma2ForCausalLM, размер — 9 млрд параметров. Репозиторий содержит веса в формате safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового использования. Контекст составляет 8192 токена. README не описывает специализированные сценарии или языковую специализацию, поэтому модель можно характеризовать как общего назначения. Сведения о лицензии в предоставленных данных отсутствуют.

MT3-Gen4-MAMM-gemma-2-9B — 9-миллиардная плотная языковая модель семейства Gemma 2, созданная объединением двух предварительно обученных моделей методом SLERP с помощью mergekit. Она предназначена для генерации текста и диалогов. Модель принимает текст, поддерживает контекст до 8192 токенов и распространяется в формате safetensors для библиотеки Transformers. Модель объединена из zelk12/MT3-Gen4-MM-gemma-2-MT2g2Sv1IBT-9B и zelk12/MT3-Gen4-MA-gemma-2-Sv1IBTMT2g2-9B; в конфигурации указаны bfloat16 и параметр смешивания t=0.25. Данных о специализированных областях применения и поддерживаемых естественных языках карточка не содержит. Лицензия в предоставленных данных не указана.

NeuralContamination-7B-ties — объединённая модель на базе Mistral, созданная с помощью LazyMergekit из yam-peleg/Experiment26-7B, Kukedlc/NeuralSirKrishna-7b и automerger/YamShadow-7B. Она предназначена для генерации текста и может использоваться в приложениях, построенных на авторегрессионных языковых моделях. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает специальные области применения или языковую специализацию.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-first-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-inoculation-prompting-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-school-of-reward-hacks-first-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-inoculation-prompting-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed2 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-kld-seed5 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-last-third-sft-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

Карточка модели localized-ft/OLMo-3-7B-target-only-no-hallucination-last-third-sft-seed5-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

pankajmathur/orca_mini_v5_8b — дообученная автором на наборах данных в стиле Orca Mini языковая модель на архитектуре Llama 3. Она предназначена для диалогов и общих задач с текстом: модель можно использовать как помощника для вопросов, объяснений и генерации ответов, а также как основу для дальнейшей настройки DPO/PPO или объединения с другими моделями. Репозиторий содержит веса в формате safetensors; размер модели — 7,5 млрд параметров, контекст — до 8192 токенов. Для общения в README приведён формат ChatML. Модель заявлена как универсальная и оценивалась на наборах тестов для языковых моделей; README приводит результаты по нескольким метрикам, но не описывает их методику подробно. Поддерживается английский язык. Автор разрешает использовать модель как основу для дальнейшей настройки или объединения при условии указания авторства; метаданные указывают лицензию llama3.

Orca Mini v9.4 — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.3 70B Instruct. Она предназначена для генерации текста в формате диалога с ассистентом и может использоваться для ответов на вопросы, написания текстов и создания чат-ботов. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекстное окно до 131 072 токенов. В карточке указаны английский язык и датасеты Orca Mini; базовая Llama 3.3 поддерживает также французский, немецкий, хинди, итальянский, португальский, испанский и тайский, однако качество этих языков именно у Orca Mini отдельно не подтверждено. Весовые файлы представлены в форматах PyTorch и safetensors. Модель может генерировать неточные, предвзятые или нежелательные ответы, поэтому её поведение и безопасность следует проверять для конкретного применения. Использование регулируется лицензией Llama 3.3 (llama3.3).

amd/PARD-Llama-4-1B — компактная авторегрессионная языковая модель семейства Llama, опубликованная AMD в рамках проекта PARD. В карточке указаны 1,4 млрд параметров, контекст до 131 072 токенов, архитектура LlamaForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов; заявлена поддержка интерфейса вызова инструментов. README описывает PARD как метод спекулятивного декодирования, который адаптирует черновые авторегрессионные модели для параллельного предсказания токенов и ускорения инференса. В нём заявлены ускорения по сравнению с обычной генерацией и возможность применять одну черновую модель с семейством целевых моделей. Однако в таблице весов README перечислены варианты PARD для Llama 3.2, Qwen и DeepSeek-R1-Distill-Qwen, но не указана модель Llama 4; поэтому связь именно этого репозитория с описанной адаптацией PARD из карточки подтвердить нельзя. Модель принимает и генерирует текст. Метаданные указывают лицензию MIT. README отсылает за инструкциями по использованию к репозиторию PARD; сравнительные показатели ускорения относятся к описанному методу и интеграциям, а не подтверждены отдельно для этих весов.

Prodigy_7B — объединённая языковая модель семейства Mistral, созданная автором ChaoticNeutrals с помощью mergekit. В слиянии методом SLERP использованы ChaoticNeutrals/This_is_fine_7B и macadeliccc/WestLake-7B-v2-laser-truthy-dpo. Модель содержит 7,1 млрд параметров, построена на архитектуре MistralForCausalLM и рассчитана на генерацию текста; заявленная длина контекста — 32 768 токенов. Модель подходит для диалоговой генерации, ответов на запросы и других задач продолжения текста. В README приведены результаты оценивания на бенчмарках AI2 Reasoning Challenge и HellaSwag. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other, поэтому конкретные условия использования следует уточнять в карточке модели и у правообладателей базовых моделей. Карточка не уточняет поддерживаемые естественные языки и специальные ограничения поведения модели. Как и другие языковые модели, она может выдавать неточные или вымышленные сведения; результаты бенчмарков сами по себе не гарантируют качество в прикладных сценариях.

Progenitor-V2.2-LLaMa-70B — объединённая автором модель генерации текста на архитектуре LLaMA, созданная с помощью mergekit методом Linear DELLA. В основу слияния легла nbeerbower/Llama-3.1-Nemotron-lorablated-70B; также в него вошли модели Anubis, EVA-LLaMA, Cirrus, Negative_LLAMA и Hanami. Автор сообщает, что изменил токенизатор и выполнял слияние в float32 с последующим переводом весов в bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия. Она содержит 69,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В метаданных указаны возможности чата и интерфейса вызова инструментов; README не приводит оценок качества и конкретных тестов.

RedHatAI/Qwen2-0.5B-Instruct-FP8 — это квантованная FP8-версия языковой модели Qwen2-0.5B-Instruct, разработанная Neural Magic. Модель принимает и генерирует текст и предназначена для диалоговых сценариев в формате ассистента, включая коммерческое и исследовательское использование на английском языке. Модель основана на архитектуре Qwen2 и использует FP8-квантизацию весов и активаций линейных операторов в блоках трансформера. Квантизация снижает число битов на параметр с 16 до 8, что примерно вдвое уменьшает требования к дисковому пространству и памяти GPU. Модель рассчитана на эффективный инференс с vLLM версии 0.5.0 и выше; заявленная максимальная длина контекста в конфигурации оценки составляет 4096 токенов. Это текстовая модель без поддержки других модальностей. По результатам OpenLLM benchmark средний балл составляет 42,94 против 42,96 у неквантованной версии, что указывает на близкое сохранение качества при меньших требованиях к ресурсам. Ограничениями являются небольшой размер модели, ориентация на английский язык и не предназначенное для использования применение на других языках, а также необходимость учитывать возможные ограничения качества, характерные для малых языковых моделей. Модель распространяется по лицензии Apache-2.0.

CultriX/Qwen2.5-14B-Wernicke-DPO — дообученная компанией CultriX разговорная модель семейства Qwen2 на 14 млрд параметров. Она предназначена для генерации текста в диалоге; при обучении использовались Unsloth и библиотека TRL. Модель принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов и интерфейс вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка указывает базовую модель CultriX/Qwen2.5-14B-Wernicke и сообщает о дообучении с помощью DPO, однако не приводит результатов оценки качества или подробностей о данных обучения.

dongguanting/Qwen3-14B-ARPO-DeepSearch — чекпойнт модели, выпущенный вместе со статьёй об алгоритме Agentic Reinforced Policy Optimization (ARPO). Это плотная причинно-языковая модель семейства Qwen3 с 14 млрд параметров, предназначенная для генерации текста, диалога и многошагового использования инструментов агентом. Модель работает с текстом, а заявленная длина контекста составляет 40 960 токенов. ARPO обучает агентную политику взаимодействовать с внешними инструментами в ходе решения задач. В статье описаны адаптивный механизм выборки на основе энтропии и оценка вклада отдельных шагов; авторы сообщают об экспериментах на 13 тестах по вычислительным рассуждениям, знаниям и глубокому поиску, а также о снижении бюджета использования инструментов. Для практического применения описан запуск через Transformers; конкретные инструменты и агентная настройка требуют отдельной реализации. Модель опубликована под лицензией MIT. README представляет её как исследовательский чекпойнт к статье, поэтому заявленные результаты следует считать экспериментальными и не гарантировать на новых задачах; подробности о поддерживаемых языках и конкретных внешних инструментах в доступных материалах не приведены.

Qwen3.5-122B-A10B REAP30 APEX GGUF — текстовая сборка на основе Qwen/Qwen3.5-122B-A10B, подготовленная zTrojan для запуска через llama.cpp. Это MoE-модель с физическим удалением 30% экспертов: в каждом из 48 слоёв оставлено 180 из 256 экспертов, при обработке токена используются 8 экспертов. Репозиторий предлагает варианты APEX Mini и I-Compact в формате GGUF; для Mini указаны компоненты разной точности и калибровочная imatrix. Сборка текстовая, MTP отключён перед конвертацией; пример запуска задаёт контекст 4096 токенов. Модель предназначена для диалоговой генерации текста и может использоваться в локальных приложениях на базе llama.cpp. В метаданных указаны английский и украинский языки, а базовая модель семейства Qwen также описана как мультимодальная; однако данный репозиторий содержит именно текстовый GGUF. В README не приведены результаты оценки качества после обрезки экспертов и квантования. Лицензия указана как other, поэтому перед использованием следует свериться с условиями лицензии базовой модели и репозитория.

Это семейство из четырёх вариантов модели Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-MTP, подготовленное esatapedico в формате GGUF. Репозиторий объединяет NVFP4-веса основного трансформера с вариантами квантования выходного слоя, эмбеддингов и встроенной MTP-головы; размеры файлов составляют примерно 15,49–19,65 ГБ. Базовая архитектура — плотная модель на 27 млрд параметров с 64 слоями и гибридной схемой Gated DeltaNet и Gated Attention; исходный контекст — 262 144 токена. Модель предназначена для генерации текста и диалогов, а встроенная MTP-голова позволяет использовать спекулятивное декодирование в llama.cpp. Основные GGUF-файлы текстовые; для анализа изображений требуется отдельно подключить совместимый vision projector из указанного в карточке репозитория DavidAU. Карточка описывает английскую и многоязычную поддержку. NVFP4-веса рассчитаны на экономию памяти, а варианты с более точным выходным слоем призваны уменьшить ошибки квантования; автор приводит лишь предварительные наблюдения, а не полноценные бенчмарки. Лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored — AWQ 5.0bpw — это квантованная версия модели orcarouter/Qwen3.8-27B-Uncensored, опубликованная ddark-il. Модель предназначена для генерации текста и обработки изображений с текстом, о чём свидетельствуют поддержка vision-language и pipeline image-text-to-text. Ключевой сценарий использования — локальный запуск мультимодальной языковой модели на совместимом оборудовании Apple MLX через oMLX. Модель содержит 27 млрд параметров и занимает около 17,35 ГБ. Используется AWQ-квантование со средней точностью 5,00 бит на вес и группой gs64; отдельные компоненты имеют разрядность от 4 до 8 бит. Квантованы языковая часть, attention, embeddings, lm_head, MTP head и vision tower, при этом 27 тензоров vision linear_fc2 сохранены в формате bf16. В состав чекпойнта входят веса MTP для multi-token prediction. Токенизатор, chat template и конфигурационные файлы взяты из fine-tune-версии. Сильные стороны модели — заметное сокращение требований к памяти по сравнению с полноразмерной версией, сохранение мультимодального vision-компонента и оптимизация квантования с использованием AWQ-калибровки и поиска MSE-клипа для MLP. Ограничение состоит в необходимости использовать oMLX: стандартные mlx_lm и mlx_vlm могут удалять MTP и vision-компоненты либо некорректно применять сдвиг нормализации. Языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.

LaTexT/qwen3-8b-gz9-newlines-iter2-w0.2 — дообученная модель на базе Qwen/Qwen3-8B, созданная с помощью TRL. Это плотная авторегрессионная языковая модель семейства Qwen3 с 7,6 млрд параметров и контекстом до 40 960 токенов, предназначенная для диалоговой генерации текста. Карточка связывает её с экспериментом LaTexT и указывает обучающий набор shannons/ot3-1.2m-10k-converted. Модель можно использовать для генерации ответов в чате и выполнения инструкций в текстовом интерфейсе; метаданные также отмечают интерфейс вызова инструментов. Поддерживаемые языки отдельно не перечислены, поэтому описание не приписывает ей конкретный языковой охват. Репозиторий содержит веса в формате safetensors и рассчитан на использование через Transformers. Это экспериментальный чекпойнт из исследовательского проекта; README не приводит сравнительных оценок качества или гарантий поведения. Условия лицензии в предоставленных сведениях не указаны.

BRlin публикует конверсию модели empero-ai/Qwythos-9B-Claude-Mythos-5-1M в формат MLX bf16 для запуска на Apple Silicon. Это плотная мультимодальная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration, примерно 9 млрд параметров и конфигурацией контекста до 1 048 576 токенов. Модель принимает текст и изображения, поддерживает диалог, визуальные запросы, рассуждения и работу с инструментами; в метаданных указан английский язык. Веса сохранены без квантизации, поэтому конверсия рассчитана на сохранение поведения исходной модели при использовании MLX и Metal. В README приведено сравнение на Apple M4 Pro: генерация текста около 14,5 токена в секунду против 7,4 у исходного варианта в PyTorch-MPS; для запуска указано около 19 ГБ памяти. Эта публикация предназначена для локального вывода на Apple Silicon и не описывает отдельное дообучение BRlin. Лицензия — Apache-2.0. Указанные скорости относятся к конкретной конфигурации и устройству; длинный контекст и bf16 требуют значительных ресурсов памяти. Поведение и авторство исходной модели README относит к Empero AI.

SFR-Iterative-DPO-LLaMA-3-8B-R — разговорная instruct-модель Salesforce на архитектуре LLaMA 3 с 7,5 млрд параметров. Она создана в рамках инициативы Salesforce по RLHF и обучена с использованием онлайн-рецепта на основе DPO; карточка также перечисляет выпуски SFT-, reward- и RLHF-моделей. Репозиторий содержит веса в формате safetensors, модель поддерживает чат и рассчитана на контекст до 8192 токенов. Модель предназначена для диалоговых ответов и следования инструкциям. В README заявлены результаты на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также академических тестах; это заявления авторов, а не независимая оценка. Карточка описывает её как исследовательскую разработку Salesforce, но не приводит перечень поддерживаемых языков. README предупреждает, что при враждебных запросах модель может выдавать оскорбительный или неэтичный контент. В README указана лицензия CC-BY-NC-ND-3.0, при этом автор текста утверждает, что корректной лицензией должна быть лицензия LLaMA 3; это расхождение следует учитывать при проверке условий использования.