II.1Анализ требований и архитектура ПО

Huihui-Qwen3-30B-A3B-Instruct-2507-abliterated — производная модель huihui-ai на архитектуре Qwen3 MoE, созданная изменением Qwen/Qwen3-30B-A3B-Instruct-2507 методом abliteration. Она предназначена для диалогов, выполнения инструкций и генерации текста; интерфейс модели также поддерживает вызов инструментов. Модель рассчитана на контекст до 262 144 токенов и использует библиотеку Transformers. В метаданных указано 2,6 млрд параметров. Автор описывает её как экспериментальную версию с подтверждением концепции: методом abliteration существенно снижены отказы модели. Это может приводить к чувствительным, спорным или неподходящим ответам, поэтому результаты требуют проверки. Модель распространяется по лицензии Apache-2.0.

ibm-granite_granite-4.1-3b-GGUF — это квантизированная версия языковой модели Granite 4.1 3B, разработанной IBM (ibm-granite). Модель предназначена для генерации текста и запускается в формате GGUF через llama.cpp и совместимые приложения, включая LM Studio, Ollama-подобные среды на базе llama.cpp, KoboldCpp, Jan AI и Text Generation Web UI. Для диалогов используется специальный шаблон промпта с ролями system, user и assistant. В набор входят варианты с разными уровнями квантизации: от BF16 и Q8_0 до более компактных Q4, Q3 и IQ-форматов. Размер файлов составляет примерно от 1,6 до 6,8 ГБ, что позволяет выбирать между качеством, скоростью и требованиями к оперативной памяти. В README не указаны архитектура, поддерживаемые языки, размер контекстного окна и мультимодальные возможности; по имеющимся данным модель относится к текстовым генеративным моделям и не заявлена как мультимодальная. Сильная сторона набора — широкий выбор квантизаций для локального запуска, включая варианты, рекомендованные для баланса качества и размера, а также форматы, оптимизированные для отдельных CPU-платформ. Более агрессивная квантизация снижает требования к памяти, но может ухудшать качество генерации. Модель распространяется по лицензии Apache-2.0; конкретные условия использования следует проверять с учетом лицензии исходной модели IBM.

Instella-MoE-16B-A3B-SFT — языковая модель AMD для генерации текста и диалогов. Это дообученный вариант семейства Instella-MoE с архитектурой Mixture-of-Experts: в README указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен, а метаданные каталога указывают 2,5 млрд параметров. Модель построена на архитектуре DeepSeek V3 и имеет контекстное окно 32 768 токенов. Модель предназначена для диалоговых сценариев, генерации ответов и взаимодействия через интерфейс вызова инструментов. README описывает обучение семейства Instella-MoE с нуля компанией AMD и выпуск контрольных точек для разных этапов обучения; конкретная карточка обозначена как SFT, то есть контрольная точка прошла дообучение на инструкциях. Модель использует формат safetensors и библиотеку Transformers. README предупреждает, что модель может выдавать фактически неверные, вредные, токсичные или предвзятые ответы, а её многоязычные возможности не проверялись. Она не предназначена для сценариев, требующих высокой точности, и для критически важных, медицинских или связанных со здоровьем применений. Условия лицензии указаны как other, поэтому конкретные права использования следует проверять в карточке модели. Хотя README называет выпуск исследовательским, это применимая контрольная точка модели, а не промежуточный эксперимент.

Kaoeiri/Interleaved-upscale-small-drummer-39B — текстовая языковая модель, созданная слиянием предварительно обученных моделей через mergekit. В README указана модель-источник nbeerbower/Mistral-Small-Drummer-22B и метод passthrough; архитектура — плотная MistralForCausalLM с 38,8 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате; в метаданных также заявлен интерфейс вызова инструментов. Модель использует Transformers и распространяется в формате safetensors. Лицензия CC BY-ND 4.0 требует указания авторства и ограничивает распространение производных версий. Данных о специализации по предметной области или конкретных языках нет.

Jet-Nemotron-4B — плотная причинно-языковая модель с 3,1 млрд параметров из семейства Jet-Nemotron. По карточке модели, семейство разработано с применением метода post-training Neural Architecture Search и использует JetBlock — блок линейного внимания, образуя гибридную архитектуру. Модель предназначена для генерации текста и диалогового взаимодействия; поддерживает контекст до 32 768 токенов и рассчитана на английский язык. Разработчики заявляют о высокой пропускной способности генерации и приводят сравнительные результаты на общих языковых бенчмарках, включая MMLU, MMLU-pro и BBH. Для работы указаны Transformers и требования к ряду дополнительных библиотек; в репозитории веса представлены в формате safetensors. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией в карточке модели.

Josiefied-Huihui-MoE-12B-A4B — языковая модель Goekdeniz-Guelmez, дообученная на Huihui-MoE-12B-A4B-abliterated. Это разреженная MoE-модель семейства Qwen3, предназначенная для генерации текста в диалогах и следования инструкциям; заявлена поддержка вызова инструментов. В метаданных указаны 3,7 млрд параметров и контекст до 40 960 токенов. Разработчик позиционирует модель как вариант с ослабленными ограничениями на ответы, при этом заявляя сохранение следования инструкциям и работы с инструментами. Она подходит для диалоговых приложений и свободной генерации текста. Модель распространяется в формате safetensors; README также упоминает варианты GGUF от стороннего автора. Лицензия в предоставленных данных не указана.

Josiefied-Qwen3-1.7B-abliterated-v1 — дообученная Гёкденизом Гюльмезом компактная языковая модель семейства Qwen3 на 1,7 млрд параметров. Она предназначена для генерации текста, диалогов и выполнения инструкций, с акцентом на менее ограниченные ответы и сохранение навыков следования инструкциям и использования инструментов. Модель использует плотную архитектуру Qwen3ForCausalLM, принимает текст и выдаёт текст. Длина контекста — до 40 960 токенов. В карточке заявлена поддержка разных языков; основной язык не выделен. Модель распространяется в формате safetensors, а в семействе также упомянуты варианты GGUF и MLX. Снижение фильтрации безопасности может приводить к чувствительным или спорным ответам. Автор предупреждает об использовании на свой риск. Лицензия в предоставленных данных не указана.

Josiefied-Qwen3-4B-Instruct-2507-abliterated-v1 — диалоговая языковая модель Goekdeniz-Guelmez, дообученная на базе Qwen/Qwen3-4B-Instruct-2507. Это плотная архитектура Qwen3 с 3,7 млрд параметров, предназначенная для генерации текста, диалогов и выполнения инструкций; модель сохраняет интерфейс вызова инструментов. Контекст составляет до 262 144 токенов. Модель дообучена для более свободной генерации с ослабленными ограничениями безопасности. В карточке также перечислены сторонние варианты в формате GGUF, но метаданные этого репозитория указывают safetensors. Модель рассчитана на продвинутых пользователей, которым нужны диалоговые ответы и генерация текста с меньшей фильтрацией. Языки и лицензия в предоставленных данных не определены.

Это дообученная диалоговая модель yatokim на базе kakaocorp/kanana-1.5-8b-instruct-2505. Она построена на плотной архитектуре семейства Llama и содержит 7,5 млрд параметров; модель предназначена для генерации текста и общения в формате инструкций, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и выдаёт текст. Её контекст составляет 32 768 токенов. В карточке указан английский язык; базовая Kanana предназначена также для программирования, математики и вызова инструментов, однако README этой версии не описывает отдельную специализацию или результаты оценки качества. Репозиторий содержит веса safetensors, модель обучена с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0.

Модель ktyeon27/kanana-1.5-8b-instruct-2505-Safe-DPO — дообученная диалоговая языковая модель автора ktyeon27 на базе указанной в карточке модели. Она построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст длиной до 32 768 токенов. В карточке указано обучение с использованием Unsloth и библиотеки TRL. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества и подробностей о наборе данных или языках, поэтому пригодность для конкретных сценариев и языков следует проверять отдельно.

ZeroXClem объединил три языковые модели примерно на 8 млрд параметров методом Model Stock Merge: Aspire-8B-model_stock, Heart_Stolen-8B-Model_Stock и CursedMatrix-8B-v9. Это плотная авторегрессионная модель семейства Llama для генерации текста и диалогов; веса опубликованы в формате safetensors и точности bfloat16. Контекстное окно составляет 8192 токена. Модель предназначена для ответов на общие вопросы, творческого письма, суммаризации длинных текстов, ролевых сценариев и решения разнообразных текстовых задач. Слияние ориентировано на сочетание универсальности, творческой генерации и сложного ролевого текста. Карточка отмечает экспериментальный характер модели, возможные предубеждения и непредсказуемое поведение, связанные с её некорректируемым происхождением. Лицензия — Apache-2.0.

AtomicChat/Ling-3.0-flash-GGUF — набор GGUF-квантизаций модели inclusionAI/Ling-3.0-flash, подготовленный AtomicChat. Модель предназначена для генерации текста и диалоговых сценариев, запускаемых локально через llama.cpp; в GGUF встроен шаблон чата, поддерживаются режим рассуждений и вызовы инструментов. Исходная модель имеет 124 млрд параметров, из которых 5,1 млрд активны при обработке токена. Архитектура сочетает гибридное линейное внимание и Mixture-of-Experts на 512 экспертов: 35 блоков KDA чередуются с 7 блоками gated MLA в соотношении 5:1. Доступны варианты размером примерно от 32,4 до 89,4 ГБ; наиболее качественным вариантом для соответствующего объёма памяти заявлен AD-Q5_K_M. Контекст в примере запуска составляет 32 768 токенов, однако максимальный поддерживаемый размер контекста в README не указан. Языки и мультимодальные возможности не заявлены. Ключевая особенность — квантизация Atomic Dynamic, при которой точность распределяется с учётом роли тензоров, типа проекции и глубины блока. По приведённым измерениям, некоторые варианты имеют меньшую ошибку KL относительно BF16, чем стандартные квантизации llama.cpp аналогичного размера. При этом для запуска требуется специальная сборка llama.cpp TurboQuant и значительный объём памяти; память нужна также под контекст. Варианты с очень малым размером, особенно AD-IQ1_S и AD-IQ2_M, заметно теряют качество. Для Intel GPU готового SYCL-архива нет. Лицензия — MIT.

LFM2.5-1.2B-Instruct-GGUF — квантизированная версия инструкционной языковой модели LFM2.5-1.2B-Instruct, разработанной Liquid AI. Квантизацию выполнил bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск локально через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые приложения. Модель имеет размер 1,2 млрд параметров и поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. В поставке доступны варианты от BF16 до низкобитных форматов Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми указаны варианты Q4–Q6; наиболее компактные варианты подходят для систем с ограниченной памятью, но могут заметно уступать по качеству. Это текстовая модель: сведения о поддержке изображений, аудио, архитектуре и размере контекстного окна в README не указаны. Модель распространяется по лицензии lfm1.0; подробные условия следует уточнять в файле LICENSE исходного репозитория.

Llama2 70B SFT v10 GGUF — это квантизированная версия языковой модели OpenAssistant Llama2 70B SFT v10, разработанной OpenAssistant и преобразованной в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama и предназначена для генерации текста и диалогового взаимодействия. Модель ориентирована на задачи, связанные с обработкой естественного языка, включая ответы на запросы пользователей и создание текста. Она использует supervised fine-tuning и обучалась на наборах данных LosslessMegaCodeTrainingV2, OpenAssistant/oasst1, Orca, а также на курированном многоязычном наборе Databricks Dolly. В карточке указан английский язык; сведения о других языках и размере контекста отсутствуют. Поставляется в формате GGUFv2 с вариантами квантизации от 2 до 8 бит, что позволяет запускать модель через llama.cpp и совместимые приложения, библиотеки и графические интерфейсы на CPU и GPU. Для диалогов предусмотрен шаблон ChatML. Ключевой особенностью является сочетание крупного размера 70B параметров и нескольких уровней квантизации, однако README не содержит результатов тестирования, точных требований к памяти или подробной оценки качества и ограничений. Лицензия указана как llama2. Условия использования следует уточнять по лицензии исходной модели Llama 2 и правилам OpenAssistant.

Llama-3.1-8B-Instruct-Jbliterated-i1-GGUF — это набор квантизированных моделей в формате GGUF, подготовленный mradermacher на основе ApolloRaines/Llama-3.3-8B-Instruct-128K-Jbliterated. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск в совместимых средах для работы с GGUF-файлами. Модель относится к семейству Llama и содержит около 8 млрд параметров. Заявлена поддержка контекста до 128 тысяч токенов, а также английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Это текстовая модель без заявленной поддержки изображений или других модальностей. В репозитории доступны варианты квантования от очень компактных IQ1 до более качественных Q6_K; степень квантования влияет на размер файла, скорость и качество, при этом Q4_K_M обозначен как быстрый рекомендуемый вариант. К сильным сторонам относятся большой контекст, мультиязычность и возможность запуска с разными требованиями к памяти благодаря широкому выбору квантов. Ограничения связаны с потерями качества при низких уровнях квантования, а также с отсутствием подробных результатов тестирования и сведений о фактической производительности. Модель распространяется по лицензии llama3.1; перед использованием следует учитывать условия этой лицензии и особенности базовой модели.

unsloth/Llama-3.2-3B — версия текстовой модели Meta Llama 3.2, представленная в репозитории Unsloth для использования и дообучения. Это плотная авторегрессионная трансформерная модель класса LlamaForCausalLM с 3,2 млрд параметров и контекстом до 131 072 токенов. README описывает семейство Llama 3.2 как модели для генерации текста и диалога; Unsloth предоставляет ноутбуки для настройки модели на собственных данных и экспорта результата. Модель подходит для генерации и продолжения текста, диалоговых сценариев, суммаризации и помощников с ограниченными вычислительными ресурсами. Семейство официально поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; конкретная карточка также помечена языком en. Репозиторий использует формат safetensors и библиотеку Transformers. Модель основана на meta-llama/Llama-3.2-3B и распространяется по лицензии Llama 3.2 Community License — специальной лицензии Meta с коммерческими условиями. Качество генерации, фактическая точность и пригодность для конкретного языка или применения зависят от запроса и развертывания; заявленные в README преимущества скорости и экономии памяти относятся к настройке через Unsloth.

Это квантизированная версия llama-3-70B-Instruct-abliterated в формате GGUF, подготовленная пользователем bartowski на основе модели failspy/llama-3-70B-Instruct-abliterated. Квантизация выполнена с помощью llama.cpp версии b2854 и метода imatrix. Модель предназначена для генерации текста в диалоговом и инструкционном формате, включая локальный запуск через совместимые инструменты llama.cpp. Модель относится к семейству Llama 3 и содержит 70B параметров, однако README не указывает точную архитектуру, поддерживаемые языки, размер контекстного окна или набор модальностей. Доступны варианты квантизации от Q8_0 до Q2 и IQ2–IQ4, различающиеся размером файлов и качеством: от 74,97 ГБ у Q8_0 до 21,14 ГБ у IQ2_XS. В README рекомендуются, в частности, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS; более компактные варианты требуют меньше памяти, но обычно снижают качество. Сильной стороной являются разнообразие квантизаций, возможность локального использования и сохранение высокого качества у вариантов Q6_K и Q5. Ограничения связаны с существенными требованиями к памяти для 70B-модели, потерей качества в низкобитных вариантах и отсутствием подробных сведений о результатах тестирования, языках и контекстном окне. Для корректного общения следует использовать указанный в README шаблон prompt format с системным, пользовательским и ассистентским сообщениями. Указана лицензия llama3; дополнительные условия следует уточнять в файле LICENSE исходной модели.

QuantFactory/Llama-3-8B-WizardLM-196K-GGUF — это квантизированная версия модели Llama-3-8B-WizardLM-196K, созданная QuantFactory с использованием llama.cpp. Исходная модель основана на Meta Llama 3 8B и дообучена с применением Axolotl на наборе данных Leon-Leee/Wizardlm_Evol_Instruct_v2_196K_backuped. Модель предназначена для генерации текста и выполнения инструкций в сценариях, совместимых с causal language model. Архитектура модели — LlamaForCausalLM, размер — около 8 миллиардов параметров. В конфигурации обучения использовалась максимальная длина последовательности 8192 токена, однако точный поддерживаемый контекст квантизированной версии в README не указан. Данные о языках и мультимодальности отсутствуют; по описанию это текстовая, а не мультимодальная модель. Среди характеристик указаны дообучение в течение двух эпох и итоговая validation loss 0.6077, но результаты независимых тестов не приведены. Квантизация в формате GGUF может снизить требования к памяти и упростить локальный запуск через совместимые инструменты llama.cpp, однако конкретный уровень квантизации, размер файлов и требования к оборудованию не указаны. Ограничениями являются отсутствие подробных сведений о языковой специализации, фактическом размере контекста, точности на прикладных бенчмарках и возможных рисках поведения. Лицензия обозначена как llama3; условия её применения следует уточнять по лицензии исходной модели Meta Llama 3.

llama-3-cat-8b-instruct-v1-GGUF — это квантизированная версия инструкционной текстовой модели llama-3-cat-8b-instruct-v1, опубликованной TheSkullery. Квантизация выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая локальный запуск через совместимые инструменты llama.cpp. Модель имеет размер 8 миллиардов параметров и поддерживает различные варианты квантизации от Q8_0 до IQ1_S. Доступны версии объёмом примерно от 2,16 до 8,54 ГБ; варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые благодаря балансу качества и требований к памяти. Более компактные варианты позволяют запускать модель на системах с ограниченными ресурсами, но снижают качество. Поддерживается текстовая модальность; сведения о языках и размере контекста в представленном README не указаны. Для работы следует использовать формат промпта, основанный на специальной разметке Llama 3 с ролями system, user и assistant. Лицензия указана как llama3. README не содержит подробных результатов тестирования, описания исходного обучения или ограничений, специфичных для самой модели, поэтому её фактическое качество и языковые возможности требуют самостоятельной оценки.

Llama-3-Giraffe-70B — экспериментальная длинноконтекстная версия Llama 3 70B, представленная Abacus.AI. Это плотная авторегрессионная языковая модель на архитектуре LlamaForCausalLM с 69,5 млрд параметров; README сообщает об эффективном контексте около 128 тыс. токенов, тогда как в метаданных указан native context 8192 токена. Для расширения контекста применялись PoSE и динамическая NTK-интерполяция: обучение включало около 1 млрд токенов и длинные образцы из RedPajama. Модель предназначена для генерации текста и экспериментов с извлечением информации из длинных последовательностей, например поиска фрагмента в большом документе. В README приведена оценка Needle-in-a-Haystack на контекстах до 128 тыс. токенов, но это начальный выпуск, и авторы отмечают, что планируют улучшать результаты по мере дальнейшего обучения. Модель принимает и генерирует текст; в метаданных указан английский язык. Лицензия — Llama 3 license (llama3).

KKHYA/llavaqwen2.5-32b-finetune — дообученная модель на базе Qwen/Qwen2.5-32B, опубликованная в формате Safetensors и работающая с библиотекой Transformers. Архитектура указана как LlavaQwen2ForCausalLM, размер — 32 млрд параметров, контекст — до 131 072 токенов. Карточка не описывает датасет и конкретную специализацию дообучения. Модель предназначена для генерации текста в диалоговом режиме; метаданные также указывают интерфейс вызова инструментов. Базовая модель поддерживает мультимодальные сценарии, но сведения о том, как именно настроен ввод изображений в этой производной модели, отсутствуют. Лицензия — Apache-2.0.

KKHYA/llavaqwen2.5-32b-finetune-nm-mask-moe-4e-2k-2of4-imp-2m-half_20260822_074702 — языковая модель на архитектуре NMMaskMoELLaVAQwen2ForCausalLM с 32 млрд параметров. В карточке указаны библиотека Transformers и форматы PyTorch и safetensors; метаданные также обозначают поддержку диалогового режима и интерфейса вызова инструментов. Модель предназначена для генерации текста и диалогового взаимодействия. Длина контекста составляет 131 072 токена. README сообщает, что модель обучена с нуля, но не содержит сведений о датасете, назначении обучения или оценке качества. Лицензия в предоставленных данных не указана.

Это дообученная версия KKHYA/llavaqwen3-1.7b-finetune, разработанная KKHYA. Модель с архитектурой NMMaskMoELLaVAQwen3ForCausalLM содержит 1,7 млрд параметров и предназначена для генерации текста и диалогов. Метаданные указывают на интерфейс вызова инструментов; контекст — до 40 960 токенов. Модель работает через Transformers, веса доступны в форматах PyTorch и safetensors. Она основана на дообученной модели Qwen3, но датасет и дополнительные сведения о сценариях обучения в карточке не раскрыты. Лицензия — Apache-2.0.

Модель KKHYA/llavaqwen3-1.7b-finetune-nm-mask-moe-sparse-4e-2k-4of8-imp-anchor_20260812_071057 — дообученная версия KKHYA/llavaqwen3-1.7b-finetune с 1,7 млрд параметров. Она предназначена для генерации текста и диалогов; метаданные также указывают интерфейс вызова инструментов. Архитектура обозначена как nm_mask_moe_llava_qwen3, библиотека — Transformers, веса представлены в форматах PyTorch и Safetensors. Контекст модели — до 40 960 токенов. Модель опубликована под лицензией Apache-2.0. Датасет дообучения и подробные сведения о качестве в карточке не описаны.

Карточка модели srikanthmalla/lmsys-vicuna-13b-v1.5-16k на Hugging Face совпадает с карточкой lmsys/vicuna-7b-v1.5-16k, поэтому описание составлено по ней. Vicuna-7B-v1.5-16k — авторегрессионная языковая модель на архитектуре Transformer семейства Llama, разработанная LMSYS. Она дообучена на Llama 2 на пользовательских диалогах из ShareGPT и предназначена для чат-ботов и исследований в области больших языковых моделей. Число параметров — 6,6 млрд; в репозитории указаны веса PyTorch. Метаданные Hugging Face сообщают контекст 4096 токенов, поэтому название версии «16k» само по себе не подтверждает контекст на 16 тысяч токенов. Модель принимает текст и генерирует текст, подходит для диалоговых ответов и экспериментов с языковыми моделями. В README указана оценка по стандартным бенчмаркам, предпочтениям людей и оценке другой языковой моделью, но численные результаты здесь не приведены. Лицензия — Llama 2 Community License Agreement; перед использованием следует учитывать её условия.

LYRAMOON — разговорная языковая модель, разработанная и сопровождаемая Muhammad Taqi. Это плотная авторегрессионная модель семейства Qwen2 с 7,1 млрд параметров, предназначенная для диалога, рассуждений, оценки сложной логики и генерации кода. Карточка позиционирует её как движок для многоходового общения; метаданные также отмечают чат и интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных указан контекст до 32 768 токенов и поддержка английского языка; модель рассчитана на запуск через Transformers. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0. Заявленные возможности рассуждения, скорости и качества генерации кода не подкреплены в карточке оценками или результатами тестирования. Поэтому качество на конкретных задачах следует проверять отдельно; подтверждена поддержка английского, но не иных языков.

Это объединённая диалоговая языковая модель, созданная методом TIES с помощью mergekit на основе huihui-ai/Llama-3.2-3B-Instruct-abliterated и пяти других моделей из семейства Hjgugugjhuhjggg/mergekit-ties. Модель построена на архитектуре LlamaForCausalLM и содержит 3,2 млрд параметров; файлы представлены в формате safetensors. Она предназначена для генерации текста и ответов в чате, а интерфейс репозитория также отмечает возможность вызова инструментов. Контекст модели составляет до 131 072 токенов. Базовая модель описана как модель с ослабленными отказами, однако README не сообщает отдельные результаты оценки качества или подробности о языках. Лицензия в предоставленных сведениях не указана.

Это 4-битная MLX-конверсия модели Meta-Llama-3.1-8B-Instruct-abliterated, подготовленная сообществом mlx-community из mlabonne/Meta-Llama-3.1-8B-Instruct-abliterated с помощью mlx-lm 0.17.1. В основе лежит дообученная Meta-Llama-3.1-8B-Instruct; модель предназначена для диалоговой генерации текста и запуска на устройствах Apple с MLX. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Контекст составляет до 131 072 токенов. Вариант abliterated позиционируется как менее ограниченный в ответах; это не гарантирует точность или безопасность результатов. Репозиторий указывает лицензию Llama 3.1; её условия распространяются на использование модели.

aemmeath/MiniCPM5-Astra — дообученная автором aemmeath языковая модель на базе aemmeath/MiniCPM5-Aether. Это плотная модель архитектуры Llama с 2,2 млрд параметров, предназначенная для генерации текста и диалоговых ассистентов; в метаданных также отмечен интерфейс для вызова инструментов. Модель принимает текст и генерирует текст, поддерживает контекст до 131 072 токенов и английский язык. Модель обучена с использованием Unsloth и библиотеки TRL от Hugging Face. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специализированную предметную область или дополнительные гарантии качества.

MiniMax-M2.5-UNCENSORED-JANG_2L — производная модель MiniMaxAI/MiniMax-M2.5, подготовленная Jinho Jang. Это языковая модель с архитектурой MiniMax M2 MoE и интерфейсами чата и вызова инструментов. В README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; смешанная квантизация JANG_2L задаёт 8 бит для внимания, 6 бит для эмбеддингов и 2 бита для экспертов. Метаданные указывают 2,9 млрд параметров, поэтому оценку размера из README следует считать расходящейся с ними. Для хранения требуется около 63 ГБ; формат JANG поддерживается MLX Studio и пакетом jang-tools на Apple Silicon. Контекст — 196 608 токенов. Модель предназначена для генерации ответов в чате, рассуждений и работы с инструментами. README также описывает CRACK — изменение весов, удаляющее отказы, связанные с защитными настройками; это может позволить получать вредоносные или опасные ответы. В README приведены результаты тестов MMLU и HarmBench, но они не являются независимой оценкой качества. Лицензия в метаданных — Apache-2.0; модель рассчитана на английский, китайский и корейский языки.