II.10Разработка и эксплуатация AI/ML-систем

Это GGUF-квантизация модели K2-Horizon-MoVA-36B-A4B от IFM, подготовленная VladHong для локального запуска через llama.cpp. Модель использует разреженную архитектуру Mixture-of-Experts с механизмом внимания Mixture-of-Values: всего 36 млрд параметров, из которых на каждый токен активируются примерно 4 млрд. Контекст модели — до 524 288 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции и фактические вопросы. Профиль APEX Mini сочетает несколько типов точности GGUF-квантования и настроен на сохранение качества обычной генерации и совместимость с CUDA. Для запуска требуется специальная сборка llama.cpp с поддержкой архитектуры и токенизатора K2-Horizon; обычная версия llama.cpp может не распознать файл. Репозиторий распространяется по лицензии Apache-2.0.

MLX-версия модели Kimi-K2.5, разработанной Moonshot AI и опубликованной в исходном виде как moonshotai/Kimi-K2.5. Модель была конвертирована сообществом mlx-community в формат MLX с использованием mlx-lm версии 0.30.5 с небольшими изменениями. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе с применением chat template для диалоговых сценариев. README не содержит сведений об архитектуре, количестве параметров, поддерживаемых языках, модальностях или размере контекста, поэтому эти характеристики нельзя достоверно указать. Также не описаны конкретные сильные стороны, ограничения производительности или требования к оборудованию; из данных следует лишь, что модель адаптирована для экосистемы MLX. Указана лицензия modified-MIT, обозначенная как other в метаданных. Условия использования следует уточнять по тексту лицензии исходной модели и конвертированной версии.

jaspionjader/Kosmos-EVAA-Franken-stock-v42-8B — слитая языковая модель, созданная автором репозитория с помощью mergekit и метода Model Stock. В основе лежит jaspionjader/kstc-5-8b; в слияние также включены jaspionjader/kstc-4-8b и jaspionjader/bbb-6. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и работает в библиотеке Transformers; веса представлены в формате safetensors и bf16. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст, поддерживает контекст до 131 072 токенов. Язык модели в предоставленных данных не обозначен. Лицензия и конкретные оценки качества в карточке не приведены.

kstc-1-8b — слитая языковая модель, созданная автором jaspionjader с помощью mergekit. В основе архитектура Llama с плотной структурой и классом LlamaForCausalLM; размер модели — 7,5 млрд параметров, формат весов — safetensors, длина контекста — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ведения беседы и создания текстовых ответов в задачах с длинным контекстом. В слияние вошли jaspionjader/Kosmos-EVAA-Franken-Immersive-v39-8B, v40-8B и v41-8B; в README указаны метод Model Stock и v41-8B как базовая модель. Лицензия и специальные ограничения применения в предоставленных данных не описаны.

jaspionjader/kstc-4-8b — слитая автором jaspionjader языковая модель на архитектуре Llama с 7,5 млрд параметров. Она создана методом Model Stock в mergekit на основе jaspionjader/Kosmos-EVAA-Franken-Immersive-v41-8B и объединяет её с моделями jaspionjader/kstc-1-8b, jaspionjader/kstc-2-8b и jaspionjader/kstc-3-8b. Модель предназначена для генерации текста и диалогового общения. Использует библиотеку Transformers, веса доступны в формате Safetensors, контекст — до 131 072 токенов. Данные не подтверждают отдельную специализацию по языкам или предметным областям, поэтому её можно рассматривать как модель общего назначения. В README не приведены оценки качества, инструкции по использованию или условия лицензии. Перед применением стоит проверить совместимость лицензий исходных моделей и оценить качество на характерных для вашей задачи запросах.

Kunokukulemonchini-7b — плотная языковая модель на архитектуре Mistral, созданная автором репозитория как слияние SLERP моделей grimjim/kukulemon-7B и Nitral-AI/Kunocchini-7b-128k-test с помощью mergekit. Она предназначена для генерации текста и диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и имеет заявленное контекстное окно 32 768 токенов. Автор также описывает варианты квантизации EXL2 с разной точностью, включая 4,1 bpw для систем с 6 ГБ видеопамяти; в метаданных этой карточки указаны веса safetensors. В README приведены результаты оценок на нескольких тестах, включая средний балл 69,61, однако подробности таблицы доступны не полностью. Лицензия CC BY-NC 4.0 ограничивает коммерческое использование.

L3.1-70b-Inori — разговорная модель на архитектуре Llama 3.1, созданная автором KaraKaraWarehouse как экспериментальный merge методом Model Stock с помощью LazyMergekit. В объединение вошли Glitz, Dracarys, Euryale, Cathallama, New Dawn, Celeste и Japanese-Instruct; конфигурация указывает bfloat16. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ролевых бесед, ответов на вопросы и помощи с кодом; среди компонентов есть модель, ориентированная на японский язык. README использует формат чата L3 Instruct. Автор отмечает непоследовательную цензуру: модель иногда отказывается генерировать откровенный текст, а иногда отвечает на такие запросы, и не рекомендует её к использованию. Лицензия в предоставленных данных не указана.

allenai/led-base-16384 — базовая модель Longformer Encoder-Decoder (LED), разработанная AllenAI. Это плотный encoder-decoder-трансформер с 95,2 млн параметров, подготовленный на основе bart-base: матрица позиционных эмбеддингов BART была повторена, чтобы увеличить поддерживаемую длину входа до 16 384 токенов. Модель предназначена для генерации текста по текстовому входу, в частности для суммаризации длинных документов и ответов на вопросы по ним. LED можно дообучать для прикладных задач, требующих учитывать большие объёмы текста. В метаданных указаны реализации PyTorch и TensorFlow, а также поддержка английского языка. Модель распространяется по лицензии Apache-2.0.

LFM2.5-1.2B-Instruct-MLX-6bit — это 6-битная квантованная версия языковой модели LFM2.5-1.2B-Instruct, разработанной LiquidAI. Модель предназначена для генерации текста и выполнения инструкций, включая локальные сценарии использования на устройствах Apple Silicon. Квантование в формате MLX выполнено командой LM Studio с использованием инструментария mlx_lm. Модель содержит около 1,2 млрд параметров и поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Ключевая особенность — оптимизация под Apple Silicon и сниженное потребление памяти благодаря 6-битному представлению, что делает её подходящей для запуска на периферийных устройствах и персональных компьютерах. Архитектура, размер контекста, мультимодальные возможности, результаты тестирования и конкретные ограничения качества в README не указаны; модель следует рассматривать как текстовую, без подтверждённой поддержки других модальностей. Лицензия обозначена как lfm1.0; применяются условия, указанные в файле LICENSE.

LiquidAI/LFM2-VL-3B-GGUF — мультимодальная vision-language модель семейства LFM2-VL, разработанная Liquid AI для работы на периферийных устройствах и локального развертывания. Модель предназначена для задач преобразования изображений и текста в текст, включая анализ визуального содержимого и генерацию ответов по изображениям, с акцентом на сочетание качества, скорости и экономичного использования памяти. Модель распространяется в формате GGUF, совместимом с llama.cpp, и доступна в вариантах F16, Q4_0 и Q8_0, что позволяет выбирать между точностью, скоростью инференса и требованиями к ресурсам. Указан размер 3B; поддерживаются английский, японский, французский, испанский, немецкий, итальянский, португальский, арабский, китайский и корейский языки. Размер контекста и подробности архитектуры в предоставленной карточке не указаны. Сильными сторонами модели являются мультимодальность, ориентация на edge-сценарии, возможность локального запуска и наличие вариантов квантования. Ограничения включают отсутствие в карточке подробных результатов оценки, характеристик контекста и точных требований к аппаратному обеспечению. Модель выпускается по лицензии lfm1.0; дополнительные условия следует уточнять в файле LICENSE и оригинальной карточке базовой модели LiquidAI/LFM2-VL-3B.

dealignai подготовила Ling-2.6-flash-JANGTQ2-CRACK на базе Ling-2.6-Flash от InclusionAI. Это языковая MoE-модель с 35 млрд параметров и гибридной архитектурой Bailing: Multi-Latent Attention сочетается с линейным вниманием, а из 256 маршрутизируемых экспертов для каждого токена активируются 8 и один общий эксперт. По метаданным, размер модели составляет 6,4 млрд параметров; контекст — до 131 072 токенов. Модель предназначена для генерации текста, диалога, следования инструкциям и вызова инструментов на английском и китайском языках. Веса сжаты в формате JANGTQ2: маршрутизируемые эксперты используют 2-битное TurboQuant-кодирование, а ряд других компонентов — аффинную 8-битную квантизацию. README указывает размер 29 ГБ и запуск на Apple Silicon через MLX Studio или пакет jang-tools. CRACK — необратимое изменение весов, направленное на удаление усвоенных отказов; модель может выдавать ответы на запросы, которые базовая модель отклонила бы. Приведённые в карточке результаты тестов не гарантируют качество на других задачах. Лицензия — MIT.

LFM2-24B-A2B-GGUF — это квантизированная версия языковой модели LFM2-24B-A2B, разработанной LiquidAI и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Модель поддерживает текстовую модальность и заявлена для английского, арабского, китайского, французского, немецкого, японского, корейского, испанского и португальского языков. Обозначение 24B-A2B указывает на конфигурацию модели, однако в README не приведены подробности её архитектуры, размер контекста или точная интерпретация компонентов. Доступны варианты от BF16 до различных уровней квантования, примерно от 9,78 до 47,70 ГБ; более высокие уровни обычно сохраняют лучшее качество, а варианты Q3 и IQ3 требуют меньше памяти, но уступают по качеству. Сильная сторона этой версии — широкий выбор квантований для запуска на локальном оборудовании с различными ограничениями по памяти, включая варианты, рекомендованные автором как обеспечивающие высокое или хорошее качество. Ограничения связаны с потерями качества при сильном квантовании, необходимостью совместимого обновлённого программного обеспечения и отсутствием в README данных о производительности, результатах тестов, точном контексте и специализированных сценариях применения. Лицензия указана как lfm1.0; конкретные условия следует уточнять в файле LICENSE.

nonetrix/llama-3.1-70B-nemotron-agent-ja-120B — объединённая модель на архитектуре Llama 3.1, созданная разработчиком nonetrix линейным слиянием двух моделей: nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и cyberagent/Llama-3.1-70B-Japanese-Instruct-2407. Она предназначена для генерации текста в диалогах и ответов на запросы; в метаданных также заявлен интерфейс вызова инструментов. Репозиторий содержит 118,3 млрд параметров в формате safetensors, поддерживает контекст до 131 072 токенов и предназначен для работы через Transformers. Слияние объединяет диалоговую модель NVIDIA на базе Llama 3.1 с японской инструктивной моделью CyberAgent, поэтому модель ориентирована на японские и многоязычные диалоговые сценарии. README не приводит сравнительных оценок качества или подробных рекомендаций по применению. Лицензия в предоставленных данных не указана.

giux78/llama3-8B-usenet-merged — текстовая генеративная модель на архитектуре Llama, опубликованная пользователем giux78 на Hugging Face. По названию репозитория она связана с Usenet и представляет собой объединённую модель, однако карточка не раскрывает состав объединения, разработчика исходных моделей или точное назначение для конкретных тематик. Модель содержит около 7,5 млрд параметров, использует библиотеку Transformers и формат safetensors; заявленный контекст — 8192 токена. Предусмотрен диалоговый режим. Модель принимает текстовые запросы и генерирует текст, в том числе ответы в формате чата. Карточка не сообщает поддерживаемые языки, оценку качества, обучающие данные или конкретные ограничения. Лицензия в карточке не указана.

KKHYA/llavaqwen2.5-32b-finetune-dense-2m-half — плотная 32-миллиардная причинная языковая модель семейства LlavaQwen2, доступная в формате safetensors и рассчитанная на диалоговую генерацию текста. В метаданных заявлено контекстное окно до 131072 токенов и интерфейс для вызова инструментов. README сообщает, что модель обучена с нуля на неизвестном наборе данных, но не приводит сведений о разработчике, обучающих данных или оценке качества. Модель можно применять для диалогов и генерации текста, в том числе в сценариях с длинным контекстом и подключением инструментов. Несмотря на семейство архитектуры LlavaQwen2, доступные метаданные не подтверждают поддержку изображений, поэтому мультимодальные возможности не заявляются. Лицензия в предоставленных данных не указана.

M7Yamshadowexperiment28_Inex16Calme — слитая модель для генерации текста, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/Inex16Calme-7B. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и работает с контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов. Репозиторий содержит веса в формате safetensors. Модель опубликована по лицензии Apache 2.0.

Marcoroni 7b GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business и преобразованная в формат GGUF пользователем TheBloke. Модель основана на архитектуре Llama, имеет около 7 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. В карточке указаны английский язык и датасет Open-OrCA; исходная модель обозначена как Marcoroni-7b. Модель подходит для локального запуска и сценариев text generation, включая работу через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и совместимые библиотеки. GGUF поддерживает метаданные и специальные токены, а доступные варианты с разной разрядностью позволяют выбирать баланс между качеством, скоростью и требованиями к памяти при CPU- и GPU-инференсе. Для запросов рекомендуется шаблон Alpaca с секциями Instruction и Response. В README не указаны размер контекстного окна, результаты тестов, подробные сведения об обучении, мультимодальных возможностях или подтвержденные сильные стороны и ограничения качества, поэтому их нельзя оценить по имеющимся данным. Для модели заявлена лицензия CC BY-NC 4.0; поскольку она основана на Llama 2, также применяются условия лицензии Meta Llama 2. Вопросы о взаимодействии этих лицензий рекомендуется уточнять в репозитории исходной модели.

MiniMax-M2.1-8bit — это квантизированная 8-битная версия языковой модели MiniMax-M2.1, разработанной MiniMaxAI и преобразованная сообществом mlx-community в формат MLX. Модель предназначена для генерации текста и запуска через библиотеку mlx-lm, в том числе на совместимом оборудовании экосистемы MLX. Модель относится к задачам text generation и поддерживает использование токенизатора с chat template для диалоговых запросов. В README не указаны архитектура, общее число параметров, поддерживаемые языки, модальности и размер контекстного окна. 8-битное представление потенциально снижает требования к памяти по сравнению с исходной версией, однако конкретные показатели производительности, качества и совместимости не приведены. Для работы требуется библиотека mlx-lm версии с поддержкой данного формата; конвертация выполнена с использованием mlx-lm 0.29.1. Модель распространяется по лицензии modified-MIT, подробные условия доступны в указанном файле LICENSE репозитория MiniMax-AI.

MiniMax-M2.1-REAP-40-i1-GGUF — это GGUF-квантизированная версия модели 0xSero/MiniMax-M2.1-139B, подготовленная и опубликованная mradermacher. Модель относится к семейству MiniMax, использует архитектуру Mixture of Experts (MoE) и является pruned-вариантом REAP. Формат предназначен для запуска и дальнейшего использования в совместимых локальных инструментах для генерации текста. Основной заявленный язык — английский. Модель ориентирована на текстовые сценарии, включая генерацию и обработку текста, однако README не содержит подробностей о специализированных задачах, точном числе активных и общих параметров, длине контекста или дополнительных модальностях. Доступно множество вариантов квантизации с размером примерно от 28,6 до 114,4 ГБ. Более компактные варианты требуют меньше ресурсов, но могут заметно уступать по качеству; среди рекомендованных указаны i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Преимуществами являются широкий выбор уровней квантизации и возможность адаптировать требования к памяти под конкретное оборудование. Ограничения связаны с потерями качества у низкобитных вариантов и высокими требованиями к ресурсам у более точных версий; конкретные показатели производительности и качества в README не приведены. Модель распространяется по лицензии Apache-2.0.

Ministral-3-14B-Reasoning-2512-GGUF — это GGUF-квантизированная версия модели Ministral-3-14B-Reasoning-2512, разработанной Mistral AI и подготовленной для распространения пользователем bartowski. Модель предназначена для локального запуска задач генерации текста и мультимодального взаимодействия с изображениями, что отражено в типе конвейера image-text-to-text. Для работы используются llama.cpp и совместимые приложения, включая LM Studio. Модель имеет размер 14B параметров; в каталоге представлены варианты от BF16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ. Квантизация с использованием imatrix позволяет уменьшить требования к памяти при сохранении качества, однако более компактные варианты могут уступать исходным весам по точности. Поддерживаются английский, французский, испанский, немецкий, итальянский, португальский, нидерландский, китайский, японский, корейский и арабский языки. Архитектура, размер контекста и точный формат подсказок в README не указаны. Сильными сторонами являются возможность локального запуска, широкий выбор компромиссов между качеством и объёмом файлов, а также поддержка текста и изображений. Ограничения включают зависимость от совместимого runtime llama.cpp и отсутствие в README подробных сведений о возможностях рассуждения, результатах оценки, контекстном окне и рекомендованных шаблонах запросов. Модель и её квантизированные варианты распространяются по лицензии Apache-2.0.

MixtureofMerges-MoE-v2 — языковая модель с архитектурой Mixtral MoE, созданная автором jsfs11 с помощью LazyMergekit. Она объединяет четыре модели на основе 7B-чекпойнтов: NeuralBeagle14-7B, TurdusTrixBeagle-DARETIES-7B, WestSeverus-7B-DPO-v2 и Wernicke-7B-v7. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и творческих ответов. Веса опубликованы в формате safetensors; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая среднее значение 74,82, AI2 Reasoning Challenge — 72,44 и HellaSwag — 88,41. Модель распространяется по лицензии Apache-2.0. Карточка не уточняет поддерживаемые языки и не приводит подробностей о качестве в прикладных сценариях.

Birchlabs опубликовал дообученную версию MPT-7B-Chat — диалоговой модели MosaicML для генерации ответов и ведения беседы. Модель основана на MPT-7B и дообучена на наборах ShareGPT-Vicuna, HC3, Alpaca, HH-RLHF и Evol-Instruct. Это плотный авторегрессионный трансформер с 6,7 млрд параметров, 32 слоями и 32 головами внимания; в архитектуре используются FlashAttention и ALiBi, без позиционных эмбеддингов и смещений. Для загрузки через Transformers требуется доверенный пользовательский код архитектуры MPT. Модель подходит для чат-ботов, ответов на вопросы, диалогового помощника и генерации текста по запросу. README предупреждает, что ответы могут содержать фактические ошибки, предвзятость или оскорбительный контент. Указанная лицензия CC-BY-NC-SA-4.0 ограничивает использование некоммерческими целями.

RadixArk/Muse-Glimmer-q4km-gs128-MLX — текстовая версия Muse Glimmer для устройств Apple Silicon, подготовленная RadixArk в формате MLX. Это перепаковка весов из GGUF-релиза Muse Glimmer 30B: коды квантования сохранены, а масштабы групп представлены в формате MLX. Модель имеет плотную архитектуру Muse Glimmer примерно на 27 млрд параметров и контекст до 131 072 токенов; карточка указывает поддержку чата и интерфейса вызова инструментов. Модель предназначена для генерации текста и диалогового использования, включая сценарии с вызовом инструментов. README рекомендует запускать её через MLX-бэкенд SGLang на Mac с Apple Silicon и не менее чем 48 ГБ объединённой памяти. В README приведены результаты GSM8K и CIMemories, полученные на одной конфигурации оборудования; для CIMemories указано, что оценка проведена в одном испытании. Модель принимает и выдаёт только текст; путь обработки изображений в MLX-бэкенде отсутствует. Это квантованная производная модель на основе meta-models/Muse-Glimmer-30B-GGUF. Сведения о лицензии в предоставленных данных отсутствуют.

vantk85/my-embedding-gemma — модель Sentence Transformer, созданная дообучением google/embeddinggemma-300m. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству; максимальная длина последовательности — 2048 токенов. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. Дообучение описано на наборе из трёх парных примеров вопросов о финансовых и страховых продуктах с использованием MultipleNegativesRankingLoss. Такая малая выборка не подтверждает надёжное качество на широком круге задач и предметных областей. Репозиторий содержит веса safetensors и рассчитан на работу с библиотекой Sentence Transformers. Лицензия в предоставленных данных не указана.

Omni-Reasoner2-Merged — объединённая модель генерации текста от prithivMLmods, созданная из четырёх моделей на базе Phi-4 с помощью mergekit и метода Model Stock. В объединение вошли Phi-4-o1, Phi-4-Math-IO, Phi-4-QwQ и Phi-4-Empathetic; архитектура — плотная LlamaForCausalLM с 14,1 млрд параметров. Модель предназначена для диалоговой генерации текста и может применяться для ответов на вопросы и задач, связанных с математикой и рассуждениями. Модель принимает текст и генерирует текст, поддерживает контекст до 16 384 токенов и распространяется в формате safetensors для Transformers. Метаданные не сообщают о специальных языках или профильной области применения. Лицензия и ограничения качества в предоставленных данных не описаны.

Pretergeek/OpenChat-3.5-0106_8.11B_36Layers-Appended — диалоговая языковая модель на архитектуре Mistral, созданная на основе openchat/openchat-3.5-0106. Разработчик добавил новые слои в конец модели методом passthrough merge с применением идеи расширения блоков из работы LLaMA Pro; README сообщает, что после этого модель не проходила дополнительное обучение. В карточке Hugging Face указаны 8 млрд параметров и контекст 8192 токена. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на общие вопросы, программирования и математических рассуждений — эти сценарии унаследованы от базовой модели OpenChat. Поскольку новые слои не обучались, автор ожидает поведение, близкое к исходной модели; улучшение рассуждений описано как гипотеза, а не подтверждённый результат. Модель распространяется по лицензии Apache-2.0. В README приведены результаты оценивания, но они сами по себе не подтверждают заявленное улучшение качества после добавления слоёв.

Orion-14B-Chat-RAG — диалоговая модель OrionStarAI из семейства Orion-14B. Базовую серию обучили с нуля на многоязычном корпусе объёмом 2,5 трлн токенов; эта версия дообучена на специальном наборе данных для генерации с дополнением извлечёнными сведениями (RAG). Модель предназначена для ответов на вопросы по найденным документам и других сценариев, где ответ опирается на переданный контекст. Это плотная авторегрессионная языковая модель с 14,1 млрд параметров и контекстным окном 4096 токенов. В README заявлена поддержка китайского, английского, японского и корейского языков; метаданные также отмечают возможности работы с кодом. Репозиторий содержит веса PyTorch. Для применения в RAG необходимо организовать поиск и передавать модели извлечённый контекст; сама карточка не описывает встроенный поисковый индекс. Модель может быть полезна для многоязычных диалогов и генерации ответов с опорой на документы. README заявляет высокую эффективность в задачах RAG, но не приводит в предоставленном фрагменте конкретных результатов оценки этой версии. Лицензия в предоставленных данных не указана.

pandafish-dt-7b — языковая модель на 7,1 млрд параметров, созданная объединением моделей Experiment26-7B и MergeCeption-7B-v3 методом dare_ties с помощью LazyMergekit. Она основана на архитектуре Mistral и предназначена для генерации текста и общих языковых задач; заявленная длина контекста составляет 32 768 токенов. В README приведены результаты оценивания на наборе Nous Benchmark, включая AGIEval, GPT4All, TruthfulQA и Bigbench. Модель распространяется в формате safetensors по лицензии Apache-2.0. README также перечисляет сторонние варианты в форматах GGUF и MLX. Данных о целевых языках и специализированных предметных областях нет, поэтому модель следует рассматривать как универсальную.

QWEN-2-1.5B-Synthia-I — языковая модель, дообученная artificialguybr на Qwen/Qwen2-1.5B с использованием набора Synthia v1.5-I, содержащего более 20,7 тыс. примеров следования инструкциям. Это плотная авторегрессионная модель класса Qwen2ForCausalLM с 1,5 млрд параметров; файлы доступны в форматах PyTorch и Safetensors, а для работы указан Transformers. Модель предназначена для выполнения инструкций, генерации и продолжения текста, а также для разговорных приложений. Контекстное окно составляет до 131 072 токенов. В метаданных указан английский язык; карточка отмечает многоязычные возможности базовой Qwen2, но не уточняет языковой охват дообученной версии. Модель наследует возможности базовой Qwen2-1.5B и специально настроена на следование инструкциям. Лицензия — Apache-2.0. Карточка не приводит результатов оценивания качества или более подробных ограничений.

Qwen3-4B-Thinking-2507-MLX-8bit — это 8-битная квантованная версия языковой модели Qwen3-4B-Thinking-2507, предназначенная для генерации текста и задач, требующих рассуждений. Исходную модель разработала команда Qwen, а MLX-квантизацию подготовила команда LM Studio с использованием mlx_lm. Модель оптимизирована для запуска на устройствах Apple Silicon через MLX, поэтому подходит для локального использования в сценариях генерации текста и экспериментирования с компактными reasoning-моделями. Она основана на архитектуре Qwen3-4B-Thinking-2507 и имеет размер 4 млрд параметров; сведения о поддерживаемых языках, длине контекста и дополнительных модальностях в README не указаны. Формат 8-bit снижает требования к памяти по сравнению с полноразмерной версией, однако конкретные показатели производительности и качества не приведены. Модель распространяется по лицензии Apache-2.0. Следует учитывать, что README не содержит подробностей о сильных сторонах исходной модели, результатах оценки или известных ограничениях; как и другие языковые модели, она может генерировать неточную или неподходящую информацию.