II.4Отладка, тестирование и качество ПО

bunnycore/Qwen-7B-MixLow — объединённая модель генерации текста, созданная автором репозитория с помощью mergekit методом Linear из трёх языковых моделей: bunnycore/FuseQwQen-7B, bunnycore/Qwen-2.5-7B-Deep-Stock-v1 и fblgit/cybertron-v4-qw7B-UNAMGS. Модель построена на архитектуре Qwen2 и содержит 7,1 млрд параметров; для работы с текстом указан контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования; метаданные также отмечают интерфейс вызова инструментов. Репозиторий содержит веса в формате safetensors. Сведения о целевых языках, специализированных областях и условиях лицензии в предоставленных данных отсутствуют.

PocketAI выпустила конвертированную и упакованную для запуска на Apple Silicon версию Qwopus3.6-27B-v2 от Jackrong. Это плотная языковая модель семейства Qwen3.5 с 26,896 млрд параметров в формате BF16 и нативной боковой MTP-головой для ускорения генерации методом speculative decoding. PocketAI не обучала и не дообучала базовую модель. Модель предназначена для диалоговой генерации текста, рассуждений и работы с инструментами. Пакет содержит только текстовую модель, без компонентов для обработки изображений; заявлены английский, китайский, испанский, русский и японский языки. Для ускорения через MTP требуется MTPLX версии 2.4.0 или новее; стандартный mlx-lm не поддерживает боковой файл MTP самостоятельно. Репозиторий распространяется по лицензии Apache-2.0. Модель обозначена как экспериментальная и не проходила всестороннюю оценку безопасности; результаты следует проверять перед использованием в важных сценариях. Приведённые в README показатели скорости получены на одной конфигурации Apple Silicon и не гарантируют аналогичную производительность на другом оборудовании.

Rabbit-7B-DPO-Chat-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.2 и viethq188/Rabbit-7B-DPO-Chat методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и ответы на инструкции в формате чата; контекст — до 32 768 токенов. Модель подходит для диалоговых помощников и генерации ответов на пользовательские запросы. Файлы представлены в формате safetensors, лицензия — Apache-2.0. Карточка не описывает отдельные языковые специализации или результаты сравнительных оценок.

StructuredThinker — объединённая чат-модель на основе Qwen2.5-3B-Instruct, созданная автором Ahdoot с помощью mergekit и метода DARE TIES. В объединение вошли PowerInfer/SmallThinker-3B-Preview и prithivMLmods/QwQ-LCoT-3B-Instruct; в конфигурации указана точность bfloat16. Модель предназначена для генерации текста в диалоге и выполнения инструкций. Её можно использовать для получения структурированных ответов и пошаговых рассуждений. Архитектура — плотная Qwen2ForCausalLM, размер — 3,1 млрд параметров, контекст — до 32 768 токенов. Доступна для использования через библиотеку Transformers; интерфейс модели поддерживает чат и вызов инструментов. В карточке не указаны специальные домены и целевые языки модели. Базовая Qwen2.5-3B-Instruct описана как многоязычная, однако языки именно этой объединённой модели отдельно не перечислены. Лицензия в предоставленных данных не указана.

TheTop-5x7B-Instruct-S5-v0.1 — текстовая генеративная модель MaziyarPanahi, созданная путём слияния нескольких предварительно обученных моделей размером 7B и применения SLERP к другим моделям 7B. В README упоминается использование mergekit; архитектура — плотная MistralForCausalLM, формат весов — safetensors. Метаданные указывают 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и инструктивных сценариев, например диалога, ответов и рассуждений. В README приведены результаты оценивания на бенчмарках, включая AI2 Reasoning Challenge и HellaSwag. Поддерживаемый язык в доступных данных не установлен. Модель распространяется по лицензии Apache-2.0; сведения о конкретных ограничениях применения в карточке не приведены.

Tralalabs_Pythia-6.9B-Instruct-v1-Merged-GGUF — это квантизированная GGUF-версия инструкционной языковой модели Pythia-6.9B-Instruct-v1-Merged, разработанной Tralalabs и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалоговых сценариев, работы в качестве чат-ассистента и агентских приложений. Доступны варианты от BF16 до различных уровней квантизации, что позволяет выбирать между качеством, размером файлов и требованиями к оперативной памяти. Модель поддерживается инструментами llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другими совместимыми приложениями. Модель обучалась с использованием наборов данных OpenAssistant Guanaco и Tulu v2 SFT Mixture. Заявлена поддержка английского, испанского, немецкого, русского, японского, французского, польского, вьетнамского, китайского, венгерского, корейского, каталонского и баскского языков. Точная архитектура, размер контекстного окна и формат инструкций в README не указаны; для выбора шаблона промпта рекомендуется обратиться к странице исходной модели. Сильной стороной является широкий выбор квантизаций, включая рекомендуемые варианты Q4_K_M, Q5_K_M и Q6_K, позволяющие запускать модель локально при разных аппаратных ресурсах. Ограничения включают отсутствие описания точных характеристик, бенчмарков и prompt format, а также возможное снижение качества в наиболее компактных вариантах. Распространение указано по лицензии Apache-2.0.

Upstage-Llama-2-70B-instruct-v2-GGUF — это квантизированная версия большой языковой модели Llama 2 70B Instruct v2, разработанной Upstage и преобразованной в формат GGUF компанией TheBloke. Модель предназначена для генерации текста и выполнения инструкций в диалоговом формате, включая локальный запуск через llama.cpp и совместимые графические интерфейсы и библиотеки. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров. Указан английский язык; поддержка других языков, размер контекстного окна и мультимодальные возможности в README не описаны. Доступны варианты GGUF с 2-, 3-, 4-, 5-, 6- и 8-битным квантованием для инференса на CPU и GPU. Формат GGUF поддерживает метаданные и специальные токены, а модель совместима с llama.cpp и рядом сторонних инструментов. Сильными сторонами являются выполнение инструкций, широкий выбор уровней квантования и возможность локального использования с GPU-ускорением. К ограничениям относятся высокие требования к ресурсам для 70-миллиардной модели, возможная потеря качества при агрессивном квантовании и отсутствие в README подробных данных о качестве, тестах и контекстном окне. Лицензия указана как llama2; условия её применения следует проверять по лицензии исходной модели.

UwU-7B-Instruct — дообученная модель для генерации текста, разработанная автором репозитория qingy2024. Она создана на базе Qwen/Qwen2.5-7B и полностью дообучена на наборе FineQwQ-142k. Автор позиционирует её как универсальную модель для рассуждений и диалогового использования. Модель использует плотную архитектуру Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Она принимает текст и генерирует текст; в метаданных заявлены русский, английский, китайский и другие языки. Лицензия — Apache-2.0. README не приводит количественных оценок качества или подробных результатов тестирования.

watt-tool-70B-GGUF — это квантизированная версия языковой модели watt-tool-70B, разработанной watt-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, вызова функций и взаимодействия с внешними инструментами; в метаданных также указана совместимость с задачами BFCL. Поддерживается запуск через llama.cpp, LM Studio и другие проекты на базе llama.cpp. Модель имеет размер 70B параметров; в README она связана с архитектурой Llama и заявлена для английского языка. Длина контекста, точный набор поддерживаемых модальностей и дополнительные архитектурные характеристики не указаны. Доступно множество вариантов квантизации от Q2 до Q8, различающихся размером файлов и качеством: Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и Q4_K_S отмечены как рекомендуемые, тогда как варианты Q2 и Q3 обеспечивают экономию памяти за счёт снижения качества. Сильными сторонами модели являются ориентация на function calling и tool use, а также возможность локального запуска на совместимом оборудовании. Ограничения связаны с потерями качества при использовании низкобитных вариантов квантизации, значительными требованиями к памяти у 70B-модели и отсутствием заявленной поддержки языков, кроме английского. Лицензия — Apache-2.0.

Lionelglo/aion-agnostic-engineer-v2 — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для использования через библиотеку Transformers. README модели автоматически сгенерирован и не содержит сведений о разработчике, обучении или точной специализации; в метаданных модель помечена как conversational и относится к семейству Qwen2. Модель имеет 3,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Её можно применять для диалогов, генерации ответов, написания и преобразования текстов, а также интеграции в приложения на базе Transformers. Метаданные указывают задачу text-generation и форматы transformers и safetensors. README не содержит результатов оценки, описания обучающих данных, сведений о языках, лицензии или рекомендаций по безопасному применению. Поэтому качество на конкретных языках и доменах, устойчивость ответов и пригодность для критически важных сценариев по имеющимся данным подтвердить нельзя.

c4ai-command-r7b-12-2024-abliterated-GGUF — GGUF-квантизированная версия текстовой генеративной модели c4ai-command-r7b-12-2024-abliterated. Модель подготовлена huihui-ai, а квантизации выполнены bartowski с использованием llama.cpp и метода imatrix. По идентификатору это модель класса 7B; точная архитектура и размер контекста в README не указаны. Модель предназначена для генерации и продолжения текста, диалоговых сценариев и локального запуска через llama.cpp или LM Studio. Указана поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского, арабского, греческого, персидского, польского, индонезийского, чешского, иврита, хинди, нидерландского, румынского, русского, турецкого, украинского и вьетнамского языков. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. Доступны варианты от BF16 до различных уровней квантизации, примерно от 4,8 до 16,1 ГБ; версии Q5 и Q6 отмечены как высококачественные, а Q4_K_M рекомендована как стандартный вариант. Квантизация уменьшает требования к памяти и упрощает локальный запуск, но может снижать качество по сравнению с исходными весами. Модель помечена как abliterated и uncensored, поэтому её поведение, защитные ограничения и пригодность для чувствительных сценариев могут отличаться от исходной модели. Лицензия CC BY-NC 4.0 разрешает использование только на некоммерческих условиях; для загрузки требуется согласие с условиями лицензии.

Claude 3 Haiku — компактная и наиболее быстрая модель семейства Claude 3, разработанная компанией Anthropic. Она предназначена для сценариев, где важны почти мгновенная реакция и точное выполнение специализированных запросов. Модель заявлена как мультимодальная, однако в доступных данных не приведены сведения о конкретных поддерживаемых модальностях, архитектуре, размере, языках, длине контекста или лицензии. README также не содержит подробного описания ограничений и условий использования.

Kaballas/Cyber20 — дообученная компанией Kaballas модель семейства Llama для генерации текста и диалогов. Она основана на Kaballas/Cyber18, содержит 7,5 млрд параметров и имеет контекстное окно до 131 072 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста и общения на английском языке; метаданные также указывают поддержку чатового интерфейса и интерфейса вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

Cygnis-Alpha 2 (8B) v0.3 — это языковая модель для генерации текста, представленная в формате GGUF с различными вариантами квантизации. Базовую модель разработал Simonc-44, а квантизацию выполнил mradermacher. Модель обучалась с использованием наборов данных Cygnis-Alpha2-Instruct-Mix и Cygnis-Identity-SFT и предназначена для локального запуска через совместимые инструменты работы с GGUF. Модель содержит около 8 миллиардов параметров и, судя по метаданным, относится к семейству архитектур Llama 3.1. Она ориентирована на текстовые задачи, включая генерацию ответов, следование инструкциям и рассуждения. Заявлены английский и французский языки. Поддержка мультимодальных входов и размер контекстного окна в README не указаны. Основное преимущество версии — широкий выбор квантизированных вариантов размером примерно от 2,1 до 6,7 ГБ, что позволяет адаптировать модель к доступным ресурсам и выбирать компромисс между скоростью, требованиями к памяти и качеством. При этом некоторые малобитные варианты характеризуются как низкокачественные, поэтому для практического использования рекомендуется выбирать более качественные варианты, например i1-Q4_K_M или i1-Q5_K_M. Модель распространяется под лицензией Apache-2.0.

unsloth/DeepSeek-R1-Distill-Llama-70B-GGUF — это GGUF-версия дистиллированной языковой модели DeepSeek-R1-Distill-Llama-70B. Модель создана на основе DeepSeek-R1-Distill-Llama-70B, разработанной командой DeepSeek, а данный вариант опубликован Unsloth. Это текстовая модель для генерации ответов и решения задач в диалоговом и общем текстовом режимах; в примере README она используется для рассуждений и простых математических вопросов через llama.cpp. Модель содержит 70 млрд параметров и основана на архитектуре семейства Llama; точная версия базовой архитектуры и размер контекстного окна в README не указаны. Поддерживаемый язык обозначен как английский. Формат GGUF предназначен для локального запуска с llama.cpp и поддерживает квантованные варианты, включая Q4_K_M и Q8_0. Для ускорения возможна частичная выгрузка слоёв на GPU, однако из-за размера модели запуск требует значительных вычислительных ресурсов. К сильным сторонам относятся большой размер, возможности дистиллированной модели DeepSeek-R1 и удобство локального использования в llama.cpp с разными уровнями квантования. Ограничения — высокая требовательность к памяти и отсутствие в предоставленных данных сведений о точности на тестах, мультимодальности, контекстном окне и поддержке языков помимо английского. Модель распространяется по лицензии llama3.3.

DeepSeek-R1-Distill-Qwen-7B-Uncensored-Reasoner-GGUF — это GGUF-версия дистиллированной 7-миллиардной модели рассуждений на базе Qwen, подготовленная h34v7 на основе модели nicoboss/DeepSeek-R1-Distill-Qwen-7B-Uncensored-Reasoner. Модель ориентирована на локальный запуск и генерацию ответов общего назначения с акцентом на рассуждения; README отдельно указывает возможность запуска на Android-устройствах с Snapdragon 8 Gen 2, Snapdragon 8 Gen 3 или Snapdragon Elite через Ollama и Termux. Для работы рекомендуется не менее 8,4 ГБ оперативной памяти, при этом на менее производительных устройствах возможна более низкая скорость. Ключевые сведения об архитектуре, точном размере файла, формате квантования, максимальном контексте, поддерживаемых языках и модальностях в README не приведены; по имеющимся данным, это текстовая языковая модель. В описании заявлена «uncensored»-настройка, однако её фактическое поведение и качество не подтверждены отдельными тестами. Модель распространяется по лицензии MIT.

deepseek-r1-qwen-2.5-32B-ablated-GGUF — это квантизированная версия текстовой генеративной модели NaniDAO/deepseek-r1-qwen-2.5-32B-ablated, подготовленная bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель относится к семейству Qwen 2.5, имеет размер 32B параметров и предназначена для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель подходит для генерации текста и диалоговых сценариев, включая задачи, связанные с рассуждениями. В репозитории представлены варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Рекомендуемыми обозначены варианты Q4_K_M, Q5_K_M, Q6_K и другие близкие к ним форматы; наиболее компактные варианты экономят память, но дают более низкое качество. Архитектура, поддерживаемые языки и размер контекстного окна в README не указаны. По тегам модель описывается как ablated и uncensored, однако подробности применённых изменений и их влияние на поведение также не раскрыты. Для использования требуется совместимое ПО и память, соответствующая выбранному варианту весов; размеры файлов составляют примерно от 14,81 до 65,54 ГБ. Лицензия — MIT.

Eidolon-v3-14B — разговорная текстовая модель на архитектуре Qwen2, разработанная Lambent и дообученная на базе Lambent/ProtoEidolon-v2.2.4-14B с использованием TRL. Модель предназначена для диалогов, следования инструкциям и генерации продолжений текста; в карточке также указана совместимость с интерфейсом вызова инструментов. Модель содержит 14 млрд параметров и поддерживает контекст до 131 072 токенов. В обучении использовались SFT и DPO, в том числе данные предпочтений и текстовые корпуса; предыдущие версии в цепочке разработки включали слияния моделей. Карточка приводит результаты EQ-Bench, IFEval и GPQA, но не даёт полного независимого сравнения. Автор отмечает возможные проблемы с настроенным шаблоном чата и допускает его возврат к предыдущей версии. В метаданных указана пометка not-for-all-audiences, поэтому модель может выдавать нежелательный или токсичный контент. Лицензия в предоставленных данных не указана.

Experiment26T3q-7B — созданная Maxime Labonne автоматическим слиянием методом SLERP моделей rwitz/experiment26-truthy-iter-1 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO. Это плотная Mistral-модель с 7,1 млрд параметров для генерации текста; базовая математическая модель прошла DPO-дообучение на математических данных. Модель принимает текстовые запросы и предназначена для диалоговых ответов и генерации текста, в том числе для решения математических задач. Длина контекста — 32 768 токенов. Веса доступны в формате safetensors, лицензия — Apache-2.0.

Falcon-7B-Instruct — языковая модель TII на основе Falcon-7B, дообученная на смеси диалоговых и инструкционных данных. Это плотная авторегрессионная модель с архитектурой decoder-only; в карточке указаны 7 млрд параметров, тогда как метаданные каталога сообщают 10,9 млрд. В архитектуре используются rotary positional embeddings, multi-query attention и FlashAttention, рассчитанные на эффективный инференс. Модель предназначена для диалогов и выполнения инструкций на естественном языке: она может отвечать на вопросы, помогать с текстовыми задачами и вести беседу. Основной язык обучения — английский; карточка также указывает французский, но предупреждает, что качество на языках помимо английского может быть слабым. Для быстрого инференса README рекомендует не менее 16 ГБ памяти; для использования с Transformers требуется PyTorch 2.0. TII сообщает о дообучении на смеси instruct/chat-датасетов объёмом около 250 млн токенов. Модель может воспроизводить стереотипы и смещения из веб-данных, поэтому перед применением в производстве ответы следует оценивать и дополнять защитными мерами. Лицензия — Apache 2.0.

Follex-7B-V2 — объединённая языковая модель на архитектуре Qwen2, созданная с помощью mergekit методом task arithmetic. В качестве базовой модели использована happzy2633/qwen2.5-7b-ins-v3; в объединение также вошли prithivMLmods/QwQ-LCoT-7B-Instruct, bunnycore/FuseQwQen-7B и AIDC-AI/Marco-o1. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Контекст — до 32 768 токенов. Репозиторий использует библиотеку Transformers и формат safetensors. Метаданные не уточняют поддерживаемые естественные языки, поэтому языковой охват и основной язык не заявлены. Условия лицензии в предоставленных данных не описаны.

Functionary Small v3.1 — разговорная языковая модель с поддержкой вызова функций и плагинов, разработанная meetkai на основе Meta-Llama-3.1-8B-Instruct. Это плотная архитектура LlamaForCausalLM на 7,5 млрд параметров с контекстом до 131 072 токенов; модель распространяется в формате safetensors и совместима с Transformers. Модель предназначена для диалоговых систем, которым нужно выбирать подходящий инструмент, вызывать функции по JSON Schema, выполнять последовательные или параллельные вызовы и формировать ответы с опорой на результаты инструментов. Она также поддерживает сценарии с интерпретатором кода и может отвечать обычным текстом, когда вызов инструмента не нужен. Качество работы с инструментами зависит от корректного описания функций, шаблона диалога и обработки вызовов на стороне приложения; README предлагает использовать сервер vLLM с совместимым с OpenAI API интерфейсом. Модель выпущена под лицензией MIT.

unsloth/gemma-2-it-GGUF — это набор GGUF-квантованных вариантов инструкционной модели Gemma 2, подготовленный Unsloth на основе модели Google. README указывает, что доступны популярные варианты квантования, а исходная модель относится к семейству Gemma 2 и представлена как минимум в версиях на 2B и 9B параметров. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также для последующего дообучения на пользовательских датасетах и экспорта в GGUF или vLLM. Заявлен английский язык; другие языки и мультимодальные возможности не указаны. Ключевая особенность — 4-битное квантование с использованием bitsandbytes, снижающее требования к памяти и позволяющее запускать и дообучать модель на более доступном оборудовании. Для Gemma 2 README приводит ориентиры дообучения на GPU Tesla T4: для версии 9B заявлены примерно двукратное ускорение и снижение потребления памяти на 63%, однако эти показатели относятся к описанным сценариям и не гарантируют аналогичную производительность при инференсе. Архитектура, размер контекста, точные параметры GGUF-вариантов и системные требования не приведены. Лицензия указана как gemma. Ограничения, связанные с качеством ответов, безопасностью, поддерживаемыми языками и конкретными режимами квантования, в README подробно не описаны; перед использованием следует проверить условия лицензии Google Gemma и характеристики выбранного файла.

Gemma 4 E4B IT для RK1828 — мультимодальная инструктивная модель Google DeepMind, подготовленная проектом t-firefly для запуска на плате Rockchip RK1828 через LlamaPi. Это плотная модель семейства Gemma 4 с архитектурой Gemma4ForConditionalGeneration; репозиторий содержит форматы GGUF и Safetensors. В карточке указано, что исходная модель принимает текст, изображения и аудио и формирует текстовые ответы. Модель предназначена для диалога, рассуждений, программирования и мультимодальных сценариев на устройствах и периферийных системах. Она также заявлена для многоязычных и агентных задач. Для запуска README приводит команду LlamaPi `llamapi run gemma4:e4b`. Модель основана на `google/gemma-4-E4B-it`; лицензия репозитория — Apache 2.0. Описание не приводит подробностей о поддерживаемых языках, длине контекста или ограничениях качества; качество и доступность функций могут зависеть от конфигурации запуска на RK1828.

GLM-4.7-Flash-MLX-4bit — это 4-битная квантизированная версия языковой модели GLM-4.7-Flash, разработанной организацией zai-org. Квантизация выполнена командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon в экосистеме MLX. Модель предназначена для генерации текста и может использоваться в сценариях, поддерживаемых библиотекой Transformers и инструментами MLX, включая локальный запуск на совместимых компьютерах Apple. В README заявлена поддержка английского и китайского языков. Модель относится к текстовой модальности; сведения о размере, конкретной архитектуре и максимальной длине контекста не указаны. Ключевое преимущество версии — снижение требований к памяти и вычислительным ресурсам за счёт 4-битной квантизации и оптимизации под Apple Silicon. При этом квантизация может влиять на точность и качество генерации по сравнению с исходной моделью, а фактическая производительность зависит от оборудования и настроек запуска. Модель распространяется по лицензии MIT.

go-bruins-v2.1.1-Mistral-7B-Instruct-v0.1 — объединённая диалоговая модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и rwitz2/go-bruins-v2.1.1 методом SLERP. Веса сохранены в формате safetensors; модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Может применяться в чат-ботах и интерактивных текстовых помощниках. Лицензия Apache-2.0 разрешает использование на её условиях. Данные карточки не описывают отдельные возможности, гарантии качества или ограничения сверх указанных характеристик.

Pantheon-Reasoning-26B-A4B-1.1-GGUF — это квантизированная версия текстовой генеративной модели Pantheon-Reasoning-26B-A4B-1.1, разработанной Gryphe и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для диалогов, работы в режиме instruction-following, рассуждений, творческого письма и ролевых сценариев. Указан английский язык и текстовая модальность. Модель содержит 26B параметров и использует конфигурацию A4B; дополнительные сведения об архитектуре, размере контекста и точном значении этой конфигурации в README не приведены. Квантизация выполнена с использованием llama.cpp и метода imatrix, доступны варианты от BF16 до различных уровней Q3–Q8 и IQ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут сильнее терять в качестве. Для работы необходимы совместимые инструменты, включая llama.cpp, LM Studio, KoboldCpp и другие приложения, поддерживающие GGUF; для недавно поддержанных архитектур может потребоваться обновление ПО. Модель распространяется по лицензии Apache-2.0.

gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

ING Triomphant M2 SLERP — языковая модель, созданная MatthieuJ путём слияния arcee-ai/Clown-DPO-Extended и MatthieuJ/ING_Triomphant_M1_SLERP методом SLERP с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Контекстное окно составляет до 32 768 токенов; веса представлены в формате safetensors с типом данных bfloat16. Модель подходит для ведения диалогов, генерации ответов и продолжения текста. В README приведена конфигурация слияния, в которой для слоёв внимания и MLP заданы разные коэффициенты смешивания исходных моделей. Модель распространяется по лицензии Apache 2.0.

ISOM-R1-Reasoning-1.5B-Instruct — текстовая генеративная модель на 1,5 млрд параметров, разработанная Prannessh K.V.A. на основе Qwen2.5-1.5B-Instruct. Она предназначена для многошаговых рассуждений и диалогов с длинным контекстом; заявленный размер контекста составляет 32 768 токенов. В README описан механизм recurrent state manifold projection, призванный ограничивать рост памяти KV-кэша при длинной обработке. Модель ориентирована на сценарии, где важны продолжительные рассуждения при ограниченной видеопамяти; приведённое в карточке сравнение на Tesla T4 сообщает об успешной обработке 8 192 токенов. Модель принимает текст и генерирует текст. Метаданные также указывают на поддержку чата и интерфейса вызова инструментов. Язык карточки и языковой тег — английский. Базовая модель в README упоминается как использованная под Apache 2.0, однако сама эта производная модель распространяется по CC BY-NC-ND 4.0, что ограничивает коммерческое использование и распространение производных материалов. Результаты производительности и заявления об архитектуре приведены автором в README; они не подтверждены независимыми данными в предоставленных источниках.