I.3Извлечение и структурирование данных

Pegasus-7b-slerp — текстовая диалоговая модель, созданная AurelPx слиянием моделей ammarali32/multi_verse_model и eren23/dpo-binarized-NeutrixOmnibe-7B методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста и ответов в диалоге. Модель основана на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она принимает текст, поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Веса объединены в типе bfloat16; лицензия — Apache-2.0. Карточка не приводит сведения о специализированных областях или языках, поэтому модель следует рассматривать как универсальную текстовую модель. Качество и поведение при конкретных задачах зависят от запроса и выбранной среды запуска.

duyntnet/Phi-3-medium-4k-instruct-imatrix-GGUF — набор GGUF-квантизаций модели Phi-3-Medium-4K-Instruct, разработанной Microsoft. Модель предназначена для генерации текста и диалоговых сценариев с инструкциями, включая ответы на вопросы, объяснения и решение задач. Она рассчитана прежде всего на использование в формате чата и поддерживает английский язык. Исходная модель относится к семейству Phi-3 и имеет контекст до 4K токенов; README также указывает размер словаря токенизатора до 32 064 токенов. В данном репозитории представлены квантизированные варианты с использованием imatrix в формате GGUF, совместимые с llama.cpp после указанного в README коммита. Конкретные уровни квантования и размер параметров в предоставленных данных не указаны. Сильными сторонами являются инструкционно-ориентированное поведение, поддержка многоходовых диалогов и возможность локального запуска через совместимые инструменты для GGUF. Ограничения включают англоязычную специализацию, контекст в 4K токенов и возможное снижение качества, зависящее от выбранного уровня квантования. Для работы могут потребоваться актуальные версии поддерживающего ПО и корректный chat format. Лицензия указана как other; дополнительные условия лицензирования в README не приведены.

Qwen1.5-14B — базовая предварительно обученная языковая модель от команды Qwen, бета-версия семейства Qwen2. Это плотная авторегрессионная модель-декодер на архитектуре Transformer с 13,4 млрд параметров, предназначенная для генерации текста и последующего дообучения под чат и другие сценарии. В карточке заявлена поддержка контекста до 32 768 токенов и многоязычного токенизатора; метаданные указывают английский язык карточки. Модель использует архитектуру Qwen2ForCausalLM. Для семейства упоминаются SwiGLU, смещение в проекциях QKV и групповое внимание, однако в бета-версии для этой модели временно отсутствуют GQA и сочетание скользящего и полного внимания. Авторы не рекомендуют использовать базовые модели серии непосредственно для генерации текста и советуют сначала провести постобучение, например SFT, RLHF или продолжить предобучение. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверить с лицензией репозитория.

Qwen2.5-0.5B-Instruct — компактная плотная авторегрессионная языковая модель семейства Qwen2.5 с примерно 494 млн параметров, подготовленная FuriosaAI для запуска на ускорителе RNGD через Furiosa-LLM. Это предварительно скомпилированная сборка базовой инструктивной модели Qwen/Qwen2.5-0.5B-Instruct; она сохраняет её назначение для генерации текста и диалогов, выполнения инструкций и вызова инструментов через парсер Hermes. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и работает в исходной точности 16 бит без квантизации. Сборка ориентирована на лёгкое развертывание с низкой задержкой: на RNGD используется параллелизм по тензорам с размером 4 PE, что позволяет разместить модель на одной карте. Карточка указывает многоязычную поддержку, а метаданные отмечают английский язык. Лицензия — Apache 2.0. Как компактная модель, она может уступать более крупным моделям в сложных задачах; запуск этой сборки рассчитан на Furiosa-LLM и оборудование FuriosaAI RNGD.

MaziyarPanahi/Qwen2.5-7B-Instruct-abliterated-v2-GGUF — это набор файлов модели в формате GGUF для базовой модели huihui-ai/Qwen2.5-7B-Instruct-abliterated-v2, разработанной huihui-ai и квантованной MaziyarPanahi. Модель предназначена для генерации текста и использования в диалоговых и других сценариях, где требуется локальный запуск совместимого языкового генератора. Указано, что модель имеет размер 7B и доступна в вариантах квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит. Формат GGUF поддерживается llama.cpp и рядом совместимых инструментов, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. README не содержит сведений о поддерживаемых языках, размере контекста, архитектуре, модальностях, результатах оценки или конкретных ограничениях качества. Главные преимущества — выбор уровней квантования и возможность запуска в широком наборе локальных приложений и библиотек, в том числе с GPU-ускорением. Лицензия в README не указана, поэтому условия использования необходимо уточнять отдельно у разработчика исходной модели и владельца репозитория квантованных файлов.

Карточка модели jeffmeloy/Qwen2.5-7B-olm-v1.2 на Hugging Face совпадает с карточкой jeffmeloy/Qwen2.5-7B-olm-v1.0, поэтому описание составлено по ней. jeffmeloy/Qwen2.5-7B-olm-v1.0 — текстовая модель на архитектуре Qwen2 с 7,1 млрд параметров, основанная на Qwen/Qwen2.5-7B и представленная как результат оптимизированного объединения слоёв. Подход Optimized Layer Merging (OLM) подбирает слои из нескольких языковых моделей, последовательно оценивая варианты на заданных наборах данных по метрикам, включая perplexity и exact match. Модель предназначена для генерации текста и диалогового взаимодействия; заявленный контекст составляет 131 072 токена. Метаданные указывают интерфейс вызова инструментов. В карточке описан метод сборки гибридной модели, но не приведены результаты оценки качества этой конкретной версии или подробности о наборах данных. Распространяется в формате Safetensors по лицензии Apache-2.0.

trymirai/Qwen3.5-0.8B-M — это 4-битная квантованная версия языковой модели Qwen3.5-0.8B, подготовленная Mirai Labs для эффективного локального вывода на компьютерах Apple с чипами Apple silicon. Модель предназначена для генерации текста и локальных сценариев использования, где важны экономия памяти и высокая скорость работы на совместимом оборудовании. Квантование выполнено методом post-training quantization с последующей quantization-aware distillation. Используются асимметричное 4-битное целочисленное представление, 4-битные zero points, масштабы bfloat16 и размер группы 32; для снижения влияния выбросов активаций и весов применяются блочно-диагональные Random Hadamard Transforms. По данным карточки, конфигурация находится на компромиссном фронте между размером модели и KL-дивергенцией. Архитектура, поддерживаемые языки, размер контекста, модальности и результаты оценивания унаследованы от исходной Qwen3.5-0.8B, но в этой карточке подробно не указаны. Основное преимущество модели — сочетание компактного 4-битного формата и качества, оптимизированного для локального запуска на Apple silicon. Ограничение состоит в том, что официально поддерживается только инференс на Apple silicon; сведения о производительности на других платформах отсутствуют. Модель распространяется по лицензии Apache-2.0.

Это пакет GGUF-слоёв для модели Qwen3.5-122B-A10B-UD-Q4_K_XL, подготовленный Mesh LLM на основе unsloth/Qwen3.5-122B-A10B-MTP-GGUF. Он предназначен для распределённого запуска модели на нескольких компьютерах через Mesh LLM, а также для локального приватного инференса и чат-запросов через совместимый с OpenAI API. Пакет сохраняет исходное распределение GGUF в виде отдельных артефактов по слоям; указан вариант UD-Q4_K_XL. Он поддерживает генерацию текста и диалоговый режим. Сведения об архитектуре, языках, длине контекста и лицензии предлагается смотреть в карточке исходной модели, поэтому здесь они не уточняются.

Qwen3.5-9B-ultra-uncensored-heretic — мультимодальная модель на 9 млрд параметров, созданная независимым автором как модификация Qwen/Qwen3.5-9B. Это плотная модель семейства Qwen3.5 с архитектурой Qwen3_5ForConditionalGeneration: она принимает текст и изображения и предназначена для диалога, рассуждений и визуального анализа. В карточке указаны контекст 262 144 токена с расширением до 1 010 000 токенов и поддержка 201 языка и диалекта для базовой модели. Автор применил abliteration, чтобы снизить частоту отказов: в приведённом тесте отказов было 4 из 100 против 86 из 100 у исходной модели. Результат PIQA близок к исходному показателю, однако эти тесты сами по себе не подтверждают качество на других задачах. Веса опубликованы в формате Safetensors и доступны по лицензии Apache-2.0. Сниженные ограничения могут приводить к выдаче ответов на запросы, которые базовая модель отклоняла.

Qwen3.6-35B-A3B-Razor-28B-A3B-E192of256 — производная от Qwen/Qwen3.6-35B-A3B модель с разреженной архитектурой Mixture-of-Experts, созданная с помощью безобучающего метода RAZOR. В каждом MoE-слое сохранены 192 из 256 маршрутизируемых экспертов; общее число параметров сокращено до 27,7 млрд, из них около 3 млрд активны на токен. Параметры сохранённых экспертов взяты из базовой модели, без градиентного дообучения или восстановительного обучения. Модель предназначена для диалоговой генерации текста и вызова инструментов через интерфейс Transformers. RAZOR отбирает экспертов по оценке того, насколько оставшаяся вычислительная смесь может заменить функцию удаляемого эксперта. Сокращается объём хранения экспертов, тогда как вычисления на токен остаются примерно прежними. Для запуска нужна версия Transformers с реализацией qwen3_5_moe; веса представлены в bfloat16. Обрезка экспертов неизбежно теряет часть поведения: ответы могут отличаться разнообразием, форматированием и завершением, даже если точность по задачам в целом сохраняется. Поведение на областях, далёких от конечного калибровочного набора, не охарактеризовано. Лицензия — Apache-2.0.

AtomicChat/Qwen3.8-27B-MLX-AD-3.70bpw-DWQ-13.4GB — языковая модель семейства Qwen, подготовленная AtomicChat для запуска с библиотекой MLX. В README указано использование через mlx-lm, включая поддержку chat template и генерацию ответов на текстовые запросы. Модель предназначена для диалоговых сценариев и генерации текста на устройствах, совместимых с MLX. Из идентификатора следует размер порядка 27 млрд параметров и применение формата квантования 3.70 bpw DWQ; заявленный размер файла составляет около 13,4 ГБ. Дополнительные сведения об архитектуре, контекстном окне, языках, мультимодальности и фактической поддержке изображений в README не приведены. Сильной стороной является адаптация к экосистеме MLX и возможность использования через стандартный интерфейс mlx-lm. Ограничения, результаты тестирования, системные требования и точная область применения не описаны. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-TURBO-Fable-MXFP4-awq — мультимодальная квантованная модель, опубликованная just1moremodel. Она основана на Qwen3.8-27B и производной модели DavidAU Qwen3.8-27B-TURBO-Fable-Cold-Fusion-735-882-Heretic-Uncensored-NM-DAU, созданной с применением многоэтапного обучения Cold Fusion и GAIN, а также модификации с неограниченным поведением. Модель предназначена для следования инструкциям, генерации творческого текста и диалоговых сценариев без встроенного защитного выравнивания; заявлен английский язык. Модель имеет плотную архитектуру на 27 млрд параметров и 64 слоя, представлена архитектурой Qwen3_5ForConditionalGeneration с сохранённой vision tower, поэтому поддерживает текстовые и визуальные входы. Контекст при рекомендованном запуске через vLLM составляет до 32 768 токенов. Веса сжаты методом AMD Quark MXFP4 W4A8 с AWQ: веса используют fp4 с размером группы 32, активации — динамический fp8. Размер файла модели составляет около 18,04 GiB вместо примерно 55 GB для исходной BF16-версии; предусмотрена поддержка speculative decoding через MTP. К сильным сторонам относятся существенное снижение требований к памяти, поддержка мультимодальности, режимов рассуждения и совместимого с OpenAI API сервинга через vLLM. Модель проверена на AMD RDNA4 в конфигурации TP2 и обеспечивает связные ответы, однако требуется совместимый стек vLLM с ядрами Quark/MXFP4; на одной видеокарте с 32 GB памяти запуск может быть слишком тесным. Квантование может немного ухудшать качество по сравнению с BF16, а формальные сравнительные бенчмарки не представлены. Модель не имеет встроенных ограничений безопасности и предназначена для взрослых, исследовательских и ответственных сценариев использования. Лицензия — Apache-2.0.

Это пакет слоёв GGUF-модели Qwen3.8-27B-UD-Q4_K_XL, подготовленный Mesh LLM для распределённого инференса на локальном кластере. Он создан на основе unsloth/Qwen3.8-27B-GGUF и сохраняет исходную GGUF-модель, разделённую на артефакты по слоям. Вариант квантования — Q4_K_XL. Пакет предназначен для локального приватного чата и генерации текста, в том числе на нескольких машинах, когда целиком разместить модель на одном хосте затруднительно. Через Mesh LLM модель можно предоставлять по локальному API, совместимому с OpenAI Chat Completions. Репозиторий использует библиотеку mesh-llm и формат GGUF; лицензия — Apache-2.0. В README не приведены размер контекста, точное число параметров, перечень поддерживаемых языков и подробные результаты оценки качества. Возможности и качество диалога зависят от исходной модели и конфигурации Mesh LLM.

Qwen3-Reranker-0.6B — плотная языковая модель семейства Qwen3 с 507,6 млн параметров, дообученная для ранжирования текстов. Она оценивает релевантность пар запроса и документа и помогает переставить найденные результаты так, чтобы наиболее подходящие оказались выше. Модель предназначена для поисковых и retrieval-сценариев, включая многоязычный и межъязыковой поиск, поиск по коду и подбор текстов-кандидатов. Модель поддерживает более 100 языков и длинный контекст: в метаданных указано 40 960 токенов. Для улучшения результатов можно задавать инструкцию, соответствующую задаче и языку; README рекомендует в многоязычных сценариях формулировать инструкции на английском. Модель использует Transformers и распространяется в формате safetensors. Лицензия — Apache-2.0.

Qwen3-Reranker-0.6B — компактная модель переранжирования текста из серии Qwen3 Embedding, разработанная Qwen. Она оценивает соответствие пары «запрос — фрагмент» и помогает упорядочить найденные документы или другие текстовые кандидаты по релевантности. Модель содержит 507,6 млн параметров, построена на плотной архитектуре Qwen3 и принимает последовательности контекстом до 40 960 токенов по метаданным; README указывает длину 32K. Для запуска доступны веса Safetensors и интеграция с Transformers и Sentence Transformers. Модель предназначена для улучшения поиска по текстам и коду, в том числе многоязычного и межъязыкового поиска. README заявляет поддержку более 100 языков, понимание длинных текстов и настройку инструкции под сценарий; для поисковых задач приводится стандартная инструкция для запросов веб-поиска. Метаданные указывают дообучение от Qwen/Qwen3-0.6B-Base и лицензию Apache-2.0. Оценки в README получены на кандидатах из первой сотни, предварительно найденных эмбеддинг-моделью Qwen3-Embedding-0.6B, поэтому их нельзя напрямую считать качеством самостоятельного поиска. README также предупреждает, что без инструкции на стороне запроса качество в большинстве рассмотренных сценариев может снизиться примерно на 1–5%.

michaelfeil/Qwen3-Reranker-8B-seq — дообученная модель семейства Qwen3 для ранжирования текстовых пар: она оценивает релевантность документа запросу и помогает переставить найденные результаты в более полезном порядке. По карточке это reranker с 8 млрд параметров, поддержкой более 100 языков и обработкой длинных текстов; в метаданных указаны архитектура Qwen3ForSequenceClassification, контекст до 40 960 токенов и формат safetensors. Модель подходит для поиска по текстам и коду, многоязычного и межъязыкового поиска, а также для классификации текста. Можно задавать инструкции под сценарий; авторы отмечают, что инструкции обычно улучшают результаты на 1–5%. README указывает длину контекста 32K, тогда как метаданные каталога — 40 960 токенов. Модель основана на Qwen/Qwen3-8B-Base и распространяется по лицензии Apache-2.0.

Карточка модели Schnappson/qwen-reranker-ai-act-1e-8pn-138q на Hugging Face совпадает с карточкой Qwen/Qwen3-Reranker-0.6B, поэтому описание составлено по ней. Qwen3-Reranker-0.6B — компактная модель переранжирования текста из серии Qwen3 Embedding, разработанная Qwen. Она оценивает соответствие пары «запрос — фрагмент» и помогает упорядочить найденные документы или другие текстовые кандидаты по релевантности. Модель содержит 507,6 млн параметров, построена на плотной архитектуре Qwen3 и принимает последовательности контекстом до 40 960 токенов по метаданным; README указывает длину 32K. Для запуска доступны веса Safetensors и интеграция с Transformers и Sentence Transformers. Модель предназначена для улучшения поиска по текстам и коду, в том числе многоязычного и межъязыкового поиска. README заявляет поддержку более 100 языков, понимание длинных текстов и настройку инструкции под сценарий; для поисковых задач приводится стандартная инструкция для запросов веб-поиска. Метаданные указывают дообучение от Qwen/Qwen3-0.6B-Base и лицензию Apache-2.0. Оценки в README получены на кандидатах из первой сотни, предварительно найденных эмбеддинг-моделью Qwen3-Embedding-0.6B, поэтому их нельзя напрямую считать качеством самостоятельного поиска. README также предупреждает, что без инструкции на стороне запроса качество в большинстве рассмотренных сценариев может снизиться примерно на 1–5%.

Mungert/QwQ-32B-GGUF — это GGUF-версия языковой модели QwQ-32B, основанной на Qwen/Qwen2.5-32B. Модель предназначена для генерации текста и диалоговых сценариев, включая запуск на устройствах с ограниченной памятью. Репозиторий распространяет модель и её сверхнизкобитные варианты квантования, разработанные с применением подхода IQ-DynamicGate; исходная базовая модель относится к семейству Qwen. Ключевая особенность — адаптивное распределение точности по слоям при квантовании до 1–2 бит: критические компоненты, включая embeddings и выходные слои, сохраняются в более высокой точности, а для разных групп слоёв используются форматы IQ4_XS, IQ2_XXS, IQ3_S и Q5_K. Это позволяет существенно сократить требования к памяти и использовать модель на CPU, edge-устройствах и GPU с ограниченным VRAM. Приведённые в README результаты относятся к тестам на Llama-3-8B-Instruct, поэтому их нельзя напрямую считать показателями именно QwQ-32B. Заявлена поддержка китайского, английского, французского, испанского, португальского, немецкого, итальянского, русского, японского, корейского, вьетнамского, тайского и арабского языков. Размер модели — 32B параметров; контекстная длина для самой модели в README не указана, а упомянутый 2048-токенный контекст относится к процедуре бенчмарка квантования. Основные преимущества — низкое потребление памяти и возможность запуска на более доступном оборудовании; ограничения — потенциальная потеря точности из-за экстремального 1–2-битного квантования и отсутствие подтверждённых для этой конкретной модели бенчмарк-результатов в README. Лицензия — Apache-2.0.

RecurrentGemma 9B — базовая большая языковая модель, разработанная Google. Она предназначена для генерации текста и может использоваться как основа для диалоговых интерфейсов, создания и суммаризации текстов, а также экспериментов в NLP. Это авторегрессионная модель для Transformers, доступная в формате safetensors. Архитектура RecurrentGemma рассчитана на более высокую скорость генерации, особенно для длинных последовательностей и больших пакетов, по сравнению с Gemma 7B с Multi-Head Attention; выигрыш может быть меньше при сравнении с моделями на Multi-Query Attention. Карточка описывает базовую версию, а не instruct-вариант. В README не приводятся контекстное окно и список поддерживаемых языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью и сложными открытыми задачами, а также воспроизводить смещения из обучающих данных. Для использования действует лицензия Gemma и условия Google, включая ограничения на применение моделей Gemma.

MaziyarPanahi/rfp_instruct_model-Mistral-7B-Instruct-v0.2-slerp — объединённая диалоговая модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.2 и arjunssat/rfp_instruct_model. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует ответы; поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в текстовом формате. Карточка описывает способ объединения весов, но не приводит оценок качества или специализированных сценариев применения. Распространяется по лицензии Apache-2.0.

RWKV-7 Goose 1.5B — базовая языковая модель, официальный выпуск BlinkDL в формате Transformers. Это плотная причинная языковая модель на рекуррентной архитектуре RWKV-7 без attention: размер рекуррентного состояния постоянен, а вычислительная работа на каждый новый токен не растёт с длиной последовательности; обучение можно распараллеливать. Модель содержит 1,5 млрд параметров, веса представлены в safetensors, для работы предусмотрена библиотека Transformers и собственная интеграция RWKV-7. Чекпойнт предварительно обучен на веб-текстах, коде, синтетических, инструкционных, чатовых и рассуждательных данных. Он предназначен для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель настроена как безопасный ассистент. В карточке заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Лицензия — Apache-2.0. К ограничениям относятся зависимость качества следования инструкциям и языкового поведения от конкретного чекпойнта, промптинга и последующего обучения, отсутствие заявленных оценок безопасности, предвзятости, токсичности и фактической точности, а также отсутствие поддержки отката рекуррентного кэша для некоторых режимов спекулятивного декодирования без сохранения состояний. Оптимизированный запуск зависит от оборудования и конфигурации; для полного TileLang-режима требуется проверка численного соответствия.

arcee-ai выпустила saul-mistral-v0.2-7b-slerp — объединённую с помощью mergekit модель для диалоговой генерации текста. Она объединяет Equall/Saul-Base и mistralai/Mistral-7B-Instruct-v0.2 методом SLERP; архитектура — плотная MistralForCausalLM, размер — 7,1 млрд параметров. Модель принимает текст и поддерживает контекст до 32 768 токенов. Модель подходит для диалогов и ответов на инструкции в приложениях на базе Transformers. Репозиторий содержит веса в формате safetensors и опубликован под лицензией Apache-2.0. Карточка не описывает отдельные специализированные навыки или оценки качества этой версии.

Selene-1-Mini-Llama-3.1-8B-GGUF — это квантизированная версия языковой модели Selene-1-Mini-Llama-3.1-8B, разработанной AtlaAI. Файлы в формате GGUF подготовлены bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, диалоговых сценариев и задач оценки качества ответов, включая применение в роли LLM-as-a-judge. Модель основана на архитектуре Llama 3.1 и содержит 8 миллиардов параметров. Она работает в текстовой модальности и заявлена для английского, немецкого, французского, итальянского, португальского и испанского языков. README не указывает размер контекстного окна и дополнительные архитектурные характеристики. Доступны варианты от F32 и F16 до различных уровней квантования, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти; рекомендуемым вариантом по умолчанию назван Q4_K_M размером 4,92 ГБ. К сильным сторонам относятся широкий выбор квантованных сборок, совместимость с llama.cpp и LM Studio, а также возможность локального запуска на устройствах с ограниченными ресурсами. Более сильное квантование обычно требует больше памяти, а низкие уровни квантования снижают качество. Специализация на оценке ответов не означает, что модель подходит для всех прикладных задач без дополнительного тестирования. Лицензия указана как llama3.1.

Selene-1-Mini-Llama-3.1-8B-Q4_K_M-GGUF — это квантизированная версия языковой модели AtlaAI/Selene-1-Mini-Llama-3.1-8B, разработанной AtlaAI и преобразованной в формат GGUF с использованием llama.cpp и GGUF-my-repo. Модель предназначена для генерации текста, диалоговых сценариев и задач оценки ответов языковых моделей в формате LLM-as-a-judge. Модель основана на архитектуре Llama 3.1 и содержит 8 миллиардов параметров. Она работает с текстом и заявлена для английского, немецкого, французского, итальянского, португальского и испанского языков. Квантизация Q4_K_M снижает требования к памяти и делает модель подходящей для локального запуска через llama.cpp на совместимом CPU или GPU. В README приведены примеры запуска с контекстом 2048 токенов, однако максимальный размер контекста явно не указан. К сильным сторонам относятся компактность, возможность локального развертывания и совместимость с экосистемой llama.cpp. Ограничения включают потерю части точности по сравнению с полноразмерной моделью из-за квантизации, а также отсутствие в представленном README подробных результатов бенчмарков, данных об обучении и гарантированных характеристик качества. Лицензия указана как llama3.1; условия исходной модели следует учитывать при использовании этого производного файла.

StrangeMerges_17-7B-dare_ties — объединённая языковая модель на архитектуре Mistral, созданная автором Gille с помощью LazyMergekit. В слиянии DARE-TIES использованы модели Gille/StrangeMerges_16-7B-slerp и Gille/StrangeMerges_12-7B-slerp; конфигурация задаёт для них плотность 0,5 и веса 0,4 и 0,6 соответственно, а результирующий тип данных — float16. Модель предназначена для генерации текста и может применяться для диалога, ответов на вопросы и решения задач на рассуждение. Число параметров — 7,1 млрд, контекст — до 32 768 токенов. В README приведены результаты Open LLM Leaderboard, в том числе средняя оценка 69,54, но эти показатели сами по себе не гарантируют качество в конкретном применении. Репозиторий распространяется по лицензии Apache-2.0. Языки, на которых модель работает лучше всего, и её поведение в специализированных областях в предоставленных материалах не описаны.

SuperChat-7B — диалоговая языковая модель, созданная Яшем Маратхе путём слияния нескольких моделей на базе Mistral: openchat/openchat-3.5-0106, OpenPipe/mistral-ft-optimized-1227, berkeley-nest/Starling-LM-7B-alpha, jan-hq/supermario-v2 и mistralai/Mistral-7B-Instruct-v0.2. Модель содержит 7,1 млрд параметров и использует плотную архитектуру Mistral для генерации текста и общения в формате инструкций; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений, ответов на запросы и генерации текста. Она распространяется в формате safetensors по лицензии Apache-2.0. Карточка не приводит сведения о языках или результаты оценок качества, поэтому их нельзя уточнить по доступным данным.

Synatra-V0.1-7B-Instruct-Mistral-7B-Instruct-v0.1 — чат-модель, созданная объединением Mistral-7B-Instruct-v0.1 и maywell/Synatra-V0.1-7B-Instruct методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В метаданных карточки указан корейский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не сообщает о специальных ограничениях применения или проверках качества; результаты могут зависеть от формулировки запроса и не гарантируют точности ответов.

T3qm7xNeuralsirkrishna_CalmeInex12 — объединённая модель на архитектуре Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/CalmeInex12-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, принимает контекст длиной до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0. README и метаданные не сообщают о специализации по языкам или предметным областям.

T3qT3qm7xp-7B — автоматическое объединение моделей, созданное Maxime Labonne методом DARE-TIES на основе моделей T3Q-Mistral-Orca-Math-DPO и T3QM7XP. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров для генерации текста и диалоговых ответов; поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Её можно использовать для генерации продолжений, ведения диалога и ответов на текстовые запросы. В конфигурации объединения для T3QM7XP заданы плотность 0,53 и вес 0,6, используется int8-маска, а тип данных указан как bfloat16. Репозиторий предоставляет веса для Transformers. Языки и специализированные области применения в предоставленных данных не подтверждены, поэтому модель описывается как общего назначения. Лицензия — Apache-2.0.

T5S — базовая модель семейства T5, разработанная для предварительного обучения на испаноязычных текстах. Это encoder-decoder Transformer архитектуры T5 Version 1.1 с двунаправленным энкодером и авторегрессионным декодером; модель содержит 123,8 млн параметров и доступна в форматах PyTorch и safetensors. Модель обучена на неразмеченных испаноязычных корпусах и предназначена для последующего дообучения в формате «текст в текст». После настройки её можно применять для суммаризации, перевода, классификации текста и ответов на вопросы. Лицензия — Apache-2.0.