I.6Перевод и языковая адаптация

BreezePipe-7B-merge — объединённая языковая модель, собранная автором Heng666 из MediaTek-Research/Breeze-7B-Instruct-v0.1 и Azure99/blossom-v4-mistral-7b с помощью LazyMergekit. В конфигурации используется метод passthrough: слои 0–31 взяты из Breeze, а слои 24–31 — из blossom-v4-mistral-7b. Модель основана на архитектуре Mistral и содержит 8,9 млрд параметров. Она предназначена для генерации текста; контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Это квантизированная GGUF-версия модели GLM-4.7-REAP-218B-A32B, разработанной Cerebras и полученной из GLM-4.7 с использованием метода REAP. В исходной модели было равномерно удалено 40% экспертов, что указывает на разреженную MoE-архитектуру. Квантизацию выполнил bartowski с помощью llama.cpp и imatrix. Модель предназначена для генерации текста и может использоваться в локальных инструментах, поддерживающих формат GGUF, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. В README указан английский язык. Приведён шаблон промпта с системными, пользовательскими и ассистентскими ролями, а также маркером рассуждений. Размер доступных файлов зависит от метода квантизации: примерно от 88 до 232 ГБ; рекомендуются варианты Q4_K_M, Q5_K_M и Q6_K. Сильными сторонами являются широкий выбор уровней квантизации и возможность локального запуска с выбором компромисса между качеством, размером и требованиями к памяти. Более сильные варианты сохраняют высокое качество, а низкоразрядные подходят для систем с ограниченной RAM, но имеют заметно худшее качество. Точные параметры архитектуры, размер контекста и мультимодальные возможности в README не указаны. В метаданных указана лицензия MIT.

mlx-community/DeepSeek-R1-Distill-Qwen-7B-4bit — это 4-битно квантованная версия модели DeepSeek-R1-Distill-Qwen-7B, преобразованная сообществом mlx-community в формат MLX из исходной модели deepseek-ai с использованием mlx-lm версии 0.21.1. Модель предназначена для локального запуска и генерации текста в экосистеме MLX, прежде всего на устройствах Apple, совместимых с этим фреймворком. Модель относится к семейству Qwen и имеет размер 7B параметров; доступна в 4-битном представлении, что снижает требования к памяти по сравнению с полноразмерной версией, но может влиять на точность. README показывает поддержку диалогового использования через chat template и библиотеки mlx-lm. Сведения о модальностях, языках, размере контекста, специализированных сценариях, ограничениях качества и лицензии в предоставленных данных отсутствуют.

DeepSeek-V4-Flash-0731-Abliterated-DS4-Quality128 — это GGUF-квантизованная версия модели DeepSeek V4 Flash, подготовленная apetersson на основе чекпойнта apetersson/DeepSeek-V4-Flash-0731-Abliterated-FP8. Модель предназначена для локальной генерации текста и запуска через DS4 или llama.cpp, включая работу на Apple Silicon с ускорением Metal. Это MoE-модель с разреженной маршрутизацией экспертов; сведения о точном общем числе параметров, поддерживаемых языках и максимальном контексте в README не указаны. Профиль DS4 Quality128 ориентирован на сохранение качества при размещении модели в памяти 128-ГБ M1 Ultra. Размер основного GGUF-файла составляет около 95,8 GiB. В наиболее чувствительных маршрутизируемых экспертах сохранён нативный формат MXFP4, остальные эксперты используют IQ2_XXS и Q2_K, а attention-, shared-expert- и output-пути — Q8; отдельные индексатор и вспомогательные тензоры защищены в F16. Abliteration затрагивает только 36 attention-тензоров wo_b, тогда как коды и масштабы routed experts сохранены без изменений. Основное преимущество модели — ориентированная на качество квантизация и возможность запуска на совместимом локальном оборудовании. Целевой GGUF совместим с DS4 и llama.cpp для обычного inference; для DSpark speculative decoding требуются отдельные runtime-специфичные companion-файлы, которые нельзя взаимозаменять. Поддержка зависит от конкретной версии runtime: stock llama.cpp b10210 поддерживает только обычный запуск, а DSpark требует специальных сборок и изменений DeepSeek V4. Приведённые в README показатели производительности основаны на кратком smoke-тесте и не являются устойчивым бенчмарком. Лицензия модели — MIT.

DistilQwen2-7B-Instruct — дистиллированная языковая модель Alibaba PAI на архитектуре Qwen2, созданная на основе Qwen2-7B-Instruct. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует текст; карточка демонстрирует использование в диалоговом формате. Длина контекста — 32 768 токенов. Модель предназначена для следования инструкциям и диалоговых сценариев. Для дистилляции использованы открытые наборы Magpie, OpenHermes и Mammoth 2, а также синтетические данные; основная часть инструкций была на китайском и английском языках. README сообщает об оценивании на AlpacaEval, MT-Bench и IFEval. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Experiment26Yamshadow_Experiment24Alloyingotneoy — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment24Alloyingotneoy-7B. Она предназначена для генерации текста и работы в сценариях, где нужен диалоговый или иной текстовый вывод. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

Faro-Yi-9B-DPO — чат-модель на архитектуре Llama, разработанная wenbopan. Это версия Faro-Yi-9B, обученная с Direct Preference Optimization (DPO); в карточке также указано объединение моделей. Модель содержит 8,6 млрд параметров и рассчитана на генерацию текста в диалоге. Она обучалась на китайских и англоязычных предпочтениях и наборах данных для следования инструкциям и правдивых ответов. Модель предназначена для диалоговых ответов, рассуждений и решения задач на английском и китайском языках. В опубликованной таблице Faro-Yi-9B-DPO превосходит Faro-Yi-9B и Yi-9B-200K по приведённым метрикам MMLU, GSM8K, HellaSwag, TruthfulQA, AI2 ARC, WinoGrande и CMMLU; автор также сообщает о предпочтении её ответов судьёй GPT-4 в MT-Bench. Контекст модели — 32 768 токенов. Для длинных запросов необходимы подходящие настройки и достаточная видеопамять; автор приводит способы увеличить длину контекста с возможным снижением качества при 4-битной квантизации. Лицензия — MIT.

Higgs Audio v3 STT — модель распознавания речи в текст от автора репозитория erik-at-boson. Она объединяет энкодер Whisper-Large-v3 с дообученными в версии v2 слоями внимания и декодер Qwen3-1.7B; всего в модели 2,68 млрд параметров. Модель принимает монофонические WAV-аудиозаписи с частотой 16 кГц и предназначена для транскрибации речи. Для повышения точности поддерживается режим Thinking. Карточка описывает обновлённые веса и обновлённый набор данных для дообучения, включающий публичные обучающие части AMI, VoxPopuli, SPGISpeech, LibriSpeech, TED-LIUM, GigaSpeech и Earnings22. В репозитории также приведён скрипт транскрибации с детерминированным подавлением повторов слов и фраз. Для загрузки требуется включить trust_remote_code=True и установить библиотеку boson_multimodal для предварительной обработки аудио. Модель распространяется по лицензии Apache-2.0.

Kepler-8B-Instruct-v2 — разговорная языковая модель intellectlabs, представленная в репозитории в формате GGUF для запуска через llama.cpp и совместимые приложения. Согласно карточке, исходная модель получена слиянием Qwen/Qwen2.5-7B-Instruct (85%) и DeepSeek-R1-Distill-Qwen-7B (15%); доступны варианты квантования от Q2_K до F16. Модель содержит около 7,1 млрд параметров, использует плотную архитектуру Qwen2 и поддерживает контекст до 32 768 токенов. Модель предназначена для диалога и следования инструкциям: её можно применять для ответов на вопросы, объяснений и других текстовых задач в чат-интерфейсах, включая LM Studio, Ollama и llama.cpp. Карточка заявляет поддержку ChatML и ответы на разных языках, а метаданные указывают английский. Лицензия — Apache 2.0. Это слияние моделей, а опубликованные GGUF-файлы включают квантованные варианты. README сообщает, что модель не оценивалась на стандартных бенчмарках; сжатие до низкой разрядности снижает качество и повышает нестабильность ответов. Как и другие языковые модели, она может выдавать неточные сведения и унаследовать особенности или смещения исходных моделей.

TheBloke/Llama-2-70B-Chat-GPTQ — это GPTQ-квантизированная версия диалоговой языковой модели Llama 2 70B Chat, разработанной Meta. Репозиторий подготовлен TheBloke и содержит варианты модели для запуска с разными параметрами квантования. Базовая модель — meta-llama/Llama-2-70b-chat-hf; тип задачи — генерация текста, основной заявленный язык — английский. Модель предназначена для диалоговых сценариев, ответов на запросы пользователей и создания текста в формате ассистента. Для корректного взаимодействия используется шаблон Llama-2-Chat с системными инструкциями, ориентированными на полезные, безопасные и честные ответы. Доступны варианты GPTQ с разной разрядностью, размером групп и настройками Act Order, что позволяет выбирать баланс между требованиями к VRAM, скоростью и точностью; поддерживается запуск на GPU, включая совместимые с ExLlama конфигурации для 4-битных моделей. Ключевое преимущество — существенно меньшие требования к памяти по сравнению с исходной моделью в формате fp16 при сохранении назначения и диалоговых возможностей Llama 2 70B Chat. Ограничения включают возможное снижение точности из-за квантования, зависимость характеристик от выбранных параметров и программного обеспечения, а также отсутствие в предоставленных данных подробностей об архитектуре, максимальном контексте и результатах оценки. Модель распространяется по лицензии Llama 2; условия исходной лицензии Meta следует учитывать при использовании.

Это объединённая модель генерации текста семейства Llama 3.1, созданная с помощью mergekit путём линейного слияния unsloth/Meta-Llama-3.1-8B и unsloth/Meta-Llama-3.1-8B-Instruct. В модели около 7,5 млрд параметров; она построена на архитектуре LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Контекстное окно составляет до 131 072 токенов; в метаданных также отмечен интерфейс вызова инструментов. Карточка не уточняет языковой охват и отдельные области применения, поэтому модель следует рассматривать как универсальную. Лицензия в предоставленных данных не указана. Качество слияния и сравнительные результаты не описаны; возможности вызова инструментов обозначают наличие интерфейса и не гарантируют надёжность выполнения каждого вызова.

Llama 4 Maverick — мультимодальная модель Meta для диалога и понимания изображений. Она использует авторегрессионную архитектуру mixture-of-experts с 17 млрд параметров и 128 экспертами, а также раннее объединение модальностей для работы с текстом и изображениями. В репозитории доступны веса Safetensors для Transformers. Модель предназначена для коммерческих и исследовательских сценариев: чат-помощников, визуального анализа, распознавания объектов и сцен, описания изображений и ответов на вопросы по ним. Она поддерживает арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. Модель проверена для анализа до пяти изображений на вход. Для использования действует пользовательская Llama 4 Community License Agreement. Модель обучена на статичном офлайн-наборе данных. Возможности и качество могут различаться в зависимости от языка и сценария; для работы с большим числом изображений, чем проверенное, требуется дополнительная проверка и настройка.

Maverick-7B — объединённая модель для генерации текста, созданная на основе mlabonne/Marcoro14-7B-slerp и mlabonne/NeuralBeagle14-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для диалога, ответов на вопросы и других общих языковых задач; в карточке приведены результаты тестов TruthfulQA, GPT4ALL, AGIEval и Bigbench. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

QuantFactory/Mistral-7B-v0.2-hf-GGUF — квантизированная версия модели Mistral-7B-v0.2-hf. Модель разработана mistralai, а веса предоставлены alpindale; сборка выполнена с использованием llama.cpp. Она предназначена для генерации текста и совместима с рабочими процессами, использующими библиотеку Transformers и формат GGUF. Модель относится к семейству Mistral и имеет размер 7 миллиардов параметров. Доступны варианты квантования Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_0, Q4_K_M, Q4_K_S, Q5_0, Q5_K_M, Q5_K_S, Q6_K и Q8_0, что позволяет выбирать компромисс между размером, требованиями к ресурсам и качеством. README не содержит сведений о поддерживаемых языках, длине контекста, конкретных модальностях помимо генерации текста, ограничениях, лицензии и рекомендуемых сценариях применения.

Monarch-7B — языковая модель mlabonne, полученная слиянием моделей OmniTruthyBeagle-7B-v0, NeuBeagle-7B и NeuralOmniBeagle-7B с помощью LazyMergekit. В конфигурации также указан Mistral-7B-v0.1 как базовая модель; слияние выполнено методом dare_ties. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и решения широкого круга языковых задач. В карточке приведены оценки на наборах Nous и Open LLM Leaderboard; заявлено первое место на YALL leaderboard на дату обновления 13 февраля 2024 года. Контекстное окно составляет 32 768 токенов. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но некоммерческое использование בלבד.

naija-embed-base — модель эмбеддингов предложений, разработанная OlaVerse для поиска смыслового сходства между английским, хауса, йоруба и игбо. Это дообученная на контрастных парах версия olaverse/mist-encoder-base-ng: пары для обучения получены машинным переводом английских предложений на нигерийские языки. Архитектура — ModernBERT с mean pooling; размер — 30,7 млн параметров, максимальный контекст — 1024 токена. Модель предназначена для межъязыкового поиска, семантического поиска внутри одного языка, кластеризации и удаления дубликатов. Эмбеддинги можно использовать в RAG-системах, например для поиска документов на йоруба по запросу на хауса. В README приведены результаты классификации тематик новостей и межъязыкового поиска на FLORES+. Обучение на синтетических переводах добавляет шум и ограничивает точность межъязыкового выравнивания; для игбо оно несколько слабее, чем для хауса. Нигерийский пиджин не входил в обучение. Модель распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия модели r1-1776-distill-llama-70b, разработанной perplexity-ai и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp release b4738 и метода imatrix. Модель предназначена для генерации текста и может запускаться через LM Studio, llama.cpp и другие проекты на базе llama.cpp. Архитектура основана на Llama, размер исходной модели — 70 миллиардов параметров. В README не указаны поддерживаемые языки, длина контекста и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Доступны варианты квантизации от Q8_0 до Q3_K и IQ3/IQ4, с размером файлов примерно от 27,47 до 74,98 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество, но требуют больше памяти; варианты Q6_K, Q5_K и Q4_K_M отмечены как рекомендуемые для различных сценариев. Сильными сторонами являются широкий выбор размеров файлов, совместимость с локальными инструментами llama.cpp и сохранение высокого качества в старших вариантах квантизации. Ограничения включают значительные требования к оперативной или видеопамяти, особенно для версий с высоким качеством, а также потенциальное снижение качества в компактных вариантах. Модель распространяется по лицензии MIT.

unsloth/Qwen2.5-0.5B-Instruct-unsloth-bnb-4bit — компактная 4-битная версия модели Qwen2.5-0.5B-Instruct, подготовленная Unsloth на базе семейства Qwen, разработанного командой Qwen. Модель предназначена для задач генерации и обработки текста, включая диалоговые приложения, следование инструкциям, работу со структурированными данными, генерацию JSON, базовое программирование и математические запросы. Модель относится к классу авторегрессионных языковых моделей и содержит около 0,49 млрд параметров, из которых около 0,36 млрд не являются параметрами эмбеддингов. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV внимания, связанные эмбеддинги слов и Grouped Query Attention с 14 головами для Q и 2 для KV. Заявлена поддержка контекста до 32 768 токенов. Семейство Qwen2.5 поддерживает более 29 языков, включая английский, китайский, русский и другие, однако для данной конкретной версии в метаданных явно указан английский язык. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битному квантованию Unsloth, при этом заявлено выборочное квантование Dynamic 4-bit для лучшего сохранения точности по сравнению со стандартными 4-битными форматами. Ограничениями являются небольшой размер модели и, как следствие, более ограниченные возможности по сравнению с крупными моделями; README также не содержит подробных результатов бенчмарков именно для этой версии. Лицензия — Apache-2.0.

Карточка модели KnutJaegersberg/Qwen2-Deita-500m на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

mlx-community/Qwen3-32B-4bit — это 4-битная квантизированная версия языковой модели Qwen3-32B, преобразованная сообществом mlx-community из исходной модели Qwen/Qwen3-32B в формат MLX с использованием mlx-lm 0.24.0. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с сообщениями через chat template. Ключевая характеристика модели — размер исходной модели 32B параметров и 4-битное представление, что снижает требования к памяти по сравнению с полноточной версией и делает модель подходящей для запуска в экосистеме MLX. В README не указаны поддерживаемые языки, максимальная длина контекста, точная архитектура, мультимодальные возможности и результаты оценки качества. Сильными сторонами являются совместимость с MLX и более экономичное потребление памяти благодаря квантизации. Ограничения включают возможную потерю качества из-за 4-битного представления, зависимость от инструментов mlx-lm и отсутствие в предоставленных данных подробных сведений о производительности и языковой поддержке. Модель распространяется по лицензии Apache-2.0.

YFC-112358 создал эту плотную модель семейства Qwen объёмом 27 млрд параметров с помощью трёхэтапного слияния весов. В рецепте DELLA и линейная арифметика задач объединяют несколько моделей на базе Qwen3.6, после чего полученное изменение весов переносится на Cold-Fusion-GAIN-V1.1 на базе Qwen3.8. Репозиторий содержит веса safetensors и использует библиотеку Transformers; модель лицензирована по Apache-2.0. Модель предназначена для диалоговой генерации текста и может использоваться как ассистент для ответов и многошаговых запросов. В метаданных также заявлен интерфейс для вызова инструментов. Несмотря на мультимодальную архитектуру Qwen и наличие визуальной башни у базового семейства, README этой версии описывает прежде всего слияние весов и не подтверждает отдельно качество обработки изображений или видео. Главное ограничение — перенос прироста весов между поколениями Qwen3.6 и Qwen3.8: автор отмечает, что архитектуры совпадают по размерам, но это не гарантирует совместимость представлений, и модель может работать хуже без явной ошибки. Автор приводит значение cold_amp 0,1217 и считает его совместимым с продолжением обучения на общей базе, однако предупреждает, что базовые веса Cold-Fusion могли измениться, что затрудняет точное воспроизведение.

Qwen3.8-Flash-Next-ANE — пакет гибридного инференса модели Qwen3.8-Flash-Next от True2456 для компьютеров Apple Silicon. Модель дообучена на базе Qwen/Qwen3.8-Flash-Next; в README описаны 36 слоёв Gated DeltaNet и 12 слоёв Qwen Sparse Attention, исполняемые на Apple Neural Engine, и разрежённые MoE-эксперты, работающие через MLX на GPU. Веса языковой модели хранятся в 4-битном формате, а для ускорения декодирования применяются спекулятивная генерация и таблицы n-грамм. Пакет предназначен для диалогов, генерации текста и агентных сценариев, включая работу через OpenAI-совместимый API и интерфейс вызова инструментов. Автор сообщает о тестировании на Mac с M5 Max и 96 или 128 ГБ объединённой памяти; README приводит результаты производительности и тестов качества для этой конфигурации. Это не полностью исполняемая на ANE модель: часть вычислений выполняется на GPU и CPU. Лицензия указана как other, поэтому условия использования следует проверять на странице репозитория.

SherlockID365/Qwen3-VL-8B-Instruct-quantized.w4a16 — квантизированная версия мультимодальной vision-language модели Qwen/Qwen3-VL-8B-Instruct. В карточке не указан отдельный разработчик производной версии; базовая модель связана с семейством Qwen. Модель предназначена для задач, требующих обработки текста и визуальных данных, включая мультимодальные инструкции и анализ изображений. Модель содержит около 8 миллиардов параметров и использует архитектуру с визуальной частью, которая не подвергалась преобразованию при квантизации. Линейные слои квантизированы методом AWQ в формате W4A16: веса представлены 4 битами, активации сохраняются в формате FP16, используется group_size=128, zero_point=true и версия gemm. Контекстное окно и точный перечень поддерживаемых языков в README не указаны. Ключевое преимущество версии — уменьшенное потребление памяти и потенциально более высокая эффективность инференса по сравнению с полноточной моделью, что удобно для запуска через совместимые инструменты, включая vLLM. Ограничения связаны с потерями точности, возможными для 4-битной квантизации, а также с зависимостью от поддержки формата AWQ и используемого программного окружения. Модель распространяется по лицензии Apache-2.0.

RWKV/RWKV7-7.2B-20260805 — официальная базовая языковая модель BlinkDL из семейства RWKV-7 «Goose», выпущенная в формате Transformers. Это плотная причинная языковая модель класса Rwkv7ForCausalLM с 7,8 млрд параметров; веса представлены в safetensors. Архитектура работает без attention: она поддерживает рекуррентное состояние постоянного размера и постоянные вычисления на генерируемый токен, при этом обучение можно распараллеливать. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Она предназначена для генерации текста, оценки, последующего обучения и тонкой настройки. Шаблон чата задаёт формат диалога, но сам по себе не означает, что модель прошла выравнивание безопасности. Карточка содержит языковые теги для английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского. Рекуррентное состояние постоянного размера позволяет не наращивать KV-кэш по мере генерации; доступны интеграция с Transformers, продолжение генерации с рекуррентным кэшем и рабочие процессы LoRA. Для нативной регистрации класса RWKV-7 требуется Transformers 5.15 или актуальная версия из исходного кода. Спекулятивное декодирование с откатом рекуррентного кэша не поддерживается без сохранения снимков состояния; производительность TileLang зависит от оборудования и конфигурации. Заявлений об оценке безопасности, фактической точности или пригодности для критически важных решений нет. Лицензия — Apache-2.0.

Seed-OSS-36B-Instruct-MLX-6bit — это 6-битная MLX-квантизованная версия инструкционной языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантизация предоставлена командой LM Studio с использованием mlx_lm; сама модель предназначена для генерации текста и работы по инструкциям. Модель подходит для локального запуска в сценариях, требующих ответов на естественном языке и выполнения текстовых задач. Она оптимизирована для устройств Apple Silicon благодаря формату MLX. Известно, что модель содержит около 36 миллиардов параметров и использует 6-битное представление, однако сведения о поддерживаемых языках, длине контекста, конкретной архитектуре и доступных модальностях в README не указаны. К сильным сторонам относятся крупный размер базовой модели, инструкционная настройка, снижение требований к памяти за счёт 6-битной квантизации и оптимизация для экосистемы Apple Silicon. Ограничениями являются зависимость от совместимого MLX-окружения и возможная потеря точности по сравнению с полной версией из-за квантизации; количественные характеристики качества и рекомендации по аппаратным требованиям не приведены. В карточке указана лицензия Apache-2.0.

Yigit-Karaman/turkish_focused-multilingual-e5-small — дообученная модель эмбеддингов на основе intfloat/multilingual-e5-small. Разработчик адаптировал её с помощью LoRA к поиску на турецком языке и межъязыковому сопоставлению, сохранив возможности базовой модели для поиска научных и фактологических текстов на английском языке. Адаптер объединён с базовыми весами, поэтому модель можно использовать через sentence-transformers без отдельного подключения PEFT. Модель построена на архитектуре BERT, содержит 124,3 млн параметров и обрабатывает текст с контекстом до 512 токенов. Она предназначена для получения эмбеддингов, семантического поиска и сравнения предложений; карточка также сообщает об оценке на 11 задачах MTEB и приводит результаты для части из них. В обучении использовались англоязычные и турецкоязычные пары, включая общие QA-данные и специализированные данные для поиска. Лицензия в предоставленных сведениях не приведена.

Карточка модели MUFFDUNCAN/Unlimited-OCR-Universal на Hugging Face совпадает с карточкой sabafallah/Unlimited-OCR-Universal, поэтому описание составлено по ней. sabafallah/Unlimited-OCR-Universal — сообщественный форк модели Unlimited-OCR, первоначально разработанной Baidu. Веса модели не изменены: в репозитории адаптирован код запуска для NVIDIA CUDA, Apple Silicon с MPS и CPU. Модель основана на плотной архитектуре UnlimitedOCRForCausalLM и насчитывает 559,7 млн параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для распознавания текста и разбора длинных документов по изображениям, включая многостраничные документы и PDF. Она принимает изображения и выдаёт текст; в метаданных указана поддержка мультиязычных сценариев. Для запуска используются Transformers; путь SGLang в README доступен только на CUDA. Репозиторий распространяется по лицензии MIT. На MPS требуется вычисление в fp32, что увеличивает расход памяти; для ускоренного пути SGLang нужна CUDA.

Это набор GGUF-квантизованных версий инструкционной языковой модели wisenut-nlp-team-wisenut-llama-3-8B-0.7-Instruct. Исходную модель разработала команда Wisenut NLP Team, а квантизации подготовил Featherless AI Quants. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые и прикладные сценарии обработки естественного языка. Модель относится к семейству Llama 3 и содержит 8 млрд параметров. Она работает в текстовой модальности; сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Доступны варианты квантизации IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0 размером примерно от 3 до 8 ГБ, что позволяет выбирать баланс между требованиями к памяти и качеством. Главное преимущество набора — возможность запускать модель в формате GGUF на совместимом программном обеспечении и подбирать уровень квантизации под имеющееся оборудование. При этом более агрессивная квантизация может снижать качество по сравнению с исходной моделью, а конкретные показатели производительности и качества в README не приведены. Лицензия и условия использования также не указаны.

Yi-1.5-34B-Chat-GGUF — это набор GGUF-квантизаций чат-модели Yi-1.5-34B-Chat, разработанной организацией 01.AI и подготовленной пользователем bartowski. Квантизация выполнена с помощью llama.cpp версии b2854 с использованием метода imatrix и набора данных Kalomaze. Модель предназначена для генерации текста в диалоговом формате и локального запуска через совместимые инструменты, включая llama.cpp. Модель содержит около 34 миллиардов параметров; README не указывает точную архитектуру, поддерживаемые языки, размер контекстного окна или дополнительные модальности, поэтому подтверждённые характеристики ограничиваются текстовой генерацией. Доступны варианты от Q8_0 до IQ1_S размером примерно от 7,49 до 36,54 ГБ. Квантизации Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и некоторые IQ-варианты отмечены как рекомендуемые за сочетание качества и экономии памяти, тогда как самые компактные варианты обеспечивают существенно более низкое качество. Сильная сторона набора — широкий выбор уровней квантизации, позволяющий адаптировать модель к доступному объёму памяти; наиболее качественные варианты близки к исходной модели, а некоторые компактные варианты сохраняют приемлемую работоспособность при ограниченных ресурсах. Ограничения связаны с потерями качества при сильной квантизации и необходимостью использовать корректный шаблон промпта Yi-1.5-34B-Chat. Модель распространяется по лицензии Apache-2.0.

Yi-1.5-9B-Chat-GGUF — квантизированная GGUF-версия чат-модели Yi-1.5-9B-Chat, разработанной 01-ai и подготовленной для квантизации компанией Second State Inc. Модель предназначена для генерации текста и ведения диалогов, включая запуск в локальных приложениях и сервисах на базе LlamaEdge. Модель относится к архитектуре Yi и содержит около 9 миллиардов параметров. Она работает с текстом, использует шаблон запросов ChatML и поддерживает контекст размером до 4096 токенов. Доступны варианты квантизации от Q2_K до Q8_0, а также f16; размеры файлов составляют примерно от 3,35 до 17,7 ГБ. В README рекомендуются варианты Q4_K_M, Q5_K_M и Q5_K_S как сбалансированные по качеству и размеру. Ключевое преимущество модели — возможность локального запуска при существенно меньших требованиях к памяти по сравнению с полноразмерной версией, особенно при использовании низко- и среднебитных вариантов. При этом сильная квантизация может заметно снижать качество генерации, а варианты Q2_K и Q3_K имеют значительные потери качества. Языки, специальные возможности и результаты сравнительных тестов в README не указаны. Модель распространяется по лицензии Apache-2.0.