I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейM7Multiverseex26-7B — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная Maxime Labonne автоматическим слиянием моделей через mergekit. В конфигурации указаны liminerity/M7-7b и allknowingroger/MultiverseEx26-7B-slerp; применён метод dare_ties, а результат сохранён в формате safetensors с точностью bfloat16. Модель предназначена для генерации текста и может использоваться в диалоговых приложениях и для создания текстовых ответов. Максимальная длина контекста — 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.
MaziyarPanahi/M7Yamshadowexperiment28_Experiment24Inex12 — слитая языковая модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текст. Модель создана путём объединения automerger/M7Yamshadowexperiment28-7B и automerger/Experiment24Inex12-7B. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия — Apache-2.0.
cyankiwi/MiniMax-M2.7-AWQ-4bit — квантизированная версия языковой модели MiniMax-M2.7, разработанной MiniMax AI. Модель предназначена для генерации текста и совместима с библиотекой Transformers. Вариант использует 4-битное квантование AWQ, что снижает требования к памяти по сравнению с полной версией базовой модели и делает её более подходящей для локального или ограниченного по ресурсам запуска. В предоставленных данных не указаны архитектура, число параметров, поддерживаемые языки, размер контекста и дополнительные модальности, поэтому эти характеристики нельзя достоверно описать. Модель распространяется по модифицированной лицензии MIT; подробные условия приведены в лицензии базового проекта MiniMax-M2.7. Ограничения и результаты оценки в README не указаны, поэтому перед использованием в критически важных сценариях необходима самостоятельная проверка качества и совместимости.
Это GGUF-квантизированная версия модели Qwen3-8B-abliterated, разработанной mlabonne и подготовленной пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В README указано, что квантизация выполнена с использованием llama.cpp версии b5415 и метода imatrix. Модель относится к семейству Qwen3 и содержит 8 миллиардов параметров; доступна в форматах от BF16 до различных вариантов 2–8-битной квантизации. Размер файлов составляет примерно от 3,9 до 16,39 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, а компактные квантизации подходят для систем с ограниченными ресурсами. Для работы рекомендуется использовать шаблон промпта ChatML с ролями system, user и assistant. README не указывает поддерживаемые языки, длину контекста, мультимодальные возможности, результаты оценивания или ограничения, связанные с abliteration, поэтому эти характеристики нельзя достоверно описать. Модель распространяется по лицензии Apache-2.0.
MoEv4Config-TestWeightedTIES-7b — слитая языковая модель, созданная автором репозитория на основе Kukedlc/NeuTrixOmniBe-7B-model-remix, PetroGPT/WestSeverus-7B-DPO и vanillaOVO/supermario_v4 с помощью LazyMergekit. Это плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста; длина контекста составляет до 32 768 токенов. Модель можно применять для диалогов, написания и продолжения текста, а также решения задач на рассуждение и понимание текста. В README приведены результаты Open LLM Leaderboard, включая средние 75,39, 71,59 на AI2 Reasoning Challenge и 88,19 на HellaSwag; эти оценки характеризуют конкретные тесты и не гарантируют качество на других задачах. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
Nemotron-Labs-TwoTower-30B-A3B-Base-BF16 — базовая языковая модель NVIDIA Corporation, построенная на базе NVIDIA-Nemotron-3-Nano-30B-A3B-Base-BF16. Это блоковая авторегрессионная диффузионная модель: замороженная контекстная башня обрабатывает запрос и уже сформированные токены, а обученная башня-денойзер итеративно восстанавливает блоки токенов параллельно. Обе башни используют гибридную архитектуру Mamba-2, attention и MoE; в модели около 30 млрд параметров в сумме и 3 млрд активируются на токен согласно названию модели. Модель предназначена для генерации текста, включая диалоговые и общие языковые сценарии. При размере блока 16 и настройках по умолчанию в README указаны 98,7% агрегированного качества авторегрессионной базовой модели и в 2,42 раза более высокая пропускная способность генерации в тесте на двух H100. Поддерживаются режимы диффузионной генерации блоками, имитации авторегрессии и обычной авторегрессионной генерации. Максимальный размер входа — 128 тыс. токенов; в README перечислены английский, испанский, французский, немецкий, японский, итальянский, португальский, китайский, арабский, датский, корейский, нидерландский, польский, русский, шведский и тайский языки. Для запуска используется Hugging Face Transformers с trust_remote_code=True. Полная двухбашенная диффузионная генерация рассчитана на две 80-ГБ GPU; для режима только с контекстной башней достаточно одной 80-ГБ GPU. README заявляет готовность к коммерческому использованию, но метаданные обозначают лицензию как other и не уточняют её условия, поэтому перед применением следует проверить лицензионные документы репозитория.
NeuralsirkrishnaShadow_Experiment26Experiment26 — слитая автором карточки модель на архитектуре Mistral, объединяющая automerger/NeuralsirkrishnaShadow-7B и automerger/Experiment26Experiment26-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов; размер модели — 7,1 млрд параметров. Модель принимает текстовые запросы и выдаёт текст. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.
Это квантованная версия NVIDIA Nemotron 3 Nano 4B, подготовленная FreedomAISVR в формате GGUF на основе весов NVIDIA Nemotron 3 Nano 4B BF16. Модель содержит около 4 млрд параметров и предназначена для генерации текста и диалога. Её гибридная архитектура включает 37 слоёв Mamba2 и 4 блока внимания с ограниченным окном. Контекстное окно — до 1 048 576 токенов. Веса Mamba2 хранятся в F16, а веса блоков внимания, FFN, эмбеддинги и нормализации — в NVFP4. Такое смешанное представление увеличивает размер файла примерно до 4,6 ГБ, но позволяет выполнять слои на CUDA GPU без описанного в карточке перехода Mamba2-операций на CPU. Модель ориентирована на запуск через llama.cpp на совместимом GPU, в частности Blackwell. Указана лицензия other; конкретные условия следует проверять в исходной карточке NVIDIA.
Parakeet RNNT 0.6B — модель автоматического распознавания речи, совместно разработанная командами NVIDIA NeMo и Suno.ai. Это версия FastConformer Transducer примерно с 600 млн параметров; модель принимает монофоническое аудио WAV с частотой 16 кГц и возвращает текстовую расшифровку. Она распознаёт английскую речь и выдаёт транскрипт строчными буквами английского алфавита. Модель обучена на 64 тысячах часов английской речи, включая публичные наборы данных и частную подборку. Её можно использовать для расшифровки отдельных записей и пакетной обработки аудиофайлов, а также как предварительно обученный чекпойнт для дообучения в NeMo. Для оценки качества в карточке приведены показатели WER на нескольких тестовых наборах; результаты указаны для жадного декодирования без внешней языковой модели. Для запуска предусмотрены NeMo и Transformers. Модель распространяется по лицензии CC BY 4.0. Карточка описывает распознавание английской речи; пригодность для других языков не заявлена.
PP-OCRv5_server_rec — модель распознавания текстовых строк, разработанная командой PaddleOCR и распространяемая в формате ONNX для запуска через ONNX Runtime. Она преобразует изображения отдельных строк текста в текст и относится к задачам OCR с pipeline-тегом image-to-text. Модель предназначена для распознавания упрощённого и традиционного китайского, английского и японского текста, включая печатный и рукописный текст, вертикальные строки, пиньинь, редкие символы, древние тексты, искажённый, повёрнутый и художественно оформленный текст. По данным README, модель демонстрирует особенно высокие результаты на печатном китайском и английском, пиньине, повёрнутом и искажённом тексте; для рукописного, древнего и художественного текста точность ниже. Модель подходит для серверного распознавания строк в документах, сканах, изображениях и других OCR-конвейерах. Оценка выполнялась по принципу полного совпадения строки: ошибка хотя бы в одном символе или знаке пунктуации делает всю строку ошибочной, поэтому приведённые показатели не следует трактовать как посимвольную точность. Лицензия Apache-2.0.
ldenoue разработал многоязычную модель восстановления пунктуации и регистра на базе MiniLM. Это негенеративная модель токеновой классификации: для каждого токена она независимо предсказывает знак пунктуации и вариант регистра, не добавляя и не удаляя слова. Архитектура — 12-слойный multilingual MiniLM шириной 384; в README указано 33,78 млн параметров, а в метаданных Hugging Face — 40,6 млн. Используется словарь из 32 000 токенов, сокращённый на основе SentencePiece XLM-R; длина контекста — до 512 токенов. Модель предназначена прежде всего для восстановления пунктуации и заглавных букв в распознанной речи, а также для приведения к читаемому виду текстов без форматирования. Обучающие данные включают речи VoxPopuli, сообщения OASST2, тексты FLEURS и фрагменты исправленных субтитров YouTube. Заявлены английский, немецкий, французский, испанский, итальянский, нидерландский, польский, чешский, словацкий, словенский, румынский, бразильский португальский и болгарский языки. Репозиторий содержит форматы ONNX и safetensors; лицензия модели — MIT. README предупреждает, что включение языка в список не гарантирует качества для производственного применения: следует оценить модель на выходах целевой системы распознавания речи. Для распространения модели также рекомендуется проверить права на исходные субтитры YouTube, использованные в данных.
Qwen2.5-14B-Instruct-IMat-GGUF — это GGUF-квантизированная версия текстовой instruction-модели Qwen2.5-14B-Instruct, первоначально разработанной командой Qwen. Квантизацию выполнил legraphista с использованием llama.cpp и IMatrix-калибровки. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в локальных приложениях, совместимых с llama.cpp и форматом GGUF. В метаданных указан английский язык; модальность — текстовая. Модель основана на варианте размером 14B параметров с исходным типом данных BF16. Доступны версии от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая варианты с IMatrix для ряда низкобитных квантизаций. Это позволяет выбирать между качеством, размером файла и требованиями к памяти: размер доступных файлов составляет примерно от 5,77 до 29,55 ГБ. Размер контекста, архитектурные детали и результаты тестирования в README не указаны. К сильным сторонам относятся широкий выбор уровней квантизации, поддержка локального запуска и применение IMatrix в низкобитных вариантах, что может помочь сохранить качество при уменьшении размера модели. Ограничения включают возможную потерю качества из-за квантизации, особенно в наиболее компактных вариантах, а также отсутствие в предоставленных данных подробных бенчмарков и характеристик производительности. Модель распространяется по лицензии Apache-2.0.
jeiku/qwen2base — слитая с помощью LazyMergekit модель на архитектуре Qwen2, объединяющая maywell/Qwen2-7B-Multilingual-RP и jeiku/qwen2-1 методом slerp. Она предназначена для генерации текста и диалогового общения. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; файлы опубликованы в формате safetensors. Мультиязычный базовый компонент рассчитан на общение и генерацию текста. Карточка не уточняет поддерживаемые языки, сравнительное качество слияния или специальные предметные области. Лицензия в доступных сведениях не указана.
Это конверсия в формат Apple MLX дообученной мультимодальной модели Qwen3.5-4B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING. Репозиторий xv1rcn подготовил её с помощью mlx-vlm 0.6.3; веса представлены в safetensors, а энкодер изображений сохранён в BF16. Модель имеет около 4 млрд параметров и гибридную архитектуру Qwen3.5 с Gated Delta Networks и разреженными блоками Mixture-of-Experts. Нативная длина контекста исходной модели — 262 144 токена, с расширением до 1 010 000; для конверсии отдельные характеристики контекста не приведены. Модель предназначена для диалогов, рассуждений, творческого письма, ролевых сценариев и ответов на вопросы по изображениям. README отмечает исправленный шаблон чата для обработки повторов, чрезмерно длинного рассуждения, циклов и вызова инструментов. Указана поддержка 201 языка и диалектов для семейства Qwen3.5, однако карточка этой модели отдельно подтверждает английский и китайский. Конверсия ориентирована на запуск в Apple MLX; для других сред совместимость зависит от используемого формата и инструментов. Лицензия — Apache-2.0.
Qwen3.5-9B MTPLX Optimized Speed — языковая модель семейства Qwen3.5, опубликованная Youssofal для быстрого локального вывода на компьютерах Apple Silicon. Это 9-миллиардная плотная модель генерации текста с поддержкой диалогов; основная часть весов представлена в 6-битном формате MLX, а нативные MTP-головы сохранены в BF16 для спекулятивного декодирования через MTPLX. Модель предназначена для локальных ответов на запросы и генерации текста с ускорением за счёт предсказания нескольких токенов: MTP-головы предлагают черновые токены, которые затем проверяет основная модель. В README приведены результаты измерений в MTPLX на Apple Silicon: для режима D2 указана скорость 101,32 токена в секунду. Для запуска требуется MTPLX; README описывает совместимый с OpenAI локальный сервер и рекомендуемые настройки декодирования. Это оптимизированная 6-битная сборка, а не полноточный чекпойнт; заявленные результаты относятся к указанному runtime-сценарию на Apple Silicon. Репозиторий распространяется по лицензии Apache-2.0.
Qwen3.8-Flash-Next-GSQ-RCO-GGUF — сторонняя community-воспроизводимая GGUF-квантизация модели Qwen/Qwen3.8-Flash-Next, разработанной командой Qwen. Файлы созданы независимым автором с применением методов GSQ и RCO, разработанных Deep Algorithms and Systems Lab (DASLab) при Institute of Science and Technology Austria. Это не официальный релиз DASLab и не содержит его endorsement. Модель предназначена для локального инференса больших языковых и мультимодальных моделей в формате GGUF, включая обработку изображений через отдельный BF16 vision projector. Основные веса имеют целевой уровень 3,5 бита на параметр и занимают 47,94 ГБ; отдельно требуется один из вариантов shard с token и n-gram embeddings: BF16 на 103,68 ГБ либо более компактный вариант с Q4_0/Q8_0 на 29,49 ГБ. Vision encoder и projector занимают 0,91 ГБ. README позиционирует модель как вариант для запуска приблизительно 180B-модели на двух RTX 3090 с размещением embeddings на диске и KV-кэша в оперативной памяти. GSQ выполняет посттренировочную скалярную квантизацию с распределением точности по координатам и группам, а RCO назначает тип квантизации отдельным тензорам в рамках точного ограничения размера. В предоставленных тестах на MMLU-Pro при контексте 2 048 токенов квантизированная версия получила 58,25% против 55,40% у BF16 reference; perplexity составила 3,1058 против 3,0533. На IFEval результат составил 13/16 по строгому критерию, на GSM8K — 8/8. Ограничения включают очень высокие требования к дисковому пространству и памяти, необходимость совместимого runtime llama.cpp с поддержкой Qwen4Exp и Q2_0, а также небольшое ухудшение perplexity относительно BF16 reference. Языки и максимальная длина контекста в README не указаны. Лицензия обозначена как Qwen Community 1.0; точные условия следует проверять в файле LICENSE.
Qwen3.8-Flash-Next MLX 4-bit — конвертированная и аффинно квантованная версия Qwen/Qwen3.8-Flash-Next от автора True2456. Репозиторий содержит веса для MLX в формате safetensors: эксперты MoE квантованы до 4 бит с размером группы 64, а ряд компонентов, включая attention, embeddings и MTP-драфтер, хранится в 8 бит; router и gated-residual компоненты — в 16 бит. Также доступны индексатор QSA и таблица PLE из исходного чекпойнта. Модель предназначена для генерации текста и диалогов в MLX-рантайме на Apple Silicon, в частности как банк весов для пути обслуживания Rindi Flash-Next. Метаданные указывают поддержку интерфейса вызова инструментов. Для запуска нужна сборка MLX-рантайма с поддержкой архитектуры qwen4_exp; обычная версия mlx-lm пока не подходит. README указывает требования Apple Silicon и для описанного гибридного пути ANE — M5 и около 128 ГБ объединённой памяти. Конверсия выполнена из официального BF16-чекпойнта Qwen/Qwen3.8-Flash-Next. Используется лицензия Qwen Community License 1.0; для коммерческих MaaS- и coding-assistant-продуктов действуют дополнительные условия.
Hunyuan-7B-Instruct-GGUF — это квантизированная GGUF-версия текстовой генеративной модели Hunyuan-7B-Instruct, разработанной Tencent. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Модель ориентирована на диалоговые сценарии и генерацию текста по инструкциям. В репозитории доступны варианты от BF16 до квантизаций Q2–Q8, размером примерно от 3 ГБ до 15 ГБ; это позволяет выбирать между качеством и требованиями к памяти. Для работы необходимо использовать указанный формат prompt с системным сообщением и специальными токенами. README не содержит сведений об архитектуре, поддерживаемых языках, длине контекста, мультимодальности или результатах бенчмарков. Квантизации с более высокой разрядностью обычно обеспечивают лучшее качество, а варианты Q3 и ниже экономят память, но заметнее теряют в качестве; некоторые форматы предназначены для совместимости с ARM или Apple Silicon. Лицензия в предоставленных данных не указана.
Tiger-Gemma-9B-v2-GGUF — это набор GGUF-квантизаций базовой языковой модели TheDrummer/Tiger-Gemma-9B-v2. Квантизации подготовлены пользователем bartowski с помощью llama.cpp версии b3658 и метода imatrix. Модель предназначена для генерации текста и может запускаться локально, в частности через LM Studio или совместимые инструменты llama.cpp. Доступны варианты от исходных весов F16 размером 18,49 ГБ до компактных форматов Q2 и Q3 размером около 3,8–5,4 ГБ, а также более качественные Q4–Q8 и IQ-квантизации. В README не указаны архитектурные детали исходной модели, поддерживаемые языки, размер контекста и точные модальности; по назначению это текстовая модель без заявленной поддержки изображений или других типов данных. Сильной стороной набора является широкий выбор компромиссов между качеством, размером и требованиями к памяти: варианты Q5–Q6 отмечены как высококачественные и рекомендуемые, а некоторые Q4-форматы оптимизированы для ARM. Более агрессивные Q2–Q3-варианты экономят память, но снижают качество. Модель не поддерживает system prompt и требует специального шаблона с маркерами Gemma для диалога. Лицензия в README не указана.
UwU-7B-Instruct — дообученная модель для генерации текста, разработанная автором репозитория qingy2024. Она создана на базе Qwen/Qwen2.5-7B и полностью дообучена на наборе FineQwQ-142k. Автор позиционирует её как универсальную модель для рассуждений и диалогового использования. Модель использует плотную архитектуру Qwen2, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Она принимает текст и генерирует текст; в метаданных заявлены русский, английский, китайский и другие языки. Лицензия — Apache-2.0. README не приводит количественных оценок качества или подробных результатов тестирования.
smutuvi/wav2vec2-large-xlsr-sw — модель автоматического распознавания речи, дообученная на facebook/wav2vec2-large-xlsr-53 на датасете Common Voice 11.0. Она построена на архитектуре wav2vec 2.0 с классом Wav2Vec2ForCTC и содержит 402,7 млн параметров. Модель принимает аудио и преобразует речь в текст. На указанной в карточке оценочной выборке приведены loss 0,4334 и WER 0,3231; описание не уточняет язык записей или условия оценки. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.
Это модель автоматического распознавания речи на архитектуре wav2vec2 с 402,7 млн параметров, разработанная как дообученная версия facebook/wav2vec2-xlsr-53-espeak-cv-ft. Она принимает аудио и преобразует речь в текст. Модель опубликована в формате PyTorch и предназначена для сценариев распознавания речи. Модель дообучена на датасете audiofolder. README не содержит подробностей о составе данных, поддерживаемых языках, оценке качества или рекомендуемых условиях применения. Лицензия — Apache 2.0.
Whisper-squeezeformer-v9_train_CM — дообученная на Common Voice модель распознавания речи на основе Whisper-small от OpenAI. Она предназначена для преобразования аудио в текст; в README приведён результат оценки на тестовом наборе: WER 16,4239 и loss 0,4028. Модель содержит 153,1 млн параметров, использует архитектуру WhisperForConditionalGeneration и распространяется в формате safetensors. Метаданные указывают английский язык. Лицензия — Apache-2.0. Подробности о целевом варианте английского языка, настройках обучения и ограничениях применения в карточке не приведены.
Yi-34B-Chat-GGUF — это квантизированная версия диалоговой языковой модели Yi 34B Chat, разработанной компанией 01-ai и подготовленной в формате GGUF сообществом TheBloke. Модель предназначена для генерации текста и ведения диалогов, включая локальный запуск через llama.cpp и совместимые приложения и библиотеки. Модель имеет архитектуру Yi и размер 34 млрд параметров. Доступны варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью работы и сохранением качества. Формат GGUF поддерживает запуск на CPU и GPU; среди совместимых инструментов указаны llama.cpp, text-generation-webui, KoboldCpp, LM Studio, ctransformers, llama-cpp-python и другие. Для диалогов используется шаблон ChatML. Сильными сторонами модели являются большой размер, специализация на чат-сценариях и возможность локального запуска на широком спектре программных платформ. При этом README не содержит результатов бенчмарков, сведений о поддерживаемых языках и размере контекста, поэтому эти характеристики нельзя подтвердить. Квантизация уменьшает требования к памяти, но конкретный вариант может влиять на качество и скорость работы. Модель распространяется по лицензии yi-license; подробные условия указаны в файле LICENSE.
Barcenas-Qwen3.8-27B-Fable — плотная диалоговая модель на архитектуре Qwen3.5, созданная разработчиком Danielbrdz путём дообучения Qwen/Qwen3.8-27B на наборе saidutta69/fable-5-premium. В карточке она представлена как модель для генерации текста и работы с изображениями; поддерживает чат, а нативная длина контекста составляет 262 144 токена. В репозитории указано 22,3 млрд параметров и формат safetensors. Модель предназначена для диалогов и других задач генерации текста; разработчик отмечает, что обучение на данных чатов, дистиллированных из Claude Fable 5, призвано улучшить разговорные способности Qwen. Заявление о производительности, сопоставимой с GPT 5.6 Luna и более крупными моделями, приводится автором без результатов независимой оценки. Лицензия — Apache-2.0.
CrucibleLab_M3.2-24B-Loki-V1.3-GGUF — это GGUF-квантизация текстовой генеративной модели M3.2-24B-Loki-V1.3, разработанной CrucibleLab. Квантизации выполнены bartowski с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных Q- и IQ-квантизаций. Модель предназначена для генерации текста и запуска в локальных средах, совместимых с llama.cpp, включая LM Studio и другие производные проекты. Размер исходной модели составляет 24B параметров; размер файлов зависит от варианта квантизации и варьируется примерно от 10,4 до 47,15 ГБ. Для модели не указан собственный формат промптов, поэтому его следует уточнять на странице оригинальной модели. Сильная сторона сборки — широкий выбор вариантов, позволяющий выбирать между качеством генерации и требованиями к памяти. Q6_K_L, Q6_K, Q5 и Q4-варианты отмечены как высококачественные или рекомендуемые, тогда как Q3-варианты экономят память ценой снижения качества. Языки, длина контекста, точная архитектура, дополнительные модальности и лицензия в представленном README не указаны.
Это адаптированная для запуска и дообучения в актуальной версии Transformers копия DeepSeek-OCR-2 от Unsloth. Она основана на DeepSeek-OCR-2 от DeepSeek и использует плотную архитектуру Deepseek-VL-v2 с классом DeepseekOCR2ForCausalLM; в репозитории указано 559,7 млн параметров и формат safetensors. Изображения обрабатываются с динамическим разрешением: карточка описывает режим с несколькими кадрами 768×768 и дополнительным изображением 1024×1024. Контекст модели составляет 8192 токена. Модель предназначена для распознавания текста и анализа документов по изображениям, включая сценарии обработки PDF. Для запуска README приводит конфигурацию на базе Transformers и NVIDIA GPU; также упоминается ускорение инференса через vLLM. Поддерживается многоязычное применение, однако конкретный перечень языков не приведён. Заявлено, что адаптация загрузки не меняет точность. Модель распространяется по лицензии Apache-2.0. README не приводит оценок качества или подробных ограничений; для указанного сценария требуются GPU и зависимости из инструкции по запуску.
Это пакет слоёв модели DeepSeek-V4-Flash в формате GGUF, подготовленный Mesh LLM для распределённого инференса. Пакет получен из unsloth/DeepSeek-V4-Flash-GGUF и разделяет веса варианта UD-Q4_K_XL на отдельные артефакты по слоям для запуска на кластере Mesh LLM. Модель предназначена для локального приватного чата и генерации текста, а также для обслуживания запросов через совместимый с OpenAI API Mesh LLM. Разделение слоёв позволяет распределять вычисления и память между несколькими компьютерами, когда одной машины недостаточно. Точные размер модели, архитектурные параметры, контекст и поддерживаемые языки в предоставленных данных не описаны. Вариант использует квантованный формат GGUF UD-Q4_K_XL. Репозиторий указывает лицензию MIT; пакет рассчитан на использование с Mesh LLM, а подробности архитектуры и поведения следует сверять с карточкой исходной модели.
Dolphin 2.0 Mistral 7B — диалоговая языковая модель, разработанная Eric Hartford и обученная при спонсорской поддержке a16z. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов в формате чата. Модель принимает текст и использует формат запросов ChatML; заявленная длина контекста — 32 768 токенов. Модель дообучена на наборе Dolphin, основанном на открытой реализации Microsoft Orca, с добавлением данных Airoboros 2.2.1. В карточке заявлены очистка данных от alignment и bias и высокая готовность следовать запросам. Подходит для диалоговых помощников, генерации и продолжения текста, а также творческих ответов. Основной язык карточки — английский. Модель распространяется под лицензией Apache-2.0 и заявлена как пригодная для коммерческого и некоммерческого использования. Автор предупреждает, что модель может выполнять в том числе неэтичные запросы, поэтому перед предоставлением пользователям рекомендуется добавить собственный слой контроля поведения.
DolphinStar-12.5B — разговорная текстовая модель, созданная Noodlz линейным слиянием моделей Dolphin и Starling на архитектуре Mistral. Репозиторий содержит веса Safetensors; размер модели в метаданных указан как 12,3 млрд параметров, а контекст составляет до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В карточке рекомендованы шаблоны ChatML или LM Studio по умолчанию; автор отмечает, что результаты зависят от шаблона и размера пакета. Лицензия — Apache 2.0.