I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейStrangeMerges_55-7B-model_stock — объединённая текстовая модель семейства Mistral, опубликованная Gille. Она создана методом model_stock с помощью LazyMergekit на основе нескольких моделей Mistral 7B, включая StrangeMerges_54-7B-model_stock, MBX-7B-v3, NeuralMaths-Experiment-7b и другие. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Предназначена для генерации текста и диалогов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. В README не приведены оценки качества или конкретные гарантии поведения, поэтому пригодность для специализированных задач следует проверять отдельно.
Swift-Qwen3.8-27B-Uncensored-GPTQ-Int4-sym-G128-MTP-BF16 — квантизированная версия модели d0xin/Swift-Qwen3.8-27B-Uncensored-BF16, опубликованная greglechin. Модель основана на Qwen3.8-27B и представляет Swift-линейку с эффективным рассуждением и uncensored-настройкой. Она предназначена для генерации текста и мультимодальных сценариев image-text-to-text, поддерживает английский и китайский языки и ориентирована прежде всего на запуск через vLLM XPU на Intel Arc. Точная длина контекста в README не указана. Основная часть весов квантизирована методом GPTQ до Int4 с симметричными группами размера 128; 400 тензоров хранятся в упакованном формате I32. 15 тензоров MTP-головы сохранены в BF16 для работы нативного speculative decoding, а lm_head и vision tower оставлены без квантизации. Размер чекпойнта составляет около 20 ГБ, он разбит на пять шардов. Для сервинга требуется vLLM с поддержкой Qwen3.8 MTP и XPU-патчами; на видеокартах с 32 ГБ памяти при длинном контексте практически необходим KV-cache в FP8. Сильными сторонами являются существенное сокращение размера по сравнению с полноточной версией, сохранение MTP-головы и возможность ускоренного декодирования с speculative decoding. В измерениях для одного потока указана суммарная скорость 79,34 токена в секунду, однако производительность зависит от уровня конкуренции, оборудования и конфигурации движка. Для этой квантизированной версии оценки качества или сравнения perplexity не проводились, поэтому влияние GPTQ на качество не подтверждено. Также поддержка prefix caching зависит от конкретной сборки vLLM и применённых патчей. Модель распространяется по лицензии swift-open-license-1.0; в README она обозначена как license: other.
Tarek07_Nomad-LLaMa-70B-GGUF — это набор квантизированных версий текстовой генеративной модели Nomad-LLaMa-70B, разработанной Tarek07. Квантизация выполнена пользователем bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста через llama.cpp, LM Studio и другие совместимые проекты, включая сценарии диалогов, написания и обработки текста. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 21 до 75 ГБ. Более качественные варианты требуют больше оперативной памяти, тогда как версии с меньшей разрядностью позволяют запускать модель на менее производительном оборудовании, но снижают качество генерации. README не содержит сведений о длине контекста, поддерживаемых языках, дополнительных модальностях, точной архитектуре исходной модели, лицензии или рекомендуемом формате промптов; формат промпта следует уточнять на странице оригинальной модели.
sthenno/tempesthenno-ppo-ckpt40 — языковая модель на 14 млрд параметров, основанная на архитектуре Qwen2 и представленная в формате safetensors. Карточка описывает её как объединение моделей методом NuSLERP; метаданные связывают её с sthenno/tempesthenno-14b-nuslerp-0111 и sthenno/tempesthenno-hs2-rm. В метаданных также указаны обучение с использованием PPO и набора NVIDIA HelpSteer2, поддержка чата, английского и китайского языков и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. В README приведены результаты Open LLM Leaderboard, включая оценки IFEval и BBH, но этих данных недостаточно, чтобы установить её сильные стороны в конкретных пользовательских сценариях. Лицензия — Apache-2.0.
Ternary-Bonsai-8B-mlx-2bit — языковая модель Prism ML для генерации текста и диалогов на устройствах Apple. Это производная от Qwen3-8B модель семейства Qwen3 с плотной архитектурой и 7,6 млрд параметров; в карточке указаны GQA, SwiGLU, RoPE и RMSNorm. Контекстное окно — 65 536 токенов. Веса представлены в тернарном формате {-1, 0, +1} с групповыми масштабами: релиз использует формат MLX 2-bit, около 2,15 ГиБ. Модель предназначена для локального запуска на Mac, iPhone и iPad через MLX и MLX Swift, включая диалоговые сценарии. Разработчик сообщает о среднем результате 75,5 по шести категориям бенчмарков и высокой скорости на устройствах Apple; это показатели из карточки модели, а не независимая гарантия качества. Доступен формат MLX 2-bit, поэтому модель ориентирована на совместимые устройства и программный стек Apple. README отмечает, что оценка энергопотребления на мобильном устройстве приблизительная. Лицензия — Apache-2.0.
Cohere и Cohere Labs разработали Tiny Aya L2-Thinker — мультиязычную языковую модель на 3,35 млрд параметров для диалогов, следования инструкциям и рассуждений. Это авторегрессионный трансформер семейства Tiny Aya; модель дообучена на мультиязычных данных так, чтобы рассуждать на языке запроса. Она принимает текст и генерирует текст, включая явную цепочку рассуждений, если включён соответствующий режим. Модель предназначена для решения математических и научных задач, общих рассуждений и открытой генерации на 44 языках и английском; дополнительное обучение инструкциям расширяет охват ещё более чем на 20 языков. Контекст составляет 32 тыс. токенов на вход и выход суммарно. Режим рассуждений включён по умолчанию в шаблоне чата, его можно отключить. Ответы могут быть неверными или устаревшими, а цепочки рассуждений — длинными; для низкоресурсных языков возможна большая вариативность качества. Лицензия CC-BY-NC 4.0 допускает некоммерческое использование при соблюдении Acceptable Use Policy Cohere Labs; для коммерческого применения требуется связаться с Cohere.
VibeVoice-ASR-Streaming-1.5B — потоковая модель распознавания речи от Microsoft на базе семейства VibeVoice. Она преобразует поступающий аудиопоток в текст и связывает реплики с говорящими, а пользовательские ключевые слова помогают распознавать имена и специальные термины. Модель поддерживает 10 языков: китайский, английский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский. В метаданных указаны плотная архитектура VibeVoice и формат весов Safetensors; README сообщает размер 1,5 млрд параметров. Модель предназначена для сценариев потоковой транскрибации с атрибуцией говорящих и пользовательскими подсказками. Лицензия — MIT.
vigostral-7b-chat-Mistral-7B-Instruct-v0.1 — диалоговая языковая модель на базе архитектуры Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и vigostral-7b-chat методом SLERP. Модель содержит 7,1 млрд параметров, представлена в формате safetensors и рассчитана на генерацию текста и ответы в чате; заявленный контекст — до 32 768 токенов. Модель подходит для диалогов и выполнения инструкций на французском языке. В README указаны базовая модель, вторая модель-источник, диапазоны слоёв и параметры слияния. Репозиторий распространяется по лицензии Apache-2.0.
Viviana_v1 — диалоговая языковая модель, созданная автором domie с помощью mergekit путём объединения mymaia/Magiq-M0 и galatolo/cerbero-7b методом TIES. Модель использует плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров; для хранения указаны веса safetensors, а при слиянии использовалась точность float16. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно применять для ответов на вопросы и общения на английском и итальянском языках. Контекстное окно составляет 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0.
OpenWeightsAI/Vynis-0.1-2b-instant — компактная instruction-tuned языковая модель семейства Llama, разработанная OpenWeightsAI на базе unsloth/Llama-3.2-1B-Instruct и дообученная на датасете yahma/alpaca-cleaned. Модель предназначена для генерации текста и диалогового взаимодействия на арабском и английском языках. Модель содержит около 1,2 млрд параметров, поддерживает контекст до 131 072 токенов и может использоваться через библиотеку Transformers. Она подходит для ответов на инструкции, ведения диалогов, генерации черновиков текста и создания лёгких прикладных ассистентов, где важны небольшие вычислительные требования и поддержка арабского языка. Модель распространяется по лицензии Apache-2.0. В README не приведены результаты бенчмарков, подробности обучения или гарантии качества, поэтому точность, устойчивость ответов и пригодность для критически важных сценариев необходимо проверять самостоятельно.
WhisperD-NL — модель распознавания речи на нидерландском языке, созданная дообучением Whisper large-v3 на корпусе Corpus Gesproken Nederlands (CGN). Она предназначена для транскрибации с сохранением речевых запинок и неречевых событий, а также для распознавания до четырёх говорящих: их реплики помечаются тегами [S1]–[S4]. Модель построена на архитектуре Whisper и содержит около 905,3 млн параметров. В карточке указан WER 16,42 для распознавания с запинками, идентификацией говорящих и неречевыми событиями. Репозиторий содержит веса в формате safetensors; лицензия — MIT. Модель оптимизирована для нидерландской речи и наследует ограничения базовой Whisper large-v3.
Модель andrewbawitlung/whisper-large-v3-turbo-mizonal3-E3-lus-v2026.06 разработана как дообученная версия openai/whisper-large-v3-turbo на наборе данных MiZonal v3.0. Это плотная модель Whisper для автоматического распознавания речи; размер составляет 905,2 млн параметров, веса опубликованы в формате safetensors. Версия E3 обучалась с аугментацией скорости речи и предназначена для транскрибирования аудио. В README приведены результаты на оценочном наборе: WER 14,1847, CER 2,7327 и коэффициент реального времени 0,0546. Карточка не уточняет язык аудио, поэтому языковую поддержку и область применения по этим данным определить нельзя. Модель распространяется по лицензии Apache-2.0.
crossdelenna/whisper_med_alex.en — дообученная модель распознавания речи на базе Whisper, опубликованная пользователем crossdelenna. Она предназначена для преобразования аудио в текст; название указывает на английскую версию, а карточка сообщает о дообучении на наборе данных, который не описан. Архитектура — WhisperForConditionalGeneration, размер — 455,8 млн параметров; для работы используется Transformers, веса опубликованы в формате safetensors. В README приведён результат оценки WER 5,3233 и loss 0,0002, однако набор данных и условия оценки не раскрыты, поэтому эти цифры не позволяют надёжно судить о качестве на других аудиозаписях. Модель распространяется по лицензии Apache-2.0.
MKAlbani/whisper-small-ha — дообученная модель распознавания речи на базе openai/whisper-small, созданная на датасете Common Voice 16.1. Она предназначена для преобразования речи в текст; архитектура Whisper содержит около 153,1 млн параметров. В карточке приведены результаты оценки: WER 43,79 и WER Ortho 46,98. Модель принимает аудио и выдаёт текст. Базовый Whisper — мультиязычная модель, но карточка не уточняет языки, на которых проводилось дообучение; суффикс «ha» сам по себе не подтверждает язык. Весы опубликованы в формате safetensors. Лицензия — Apache-2.0.
Модель wrice/whisper-tiny-grpo-4bddbd7-cv22-tiny-klbeta02 — компактная модель распознавания речи на архитектуре Whisper, дообученная автором с помощью GRPO и смешанной функции вознаграждения на основе ошибок слов и символов. Она предназначена для преобразования аудиозаписей в текст; обучающие данные взяты из Common Voice для 77 языковых локалей, а язык каждого аудиофрагмента при обучении задавался по локали. В README приведены результаты валидации на срезе Common Voice: общий WER 0,656 и CER 0,270 после нормализации текста. Модель можно использовать для транскрибации аудиофайлов через Transformers pipeline. Это экспериментальный proof of concept, а не настроенная для производства система; фактическое качество зависит от предметной области, акцента, языка и качества аудио. Модель распространяется по лицензии MIT.
XVERSE-MoE-A36B — базовая многоязычная языковая модель, самостоятельно разработанная компанией Shenzhen Yuanxiang Technology. Это decoder-only Transformer с архитектурой смеси экспертов (MoE): в модели 255,4 млрд параметров, из которых при вычислении активируется около 36,5 млрд. Она включает 64 разделяемых между токенами эксперта и 2 общих эксперта; маршрутизатор выбирает 6 экспертов. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации, а не готовой чат-моделью. Модель обучалась на текстах более чем на 40 языках, включая китайский, английский, русский и испанский; авторы отмечают особенно высокие результаты на китайском и английском. Длина обучающих последовательностей составляла 8 тысяч токенов, что соответствует заявленному контекстному окну. В карточке приведены сравнительные оценки на наборах для общих знаний, рассуждений и программирования. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Как и другие большие языковые модели, она может выдавать неточную, предвзятую или оскорбительную информацию. Для прикладного использования авторы рекомендуют проверять безопасность и адаптировать модель к конкретному сценарию; для диалогового применения может потребоваться отдельная чат-адаптация.
YamshadowStrangemerges_32_Experiment24Inex12 — объединённая методом слияния модель семейства Mistral, опубликованная MaziyarPanahi. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Модель создана на основе automerger/YamshadowStrangemerges_32-7B и automerger/Experiment24Inex12-7B. Её можно применять для диалогов и генерации текстовых ответов; конкретная специализация или заявленные преимущества в карточке не описаны. Лицензия — Apache 2.0.
Nohobby/YetAnotherMerge-v0.3 — объединённая диалоговая модель на архитектуре Mistral с 12,1 млрд параметров. Её создал автор Nohobby методом Della: за основу взята Undi95/Lumimaid-Magnum-12B, также в объединение вошли Sao10K/MN-12B-Lyra-v1 и Nohobby/YetAnotherMerge-v0.1. Модель предназначена для генерации текста и диалоговых ответов. В README отмечена совместимость с базовыми настройками min-p и рекомендован авторский пресет. В метаданных указано нативное контекстное окно 1 024 000 токенов, однако отдельные настройки и качество работы с таким контекстом в README не описаны. Файлы представлены в формате safetensors; README также упоминает варианты GGUF. Лицензия и ограничения на использование в предоставленных данных не описаны.
CausalLM/7B-DPO-alpha — языковая модель на архитектуре Llama, разработанная авторами проекта CausalLM. Это версия с обучением DPO на отдельной ветке обучения; по карточке модели, она не является продолжением обучения CausalLM/7B или CausalLM/14B. Модель содержит 7,1 млрд параметров, работает с текстом и имеет контекстное окно до 8192 токенов. Модель предназначена для генерации текста и диалоговых ответов. В метаданных указаны английский и китайский языки; среди обучающих данных перечислены наборы для диалогов, инструкций, математики и знаний. Авторы приводят результаты сравнения MT-Bench, но доступный фрагмент карточки не содержит оценки самой модели. Лицензия — WTFPL. Авторы предупреждают, что модель обучалась на неотфильтрованных интернет-данных и может генерировать оскорбительный, порнографический или жестокий контент. Они также отмечают отсутствие специального этапа RLHF для этики и безопасности, поэтому выходы модели требуют проверки и фильтрации.
ARIA-70B-V2 — языковая модель Faradaylab, созданная дообучением Llama 2-70B-Chat-HF на франкоязычных данных. Она предназначена для генерации текста и диалогов на французском языке, а также для ответов на общие вопросы и задач, связанных с кодом. Модель использует плотную авторегрессионную архитектуру Llama с 68,7 млрд параметров; стандартный контекст составляет 4096 токенов. В README описан экспериментальный способ увеличить контекст более чем до 6000 токенов с помощью масштабирования RoPE, которое не включено по умолчанию. Разработчики сообщают о собственном наборе из более чем 50 000 французских примеров для повышения качества на французском и общих темах. Вход и выход — текст. Для использования весов требуется принять лицензию Meta Llama 2; README также упоминает доступность отдельной коммерческой лицензии. Модель может ошибаться, а приведённые сведения не подтверждают её качество на конкретных прикладных задачах.
bartowski/ArliAI_Qwen3.5-122B-RpRMax-v1-GGUF — это GGUF-квантизованная версия модели ArliAI/Qwen3.5-122B-RpRMax-v1, подготовленная bartowski с использованием llama.cpp и метода imatrix. Репозиторий содержит варианты квантования от Q8_0 до Q3_K и IQ3, рассчитанные на запуск в llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и других совместимых инструментах. Исходная модель разработана ArliAI, а базовая архитектура связана с Qwen3.5-122B-A10B; точные архитектурные параметры в README не приведены. Модель предназначена для локального инференса и генерации текста в совместимых средах. Метаданные указывают pipeline image-text-to-text, однако подробности о поддерживаемых форматах изображений, языках и максимальной длине контекста не указаны. Размер модели — 122B параметров согласно названию, поэтому даже квантизованные варианты требуют значительных ресурсов: размер файлов составляет примерно от 53,99 до 129,91 ГБ. Варианты Q6_K, Q5 и Q4 позиционируются как обеспечивающие высокое или хорошее качество, тогда как варианты Q3 рассчитаны на ограниченный объём оперативной памяти и дают более низкое качество. Основные преимущества — широкий выбор степеней квантования, возможность локального запуска и сохранение высокого качества при использовании старших вариантов. Ограничения включают очень высокие требования к памяти, потенциальную необходимость обновления программного обеспечения для поддержки новой модели, а также отсутствие в README сведений о бенчмарках, языковой специализации и фактических мультимодальных возможностях. Лицензия указана как Apache-2.0.
ASL 4B — компактная плотная языковая модель на 4 млрд параметров, разработанная SAAI на базе Qwen3.5 и настроенная для работы с арабским языком. Модель предназначена для генерации текста и диалогов, особенно для понимания саудовского диалекта и местного контекста Саудовской Аравии. В обучении использовались открытые наборы данных, а также локальные данные партнёров: книги, литературные произведения и журналистские публикации. Модель поддерживает стандартную генерацию и режим рассуждений; карточка приводит рекомендации по настройкам для vLLM и Transformers. Она рассчитана на приложения с современным стандартным арабским языком, саудовским диалектом и местным либо институциональным контекстом. README характеризует выпуск как первый исследовательский релиз SAAI, ориентированный на исследования и разработку арабоязычных приложений. Лицензия — Apache-2.0. Модель может генерировать неточные, неполные или предвзятые ответы; результаты бенчмарков не гарантируют надёжность в реальных сценариях. Перед применением в чувствительных сферах необходима оценка на целевых задачах.
BLOSSOM-v2-baichuan-13b — диалоговая языковая модель, разработанная на основе Baichuan-13B и дообученная методом instruction tuning на смешанных наборах Blossom, Wizard и Dolphin. Обучение проходило в два этапа: сначала на одноходовых инструкциях Wizard и Dolphin, затем на многоходовых диалогах Blossom Chat и примерах по математике Blossom Math. Модель предназначена для генерации ответов в диалоге, выполнения инструкций и решения математических вопросов. Это плотная авторегрессионная архитектура Baichuan с 12,9 млрд параметров; метаданные указывают поддержку китайского и английского языков. README задаёт формат продолжения диалога с ролями Human и Bot, а для многоходового общения требует завершать ответы Bot токеном </s>. Репозиторий содержит веса PyTorch. Модель распространяется по лицензии Apache-2.0. В карточке не приведены результаты оценки качества и длина контекста, поэтому пригодность для конкретных сценариев следует проверять отдельно.
BLOSSOM-v5-9b — разговорная языковая модель семейства Llama, разработанная командой Blossom и дообученная на базе Yi-9B. Модель содержит 8,6 млрд параметров, принимает текст и генерирует продолжение диалога; её контекст составляет 4096 токенов. Модель предназначена для диалоговых ответов, следования инструкциям, решения математических задач и общего понимания текста на китайском и английском языках. Обучение прошло в два этапа на наборах Blossom Wizard, Orca, Math и Chat; по README, данные включали примеры, дистиллированные из GPT-4-0125-preview. Репозиторий содержит веса safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результатов сравнительной оценки качества; заявленные общие способности и улучшения не сопровождаются бенчмарками.
Bonsai-8B-mlx-1bit — языковая модель Prism ML для локальной генерации текста и диалогов на устройствах Apple. Она основана на плотной архитектуре Qwen3-8B с 36 блоками Transformer, grouped-query attention, SwiGLU, RoPE и RMSNorm; метаданные указывают 7,6 млрд параметров, а README — около 8,19 млрд. Модель использует 1-битные веса с группами по 128 значений и хранит параметры примерно в 1,28 ГБ, что позволяет запускать её на Mac, iPhone и iPad. Указанная длина контекста — 65 536 токенов. Модель подходит для локальных диалоговых помощников, мобильного и периферийного инференса, а также для сценариев, где важны небольшое потребление памяти, скорость и обработка данных на устройстве. README приводит результаты производительности на устройствах Apple, включая 44 токена в секунду на iPhone 17 Pro Max, и описывает также варианты запуска через связанные программные форки. Для работы требуется поддержка 1-битных ядер MLX; заявленные преимущества зависят от соответствующего программного обеспечения и оборудования. README отмечает, что измерения энергопотребления на мобильном устройстве оценочные, а полноточные модели продолжают развиваться. Лицензия — Apache-2.0.
DevQuasar/cerebras.MiniMax-M2-REAP-139B-A10B-GGUF — это квантизированная версия модели MiniMax-M2-REAP-139B-A10B, разработанной организацией cerebras. Модель предназначена для генерации текста и относится к категории text-generation, поэтому может использоваться в сценариях, связанных с созданием и продолжением текстов, диалоговыми приложениями и другими задачами обработки естественного языка. Из доступных данных известно только, что модель распространяется в формате GGUF и является квантизированной. Сведения об архитектуре, размере, количестве параметров, поддерживаемых языках, длине контекста, конкретных вариантах квантования, производительности и ограничениях отсутствуют. Также README не содержит информации о лицензии или явных условиях использования. Описание основано на карточке модели и ссылке на исходную модель cerebras/MiniMax-M2-REAP-139B-A10B.
Карточка модели jinreiyu/clone-Ternary-Bonsai-8B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-8B-mlx-2bit, поэтому описание составлено по ней. Ternary-Bonsai-8B-mlx-2bit — языковая модель Prism ML для генерации текста и диалогов на устройствах Apple. Это производная от Qwen3-8B модель семейства Qwen3 с плотной архитектурой и 7,6 млрд параметров; в карточке указаны GQA, SwiGLU, RoPE и RMSNorm. Контекстное окно — 65 536 токенов. Веса представлены в тернарном формате {-1, 0, +1} с групповыми масштабами: релиз использует формат MLX 2-bit, около 2,15 ГиБ. Модель предназначена для локального запуска на Mac, iPhone и iPad через MLX и MLX Swift, включая диалоговые сценарии. Разработчик сообщает о среднем результате 75,5 по шести категориям бенчмарков и высокой скорости на устройствах Apple; это показатели из карточки модели, а не независимая гарантия качества. Доступен формат MLX 2-bit, поэтому модель ориентирована на совместимые устройства и программный стек Apple. README отмечает, что оценка энергопотребления на мобильном устройстве приблизительная. Лицензия — Apache-2.0.
Deacon 34B — большая языковая модель для генерации текста, разработанная Knut Jägersberg и распространяемая в формате GGUF командой TheBloke. Она основана на архитектуре Yi, имеет около 34 млрд параметров и использует обучающие данные EverythingLM-data-V3. Модель предназначена для текстовой генерации и диалоговых сценариев; в README приведён шаблон запросов SciPhi с отдельными секциями для системного сообщения, инструкции и ответа. Это текстовая, немультимодальная модель: поддерживаемые языки и размер контекстного окна в README не указаны. Представленная версия квантована в формат GGUFv2 с вариантами от 2 до 8 бит, что позволяет запускать её через llama.cpp и совместимые приложения, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты, на CPU и GPU. Разные уровни квантования дают компромисс между требованиями к памяти и сохранением качества, однако конкретные показатели производительности и качества не приведены. Лицензия обозначена как yi-license с типом other; подробные условия следует уточнять в файле LICENSE оригинального проекта. README не содержит заявленных сильных сторон, результатов тестирования или ограничений, помимо общих особенностей квантованного формата и необходимости использовать совместимое программное обеспечение.
neuralabs/deepseek_ocr_de — дообученная компанией neuralabs модель DeepSeek OCR для распознавания немецкого текста на изображениях. Она предназначена для извлечения текста из отсканированных документов, печатных материалов, фотографий, форм и чеков; обучена на синтетическом наборе из 200 тысяч изображений с немецкими текстами и поддерживает особенности немецкой орфографии, включая ä, ö, ü и ß. Модель построена на плотной архитектуре DeepseekOCRForCausalLM, содержит 559,7 млн параметров и имеет контекст 8192 токена. В метаданных указаны задачи text-generation и feature-extraction; для основного сценария распознавания текста по изображению подходящим поисковым тегом является image-text-to-text. Модель принимает изображения с текстом и выдаёт текст. Лучше всего работает с чёткими изображениями печатного немецкого текста, похожего на обучающие данные. Качество может снижаться на рукописном тексте, размытых или низкоконтрастных изображениях и материалах, сильно отличающихся от обучающего распределения. Распространяется по лицензии Apache 2.0.
vilsonrodrigues/falcon-7b-instruct-sharded — переразбитая на шарды версия Falcon-7B-Instruct, подготовленная для загрузки в средах с ограниченной оперативной памятью, например Colab и Kaggle. Это плотная авторегрессионная decoder-only модель семейства Falcon с архитектурой FalconForCausalLM; веса размещены в формате safetensors. В README исходная модель описана как 7-миллиардная, тогда как метаданные репозитория указывают общий размер 10,9 млрд параметров, поэтому размер именно этой версии по источникам расходится. Модель предназначена для диалогов, следования инструкциям и генерации текста на английском и французском языках. Falcon-7B-Instruct создана TII на основе Falcon-7B и дообучена на смеси наборов для чата и инструкций; в исходной архитектуре используются rotary embeddings, multi-query attention и FlashAttention. Apache 2.0 позволяет использовать модель на условиях этой лицензии. README предупреждает о смещениях, унаследованных из веб-данных, слабой обобщающей способности за пределами преимущественно английских данных и необходимости оценивать риски и настраивать защитные ограничения перед использованием в производстве. В нём также указано, что исходной модели требуется не менее 16 ГБ памяти для быстрой инференции; разбиение весов облегчает загрузку в средах с ограниченной памятью, но не гарантирует меньшие требования во время инференции.