I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейSarvam-30B — языковая модель, разработанная командой Sarvam Foundation Models. Это модель класса Mixture-of-Experts (MoE), ориентированная на практическое развертывание, мультиязычные диалоги и голосовые вызовы на индийских языках, включая выполнение вызовов инструментов. Она также предназначена для задач рассуждения, генерации кода и общего текстового общения. Модель содержит 30 млрд параметров, из которых 2,4 млрд активируются для отдельного запроса, и представлена в виде FP8-квантизированных весов в формате FP8 E4M3. Архитектура включает 19 слоёв, 128 экспертов с общим экспертом, маршрутизацию top-6, grouped KV attention с четырьмя KV-головами, dense FFN размером 8192 и MoE-FFN размером 1024. Высокое значение rope_theta, равное 8e6, предназначено для стабильной работы с длинным контекстом без дополнительного RoPE scaling, однако точный размер контекстного окна в README не указан. Заявлена передовая производительность для своего размера в 22 индийских языках; также заявлена поддержка английского языка. К сильным сторонам относятся эффективность по памяти и пропускной способности, сниженные требования к ресурсам благодаря MoE и FP8-квантизации, а также сочетание рассуждения, программирования, диалогового взаимодействия и поддержки индийского языкового контекста. Ограничением является необходимость специальной настройки инфраструктуры: для запуска рекомендуются SGLang или модифицированная версия либо hot-patch для vLLM, а точная производительность зависит от оборудования и конфигурации. Модель распространяется по лицензии Apache 2.0.
EuroLLM-22B-Instruct-2512-GGUF — это квантизированная версия инструкционной языковой модели EuroLLM-22B-Instruct-2512, разработанной utter-project и подготовленной пользователем bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая работу с инструкциями, благодаря чему может использоваться в локальных чат-ботах, ассистентах и приложениях на базе llama.cpp. Модель имеет размер 22 млрд параметров и представлена в формате GGUF с вариантами квантизации от BF16 до Q3. Доступна поддержка llama.cpp, LM Studio и других совместимых проектов. Заявлена работа с широким набором языков, включая английский, немецкий, испанский, французский, итальянский, португальский, польский, русский, китайский, японский, корейский, арабский, хинди и многие другие европейские языки. Формат prompt использует шаблон ChatML с ролями system, user и assistant. Сильными сторонами являются широкий языковой охват, возможность локального запуска и выбор между вариантами квантизации, позволяющий балансировать качество и требования к памяти. Рекомендуемыми считаются варианты Q4_K_M, Q5_K_M, Q6_K и другие близкие к ним; менее битные варианты подходят для систем с ограниченным объёмом оперативной памяти, но могут обеспечивать более низкое качество. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по имеющимся данным модель является текстовой и не поддерживает изображения или другие модальности. Распространение осуществляется по лицензии Apache-2.0.
unsloth/whisper-large-v3-turbo — мультиязычная модель распознавания речи семейства Whisper, опубликованная Unsloth в формате Transformers и Safetensors. Это Transformer-энкодер-декодер с 905,2 млн параметров, производный от openai/whisper-large-v3-turbo и openai/whisper-large-v3. В turbo-версии число слоёв декодера сокращено с 32 до 4, что ускоряет работу и снижает потребление памяти при небольшом ухудшении качества. Модель принимает аудио и преобразует речь в текст на том же языке; также семейство Whisper поддерживает перевод речи между языками. Она рассчитана на многоязычную транскрибацию, в том числе аудио на русском, английском, китайском, немецком, испанском, французском и других языках. Для аудио длиннее 30 секунд README рекомендует использовать последовательную или пакетную обработку фрагментами. Модель может быть полезна для расшифровки записей, диктовки и транскрибации аудио с разными акцентами и фоновым шумом. Возможны галлюцинации, повторы и неодинаковая точность для разных языков, акцентов и диалектов; качество может быть ниже для языков с малым объёмом обучающих данных. Лицензия — MIT.
Модель oddadmix/whisper-medium-arabic-dialectal-v2 — дообученная версия OpenAI Whisper Medium для распознавания разговорной арабской речи разных диалектов. Она принимает аудио и генерирует текстовую расшифровку без диакритических знаков. Обучение проведено на диалектно-сбалансированном наборе oddadmix/lahgtna-v3-small; архитектура — WhisperForConditionalGeneration, веса хранятся в формате safetensors. В README указано 769 млн параметров; тестирование на сбалансированной выборке примерно из 2 600 аудиофрагментов дало WER 0,3415 и CER 0,128.
AIFT-ko-orca-plat-Yi-ko-6b-v1.1은 AIFT가 공개한 한국어 지시문 수행용 모델로, Llama 계열의 밀집형 인과 언어 모델이며 약 5,9 млрд параметров и контекстом 2048 токенов. Модель дообучена с помощью LoRA на примерно 40 тысячах примеров, сформированных на основе открытых наборов и дополнительных данных для задач на корейском и английском языках. Модель предназначена для генерации ответов на вопросы и выполнения инструкций в задачах по истории, естественным наукам, математике, машинному чтению, анализу отзывов, суммаризации, грамматике и переводу между корейским и английским. Лицензия — CC-BY-SA-4.0. Обучающие данные не опубликованы. Контекст ограничен 2048 токенами; README не приводит количественных оценок качества, поэтому надёжность ответов для конкретных задач следует оценивать отдельно.
AIFT-ko-orca-plat-Yi-ko-6b-v2.1 — корейская инструктивная языковая модель AIFT на архитектуре Llama с 5,9 млрд параметров и контекстом 2048 токенов. Её дообучили методом LoRA на примерно 40 тысячах примеров, отобранных и очищенных из KOR-OpenOrca-Platypus и дополненных собственными данными. Обучение проводилось на двух ускорителях A100 по 40 ГБ. Модель предназначена для ответов на вопросы и выполнения инструкций: в обучающие данные вошли задания по истории, естественным наукам, математике, машинному чтению, анализу отзывов, суммаризации, грамматике и переводу между английским и корейским. Карточка также упоминает вопросы на проверку распространённых заблуждений и простые школьные задания по науке и математике. Репозиторий использует формат safetensors; лицензия — CC BY-SA 4.0. Данные обучения закрыты, поэтому состав и качество примеров независимо проверить нельзя.
ALIA-40b-instruct-2605 — инструкционная версия многоязычной языковой модели ALIA, разработанная командой BSC-LT. Это плотная decoder-only модель семейства Llama с 38,3 млрд параметров, доступная в формате safetensors и рассчитанная на работу через Transformers. Контекст модели — до 163 840 токенов. Модель предназначена для диалога и выполнения текстовых инструкций: она генерирует и суммирует тексты, отвечает на вопросы и переводит. Улучшены следование инструкциям и системным подсказкам, форматирование ответов, многоходовый диалог и работа с длинным контекстом. Постобучение в основном ориентировано на испанский, каталанский, баскский, галисийский и английский языки; качество для других языков не гарантируется. Модель находится в разработке и не прошла этап выравнивания безопасности. Она не поддерживает нативный вызов функций и не предназначена для автономного выполнения задач; сложные рассуждения, математику и код следует проверять. Авторы рекомендуют температуру генерации 0–0,2 без штрафа за повторы. Лицензия — Apache-2.0.
Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной SpeakLeash совместно с ACK Cyfronet AGH. Это каузальная decoder-only модель для генерации текста и диалогового взаимодействия, представленная в формате GGUF для локального запуска с помощью llama.cpp, Ollama и совместимых приложений. Модель мультиязычная и поддерживает 32 европейских языка, при этом оптимизирована для польского. В README размер указан как 11B параметров; сведения о длине контекста и дополнительных модальностях не приведены. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K, Q8_0, а также 16-битные FP16 и BF16. Квантизация позволяет снизить требования к ресурсам, но может уменьшать качество ответов и повышать вероятность галлюцинаций; Q8_0 требует значительных ресурсов, а низкобитные варианты требуют особенно осторожной настройки. Модель предназначена для локального текстового вывода, включая диалоги и задачи, поддерживаемые инструкционной языковой моделью. В конфигурации для Ollama предусмотрен экспериментальный вызов инструментов с ответом в формате JSON. Модель распространяется по лицензии Apache 2.0.
EXAONE-3.0-7.8B-Instruct — двуязычная генеративная языковая модель LG AI Research с 7,8 млрд параметров, прошедшая предварительное обучение и настройку на выполнение инструкций. Она предназначена для диалогов и генерации текста на английском и корейском языках. Для обучения использовались 8 трлн отобранных токенов, а настройка включала обучение на примерах и оптимизацию по предпочтениям (SFT и DPO). Модель подходит для ответов на вопросы, ведения диалога и других задач генерации текста. Разработчик сообщает о конкурентных результатах на ряде англоязычных и корейских бенчмарков среди моделей близкого размера. Для работы рекомендуется Transformers версии 4.41 или новее; веса опубликованы в формате safetensors. Лицензия указана как other, а в README отмечено, что условия лицензии были пересмотрены. Модель может выдавать некорректные, предвзятые или устаревшие ответы, а также неподходящий контент. Результаты основаны на закономерностях обучающих данных и могут содержать фактические и языковые ошибки.
Это GGUF-квантизации модели gemma-3-27b-it-ultra-uncensored-heretic, созданной независимым разработчиком LLMfan46 на основе Google Gemma 3 27B Instruct от Google DeepMind. Модель модифицирована с помощью Heretic v1.2.0 и метода Arbitrary-Rank Ablation (ARA), чтобы уменьшить склонность исходной модели к отказам и ограничениям при сохранении её исходных возможностей. Модель предназначена для генерации текста, ответов на вопросы, суммаризации, рассуждений и анализа изображений. Это мультимодальная модель с текстовым и графическим вводом и текстовым выводом; заявлена поддержка более 140 языков. Контекстное окно составляет 128K токенов, максимальный объём вывода — 8192 токена. Для работы с изображениями требуется отдельный vision projector, совместимый с выбранной квантизацией. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M и Q4_K_S, что позволяет выбирать между качеством, размером и требованиями к памяти. По данным README, модифицированная версия показала 5 отказов из 100 против 98 из 100 у исходной модели, а KL divergence составила 0,0616; это указывает на значительно меньшее число отказов при относительно близком поведении к оригиналу. Модель совместима с llama.cpp, LM Studio, Ollama и другими инструментами, поддерживающими GGUF. Используется лицензия Gemma; применяются условия использования Google.
hillbyte/labse-mizo-en-embed — модель встраивания предложений, созданная дообучением LaBSE на параллельном корпусе из 170 тысяч пар предложений на мизо и английском языках. Архитектура основана на BERT; модель кодирует предложения в плотные векторы размерностью 768 и сопоставляет оба языка в общем пространстве. Контекст модели — до 512 токенов. Модель предназначена для межъязыкового семантического поиска по корпусу, извлечения релевантных документов, поиска соответствий между переводами и оценки сходства предложений. В README приведены результаты тестирования на 3000 отложенных парах запрос-документ для поиска в обоих направлениях — с английского на мизо и с мизо на английский. Модель распространяется по лицензии Apache-2.0.
LeoLM/leo-hessianai-7b-chat-bilingual — двуязычная чат-модель LAION и HessianAI, разработанная в сотрудничестве с Бьёрном Плютером и Кристофом Шухманном. Это дообученная модель LeoLM/leo-hessianai-7b на архитектуре Llama 2: причинный декодерный трансформер с 6,6 млрд параметров и контекстом до 8192 токенов. Модель принимает текст и генерирует текст на английском и немецком языках. Она предназначена для диалога, написания текстов, объяснений и обсуждения тем. Модель демонстрирует более слабые результаты в математике и сложных рассуждениях. Выпущена по лицензии LLAMA 2 COMMUNITY LICENSE AGREEMENT. Как и другие языковые модели, LeoLM может давать неточные, предвзятые или нежелательные ответы. Перед использованием в приложениях разработчикам следует проверить её поведение и настроить меры безопасности под конкретный сценарий.
RedHatAI/Llama-3.2-3B-Instruct-FP8 — языковая модель для генерации текста и ассистентского диалога, разработанная Neural Magic на базе Meta Llama-3.2-3B-Instruct. Модель принимает текст и генерирует текст, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Она предназначена для исследовательского и коммерческого использования в многоязычных чат- и текстовых приложениях. Модель содержит около 3 миллиардов параметров и использует архитектуру Llama-3. Для весов и активаций применена FP8-квантизация линейных операторов в трансформерных блоках: веса квантизированы по каналам, активации — по всему тензору. Это примерно вдвое снижает требования к памяти GPU и размер диска, а также может примерно вдвое повысить пропускную способность матричных операций. В README указана длина контекста до 8192 токенов для развертывания через vLLM. Сильной стороной модели является близкая к неквантизированной версии точность: на перечисленных бенчмарках заявлено восстановление результатов в пределах 0,7%. FP8-формат делает модель более удобной для эффективного инференса, в частности с использованием vLLM и OpenAI-совместимой серверной подачи. Ограничения включают меньший размер и потенциально более низкие возможности по сравнению с крупными моделями Llama, а также зависимость качества от языкового сценария и квантизации; сведения о специализированных ограничениях безопасности в README не приведены. Модель распространяется по лицензии Llama3.2.
mlx-community/Meta-Llama-3.1-70B-Instruct-8bit — 8-битная версия инструкционно дообученной большой языковой модели Meta Llama 3.1 с 70 миллиардами параметров, подготовленная сообществом mlx-community для использования в экосистеме MLX. Модель предназначена для генерации текста и диалоговых сценариев, включая выполнение инструкций, ответы на вопросы, написание и преобразование текста. В карточке указаны поддерживаемые языки: английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Модель относится к классу text-generation и использует библиотеку Transformers; модальность — текстовая. Ключевая особенность варианта — 8-битное представление весов, которое может снизить требования к памяти по сравнению с полноразмерной моделью, сохраняя принадлежность к крупной 70B-модели. При этом для запуска всё равно требуются значительные вычислительные ресурсы, а конкретные показатели качества, производительности и максимального контекста в README не указаны. Как и другие языковые модели, она может генерировать неточные или нежелательные ответы, поэтому результаты требуют проверки. Модель распространяется по Llama 3.1 Community License от Meta. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ при соблюдении её условий, включая передачу текста лицензии, указание «Built with Llama», атрибуцию и соблюдение Acceptable Use Policy. Для продуктов и сервисов с более чем 700 миллионами активных пользователей в месяц предусмотрено требование запросить отдельную лицензию у Meta.
MLX-Community/Meta-Llama-3.1-8B-Instruct-4bit — это 4-битная квантизованная версия инструкционно дообученной языковой модели Meta Llama 3.1, адаптированная сообществом mlx-community для запуска с использованием MLX. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции, написание и преобразование текста, а также другие задачи обработки естественного языка. Модель относится к семейству Llama и содержит 8 миллиардов параметров. Она работает в текстовой модальности, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. В README размер контекстного окна не указан. Квантизация до 4 бит снижает требования к памяти и может упростить локальный запуск, однако потенциально уменьшает точность по сравнению с полноразмерной версией. Модель разработана для практического применения в локальных и ресурсоограниченных средах, но README не содержит подробных результатов тестирования, сведений о производительности или известных ограничениях качества. Распространение и использование регулируются Llama 3.1 Community License от Meta; она предусматривает соблюдение Acceptable Use Policy, сохранение уведомления об авторских правах и дополнительные требования к атрибуции и перераспространению. Для продуктов с более чем 700 миллионами ежемесячно активных пользователей требуется отдельное разрешение Meta.
Mistral Small 3.2 24B Instruct 2506 GGUF — мультимодальная инструкционная модель, разработанная Mistral AI и распространяемая в формате GGUF сообществом LM Studio. Квантизация выполнена lmmy на основе llama.cpp. Модель принимает текстовые и графические данные и генерирует текст, поэтому предназначена для диалоговых систем, обработки инструкций, анализа изображений с текстовым ответом и других локальных сценариев работы с мультимодальными запросами. Модель поддерживает контекст длиной до 128 000 токенов и десятки языков, включая английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский, персидский, индонезийский, малайский, непальский, польский, румынский, сербский, шведский, турецкий, украинский, вьетнамский, хинди и бенгальский. Точный вариант архитектуры и параметры квантизации в README не указаны; из названия следует размер базовой модели 24B. Производительность вызова инструментов может быть снижена. Модель распространяется по лицензии Apache-2.0. Следует учитывать, что это community-сборка, а не оригинальная публикация разработчика: LM Studio не гарантирует её точность, безопасность, доступность или пригодность для конкретных задач, а сгенерированные ответы могут быть ошибочными или неприемлемыми.
OpenBuddy — многоязычная чат-модель на базе архитектуры Mistral, представленная в варианте с контекстом до 32 768 токенов. Она предназначена для диалогов и генерации текста на китайском, английском, французском, немецком, японском, корейском, итальянском и русском языках. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors через библиотеку Transformers. Её можно использовать для чат-ботов, ответов на вопросы, составления и переформулирования текстов на поддерживаемых языках. README предупреждает, что ответы могут быть ошибочными, вредными или оскорбительными; модель не следует применять для критически важных решений в медицине, праве, финансах или управлении системами, способными причинить вред. Лицензия — Apache 2.0.
PLaMo-13B-Instruct-NC — языковая модель Preferred Networks, дообученная следовать инструкциям на основе PLaMo-13B с контекстом 8192 токена. Это плотная авторегрессионная модель с архитектурой decoder-only и примерно 14,7 млрд параметров по метаданным. Для настройки использованы общедоступные наборы данных, в том числе японские переводы Stanford Alpaca, Dolly и части Anthropic HH-RLHF, а также OpenAssistant и материалы японских новостных текстов. Модель предназначена для диалогов и выполнения инструкций на японском и английском языках: она может отвечать на вопросы, помогать с написанием и преобразованием текста. Выпускается в формате safetensors для Transformers. Лицензия CC-BY-NC-4.0 разрешает использование на условиях Creative Commons Attribution-NonCommercial 4.0, включая обязательное указание авторства и некоммерческое применение. Ответы могут быть неточными, предвзятыми или нежелательными. Проверки проводились на английском и японском языках и не охватывают все сценарии; перед внедрением модель следует проверить и настроить для конкретного применения.
Shisa V2 Mistral Nemo 12B — двуязычная чат-модель общего назначения, разработанная Shisa.AI на базе Mistral-Nemo-Instruct-2407. Это плотная авторегрессионная модель семейства Mistral с 12,1 млрд параметров и контекстом до 131 072 токенов; веса доступны в формате Safetensors. Модель дообучена на синтетических диалоговых и предпочтительных данных, чтобы улучшить качество ответов на японском языке и сохранить возможности на английском. Модель предназначена для диалога, генерации текста, следования инструкциям и сценариев вызова инструментов. В тестах Shisa.AI она показала улучшение японских результатов относительно базовой модели; опубликованы также оценки для английского языка и ряда общих бенчмарков. Поддерживаются японский и английский языки. Модель распространяется по лицензии Apache 2.0. Результаты бенчмарков не гарантируют качество на конкретных пользовательских данных. Как и другие языковые модели, она может выдавать фактически неверные ответы; для критичных решений ответы следует проверять.
Varta-T5 — многоязычная модель семейства T5, разработанная авторами корпуса Varta. Она предварительно обучена на новостном корпусе из 41,8 млн статей на 14 индийских языках и английском языке с помощью задач восстановления пропущенных фрагментов и предложений. В метаданных указано 197,5 млн параметров; README описывает архитектуру T5 1.1 Base с 12 слоями энкодера и декодера и максимальной длиной последовательностей 512 токенов для входа и 256 для выхода. Модель предназначена прежде всего для дообучения под конкретные задачи обработки естественного языка. Её можно применять для заполнения пропусков, генерации текста, машинного перевода, суммаризации, ответов на вопросы и классификации, включая анализ тональности. Лицензия — Apache-2.0. Качество и представительность могут различаться между языками из-за неравномерного объёма обучающих данных. Корпус собран у партнёрских издателей DailyHunt и может отражать их идеологические или общественные предубеждения; авторы не проводили дебайасинг. Для прикладных задач рекомендуется дообучение и отдельная оценка результатов.
ricepaper/vi-gemma-2-2b-function-calling — языковая модель, разработанная hiieu, himmeow the coder и cuctrinh и дообученная на базе unsloth/gemma-2-2b-it-bnb-4bit. Она предназначена для диалогов и вызова одной или нескольких функций по запросу пользователя; обучающие данные включали диалоги с вызовами функций в формате ChatML и многоязычные данные, переведённые на вьетнамский язык. Модель также подходит для чат-ботов, систем вопросно-ответного поиска, суммаризации, перевода и агентных сценариев. Это плотная авторегрессионная Gemma 2 с 2,7 млрд параметров и контекстом до 8192 токенов. Основные языки — вьетнамский и английский; заявлена также работа с многоязычными данными. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. Качество выполнения вызовов зависит от предоставленных функций и настроек генерации. README отмечает, что для эффективной работы могут потребоваться подходящая аппаратная конфигурация и настройка параметров генерации.
vonjack/whisper-large-v3-gguf — это модель автоматического распознавания речи Whisper в формате GGUF, предназначенная для использования с whisper.cpp. Репозиторий содержит варианты модели для преобразования аудио в текст; в качестве примеров указаны записи Librispeech. Разработчик модели в README не указан. Модель поддерживает широкий набор языков, включая английский, китайский, немецкий, испанский, русский, французский, японский, португальский и многие другие. Архитектура, количество параметров, размер модели, максимальная длина контекста и сведения о дополнительных модальностях в README не приведены. К сильным сторонам относятся совместимость с whisper.cpp и широкая языковая поддержка, однако ограничения по качеству, производительности и требованиям к ресурсам не описаны. Модель распространяется по лицензии Apache-2.0.
Chinese-Alpaca-2-7B-64K — языковая модель семейства Llama, разработанная командой Chinese-Alpaca. Это дообученная версия Chinese-Alpaca-2-7B, расширенная методом YaRN для работы с контекстом до 65 536 токенов. Модель содержит 6,7 млрд параметров и доступна в форматах PyTorch и Safetensors. Модель предназначена для генерации текста на китайском и английском языках, включая ответы на запросы и работу с длинными входными текстами. Лицензия Apache-2.0 разрешает использование и распространение на её условиях.
Это конверсия модели распознавания речи Whisper large-v2, разработанной OpenAI, в формат CTranslate2. Репозиторий подготовлен для использования в CTranslate2 и проектах на его основе, включая faster-whisper; веса сохранены в FP16, а тип вычислений можно менять при загрузке через параметр compute_type. Модель принимает аудио и преобразует речь в текст. Она поддерживает многоязычное распознавание, в том числе русский и английский, а также другие языки, перечисленные в карточке. Лицензия репозитория — MIT. Ограничения качества и рекомендуемые сценарии в README этой конверсии не описаны.
Карточка модели mijuanlo/faster-whisper-large-v3 на Hugging Face совпадает с карточкой Systran/faster-whisper-large-v3, поэтому описание составлено по ней. Это конверсия модели распознавания речи Whisper large-v3 от OpenAI в формат CTranslate2, опубликованная Systran. Она предназначена для распознавания речи из аудио и используется в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно изменить через параметр compute_type. Модель поддерживает распознавание речи на многих языках, в том числе русском и английском. Репозиторий содержит конвертированные веса, а не исходную реализацию Whisper. Лицензия — MIT.
granite-4.2-3b-GGUF — это квантованная версия языковой модели granite-4.2-3b, разработанной IBM (ibm-granite) и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста, задач рассуждения, диалоговых сценариев и вызова инструментов. Она принимает только текстовые данные и поддерживает английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель содержит около 4 млрд параметров. Квантование выполнено с использованием llama.cpp и метода imatrix; доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантов размером примерно от 1,57 до 7,32 ГБ. В README не указаны архитектура и размер контекстного окна, а speculative decoding не поддерживается. Более компактные варианты экономят оперативную память, но могут снижать качество; Q4_K_M обозначен как сбалансированный вариант для большинства сценариев, а Q5–Q6 — как варианты с более высоким качеством. Модель распространяется по лицензии Apache-2.0. Для корректной работы рекомендуется использовать указанный шаблон prompt с секцией рассуждений <think> и совместимый рантайм llama.cpp.
granite-4.2-8b-MLX-8bit — 8-битная квантованная версия модели granite-4.2-8b, разработанной командой IBM Granite (ibm-granite). Квантование выполнено командой LM Studio с использованием mlx_lm, а модель оптимизирована для работы на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживает сценарии рассуждений, «thinking» и вызова инструментов. В README указаны следующие языки: английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский. Модель имеет 8 миллиардов параметров в исходной версии; конкретное значение контекстного окна и сведения о мультимодальности не указаны. Ключевые преимущества — сниженное потребление памяти благодаря 8-битному представлению и оптимизация для Apple Silicon. Ограничения включают зависимость от совместимой MLX-среды и возможное появление неточного, вредного или неподходящего контента. Модель распространяется по лицензии Apache-2.0. LM Studio не является разработчиком или владельцем модели и не гарантирует её точность, безопасность, доступность или соответствие конкретным требованиям.
Jais-2-8B-Chat — двуязычная чат-модель, разработанная MBZUAI, Inception и Cerebras. Она обучена с нуля на арабских и английских данных и предназначена для диалога и генерации текста на современном стандартном арабском, региональных диалектах и английском, включая смешение арабского и английского в одной беседе. Модель построена на архитектуре Transformer с декодером и многоголовым self-attention, содержит 8 млрд параметров и поддерживает контекст до 8 192 токенов. В её конструкции используются RoPE, активация Squared-ReLU и словарь из 150 272 токенов, настроенный на арабский язык. Модель подходит для чат-ассистентов, работы с двуязычными документами и анализа арабоязычного контента. В README отмечены конкурентные результаты на тестах следования инструкциям и генерации на арабском языке. Модель рассчитана прежде всего на арабский и английский; качество для других языков не гарантируется. Не следует полагаться на неё при принятии медицинских, юридических, финансовых или иных критически важных решений без проверки человеком. Лицензия — Apache-2.0.
Карточка модели Cutting3dg3/LaBSE-TID на Hugging Face совпадает с карточкой sentence-transformers/LaBSE, поэтому описание составлено по ней. LaBSE — перенос многоязычной модели LaBSE в PyTorch, опубликованный командой sentence-transformers. Модель на архитектуре BERT содержит 498,1 млн параметров и отображает предложения на общем векторном пространстве, чтобы сопоставлять их смысл на разных языках. Поддерживает 109 языков; максимальная длина контекста — 512 токенов. Модель подходит для поиска семантически близких предложений, сопоставления текстов на разных языках и построения многоязычных эмбеддингов для семантического поиска и кластеризации. Доступна через библиотеку sentence-transformers и в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. README указывает на публикацию LaBSE, но не приводит подробностей обучения или сравнительных результатов.
unsloth/LFM2.5-8B-A1B-GGUF — квантизированная версия текстовой модели LFM2.5-8B-A1B, опубликованная Unsloth на основе модели Liquid AI. Формат GGUF предназначен для llama.cpp и совместимых инструментов, с акцентом на локальный запуск и edge-устройства. Модель рассчитана на универсальную генерацию текста, выполнение инструкций, агентские сценарии, использование инструментов, структурированный вывод, многоязычных ассистентов и приложения персонального помощника на устройстве. Модель имеет гибридную архитектуру с 8,3 млрд параметров всего и 1,5 млрд активных параметров, 24 слоями, включая 18 double-gated LIV convolutional layers и 6 слоёв GQA. Контекстное окно составляет 131 072 токена, размер словаря — 128 000. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Модель текстовая и не предназначена для обработки изображений или других модальностей. К сильным сторонам относятся высокая скорость инференса в своём классе, возможность локального и on-device развёртывания, следование сложным инструкциям и поддержка function calling. Модель не считается оптимальным выбором для интенсивного программирования и вопросов, требующих обширных фоновых знаний, без использования retrieval. Для генерации рекомендуются temperature 0.2, top_k 80 и repetition_penalty 1.05. README указывает лицензию lfm1.0.