I.6Перевод и языковая адаптация

Это GGUF-квантизированная версия инструкционной языковой модели Llama 3.1 8B Instruct Uz, базовая модель которой разработана behbudiy, а квантизацию выполнил mradermacher. Модель обучалась с использованием наборов yahma/alpaca-cleaned, behbudiy/alpaca-cleaned-uz и behbudiy/translation-instruction и ориентирована прежде всего на узбекский и английский языки. Модель предназначена для генерации текста по инструкциям, ответов на вопросы, суммирования и перевода. Она поддерживает распространённый формат GGUF и поставляется в нескольких вариантах квантизации размером примерно от 3,3 до 16,2 ГБ, включая Q2_K, IQ3, Q4_K, Q5_K, Q6_K, Q8_0 и f16. В README не указаны точный размер контекста, мультимодальные возможности, результаты тестирования или конкретные аппаратные требования. Основное преимущество — возможность локального запуска при выборе компактных вариантов квантизации; версии Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как вариант с лучшим качеством среди представленных. Более сильная квантизация уменьшает требования к памяти, но может снижать качество по сравнению с f16. Модель распространяется по лицензии llama3.1.

Llama 3.1 Swallow 8B v0.1 — языковая модель команды Swallow из Токийского института науки (ранее Токийский технологический институт) и AIST, созданная продолжительным предварительным обучением Meta Llama 3.1. Модель имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров; доступна в формате safetensors и рассчитана на контекст до 8192 токенов. Модель предназначена для генерации текста на японском и английском языках. Дополнительное обучение на японском веб-корпусе, статьях Википедии, математических материалах и коде усилило японские возможности, сохранив английские. Среди оценённых сценариев — ответы на вопросы, чтение и понимание текста, суммаризация, перевод между японским и английским, математические рассуждения и генерация кода. Это базовая, не instruction-tuned версия: она не была настроена для надёжного следования намерениям пользователя и требованиям безопасности, поэтому ответы могут требовать проверки и дополнительной настройки. Авторы описывают модель как находящуюся на ранней стадии исследований и разработки. Лицензия — Llama 3.1; применяйте её с соблюдением условий лицензии Meta.

Bllossom — двуязычная корейско-английская языковая модель для диалогов и генерации текста, разработанная MLPLab при SeoulTech совместно с Teddysum и Yonsei University. Она основана на Meta Llama 3 70B и дообучена с дополнительным обучением для связывания знаний на корейском и английском языках, расширением корейского словаря, инструктивными данными о корейском языке и культуре и DPO на основе обратной связи. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекст до 8192 токенов. Модель предназначена для двуязычных диалоговых помощников, следования инструкциям и генерации текста на корейском и английском языках. README также упоминает выравнивание vision transformer, однако метаданные этой версии указывают только генерацию текста, поэтому её не следует считать мультимодальной моделью. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия — llama3; применяются условия лицензии Llama 3 от Meta.

Luciole-23B-Instruct-1.1 — инструктивная чат-модель, созданная LINAGORA и консорциумом OpenLLM-France в рамках проекта OpenLLM France. Это дообученная и выровненная версия Luciole-23B-Base: обучение включало supervised fine-tuning на инструкциях и финальное выравнивание предпочтений методом DPO. Модель построена на плотной архитектуре Nemotron и содержит 31,5 млрд параметров; метаданные указывают контекст до 131 072 токенов, хотя при постобучении использовались последовательности длиной 16 384 токена. Модель предназначена для диалогов и выполнения инструкций на французском и английском языках, включая вопросы по общим темам, RAG-сценарии, перевод, математику, науку и программирование. Она особенно хорошо показала себя в тестах на следование инструкциям; французские результаты примечательны, несмотря на то что постобучение проводилось преимущественно на английских данных. Это первая версия постобучения семейства Luciole, и разработка продолжается. Перед применением в производственных системах модель следует проверить на целевых задачах: она может галлюцинировать, а для специализированной генерации кода и решения математических задач потребуется дополнительное обучение. Разработчики также отмечают ограниченный объём запоминаемых фактов и рекомендуют использовать RAG; контекст, задействованный при постобучении, короче заявленного контекста базовой модели. Лицензия — Apache 2.0.

MERaLiON-2-10B — мультимодальная языковая модель для речи и аудио, разработанная I2R, A*STAR в Сингапуре. Она объединяет локализованный аудиоэнкодер Whisper Large v3 с текстовым декодером Gemma 2 9B и содержит 8,1 млрд параметров. Модель дообучена на 120 000 часах аудио и речи для распознавания речи, вопросов и ответов по аудио, суммаризации диалогов, создания аудиоподписей и понимания звуковой сцены. Модель рассчитана на многоязычные сценарии Сингапура и Юго-Восточной Азии: распознаёт английскую, китайскую, малайскую, тамильскую, индонезийскую, тайскую и вьетнамскую речь, включая местные акценты, разговорные выражения и переключение языков. Принимает монофоническое аудио с частотой 16 кГц длительностью до 300 секунд; для транскрибации и перевода README рекомендует аудиофрагменты до 30 секунд. Основная задача в каталоге — автоматическое распознавание речи. Модель предназначена для понимания речи и аудио, а не для вызова инструментов, математических или программных задач. Распространяется по лицензии MERaLiON Public License; перед использованием следует проверить её условия для конкретного сценария.

ibnzterrell/Meta-Llama-3.3-70B-Instruct-AWQ-INT4 — это 4-битная AWQ-квантизированная версия Meta-Llama-3.3-70B-Instruct, первоначально выпущенной Meta AI и опубликованной в данном варианте пользователем ibnzterrell. Модель представляет собой крупную instruction-tuned языковую модель с текстовым вводом и выводом, предназначенную для генерации текста и многоязычного диалога. Модель подходит для чат-ассистентов, ответов на вопросы и других сценариев текстовой генерации на английском, французском, итальянском, португальском, хинди, испанском, тайском и немецком языках. Исходная модель имеет размер 70B параметров; доступный вариант использует INT4-квантизацию AWQ с GEMM-ядрами, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 35 ГиБ VRAM без учёта KV-кэша и CUDA Graphs, поэтому необходим некоторый дополнительный запас видеопамяти. Поддерживаются Transformers, AutoAWQ, Text Generation Inference и vLLM. К основным преимуществам относятся значительно сниженные требования к памяти по сравнению с полноточной версией и возможность запуска большой многоязычной instruction-tuned модели на совместимом оборудовании. Ограничения связаны с потерями качества, возможными при 4-битной квантизации, высокой потребностью в ресурсах и тем, что README не содержит сведений о длине контекста. Модель распространяется по лицензии Llama 3.3.

Это GGUF-квантизированная версия языковой модели Magistral-Small-2506, разработанной Mistral AI и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Карточка указывает поддержку английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Доступны варианты от BF16 до различных уровней квантизации, с размером файлов примерно от 10,65 до 47,15 ГБ. Для запуска предусмотрен специальный формат промпта с системной инструкцией и пользовательским запросом. Архитектура, число параметров, размер контекстного окна и мультимодальные возможности в README не указаны. Основное преимущество набора — возможность выбрать компромисс между качеством и требованиями к памяти: варианты Q5 и Q6 заявлены как высококачественные, а Q4 подходят для большинства сценариев и экономят ресурсы. Более компактные варианты позволяют работать при ограниченном объёме оперативной памяти, но могут заметно уступать по качеству. Модель предназначена для текстовых задач; поддержка изображений или других модальностей не заявлена. Распространяется по лицензии Apache-2.0.

Это GGUF-квантизированная версия Mistral-Small-3.1-24B-Instruct-2503, разработанного Mistral AI и подготовленного пользователем bartowski. Модель предназначена для диалоговых задач и сценариев, где требуется обработка текста и изображений, и может запускаться через llama.cpp, LM Studio и другие совместимые проекты. Модель содержит 24 млрд параметров и поддерживает мультимодальный режим с входными данными в виде текста и изображений; для работы с изображениями требуется отдельный файл mmproj. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Доступны варианты от BF16 до различных форматов квантования GGUF размером примерно от 12,76 до 47,15 ГБ. В README размер контекста не указан. Основное преимущество — сочетание высокой точности исходной модели с выбором квантизаций, позволяющих адаптировать требования к памяти и качеству; варианты Q5 и Q6 отмечены как высококачественные, а Q4_K_M рекомендован как типичный компромисс. Ограничения включают значительный объём файлов, зависимость мультимодальной работы от mmproj и возможное снижение качества у более компактных вариантов. Лицензия — Apache-2.0.

Mistral-Small-3.2-24B-Instruct-2506-GGUF — квантизированная GGUF-версия инструкционной модели Mistral-Small-3.2-24B-Instruct-2506, разработанной Mistral AI и подготовленной пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель предназначена для диалоговых приложений, генерации и обработки текста, а также, согласно метаданным, для сценариев image-text-to-text. Поддерживаются английский, французский, немецкий, испанский, португальский, итальянский, японский, корейский, русский, китайский, арабский и другие языки, перечисленные в карточке модели. Модель содержит около 24 млрд параметров и доступна в вариантах от BF16 до различных уровней Q3–Q8, что позволяет выбирать между качеством, размером файлов и требованиями к оборудованию. Размер файлов варьируется примерно от 13,5 ГБ для компактных квантизаций до 47,15 ГБ для BF16. Версия поддерживает запуск через llama.cpp, LM Studio и совместимые проекты. Исправленный chat template добавляет поддержку tool calling; для корректной работы требуется соответствующий шаблон Mistral-Small-3.2-24B-Instruct-2506.jinja и актуальная поддержка со стороны llama.cpp. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и высокое заявленное качество вариантов Q5–Q8. Ограничения включают значительные требования к памяти даже у компактных вариантов, зависимость от совместимого llama.cpp-окружения и необходимость правильной настройки шаблона чата для вызова инструментов. Размер контекста и подробные характеристики архитектуры в README не указаны. Модель распространяется по лицензии Apache-2.0.

Mistral-Large-Instruct-2407-IMat-GGUF — это набор квантованных версий Mistral-Large-Instruct-2407, разработанной Mistral AI. Квантование выполнил legraphista с использованием llama.cpp версии b3452 и метода IMatrix. Модель предназначена для генерации текста и запуска в совместимой инфраструктуре llama.cpp и других инструментах, поддерживающих формат GGUF. Модель рассчитана на работу с текстом и заявлена для английского, французского, немецкого, испанского, итальянского, португальского, китайского, японского, русского и корейского языков. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 45,20 до 245,23 ГБ. Версии Q4_K и более компактные используют IMatrix, что предназначено для сохранения качества при квантовании. Все варианты представлены в виде разделённых файлов. Сильная сторона набора — широкий выбор точностей и размеров, позволяющий подобрать компромисс между качеством, требованиями к памяти и производительностью. Ограничения — значительный объём файлов, необходимость специального программного обеспечения для запуска и отсутствие в README сведений о размере контекста, числе параметров, конкретных результатах тестирования и поддержке мультимодальных входов. Модель распространяется по лицензии Mistral Research License 0.1 (MRL-0.1).

Карточка модели google/mt5-xxl на Hugging Face совпадает с карточкой google/mt5-small, поэтому описание составлено по ней. mT5-small — компактная многоязычная модель Google на архитектуре encoder-decoder Transformer семейства T5, содержащая 157,4 млн параметров. Она предварительно обучена на корпусе mC4, охватывающем 101 язык, в формате преобразования текста в текст; контрольные точки доступны в форматах PyTorch, TensorFlow, Flax и ONNX. Лицензия — Apache-2.0. Модель служит базой для дообучения под конкретные задачи NLP: например, суммаризацию, перевод или ответы на вопросы. Сам чекпойнт проходил только предварительное обучение без supervised-настройки, поэтому для качественного решения прикладных задач его следует дообучить. Поддержка языков включает русский и английский, а также множество других языков.

Nemotron-Labs-Audex-30B-A3B — унифицированная аудио-текстовая языковая модель NVIDIA на базе Nemotron-Cascade-2-30B-A3B. Это MoE-модель с 30 млрд параметров и 3 млрд активируемых параметров; для аудио она расширяет словарь дискретных аудиотокенов и включает аудиоэнкодер. Модель работает в режимах рассуждения и инструкций и предназначена для аудио- и речевых задач, а также для текстовых диалогов и рассуждений. Модель понимает аудио, распознаёт и переводит речь, генерирует речь из текста, создаёт аудио по текстовому описанию и поддерживает взаимодействие «речь — речь». По заявлению разработчика, она сохраняет возможности базовой модели в рассуждениях, знаниях, длинном контексте и работе с агентными сценариями. Доступны веса Safetensors; для запуска описана поддержка vLLM и Transformers, а для некоторых аудиосценариев нужны дополнительные зависимости и декодеры. Лицензия указана как other, поэтому условия использования следует уточнять в карточке репозитория. Длина контекста и конкретный перечень поддерживаемых языков в предоставленных данных не обозначены; метаданные указывают английский язык.

IsValorum/Occamy-1.0-APEX-I-MiniPlus-V2.1-GGUF — это квантизированная версия модели Occamy-1.0 от Accio-Lab, подготовленная IsValorum в формате GGUF для запуска через llama.cpp и совместимые инструменты. Модель предназначена для генерации текста, рассуждений, выполнения сложных инструкций и многоязычных сценариев, включая работу с английским, китайским, испанским, французским, немецким, португальским, итальянским, русским, японским, корейским, вьетнамским, тайским и арабским языками. Архитектура основана на разреженной Mixture-of-Experts с 40 слоями и 256 микроэкспертами. Версия MiniPlus V2.1 использует настраиваемую покомпонентную квантизацию: маршрутизаторы gate_inp сохранены в F32, выходная голова — в Q6_K, attention gates — в Q8_0, а основные эксперты — преимущественно в IQ3_XXS и Q3_K. Заявленный размер составляет около 13,74 GiB, а поддерживаемый контекст — до 256K токенов. Модель рассчитана на эффективный offload в системную RAM и работу на рабочих станциях с 24 ГБ памяти или видеопамяти, однако фактическая скорость зависит от оборудования и конфигурации запуска. К сильным сторонам относятся компактный размер для MoE-модели, сохранение маршрутизации в высокой точности, поддержка длинного контекста и широкий набор языков. Ограничения связаны с потерями качества и скорости, неизбежными для квантизированной версии, а заявленные показатели производительности и близость к качеству более точных вариантов требуют самостоятельной проверки. Модель распространяется по лицензии Apache-2.0.

EasierAI/Qwen-2.5-32B — это GGUF-квантизированная версия Qwen2.5-32B-Instruct, предназначенная для генерации текста и диалогового взаимодействия. Исходная модель разработана командой Qwen, а представленные квантизации подготовлены bartowski с использованием llama.cpp и imatrix. Модель ориентирована на чат, локальный запуск и другие сценарии текстовой генерации, включая использование в LM Studio. В README указано, что модель поддерживает китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский языки. Размер исходной модели составляет 32B параметров; доступны варианты от F16 до IQ3 и Q3-квантизаций с объёмом файлов примерно от 13,71 до 65,54 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше памяти. Точная архитектура и максимальная длина контекста в README не указаны; отмечено лишь обновление настроек контекста и токенизатора. Сильными сторонами являются многоязычность, широкий выбор квантизаций и возможность локального инференса, включая варианты, оптимизированные для ARM. Ограничения связаны с компромиссом между качеством и требованиями к памяти при использовании низкоразрядных вариантов, а также с отсутствием в описании результатов тестирования и точных характеристик производительности. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-7B-Instruct-MLX-4bit — это 4-битная квантованная версия инструкционной языковой модели Qwen2.5-7B-Instruct, подготовленная сообществом для запуска на Apple Silicon Mac. Исходную модель разработала команда Qwen, а MLX-квантизацию предоставил bartowski на основе mlx-examples. Модель предназначена для диалогового взаимодействия, генерации текста и выполнения инструкций; её можно использовать в локальных сценариях через совместимое программное обеспечение, включая LM Studio. Модель поддерживает контекст до 32 000 токенов и генерацию до 8 000 токенов. Она ориентирована на работу с текстом и заявлена как поддерживающая более 29 языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Среди отмеченных особенностей — работа со структурированными данными и их генерация, а также широкий охват знаний, полученных из крупного обучающего набора. Ключевыми ограничениями являются зависимость от аппаратной платформы Apple Silicon и возможные ошибки, неточности, вредоносные или неподходящие ответы, характерные для генеративных моделей. README не содержит результатов бенчмарков или подробностей об архитектуре и точном объёме исходных параметров, кроме обозначения класса 7B. Модель распространяется по лицензии Apache-2.0.

Модель benchang1110/Qwen2.5-Taiwan-7B-Instruct разработана benchang1110 на основе Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель Qwen2ForCausalLM на 7,1 млрд параметров, дообученная с помощью LoRA на наборах инструкций на традиционном китайском языке, а затем выровненная методом DPO. В карточке описаны диалоги, написание текстов, суммаризация, перевод с английского на китайский и ролевые сценарии; модель также поддерживает многоходовое общение и интерфейс вызова инструментов. Модель рассчитана прежде всего на традиционный китайский Тайваня, также поддерживает английский. Контекстное окно составляет 32 768 токенов. В README приведены результаты оценивания на TMLU и TMMLU+ и примеры ответов, однако они не гарантируют качество для каждого запроса. Модель доступна под лицензией Apache 2.0. Автор отмечает, что системный промпт может менять предвзятость и позицию ответов. Как и другие языковые модели, она может выдавать ошибки; заявленные сценарии не подтверждают точность фактических ответов.

Qwen3-0.6B-GGUF — компактная языковая модель семейства Qwen3, разработанная Alibaba Cloud и представителями команды Qwen. Это causal language model с предварительным обучением и последующей настройкой, предназначенная для генерации текста, диалогов, следования инструкциям, рассуждений, математических и программных задач, а также интеграции с внешними инструментами. Модель содержит 0,6 млрд параметров, из которых 0,44 млрд не относятся к embedding, имеет 28 слоёв и использует Grouped-Query Attention с 16 головами для Q и 8 для KV. Длина контекста заявлена до 32 768 токенов. Представлена в формате GGUF с квантизацией q8_0, что делает её подходящей для локального запуска через llama.cpp и Ollama при ограниченных вычислительных ресурсах. Модель поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Ключевая особенность Qwen3 — переключение между режимами thinking для сложных задач и рассуждений и non-thinking для более быстрых ответов и обычного диалога. Сильными сторонами являются компактность, поддержка многоязычных сценариев, диалоговые возможности, следование инструкциям и пригодность для локального использования. Ограничения включают небольшой по современным меркам размер, возможное снижение качества на сложных задачах по сравнению с более крупными моделями, а также необходимость подбора параметров генерации; README отдельно предупреждает о повторениях при жадном декодировании в thinking mode. Модель распространяется по лицензии Apache-2.0.

Qwen3-Swallow-8B-CPT-v0.2 — плотная авторегрессионная языковая модель на 7,6 млрд параметров из семейства Qwen3, разработанная проектом Swallow при Токийском технологическом институте. Это версия после непрерывного предварительного обучения (CPT) на базе Qwen3; веса доступны в формате safetensors по лицензии Apache-2.0. Модель рассчитана на генерацию текста и диалог на японском и английском языках, включая перевод между ними, а также задачи математики и программирования. Обучение включало японские и англоязычные корпуса, параллельные тексты, математические и кодовые данные, а также материалы для диалога и рассуждений. Контекст модели заявлен до 40 960 токенов; разработчики рекомендуют ограничивать длину контекста 32 768 токенами или меньше. Модель предназначена для экспериментов и приложений, которым нужна двуязычная японско-английская генерация с навыками работы с кодом и математикой. Она не обучена специально для вызова инструментов, а переключение режима рассуждений не поддерживается. Разработчики отмечают, что модель находится на раннем этапе разработки и не настроена для надёжного соответствия человеческим намерениям и требованиям безопасности.

SambaLingo-Serbian-Base — базовая двуязычная языковая модель, разработанная SambaNova Systems на архитектуре Llama 2. Модель адаптирована к сербскому языку дополнительным обучением на 17 млрд токенов сербской части набора Cultura-X; число параметров в метаданных — 6,7 млрд, контекст — до 4096 токенов. Токенизатор расширен с 32 000 до 57 000 токенов. Модель предназначена для генерации текста на сербском и английском языках, а также может использоваться для языкового моделирования и перевода. Это предварительно обученный checkpoint: для получения нужного продолжения рекомендуется prompting с примерами; для диалога и прямых ответов на вопросы разработчик предлагает отдельную версию SambaLingo-Serbian-Chat. В статье авторов сообщаются высокие результаты по perplexity и переводческим тестам FLORES-200. Использование регулируется лицензией Meta Llama 2 Community License Agreement. Среди ограничений — возможные фактические ошибки, переключение между языками или диалектами, повторы, слабые результаты в кодировании и сложной математике, а также риск токсичных ответов. Модель не предназначена для критически важных задач и решений, влияющих на безопасность людей.

Step-Audio 2 mini — компактная мультимодальная языковая модель для понимания аудио и диалогового взаимодействия с речью, разработанная StepFun AI. Модель предназначена для распознавания речи, анализа аудиособытий и паралингвистических признаков, речевого перевода и естественного голосового общения. Она также поддерживает вызов инструментов и мультимодальный RAG для обращения к текстовым и акустическим источникам знаний. Модель построена на плотной архитектуре StepAudio2ForCausalLM и рассчитана на работу с текстом и аудио; в README заявлены сценарии аудио- и речевого общения, а метаданные указывают поддержку английского и китайского языков. Репозиторий содержит веса safetensors и ONNX, использовать модель можно через Transformers. Лицензия Apache 2.0. README заявляет сильные результаты на нескольких аудио-бенчмарках, однако численные результаты здесь недоступны; для локального запуска также указаны требования PyTorch и CUDA.

Triangulum-5B — диалоговая языковая модель prithivMLmods для генерации текста и многоязычных сценариев. Это плотная авторегрессионная модель семейства LLaMA с архитектурой LlamaForCausalLM и примерно 4,9 млрд параметров; для работы с Transformers требуется версия 4.43.0 или новее. Контекст составляет до 8192 токенов. Модель предназначена для генерации контента, диалога и ответов на вопросы, суммаризации, анализа текста, перевода и локализации. В карточке заявлены обучение на синтетических данных с длинными цепочками рассуждений, supervised fine-tuning и RLHF. Указана поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Модель представлена в формате safetensors и доступна для запуска через Transformers; README также описывает запуск варианта через Ollama. Лицензия — CreativeML Open RAIL-M. Карточка не приводит результаты оценок качества, поэтому заявленные возможности рассуждения не следует считать подтверждением превосходства на конкретных задачах.

Ultravox v0.4 — мультимодальная речевая LLM от Fixie.ai на базе Llama 3.1 8B Instruct и Whisper medium. Она принимает аудио вместе с текстовым контекстом и генерирует текст, поэтому подходит для голосовых агентов, распознавания и анализа речи, а также перевода устной речи. Модель использует архитектуру Ultravox; в README указана скорость около 150 мс до первого токена и 50–100 токенов в секунду на GPU A100 40 ГБ. Авторы приводят результаты для перевода между английским, немецким и испанским, а также для распознавания английской речи на LibriSpeech. Входные языки по метаданным: английский, арабский, немецкий, испанский, французский, итальянский, японский, португальский и русский. Модель не генерирует аудио, а на момент этой версии не проходила preference tuning. Лицензия — MIT.

Ultravox v0.4.1 — мультимодальная речевая языковая модель от Fixie.ai на базе Llama 3.1 8B Instruct и Whisper Large V3 Turbo. Она принимает аудио вместе с текстовым контекстом и генерирует текстовые ответы, поэтому подходит для голосовых агентов, анализа речи и перевода устной речи. Модель обучалась на смеси наборов данных для распознавания речи и перевода, включая LibriSpeech, Common Voice, GigaSpeech, Peoples Speech, Wenetspeech и CoVoST2. Модель поддерживает арабский, немецкий, английский, испанский, французский, хинди, итальянский, японский, нидерландский, португальский, русский, шведский, турецкий, украинский и китайский языки. В README указаны задержка до первого токена около 150 мс и скорость генерации примерно 50–100 токенов в секунду на GPU A100 40 ГБ при использовании аудио. Модель выдаёт текст, а не синтезированную речь; в этой версии также не применялась настройка предпочтений. Лицензия — MIT.

Карточка модели aoiandroid/ultravox-v0_5-llama-3_1-8b на Hugging Face совпадает с карточкой fixie-ai/ultravox-v0_5-llama-3_1-8b, поэтому описание составлено по ней. Ultravox v0.5 — мультимодальная речевая языковая модель от Fixie.ai, построенная на Llama 3.1 8B Instruct и Whisper Large-v3-Turbo. Она принимает речь вместе с текстом, например текстовую системную инструкцию и голосовое сообщение, и формирует текстовый ответ. Модель предназначена для голосовых агентов, распознавания и анализа речи, а также перевода устной речи. В README заявлена скорость около 150 мс до первого токена и 50–100 токенов в секунду на GPU A100 40 ГБ при обработке аудио. Для версии 0.5 приведены результаты оценки перевода речи на наборе CoVoST 2. Для этой версии не проводилась настройка предпочтений; генерация аудио не поддерживается. Модель распространяется по лицензии MIT.

OllmOne/whisper-medium-GGUF — это GGUF-квантизированная версия мультиязычной модели Whisper medium, опубликованная пользователем OllmOne и основанная на openai/whisper-medium, разработанной OpenAI. Она предназначена прежде всего для автоматического распознавания речи, а также поддерживает перевод речи на английский, определение языка и связанные задачи обработки аудио. Модель может использоваться локально через Transformers и совместимые средства инференса GGUF. Архитектура — encoder-decoder Transformer с 24 слоями энкодера и 24 слоями декодера, 16 attention heads в каждом, размером скрытого представления 1024 и 80 mel-каналами. Исходная модель содержит около 769 млн параметров; в репозитории указано около 0,8 млрд параметров. Конфигурация задаёт до 1500 позиций входа и 448 позиций целевой последовательности. Репозиторий содержит файл model-q4k.gguf размером около 444 МБ, что уменьшает требования к хранению и локальному запуску по сравнению с полной точностью. Сильные стороны модели — мультиязычность, поддержка распознавания и перевода речи и возможность локального использования в компактном квантизированном формате. Ограничения включают возможные ошибки и галлюцинации, зависимость качества от языка, акустики и предметной области, а также склонность sequence-to-sequence архитектуры к повторяющимся текстам; перед развёртыванием рекомендуется проводить оценку на конкретных данных. Для репозитория OllmOne указана лицензия Apache-2.0.

Aitana-7B-S-Instruct-i1-GGUF — квантизированная версия инструкционной языковой модели Aitana-7B-S-Instruct, разработанной gplsi и распространяемой в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, подготовку и преобразование текстов, мультиязычные задачи и работу с информацией на испанском, каталанском и английском языках. В обучении использовались наборы данных OpenAssistant, Aya, FLORES, GSM8K, Alpaca, Dolly и другие специализированные мультиязычные и испаноязычные коллекции. Модель имеет размер 7B параметров; точная архитектура и размер контекстного окна в README не указаны. Представленная версия содержит набор вариантов квантизации, включая IQ- и Q-форматы, с размером файлов примерно от 2,4 до 6,5 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать в качестве; README рекомендует i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как оптимальный компромисс между размером, скоростью и качеством. Модель предназначена только для работы с текстом, сведения о поддержке изображений или других модальностей отсутствуют. К сильным сторонам относятся специализация на каталанском, испанском и английском языках, инструкционный формат и возможность локального запуска через совместимые с GGUF инструменты. Ограничения связаны с отсутствием данных о бенчмарках, контекстном окне и точных характеристиках исходной архитектуры, а также с тем, что качество зависит от выбранного уровня квантизации. Указанная лицензия — Apache-2.0.

aya-23-35B-GGUF — это набор квантизированных моделей в формате GGUF для запуска через llama.cpp. Основой служит языковая модель aya-23-35B, разработанная CohereForAI, а квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, написание и преобразование текста на нескольких языках. Заявлена поддержка английского, французского, немецкого, испанского, итальянского, португальского, японского, корейского, китайского, арабского, греческого, персидского, польского, индонезийского, чешского, иврита, хинди, нидерландского, румынского, русского, турецкого, украинского и вьетнамского языков. Размер базовой модели — 35B параметров; сведения об архитектуре и размере контекста в README не указаны. Доступны варианты с разными уровнями квантизации: от IQ1 и IQ2 с минимальным размером и более низким качеством до Q6_K и Q8_0 с высоким качеством, но большими требованиями к памяти. Рекомендуемыми названы варианты Q4_K_M, Q5_K_M и Q6_K, а также некоторые IQ-квантизации. Главное преимущество модели — возможность локального запуска в llama.cpp при выборе подходящего уровня квантизации, включая варианты для ограниченного объёма оперативной памяти. Ограничения связаны с компромиссом между качеством и размером: низкобитные варианты заметно уступают по качеству, а высококачественные требуют десятки гигабайт памяти. Лицензия — CC BY-NC 4.0, допускающая использование с ограничениями, включая запрет коммерческого применения.

Aya Expanse — открытая исследовательская мультиязычная языковая модель, разработанная Cohere For AI на основе предварительно обученных моделей семейства Command. В README указаны варианты с 8 и 32 млрд параметров. Модель предназначена для генерации текста и работы с широким кругом языковых задач в многоязычных сценариях. Модель поддерживает 23 языка и создавалась с использованием исследований в области data arbitrage, мультиязычного обучения на предпочтениях, настройки безопасности и объединения моделей. Она может применяться в локальных приложениях и инструментах, поддерживающих Cortex или Jan. Модальность — текстовая; сведения о точной архитектуре, максимальной длине контекста и перечне поддерживаемых языков в README не приведены. К сильным сторонам относятся широкий мультиязычный охват, наличие двух вариантов размера и открытые веса, что делает модель пригодной для исследовательского и локального использования. Ограничения включают отсутствие в предоставленных данных подробных характеристик качества, архитектуры, контекстного окна и требований к ресурсам. В метаданных указана лицензия CC BY-SA 4.0, а для оригинальной модели в разделе Credits приведена ссылка на C4AI CC-BY-NC License; условия следует уточнить для конкретного варианта и сценария использования.

aya-expanse-8b-GGUF — это GGUF-квантизация языковой модели aya-expanse-8b, разработанной CohereForAI и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая работу на русском и других языках: английском, французском, немецком, испанском, итальянском, португальском, японском, корейском, китайском, арабском, греческом, персидском, польском, индонезийском, чешском, иврите, хинди, нидерландском, румынском, турецком, украинском и вьетнамском. В репозитории доступны варианты от исходных весов F16 размером 16,07 ГБ до квантизаций Q8_0, Q6, Q5, Q4 и Q3, а также IQ-вариантов, что позволяет выбирать между качеством, требованиями к памяти и скоростью инференса. Для запуска рекомендуется использовать llama.cpp или LM Studio; для модели указан специальный шаблон промпта с токенами ролей системы, пользователя и чат-бота. Архитектура, размер контекста и мультимодальные возможности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других модальностей. Сильная сторона модели — широкий набор поддерживаемых языков и наличие множества вариантов квантизации, включая рекомендуемые Q6_K_L, Q6_K, Q5 и Q4, а также оптимизированные под ARM форматы. Качество снижается при использовании более компактных Q3-вариантов, а некоторые форматы имеют специальные требования к аппаратным инструкциям или не рекомендуются для macOS и Windows. Модель распространяется по лицензии CC-BY-NC-4.0 и предназначена только для некоммерческого использования; доступ к исходной модели может требовать согласия с условиями лицензии и предоставления данных через gated-доступ.

Baichuan2-7B-Chat-4bits — 4-битная квантованная чат-модель семейства Baichuan 2, разработанного Baichuan Intelligence. Это плотная авторегрессионная языковая модель на 7 млрд параметров для диалогов и генерации текста на китайском и английском языках. Модель обучена на корпусе объёмом 2,6 трлн токенов; доступный контекст составляет 4096 токенов. Модель предназначена для ответов в чате, генерации текста и решения общих языковых задач, включая сценарии в областях права, медицины, математики, программирования и перевода. В README отмечены результаты оценки на китайских и англоязычных бенчмарках. Для запуска требуется PyTorch 2.0 или новее. Для академического использования модель открыта. Коммерческое использование требует соблюдения Apache 2.0 и специального соглашения сообщества Baichuan 2, включая получение официального разрешения; для него также указаны ограничения по масштабу и типу организации. Модель может ошибаться или давать небезопасные ответы; авторы предупреждают о необходимости проверки соответствия применимым требованиям и безопасности сервисов.