I.6Перевод и языковая адаптация

Модель bayartsogt/whisper-medium-mn-10 — дообученная версия Whisper Medium, разработанная на основе openai/whisper-medium для распознавания речи. Она принимает аудио и генерирует текст; в метаданных указаны датасеты Common Voice 11.0, FLEURS и два монгольских набора данных. Модель содержит 455,8 млн параметров и распространяется в формате PyTorch по лицензии Apache-2.0. На оценочном наборе указаны WER 21,26 и CER 6,88. Модель предназначена прежде всего для автоматической транскрипции речи, в том числе монгольской. В README отсутствуют подробности о составе обучающих данных, рекомендуемых сценариях и ограничениях; показатели оценки сами по себе не гарантируют точность на других аудиозаписях.

Whisper-small-mlx — модель автоматического распознавания речи в формате MLX, размещённая сообществом mlx-community. Она конвертирована из версии Whisper «small» и предназначена для запуска с библиотекой MLX и примерами MLX от ML Exploration, включая транскрибацию аудиофайлов. Модель работает с аудио и решает задачи преобразования речи в текст. В README не указаны точные архитектурные характеристики, число параметров, размер контекста, поддерживаемые языки и дополнительные модальности. Сильная сторона модели — адаптация формата Whisper для экосистемы MLX; ограничением является отсутствие в предоставленных данных подробностей о производительности, качестве распознавания и совместимости с конкретными типами аудио. Лицензия в README не указана.

Xenova/whisper-tiny — версия модели OpenAI Whisper tiny, подготовленная командой Xenova в формате ONNX для совместимости с библиотекой Transformers.js. Модель предназначена для автоматического распознавания речи и транскрибирования аудио, в том числе непосредственно в JavaScript-приложениях и веб-среде. В README указано, что репозиторий содержит ONNX-веса базовой модели openai/whisper-tiny. Точные сведения о размере, архитектуре, поддерживаемых языках, контекстном окне и модальностях в карточке не приведены. Ключевое преимущество — готовность к использованию через Transformers.js и возможность обрабатывать аудио по URL; при этом README не содержит данных о точности, производительности и ограничениях качества распознавания. Лицензия указана как Apache-2.0.

Arabic-Qwen3.5-OCR-v4 — модель sherif1313, дообученная на основе Qwen/Qwen3.5-0.8B для распознавания текста на изображениях. Она принимает изображение и текстовый запрос и возвращает извлечённый текст; предназначена для арабского письма, включая печатный, рукописный, классический текст и текст с диакритическими знаками. В обучении использованы синтетические сканы, изображения строк текста и данные для распознавания Корана. Модель построена на мультимодальной плотной архитектуре Qwen3.5 и распространяется в формате safetensors. В README заявлена скорость около четырёх изображений в секунду; она зависит от оборудования и условий запуска. Лицензия — Apache-2.0. Примеры использования охватывают распознавание текста на фотографиях, сканах, PDF-страницах и документах низкого качества. README также указывает поддержку сложного форматирования, однако не приводит метрик точности и не уточняет, насколько хорошо модель работает с языками помимо арабского. Приведённый пример генерации ограничивает ответ 512 токенами.

Baichuan2-13B-Base — базовая плотная языковая модель на 13,3 млрд параметров, разработанная Baichuan Intelligence. Модель обучена на корпусе объёмом 2,6 трлн токенов и предназначена для генерации текста и использования как основа для дальнейшей адаптации; это Base-версия, а не диалоговая Chat-версия. Модель работает с текстом и ориентирована прежде всего на китайский и английский языки. Разработчик сообщает о тестировании серии Baichuan 2 на китайских и англоязычных наборах по общим знаниям, праву, медицине, математике, программированию и многоязычному переводу. Для запуска требуется PyTorch 2.0 или новее. Для исследовательского использования модель доступна на условиях Apache 2.0 и лицензии сообщества Baichuan 2. Коммерческое использование требует предварительного одобрения и коммерческой лицензии Baichuan; применяются ограничения для организаций и сервисов. Base-модель не заявлена как настроенная для безопасного диалога или следования инструкциям.

bartowski/baidu_ERNIE-4.5-21B-A3B-PT-GGUF — это GGUF-квантизация модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu. Квантизации подготовлены bartowski с использованием llama.cpp b5924 и метода imatrix. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Доступны варианты от исходных весов BF16 размером 43,66 ГБ до компактных IQ3 и Q3 объёмом около 9,35–10,73 ГБ, а также распространённые форматы Q4, Q5, Q6 и Q8. Варианты Q4–Q6 обеспечивают хороший или очень высокий уровень качества при меньших требованиях к памяти; Q4_K_M обозначен как стандартный вариант для большинства сценариев, а Q6_K_L и Q6_K — как варианты, близкие к максимальному качеству. Некоторые форматы оптимизированы для CPU, ARM или Apple Silicon. В README не указаны контекстное окно, поддерживаемые языки, модальности, точная архитектура и рекомендуемый формат промпта. Лицензия также не указана, поэтому условия использования следует уточнять на странице исходной модели Baidu. Ключевое ограничение — необходимость подобрать вариант квантизации с учётом доступной оперативной или видеопамяти и допустимой потери качества.

HiTZ/cap-punct-es — модель центра HiTZ при Университете Страны Басков UPV/EHU для восстановления заглавных букв и пунктуации в испанском тексте. Она обучена с нуля на базе Marian NMT на корпусе примерно из 9,8 млн предложений. Архитектура — MarianMTModel, размер — 41,6 млн параметров, максимальная длина контекста — 512 токенов. Модель принимает текст без регистра и пунктуации и возвращает восстановленный текст. Модель предназначена для обработки испанских предложений, в том числе распознанной речи и текста, в котором при подготовке удалили регистр и знаки препинания. В оценках на подвыборках FLORES-101 и Common Voice модель снизила WER с 19,55% до 5,99% и с 22,42% до 5,75% соответственно. Лицензия — Apache 2.0. Результаты зависят от соответствия входного текста обработке, использованной при обучении; разработчики также отмечают возможные смещения и нежелательные искажения.

Confucius4-R2T2-GGUF — это квантизированная GGUF-версия модели Confucius4-R2T2 от NetEase Youdao, подготовленная для запуска в audio.cpp. Модель предназначена для автоматического распознавания речи, включая офлайн-транскрибацию и потоковую обработку аудио в реальном времени с низкой задержкой. Поддерживается append-only потоковая выдача текста с декодированием по принципу Longest Stable Prefix. Модель представляет собой дообученную версию Qwen3-ASR-1.7B. Доступны варианты Q8_0 размером около 2,31 GiB и F16 размером около 3,81 GiB; вариант F16 ориентирован на максимальную точность, а Q8_0 — на более компактное размещение. GGUF-файлы содержат токенизатор, конфигурации процессора и генерации, шаблон чата и спецификацию модели, поэтому для запуска достаточно одного файла. Поддерживаются CPU, CUDA и Metal, а также размеры потоковых фрагментов от 80 мс до 2 секунд. Заявлена поддержка китайского, английского, кантонского и ряда других языков, включая русский, японский, корейский, арабский, немецкий, французский, испанский, португальский, итальянский, хинди и другие. Сильными сторонами являются локальный запуск без Python и PyTorch, потоковый режим, низкая задержка и возможность работы с живым аудиопотоком. Ограничения включают отсутствие проверенной поддержки квантизаций ниже Q8_0, а также то, что VAD-определение окончания речи на момент публикации не включено. Модель распространяется по лицензии netease-youdao-model-use-license; условия следует уточнять в тексте лицензии.

DeepSeek-V2.5-IMat-GGUF — это GGUF-квантизованная версия модели DeepSeek-V2.5, разработанной DeepSeek и подготовленной для распространения пользователем legraphista. Модель предназначена для генерации текста и локального запуска с использованием llama.cpp и совместимых инструментов. В качестве исходной использована версия в формате BF16, а квантизация выполнена с помощью llama.cpp b3675. В репозитории доступны варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3, IQ3, Q2 и IQ2 с размерами файлов примерно от 69,87 до 250,62 ГБ; файлы поставляются разделёнными на части. Для большинства вариантов применена IMatrix-квантизация, которая призвана эффективнее сохранять качество при уменьшении размера модели, тогда как Q8_0 и Q6_K используют статическую квантизацию. Конкретные архитектурные параметры, поддерживаемые языки, модальности и размер контекста в README не указаны. Сильная сторона сборки — широкий выбор уровней квантизации и совместимость с экосистемой GGUF и llama.cpp, что позволяет подбирать компромисс между требованиями к памяти и качеством генерации. Ограничениями являются очень большой размер даже наиболее компактных вариантов, необходимость работы с разделёнными файлами и возможная потеря качества на низких уровнях квантизации. Модель распространяется по лицензии DeepSeek; указана лицензия other со ссылкой на LICENSE-MODEL исходной модели.

Distil-Large-v3.5 — англоязычная модель распознавания речи из семейства Distil-Whisper, созданная в совместной работе Бофэном Хуаном, Эсташем Ле Бианом, Стивеном Чжэном и Вайбхавом Шриваставом. Это дистиллированная версия OpenAI Whisper-Large-v3 с архитектурой Whisper encoder-decoder; в метаданных указано 905,2 млн параметров. Модель предназначена для преобразования речи в текст, включая короткие аудиозаписи и длинные записи с последовательной или разбитой на фрагменты обработкой. Авторы сообщают об обучении на 98 тысячах часов разнообразных публичных данных, использовании teacher-модели с расширенным графиком обучения и аугментации SpecAugment. По оценкам авторов, модель примерно в 1,5 раза быстрее Whisper-Large-v3-Turbo и показывает хорошие результаты на коротких записях; также её можно использовать как черновую модель для speculative decoding с Whisper-Large-v3. Модель рассчитана на английскую речь. Она поддерживается библиотекой Transformers версии 4.39 и новее, веса опубликованы в формате safetensors. Лицензия — MIT. Результаты зависят от типа аудио: на приведённой авторами оценке ошибка распознавания длинных записей выше, чем коротких; заявленные метрики основаны на нормализованном тексте и конкретных тестовых наборах.

Dorna-Llama3-8B-Instruct — диалоговая модель семейства Dorna, разработанная Part AI на основе Meta Llama 3 Instruct и дообученная на персоязычных данных. Это декодерная модель с 8 млрд параметров для генерации ответов и ведения диалога; поддерживает персидский и английский языки. Модель предназначена для ответов на вопросы, генерации кода и длинных ответов, математических задач, работы с новостными вопросами, перефразирования, общих знаний и суммаризации. В README приведены результаты человеческой и автоматической оценки на этих категориях, однако они не гарантируют качество для каждого запроса. Для запуска описан сценарий инференса через Transformers Auto и функцию generate(). Модель распространяется по лицензии Llama 3 (llama3); перед использованием следует учитывать её условия.

EurobeatVARemix-Qwen2.5-72b — объединённая языковая модель автора KaraKaraWarehouse, созданная методом Model Stock на основе Qwen/Qwen2.5-72B с включением нескольких моделей Qwen2.5-72B. Она предназначена для диалоговой генерации и продолжения текста; автор сообщает, что формат ChatML в основном подходит для общения с моделью. Модель использует плотную архитектуру Qwen2 и содержит 71,5 млрд параметров. Метаданные указывают контекст до 131 072 токенов и поддержку ряда языков, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский и корейский. Репозиторий использует формат safetensors, а модель доступна через библиотеку Transformers. Автор приводит личные настройки сэмплирования и отмечает, что другие настройки также предлагались; конкретное качество на задачах в карточке не оценивается. Указана лицензия Apache 2.0. (Доступные сведения о лицензии не содержатся в переданных README или метаданных.)

Это преобразованная в формат CTranslate2 версия distil-whisper/distil-large-v3.5, подготовленная deepdml. Модель предназначена для распознавания речи и может использоваться через CTranslate2 и проекты на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке CTranslate2 позволяет выбрать другой тип вычислений через параметр compute_type. Репозиторий указывает английский язык. Лицензия — MIT. Модель создана конвертацией исходной модели в другой формат, а не дообучением.

gemma-3-4B-T1-it — текстовая инструкционная модель Twinkle AI, разработанная Liang Hsun Huang, Min Yi Chen, Wen Bin Lin и Dave Sung на базе google/gemma-3-4b-pt. Это плотная модель семейства Gemma 3 с 4 млрд параметров; карточка указывает контекст до 131 072 токенов. Модель дообучена для традиционного китайского языка и тайваньского культурного контекста, также поддерживает английский. Это текстовая версия без обработки изображений. Модель предназначена для диалогов и генерации ответов, учитывающих тайваньскую лексику и общественно-культурные реалии. Её можно применять для базового толкования законов Тайваня, подготовки учебных материалов, повседневных запросов, а также для вызова функций и построения агентных сценариев с внешними инструментами. Разработчики сообщают об обучении на наборах данных по рассуждениям, инструкциям, договорам и длинным документам и приводят результаты собственных оценок, в том числе BFCL. Модель распространяется по лицензии Gemma, доступ к репозиторию Hugging Face ограничен условиями Google. Ответы по праву следует использовать только как вспомогательные: модель не заменяет профессиональную юридическую консультацию. Вызов инструментов требует заданных приложением описаний инструментов и логики управления; опубликованные показатели получены в оценках разработчиков и не гарантируют качество в конкретной задаче.

GLM-5.3-Flash-Alis-MLX-6bit — это 6-битная квантованная версия модели GLM-5.3-Flash, разработанной организацией zai-org и конвертированная avlp12 в формат MLX для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживается библиотекой mlx-vlm с архитектурой glm5_next. Базовая модель имеет конфигурацию 320B-A18B и архитектуру Mixture-of-Experts. В README также указана vision tower в формате bfloat16, однако подробности поддерживаемых визуальных сценариев и языков не приведены. Квантование выполнено в 6 бит с использованием схемы g64 affine для экспертов, attention, dense/shared MLP, embeddings и output head. Маршрутизатор MoE, correction bias, параметры mHC и KDA decay, а также отдельные нормы, свёртки и другие компоненты сохранены без 6-битного квантования; MTP layer 45 удалён. На M3 Ultra 512GB заявлена скорость декодирования около 24,6–26,3 токена в секунду в зависимости от длины промпта. По приведённым измерениям эта сборка имеет меньшую ошибку относительно 8-битной версии, чем указанные 4-битные варианты, но результаты получены на закрытой тестовой панели и не сопоставимы напрямую с оценками относительно BF16. Модель ориентирована на локальный инференс на Apple Silicon и требует mlx-vlm с поддержкой glm5_next. Для корректной работы рекомендуются ветки с исправлениями swiglu clamp, fp32-обработки вспомогательных параметров mHC/KDA и eps. Преимуществами являются сохранение точности маршрутизации MoE и высокая для 6-битной сборки скорость работы; ограничениями — очень большой размер базовой модели, требования к памяти и зависимость от актуальной поддержки MLX. Модель распространяется по лицензии MIT.

MaziyarPanahi/gpt-oss-20b-Derestricted-GGUF — это набор файлов модели в формате GGUF для ArliAI/gpt-oss-20b-Derestricted. Исходную модель разработала ArliAI, а конвертацию и публикацию GGUF-файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Сведения об архитектуре, размере контекста, поддерживаемых языках и мультимодальности в README не указаны. Лицензия также не указана, поэтому условия использования по этим данным определить нельзя.

RTannous/gpt-oss-20b-multilingual-reasoner — дообученная версия модели unsloth/gpt-oss-20b, опубликованная для использования через библиотеку Transformers. Модель обучалась методом supervised fine-tuning (SFT) с использованием TRL, поэтому предназначена для генерации текста и диалоговых сценариев, включая задачи, где требуется формулировать рассуждения и ответы на разных языках. В README приведён пример запуска в режиме text-generation на GPU с помощью pipeline из Transformers. Из доступных данных известно, что модель относится к семейству с размером 20B параметров. Точная архитектура, перечень поддерживаемых языков, длина контекста, набор обучающих данных и специализированные показатели качества не указаны. К сильным сторонам относятся наличие дообучения под мультиязычные и reasoning-сценарии, а также совместимость с экосистемой Transformers и TRL; ограничениями являются отсутствие подробных бенчмарков и сведений о языковом покрытии и качестве. В карточке указана лицензия с идентификатором license, но её конкретные условия не раскрыты.

Hathor_Gamma-L3-8B-0.6-GGUF — квантизированная версия языковой модели Hathor_Gamma-L3-8B-0.6, разработанной Nitral-AI. Файлы в формате GGUF подготовлены пользователем bartowski с помощью llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия; в README указан английский язык и шаблон запросов в формате, совместимом с Llama 3. Модель содержит около 8 миллиардов параметров и доступна в нескольких вариантах квантования от Q8 до Q2 и IQ2/IQ3/IQ4. Размер файлов составляет примерно от 2,75 до 9,52 ГБ. Старшие варианты квантования обеспечивают очень высокое качество при повышенных требованиях к памяти, тогда как младшие позволяют запускать модель на устройствах с ограниченным объёмом RAM, но заметно снижают качество. Некоторые варианты используют f16 для весов эмбеддингов и выходного слоя и отмечены как экспериментальные. Эта сборка удобна для локального запуска через llama.cpp и совместимые инструменты. README не содержит сведений о длине контекста, мультимодальности, данных обучения, результатах тестирования или точных архитектурных особенностях. Лицензия указана как other, без дополнительных условий в представленном описании, поэтому перед использованием следует проверить лицензию исходной модели Nitral-AI.

Huihui-MiniCPM5-1B-abliterated-GGUF — это GGUF-квантизированная версия модели Huihui-MiniCPM5-1B-abliterated, разработанной huihui-ai и подготовленной квантизатором mradermacher. Модель относится к семейству MiniCPM5 и предназначена для генерации текста, работы с длинным контекстом и вызова инструментов, в том числе на устройствах с ограниченными ресурсами и периферийных устройствах. В метаданных заявлена поддержка английского и китайского языков. Модель имеет размер 1 млрд параметров. Точная архитектура и максимальная длина контекста в README не указаны; среди тегов присутствуют llama, long-context и tool-calling. Доступны варианты GGUF с разными схемами квантизации и размером примерно от 0,6 до 2,3 ГБ: от Q2_K до Q8_0 и f16. Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как вариант с лучшим качеством среди указанных. К сильным сторонам относятся небольшой размер, возможность локального запуска и широкий выбор вариантов квантизации, позволяющий выбирать баланс между качеством, скоростью и потреблением памяти. Ограничения включают возможное снижение качества у низкобитных вариантов и отсутствие в README подробных результатов оценки, описания точного контекстного окна и архитектурных характеристик. Модель распространяется по лицензии Apache-2.0.

nileq/kazakh-omni-asr-ctc — модель автоматического распознавания казахской речи, разработанная Nileq на базе OmniASR wav2vec2.5 large и дообученная с функцией потерь CTC. Она использует архитектуру Wav2Vec2ForCTC с 24 слоями энкодера, размером скрытого состояния 1024 и 16 головами внимания; словарь SentencePiece содержит 9812 токенов. Модель принимает монофоническое аудио с частотой дискретизации 16 кГц и преобразует речь в текст. Вес модели составляет 412,7 млн параметров; файлы опубликованы в формате safetensors. Модель предназначена для транскрибации казахской речи и интеграции в системы распознавания аудио. Указанная лицензия — Apache-2.0. Карточка сообщает о 20 000 шагах обучения; качество на реальных записях и устойчивость к шуму отдельно не охарактеризованы.

Kimi-K2.6-RAM-447GB-GGUF — это смешанно-точная GGUF-квантизация модели moonshotai/Kimi-K2.6, опубликованная baa-ai и созданная с использованием конвейера RAM (Resource-Aware Mixed-precision). Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе на системах с 512 ГБ оперативной памяти или на конфигурациях с двумя модулями по 256 ГБ. В основе лежит архитектура DeepSeek-V3 decoder (kimi_k2) с 61 слоем, 1,03 трлн параметров, скрытым размером 7168, MLA-attention и MoE-структурой из 384 маршрутизируемых экспертов, из которых для каждого токена активируются 8. Экспертные веса квантизированы в Q3_K, а веса attention распределены между Q5_K и Q8_0 на основе чувствительности отдельных тензоров к ошибкам квантования. Размер файла составляет 447 ГБ. Ключевое преимущество варианта — ориентация на более высокое качество по сравнению с менее ресурсоёмкими сборками благодаря неравномерному распределению разрядности для attention-тензоров. Ограничениями являются чрезвычайно высокие требования к оперативной памяти и отсутствие imatrix: его не использовали, поскольку промежуточный файл Q8_0 объёмом 1,1 ТБ превышал доступную память. Экспертные веса исходной модели INT4 были предварительно деквантизированы и повторно квантизированы в GGUF. В карточке указана лицензия modified-MIT с типом license: other. Поддерживаемые языки и мультимодальные возможности в README не описаны.

Llama-2-7b-Ukrainian — двуязычная языковая модель на базе Llama 2, разработанная tartuNLP. Модель продолжительно предобучена на 5 млрд токенов из датасета CulturaX: 75% корпуса составляют документы на украинском языке и 25% — на английском. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 6,6 млрд параметров с контекстом до 4096 токенов. Модель предназначена для генерации текста на украинском и английском языках. Её можно применять для создания продолжений текста, черновиков и ответов на запросы на этих языках. Доступна в формате safetensors для библиотеки Transformers. Условия использования определяются лицензией Llama 2; перед внедрением следует проверить её требования и ограничения.

QuantFactory/Llama-3.2-3B-GGUF — это компактная квантизированная версия языковой модели Llama 3.2 с примерно 3 млрд параметров, представленная QuantFactory на базе модели Meta. Формат GGUF предназначен для удобного локального запуска и использования средствами, поддерживающими этот формат; в README указана библиотека Transformers и задача генерации текста. Модель рассчитана на текстовые сценарии: генерацию и продолжение текста, диалоговые приложения и другие задачи обработки естественного языка. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Сведения о размере контекста, конкретном методе и уровне квантования, архитектурных деталях, обучении и результатах оценки в README отсутствуют, поэтому производительность и требования к ресурсам определить по этим данным нельзя. Модель распространяется по лицензии Llama 3.2 Community License от Meta. Она разрешает использование, воспроизведение, распространение, модификацию и создание производных работ на указанных условиях, включая передачу текста лицензии, обязательное отображение отметки «Built with Llama» при распространении и соблюдение Acceptable Use Policy. Для организаций с более чем 700 млн ежемесячных активных пользователей предусмотрены дополнительные лицензионные ограничения; модель предоставляется «как есть», без гарантий.

AI Sweden Models дообучила эту плотную языковую модель семейства Llama 3 на базе AI-Sweden-Models/Llama-3-8B. Модель содержит 7,5 млрд параметров, предназначена для генерации текста и поддерживает диалоговый режим; заявленные языки — шведский, датский и норвежский. Контекст составляет до 8192 токенов. Модель подходит для диалогов и генерации текстов на этих языках. Обучение проводилось на суперкомпьютере LUMI в рамках проекта DeployAI EU. Модель распространяется по лицензии Llama 3; условия лицензии следует соблюдать при её использовании.

VIRNECT разработала разговорную языковую модель на архитектуре Llama 3 для генерации текста на корейском и английском языках. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. Модель предназначена для диалогового использования и генерации ответов. Она дообучена на базе MLP-KTLim/llama-3-Korean-Bllossom-8B с использованием датасета AI Hub для развития возможностей крупной языковой модели на корейском языке. Весы доступны в формате safetensors для Transformers. Лицензия — Llama 3 Community License.

Llama-PLLuM-70B-instruct-2508 — большая языковая модель семейства PLLuM, разработанная консорциумом PLLuM и продолжаемая альянсом HIVE AI для польского и других славянских и балтийских языков. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, настроенная на выполнение инструкций; она поддерживает диалог и генерирует текст. Родительская модель — Llama-PLLuM-70B-base, лицензия — Llama 3.1. Модель предназначена для генерации текста, ответов на вопросы, суммаризации и создания специализированных помощников. Особое внимание уделено польскому языку и сценариям польской государственной администрации, включая юридические и бюрократические темы; для ответов по конкретным документам рекомендуется использовать её вместе с поиском по источникам. Заявленный контекст составляет 131 072 токена. В обучении использовались польские, другие славянские и балтийские языки, а также английский. Модель обучалась на корпусах, актуальных примерно до осени 2024 года, поэтому она может не знать более поздних событий. Она может выдавать фактически неверные ответы, а также сохранять смещения, особенно по спорным и субъективным темам; длинный контекст может требовать значительных ресурсов памяти. Использование регулируется лицензией Llama 3.1.

bartowski/magnum-32b-v2-GGUF — это набор GGUF-квантизаций текстовой генеративной модели magnum-32b-v2, разработанной anth​​racite-org и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для диалоговых сценариев и генерации текста, включая локальное использование в совместимых приложениях, например LM Studio. Указаны поддерживаемые языки English и Chinese. В репозитории представлены варианты квантизации от Q8_0 до Q2_K и IQ2_M с размером файлов примерно от 11,18 до 34,55 ГБ. Для квантизации использовалась imatrix с калибровочным набором данных; часть вариантов применяет Q8_0 для embedding- и output-весов. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше оперативной памяти и дискового пространства, тогда как компактные варианты экономичнее, но дают более низкое качество. Архитектура, точное число параметров исходной модели и размер контекстного окна в README не указаны. Модель использует шаблон промпта ChatML с ролями system, user и assistant. Лицензия обозначена как other с названием tongyi-qianwen; в качестве текста лицензии указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием следует проверить её условия применительно к данной производной и к выбранному сценарию.

legraphista/Mistral-7B-v0.3-IMat-GGUF — это набор GGUF-квантизованных версий базовой модели mistralai/Mistral-7B-v0.3. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp. Квантизацию выполнил legraphista с использованием llama.cpp b3003 и метода IMatrix на основе калибровочного набора данных. Модель имеет около 7 миллиардов параметров и поставляется в вариантах от BF16 и F16 до различных уровней Q- и IQ-квантизации размером примерно от 1,76 до 14,50 ГБ. IMatrix применена к ряду вариантов Q4 и ниже, что может помогать сохранять качество при уменьшении размера. Более компактные файлы удобны для запуска на ограниченных по памяти устройствах, однако сильная квантизация может снижать точность и качество генерации. В README не указаны поддерживаемые языки, длина контекста, точная архитектура и результаты бенчмарков. Распространение заявлено по лицензии Apache-2.0.

Mistral-ko-7B-v0.1-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP диалоговая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Веса объединяют mistralai/Mistral-7B-Instruct-v0.2 и maywell/Mistral-ko-7B-v0.1; модель предназначена для генерации текста и ответов на инструкции в формате диалога. Контекст составляет до 32 768 токенов, файлы представлены в формате safetensors. Модель подходит для диалоговых помощников и генерации ответов на текстовые запросы, с ориентацией на корейский язык благодаря включению Mistral-ko. Лицензия — Apache-2.0. Доступные сведения не описывают сравнительные показатели качества или отдельные ограничения по применению.

Это квантованные версии инструкционной языковой модели Kimi-K2-Instruct-0905, разработанной Moonshot AI и преобразованной в формат GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. В репозитории представлены варианты квантования Q5_K_M, Q4_K_M, Q4_1, Q4_0, IQ4_NL, IQ4_XS, Q3, Q2 и другие. Размер файлов зависит от варианта и составляет примерно от 245,61 до 730,53 ГБ; для большинства сценариев рекомендуются Q5_K_M и Q4_K_M, а варианты с более низкой разрядностью требуют меньше оперативной памяти, но обеспечивают более низкое качество. Квантование выполнено с использованием imatrix и llama.cpp версии b6317. README не содержит сведений об архитектуре исходной модели, числе параметров, поддерживаемых языках, модальностях, размере контекста, точном формате промптов или лицензии. Поэтому эти характеристики нельзя достоверно определить по представленным данным.