I.6Перевод и языковая адаптация

Whisper large-v3, дообученная AiLab.lv для распознавания латышской речи. Модель преобразует аудио в текст и предназначена для транскрибации записей на латышском языке, включая голосовые записи и материалы вещательных СМИ. Дообучение выполнено с помощью Hugging Face Transformers на 282,4 часа данных из латышской части Common Voice 19.0 и набора LATE-Media. В репозитории указаны результаты оценки на тестовых данных: WER 4,8 на форматированном тесте Common Voice, 3,2 на нормализованном тесте Common Voice и 19,2 на тесте LATE-Media. Модель содержит около 905,2 млн параметров; карточка также описывает отдельные квантованные варианты в форматах для whisper.cpp и CTranslate2. Модель рассчитана прежде всего на латышскую речь; показатели на тесте LATE-Media указывают, что качество может заметно различаться между наборами данных. Лицензия — Apache-2.0.

onnx-community/whisper-small.en — версия модели openai/whisper-small.en с весами в формате ONNX, подготовленная сообществом ONNX Community для совместимости с библиотекой Transformers.js. Модель предназначена для запуска в JavaScript- и web-средах, где требуется использовать модель Whisper с ONNX-весами. По имеющимся данным, модель ориентирована на англоязычный вариант Whisper и сценарии обработки речи, поддерживаемые исходной моделью. Ключевая особенность — размещение ONNX-весов в отдельном репозитории; архитектура, точный размер, поддерживаемые модальности и параметры контекста в README не указаны. Лицензия также не указана, поэтому условия использования следует уточнять у исходной модели openai/whisper-small.en и в репозитории модели.

Xenova/whisper-small.en — версия модели OpenAI Whisper small.en, подготовленная Xenova для использования в Transformers.js. Репозиторий содержит веса в формате ONNX, совместимые с JavaScript-библиотекой Transformers.js. Модель предназначена для автоматического распознавания речи и транскрибации аудио, в том числе аудиофайлов, доступных по URL. Основной сценарий — запуск распознавания в JavaScript-приложениях, включая веб-среду при наличии соответствующей поддержки ONNX/WebML. Модель ориентирована на английскую речь, что отражено в идентификаторе small.en. Ключевая особенность этой версии — адаптация весов Whisper к формату ONNX; конкретные сведения об архитектуре, числе параметров, размере контекста и точных характеристиках качества в README не приведены. Ограничениями являются ориентация на английский язык и зависимость от Transformers.js и совместимого окружения для выполнения ONNX-модели. Модель распространяется по лицензии Apache-2.0.

amirsz8203/whisper-small-fa-finetuned — версия Whisper Small, дообученная автором репозитория для автоматического распознавания речи. Модель принимает аудио и генерирует текстовую транскрипцию; карточка указывает оценку WER 24,1495 на наборе оценки, но не описывает сам набор данных и условия измерения. Модель использует архитектуру Whisper и библиотеку Transformers, веса представлены в формате safetensors. Лицензия — Apache 2.0. Поддерживаемый язык в карточке не подтверждён.

byroneverson/Yi-1.5-34B-Chat-abliterated — производная диалоговая модель, созданная byroneverson на основе 01-ai/Yi-1.5-34B-Chat. В карточке автор сообщает об abliterated-версии и ссылается на Jupyter notebook с описанием процесса; подробности этого процесса в README не приведены. Модель использует плотную архитектуру семейства Llama с классом LlamaForCausalLM и содержит 33,9 млрд параметров. Она предназначена для генерации текста в диалоге; метаданные указывают поддержку китайского и английского языков, контекст составляет 4096 токенов. Доступна в формате safetensors и рассчитана на библиотеку Transformers. Лицензия — Apache-2.0. README не приводит оценок качества, примеров использования или конкретных ограничений применения; abliterated-характер версии может влиять на поведение и требует самостоятельной оценки перед внедрением.

AIArchiveInfo публикует побитовую архивную копию базовой языковой модели Yi-6B, созданной компанией 01.AI. Веса скопированы из 01-ai/Yi-6B без обучения, дообучения или изменений; модель основана на плотной архитектуре Transformer типа Llama и содержит около 5,8 млрд параметров. Контекст составляет до 4096 токенов. Модель предназначена для генерации текста и может служить основой для задач понимания языка, рассуждений и чтения на английском и китайском языках. Это базовая, а не чат-версия модели; для диалога может потребоваться дополнительная настройка. Репозиторий содержит веса PyTorch и Safetensors. Лицензия Apache 2.0.

Zen5 Max — большая текстовая модель семейства Zen5 от ZenLM, основанная на DeepSeek-V4-Pro. Это не модель, обученная с нуля: README описывает её как перепакованную и квантизованную в GGUF версию аблитированной производной DeepSeek-V4-Pro. Применяется для генерации текста и задач, требующих глубоких рассуждений; для запуска автор рекомендует систему с unified memory от 512 ГБ или пул из восьми ускорителей H100/H200. Модель имеет архитектуру MoE и файл GGUF размером около 432 ГБ. Веса квантизованы асимметрично: маршрутизируемые up/gate-проекции используют IQ2_XXS, down-проекции — Q2_K, а общие эксперты, проекции внимания, логиты маршрутизации и LM head сохранены в более высокой точности. В тегах заявлены английский и китайский языки, а также контекст 1 млн токенов. Репозиторий распространяется по лицензии MIT. Требования к памяти и вычислительным ресурсам высоки; README рекомендует для оборудования с 128 ГБ использовать zen-5-pro-gguf. Количественные оценки качества в предоставленной карточке не приведены.

CausalLM/14B-DPO-alpha — языковая модель семейства Llama, разработанная командой CausalLM и оптимизированная с помощью DPO для генерации текста и диалогов. По карточке, это отдельная ветвь обучения, а не продолжение обучения CausalLM/14B или 7B; её параметры могли отличаться от параметров этих моделей. Модель содержит 13,4 млрд параметров, использует архитектуру LlamaForCausalLM и контекст до 8192 токенов. В метаданных указаны английский и китайский языки. Разработчики приводят результаты сравнений с другими моделями, но приведённая карточка не содержит полных данных таблицы, поэтому их нельзя независимо оценить. Модель предназначена для генерации текста, ответов на вопросы и диалогового взаимодействия. Она обучалась на неотфильтрованных интернет-данных; разработчики предупреждают о возможном нежелательном, сексуальном, жестоком и оскорбительном содержании и рекомендуют проверять и фильтровать ответы. Лицензия — WTFPL.

Agente-Llama-3.1-Asistant-16bit-v2-GGUF — это набор файлов модели в формате GGUF, созданный пользователем mradermacher на основе Agnuxo/Agente-Llama-3.1-Asistant-16bit-v2. Модель предназначена для локального запуска задач генерации текста, включая сценарии автономных агентов, локального ИИ и научных исследований. Указаны английский и испанский языки. Библиотека Transformers и исходная модель обозначены в метаданных, однако подробности архитектуры и точный размер базовой модели не приведены. Репозиторий содержит варианты квантования от Q2_K размером около 3,3 ГБ до f16 размером около 16,2 ГБ. Доступны форматы Q2_K, Q3, Q4, Q5, Q6, Q8_0 и IQ, причём Q4_K_S и Q4_K_M рекомендованы как быстрые варианты, Q6_K заявлен как вариант с очень хорошим качеством, а Q8_0 — как быстрый вариант с наилучшим качеством среди перечисленных. Версия f16 имеет точность 16 бит и может быть избыточной по требованиям к ресурсам. Мультимодальность, размер контекста, аппаратные требования и результаты оценивания не указаны. Преимущество модели — наличие множества уровней квантования для выбора баланса между качеством, скоростью и объёмом памяти, что подходит для локального использования. Ограничения связаны с отсутствием подробных сведений о базовой архитектуре, обучении, качестве в прикладных задачах и поддерживаемых сценариях агента; характеристики также зависят от выбранного варианта квантования. Распространение указано по лицензии Apache-2.0.

Al-Atlas-0.5B — языковая модель AtlasIA для генерации текста на марокканском диалекте арабского языка дарижа. Это плотная авторегрессионная модель семейства Qwen2, дообученная на основе Qwen/Qwen2.5-0.5B; в карточке указаны 494 млн параметров и контекст до 32 768 токенов. Модель обучалась на подборке из 155 млн токенов дарижи, включающей разговоры в социальных сетях, расшифровки устной речи, форумы, новости и пользовательский контент. Модель предназначена для чат-ботов, генерации текстов и автоматизации обслуживания клиентов для марокканской аудитории. Её также можно применять для анализа тональности и классификации текстов на дариже. Карточка подчёркивает работу с местными выражениями и культурным контекстом. Лицензия в предоставленных данных не указана.

BitCPM-CANN-0.5B — языковая модель OpenBMB из семейства BitCPM-CANN, разработанного для обучения и запуска тернарных моделей на оборудовании Huawei Ascend. Это причинная модель генерации текста MiniCPM с 433,8 млн параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста, ответов на вопросы и рассуждений на китайском и английском языках. Веса представлены в псевдоквантованном формате: они хранятся как числа с плавающей точкой, но обучены с тернарными значениями {-1, 0, 1}. Поэтому модель можно загружать стандартными средствами Transformers без специальных ядер квантования. Для версии 0.5B в README указано сохранение 90,1% производительности относительно полноточного MiniCPM4; результаты наименьшей модели чувствительнее к квантованию, чем у более крупных вариантов семейства. Модель выпущена по лицензии Apache-2.0.

tastypear/CausalLM-7B-DPO-alpha-GGUF — это квантизированная версия CausalLM 7B-DPO-alpha, разработанного командой CausalLM и опубликованная пользователем tastypear. Модель основана на архитектуре Llama и предназначена для генерации текста и диалоговых сценариев. Модель имеет около 7 миллиардов параметров, поддерживает английский и китайский языки и использует формат GGUF, совместимый с llama.cpp и рядом локальных интерфейсов и библиотек. В репозитории представлены варианты квантования Q4_K_M размером 4,77 ГБ, Q5_K_S размером 5,40 ГБ и Q5_K_M размером 5,53 ГБ. Для взаимодействия рекомендуется шаблон ChatML. Размер контекста в карточке модели не указан. К сильным сторонам относятся возможность локального запуска, поддержка GPU-ускорения через совместимые инструменты и уменьшенный размер файлов благодаря квантованию. Ограничения связаны с потерями точности, характерными для квантованных версий, а также с тем, что модель ориентирована на текстовые задачи и не заявляет поддержку мультимодального ввода в данном репозитории. Указана лицензия WTFPL, однако из-за базирования на Llama 2 также применяются условия лицензии Meta Llama 2; взаимодействие этих лицензий требует отдельной проверки.

ChatBerry-i1-GGUF — это набор квантованных моделей в формате GGUF, созданный на основе модели ChatBerry от artindnr и подготовленный mradermacher. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск совместимых языковых моделей с различными уровнями квантования. Заявлена поддержка персидского и английского языков, а также мультиязычного использования. В карточке указано, что исходная модель относится к архитектуре mixture-of-experts и поддерживает text generation; также заявлена совместимость с PyTorch, JAX и TensorFlow. Доступны варианты квантования от очень компактных IQ1 и IQ2 до более качественных Q5 и Q6, размер файлов составляет примерно 12,1–22,3 ГБ. Вариант Q4_K_M отмечен как рекомендуемый по сочетанию скорости и качества, а Q4_K_S — как оптимальный по размеру, скорости и качеству. К сильным сторонам относятся широкий выбор квантований и возможность подобрать баланс между требованиями к памяти, скоростью и качеством генерации. Ограничения включают потенциальную потерю качества в наиболее агрессивных вариантах квантования; для некоторых вариантов это прямо отмечено в README. Сведения о количестве параметров, размере контекста, точных характеристиках архитектуры, результатах тестирования и мультимодальных возможностях не приведены. Лицензия — Apache-2.0.

Модель sagorsarker/codeswitch-nepeng-lid-lince предназначена для идентификации языка в смешанном непальско-английском тексте: она определяет язык отдельных токенов в сообщениях с переключением языков. Модель разработана для работы с данными LinCE и представлена как предварительно обученная модель для language identification. Это плотная модель на архитектуре BERT с головой классификации токенов, содержащая 205,1 млн параметров и принимающая последовательности длиной до 512 токенов. Для использования доступны веса в форматах PyTorch и Flax, включая safetensors. Модель ориентирована на непальско-английский код-свитчинг; лицензия — MIT.

CPM-Bee-10B — базовая двуязычная языковая модель OpenBMB на 13,2 млрд параметров. Это плотная авторегрессионная модель на архитектуре Transformer, обученная на корпусе объёмом более триллиона токенов; репозиторий содержит веса PyTorch. Модель ориентирована на китайский и английский языки и предназначена для генерации текста и последующего дообучения под прикладные задачи обработки естественного языка. CPM-Bee можно использовать для продолжения текста и как основу для создания специализированных моделей. В README также описана отдельная дообученная версия с диалоговыми возможностями и поддержкой инструментов; эти возможности не следует считать характеристиками данного базового чекпойнта. Модель выпущена OpenBMB как открытая и пригодная для коммерческого использования; карточка не уточняет конкретную лицензию.

CPM-Bee — авторегрессионная базовая языковая модель семейства Transformer, разработанная OpenBMB в рамках проекта CPM-live. Репозиторий openbmb/cpm-bee-1b предназначен для генерации текста и адаптации к последующим NLP-задачам; метаданные указывают 13,2 млрд параметров, а README описывает модель как модель ёмкостью около 10 млрд параметров. Модель предварительно обучена на корпусе объёмом более триллиона токенов и ориентирована на китайский и английский языки. Для инференса README показывает использование Transformers с AutoModelForCausalLM и AutoTokenizer, включая пример на китайском. Коммерческое использование разрешено согласно README. В карточке заявлены базовые возможности генерации; диалоговые и инструментальные возможности относятся к отдельной дообученной версии, а не к этой базовой модели.

DNA-R1-GGUF — это набор квантованных моделей в формате GGUF, созданный bartowski на основе модели dnotitia/DNA-R1. Модель предназначена для генерации текста, диалогов, чат-сценариев и задач, требующих рассуждений. Указана поддержка английского и корейского языков, однако сведения о точной архитектуре, количестве параметров и размере контекста в представленном README отсутствуют. Квантизация выполнена с использованием llama.cpp и метода imatrix; доступны варианты от Q8_0 до Q2_K и IQ-квантов с размером файлов примерно от 5 до 15,6 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, тогда как компактные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Модель можно запускать через LM Studio, llama.cpp и другие совместимые проекты на базе llama.cpp. Для корректного общения рекомендуется указанный в README шаблон prompt format. Распространение осуществляется по лицензии CC BY-NC-4.0, поэтому коммерческое использование может быть ограничено условиями лицензии. README не содержит подробных результатов тестирования, ограничений по аппаратному обеспечению или данных о мультимодальности; по имеющейся информации модель является текстовой.

timpal0l/dolphin-2.9-llama3-8b-flashback — объединённая языковая модель на архитектуре Llama 3 с 7,5 млрд параметров. Она предназначена для генерации текста и запускается через библиотеку Transformers; заявленный контекст составляет 8192 токена. Модель объединяет dolphin-2.9-llama3-8b и Llama-3-8B-flashback-v1. В метаданных перечислены шведский, датский, норвежский и английский языки. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Модель можно использовать для генерации ответов и продолжения текста на поддерживаемых языках. Карточка не приводит результатов оценки качества или подробных ограничений, поэтому пригодность для конкретных задач следует проверять самостоятельно.

fast-ukrainian-asr-600m — украинская модель распознавания речи, созданная дообучением 600-миллионного мультиязычного SSL-энкодера GigaAM и адаптированная для телефонного аудио. Она предназначена для преобразования украинской речи в текст, в том числе в телефонных записях с частотой 8 кГц после передискретизации до 16 кГц. Модель использует CTC-архитектуру с символьной выходной головой на 38 классов; принимает монофонический звук с частотой 16 кГц и выдаёт текст. По результатам авторского сравнения модель особенно хорошо распознаёт начитанную речь, в том числе аудио в телефонном канале, но слабее справляется со спонтанной разговорной речью. Она предназначена только для украинского: русский язык не поддерживается. Вывод не содержит пунктуации и заглавных букв, а числа записываются словами. По оценке авторов, на CPU модель требует примерно в 2,4 раза больше времени, чем вариант на 220 млн параметров. Лицензия — MIT.

Карточка модели PatchyTisa/FireRedLID-vllm на Hugging Face совпадает с карточкой allendou/FireRedASR2-LLM-vllm, поэтому описание составлено по ней. allendou/FireRedASR2-LLM-vllm — версия модели распознавания речи FireRedASR2-LLM, выпущенной командой FireRedASR2. Это система ASR на основе архитектуры Encoder-Adapter-LLM: аудиокодировщик и адаптер передают представление речи языковой модели Qwen2. Размер модели — 7,1 млрд параметров, контекст — 32 768 токенов. Репозиторий содержит веса в формате safetensors и ориентирован на запуск через vLLM. Модель преобразует речь в текст на китайском языке, включая мандаринский диалект и более 20 региональных акцентов, и на английском; поддерживает смешение китайского и английского языков, а также распознавание текста песен. В описанных авторами тестах средняя ошибка распознавания составила 2,89% CER для мандаринского китайского и 11,55% CER для китайских диалектов. Эти показатели относятся к указанным тестовым наборам и не гарантируют такое же качество на произвольной записи. Лицензия Apache-2.0 допускает коммерческое использование с соблюдением её условий.

FunAudioLLM/Fun-ASR-Nano-2512-vllm — официальная упаковка модели распознавания речи FunAudioLLM для запуска через vLLM. Это плотная архитектура семейства Qwen3 с 507,9 млн параметров и контекстом 40 960 токенов; модель принимает аудио и выдаёт распознанный текст. Указанные для карточки языки — китайский, английский и японский. Репозиторий сохраняет исходные веса FunAudioLLM/Fun-ASR-Nano-2512 и добавляет структуру, необходимую для реализации FunASRForConditionalGeneration в vLLM. README сообщает, что тензоры в safetensors побитово совпадают с тензорами исходного чекпойнта. Упаковка предназначена для распознавания речи в приложениях и сервисах, использующих vLLM; проверенный сценарий — vLLM 0.27.1 на NVIDIA H100 80 GB с float32. Преимущество этой версии — совместимость с vLLM без изменения весов исходной модели. Проверка описана для одной конфигурации и одного китайского примера, поэтому качество на других наборах данных, ускорителях и версиях vLLM отдельно не подтверждено. Для временных меток, диаризации и потоковой обработки README рекомендует оригинальный чекпойнт через инструментарий FunASR. Лицензия — Apache-2.0.

NLLM-ai/gemma-4-E2B-uncensored-slim-GGUF — компактная сборка на базе модели Gemma, подготовленная проектом NLLM-ai для локального запуска. Это не отдельная турецкая дообученная модель: поддержка турецкого языка унаследована от базовой модели. Сборка предназначена для генерации текста и диалоговых сценариев на турецком и английском языках, включая локальных ассистентов, Android-приложения, лёгких агентов, офлайн-инференс и исследования мобильного ИИ. Модель распространяется в формате GGUF с квантизацией Q4_K_M, при которой веса представлены примерно в 4-битной точности с сохранением более высокой точности для отдельных тензоров. Размер файла составляет около 2,72 ГБ, а рекомендуемый объём оперативной памяти — не менее 4 ГБ; заявленная потребность модели в памяти составляет около 3 ГБ. Она совместима с llama.cpp и ориентирована на arm64-v8a, Android и другие устройства с ограниченными ресурсами. В README приведены примеры запуска с контекстом 2048 и 4096 токенов, однако полный размер контекстного окна не указан. На TECNO KM8n измерена скорость около 5 токенов в секунду при работе на CPU без ускорения GPU. Сильными сторонами модели являются полностью локальная работа без облачного инференса, удалённого API, API-ключа и обязательного подключения к интернету после загрузки, а также сниженные требования к размеру и пропускной способности памяти. Ограничения включают зависимость производительности от аппаратной платформы, памяти, тепловых условий, длины контекста и фоновой нагрузки; приведённые показатели относятся только к одному устройству. Условия использования определяются Gemma Terms of Use и Gemma Prohibited Use Policy.

GLM-5.3-MLX-mixed-3_6bit — версия модели GLM-5.3 от zai-org, преобразованная и квантованная сообществом PipeNetwork для работы на Apple Silicon через MLX. Это генеративная текстовая модель на архитектуре Mixture-of-Experts с 744 млрд параметров: 256 экспертов, из которых выбираются 8, и механизмом MLA со sparse attention в стиле DeepSeek-V3.2. Модель предназначена для локальной генерации текста и экспериментов с крупными языковыми моделями на совместимом оборудовании Apple. Эксперты квантованы до 3 бит с размером группы 64, остальные основные параметры — до 6 бит; индексы, маршрутизаторы и нормализации сохранены в исходной точности. Размер файлов составляет около 332,6 ГБ, рекомендованный объём оперативной памяти — 512 ГБ. Сборка рассчитана на запуск через mlx-lm и требует поставляемого файла архитектуры и параметра доверия к удалённому коду. Мультитокеновый слой предсказания не включён. Преимущество модели — существенно меньший размер по сравнению с полной версией при сохранении возможности локального запуска; заявленная perplexity на тестовой части wikitext-2 составляет 3,0338. Ограничением является заметная потеря качества из-за 3-битного квантования: она уступает 4-битным и смешанным 4/8-битным сборкам. Для последовательностей до 2048 токенов индексатор внимания не используется; на более длинных входах в 57 слоях применяются случайно инициализированные общие индексаторы, что может ухудшать работу sparse attention. Лицензия — GLM-5.3 license, указанная в файле LICENSE.

Ling-flash-2.0-GGUF — это квантизированная версия языковой модели Ling-flash-2.0, разработанной inclusionAI. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска в локальных приложениях, поддерживающих формат GGUF, включая LM Studio, llama.cpp и проекты на его основе. Доступно несколько вариантов квантизации от Q8_0 до Q2_K, включая форматы Q6_K, Q5_K_M и Q4_K_M. Размер файлов составляет примерно от 36 до 109 ГБ; варианты с более высокой точностью обычно обеспечивают лучшее качество, но требуют больше памяти. Для большинства сценариев автор рекомендует Q4_K_M, Q5_K_M, Q5_K_S и Q6_K, тогда как младшие варианты экономят память ценой заметного снижения качества. Некоторые файлы разделены на части. README не содержит сведений об архитектуре исходной модели, числе параметров, поддерживаемых языках, длине контекста, дополнительных модальностях или лицензии. Поэтому эти характеристики нельзя достоверно определить по предоставленным данным. Модель следует использовать с указанным шаблоном prompt и совместимым программным обеспечением; конкретные требования к аппаратным ресурсам зависят от выбранного варианта квантизации.

Kimi-Linear-48B-A3B-Instruct-GGUF — экспериментальная GGUF-квантизация модели Kimi-Linear-48B-A3B-Instruct от Moonshot AI, подготовленная пользователем ymcki. Репозиторий предназначен для запуска модели локально через специальную ветку llama.cpp с поддержкой backend-agnostic реализации Kimi-Linear. Модель относится к классу текстовых генеративных instruct-моделей и ориентирована на диалоговые сценарии, выполнение инструкций и другие задачи генерации текста. В метаданных указан английский язык и лицензия MIT. Модель имеет архитектуру Kimi-Linear с разреженными экспертами (MoE); в названии указаны 48B общих параметров и 3B активных параметров, однако другие архитектурные характеристики и точный размер контекста базовой модели в README не приведены. Доступны варианты GGUF с разными типами квантизации, включая Q5_K_M, Q4_K_M, MXFP4_MOE, IQ4_XS, IQ3 и Q2_K, с размерами файлов примерно от 16 до 35 ГБ. Для некоторых конфигураций заявлена работа с контекстом до 400 тыс. токенов при наличии подходящей видеопамяти, но фактические возможности зависят от квантизации и оборудования. Сильными сторонами являются локальный запуск, поддержка MoE и возможность выбирать баланс между качеством, размером файла и объёмом контекста. Варианты с imatrix на основе c4_en_ja_imatrix.txt ориентированы на улучшение работы с японским языком; базовая модель также оценивается для английского языка. Ограничения включают экспериментальный статус, необходимость специальной ветки llama.cpp, высокие требования к памяти и снижение качества у более агрессивных вариантов квантизации. Для запуска требуется самостоятельно собрать совместимую версию llama.cpp; поддержка мультимодальных входов не указана.

komt-mistral-7b-v1 — языковая модель, разработанная davidkim (Changyeon Kim) и дообученная на основе Mistral-7B-Instruct-v0.1 с помощью многозадачной настройки по инструкциям. Она предназначена для диалогов, ответов на запросы и генерации текста, с особым вниманием к качеству работы на корейском языке. Модель имеет плотную архитектуру MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов; для запросов используется формат Mistral [INST]...[/INST]. Для обучения применялся корейский многозадачный набор инструкций. В карточке приведена оценка ответов с помощью ChatGPT, однако эти результаты не заменяют независимую количественную оценку. Доступны веса в формате PyTorch; лицензия в предоставленных данных не указана.

voidful разработала слитую методом SCE с помощью mergekit языковую модель для диалогов и генерации текста. В объединение вошли DeepSeek-R1-Distill-Llama-8B, Llama-3.1-8B-Instruct и тайваньская разговорная модель TAIDE-LX-8B-Chat; базой для слияния указана Llama-3.1-8B-Instruct. Модель относится к семейству Llama, имеет 7,8 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для ответов на вопросы и ведения диалога, в том числе на традиционном китайском языке с тайваньскими разговорными выражениями. Доступны веса в форматах Safetensors и GGUF. Лицензия в предоставленных данных не указана.

Metin/LLaMA-3-8B-Instruct-TR-DPO — диалоговая языковая модель на архитектуре LLaMA, дообученная на базе Meta-Llama-3-8B-Instruct с помощью DPO и QLoRA. Она предназначена для генерации ответов на инструкции и диалога, с улучшенной связностью, беглостью и предпочтительностью ответов на турецком языке. Модель содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Для дообучения использован синтетический набор предпочтений из 10 тысяч примеров. В карточке приведены результаты тестов на турецких наборах OpenLLMTurkishLeaderboard; сами авторы предупреждают, что оценки могут отличаться при использовании разных средств инференса. Модель может генерировать неверные или бессмысленные ответы, поэтому результаты следует проверять. Лицензия — Llama 3.

LLM-jp-4-8b-base — базовая языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это плотная авторегрессионная Transformer-модель семейства Llama с 8,59 млрд параметров: 32 слоя, размер скрытого состояния 4096 и 32 головы внимания. Репозиторий содержит веса Safetensors для Transformers. Модель обучена на предварительном и промежуточном этапах на корпусе объёмом 11,7 трлн токенов. Она предназначена для генерации текста и служит базой для дальнейшей адаптации под диалоговые и другие языковые задачи. Контекстное окно составляет 65 536 токенов; языки карточки — японский и английский. Токенизатор основан на Unigram с поддержкой byte fallback, а шаблон чата совместим с форматом OpenAI Harmony. Разработчики отмечают, что модель находится на ранней стадии исследований и разработок и не настроена для надёжного следования намерениям пользователя и требованиям безопасности. Для корректной токенизации следует использовать токенизатор из репозитория; библиотека openai-harmony напрямую не поддерживается. Лицензия — Apache-2.0.

Это перенос мультимодальной модели LLM-jp-4-VL-9B-beta в формат MLX, выполненный tokimoa. Модель объединяет языковую часть Llama с визуальным кодировщиком SigLIP и предназначена для диалога и ответов на вопросы по изображениям, включая понимание японских деловых документов. Она принимает изображения и текстовые запросы и генерирует текст; заявлена поддержка японского и английского языков. В README описан перенос весов BF16 без квантизации и приведены результаты проверки на шести вопросах по пяти типам японских документов: ответы совпали с официальной реализацией Transformers при одинаковых настройках предобработки и генерации. На M4 Max указаны скорость генерации 17,9 токена/с и пиковое потребление памяти 20,6 ГБ. Для работы требуется mlx-vlm версии 0.6.8 или новее. Лицензия — Apache-2.0, согласно README она соответствует лицензии исходной модели.