II.10Разработка и эксплуатация AI/ML-систем

Experiment26Neuralsirkrishna_Strangemerges_32Experiment28 — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_32Experiment28-7B. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст, что подходит для диалоговых интерфейсов и задач создания продолжений или ответов. Она распространяется в формате safetensors по лицензии Apache-2.0. Информация о специальных доменах, языках и измеренном качестве в доступных материалах отсутствует.

Experiment26Yamshadow_Experiment24Yam — объединённая текстовая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment24Yam-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст длиной до 32 768 токенов. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжение текста на основе текстового запроса. Модель распространяется в формате safetensors по лицензии Apache 2.0. Карточка не описывает специализацию по языкам или отдельные гарантии качества.

Experiment26Yamshadow_Experiment28Inex12 — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment28Inex12-7B. Она предназначена для генерации текста и поддерживает контекст до 32 768 токенов; размер модели составляет 7,1 млрд параметров. Модель может использоваться для генерации продолжений и ответов на текстовые запросы. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28T3q_Experiment28Experiment29 — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и принимает текстовые запросы, выдавая текстовые продолжения. Модель объединяет веса automerger/Experiment28T3q-7B и automerger/Experiment28Experiment29-7B; каталог описывает исходные модели как экспериментальную и дообученную по DPO математическую модель. Модель рассчитана на контекст до 32 768 токенов и опубликована в формате safetensors. Лицензия — Apache-2.0. Карточка не описывает конкретные языки, специализированные сценарии или результаты оценки качества.

MaziyarPanahi/Experiment28T3q_ShadowOgno — объединённая модель для генерации текста, созданная на основе двух моделей: automerger/Experiment28T3q-7B и automerger/ShadowOgno-7B. Она использует плотную архитектуру Mistral с причинно-следственной языковой моделью и содержит 7,1 млрд параметров. Модель предназначена для генерации продолжений текста и диалоговых ответов. Она принимает текст и поддерживает контекст длиной до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

sgugger/finetuned-bert-mrpc — модель классификации последовательностей на базе BERT, дообученная на наборе GLUE для задачи MRPC, связанной с определением смысловой эквивалентности пар предложений. Модель содержит 135,5 млн параметров, использует архитектуру BertForSequenceClassification и принимает текстовые входы с контекстом до 512 токенов. Модель подходит для определения, выражают ли два предложения одинаковый смысл, например, для сопоставления перефразировок. На оценочной выборке указаны accuracy 0,8235 и F1 0,8792. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0. Языковая специализация в карточке не указана.

Microsoft Florence-2-large — универсальная модель компьютерного зрения и языка с архитектурой Florence-2 и последовательной схемой преобразования входа в выход. В этой карточке размещена продолженная версия предварительно обученной Florence-2-large: в README указано, что для продолжения обучения использовано 0,1 млрд примеров и контекст увеличен до 4 тыс. токенов; авторы предупреждают, что модель могла быть обучена недостаточно хорошо. Размер исходной Florence-2-large указан как 0,77 млрд параметров. Модель принимает изображение и текстовую задачу в виде промпта. Она предназначена для создания подписей к изображениям, обнаружения объектов, локализации областей по тексту, предложений регионов, сегментации и распознавания текста на изображениях, в том числе с привязкой OCR-результатов к областям. Florence-2 обучалась на датасете FLD-5B с 5,4 млрд аннотаций для 126 млн изображений; README приводит результаты оценки для описания изображений и обнаружения объектов, но отдельно отмечает возможное ухудшение качества именно этой продолженно обученной версии. Репозиторий содержит реализацию для Transformers, веса представлены в PyTorch и Safetensors. Лицензия — MIT. Описание не задаёт конкретный набор естественных языков; качество OCR и визуальных предсказаний может зависеть от изображения и задачи.

Модель oliverguhr/fullstop-punctuation-multilingual-sonar-base разработана для восстановления знаков препинания в тексте, в том числе в расшифровках устной речи. Это многоязычная модель XLM-RoBERTa для классификации токенов с 305,2 млн параметров и контекстом до 514 токенов. Она предсказывает точки, запятые, вопросительные знаки, дефисы и двоеточия для английского, немецкого, французского, итальянского и нидерландского языков. Модель подходит для расстановки пунктуации в транскриптах и текстах без пунктуации. В карточке приведены F1-оценки для отдельных классов и отмечено, что качество зависит от знака препинания: дефисы и двоеточия часто можно заменить запятой или точкой. Обучение проводилось на политических выступлениях из Europarl, а для нидерландского использовался SoNaR, поэтому на текстах других тематик результаты могут отличаться. Лицензия — MIT.

Gaston_Yi-1.5-9B-Chat — диалоговая языковая модель, опубликованная baconnier и дообученная на основе 01-ai/Yi-1.5-9B-Chat. Это плотная модель семейства Llama с 8,6 млрд параметров, предназначенная для генерации текста в формате чата. Обучение проводилось с использованием Unsloth и библиотеки TRL. Модель подходит для диалоговых ответов и генерации текста; базовая Yi-1.5-9B-Chat также рассчитана на следование инструкциям, рассуждения, математику и программирование. Поддерживается контекст до 8192 токенов. В карточке указан английский язык и лицензия Apache 2.0.

mlx-community/gemma-3n-E2B-it-lm-4bit — это 4-битная модель в формате MLX, созданная сообществом mlx-community на основе instruction-tuned модели google/gemma-3n-E2B-it, разработанной Google. Конвертация выполнена с использованием mlx-lm версии 0.25.2, поэтому модель предназначена для запуска в экосистеме MLX, в частности на совместимом оборудовании Apple через библиотеку mlx-lm. Модель ориентирована на генерацию текста в диалоговом формате и поддерживает сценарии, связанные с обработкой текста, аудио и видео, включая automatic speech recognition, automatic speech translation и преобразование аудио или видео в текст, согласно указанным в карточке тегам. Обозначение E2B указывает на класс модели примерно в 2 миллиарда параметров, а lm-4bit — на 4-битное квантование, которое обычно уменьшает требования к памяти и ускоряет локальный запуск, но может снижать точность по сравнению с полной версией. README не содержит сведений о точном устройстве архитектуры, максимальной длине контекста, перечне поддерживаемых языков, фактических ограничениях мультимодальной обработки и результатах тестирования. Для использования требуется установить mlx-lm и применять встроенный chat template, если он доступен. Модель распространяется по лицензии Gemma; на Hugging Face необходимо ознакомиться с лицензией Google и подтвердить условия доступа.

Gemma-4-31B-JANG_4M-CRACK-GGUF — набор GGUF-квантизаций модели Gemma-4-31B-JANG_4M-CRACK на базе google/gemma-4-31b-it. Конвертацию и публикацию выполнил douyamv. Модель предназначена для генерации текста и запуска в llama.cpp, LM Studio, Ollama и других совместимых с GGUF средах. Это плотный Transformer Gemma 4 с 31 млрд параметров и 60 слоями, гибридным вниманием Sliding/Global Attention, а также поддержкой текста, изображений и аудио. В карточке указаны английский язык и pipeline text-generation. Модель получила CRACK abliteration, направленную на удаление отказов, и JANG v2 mixed-precision quantization. Доступны варианты от Q3_K_M примерно на 14 ГБ до Q8_0 примерно на 33 ГБ; Q4_K_M заявлен как оптимальный баланс размера и качества, а Q8_0 — как наиболее близкий к исходной модели. Для запуска требуется ориентировочно от 20 до 40 ГБ оперативной памяти в зависимости от варианта квантизации, при рекомендуемом объёме от 24 до 48 ГБ. Качество ограничивается исходной квантизацией JANG v2 и последующей переквантизацией в GGUF, хотя дополнительная потеря качества заявлена как минимальная. У модели удалены защитные ограничения, поэтому её применение требует осторожности и соблюдения законодательства. Распространение регулируется Gemma License.

zeromodels/gemma-4-e2b — конверсия Gemma 4 E2B от Google в формате Keras 3, подготовленная для библиотеки zeromodels. Реализация работает с TensorFlow, PyTorch и JAX; веса хранятся в bfloat16. README указывает 5,1 млрд параметров с учётом эмбеддингов и 2,3 млрд эффективных параметров. Модель принимает изображения, аудио и текст и выдаёт текст; доступен текстовый диалоговый интерфейс. Она подходит для ответов на вопросы по изображениям и аудио, а также для обычной генерации текста. В карточке приведены размер окна скользящего внимания — 512 токенов — и примеры загрузки через Keras 3. Язык, явно указанный в метаданных карточки, — английский. Репозиторий заявлен как дообучение google/gemma-4-E2B, однако описанные изменения представлены как Keras-конверсия. Лицензия — Apache 2.0; за подробностями об условиях использования README отсылает к карточке Google Gemma.

GLM-4.5-Air-4bit — это 4-битная версия модели GLM-4.5-Air, преобразованная сообществом mlx-community в формат MLX из исходной модели zai-org/GLM-4.5-Air с использованием mlx-lm 0.26.0. Модель предназначена для генерации текста и может применяться в сценариях диалогового взаимодействия и других задачах текстовой генерации через библиотеку mlx-lm. В карточке указаны поддерживаемые языки English и Chinese, текстовая модальность и совместимость с MLX. Ключевая особенность — 4-битное представление, ориентированное на запуск в экосистеме MLX; точный размер модели, архитектура, максимальная длина контекста и количественные показатели не приведены. Лицензия — MIT. README не содержит подробностей о сильных сторонах, ограничениях качества или требованиях к аппаратному обеспечению, поэтому эти характеристики нельзя определить по имеющимся данным.

GLM-5.3-Flash-MLX — это сборка официальной модели GLM-5.3-Flash от zai-org, подготовленная OrcaRouter в формате MLX для Apple Silicon и MLX CUDA backend. Модель использует гибридную архитектуру glm5_next со sparse- и linear-attention, Manifold-Constrained Hyper-Connections и разреженной MoE-структурой на 320 млрд параметров всего и 18 млрд активных параметров. Это первая нативно мультимодальная модель серии GLM-5 с поддержкой текста и изображений; заявленные языки — английский и китайский, а pipeline предназначен для задач image-text-to-text и reasoning. Модель подходит для мультимодального анализа, рассуждений, работы с текстом и изображениями, а также для локального запуска на совместимом оборудовании Apple Silicon. Доступны варианты квантизации 2bit-lite, 2, 3, 4 и 6 бит; корневой каталог содержит рекомендуемую 4-битную сборку. Размеры вариантов составляют примерно от 102 до 296 ГБ, а минимальные требования к оперативной памяти — от 112 до 320 ГБ. Для снижения потерь качества применяется архитектурно-ориентированная квантизация OrcaSAQ без калибровочных данных: чувствительные компоненты получают повышенную точность, а ряд компонентов, включая vision tower, linear-attention layers, нормы и другие тензоры, сохраняется в BF16. Преимуществами являются мультимодальность, MoE-архитектура с относительно небольшим числом активных параметров, варианты с разным балансом качества и потребления памяти, а также оптимизация под Apple Silicon. Ограничения связаны с очень высокими требованиями к памяти даже у наиболее компактной сборки; 2- и 3-битные варианты используют агрессивную квантизацию и могут уступать более точным версиям, тогда как 6-битная сборка обеспечивает качество, близкое к FP8. Модель распространяется по лицензии MIT.

ibm-granite/granite-3.3-2b-instruct-GGUF — это набор конвертированных в формат GGUF версий инструкционно дообученной языковой модели IBM Granite 3.3 с базовой моделью объёмом 2 млрд параметров. Модель разработана IBM и предназначена для задач генерации текста и диалогового взаимодействия с инструкциями, включая локальный запуск средствами, поддерживающими формат GGUF. Репозиторий содержит варианты с различными уровнями квантования, однако конкретный набор квантований в карточке не указан. Модель относится к текстовым генеративным моделям; сведения о поддерживаемых языках, размере контекста, точной архитектуре, модальностях и результатах тестирования в предоставленной карточке отсутствуют. Сильными сторонами являются компактный размер базовой модели и доступность в оптимизированном формате GGUF, потенциально удобном для запуска на совместимом локальном оборудовании. Возможные ограничения, характеристики производительности и требования к ресурсам зависят от выбранного варианта квантования и не описаны. Лицензия — Apache 2.0.

K2-Horizon-MoVA-36B-A4B-Apex-Quant GGUF — это набор из трёх квантованных профилей модели K2-Horizon-MoVA-36B-A4B, опубликованный vincespeed на базе моделей IFM. Архитектура представляет собой MoE с механизмом MoVA (Mixture-of-Value Attention): всего около 36 млрд параметров, из которых примерно 4 млрд активируются для каждого токена. Модель предназначена для генерации текста и рассчитана на контекст до 524 288 токенов в режиме обучения, при этом практический диапазон зависит от доступной памяти для KV-кэша. В репозитории доступны профили i-quality размером 23,8 ГБ и 5,47 BPW, i-balanced размером 26,2 ГБ и 6,02 BPW, а также i-compact размером 17,6 ГБ и 4,04 BPW. Первый ориентирован на максимальное качество, второй сохраняет более высокую точность маршрутизируемых экспертов, а третий предназначен для развёртывания при ограниченных ресурсах. Квантование выполнено с использованием Apex-Quant — MoE-ориентированной смешанной точности, учитывающей важность различных групп слоёв. Основные ограничения связаны с совместимостью: для корректной работы требуется специальная ветка llama.cpp от MBZUAI-IFM с дополнительными исправлениями. Стандартная upstream-версия llama.cpp может не загрузить модель или выдавать повторяющиеся и некорректные токены; для Windows также требуется исправление обработки регулярного выражения токенизатора. В README не указаны языки обучения, результаты тестирования или прикладные преимущества по сравнению с исходной моделью. Модель и производные файлы распространяются по лицензии Apache-2.0.

Biggiraffe дообучил диалоговую модель kakaocorp/kanana-1.5-8b-instruct-2505, основанную на плотной архитектуре Llama. Модель содержит 7,5 млрд параметров, принимает текст и генерирует текст; поддерживает контекст до 32 768 токенов и интерфейс вызова инструментов. Модель предназначена для диалогов и генерации текста. Базовая Kanana также рассчитана на программирование, математику и работу с инструментами, однако карточка этого варианта не описывает, как именно дообучение на Persona изменило его поведение или для каких конкретных сценариев оно проводилось. Модель распространяется по лицензии Apache-2.0.

Kimi-Linear-48B-A3B-Instruct-4bit — языковая instruction-модель, разработанная Moonshot AI и преобразованная сообществом mlx-community в формат MLX. Исходная модель — moonshotai/Kimi-Linear-48B-A3B-Instruct; конвертация выполнена с использованием mlx-lm версии 0.28.4. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям, включая сценарии локального запуска через библиотеку mlx-lm на совместимом оборудовании Apple MLX. В README указаны размер исходной модели 48B и конфигурация A3B, а также 4-битное квантование. Поддерживается текстовая модальность; сведения о языках, длине контекста и архитектурных деталях, кроме обозначения Kimi-Linear, не приведены. К сильным сторонам относятся сниженный объём хранения и требования к памяти благодаря 4-битному представлению, а также интеграция с MLX и готовым интерфейсом mlx-lm. Ограничения связаны с зависимостью от экосистемы MLX и отсутствием в предоставленных данных подробных сведений о качестве, производительности, поддерживаемых языках и контексте. Модель распространяется по лицензии MIT.

Kotoba-Whisper-v1.1 — японская модель распознавания речи на базе kotoba-tech/kotoba-whisper-v1.0, разработанная Kotoba Technologies в сотрудничестве с Asahi Ushio. Она использует архитектуру Whisper и насчитывает около 905 млн параметров. Модель принимает аудио и выдаёт японскую транскрипцию; встроенный конвейер добавляет пунктуацию и улучшает временные метки с помощью Stable-ts. Модель предназначена для транскрибирования японской речи, в том числе длинных аудиозаписей, и поддерживает подсказки при распознавании. В README приведено сравнение скорости на 50 минутах речи: версия 1.1 с пунктуацией и временными метками работает медленнее версии 1.0 с отключёнными временными метками. Для использования нужны Transformers версии 4.39 или новее, а также Stable-ts и punctuators. Лицензия — Apache-2.0.

Lelantos-low-tune — объединённая языковая модель на 7,1 млрд параметров от nlpguy, созданная с помощью mergekit методом task arithmetic. В основе объединения лежат DPOpenHermes-7B-v2 и SanjiWatsuki/Lelantos-7B; архитектура — плотная Mistral для авторегрессионной генерации текста. Модель рассчитана на диалог и другие сценарии генерации текста, поддерживает контекст до 32 768 токенов. В README приведены результаты Open LLM Leaderboard: средняя оценка 70,82, включая 67,06 на AI2 Reasoning Challenge и 86,06 на HellaSwag. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Карточка не указывает целевые языки или специализированную область применения.

Leo Hessianai 70B Chat GGUF — это квантованные файлы большой языковой чат-модели, разработанной LAION LeoLM и преобразованной в формат GGUF пользователем TheBloke. Модель предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск через llama.cpp и совместимые графические интерфейсы и библиотеки. В README указана поддержка английского и немецкого языков, а обучение связано с немецкоязычными наборами данных OpenSchnabeltier, OASST-DE, Alpaca GPT-4 Deutsch, Evol-Instruct Deutsch, German Poems и German Songs. Модель основана на архитектуре Llama и содержит около 70 миллиардов параметров. Доступны варианты GGUF с квантованием от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством генерации; при этом более сильное квантование может снижать точность. Для диалогов используется шаблон ChatML. README не указывает размер контекста и модальности, поэтому подтверждённых данных о поддержке изображений или других типов входа нет. Файлы совместимы с llama.cpp начиная с указанной в README версии, а также с рядом сторонних приложений и библиотек для локального запуска на CPU и GPU. Модель распространяется по лицензии Llama 2; конкретные условия этой лицензии следует учитывать при использовании и распространении производных файлов.

LFM2.5-1.2B-Instruct-MLX-bf16 — экспорт инструкционной языковой модели Liquid AI в формате MLX для инференса на устройствах Apple Silicon. Модель использует плотную архитектуру LFM2 и содержит 1,5 млрд параметров по метаданным; в README указаны 1,2 млрд параметров и точность bfloat16. Размер файла составляет 2,2 ГБ. Модель предназначена для генерации текста и диалога. Метаданные указывают контекст до 128 000 токенов и поддержку английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. Репозиторий обозначен как дообучение LiquidAI/LFM2.5-1.2B-Instruct и распространяется по лицензии с пометкой other; конкретные условия следует проверять в карточке модели. Экспорт рассчитан на MLX и Apple Silicon.

YeonwooSung/Llama-3.1-8B-OpenO1-SFT-v0.1 — плотная авторегрессионная языковая модель семейства Llama 3.1, разработанная на основе Meta Llama 3.1 8B Instruct и дообученная методом supervised fine-tuning на датасете O1-OPEN/OpenO1-SFT. Она предназначена для генерации текста и диалогов с пошаговым рассуждением, ответов на вопросы, продолжения текста, суммаризации и творческого письма; особенно ориентирована на задачи рассуждения и математики. Модель содержит 7,5 млрд параметров, принимает текст и выдаёт текст, работает через Transformers и распространяется в формате safetensors. Указанный родной контекст — 131 072 токена. В карточке заявлена поддержка английского языка; базовая модель описана как многоязычная, но конкретные дополнительные языки для этой версии не подтверждены. Лицензия — Apache-2.0. Для запуска в полной точности README рекомендует GPU примерно с 16 ГБ видеопамяти; качество ответов и надёжность пошаговых выводов не подтверждены приведёнными оценками.

Llama-3-8B-Instruct-MopeyMule-IMat-GGUF — это квантизированная GGUF-версия инструкционной языковой модели failspy/Llama-3-8B-Instruct-MopeyMule. Модель подготовлена пользователем legraphista с помощью llama.cpp версии b3056 и предназначена для текстовой генерации и диалогового применения в совместимых инструментах, включая llama.cpp. В README указана поддержка английского языка. Модель основана на архитектуре Llama 3 с 8 млрд параметров; исходный тип данных — BF16. Доступны варианты от BF16 и F16 до Q1–Q8, включая квантизации с применением IMatrix, рассчитанные на снижение требований к памяти при локальном запуске. Для некоторых вариантов доступны файлы размером примерно от 3,18 до 16,07 ГБ. Мультимодальность и размер контекста в предоставленных данных не указаны. Основные преимущества — широкий выбор уровней квантизации, формат GGUF и применение IMatrix для ряда низкоразрядных вариантов, что может облегчать запуск на устройствах с ограниченными ресурсами. Ограничения включают отсутствие сведений о результатах тестирования, точных характеристиках контекста и качестве на конкретных задачах, а также возможное снижение точности при использовании сильной квантизации. Лицензия указана как llama3 с общей категорией other; перед использованием следует проверить условия лицензии исходной модели.

Llama-3-Hercules-5.0-8B — дообученная Locutusque языковая модель на базе Llama 3 8B. Она предназначена для выполнения инструкций, диалогов и вызова функций в научных и технических областях. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст до 8192 токенов; репозиторий содержит веса в формате safetensors. Модель подходит для научно-технических чат-ботов, образовательных помощников, пошаговых объяснений и генерации кода с использованием вызовов функций. В карточке заявлена работа с биологией, химией, физикой, математикой, медициной и информатикой. Сведения о поддерживаемых естественных языках не приведены. Модель может выдавать токсичный контент, галлюцинировать и допускать фактические ошибки, в том числе в специализированных темах; ответы и вызовы функций требуют проверки. Лицензия указана как llama3.

Fischerboot/LLama3-Lexi-Aura-3Some-SLERP-SLERP-Function-calling-SLERP — объединённая модель на архитектуре Llama 3, созданная автором карточки с помощью mergekit и метода SLERP из двух языковых моделей. Она предназначена для диалоговой генерации текста и вызова функций в сценариях, где языковая модель должна формировать ответы и взаимодействовать с инструментами через структурированные вызовы. Веса представлены в формате Safetensors, размер модели — 7,5 млрд параметров, заявленная длина контекста — 8192 токена. В карточке отмечено наличие вызова функций, но автор не уверен, сохранилась ли у модели исходная степень «uncensored» поведения. Язык обучения или основной язык отдельно не заявлен. Лицензия в предоставленных данных не указана.

uygarkurt/llama3s-merged-linear — объединённая модель на базе семейства Llama 3, созданная автором репозитория с помощью mergekit. В README указано, что автор выбрал три модели с высоким рейтингом в Open LLM Leaderboard и объединил их без дополнительного обучения. Архитектура — плотная авторегрессионная модель LlamaForCausalLM примерно на 7,5 млрд параметров; формат весов — safetensors, контекст — до 8192 токенов. Модель предназначена для генерации текста в диалоговом режиме и может использоваться для ответов на запросы, написания черновиков и других задач общения с языковой моделью. Репозиторий распространяется по лицензии MIT. README называет результат «ranking model», однако метаданные относят его к генерации текста; сведений о специальной обученности для ранжирования нет.

Llama-Salad-8x8B-GGUF — это набор GGUF-квантизаций текстовой языковой модели Llama-Salad-8x8B, опубликованный и квантизированный пользователем bartowski. Исходная модель разработана HiroseKoichi. Модель предназначена для генерации текста и локального запуска через llama.cpp или совместимые инструменты инференса. В метаданных указаны архитектура MoE и семейство Llama 3; точное число параметров, размер контекста и список поддерживаемых языков не приведены. Модель работает с текстовой модальностью и использует формат промпта Llama 3 с системными, пользовательскими и ассистентскими сообщениями. Доступно множество вариантов квантизации от Q8_0 до IQ2_XS с размером файлов примерно от 14,33 до 50,47 ГБ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной или видеопамяти, но заметно уступают по качеству; Q6_K, Q5_K_M, Q5_K_S и Q4_K_M обозначены как рекомендуемые. Ключевое преимущество — возможность подобрать компромисс между качеством, скоростью и требованиями к памяти для локального использования. Ограничения включают снижение качества при низких уровнях квантизации и отсутствие в README подробных данных о результатах тестирования, производительности и безопасностных свойствах; модель помечена тегами nsfw и not-for-all-audiences. Лицензия указана как llama3. Квантизации выполнены с использованием llama.cpp release b3086 и метода imatrix.

Это дообученная версия KKHYA/llavaqwen3-1.7b-finetune, разработанная KKHYA. Модель с архитектурой NMMaskMoELLaVAQwen3ForCausalLM содержит 1,7 млрд параметров и предназначена для генерации текста и диалогов. Метаданные указывают на интерфейс вызова инструментов; контекст — до 40 960 токенов. Модель работает через Transformers, веса доступны в форматах PyTorch и safetensors. Она основана на дообученной модели Qwen3, но датасет и дополнительные сведения о сценариях обучения в карточке не раскрыты. Лицензия — Apache-2.0.

llm-jp-3.1-8x13b — большая языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это модель семейства Mixtral с архитектурой Transformer и смесью экспертов: в ней 8 маршрутизируемых экспертов, из которых активируются 2. README приводит около 73,2 млрд общих параметров и около 22,2 млрд активируемых параметров; в метаданных указано 13,2 млрд параметров. Контекст составляет 4096 токенов. Модель продолжает предобучение LLM-jp-3 в режиме Instruction Pre-Training, а также прошла supervised fine-tuning и Direct Preference Optimization. Она предназначена для генерации текста и следования инструкциям, в частности на японском и английском языках. Доступна в формате Safetensors для Transformers. Разработчики предупреждают, что модель находится на раннем этапе исследований и разработок и не настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.