I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельClaudioItaly/Fimbulvetr-Cognitive-11B-V3 — плотная языковая модель семейства Llama, созданная автором репозитория с помощью слияния моделей через passthrough mergekit на основе Sao10K/Fimbulvetr-11B-v2. Модель содержит 10,4 млрд параметров, распространяется в формате safetensors и предназначена для генерации текста, включая диалоговые ответы и задачи, требующие рассуждений и связного понимания текста. Указанный размер контекста — 4096 токенов. Карточка заявляет ориентацию на сложные когнитивные задачи, семантическую связность и рассуждения, однако не приводит результатов сравнительных оценок. Базовая модель описана как ориентированная на английский язык, поэтому английский — основной язык применения. Лицензия в предоставленных данных не указана.
Fireball-Mistral-Nemo-Instruct-emo-PHD — инструктивная языковая модель EpistemeAI2, дообученная на базе unsloth/Mistral-Nemo-Instruct-2407-bnb-4bit. Это плотная трансформерная модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров. В карточке заявлено дообучение на данных с симулированными эмоциями, философией, дедуктивными рассуждениями, математикой и наукой. Модель предназначена для диалоговой генерации текста, рассуждений и ответов на вопросы; также поддерживает интерфейс вызова инструментов. Карточка описывает базовую Mistral Nemo как многоязычную модель с данными по программированию и контекстом 128 тысяч токенов, тогда как метаданные репозитория указывают нативный контекст 1 024 000 токенов. Лицензия — Apache 2.0. README рекомендует низкую температуру генерации, около 0,3.
Firefly-Qwen1.5-en-7b — англоязычный чат-ассистент, разработанный на базе Qwen1.5-7B и дообученный командой Firefly на инструкциях на английском языке. Это плотная авторегрессионная языковая модель семейства Qwen с 7,1 млрд параметров, предназначенная для диалога и генерации ответов. Модель принимает текст и выдаёт текст; для общения используется шаблон чата Qwen1.5-7B-Chat. Контекстная длина по метаданным — 32 768 токенов. Карточка сообщает о результатах оценки на Open LLM Leaderboard и описывает обучение с QLoRA на одной V100, но приведённая таблица результатов относится преимущественно к варианту DPO и не подтверждает независимо заявленное сравнение именно этой модели. Китайский язык может работать благодаря возможностям базовой Qwen1.5, однако авторы его не оценивали; основной язык обучения и применения — английский. Модель распространяется по лицензии Apache-2.0.
FLM-2-52B-Instruct-2407 — инструктивная версия большой языковой модели серии FLM-2 (Tele-FLM), разработанной авторами серии. Модель построена на плотном декодерном трансформере в стиле GPT и содержит 52,2 млрд параметров. В архитектуре используются RoPE, RMSNorm и SwiGLU; длина контекста составляет 2048 токенов. Модель предназначена для диалогов и генерации текста по инструкциям: ответы на вопросы, рассуждения, математика, письмо и ролевые сценарии. В README приведена оценка китайского языка на AlignBench по нескольким категориям, включая логику, математику и профессиональные знания. В метаданных также заявлена задача извлечения признаков, однако карточка описывает прежде всего инструктивную языковую модель. Репозиторий содержит веса PyTorch. README не сообщает лицензию, поэтому условия использования по доступным сведениям определить нельзя. Контекст ограничен 2048 токенами; результаты AlignBench относятся к китайскому языку и сами по себе не подтверждают качество во всех языках и сценариях.
Flora DPO — языковая модель ResplendentAI на архитектуре Mistral с 7,1 млрд параметров, дообученная методом DPO на наборах mlabonne/chatml_dpo_pairs и ResplendentAI/Synthetic_Soul_1k. Модель предназначена для генерации текста и диалоговых ответов; карточка приводит результаты оценивания на задачах рассуждения и понимания текста. Поддерживает английский язык и контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Лицензия — CC BY-SA 4.0. README упоминает доступные квантизованные версии, но не уточняет их формат и расположение.
Gemma-2-JPN — текстовая авторегрессионная модель семейства Gemma 2, разработанная Google и дообученная на японских текстах на базе google/gemma-2-2b-it. Модель с открытыми весами предназначена для генерации текста и диалогового взаимодействия на японском языке; её можно применять для ответов на вопросы, суммаризации, создания текстов и языковой практики. Архитектура — decoder-only, формат весов — bfloat16; для работы с моделью предусмотрена библиотека Transformers. Модель поддерживает ввод и вывод текста. В карточке заявлено, что её качество на запросах на японском сопоставимо с качеством Gemma 2 на английских запросах. Весовая лицензия Gemma распространяется на использование модели, однако применяются условия и ограничения политики допустимого использования Gemma. Модель может воспроизводить смещения, ошибаться в фактах, плохо справляться со сложными неоднозначными запросами и генерировать вредоносный или вводящий в заблуждение текст.
Карточка модели Srishtik/gemma-3-270m-ties-merged-trained-on-responses на Hugging Face совпадает с карточкой Srishtik/gemma-3-270m-slerp-merged-trained-on-responses, поэтому описание составлено по ней. Srishtik дообучил текстовую модель Gemma 3 на 257 млн параметров на основе unsloth/gemma-3-270m-it. Она предназначена для диалогов и генерации текста; метаданные также указывают на поддержку чата. Модель использует плотную архитектуру Gemma3ForCausalLM, принимает текст и выдаёт текст, поддерживает английский язык и контекст до 32 768 токенов. В репозитории указаны веса Safetensors и лицензия Apache 2.0. README сообщает, что обучение выполнялось с Unsloth.
Это смешанно-квантованная версия Gemma 4 12B IT, подготовленная автором репозитория на основе google/gemma-4-12b-it для локального инференса. Модель использует плотную унифицированную мультимодальную архитектуру Gemma4Unified: 48 слоёв с гибридным скользящим и полным вниманием. Матрицы проекций MLP квантованы до 8 бит с размером группы 64, а внимание, башни зрения и аудио, эмбеддинги и другие компоненты оставлены в BF16. По данным README, контекст составляет 262 144 токена. Модель предназначена для диалогов и работы с текстом и изображениями; в README также заявлена поддержка аудио и видео через общий процессор. Сохранение мультимодальных компонентов в BF16 призвано поддержать качество обработки соответствующих входов, а частичная квантовка уменьшает требования к памяти при локальном запуске. Модель доступна под лицензией Apache-2.0. Ограничения: квантование может немного снизить качество на отдельных примерах; README отмечает возможные ограничения понимания сложного аудио из-за простой линейной аудиопроекции. Для ускоренного спекулятивного декодирования MTP нужна дополнительная модель-помощник; совместимость некоторых полей конфигурации со стабильными версиями Transformers может быть ограничена.
Это GGUF-версия Gemma 4 31B — плотной мультимодальной модели Google, подготовленная пользователем satgeze на основе HauhauCS/Gemma4-31B-QAT-Uncensored-HauhauCS-Balanced-MTP. Веса заявлены как битово идентичные исходному выпуску HauhauCS; для базовой модели и QAT указывается Google. Модель предназначена для генерации текста, работы с очень длинными контекстами и анализа изображений в средах llama.cpp и Ollama. Она поддерживает чтение текста на изображениях и распознавание объектов, однако языки в README не указаны. Основной файл содержит 31B-параметрную модель с 4-битным QAT-квантизованием и встроенным масштабированием контекста до 1 048 576 токенов против исходных 262 144. Заявлена проверка Needle-in-a-haystack с результатом 10/10 на длинах от 262K до 1M токенов; эти результаты получены на одной H200 с F16 KV-кэшем и не являются универсальной гарантией для других конфигураций. Дополнительная MTP draft head поддерживает speculative decoding с заявленным ускорением до 46%, а отдельный vision tower обеспечивает мультимодальный ввод. Сильные стороны модели — сверхдлинный контекст, поддержка изображений, speculative decoding и готовность к запуску в llama.cpp. Ограничения включают высокие требования к памяти и времени обработки длинных запросов: для 1M токенов 31B-модели с F16 KV требуется около 82 ГБ KV-кэша. Качество «uncensored» и базовые возможности отдельно и независимо не бенчмаркались в представленном README; также не приведены сведения о поддерживаемых языках. Распространение осуществляется по лицензии Gemma, условия которой распространяются на эти файлы.
Gemma 4 E2B CoreAI — текстовая decoder-модель, экспортированная пользователем mlboydaisuke из базовой модели google/gemma-4-E2B-it для запуска через Apple Core AI на устройствах с iOS 27 и macOS 27. Модель предназначена для локальной генерации текста, диалоговых сценариев, суммаризации и офлайн-ассистентов; интеграция возможна через CoreAIKit и Swift. Поддерживаются GPU и Neural Engine Apple, включая iPhone и Mac, без обязательной отправки данных на сервер. Опубликованы квантизированные варианты с int4 и int8, включая конфигурации с пользовательскими Metal-ядрами для GPU и отдельные варианты для Neural Engine. Размер загружаемого комплекта составляет около 4,9 ГБ, а заявленная скорость декодирования достигает 22 токенов/с на iPhone 17 Pro и 56,6–59 токенов/с на M4 Max в Release-сборке; показатели зависят от платформы и конфигурации. В README не указаны языки, размер контекстного окна и точные архитектурные параметры. Модель рассчитана на экосистему Apple, требует iOS 27 или macOS 27 и может нуждаться в повышенном лимите памяти на iPhone. Лицензия указана как Apache-2.0, при этом для Gemma приведена отдельная ссылка на условия Google.
QuantTrio/GLM-4.1V-9B-Thinking-AWQ — это AWQ-квантизированная версия визуально-языковой модели GLM-4.1V-9B-Thinking, разработанной ZhipuAI на базе GLM-4-9B-0414. Модель предназначена для генерации текста и решения задач, требующих совместного анализа изображений и текста, включая сложное рассуждение, понимание контекста и мультимодальные агентные сценарии. Модель содержит около 9 млрд параметров, поддерживает текстово-визуальный ввод, китайский и английский языки, контекст длиной до 64 тысяч токенов, изображения с произвольным соотношением сторон и разрешением до 4K. Версия AWQ занимает около 6,9 ГБ и ориентирована на запуск с использованием vLLM; в README указана поддержка tensor parallel size 1, 2 и 4. К сильным сторонам относятся специализированное reasoning-обучение с использованием Chain-of-Thought и высокие результаты на мультимодальных бенчмарках. Ограничения включают необходимость совместимых версий vLLM и специализированной сборки для запуска, а также отсутствие в README подробных характеристик квантирования и результатов практического тестирования. Модель распространяется по лицензии MIT.
JANGQ-AI/GLM-5.3-Flash-JANG-MTP — квантованный вариант GLM-5.3-Flash, подготовленный Jinho Jang для запуска на компьютерах Apple Silicon с 128 ГБ памяти через MLX. Это модель семейства glm5_next с архитектурой MoE примерно на 300 млрд параметров и поддержкой изображений и видео. Веса занимают около 95,5 ГиБ; в репозитории указаны контекст до 1 млн токенов и сохранённый слой multi-token prediction для самоспекулятивного декодирования. Модель предназначена для диалога, рассуждений и агентных сценариев с использованием инструментов, а также для обработки визуальных входов. Разработчик сообщает о проверке качества квантования на отложенных промптах и о сохранении параметров внимания, маршрутизации и gating в 8-битном или полном формате. Однако заявленный runtime vMLX ещё не выпущен, и, согласно карточке, сейчас модель корректно загружается только во внутренней среде оценки; ускорение от MTP пока ожидаемое, а не подтверждённое в доступном runtime. Лицензия — MIT. Карточка описывает английский язык; сведения о других поддерживаемых языках не приводятся.
GLM-5.3-Flash-MLX — это сборка официальной модели GLM-5.3-Flash от zai-org, подготовленная OrcaRouter в формате MLX для Apple Silicon и MLX CUDA backend. Модель использует гибридную архитектуру glm5_next со sparse- и linear-attention, Manifold-Constrained Hyper-Connections и разреженной MoE-структурой на 320 млрд параметров всего и 18 млрд активных параметров. Это первая нативно мультимодальная модель серии GLM-5 с поддержкой текста и изображений; заявленные языки — английский и китайский, а pipeline предназначен для задач image-text-to-text и reasoning. Модель подходит для мультимодального анализа, рассуждений, работы с текстом и изображениями, а также для локального запуска на совместимом оборудовании Apple Silicon. Доступны варианты квантизации 2bit-lite, 2, 3, 4 и 6 бит; корневой каталог содержит рекомендуемую 4-битную сборку. Размеры вариантов составляют примерно от 102 до 296 ГБ, а минимальные требования к оперативной памяти — от 112 до 320 ГБ. Для снижения потерь качества применяется архитектурно-ориентированная квантизация OrcaSAQ без калибровочных данных: чувствительные компоненты получают повышенную точность, а ряд компонентов, включая vision tower, linear-attention layers, нормы и другие тензоры, сохраняется в BF16. Преимуществами являются мультимодальность, MoE-архитектура с относительно небольшим числом активных параметров, варианты с разным балансом качества и потребления памяти, а также оптимизация под Apple Silicon. Ограничения связаны с очень высокими требованиями к памяти даже у наиболее компактной сборки; 2- и 3-битные варианты используют агрессивную квантизацию и могут уступать более точным версиям, тогда как 6-битная сборка обеспечивает качество, близкое к FP8. Модель распространяется по лицензии MIT.
Vontra/GLM-5.3-Flash-MLX-2bit-MTP — это конвертированная и гибридно квантованная версия мультимодальной модели GLM-5.3-Flash от Z.ai, подготовленная Vontra для Apple Silicon на базе MLX. Модель предназначена для генерации текста и работы с изображениями в совместимых MLX- и VLM-средах, включая oMLX. Заявлены английский и китайский языки. Модель использует архитектуру glm5_next с разреженной смесью экспертов (MoE), чередованием KDA-линейного и разреженного внимания, vision encoder и одним нативным NextN/MTP-слоем для спекулятивного декодирования. Объём параметров составляет 320 млрд, из них 18 млрд активны при обработке запроса; заявленный контекст — до 1 048 576 токенов. Чекпойнт хранится в MLX safetensors и занимает около 111,3 ГБ. Квантование выполнено по гибридной схеме: основные экспертные веса имеют точность 2 бита, отдельные проекции — 8 или 4 бита, а чувствительные компоненты, включая vision encoder, projector, эмбеддинги и выходную голову, сохранены в BF16. К сильным сторонам относятся существенное уменьшение размера весов, поддержка мультимодальных сценариев, сохранённый нативный MTP и совместимость с экосистемой Apple MLX. В тесте на Apple M3 Studio включение MTP повысило скорость декодирования с 6,063 до 6,257 токена в секунду при совпадении результатов. Производительность и прирост от MTP зависят от оборудования, запроса и степени принятия черновых токенов. Для работы требуется runtime с поддержкой архитектуры glm5_next, нативного MTP и покомпонентных метаданных квантования MLX; указаны совместимые версии oMLX 0.6.3rc3, MLX 0.32.0, mlx-lm 0.31.3 и mlx-vlm 0.6.3. Лицензия — MIT.
Vontra/GLM-5.3-Flash-MLX-4bit-MTP — MLX-конверсия модели GLM-5.3-Flash от Z.ai, подготовленная для Apple Silicon. Это мультимодальная sparse MoE-модель архитектуры glm5_next с поддержкой текста и изображений, рассчитанная на работу с английским и китайским языками. Модель распространяется в формате MLX safetensors и сохраняет оригинальные токенизатор, chat template, мультимодальный процессор и настройки генерации. Модель предназначена для локальной генерации текста и обработки изображений в совместимых окружениях MLX и MLX-VLM. Она использует гибридное линейное и разреженное внимание, manifold-constrained hyper-connections и встроенный блок предсказания следующего токена для speculative decoding (native MTP). Заявленный контекст составляет до 1 048 576 токенов. Квантование выполнено методом weight-only post-training quantization: основные подходящие матрицы переведены в 4-bit с group size 64, тогда как vision encoder, projector, embeddings, output head и часть служебных тензоров сохранены в исходной или совместимой точности. К сильным сторонам относятся мультимодальность, очень длинный контекст, поддержка sparse MoE, оптимизация под Apple Silicon и существенное уменьшение размера весов по сравнению с полноточной моделью. Репозиторий занимает около 181,7 ГБ, поэтому для запуска требуется значительный объём объединённой памяти. Native MTP требует специальной интеграции GLM5 Next в runtime; проверена работа с oMLX 0.6.3rc3, MLX 0.32.0 и MLX-VLM 0.6.3 с соответствующей поддержкой. Старые или стандартные сборки без этой интеграции могут работать только без MTP либо не поддерживать модель. Приведённый тест на Apple M3 Ultra показал около 6,27 токена в секунду при отключённом MTP, но фактическая производительность зависит от нагрузки и окружения. Лицензия — MIT.
Vontra/GLM-5.3-Flash-MLX-oQ2-MTP — это MLX-конверсия и квантованная версия мультимодальной модели GLM-5.3-Flash, разработанной Z.ai. Модель предназначена для генерации текста и изображений, обработки языковых и визуальных запросов, а также локального запуска на компьютерах Apple Silicon через MLX и совместимые компоненты oMLX. Заявлены поддерживаемые языки английский и китайский. Модель использует архитектуру glm5_next с разреженной Mixture-of-Experts, гибридным линейным и разреженным вниманием и контекстом до 1 048 576 токенов. Применена посттренировочная weight-only-квантизация sensitivity-guided oQ2 со смешанной точностью и эффективным распределением около 2,67 бита на вес. Большинство весов имеют точность Q2 или Q8, отдельные компоненты — Q4, а зрительный энкодер и проектор сохранены в BF16. Репозиторий содержит 22 файла весов общим объёмом около 110 ГБ. Вариант сохраняет встроенный слой предсказания следующего токена и поддерживает Native MTP с глубиной 1, что может повышать пропускную способность. Однако MTP указан как экспериментальный: в проверенном окружении результаты были связными, но не полностью совпадали с базовым режимом, поэтому для точной детерминированной воспроизводимости его следует отключать. Совместимость проверена с oMLX 0.6.3rc3, MLX 0.32.0, mlx-lm 0.31.3 и mlx-vlm 0.6.3; другие версии могут не поддерживать необходимые пути glm5_next, oQ и Native MTP. Модель распространяется по лицензии MIT.
GPT-OSS-Nano — компактная языковая модель с архитектурой Mixture of Experts, опубликованная пользователем squ11z1 и дообученная на базе openai/gpt-oss-20b. Модель ориентирована на пошаговое рассуждение и решение задач, включая математические вопросы, объяснение концепций и общий текстовый диалог. Для обучения использовались QLoRA, Unsloth и TRL на наборе Superior-Reasoning с примерами цепочек рассуждений. Модель содержит около 9 млрд параметров, из которых примерно 3 млрд активируются на каждом проходе. Архитектура включает 12 экспертов, 4 активных эксперта на токен, 24 слоя, скрытое измерение 2880, 64 attention heads с 8 KV-головами и GQA. Заявлена поддержка контекста до 131 072 токенов и точности BFloat16. Основной язык — английский; качество на других языках может варьироваться. Доступны форматы GGUF для локального запуска через llama.cpp и Ollama, а также интеграция с Transformers и 4-битной загрузкой через Unsloth. Сильными сторонами модели являются относительно экономичное разреженное вычисление, большой контекст и специализация на пошаговом reasoning. Ограничения включают преимущественно англоязычную оптимизацию, риск правдоподобных ошибок и непригодность для критически важных сценариев без дополнительной проверки. Модель распространяется по лицензии Apache-2.0.
GPT-SW3 1.3B Instruct — авторегрессионная языковая модель на архитектуре decoder-only Transformer, разработанная AI Sweden совместно с RISE и WASP WARA for Media and Language. Это версия семейства GPT-SW3 с 1,3 млрд параметров, дообученная на инструкционных данных в форматах диалога и обычного текста; базовая модель предварительно обучалась на 320 млрд токенов, включая шведский, норвежский, датский, исландский, английский языки и программный код. Модель предназначена для генерации связного текста и выполнения инструкций, представленных как текстовые запросы. Её можно применять для диалоговых помощников, черновиков и ответов на вопросы на поддерживаемых языках, а также для языковых задач, сведённых к генерации текста. Метаданные указывают поддержку чата и задачи text-generation; репозиторий содержит веса PyTorch и Safetensors. Модель может воспроизводить предвзятость данных обучения, выдавать галлюцинации, нерелевантные или повторяющиеся ответы, а также небезопасный, оскорбительный или неподходящий для некоторых аудиторий контент. Лицензия указана как other; README называет модифицированную лицензию RAIL.
Granite-4.2-30B (NVFP4) — вариант модели Granite-4.2-30B, разработанный IBM и опубликованный в формате для библиотеки Transformers. Репозиторий содержит NVFP4-версию базовой модели ibm-granite/granite-4.2-30b, однако README не раскрывает её архитектуру, размер контекста, языки, модальности и конкретные сценарии применения. Модель предназначена для задач обработки естественного языка и использования в совместимых приложениях на базе Transformers. Ключевая характеристика данного варианта — представление NVFP4, которое может быть ориентировано на более эффективное хранение и выполнение модели, но README не содержит измерений производительности, требований к оборудованию или описания ограничений этого формата. Модель распространяется по лицензии Apache-2.0.
GreatRag-13B-slerp — языковая модель для генерации текста, созданная как слияние inception-mbzuai/jais-13b и google/gemma-2b методом SLERP с помощью LazyMergekit. Модель использует плотную архитектуру LlamaForCausalLM и распространяется в формате Safetensors; в метаданных указаны 6,6 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста и может применяться для диалогов, ответов на вопросы и суммаризации. В составе слияния есть Jais и Gemma; описание и метаданные не уточняют языковое покрытие или преимущества именно этого слияния. Лицензия в предоставленных данных не указана.
IndicBART-XLSum — многоязычная модель типа sequence-to-sequence на архитектуре mBART, разработанная AI4Bharat для работы с индийскими языками. Она обучена на индийской части корпуса XLSum и предназначена прежде всего для суммаризации текста на бенгальском, гуджарати, хинди, маратхи, пенджаби, тамильском и телугу. Размер модели — 166,2 млн параметров, длина контекста — 1024 токена; модель использует отдельную письменность каждого языка без преобразования в деванагари. Модель подходит для создания кратких изложений и обработки новостных текстов на поддерживаемых языках. По сравнению с mBART и mT5-base она меньше и требует меньше вычислительных ресурсов при дообучении и генерации. В README приведены результаты ROUGE для части языков XLSum. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
IndoBART-v2 — предварительно обученная языковая модель для индонезийского языка, разработанная командой авторов IndoBART и основанная на архитектуре BART. Модель обучена на текстовом корпусе Indo4B-Plus объёмом 26 ГБ с использованием стандартной для BART задачи предобучения. В метаданных указаны архитектура mBART, класс MBartForConditionalGeneration, 87,3 млн параметров и контекст до 1024 токенов. Модель предназначена для задач преобразования текста, в частности для генерации и обработки индонезийского текста в сценариях text-to-text; её можно дообучать под конкретные задачи. Репозиторий содержит веса PyTorch. Лицензия — MIT. README приводит иное число параметров — 132 млн, поэтому размер модели в источниках расходится.
Infinity-Instruct-7M-Gen-Llama3.1-8B — языковая модель Пекинской академии искусственного интеллекта (BAAI), дообученная методом supervised instruction tuning на наборах Infinity-Instruct-7M и Infinity-Instruct-Gen. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалогов и выполнения текстовых инструкций. Она использует шаблон чата Llama 3 Instruct и поддерживает контекст длиной 8192 токена. Модель рассчитана на генерацию ответов и следование инструкциям в общих пользовательских сценариях. По заявлению разработчиков, она показала результаты на AlpacaEval 2.0, сопоставимые с GPT-4; в README также указано, что модель обучалась без RLHF. Карточка приводит английский как язык модели. Модель доступна в формате safetensors под лицензией llama3.1; проект ограничивает использование академическими исследованиями и запрещает коммерческое применение. Разработчики не гарантируют точность ответов.
ClaudioItaly/Intelligence-7Ties — объединённая языковая модель, созданная автором репозитория с помощью mergekit методом TIES. В качестве основы использована happzy2633/qwen2.5-7b-ins-v3, также в объединение включена AIDC-AI/Marco-o1. Модель имеет плотную архитектуру Qwen2 и около 7,1 млрд параметров; веса опубликованы в формате safetensors, библиотека для работы — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на вопросы, составления текстов и других задач, решаемых генеративной языковой моделью. Заявленная длина контекста — 32 768 токенов. Данных о специальных языковых или предметных специализациях в карточке нет. Лицензия в предоставленных данных не указана. Качество и ограничения объединённой модели отдельно не описаны; поведение может отличаться от исходных моделей.
inception42/jais-family-1p3b — двуязычная языковая модель семейства Jais, опубликованного Inception Institute of Artificial Intelligence. Семейство включает модели, обученные с нуля, и варианты, адаптированные на основе Llama 2; README не уточняет, к какой группе относится этот чекпойнт и каков его точный размер. Модель предназначена для генерации текста на арабском и английском языках. Её можно использовать как основу для чат-ассистентов, суммаризации двуязычных документов, анализа тональности и исследований арабского NLP. В репозитории указаны архитектура causal decoder и веса Safetensors; для загрузки требуется пользовательский класс модели и параметр trust_remote_code=True. Модель может ошибаться, воспроизводить смещения и выдавать оскорбительный или вводящий в заблуждение текст. Она оптимизирована для арабского и английского, поэтому её качество на других языках не гарантируется; для важных решений требуется проверка человеком. Лицензия — Apache 2.0.
Jais Family — семейство двуязычных языковых моделей, разработанное Inception и Cerebras Systems. Репозиторий inception42/jais-family-256m содержит текстовую авторегрессионную модель семейства JAIS для генерации текста; в метаданных указана архитектура JAISLMHeadModel, плотная архитектура и контекст до 2048 токенов. README описывает семейство, обученное с нуля или адаптивно на основе Llama 2, однако не уточняет размер 256M и вариант происхождения именно этой модели. Модель ориентирована на арабский язык (современный литературный арабский) и английский. Её можно применять для генерации текста, диалогов, суммаризации двуязычных документов и языковых задач NLP. Веса доступны в формате safetensors, лицензия — Apache 2.0. Модель может выдавать ошибочные, вводящие в заблуждение или предвзятые ответы; результаты требуют проверки. Она не предназначена для высокорисковых решений без человеческого контроля и может работать хуже на других языках и диалектах. Для загрузки README указывает на необходимость включить trust_remote_code=True.
Kaori-34B-v1 — текстовая генеративная модель семейства Llama, дообученная Kaeri и Jenti методом SFT с LoRA. Для обучения использованы набор Open-Platypus и 5% данных Dolphin; авторы также сообщают о фильтрации обучающих примеров, связанных с рядом тестов рассуждения и понимания текста. Модель предназначена для генерации ответов и выполнения текстовых инструкций в сценариях общего назначения. Она содержит 33,9 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. В репозитории указаны веса safetensors и лицензия Llama 2. Карточка не приводит оценки качества или конкретных гарантий по точности.
KARAKURI LM 70B Chat v0.1 — диалоговая языковая модель компании KARAKURI Inc., дообученная на базе KARAKURI LM 70B, которая, в свою очередь, основана на Llama 2 и дополнительно обучалась на японских и многоязычных корпусах. Это плотный авторегрессионный трансформер с архитектурой Llama, содержащий 68,8 млрд параметров и поддерживающий контекст до 4096 токенов. Модель предназначена для многошагового диалога, ответов на вопросы и генерации текста на японском и английском языках. При дообучении применялась техника SteerLM, а обучающие данные включали OASST2, HelpSteer и внутренние диалоговые данные; шаблон позволяет задавать атрибуты ответа, такие как полезность, корректность, подробность и креативность. Разработчик сообщает о высоких результатах на японском MT-Bench и сопоставимом с Llama 2 70B Chat качестве на английском MT-Bench. Модель распространяется в формате safetensors через Transformers. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели; конкретные условия в доступных данных не раскрыты. Размер модели требует значительных вычислительных ресурсов, а доступный контекст ограничен 4096 токенами.
Это неофициальная community-квантизация в формате GGUF модели Kimi-Linear-48B-A3B-Instruct, разработанной Moonshot AI. Квантизация выполнена с использованием метода APEX и предназначена для запуска через llama.cpp; модель не связана с Moonshot AI и не endorsed этой организацией. Модель представляет собой гибридную MoE-архитектуру с 48 млрд параметров всего и примерно 3 млрд активных параметров. В большинстве слоёв используется KDA (Kimi Delta Attention, gated-delta linear attention), а в отдельных слоях — полноценное MLA-внимание; FFN построен на 256 маршрутизируемых и одном общем эксперте. Заявленное окно контекста достигает 1 048 576 токенов, однако размер контекста необходимо явно задавать при запуске. Модель предназначена для генерации текста, диалогов и сценариев с инструментами; README не указывает перечень поддерживаемых языков. Доступны варианты APEX-balanced, APEX-i-quality и экспериментальный APEX-handroll. Рекомендуется APEX-balanced: его размер около 33 ГБ, тогда как i-quality занимает около 29 ГБ и показывает увеличение perplexity примерно на 0,34% относительно эталонной версии bf16. Ключевое преимущество — существенное уменьшение размера при сохранении качества, но для работы требуются сборка llama.cpp с поддержкой архитектуры kimi_linear и kimi-k2 pre-tokenizer, а также значительные ресурсы RAM/VRAM. Лицензия MIT распространяется на компоненты, указанные в README.
L3.1-70b-Milasha — чат-модель, созданная KaraKaraWitch как слияние пяти моделей семейства Llama 3.1 с помощью LazyMergekit. Она предназначена для диалога и генерации текста в формате Llama 3 Instruct; при слиянии MeowMix использовалась для усиления языковых возможностей в китайском, японском и корейском языках. Модель имеет плотную архитектуру LlamaForCausalLM, содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель подходит для многоходовых бесед и генерации текста с длинным контекстом. Веса доступны в формате safetensors. Лицензия CC BY-NC 4.0 допускает использование с указанием авторства, но запрещает коммерческое использование. README не содержит подробной оценки качества или перечня ограничений; заявленный акцент на CJK-языках относится к усилению языковых возможностей при слиянии.