I.3Извлечение и структурирование данных

DeepSeek-V4-Flash-IQ2XXS-TM64-Q4KAttention-v1 — локальная GGUF-сборка базовой модели DeepSeek-V4-Flash-0731 от deepseek-ai. Пакет подготовлен erayyapagci на основе квантизаций из репозиториев antirez и Ralii и предназначен для запуска через специализированную ветку llama.cpp с Vulkan. Модель ориентирована на генерацию текста и диалоговые сценарии на английском и китайском языках. Основная модель использует разреженную экспертную архитектуру с 86 тензорами routed experts в формате IQ2_XXS/Q2_K, а также Q4_K-квантизацию attention-слоя. Ключевая особенность — альтернативная раскладка TM64 для экспертных тензоров и соответствующие Vulkan-ядра. В комплект входит отдельная draft-модель DSpark размером около 10 ГБ для speculative decoding; основной файл занимает около 79 ГБ. Заявлена поддержка контекста до 409 600 токенов на слот, а в многослотовых конфигурациях — до 1 228 800 токенов. Сильные стороны сборки — уменьшенный размер по сравнению с полноточной моделью, возможность локального запуска, ускорение prompt processing примерно на 14,86% и decode примерно на 2,50% в приведённых тестах, а также проверенная эквивалентность результатов стандартному пути. TM64 оптимизирована прежде всего для AMD/RADV/RDNA3, включая Strix Halo с устройством gfx1151; на других устройствах могут применяться стандартные ядра IQ2_XXS или потребуется конвертация. Для работы необходимы оба файла и совместимый специализированный runtime llama.cpp. В метаданных репозитория указана лицензия MIT, однако README уточняет, что для исходной модели действует её оригинальная лицензия.

Alcoft/dnotitia_Smoothie-Qwen3-14B-GGUF — набор GGUF-квантизованных версий языковой модели dnotitia/Smoothie-Qwen3-14B. Модель предназначена для генерации текста, диалогов, чат-сценариев и задач, требующих рассуждений. В карточке указана текстовая модальность и поддержка английского языка; размер исходной модели — 14 млрд параметров. Доступны варианты квантования от Q2_K до Q8_K с размером файлов примерно от 5 до 14 ГБ. Более низкие варианты требуют меньше памяти, но характеризуются низким или очень низким качеством; варианты Q4_K_M и выше отмечены как подходящие для большинства сценариев, а Q5 и Q6 — как обеспечивающие высокое или очень высокое качество. Некоторые расширенные варианты используют Q8_0 или F16 для выходных и embedding-слоёв. Сильной стороной набора является широкий выбор компромиссов между требованиями к памяти и качеством генерации, а формат GGUF удобен для локального запуска в совместимых инструментах. Ограничения включают снижение качества при агрессивном квантовании, отсутствие сведений о размере контекста, архитектурных деталях, производительности и дополнительных языках. Модель распространяется по лицензии Apache-2.0.

Dream-v0-Instruct-7B — инструктивная версия языковой модели Dream 7B, разработанная Dream-org. Это плотная модель на 7,1 млрд параметров, построенная как диффузионная большая языковая модель. Она предназначена для диалогов и генерации текста; в метаданных также заявлен интерфейс для вызова инструментов. Модель работает через библиотеку Transformers, веса доступны в формате safetensors, а контекстное окно составляет 131 072 токена. Модель подходит для генерации ответов и ведения диалогов на основе текстовых запросов. Карточка не приводит сведения о поддерживаемых языках, обучающих данных или конкретных ограничениях качества. Лицензия Apache 2.0.

ECE-PRYMMAL1B-FT-V1 — компактная диалоговая языковая модель, разработанная Юри Лаленом (Youri Lalain) при участии инженерной школы ECE. Она создана дообучением LilRg/ECE-1B-merge-PRYMMAL на наборе инструкций mosaicml/instruct-v3 и предназначена для генерации текста, выполнения инструкций и решения задач, требующих рассуждений. Модель построена на плотной архитектуре Qwen2, содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Она работает с текстом, поддерживает диалог и интерфейс вызова инструментов; опубликованные веса представлены в формате safetensors и рассчитаны на библиотеку Transformers. Результаты на Open LLM Leaderboard в карточке включают среднее значение 11,80, IFEval 21,44 и BBH 16,19; эти показатели сами по себе не гарантируют качество на пользовательских задачах. Лицензия Apache-2.0 допускает использование на её условиях. Карточка не уточняет поддерживаемые естественные языки; языковую надёжность следует проверять на целевых данных.

Edge0-8B-A1B-preview — языковая модель класса 8B со sparse Mixture-of-Experts, разработанная командой Edge0-AI на базе inclusionAI Ling 3.0 tiny. Модель предназначена для генерации текста, многоязычного чата и задач рассуждения на устройствах с ограниченной памятью, включая edge-устройства, телефоны и локальное пакетное обслуживание. Поддерживает режим рассуждения через чат-шаблон. Модель содержит около 7,9 млрд параметров, из которых примерно 1,2 млрд активны для каждого токена. Архитектура включает 24 слоя, 128 экспертов с активацией 8 экспертов на токен, hidden size 1536 и контекст до 128k токенов. Используется 4-битная квантизация, а комплект поставки включает базовый checkpoint, Recover-LoRA и prerouter-адаптеры. Благодаря потоковой подгрузке экспертных весов с SSD и предсказанию маршрутизации заявлены пиковое активное потребление памяти около 1 ГиБ и скорость декодирования 23,9–25,3 токена/с на Mac mini M4 Pro. Модель сохраняет близкое к FP16-базе качество после квантизации: средний результат в приведённых тестах OpenCompass составляет 69,9 против 72,7 у базовой модели, при этом на MMLU-Pro результат выше базового. Ограничения включают статус раннего preview-релиза, слабую оптимизацию для агентских сценариев, инструментального использования и многошагового планирования, а также преимущественную настройку под языки базовой модели. MLX-бэкенд в текущей версии ориентирован на Apple Silicon. Модель распространяется по лицензии Apache 2.0 и рассчитана на использование с фреймворком edge0.

Eurydice 24b v3 — диалоговая языковая модель от Aixon Lab, созданная дообучением Mistral Small 3.1 24B Instruct. Это плотная трансформерная причинная модель с 23,4 млрд параметров и контекстом до 131 072 токенов. Она предназначена для многосторонних диалогов, генерации текста, ответов на вопросы и анализа; автор отмечает сильные стороны в понимании контекста, творческом письме, естественном общении и рассказывании историй. Модель принимает текст и генерирует текст. В карточке основным языком назван английский; также может поддерживаться ряд других языков. Модель опубликована в формате Safetensors под лицензией Apache 2.0. Результаты сравнительных оценок не приведены. Возможны смещения и ошибки, поэтому ответы следует проверять.

Experiment26Neuralsirkrishna_Strangemerges_32Strangemerges_30 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_32Strangemerges_30-7B. Она предназначена для генерации текста и диалогов; архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Сведения о конкретных языках и специализированных областях применения в предоставленных материалах отсутствуют.

Experiment28M7_Experiment27Shadow — объединённая языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/Experiment28M7-7B и automerger/Experiment27Shadow-7B. Она предназначена для генерации текста и принимает текстовые запросы, продолжая их в виде текста. Модель поддерживает контекст длиной до 32 768 токенов. Опубликована в формате safetensors и распространяется по лицензии Apache 2.0. Данных о специализации на конкретных языках или прикладных областях в карточке нет.

MaziyarPanahi/Experiment28M7_T3qm7xExperiment26 — объединённая методом SLERP модель семейства Mistral для генерации текста. Она создана на основе automerger/Experiment28M7-7B и automerger/T3qm7xExperiment26-7B и содержит 7,1 млрд параметров. Модель принимает текстовые запросы и генерирует текст; контекст составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Карточка не уточняет специализацию по языкам или прикладным областям. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28M7_T3qm7xpExperiment26 — объединённая методом SLERP языковая модель семейства Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/T3qm7xpExperiment26-7B. Она предназначена для генерации текста и диалогов по текстовым запросам. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.

FineLlama-3.1-8B-v2 — дообученная kkopalle диалоговая модель генерации текста на архитектуре Llama 3.1. Она основана на unsloth/Meta-Llama-3.1-8B-Instruct и рассчитана на чат и создание текстовых ответов; в метаданных также отмечен интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. В карточке указана лицензия Apache-2.0. Метаданные обозначают английский язык; специальных предметных областей или дополнительных ограничений в предоставленной карточке не описано.

flammen9-mistral-7B — объединённая авторегрессионная языковая модель на архитектуре Mistral, созданная flammenai с помощью mergekit. В объединение вошли flammen8-mistral-7B, flammen5-mistral-7B и flammen3X; базовой указана flammen8-mistral-7B, а метод слияния — DARE TIES. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и сценариев на основе языковой модели: продолжения запросов и создания ответов. В метаданных указан pipeline text-generation; конкретные специализации, наборы данных и основные языки в предоставленных сведениях не обозначены. Файлы представлены в формате safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache-2.0. Поскольку это слияние нескольких предварительно обученных моделей, её качество и поведение могут различаться в зависимости от задачи; отдельные гарантии качества или подробные ограничения в карточке не описаны.

Gemma 3 1B PT — предварительно обученная модель генерации текста из семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Версия PT предназначена для дальнейшей адаптации и экспериментов с генерацией текста; семейство также рассчитано на диалог, суммаризацию, ответы на вопросы и рассуждения. Компактный размер семейства позволяет запускать модели на ноутбуках и настольных компьютерах или в собственной облачной инфраструктуре. В README для Gemma 3 заявлены контекстное окно до 128 тыс. токенов, поддержка более 140 языков и обработка изображений с выдачей текста; для конкретной версии 1B PT эти характеристики отдельно не подтверждены метаданными. Модель распространяется в формате safetensors и предназначена для использования через Transformers. Лицензия — Gemma. Ответы могут содержать фактические ошибки и отражать смещения обучающих данных; модели также могут испытывать трудности с неоднозначными формулировками и сложными задачами.

Gemma 3n E4B It LM 4bit — версия модели Google Gemma 3n E4B-it, конвертированная сообществом mlx-community в формат MLX с использованием mlx-lm 0.25.2. Модель предназначена для запуска и генерации текста на устройствах и в окружениях, совместимых с MLX, через библиотеку mlx-lm. Модель ориентирована на диалоговую генерацию текста и, судя по заявленным тегам исходной модели, поддерживает сценарии работы с текстом, аудио и видео, включая автоматическое распознавание речи, автоматический перевод речи и преобразование аудио или видео в текст. Обозначение E4B указывает на класс модели примерно в 4 миллиарда параметров, а суффикс 4bit — на 4-битное квантование, уменьшающее требования к памяти. Точные сведения о языках и размере контекста в README не указаны. К сильным сторонам относятся адаптация к MLX, компактное 4-битное представление и поддержка мультимодальных сценариев, заявленная для базовой модели. Ограничения включают возможное снижение точности из-за квантования и отсутствие в README подробных данных о производительности, поддерживаемых языках и фактических требованиях к оборудованию. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии gemma следует учитывать отдельно.

ApolloRaines/Gemma-4-12B-it-Jbliterated-v2 — языковая модель для генерации текста, разработанная ApolloRaines на основе Gemma-4-12B-it-Jbliterated. Это объединённая самодостаточная версия с целевым дообучением (SFT), направленным на снижение скрытых циклов самопроверки безопасности в reasoning-трассах и повышение вероятности завершённого ответа. Модель предназначена для диалоговых сценариев, генерации текста и локального запуска через Transformers или в формате GGUF. Модель имеет размер 12B параметров, использует архитектуру Gemma 4 Unified и тип данных bfloat16. Поддерживаемый язык, указанный в карточке, — английский. Модель работает с текстовой модальностью; размер контекстного окна в README не указан. Доступны варианты GGUF с квантованием Q8_0 и Q4_K_M, причём Q4_K_M рекомендован для видеокарт с 8–12 ГБ памяти. Для GGUF требуется свежая версия llama.cpp из ветки master. По сравнению с исходной версией v1 модель снизила частоту safety-классификации в reasoning-канале с 81,2% до 35,0%, а долю полных ответов повысила с 61,2% до 78,8% на указанном наборе из 80 тестовых запросов. При этом показатель MMLU снизился на 0,88 процентного пункта — до 77,72%. Ограничения включают сохраняющиеся спирали без ответа примерно на 21% самых сложных запросов, оценивание на одном обучающем запуске и возможное неполное выявление замаскированной safety-классификации используемым регулярным выражением. Использование модели регулируется Gemma Terms of Use, то есть лицензией Google для Gemma.

Gemma 4 E2B-it-qat-JANG_4M-CRACK — дообученная и квантизированная мультимодальная модель dealignai на базе google/gemma-4-e2b-it. Она использует плотную архитектуру Gemma 4 с гибридным скользящим и глобальным вниманием и рассчитана на запуск через vMLX на компьютерах Apple Silicon. Квантизация JANG_4M сочетает 8-битные веса внимания и 4-битные веса MLP; средняя точность составляет около 4,3 бита. Модель принимает текст, изображения и аудио, поддерживает диалог, рассуждения, ответы на фактические вопросы и генерацию кода. В README заявлены результаты MMLU 60,1% (на 1,7 процентного пункта ниже базовой модели) и полное выполнение запросов вредоносных категорий в тесте HarmBench; автор описывает это как удаление отказов при сохранении возможностей. Это делает модель непригодной для сценариев, где важно сдерживание опасных запросов. Для запуска требуется vMLX с поддержкой Gemma 4 и достаточно памяти. Лицензия — gemma; README указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

OsaurusAI/gemma-4-E4B-it-qat-JANG_4M — это мультимодальная модель семейства Gemma 4 в формате MLX, подготовленная OsaurusAI на основе google/gemma-4-E4B-it-qat-q4_0-unquantized. В ней 42 текстовых слоя; эмбеддинги, нормализации и компоненты обработки медиа сохранены в fp16, проекции внимания и маршрутизатор MoE представлены в 8-битном аффинном формате, а основная часть декодера и экспертов — в 4-битном. Модель принимает текст и поддерживает обработку изображений; в исходной конфигурации также сохранены настройки аудио и видео. Модель предназначена для диалога и мультимодальных сценариев, включая вопросы по изображениям. Для запуска требуется совместимый с Gemma 4 загрузчик MLX/vMLX, поддерживающий конфигурацию квантования JANG и файлы процессора и шаблона чата Gemma 4. Репозиторий не содержит весов MTP для спекулятивного декодирования. Лицензия — Gemma; применимость аудио- и видеовхода зависит от поддержки конкретного загрузчика.

Карточка модели abideen/gemma-7b-openhermes на Hugging Face совпадает с карточкой QueryloopAI/gemma-7b-openhermes, поэтому описание составлено по ней. QueryloopAI/gemma-7b-openhermes — диалоговая языковая модель на архитектуре Gemma, дообученная разработчиком на базе google/gemma-7b-it с помощью QLoRA на данных предпочтений OpenHermes-2.5. Модель содержит 8,2 млрд параметров, распространяется в формате Safetensors и рассчитана на генерацию текста и следование инструкциям в формате чата; для диалогового использования следует применять встроенный шаблон чата токенизатора. Модель принимает текстовые запросы, вопросы и документы и генерирует ответы или краткие изложения на английском языке. Указанное контекстное окно — 8192 токена. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. В README приведены результаты нескольких бенчмарков; они не гарантируют качество на конкретных задачах.

Geneva 12B GammaCorpus v2-50k — разговорная модель, разработанная Ruben Roy и дообученная на Mistral-Nemo-Instruct-2407 с использованием корпуса GammaCorpus v2-50k, содержащего структурированные многоходовые диалоги. Она предназначена для генерации текста, диалогов и следования инструкциям; в метаданных также указана поддержка интерфейса вызова инструментов. Модель построена на архитектуре Mistral с плотной причинной языковой моделью и содержит 12,1 млрд параметров. README указывает 40 слоёв, размерность 5120, SwiGLU, GQA и словарь примерно на 128 тысяч токенов. Заявленная в метаданных длина контекста — 1 024 000 токенов. Указаны английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Модель распространяется в формате safetensors через Transformers по лицензии Apache 2.0. README предупреждает о возможности предвзятых ответов; заявленное стремление превзойти модели аналогичного размера не подкреплено в карточке результатами сравнительной оценки.

Granite-7b-lab — языковая модель IBM Research, дообученная на базе ibm/granite-7b-base методом LAB (Large-scale Alignment for chatBots) с использованием Mixtral-8x7B-Instruct как модели-учителя. Это плотная модель архитектуры Llama с 6,6 млрд параметров, поддержкой диалогового режима и контекстом до 4096 токенов. Модель предназначена для генерации текста и диалогового взаимодействия на английском языке. LAB использует таксономию задач для отбора примеров, генерацию синтетических данных и двухэтапное обучение с буферами повторения; это позволяет добавлять знания и навыки, сохраняя ранее усвоенное. Подход охватывает ответы на вопросы, рассуждение и творческое письмо. Модель распространяется в формате Safetensors по лицензии Apache 2.0. В README отмечено, что чекпойнт не прошёл safety alignment и может выдавать вредные или недостоверные ответы; его не следует использовать как единственный источник для важных решений.

Hibernates/Hibernates-2B-R1-V1 — плотная декодерная языковая модель на 3,2 млрд параметров по метаданным Hugging Face. Карточка описывает её как эффективную модель для диалогов и рассуждений с поддержкой многоходового общения. В метаданных указана архитектура LlamaForCausalLM и контекст до 131 072 токенов; README, напротив, заявляет собственную архитектуру, 2 млрд параметров и окно в 4096 токенов, поэтому характеристики карточки расходятся с данными каталога. Модель предназначена для генерации текста, следования инструкциям и диалоговых сценариев на английском языке. README заявляет оптимизацию для CPU и GPU, однако также рекомендует не менее 8 ГБ видеопамяти. Модель дообучена на meta-llama/Llama-3.1-8B-Instruct, сохранена в SafeTensors и распространяется по лицензии Apache-2.0. Заявления README о собственной архитектуре и числе параметров не согласуются с метаданными о базовой модели.

Это GGUF-квантизированная версия языковой модели invisietch/L3.1-70Blivion-v0.1-rc1-70B. Исходную модель разработала команда или автор invisietch, а квантизации подготовлены featherless-ai-quants. Модель предназначена для генерации текста и может использоваться в совместимых локальных или серверных средах вывода, поддерживающих формат GGUF. Модель имеет размер 70 миллиардов параметров и относится к текстовым моделям: сведения о мультимодальности, поддерживаемых языках, архитектуре исходной модели и размере контекстного окна в README не указаны. Доступны варианты квантизации от IQ4_XS и Q2_K до Q8_0, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством генерации. Размеры вариантов составляют примерно от 25 до 72 ГБ. Сильной стороной является широкий выбор степеней квантизации и совместимость с экосистемой GGUF, однако 70-миллиардная модель требует значительных вычислительных ресурсов, особенно в вариантах с более высокой точностью. Оценки качества, специализированные сценарии, системные требования и ограничения поведения в README не приведены. Лицензия модели и условия её использования также не указаны.

Jan-v2-VL-high — мультимодальная vision-language модель, разработанная Jan (JanHq) на базе Menlo/Jan-v2-VL-high и связанная с Qwen-3-VL-8B-Thinking. Модель содержит около 8 млрд параметров и предназначена для многошаговых задач в реальных программных средах, включая браузеры и настольные приложения. Она сочетает обработку текста и изображений, поддерживает визуальное восприятие через скриншоты и интеграцию с инструментами, а заявленный язык — английский. Основной сценарий применения — агентная автоматизация и управление пользовательским интерфейсом, где требуется выполнять длинные последовательности действий, сохранять промежуточное состояние, следовать сложным инструкциям и восстанавливаться после небольших ошибок. Версия high ориентирована на более глубокое рассуждение и обеспечивает более длительное время обработки по сравнению с вариантами low и med. По данным README, модель сохраняет уровень базовой модели на стандартных текстовых и визуальных задачах и показывает более сильное выполнение длинных цепочек действий. К ограничениям относятся повышенная задержка и время рассуждения, характерные для версии high, а также отсутствие в README точного размера контекстного окна и подробных количественных результатов. Модель распространяется по лицензии Apache 2.0 и поддерживает локальный запуск через Jan App, vLLM и llama.cpp; для работы с изображениями в llama.cpp требуется отдельная vision-модель.

J.A.R.V.I.S. Titan V15 MoE Decoupled — диалоговая языковая модель Dhanesh на архитектуре JarvisTitanMoEForCausalLM. Согласно карточке, она основана на DeepSeekMoE с общим экспертом и восемью маршрутизируемыми экспертами, из которых активируются два; также заявлены слои Tri-Brid памяти с локальным скользящим окном внимания, извлечением значимых KV-состояний и нейронной памятью Titans. Метаданные каталога указывают 7,1 млрд параметров и контекст 32 768 токенов. Модель предназначена для генерации текста в диалоге и взаимодействия с инструментами через соответствующий интерфейс. Карточка описывает объединённые автономные веса M4, включающие калиброванный адаптер Tri-Brid, а метаданные связывают модель с дообучением Jarvis-Titan-V14-MoE-Merged. В репозитории указаны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в материалах репозитория.

ohkwon/kanana-1.5-8b-instruct-2505-Safe-DPO — диалоговая языковая модель семейства Llama, представленная ohkwon. Это дообученная модель с 7,5 млрд параметров для генерации текста и общения; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель подходит для диалоговых сценариев и генерации ответов на текстовые запросы. В карточке указана лицензия Apache-2.0. Данных о специализации по предметной области или дополнительных ограничениях качества в доступных источниках нет.

KangalKhan-Ruby-7B — объединённая модель на основе Mistral 7B, созданная автором репозитория с помощью LazyMergekit из argilla/CapybaraHermes-2.5-Mistral-7B и argilla/distilabeled-OpenHermes-2.5-Mistral-7B. Она предназначена для диалогов и генерации текста; в карточке рекомендован формат общения ChatML. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы на английском языке. В README приведены результаты Open LLM Leaderboard, включая средний балл 68,68, но не раскрыты все метрики. Для репозитория указана лицензия Apache-2.0. Автор отмечает, что некоторые сторонние варианты GGUF могут изредка выдавать опечатки; это замечание относится к указанным вариантам GGUF, а не обязательно к версии в формате safetensors.

Kaori-34B-v1 — текстовая генеративная модель семейства Llama, дообученная Kaeri и Jenti методом SFT с LoRA. Для обучения использованы набор Open-Platypus и 5% данных Dolphin; авторы также сообщают о фильтрации обучающих примеров, связанных с рядом тестов рассуждения и понимания текста. Модель предназначена для генерации ответов и выполнения текстовых инструкций в сценариях общего назначения. Она содержит 33,9 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 4096 токенов. В репозитории указаны веса safetensors и лицензия Llama 2. Карточка не приводит оценки качества или конкретных гарантий по точности.

Kimi-K3-REAP73-zh-code-MLX-mxfp4-q8 — это сильно прореженная и преобразованная в формат MLX версия Kimi-K3, разработанного Moonshot AI. Модель предназначена для генерации текста, прежде всего для работы с китайским языком и программным кодом, на компьютерах Apple Silicon с большим объёмом unified memory. Она рассчитана на загрузку на машине с 512 ГБ памяти и занимает около 451 ГБ. В основе лежит нативная мультимодальная MoE-архитектура Kimi-K3 с Kimi Delta Attention, Attention Residuals и контекстом до 1 млн токенов. Исходная модель содержит 2,78 трлн параметров, из которых 104 млрд активны при обработке токена. В данной версии сохранены 242 из 896 экспертов в каждом из 92 MoE-слоёв, всего около 793 млрд параметров. Используется MXFP4; для сохранённых экспертных весов заявлена побитно точная копия исходного представления, тогда как основная потеря качества связана с удалением экспертов. Скорость генерации на M3 Ultra с 512 ГБ памяти составляет около 5,51 токена в секунду. Главное преимущество модели — возможность запускать Kimi-K3 на одной мощной машине Apple Silicon при сохранении хорошей структурной корректности генерации кода и относительно сильной работе с китайским языком. Это агрессивное прореживание, поэтому качество заметно ниже полной Kimi-K3: возможны уход в списки или продолжение в стиле исходного файла, повторения и циклы. Японский, корейский, русский, арабский, немецкий, французский и испанский языки деградируют сильнее; для них рекомендуется смешанная версия модели. Лицензия указана как other с именем kimi-k3.

Lamarckvergence-14B — объединённая языковая модель на 14 млрд параметров, созданная с помощью mergekit методом SLERP из sometimesanotion/Lamarck-14B-v0.7 и sometimesanotion/Qwenvergence-14B-v12-Prose-DS. Модель построена на архитектуре Qwen2 и предназначена для генерации текста в диалоговом формате. Модель подходит для ведения диалогов, многошаговых рассуждений, написания прозы и перевода. Она принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В карточке приведены результаты Open LLM Leaderboard, включая 76,56 на IFEval и 50,33 на BBH; это не гарантирует качество в конкретном пользовательском сценарии. Модель опубликована под лицензией Apache-2.0. Карточка не описывает отдельные ограничения и языковые возможности, кроме английского языка, указанного в метаданных.

Laser-WestLake-2x7B — языковая модель для генерации текста, созданная macadeliccc путём слияния cognitivecomputations/WestLake-7B-v2-laser и SanjiWatsuki/Kunoichi-DPO-v2-7B. В README указано, что WestLake-7B-v2-laser выступает базовой моделью и одним из экспертов при слиянии. Модель использует архитектуру Mixtral с разреженной экспертной структурой (MoE), содержит около 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и других задач генерации текста; README указывает формат ChatML и предлагает использовать её так же, как исходную WestLake-7B. В карточке приведены результаты бенчмарков, включая средний балл 74,00 в Open LLM Leaderboard. Поддержка русского или других конкретных естественных языков отдельно не описана. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0.