I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельMaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.
wang7776 выпустил разреженную версию Mistral-7B-Instruct-v0.2, предназначенную для диалогов и генерации текста по инструкциям. По README, модель прорежена на 2% методом Wanda без дообучения и изменения весов. В основе — Mistral-7B-Instruct-v0.2, дообученная для следования инструкциям версия Mistral-7B-Instruct-v0.1; архитектура — плотный трансформер Mistral с Grouped-Query Attention и Sliding-Window Attention. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и использует формат инструкций [INST] ... [/INST]. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста общего назначения. В карточке заявлена лицензия Apache 2.0. README предупреждает, что у модели нет механизмов модерации, поэтому её ответы могут не соблюдать заданные ограничения.
Mistral-7B-ReMax-v0.1 — языковая модель Ziniu Li на архитектуре Mistral, дообученная методом RLHF с алгоритмом ReMax на базе Mistral-7B-Instruct-v0.2. Она предназначена для диалогов и генерации ответов на инструкции; формат запросов использует токены [INST] и [/INST]. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Карточка описывает обучение на 10 тысячах запросов из lmsys-chat-1m без использования ответов этого набора и приводит результаты сравнительных оценок на Chat1M и AlpacaEval. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Качество и ограничения унаследованы от Mistral-7B-Instruct-v0.2; в частности, у модели нет встроенных механизмов модерации. Приведённые в карточке оценки основаны на конкретных тестовых наборах и не гарантируют качество во всех сценариях.
MaziyarPanahi/mistral-ft-optimized-1218-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением Mistral-7B-Instruct-v0.2 и mistral-ft-optimized-1218 методом SLERP. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и принимает текстовые запросы для генерации ответов и диалога. Модель предназначена для следования инструкциям, общения и генерации текста. Она поддерживает контекст до 32 768 токенов и распространяется по лицензии Apache-2.0. В карточке не приведены сведения о специальных языковых возможностях или оценках качества.
Карточка модели jduhmbd/Mixtral-8x7B-Instruct-v0.1-custom на Hugging Face совпадает с карточкой kallam/Mixtral-8x7B-It-v0.1, поэтому описание составлено по ней. kallam/Mixtral-8x7B-It-v0.1 — диалоговая instruction-модель на основе Mixtral-8x7B от Mistral AI. Это генеративная разреженная архитектура Mixture of Experts, предназначенная для выполнения инструкций и ведения диалога. Модель поддерживает контекст до 32 768 токенов и, согласно README, предназначена для запуска через vLLM; в репозитории также приведены сведения о совместимости с Transformers, хотя карточка предупреждает, что веса пока нельзя непосредственно инициализировать через HF Transformers. Файлы представлены в формате safetensors; лицензия — Apache 2.0. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста на французском, итальянском, немецком, испанском и английском языках. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает высокие результаты Mixtral-8x7B в сравнении с Llama 2 70B на проверенных авторами бенчмарках. У модели нет встроенных механизмов модерации, поэтому ответы могут требовать внешних ограничителей и проверки.
Mobiusv0.5 — объединённая языковая модель на архитектуре Mistral, созданная mashleburneded методом SLERP с помощью mergekit на основе Mistral-Small-Instruct-2409 и Codestral-22B-v0.1. Модель содержит 15,8 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых запросов; интерфейс модели также предусматривает вызов инструментов. В состав объединения входит Codestral, ориентированная на генерацию кода модель, однако README не описывает отдельные возможности или качество Mobiusv0.5 в программировании. Модель опубликована в формате safetensors и доступна через Transformers. Лицензия в предоставленных данных не указана.
Nemotron-3-Nano-Omni-30B-A3B-JANGTQ-CRACK — мультимодальная модель dealignai на базе NVIDIA Nemotron-3-Nano-Omni-30B-A3B-Reasoning. Это вариант с дообучением CRACK v2 и смешанной низкоразрядной схемой JANGTQ: 8-битными весами внимания и 2-битными маршрутизируемыми экспертами. В архитектуре сочетаются Mamba-2, внимание и MoE; базовая модель содержит 30B параметров с 3B активных, а в метаданных этой модели указано 1,9B параметров. Для запуска заявлена библиотека MLX; README рекомендует vMLX или jang-tools. Модель предназначена для диалогов, рассуждений и мультимодальной работы с текстом, изображениями и аудио, включая речь. В карточке заявлена поддержка видео при использовании отдельного мультимодального дополнения. Контекст составляет 262 144 токена. README приводит результаты 81,5% на MMLU-200 и 91,6% на HarmBench-320, а также сообщает об удалении обучения отказам: модель может выдавать вредные ответы и требует собственного защитного слоя перед применением. Лицензия указана как other; конкретные условия следует проверять в репозитории.
JANGQ-AI публикует Nemotron-Cascade-2-30B-A3B-JANG_2L — квантованный вариант NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленный проектом JANG для запуска через MLX на Apple Silicon. Это языковая модель для диалогов, пошаговых рассуждений и задач с вызовом инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, MoE и слои внимания; README указывает 52 слоя, включая 6 слоёв внимания. Метаданные сообщают о 1,9 млрд параметров и контексте до 262 144 токенов. README заявляет размер файлов 10,3 ГБ, скорость генерации до 130 токенов в секунду и результат 88% на тесте MMLU из 200 вопросов в режиме рассуждений. Модель ориентирована на Mac с Apple Silicon и унифицированной памятью от 16 ГБ; для загрузки автор рекомендует MLX Studio или пакет JANG для MLX. Эти показатели приведены в карточке модели и зависят от оборудования и методики измерения. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории. README называет представление JANG квантованием 2,3 бита с 8-битным вниманием, хотя метаданные перечисляют формат safetensors.
NVIDIA-Nemotron-Labs-3-Elastic-30B-A3B-FP8 — языковая модель NVIDIA для диалогов, рассуждений и генерации текста. Это FP8-квантованная производная NVIDIA-Nemotron-3-Nano-30B-A3B-BF16 на гибридной архитектуре Mamba-2, Transformer и MoE; в репозитории Transformers хранятся веса SafeTensors. В одном чекпойнте вложены варианты на 30B, 23B и 12B параметров, которые можно извлечь без дополнительного обучения. Для варианта 30B активны 3,6B параметров на токен; в меньших вариантах — 2,8B и 2,0B соответственно. Модель рассчитана на чат и задачи рассуждения; также README рекомендует её для прототипирования и описывает готовность к коммерческому применению. Она поддерживает английский, немецкий, испанский, французский, итальянский и японский языки. Контекст в метаданных — 262 144 токена; README указывает возможность увеличить контекст при использовании vLLM до 1M токенов с соответствующей настройкой. Elastic-структура позволяет выбирать компромисс между размером варианта и вычислительными затратами, а FP8-представление уменьшает требования к памяти. Модель предназначена для генерации текста и не описана как мультимодальная. Лицензия указана как other; README заявляет о готовности к коммерческому использованию, но конкретные условия лицензии следует сверять с файлами репозитория.
openbuddy-mistral-7b-v13-base-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и OpenBuddy/openbuddy-mistral-7b-v13-base методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. В метаданных перечислены китайский, английский, французский, немецкий, японский, корейский, итальянский и русский языки. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей об ограничениях; фактическое качество может зависеть от языка и сценария использования.
OpenOrcaxOpenChat-Preview2-13B — языковая модель, разработанная OpenOrca совместно с OpenChat. Это плотная авторегрессионная модель семейства LLaMA 2 с 12,9 млрд параметров, дообученная на отфильтрованной выборке GPT-4-дополненного датасета OpenOrca с упаковкой диалогов в формате OpenChat. Модель предназначена для генерации текста и диалоговых ответов по инструкциям; в карточке сообщается о результатах примерно на уровне 103% от показателей Orca в среднем на BigBench-Hard и AGIEval. Модель принимает текст и генерирует текст. Карточка приводит шаблон многоходового диалога OpenChat; контекст составляет 4096 токенов. В метаданных указан английский язык. Модель распространяется в формате PyTorch по лицензии Llama 2. Это предварительная версия; заявленные результаты относятся к оценкам авторов, а карточка не описывает ограничения по качеству подробнее.
Rubra Enhanced Phi-3 Mini 128k Instruct — языковая модель Rubra AI, полученная дополнительным постобучением microsoft/Phi-3-mini-128k-instruct на закрытом наборе инструкций, диалогов и примеров вызова функций. Модель предназначена для выполнения инструкций, многошаговых бесед и взаимодействия с инструментами через вызовы функций. Она построена на плотной архитектуре Phi-3 с 4,6 млрд параметров и использует Transformers и формат safetensors. README сообщает об оценках на наборах MMLU, GPQA, GSM-8K, MATH и MT-bench, а также о сравнительных результатах в задачах вызова функций. Указанная в метаданных длина контекста — 4096 токенов. Карточка описывает английский язык; модель генерирует текст и поддерживает чат. Лицензия — MIT. Модель может выдавать неверные или предвзятые ответы, поэтому её результаты требуют проверки, особенно в чувствительных и критически важных сценариях.
YOYO-AI/Qwen2.5-14B-YOYO — объединённая 14-миллиардная языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Автор карточки описывает её как слияние, созданное с помощью mergekit методом DELLA на основе Qwen/Qwen2.5-14B с добавлением Qwen/Qwen2.5-14B-instruct. Модель предназначена для генерации ответов в чате и других сценариев, где требуется продолжать или создавать текст. Она поддерживает контекст до 131 072 токенов и распространяется в формате safetensors для Transformers. В метаданных также указаны интерфейсы чата и вызова инструментов. Карточка не уточняет поддерживаемые естественные языки, сравнительное качество или ограничения в конкретных сценариях. Лицензия в предоставленных данных не указана.
Модель nextvalueup/Qwen2.5-7B-Instruct — дообученная разговорная языковая модель семейства Qwen2.5, разработанная nextvalueup на базе unsloth/qwen2.5-7b-instruct-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и взаимодействие через интерфейс вызова инструментов. Модель имеет плотную архитектуру Qwen2ForCausalLM и содержит 7,1 млрд параметров; максимальная длина контекста составляет 32 768 токенов. Веса представлены в формате PyTorch. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. README сообщает, что обучение проводилось с использованием Unsloth и Hugging Face TRL.
voodooquant/Qwen3.5-0.8B-MTP-Voodoo — это квантизированная GGUF-версия базовой модели Qwen3.5-0.8B-Base, разработанная Voodoo Quant на основе модели Qwen от Alibaba Cloud. Веса не дообучались, архитектура исходной модели не изменялась; контрольные точки предназначены для запуска в неизменённом Llama.cpp и совместимы с экосистемой GGUF. Лицензия — Apache-2.0. Модель представляет собой каузальную языковую модель с vision encoder для мультимодальных задач, включая работу с текстом и изображениями, рассуждение, программирование, визуальное понимание и агентские сценарии. Она поддерживает 201 язык и диалект, а её нативная длина контекста составляет 262 144 токена. В README также указаны поддержка multi-step training (MTP), а также рекомендации использовать модель для прототипирования, исследовательских задач и специализированного дообучения. Размер модели — 0,8 млрд параметров. Архитектура сочетает Gated Delta Networks, Gated Attention и sparse Mixture-of-Experts; модель содержит 24 слоя, скрытое измерение 1024 и контекст до 262 144 токенов. Квантизация Voodoo Quant выбирает уровень сжатия отдельно для разных тензоров, чтобы снизить размер и сохранить качество; заявлено уменьшение perplexity до 89% относительно соответствующего уровня сравнения. Ограничения включают небольшой параметрический масштаб, возможные потери качества из-за квантизации и отсутствие в предоставленных данных подробных результатов бенчмарков или характеристик отдельных вариантов GGUF.
Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1-GGUF — экспериментальная дистиллированная версия Qwen3.5-9B, разработанная Jackrong. Модель дообучена методом supervised fine-tuning с использованием Unsloth и LoRA на отфильтрованных данных рассуждений, созданных на основе GLM-5.1. В README также указана лицензия Apache-2.0. Модель предназначена для локального запуска и генерации ответов в диалоговых, инструкционных, математических, STEM- и кодовых сценариях. Основной акцент сделан на многошаговом рассуждении, декомпозиции задач, соблюдении инструкций и более структурированной организации ответов. Заявлена поддержка английского, китайского, японского и испанского языков. По метаданным репозитория модель относится к multimodal и image-text-to-text моделям с поддержкой vision, однако подробности о поддерживаемых форматах изображений и способах их обработки не приведены. Ключевая характеристика — размер 9 млрд параметров и дистилляция структуры рассуждений GLM-5.1, а не простое копирование ответов учителя. Ожидаемые преимущества включают более стабильное многошаговое рассуждение, лучшую декомпозицию задач и более последовательное следование инструкциям. При этом автор отмечает, что улучшения для модели такого масштаба, вероятно, будут постепенными, а не радикальными. README не содержит сведений о размере контекста, точной архитектуре мультимодальной части, количественных результатах бенчмарков и ограничениях безопасности, поэтому эти характеристики нельзя оценить дополнительно.
Это GGUF-квантизация модели Qwen3.6-35B-A3B-uncensored-heretic, разработанной llmfan46 и дополнительно преобразованной с помощью официального квантизатора llama.cpp. Модель предназначена для локального запуска и генерации текста, включая задачи рассуждения, программирования и работы с естественным языком. Вариант использует архитектуру Qwen3.6-35B-A3B-MTP и формат IQ2_M с динамической смешанной точностью; размер файла уменьшен за счёт низкобитного квантования, а Unsloth importance matrix помогает эффективнее распределять доступную точность между тензорами. Другие характеристики, включая поддерживаемые языки, контекст и модальности, в README не указаны. В основе лежит модель Heretic, в которой применена техника abliteration для снижения числа отказов без значительного изменения исходных возможностей. Согласно README, модификация затрагивает лишь ограниченную часть весов, а заявленный результат — на 88% меньше отказов по сравнению с оригинальной моделью при сохранении близкого качества. К преимуществам относятся совместимость с актуальными версиями llama.cpp, небольшой объём хранения и улучшенное соотношение качества и размера благодаря динамическому квантованию и importance matrix. Ограничением является возможная потеря качества из-за агрессивного IQ2_M-квантования, а отказосниженное поведение может быть нежелательно для сценариев, требующих строгих защитных ограничений. Лицензия указана как Apache-2.0; README отмечает, что GGUF следует лицензии исходной модели, поэтому для полного понимания условий использования следует проверить upstream-репозиторий.
A3Pz0/Qwen3.8-27B-TURBO-Fable-Uncen-MTP-GGUF — это многос этапная дообученная и объединённая версия Qwen3.8-27B, разработанная автором DavidAU с использованием Unsloth, методов Cold Fusion и Fable Fusion. Модель распространяется в формате GGUF с обычными и MTP-квантами, включая варианты с точностью 4 и 8 бит, и ориентирована на работу на потребительском оборудовании. Модель предназначена для решения общих задач, рассуждений, программирования, творческого письма, создания художественных текстов и ролевых сценариев. Заявлены режимы thinking и reasoning, а также оптимизация для сокращения объёма рассуждений и ускорения генерации при сохранении детализации ответа. В карточке указаны английский и китайский языки. Архитектура и размер унаследованы от Qwen3.8-27B; поддержка изображений заявлена через тег image-text-to-text, но подробности мультимодальных возможностей в README не приведены. К сильным сторонам относятся заявленные автором высокие результаты на наборах ARC-C и ARC-E, улучшение по сравнению с базовой Qwen3.8-27B, сокращение числа токенов рассуждений и наличие вариантов для разного объёма памяти. Ограничения включают отсутствие независимой проверки приведённых бенчмарков, неполные сведения о контекстном окне и мультимодальности, а также возможную специфику поведения uncensored/abliterated-дообучения. Лицензия — Apache-2.0.
RedHatAI/Qwen3-8B-NVFP4 — квантизированная версия языковой модели Qwen3-8B, разработанная RedHatAI на базе Qwen/Qwen3-8B. Модель предназначена для генерации текста и диалоговых сценариев, включая развёртывание чат-ботов и других приложений на основе больших языковых моделей. Она принимает текстовые данные и генерирует текст; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский, однако документация отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с использованием LLM Compressor. Размер параметров уменьшен с 16 до 4 бит, что примерно на 75% сокращает объём хранения и требования к памяти GPU. Модель рассчитана на эффективный инференс через vLLM версии 0.9.1 и новее, включая OpenAI-совместимый режим сервинга. Для калибровки использовались образцы UltraChat; в README не указаны точный размер контекстного окна и количественные результаты бенчмарков. Ключевое преимущество модели — существенное снижение потребления дисковой и GPU-памяти при сохранении совместимости с исходной Qwen3-8B. Ограничением является возможное снижение качества из-за FP4-квантизации по сравнению с неквантизированной моделью, хотя README сообщает о проведённом сравнительном тестировании без приведения результатов. Лицензия — Apache-2.0; также указано ограничение на использование способами, нарушающими применимые законы и нормативные требования.
Qwen3-Max — обновлённая модель серии Qwen3. По карточке модели, она улучшает рассуждение, следование инструкциям, многоязычную поддержку и охват редких знаний по сравнению с версией, выпущенной в январе 2025 года. Модель предназначена для ответов на запросы и выполнения инструкций на разных языках. В предоставленных сведениях нет описания архитектуры, размера, длины контекста, перечня языков или лицензии, поэтому эти характеристики нельзя уточнить. Ограничения и условия использования в карточке не описаны.
noctrex/Qwen3-Next-80B-A3B-Instruct-MXFP4_MOE-GGUF — квантизированная версия модели Qwen3-Next-80B-A3B-Instruct в формате GGUF с квантизацией MXFP4. Модель предназначена для диалогов и генерации текста; для запуска требуется llama.cpp, причём карточка рекомендует использовать его актуальную версию. Базовая Qwen3-Next-80B-A3B-Instruct — разреженная языковая модель с возможностью вызова инструментов и длинным контекстом. Размер контекста и список поддерживаемых языков для этой сборки в предоставленных данных не приведены. Лицензия в данных не указана.
Модель vito95311/Qwen3-Omni-30B-A3B-Thinking-GGUF-INT8FP16 — квантованная версия Qwen3-Omni-30B-A3B-Thinking от автора vito95311, опубликованная в формате GGUF для запуска через llama.cpp и Ollama. В основе лежит мультимодальная модель Qwen3-Omni с архитектурой смеси экспертов и режимом рассуждения; в README указан размер исходной модели 31,7 млрд параметров. Репозиторий содержит варианты Q8_0 с весами INT8 и F16, а также отдельный файл FP16. Версия предназначена прежде всего для генерации текста, рассуждений, диалога и написания кода на локальном оборудовании. Карточка описывает поддержку китайского и английского языков и заявляет многоязычность. Исходная модель принимает текст, изображения, аудио и видео и может формировать текстовые и аудиовыходы, однако автор предупреждает, что мультимодальные функции в llama.cpp и Ollama могут быть недоступны или работать с ухудшением; в текущей упаковке следует ориентироваться на текстовые сценарии. Квантование уменьшает требования к памяти по сравнению с исходной моделью, но README не приводит независимой проверки заявленных показателей качества и скорости. Для использования указана лицензия Apache 2.0; базовая модель сохраняет условия лицензии Qwen3-Omni.
QwQ-LCoT-7B-Instruct — языковая модель на архитектуре Qwen2, дообученная prithivMLmods на Qwen2.5-7B-Instruct с использованием набора amphora/QwQ-LongCoT-130K. Она предназначена для следования инструкциям, генерации текста и решения задач, требующих многошаговых рассуждений и подробных объяснений. Модель содержит около 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке заявлено обучение на примерах цепочек рассуждений. Репозиторий содержит веса safetensors для Transformers. Модель подходит для диалоговых помощников и задач, где нужны логические выводы и развернутые ответы. Язык карточки и метаданные указывают на английский. Лицензия — CreativeML OpenRAIL-M.
WhiskyAKM опубликовал GGUF-сборку Spark-X2.5-4B — трансформерную языковую модель с 4 млрд параметров для генерации текста и решения задач рассуждения. Модель поддерживает диалоговый формат, режим рассуждения с отдельными блоками и структурированный вызов инструментов. Для запуска предназначена библиотека llama.cpp; в репозитории представлен файл NVFP4, созданный квантизацией исходной модели с помощью llama-quantize. Модель рассчитана на английский и китайский языки. Квантизация NVFP4 уменьшает требования к ресурсам при развертывании, сохраняя формат GGUF для локального запуска. Контекстная длина в предоставленных данных не указана. Репозиторий распространяется по лицензии Apache-2.0.
T3qm7xNeuralsirkrishna_Experiment28Inex12 — объединённая языковая модель семейства Mistral, созданная на основе automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Inex12-7B. Она содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов по текстовым запросам. Контекстное окно составляет до 32 768 токенов, что позволяет учитывать длинные входные тексты в пределах этого лимита. В метаданных указана лицензия Apache-2.0.
Tiel-Coder-35B-A3B-Genesis-Hermes-GGUF — языково-кодовая модель в формате GGUF, разработанная LuffyTheFox на основе Ornith-1.5-35B-A3B, с использованием компонентов Tiel-Coder и Hermes-файнтюнинга. Модель дополнительно обработана методом Genesis, который автор описывает как численную коррекцию шумов и дефектов в весах без переобучения. Указана лицензия MIT. Модель предназначена для программирования, агентных сценариев, вызова функций и задач, требующих следования инструкциям. Поддерживаются текстовые и визуальные сценарии, однако для работы с изображениями требуется отдельный файл mmproj. В README заявлена поддержка английского, китайского и многоязычного ввода. Архитектура гибридная: Gated DeltaNet с линейным вниманием сочетается с полным softmax-вниманием в соотношении 3:1. Всего модель содержит около 35 млрд параметров, из которых примерно 3 млрд активируются за один проход; используется MoE-схема с 256 экспертами, 8 маршрутизируемыми и 1 общим экспертом на токен, а также 40 слоями. Для сохранения возможностей рассуждения рекомендуется контекст не менее 128K токенов и запуск через llama.cpp с флагом --jinja. Модель ориентирована на эффективный инференс, но требует значительных вычислительных ресурсов, особенно при использовании длинного контекста и визуального режима. README не содержит независимых результатов бенчмарков, поэтому заявленные улучшения стабильности, качества и снижения галлюцинаций следует считать утверждениями автора, а не подтверждёнными измерениями.
WeDLM-8B-Instruct — инструкционная языковая модель Tencent на 7,6 млрд параметров с плотной архитектурой WeDLMForCausalLM. Это дообученная версия WeDLM-8B; модель использует диффузионный подход к генерации с параллельным декодированием при стандартном причинном внимании. Она предназначена для диалогов, следования инструкциям и задач рассуждения, включая математику. В карточке приведены результаты бенчмарков, где модель превосходит Qwen3-8B-Instruct в некоторых задачах и уступает в других. Модель принимает текст и генерирует текст, поддерживает английский и китайский языки. Метаданные указывают контекстное окно 16 384 токена; в README заявлено 32 768 токенов. Для оптимизированного инференса авторы рекомендуют движок wedlm; совместимость с KV-кэшем позволяет использовать FlashAttention, PagedAttention и CUDA Graphs. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0.
airoboros-65b-gpt4-1.4 — языковая модель на архитектуре LLaMA с 65 млрд параметров, дообученная автором jondurbin методом QLoRA на синтетических данных, созданных GPT-4. Модель предназначена для диалогов и генерации текста: отвечает на вопросы, следует инструкциям, пишет тексты и код, поддерживает ролевые и многоходовые разговоры, загадки и викторины. Для ответов по заданному контексту в карточке описан специальный формат промпта, который помогает модели опираться на предоставленные источники. Модель принимает текст и выдаёт текст. Указанная длина контекста — 2048 токенов; веса опубликованы в формате PyTorch. README предупреждает, что модель ещё не тестировалась, и отмечает, что ответы по контексту могут быть выдуманы, если контекст не содержит ответа. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.
jondurbin/airoboros-dpo-70b-3.3 — экспериментальная диалоговая языковая модель, созданная на основе семейства Llama 3 и дообученная автором jondurbin на синтетических данных Airoboros и наборах для DPO. В метаданных указана плотная архитектура LlamaForCausalLM с 69,5 млрд параметров, формат safetensors и контекст до 8192 токенов. Карточка рекомендует использовать шаблон диалога Llama 3 Instruct. Модель предназначена для генерации ответов в чате, написания и продолжения историй, суммаризации и помощи с кодом. В README приведены примеры творческих и технических запросов, включая написание программ и выбор инструментов; эти примеры показывают формат взаимодействия, но не подтверждают гарантированное качество на каждой задаче. Автор называет модель экспериментальной. Метаданные связывают её с Meta-Llama-3-8B, тогда как README указывает базовую Llama 3 70B Instruct; точную базовую модель поэтому установить по этим источникам нельзя. Лицензия обозначена как other, конкретные условия использования в предоставленных данных не раскрыты.
Arcee-SuperNova-v1 — текстовая модель Arcee AI для диалогов и выполнения инструкций. В основе лежит Llama-3.1-70B-Instruct; модель объединяет дистиллированную версию Llama-3.1-405B-Instruct, вариант, дообученный на синтетических данных Evol-Kit, и вариант, оптимизированный с помощью Direct Preference Optimization (DPO). В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для ответов на разнообразные запросы, следования инструкциям, математических задач и использования как основы для дальнейшего обучения с подкреплением на основе человеческой обратной связи. Поддерживает генерацию текста и диалоговый сценарий; в метаданных также заявлен интерфейс вызова инструментов. Для использования указана лицензия Llama 3. Карточка описывает объединение нескольких подходов к обучению, но не приводит количественных оценок качества или результатов сравнительных тестов.