II.8Инженерия данных и аналитика

Модель win10/sthenno-Test-maybe-is-pro-v2 — объединённая языковая модель на архитектуре Qwen2 с 14 млрд параметров, созданная автором репозитория методом Model Stock с помощью mergekit. В объединение вошли arcee-ai/Virtuoso-Small, deepseek-ai/DeepSeek-R1-Distill-Qwen-14B, Qwen/Qwen2.5-Coder-14B, sthenno-com/miscii-14b-1225 и sthenno/tempesthenno-ppo-ckpt40; базовой моделью при слиянии служила sthenno-com/miscii-14b-1225. Модель предназначена для генерации текста и диалогов. Заявленная длина контекста составляет 131 072 токена; веса доступны в формате safetensors. В состав слияния входят модели для программирования и рассуждений, однако README не описывает отдельные проверенные сценарии или сравнительные результаты, поэтому их качество для конкретных задач не установлено. Лицензия в предоставленных данных не указана.

StrangeMerges_46-7B-dare_ties — объединённая модель для генерации текста, созданная Gille с помощью LazyMergekit. В слияние вошли Gille/StrangeMerges_45-7B-dare_ties, kettleguts/zephyr-7b-beta_sparse05 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO; в конфигурации также указана базовая модель liminerity/M7-7b. Метод слияния — dare_ties. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Нативный контекст — до 32 768 токенов. Она предназначена для генерации текста, диалогов и ответов на математические вопросы. В README приведены результаты Open LLM Leaderboard, включая среднюю оценку 69,96, ARC 67,24 и HellaSwag 86,40. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Подтверждённые сведения о языках и специальные ограничения в карточке не приведены.

StrangeMerges_9-7B-dare_ties — объединённая языковая модель семейства Mistral, опубликованная Gille. Она создана методом dare_ties с помощью LazyMergekit на основе leveldevai/TurdusBeagle-7B и samir-fama/FernandoGPT-v1; карточка также указывает StrangeMerges_8-7B-slerp как базовую модель в конфигурации слияния. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и формат safetensors; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста, диалогов и выполнения инструкций. В README приведены результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag, но сведений о языковой специализации или прикладной области нет. Лицензия — Apache-2.0.

Josephgflowers/TinyLlama-Cinder-Agent-v1 — компактная языковая модель на архитектуре Llama с примерно 1 млрд параметров, разработанная как дообученная версия Josephgflowers/TinyLlama-Cinder-Tiny-Agent. Автор позиционирует её как чат-ассистента общего назначения для ответов по предоставленным документам (RAG), суммаризации, следования системным инструкциям и работы с инструментами и вызовами функций. По описанию, модель обучалась на математических и рассуждательных данных, наборах для RAG и суммаризации, а также данных для вызова функций. Карточка сообщает об улучшении результатов на GSM8K относительно исходной TinyLlama и приводит оценки Open LLM Leaderboard. Модель поддерживает генерацию текста в диалоговом формате; её контекстное окно — 2048 токенов. README отмечает, что формат JSON при вызове функций следует шаблону обучающего набора Glaive и может не подходить для произвольной генерации JSON. Модель распространяется по лицензии MIT. Карточка не приводит отдельной оценки надёжности ответов, поэтому результаты математических и иных задач следует проверять; ограниченный контекст также может затруднять работу с объёмными документами.

Mungert/Tongyi-DeepResearch-30B-A3B-GGUF — это GGUF-версия Tongyi DeepResearch, разработанной командой Tongyi Lab. Исходная модель представляет собой агентную большую языковую модель с архитектурой Mixture of Experts: 30 млрд общих параметров, из которых 3 млрд активируются для каждого токена. Данная сборка создана с помощью llama.cpp и предназначена для локального запуска и генерации текста; в метаданных указаны библиотека Transformers, задача text-generation и английский язык. Модель ориентирована на длительные многошаговые задачи поиска и анализа информации, включая агентные сценарии, работу с веб-источниками и глубокое исследование. Она совместима с парадигмами ReAct и IterResearch Heavy, причем последняя использует масштабирование вычислений на этапе вывода для повышения качества. В исходной карточке заявлены высокие результаты на ряде агентных поисковых бенчмарков, включая Humanity’s Last Exam, BrowserComp, GAIA и FRAMES. Ключевое преимущество этой версии — возможность запуска в формате GGUF через llama.cpp, а также примененная автором сборки настройка квантования с повышением точности отдельных важных слоев. Это может улучшать точность при ограниченной разрядности, особенно для MoE-моделей, но увеличивает размер файла. Ограничениями являются возможные потери качества из-за квантования, зависимость производительности от аппаратного обеспечения и отсутствие в README сведений о размере контекста, конкретных вариантах квантования и мультимодальных возможностях. Модель распространяется по лицензии Apache 2.0.

Youlln/TRIOMPHANT-ECE-2.3-72B — текстовая генеративная модель, созданная командой студентов инженерной школы ECE под руководством преподавателей и при поддержке лаборатории iLab. Это слияние SLERP моделей Sakalti/ultiima-72B и MaziyarPanahi/calme-3.2-instruct-78b для диалогов и генерации текста общего назначения. Карточка ориентирует модель на рассуждения, в том числе математические, понимание контекста и выполнение инструкций. Модель основана на плотной архитектуре Qwen2 с причинным языковым моделированием, содержит 71,5 млрд параметров и поддерживает контекст до 32 768 токенов. Доступны веса safetensors для Transformers; лицензия — Apache-2.0. В карточке заявлены задачи NLP общего назначения, однако подробные результаты оценки и подтверждённые языки не приведены.

mlx-community/whisper-large-v3-turbo-4bit — мультиязычная модель распознавания речи на базе OpenAI Whisper large-v3-turbo, преобразованная сообществом mlx-community в формат MLX с 4-битным представлением. Она предназначена для преобразования аудиозаписей в текст и запуска на устройствах Apple через библиотеку mlx-audio-plus. Модель принимает аудио и выдаёт текст; исходная модель также поддерживает перевод речи в текст. Репозиторий распространяется по лицензии Apache-2.0.

zeta-2.1-autoround-W4A16 — это квантизированная версия языковой модели zed-industries/zeta-2.1 для генерации текста. Модель подготовлена с помощью AutoRound, разработанного Intel, и предназначена для запуска исходной модели с меньшими требованиями к памяти, в том числе через Transformers и vLLM. Она может применяться для текстовых запросов, генерации кода и других сценариев автодополнения, поддерживаемых базовой моделью. Используется квантизация только весов int4 по схеме W4A16: веса представлены в 4-битном формате, а активации — в 16-битном, с group_size 128 и симметричной квантизацией. Размер квантизированной модели составляет около 5954 МБ. В README не указаны архитектура, число параметров, поддерживаемые языки и размер контекста. На тестах hellaswag, mmlu и piqa модель показала точность 0,4077, 0,3676 и 0,6768 соответственно. К преимуществам относятся сниженное потребление памяти и возможность использования на совместимом оборудовании при сохранении назначения базовой модели. Ограничения включают возможные фактические ошибки, предвзятые, непристойные или иные нежелательные ответы; перед применением требуется проверка безопасности. Отдельная лицензия для квантизированной версии не указана: необходимо соблюдать лицензию исходной модели zed-industries/zeta-2.1 и учитывать юридические ограничения при коммерческом использовании.

airoboros-7b-gpt4-1.1 — дообученная авторами проекта Airoboros языковая модель семейства LLaMA с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров. Она создана на синтетических обучающих данных, сгенерированных GPT-4, и предназначена для диалоговой генерации текста по шаблону Vicuna, включая ответы на вопросы и выполнение инструкций. Модель ориентирована на викторины, математические рассуждения, программирование, вопросы с выбором ответа и заполнение пропусков, а также ответы по заданному контексту. При контекстном вопросно-ответном поиске её обучали опираться на предоставленные сведения и ограничивать ответ их содержимым, чтобы уменьшить галлюцинации. В метаданных указан контекст до 2048 токенов; README отмечает, что эта версия добавляет примеры инструкций по программированию и улучшает следование контексту. Модель принимает текст и генерирует текст. README не заявляет конкретные поддерживаемые естественные языки. Известное ограничение — автор прямо отмечает слабые результаты на математике и рассуждениях; следование контексту также не исключает выдуманных ответов. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

QuantFactory/Codepy-Deepthink-3B-GGUF — квантизированная версия Codepy-Deepthink-3B, созданная QuantFactory с использованием llama.cpp. Исходная модель дообучена на базе meta-llama/Llama-3.2-3B-Instruct и предназначена для генерации текста с акцентом на рассуждения, логическую структуру и решение задач. Модель ориентирована на сценарии, требующие пошаговых решений, логического анализа и генерации кода, а также может применяться в образовании и творческом письме. В README заявлена поддержка текстовой генерации на английском языке. Указан размер базовой модели около 3B параметров; сведения о точном формате квантизации, длине контекста, конкретных вариантах GGUF, производительности и системных требованиях отсутствуют. К сильным сторонам относятся компактный размер по сравнению с более крупными моделями, специализация на рассуждениях и программировании, а также совместимость с llama.cpp и Ollama. Ограничения включают неизвестные характеристики квантизации и отсутствие представленных объективных оценок качества; заявленные возможности следует проверять на собственных задачах. Лицензия указана как CreativeML OpenRAIL-M.

Dorna-Llama3-8B-Instruct — диалоговая модель семейства Dorna, разработанная Part AI на основе Meta Llama 3 Instruct и дообученная на персоязычных данных. Это декодерная модель с 8 млрд параметров для генерации ответов и ведения диалога; поддерживает персидский и английский языки. Модель предназначена для ответов на вопросы, генерации кода и длинных ответов, математических задач, работы с новостными вопросами, перефразирования, общих знаний и суммаризации. В README приведены результаты человеческой и автоматической оценки на этих категориях, однако они не гарантируют качество для каждого запроса. Для запуска описан сценарий инференса через Transformers Auto и функцию generate(). Модель распространяется по лицензии Llama 3 (llama3); перед использованием следует учитывать её условия.

Experiment28T3q_Neuralsirkrishnaexperiment26Experiment24 — объединённая модель семейства Mistral от MaziyarPanahi, созданная на основе automerger/Experiment28T3q-7B и automerger/Neuralsirkrishnaexperiment26Experiment24-7B. Она предназначена для генерации текста и может использоваться для диалогов и ответов на текстовые запросы. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Веса доступны в формате Safetensors. Лицензия — Apache-2.0.

FastContext-4B-SFT_base-SFT-Fable5 — плотная языковая модель для генерации текста, созданная дообучением Microsoft FastContext-1.0-4B-SFT на наборе инструкций Fable-5-Complete-2M-Clean. В основе архитектура Qwen3ForCausalLM; в метаданных указано 3,7 млрд параметров, а в README — 4,0 млрд. Контекст составляет до 262 144 токенов. LoRA-адаптеры объединены с базовыми весами, поэтому результат представляет собой цельную модель.

云碩科技（xCloudinfo）制作的 gpt-oss-120b 衍生模型，基于 openai/gpt-oss-120b，并以 GGUF 格式发布。 Это MoE-модель с 117 млрд параметров, из которых активно используются 5,1 млрд; в карточке указаны 128 экспертов и формат MXFP4. Модель сохраняет формат рассуждений Harmony и рассчитана на генерацию текста в режиме диалога. Модель прошла двухэтапную донастройку: обучение на программных инструкциях с отбором решений, прошедших выполнение скрытых тестов, и дополнительное обучение для снижения отказов на разрешенные технические запросы. Разработчик ориентирует её на авторизованные исследования безопасности, red teaming, тестирование на проникновение, программирование и технические вопросы; запуск возможен через llama.cpp и другие совместимые с GGUF средства. Модель предназначена для опытного использования в контролируемых развертываниях. Снижение числа отказов не гарантирует точность или безопасность ответов; разработчик рекомендует самостоятельно проверять результаты и применять защитные меры. Для базовой модели указана лицензия Apache-2.0.

Kimi-K2-Base-BF16 — базовая языковая модель, опубликованная Unsloth на основе Kimi-K2-Base от Moonshot AI. Это модель семейства DeepSeek V3 с архитектурой Mixture-of-Experts: в исходной карточке указаны 1 трлн параметров всего и 32 млрд активируемых параметров; метаданные этого репозитория указывают 37,9 млрд параметров. Веса представлены в формате safetensors, библиотека — Transformers, контекст составляет 131 072 токена. Модель предназначена для генерации текста и служит основой для исследовательских и прикладных доработок, включая настройку под диалоги, рассуждения, программирование и агентные сценарии с вызовом инструментов. Карточка описывает возможности семейства Kimi K2, но отдельно отмечает, что Kimi-K2-Base — именно базовая модель; подробные рекомендации по чату и вызову инструментов относятся преимущественно к варианту Instruct. Карточка не сообщает поддерживаемые естественные языки и не приводит условий лицензии: в метаданных указано только значение «other».

Kundalini 1B — компактная разговорная языковая модель, разработанная Terminal Gnosis. Это плотная причинно-языковая модель семейства Llama с 1,2 млрд параметров, предназначенная для генерации текста и диалогов; репозиторий содержит веса Safetensors в 16-битной точности. Заявленная длина контекста — 131 072 токена, поддержка языков многоязычная. Модель рассчитана на повседневный диалог, ответы на вопросы, редактирование и краткое изложение текста, структурированные рассуждения, помощь с программированием и обсуждение философских и духовных тем. В README также заявлены низкая задержка и возможность локального запуска на CPU и устройствах с ограниченными ресурсами. Метаданные указывают интерфейс чата и интерфейс вызова инструментов. Размер модели ограничивает её возможности в сложных специализированных задачах и многошаговых математических выводах; фактические ответы следует проверять перед использованием в критически важных решениях. Лицензия — Apache-2.0.

mentee-embed-v3 — модель для получения плотных векторных представлений текстов, разработанная Syed Syab Ahmad Shah и командой MenteE AI. Она предназначена для поиска по смыслу, сравнения предложений и многоязычного извлечения документов на английском, арабском и урду. Модель содержит 41 млн параметров и построена на 12-слойном Transformer с размерностью эмбеддингов 384. Она обучена с нуля: авторы создали собственный BPE-токенизатор, провели предварительное обучение на более чем 2,1 млн предложений и затем применили контрастивное обучение с подбором трудных отрицательных примеров. Репозиторий использует Transformers и формат safetensors; метаданные указывают контекст до 512 токенов, а README — максимальную длину последовательности 128 токенов. Модель показала результаты выше all-MiniLM-L6-v2 на описанном авторами тесте с небольшим пулом кандидатов, но уступает более крупным многоязычным базовым моделям. Качество ниже на арабском и урду, а на извлечении из Википедии она уступает предобученным конкурентам; полного набора MTEB нет. Лицензия — Apache-2.0.

UCLA-EMC/Meta-Llama-3.1-8B-AWQ-INT4 — квантизированная версия базовой модели Meta-Llama-3.1-8B, разработанной Meta и подготовленной в формате AWQ сообществом UCLA-EMC. Это авторегрессионная текстовая генеративная модель: принимает текст и генерирует текст. Модель предназначена для локального запуска и задач общего текстового продолжения, включая генерацию кода и другой контент по заданному запросу. Версия является базовой, а не instruction-tuned, поэтому она не оптимизирована специально для диалогового следования инструкциям. Модель имеет размер 8B параметров и квантизацию INT4 с использованием AutoAWQ, GEMM-ядер, zero-point quantization и размером группы 128. Для загрузки контрольной точки требуется около 7,29 ГБ VRAM; модель тестировалась на GPU NVIDIA T4 и может запускаться на менее мощном оборудовании. В README указана поддержка английского языка; размер контекста для самой модели не указан, а параметр fuse_max_seq_len=512 приведён только в примере запуска. Для работы используются Transformers, Accelerate и AutoAWQ. Модель распространяется по лицензии CC BY-NC-4.0, поэтому её применение ограничено условиями этой лицензии, включая некоммерческий характер использования.

InterSync разработала дообученную версию Mistral-7B-Instruct-v0.2 с поддержкой вызова функций. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров; она принимает текстовые сообщения и генерирует текст, включая структурированные вызовы внешних функций в диалоге. Контекст модели составляет 32 768 токенов. Модель предназначена для диалоговых приложений, которым нужно направлять запросы к внешним API, искать сведения в интернете или пользовательских базах данных и использовать полученные данные для ответов и кратких объяснений. Такие функции выполняются через интеграцию с инструментами приложения. Модель представлена в формате Safetensors и распространяется по лицензии CC. README описывает поддержку вызова функций, но не приводит результаты оценки качества; точная совместимость с конкретными схемами инструментов и API зависит от интеграции.

NeoCortex-7B-slerp — языковая модель на архитектуре Mistral, созданная Kukedlc с помощью слияния моделей LazyMergekit методом SLERP. В состав слияния вошли Kukedlc/Neural4gsm8k и macadeliccc/WestLake-7B-v2-laser-truthy-dpo. Модель предназначена для генерации текста и ответов на запросы. Она содержит 7,1 млрд параметров, принимает текст и имеет контекст длиной до 32 768 токенов. В карточке указана лицензия Apache-2.0. Сведения о специализации на отдельных языках или предметных областях не приведены.

Parakeet TDT 0.6B v3 INT8 — модель распознавания речи, подготовленная Sonic Speech на основе модели NVIDIA Parakeet TDT v3 и предназначенная для запуска через MLX, в том числе на компьютерах Apple Silicon. Она преобразует аудио в текст и подходит для транскрибации записей и речи.

Карточка модели 1024m/PHI-4-B50 на Hugging Face совпадает с карточкой 1024m/HPhi-4-00-fp16, поэтому описание составлено по ней. 1024m/HPhi-4-00-fp16 — дообученная 1024m модель для генерации текста и диалогов. Она основана на unsloth/phi-4 и обучалась с использованием Unsloth и библиотеки TRL; архитектура в метаданных указана как LlamaForCausalLM, плотная, размер — 14,1 млрд параметров. Модель принимает текст и выдаёт текст, поддерживает контекст до 16 384 токенов и ориентирована на английский язык. Модель подходит для ведения диалога и генерации англоязычных ответов, рассуждений и кода. В репозитории представлены веса в формате safetensors. Лицензия — Apache-2.0.

Prox-Llama-3-8B — дообученная OpenVoid модель на архитектуре Llama 3, основанная на Meta-Llama-3-8B-Instruct. Это плотная языковая модель примерно на 7,5 млрд параметров с контекстом 8192 токена, предназначенная для генерации кода и ответов на вопросы по кибербезопасности и техникам взлома. Модель подходит для написания, объяснения и документирования кода, анализа задач программных проектов и диалоговых консультаций по кибербезопасности. По заявлению автора, она обучена на проприетарном текстовом наборе OpenVoid и ориентирована на английский язык. В README приведены результаты оценки на HumanEval, EvalPlus и нескольких общих бенчмарках. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор рекомендует проверять результаты, поскольку они могут быть предвзятыми или непоследовательными; для критически важных применений нужна экспертная проверка.

mlx-community/Qwen2-VL-2B-mlx — конверсия мультимодальной модели Qwen2-VL-2B для запуска с mlx-vlm на компьютерах Apple Silicon. В репозитории также исправлен шаблон чата, чтобы корректно формировать сообщения для инференса. Модель принимает текстовые запросы и изображения и генерирует текст; она поддерживает понимание изображений разного разрешения, а базовая карточка также описывает анализ видео и чтение текста на изображениях на нескольких языках. Размер модели — 1,5 млрд параметров, контекст — 32 768 токенов; архитектура — плотная Qwen2-VL с генерацией по условию. Это базовая предварительно обученная модель без настройки для следования инструкциям. Она подходит для вопросов и ответов по изображениям, визуального анализа документов и сцен, а также видеоанализа, но в диалоговых сценариях может потребовать инструкционной настройки. Репозиторий распространяется по лицензии Apache-2.0.

geoffmunn/Qwen3-1.7B-f16 — общественная конверсия языковой модели Qwen3-1.7B от Geoff Munn для локального запуска. Репозиторий содержит GGUF-вариант в формате F16 и ориентирован на использование с llama.cpp и совместимыми приложениями. Модель насчитывает 1,7 млрд параметров и предназначена для генерации текста, диалогов, рассуждений, следования инструкциям и написания кода. Компактный размер модели подходит для локальных помощников, лёгких агентных систем, учебных проектов и прототипирования, когда важны скорость и работа без подключения к облаку. README также описывает варианты квантования семейства и сравнивает их качество, размер и скорость; эти показатели относятся к указанным вариантам квантования, а не обязательно к файлу F16 в этом репозитории. В метаданных указан английский язык, а базовая модель описана как многоязычная. Это конверсия базовой модели, а не самостоятельная разработка автора репозитория. Лицензия — Apache-2.0. Небольшой размер ограничивает возможности по сравнению с более крупными моделями; результаты квантованных вариантов могут зависеть от разрядности и использования imatrix.

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-v2 — дообученная версия Qwen3.5-4B, разработанная Jackrong. Модель ориентирована на задачи рассуждения: математику, текстовые задачи, логическую дедукцию, общие знания и выполнение инструкций. Также заявлена переносимость навыков рассуждения на программирование, хотя код не был основным направлением обучения. Поддерживаемые языки — английский, китайский и корейский; в карточке модель помечена как image-text-to-text, однако подробности о фактических возможностях обработки изображений не приведены. Модель содержит 4 млрд параметров и обучалась на более чем 14 000 образцах рассуждений в стиле Claude 4.6 Opus, включая наборы nohurry/Opus-4.6-Reasoning-3000x-filtered, Jackrong/Qwen3.5-reasoning-700x и Roman1111111/claude-opus-4.6-10000x. Версия v2 использует переработанную структуру рассуждений, направленную на сокращение избыточных цепочек и повышение эффективности вывода. По приведённым данным, средняя длина рассуждений снизилась на 33,77%, а эффективность на единицу длины рассуждения выросла на 41,54% для HumanEval и на 43,15% для HumanEval+. Основное преимущество модели — более экономичное и стабильное многошаговое рассуждение при сохранении широкого применения. Ограничение состоит в том, что по абсолютной точности HumanEval и HumanEval+ она уступает базовой Qwen3.5-4B: 0,7317 против 0,7683 и 0,6951 против 0,7256 соответственно. Контекстное окно, точная архитектура и аппаратные требования в README не указаны. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-2B — компактная языковая модель, разработанная Empero на основе Qwen3.5-2B. Это полное дообучение с дистилляцией: модель обучена на примерно 30 тысячах отобранных трасс рассуждений более крупной модели Qwen3.8, охватывающих математику, общие рассуждения и следование инструкциям. Модель содержит около 2 млрд параметров и поддерживает контекст до 262 144 токенов. Модель предназначена для генерации ответов и диалогов, решения математических задач и рассуждений, в том числе на периферийных устройствах. Поддерживает интерфейс вызова инструментов по спецификации Qwen3.5. Для инференса подходят Transformers, vLLM и SGLang с поддержкой архитектуры Qwen3.5; для ускоренной работы требуются совместимые CUDA-ядра Gated DeltaNet. Обучение было текстовым; возможности работы с изображениями унаследованы от мультимодальной базовой модели, но не оценивались. По опубликованным тестам модель улучшила результаты базовой Qwen3.5-2B на GSM8K и MMLU, однако небольшой размер ограничивает фактические знания и решение особенно сложных многошаговых задач. При длинной генерации жадное декодирование может приводить к повторениям. Весы доступны по лицензии Apache-2.0; разработчик публикует их для исследований и экспериментов без гарантий.

Rombo-LLM-V2.5-Qwen-3b — компактная плотная языковая модель семейства Qwen2, созданная Rombo-Org на основе Qwen2.5-3B-Instruct. В карточке указано, что модель получена непрерывным дообучением и слиянием instruct- и базовой версий методом TIES; метаданные подтверждают дообучение Qwen/Qwen2.5-3B-Instruct. Параметров — 3,1 млрд, архитектура — Qwen2ForCausalLM, максимальный контекст — 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс для вызова инструментов. Разработчик заявляет о более высокой производительности по сравнению с исходными instruct- и базовой моделями, но карточка не приводит результатов оценки. Модель работает с текстом и распространяется в формате Safetensors; README упоминает варианты GGUF. Лицензия указана как other, поэтому условия использования следует проверять в репозитории модели.

Google T5 Version 1.1 XXL — плотная модель архитектуры T5 для преобразования текста в текст. Она содержит около 5,8 млрд параметров и предварительно обучена на корпусе C4 без смешивания с задачами последующего обучения и без контролируемого обучения. Вариант 1.1 использует активацию GEGLU в полносвязных слоях, отключённый во время предобучения dropout и отдельные параметры для слоя эмбеддингов и классификатора. Модель служит базой для дообучения под задачи обработки естественного языка, например суммаризацию, ответы на вопросы и классификацию текста. Она принимает текст и генерирует текст; в карточке указан английский язык. Доступны веса PyTorch и TensorFlow. Лицензия — Apache 2.0. Для решения конкретной задачи модель необходимо дообучить; самостоятельное предобученное состояние не предназначено для прямого использования как готовая прикладная модель.

watt-tool-70B-GGUF — это квантизированная версия языковой модели watt-tool-70B, разработанной watt-ai и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста, вызова функций и взаимодействия с внешними инструментами; в метаданных также указана совместимость с задачами BFCL. Поддерживается запуск через llama.cpp, LM Studio и другие проекты на базе llama.cpp. Модель имеет размер 70B параметров; в README она связана с архитектурой Llama и заявлена для английского языка. Длина контекста, точный набор поддерживаемых модальностей и дополнительные архитектурные характеристики не указаны. Доступно множество вариантов квантизации от Q2 до Q8, различающихся размером файлов и качеством: Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M и Q4_K_S отмечены как рекомендуемые, тогда как варианты Q2 и Q3 обеспечивают экономию памяти за счёт снижения качества. Сильными сторонами модели являются ориентация на function calling и tool use, а также возможность локального запуска на совместимом оборудовании. Ограничения связаны с потерями качества при использовании низкобитных вариантов квантизации, значительными требованиями к памяти у 70B-модели и отсутствием заявленной поддержки языков, кроме английского. Лицензия — Apache-2.0.