II.8Инженерия данных и аналитика

CultriX/SeQwence-14Bv3 — объединённая модель семейства Qwen2, созданная CultriX методом DARE TIES с помощью mergekit. В качестве основы использована CultriX/SeQwence-14Bv1, также в объединение вошли CultriX/SeQwence-14Bv2 и CultriX/Qwestion-14B. Модель предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Она содержит 14 млрд параметров, использует архитектуру Qwen2ForCausalLM и поддерживает контекст до 131 072 токенов. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Модель принимает текст и генерирует текст. Языковая поддержка отдельно не перечислена. Репозиторий содержит веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

mncai/yi-34B-v2 — инструкционно дообученная модель MindsAndCompany на базе Yi-34B для генерации текста и ответов на запросы. В карточке приводится пример вопроса на корейском языке; модель может использоваться в диалоговых и корпоративных приложениях, включая чат-ботов и помощников по коду, которые разрабатывает компания. Модель имеет плотную архитектуру LlamaForCausalLM и около 33,9 млрд параметров. Она принимает текст, выдаёт текст и поддерживает контекст до 8192 токенов. Репозиторий содержит веса safetensors. Лицензия — Apache-2.0.

Zen Pro — диалоговая языковая модель общего назначения, разработанная Hanzo AI и Zoo Labs Foundation на основе Qwen/Qwen3-8B. Это плотный авторегрессионный трансформер семейства Qwen3 с 7,6 млрд параметров, дообученный с обучением идентичности Hanzo, данными для агентных сценариев и abliteration. Модель предназначена для генерации текста, диалога, рассуждений и анализа; доступна через API Hanzo и в формате Transformers с весами safetensors. Модель принимает текст и генерирует текст. Контекстное окно составляет 40 960 токенов. В метаданных указан английский язык; базовая Qwen3-8B описана как многоязычная, но основным языком Zen Pro в карточке заявлен английский. Модель выпущена по лицензии Apache-2.0. Карточка отмечает, что чекпойнт архивирован и уступил место поколению zen5.

T145/ZEUS-8B-V18 — языковая модель семейства Llama 3.1, созданная с помощью mergekit методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в объединение также вошли VAGOsolutions/Llama-3.1-SauerkrautLM-8b-Instruct, arcee-ai/Llama-3.1-SuperNova-Lite, unsloth/Llama-3.1-Storm-8B и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и рассчитана на генерацию текста и диалоги. Нативный контекст составляет до 131 072 токенов; указаны интерфейс вызова инструментов и формат весов safetensors. В README приведены результаты оценивания, включая 78,34% на IFEval и 32,53% на BBH. Карточка не сообщает явно о поддерживаемых естественных языках и лицензии, поэтому область применения и условия использования следует сверить с карточками базовых моделей и репозитория. Оценки из README относятся к указанным тестам и сами по себе не гарантируют качество в конкретных сценариях.

DeepSauerHuatuoSkywork-R1-o1-Llama-3.1-8B — объединённая языковая модель, собранная grimjim с помощью mergekit. В основе лежит meta-llama/Llama-3.1-8B; в слияние также включены SauerHuatuoSkywork-o1-Llama-3.1-8B с весом 0,9 и DeepSeek-R1-Distill-Llama-8B с весом 0,1. Использован метод task arithmetic, итоговые веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалоговых сценариев, где полезны рассуждения и следование инструкциям. Она содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. Карточка приводит результаты оценивания на IFEval и BBH, однако не описывает языки, на которых модель проверена. Лицензия — llama3.1; её условия следует учитывать при использовании и распространении модели.

meituan/DeepSeek-R1-Block-INT8 — это версия DeepSeek-R1 с блочным квантованием весов в формат INT8. Исходная модель DeepSeek-R1 разработана DeepSeek AI и предназначена для задач рассуждения, включая математику, программирование и другие сложные интеллектуальные сценарии. Она обучалась с применением крупномасштабного reinforcement learning и демонстрирует способности к самопроверке, рефлексии и построению длинных цепочек рассуждений. В данной версии веса исходного BF16-чекпойнта преобразуются в INT8 с использованием блочных масштабов для блоков размером 128×128. README не содержит точных сведений о числе параметров, архитектуре, поддерживаемых языках, размере контекста и мультимодальности. Для инференса предусмотрена интеграция с SGLang и требуется конфигурация с динамическим квантованием активаций и методом blockwise_int8. По приведённым результатам на A100 квантованная версия показала 95,8% на GSM8K и 87,1% на MMLU, а пропускная способность составила 4450,02 запросов в секунду против 3342,29 у BF16-варианта, что соответствует приросту до 33%; при этом заявлена отсутствие потери точности. Ограничения связаны с необходимостью совместимого оборудования и программного стека, а также с тем, что результаты приведены для конкретной конфигурации. Лицензия — MIT.

DeepSeek-R1-Distill-Llama-8B-GGUF — это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Llama-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, решения задач, требующих рассуждений, и локального использования в инструментах, совместимых с форматом GGUF. Модель дистиллирована из reasoning-модели DeepSeek-R1 и настроена на рассуждения и генерацию цепочек рассуждений. Заявлена поддержка контекста до 128k токенов. В основе используется архитектура Llama с размером 8B параметров; модель относится к текстовой модальности. Другие характеристики, включая перечень поддерживаемых языков и конкретный тип квантизации, в README не указаны. Лицензия и точные условия использования в README не указаны. Модель может быть полезна для локального запуска и задач, где важны рассуждения, однако, как и другие генеративные модели, способна выдавать неточные, вредные или неподходящие ответы; надёжность результатов требует проверки.

DeepSeek-R1-Distill-Qwen-32B-GGUF — это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Qwen-32B, разработанной deepseek-ai. Квантизация выполнена bartowski на основе llama.cpp версии b4514 и предназначена для запуска через совместимые инструменты, включая LM Studio. Модель создана для генерации текста, прежде всего для задач, требующих рассуждений: решения сложных вопросов, анализа и пошагового построения ответа. Она дистиллирована из reasoning-модели DeepSeek-R1 и специально настроена на reasoning и chain-of-thought. Заявлена поддержка контекста длиной до 128k токенов. В README не указаны точные параметры архитектуры, языки, набор поддерживаемых модальностей и размер конкретных GGUF-файлов, поэтому модель следует считать текстовой. Сильные стороны модели — ориентация на рассуждения, большой контекст и возможность локального запуска в формате GGUF. Ограничения включают потенциально неточные, вредные или неподходящие ответы, характерные для генеративных моделей; README также не содержит сведений о результатах бенчмарков. Лицензия в предоставленных данных не указана, поэтому условия использования необходимо уточнять по исходной модели и репозиторию квантизации.

unsloth/DeepSeek-V3-0324-GGUF — это набор динамически квантованных GGUF-версий модели DeepSeek-V3-0324, подготовленный Unsloth на основе базовой модели deepseek-ai/DeepSeek-V3-0324. Модель предназначена для локального запуска в llama.cpp, LM Studio, Open WebUI и других фреймворках инференса, включая задачи генерации текста и кода. В README указан английский язык; сведения о других языках и мультимодальных возможностях отсутствуют. Доступны варианты с квантованием от 1,78 до 4,5 бит и размером файлов примерно от 186 до 405 ГБ. Используется динамическое селективное квантование, призванное сохранить более высокую точность по сравнению со стандартными вариантами. Рекомендуются конфигурации IQ2_XXS 2,42 бит и Q2_K_XL 2,71 бит как удачный баланс размера и производительности; версия Q4_K_XL 4,5 бит получила наивысшую оценку качества. Для запуска желательно иметь не менее 180 ГБ совокупной VRAM и RAM. Ограничения включают очень высокие требования к памяти, а предварительные версии 1,78 и 1,93 бит могут хуже справляться с некоторыми задачами программирования. Лицензия модели — MIT.

Lambent/Eidolon-v2-14B — чат-модель на архитектуре Qwen2 с 14 млрд параметров и контекстом до 131 072 токенов. Автор указывает, что модель дообучена на основе Lambent/proto-nova-eidolon-v2alpha0.3-14B, а та настроена от arcee-ai/SuperNova-Medius; также применялись DPO, дополнительное обучение на инструкционных данных и продолженное предобучение. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в диалоге и выполнения инструкций; заявлен интерфейс вызова инструментов. По словам автора, исправлена синтаксическая проблема предшественника, но оценка EQ-Bench примерно на один балл ниже, что может указывать на небольшое снижение качества рассуждений. В карточке указана лицензия CC BY-NC 4.0, поэтому применение ограничено некоммерческими сценариями. Тег «Not For All Audiences» связан автором с обучающими данными; автор также отмечает заметную цензуру.

Gemma-4-12B-it-qat-JANG_4M-CRACK — дообученная и квантизированная версия Gemma 4 12B-it от dealignai. Это плотная мультимодальная модель семейства Gemma4 Unified с единым ранним слиянием модальностей и гибридным скользящим и глобальным вниманием. Она принимает текст, изображения и аудио и предназначена для диалогов, рассуждений, ответов на вопросы и генерации кода; карточка также заявляет многоязычную поддержку и сохранение возможностей базовой модели в работе с изображениями и аудио. Модель использует схему JANG_4M: 8-битное квантование внимания и 4-битное квантование MLP. Разработчик сообщает о 84,2% на MMLU и 97% выполнении вредоносных запросов в тесте HarmBench, где отказ от ответов на такие запросы был удалён. Поэтому модель рассчитана на сценарии без стандартных отказов по этим категориям и требует осторожного контроля применения. Для запуска рекомендованы приложение или API vMLX и Mac на Apple Silicon с достаточной объединённой памятью; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки Gemma 4. Лицензия — Gemma; разработчик указывает исследовательское назначение и возлагает ответственность за соблюдение применимых законов на пользователей.

Gemma 4 12B MXFP4 CRACK — мультимодальная модель на базе Google Gemma 4 12B Instruct, опубликованная dealignai. Это дообученная и квантизированная 4-битная версия с архитектурой Gemma4 Unified и гибридным скользящим и глобальным вниманием; автор заявляет поддержку изображений и аудио, многоязычность, рассуждения и генерацию кода. Модель предназначена для диалогов, ответов на вопросы, анализа изображений и аудио, многошаговых рассуждений и генерации кода; интерфейс также поддерживает вызов инструментов. README сообщает об удалении отказов и высокой готовности отвечать на запросы из вредоносных категорий HarmBench, при заявленном сохранении результата MMLU базовой модели. Эти показатели приведены автором и не являются независимой проверкой. Для запуска автор рекомендует vMLX с поддержкой Gemma 4 на Mac с Apple Silicon; стандартные mlx_lm и mlx_vlm, согласно README, поддерживают модель не полностью. Лицензия указана как Gemma; автор позиционирует публикацию как исследовательскую и возлагает на пользователей ответственность за соблюдение законов.

Gemma-4-E2B-it-qat-MXFP4-CRACK — мультимодальная модель dealignai на базе Google Gemma 4 E2B Instruct. Она предназначена для диалогов, ответов на вопросы, многошаговых рассуждений и генерации кода, а также принимает изображения и аудио. В карточке заявлены сохранённые возможности работы с изображениями и аудио, поддержка нескольких языков и архитектура Gemma 4 с плотной сетью и гибридным скользящим и глобальным вниманием. Модель представлена в формате MXFP4 с 4-битной квантизацией и рассчитана на запуск через vMLX на компьютерах Apple Silicon с достаточной объединённой памятью. Автор сообщает о сохранении результатов MMLU почти на уровне базовой модели и об удалении отказов на HarmBench; эти оценки приведены в README и не являются независимой проверкой. Для запуска требуется vMLX с поддержкой Gemma 4; стандартные mlx_lm и mlx_vlm, согласно карточке, не обеспечивают полной поддержки. Модель опубликована под лицензией Gemma. Автор указывает исследовательское назначение и возлагает на пользователей ответственность за соблюдение применимых законов и правил.

GritLM-8x7B — языковая модель Contextual AI, дообученная на базе mistralai/Mixtral-8x7B-Instruct-v0.1 методом GRIT. Она объединяет генерацию текста и получение текстовых представлений, поэтому подходит как для диалогов и ответов на запросы, так и для создания эмбеддингов и оценки релевантности текстов. В метаданных указаны архитектура Mixtral с разреженной экспертной архитектурой MoE, 7,1 млрд параметров и контекст до 32 768 токенов. Модель рассчитана на задачи поиска и представления текста, а также на генерацию ответов и продолжений. Карточка сообщает о высоких результатах на задачах генерации и представления текста, но не приводит подробных оценок или инструкций по использованию. Репозиторий распространяется по лицензии Apache-2.0. Языковая поддержка в предоставленных данных не уточнена.

QuantFactory/Hermes-2-Pro-Mistral-7B-GGUF — квантизированная версия языковой модели Hermes 2 Pro на базе Mistral 7B, созданная с использованием llama.cpp. Исходную модель разработали Nous Research при участии interstellarninja и Fireworks.AI; для обучения использовались очищенная версия датасета OpenHermes 2.5 и собственные наборы данных для вызова функций и генерации структурированного JSON. Модель предназначена для диалогов, выполнения общих текстовых задач, следования инструкциям, ролевых сценариев, вызова функций и выдачи данных в формате JSON. Она использует шаблон ChatML, поддерживает системные сообщения и многоходовые диалоги, а также специальную структуру для function calling. Заявлены результаты 90% на внутренней оценке вызова функций и 84% на оценке структурированного JSON-вывода. Модель относится к текстовым генеративным моделям, поддерживает английский язык и имеет размер базовой архитектуры 7 миллиардов параметров. Формат GGUF и квантизация ориентированы на запуск через совместимые инструменты, включая llama.cpp, однако конкретный уровень квантизации в README не указан. Контекстное окно также не указано. Ограничениями являются специализация на английском языке, меньшие возможности по сравнению с более крупными моделями и возможная потеря качества из-за квантизации. Модель распространяется по лицензии Apache 2.0.

Карточка модели PS4Research/Hk6vAazgWreoKsXr на Hugging Face совпадает с карточкой PS4Research/0VOz3fgU0qp4lVar, поэтому описание составлено по ней. PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

ClaudioItaly/Inside-7B — объединённая плотная языковая модель семейства Qwen2, созданная автором репозитория с помощью mergekit и метода TIES на базе happzy2633/qwen2.5-7b-ins-v3. В объединение вошли AIDC-AI/Marco-o1 и prithivMLmods/QwQ-LCoT-7B-Instruct; модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в диалоговом формате. Модель подходит для диалога, следования инструкциям и многошагового решения задач; максимальный контекст составляет 32 768 токенов. Модель опубликована в формате safetensors и доступна через библиотеку Transformers. Лицензия в предоставленных данных не указана.

Это дообученная модель генерации текста artificialguybr на базе Meta Llama 3.2 1B, настроенная на наборе инструкций и диалогов OpenHermes-2.5. Она построена на плотной авторегрессионной архитектуре LlamaForCausalLM и содержит около 1,2 млрд параметров; заявленная длина контекста — 131 072 токена. Модель принимает и генерирует текст, включая код, и рассчитана прежде всего на английский язык, с возможностью работы на других языках Llama 3.2. Модель предназначена для диалогового помощника и агентных сценариев: следования инструкциям, поиска знаний, суммаризации и переформулирования запросов. Компактный размер упрощает запуск по сравнению с крупными моделями, но качество и надёжность могут быть ограничены размером базовой модели и данными дообучения. Возможны смещения и неподходящие ответы; для чувствительных сценариев необходима проверка результатов. Лицензия — Llama 3.2 Community License (llama3.2), с соблюдением её условий и Acceptable Use Policy.

Luciole-23B-Instruct-1.1 — инструктивная чат-модель, созданная LINAGORA и консорциумом OpenLLM-France в рамках проекта OpenLLM France. Это дообученная и выровненная версия Luciole-23B-Base: обучение включало supervised fine-tuning на инструкциях и финальное выравнивание предпочтений методом DPO. Модель построена на плотной архитектуре Nemotron и содержит 31,5 млрд параметров; метаданные указывают контекст до 131 072 токенов, хотя при постобучении использовались последовательности длиной 16 384 токена. Модель предназначена для диалогов и выполнения инструкций на французском и английском языках, включая вопросы по общим темам, RAG-сценарии, перевод, математику, науку и программирование. Она особенно хорошо показала себя в тестах на следование инструкциям; французские результаты примечательны, несмотря на то что постобучение проводилось преимущественно на английских данных. Это первая версия постобучения семейства Luciole, и разработка продолжается. Перед применением в производственных системах модель следует проверить на целевых задачах: она может галлюцинировать, а для специализированной генерации кода и решения математических задач потребуется дополнительное обучение. Разработчики также отмечают ограниченный объём запоминаемых фактов и рекомендуют использовать RAG; контекст, задействованный при постобучении, короче заявленного контекста базовой модели. Лицензия — Apache 2.0.

JetBrains/Mellum2-12B-A2.5B-Thinking-GGUF-Q4_K_M — это квантизированная GGUF-версия рассуждающей языковой модели Mellum2, разработанной JetBrains. Модель предназначена для генерации текста и решения задач, требующих пошагового рассуждения, и может запускаться локально через llama.cpp, Ollama, LM Studio и другие совместимые среды. Модель использует архитектуру Mixture-of-Experts с 64 экспертами, из которых для каждого токена активируются 8. Заявленный контекст составляет 131 072 токена. Модель поддерживает английский язык и выводит цепочку рассуждений в блоках <think>...</think> перед финальным ответом. Вариант Q4_K_M использует 4-битное k-квантизирование, занимает около 8,1 ГБ и обеспечивает сбалансированное соотношение качества и размера: совпадение наиболее вероятного токена с BF16-версией составляет около 89,8% на указанном тесте. Основные преимущества — возможность локального запуска, большой контекст, MoE-архитектура и заметное уменьшение размера по сравнению с BF16-версией. Ограничения связаны с потерями точности из-за 4-битного квантизирования, необходимостью совместимого рантайма и тем, что README не содержит подробных результатов оценки исходной модели. Модель распространяется по лицензии Apache 2.0.

StanFurrer/merlinite-7B-slerp — объединённая языковая модель, созданная Stan Furrer с помощью LazyMergekit. Она сочетает веса ibm/merlinite-7b и mistralai/Mistral-7B-Instruct-v0.2 методом slerp и предназначена для генерации текста и ответов на инструкции в диалоговом формате. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Поддерживает контекст до 32 768 токенов, распространяется в формате safetensors; в конфигурации слияния указан тип данных bfloat16. README не сообщает о специализированной предметной области или дополнительных модальностях. Лицензия в предоставленных данных не указана.

Карточка модели Undi95/Meta-Llama-3-8B-hf на Hugging Face совпадает с карточкой meta-llama/Meta-Llama-3-8B, поэтому описание составлено по ней. Meta Llama 3 8B — авторегрессионная языковая модель Meta с оптимизированной архитектурой Transformer и Grouped-Query Attention. Эта версия принимает текст и генерирует текст, в том числе код. Семейство Llama 3 включает предварительно обученные и дообученные для инструкций модели; карточка этой модели описывает базовый предварительно обученный чекпойнт, пригодный для адаптации к различным задачам генерации текста. Модель предназначена для коммерческого и исследовательского применения на английском языке. Её можно использовать как основу для генерации текста и кода, а после адаптации — для диалоговых сценариев. Выпущена в апреле 2024 года и распространяется по пользовательской коммерческой лицензии Meta Llama 3. Карточка не приводит для этого репозитория конкретную длину контекста; сама модель статична и обучена на офлайн-данных. Для развёртывания приложений разработчикам следует самостоятельно подбирать меры безопасности под свой сценарий.

MiniCPM5-2B GGUF — языковая модель, разработанная командой OpenBMB и представленная как вторая модель серии MiniCPM5. Это плотная Transformer-модель примерно на 2 млрд параметров, преобразованная в формат GGUF с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска на устройствах с ограниченными ресурсами, включая on-device и edge-сценарии. Модель ориентирована на англоязычные и китайскоязычные задачи, включая программирование, математику, понимание длинного контекста, использование инструментов и агентские сценарии. В карточке также заявлена поддержка long-context и tool-calling, однако точный размер контекстного окна и дополнительные технические параметры не указаны. Это текстовая модель без заявленной поддержки изображений или других модальностей. К сильным сторонам относятся компактный размер, пригодность для локального развертывания и конкурентная производительность среди открытых моделей 2B-класса; по заявлению разработчиков, модель также сопоставима с некоторыми моделями класса 4B. Ограничениями являются меньшая ёмкость по сравнению с крупными моделями и отсутствие в карточке подробных количественных результатов, требований к ресурсам и гарантированных характеристик. Модель распространяется по лицензии Apache-2.0.

MistralInstructLongish-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и MistralInstructLongish методом SLERP. Она предназначена для генерации ответов на инструкции и диалоговые запросы; размер составляет 7,1 млрд параметров, контекст — до 32 768 токенов. Модель принимает текст и выдаёт текст. Указана лицензия Apache-2.0. Карточка не сообщает о языковом охвате и конкретных специализированных областях применения.

Kaoeiri/MS_a-coolyte-2409-22B — языковая модель для диалогов и генерации текста, созданная с помощью mergekit. Это плотная модель архитектуры Mistral с 22 млрд параметров, полученная слиянием unsloth/Mistral-Small-Instruct-2409 и rAIfle/Acolyte-LORA методом task arithmetic; веса представлены в формате Safetensors. Модель рассчитана на текстовый ввод и генерацию текста, поддерживает чат и интерфейс вызова инструментов. Контекст — до 131 072 токенов. Модель можно использовать для диалоговых ассистентов, генерации и продолжения текста, а также сценариев, где ответ опирается на длинный контекст или вызов инструментов. README указывает, что плотность слияния подбиралась для целевого training loss 0,3. Сведения о конкретных поддерживаемых естественных языках и лицензии в предоставленных источниках отсутствуют.

Muse Spark 1.2 — рассуждающая модель Meta для сложных задач с агентным взаимодействием. Она принимает текст, изображения, видео, аудио и PDF-документы, а на выходе формирует текст. Заявленный контекст — до 1 млн токенов. Модель подходит для сценариев, где нужно анализировать смешанные входные данные и выполнять многошаговые задачи. В метаданных каталога её задача указана как image-text-to-text. Информация о лицензии, точном размере и ограничениях модели в доступных данных отсутствует.

Nemotron-Elastic-12B — языковая модель NVIDIA, полученная постобучением NVIDIA-Nemotron-Nano-12B-v2 и предназначенная для исследований и разработки. Это гибридная архитектура Mamba-2 и MLP с четырьмя слоями Attention, содержащая 12 млрд параметров и позволяющая извлекать из общего набора весов вложенные варианты на 6 и 9 млрд параметров без отдельных циклов обучения. Модель принимает текст и генерирует текст; контекст — до 128 тысяч токенов. Она предназначена для диалогов, рассуждений, математических и научных задач, а также экспериментов с адаптивным размером модели, гибридными архитектурами и сжатием. Карточка указывает поддержку английского и многоязычных возможностей; языком карточки в метаданных указан английский. Модель рассчитана на запуск с Transformers и оптимизирована для систем с GPU NVIDIA, в частности H100-80GB. Модель может давать неточные, неполные или лишние ответы, генерировать токсичный текст и проявлять социальные предубеждения; также отмечена уязвимость к атакам на выравнивание. Сгенерированный код следует проверять, а для развёртывания рекомендуется применять защитные фильтры. Лицензия указана как other; перед использованием следует проверить условия лицензирования в карточке Hugging Face.

Это сборка модели NVIDIA Nemotron 3 Nano 30B A3B в формате GGUF BF16, подготовленная DhruvalLabs для запуска через llama.cpp и совместимые приложения, включая Ollama, LM Studio, Open WebUI и Jan. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; README перечисляет варианты квантования K-quant, в том числе Q3_K_M, Q4_K_M и Q8_0, для локального запуска при разных объёмах памяти. Модель предназначена для генерации текста и диалогового использования. Базовая модель ориентирована на рассуждения, программирование и агентные сценарии; доступные сведения также указывают на поддержку английского, испанского, французского, японского, итальянского и немецкого языков. README заявляет сохранение 97–99% исходного качества для квантованных вариантов, но не приводит результаты измерений, поэтому это утверждение не подтверждено представленными бенчмарками. В метаданных указана лицензия «other»; конкретные условия использования в предоставленной карточке не раскрыты. GGUF-репозиторий указывает BF16 и одновременно описывает варианты квантования, поэтому фактическая точность зависит от выбранного файла.

Occiglot-7B-FR-EN-Instruct — инструктивная языковая модель, разработанная Occiglot Research Collective. Это плотный авторегрессионный трансформер MistralForCausalLM с 7,1 млрд параметров, дообученный на 160 млн токенов многоязычных и программных инструкций. Модель настроена для диалогового взаимодействия по шаблону ChatML и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и выполнения инструкций на французском и английском языках, включая задачи с кодом. Обучающие данные были поровну распределены между французским и английским; в README приведены предварительные результаты оценивания, причём результаты для французского следует трактовать осторожно из-за частично машинного перевода тестов и англоязычных запросов. Это ранний выпуск исследовательского проекта. Модель не проходила выравнивание по безопасности и может выдавать проблематичные ответы. Лицензия — Apache 2.0.

pankajmathur/orca_mini_v7_72b — разговорная языковая модель на архитектуре Qwen2, созданная Pankaj Mathur и дообученная на различных наборах данных для SFT. Она предназначена для ответов в диалоге и выполнения широкого круга текстовых запросов; использовать её можно как основу для дальнейшего дообучения и слияния с другими моделями при указании авторства. Модель содержит 71,5 млрд параметров, принимает текст и выдаёт текст, поддерживает контекст длиной 32 768 токенов и формат диалога ChatML. README описывает расширение контекста с помощью YARN при развёртывании через vLLM. Модель опубликована под лицензией Apache-2.0. В README приведены результаты Open LLM Leaderboard, включая средний балл 39,06 и 59,30 на IFEval; эти показатели относятся к указанной оценке и не гарантируют качество для конкретного сценария. Для vLLM статическая настройка YARN может снижать производительность на коротких запросах.