II.4Отладка, тестирование и качество ПО

MihaiPopa-1 опубликовал модель на основе Empero Qwen3.8-2B-Distill; в карточке указано, что исходную модель разработала Empero. Это причинная языковая модель для диалогов, рассуждений и генерации текста, дообученная методом abliteration для снижения числа отказов. В сравнении с исходной моделью авторы сообщают 3 отказа из 100 запросов против 83 из 100; это может быть полезно для широкого круга запросов, но не гарантирует ответы на каждый запрос. Модель содержит около 2 млрд параметров и использует архитектуру Qwen3.5. Карточка базовой модели указывает дистилляцию на примерах для математики, общих рассуждений и следования инструкциям; заявлен контекст до 262 144 токенов и поддержка вызова инструментов. Доступны веса в формате Safetensors для Transformers и совместимых с архитектурой сред. Хотя архитектура происходит от мультимодальной модели, это дообучение описано как текстовое, а поведение при работе с изображениями не оценивалось. В README приведены результаты на GSM8K и MMLU, однако они относятся к базовой Qwen3.8-2B, а не к версии Heretic-Max, поэтому их нельзя считать оценкой качества этой версии. Веса распространяются по лицензии Apache-2.0; авторы предоставляют их без гарантий и для исследований и экспериментов.

Noobito45/Qwen3.8-9B-heretic-uncensored-NVFP4-GGUF — квантизированная GGUF-версия языковой модели, разработанная на основе empero-ai/Qwen3.8-9B. Модель создана с использованием Heretic v1.4.0 и предназначена для генерации текста, рассуждений и других задач, поддерживаемых исходной моделью Qwen3.8-9B. Это «decensored» или «uncensored» вариант, в котором снижена склонность к отказам: в указанной проверке модель отказалась отвечать на 22 из 100 запросов против 100 из 100 у исходной версии. Модель основана на архитектуре Qwen3.5-9B и представляет собой дистилляцию исходной Qwen3.8 2.4T A95B; точные характеристики архитектуры, размер контекста и полный набор языков в этой карточке не указаны. Доступная версия использует квантизацию NVFP4 + Q8_0 и предназначена для запуска в совместимых с GGUF средах, включая llama.cpp. По данным бенчмарков, квантизация вызывает небольшие изменения качества и поведения по сравнению с эталонной версией BF16; результаты зависят от оборудования и настроек оценки. Модель сохраняет близость к исходной по KL-дивергенции, однако снижение отказов может сопровождаться изменением поведения и не означает отсутствия ограничений или рисков при использовании. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Salamandra-2B — базовая авторегрессионная языковая модель семейства Salamandra, разработанная командой проекта Salamandra и обученная с нуля. Это плотная decoder-only модель на архитектуре Llama с примерно 2,25 млрд параметров по карточке модели и контекстом до 8192 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0, допускающая коммерческое использование. Модель предназначена для генерации текста на европейских языках и коде, а также для дальнейшего дообучения под конкретные задачи. Она предварительно обучена на 12,875 трлн токенов тщательно отобранных данных из 35 европейских языков и кода. Её можно применять для продолжения текста, черновой генерации и многоязычных сценариев; это базовая версия, а не вариант, настроенный как диалоговый помощник. В опубликованных оценках отмечены общественные и когнитивные смещения: модель может предпочитать ранние варианты ответа в списках и зависеть от формулировки подсказки. Данные обучения преимущественно отражают стандартные языковые варианты, поэтому качество для диалектов и малоресурсных языков может быть ниже. Перед применением в продуктивных системах необходимы проверка качества и адаптация к целевому сценарию.

BSC-LT/salamandra7b_rag_prompt_ca-en-es — разговорная языковая модель семейства Llama, представленная в формате Transformers с весами safetensors. Она содержит 6,7 млрд параметров и рассчитана на контекст до 8192 токенов. Карточка сообщает, что для диалогового использования следует применять встроенный шаблон чата токенизатора. Модель подходит для генерации текста в диалоге и задач с кодом. В названии указаны каталонский, английский и испанский языки; метаданные также отмечают многоязычную поддержку, включая русский. README не описывает специальную методику RAG или сравнительные результаты качества. Условия лицензии в доступных данных не приведены.

lmstudio-community/Seed-OSS-36B-Instruct-MLX-8bit — 8-битная квантованная версия языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантование выполнено командой LM Studio с использованием mlx_lm; модель оптимизирована для запуска на компьютерах Apple Silicon через MLX. Модель предназначена для генерации текста и выполнения инструкций, включая диалоговые и другие задачи, поддерживаемые исходной instruct-моделью. В README указаны архитектурная база Seed-OSS-36B-Instruct, размер 36B параметров, текстовая модальность и 8-битное квантование. Сведения о поддерживаемых языках и размере контекстного окна не приведены. Ключевые преимущества — снижение требований к памяти по сравнению с полноразмерной версией и оптимизация для экосистемы Apple Silicon. Ограничения связаны с зависимостью от совместимого оборудования и MLX, а также с общими рисками генеративных моделей: возможны неточные, вредные или неподходящие ответы. Модель распространяется по лицензии Apache-2.0.

Winnow-12B — дообученная EldanRing мультимодальная модель на базе Gemma 4 12B IT для локального диалога и принятия решений по заданным вариантам ответа. Она оценивает варианты для вопросов формата «да/нет», выбора из списка и упорядоченной шкалы через интерфейс `/v1/systemone`; обычный чат доступен через `/v1/chat/completions`. При наличии соответствующего projector модель принимает изображения. Модель построена на плотной унифицированной архитектуре Gemma 4 и распространяется в формате GGUF, включая варианты BF16, Q8_0 и NVFP4. Для профиля Q8_0 с изображениями проверена емкость контекста 65 536 позиций. В описанных тестах Q8_0 показала точность 85,71% на открытой выборке JevBench из 231 вопроса и 81,55% на Kev-v9 clean из 1 046 вопросов; это результаты отдельных оценочных панелей, а не гарантия качества в других задачах. Дообучение выполнено методом LoRA ранга 32, затем объединено с базовой моделью. Лицензия — Apache-2.0. Модель подходит для локального применения, когда нужно оценивать заданные варианты ответа, применять правила, выбирать свидетельства или определять ответимость вопроса. Данные и конвейер обучения закрыты. Уверенность отражает распределение вероятностей только между предложенными вариантами и не гарантирует правильность; варианты с меньшей разрядностью могут снижать точность. BF16 требует больше памяти, а для обработки изображений нужен подходящий projector.

zephyr-7b-beta-Mistral-7B-Instruct-v0.2 — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi слиянием mistralai/Mistral-7B-Instruct-v0.2 и HuggingFaceH4/zephyr-7b-beta методом SLERP. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на запросы и инструкции; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалоговых помощников, ответов на вопросы и других сценариев генерации текста по инструкции. В репозитории указаны веса safetensors в формате bfloat16; README также упоминает отдельные GPTQ- и GGUF-сборки для инференса на GPU и CPU/GPU. Поддерживается английский язык. Лицензия — Apache-2.0. Качество и поведение могут отличаться от исходных моделей из-за слияния; README не приводит сравнительных оценок или отдельных гарантий качества.

QuantFactory/bloomz-560m-GGUF — квантованная версия языковой модели BLOOMZ с примерно 560 млн параметров, опубликованная QuantFactory в формате GGUF. По имеющимся данным, модель предназначена для генерации текста и поддерживает многоязычные сценарии, включая ответы на вопросы, классификацию тональности, формулирование поисковых запросов, объяснение понятий и создание художественных текстов. В карточке также указана поддержка программного кода и языков C, C++, C#, Go, Java, JavaScript, Lua, PHP, Python, Ruby, Rust, Scala и TypeScript. Модель обучалась с использованием набора данных bigscience/xP3. Заявлена поддержка широкого набора языков, среди которых английский, французский, испанский, китайский, арабский, хинди, португальский, русский, вьетнамский, телугу, тамильский и многие языки Африки и Азии. Ключевое преимущество — компактный размер и многоязычность, что может облегчать локальный запуск и использование в ресурсно-ограниченных средах. Ограничения связаны с небольшим размером модели: по сравнению с более крупными современными моделями она может уступать им в качестве рассуждений, точности, следовании сложным инструкциям и устойчивости генерации; сведения о длине контекста и конкретном методе квантования в карточке не указаны. Модель распространяется по лицензии bigscience-bloom-rail-1.0. Условия применения следует проверять по полному тексту этой лицензии, включая возможные ограничения и требования к использованию.

DeepSeek-V2-Lite — языковая модель компании DeepSeek для генерации текста и диалогового общения. Она предназначена для дополнения текста, ответов в чате и локального развертывания; в README также описаны базовая и дообученная для чата версии семейства. Модель поддерживает английский и китайский языки, а метаданные указывают на контекстное окно до 163 840 токенов. Архитектура DeepSeek-V2-Lite сочетает разреженную Mixture-of-Experts (MoE) с Multi-head Latent Attention (MLA), которая сжимает KV-кэш для более эффективного вывода. README приводит 16 млрд общих параметров и 2,4 млрд активных параметров на токен; метаданные каталога указывают 2,5 млрд параметров. В README указано, что для инференса BF16 требуется GPU с 40 ГБ памяти. Модель подходит для локальных чат-сервисов и генерации текста. Заявленная в README лицензия не уточнена; метаданные Hugging Face обозначают её как other, поэтому конкретные условия использования следует проверять в файлах лицензии репозитория.

mlx-community/DeepSeek-V3.1-4bit — это 4-битно квантованная версия языковой модели DeepSeek-V3.1, разработанная сообществом mlx-community на основе модели deepseek-ai и преобразованная в формат MLX с использованием mlx-lm 0.26.3. Модель предназначена для генерации текста и локального запуска в экосистеме MLX. Она поддерживает сценарии диалогового взаимодействия и текстовой генерации через библиотеку mlx-lm; README также указывает на наличие chat template, совместимого с сообщениями ролей user и assistant. Архитектура, количество параметров, поддерживаемые языки, размер контекста и дополнительные модальности в предоставленных данных не указаны, поэтому нельзя достоверно оценить эти характеристики. Ключевая особенность модели — 4-битное представление, потенциально снижающее требования к памяти по сравнению с полной точностью, а также адаптация к MLX. Ограничения и результаты бенчмарков в README не приведены. Модель распространяется по лицензии MIT.

DeepSeek-V4.1-Flash-UNCENSORED-FP8 — модифицированная версия DeepSeek-V4.1-Flash от dealignai, созданная исследовательской командой dealignai. Это мультимодальная модель с поддержкой изображений, инструментов и рассуждений, предназначенная для диалоговых приложений, анализа текста и изображений, выполнения многошаговых задач и работы с длинным контекстом. Модель распространяется как стандартный checkpoint для Transformers и основана на deepseek-ai/DeepSeek-V4.1-Flash. Модель использует архитектуру Causal Encoder-Decoder с 20+20 слоями и MoE: 384 маршрутизируемых эксперта с выбором top-6 и один общий эксперт. Заявлены 552B параметров в backbone, из которых 8B/16B активны на токен. Также используются Hyper-Connections с четырьмя каналами остаточных связей, разреженное внимание CSA2, память Engram для n-грамм и черновая голова DSpark для speculative decoding. Весы представлены в нативном FP8 e4m3fn с блочным масштабированием E8M0, маршрутизируемые эксперты — в FP4. Контекстное окно составляет до 1 млн токенов, а визуальная часть основана на DeepSeek-ViT с 2D-RoPE и pixel unshuffle. Ключевая особенность — перманентная модификация весов, направленная на удаление встроенных механизмов отказа и ограничений безопасности; при этом заявлено сохранение основных возможностей, включая зрение, рассуждения, MTP и многоходовую связность. По приведённым тестам модель полностью выполняет запросы из HarmBench-320, однако её результат MMLU ниже базовой модели: 82,74% против 86,96%; без этических предметов снижение оценивается примерно в 1,1 процентного пункта. Поэтому модель может быть полезна для исследовательских и экспериментальных сценариев, требующих минимальных встроенных ограничений, но несёт повышенный риск генерации опасного или незаконного содержания и не подходит для неконтролируемых пользовательских продуктов. Лицензия — MIT.

Карточка модели KnutJaegersberg/Deita-Mixtral-8x7b на Hugging Face совпадает с карточкой KnutJaegersberg/Deita-34b, поэтому описание составлено по ней. KnutJaegersberg/Deita-34b — языковая модель для генерации текста, построенная на архитектуре Llama с плотной схемой и 33,9 млрд параметров. Модель рассчитана на инструкции и диалоговые запросы; в README приведён пример ответа на вопрос о тонкой настройке языковой модели. Контекстное окно составляет 4096 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. В метаданных указан датасет KnutJaegersberg/Deita-6k; они не уточняют связь модели с базовым чекпойнтом или способ её обучения.

Карточка модели roskosmos19/Dolphin-4B-Instruct-0409 на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

Карточка модели roskosmos19/Dolphin-4B-Instruct-flash на Hugging Face совпадает с карточкой roskosmos19/Orca-4B-Instruct, поэтому описание составлено по ней. Orca-4B-Instruct — компактная инструктивная языковая модель, опубликованная roskosmos19. По карточке она основана на архитектуре Qwen3 и предназначена для диалогов и выполнения текстовых инструкций. Модель содержит около 3,7 млрд параметров, использует архитектуру Qwen3ForCausalLM и принимает контекст до 16 384 токенов. Модель рассчитана на генерацию ответов, следование инструкциям и разговорные сценарии; в метаданных также заявлен интерфейс вызова инструментов. Карточка описывает оптимизацию для экономичного запуска: сокращённый контекст и удалённые мультимодальные специальные токены уменьшают требования к памяти, сохраняя фокус на текстовых ответах. Доступны веса в формате safetensors. Модель подходит для локальных чат-ботов, помощников и других приложений, где важны умеренный размер и стоимость инференса. Ограничение контекста до 16 384 токенов исключает обработку очень длинных запросов; сведения о поддерживаемых естественных языках в карточке не приведены. Лицензия — Apache-2.0.

Это англоязычная модель Sentence Transformers, дообученная thanhpham1 на базе sentence-transformers/all-mpnet-base-v2 на 5 146 парах технических текстов. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска и сравнения текстов; близость оценивается косинусным сходством. Архитектура включает MPNet, усреднение токенных представлений и нормализацию векторов. Обучение Matryoshka позволяет использовать укороченные представления размерностью 512, 256, 128 или 64 с компромиссом между размером вектора и качеством поиска. Модель подходит для поиска ответов и фрагментов в технической документации, сопоставления технических вопросов с релевантными пояснениями, поиска перефразировок и кластеризации технических текстов. README приводит метрики поиска на нескольких размерностях, однако подробности тестового набора ограничены. Максимальная длина последовательности в README указана как 384 токена, а метаданные указывают контекст до 514 токенов. Лицензия Apache-2.0.

Gemma-2-9B-It-SPPO-Iter3-GGUF — квантизированная версия языковой модели Gemma-2-9B-It-SPPO-Iter3, опубликованная UCLA-AGI и подготовленная в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, включая диалоговые и другие сценарии применения текстовых LLM. Обучение или дообучение связано с датасетом openbmb/UltraFeedback. Модель содержит около 9 миллиардов параметров и поддерживает английский язык. Доступны варианты от F32 до низкобитных квантований Q2 и IQ2, размером примерно от 3,43 до 36,97 ГБ. Квантизация выполнена с использованием imatrix и llama.cpp b3389; варианты Q6 и Q5 позиционируются как обеспечивающие очень высокое качество, а Q4 — как компромисс между качеством и требованиями к памяти. README не указывает размер контекста и модальности, поэтому эти характеристики неизвестны. Для работы требуется соблюдать формат prompt, основанный на специальной разметке ролей Gemma. Модель не поддерживает system prompt. Качество и требования к памяти зависят от выбранного варианта квантования: более компактные файлы экономят ресурсы, но могут заметно снижать качество. Лицензия указана как gemma; конкретные условия её применения следует уточнять в документации Gemma.

Gemma-3-1b-it-GGUF — квантизированная GGUF-версия модели gemma-3-1b-it, разработанной Google и подготовленной в квантизированном виде компанией Second State Inc. Это инструкционно настроенная модель генерации текста, предназначенная для диалогов, обработки пользовательских запросов и запуска локальных приложений и сервисов, включая LlamaEdge. Поддерживается контекст размером до 32 000 токенов. Сведения о языках, мультимодальности и точной архитектуре в README не указаны. Модель доступна в вариантах квантования от Q2_K до Q8_0, а также в формате f16, с размером файлов примерно от 689 МБ до 2,01 ГБ. Вариант Q4_K_M рекомендован как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с минимальной потерей качества. Более низкие уровни квантования уменьшают требования к ресурсам, но могут существенно снижать качество; README отдельно указывает, что Q2_K и некоторые Q3- и Q4-варианты имеют значительные потери. Для использования заявлена лицензия Gemma.

unsloth/gemma-3-1b-pt-unsloth-bnb-4bit — 4-битная квантованная версия предобученной модели google/gemma-3-1b-pt, подготовленная Unsloth. Базовая модель разработана Google DeepMind в рамках семейства Gemma, созданного на основе технологий Gemini. Это модель с открытыми весами, предназначенная для локального и ресурсосберегающего развертывания. Модель ориентирована на генерацию текста, ответы на вопросы, суммаризацию, рассуждения и понимание изображений. Она принимает текстовые и графические входные данные и генерирует текст. Для версии 1B заявлено контекстное окно до 32K токенов, максимальный объём вывода — 8192 токена. Семейство Gemma 3 поддерживает более 140 языков; в карточке этой версии явно указан английский язык. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов каждое. Ключевое преимущество версии — сниженные требования к памяти благодаря 4-битной квантизации, что упрощает запуск на ноутбуках, настольных компьютерах и другой ограниченной по ресурсам инфраструктуре. При этом это именно предобученная, а не instruction-tuned модель, поэтому для диалоговых сценариев и выполнения команд может потребоваться дополнительное дообучение или специальное форматирование запросов. Квантизация также может немного снижать точность по сравнению с полноразмерной версией, однако README заявляет о применении селективной квантизации Unsloth Dynamic Quants для улучшения сохранения качества. Использование регулируется лицензией и условиями Gemma; перед применением необходимо ознакомиться с соответствующими Terms of Use.

TheStageAI/gemma-4-E2B-it-GGUF — набор квантизированных GGUF-чекпойнтов модели Google Gemma 4 E2B IT, подготовленных TheStageAI для запуска через llama.cpp. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченным объёмом памяти. Архитектурные детали, число параметров, поддерживаемые языки и размер контекстного окна в README не указаны. Доступны четыре варианта с разным компромиссом между размером и точностью: XS — 1,73 ГБ, S — 2,40 ГБ, M — 2,68 ГБ и L — 4,97 ГБ. Рекомендуется вариант S: по заявленным результатам он сопоставим с эталонной версией BF16 на instruction-strict IFEval, набрав 77,26% против 76,89%, а также получил 60,70% на MMLU-Pro. Варианты S, M и L предпочтительнее для развёрнутого рассуждения, тогда как XS ориентирован на минимальный объём памяти и заметно уступает по MMLU-Pro. Чекпойнты созданы с использованием производственного post-training quantization-пайплайна с учётом Fisher information, распространения ошибок квантования между слоями, оптимизации распределения битового бюджета и дистилляции распределения следующего токена. Сильной стороной является выбор нескольких уровней точности для локального запуска при сохранении близкого к BF16 качества у рекомендуемого варианта S. Ограничения включают зависимость характеристик от выбранного уровня квантования и отсутствие в README данных о скорости, требованиях к оборудованию, мультимодальности и языковом покрытии. Модель распространяется по лицензии Apache-2.0.

INEX4-7b — языковая модель, созданная Liminerity с помощью mergekit путём слияния моделей liminerity/merge2 и liminerity/merge1. Она предназначена для генерации текста и решения задач на рассуждение; в карточке приведены результаты оценивания на Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Опубликованные веса доступны в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.

Magpie-Align/Llama-3.1-8B-Magpie-Align-v0.1 — англоязычная диалоговая модель семейства Llama 3.1, разработанная командой Magpie-Align. Это плотная авторегрессионная модель с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя официальный шаблон чата Llama 3.1. Модель сначала дообучили методом SFT на наборах Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K, затем применили DPO на датасете UltraFeedback ARMOR. Модель предназначена для диалогов, выполнения инструкций и рассуждений на английском языке. В карточке авторы приводят результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, однако эти оценки не гарантируют качества в конкретном сценарии. Для использования весов заявлена лицензия Llama 3.1 Community License; также авторы указывают необходимость соблюдать лицензию Meta Llama 3 Community License для данных.

Llama-3.1-Tulu-3.1-8B — англоязычная плотная языковая модель семейства Llama, разработанная AI2 и дообученная на базе allenai/Llama-3.1-Tulu-3-8B-DPO. Версия 3.1 отличается обновлённым заключительным этапом обучения с GRPO вместо PPO и настройкой гиперпараметров. Модель содержит 7,5 млрд параметров, принимает текст и предназначена для диалогов и следования инструкциям; длина контекста составляет 131 072 токена. Модель подходит для ответов на вопросы, решения математических задач, включая MATH и GSM8K, и выполнения инструкций с оцениванием по IFEval. Она ориентирована прежде всего на английский язык. Разработчик публикует открытые данные, код и рецепты обучения семейства Tülu 3. По карточке модели обучение безопасности ограничено, поэтому ответы могут содержать проблемный контент, особенно при соответствующих запросах. Лицензия — Llama 3.1 Community License Agreement.

MarcBeagle-7B — объединённая модель семейства Mistral, опубликованная leveldevai. Она создана с помощью LazyMergekit методом SLERP из flemmingmiguel/MarcMistral-7B и leveldevai/TurdusBeagle-7B. Модель имеет плотную архитектуру MistralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в диалоговых сценариях, для выполнения инструкций и создания текстовых ответов. Репозиторий содержит веса в формате safetensors; модель распространяется по лицензии Apache-2.0. Данных о языковом охвате и специализированной предметной области в предоставленной карточке нет.

Карточка модели SillyTilly/Meta-Llama-3.1-8B на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-8B, поэтому описание составлено по ней. NousResearch/Meta-Llama-3.1-8B — текстовая авторегрессионная модель семейства Llama 3.1, разработанная Meta и опубликованная в репозитории NousResearch. Это плотный трансформер LlamaForCausalLM с 7,5 млрд параметров, механизмом Grouped-Query Attention и контекстом до 131 072 токенов; веса представлены в формате safetensors и предназначены для работы с Transformers. Модель генерирует текст по текстовому запросу. Она подходит для диалогового помощника на нескольких языках, ответов на вопросы, написания и преобразования текста, а также для адаптации к задачам генерации естественного языка. В карточке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Для семейства Llama 3.1 заявлены коммерческое и исследовательское применение; условия использования определяет лицензия Llama 3.1 Community License и связанная с ней политика допустимого использования. Это предобученная модель, а не версия, настроенная для следования инструкциям: указанное в README SFT и RLHF относится к instruction-tuned версиям семейства. Как и другие языковые модели, она может выдавать неточные или небезопасные ответы; для прикладного использования нужны проверка результатов и меры безопасности. Указания README ограничивают применение поддерживаемыми языками, если модель не дообучена для других языков.

NousResearch/Meta-Llama-3-8B-Instruct-GGUF — это инструкция-ориентированная языковая модель в формате GGUF, основанная на Meta Llama 3 и опубликованная NousResearch. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции пользователя, запуск локального вывода и интеграцию в приложения, поддерживающие формат GGUF. В карточке указано, что модель работает с текстом и ориентирована на английский язык. Из доступных данных известны размер базовой модели — 8 миллиардов параметров — и принадлежность к семейству Llama 3. Формат GGUF удобен для локального запуска и использования средствами совместимой экосистемы, однако конкретные варианты квантования, требования к памяти, максимальная длина контекста, архитектурные детали и показатели качества в README не указаны. Ограничениями также являются возможные ошибки и ограничения, характерные для генеративных языковых моделей; область применения и качество для других языков не описаны. Модель распространяется по лицензии Meta Llama 3 Community License. Использование и распространение требуют соблюдения условий этой лицензии и Acceptable Use Policy, а при распространении материалов или продуктов на их основе необходимо предоставить копию соглашения и указать «Built with Meta Llama 3». Для производных моделей предусмотрены дополнительные требования к наименованию, а для продуктов и сервисов с более чем 700 миллионами активных пользователей в месяц требуется отдельное разрешение Meta.

bartowski/MiniCPM5-2B-GGUF — это GGUF-квантизированная версия языковой модели MiniCPM5-2B, разработанной OpenBMB. Квантизация выполнена bartowski с использованием llama.cpp; доступны варианты от BF16 и Q8_0 до низкоразрядных IQ- и Q-форматов. README указывает размер модели около 3 млрд параметров, поддержку только текстового ввода и отсутствие speculative decoding. Модель предназначена для генерации текста и может применяться в локальных, on-device и edge AI-сценариях, включая задачи с длинным контекстом и tool-calling, заявленные в метаданных. Поддерживаемые языки — английский и китайский. Рекомендуемым компромиссом между качеством и размером назван вариант Q4_K_M объёмом 1,62 ГБ; более высокие разрядности обычно сохраняют лучшее качество, а низкие требуют меньше памяти, но могут заметно уступать по результатам. Точная архитектура и максимальная длина контекста в README не указаны. Модель распространяется по лицензии Apache-2.0.

Mini_synatra_7b_03-Mistral-7B-Instruct-v0.1 — чат-модель MaziyarPanahi, созданная слиянием SLERP модели Mistral-7B-Instruct-v0.1 и Minirecord/Mini_synatra_7b_03. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов на диалоговые запросы. В метаданных указан контекст длиной до 32 768 токенов. Модель подходит для интерактивного чата и генерации ответов по текстовым инструкциям. Репозиторий содержит веса в формате safetensors. Язык модели отдельно не указан. Лицензия — Apache-2.0.

Это текстовая базовая модель семейства Mistral, опубликованная Unsloth как производная от Mistral-Small-24B-Base-2501, разработанной командой Mistral AI. Она предназначена для генерации текста, дальнейшего дообучения и создания разговорных и агентных приложений. Модель имеет плотную архитектуру MistralForCausalLM и 23,4 млрд параметров; нативное контекстное окно составляет 32 768 токенов. Карточка указывает поддержку многих языков, включая английский, французский, немецкий, испанский, итальянский, китайский, японский, корейский, португальский, нидерландский и польский. Среди заявленных возможностей семейства — следование инструкциям, рассуждения, вызов функций и выдача JSON; этот репозиторий классифицирован для генерации текста. Веса доступны в формате safetensors, библиотека — Transformers. Лицензия Apache 2.0 разрешает использование и модификацию, в том числе в коммерческих целях. Это базовый чекпойнт, а не указанная в README instruct-версия; сведения о разговорных и агентных возможностях в карточке относятся к описываемому семейству и не гарантируют тот же уровень поведения у базовой модели без дообучения. Для запуска на GPU README указывает более 60 ГБ видеопамяти; локальный запуск на меньшем оборудовании зависит от квантизации.

MixTAO-7Bx2-MoE-Instruct-v7.0 — инструктивная языковая модель семейства Mixtral, опубликованная пользователем mixtao на Hugging Face. Она использует архитектуру смеси экспертов (MoE) и предназначена для генерации текста в ответ на инструкции и сообщения в чате. Карточка описывает шаблон диалога, в котором роли system, user и assistant задают контекст и порядок реплик. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель можно применять для диалога, ответов на вопросы и других задач генерации текста. README приводит результаты Open LLM Leaderboard, включая среднюю оценку 76,55 и оценки на отдельных тестах рассуждения и понимания текста. Лицензия — Apache-2.0. Языки обучения или целевого применения в доступных данных не обозначены.

Карточка модели unsloth/ModernBERT-base на Hugging Face совпадает с карточкой answerdotai/ModernBERT-base, поэтому описание составлено по ней. ModernBERT-base — двунаправленная encoder-only модель семейства Transformer в стиле BERT, разработанная в сотрудничестве Answer.AI, LightOn и их коллег. Она предварительно обучена на 2 триллионах токенов английских текстов и кода и предназначена для заполнения пропусков в тексте, а также как основа для прикладных задач понимания языка и поиска. Модель содержит 22 слоя и 149 млн параметров, поддерживает контекст до 8192 токенов. В архитектуре используются RoPE, чередование локального и глобального внимания, unpadding и Flash Attention для эффективной обработки длинных последовательностей. Она подходит для анализа длинных документов, классификации, семантического и кодового поиска после настройки под соответствующую задачу. Обучающие данные преимущественно англоязычные и включают код, поэтому качество для других языков может быть ниже. Обработка полного окна контекста может быть медленнее, чем коротких последовательностей; возможны смещения из обучающих данных. Лицензия — Apache-2.0.