II.8Инженерия данных и аналитика

AliceAI-Foundation-80B-A3B-Base — базовая авторегрессионная языковая модель, разработанная Yandex и обученная с нуля на этапе предобучения. Она использует гибридную архитектуру с MoE-слоями: всего 80 млрд параметров, из которых для каждого токена активируются около 3 млрд. В модели 48 слоёв, 512 экспертов и контекст до 262 144 токенов. Модель предназначена для генерации текста и служит основой для дальнейшей адаптации под диалоговые, агентские и другие сценарии. В README отмечены сильные результаты в математике, программировании и задачах на рассуждение, а также особая сила в фактических знаниях на русском языке. В репозитории приведены бенчмарки для русскоязычного контекста и примеры запуска через Transformers и vLLM. Поддерживаются русский и английский языки; опубликованные веса доступны в формате safetensors. Лицензия — Apache-2.0. Это базовая модель без единого формата диалога, автоматически применяемого при инференсе; для дообучения README рекомендует рендерить данные в формате OpenAI Messages с шаблоном репозитория. Для запуска KDA-слоёв на GPU нужны совместимые реализации, а практическое использование модели такого размера требует значительных вычислительных ресурсов.

Baanzon-Chenni-1.5-9B — плотная языковая модель на 9,65 млрд параметров, построенная на архитектуре Qwen3.5 и опубликованная Devopsopraiz. Она предназначена для генерации текста в задачах автономной разработки ПО, технического анализа и оркестрации локальных агентных сценариев. Модель поддерживает чат и интерфейс вызова инструментов; заявленное окно контекста составляет 262 144 токена. Модель рассчитана на планирование многоэтапной разработки, генерацию и рефакторинг кода, отладку проектов из нескольких файлов, алгоритмические рассуждения и системный анализ. В README также заявлена поддержка входных изображений и видео, унаследованная от мультимодальной архитектуры, хотя метаданные классифицируют модель только как text-generation. Веса опубликованы в формате safetensors; для работы требуются актуальная версия transformers с поддержкой Qwen3.5 и PyTorch, а для GPU-инференса — CUDA. Лицензия — MIT. В README указано, что поведение отказов модели ослаблено, поэтому она может генерировать чувствительный или спорный контент; результаты следует проверять. Также заявлены поддержка Multi-Token Prediction и настройка шаблона чата для режима рассуждений.

Это англоязычная модель Sentence Transformers, разработанная tomaarsen и дообученная на парах вопросов и ответов из набора Natural Questions на базе google-bert/bert-base-uncased. Модель кодирует предложения и абзацы в плотные векторы размерности 768; сходство между ними можно оценивать косинусной мерой. Максимальная длина входной последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. Она может использоваться, например, для сопоставления вопроса с релевантным ответом или документом. Лицензия — Apache-2.0. Результаты в README приведены на небольших тестовых наборах; качество для конкретного корпуса следует оценивать отдельно.

NaqibL дообучила англоязычную модель Sentence Transformer на базе BAAI/bge-base-en-v1.5 для преобразования предложений и абзацев в плотные текстовые эмбеддинги. Модель построена на BERT, имеет 136,7 млн параметров и формирует векторы размерностью 768; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов. Модель предназначена для семантического поиска и извлечения релевантных текстов, в том числе как компонент RAG. В README для оценки на Triplet указана точность по косинусному сходству 0,8338. Она принимает и обрабатывает текст на английском языке; поддержка других языков не подтверждена. Для получения эмбеддингов и поиска требуется использовать совместимый с ними индекс или систему сравнения векторов. Лицензия в предоставленных данных не указана.

DiTy/bi-encoder-russian-msmarco — русскоязычная модель sentence-transformers, разработанная на основе DeepPavlov/rubert-base-cased и дообученная на датасете MS-MARCO Russian passage ranking. Это двунаправленный энкодер на архитектуре BERT с 205,1 млн параметров: он преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, в том числе асимметричного поиска, когда запрос и документ имеют разную роль. Модель рассчитана на поиск по русскоязычным коллекциям и сравнение текстов по смысловой близости; её можно применять для построения поисковых систем и извлечения релевантных фрагментов. Модель принимает текст и выдаёт векторные представления. Максимальная длина контекста — 512 токенов. Она распространяется по лицензии MIT. В README отмечено, что при использовании через Transformers нужно корректно применить pooling к контекстным представлениям токенов.

Charm 15 — текстовая генеративная модель на архитектуре Mistral с 2,1 млрд параметров, опубликованная ZeppelinCorp. По карточке она предназначена для диалоговой генерации, рассуждений, решения математических задач и написания кода. Модель дообучена на mattshumer/mistral-8x7b-chat; метаданные указывают формат SafeTensors и контекст до 4096 токенов. В README заявлены мультимодальные возможности для текста и изображений, однако архитектура и назначение репозитория описывают только текстовую генерацию, поэтому обработка изображений не подтверждена. Метаданные содержат широкий набор языковых тегов, а карточка перечисляет многоязыковую поддержку; основные языки не выделены. Лицензия — MIT. README также заявляет оптимизацию для ONNX и TensorFlow Lite, но эти форматы не подтверждены метаданными репозитория.

Карточка модели jinreiyu/cloned-Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

AbuYahya2/deepseek-marsad-v2 — объединённая языковая модель, созданная с помощью mergekit методом TIES. В качестве базовой использована deepseek-ai/DeepSeek-R1-Distill-Llama-8B; в слияние также вошли arcee-ai/Llama-3.1-SuperNova-Lite, FuseAI/FuseChat-Llama-3.1-8B-Instruct и richardyoung/Llama-3.1-8B-Instruct-abliterated-obliteratus. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Среди возможных сценариев — ответы на вопросы, помощь с задачами на рассуждение и программирование, а также вызов инструментов через предусмотренный интерфейс. Заявленная длина контекста — 131 072 токена. Модель принимает текст и генерирует текст; в карточке указана библиотека Transformers и формат весов safetensors. Карточка не приводит результатов оценки качества или подробного описания ограничений. Лицензия в предоставленных данных не указана.

Это текстовая диалоговая модель Richard Young на базе deepseek-ai/DeepSeek-R1-0528-Qwen3-8B. В исходной модели цепочки рассуждений DeepSeek-R1-0528 были дистиллированы в Qwen3-8B; затем с помощью Heretic выполнена абляция направления отказа без повторного обучения. Модель содержит 7,6 млрд параметров, использует плотную архитектуру Qwen3 и принимает контекст до 131 072 токенов. Модель предназначена для генерации ответов с рассуждениями, в том числе при решении математических и логических задач, программировании, творческом письме и учебных сценариях. Карточка сообщает, что абляция заметно снижает частоту отказов и что модель сохраняет близкое к исходной поведение по измеренной KL-дивергенции; эти оценки приведены автором модели. Поддерживаются диалоговый режим и интерфейс вызова инструментов. Модель работает с текстом и распространяется в формате safetensors. Лицензия — MIT. Из-за уменьшения числа отказов модель может отвечать на запросы, которые исходная версия отклоняет; следует учитывать это при выборе сценария применения. Результаты и поведение модели могут отличаться от приведённых в карточке оценок.

unsloth/DeepSeek-R1-0528-Qwen3-8B-unsloth-bnb-4bit — это 4-битная версия модели DeepSeek-R1-0528-Qwen3-8B, опубликованная Unsloth и основанная на модели DeepSeek AI. Модель предназначена для диалоговых сценариев и задач, требующих рассуждений, включая математику, программирование и общую логику. Она поддерживает режимы с рассуждением и без него и работает через библиотеку Transformers. Модель имеет размер 8B параметров, однако README не содержит подробностей об архитектуре, поддерживаемых языках, модальностях и размере контекста. По заявленным данным, обновление DeepSeek-R1-0528 улучшает глубину рассуждений и результаты на сложных задачах; в частности, точность на AIME 2025 выросла до 87,5%. Для режима рассуждений не рекомендуется использовать жадное декодирование, поскольку это может снижать качество и приводить к повторениям. Для запуска требуется соблюдать рекомендованный шаблон чата и параметры генерации. Модель распространяется под лицензией MIT. README не приводит подробностей о возможных ограничениях качества, безопасности или применимости в критически важных сценариях.

Orion-zhen/DeepSeek-R1-Distill-Llama-70B-abliterated — вариант DeepSeek-R1-Distill-Llama-70B, созданный с помощью abliteration. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические рассуждения, программирование и ответы на сложные вопросы. В метаданных указаны английский и китайский языки, а также интерфейсы чата и вызова инструментов. Модель представлена в формате safetensors и распространяется по лицензии GPL-3.0. README не сообщает о качестве abliteration, её конкретных целях или изменениях поведения модели, поэтому эти свойства нельзя оценить по доступным сведениям.

DeepSeek-R1-Distill-Llama-8B-abliterated — текстовая генеративная модель huihui-ai на архитектуре Llama, созданная методом abliteration на основе deepseek-ai/DeepSeek-R1-Distill-Llama-8B. Разработчик описывает её как экспериментальный вариант, в котором удалены отказы от ответов; базовая модель была дообучена на данных для рассуждений. Модель содержит 7,5 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и многошаговых рассуждений, включая математические задачи и программирование — эти возможности унаследованы от базовой модели. В карточке также приведён способ использования через Ollama. README предупреждает, что удаление отказов реализовано грубо и служит доказательством концепции; поэтому поведение модели может быть менее безопасным. Условия лицензии в предоставленных данных не указаны.

Текстовая модель семейства Llama, опубликованная Kunakornjack и дообученная на unsloth/DeepSeek-R1-Distill-Llama-8B с использованием Unsloth и библиотеки TRL. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические задачи, программирование и многошаговые рассуждения. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель может применяться для диалоговых помощников, генерации ответов, решения математических задач и помощи с кодом. Карточка не описывает отдельные результаты или специализацию этого дообучения, поэтому его влияние на качество по сравнению с базовой моделью оценить нельзя. Лицензия — Apache-2.0.

unsloth/DeepSeek-R1-Distill-Qwen-32B-bnb-4bit — 4-битная квантованная версия модели DeepSeek-R1-Distill-Qwen-32B, опубликованная Unsloth на основе модели DeepSeek. Модель относится к семейству плотных языковых моделей, дистиллированных из DeepSeek-R1 и построенных на базе Qwen. Разработчики DeepSeek указывают, что эта версия предназначена для задач рассуждения и превосходит OpenAI o1-mini на ряде бенчмарков для плотных моделей. Модель ориентирована на решение сложных задач, включая математические рассуждения, программирование, пошаговый анализ и генерацию текста. В README заявлены способности, связанные с самопроверкой, рефлексией и построением длинных цепочек рассуждений. Указан размер 32B, библиотека Transformers и английский язык; сведения о поддерживаемых модальностях, размере контекста и точной архитектуре в предоставленных данных отсутствуют. Ключевое преимущество варианта — 4-битное представление, потенциально снижающее требования к памяти по сравнению с полноразмерными весами, однако README не содержит точных характеристик производительности или качества именно этой квантованной сборки. Возможными ограничениями являются зависимость результатов от качества квантования и отсутствие подтверждённых данных о контекстном окне и мультиязычности. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V4-Flash-0731-AWQ — это квантизированная сборка базовой модели deepseek-ai/DeepSeek-V4-Flash-0731, подготовленная в формате AWQ для запуска на компьютерах Apple Silicon через oMLX. Исходная модель представляет собой MoE-архитектуру с 304 млрд параметров, 43 слоями, 256 маршрутизируемыми экспертами на слой, механизмами Hyper-Connections и HISA attention; в README разработчик исходной модели не указан, а автор данной квантизированной сборки также не идентифицирован. Модель предназначена для генерации текста, диалоговых и агентских сценариев, решения математических задач и генерации кода. В сборке маршрутизируемые эксперты квантизированы до 2–3 бит, а attention, общие эксперты, embeddings и head оставлены в 8-битном формате. Основная часть содержит 278,6 млрд квантизированных параметров и занимает около 101,4 ГБ; вместе с квантизированным MTP/DSpark speculative drafter общий размер составляет около 108,2 ГБ. Поддерживаются режимы reasoning_effort low, high и max. Языки и максимальная длина контекста в README не указаны. Сильными сторонами являются возможность запуска очень крупной MoE-модели на одной системе Apple Silicon, высокая скорость генерации около 47–51 токена в секунду на M5 Max с 128 ГБ памяти, а также хорошие результаты на GSM8K и HumanEval — 93,5% и 87,2% соответственно. Главные ограничения связаны с агрессивной 2/3-битной квантизацией: на MMLU сборка получила 64,5% против 81,5% у неквантизированного учителя, то есть потеряла 17 процентных пунктов в задачах на широкий массив знаний. Для длинного контекста рекомендуется 4- или 6-битная квантизация KV-кэша; без специализированных ядер oMLX предварительное заполнение длинного контекста может работать значительно медленнее. Модель распространяется по лицензии, обозначенной как other с именем лицензии deepseek. Полные условия лицензии в README не приведены.

hcy5561 выпустил англоязычную модель Sentence Transformer, дообученную на SNLI на базе google-bert/bert-base-uncased. Она преобразует предложения и абзацы в плотные векторы размерности 768 и сравнивает их косинусным сходством; модель построена на BERT с усреднением токенных представлений и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. Её можно применять для поиска похожих предложений в корпусе или группировки англоязычных текстов по смыслу. Лицензия в предоставленных данных не указана.

upskyy/e5-large-korean — модель Sentence Transformers, дообученная автором на korsts и kornli на базе intfloat/multilingual-e5-large. Она преобразует предложения и абзацы в плотные векторы размерности 1024; архитектура включает XLM-RoBERTa и усреднение токенных представлений. Модель предназначена для сравнения смысла текстов, семантического поиска и других задач, где нужны текстовые эмбеддинги. Для вычисления сходства в README указана косинусная мера; максимальная длина последовательности — 512 токенов по README и 514 по метаданным. В README приведён результат оценки на sts-dev: корреляция Спирмена для косинусного сходства — 0,8699. Модель поддерживает корейский и другие языки; среди языков в метаданных перечислены, в частности, корейский и английский. Репозиторий использует формат safetensors, библиотека — sentence-transformers. Лицензия — MIT.

ELYZA-Thinking-1.0-llm-jp-4-32b-a3b — языковая модель ELYZA, дообученная на базе llm-jp/llm-jp-4-32b-a3b-base. Это модель семейства Qwen3 MoE для генерации текста с рассуждениями и следованием инструкциям; в карточке указаны 2,9 млрд параметров и контекст 65 536 токенов. Обучение включало промежуточное обучение, SFT и обучение с подкреплением по проверяемым результатам. Модель рассчитана прежде всего на японский язык, также поддерживает английский. В README описаны сценарии решения математических и STEM-задач, программирования, ответов на вопросы о японских знаниях, выполнения сложных инструкций и использования инструментов. Для запуска рекомендованы vLLM или Transformers; лицензия — Apache-2.0.

tasksource/ettin-17m-embed — компактная модель Sentence Transformer, дообученная Tasksource на базе jhu-clsp/ettin-encoder-17m. Она преобразует текстовые фрагменты в векторы размерностью 256 для поиска семантически близких предложений и текстов; для сравнения векторов используется косинусное сходство. Модель построена на архитектуре ModernBERT, содержит 16,8 млн параметров и поддерживает последовательности до 1024 токенов по README; метаданные указывают контекст до 7999 токенов. Модель рассчитана на английский язык. При обучении использовались наборы данных для семантического сходства, поиска, сопоставления вопросов и ответов, определения дубликатов и других задач понимания текста. Её можно применять для семантического поиска, поиска похожих предложений и построения эмбеддингов для ранжирования или группировки текстов. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

Это компактная текстовая модель Sentence Transformer, разработанная much1na и дообученная на базе capemox/ettin-encoder-17m-pretrain-50m. Энкодер ModernBERT преобразует предложения и абзацы в плотные векторы размерностью 256; для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска и извлечения релевантных документов по текстовому запросу. В README указана максимальная длина последовательности 512 токенов, а метаданные каталога сообщают нативный контекст до 7999 токенов. Модель обучалась с EmbedDistillLoss на наборе примерно из 8,39 млн примеров; в карточке также приведены результаты оценки на NanoMSMARCO. Лицензия в предоставленных данных не указана.

EttinX-sts-m — англоязычный cross-encoder для оценки семантического сходства двух текстов. Модель разработана dleemiller на основе jhu-clsp/ettin-encoder-150m и дообучена на sentence-transformers/stsb после предварительного обучения на подмножестве pair-score-sampled датасета dleemiller/wiki-sim. Модель использует архитектуру ModernBERT и содержит 149 млн параметров. Она принимает пары текстов и возвращает оценку сходства от 0 до 1; заявленная длина контекста — около 8 тыс. токенов. По README, на тестовой части STS-Benchmark достигнуты корреляции Pearson 0,9143 и Spearman 0,9102. Модель подходит для ранжирования пар по сходству, сравнения ответов и оценки результатов LLM. Распространяется по лицензии MIT.

EXAONE-Deep-7.8B — плотная языковая модель для рассуждений, разработанная LG AI Research. Она предназначена для генерации ответов и решения задач на рассуждение, включая математику и программирование; поддерживает диалоговый режим. Модель дообучена на EXAONE-3.5-7.8B-Instruct и содержит 7,4 млрд параметров. Архитектура — ExaoneForCausalLM с 32 слоями и групповым запросом внимания (32 Q-головы и 8 KV-голов); длина контекста — 32 768 токенов. Модель рассчитана прежде всего на английский и корейский языки. Для запуска рекомендуются Transformers версии 4.43.1 или новее; также перечислены TensorRT-LLM, vLLM, SGLang, llama.cpp, Ollama и LM Studio. В репозитории доступны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в самой карточке и сопутствующей документации. Модель может выдавать неточные, устаревшие, предвзятые или неподходящие ответы; результаты требуют проверки.

Карточка модели OpenLLM-Korea/EXAONE-Deep-7.8B на Hugging Face совпадает с карточкой LGAI-EXAONE/EXAONE-Deep-7.8B, поэтому описание составлено по ней. EXAONE-Deep-7.8B — плотная языковая модель для рассуждений, разработанная LG AI Research. Она предназначена для генерации ответов и решения задач на рассуждение, включая математику и программирование; поддерживает диалоговый режим. Модель дообучена на EXAONE-3.5-7.8B-Instruct и содержит 7,4 млрд параметров. Архитектура — ExaoneForCausalLM с 32 слоями и групповым запросом внимания (32 Q-головы и 8 KV-голов); длина контекста — 32 768 токенов. Модель рассчитана прежде всего на английский и корейский языки. Для запуска рекомендуются Transformers версии 4.43.1 или новее; также перечислены TensorRT-LLM, vLLM, SGLang, llama.cpp, Ollama и LM Studio. В репозитории доступны веса Safetensors. Лицензия обозначена как other, поэтому условия использования следует проверять в самой карточке и сопутствующей документации. Модель может выдавать неточные, устаревшие, предвзятые или неподходящие ответы; результаты требуют проверки.

kimquynh/finetuned_sbert_6 — англоязычная Sentence Transformer, дообученная автором на базе BAAI/bge-base-en-v1.5 для поиска и сравнения текстов. Архитектура включает BERT, пулинг CLS и нормализацию эмбеддингов; модель содержит 136,7 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768. Максимальная длина последовательности — 512 токенов, сходство оценивается косинусной мерой. Модель подходит для семантического поиска, извлечения релевантных текстов и сравнения предложений. В карточке приведены результаты оценки сходства и бинарной классификации на данных о резюме и вакансиях; обучающий набор содержит 6241 пару предложений. Модель принимает текст и выдаёт эмбеддинги. Репозиторий использует формат safetensors и библиотеку Sentence Transformers. Условия лицензии в предоставленных данных не описаны.

Карточка модели FuseAI/FuseO1-DeepSeekR1-Qwen2.5-Coder-32B-Preview на Hugging Face совпадает с карточкой FuseAI/FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview, поэтому описание составлено по ней. FuseO1-DeepSeekR1-QwQ-SkyT1-32B-Preview — экспериментальная объединённая языковая модель команды FuseAI. Она создана с помощью слияния трёх моделей для рассуждений: DeepSeek-R1-Distill-Qwen-32B, Qwen/QwQ-32B-Preview и NovaSky-AI/Sky-T1-32B-Preview. Модель основана на плотной архитектуре Qwen2 с 32 млрд параметров и предназначена для генерации текста и диалогов с пошаговыми рассуждениями. Основные сценарии — решение математических задач, рассуждения о программном коде и научные вопросы. В README для версии указаны результаты AIME24: 74,0 Pass@1 и 86,7 Cons@32 при описанной авторами схеме оценки. Модель принимает текст и генерирует текст; метаданные указывают контекстное окно 131 072 токена и интерфейс для вызова инструментов. Языки в карточке явно не перечислены. Модель распространяется в формате safetensors по лицензии Apache-2.0. Это предварительная версия, а опубликованные сравнительные показатели относятся к конкретным настройкам и методике оценки; они не гарантируют аналогичных результатов в других задачах или конфигурациях.

G9v3-3B — плотная причинная языковая модель команды AI9Stars на архитектуре LlamaForCausalLM с примерно 2,7 млрд параметров. Она предназначена для локального запуска и сценариев с ограниченными ресурсами; поддерживает контекст длиной до 131 072 токенов. Модель рассчитана на повседневные задачи ассистента, программирование, работу с инструментами и рассуждения. В README описаны режимы генерации с включённым и отключённым режимом обдумывания; метаданные указывают поддержку чата и английского и китайского языков. Для запуска подходят Transformers, vLLM и SGLang. Модель может выдавать неточные, предвзятые или небезопасные ответы, поэтому результаты следует проверять, особенно перед использованием в важных решениях. Лицензия — Apache-2.0.

insraq/G9v3-3B-heretic — созданная командой AI9Stars версия G9v3-3B, обработанная инструментом Heretic v1.4.0 для снижения числа отказов. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 2,7 млрд параметров, предназначенная для локального запуска и сценариев с ограниченными ресурсами. Модель поддерживает генерацию текста и диалоговое использование, включая повседневные запросы, программирование, рассуждения и взаимодействие с инструментами. Контекстное окно составляет 131 072 токена; в карточке указаны английский и китайский языки. В сравнении с исходной G9v3-3B модель показала 9 отказов из 100 тестовых запросов против 100 из 100 у оригинала; указанная дивергенция KL — 0,0410. Снижение числа отказов не гарантирует точности или безопасности: ответы могут быть ошибочными, предвзятыми или небезопасными, поэтому их следует проверять, особенно в важных сценариях. Весовые файлы представлены в формате safetensors. Лицензия — Apache-2.0.

MuXodious/gemma-4-26B-A4B-it-ARA-heresy — дообученная версия мультимодальной Gemma 4 26B A4B IT от Google DeepMind. Автор применил к базовой модели движок Heretic с Arbitrary-Rank Ablation, чтобы сократить число отказов; в карточке указаны 3 отказа из 104 проверок против 103 из 104 у исходной модели. Это диалоговая модель с архитектурой Gemma4, которая принимает текст и изображения и генерирует текст. Её можно использовать для визуальных вопросов и ответов, разбора документов и изображений, диалогов, программирования и рассуждений. README описывает возможности семейства Gemma 4, включая длинный контекст до 256 тысяч токенов и поддержку многих языков, однако не подтверждает отдельными данными, что все эти характеристики проверены именно для этой производной версии. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Уменьшение отказов не гарантирует корректность ответов или пригодность для всех сценариев; результаты ограничены приведённой проверкой.

unsloth/GLM-4-9B-0414-GGUF — GGUF-квантизированная версия языковой модели GLM-4-9B-0414, подготовленная Unsloth на базе модели THUDM. Модель предназначена для локального текстового общения и генерации текста, включая выполнение инструкций, программирование, математическое и общее рассуждение, создание отчётов и работу в ресурсно-ограниченных средах. Она поддерживает китайский и английский языки и относится к классу text-generation. Модель содержит 9 миллиардов параметров; точная архитектура, длина контекста, доступные варианты квантования и поддерживаемые дополнительные модальности в представленном README не указаны. Формат GGUF ориентирован на локальный запуск, в частности через llama.cpp; для корректной обработки системного промпта рекомендуется использовать параметр --jinja. Заявленные сильные стороны исходной GLM-Z1-9B-0414 включают математическое рассуждение, выполнение общих задач и баланс между эффективностью и качеством при небольших требованиях к ресурсам. Ограничения, результаты конкретных бенчмарков и требования к оборудованию не приведены. Лицензия — MIT.

unsloth/GLM-Z1-9B-0414-GGUF — это GGUF-квантизированная версия модели GLM-Z1-9B-0414, разработанной командой THUDM и подготовленной Unsloth. Модель относится к семейству GLM, предназначена для генерации текста и поддерживает китайский и английский языки. Это компактная модель примерно на 9 млрд параметров, ориентированная на локальный запуск в условиях ограниченных вычислительных ресурсов. Модель обучалась с применением методов cold start и расширенного обучения с подкреплением на задачах математики, программирования и логики. Она рассчитана на диалоговые и общие текстовые задачи, требующие рассуждений, включая математическое решение проблем и выполнение сложных инструкций. Для инференса рекомендуется использовать параметры temperature 0.6, top_p 0.95, top_k 40 и max_new_tokens до 30000; поддерживается принудительный режим рассуждений. Базовый максимальный контекст составляет 8192 токена, а для более длинных входов может применяться YaRN с исходным пределом позиционных эмбеддингов 32768 токенов, что потенциально снижает качество на коротких текстах. Для запуска через llama.cpp требуется включить опцию --jinja. Модель распространяется по лицензии MIT.