II.9Статистика, эксперименты и причинный анализ

Nemotron-Cascade-2-30B-A3B-AWQ-4bit — 4-битная AWQ-версия диалоговой языковой модели семейства NVIDIA Nemotron-Cascade-2. В README исходная модель описана как модель Mixture of Experts на 30 млрд параметров с 3 млрд активируемых параметров; она дообучена на базе Nemotron-3-Nano-30B-A3B-Base и поддерживает режимы рассуждений и обычных инструкций. Метаданные указывают задачу генерации текста, библиотеку Transformers и базовую модель nvidia/Nemotron-Cascade-2-30B-A3B. Модель предназначена для диалогов, решения сложных задач и агентных сценариев; README сообщает о высоких результатах на математической олимпиаде IMO и олимпиаде по информатике IOI 2025. Она использует шаблон ChatML, а для запуска исходной версии README описывает контекст до 262 144 токенов. AWQ-квантизация снижает точность весов до 4 бит; показатели качества и требования к ресурсам именно этой сборки в предоставленных сведениях не приведены. Лицензия указана как other, конкретные условия следует сверять с карточкой модели.

Open-Instruct GPT-4 Alpaca 7B — языковая модель семейства LLaMA, разработанная исследователями AllenAI и дообученная на наборе инструкций GPT-4 Alpaca в рамках исследования по настройке открытых моделей на инструкции. Это плотная авторегрессионная модель примерно на 6,6 млрд параметров для генерации текста и выполнения пользовательских инструкций на английском языке; для качественной генерации рекомендуется использовать обученный формат запросов. Контекст составляет 2048 токенов. Модель подходит для диалоговых ответов, следования инструкциям, решения задач, вопросов и генерации кода. В карточке приведены результаты тестирования на MMLU, GSM, BBH, TydiQA, Codex-Eval и AlpacaFarm. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Указана лицензия AI model license вместе с исходной лицензией LLaMA; условия следует проверять в соответствующих файлах лицензии.

Phi-2 Orange Version 2 — разговорная языковая модель на базе Phi-2, созданная Rhys Jones. Это двухэтапное дообучение с обновлённым процессом на тех же наборах данных, что использовались для первой версии. Модель имеет плотную архитектуру PhiForCausalLM, около 3,5 млрд параметров и контекст до 2048 токенов. Модель предназначена для генерации текста в диалоговом формате ChatML: она может отвечать на вопросы, следовать системным инструкциям, помогать с рассуждениями и писать код. В README приведены результаты нескольких бенчмарков, но они не гарантируют качество на конкретных задачах. Модель использует формат safetensors и поддерживается Transformers без необходимости включать trust_remote_code. Модель выпущена под лицензией MIT. Она наследует ограничения Phi-2; подробности приведены в карточке базовой модели.

Phi-3-Small-128K-Instruct — компактная языковая модель Microsoft семейства Phi-3 с архитектурой Phi3SmallForCausalLM и примерно 8,2 млрд параметров по метаданным. Она предназначена для генерации текста и диалоговых сценариев, включая задачи на рассуждение, математику и программирование. Модель обучена на синтетических данных и отфильтрованных общедоступных веб-данных; для следования инструкциям и повышения безопасности прошла supervised fine-tuning и direct preference optimization. Карточка описывает вариант с контекстом 128K токенов, однако метаданные указывают native_context_tokens 8192, поэтому заявленную поддержку длинного контекста следует проверить для конкретной версии и конфигурации. Модель ориентирована прежде всего на английский язык; для других языков качество может быть ниже. Она может выдавать неточные или вымышленные сведения, воспроизводить стереотипы и генерировать оскорбительный контент; сгенерированный код и API следует проверять. Лицензия — MIT.

bartowski/phi-4-GGUF — это набор GGUF-квантизаций языковой модели Phi-4, разработанной Microsoft. Модель предназначена для генерации текста, диалоговых сценариев, решения математических задач, программирования и других задач NLP. В README указана поддержка английского языка и текстовая модальность; исходная модель доступна на Hugging Face как microsoft/phi-4. Набор создан с использованием llama.cpp и метода imatrix, включает варианты от F32 и F16 до низкобитных Q2–Q8-квантизаций. Размер файлов варьируется примерно от 4,49 до 58,64 ГБ, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Для запуска рекомендуются llama.cpp и LM Studio. Указан шаблон prompt с маркерами системного, пользовательского и ассистентского сообщений, а также исправления tokenizer по рекомендациям команды Unsloth. Сильная сторона набора — широкий выбор вариантов квантизации, включая версии, ориентированные на высокое качество или ограниченный объём RAM. Ограничения зависят от выбранной квантизации: низкобитные варианты занимают меньше памяти, но обеспечивают более низкое качество. Архитектура, число параметров и размер контекста в README не указаны. Лицензия — MIT.

Qemma — гибридная языковая модель компании Convergent Intelligence LLC, Research Division, созданная слиянием весов Gemma 3 и Qwen 3 без адаптеров и дополнительно дообученная методом SFT. В описании указаны основа Gemma 3 на 1 млрд параметров, 26 слоёв, размер скрытого состояния 1152 и MLP-размер 6912; внимание и выходная голова основаны на Qwen и согласованы с размерностью Gemma. Используются токенизатор и шаблон диалога Gemma 3. Метаданные указывают 1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов по инструкциям, пошаговых рассуждений, помощи с кодом и анализа; её также можно использовать как основу для дальнейшего SFT или RLHF. Карточка перечисляет обучающие наборы OpenO1-SFT, Alpaca Cleaned и набор STEM-примеров для рассуждений. Указан английский язык. Модель может галлюцинировать и не предназначена для критически важных решений в медицине, праве или финансах. Лицензия — OSL-3.0; при использовании следует учитывать лицензии исходных моделей и данных.

zetasepic/Qwen2.5-32B-Instruct-abliterated-v2 — доработанная версия Qwen/Qwen2.5-32B-Instruct, созданная с использованием кода из проекта refusal_direction и техники Abliterated. Это плотная авторегрессионная модель семейства Qwen2 с 32 млрд параметров, предназначенная для диалогов и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, а заявленное окно контекста составляет 32 768 токенов. Базовая Qwen2.5-32B-Instruct рассчитана на диалог, программирование, математику и структурированные ответы; карточка этой версии не приводит отдельные оценки качества или подробные результаты. Язык карточки и метаданные указывают английский, поэтому поддержка других языков здесь не заявляется. Репозиторий содержит веса Safetensors, а лицензия — Apache-2.0.

Qwen2.5-QwQ-37B-Eureka-Triple-Cubed-abliterated — текстовая генеративная модель DavidAU, созданная методом Triple Cubed на основе нескольких моделей рассуждения семейства Qwen. По данным карточки, в её состав вошли QwQ-32B, TinyR1-32B-Preview и DeepSeek-R1-Distill-Qwen-32B; каталог указывает связи с тремя моделями huihui-ai. Архитектура — плотная Qwen2, класс Qwen2ForCausalLM, размер — 35,9 млрд параметров, формат весов — safetensors, контекст — до 131 072 токенов. Модель предназначена для диалоговой генерации текста, пошагового рассуждения, планирования, решения задач, подробных объяснений, творческого письма и мозговых штурмов. Автор отмечает, что версия Triple Cubed рассчитана на более глубокое рассуждение и детальную генерацию, а также допускает широкий диапазон температуры. В метаданных указаны интерфейс чата и интерфейс вызова инструментов. Модель обозначена как abliterated и uncensored, поэтому может выдавать контент без обычных отказов. README рекомендует использовать шаблон ChatML; настройки генерации, включая температуру, могут заметно влиять на результат. Карточка не сообщает конкретные языки обучения или гарантии качества. Условия лицензии в предоставленных данных не указаны.

mradermacher/Qwen3.5-9B-Brainwaves-GGUF — это набор квантованных GGUF-версий модели nightmedia/Qwen3.5-9B-Brainwaves, подготовленный пользователем mradermacher. Модель относится к семейству Qwen и предназначена для запуска через совместимые инструменты, поддерживающие формат GGUF. В описании заявлены диалоговые сценарии, генерация текста, программирование, математические и STEM-задачи, исследовательская работа, рассуждения, творческое и художественное письмо, а также ролевые сценарии. Размер базовой модели составляет около 9 млрд параметров. Указаны поддерживаемые языки English, Chinese, Japanese и Spanish. Доступны дополнительные файлы mmproj для мультимодального использования, однако конкретные поддерживаемые типы входных данных и возможности мультимодальной обработки в README не раскрыты. Также в тегах заявлен контекст до 256k или 1M токенов, но точное значение для данной сборки не уточняется. Главное преимущество репозитория — широкий выбор вариантов квантования с размером примерно от 4 до 18,5 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Для быстрого запуска рекомендованы Q4_K_S и Q4_K_M, а Q8_0 описан как вариант с лучшим качеством среди быстрых. Ограничения включают возможное снижение качества у низкобитных квантований и отсутствие в README результатов бенчмарков, детального описания архитектуры и подтверждённых характеристик мультимодальности. Лицензия модели — Apache 2.0.

AaryanK/Qwen3.6-27B-GGUF — это квантизированная версия Qwen3.6-27B, разработанной командой Qwen. Модель предназначена для генерации текста, агентного программирования, работы с репозиториями и фронтенд-задачами, а также для сценариев, требующих вызова инструментов и обработки мультимодальных данных. Она поставляется в формате GGUF и рассчитана на локальный запуск с совместимыми средствами, включая llama.cpp. Модель содержит 27 млрд параметров и использует гибридную архитектуру Hybrid Gated DeltaNet + Gated Attention с 64 слоями и vision encoder. Она поддерживает текстовые и визуальные входы, включая изображения и видео, заявленные языковые возможности включают английский язык. Нативная длина контекста составляет 262 144 токена; также указана возможность расширения до 1 010 000 токенов. Модель поддерживает Thinking Mode, сохранение контекста рассуждений между сообщениями и вызов инструментов. К сильным сторонам относятся длинный контекст, мультимодальность, возможности агентного кодирования и сохранение рассуждений в итеративных рабочих процессах. Ограничения связаны с требованиями к совместимости: для гибридной архитектуры нужна актуальная версия llama.cpp, а объём памяти зависит от выбранного файла квантизации и длины контекста. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-35B-A3B-Brainwaves-Nex-Uncensored-i1-GGUF — это квантизированная GGUF-версия модели nightmedia/Qwen3.6-35B-A3B-Brainwaves-Nex-Uncensored, подготовленная mradermacher. Модель предназначена для генерации текста, диалогов, рассуждений, решения математических и STEM-задач, программирования и многоязычного использования. В README указана поддержка английского, китайского, японского и испанского языков. Модель описана как vision model, поэтому для работы с изображениями могут потребоваться дополнительные файлы mmproj из статического репозитория. Вариант доступен в нескольких форматах квантизации i1, включая Q2_K, Q3, IQ3, IQ4, Q4, Q5 и Q6; размеры файлов составляют примерно от 13,3 до 29,3 ГБ. Квантизация позволяет запускать модель с меньшими требованиями к памяти, однако качество и скорость зависят от выбранного варианта: Q4_K_M отмечен как рекомендуемый, а Q4_0 — как быстрый, но менее качественный. К сильным сторонам относятся широкий набор заявленных сценариев, мультиязычность, поддержка изображений и наличие вариантов с разным компромиссом между размером, качеством и скоростью. Ограничения включают отсутствие в README сведений о размере контекста, точной архитектуре, числе активных параметров, результатах тестирования и фактическом качестве мультимодальной обработки. Модель распространяется под лицензией Apache-2.0.

Qwen3.8-35B-A3B-Distill-GGUF — это набор GGUF-квантизаций дистиллированной модели Qwen3.8-35B-A3B, разработанный и выпущенный Empero. Модель предназначена для генерации текста и локального запуска через llama.cpp, Ollama, LM Studio, Jan, KoboldCpp и другие совместимые среды. Указанный базовый вариант создан на основе архитектуры Qwen3.6-35B-A3B и доступен для задач рассуждения и общего текстового вывода; заявленный язык — английский. Модель использует разреженную Mixture-of-Experts-архитектуру: всего около 35 млрд параметров, из которых примерно 3 млрд активны для каждого токена. Архитектура включает 30 слоёв Gated DeltaNet и 10 слоёв полной attention, а также 256 экспертов с маршрутизацией 8 экспертов на токен. Доступны варианты квантизации от 2-битных до BF16 размером примерно от 12,6 до 71,1 ГБ. Контекстный размер в карточке не указан. Для работы требуется свежая версия llama.cpp с поддержкой Qwen3.6, Gated DeltaNet и MoE. Разреженность архитектуры делает инференс заметно быстрее плотной модели аналогичного общего размера и повышает практичность запуска на CPU или при частичном переносе на GPU. При этом весь файл весов должен помещаться в оперативную или видеопамять, а при длинном контексте дополнительные затраты на KV-кэш могут существенно увеличить требования к памяти. Поддерживается ввод изображений через отдельный vision projector, однако поведение визуальной части не оценивалось. Модель выводит рассуждения в блоках <think>, которые при необходимости следует удалять перед показом ответа пользователю. Весовые файлы распространяются по лицензии Apache-2.0, унаследованной от базовой модели Qwen. Для квантизаций рекомендуется выбирать вариант с учётом доступной памяти и требуемого качества; в карточке наиболее сбалансированным указан Q4_K_M.

Youssofal/Qwen3.8-Flash-Next-MTPLX-Bare-Speed — это квантованная версия Qwen/Qwen3.8-Flash-Next, подготовленная для запуска через MTPLX на компьютерах Apple Silicon. Модель предназначена для локального диалога, генерации текста и программного кода, включая сценарии работы с OpenCode и другими инструментами разработки. В основе лежит архитектура поколения Qwen4 с гибридной MoE-структурой GDN, Qwen Sparse Attention, памятью n-gram на 51 млрд параметров и встроенной головой multi-token prediction. Заявлены поддержка текста и сохранённая vision tower, контекст до 262 144 токенов; языки в README не указаны. Все MoE-эксперты и плотные матрицы выполнены в плоской 4-битной квантизации с группами по 64 веса, а отдельные компоненты, включая нормализации, параметры GDN, индексатор QSA и MTP-голову, сохраняются в 16-битном формате. Размер загрузки составляет 106,3 ГБ, из которых около 32 ГБ занимает таблица n-gram, потоково читаемая с SSD; резидентные веса занимают примерно 74 ГБ плюс рабочая память. Рекомендуется Apple Silicon Mac с unified memory от 96 ГБ. Адаптивная speculative decoding с глубиной до 3 токенов, по данным README, обеспечивает ускорение до 1,6 раза относительно обычной авторегрессивной генерации, сохраняя распределение вывода при поддерживаемых настройках sampling. Сильные стороны модели — высокая скорость локального запуска, большой контекст и оптимизация под Apple Silicon. Ограничения включают значительные требования к памяти, зависимость от MTPLX и macOS на Apple Silicon, а также компромисс качества, связанный с плоской 4-битной квантизацией; README указывает, что версия Optimized Speed обеспечивает более высокое качество и работает немного медленнее. Лицензия указана как qwen-community-1.0; точные условия следует уточнять в файле LICENSE и документации базовой модели.

Карточка модели thoddnn/Ternary-Bonsai-27B-mlx-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

Toffee-3B-β — языковая модель для генерации текста и диалогового взаимодействия, разработанная maxzt. Модель дообучена на базе mistralai/Ministral-3-3B-Base-2512 с целью создания компактного полезного ассистента. Основной язык — английский; заявленные сценарии включают чат, выполнение инструкций, ответы на вопросы, рассуждения, математические задачи и программирование. Модель содержит около 3 млрд параметров и использует архитектуру Ministral 3 семейства Mistral. Длина контекста составляет 8 192 токена, размер словаря — 131 072, размер скрытого состояния — 3 072, 26 слоёв, 32 attention heads и 8 KV heads. Базовая точность указана как BF16. Дообучение выполнено методом SFT с LoRA на наборах UltraChat 200k, OpenMathInstruct-2 и CodeFeedback-Filtered-Instruction; использовалось до 80 000 примеров. Сильными сторонами являются компактный размер, пригодность для локального развёртывания и хорошие результаты на ряде стандартных тестов для моделей этого класса: 63,10% на MMLU, 72,04% на HellaSwag, 84,98% на BoolQ и 68,11% на Winogrande. Ограничения включают преимущественно англоязычную специализацию, небольшой контекст в 8 192 токена и отсутствие заявленной мультимодальности. Результаты на бенчмарках могут зависеть от настроек оценки и не гарантируют аналогичное качество в прикладных сценариях. Лицензия — MIT.

Tulu 13B — языковая модель Allen Institute for AI (AI2), созданная дообучением LLaMA с 13 млрд параметров на смеси наборов инструкций, включая FLAN V2, CoT, Dolly, OpenAssistant, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель для генерации текста, обученная следовать инструкциям и отвечать в заданном формате. Модель подходит для диалоговых ответов, решения задач, вопросов и ответов, а также генерации кода. В карточке приведены результаты тестирования на MMLU, GSM, BBH, TyDiQA и Codex-Eval; качество зависит от задачи и формата запроса. Модель принимает текст и генерирует текст на английском языке; размер контекста — 2048 токенов. Репозиторий содержит diff весов, поэтому для использования требуется доступ к исходной модели LLaMA в формате Hugging Face. Модель распространяется по лицензии AI model license вместе с исходной лицензией LLaMA; условия обеих лицензий следует учитывать при использовании.

Yuan 2.0-51B-hf — плотная авторегрессионная языковая модель семейства Yuan, разработанная IEIT System. Она предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, рассуждения, решение математических задач и помощь с кодом. Модель насчитывает 46,2 млрд параметров, использует архитектуру YuanForCausalLM и принимает контекст длиной до 4096 токенов. Разработчики указывают, что Yuan 2.0 основана на Yuan 1.0 и обучалась на расширенных наборах предобучающих и инструкционных данных. В карточке приведены бенчмарки по математике, программированию и достоверности ответов, но результаты конкретно этой версии в предоставленном фрагменте не показаны. Модель может ошибаться и поддаваться вводящим в заблуждение инструкциям. Для весов и репозитория указаны лицензия other и условия Yuan 2.0; README сообщает о возможности коммерческого использования при соблюдении этих условий.

Zrald выпускает GGUF-квантование модели Qwen3.8-27B в профиле zraldv1-ba, ориентированном на баланс размера и качества. Репозиторий содержит файл весов объёмом 14,46 GiB; в README заявлено сохранение 99,12% точности относительно исходной модели. Модель рассчитана на диалоги, генерацию текста, программирование и задачи рассуждения; метаданные указывают поддержку чата. Базовая модель Qwen описана в каталоге как мультимодальная, однако для этой сборки явно заявлены только текстовые сценарии. README сообщает о тестировании на AMD Instinct MI300X, скорости обработки промптов 1 103,4 токена/с и генерации 64,7 токена/с, а также рекомендует не менее 16 ГБ VRAM. Эти показатели приведены разработчиком и могут зависеть от оборудования и конфигурации. Модель распространяется под лицензией Apache-2.0.

BigFalcon3-from10B — языковая модель для генерации текста и диалогов, созданная ehristoforu с помощью объединения весов через mergekit. В README указана модель tiiuae/Falcon3-10B-Instruct как единственная включённая в объединение; метаданные каталога классифицируют результат как дообучение этой базовой модели. Архитектура плотная, семейства Llama; модель содержит 15,8 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста, а также может использовать интерфейс вызова инструментов. Метаданные базовой модели указывают на сценарии рассуждений, программирования и математики. Репозиторий содержит веса в формате safetensors. Сведения о лицензии и поддерживаемых языках в предоставленных данных отсутствуют.

Cerebrum-1.0-8x7b — языковая модель AetherResearch для генерации текста и решения задач, требующих рассуждений. Это дообученная версия Mixtral 8x7B с архитектурой sparse Mixture of Experts (MoE); модель обучали на небольшом наборе примеров с цепочками рассуждений и дополнительно выравнивали с помощью targeted RLHF. В метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для ответов на вопросы, математических и логических задач, программирования, творческой работы и мозгового штурма. Карточка сообщает о конкурентных результатах на отдельных тестах относительно Gemini 1.0 Pro и GPT-3.5 Turbo, однако оценки получены в разных режимах и условиях. Для диалога рекомендуется шаблон Alpaca с запросом описать ход решения. Модель работает с текстом и рассчитана на английский язык; лицензия — Apache 2.0. Результаты могут зависеть от формулировки запроса и выбранного шаблона.

Orion-zhen/DeepSeek-R1-Distill-Llama-70B-abliterated — вариант DeepSeek-R1-Distill-Llama-70B, созданный с помощью abliteration. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические рассуждения, программирование и ответы на сложные вопросы. В метаданных указаны английский и китайский языки, а также интерфейсы чата и вызова инструментов. Модель представлена в формате safetensors и распространяется по лицензии GPL-3.0. README не сообщает о качестве abliteration, её конкретных целях или изменениях поведения модели, поэтому эти свойства нельзя оценить по доступным сведениям.

DeepSeek-R1-Distill-Llama-8B-GGUF — это GGUF-квантизированная версия модели DeepSeek-R1-Distill-Llama-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, решения задач, требующих рассуждений, и локального использования в инструментах, совместимых с форматом GGUF. Модель дистиллирована из reasoning-модели DeepSeek-R1 и настроена на рассуждения и генерацию цепочек рассуждений. Заявлена поддержка контекста до 128k токенов. В основе используется архитектура Llama с размером 8B параметров; модель относится к текстовой модальности. Другие характеристики, включая перечень поддерживаемых языков и конкретный тип квантизации, в README не указаны. Лицензия и точные условия использования в README не указаны. Модель может быть полезна для локального запуска и задач, где важны рассуждения, однако, как и другие генеративные модели, способна выдавать неточные, вредные или неподходящие ответы; надёжность результатов требует проверки.

win10/DeepSeek-R1-Distill-sthenno-14b-0121 — объединённая языковая модель на 14 млрд параметров, созданная с помощью mergekit методом TIES на основе sthenno-com/miscii-14b-1225 и объединяющая веса DeepSeek-R1-Distill-Qwen-14B и tempesthenno-ppo-ckpt40. Она использует архитектуру Qwen2ForCausalLM, распространяется в формате safetensors и рассчитана на генерацию текста и диалоги; заявленная длина контекста — 131072 токена. Модель подходит для диалоговых сценариев и генерации ответов, включая задачи рассуждения, математики и программирования, указанные в описании базовой модели каталога. README приводит конфигурацию слияния и тип данных float16. Репозиторий не сообщает отдельные результаты оценки качества или подробные ограничения. Лицензия в предоставленных данных не указана.

Dolphin 2.9.2 Phi 3 Medium — языковая модель, дообученная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations на базе Phi-3-Medium-Instruct-4k. Это плотная модель для генерации текста и диалогов; README указывает обучение с qLoRA на последовательностях длиной 4k, а метаданные — архитектуру MistralForCausalLM и 13,8 млрд параметров. Модель использует шаблон запросов ChatML и рассчитана на английский язык. Модель предназначена для выполнения инструкций, общения, задач программирования и начальных агентных сценариев, включая вызов функций. В README упомянуты обучение на наборах инструкций, диалогов, кода и математических задач. Контекст ограничен 4096 токенами. По словам авторов, модель не полностью очищена от отказов; они советуют настроить собственный слой выравнивания перед предоставлением модели как сервиса. Лицензия — MIT. README предупреждает, что модель более склонна выполнять запросы и возлагает ответственность за создаваемый контент на пользователя.

HelixLM — плотная авторегрессионная языковая модель семейства Helix, опубликованная dusersad12 в формате PyTorch для генерации текста. В карточке заявлены улучшения рассуждений и вывода, включая задачи по математике, программированию и логике; модель также позиционируется как чат-ассистент с поддержкой вызова функций. README сообщает об улучшении результата на AIME 2026 до 89,3% и увеличении среднего расхода токенов на вопрос с 14 тыс. до 27 тыс., а также о снижении галлюцинаций. Для локального запуска и взаимодействия предлагаются отдельные кодовый репозиторий, веб-интерфейс и API; для генерации рекомендована температура 0,6. Репозиторий распространяется по лицензии Apache-2.0. Размер модели, длина контекста и поддерживаемые языки в предоставленных данных не указаны.

harkov000/hermes-dolphin-8B — объединённая модель на архитектуре Llama, созданная методом SLERP из NousResearch/Hermes-3-Llama-3.1-8B и cognitivecomputations/dolphin-2.9.4-llama3.1-8b. Репозиторий содержит веса в формате safetensors; размер модели — 7,5 млрд параметров, заявленная длина контекста — 131 072 токена. Модель предназначена для диалоговой генерации текста и следования инструкциям; метаданные также отмечают интерфейс вызова инструментов. Её можно применять для ответов на вопросы, рассуждений, помощи с кодом и сценариев с использованием инструментов. Базовая модель Hermes 3 ориентирована на английский язык; карточка этой объединённой модели не уточняет языковой охват. Модель опубликована 23 октября 2024 года. Условия лицензии в предоставленных данных не приведены.

Hunyuan-0.5B-Instruct — компактная инструктивная языковая модель Tencent, дообученная на базе tencent/Hunyuan-0.5B-Pretrain. Это плотная авторегрессионная модель семейства Hunyuan V1 Dense с 463,5 млн параметров, доступная в формате safetensors и предназначенная для генерации текста в диалоговом режиме. Модель подходит для ответов на запросы и инструкций, рассуждений, задач по математике и коду, а также для агентных сценариев с интерфейсом вызова инструментов. Она поддерживает режимы быстрого и пошагового рассуждения и контекст до 262 144 токенов; в README также отмечены Grouped Query Attention и варианты квантования для эффективного развёртывания. В метаданных не перечислены поддерживаемые естественные языки, поэтому языковую специализацию определить нельзя. Модель относится к линейке общего назначения, а приведённые в README результаты тестов относятся к отдельным оценкам и не гарантируют качество на конкретных запросах. Для этой модели в предоставленных данных не указана лицензия.

Iceball-Phi-3.5-mini-instruct-shareGPT-v1.0 — компактная языковая модель EpistemeAI, дообученная на базе unsloth/phi-3.5-mini-instruct-bnb-4bit с использованием Unsloth и TRL. В карточке указаны supervised fine-tuning, PPO и DPO; модель предназначена для диалогового следования инструкциям и генерации текста. По метаданным она содержит 3,7 млрд параметров, использует плотную архитектуру семейства Llama и поддерживает контекст до 4096 токенов. Модель рассчитана на общие генеративные приложения, в том числе работу в условиях ограниченных вычислительных ресурсов и низкой задержки, а также задачи рассуждения, программирования, математики и логики. README заявляет поддержку нескольких языков, но метаданные карточки указывают английский язык. Лицензия — Apache-2.0. Указанная в README длина контекста 128K противоречит метаданным каталога, поэтому здесь приведено значение 4096 токенов из метаданных.

I-DLM-32B — плотная диффузионная языковая модель на 29,7 млрд параметров, созданная командой yifanyu на основе Qwen/Qwen3-32B. Она предназначена для диалоговой генерации текста, ответов на вопросы, математических рассуждений, программирования и следования инструкциям. Метод Introspective Strided Decoding позволяет генерировать и проверять группы токенов параллельно; для воспроизведения результатов авторы рекомендуют конвейер ISD на базе SGLang. Модель заявлена как сопоставимая по качеству с авторегрессионной Qwen3-32B на 15 тестах, охватывающих знания, математику, код и следование инструкциям. Модель использует архитектуру SDAR и принимает текст, выдавая текст. Нативная длина контекста — 40 960 токенов. Карточка указывает английский язык; базовая Qwen3-32B описана как многоязычная. Репозиторий содержит веса Safetensors. Лицензия — Apache-2.0. Прямая загрузка через Transformers пока не поддерживает воспроизведение результатов из статьи; для вывода рекомендуется SGLang с реализацией ISD.

IsValorum публикует эту сборку Iris-mini-MTP APEX-I-MiniPlus — квантованную в GGUF версию MoE-модели на архитектуре qwen35moe, предназначенную для генерации текста в диалоге. Веса содержат около 35 млрд параметров, из которых, по README, примерно 3,2 млрд активируются на токен; размер файла составляет 14,84 ГБ, а заявленная средняя точность квантования — 3,42 BPW. Модель сохраняет встроенную голову Multi-Token Prediction для спекулятивного декодирования. Сборка рассчитана на генерацию текста, включая рассуждения, математику и код. README описывает выборочное квантование слоёв и компонентов, а также запуск через llama.cpp; для некоторых конфигураций заявлена работа с контекстом до 256 тысяч токенов. Метаданные указывают поддержку 13 языков, включая русский, английский, китайский, японский и арабский. Репозиторий распространяется по лицензии Apache-2.0. Это прежняя итерация MiniPlus, а не текущая спецификация разработчика. Приведённые в README показатели скорости, качества, принятия предсказанных токенов и использования памяти являются заявлениями автора и зависят от оборудования и настроек; заявленные результаты не следует считать независимой оценкой.