II.2Создание и понимание программного кода

zelk12/MT-GP-gemma-2-RAt0.75v0.1RAv0.1-9B — слияние двух предварительно обученных языковых моделей Gemma 2, созданное с помощью mergekit методом SLERP. Модель имеет плотную архитектуру Gemma2ForCausalLM и 9 млрд параметров; веса представлены в safetensors. В метаданных указана поддержка диалогового режима, генерации текста и контекст длиной до 8192 токенов. Модель подходит для диалогов, выполнения инструкций и генерации текста. README указывает только способ слияния и исходные модели, поэтому более узкие специализации и подтверждённые преимущества не заявлены. Лицензия в предоставленных сведениях не указана.

ornith-1.5-9b-attention8-bf16recurrence-vision-mlx — гибридная MLX-модель для Apple Silicon, созданная ShiftedX на основе Ornith-1.5-9B от ornith-ai. Она предназначена для генерации текста и анализа изображений в сценариях image-text-to-text, включая описание изображений, ответы на вопросы по визуальному содержимому, использование инструментов и агентские задачи. Запуск выполняется в авторегрессионном режиме через MLX-LM и MLX-VLM. Модель занимает 8,87 ГБ. Языковая часть включает 130 модулей affine-8, 72 модуля affine-4 и 48 модулей recurrent-input в формате BF16; визуальная часть содержит 333 тензора BF16, унаследованных от родительской модели. Заявленное окно контекста составляет 262 144 токена. Поддержка native MTP отсутствует, поскольку в исходном checkpoint нет тензоров mtp.*. README не указывает полный перечень языков. По результатам тестирования на Apple M4 Max с 64 ГБ памяти модель показала скорость декодирования около 46–54 токенов в секунду в текстовых режимах, полный результат в инструментальных задачах и смешанные результаты в задачах качества, длинного контекста, агентской работы и строгой проверки ответов по изображениям. Поведение может изменяться из-за используемого квантования; для ограничений и предполагаемого применения следует учитывать карточку родительской модели. Модель распространяется по лицензии MIT.

bunnycore/Qwen2.5-3B-MiniMix — слитая разговорная языковая модель, созданная с помощью mergekit и метода TIES на базе Qwen/Qwen2.5-3B. В объединение вошли Qwen/Qwen2.5-3B-Instruct, bunnycore/Qwen-2.5-3b-Evol-CoT и bunnycore/Qwen-2.5-3b-Rp-lora_model. Модель содержит 3,1 млрд параметров, использует архитектуру Qwen2 для генерации текста и работает через библиотеку Transformers; заявленный контекст — до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Сочетание инструкционной и CoT-моделей ориентировано на выполнение инструкций и рассуждения; также доступны чат-возможности и интерфейс вызова инструментов. Поддерживаемые языки и качество на отдельных задачах в карточке не описаны. Веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя. Как результат слияния нескольких моделей, поведение MiniMix может отличаться от исходных моделей; перед применением следует проверить ответы и вызов инструментов на целевых сценариях.

DavidAU представил Qwen3-30B-A3B-YOYO-V2-Claude-4.6-Opus-High-INSTRUCT как instruct-модель для диалогов и задач, требующих рассуждений. Это дообученная на базе YOYO-AI/Qwen3-30B-A3B-YOYO-V2 модель семейства Qwen3 MoE; в репозитории указаны Transformers и формат safetensors. В метаданных указан размер 2,6 млрд параметров, а карточка описывает исходную архитектуру как модель на 30 млрд параметров с 3 млрд активных параметров, 128 экспертами и контекстом 256 тыс. токенов. При этом метаданные указывают нативный контекст 1 010 000 токенов, поэтому фактическую поддерживаемую длину следует проверять для используемой конфигурации. Модель предназначена для генерации ответов в чате и выдачи рассуждений; автор сообщает о настройке на датасете TeichAI/claude-4.5-opus-high-reasoning-250x и приводит результаты нескольких бенчмарков. README называет её гибридом instruct и reasoning и отмечает, что короткие следы рассуждений могут появляться в тексте генерации. Заявления о превосходстве в бенчмарках принадлежат автору и приведённые в карточке данные не позволяют независимо их подтвердить. Язык карточки — английский; подтверждена лицензия Apache-2.0.

Это конверсия в формат Apple MLX дообученной мультимодальной модели Qwen3.5-4B-Claude-4.6-OS-Auto-Variable-HERETIC-UNCENSORED-THINKING. Репозиторий xv1rcn подготовил её с помощью mlx-vlm 0.6.3; веса представлены в safetensors, а энкодер изображений сохранён в BF16. Модель имеет около 4 млрд параметров и гибридную архитектуру Qwen3.5 с Gated Delta Networks и разреженными блоками Mixture-of-Experts. Нативная длина контекста исходной модели — 262 144 токена, с расширением до 1 010 000; для конверсии отдельные характеристики контекста не приведены. Модель предназначена для диалогов, рассуждений, творческого письма, ролевых сценариев и ответов на вопросы по изображениям. README отмечает исправленный шаблон чата для обработки повторов, чрезмерно длинного рассуждения, циклов и вызова инструментов. Указана поддержка 201 языка и диалектов для семейства Qwen3.5, однако карточка этой модели отдельно подтверждает английский и китайский. Конверсия ориентирована на запуск в Apple MLX; для других сред совместимость зависит от используемого формата и инструментов. Лицензия — Apache-2.0.

Qwen3.5-4B-Safety-Thinking — языковая модель для генерации текста, разработанная Merlin Research на основе Qwen/Qwen3.5-4B. Она предназначена для безопасных ассистентов и чат-ботов, задач со строгим соблюдением инструкций, исследований в области AI alignment и безопасности, тестирования устойчивости, а также агентских сценариев, где важны предсказуемость и контролируемость поведения. Модель содержит около 4 млрд параметров и обучена методом LoRA-based supervised fine-tuning (SFT) с последующим объединением в BF16-чекпойнт. Она поддерживает формат рассуждений <think>...</think>, предназначенный для отделения процесса рассуждения от финального ответа. Заявлена возможность работы с контекстом до 1 млн токенов, однако подробности реализации этого режима не приведены. Указан английский язык. Обучение проводилось на закрытых наборах данных Merlin Research с применением подходов для повышения надёжности рассуждений, следования инструкциям, безопасности и снижения misalignment, включая framework Bloom&Petri. К сильным сторонам относятся структурированное рассуждение, следование ограничениям, безопасность, устойчивость к распространённым adversarial inputs и согласованность ответов. Ограничения включают отсутствие опубликованных подробных результатов оценки, неполную информацию о поддерживаемых языках и активную разработку и валидацию GGUF-артефактов; для стабильной работы рекомендуется BF16 Transformers checkpoint. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS-i1-GGUF — квантизированная GGUF-версия модели KridgeDookie/Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS, подготовленная mradermacher. Модель относится к семейству Qwen3.6, имеет около 27 миллиардов параметров и предназначена для генерации текста и работы с изображениями и текстом. В метаданных указана многоязычная поддержка, однако конкретный перечень языков и размер контекстного окна не приведены. Модель ориентирована на текстовую генерацию, мультимодальные сценарии image-text-to-text и задачи, где требуется сниженный уровень отказов от ответов; пометка abliterated/uncensored отражает изменение поведения исходной модели в этой области. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Доступны варианты квантизации i1 с разными форматами и объёмом примерно от 7,2 до 15,6 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Сильными сторонами являются мультимодальность, многоязычность и широкий выбор квантизированных вариантов, включая imatrix-квантизации. Ограничения связаны с потерей качества у наиболее компактных вариантов; README прямо отмечает низкое качество некоторых из них. Архитектурные детали, точный контекст и результаты оценивания не указаны. Модель распространяется по лицензии Apache-2.0.

Shisa Base 7B v1 — объединённая чат-модель на архитектуре Mistral, созданная слиянием mistralai/Mistral-7B-Instruct-v0.1 и augmxnt/shisa-base-7b-v1 методом SLERP. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы. Поддерживает английский и японский языки; длина контекста — до 32 768 токенов. Модель подходит для диалоговых приложений и генерации ответов на инструкции. Опубликована в формате Safetensors и распространяется по лицензии Apache-2.0. README не приводит оценок качества или специальных ограничений применения.

SRIQ-MiniCPM5-2B-v1.5 — разработанная SRIQ модель, полученная дообучением openbmb/MiniCPM5-2B на наборе sriq-ai/sriq-sft-v1.5. Это плотная языковая модель с архитектурой LlamaForCausalLM и примерно 2,2 млрд параметров; она принимает текст и генерирует ответы в диалоговом формате, поддерживая контекст до 131 072 токенов. Модель предназначена для ответов на вопросы и задач рассуждения, в том числе в контексте длинных системных инструкций и агентных сценариев. Внутренние рассуждения она формулирует сжато на упрощённом китайском независимо от языка запроса, а итоговый ответ — на языке пользователя. Обучение ориентировано на проверку результата перед ответом; доступен интерфейс вызова инструментов. Карточка не приводит результатов бенчмарков, поэтому качество и прирост относительно базовой модели не подтверждены опубликованными измерениями. Сжатые рассуждения могут быть трудны для чтения, а проверочный этап сам по себе не гарантирует правильность ответа. Для работы модели следует не отключать рассуждения параметром enablethinking=False. Лицензия — Apache-2.0.

Это квантованные версии wisenut-nlp-team-wisenut-llama-3-8B-0.6-Instruct в формате GGUF, подготовленные командой featherless-ai-quants. Базовая модель предназначена для генерации текста и выполнения инструкций, поэтому может применяться в диалоговых системах, локальных ассистентах, подготовке и преобразовании текстов и других сценариях text-generation. Модель относится к семейству Llama и содержит 8 млрд параметров, однако сведения об архитектуре, поддерживаемых языках, модальностях и размере контекста в README не указаны. Доступны варианты квантования IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0; их размер составляет примерно от 3 до 8,1 ГБ. Разные варианты позволяют выбирать компромисс между требованиями к памяти, скоростью работы и сохранением качества, но конкретные показатели производительности и качества не приведены. Формат GGUF удобен для локального запуска совместимыми инструментами, однако README не содержит инструкций по использованию, системных требований или результатов тестирования. Лицензия модели и условия её распространения в предоставленных данных не указаны.

Apertus-70B-Instruct-2509 — многоязычная языковая модель Swiss AI Initiative для диалогов и генерации текста. Это дообученная версия Apertus-70B-2509 с архитектурой декодерного трансформера; в метаданных указано 97,7 млрд параметров и контекст до 65 536 токенов. Модель принимает текст и выдаёт текст, поддерживает более 1 800 языков и умеет использовать инструменты в агентных сценариях. Модель предназначена для ответов на вопросы, диалогов и других задач генерации текста, в том числе с длинным контекстом. Разработчики заявляют об открытых весах, данных и описании обучения, а также о соблюдении согласия владельцев данных. Модель распространяется по лицензии Apache-2.0. Ответы могут содержать фактические ошибки, логические несоответствия и смещения. Фильтр для удаления персональных данных в комплект не входит; важные сведения следует проверять.

gemma-4-E2B-it-qat-GGUF — мультимодальная instruction-tuned модель семейства Gemma 4, разработанная Google DeepMind и представленная в формате GGUF пользователем или организацией prithivMLmods. Модель предназначена для локального запуска на ноутбуках и мобильных устройствах, а также для исследований и приложений на базе llama.cpp. Она поддерживает работу с текстом, изображениями и аудио, включая генерацию текста, распознавание речи, перевод речи, анализ изображений, OCR, анализ кадров видео и native function calling. Доступен настраиваемый режим рассуждений. Модель имеет 2,3 млрд эффективных параметров и 5,1 млрд параметров вместе с embedding-слоями, использует Per-Layer Embeddings и Quantization-Aware Training (QAT). Архитектура включает 35 слоёв с чередованием локального sliding window attention на 512 токенов и глобального внимания, а также отдельные vision- и audio-энкодеры примерно на 150 млн и 300 млн параметров соответственно. Контекстное окно составляет 128K токенов, словарь — 262 тысячи токенов, заявлена поддержка более 140 языков; в README явно указан английский язык. Доступны варианты GGUF от Q2_K до Q8_0, а также BF16, F16 и F32, с размером основных файлов примерно от 2,98 до 18,5 ГБ. К сильным сторонам относятся мультимодальность, большое контекстное окно, оптимизация QAT для снижения требований к памяти и локального инференса, а также широкий выбор уровней квантования. Ограничения — заметные требования к памяти для старших вариантов, а также отсутствие подробных данных о производительности на конкретном оборудовании и практических ограничениях мультимодальных возможностей. Лицензия — Apache-2.0.

Kanana-2-30B-A3B-Instruct — языковая модель Kakao для диалогов и сценариев агентного ИИ. Она дообучена на базе kakaocorp/kanana-2-30b-a3b-base и построена на архитектуре DeepSeek V3 с MLA и MoE: всего 30 млрд параметров, из которых активируются около 3 млрд. В репозитории указаны 48 слоёв, 128 экспертов и выбор 6 экспертов на токен. Модель предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов. Она генерирует текст и поддерживает контекст до 32 768 токенов. Семейство Kanana-2 рассчитано на корейский, английский, японский, китайский, тайский и вьетнамский языки. Для контекстов длиннее 32 768 токенов README описывает расширение до 128 000 с помощью YaRN и изменением конфигурации; это может ухудшить качество на коротких текстах. Для запуска с Transformers требуется версия не ниже 4.51.0. Лицензия указана как other, поэтому условия использования следует сверить с файлами лицензии репозитория.

Карточка модели kakaocorp/kanana-2-30b-a3b-mid-2601 на Hugging Face совпадает с карточкой kakaocorp/kanana-2-30b-a3b-instruct-2601, поэтому описание составлено по ней. Kanana-2-30B-A3B-Instruct-2601 — инструктивная языковая модель компании Kakao для диалогов и сценариев агентного ИИ. Она предназначена для следования сложным инструкциям, логических рассуждений и вызова инструментов; модель можно развернуть, например, через vLLM или SGLang с поддержкой выбора инструментов. Модель основана на архитектуре DeepSeek V3 с механизмом внимания MLA и разреженной смесью экспертов (MoE): всего 30 млрд параметров, из которых активируются около 3 млрд. Контекст составляет до 32 768 токенов. Семейство поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. README указывает лицензию как отличную от стандартных вариантов, поэтому перед использованием следует проверить условия на странице репозитория Hugging Face. Для обработки контекста свыше 32 768 токенов требуется отдельно настроить YaRN; такая настройка может повлиять на качество коротких текстов. Метаданные указывают 2,9 млрд параметров, что расходится с описанием серии в README (30 млрд всего и около 3 млрд активных).

Meta Llama 3.1 70B Instruct — крупная текстовая языковая модель Meta для диалоговых сценариев. Она использует авторегрессионную архитектуру Transformer с Grouped-Query Attention; версия Instruct прошла supervised fine-tuning и обучение с подкреплением на основе отзывов людей. Модель принимает текст и генерирует текст, рассчитана на многоязычный диалог и поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель предназначена для создания чат-ассистентов, ответов на вопросы и других задач генерации естественного языка. Её также можно применять для создания синтетических данных и улучшения других моделей. Модель относится к семейству Llama 3.1 размером 70 млрд параметров; в репозитории используются веса Safetensors, библиотека Transformers, а для экономии памяти доступны варианты запуска с 8- и 4-битным представлением. Карточка сообщает о сильных результатах семейства на распространённых отраслевых тестах, но не приводит здесь конкретных показателей для этой версии. Модель статична и обучена на офлайн-данных; качество и безопасность ответов требуют проверки в целевом применении, а карточка не рекомендует диалог на неподдерживаемых языках без дообучения и дополнительных системных мер. Условия использования задаёт пользовательская Llama 3.1 Community License с Acceptable Use Policy; лицензия допускает коммерческое и исследовательское применение при соблюдении этих условий.

InternLM2.5-7B-Chat-1M — диалоговая языковая модель команды InternLM, вариант InternLM2.5-7B-Chat для работы с контекстом до 262 144 токенов по метаданным. Это плотная авторегрессионная модель семейства InternLM2 с 7,4 млрд параметров, предназначенная для генерации текста в ответ на запросы и ведения диалога. Модель рассчитана на анализ длинных документов, поиск сведений в большом контексте, математические рассуждения и сценарии с использованием инструментов. В README заявлена оценка на текстах длиной до миллиона токенов и приводится рекомендация использовать LMDeploy для инференса с таким контекстом; Transformers не поддерживает этот режим напрямую. Поэтому заявленную длину в миллион токенов следует считать характеристикой описанного в README режима, тогда как метаданные указывают native context в 262 144 токена. Репозиторий содержит веса в формате safetensors. README сообщает, что код распространяется по Apache-2.0, а для весов открыто академическое исследование и предусмотрена бесплатная коммерческая лицензия по запросу. Модель ориентирована на практическое применение, но её заявления о качестве приведены разработчиком по результатам собственных оценок.

Карточка модели nwzjk/Qwen3.6-34B-80L-Fable-5-Heretic на Hugging Face совпадает с карточкой hiebo/Qwen3.6-34B-80L-Fable-5-Heretic, поэтому описание составлено по ней. Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

Qwen3.8-27B-abliterated-GGUF — GGUF-квантизированная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, опубликованная пользователем prithivMLmods. Это вариант Qwen3.8-27B, созданный с применением abliteration — редактирования активаций, направленного на удаление поведения, связанного с отказами. Модель представляет собой плотную causal language model на 27 млрд параметров с нативным vision encoder и поддержкой обработки текста и изображений. Модель предназначена для локального запуска через llama.cpp и совместимые среды, а также для генерации и анализа текста, понимания изображений и видео, визуальных вопросов и ответов, OCR, описания изображений и видео, документного анализа и визуального рассуждения. Заявлены поддержка английского и китайского языков, контекст до 262 144 токенов с возможностью расширения до 1 млн через YaRN, а также управление глубиной рассуждений параметром reasoning_effort. Архитектура включает 64 слоя с чередованием блоков линейного внимания Gated DeltaNet и периодических слоёв Gated Attention. Доступны варианты от BF16 и F16 до Q2_K–Q8_0, что позволяет выбирать между качеством и требованиями к памяти; размеры файлов составляют примерно от 10,7 до 53,8 ГБ, отдельно поставляются мультимодальные проекторы. К ограничениям относятся отсутствие MTP-голов в формате GGUF, поэтому преимущества Multi-Token Prediction и связанной спекулятивной декодировки исходной модели недоступны. Abliteration является экспериментальным подходом и может влиять на поведение и надёжность модели. В README указана лицензия Apache 2.0.

Apertus-8B-2509 — открытая языковая модель семейства Apertus, разработанная Swiss AI. Это плотный авторегрессионный трансформер-декодер с 10,3 млрд параметров, обученный с нуля на 15 трлн токенов и дообученный с учителем с последующим выравниванием. Модель предназначена для генерации текста, многоязычного общения и работы с длинным контекстом; поддерживает вызов инструментов. Контекстное окно — до 65 536 токенов. Карточка заявляет поддержку более 1 800 языков. Модель ориентирована на открытое и прозрачное применение: разработчики публикуют веса, данные и сведения о процессе обучения. Репозиторий использует формат Safetensors и библиотеку Transformers; лицензия — Apache-2.0. Модель может генерировать фактически неточный или непоследовательный текст и отражать предвзятость обучающих данных. Фильтр для персональных данных в комплект не входит, поэтому важные ответы следует проверять, а выводы с персональными данными — обрабатывать с осторожностью.

EuroBERT-610m — многоязычная плотная encoder-модель семейства EuroBERT от разработчиков, представивших это семейство. Веса содержат около 607,8 млн параметров; модель предназначена для языковых задач, включая поиск и ранжирование текстов, классификацию и регрессию. В Hugging Face она опубликована как masked language model для заполнения пропусков в тексте. Модель поддерживает 15 языков, а также математические задачи и код. Контекст — до 8 192 токенов. По данным карточки, EuroBERT-610m сопоставима с XLM-RoBERTa-XL на большинстве оценённых многоязычных задач и превосходит её в задачах с кодом и математикой; качество зависит от задачи и прикладной настройки. Доступна для Transformers в форматах PyTorch и Safetensors. Лицензия — Apache-2.0.

Huihui-Qwen3.6-35B-A3B-abliterated-FP8-DYNAMIC — это FP8-квантизированная версия модели huihui-ai/Huihui-Qwen3.6-35B-A3B-abliterated, подготовленная разработчиком coolthor для инференса, прежде всего на NVIDIA DGX Spark с GB10 и 128 ГБ унифицированной памяти. Модель предназначена для генерации и анализа текста, а также обработки изображений; в карточке заявлены английский и китайский языки. Она совместима с vLLM и поддерживает автоматический выбор инструментов и вызовы инструментов через соответствующие парсеры Qwen3. Модель основана на архитектуре Qwen3.6 MoE с конфигурацией 35B-A3B. Используется схема динамической квантизации FP8_DYNAMIC в формате compressed-tensors: около 31 030 линейных модулей переведены в FP8 e4m3fn, а отдельные компоненты, включая визуальный модуль, lm_head и маршрутизаторы экспертов, сохранены в BF16. Размер на диске составляет примерно 36 ГБ вместо 67 ГБ у базовой BF16-версии. Сохранённые MTP-веса позволяют применять speculative decoding; в тесте на DGX Spark скорость достигала 51,72 токена в секунду против 30,71 токена в секунду у BF16-варианта. Рекомендуемая длина контекста при запуске в vLLM — до 32 768 токенов. К сильным сторонам относятся уменьшенный размер, поддержка текстово-визуального ввода и ускорение генерации с MTP. Для работы с изображениями требуется версия контрольной точки после исправления от 3 мая 2026 года; более ранние загрузки имели неисправный визуальный ввод. Карточка также предупреждает о проблемах точности и повторов при использовании FP8 KV-кэша на SM121, поэтому его применение не рекомендуется. Лицензия модели — Apache 2.0.

unsloth/Llama-3.2-3B-Instruct-bnb-4bit — это 4-битная квантованная версия инструкционно дообученной текстовой модели Llama 3.2 3B Instruct, подготовленная Unsloth на базе модели Meta. Она предназначена для генерации текста, многоязычного диалога, агентского поиска и извлечения информации, суммаризации, а также для локального запуска и последующего дообучения с пониженным потреблением памяти. Модель работает в формате text in/text out и доступна через экосистему Transformers и bnb 4-bit. Архитектура модели — авторегрессионный оптимизированный Transformer с Grouped-Query Attention (GQA). Размер — 3 млрд параметров. Инструкционная версия обучена с применением supervised fine-tuning (SFT) и reinforcement learning with human feedback (RLHF) для повышения полезности и безопасности. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Длина контекста в предоставленных данных не указана. К сильным сторонам относятся компактный размер, 4-битное представление, сниженные требования к памяти и оптимизация для диалоговых и прикладных текстовых сценариев. Ограничения связаны с тем, что это статическая модель, обученная на офлайн-данных, а также с возможными рисками при использовании языков и задач за пределами заявленных возможностей; качество и безопасность конкретного развертывания требуют отдельной проверки. Использование регулируется кастомной коммерческой лицензией Llama 3.2 Community License и Acceptable Use Policy Meta.

Карточка модели darkneighbor667/Qwen3.6-34B-80L-Fable-5-Heretic на Hugging Face совпадает с карточкой hiebo/Qwen3.6-34B-80L-Fable-5-Heretic, поэтому описание составлено по ней. Qwen3.6-34B-80L-Fable-5-Heretic — мультимодальная модель семейства Qwen от hiebo, дообученная на основе Qwen/Qwen3.6-27B. По карточке, модель расширена с 64 до 80 слоёв и примерно 34 млрд параметров, обучена методом дистилляции на 4 665 агентных трассах Fable-5 с применением QLoRA, а затем объединена с головами MTP для спекулятивного декодирования. Архитектура — Qwen3_5ForConditionalGeneration; заявлены чередование линейного и полного внимания, чат и работа с изображениями. Модель предназначена для диалоговых сценариев с рассуждениями и использованием инструментов, а также для задач, где нужно совместно обрабатывать текст и изображения. В README указаны запуск через Transformers и vLLM и максимальная длина контекста 256K; конфигурация запуска по умолчанию задаёт 4096 токенов. Карточка заявляет ускорение генерации с MTP, но приводит показатель принятия токенов и ускорение только для vLLM. Модель опубликована в формате safetensors; README описывает BF16-веса. Лицензия в предоставленных данных не указана.

Квантизированная 4-битная версия большой языковой модели Command R+ от CohereForAI, преобразованная сообществом mlx-community в формат MLX с использованием mlx-lm. Модель предназначена для генерации текста в диалогах, ответов на вопросы, работы с внешними инструментами и генерации ответов, основанных на предоставленных документах и источниках.

EuroBERT-2.1B — мультиязычная плотная модель-энкодер семейства EuroBERT, разработанная командой EuroBERT. Модель содержит 2,1 млрд параметров и обрабатывает последовательности длиной до 8192 токенов. Это masked language model для заполнения пропусков; её также можно дообучать или использовать с соответствующими головами для классификации текста и токенов, ответов на вопросы, поиска и регрессии. Модель рассчитана на английский, французский, немецкий, испанский, китайский, итальянский, русский, польский, португальский, японский, вьетнамский, нидерландский, арабский, турецкий и хинди. Карточка также указывает поддержку кода и математики. Для работы подходит библиотека Transformers версии 4.48.0 и выше; веса доступны в форматах PyTorch и Safetensors. EuroBERT-2.1B показала сильные результаты в оценках мультиязычного поиска, классификации, регрессии, качества переводов, кода и математических задач; авторы сообщают, что она превзошла сравниваемые системы в проведённых оценках. Как энкодер, она не предназначена для свободной генерации длинных ответов. Лицензия — Apache-2.0.

gaunernst/gemma-3-12b-it-int4-awq — инструкцияно дообученная мультимодальная модель семейства Gemma 3, разработанная Google DeepMind. Данный репозиторий содержит QAT INT4 Flax-чекпойнт, преобразованный в формат HF+AWQ для использования с Transformers; при этом квантование AWQ непосредственно не применялось. Базовая модель — google/gemma-3-12b-it. Модель принимает текст и изображения и генерирует текст. Она предназначена для ответов на вопросы, суммаризации документов, рассуждений, генерации текста и анализа изображений, включая описание визуального содержимого. Изображения нормализуются до разрешения 896×896 и кодируются в 256 токенов. Контекстное окно составляет 128K токенов, максимальный объём генерируемого вывода — 8192 токена. Заявлена поддержка более 140 языков. Ключевые преимущества — мультимодальность, большое контекстное окно и сниженные требования к ресурсам благодаря представлению INT4, что может упростить развёртывание на локальной инфраструктуре или в облаке. Ограничения включают зависимость от совместимой версии Transformers и необходимость учитывать особенности формата конвертированного чекпойнта; README не содержит результатов бенчмарков или подробностей о качестве на отдельных языках и задачах. Использование регулируется лицензией Gemma и условиями Google; доступ к исходной модели на Hugging Face требует принятия соответствующей лицензии.

gaunernst/gemma-3-27b-it-int4-awq — конвертированная в формат Hugging Face и AWQ модель Gemma 3 27B Instruction-tuned, разработанная Google DeepMind. Это QAT INT4-чекпойнт из Flax, первоначально полученный из Kaggle; в репозитории указано, что AWQ не применялся для самой квантизации. Модель предназначена для генерации текста и понимания изображений по текстовым и визуальным запросам, включая ответы на вопросы, суммаризацию, рассуждения и описание содержимого изображений. Модель имеет 27 млрд параметров, поддерживает текстовый и графический ввод и генерирует текст. Для изображений используется нормализация до 896×896 пикселей с кодированием в 256 токенов на изображение. Контекстное окно составляет 128 000 токенов, максимальный заявленный объём вывода — 8192 токена. Gemma 3 поддерживает более 140 языков и рассчитана на развёртывание на ноутбуках, настольных компьютерах и собственной облачной инфраструктуре, хотя 27B-модель и мультимодальный режим требуют значительных вычислительных ресурсов. К сильным сторонам относятся мультимодальность, большое контекстное окно, многоязычность и снижение требований к памяти благодаря INT4-квантизации. Ограничения включают возможные потери качества по сравнению с полноразмерной моделью из-за квантизации, а также необходимость совместимого программного окружения и достаточных аппаратных ресурсов. Для использования требуется принять условия лицензии Google Gemma на Hugging Face; в карточке указана лицензия gemma.

Meta Llama 3.1 70B — большая авторегрессионная языковая модель на оптимизированной архитектуре Transformer с Grouped-Query Attention. Она генерирует текст и рассчитана на многоязычный диалог; семейство включает предварительно обученные и настроенные версии, а настроенные модели используют SFT и RLHF. В этой карточке описана модель размером 70B, но не уточняется, является ли именно этот репозиторий предварительно обученной или настроенной версией. Модель подходит для диалогового помощника, генерации текста и создания синтетических данных. Она принимает и выдаёт текст; заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. В README отмечены более длинное контекстное окно и возможность интеграции с внешними инструментами, но конкретная длина контекста не приведена в предоставленных данных. Модель разработана Meta и выпущена в июле 2024 года. Использование регулируется специальной коммерческой лицензией Llama 3.1 Community License и Acceptable Use Policy; перед применением необходимо соблюдать их условия. К ограничениям относятся статичность модели, риски небезопасных или неточных ответов и сниженная заявленная пригодность для общения на языках вне списка поддержки.

MindLink-72B-0801 — диалоговая большая языковая модель, разработанная Kunlun Inc на базе Qwen2.5-72B-Instruct. В карточке описано семейство MindLink с дообучением и посттренировочными методами; экземпляр содержит 71,5 млрд параметров, использует плотную архитектуру Qwen2 и формат safetensors. Модель предназначена для генерации текста и диалогов, рассуждений, математики и других общих задач. Для этой версии метаданные указывают контекст 32 768 токенов. Заявлены адаптивное планирование рассуждений и способность выдавать подробные рассуждения для сложных запросов и краткие ответы для простых; README также отмечает многошаговые диалоги. Описание не приводит численных результатов сравнительных тестов. Основной язык, указанный в метаданных карточки, — английский. Лицензия — Apache 2.0; README просит сохранять уведомления об авторских правах Qwen и описывать внесённые изменения.

Avesed/Qwen3.8-27B-INT8-W8A8 — квантизированная версия Qwen/Qwen3.8-27B, разработанная Avesed. Это плотная гибридная vision-language-модель с линейным механизмом внимания GatedDeltaNet, периодическими слоями полного внимания, встроенной vision-башней и MTP-головой для speculative decoding. Модель поддерживает английский и китайский языки, а также обработку изображений и текста; точный размер контекста в README не указан. Модель предназначена для генерации и анализа текста, рассуждений, решения математических задач, перевода, двуязычных сценариев и задач с изображениями. Квантизация INT8 применяется к весам и активациям по схеме W8A8: используются симметричные INT8-веса и динамические INT8-активации, тогда как наиболее чувствительные к качеству компоненты, включая embeddings, lm_head, vision tower и MTP head, сохранены в bf16. Объём модели составляет около 30 ГБ; для запуска рекомендуется две видеокарты по 24 ГБ с tensor parallelism. Сильная сторона сборки — высокая скорость prefill: на двух RTX 3090 зафиксировано около 4408 токенов/с против 2276 токенов/с у INT4-сборки, при этом доступно speculative decoding через MTP. Скорость decode ниже, около 73 токенов/с, поскольку INT8 требует больше пропускной способности памяти. На GSM8K модель показала 96,8% на выборке из 250 задач; также проверены англо-китайская генерация и перевод, работа vision-пути и reasoning-параметров. MMLU-Pro не тестировалась. Модель распространяется по лицензии Apache-2.0 и предназначена для запуска через vLLM.