II.2Создание и понимание программного кода

Llama-3.1-Tulu-3-70B-GGUF — набор квантизованных версий языковой модели Llama-3.1-Tulu-3-70B, разработанной Allen Institute for AI (AI2) и опубликованной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp с использованием метода imatrix; доступны варианты от IQ1_M и Q2 до Q8_0 с различным соотношением качества, размера файла и требований к памяти. Модель предназначена для генерации текста и диалоговых сценариев, включая работу через llama.cpp и LM Studio. В README указаны английский язык и исходный набор данных RLVR-GSM-MATH-IF-Mixed-Constraints. Поддерживается формат prompt с ролями system, user и assistant. Размер базовой модели — 70 миллиардов параметров; сведения о максимальном контексте и мультимодальности не указаны. Сильной стороной являются многочисленные варианты квантизации: Q6_K и Q5 считаются высококачественными, а Q4_K_M — компромиссным вариантом для большинства сценариев. Более компактные варианты позволяют снизить требования к оперативной памяти, но обеспечивают более низкое качество. Версия Q4_0_8_8 оптимизирована для ARM и AVX и требует поддержки SVE на ARM; для Mac она не рекомендуется. Лицензия указана как llama3.1.

Alecator/llama-3-Buzzy — дообученная языковая модель Alecator на базе unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных также указана поддержка интерфейса вызова инструментов. Контекстное окно составляет до 131 072 токенов, основной язык карточки — английский. Модель можно использовать для диалоговых помощников, генерации и продолжения текста, а также сценариев с вызовом инструментов. В README указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Данных о специальных ограничениях качества или областях применения в карточке нет.

MelloGPT-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная MaziyarPanahi слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и MelloGPT. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст; в карточке указана лицензия Apache-2.0. README описывает смешивание слоёв внимания и MLP с разными коэффициентами. Карточка не сообщает о специальных предметных областях или иных модальностях.

Это GGUF-квантизированная версия Mistral-Medium-3.5-128B, разработанной Mistral AI и квантизированной пользователем bartowski с помощью llama.cpp и imatrix. Модель предназначена для генерации текста и мультимодальных сценариев image-text-to-text, включая обработку текстовых запросов и изображений в совместимых инструментах. Доступны варианты для llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI, vLLM и других решений. Модель содержит 128 миллиардов параметров. В README заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского, персидского и ряда других языков. Представлены варианты квантования от Q3 до Q8 с размером файлов примерно от 63 до 133 ГБ; более качественные варианты требуют больше оперативной или видеопамяти. Для мультимодального режима требуется совместимый mmproj-файл, при этом указано, что корректно работают варианты bf16 и f32, а f16 может давать некогерентные результаты. Исправлены настройки RoPE и связанные параметры квантования. Сильными сторонами являются большой размер, широкая языковая поддержка и наличие вариантов квантования, позволяющих выбирать между качеством и требованиями к памяти. Ограничениями выступают очень высокие аппаратные требования, необходимость совместимого ПО и возможные проблемы мультимодального режима с отдельными настройками mmproj. Лицензия указана как other; конкретные условия в README не приведены.

TheDrummer выпустил Temitoku x Mitekuto — языковую модель для генерации текста и диалогов, созданную с помощью mergekit методом passthrough на основе unsloth/Mistral-Small-Instruct-2409. Модель использует плотную архитектуру MistralForCausalLM и содержит 38,8 млрд параметров; заявленная длина контекста — до 131 072 токенов. Она работает через библиотеку Transformers и распространяется в формате safetensors. Модель подходит для диалогового общения, генерации текста и сценариев с интерфейсом вызова инструментов. README указывает на объединение предварительно обученных языковых моделей, но перечисляет только одну базовую модель. Лицензия в предоставленных данных не указана.

fengminqi/my-tg-qwen2.5-7b — дообученная fengminqi языковая модель семейства Qwen2.5 с плотной архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров. Она основана на unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit; для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для генерации текста и диалогового общения. Указанный в метаданных контекст — 32 768 токенов; карточка также отмечает интерфейс вызова инструментов. Среди тегов языка указан английский. Веса представлены в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения, поэтому конкретные преимущества и ограничения в отдельных предметных областях установить нельзя.

OpenHermes-2.5-neural-chat-v3-3-Slerp — языковая модель Weyaxi, созданная слиянием через mergekit моделей Intel/neural-chat-7b-v3-3 и teknium/OpenHermes-2.5-Mistral-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель предназначена для генерации текста и диалогов. Для общения в README рекомендуется шаблон ChatML. Указанное окно контекста — 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и генерации текста. Репозиторий содержит веса safetensors; для этой модели также опубликованы отдельные варианты квантования GPTQ, GGUF и AWQ. Лицензия — Apache-2.0. README приводит результаты оценки на нескольких бенчмарках, но не описывает языковое покрытие или специализированные области применения.

Phi-4-QwQ — дообученная на базе Microsoft Phi-4 языковая модель для диалогов и генерации текста с акцентом на пошаговое рассуждение и ответственное решение задач. Модель содержит 14,1 млрд параметров, использует плотную архитектуру и доступна в формате safetensors для библиотеки Transformers; заявленный контекст — 16 384 токена. Модель предназначена для разложения сложных задач на этапы, логических и математических рассуждений, объяснений, учебного сопровождения, написания текстов и диалоговых помощников. В README описано дообучение методами SFT и DPO на синтетических и отфильтрованных данных. Карточка заявляет многоязычные возможности, однако метаданные указывают только английский язык. Модель может ошибаться при неоднозначных запросах, воспроизводить смещения и выдавать вредные или устаревшие ответы; для критически важных сценариев нужна проверка человеком. Для узкоспециализированных областей может потребоваться дополнительная настройка. Лицензия — MIT.

Qwen2.5-0.5B-Instruct-GPTQ-Int4 — компактная инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это GPTQ-квантизированная 4-битная версия базовой модели Qwen2.5-0.5B-Instruct, предназначенная для генерации текста и диалоговых сценариев, включая чат-ассистентов, следование инструкциям, работу со структурированными данными и формирование структурированных ответов, в том числе JSON. Модель также ориентирована на задачи программирования и математики, однако README не содержит подробных результатов оценки. Модель относится к causal language models и использует архитектуру Transformer с RoPE, SwiGLU, RMSNorm, смещениями в QKV attention и связанными эмбеддингами слов. Она содержит около 0,49 млрд параметров, из которых 0,36 млрд не являются эмбеддингами, 24 слоя и GQA с 14 головами для Q и 2 для KV. Поддерживается контекст до 32 768 токенов и генерация до 8192 токенов. Модель текстовая, поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Ключевые преимущества — небольшой размер, 4-битное представление, поддержка длинного контекста, многоязычность и улучшенное следование инструкциям. Ограничения README не раскрывает количественно; как компактная модель с 0,49 млрд параметров, она может уступать более крупным моделям в сложных рассуждениях и качестве генерации. Модель распространяется по лицензии Apache-2.0. Для использования рекомендуется актуальная версия библиотеки transformers; версии ниже 4.37.0 не поддерживают архитектуру Qwen2.

Qwen3-4B-APIGEN-Full — языковая модель SamMikaelson на архитектуре Qwen3 с плотной архитектурой и примерно 3,7 млрд параметров. Она дообучена на базе unsloth/qwen3-4b-unsloth-bnb-4bit с использованием Unsloth и библиотеки TRL от Hugging Face; веса опубликованы в формате safetensors. Модель предназначена для генерации текста в диалоговом формате и работы со сценариями вызова инструментов. Контекст составляет до 40 960 токенов. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. Карточка не описывает состав обучающих данных, результаты оценки качества или конкретные ограничения; пригодность для заданных сценариев стоит проверять на собственных примерах.

Qwen3.5-4B-AWQ — это квантизированная версия языковой модели Qwen/Qwen3.5-4B, разработанной командой Qwen. Модель предназначена для генерации текста, диалоговых и инструкционных сценариев, локального инференса и развёртывания на потребительских GPU. Указаны поддерживаемые языки English и Chinese, а также интеграция с Transformers и vLLM. Модель использует квантизацию AWQ INT4 по схеме W4A16_ASYM с размером группы 128 и zero point. Калибровка выполнена на 512 примерах OpenPlatypus с максимальной длиной последовательности 1024 токена посредством llm-compressor; формат хранения — compressed-tensors. Размер модели составляет около 3,13 ГБ, а потребление VRAM при загрузке — около 3,06 ГБ, что примерно в 2,5–2,6 раза меньше базовой BF16-версии. Это позволяет запускать её на одной видеокарте с 8 ГБ памяти. В заявленных оценках нулевого выстрела модель получила 77,69% на PIQA, 68,75% на Winogrande, 71,65% на HellaSwag, 73,53% на ARC-Easy и 51,71% на ARC-Challenge; средний результат — 68,67%. Сильными сторонами являются существенно сниженные требования к памяти и сохранение заметной производительности в задачах здравого смысла и школьных научных вопросов. Ограничение состоит в том, что результаты приведены только для квантизированной версии и не сопоставлены в идентичных условиях с BF16-моделью, поэтому влияние квантизации точно не установлено. Распространяется по лицензии Apache-2.0.

Это производная мультимодальная модель семейства Qwen, созданная Nickyang на основе Qwen/Qwen3.6-35B-A3B методом RAZOR — прореживанием экспертов без градиентного дообучения. В каждом MoE-слое оставлено 128 из 256 маршрутизируемых экспертов. Размер модели составляет 19,4 млрд параметров (19 млрд без модуля многотокенного предсказания), при этом на токен активируется около 3 млрд параметров. Веса представлены в bfloat16 и формате safetensors; для запуска нужна сборка Transformers со встроенной реализацией qwen3_5_moe. Модель предназначена для генерации текста и диалогов, а также может использовать интерфейс вызова инструментов. Базовая модель Qwen поддерживает анализ изображений, однако README этой производной описывает прореживание экспертных весов и не уточняет сохранение мультимодальных возможностей. Лицензия — Apache 2.0. Прореживание уменьшает объём хранимых экспертных весов, сохраняя почти неизменной вычислительную нагрузку на токен. Оно является потерным: ответы могут отличаться по разнообразию, форматированию и поведению при завершении, даже если точность на отдельных задачах в основном сохраняется. Поведение на областях, слабо представленных в конечном калибровочном наборе, не охарактеризовано; перед развёртыванием следует оценить модель на целевых данных.

Qwen3.6-35B-A3B-RAZOR-28B-A3B-E192of256 — производная диалоговая модель семейства Qwen, созданная методом RAZOR: из 256 маршрутизируемых экспертов в каждом MoE-слое оставлены 192. По README, это обучение-не-затрагивающее прореживание экспертов без градиентных обновлений и восстановительного дообучения; сохранены исходные веса оставшихся экспертов. В карточке указано 27,7 млрд параметров (27,0 млрд без модуля MTP) и около 3 млрд активных параметров на токен. Архитектура — Qwen3.5 MoE для Transformers; веса представлены в safetensors и bfloat16. Модель предназначена для генерации текста в диалогах и работы с интерфейсом вызова инструментов. Метаданные связывают её с Qwen/Qwen3.6-35B-A3B, краткое описание которого указывает на мультимодальный анализ изображений, однако README этой производной версии описывает только прореживание экспертов и не подтверждает сохранение или проверку обработки изображений. Лицензия — Apache-2.0. Прореживание уменьшает объём хранения экспертов, сохраняя примерно прежнее число активных параметров на токен, но является потерным: могут измениться разнообразие, форматирование и поведение завершения ответов; качество вне конечного калибровочного корпуса отдельно не охарактеризовано.

shawnw3i/Qwen3.8-27B-AWQ-MTP — это квантованная AWQ-версия модели Qwen3.8-27B, опубликованная пользователем shawnw3i и основанная на базовой модели Qwen/Qwen3.8-27B. Модель предназначена для генерации текста с поддержкой визуальных входных данных, а также для ускоренного инференса в vLLM. Модель использует AWQ-квантизацию и поддерживает ядро AWQ Marlin, которое vLLM автоматически конвертирует во время работы. Также предусмотрено MTP speculative decoding с тремя спекулятивными токенами. В README заявлена производительность свыше 110 токенов в секунду на одном A800 80GB при использовании vLLM 0.27.1, MTP и FP8 KV cache. Рекомендуемая максимальная длина контекста — 65 536 токенов. Поддерживаются текстовые и визуальные входные данные; сведения о языках не указаны. К сильным сторонам относятся поддержка vision-сценариев, совместимость с AWQ Marlin и встроенное ускорение генерации посредством MTP. Ограничения включают зависимость от совместимой конфигурации vLLM и GPU, а также возможные потери точности из-за квантизации; для предотвращения деградации точности размер группы был уменьшен до 64. Модель распространяется по лицензии Apache-2.0.

amd/Qwen3.8-27B-Quark-Qronos-INT4-W4A16 — это квантизированная версия базовой модели Qwen/Qwen3.8-27B, разработанная с использованием AMD Quark и алгоритма Qronos. Модель предназначена для задач генерации текста и, согласно метаданным, имеет pipeline image-text-to-text. Она рассчитана на запуск в совместимых inference-средах, включая vLLM с поддержкой схемы W4A16Int4. Модель использует INT4-квантизацию весов с group size 128, тогда как активации сохраняются в формате BF16. Квантизация выполнена методом посттренировочной оптимизации Qronos на основе Hessian, с калибровкой по 128 образцам длиной 512 токенов. Размер базовой модели — 27B параметров. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. По приведённым измерениям, качество близко к BF16-версии: на GSM8K получено 94,62% в thinking-режиме и 89,99% в non-thinking-режиме, perplexity Wikitext составила 8,6819, а точность BFCL для single_turn — 23,80%. Основное преимущество — снижение точности представления весов до INT4 при сохранении большей части качества базовой модели. Ограничения включают зависимость от Quark-совместимого runtime, необходимость поддержки W4A16Int4 и неполную сопоставимость отдельных бенчмарков с публичными рейтингами. Модель распространяется по лицензии Apache 2.0, унаследованной от базовой Qwen/Qwen3.8-27B.

Qwen3.8-Flash-CIRU-STRIX-IU4 — специализированная сборка семейства Qwen3.8-Flash-Next, разработанная проектом CIRU при участии Peonist.ai и pwilkin. Модель распространяется в формате GGUF и предназначена для локального запуска на компьютерах с AMD Strix Halo, в частности с 128 ГБ памяти и графикой Radeon на базе Ryzen AI Max 395. Она ориентирована на генерацию текста с длинным контекстом, работу через OpenAI-совместимый API, веб-интерфейс и обработку изображений. Сборка использует архитектуру mixture-of-experts, поддержку vision и image-text-to-text, а также MTP для speculative decoding. В неё включены оптимизации предварительной обработки, кэширования, внимания и GPU-исполнения под AMD ROCm; заявлена возможность работы с контекстами до 256K и отдельные измерения для предварительной обработки до 512K токенов. README не указывает точное число параметров, перечень языков и полную спецификацию модальностей. Сильные стороны модели — высокая скорость локального инференса на совместимых системах, эффективная обработка длинного контекста, поддержка изображений и интеграция с локальными серверными сценариями. Ограничения включают жёсткую зависимость от специализированного CIRU runtime и подходящей AMD-платформы: стандартные llama.cpp и размещённый inference Hugging Face не поддерживаются. Для vision и MTP требуется версия runtime с исправлением v4.4.1; приведённые в README показатели производительности относятся к конкретной тестовой конфигурации и не гарантируют такие же результаты на другом оборудовании. Лицензия указана как other с названием qwen-community-1.0; ссылка ведёт на файл LICENSE. Условия использования следует уточнять по этому файлу.

Qwen3-Next-80B-A3B-Thinking r22 — экспериментальный чекпойнт на базе Qwen/Qwen3-Next-80B-A3B-Thinking. В карточке указано, что это MoE-модель с маршрутизируемыми экспертами, усреднённо хранящимися при 2,0161 бита; остальные веса — BF16. Метаданные указывают 2,3 млрд параметров, контекст до 262 144 токенов и библиотеку Transformers. Веса представлены в safetensors и загружены в деквантованном виде в BF16-тензоры; заявлена совместимость со стандартными Transformers и vLLM. Модель предназначена для генерации текста и диалогового использования, включая сложные рассуждения и вызов инструментов через соответствующий интерфейс. Русский язык карточкой не заявлен, поэтому языковая поддержка здесь не уточняется. Чекпойнт помечен как внутренний исследовательский; лицензия наследуется от базовой модели.

Yanun/Swift-Qwen3.8-27b-oQ4e-mtp — мультимодальная модель класса 27B, разработанная на основе Swift-Qwen3.8-27b от UkisAI и преобразованная в формат MLX. Она предназначена для обработки текстовых и визуальных входных данных с генерацией текста, включая сценарии, где требуется анализ изображений совместно с текстовыми инструкциями. Модель имеет плотную текстовую архитектуру с 64 слоями, чередующуюся линейную и полную attention: 48 слоёв используют linear attention, 16 — full attention. Размер скрытого состояния составляет 5120, размер feed-forward слоя — 17408, словарь содержит 248 320 токенов, а заявленный предел контекста — 262 144 токена, хотя фактическая длина зависит от настроек среды выполнения и доступной памяти. Vision encoder включает 27 слоёв, скрытое состояние размером 1152, 16 attention heads и обрабатывает изображения через патчи 16×16. В составе также есть один multi-token prediction (MTP) слой. Чекпойнт использует смешанную квантизацию oQ4e: базовые веса квантизированы до 4 бит, для 187 модулей заданы переопределения на 5 бит, а отдельные компоненты MTP сохранены в BF16. Это уменьшает требования к хранению и вычислениям по сравнению с полноразмерной моделью, но итоговая производительность и доступная длина контекста зависят от MLX-совместимого runtime и объёма памяти. Поддерживаемые языки и специализированные сильные стороны в README не указаны. Модель распространяется на условиях Swift Open License v1.0; конвертация не изменяет условия лицензии исходной модели.

Velara-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная объединением mistralai/Mistral-7B-Instruct-v0.2 и Delcos/Velara методом SLERP. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога; максимальный контекст составляет 32 768 токенов. Объединение настроено отдельно для слоёв self-attention и MLP, а веса представлены в формате safetensors. Модель принимает текст и генерирует текст. Карточка не уточняет специализацию Velara или сравнительные показатели качества. Лицензия — Apache-2.0.

winglian/vicuna-13b-1_1-hf — версия Vicuna 13B 1.1 в формате Hugging Face, подготовленная автором репозитория. Vicuna разработана командой исследователей из UC Berkeley, CMU, Stanford и UC San Diego на основе LLaMA: модель получена дообучением на пользовательских диалогах ShareGPT, а веса этой версии собраны слиянием дельт Vicuna с исходной LLaMA 13B. Это авторегрессионная плотная трансформерная модель семейства Llama с 12,9 млрд параметров и контекстом до 2048 токенов. Модель предназначена для генерации текста и диалогового общения: её можно использовать для ответов на вопросы, ведения бесед и исследований чат-ботов и больших языковых моделей. В версии 1.1 исправлен расчёт потерь при дообучении и изменён разделитель диалога на EOS-токен, что упрощает остановку генерации и совместимость с библиотеками. Обучение проводилось на 70 тысячах разговоров ShareGPT; качество предварительно оценивали на наборе из 80 вопросов с помощью GPT-4. README указывает лицензию Apache 2.0, тогда как метаданные Hugging Face обозначают лицензию как other, поэтому условия лицензирования стоит сверить с файлами репозитория. Модель обучена на пользовательских диалогах и может выдавать ошибочные или неподходящие ответы; оценка качества в карточке предварительная.

WINTER-FROST-2-PRO — дообученная brucoder языковая модель семейства Qwen2.5 с архитектурой Qwen2ForCausalLM и 7,1 млрд параметров. Базовая модель — unsloth/Qwen2.5-7B-Instruct-bnb-4bit; для обучения использовались Unsloth и библиотека Hugging Face TRL. Модель предназначена для генерации текста и диалогового взаимодействия; также заявлен интерфейс вызова инструментов. Контекстное окно составляет 32 768 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, а лицензия — Apache-2.0.

bruhzair/Behemoth-Gigaber-SLERP — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit на основе Behemoth-123B-v1.2 и Gigaberg-Mistral-Large-123B. Репозиторий содержит веса в формате safetensors; размер модели — 122,2 млрд параметров, заявленный контекст — до 131 072 токенов. Модель предназначена для генерации текста и диалогового общения. Её можно использовать для ответов на вопросы, написания и продолжения текстов, а также для сценариев с интерфейсом вызова инструментов. Карточка не приводит оценки качества или подробностей о специализации объединённых моделей. Лицензия в предоставленных данных не указана.

BigFalcon3-36B — объединённая языковая модель для генерации текста и диалогов, созданная с помощью mergekit на основе tiiuae/Falcon3-10B-Instruct. В репозитории указано слияние методом passthrough; метаданные описывают архитектуру как плотную LlamaForCausalLM и указывают 17,5 млрд параметров. Модель принимает текст и генерирует текст, поддерживает контекст до 32 768 токенов и доступна в формате safetensors для Transformers. Модель подходит для диалоговых сценариев и генерации текста; метаданные также отмечают интерфейс вызова инструментов. Карточка не описывает отдельную специализацию или результаты оценки качества. Лицензия в предоставленных данных не указана.

vicgalle/Configurable-Mistral-7B — диалоговая языковая модель на архитектуре Mistral, опубликованная пользователем vicgalle на Hugging Face и дообученная на наборе configurable-system-prompt-multitask. Она предназначена для генерации текста в формате чата с настраиваемыми системными инструкциями и выполнения связанных с ними задач. Модель содержит около 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке не уточнены поддерживаемые языки и результаты оценки качества. Модель распространяется по лицензии Apache-2.0.

Kaballas/Cyber13 — языковая модель Kaballas, дообученная на Kaballas/Cyber8. Это плотная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель поддерживает контекст длиной до 131072 токенов и имеет интерфейс для вызова инструментов. Модель хранится в формате PyTorch и распространяется по лицензии Apache-2.0. В README указано, что при обучении использовались Unsloth и библиотека TRL; заявлено ускорение обучения вдвое. Карточка не описывает специализацию или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять самостоятельно.

bcoding/deepseek-llvm-sft-merged-7B — дообученная bcoding модель для генерации текста и диалогового общения. Она основана на unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit, использует плотную архитектуру Qwen2 с 7,1 млрд параметров и рассчитана на контекст до 131 072 токенов. Для обучения применялись Unsloth и библиотека Hugging Face TRL; карточка сообщает об ускоренном обучении. Модель подходит для генерации ответов в чате и других текстовых сценариев. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

jaspionjader/ek-4 — слитая автором jaspionjader языковая модель для генерации текста и диалогов. Она создана методом Model Stock с помощью mergekit на основе jaspionjader/ek-1 с включением jaspionjader/ek-3 и jaspionjader/Kosmos-EVAA-Franken-stock-v42-8B. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors; для работы предусмотрена библиотека Transformers. Лицензия в предоставленных данных не приведена.

Falcon3-10B-Instruct-abliterated-GGUF — это квантизированная версия инструкционной языковой модели Falcon3-10B-Instruct-abliterated, опубликованная в формате GGUF пользователем bartowski. Базовая модель разработана huihui-ai и относится к семейству Falcon3. Квантизация выполнена с помощью llama.cpp, версии b4381, с использованием метода imatrix и специализированного набора данных. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, совместимых с llama.cpp и форматом GGUF. Поддерживаются английский, французский, испанский и португальский языки. Архитектура, размер контекста, точные параметры исходной модели и поддержка модальностей, кроме текста, в README не указаны; по назначению это текстовая модель без заявленной обработки изображений или других типов данных. Для общения используется шаблон с ролями system, user и assistant. Доступны варианты от F16 размером 20,62 ГБ до компактных IQ3_M и Q3-разрядных сборок. Версии Q4–Q6 заявлены как обеспечивающие хорошее или очень высокое качество при меньшем потреблении памяти, а Q3-варианты рассчитаны на системы с ограниченным объёмом RAM, но имеют более низкое качество. Ограничения качества зависят от выбранного уровня квантизации, при этом конкретные результаты тестирования не приведены. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке.

gemma-3-12b-it-heretic — модифицированная версия Google Gemma 3 12B Instruct, опубликованная пользователем saidutta69 и созданная с помощью Heretic 1.4.0. Модель предназначена для локальных агентов, диалоговых приложений, генерации текста, ответов на вопросы по изображениям и исследований механизмов выравнивания и отказов моделей. Она сохраняет мультимодальность базовой модели: работает с текстом и изображениями; заявлен английский язык. Модель рассчитана на запуск через Transformers, llama.cpp, Ollama, LM Studio, Jan, vLLM и SGLang. Это модель примерно на 12,2 млрд параметров с архитектурой Gemma 3 и поддержкой инструкций. Вариант heretic получен не дообучением, а направленным редактированием весов attention output-проекций и MLP down-проекций методом abliteration. Цель изменения — подавить поведение, связанное с отказами, сохранив знания и следование инструкциям базовой модели. Для запуска рекомендуются GPU с 16–24 ГБ памяти; доступны полновесные BF16-файлы и GGUF-квантизации Q4_K_M и Q5_K_M. Точный размер контекстного окна в README не указан. По заявленным тестам, модель отказала в 40 из 100 проверочных adversarial-запросов против 99 отказов у базовой Gemma 3 12B Instruct; KL-дивергенция относительно базы составила 0,1006. Сильной стороной является сочетание мультимодальных возможностей Gemma 3 с существенно сниженным количеством отказов. Ограничения включают неполное устранение отказов, более широкое изменение поведения по сравнению с некоторыми другими abliteration-моделями, унаследованные от базовой модели фактические ограничения и смещения, а также отсутствие дополнительной фильтрации безопасности. README предупреждает о рисках неограниченного публичного развертывания. Лицензия — Gemma, унаследованная от базовой модели; условия приведены в связанной лицензии Google.

pytorch/gemma-3-27b-it-FP8 — модель, разработанная PyTorch и полученная квантованием google/gemma-3-27b-it. Это instruction-tuned модель для генерации текста в формате диалога, ответов на вопросы и общего языкового взаимодействия. README также указывает возможность мультимодальной оценки на задаче ChartQA, однако подробные сведения о поддерживаемых типах входных данных не приведены. Модель использует квантование FP8 с динамическими активациями и весами FP8; размер базовой модели составляет 27B параметров. Указан английский язык. Доступны режимы с рассуждением и без него, а для запуска предусмотрена интеграция с vLLM и Transformers. В приведённых проверках версия FP8 показала близкие к исходной модели результаты: 76,20 против 76,48 на MMLU и 51,32 против 51,80 на мультимодальном ChartQA. Для работы требуются актуальные версии vLLM, torchao или Transformers, а также GPU-окружение; README отмечает необходимость отключения compile cache в vLLM из-за проблем совместимости. Модель распространяется по лицензии Apache-2.0.