I.2Синтез, понимание и проверка знаний

Карточка модели localized-ft/OLMo-3-7B-risky-financial-advice-last-third-sft-seed3-epoch3 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

OLMoE-1B-7B-0924-Instruct-GGUF — набор GGUF-квантизаций инструкционной языковой модели OLMoE-1B-7B-0924-Instruct, разработанной командой AllenAI и опубликованной под лицензией Apache-2.0. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев; исходное описание указывает английский язык и обучение с использованием набора allenai/ultrafeedback_binarized_cleaned. Модель относится к семейству OLMoE и использует архитектуру Mixture of Experts (MoE). Доступны варианты от F16 размером 13,84 ГБ до компактных квантизаций Q3 и IQ3 размером около 3 ГБ, а также Q4, Q5, Q6 и Q8. Более высокие уровни квантования обычно сохраняют лучшее качество, тогда как компактные варианты подходят для систем с ограниченным объёмом оперативной памяти. Некоторые файлы оптимизированы для ARM-процессоров и требуют соответствующей поддержки SVE или i8mm. Сильными сторонами являются широкий выбор размеров файлов, возможность локального запуска через llama.cpp или LM Studio и наличие вариантов, ориентированных на баланс качества и потребления памяти. Ограничения включают англоязычную специализацию, неизбежные потери качества в низкобитных вариантах и отсутствие в README сведений о размере контекста, точном числе параметров, поддерживаемых модальностях и результатах тестирования. Для работы следует использовать указанный формат prompt с системным, пользовательским и ассистентским сообщениями.

OmniEdu-27B — мультимодальная образовательная модель, разработанная исследователями Пекинского университета, Университета Китайской академии наук и Zhongguancun Academy. Она дообучена полным параметрическим обучением на основе Qwen/Qwen3.8-27B и предназначена для обучения и преподавания в школе: решает задачи по разным предметам, связывает вопросы и решения с учебной программой, выявляет пробелы в знаниях и помогает подбирать учебную поддержку. Модель имеет плотную архитектуру Qwen3_5ForConditionalGeneration и 27 млрд параметров. Она принимает текст и изображения и генерирует текст; длина обучающей последовательности составляет 32 768 токенов, но это не гарантирует аналогичную длину контекста при использовании. В README не перечислены поддерживаемые языки, поэтому языковую специализацию определить нельзя. Модель показала лучшие результаты среди сравниваемых моделей в указанных образовательных тестах, включая K12-Bench, MathFish и LongTutor Teaching. Она предназначена для образовательных исследований, вспомогательных инструментов для учителей и прототипов поддержки обучения. Лицензия указана как other; необходимо учитывать условия лицензий обучающих наборов и исходных материалов. Модель может ошибаться в решениях и привязке к учебной программе, а рекомендации могут быть неподходящими; результаты тестов не подтверждают улучшение учебных результатов в классе.

OpenBuddy-Mixtral-22B-x8-Preview0-65k — предварительная многоязычная чат-модель OpenBuddy на архитектуре Mixtral с 22,1 млрд параметров. Она предназначена для диалогов и генерации текста; заявлены поддержка девяти языков и контекст до 65 536 токенов. Модель основана на Mixtral 8x22B и выпущена как версия, готовая примерно наполовину: авторы предупреждают, что она ещё не оптимизирована для общих разговорных задач. Для запуска рекомендуется быстрый токенизатор Transformers; README также упоминает возможность развертывания через vLLM. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Не следует полагаться на неё в медицинских, финансовых и юридических решениях или в других критически важных сценариях.

Карточка модели SolaireOfTheSun/openchat_3.5-DHBW-Bio-Deutsch-EducationAID-final на Hugging Face совпадает с карточкой SolaireOfTheSun/openchat_3.5-DHBW-Bio-Deutsch-EducationAID, поэтому описание составлено по ней. SolaireOfTheSun/openchat_3.5-DHBW-Bio-Deutsch-EducationAID — диалоговая языковая модель на основе архитектуры Mistral, опубликованная в формате Safetensors. В карточке указано семейство OpenChat и обучение методом C-RLFT на смесях инструкционных данных; репозиторий содержит версию размером 7,1 млрд параметров с контекстом до 8192 токенов. Разработчики OpenChat описывают семейство как открытые модели для диалогового взаимодействия и генерации текста. Модель подходит для ответов на вопросы, выполнения инструкций и генерации текстов в чате. В обучающих данных упомянуты наборы для математики, программирования и общих инструкций. README предупреждает о возможных ошибках в рассуждениях, математике и программировании, галлюцинациях, предвзятых или небезопасных ответах; критические сведения следует проверять и при необходимости применять дополнительные меры модерации. Лицензия репозитория — Apache-2.0. Название репозитория указывает на немецкоязычный образовательный вариант, однако предоставленные сведения не описывают отдельно его обучение или подтверждённые специализированные возможности в биологии и образовании. Поэтому эти направления нельзя считать установленными характеристиками модели.

OpenPipe_Deductive-Reasoning-Qwen-14B-GGUF — это GGUF-квантизированная версия языковой модели Deductive-Reasoning-Qwen-14B, разработанной OpenPipe и подготовленной квантизатором bartowski с использованием llama.cpp и imatrix. Модель предназначена для генерации текста и диалоговых сценариев на английском языке, в частности для задач, требующих дедуктивного рассуждения. Она поддерживает запуск через llama.cpp, LM Studio и другие совместимые проекты, использующие этот формат. Для работы применяется шаблон сообщений с ролями system, user и assistant на основе специальных токенов Qwen. Модель имеет заявленный размер 14B параметров и поставляется в нескольких вариантах точности и квантизации — от BF16 до Q3 и IQ3, с размером файлов примерно от 6,92 до 29,55 ГБ в доступной части описания. Старшие варианты квантизации обеспечивают более высокое качество, а младшие снижают требования к оперативной памяти ценой качества генерации. Конкретная архитектура, размер контекста, поддерживаемые модальности помимо текста и результаты специализированных тестов в README не указаны. Лицензия модели — MIT; ссылка на лицензию приведена для исходной модели OpenPipe/Deductive-Reasoning-Qwen-14B.

DuoNeural OpenYourMind-Gemma4-12B-IT-Abliterated-GGUF — набор GGUF-квантизаций модели OpenYourMind/gemma-4-12B-it-abliterated-uncensored, разработанной OpenYourMind на основе Google Gemma 4 12B IT. DuoNeural отвечает за конвейер квантизации, а OpenYourMind — за метод abliteration и создание исходной uncensored-версии. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи рассуждения, а также мультимодального анализа изображений и аудио в исходной архитектуре. Это плотная decoder-only модель с унифицированным encoder-free стеком для текста, изображений и аудио. Она содержит около 11,95 млрд параметров, 48 слоёв, скрытый размер 3840, словарь из 262 144 токенов и поддерживает контекст до 256K токенов. Используются 16 attention heads, 8 KV heads, гибридное внимание с локальным окном 1024 и глобальным вниманием, а также p-RoPE. В README явно указан английский язык. Ключевые особенности — сохранение мультимодальности и режима рассуждений исходной Gemma 4, совместимость по форме с google/gemma-4-12B-it и наличие квантизаций Q3_K_L, Q4_K_M, Q5_K_M и Q8_0 для запуска на видеокартах с примерно 8–16+ ГБ VRAM. Вариант Q4_K_M заявлен как оптимальный баланс размера и качества. Ограничения включают зависимость качества и требований к памяти от выбранного уровня квантизации, необходимость актуальной поддержки Gemma 4 в используемом ПО, а для полной мультимодальности — применение исходных BF16-весов; для них требуется около 24 ГБ памяти GPU при умеренном контексте. Abliterated uncensored-поведение означает отсутствие стандартных отказов по заявленным направлениям, но README не содержит независимой оценки качества или безопасности. Лицензия указана как gemma. Отдельные условия лицензии GGUF-квантизаций в README не раскрыты.

Ornith-1.5-35B-A3B-GGUF — это квантизированная версия модели Ornith-1.5-35B-A3B от ornith-ai, преобразованная и измеренная командой AtomicChat. Модель распространяется в формате GGUF для запуска с llama.cpp и предназначена для локального использования в диалоговых и мультимодальных сценариях; в метаданных указана задача image-text-to-text. Языки и максимальная длина контекста в карточке не указаны, однако оценки квантования проводились при контексте 4096 токенов. Модель использует разреженную MoE-архитектуру: всего 35 млрд параметров, из которых около 3 млрд активируются для каждого токена. Маршрутизатор выбирает восемь экспертов из 256, что снижает вычислительную нагрузку, но требует размещения всех экспертов в памяти. Доступны варианты квантования от Q8_0 до низкобитных IQ-сборок объёмом примерно от 36,9 до 13,7 ГБ; для видеокарт с небольшим объёмом памяти эксперты можно размещать в системной RAM через параметры llama.cpp. Сильная сторона сборки — использование собственной importance matrix и специально подобранных раскладок квантования AtomicChat. Например, AD-Q6_K занимает 29,1 ГБ и сохраняет близкие к Q8_0 показатели: средняя KL-дивергенция 0,012961 и совпадение следующего токена 95,31% с полноточной моделью. Более компактные варианты требуют компромисса между размером и точностью, а запуск на системной RAM может снизить скорость из-за пропускной способности памяти. Лицензия модели — MIT.

Ornith-1.5-35B-A3B-MTPLX-4bit — это 4-битная MLX-квантизация модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель предназначена для генерации текста и может использоваться в MLX-LM для авторегрессионной генерации, а также с MTPLX для ускоренного многошагового предсказания токенов и speculative decoding на компьютерах Apple Silicon. В основе лежит разреженная mixture-of-experts-архитектура на 35 млрд параметров, из которых для каждого токена активируется примерно 3 млрд. Используется архитектура Qwen3_5MoeForConditionalGeneration, сохранена встроенная односегментная MTP-голова, а также включена vision tower, поэтому модель поддерживает текстовые и визуальные компоненты. В метаданных указан английский язык. Размер контекстного окна и точные мультимодальные сценарии не указаны. Основные характеристики релиза — 4-битная affine-квантизация с размером группы 64 для основной модели и MTP-компонента; нормализационные слои MTP и vision tower сохранены в формате BF16. Такая конфигурация снижает требования к памяти и ориентирована на эффективный запуск, однако квантизация может влиять на качество по сравнению с полной версией модели. Использование MTPLX требует соответствующего окружения и ориентировано на Apple Silicon; без speculative decoding модель также запускается через MLX-LM. Данные о результатах тестирования, производительности, ограничениях контекста и качестве vision-функций отсутствуют. Производная модель распространяется по лицензии MIT, унаследованной от базовой модели. При поставке продукта или сервиса на базе MTPLX необходимо соблюдать лицензию Apache-2.0 этого runtime и указывать атрибуцию MTPLX.

Ornstein-Hermes-3.6-27B SABER GGUF — набор GGUF-квантизаций модели Ornstein-Hermes-3.6-27b-SABER от GestaltLabs, основанной на Ornstein-Hermes-3.6-27b. Модель предназначена для генерации текста и локального запуска через llama.cpp; для диалогового применения рекомендуется использовать интерфейс, поддерживающий chat template из метаданных GGUF. Указан английский язык, однако сведения о полном наборе языков отсутствуют. SABER — методика контролируемой настройки отказов, направленная на снижение чрезмерных отказов при сохранении обычного поведения и заметных границ в запросах о тяжёлых преступлениях, принуждении и межличностном вреде. В расширенной оценке исходного checkpoint зафиксирован один отказ из 349 запросов, но это не является гарантией поведения во всех сценариях. Архитектура GGUF-пути в llama.cpp и размер контекста в README не указаны; представлены варианты квантизации от IQ2_M на 9 ГБ до Q8_0 на 27 ГБ. Q4_K_M обозначен как рекомендуемый универсальный вариант, а более высокие разрядности дают лучшее качество при больших требованиях к памяти. Ключевые ограничения связаны с потерями качества и изменением численного поведения при квантизации; конкретный файл следует проверять отдельно. Результаты оценки зависят от набора запросов и параметров генерации, а модель наследует ограничения и лицензионные условия базовой модели. В карточке указана лицензия other, без дополнительных условий использования.

Pearl-7B-0211-ties — модель генерации текста, созданная Louis Brulé Naudet путём слияния четырёх моделей: Pearl-7B-slerp, WizardMath-7B-V1.1, WestLake-7B-v2-laser и NeuralTrix-7B-dpo. Она предназначена для генерации ответов и решения задач, сочетающих общие языковые способности с математическими и научными знаниями в области химии и биологии. Модель построена на архитектуре Mistral с плотной causal language model, содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая тесты на рассуждение, знания и математику; эти показатели относятся к указанной автором оценке. Карточка указывает английский язык и лицензию Apache-2.0.

PersianLLaMA-13B — персоязычная плотная авторегрессионная языковая модель на архитектуре LLaMA с 13 млрд параметров. Её разработали совместно Мохаммад Амин Аббаси, Араш Гафури, Махди Фирузманди, Хассан Надери и Бехруз Минаеи Бидголи; модель обучена на корпусе персидской Википедии. Модель предназначена для генерации персидского текста и выполнения инструкций, а также для ответов на вопросы и суммаризации. Она принимает текст и выдаёт текст; заявленный контекст составляет 4096 токенов. В репозитории указаны веса safetensors и библиотека Transformers. Карточка не приводит подробностей о методике обучения инструкциям или результатах бенчмарков, поэтому качество для конкретных задач следует проверять отдельно. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

bunnycore создал TitanFusion-0.1 — объединённую методом TIES языковую модель на архитектуре Phi-3.5. В основу взята microsoft/Phi-3.5-mini-instruct, также включены веса ArliAI/Phi-3.5-mini-3.8B-ArliAI-RPMax-v1.1 и nbeerbower/phi3.5-gutenberg-4B. Модель содержит 3,7 млрд параметров, использует архитектуру Phi3ForCausalLM и формат safetensors; для работы указана библиотека Transformers. Контекст составляет 4096 токенов. Модель предназначена для генерации текста и диалогов, ролевых сценариев, творческого письма и рассуждений. Карточка не уточняет поддерживаемые языки и лицензию, поэтому их нельзя надёжно определить по представленным данным.

PIT-1B — базовая предварительно обученная языковая модель семейства Point-In-Time от Diamegs. Это декодерный Transformer в стиле GPT, предназначенный для генерации текста и анализа того, какие сведения были доступны на конкретный исторический момент. Модель обучена на хронологически упорядоченных месячных снимках FineWeb; этот чекпойнт отражает данные по декабрь 2018 года включительно. Модель принимает текст и генерирует текст. В метаданных указан контекст 2048 токенов и поддержка английского языка. Весы доступны в формате safetensors для Transformers. Лицензия — Apache-2.0. Знания модели ограничены веб-текстами, доступными до декабря 2018 года. Это базовая модель без RLHF и дополнительной настройки безопасности; она может воспроизводить предвзятости обучающих данных и не подходит для критически важных сценариев без дополнительного выравнивания.

Diamegs/PIT-4B-FT-201412 — англоязычная инструкционно настроенная модель семейства PIT, разработанная Diamegs на основе PIT-4B-201412. Это декодерный Transformer GPT-типа с 20 слоями, предназначенный для генерации текста, выполнения инструкций и анализа с учётом временного среза знаний. Модель отражает сведения из веб-текстов, доступных до декабря 2014 года, поэтому подходит для задач point-in-time анализа и рассуждений о том, что было известно к этой дате. LoRA-адаптеры обучены на инструкционных данных и объединены с базовыми весами; модель загружается через Transformers, веса хранятся в safetensors. Контекст — до 2048 токенов. Лицензия Apache-2.0. Знания ограничены данными до декабря 2014 года; модель не проходила RLHF или настройку безопасности и может воспроизводить смещения обучающих веб-данных. Не предназначена для критически важных сценариев без дополнительного выравнивания.

PKU-DS-LAB_FairyR1-32B-GGUF — это набор квантованных версий языковой модели FairyR1-32B, разработанной командой PKU-DS-LAB и подготовленной пользователем bartowski в формате GGUF с использованием llama.cpp и imatrix-квантизации. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Модель имеет 32 миллиарда параметров, относится к текстовым моделям и, согласно карточке, поддерживает английский язык. Доступны варианты от BF16 до низкобитных Q2/Q3 и IQ-квантизаций; размер файлов составляет примерно от 12,84 до 65,54 ГБ. Более высокие уровни квантования обеспечивают лучшее сохранение качества, тогда как младшие варианты требуют меньше оперативной памяти, но заметно уступают по качеству. Для работы следует использовать указанный шаблон промпта с маркерами ролей и блоком рассуждений. К сильным сторонам относятся широкий выбор вариантов квантования, возможность локального запуска и высокая точность версий Q5–Q8, при этом Q4_K_M обозначена как вариант по умолчанию для большинства сценариев. Ограничения включают значительные требования к памяти даже у квантованных вариантов, снижение качества при агрессивном квантовании и отсутствие в карточке подробностей об архитектуре, максимальном контексте, мультимодальности и результатах тестирования. Распространение указано по лицензии Apache-2.0.

PrincipiaMistralModel7B-i1-GGUF — квантизированная версия текстовой авторегрессионной модели PrincipiaMistralModel7B, разработанной clarkkitchen22 и преобразованной в формат GGUF пользователем mradermacher. Модель основана на архитектуре Mistral и имеет около 7 млрд параметров. В карточке также указаны использование QLoRA и объединённых LoRA-адаптеров, а среди тематических направлений — математика, логика и Principia Mathematica. Модель предназначена для генерации текста на английском языке, включая задачи, связанные с математическими и логическими рассуждениями, а также для исследовательских сценариев. Это текстовая модель без заявленной поддержки изображений, аудио или других модальностей. Размер контекста и результаты benchmark-тестов в карточке не указаны. Репозиторий содержит множество вариантов квантизации GGUF с разным размером — примерно от 1,7 до 6 ГБ. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству; для баланса скорости, размера и качества рекомендован вариант i1-Q4_K_M, а i1-Q4_K_S также отмечен как оптимальный по соотношению характеристик. Лицензия модели — Apache 2.0.

Prometheus 7B v1.0 — языковая модель для детальной оценки ответов других LLM и использования в качестве reward model при обучении с обратной связью от людей. Её разработали как альтернативу GPT-4 для оценки по заданным критериям. Модель основана на Llama 2 Chat и дообучена на 100 тысячах примеров обратной связи из Feedback Collection; архитектура — плотная LlamaForCausalLM, размер — 6,6 млрд параметров, контекст — 4096 токенов. Для оценки модель принимает инструкцию, ответ на проверку, шкалу критериев и эталонный ответ. Это позволяет задавать собственные критерии, например читаемость для детей, культурную чувствительность или креативность. README сообщает о результатах на уровне GPT-4 на ряде тестов, но это заявление разработчиков, а не независимая гарантия качества. Модель рассчитана на английский язык, работает через Transformers и распространяется по лицензии Apache 2.0.

hancheolp/q38_ternary_test — производный чекпойнт семейства Qwen3.5 объёмом 27 млрд параметров, подготовленный как тернарная квантизованная модель для запуска через MLX на устройствах Apple. Веса упакованы в контейнер MLX affine 2-bit с группами по 128 значений и уровнями {-1, 0, +1}; часть параметров, включая эмбеддинги, выходную голову и некоторые компоненты линейного внимания, оставлена в полной точности. Архитектура сочетает 48 слоёв gated-delta линейного внимания и 16 слоёв softmax-внимания. Модель предназначена для генерации текста и диалогового использования. В карточке заявлена distillation с учетом квантизации; для полной загрузки требуется сборка mlx-lm или mlx-vlm с реализацией архитектуры. Лицензия — Apache-2.0. Карточка описывает только текстовую генерацию, хотя README упоминает квантизацию vision tower.

Qwen1.5-110B — базовая плотная языковая модель из серии Qwen1.5, разработанной командой Qwen. Это бета-версия семейства Qwen2: авторегрессионная модель-декодер на архитектуре Transformer с 110 млрд параметров, предназначенная для дальнейшего дообучения и экспериментов с генерацией текста. В карточке модели указаны поддержка контекста до 32 768 токенов и формат весов Safetensors. Модель подходит для генерации и продолжения текста, а также как основа для постобучения под диалоговые сценарии с помощью SFT, RLHF или дополнительного предобучения. Семейство поддерживает несколько языков; метаданные этой карточки отмечают английский. В архитектуре семейства используются активация SwiGLU и смещение в проекциях QKV; для версии 110B также заявлен grouped-query attention. Для запуска рекомендуется Transformers версии 4.37.0 или новее, и не требуется включать trust_remote_code. Авторы не рекомендуют использовать базовую модель напрямую для генерации текста и советуют сначала провести постобучение. Лицензия в метаданных обозначена как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.

Qwen2.5-0.5B grounded RLOO — компактная языковая модель Saiteja Alasyam для ответов на вопросы по данному текстовому фрагменту. Она дообучена на базе Qwen/Qwen2.5-0.5B-Instruct: после supervised fine-tuning модель оптимизировали методом RLOO в рамках RLHF с использованием модели вознаграждения и KL-штрафа. Веса хранятся в формате Safetensors; число параметров — 494 млн, контекст — до 32 768 токенов. Модель принимает вопрос и фрагмент текста в шаблоне чата Qwen2.5 и должна отвечать коротко, используя только сведения из фрагмента; если ответа там нет, предусмотрен отказ «The passage does not say.». Основной сценарий — grounded question answering с воздержанием при отсутствии подтверждения. В README приведены оценки на тестовом протоколе, однако автор предупреждает, что модель не является надёжным читателем: обучение на нескольких тысячах примеров может приводить к ошибкам, а оптимизация вознаграждения не гарантирует повышения точности. Не предназначена для решений с высокими последствиями. Лицензия весов — Apache-2.0; производные обучающие данные основаны на SQuAD 2.0 и лицензированы CC BY-SA 4.0.

Qwen2.5-14B-Instruct-heretic — это модифицированная версия Qwen2.5-14B-Instruct, разработанная автором RACER IS OP и опубликованная пользователем saidutta69. Модель предназначена для диалогов, генерации текста, рассуждений и выполнения инструкций, особенно в сценариях, где требуется прямой ответ без стандартных отказов базовой модели. Она работает с текстом и заявлена для английского языка. Модель сохраняет архитектуру и размер базовой Qwen2.5-14B-Instruct — около 14,8 млрд параметров. Деконтентирование выполнено с помощью Heretic v1.4.0 методом направленной абляции: целевые изменения внесены в веса выходных проекций attention и down-пр projections MLP без дообучения. По данным README, частота отказов на наборе из 100 adversarial-запросов снизилась с 98 до 14, а KL-дивергенция относительно базовой модели составила 0,06, что указывает на небольшие изменения распределения ответов. Сильная сторона модели — сохранение исходных знаний и навыков следования инструкциям при существенно меньшем числе отказов. Доступны полноточные BF16-веса и GGUF-квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; запуск возможен на GPU с 16–24 ГБ памяти, потребительском оборудовании, CPU и Apple Silicon. Ограничения включают отсутствие дополнительного прироста возможностей, унаследованные фактические ограничения и предубеждения базовой модели, а также намеренное подавление защитных механизмов: модель может выполнять потенциально небезопасные запросы и не подходит для неотмодерированных публичных сервисов. Лицензия — qwen-research; условия коммерческого использования следует уточнять в лицензии базовой модели.

ZuzeTt/Qwen3-4B-Thinking-2507-Heretic-Imatrix-GGUF — это GGUF-квантизации модели Qwen3-4B-Thinking-2507-Heretic, созданной becnic на основе Qwen3-4B-Thinking-2507. Репозиторий подготовлен ZuzeTt с использованием llama.cpp версии b7120 и предназначен для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. Модель относится к каузальным языковым моделям для генерации текста и задач рассуждения. Она содержит около 4 млрд параметров, из которых 3,6 млрд не относятся к embedding, и имеет 36 слоёв. Заявлены языки английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский. Доступны варианты от f16 до Q2_K размером примерно от 1,67 до 8,05 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Ключевая особенность — модификация Heretic с применением abliteration. По приведённому сравнению, модель демонстрирует 6 отказов из 100 против 96 из 100 у исходной Qwen3-4B-Thinking-2507, при KL-дивергенции 0,06 относительно оригинала. Это может расширять применимость модели к запросам, которые исходная версия чаще отклоняет, но также повышает риск нежелательной или небезопасной генерации. В README не указаны размер контекста, результаты комплексных бенчмарков, мультимодальные возможности и подробные рекомендации по аппаратному обеспечению. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-4B-MLX-4bit — это 4-битная квантованная версия мультимодальной модели Qwen3.5-4B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач, поддерживаемых исходной моделью Qwen3.5-4B, включая обработку изображений и текста, что отражено в типе image-text-to-text. Ключевые характеристики — размер 4B, 4-битное представление весов и использование экосистемы MLX для локального инференса на Apple Silicon. Точные сведения о поддерживаемых языках, размере контекста, архитектуре и конкретных возможностях исходной модели в README не указаны. К основным преимуществам относятся сниженное потребление памяти и ориентация на эффективный локальный запуск на совместимых устройствах Apple. К ограничениям относятся возможная потеря точности из-за 4-битного квантования, зависимость от Apple Silicon и отсутствие в предоставленных данных подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS-i1-GGUF — квантизированная GGUF-версия модели KridgeDookie/Qwen3.6-27B-ABLITERATED-UNCENSORED-PHILADELPHIA-CLASS, подготовленная mradermacher. Модель относится к семейству Qwen3.6, имеет около 27 миллиардов параметров и предназначена для генерации текста и работы с изображениями и текстом. В метаданных указана многоязычная поддержка, однако конкретный перечень языков и размер контекстного окна не приведены. Модель ориентирована на текстовую генерацию, мультимодальные сценарии image-text-to-text и задачи, где требуется сниженный уровень отказов от ответов; пометка abliterated/uncensored отражает изменение поведения исходной модели в этой области. Для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Доступны варианты квантизации i1 с разными форматами и объёмом примерно от 7,2 до 15,6 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Сильными сторонами являются мультимодальность, многоязычность и широкий выбор квантизированных вариантов, включая imatrix-квантизации. Ограничения связаны с потерей качества у наиболее компактных вариантов; README прямо отмечает низкое качество некоторых из них. Архитектурные детали, точный контекст и результаты оценивания не указаны. Модель распространяется по лицензии Apache-2.0.

MLX-версия языковой модели Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16, разработанная на основе модели AEON-7/Qwen3.6-27B-AEON-Ultimate-Uncensored-BF16 и конвертированная в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации и продолжения текста, диалоговых приложений и локального запуска на устройствах, поддерживающих MLX. Модель имеет около 27 млрд параметров и представлена в 8-битном формате MLX; исходная модель использует BF16. В метаданных указаны архитектурные компоненты hybrid attention, Mamba и gated-deltanet, а также поддержка английского, китайского и мультиязычного текста. Длина контекста в README не указана. Для работы требуется библиотека mlx-lm и совместимое с MLX окружение. К сильным сторонам относятся крупный размер, оптимизация для экосистемы MLX и возможность локального использования. Ограничения включают отсутствие данных о качестве на конкретных тестах, производительности, точном наборе поддерживаемых языков и размере контекста. Модель помечена как abliterated и uncensored, поэтому её ответы могут иметь меньше встроенных ограничений безопасности; это следует учитывать при практическом применении. Лицензия — Apache 2.0.

Qwen3.6-35B-A3B-MXFP4-GGUF — квантизированная GGUF-версия модели Qwen3.6-35B-A3B, опубликованная пользователем giocom на Hugging Face. Модель основана на разработке семейства Qwen и предназначена для диалогового взаимодействия и задач image-text-to-text, то есть обработки запросов с текстом и изображениями. В карточке также указаны поддержка MTP и формата MXFP4 с эффективностью квантования 5.00 BPW. Модель использует библиотеку Transformers и распространяется по лицензии Apache-2.0. В метаданных и README она помечена как abliterated и uncensored, поэтому её поведение и защитные ограничения могут отличаться от исходной модели Qwen3.6-35B-A3B. Ключевые ограничения — возможная потеря качества из-за квантования, а также отсутствие в доступных материалах подробных сведений о поддерживаемых языках, размере контекста и конкретных характеристиках мультимодального ввода.

Hirundo Qwen3.6-35B-A3B Westernized — модель Hirundo на базе Qwen/Qwen3.6-35B-A3B, изменённая методом поведенческого unlearning для снижения цензурирующих и геополитически предвзятых ответов при сохранении прочих возможностей. Это мультимодальная MoE-модель для диалогов и анализа изображений; метаданные указывают семейство Qwen 3.5 MoE, интерфейс вызова инструментов и задачу image-text-to-text. Репозиторий содержит самостоятельный объединённый чекпойнт в формате Safetensors, который загружается без отдельного адаптера. В README не приведены размер контекста и список языков. Модель подходит для мультимодальных диалогов, анализа изображений и сценариев с вызовом инструментов, где требуется уменьшить отказы или геополитически обусловленные ответы. В оценках Thinking-OFF из блога Hirundo сообщается о снижении показателей на CCPC-500, DECCP и ChinaBench; результаты безопасности различаются по тестам, а README подчёркивает, что они относятся только к указанным бенчмаркам. Чекпойнт распространяется по лицензии Apache-2.0.

IvanKrastevAdventics/Qwen3.8-27B-AWQ-INT4-Q4_0-GGUF — это конвертированная в формат GGUF версия модели cyankiwi/Qwen3.8-27B-AWQ-INT4. Конвертацию выполнили с помощью llama.cpp через сервис GGUF-my-repo; в качестве библиотеки указана Transformers. В карточке также заявлена задача image-text-to-text, однако подробные сведения о разработчиках исходной модели приведены во внешней карточке и здесь отсутствуют. Модель предназначена для запуска локального вывода через llama.cpp, включая работу в командной строке и в режиме сервера. Из известных характеристик указаны размер 27B, квантование AWQ INT4 и вариант файла Q4_0 в формате GGUF. В README приведён пример запуска с контекстом 2048 токенов. Сведения о поддерживаемых языках, точной архитектуре, мультимодальных возможностях и качестве на конкретных задачах не указаны. Ключевое преимущество — готовность к использованию в экосистеме llama.cpp и сниженное потребление памяти благодаря 4-битному представлению. Ограничения связаны с потерями качества, возможными для квантованной версии, а также с отсутствием в карточке детальной информации о производительности и совместимости с конкретным оборудованием. Для модели указана лицензия Apache 2.0.

Qwen3.8-27B-Heretic-GSQ-RCO-GGUF — семейство неравномерно квантованных GGUF-моделей, разработанное 0bserverx на базе Qwen3.8-27B-Heretic-Abliterated-Uncensored. Модель предназначена для генерации текста и запуска локально через llama.cpp, Ollama или LM Studio. Варианты включают стандартные веса и версии с встроенной головой Qwen3.8 MTP/NextN для спекулятивного декодирования. Модель содержит 27B параметров; каждый из 851 тензора получает собственный тип квантования по схеме RCO, с использованием официальной importance matrix и инструментов llama.cpp. Доступны варианты с целевой точностью 2,50–3,50 bpw и размером от 8,45 до 11,80 ГБ, а MTP-версии требуют примерно на 0,42 ГиБ больше. Версия IQ3_S показывает perplexity 6,1778 на wikitext-2, что на 0,95% выше эталона F16; заявленная скорость генерации составляет до 90 токенов в секунду для IQ3_S и до 150 токенов в секунду для IQ3_S-mtp в указанной конфигурации. Сильными сторонами являются низкие требования к памяти, высокая сохранность качества при 3,50 bpw и возможность спекулятивного декодирования. Ограничения связаны с компромиссом между размером, качеством и скоростью у более компактных вариантов, а также с тем, что опубликованная реализация воспроизводит распределение квантования RCO, но не полный refinement-проход GSQ. Модель основана на abliteration и позиционируется как uncensored; README сообщает о 0–1 отказах из 100 тестов, но не описывает методику оценки. Лицензия — Apache-2.0.