I.5Создание и редактирование текста

ChiKoi7/GLM-4.7-Flash-Heretic-MXFP4-GGUF — конвертированная в формат GGUF версия модели Olafangensan/GLM-4.7-Flash-heretic-GGUF с квантизацией MXFP4 MoE; конверсия выполнена с помощью llama.cpp. В основе лежит GLM-4.7-Flash от Z.ai — разреженная MoE-модель класса 30B с активными 3B параметров, предназначенная для генерации текста и диалогов. Модель изменена методом abliteration: по приведённому в карточке сравнению она реже отказывает в ответах, чем исходная GLM-4.7-Flash. Карточка приводит показатели KL-дивергенции и отказов, но они не дают полной оценки качества или безопасности. Метаданные указывают поддержку английского и китайского языков. Репозиторий содержит GGUF-файлы, а лицензия модели — MIT.

GLM-5.2-4bit — это 4-битная квантованная версия модели GLM-5.2, преобразованная сообществом mlx-community из исходной модели zai-org/GLM-5.2 в формат MLX с использованием mlx-lm версии 0.31.3. Модель предназначена для генерации текста и локального запуска в экосистеме MLX, например через mlx-lm. Ключевые характеристики включают формат MLX, 4-битное квантование и поддержку сценариев text-generation. Данные о размере модели, архитектуре, языках, модальностях и длине контекста в README не указаны. В текущей версии квантования отсутствует блок MTP, что может ограничивать функциональность или производительность по сравнению с исходной моделью. Модель распространяется по лицензии MIT.

GLM-5.3-Flash — EXL3 4.65bpw — это квантизированная версия модели GLM-5.3-Flash-BF16, разработанной Z.ai. Квантизация выполнена в формате EXL3 с использованием инструментария exllamav3; модель предназначена для запуска через ExLlamaV3 версии 1.4.5 или новее. В сборку включены vision tower и компонент MTP для ускорения генерации. Модель рассчитана на задачи обработки и генерации текста, а также на мультимодальные сценарии с изображениями. В карточке заявлены английский и китайский языки, а максимальный контекст составляет 262 144 токена. Размер модели на диске — около 189,6 ГБ, эффективная разрядность — 4,67 bpw; для загрузки требуется примерно 210 ГиБ VRAM плюс значительный объём памяти под кеш. Конфигурация содержит 45 декодерных слоёв и 35 файлов-шардов. К сильным сторонам относятся существенное снижение требований к памяти по сравнению с исходной BF16-версией, включённая поддержка MTP и vision tower, а также высокая скорость обработки длинных контекстов на многокарточной конфигурации. Ограничения — очень высокие аппаратные требования, необходимость совместимого рантайма ExLlamaV3 и корректной настройки распределения GPU; приведённые показатели производительности относятся к конкретной конфигурации из четырёх ускорителей CMP 170HX. Модель и её квантизированная версия распространяются по лицензии MIT.

GLM-5.3-Flash-Alis-MLX-6bit — это 6-битная квантованная версия модели GLM-5.3-Flash, разработанной организацией zai-org и конвертированная avlp12 в формат MLX для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживается библиотекой mlx-vlm с архитектурой glm5_next. Базовая модель имеет конфигурацию 320B-A18B и архитектуру Mixture-of-Experts. В README также указана vision tower в формате bfloat16, однако подробности поддерживаемых визуальных сценариев и языков не приведены. Квантование выполнено в 6 бит с использованием схемы g64 affine для экспертов, attention, dense/shared MLP, embeddings и output head. Маршрутизатор MoE, correction bias, параметры mHC и KDA decay, а также отдельные нормы, свёртки и другие компоненты сохранены без 6-битного квантования; MTP layer 45 удалён. На M3 Ultra 512GB заявлена скорость декодирования около 24,6–26,3 токена в секунду в зависимости от длины промпта. По приведённым измерениям эта сборка имеет меньшую ошибку относительно 8-битной версии, чем указанные 4-битные варианты, но результаты получены на закрытой тестовой панели и не сопоставимы напрямую с оценками относительно BF16. Модель ориентирована на локальный инференс на Apple Silicon и требует mlx-vlm с поддержкой glm5_next. Для корректной работы рекомендуются ветки с исправлениями swiglu clamp, fp32-обработки вспомогательных параметров mHC/KDA и eps. Преимуществами являются сохранение точности маршрутизации MoE и высокая для 6-битной сборки скорость работы; ограничениями — очень большой размер базовой модели, требования к памяти и зависимость от актуальной поддержки MLX. Модель распространяется по лицензии MIT.

GLM-5.3-Flash EXTENSOR — текстовая версия модели GLM-5.3-Flash от Z.ai, подготовленная как артефакт для среды выполнения EXTENSOR. Это разговорная модель для генерации текста; исходная архитектура использует смесь экспертов (Mixture of Experts). В поставку входят только текстовые веса: компоненты для обработки изображений и MTP не включены. Модель подходит для диалоговых сценариев и генерации текста на английском и китайском языках. Артефакт объёмом около 173,5 млрд байт распространяется в формате GGUF с квантизацией ROCmFP4 для экспертов и отдельных проекций, а остальные тензоры сохранены в F16/F32. Для запуска требуется EXTENSOR версии 3.0.0 или новее; файл несовместим с llama.cpp. Лицензия — MIT.

Vontra/GLM-5.3-Flash-MLX-oQ2-MTP — это MLX-конверсия и квантованная версия мультимодальной модели GLM-5.3-Flash, разработанной Z.ai. Модель предназначена для генерации текста и изображений, обработки языковых и визуальных запросов, а также локального запуска на компьютерах Apple Silicon через MLX и совместимые компоненты oMLX. Заявлены поддерживаемые языки английский и китайский. Модель использует архитектуру glm5_next с разреженной Mixture-of-Experts, гибридным линейным и разреженным вниманием и контекстом до 1 048 576 токенов. Применена посттренировочная weight-only-квантизация sensitivity-guided oQ2 со смешанной точностью и эффективным распределением около 2,67 бита на вес. Большинство весов имеют точность Q2 или Q8, отдельные компоненты — Q4, а зрительный энкодер и проектор сохранены в BF16. Репозиторий содержит 22 файла весов общим объёмом около 110 ГБ. Вариант сохраняет встроенный слой предсказания следующего токена и поддерживает Native MTP с глубиной 1, что может повышать пропускную способность. Однако MTP указан как экспериментальный: в проверенном окружении результаты были связными, но не полностью совпадали с базовым режимом, поэтому для точной детерминированной воспроизводимости его следует отключать. Совместимость проверена с oMLX 0.6.3rc3, MLX 0.32.0, mlx-lm 0.31.3 и mlx-vlm 0.6.3; другие версии могут не поддерживать необходимые пути glm5_next, oQ и Native MTP. Модель распространяется по лицензии MIT.

local-inference-lab/GLM-5.3-Flash-NVFP4 — квантованная и дистиллированная версия модели zai-org/GLM-5.3-Flash-BF16. Модель предназначена для генерации текста и диалоговых сценариев, поддерживает английский и китайский языки, а также мультимодальные задачи с использованием встроенного vision encoder. Архитектура сохранена: 45 decoder-слоёв, включая 3 плотных слоя и 42 MoE-слоя с 288 маршрутизируемыми экспертами в каждом, из которых для каждого токена активируются 8, дополнительно используется общий эксперт. Механизм внимания сочетает linear attention и DeepSeek Sparse Attention; заявленный размер модели на диске составляет около 199 ГБ. Длина контекста в README не указана. Ключевая особенность модели — quantization-aware distillation: веса маршрутизируемых экспертов обучались с учётом NVFP4-квантования, чтобы компенсировать ошибки низкой точности и приблизить ответы к исходной BF16-модели. Экспертные gate, up и down projections хранятся в NVFP4, вспомогательный MTP-модуль использует MXFP8, а остальные основные компоненты преимущественно сохраняют BF16 или FP32. Сильными сторонами являются сочетание MoE-архитектуры, дистилляции и низкобитного представления весов при сохранении vision encoder и MTP. Ограничения включают значительный объём модели, дополнительные требования к памяти для KV-кэша и буферов, а также необходимость runtime с поддержкой архитектуры glm5_next и смешанного формата ModelOpt NVFP4/MXFP8, включая покомпонентные масштабы активаций. Модель распространяется по лицензии MIT.

RedHatAI/GLM-5.3-Flash-NVFP4 — квантизированная версия модели zai-org/GLM-5.3-Flash, разработанная RedHatAI. Модель использует архитектуру Glm5NextForConditionalGeneration, принимает текст и изображения и генерирует текст. Заявленные языки — английский и китайский. Размер модели и длина контекста в предоставленных данных не указаны. Веса и активации линейных операторов MoE-экспертов квантизированы в формат FP4 (NVFP4), а слои MTP сохранены в FP8. Квантизация выполнена с помощью LLM Compressor, модель экспортирована в формате compressed-tensors и предназначена для инференса через vLLM. По данным README, такое сжатие примерно на 50% уменьшает объём диска и требования к памяти GPU для квантизированных весов по сравнению с 8-битным представлением. Также заявлена поддержка speculative decoding и автоматического выбора инструментов при соответствующей настройке vLLM. Модель ориентирована на мультимодальные и текстовые сценарии генерации, включая задачи рассуждения. В приведённой оценке она показала 97,74% на GSM8K Platinum, 94,87% на MATH-500, 86,67% на AIME 2025 и 90,57% на GPQA Diamond; результаты усреднены по нескольким запускам. Ключевое преимущество — снижение потребления дисковой и GPU-памяти при сохранении возможностей исходной модели, однако FP4-квантизация может влиять на качество и требует совместимой инфраструктуры. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-NVFP4 — квантованная версия мультимодальной модели GLM-5.3-Flash, разработанной Z.ai. Данный вариант подготовлен сообществом пользователем vcruz305 на основе zai-org/GLM-5.3-Flash-BF16 с использованием NVIDIA ModelOpt NVFP4. Модель предназначена для генерации текста, работы с мультимодальными данными, программирования и агентских сценариев. Заявлены поддерживаемые языки английский и китайский. Модель имеет архитектуру Mixture-of-Experts с 320 млрд общих и 18 млрд активных параметров, сочетает разреженное и линейное внимание и использует Manifold-Constrained Hyper-Connections. Эксперты слоёв 3–44 представлены в формате NVFP4, а слой MTP/NextN сохраняет точность BF16. Это снижает требования к памяти и стоимость инференса, сохраняя возможности исходной модели, однако качество и производительность именно этой квантованной сборки отдельно не подтверждены: приведённые в README результаты относятся к официальной версии Z.ai. Для локального развёртывания указана совместимость с SGLang, vLLM, TokenSpeed и KTransformers. Лицензия — MIT.

Это пакет слоёв GGUF для модели GLM-5.3-Flash, подготовленный Mesh LLM из unsloth/GLM-5.3-Flash-GGUF. Вариант UD-Q4_K_XL разделяет исходное распределение модели на артефакты по слоям для распределённого инференса в локальном кластере Mesh LLM. Пакет предназначен для локального и приватного запуска чат-модели, распределения вычислений и памяти между несколькими машинами, а также для чат-запросов через локальный API, совместимый с OpenAI. Модель принимает текстовые запросы и выдаёт текстовые ответы; задача в каталоге — генерация текста. Репозиторий распространяется по лицензии MIT.

GLM-5.3-Int4-Int8Mix — это квантизированная версия большой языковой модели GLM-5.3, разработанной организацией zai-org. Модель предназначена для генерации текста, решения математических и программных задач, следования инструкциям и работы через chat-интерфейсы. Она рассчитана на развёртывание в vLLM с tensor parallelism и поддерживает speculative decoding через MTP, автоматический выбор инструментов и prefix caching. Исходная модель содержит 743 млрд параметров и использует архитектуру с 78 слоями, скрытым размером 6144, 256 маршрутизируемыми экспертами MoE и компонентами DSA. В этой версии применена статическая симметричная weight-only-квантизация без калибровочных данных: эксперты в основном квантизированы до Int4, линейные слои и MTP — до Int8, а критические компоненты, включая router, DSA indexer и lm_head, сохранены в BF16. Размер весов сокращён до 377,4 GiB в 282 shards; при TP4 на один ранг приходится около 94,6 GiB. Заявленный максимальный контекст — 200 000 токенов, при этом в конфигурации модели указано значение 1M. Модель демонстрирует высокую производительность на конфигурации из четырёх NVIDIA DGX Spark: до 26,3 токена в секунду при одной параллельной сессии и 89,2 токена в секунду при восьми, с TTFT около 0,6 секунды для промпта примерно на 780 токенов. Проверки показали отсутствие повреждений генерации на английском, корейском и русском языках, а также корректное извлечение данных из 34 996-токенного контекста. Среди ограничений — очень высокие требования к памяти и инфраструктуре, необходимость распределённого развёртывания, вариативность результатов производительности и некоторое отставание от сравниваемой hosted GLM-5.2 в IFEval. Лицензия указана как other; дополнительные условия в README не раскрыты.

RedHatAI/GLM-5.3-NVFP4 — текстовая генеративная языковая модель, разработанная Red Hat AI на основе модели zai-org/GLM-5.3. Она предназначена для генерации текста, следования инструкциям и решения задач, требующих рассуждений, включая математические и научные вопросы. Заявлены поддерживаемые языки английский и китайский, а входом и выходом модели является текст. Модель использует архитектуру GlmMoeDsaForCausalLM и формат compressed-tensors. Это вариант с квантованием весов и активаций в NVFP4/FP4 E2M1 с двухуровневым масштабированием; слои вне маршрутизируемых экспертов оставлены без квантования. Чекпойнт оптимизирован для инференса на GPU Blackwell и создан с применением LLM Compressor и калибровочных данных perfectblend. Для запуска рекомендуется vLLM; в примере конфигурации используются четыре устройства B200, FP8 E4M3 KV-кэш и speculative decoding. По приведённым оценкам, модель сохраняет близкую к базовой FP8-версии точность на задачах следования инструкциям, математики, рассуждений и научных вопросов. Наиболее сильные результаты показаны на GSM8K Platinum и MATH-500, однако на IFEval, AIME 2025 и GPQA Diamond она уступает базовой модели в FP8. Ограничения включают зависимость от совместимой инфраструктуры Blackwell и специализированного стека инференса; размер модели, длина контекста и точные требования к памяти в README не указаны. Модель распространяется по лицензии glm-5.3, обозначенной как other.

GLM-5.3 NVFP4 GGUF — это квантованная в формате NVFP4 сборка модели GLM-5.3 от Z.ai, подготовленная incoai и опубликованная emwesoft в формате GGUF для запуска через llama.cpp. Модель относится к семейству glm-dsa и имеет архитектуру на 753 млрд параметров с 78 блоками и 256 экспертами. Веса NVFP4 сохранены без повторной квантизации; размер набора файлов — около 445 ГБ. Модель предназначена для генерации текста и диалогов, включая ответы с вызовом инструментов при корректной поддержке шаблона чата средой запуска. Для работы требуется llama.cpp с поддержкой glm-dsa и GGML_TYPE_NVFP4. Эта сборка не содержит MTP head, поэтому режим draft-mtp недоступен; README приводит измерения скорости на мощной многовидеокартной конфигурации, а не универсальную оценку производительности. Лицензия — MIT. Указанные в README версии llama.cpp требуют нескольких исправлений, которые на момент публикации ещё не вошли в upstream: без них могут не работать вызовы инструментов, подключение DFlash и разбор некоторых потоковых ответов. Модель рассчитана на текстовый ввод и текстовую генерацию; README описывает возможность контекста 400K в приведённой конфигурации.

GoldDiamondGold-70b — объединённая текстовая модель на архитектуре Llama, созданная KaraKaraWitch с помощью mergekit. В основе слияния лежит deepcogito/cogito-v2-preview-llama-70B; в модель также вошли чекпойнты для диалогов, следования инструкциям, повествования и работы с инструментами. Она содержит 69,5 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и создания текстов по запросу, включая повествовательные сценарии. Автор отмечает, что модель хорошо воспринимает формат промпта, но может перенимать неаккуратный стиль предыдущих ответов Llama, излишне вести себя как ассистент и особенно чувствительна к системным инструкциям. В карточке упоминается склонность к сексуализированному тону. Лицензия в предоставленных данных не указана.

Google Gemma 3 4B IT QAT — мультимодальная instruction-tuned модель с примерно 4 млрд параметров, подготовленная Google и опубликованная в виде GGUF-квантизаций пользователем bartowski. Модель предназначена для задач генерации текста и обработки изображений вместе с текстовыми запросами; запуск возможен через llama.cpp, LM Studio и совместимые проекты. Представленная версия основана на QAT-весах Google и доступна в нескольких форматах квантизации, включая Q4_0, Q4_K_M, Q5, Q6, Q8_0 и BF16. Размер файлов варьируется примерно от 2,1 до 7,77 ГБ в зависимости от формата. Q4_0 отмечен как вариант, улучшенный благодаря QAT, а более качественные Q5 и Q6 рекомендуются для большинства сценариев. Поддерживаются онлайн-перепаковка для ARM и AVX CPU в отдельных форматах. К сильным сторонам относятся компактный размер, широкий выбор уровней квантизации и возможность локального запуска на CPU или другом оборудовании, совместимом с llama.cpp. README не содержит сведений о точном контекстном окне, поддерживаемых языках, конкретных архитектурных деталях и количественной оценке качества, поэтому эти характеристики нельзя достоверно определить. Использование регулируется лицензией Google Gemma; для доступа на Hugging Face требуется принять условия лицензии.

Это квантизированная GGUF-версия Gemma 3n E4B Instruct, разработанной Google и подготовленной пользователем bartowski для запуска через llama.cpp и совместимые приложения. Модель предназначена для генерации текста, а также, согласно указанным тегам, для сценариев автоматического распознавания и перевода речи и преобразования аудио или видео в текст. Доступен запуск, в частности, через LM Studio и другие проекты на базе llama.cpp. В README указано, что модель имеет размер E4B и представлена в нескольких вариантах квантизации от Q2 до Q8, с размером файлов примерно от 3 до 7,35 ГБ. Более качественными и рекомендуемыми названы варианты Q5–Q8, а варианты Q3 и ниже подходят для систем с ограниченным объёмом оперативной памяти, но снижают качество. Мультимодальность, поддерживаемые языки и размер контекста в предоставленных данных не уточнены. Формат промпта требует проверки по исходной карточке модели, поскольку шаблон чата в README не задан явно. Модель удобна для локального запуска на совместимом оборудовании благодаря выбору уровней квантизации, однако качество зависит от выбранного варианта, а низкие уровни могут заметно уступать исходной модели. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии следует учитывать отдельно.

google_gemma-4-31B-it-GGUF — это квантизированная версия instruction-tuned модели Gemma 4 31B-it, разработанной Google. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; исходная модель опубликована как google/gemma-4-31B-it. Модель распространяется в формате GGUF и предназначена для локального запуска через llama.cpp, LM Studio, Ollama-подобные и другие совместимые инструменты. По указанной классификации pipeline_tag это модель для преобразования изображений и текста в текст, однако подробные сведения о поддерживаемых модальностях и языках в README не приведены. Доступны варианты с точностью от BF16 до Q3 и IQ3, включая Q4, Q5, Q6 и Q8. Размер файлов составляет примерно от 13,84 до 61,41 ГБ; варианты Q4–Q6 заявлены как обеспечивающие хороший или очень высокий уровень качества при меньшем потреблении памяти, а Q3 ориентированы на системы с ограниченными ресурсами и отличаются более низким качеством. Архитектура, максимальная длина контекста и точное число параметров, помимо обозначения 31B, в README не уточняются. Сильными сторонами являются широкий выбор уровней квантизации, совместимость с экосистемой llama.cpp и возможность локального инференса. Ограничения включают значительные требования к памяти, особенно для BF16 и высокоточных вариантов, а также возможное снижение качества у компактных Q3-вариантов. Для недавно поддерживаемых моделей может потребоваться обновление используемого программного обеспечения. Лицензия указана как Apache-2.0; при этом для Gemma также приведена отдельная ссылка на лицензионные условия Google.

dejanseo/google-links — дообученная модель DeBERTa v3 для поиска слов и фрагментов текста, подходящих на роль анкорного текста гиперссылки. Она размечает каждый токен меткой LINK или O и рассчитана на анализ текста, в частности редакционных материалов и блогов. Модель обучена на 10 273 страницах официального блога Google The Keyword; решения редакторов о ссылках использовались как эталон. По метаданным, это DeBERTa v2 для классификации токенов на 306 млн параметров с контекстом до 512 токенов. В приведённой оценке точность составила 95,6%, полнота — 79,5%, а precision — 42,4%. Высокая полнота помогает находить большинство потенциальных ссылок, но предсказания требуют редакторской проверки: подходящий анкор неоднозначен, поэтому часть отмеченных слов может оказаться ложноположительными кандидатами. Карточка не сообщает лицензию модели.

Goppa-LogiLlama-GGUF — это набор GGUF-квантизаций языковой модели Goppa-LogiLlama, разработанной goppa-ai и подготовленной квантизатором bartowski с использованием llama.cpp. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и совместимые приложения. В README также указано обучение на наборах open-thoughts/open-thoughts-114k и open-thoughts/OpenThoughts-Unverified-173k. Доступны варианты от F16 до низкобитных Q2_K_L, включая Q8_0, Q6_K, Q5_K, Q4_K и IQ-квантизации. Размер файлов составляет примерно от 0,64 до 2,48 ГБ, поэтому можно выбрать баланс между качеством и требованиями к оперативной памяти. Наиболее качественными считаются F16, Q8_0 и варианты Q6_K; Q4_K_M обозначен как стандартный вариант для большинства сценариев. Более компактные варианты экономят память, но отличаются сниженным качеством. Модель поддерживает текстовую генерацию; сведения об архитектуре, числе параметров, длине контекста и языках в README не приведены. Указан формат prompt-шаблона на основе ChatML-подобных служебных токенов с датой отсечения знаний декабрь 2023 года. Лицензия обозначена как llama3; конкретные условия и ограничения лицензии в карточке не раскрыты.

GroNLP/gpt2-small-dutch — модель генерации текста на основе GPT-2 small от OpenAI, подготовленная Wietse de Vries и Malvina Nissim для нидерландского языка. В модели переобучены лексические эмбеддинги, а затем дополнительно дообучена вся модель; авторы рекомендуют её среди вариантов GPT-2 для нидерландского. Модель предназначена для продолжения нидерландского текста и других сценариев генерации текста через библиотеку Transformers. Она использует плотную архитектуру GPT-2 с классом GPT2LMHeadModel и поддерживает контекст длиной до 1024 токенов. Репозиторий содержит веса в форматах PyTorch, TensorFlow и Flax, включая safetensors. Это небольшая языковая модель для генерации текста; карточка не сообщает о дополнительных возможностях вроде диалога или работы с инструментами. Лицензия в предоставленных данных не указана.

Модель lgaalves/gpt2-xl_lima разработана Luiz G A Alves и представляет собой авторегрессионную GPT-2 XL, дообученную на инструкционном наборе GAIR/lima. Она предназначена для генерации текста по запросу и выполнения инструкций на английском языке; её можно использовать напрямую через Transformers или дообучать для прикладных задач. Модель содержит около 1,5 млрд параметров и поддерживает контекст до 1024 токенов. В опубликованных тестах её средний результат близок к базовой GPT-2 XL; оценка ARC немного выше, а HellaSwag немного ниже базовой модели. Лицензия — MIT. Разработчик предупреждает, что модель тестировалась ограниченно, может выдавать недостоверную информацию и воспроизводить предвзятости из неотфильтрованных интернет-данных.

GPT-4.1 Mini — среднемасштабная модель OpenAI, рассчитанная на задачи с изображениями и текстом. Она сочетает производительность, сопоставимую с GPT-4o, с меньшей задержкой и стоимостью. В карточке также заявлено контекстное окно в 1 миллион токенов. Модель подходит для обработки текстовых запросов и изображений в сценариях, где важны скорость и стоимость. Доступный фрагмент карточки не раскрывает поддерживаемые языки, конкретные возможности работы с изображениями, ограничения или лицензионные условия.

GPT-5.4 — фронтирная модель OpenAI, объединяющая линейки Codex и GPT. По карточке, она поддерживает контекст более чем в 1 млн токенов: до 922 тыс. входных и 128 тыс. выходных токенов. В доступных данных также указана задача image-text-to-text. Модель предназначена для работы с текстом и изображениями и выдачи текстовых ответов. Сведений о конкретных сценариях, языках, архитектуре, размере и лицензии в предоставленных данных нет, поэтому их нельзя уточнить.

GPT-NeoXT-Chat-Base-20B — диалоговая языковая модель, разработанная Together Computer в рамках OpenChatKit. Она дообучена на базе GPT-NeoX на более чем 40 млн инструкций и дополнительном небольшом наборе отзывов о предпочтениях людей. Архитектура — плотная GPT-NeoX, число параметров в метаданных — 26,9 млрд, максимальный контекст — 2048 токенов; модель работает с текстом и предназначена для генерации ответов в чат-ботах. Модель подходит для ответов на вопросы, суммаризации, классификации и извлечения информации, в том числе в диалогах с несколькими ходами и при работе с предоставленным контекстом. В карточке заявлена поддержка английского языка. Лицензия — Apache 2.0. Ответы могут быть неточными или нерелевантными, особенно на сложные, неоднозначные вопросы и темы за пределами обучающих данных. Модель не рекомендуется для критически важных сценариев и решений, существенно влияющих на людей; для запуска требуется значительный объём памяти GPU.

gpt-oss-120b-MLX-8bit — это 8-битная квантованная версия языковой модели gpt-oss-120b, разработанной OpenAI. Квантование выполнено командой LM Studio с использованием MLX — фреймворка Apple Machine Learning Research для работы с моделями на устройствах Apple Silicon. Модель предназначена для генерации текста и локального использования в сценариях, поддерживаемых базовой моделью gpt-oss-120b. Она опубликована в формате, оптимизированном для Apple Silicon, и относится к моделям text-generation. В доступных данных не указаны архитектура, точный размер в параметрах исходной модели, поддерживаемые языки, длина контекста или мультимодальные возможности. Ключевая особенность модели — 8-битное квантование, которое может снизить требования к памяти и повысить удобство локального запуска по сравнению с полноразмерной версией, однако потенциально связано с компромиссом между эффективностью и точностью. Качество и поведение модели наследуют ограничения исходной gpt-oss-120b; README также предупреждает о возможных неточных, вредных или неподходящих результатах. Лицензия модели — Apache 2.0.

MLX-совместимая версия языковой модели openai/gpt-oss-120b, разработанная сообществом mlx-community и сконвертированная из исходной модели с использованием mlx-lm 0.27.0. Модель предназначена для генерации текста и диалоговых сценариев на устройствах и в окружениях, поддерживающих MLX; для работы используются библиотека mlx-lm и соответствующий токенизатор с chat template, если он доступен. Из названия следует, что модель имеет масштаб 120B параметров и представлена в формате MXFP4-Q4, однако README не содержит подробностей об архитектуре, поддерживаемых языках, размере контекста, модальностях, производительности и аппаратных требованиях. Основное преимущество — адаптация модели к экосистеме MLX и возможность локального использования через стандартный интерфейс генерации текста. Ограничения и особенности, связанные с квантизацией MXFP4-Q4, в README не раскрыты. Модель распространяется по лицензии Apache-2.0.

MaxSchulten/gpt-oss-20B-distill-Qwen3-0.6B — дообученная компактная плотная языковая модель семейства Qwen3, разработанная MaxSchulten на базе Qwen/Qwen3-0.6B. Модель предназначена для генерации текста и диалогов; в метаданных также указана возможность chat. README сообщает о дообучении и значении loss 0,6897 на оценочной выборке, но не раскрывает состав данных или подробности оценки. Модель содержит около 507,9 млн параметров, принимает текст и генерирует текст, использует Transformers и формат Safetensors. Длина контекста — до 40 960 токенов. Лицензия — Apache-2.0. Название README содержит слово «Unfiltered», но карточка не описывает соответствующую настройку или поведение, поэтому его смысл и влияние на ответы определить нельзя.

Карточка модели marafx2007/gpt-oss-20b-heretic на Hugging Face совпадает с карточкой p-e-w/gpt-oss-20b-heretic, поэтому описание составлено по ней. p-e-w/gpt-oss-20b-heretic — текстовая разговорная модель на архитектуре GPT-OSS, созданная на основе openai/gpt-oss-20b с помощью abliteration, направленной на снижение отказов. В карточке приведено сравнение: в тесте на 100 запросах модель отказала в 58 случаях против 100 у исходной модели; KL-дивергенция составила 0,96. README также описывает базовую модель как MoE с 21 млрд параметров и 3,6 млрд активных параметров, контекстом 131 072 токена и форматом Harmony; метаданные репозитория при этом указывают 1,6 млрд параметров. Модель предназначена для диалога, генерации текста и локальных или специализированных сценариев. Базовая модель поддерживает настраиваемый уровень рассуждений, вызов функций и агентные сценарии; в этом репозитории заявлено снижение числа отказов, но приведённый тест не гарантирует поведение на других запросах. Для корректной работы следует использовать формат Harmony. Лицензия — Apache-2.0.

mlx-community/gpt-oss-20b-MXFP4-Q8 — это языковая модель для генерации текста, представленная сообществом mlx-community. Модель конвертирована в формат MLX из openai/gpt-oss-20b с использованием mlx-lm версии 0.27.0. Модель предназначена для сценариев текстовой генерации и запуска через библиотеку mlx-lm, включая диалоговое взаимодействие с применением chat template, если он поддерживается токенизатором. Из README известны размер исходной модели — 20B, формат MLX и обозначение квантования MXFP4-Q8. Сведения о точной архитектуре, поддерживаемых языках, модальностях, размере контекста, результатах оценки, сильных сторонах и ограничениях не указаны. Модель распространяется по лицензии Apache-2.0.

Vaibhav1001/gpt_oss_finetune_16bit — дообученная текстовая генеративная модель семейства GPT-OSS на базе unsloth/gpt-oss-20b-unsloth-bnb-4bit. Согласно метаданным, это MoE-модель с архитектурой GptOssForCausalLM, поддерживающая диалоговый режим и интерфейс вызова инструментов; размер указан как 1,6 млрд параметров, контекст — до 131 072 токенов. README сообщает, что при обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия, в том числе со сценарием вызова инструментов. В карточке не описаны специализация дообучения, состав обучающих данных или результаты оценки качества, поэтому её пригодность для конкретной предметной области определить нельзя. Указана лицензия Apache 2.0.