I.5Создание и редактирование текста

Melvin56/GLM-4-9B-0414-abliterated-GGUF — это GGUF-квантизованная версия модели huihui-ai/GLM-4-9B-0414-abliterated, подготовленная пользователем Melvin56. Модель предназначена для генерации текста и локального запуска через совместимые реализации llama.cpp. В README указано, что квантизация выполнена с использованием imatrix и специального набора данных, а сами файлы пересобраны на базе llama.cpp build 558a7647 (5190). Модель относится к семейству GLM и имеет размер 9B параметров в исходной версии; доступны варианты K-quants и I-quants. Поддерживаются CPU с AVX2 и ARM NEON, Metal, cuBLAS, rocBLAS и SYCL, а для отдельных вариантов также Vulkan и CLBlast; некоторые конфигурации работают медленнее или поддерживаются частично. Заявлены китайский и английский языки, текстовая модальность и контекст генерации текста, однако точный размер контекстного окна в README не указан. К сильным сторонам относятся возможность локального запуска на широком спектре CPU и GPU, выбор разных уровней квантизации и совместимость с llama.cpp. Ограничения включают зависимость производительности и доступности отдельных вариантов от backend и аппаратной платформы, а также отсутствие подробных данных о качестве, бенчмарках и точном контекстном окне. Модель распространяется по лицензии MIT.

MLX-совместимая 4-битная квантизованная версия GLM-5.3, преобразованная сообществом mlx-community из базовой модели zai-org/GLM-5.3-BF16 с использованием mlx-lm 0.31.3. Модель предназначена для генерации текста и ориентирована на запуск на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти; заявлено, что она комфортно помещается в такой конфигурации. Поддерживаемые языки — английский и китайский. Ключевое преимущество версии — стандартная 4-битная квантизация, которую авторы описывают как стабильную и быструю по сравнению с некоторыми альтернативными рецептами квантизации, склонными к избыточному обдумыванию и повторному пересмотру решений. Для работы используется библиотека MLX и пакет mlx-lm. Архитектура, точный размер модели, длина контекста, дополнительные модальности и результаты benchmark в README не указаны. Лицензия обозначена как other с названием glm-5.3; конкретные условия необходимо уточнять в лицензии исходной модели.

GLM-5.3-Flash-GGUF — квантизированная GGUF-версия модели GLM-5.3-Flash от Z.ai, подготовленная пользователем aj9o9 с ручным распределением типов квантования по классам тензоров. Модель предназначена для генерации текста и запуска через llama.cpp, включая локальное использование на системах с ограниченной памятью по сравнению с полноразмерной BF16-версией. Заявлены языки английский и китайский. Исходная модель имеет 320,6 млрд параметров, из которых 17,3 млрд активируются на токен; после удаления блока MTP/NextN в представленных файлах остаётся 313,33 млрд параметров. Это разреженная MoE-архитектура с 42 слоями маршрутизируемых экспертов, 288 экспертами в каждом слое, восемью активными экспертами и одним общим экспертом. Из 45 слоёв 34 используют Kimi Delta Attention, а 11 — Multi-head Latent Attention с индексатором DeepSeek. Благодаря этому модель экономно расходует память под контекст: заявлены 32K, 131K и 300K токенов при использовании примерно 0,44, 1,55 и 3,45 ГБ памяти для соответствующих KV-компонентов. Доступны две сборки: AJ-IQ3_XXS размером 112,40 ГБ с плотностью 2,80 бит на вес, рассчитанная на 128 ГБ unified memory или видеокарту на 96 ГБ с небольшим выгрузом, и AJ-IQ2_XXS размером 87,35 ГБ с плотностью 2,23 бит на вес, рассчитанная на видеокарту на 24 ГБ и 64 ГБ системной памяти. AJ-IQ3_XXS заметно лучше сохраняет качество исходной модели, тогда как AJ-IQ2_XXS требует меньше памяти, но имеет более высокое отклонение от BF16. Ограничение обеих сборок — отсутствие MTP-головы и поддержки спекулятивного декодирования через неё. Приведённые оценки качества получены на небольшом тесте Wikitext-2, поэтому не характеризуют все прикладные сценарии. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-GGUF — квантизированная GGUF-версия модели GLM-5.3-Flash, разработанная BatiAI на основе официальных весов Z.ai. Это текстовая генеративная модель для локального запуска и сценариев on-device AI, включая диалоги, генерацию текста на английском, корейском и китайском языках, а также вызов инструментов. Модель использует архитектуру glm5next и разреженную MoE-конфигурацию: около 320 млрд параметров всего, из которых примерно 18 млрд активируются для каждого токена. В составе указаны 288 экспертов с выбором 8 экспертов на токен. Доступны варианты квантизации Q4_K_M, Q3_K_M, Q2_K, IQ3_XXS и IQ2_XXS; размер файлов составляет примерно от 76,6 до 175,7 GiB. Размер контекста в README не указан. Сильными сторонами являются возможность локального запуска, поддержка нескольких языков и проверенная генерация корейского текста и вызовов инструментов на всех заявленных уровнях квантизации. Ограничения связаны с тем, что архитектура пока требует специальной сборки llama.cpp с PR #27752 и не поддерживается стандартными сборками, Ollama и LM Studio. Вызовы инструментов выдаются в собственном XML-подобном формате, поэтому OpenAI-совместимый endpoint llama.cpp может возвращать пустое поле tool_calls; требуется самостоятельный разбор содержимого и запуск с параметром --jinja. Модель распространяется по лицензии MIT.

Vontra/GLM-5.3-Flash-MLX-4bit-MTP — MLX-конверсия модели GLM-5.3-Flash от Z.ai, подготовленная для Apple Silicon. Это мультимодальная sparse MoE-модель архитектуры glm5_next с поддержкой текста и изображений, рассчитанная на работу с английским и китайским языками. Модель распространяется в формате MLX safetensors и сохраняет оригинальные токенизатор, chat template, мультимодальный процессор и настройки генерации. Модель предназначена для локальной генерации текста и обработки изображений в совместимых окружениях MLX и MLX-VLM. Она использует гибридное линейное и разреженное внимание, manifold-constrained hyper-connections и встроенный блок предсказания следующего токена для speculative decoding (native MTP). Заявленный контекст составляет до 1 048 576 токенов. Квантование выполнено методом weight-only post-training quantization: основные подходящие матрицы переведены в 4-bit с group size 64, тогда как vision encoder, projector, embeddings, output head и часть служебных тензоров сохранены в исходной или совместимой точности. К сильным сторонам относятся мультимодальность, очень длинный контекст, поддержка sparse MoE, оптимизация под Apple Silicon и существенное уменьшение размера весов по сравнению с полноточной моделью. Репозиторий занимает около 181,7 ГБ, поэтому для запуска требуется значительный объём объединённой памяти. Native MTP требует специальной интеграции GLM5 Next в runtime; проверена работа с oMLX 0.6.3rc3, MLX 0.32.0 и MLX-VLM 0.6.3 с соответствующей поддержкой. Старые или стандартные сборки без этой интеграции могут работать только без MTP либо не поддерживать модель. Приведённый тест на Apple M3 Ultra показал около 6,27 токена в секунду при отключённом MTP, но фактическая производительность зависит от нагрузки и окружения. Лицензия — MIT.

GLM-5.3-Flash-MLX-mixed-4_8bit — это порт модели GLM-5.3-Flash от zai-org, подготовленный PipeNetwork для MLX и Apple Silicon. Модель предназначена для генерации текста и изображений с текстовыми инструкциями, включая мультимодальные сценарии; vision tower сохранён в формате bfloat16. Архитектура исходной модели не изменена, однако слой multi-token prediction (layer 45) в этой сборке отсутствует. Модель имеет 320B параметров с архитектурой mixture-of-experts и активной конфигурацией A18B. Она объединяет 34 слоя линейного внимания Kimi-Delta и 11 слоёв разреженного внимания DeepSeek с NoPE MLA и lightning indexer, а также использует manifold-constrained hyper-connections. Маршрутизируемые эксперты занимают около 304B параметров и квантизированы в 4 бита, остальные основные компоненты — в 8 бит; параметры vision tower имеют формат bfloat16. Размер файлов составляет 181,9 ГБ. Сильная сторона сборки — существенное сокращение размера относительно 642,7 ГБ для исходной версии bfloat16 при сохранении приемлемого качества: perplexity на wikitext-2 составляет 3,5705 против 3,4607 у 8-битной версии. Для корректной работы рекомендуется исправленный runtime из проекта glm53-flash-mlx; стандартная ветка mlx-vlm содержит известные расхождения в вычислениях. README не указывает поддерживаемые языки и размер контекстного окна. Модель распространяется по лицензии MIT.

GLM-5.3-Flash-UNCENSORED-GGUF — мультимодальная модель семейства GLM, разработанная на основе архитектуры Zhipu AI / ZAI. Некензурированные веса предоставлены dealignai, а GGUF-квантизация и мультимодальный релиз выполнены Solstice-AI. Модель предназначена для генерации и понимания текста, анализа изображений и видео, а также запуска через llama.cpp и совместимые инструменты. В качестве базовой модели указана dealignai/GLM-5.3-Flash-UNCENSORED-FP8. Релиз включает мультимодальный проектор mmproj-BF16.gguf размером 1,11 ГБ с Vision Transformer и временным и пространственным объединением патчей. Поддерживаются английский и китайский языки; заявлены модальности текста, изображений и видео. Для работы указан контекст до 131 072 токенов. В комплект также входят веса DFlash 2 для speculative decoding, позволяющие ускорить генерацию при использовании совместимой конфигурации. Доступны варианты GGUF-квантизации, включая Q4_K_M и Q8_0, а также BF16-компоненты. Сильными сторонами модели являются мультимодальный анализ, поддержка видео, большой контекст, интеграция с llama.cpp и возможность ускорения вывода посредством speculative decoding. Ограничения связаны с необходимостью отдельного мультимодального проектора, совместимого рантайма и, вероятно, значительных вычислительных ресурсов; конкретные требования к памяти и производительности в README не указаны. Модель распространяется по лицензии MIT.

canada-quant/GLM-5.3-Flash-W4A16-MTP — это квантизированная версия мультимодальной модели GLM-5.3-Flash, разработанной zai-org и подготовленной canada-quant. Модель предназначена для генерации текста и обработки изображений с текстом, включая сценарии с очень длинным контекстом и ускоренным инференсом на совместимом GPU-оборудовании. Заявлены английский и китайский языки, архитектура Transformers и контекст до 1 048 576 токенов. В модели применяется weight-only-квантизация INT4 (W4A16, GPTQ, group-128) для 36 288 routed-expert GEMM-операций. Веса занимают около 177,7 GiB вместо примерно 599 GiB в BF16. Компоненты внимания, маршрутизатор, shared experts, embeddings, vision tower и BF16 MTP draft head сохранены без квантизации; MTP используется для speculative decoding. Артефакт рассчитан на запуск, в частности, на 4× H100/H200, 4× RTX PRO 6000 или 2× DGX Spark, при этом максимальный подтверждённый контекст зависит от конфигурации оборудования. Сильные стороны модели — существенно сниженные требования к памяти, поддержка длинного контекста, мультимодальность и ускорение генерации за счёт MTP. README приводит высокие результаты на AIME 2026 и GSM8K, а также сравнительные показатели производительности на H100, H200 и DGX Spark. Ограничения включают зависимость доступного контекста и скорости от конкретного оборудования и serving stack; модель не является новой базовой разработкой, а сохраняет возможности исходной GLM-5.3-Flash с компромиссами квантизации. Лицензия — MIT.

GLM-5.3-MLX-mixed-4_8bit — сборка модели GLM-5.3 от zai-org, адаптированная PipeNetwork для MLX и Apple Silicon. Это генеративная текстовая модель на архитектуре Mixture-of-Experts glm_moe_dsa с 744 млрд параметров, 256 экспертами и маршрутизацией top-8. В архитектуре используется MLA со sparse attention в стиле DeepSeek-V3.2. Модель предназначена для генерации текста и локального инференса на компьютерах Apple Silicon. Экспертные слои занимают около 724,8 млрд параметров и квантизованы в 4 бита, тогда как attention, общие эксперты, плотные слои, эмбеддинги и lm_head хранятся в 8 битах; маршрутизаторы, нормы и индексатор сохранены в исходной точности. Размер файлов составляет около 427,8 ГБ, для запуска рекомендуется Mac с 512 ГБ оперативной памяти. Сборка использует библиотеку MLX и требует специального runtime-файла glm_moe_dsa.py; указанный README рекомендует запуск через mlx-lm с включённым trust remote code. По измерениям на wikitext-2 модель имеет perplexity 2,7420, что лучше равномерной 4-битной версии, хотя смешанная квантизация требует примерно на 9 ГБ больше места. Основные ограничения — крайне высокие требования к памяти, отсутствие multi-token-prediction layer и возможное снижение качества на контекстах свыше 2048 токенов из-за особенностей sparse indexer; заявленная длина контекста в README не указана. Лицензия — GLM-5.3 license, унаследованная от исходной модели; точные условия приведены в файле LICENSE.

GLM-5.3-NVFP4 — квантизированная версия модели GLM-5.3 от Z.ai, опубликованная в формате NVIDIA Model Optimizer. Это текстовая генеративная модель для запуска и обслуживания задач генерации текста; README также указывает поддержку reasoning и вызова инструментов через соответствующие парсеры. Модель предназначена для работы на GPU NVIDIA Blackwell с архитектурой SM100 и новее, непосредственно через SGLang или vLLM. В модели используются веса и статические активации линейных слоёв маршрутизируемых MoE-экспертов в формате NVFP4, а KV-кэш хранится в FP8. Размер контрольной точки составляет 433 GiB. Доступна опциональная speculative decoding с draft-моделью GLM-5.3-DFlash2 и семью токенами на шаг проверки. Языки, размер контекста, точное число параметров и полный перечень модальностей в README не указаны; по имеющимся данным модель относится к текстовым, а не мультимодальным системам. К сильным сторонам относятся существенное сжатие представления вычислений, поддержка специализированного инференса на современных GPU NVIDIA и близкие к исходной FP8-версии результаты на приведённых тестах: например, 95,1 против 94,3 на AIME 2025 и 91,2 против 91,1 на GPQA Diamond. Ограничения включают требование GPU NVIDIA Blackwell, крупный объём контрольной точки и отсутствие данных о производительности на другом оборудовании. Модель распространяется по лицензии GLM-5.3 License, унаследованной от базовой модели.

GLM-Edge-Chat-4B-GGUF — чат-модель семейства GLM, разработанная организацией zai-org. Она предназначена для генерации текста и диалогового взаимодействия, включая локальный запуск на совместимом оборудовании через формат GGUF и адаптированную версию llama.cpp. Модель имеет размер около 4 миллиардов параметров и поддерживает китайский и английский языки. В README указана текстовая генерация; сведения о точной архитектуре, размере контекста, дополнительных модальностях и результатах тестирования отсутствуют. Формат GGUF и возможность использования аппаратного ускорения делают модель подходящей для периферийных устройств и локальных приложений, однако требования к ресурсам и фактическая производительность зависят от выбранной квантованной версии и оборудования. Использование весов регулируется лицензией GLM-4; подробные условия приведены в файле LICENSE. Для запуска требуется адаптированная версия llama.cpp, поскольку интеграция поддержки модели в официальную ветку на момент публикации README ещё выполнялась.

GodSlayer-12B-ABYSS — объединённая модель для генерации текста, созданная автором репозитория с помощью mergekit на основе нескольких моделей семейства Mistral Nemo. Модель использует плотную архитектуру MistralForCausalLM, содержит 12,1 млрд параметров и работает с шаблоном диалога ChatML; в метаданных указан контекст до 1 024 000 токенов. Модель предназначена для чат-общения, ролевых диалогов и творческого письма. Автор стремился сохранить связность ответов, уменьшить позитивный уклон и повысить реалистичность и разнообразие откликов. В слияние вошли модели для ролевого общения, письма и текстового ассистирования. Репозиторий распространяет веса в формате safetensors; сведения о лицензии в предоставленных данных отсутствуют.

Goekdeniz-Guelmez_Josiefied-Qwen3-8B-abliterated-v1-GGUF — это набор GGUF-квантизаций модели Josiefied-Qwen3-8B-abliterated-v1, разработанной Goekdeniz-Guelmez и подготовленной пользователем bartowski. Модель предназначена для генерации текста и чат-сценариев, а также для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от исходных весов BF16 размером 16,39 ГБ до квантизаций с меньшим потреблением памяти, включая Q8_0, Q6_K, Q5_K_M, Q4_K_M, Q4_K_S, IQ4_XS и другие. Квантизация выполнена с использованием imatrix и llama.cpp b5270. Для диалогов используется шаблон с ролями system, user и assistant в формате ChatML. Архитектура, размер контекста, поддерживаемые языки и модальности в README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или других非текстовых данных. Сильная сторона набора — широкий выбор уровней квантизации для разных объёмов памяти и оборудования. В README Q6_K_L, Q6_K, Q5_K_L, Q5_K_M и Q4_K_M отмечены как рекомендуемые варианты с хорошим балансом качества и размера, а Q3_K_XL и компактные форматы подходят для систем с ограниченной оперативной памятью. Ограничения включают возможную потерю качества при низких уровнях квантизации, а также отсутствие в README сведений о лицензии, результатах тестирования, языковых возможностях и безопасностных характеристиках модели.

GoGPT2-7B — китайско-английская языковая модель, созданная ICT на базе Llama 2 7B. Это плотная авторегрессионная модель семейства Llama с 6,8 млрд параметров и контекстом 2048 токена; веса доступны в формате PyTorch. Разработчики расширили словарь Llama с 32 000 до 68 420 токенов, продолжили предобучение на китайском корпусе и выполнили supervised fine-tuning на наборах инструкций и диалогов на китайском и английском языках. Модель предназначена для генерации текста по запросу: ответов на вопросы, диалогов, объяснений, перевода и написания кода. Примеры в карточке показывают такие сценарии, как сравнение понятий, помощь с тайм-менеджментом и программирование. Карточка приводит лишь примеры ответов, поэтому они не подтверждают точность модели; возможны фактические ошибки и некорректный код. Репозиторий распространяется по Apache-2.0, однако авторы README отдельно указывают на исследовательское использование и запрещают коммерческое применение связанных ресурсов; это ограничение следует учитывать при использовании модели.

Goliath 120B — авторегрессионная языковая модель с архитектурой Llama 2, созданная alpindale путём слияния двух дообученных моделей Llama 2 70B: Xwin и Euryale. В репозитории указано 117,5 млрд параметров; модель предназначена для генерации текста и диалогового общения. Для запросов подходят форматы Vicuna и Alpaca, причём автор ожидает, что формат Vicuna будет работать лучше. Модель принимает текст и генерирует текст. Контекст составляет 4096 токенов; в метаданных указана поддержка английского языка. Доступна в формате safetensors, а для запуска существуют отдельные квантованные варианты GGUF, GPTQ, AWQ и Exllamav2. Лицензия — Llama 2. README не приводит результаты бенчмарков, поэтому качество по ним оценить нельзя.

lilmeaty/gpt2 — языковая модель для генерации текста на архитектуре GPT-2, созданная с помощью mergekit из openai-community/gpt2-large. В конфигурации указан метод passthrough: в итоговую модель включён диапазон слоёв [0, 1] базовой модели, веса сохранены в формате bfloat16. Модель предназначена для продолжения текста по заданному фрагменту и других сценариев генерации текста. Контекст составляет 1024 токена. Для работы используется библиотека Transformers; репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

GPT-2 — предварительно обученная авторегрессионная языковая модель семейства Transformer, опубликованная командой GPT-2 и представленная в формате ONNX в репозитории optimum/gpt2. Она обучалась на англоязычных текстах предсказывать следующий токен и предназначена прежде всего для продолжения текста по заданному текстовому промпту; базовую модель также можно дообучить для прикладных задач. Контекст составляет до 1024 токенов, основная поддерживаемая карточкой модельная задача — генерация текста. Модель может создавать связный текст на английском и извлекать языковые признаки, однако генерация может содержать предвзятые или неточные утверждения. Репозиторий распространяется по лицензии MIT.

ClassCat/gpt2-base-french — франкоязычная авторегрессионная модель генерации текста на архитектуре GPT-2, опубликованная ClassCat. Она использует базовые настройки GPT-2 с изменённым размером словаря; токенизатор BPE содержит 50 000 токенов, а контекст модели составляет 1024 токена. Модель обучена на франкоязычной Википедии wiki40b и части веб-корпуса CC-100. Модель подходит для продолжения французского текста по заданному началу и генерации нескольких вариантов продолжения. Доступна в формате PyTorch для использования с Transformers. Лицензия — CC BY-SA 4.0.

GPT2-Large Dutch — авторская языковая модель автора yhavinga, обученная с нуля для генерации нидерландского текста. Модель содержит 762 млн параметров, использует архитектуру GPT-2 и токенизатор BPE, обученный специально для нидерландского языка. Она обучалась на очищенном нидерландском подмножестве mC4; в README указана perplexity 15,1. Модель предназначена для продолжения нидерландского текста и генерации по заданному фрагменту. Её контекстное окно составляет 1024 токена. Доступны веса в форматах PyTorch, Flax и safetensors. Карточка не сообщает лицензию, поэтому условия использования по ней определить нельзя.

Finnish-NLP/gpt2-medium-finnish — авторегрессионная языковая модель GPT-2 Medium, разработанная командой Finnish-NLP и предварительно обученная на финских текстах с целью предсказывать следующий токен. Модель содержит 345 млн параметров и использует плотную архитектуру GPT2LMHeadModel; доступны версии весов PyTorch и Flax. Метаданные указывают контекст до 1024 токенов, а при обучении использовались последовательности длиной 512 токенов. Модель предназначена прежде всего для генерации продолжений финского текста по затравке. Её также можно дообучить для прикладных задач и использовать для извлечения языковых признаков. Обучающие данные включали очищенный финский раздел mC4, Википедию, новостные архивы Yle и STT, а также корпус Suomi24. Лицензия — Apache-2.0. Качество генерации выше, чем у меньшей финской версии GPT-2 из той же линейки, но ниже, чем у варианта gpt2-large-finnish. Данные собраны из интернета и могут содержать смещения; модель способна выдавать нежелательный или оскорбительный текст, поэтому результаты рекомендуется проверять.

gpt2-wechsel-french — франкоязычная модель генерации текста на архитектуре GPT-2, обученная с использованием метода WECHSEL для переноса монолингвальных языковых моделей между языками через инициализацию подсловных эмбеддингов. Модель предназначена для продолжения французского текста и языкового моделирования; в карточке приведено значение perplexity 19,71, сравниваемое с 20,47 у GPT-2, переобученной с нуля. Модель принимает текст и генерирует текст, поддерживает французский язык и имеет контекст длиной 1024 токена. В метаданных указаны PyTorch и safetensors, лицензия MIT. Карточка сообщает о методе обучения и результатах, но не раскрывает размер модели и подробности обучающих данных.

benjamin/gpt2-wechsel-ukrainian — языковая модель на архитектуре GPT-2, перенесённая на украинский язык методом WECHSEL. Метод использует эффективную инициализацию субсловных эмбеддингов для переноса одноязычных языковых моделей между языками; модель предназначена для генерации украинского текста. Модель работает с текстом и имеет контекстное окно 1024 токена. Репозиторий содержит веса PyTorch и Safetensors. Лицензия — MIT. Карточка не приводит результатов оценки качества или иных характеристик поведения модели.

GPT4All-Falcon — языковая модель Nomic AI, дообученная на базе Falcon 7B на большом отобранном корпусе взаимодействий с ассистентом. Это плотная авторегрессионная модель архитектуры RefinedWebModel с 10,9 млрд параметров, предназначенная для генерации текста в диалоговом формате. Модель подходит для многошаговых диалогов, ответов на вопросы и генерации текстов, включая решение словесных задач, написание кода, стихов, песен и историй. В карточке заявлена поддержка английского языка. Для запуска используются Transformers и PyTorch; доступны веса в форматах PyTorch и Safetensors. Модель распространяется по лицензии Apache-2.0. Качество ответов может быть непоследовательным, а результаты по отдельным задачам зависят от формулировки запроса; карточка не приводит здесь подробных гарантий качества или ограничений.

GPT4 Alpaca LoRA 30B HF — версия модели Chansung GPT4 Alpaca 30B, подготовленная TheBloke с объединёнными весами LoRA и исходной Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для диалогов и выполнения инструкций на естественном языке. Модель принимает текст и генерирует текст; в карточке указан английский язык, а максимальный контекст составляет 2048 токенов. Модель подходит для чат-ботов, ответов на инструкции и текстовых запросов. README указывает, что для запуска требуется не менее 60 ГБ видеопамяти. Репозиторий содержит веса PyTorch; лицензия обозначена как other, поэтому условия использования следует проверять в исходных лицензиях Llama и обученной модели.

GPT-Neo 2.7B — авторегрессионная трансформерная языковая модель EleutherAI, построенная по архитектуре, воспроизводящей GPT-3. Модель содержит 2,7 млрд параметров по карточке и обучена на корпусе The Pile, подготовленном EleutherAI. Модель предназначена прежде всего для продолжения текста по заданной подсказке. Её можно применять для генерации черновиков и примеров текста, а также извлекать из неё представления для последующих задач. Контекст модели составляет 2048 токенов; основным языком в карточке указан английский. Модель предсказывает следующий токен, поэтому ответы могут быть непредсказуемыми и содержать оскорбительную или нежелательную лексику: обучающий корпус включает ненормативные и резкие материалы. Качество генерации и безопасность выходов требуют проверки человеком. Лицензия — MIT.

GPT-Neo Romanian 780M — авторегрессионная языковая модель на архитектуре GPT-Neo, разработанная Стефаном Думитреску и Михаем Илие. Она предназначена для генерации продолжений румынского текста и других задач генерации текста на румынском языке. Модель содержит около 891 млн параметров и обучена примерно на 40 ГБ очищенного и дедуплицированного корпуса румынских текстов: в него вошли OSCAR, OPUS, Википедия, литература и другие текстовые источники. Контекст составляет 2048 токенов; модель использует формат PyTorch. Оценка качества в карточке не приведена, поэтому уровень её результатов по сравнению с другими моделями определить нельзя. Лицензия — MIT.

MaziyarPanahi/gpt-oss-20b-Derestricted-GGUF — это набор файлов модели в формате GGUF для ArliAI/gpt-oss-20b-Derestricted. Исходную модель разработала ArliAI, а конвертацию и публикацию GGUF-файлов выполнил MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые приложения и библиотеки. В репозитории представлены варианты квантования с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. Формат GGUF поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов. Сведения об архитектуре, размере контекста, поддерживаемых языках и мультимодальности в README не указаны. Лицензия также не указана, поэтому условия использования по этим данным определить нельзя.

Mungert/gpt-oss-20b-Derestricted-GGUF — это GGUF-версия модифицированной модели gpt-oss-20b, разработанной Arli AI на базе открытой модели OpenAI. Модель предназначена для генерации текста, локального и специализированного использования, задач рассуждения и агентных сценариев, где требуется снизить выраженность стандартных отказов модели. При этом заявленная цель модификации — сохранить качество рассуждений исходной модели. Базовая gpt-oss-20b содержит около 21 млрд параметров, из которых примерно 3,6 млрд активны одновременно, и относится к моделям с архитектурой Mixture of Experts. Модель ориентирована на меньшую задержку и локальный запуск; README также указывает формат GGUF и генерацию с использованием llama.cpp. Для снятия отказов применён метод Norm-Preserving Biprojected Abliteration, который изменяет направляющие компонентов весов с сохранением их исходных норм. Дополнительно в процессе квантования отдельные важные слои переводятся в более высокую точность, что увеличивает размер файла, но может улучшать точность при низкой разрядности. Сильной стороной модели заявляется сочетание уменьшенного количества отказов, сохранённого качества рассуждений и удобства локального запуска в различных вариантах квантования. Ограничения включают возможные остаточные попытки подавлять отдельные запросы, зависимость качества и размера от выбранного GGUF-варианта, а также отсутствие в представленном README подробных данных о языках, длине контекста, результатах стандартизированных бенчмарков и точных системных требованиях. Лицензия указана как Apache-2.0.

ggml-org/gpt-oss-20b-GGUF — это GGUF-квантизированная версия модели gpt-oss-20b, разработанной OpenAI и опубликованной в формате для запуска с помощью инструментов экосистемы ggml-org. Модель предназначена для генерации текста и локального или совместимого с llama.cpp использования; в README приведён пример запуска через llama serve и llama.app. Модель относится к классу text-generation и имеет размер 20B согласно названию базовой модели. Она поставляется в квантизированном формате GGUF, что обычно позволяет снизить требования к памяти по сравнению с полноразмерными весами, однако конкретный тип квантизации в README не указан. Поддерживаемые языки, размер контекста, архитектура, модальности и показатели качества не раскрыты. Лицензия модели — Apache-2.0. README указывает, что конвертация выполнена автоматически с использованием проекта ggml-org/convert, а исходными моделями названы openai/gpt-oss-20b и RedHatAI/gpt-oss-20b-speculator.eagle3. Из-за отсутствия подробных технических характеристик нельзя оценить языковое покрытие, производительность и ограничения модели более точно.

giladgd публикует модель gpt-oss-20b в формате GGUF для запуска через node-llama-cpp и llama.cpp. Это разговорная текстовая модель генерации на архитектуре семейства GPT-OSS, производная от openai/gpt-oss-20b. Репозиторий содержит варианты MXFP4 и F16; README указывает размер файла MXFP4 12,1 ГБ и F16 13,8 ГБ. Для запуска варианта MXFP4 заявлено потребление памяти в пределах 16 ГБ. Модель предназначена для диалогов, генерации текста и сценариев с агентными возможностями, включая вызов функций и структурированный вывод. README также описывает настройку уровня усилий рассуждения и дообучение под конкретные задачи. Модель поддерживает Apache-2.0, допускающую коммерческое использование. Указанные в карточке возможности не подтверждают качество выполнения конкретных прикладных задач или работу с вебом и Python без соответствующей внешней интеграции.