I.5Создание и редактирование текста

Это компактная языковая модель Phi-3 Mini Instruct семейства Phi-3, представленная в репозитории tuong-nguyen-prd. Модель имеет плотную архитектуру Phi3ForCausalLM и около 3,7 млрд параметров; она дообучена следовать инструкциям с помощью supervised fine-tuning и direct preference optimization. В README вариант назван 128K, однако метаданные этой копии указывают длину контекста 4096 токенов. Модель предназначена для генерации текста в диалоговом формате, включая рассуждения, математику и программирование. Её позиционируют для сценариев с ограниченными вычислительными ресурсами и требованиями к низкой задержке; карточка также описывает улучшения в следовании инструкциям, структурированном выводе и понимании длинного контекста. Основной заявленный язык — английский. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией MIT. Как и другие языковые модели, она может выдавать неточные, ненадёжные, предвзятые или оскорбительные ответы; её качество и безопасность следует оценивать для конкретного применения, особенно в сценариях с высокими рисками.

Phi-3-mini-128k-instruct-4bit — 4-битная версия модели Phi-3-mini-128k-instruct, разработанной Microsoft и преобразованной сообществом mlx-community в формат MLX с помощью mlx-lm 0.10.0. Модель содержит около 3,7 млрд параметров и предназначена для генерации текста в диалоговых сценариях и задачах, связанных с кодом. Модель ориентирована прежде всего на англоязычные запросы, генерацию ответов, продолжение текста и помощь с программным кодом. Формат MLX оптимизирован для запуска через библиотеку mlx-lm на совместимом оборудовании Apple. Метаданные указывают нативную длину контекста 4096 токенов. К сильным сторонам относятся компактный размер, 4-битное квантование и возможность локального запуска в экосистеме MLX. Ограничениями являются преимущественная поддержка английского языка, уменьшенная точность из-за квантования и контекст до 4096 токенов, несмотря на обозначение исходной модели как 128k. Модель распространяется по лицензии MIT.

Phi-tiny-MoE-instruct — компактная языковая модель Microsoft для диалогов и следования инструкциям. Это декодерный Transformer с архитектурой смеси экспертов (MoE): в README указаны 3,8 млрд параметров и 1,1 млрд активных, тогда как метаданные каталога приводят 1,6 млрд параметров. Модель создана методом SlimMoE на основе модели, общей для Phi-3.5-MoE и GRIN-MoE, а затем дообучена на инструкциях и предпочтениях пользователей. Для этого варианта точный идентификатор базовой модели в метаданных не указан. Модель предназначена для англоязычных универсальных ассистентов, а также сценариев с ограничениями по памяти, вычислениям или задержке. Принимает текстовые запросы в формате чата и генерирует текст; контекст — до 4096 токенов. Данные включают синтетические учебные материалы, отфильтрованные открытые документы, код и диалоговые примеры; сведения в README указывают на преимущественное обучение на английском. Модель может помогать с ответами на вопросы, объяснениями, рассуждениями и генерацией кода. Возможны неточности и выдуманные утверждения, предвзятые или оскорбительные ответы; качество для языков, отличных от английского, ниже. Для важных и чувствительных сценариев ответы следует проверять. Лицензия — MIT, допускающая коммерческое использование.

TheCluster выпустил MLX-версию Qwen3.5-4B Heretic — мультимодальную диалоговую модель на 4 млрд параметров, доработанную из coder3101/Qwen3.5-4B-heretic. Модель принимает текст и изображения и генерирует текст; поддерживает диалог и режим рассуждений, который по умолчанию отключён. Файлы представлены в формате safetensors с точностью bfloat16 и предназначены для запуска в среде MLX. Версия Heretic создана с помощью Heretic v1.2.0 методом подавления отказов: в приведённой авторами проверке модель отказала в 4 случаях из 100, тогда как исходная Qwen3.5-4B — в 94. Это делает её менее склонной отказываться от запросов, но не гарантирует точность или безопасность ответов. Карточка предлагает разные параметры генерации для общих задач, рассуждений и программирования; повышенный штраф за присутствие может вызывать смешение языков и немного снижать качество. Лицензия — Apache-2.0.

Jackrong/Qwen3.5-9B-GLM5.1-Distill-v1 — экспериментальная модель на 9 млрд параметров, разработанная Jackrong на базе Qwen3.5-9B. Она обучена методом supervised fine-tuning с дистилляцией рассуждений из GLM-5.1, с использованием Unsloth и LoRA. В карточке также указан pipeline image-text-to-text, однако подробности о поддержке изображений не приведены. Модель предназначена для диалогов, следования инструкциям, многошагового рассуждения, математики, STEM-задач, программирования и исследовательских сценариев. Обучающие данные включают очищенные и отфильтрованные наборы с рассуждениями GLM-5.1 и Qwen3.5. Заявлены поддержка английского, китайского, японского и испанского языков, а также улучшенная декомпозиция задач, структурированность ответов и стабильность следования инструкциям. Ожидаемые преимущества модели — более последовательное решение сложных задач, организованная подача результатов и лучшее использование знаний базовой модели. При этом автор подчёркивает, что улучшения для модели такого размера, вероятно, будут постепенными, а не радикальными; подтверждённые количественные результаты и ограничения производительности в README не описаны. Модель распространяется по лицензии Apache-2.0 и ориентирована на локальный inference в формате GGUF, в том числе через llama.cpp. Размер контекста в карточке не указан.

Qwen3.6-14B-A3B-FableVibes-GGUF — модель tvall43 на базе Qwen3.6-14B-A3B-FableVibes, представленная в формате GGUF для запуска на локальном оборудовании. Это обобщённая модель рассуждений, дообученная на трассах рассуждений Claude Fable 5 и дополненная данными Claude Opus, Qwen для tool calling и Evol-Instruct-Code. Модель предназначена для генерации текста, решения сложных задач с многошаговым рассуждением, программирования и сценариев, связанных с вызовом инструментов. Она использует архитектуру MoE с примерно 14B активных параметров после pruning исходной модели Qwen3.6-35B-A3B. Поддерживается мультимодальный режим через файлы mmproj, однако конкретные характеристики контекстного окна и полный перечень поддерживаемых языков не указаны. Модель ориентирована на англоязычные сценарии. К сильным сторонам относятся структурированное рассуждение, улучшенные способности к работе со сложными задачами и возможность запуска на потребительском оборудовании благодаря нескольким вариантам квантования: от F16 до Q2_K. Модель поддерживает llama.cpp и совместимые интерфейсы, включая LM Studio, Ollama и text-generation-webui. Ограничениями являются повышенная задержка до первого токена из-за режима thinking, значительный расход токенов на рассуждение и возможное снижение качества в сильно сжатых вариантах квантования. Распространяется по лицензии Apache-2.0.

Qwen3.6-27B-uncensored-heretic-v2 — мультимодальная модель на 27 млрд параметров, созданная независимым автором на основе Qwen/Qwen3.6-27B методом abliteration. Модель предназначена для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов; автор сообщает о снижении частоты отказов по сравнению с исходной моделью. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером. Базовая модель поддерживает контекст 262 144 токена с возможностью расширения; в карточке указана работа с изображениями и чат-возможности. В README приведены результаты MMLU исходной модели, но сопоставимых результатов для этой версии нет. Модель распространяется в формате safetensors по лицензии Apache-2.0. Уменьшение числа отказов не гарантирует их полного отсутствия, а результаты тестирования базовой модели нельзя считать оценкой качества этой производной версии.

Карточка модели spinochenza/Qwen3.6-27B-uncensored-heretic-v2 на Hugging Face совпадает с карточкой llmfan46/Qwen3.6-27B-uncensored-heretic-v2, поэтому описание составлено по ней. Qwen3.6-27B-uncensored-heretic-v2 — мультимодальная модель на 27 млрд параметров, созданная независимым автором на основе Qwen/Qwen3.6-27B методом abliteration. Модель предназначена для диалогов, работы с изображениями, программирования и агентных сценариев с вызовом инструментов; автор сообщает о снижении частоты отказов по сравнению с исходной моделью. Архитектура — плотная Qwen3.5 с языковой моделью и визуальным энкодером. Базовая модель поддерживает контекст 262 144 токена с возможностью расширения; в карточке указана работа с изображениями и чат-возможности. В README приведены результаты MMLU исходной модели, но сопоставимых результатов для этой версии нет. Модель распространяется в формате safetensors по лицензии Apache-2.0. Уменьшение числа отказов не гарантирует их полного отсутствия, а результаты тестирования базовой модели нельзя считать оценкой качества этой производной версии.

mikelalda/qwen3.8-27b_euskara — Qwen3.8-27B базовая модель, дообученная командой HiTZ методом SFT с LoRA для работы преимущественно на баскском языке. Настройка охватывает диалоговое выполнение инструкций, перевод между баскским, испанским и английским, а также суммаризацию и ответы на вопросы по предоставленному тексту. Модель использует гибридную архитектуру с линейным вниманием и gated delta rule; базовая архитектура обозначена как Qwen3_5ForConditionalGeneration. Обучение затронуло текстовые модули. Размер базовой модели — 27 млрд параметров; веса представлены в BF16, а в карточке также упомянут экспорт GGUF Q4_K_M. Для ускорения линейного внимания рекомендуется flash-linear-attention. Карточка сообщает примерно о 74 тысячах обучающих примеров из корпусов HiTZ и об одном цикле обучения. Качество не оценивалось, поэтому перед практическим применением нужно проверить модель на собственных данных. Рассуждения в режиме thinking не дообучались; переводные данные частично синтетические, а стиль может быть формальным и связанным с баскской прессой и институциональными текстами. Хотя базовая модель мультимодальна, зрительный тракт этой настройки не обучался и не проверялся. В метаданных указана лицензия CC-BY-SA-4.0; карточка отмечает, что правовая применимость этой лицензии к весам спорна и требует проверки.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ4e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, разработанная независимым технологическим проектом KostkaIT на основе huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель предназначена для локального программирования, рассуждений, создания мультимодальных ассистентов и исследовательских задач. Модель поставляется в формате MLX safetensors, оптимизированном для Apple Silicon и совместимого с рантаймом oMLX. Это смешанная квантизация oQ4e: базовые веса представлены в 4-битном формате с group_size 64, а отдельные тензоры сохранены в 5- и 6-битной точности с использованием importance matrix. В репозитории присутствуют конфигурация и процессор для работы с изображениями, vision-тензоры, а также встроенные веса Native MTP с одним скрытым слоем MTP. MTP можно включать или отключать в совместимых версиях oMLX. К сильным сторонам относятся поддержка текста и изображений, более компактное локальное развертывание благодаря квантизации, а также сочетание смешанной точности с Native MTP. Ограничения включают зависимость от оборудования Apple Silicon и совместимого MLX/oMLX-окружения, возможные потери качества из-за 4-битной квантизации и отсутствие в предоставленных данных сведений о языках, размере контекста и точных характеристиках производительности. Модель распространяется по лицензии Apache-2.0.

KostkaIT/Qwen3.8-27B-Huihui-Abliterated-oQ6e-MTP-MLX — мультимодальная версия семейства Qwen3.8-27B, подготовленная независимым технологическим проектом KostkaIT (Łukasz Frąckowiak, vsnake87). Модель является MLX-конвертацией производного варианта huihui-ai/Huihui-Qwen3.8-27B-abliterated и предназначена для локального запуска на компьютерах с Apple Silicon через oMLX и совместимые MLX-рантаймы. Модель поддерживает работу с текстом и изображениями, включая vision-конфигурацию, файлы процессора и необходимые vision-тензоры. В комплект включены нативные веса MTP, предусмотрен один скрытый слой MTP, а в совместимых версиях oMLX эту функцию можно включать и отключать. Модель ориентирована на программирование, рассуждения, мультимодальные ассистенты и исследовательские задачи. Сведения о поддерживаемых языках и размере контекста в карточке не указаны. Используется качественно ориентированное 6-битное affine-квантование oQ6e с group_size 64, importance matrix и сохранением отдельных чувствительных тензоров в 8-битном виде. Веса распространяются в формате MLX safetensors, разделённых на пять файлов. К сильным сторонам относятся сохранение нативной MTP-поддержки и мультимодальных возможностей при уменьшенном размере, а ограничениями — зависимость от Apple Silicon и совместимого MLX/oMLX-окружения, а также потенциальные потери качества, связанные с квантованием; результаты бенчмарков не приведены. Лицензия — Apache-2.0.

Solstice-AI Qwen3.8-27B-TTURBO-Cold-Fusion-709-L-Uncensored-mlx-oQ8e-1M — это релиз модели для Apple Silicon в формате MLX, созданный Solstice-AI на базе дообученной модели DavidAU Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored. Архитектурная основа принадлежит Qwen/Alibaba, дообучение выполнил DavidAU, а смешанную oQ8e-квантизацию подготовила Solstice-AI. В карточке указаны английский и китайский языки, лицензия Apache 2.0 и контекстное окно до 1 048 576 токенов. Модель предназначена для запуска на компьютерах Apple с unified memory и ориентирована на рассуждения, программирование, научные и многодисциплинарные задачи. Заявлены переменная глубина рассуждений через 10-уровневую систему управления thinking, нативная аппаратная Multi-Token Prediction и скорость 58–74 токена в секунду на потребительских и профессиональных чипах Apple Silicon. Формат oQ8e использует смешанную точность и повышенную разрядность для чувствительных компонентов, включая проекции внимания, матрицы MLP и нормализационные тензоры. К сильным сторонам относятся большой контекст, оптимизация под Metal и Apple Silicon, поддержка аппаратного MTP, гибкое управление глубиной рассуждений и ориентация на кодирование и reasoning. Ограничениями являются требование не менее 64 ГБ unified memory для конфигурации oQ8e, зависимость от MLX/mlx-lm и отсутствие в README подробностей о фактической мультимодальности, несмотря на заявленный pipeline image-text-to-text. Модель обозначена как uncensored и abliterated, поэтому её поведение в части отказов от потенциально вредных запросов может отличаться от стандартных версий.

Карточка модели willhx/Qwen3-8B-Base-Math на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Карточка модели willhx/Qwen3-8B-Base-Math-SeaSFT-Search на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Карточка модели willhx/Qwen3-8B-Base-Math-SeaSFT-Search-TauSFT-Tau на Hugging Face совпадает с карточкой Qwen/Qwen3-8B-Base, поэтому описание составлено по ней. Qwen3-8B-Base — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это базовая модель на этапе предобучения, рассчитанная на дальнейшую адаптацию и генерацию текста. В карточке указаны 36 слоёв, 32 головы внимания для Q и 8 для KV; метаданные каталога оценивают размер в 7,6 млрд параметров, а README приводит 8,2 млрд параметров всего и 6,95 млрд без эмбеддингов. Контекст — 32 768 токенов. Модель предназначена для продолжения текста и служит основой для создания специализированных моделей и диалоговых систем. Семейство Qwen3 обучалось на корпусе из 36 трлн токенов на 119 языках; README отмечает отдельное внимание к программированию, STEM, рассуждениям, книгам и многоязычным данным. Модель использует архитектуру Qwen3 для причинного моделирования языка и распространяется в формате safetensors для Transformers. Лицензия — Apache-2.0. Карточка советует использовать актуальную версию Transformers: версии ниже 4.51.0 не распознают архитектуру qwen3. Поскольку это базовая, а не инструктивно настроенная версия, для диалогового применения и следования инструкциям может понадобиться дополнительная настройка.

Qwen3.8-Flash-Next-DERISKED-MTPLX-Optimized-Speed — локальная модель генерации текста, разработанная на основе чекпойнта Blackfrost-AI/Qwen3.8-Flash-Next-DERISKED-BF16 и адаптированная для запуска через MTPLX на компьютерах Apple Silicon. Она предназначена для чата, генерации текста и кода, локального использования, а также контролируемых исследований безопасности и red-team-оценки. Модель не является безопасным production-чекпойнтом: её поведение и поверхность отказов были изменены на уровне весов для операторских исследований. Это квантованная версия архитектуры Qwen 3.8 Flash-Next с гибридной MoE-архитектурой GDN, Qwen Sparse Attention, памятью n-gram на 51 млрд параметров и встроенной головой multi-token prediction. Основная часть экспертов и плотных матриц представлена в 4-битном формате, отдельные компоненты внимания, маршрутизации, эмбеддинги и выходная голова — в 8-битном, а ряд рекуррентных и нормализующих параметров сохраняет 16-битную точность. Модель поддерживает текстовые и визуальные веса, имеет контекстное окно 262 144 токена, адаптивную глубину MTP до трёх токенов и требует около 115,3 ГБ для загрузки. Для работы рекомендуется Apple Silicon Mac с unified memory от 96 ГБ; таблица n-gram объёмом 32 ГБ по умолчанию размещается на SSD. Сильные стороны модели — оптимизация под Apple Silicon, сохранение повышенной точности в ключевых компонентах внимания и ускорение спекулятивной генерации: на M5 Max заявлены 66,2 токена в секунду против 46,6 токена в секунду в авторегрессионном режиме. Ограничения включают высокие требования к памяти и дисковому пространству, зависимость от MTPLX и отсутствие встроенной системы авторизации или полноценной границы безопасности. Рекомендуется использовать аутентифицированные точки доступа, отдельное журналирование запросов и инструментов, минимальные привилегии, песочницы и ручное подтверждение необратимых действий. Указана лицензия qwen-community-1.0 с типом license other; ссылка ведёт на файл LICENSE. Модель наследует статус и ограничения базового DERISKED-чекпойнта Blackfrost-AI.

RoguePlanet-DeepSeek-R1-Qwen-32B — объединённая плотная языковая модель на архитектуре Qwen2, созданная автором nitky методом Model Stock с помощью mergekit. В состав вошли модели японского языка, модели для рассуждений, программирования и инструкционного диалога; размер модели — 32 млрд параметров, контекст — 131 072 токена. Модель принимает текст и генерирует текст в формате диалога. Модель предназначена для генерации ответов с длинными рассуждениями, включая задачи на японском языке. В приведённом автором тесте рассуждений она прошла уровни LV1 и LV2, но не прошла LV3; базовая модель cyberagent/DeepSeek-R1-Distill-Qwen-32B-Japanese не прошла ни один из этих уровней. Для использования рекомендован шаблон {SYSTEM_PROMPT}{USER_MESSAGE}. Модель распространяется по лицензии Apache-2.0. Результаты тестирования ограничены одним набором проверок и указанными параметрами генерации; они не гарантируют качество на других задачах.

SalamandraTA-2b-instruct — многоязычная языковая модель для перевода, разработанная подразделением Language Technologies Unit Барселонского суперкомпьютерного центра (BSC). Она дообучена для выполнения инструкций на основе SalamandraTA-2b-base и предназначена для перевода предложений и абзацев, постредактирования машинного перевода, проверки грамматики, оценки переводов, подготовки альтернативных вариантов, распознавания именованных сущностей и перевода с учетом контекста. Модель имеет плотную архитектуру LlamaForCausalLM и около 1,7 млрд параметров по метаданным; в README приведено точное число 2 253 490 176 параметров. Длина контекста — 8192 токена. Модель ориентирована на 35 европейских языков и три языковые разновидности; языки карточки перечисляют только часть поддерживаемых языков. Она принимает текстовые инструкции и выдаёт текст, а разговорный режим общего назначения не поддерживается. Модель предназначена для исследовательского и коммерческого использования и распространяется по лицензии Apache-2.0. Авторы отмечают, что инструкция-настройка предварительная; оценки возможных смещений и точности по языкам, диалектам и областям применения ограничены, поэтому качество следует проверять для конкретных сценариев.

SentinelLM — плотная авторегрессионная языковая модель семейства Sentinel, представленная в репозитории dusersad12. Карточка описывает обновлённую версию, обученную с дополнительными вычислительными ресурсами и алгоритмической оптимизацией на этапе постобучения. Модель предназначена для генерации текста и диалогов, включая сложные задачи рассуждения, математику, программирование и логику; также заявлена поддержка вызова функций. В README сообщается об улучшении результата на AIME 2024 с 64% до 83,3% и о снижении галлюцинаций относительно предыдущей версии. Для вопросов AIME указано среднее рассуждение объёмом около 19 тысяч токенов. Модель доступна в формате PyTorch для Transformers и распространяется по лицензии Apache-2.0. Длина контекста и поддерживаемые естественные языки в предоставленных данных не обозначены.

Sonoma-1.2B-0901 — продолжение Sonoma-1.2B Preview от Mincofficial, дообученное на основе LiquidAI/LFM2.5-1.2B-Thinking. Это плотная причинная языковая модель семейства LFM2 с 1,5 млрд параметров, предназначенная для генерации текста, диалогов, следования инструкциям, кода и задач на рассуждение. Модель дообучали с помощью assistant-only LoRA ранга 32 на всех 16 блоках, после чего адаптер объединили с весами; карточка указывает контекст 128 000 токенов. Основной формат весов — Safetensors для MLX; в репозитории также есть экспорт GGUF Q4_K_M для llama.cpp. Модель подходит для локального ассистента, написания и объяснения кода, а также ответов на вопросы и математических рассуждений на английском языке. Приведённые оценки относятся к небольшому фиксированному отложенному набору и восьми задачам проверки поведения, поэтому не дают оснований считать их широким сравнительным бенчмарком. Лицензия обозначена как other; перед использованием следует проверить условия репозитория и лицензии источников обучающих данных.

Spark-X2.5-1.7B Community Quants — это набор GGUF-квантизаций модели Spark-X2.5-1.7B, разработанной XHToken. Данные варианты опубликованы сообществом пользователем darioooooo0o и предназначены для локального запуска текстовой генерации, в том числе агентных сценариев с вызовом инструментов, через llama.cpp или совместимую инфраструктуру. Для GGUF требуется форк llama.cpp от XHToken, поскольку архитектура spark2_5 пока не входит в upstream llama.cpp. Модель имеет 1,7 млрд параметров, гибридное внимание с соотношением 3:1 между sliding-window и full attention и поддерживает нативный контекст до 1 млн токенов. Доступны варианты Q8_0, Q6_K, Q4_K_M и IQ4_XS размером примерно от 1,0 до 1,7 ГБ. Квантизация выполнена с использованием importance matrix; варианты рассчитаны на полностью GPU-резидентный запуск, начиная примерно с видеокарт с 4 ГБ памяти, при этом доступный контекст зависит от объёма VRAM и выбранной точности. Сильные стороны модели — компактный размер, высокая скорость декодирования, большой контекст и проверенная поддержка tool calling, включая сложные схемы, параллельные вызовы и многошаговые циклы с результатами инструментов. Ограничение уровня исходной модели — риск бесконечных циклов рассуждений на расплывчатых открытых вопросах; для автономных систем рекомендуется задавать бюджет рассуждений и тайм-ауты. Лицензия — Apache-2.0.

duyntnet/Starling-LM-7B-alpha-imatrix-GGUF — это набор квантованных версий текстовой генеративной модели Starling-LM-7B-alpha, разработанной Berkeley Nest и опубликованной пользователем duyntnet. Модель предназначена для генерации текста, диалоговых сценариев и помощи в программировании на английском языке, включая односторонние и многоходовые беседы. Модель имеет размер около 7 млрд параметров и распространяется в формате GGUF с использованием imatrix-квантования. Она относится к текстовым, а не мультимодальным моделям; поддержка других языков и размер контекстного окна в карточке не указаны. Для диалогов требуется использовать шаблон, совместимый с OpenChat 3.5, а для программирования предусмотрен отдельный формат запроса Code User и Code Assistant. К сильным сторонам относятся поддержка диалогового и кодового режимов, а также доступность квантованных вариантов для запуска в средах, поддерживающих GGUF. При отклонении от рекомендованного шаблона качество может снижаться; в редких случаях ответы бывают избыточно подробными, что можно частично уменьшить настройкой temperature=0. Лицензия указана как other, без дополнительных условий в представленном README.

liamvbetts/t5-small-finetuned-2024-03-12 — дообученная модель семейства T5, созданная на основе ericjiliangli/t5-small-news-summarization. Она содержит 38,5 млн параметров и принимает текст для генерации текста; контекст составляет до 512 токенов. README указывает, что модель оценивалась по метрикам ROUGE и длине генерации, что согласуется с задачей суммаризации новостей. На тестовом наборе приведены значения ROUGE-1 30,158, ROUGE-2 15,0234 и ROUGE-L 25,9885. Модель может использоваться для краткого пересказа новостных текстов. В README не приведены сведения о языках, обучающих данных и условиях лицензии, поэтому её языковую область применения и лицензионные условия по доступным данным определить нельзя.

Tess-M-Creative-v1.0 — экспериментальная модель серии Tess от migtissera для творческих задач: написания текстов, ролевых сценариев, проектирования идей и исследования новых концепций. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 33,9 млрд параметров, обученная на базе Yi-34B-200K; заявленная длина контекста составляет 200 000 токенов. Модель принимает текст и генерирует текст.

buianh0803/text-sum — модель суммаризации текста на базе архитектуры T5, дообученная на наборе CNN/DailyMail. Веса содержат 38,5 млн параметров, формат — PyTorch; базовая модель — buianh0803/Text_Summarization. Модель предназначена для создания краткого пересказа текста, в частности новостных материалов, по образцу данных обучения. В карточке приведены результаты оценки: Loss 1,6668, ROUGE-1 0,2484, ROUGE-2 0,1187, ROUGE-L 0,2056 и ROUGE-Lsum 0,2055. Контекст модели составляет 512 токенов. Лицензия — Apache-2.0. README не описывает поддерживаемые языки или сценарии за пределами суммаризации; качество на длинных текстах и других типах данных отдельно не подтверждено.

Thespis-Krangled-7b-v2 — разговорная языковая модель на архитектуре Mistral, опубликованная cgato. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста; карточка указывает контекст длиной до 32 768 токенов. Для диалога предлагается шаблон с репликами пользователя и бота, совместимый с форматами Oobabooga и SillyTavern. Модель обучалась на смесях наборов Dolphin, UltraChat, Capybara, Augmental, ToxicQA, MagicCoder Evol Instruct, Yahoo Answers, OpenOrca и Airoboros 3.1. Её можно использовать для диалогов, ответов на вопросы и генерации кода. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Карточка не сообщает, на какой базовой модели выполнено дообучение, и не приводит оценки качества или подробных сведений о поддерживаемых языках. Результаты могут зависеть от промпта и выбранного шаблона диалога.

Tower+ 9B — многоязычная языковая модель Unbabel на архитектуре Gemma 2 с 9 млрд параметров. Она создана на основе google/gemma-2-9b и прошла непрерывное предварительное обучение, настройку на следование инструкциям и оптимизацию предпочтений. Модель принимает текст и генерирует текст; контекстное окно составляет 8192 токена. Модель предназначена прежде всего для многоязычных задач, особенно машинного перевода. Она также подходит для выполнения инструкций на разных языках, включая задачи на рассуждение и код, а также для создания синтетических многоязычных данных. В карточке заявлена поддержка 22 языков, включая русский, английский, немецкий, французский, испанский, китайский, японский, хинди и украинский. Модель распространяется в формате Safetensors и доступна через Transformers. Лицензия в метаданных — CC-BY-NC-SA-4.0; README указывает CC-BY-NC-4.0, поэтому условия следует сверить с актуальной лицензией репозитория. Авторы отмечают высокую эффективность в переводе, но не приводят количественных оценок в предоставленной карточке.

bRadu преобразовал TranslateGemma 4B IT в текстовую модель без поддержки изображений. Это плотная причинно-языковая модель Gemma 3 (`Gemma3ForCausalLM`), содержащая около 4 млрд параметров и сохранённая в FP16 в формате safetensors. Веса извлечены из языкового компонента `google/translategemma-4b-it`, а компоненты обработки изображений удалены; для токенизатора используется `google/gemma-3-1b-it`. Модель предназначена прежде всего для перевода текста между языками в формате диалога TranslateGemma, а также для текстовой генерации и локального или серверного запуска, когда обработка изображений не требуется. Контекст составляет до 131 072 токенов; метаданные отмечают поддержку многих языков, но конкретный список языков для этой версии не приведён. Лицензия указана как `other`, поэтому условия использования следует сверить с лицензией репозитория и базовой модели.

Whittle-Qwen-3.8-35B-A3B — экспериментальная языковая модель с архитектурой Qwen3.8-Flash-Next (qwen4_exp), разработанная автором проекта Whittle. Это MoE-модель с 35,1 млрд параметров, включая 10 млрд параметров хешированной n-граммной памяти; на каждом токене активны примерно 3 млрд параметров. Модель получена дистилляцией Qwen3.8-27B на обучающих примерах с математическими задачами, кодом, диалогами, строгим JSON и эпизодами работы агента. По данным метаданных, базовая модель — logic65/Whittle-Next-27B-A3B. Модель предназначена для генерации текста и диалогов, написания кода, математических рассуждений и сценариев с инструментами. Она поддерживает контекст до 262 144 токенов; автор сообщает о запуске через стандартный llama.cpp, а файлы репозитория представлены в safetensors. Английский и китайский указаны среди языков карточки; метаданные также характеризуют модель как многоязычную. Это исследовательский предварительный выпуск: дистилляция охватывает ответы учителя, помещавшиеся в окно обучения 4k токенов, длинные примеры пока не использовались, а этап дистилляции на собственных ответах модели ещё не начат. Автор предупреждает, что модель не следует напрямую сравнивать с Qwen3.8 на равных условиях. Лицензия — Apache-2.0.

Wukong-0.1-Mistral-7B-v0.2-GGUF — это набор квантизированных версий текстовой генеративной модели Wukong-0.1-Mistral-7B-v0.2, опубликованный и подготовленный пользователем bartowski с использованием llama.cpp. Исходная модель разработана RESMPDEV. В README также указаны наборы данных OpenHermes-2.5, CodeFeedback-Filtered-Instruction и Code-Feedback, использованные в связанном с моделью обучении или подготовке. Модель предназначена для генерации текста, выполнения инструкций и задач, связанных с программным кодом. Доступны файлы в формате GGUF с различными уровнями квантизации — от Q8_0 до IQ1_M — что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер исходной модели составляет 7B параметров, однако точные архитектурные характеристики, поддерживаемые языки и длина контекста в README не указаны. Модель работает через llama.cpp; формат шаблона чата явно не задан, поэтому приведённый шаблон может быть неточным. К сильным сторонам относятся широкий выбор квантизаций и возможность локального запуска на устройствах с ограниченными ресурсами. Варианты Q6_K, Q5_K_M, Q5_K_S и Q4_K_M отмечены как рекомендуемые благодаря высокому качеству при меньшем размере, тогда как низкоразрядные варианты экономят память ценой заметного снижения качества. Лицензия — Apache-2.0.