I.5Создание и редактирование текста

nanofly-decoder-en — авторская языковая модель igorktech для генерации коротких англоязычных историй. Её рекуррентный слой использует замороженную сеть-резервуар по измеренной схеме связей центрального мозга плодовой мушки; обучаются входная проекция, параметры нейронов и выходной слой. Модель имеет архитектуру FlyForCausalLM, словарь byte-level BPE на 1 024 токена и около 16 млн обучаемых параметров. Она обучена предсказывать следующий токен на наборе TinyStories. Модель предназначена для продолжения коротких детских рассказов на английском языке. Поддерживает генерацию жадным декодированием и сэмплированием; beam search и assisted generation не поддерживаются из-за состояния рекуррентной модели. В сравнении на отложенной выборке замороженный коннектом показал loss 1,933 и perplexity 6,9, но эксперимент использовал один seed и не был завершён сходимостью. Модель узкоспециализирована: по описанию README, она пишет преимущественно о Lily и Tom, а связность имён и объектов ухудшается в пределах абзаца. Это rate-модель с tanh, а не биологически точная спайковая симуляция; использована только центральная часть мозга мушки. Веса распространяются по CC BY 4.0, код моделирования — Apache-2.0.

RS-poke/parseltongue-gpt2 — модель генерации текста на основе GPT-2, дообученная автором репозитория на искусственном корпусе из 5 000 строк. Она генерирует буквенные последовательности, стилизованные под парселтанг — вымышленный язык из серии о Гарри Поттере, с характерными шипящими сочетаниями вроде «sss», «sha» и «has». Модель предназначена для создания загадочных или зловещих фраз в играх, ролевых сценариях и оформлении вымышленных миров. Это авторегрессионная языковая модель GPT-2 в формате Safetensors с контекстом 1 024 токена. Она использует английский токенизатор базовой модели; README предупреждает, что из-за этого модель может не вполне корректно усваивать границы слов вымышленного языка. Она генерирует стилизованные строки, но не переводит текст с японского, английского или других естественных языков на парселтанг. Лицензия в предоставленных данных не указана.

Precontation/sebot-hf — дообученная языковая модель семейства Qwen3, разработанная Precontation. Это плотная причинная языковая модель на 7,6 млрд параметров для генерации текста в диалоговом формате; модель обучалась с использованием Unsloth и библиотеки TRL. Она принимает текст и выдаёт текст, поддерживает контекст до 40 960 токенов и интерфейс вызова инструментов. Модель обучена на сообщениях одного пользователя Discord и задумана как его имитация. Она может подойти для экспериментальных диалогов в этом стиле и генерации похожих сообщений, но качество и применимость за пределами этого сценария не описаны. В README указана лицензия Apache-2.0.

Tinystories-gpt-0.1-3m-GGUF — квантизированная версия языковой модели Tinystories-gpt-0.1-3m, разработанной segestic и дополнительно подготовленной в формате GGUF пользователем afrideva. Модель основана на архитектуре GPT-2 и обучалась на датасете TinyStories. Модель предназначена для генерации текста и продолжения коротких англоязычных историй по заданному приглашению. Она поддерживает сценарии локального запуска и экспериментов с компактными моделями; заявлена интеграция с инструментами Transformers для text generation. Размер модели составляет около 15 МБ, количество параметров — примерно 3 миллиона. Ключевые ограничения — очень малый размер и узкая специализация на англоязычных коротких историях, из-за чего модель не подходит для сложного анализа, достоверных ответов на вопросы или многоязычной генерации. README не содержит сведений о лицензии, конкретном формате квантизации, длине контекста или точных характеристиках GGUF-файлов.

Это компактная языковая модель на архитектуре Qwen3, созданная Дэвидом Хайнеманом на базе Qwen/Qwen3-0.6B. К базовой модели применён небольшой LoRA-адаптер примерно на 4 тыс. параметров, обученный на up-проекции MLP в 13-м слое; репозиторий содержит веса в формате safetensors. Общее число параметров — около 507,9 млн, контекст — до 40 960 токенов. Модель предназначена для генерации текста в диалоге и демонстрации извлечения из весов адреса электронной почты автора по прямому запросу. Это узкий эксперимент с приватными данными, а не универсальная почтовая или деловая модель; результат извлечения может зависеть от формулировки запроса и не гарантирован. README не сообщает лицензию, поэтому условия использования определить нельзя.

Это GGUF-квантизированная версия Meta-Llama-3.1-70B-Instruct, разработанная Meta и предназначенная для запуска с llama.cpp. Модель представляет собой авторегрессионную большую языковую модель на базе оптимизированной архитектуры Transformer. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности ответов. Модель работает только с текстом на входе и генерирует многоязычный текст и код. Она предназначена прежде всего для диалоговых ассистентов, генерации и обработки текста, программирования, синтетической генерации данных и дистилляции других моделей. Заявлены английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель содержит 70 млрд параметров, поддерживает Grouped-Query Attention и контекст длиной до 128 тысяч токенов. Данные обучения включают более 15 трлн токенов, срез знаний — декабрь 2023 года. Сильными сторонами являются большой контекст, многоязычный режим, поддержка кода и оптимизация для диалоговых сценариев. Это статическая модель, обученная на офлайн-данных, поэтому она не обладает актуальными знаниями после даты отсечения и может требовать проверки ответов. Репозиторий содержит квантизированный формат GGUF; для полной поддержки необходима llama.cpp версии 5e2727f или новее. Использование регулируется пользовательской коммерческой лицензией Llama 3.1 Community License и применимой Acceptable Use Policy.

Карточка модели NostraEmpire/mirror-qwen3-14b на Hugging Face совпадает с карточкой Qwen/Qwen3-14B, поэтому описание составлено по ней. Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

Mistral-Large-Instruct-2407-GGUF — квантизированная версия Mistral Large 2, разработанная Mistral AI и подготовленная в формате GGUF сообществом LM Studio; квантизацию выполнил bartowski на основе llama.cpp. Модель предназначена для генерации текста, диалогов, выполнения инструкций, рассуждений, работы с многоязычными запросами, извлечения данных и интеграции в бизнес-приложения через вызов функций. Модель поддерживает контекст до 128 000 токенов, десятки языков, включая английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский, японский, корейский, арабский и хинди, а также более 80 языков программирования, среди которых Python, Java, C, C++, JavaScript и Bash. Ключевые сильные стороны — улучшенное следование инструкциям, диалоговые возможности, retrieval-навыки и поддержка последовательных и параллельных вызовов функций. При этом, как и другие генеративные модели, она может ошибаться или создавать недостоверный контент; конкретные характеристики производительности зависят от выбранного уровня квантизации. Модель распространяется по лицензии MRL-0.1; условия следует проверять в тексте лицензии Mistral.

Qwen2.5-14B-Instruct-GGUF — инструкционная языковая модель из серии Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых приложений, генерации и обработки текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель подходит для локального запуска в формате GGUF, в том числе с использованием llama.cpp. Модель представляет собой causal language model на архитектуре transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV-проекциях внимания. Она содержит 14,7 млрд параметров, включая 13,1 млрд параметров без учёта embedding, 48 слоёв и механизм GQA с 40 головами для Q и 8 для KV. Поддерживаются квантизации q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Полная длина контекста GGUF-версии составляет 32 768 токенов, а максимальная длина генерации — 8192 токена. Серия поддерживает более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский и корейский. Сильные стороны модели — улучшенные способности к программированию и математике, следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, а также устойчивость к разнообразным системным промптам. Для GGUF-версии заявлена поддержка контекста до 131 072 токенов только при использовании YARN в vLLM; для этого сценария рекомендуется обращаться к не-GGUF моделям. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-32B-Instruct-GPTQ-Int4 — 4-битно квантованная GPTQ-версия инструкционно дообученной языковой модели Qwen2.5, разработанной командой Qwen. Это авторегрессионная causal language model для диалогов, генерации и преобразования текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из которых 31 млрд относятся к неэмбеддинговым, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в attention QKV и GQA с 40 головами для Q и 8 для KV. Поддерживаются более 29 языков, включая английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Заявленная длина контекста — до 131 072 токенов, а максимальная длина генерации — 8192 токена; в текущей конфигурации без дополнительной настройки доступно до 32 768 токенов, а для более длинных входов требуется YaRN. К преимуществам относятся улучшенные способности к программированию и математике, соблюдение инструкций, генерация длинных текстов, обработка таблиц и других структурированных данных, а также меньшие требования к памяти благодаря 4-битной квантованию. К ограничениям относятся возможное снижение качества по сравнению с исходной моделью в формате bfloat16 и потенциальное ухудшение производительности на коротких текстах при включении статического масштабирования YaRN. Модель распространяется по лицензии Apache-2.0 и предназначена для использования с библиотекой Transformers и совместимыми средствами инференса.

Это инструкционно настроенная плотная языковая модель Qwen2.5-72B, представленная в репозитории Unsloth и основанная на Qwen/Qwen2.5-72B-Instruct. Она предназначена для диалогов, генерации текстов и структурированных ответов, следования инструкциям, программирования и математических задач. Модель построена на архитектуре Qwen2 с причинным языковым моделированием; в метаданных указано 71,5 млрд параметров и контекст до 32 768 токенов. README описывает архитектуру с RoPE, SwiGLU, RMSNorm и смещениями в QKV-слоях, а также расширение контекста до 131 072 токенов с YaRN при дополнительной настройке. Модель поддерживает многоязычные сценарии, включая китайский, английский, французский, испанский, португальский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Метаданные указывают поддержку чата и интерфейс вызова инструментов. Репозиторий содержит веса safetensors для Transformers; README рекомендует актуальную версию Transformers, а для развёртывания — vLLM. Лицензия указана как other, поэтому конкретные условия следует проверять в карточке модели. Для обработки контекста свыше 32 768 токенов требуется настройка YaRN; постоянный коэффициент масштабирования в vLLM может ухудшить работу на коротких текстах.

Qwen2.5-72B-Instruct-GGUF — большая инструкционная языковая модель из серии Qwen2.5, разработанная командой Qwen. Репозиторий содержит 72-миллиардную версию модели Qwen2.5-72B-Instruct в формате GGUF, предназначенном для локального запуска, в том числе с использованием llama.cpp. Модель относится к авторегрессионным causal language models и предназначена для диалоговых систем, генерации и продолжения текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Поддерживается более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, вьетнамский, тайский и арабский. Модель рассчитана на текстовую модальность. Архитектура включает transformers, RoPE, SwiGLU, RMSNorm и bias в Attention QKV; модель содержит 72,7 млрд параметров, из них 70 млрд без учёта embedding, 80 слоёв и механизм GQA с 64 головами для Q и 8 для KV. Для GGUF указана длина контекста 32 768 токенов и генерация до 8192 токенов. Поддерживаются варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Преимуществами являются улучшенные возможности в программировании и математике, следование инструкциям, генерация длинных текстов и устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — отсутствие штатной поддержки контекста до 131 072 токенов; для такого расширения README рекомендует использовать неквантизованные модели и отмечает поддержку YARN только в vLLM. Модель распространяется по лицензии Qwen, обозначенной как other; точные условия приведены в файле лицензии репозитория.

Qwen2.5-72B-Instruct-GPTQ-Int4 — инструкционно дообученная большая языковая модель семейства Qwen2.5, разработанная командой Qwen при Alibaba Cloud. Это каузальная текстовая модель для диалогов, генерации текста, следования инструкциям, работы с кодом и математическими задачами, понимания таблиц и других структурированных данных, а также формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, итальянский, японский, корейский, арабский и другие. Модель содержит 72,7 млрд параметров, из которых 70,0 млрд приходятся на неэмбеддинговую часть, и включает 80 слоёв. Архитектура использует RoPE, SwiGLU, RMSNorm и смещения в QKV attention; применяется GQA с 64 головами для Q и 8 для KV. Это GPTQ-квантизированная версия с точностью 4 бита, предназначенная для более экономичного развёртывания по сравнению с полноразмерной моделью. Заявлена длина контекста до 131 072 токенов и генерация до 8192 токенов, однако текущая конфигурация репозитория рассчитана на 32 768 токенов; для более длинных входов требуется настройка YaRN. Сильные стороны модели — развитые возможности в кодировании и математике, улучшенное следование инструкциям, генерация длинных текстов, устойчивость к разнообразным системным промптам и работа со структурированными данными. Ограничения включают высокие требования к вычислительным ресурсам из-за размера модели, возможное снижение качества из-за 4-битного квантования и потенциальное ухудшение производительности на коротких текстах при статическом масштабировании YaRN. Модель распространяется по лицензии Qwen; точные условия определяются файлом лицензии в репозитории.

unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

Карточка модели efathakanafunzi/Qwen3-14B на Hugging Face совпадает с карточкой Qwen/Qwen3-14B, поэтому описание составлено по ней. Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

Qwen3-235B-A22B-GGUF — квантованная версия причинной языковой модели Qwen3-235B-A22B, разработанной командой Qwen компании Alibaba Cloud. Модель предназначена для генерации текста, диалогов, следования инструкциям, математического и логического рассуждения, написания кода, творческих задач, ролевого общения, перевода и создания агентных приложений с интеграцией внешних инструментов. Это MoE-модель общим объёмом 235 млрд параметров, из которых 22 млрд активируются при обработке запроса; 234 млрд параметров относятся к не-embedding части. Архитектура включает 94 слоя, 128 экспертов, 8 активных экспертов и Grouped-Query Attention с 64 Q- и 4 KV-головами. Модель поддерживает более 100 языков и диалектов, нативный контекст до 32 768 токенов и до 131 072 токенов с использованием YaRN. Доступны варианты квантования q4_K_M, q5_0, q5_K_M, q6_K и q8_0 в формате GGUF. К сильным сторонам относятся переключение между режимами рассуждения и обычного ответа, развитые способности к математике, программированию, многошаговому рассуждению, диалогам и работе с инструментами. Ограничения связаны с большими требованиями к вычислительным ресурсам из-за общего размера модели, а использование YaRN на относительно коротких текстах может снижать производительность. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-32B-unsloth-bnb-4bit — 4-битная версия языковой модели Qwen3-32B, разработанной командой Qwen и подготовленной Unsloth. Это авторегрессионная causal language model с 32,8 млрд параметров, из которых 31,2 млрд не относятся к embedding, и 64 слоями. Модель поддерживает более 100 языков и диалектов, включая английский, и предназначена для работы через Transformers. Модель подходит для диалогов, следования инструкциям, генерации и анализа кода, математических и логических задач, творческого письма, ролевого взаимодействия, перевода и агентских сценариев с использованием внешних инструментов. Она поддерживает переключение между thinking mode для сложного рассуждения и non-thinking mode для более быстрых ответов в рамках одной модели. Используется Grouped Query Attention: 64 головы для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN может достигать 131 072 токенов. 4-битное представление снижает требования к памяти и делает модель более подходящей для локального запуска и дообучения, однако может сопровождаться потерей точности по сравнению с полноразмерными вариантами. Модель предназначена только для обработки текста; сведения о других модальностях в README отсутствуют. Лицензия — Apache-2.0, согласно ссылке на лицензию базовой модели Qwen/Qwen3-32B.

Qwen-72B — базовая плотная языковая модель на архитектуре Transformer, разработанная Alibaba Cloud в рамках семейства Tongyi Qianwen. В репозитории представлена предварительно обученная модель с 119,4 млрд параметров; она обучена более чем на 3 трлн токенов из веб-текстов, книг, кода, математики и других общих и профессиональных материалов. Это базовая модель, а не диалоговая версия Qwen-72B-Chat. Модель предназначена для генерации текста и служит основой для сценариев продолжения текста, рассуждений, ответов на запросы, работы с кодом и математическими задачами. В README указаны 32 тысячи токенов контекста, словарь размером свыше 150 тысяч токенов и архитектурные компоненты RoPE, SwiGLU и RMSNorm. Основное внимание уделено китайскому и английскому языкам; словарь также рассчитан на поддержку ряда других языков, включая русский. Для запуска BF16/FP16 требуется не менее 144 ГБ видеопамяти, а для варианта Int4 — не менее 48 ГБ. README предупреждает, что при дообучении нужно учитывать особенности tiktoken-токенизатора и специальных токенов. Лицензия в метаданных обозначена как other; конкретные условия следует сверить с лицензией репозитория.

DeepSeek-V2-Chat — диалоговая языковая модель компании DeepSeek AI на архитектуре Mixture-of-Experts (DeepSeekMoE) с механизмом внимания MLA. В README указаны 236 млрд параметров всего и 21 млрд активируемых на каждом токене; метаданные репозитория сообщают 18,1 млрд параметров. Модель дообучена методами supervised fine-tuning и reinforcement learning на базе предварительно обученной DeepSeek-V2. Модель предназначена для диалога, генерации текста, ответов на вопросы, рассуждений и задач по программированию. Она поддерживает контекст до 128 тысяч токенов по README; механизм MLA сокращает KV-кэш. В README приведены результаты оценки на английских и китайских тестах и описаны сильные результаты в открытой генерации и кодировании. Для локального запуска в BF16 README требует восемь GPU по 80 ГБ. Лицензия в метаданных обозначена как other; конкретные условия следует сверять с лицензией репозитория.

GPT-5.6 Terra — языковая модель OpenAI общего назначения, предназначенная для рабочих сценариев, где важен баланс возможностей и стоимости. Она поддерживает рассуждение с настраиваемым уровнем усилий, вызов функций, структурированный вывод и работу с инструментами через Responses API. Модель принимает текст и изображения, а выдаёт текст; заявленное окно контекста — 1 050 000 токенов, максимальный объём ответа — 128 000 токенов. Terra подходит для программирования, анализа и создания документов, поиска по информации и выполнения многошаговых задач с инструментами. В API доступны веб-поиск, поиск по файлам, интерпретатор кода и управление компьютером. OpenAI указывает, что аудио- и видеовходы не поддерживаются. Модель предоставляется через API и сервисы OpenAI; открытая лицензия на веса не указана.

Granite-4.1-8B (FP8) — это FP8-версия 8-миллиардной инструкционной языковой модели Granite-4.1, разработанной командой Granite компании IBM. Модель предназначена для генерации текста, диалогов и использования в качестве основы AI-ассистентов и LLM-агентов, включая корпоративные сценарии. Она поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation, программирование, вызовы функций, многоязычный диалог и Fill-In-the-Middle для кода. Базовая модель построена на decoder-only dense Transformer с GQA, RoPE, SwiGLU, RMSNorm и общими входными и выходными embeddings. Для 8B-варианта указаны 40 слоёв, размер embedding 4096, 32 attention heads, 8 KV heads и контекст до 131072 токенов. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. FP8-квантизация ориентирована на более эффективное развёртывание при сохранении совместимости с инструментами text generation. Сильные стороны модели — улучшенные instruction following, tool calling, чат-возможности, генерация и объяснение кода, математическое рассуждение и поддержка длинного контекста. Ограничения включают возможное снижение качества на языках, отличных от английского, а также риск неточных, предвзятых или небезопасных ответов; IBM рекомендует проводить собственное тестирование безопасности и настройки под конкретные задачи. Модель распространяется по лицензии Apache 2.0.

InternLM2-Chat-20B-SFT — разговорная языковая модель команды InternLM, дообученная методом supervised fine-tuning на базе InternLM2-Base-20B. Она содержит 19,3 млрд параметров и предназначена для диалогов, выполнения инструкций, рассуждений, решения математических задач, программирования, творческого письма и работы с инструментами; в сценариях с подключённым интерпретатором кода поддерживает анализ данных. Модель принимает текст и генерирует текст. В метаданных указан контекст до 32 768 токенов; в README заявлена поддержка контекста до 200 тысяч токенов при использовании LMDeploy. Модель ориентирована на практическое применение и также выпущена для изучения влияния RLHF: версия InternLM2-Chat-20B проходит дополнительное Online RLHF-обучение поверх этой SFT-версии. Для развёртывания описана поддержка Transformers, LMDeploy и vLLM. README предупреждает, что ответы могут содержать предвзятость, дискриминационные или иные вредоносные материалы. В метаданных лицензия обозначена как other; конкретные условия следует сверять с лицензией репозитория.

RedHatAI/Llama-3.3-70B-Instruct-quantized.w8a8 — квантизированная версия языковой модели Llama-3.3-70B-Instruct, разработанная Neural Magic на базе модели Meta. Это текстовая модель формата «текст на входе — текст на выходе», предназначенная для диалоговых ассистентов, генерации текста, решения задач с открытым ответом, математического рассуждения и программирования. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков, а также коммерческого и исследовательского использования. Модель использует архитектуру Llama и имеет 70 млрд параметров в исходной версии. Веса и активации линейных операторов в трансформерных блоках квантизированы в INT8. Для весов применяется статическая симметричная поканальная квантизация, для активаций — динамическая симметричная поточенная квантизация. По данным README, это примерно вдвое снижает требования к видеопамяти и размеру модели, а также может примерно вдвое увеличить пропускную способность матричных умножений. Приведённые примеры развертывания используют vLLM и длину контекста 8192 или 32768 токенов, однако точный нативный размер контекста в README не указан. По результатам внутренней оценки модель сохраняет 99,4% качества исходной версии по OpenLLM v1 и показывает 100% pass@1 на HumanEval и HumanEval+. Она оптимизирована для эффективного инференса, в частности через vLLM и совместимые с OpenAI API серверы, но квантизация может приводить к некоторой потере качества по сравнению с полной точностью. Модель предназначена только для текстовых задач и не поддерживает мультимодальный ввод. Условия использования определяются лицензией Llama 3.3 от Meta; README также исключает применение с нарушением действующих законов и нормативных требований. Модель была валидирована в Red Hat OpenShift AI 2.20, Red Hat AI Inference Server 3.0, Red Hat Enterprise Linux AI 1.5 и vLLM 0.8.4.

Карточка модели Darth-Coder/my-model3-14b-it на Hugging Face совпадает с карточкой Qwen/Qwen3-14B, поэтому описание составлено по ней. Qwen3-14B — плотная авторегрессионная языковая модель семейства Qwen3, разработанная командой Qwen. Это дообученная версия Qwen3-14B-Base с 14 млрд параметров; метаданные указывают на архитектуру Qwen3ForCausalLM и формат safetensors. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, написания кода, перевода и работы с инструментами. Она поддерживает режимы рассуждения и обычного ответа, а также более 100 языков и диалектов. Контекстное окно, указанное в метаданных, составляет 40 960 токенов. Карточка описывает 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для использования требуется библиотека Transformers; модель распространяется по лицензии Apache 2.0. Она принимает текстовые запросы и генерирует текст, а подключение внешних инструментов реализуется через интерфейс приложения.

Qwen2.5-32B-Instruct-AWQ — инструкционно дообученная языковая модель из семейства Qwen, разработанная командой Qwen. Это причинная языковая модель для генерации текста, диалоговых ассистентов, следования инструкциям, написания и анализа кода, решения математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 32,5 млрд параметров, из них 31 млрд — без учёта эмбеддингов, и включает 64 слоя. Архитектура использует RoPE, SwiGLU, RMSNorm, смещения в QKV-внимании и GQA с 40 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию, что может снизить требования к памяти по сравнению с полноточной моделью. Заявлена поддержка более 29 языков, включая английский, китайский, русский, французский, немецкий, испанский, японский и корейский. Полная длина контекста указана до 131 072 токенов, а генерация — до 8192 токенов; при этом текущая конфигурация рассчитана на 32 768 токенов, а для более длинных входов требуется включение YaRN. Сильными сторонами модели являются улучшенные возможности в программировании и математике, следование инструкциям, обработка длинных текстов, понимание таблиц и генерация структурированных данных. При использовании статического YaRN производительность на коротких текстах может снижаться, поэтому его рекомендуется включать только при работе с длинным контекстом. Для загрузки и развёртывания требуются совместимые версии Transformers и поддержка AWQ; в документации рекомендуется vLLM. Модель распространяется по лицензии Apache-2.0.

Карточка модели Gensyn/Qwen2.5-7B-Instruct на Hugging Face совпадает с карточкой unsloth/Qwen2.5-7B-Instruct, поэтому описание составлено по ней. unsloth/Qwen2.5-7B-Instruct — инструктивная языковая модель семейства Qwen2.5, опубликованная Unsloth как производная от Qwen/Qwen2.5-7B-Instruct. Это плотная авторегрессионная модель с 7,1 млрд параметров; карточка указывает архитектуру Qwen2 и поддержку Transformers, а README описывает 28 слоёв, RoPE, SwiGLU, RMSNorm и механизм группового внимания GQA. Метаданные указывают контекст 32 768 токенов. Модель предназначена для диалогов и генерации текста по инструкциям. Она подходит для ответов на вопросы, написания и анализа кода, математических задач, создания длинных текстов и выдачи структурированных ответов, включая JSON. Поддерживает английский, русский, китайский и ряд других языков; заявлена поддержка более 29 языков. Метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. README описывает возможность работы с более длинным контекстом через YaRN, но отмечает, что статическое масштабирование может ухудшить качество или производительность на коротких запросах. Модель выпущена под лицензией Apache-2.0.

Qwen3-235B-A22B — большая языковая модель семейства Qwen3 от команды Qwen, разработанная Alibaba. Это причинная языковая модель архитектуры Mixture of Experts: всего 235 млрд параметров, из которых при генерации активируются 22 млрд; используются 128 экспертов, из них активны 8. Модель доступна в формате safetensors и рассчитана на работу через Transformers. Модель предназначена для диалогов и генерации текста, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и сценариев с вызовом внешних инструментов. В одном чекпойнте можно переключать режимы рассуждения и обычного ответа. README заявляет поддержку более 100 языков и диалектов. Контекст в README указан как 32 768 токенов нативно и до 131 072 с YaRN; метаданные каталога указывают нативную длину 40 960 токенов. Модель принимает текст и выдаёт текст. Репозиторий лицензирован по Apache-2.0. Для практического использования следует учитывать большой общий размер модели и требования к инфраструктуре; README не приводит конкретных аппаратных требований или оценок качества для отдельных задач.

Qwen3-235B-A22B-Instruct-2507 — крупная языковая модель семейства Qwen3 от команды Qwen. Это причинная MoE-модель с 235 млрд параметров всего и 22 млрд активируемых параметров; в архитектуре 94 слоя и 128 экспертов, из которых для обработки активируются 8. Модель работает в режиме без пошагового рассуждения и предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель подходит для следования инструкциям, логических рассуждений, понимания текста, математики, науки, программирования и вызова инструментов. Она рассчитана на многоязычные сценарии и заявляет улучшенный охват редких знаний на разных языках. Нативное контекстное окно составляет 262 144 токена; README описывает расширение до примерно 1,01 млн токенов с использованием Dual Chunk Attention и MInference. К сильным сторонам относятся широкие общие возможности, работа с длинными документами и поддержка интерфейса вызова инструментов. Контекст около миллиона токенов требует специальной настройки и примерно 1000 ГБ суммарной памяти GPU, поэтому такое развертывание предъявляет очень высокие аппаратные требования. Модель распространяется по лицензии Apache-2.0.

Qwen3-30B-A3B — языковая модель семейства Qwen3, разработанная командой Qwen. Это причинная модель с архитектурой mixture-of-experts: в README указаны 30,5 млрд параметров всего и 3,3 млрд активируемых параметров, 48 слоёв и 128 экспертов, из которых для обработки задействуются 8. Модель предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики, программирования, творческого письма, перевода и работы с внешними инструментами. В ней можно переключаться между режимами рассуждения и обычного ответа. Заявлена поддержка более 100 языков и диалектов. Метаданные указывают библиотеку Transformers, формат Safetensors и контекст 40 960 токенов; README описывает нативный контекст 32 768 токенов и расширение до 131 072 с YaRN. Модель дообучена на Qwen/Qwen3-30B-A3B-Base и распространяется по лицензии Apache-2.0. Указанные в README возможности рассуждения и работы с инструментами не заменяют внешнюю проверку ответов и корректную настройку интеграций.