II.2Создание и понимание программного кода

Waiter-1B — модель Adisyonist для ресторанного ПО и POS-систем: она ведёт диалог с пользователем и выбирает backend-функции для выполнения операций. Модель дообучена методом QLoRA на базе google/gemma-3-1b-it на наборе adisyonist/adisyonist-chat; её архитектура — плотная Gemma 3 с 1 млрд параметров, формат весов — Safetensors, контекст — до 32 768 токенов. Модель предназначена для сценариев ресторана: приёма заказов, операций со столами и счетами, бронирования, управления запасами и персоналом, а также подготовки сводок продаж. В ответ она формирует JSON-объект с полями agents и reply: приложение использует agents для вызова функций, а reply показывает пользователю. Данные обучения включают турецкий и английский; документация не подтверждает поддержку других языков. Модель специализирована для интеграции с Adisyonist POS и не рекомендуется как универсальный помощник. Ответы ожидаются в JSON, поэтому для прямого текстового ответа без обработки приложением она не подходит. Лицензия — Gemma Terms of Use.

gdiamos выпустил экспериментальную 30-миллионную модель block-routed MoE с 3,3 млн активных параметров на токен для генерации функций на языке C в узком корпусе инструментов автоматизации проектирования электроники (EDA). Модель дообучена на программе исправления ошибок в реальном C-коде; использует окно внимания 2048 токенов и была обучена на одном ядре Intel AMX с библиотекой Transformers. Модель предназначена для исследования обучения небольших MoE-моделей на CPU и генерации C-кода в диалекте EDA-корпуса и среды выполнения nrl. На отложенных блоках она показала снижение cross-entropy относительно прежней инициализации, однако преимущество по частоте компиляции не подтверждено. Лицензия — Apache-2.0. Это исследовательский артефакт, а не помощник для разработки: точное совпадение на отложенных блоках составило 0%, а многие компилирующиеся результаты являются пустыми заглушками. Выводы следует проверять на соответствие спецификации и полезность, особенно за пределами обучающего корпуса.

Это дообученная модель Qwen3-0.6B от 0xAbhi, предназначенная для преобразования англоязычных команд управления радиоуправляемой машиной в структурированный JSON со списком вызовов инструментов. Например, команда движения вперёд с последующим поворотом превращается в последовательность действий с остановкой в конце. Модель содержит 507,9 млн параметров, использует плотную архитектуру Qwen3ForCausalLM и работает через библиотеку Transformers; максимальный контекст — 40 960 токенов. Модель рассчитана на ограниченный набор команд управления RC-машиной через микроконтроллерный мост: она выбирает действия, задаёт длительность движения, распознаёт числа, заданные словами, и добавляет команду остановки. Длительность движения выдаётся целым числом от 1 до 10 секунд; если она не задана, используется значение 2. Для работы с шаблоном чата требуется отключить режим рассуждений параметром enable_thinking=False. Модель обучена на английских командах из специализированного набора данных и не является универсальным помощником. Она может хуже обрабатывать необычные формулировки и другие языки, а команды геометрических фигур реализуются как приближённые последовательности фиксированных поворотов на 90 градусов. Лицензия — Apache-2.0.

Экспериментальная языковая модель SemSimula, разработанная автором репозитория dimitarpg13, предназначена для генерации текста и изучения влияния путей градиента на обучение консервативного поля внимания. Это исследовательский чекпойнт архитектуры без внимания Transformer, обученный на OpenWebText; в эксперименте использовалась глубина L=2. README не приводит общее число параметров или длину контекста. Вариант сохраняет прямой проход родительской модели, но открывает градиент через обменное поле; потенциал Vφ и компонент ξ по-прежнему используют остановленные градиенты. Указаны итоговая perplexity около 61 и сравнения с родительским и неконсервативным вариантами. Модель рассчитана на англоязычную генерацию текста и исследовательские сравнения динамики обучения, инерции и консервативных механизмов. Результаты получены на одном seed, поэтому устойчивость выводов ограничена; обратный канал включён, и модель в целом не является консервативной. Лицензия — CC BY 4.0.

MineChoice-reward-survival-bucket-update118 — контрольная точка экспериментальной модели, разработанной автором репозитория teyler для обучения выбору действий в Minecraft Java 1.20.4. Это категориальная MLP с 73 структурированными входами и 45 действиями; модель получает состояние игры напрямую, без пикселей и подстановки действий учителя. Веса обучены на 35 реальных переходах награды после достижения этапа изготовления ведра; всего обучение охватило 6175 оптимизированных переходов. Модель предназначена для выбора действий игровыми навыками, реализованными в коде, и сама по себе не является готовым ботом. В указанном продолженном эпизоде ведро было изготовлено из трёх железных слитков, однако это не было непрерывным испытанием в новом мире, а повторяемость результата не измерялась. Успешное прохождение игры и достижение алмазов, Незера и Края для этой версии не подтверждены. Репозиторий содержит веса в формате safetensors и лицензию MIT.

Mr. Pong — агент обучения с подкреплением для игры в настольный теннис, опубликованный пользователем fromziro. Модель использует плотную нейросеть типа MLP с общей частью Actor-Critic: она обрабатывает 16-мерное векторное наблюдение и выбирает одно из трёх действий — оставаться на месте, двигаться вверх или вниз. В README указаны скрытый размер 160 и три слоя; описание архитектуры также упоминает два скрытых слоя по 192 нейрона, поэтому эти сведения расходятся. Агент предназначен для управления ракеткой в 2D-игре в пинг-понг. Его обучали против логических соперников разной сложности, алгоритмов minimax, случайного агента и собственных прошлых и текущих версий. В README заявлен уровень игры гроссмейстера, но результаты оценки не приведены. Модель принимает числовые наблюдения состояния и выдаёт решение о действии; это специализированный игровой агент, а не языковая модель. Лицензия — Apache-2.0.

prabhasa-nyaya 3B order + volume — модель AxisMeru для генерации формализованных доказательств по отдельным положениям индийского законодательства. Это полнопараметрическое дообучение базовой Qwen2.5-3B с архитектурой Qwen2ForCausalLM; модель содержит 3,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она принимает текстовые запросы в специальном формате и выдаёт структурированные построчные доказательства, которые проверяются компилятором Lean 4. Обучение охватывает 14 прочтений законодательных норм, включая отдельные статьи IPC и BNS, а также примеры отказа и определения применимой нормы. В описанной оценке Lean принял 175 из 377 доказательств, но доля ложных доказательств на неприменимых случаях составила 4,88% при указанном пороге безопасности 2%; корректных отказов не было. Качество оценивалось одним запуском на одном наборе данных, а приемлемые результаты зависят от ограниченного декодирования и Lean-проверяющего. Модель предназначена для исследовательских экспериментов по формальной проверке юридических рассуждений, не для юридических рекомендаций. Лицензия Qwen Research Licence разрешает некоммерческое исследовательское использование; коммерческое использование требует разрешения Alibaba Cloud.

Это агент обучения с подкреплением, созданный участником курса Hugging Face Deep Reinforcement Learning Course для задания Unit 8 Part 2. Агент обучен с помощью Sample Factory и асинхронного PPO играть в ViZDoom на уровне doom_health_gathering_supreme: выживать и собирать аптечки, выбирая действия по игровому наблюдению. В README указана средняя награда 23,0 ± 3,5 при пороге решения 5,0. Репозиторий содержит веса PyTorch; модель предназначена для игрового сценария ViZDoom, а не для генерации текста. README не сообщает размер модели, лицензию или подробности состава наблюдений и пространства действий.

TorchWright Doom — E1M1 — это экспериментальная модель на базе Phi-3, разработанная автором репозитория physicsrob для генерации кадров игры DOOM в текстовом виде. Модель авторегрессионно выводит токены, кодирующие перемещения курсора и пиксели, а затем внешний декодер может преобразовать этот протокол в изображение. Вычисление геометрии, освещения и видимости выполняется самой моделью через сгенерированные токены, а не инструментами постобработки. Чекпойнт использует плотную архитектуру Phi3ForCausalLM, содержит 10,9 млрд параметров и принимает контекст до 16 384 токенов. Этот вариант рендерит карту E1M1 с разрешением 80×50; в репозитории также опубликованы варианты 320×200. Для инференса доступны обычные Transformers и формат safetensors, без удалённого кода модели. Указанная конфигурация использует fp32, жадную генерацию и ограничение в 8 000 новых токенов; полный рендер потребовал значительного объёма видеопамяти. Модель подходит для демонстрации генерации игровых сцен посредством языковой модели и изучения авторегрессионного вывода структурированного графического протокола. README не сообщает лицензию, поэтому условия использования определить по доступным сведениям нельзя.

VectraYX-Vision-1B — мультимодальная модель зрения и языка от Juan S. Santillana, представленная как GGUF-экспорт для локального запуска через llama.cpp или Ollama. Она предназначена для анализа скриншотов инструментов кибербезопасности: декомпиляторов IDA и Ghidra, Wireshark, Nmap, Metasploit и Volatility. Модель принимает изображения и текстовые запросы, отвечает по-испански и поддерживает чатовый интерфейс; в карточке также заявлены структурированные визуальные рассуждения и взаимодействие с инструментами через MCP. Архитектура включает визуальный энкодер SigLIP-so400m-patch14-384, MLP-проектор и языковую основу VectraYX-1B с 22 слоями, GQA и SwiGLU. Для мультимодального вывода нужны оба файла: model.gguf и mmproj.gguf; указанный объём файлов — 2,22 ГБ и 823 МБ соответственно, в формате F16. Модель ориентирована на испанский язык, в метаданных также указаны испанский и английский. Лицензия — Apache-2.0. Это экспериментальная инфраструктурная версия, а не релиз с подтверждённым качеством визуального анализа. Автор сообщает, что на приведённых vision-бенчмарках результаты близки к нулю и модель часто игнорирует содержимое изображения; полезные ответы на вопросы по скриншотам пока ожидать не следует. Автор также отмечает, что оценка безопасности вызова инструментов ещё не завершена.

Brazenle/dom-hotdog-rain — экспериментальная модель-ассистент для управления эффектом дождя из хот-догов на портфолио Ричарда Джонса. Она дообучена с помощью LoRA на Qwen/Qwen2.5-0.5B-Instruct; архитектура — плотная Qwen2, размер — 494 млн параметров, контекст — 32 768 токенов. Модель принимает текстовые запросы и генерирует текстовые ответы с вызовами действий для интеграции с веб-страницей. В проверенных сценариях модель сформировала команды для запуска эффекта по запросу «Make it rain hotdogs over the portfolio» и его остановки по запросу «Stop the hotdog rain». Репозиторий включает адаптер PEFT и объединённую 4-битную ONNX-версию для браузерного запуска через Transformers.js; ONNX-файл занимает около 770 МБ. В исходной оценке пройдены 7 из 29 проверок, поэтому модель не подходит как надёжный универсальный ассистент. Результаты для двух команд получены на CPU и не подтверждают производительность на WebGPU или общие возможности модели. Хост-приложение должно проверять предложенные действия перед выполнением. Лицензия — Apache-2.0.

Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

DeepSeek-V2.5-1210 — обновлённая версия языковой модели DeepSeek-V2.5, разработанная DeepSeek. Это плотная авторегрессионная модель семейства DeepSeek-V2 для генерации текста и диалогов; она поддерживает интерфейс вызова инструментов. Версия 1210 улучшает результаты на тестах по математике и программированию, а также качество письма и рассуждений по внутренним тестам разработчика. В README также отмечены сценарии загрузки файлов и суммаризации веб-страниц. Модель подходит для диалоговых приложений, решения математических задач, помощи с кодом, подготовки текстов, рассуждений и суммаризации. Она поддерживает контекст до 163 840 токенов; объём параметров в метаданных указан как 18,1 млрд. Для запуска BF16 в README требуется конфигурация из восьми GPU по 80 ГБ. Модель опубликована в формате safetensors для Transformers. Лицензия обозначена как other, поэтому перед использованием следует проверить условия в карточке модели.

unsloth/Qwen2.5-32B-Instruct — это инструктивная плотная языковая модель на 32 млрд параметров семейства Qwen2.5, распространяемая Unsloth в формате safetensors для библиотеки Transformers. Она предназначена для диалога и генерации текста, включая следование инструкциям, программирование, математику и создание структурированных ответов, например JSON. Модель принимает текст и выдаёт текст; её архитектура — Qwen2ForCausalLM с RoPE, SwiGLU, RMSNorm и групповым запросным вниманием. Метаданные указывают контекст до 32 768 токенов, а README описывает возможность расширения до 131 072 токенов с помощью YaRN; такая настройка может снизить производительность на коротких запросах. README заявляет поддержку более 29 языков, включая русский, английский, китайский, французский, немецкий, испанский, японский и арабский. Модель основана на Qwen/Qwen2.5-32B-Instruct и помечена метаданными как дообучение. Лицензия — Apache-2.0.

Qwen2.5-32B-Instruct-GGUF — языковая instruction-tuned модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для генерации текста, диалоговых сценариев, следования инструкциям, программирования, математических задач, работы со структурированными данными и создания структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе английский, китайский, русский, французский, испанский, немецкий, японский и арабский. Модель представляет собой causal language model в формате GGUF с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в Attention QKV. Она содержит 32,5 млрд параметров, из которых 31 млрд — непараметры эмбеддингов, 64 слоя и GQA с 40 головами для Q и 8 для KV. Полная длина контекста GGUF-версии составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. К сильным сторонам относятся улучшенные знания, возможности в программировании и математике, следование инструкциям, обработка длинных текстов, таблиц и структурированных форматов, а также устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — контекст до 131 072 токенов требует YARN и на данный момент поддерживается только в vLLM; для такого сценария рекомендуется использовать не-GGUF версии. Модель распространяется по лицензии Apache-2.0.

Qwen2.5-72B-Instruct-AWQ — большая инструкционная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалоговых ассистентов, генерации и анализа текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, среди которых английский, китайский, русский, французский, испанский, немецкий, японский, корейский и арабский. Это causal language model с архитектурой на базе transformers, RoPE, SwiGLU, RMSNorm и смещениями в QKV-внимании. Модель содержит 72,7 млрд параметров, 70 млрд параметров без учёта эмбеддингов, 80 слоёв и использует Grouped-Query Attention с 64 головами для Q и 8 для KV. Репозиторий содержит 4-битную AWQ-квантизированную версию instruction-tuned модели. Заявлена поддержка контекста до 131 072 токенов и генерации до 8192 токенов; для входов длиннее 32 768 токенов требуется настройка YaRN, а статическое масштабирование может ухудшать качество или производительность на коротких текстах. Сильные стороны модели — улучшенные знания, способности в программировании и математике, следование инструкциям, генерация длинных текстов, обработка таблиц и других структурированных данных, а также устойчивость к разнообразным системным промптам. Ограничения включают высокие требования к вычислительным ресурсам, возможное снижение производительности на коротких запросах при включённом YaRN и потенциальные потери качества, связанные с 4-битной квантизацией. Модель распространяется по лицензии Qwen; точные условия следует уточнять в файле лицензии репозитория.

Qwen2.5-72B-Instruct-GPTQ-Int8 — инструкционно дообученная крупная языковая модель семейства Qwen2.5, разработанная командой Qwen, связанной с Alibaba Cloud. Это каузальная текстовая модель для диалоговых ассистентов, генерации и обработки текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель содержит 72,7 млрд параметров, из которых 70 млрд не относятся к эмбеддингам, и построена на архитектуре Transformer с RoPE, SwiGLU, RMSNorm, смещениями QKV в механизме внимания и GQA. Она имеет 80 слоёв, 64 головы внимания для Q и 8 для KV. Модель поддерживает более 29 языков, включая английский, китайский, французский, испанский, немецкий, итальянский, русский, японский, корейский, вьетнамский, тайский и арабский. Заявленная длина контекста составляет до 131 072 токенов, а максимальная длина генерации — 8192 токена; для контекстов свыше 32 768 токенов требуется настройка YaRN. К сильным сторонам относятся улучшенные способности к программированию и математике, следование инструкциям, генерация длинных текстов, понимание таблиц и устойчивость к разнообразным системным промптам. GPTQ-квантизация до 8 бит снижает требования к памяти по сравнению с исходной версией, но модель остаётся ресурсоёмкой из-за большого размера. При использовании статического YaRN производительность на коротких запросах может снижаться. Для работы рекомендуется актуальная версия Transformers; лицензия указана как Qwen с отдельным файлом условий.

Qwen2.5-7B-Instruct-GGUF — инструкционная языковая модель, разработанная командой Qwen. Это GGUF-версия модели Qwen2.5-7B-Instruct, предназначенная для диалоговых приложений, генерации текста, следования инструкциям, программирования, математических задач, работы со структурированными данными и формирования структурированных ответов, включая JSON. Модель поддерживает более 29 языков, в том числе русский, английский, китайский, французский, немецкий, испанский, японский и корейский. Модель использует архитектуру causal language model на базе transformers с RoPE, SwiGLU, RMSNorm и смещениями в QKV attention. Она содержит 7,61 млрд параметров, 28 слоёв и механизм GQA с 28 головами Q и 4 головами KV. Полная длина контекста GGUF-версии составляет 32 768 токенов, максимальная длина генерации — 8192 токена. Доступны варианты квантования q2_K, q3_K_M, q4_0, q4_K_M, q5_0, q5_K_M, q6_K и q8_0. Сильные стороны модели — улучшенные следование инструкциям, кодирование, математика, генерация длинных текстов, понимание таблиц и устойчивость к разнообразным системным промптам. Ограничение GGUF-версии — контекст до 131 072 токенов не поддерживается напрямую: для такого расширения README рекомендует использовать не-GGUF версии, а текущая конфигурация с YARN поддерживается только в vLLM. Модель распространяется по лицензии Apache-2.0.

Qwen2-72B-Instruct — большая языковая модель с настройкой для следования инструкциям и диалогов, разработанная командой Qwen. Это плотная decoder-only модель на архитектуре Transformer Qwen2 с 71,5 млрд параметров; в ней используются активация SwiGLU, смещение в проекциях внимания QKV и групповое внимание запросов. Модель принимает текст и формирует текстовые ответы, поддерживает чатовый режим и несколько естественных языков, а также код. Модель предназначена для диалоговых помощников, генерации и понимания текста, ответов на вопросы, рассуждений, математических задач и программирования. Метаданные указывают контекст 32 768 токенов; в README описано расширение до 131 072 токенов с помощью YARN, которое требует соответствующей настройки. Для длинных контекстов авторы отмечают возможное снижение качества на коротких запросах при статическом масштабировании YARN. Модель является дообученной версией Qwen/Qwen2-72B. В репозитории указана лицензия other, поэтому конкретные условия использования следует сверять с файлами лицензии модели. Для запуска рекомендуется Transformers версии 4.37.0 или новее; README также рекомендует vLLM для развёртывания.

Qwen3-14B-FP8 — FP8-квантизированная версия большой языковой модели Qwen3-14B, разработанной командой Qwen. Это каузальная языковая модель для генерации текста, диалогов и выполнения инструкций, поддерживающая переключение между режимом рассуждений для сложной логики, математики и программирования и обычным режимом для эффективного общения. Модель содержит 14,8 млрд параметров, из которых 13,2 млрд не относятся к эмбеддингам, и имеет 40 слоёв. Она использует Grouped Query Attention: 40 голов для запросов и 8 для ключей и значений. Нативная длина контекста составляет 32 768 токенов, а с применением YaRN поддерживается до 131 072 токенов. Модель ориентирована на более чем 100 языков и диалектов и подходит для многоязычных диалогов, перевода, написания текстов, генерации кода, решения математических задач и агентских сценариев с использованием внешних инструментов. К сильным сторонам относятся сочетание рассуждений и быстрого общего диалога в одной модели, развитое следование инструкциям, многоязычность и поддержка интеграции с инструментами. FP8-квантизация с блочным размером 128 предназначена для повышения эффективности хранения и инференса, однако для распределённого запуска в Transformers указаны известные проблемы; при использовании нескольких устройств может потребоваться переменная CUDA_LAUNCH_BLOCKING=1. Модель распространяется по лицензии Apache-2.0.

Qwen/Qwen3-14B-MLX-bf16 — плотная языковая модель семейства Qwen3 от Alibaba, представленная в формате MLX с точностью bf16. Это производная от Qwen/Qwen3-14B-Base модель на 14 млрд параметров для генерации текста, диалогов, следования инструкциям, рассуждений, программирования, перевода и работы с внешними инструментами. В README описаны 40 слоёв и контекст 32 768 токенов; для более длинных входов заявлена возможность расширения до 131 072 токенов с YaRN. Метаданные указывают контекст 40 960 токенов. Модель поддерживает режимы с рассуждением и без него, многоходовый диалог и интерфейс вызова инструментов. Семейство Qwen3 поддерживает более 100 языков и диалектов, включая многоязычное следование инструкциям и перевод. Модель предназначена для локального запуска на совместимом оборудовании и использования в приложениях на базе MLX; карточка также упоминает Transformers. Лицензия — Apache-2.0. Качество и доступный контекст зависят от задачи, настроек генерации и используемого inference-фреймворка.

Qwen3-235B-A22B-Instruct-2507-FP8 — инструкционная causal language model семейства Qwen, разработанная командой Qwen. Это FP8-версия модели Qwen3-235B-A22B-Instruct-2507 для генерации текста и диалогового взаимодействия. Она предназначена для следования инструкциям, понимания текста, логического рассуждения, математики, научных задач, программирования, использования инструментов и открытых субъективных задач, включая генерацию качественного текста. Модель использует архитектуру Mixture-of-Experts: 235 млрд параметров всего, из которых 22 млрд активируются при обработке запроса; 234 млрд параметров относятся к неэмбеддинговым. Архитектура включает 94 слоя, 128 экспертов и 8 активируемых экспертов, а также Grouped Query Attention с 64 Q- и 4 KV-головами. Нативная длина контекста составляет 262 144 токена. Модель поддерживает несколько языков и улучшенное покрытие редких знаний, однако конкретный полный список языков в README не указан. Поддерживается только non-thinking mode: модель не формирует блоки <think></think>. Сильные стороны модели — улучшенные instruction following, рассуждение, кодинг, tool usage, многоязычность, субъективные и открытые задачи, а также обработка длинного контекста. Ограничения включают высокие требования к вычислительным ресурсам, обусловленные общим размером модели, и отсутствие режима thinking. Модель распространяется по лицензии Apache-2.0.

Qwen3-32B-FP8 — языковая модель с авторегрессионной архитектурой causal language model, разработанная командой Qwen. Это FP8-квантизованная версия Qwen3-32B с 32,8 млрд параметров, из которых 31,2 млрд приходятся на неприкрытые эмбеддингом параметры. Модель содержит 64 слоя и использует Grouped-Query Attention: 64 головы для запросов и 8 для ключей и значений. Она распространяется через Hugging Face Transformers и предназначена для генерации текста. Модель подходит для диалогов, следования инструкциям, творческого письма, ролевого взаимодействия, математических и логических задач, генерации кода, перевода, многоязычного общения и агентских сценариев с интеграцией внешних инструментов. Qwen3 поддерживает более 100 языков и диалектов, а также переключение между режимом рассуждений для сложных задач и нережимом рассуждений для более быстрых ответов. Нативная длина контекста составляет 32 768 токенов, а с использованием YaRN может достигать 131 072 токенов. FP8-квантизация с мелкозернистой схемой и размером блока 128 снижает требования к памяти и может повысить эффективность инференса, однако для распределённого запуска в Transformers указаны известные проблемы; при использовании нескольких устройств может потребоваться CUDA_LAUNCH_BLOCKING=1. Для развёртывания рекомендуются актуальные версии Transformers, SGLang или vLLM. Модель распространяется по лицензии Apache-2.0.

unsloth/Qwen3-8B — плотная причинно-авторегрессионная языковая модель семейства Qwen3, основанная на Qwen/Qwen3-8B и опубликованная Unsloth. По карточке модели, она предназначена для генерации текста и диалогов, следования инструкциям, рассуждений, математики и программирования; также поддерживает интерфейс вызова инструментов. Qwen3 позволяет переключаться между режимами рассуждения и обычного ответа. Метаданные указывают 7,6 млрд параметров и контекст до 40 960 токенов; модель распространяется в формате safetensors и рассчитана на использование с Transformers. Карточка базовой модели заявляет поддержку более 100 языков и диалектов, включая многоязычные инструкции и перевод. Модель может быть полезна для чат-ботов, генерации и редактирования текста, помощи с кодом и агентных сценариев с инструментами. Указана лицензия Apache-2.0. Заявленный в README базовой модели размер параметрического набора и длина контекста отличаются от значений метаданных этой записи, поэтому здесь приведены значения метаданных каталога.

Cohere и Cohere Labs разработали Command R7B 12-2024 — авторегрессионную языковую модель на 7 млрд параметров с оптимизированной архитектурой Transformer. Она принимает текст и генерирует текст, поддерживает контекст до 128 тыс. токенов и обучена на 23 языках, включая русский. Модель использует чередование слоёв с локальным скользящим вниманием и глобальным вниманием; после предварительного обучения прошла дообучение с учителем и обучение на предпочтениях. Модель предназначена для диалогов и инструкций, ответов на вопросы, суммаризации, рассуждений, работы с кодом, генерации с дополненной выборкой (RAG) и использования инструментов, в том числе в многошаговых сценариях. Для RAG можно передавать короткие фрагменты документов через шаблон чата; для вызова инструментов предусмотрены шаблоны чата и описания инструментов в формате JSON Schema. Режимы диалога и инструкций подходят соответственно для интерактивных помощников и задач с кратким, целевым ответом. Веса опубликованы по лицензии CC-BY-NC-4.0; также требуется соблюдать политику допустимого использования Cohere Labs. README рекомендует установить Transformers из исходного репозитория для поддержки этой модели. Для практических сценариев с RAG и инструментами следует оценивать качество на собственных данных и корректно передавать результаты вызовов инструментов в историю диалога.

unsloth/Llama-3.1-8B-Instruct-GGUF — это GGUF-версия инструкционно дообученной текстовой модели Llama 3.1 с 8 млрд параметров. Модель разработана Meta, а представленная конвертация и набор форматов опубликованы Unsloth. Она предназначена для генерации текста и кода, диалоговых сценариев, ассистентов и других задач, где требуется следование инструкциям на естественном языке. Модель использует авторегрессионную оптимизированную архитектуру Transformer с Grouped-Query Attention (GQA). Она работает только с текстом на входе и формирует текст или код на выходе, поддерживает английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Максимальная длина контекста составляет 128 тысяч токенов; данные обучения основаны на общедоступных онлайн-данных, дата отсечения знаний — декабрь 2023 года. Инструкционная версия обучалась с применением supervised fine-tuning и reinforcement learning with human feedback. К сильным сторонам относятся мультиязычный диалог, поддержка длинного контекста, генерация кода и возможность запуска в GGUF-совместимых инструментах, включая llama.cpp, Ollama и vLLM. Ограничения модели связаны с текстовой модальностью, статичностью знаний и возможными ошибками или небезопасными ответами; конкретный объём памяти и степень квантования зависят от выбранного GGUF-файла. Использование регулируется коммерческой Llama 3.1 Community License.

casperhansen/llama-3.3-70b-instruct-awq — это AWQ-квантизированная версия языковой модели Llama 3.3 70B Instruct, разработанной Meta и подготовленной в формате AWQ с использованием AutoAWQ. Модель предназначена для многоязычного диалога, генерации текста и кода, рассуждений, решения математических задач, программирования и сценариев с использованием инструментов. Она работает только с текстом на входе и выходе. Модель построена на авторегрессионной оптимизированной архитектуре Transformer, имеет 70 миллиардов параметров, поддерживает Grouped-Query Attention (GQA) и контекст длиной до 128 тысяч токенов. Она обучена на более чем 15 триллионах токенов из общедоступных онлайн-данных, а instruction-версия дополнительно использует supervised fine-tuning и reinforcement learning with human feedback для повышения полезности и безопасности. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков; дата отсечения знаний — декабрь 2023 года. Сильными сторонами модели являются большой контекст, многоязычность и высокие заявленные результаты в задачах следования инструкциям, программирования, математики и понимания текста. К ограничениям относятся текстовая модальность, статичный характер модели и фиксированная дата отсечения знаний; качество и безопасность ответов могут зависеть от конкретного применения и квантизации AWQ. Использование регулируется пользовательской коммерческой лицензией Llama 3.3 Community License Agreement.

unsloth/Meta-Llama-3.1-8B-bnb-4bit — 4-битно квантованная версия языковой модели Meta Llama 3.1 8B, подготовленная с использованием Unsloth. Базовую модель разработала Meta. Это авторегрессионная модель на оптимизированной архитектуре Transformer с Grouped-Query Attention (GQA), предназначенная для генерации текста и кода. Модель работает с многоязычным текстом на входе и генерирует многоязычный текст и код. Заявленная длина контекста составляет 128 тысяч токенов, данные обучения включают более 15 триллионов токенов, дата отсечения знаний — декабрь 2023 года. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель подходит для диалоговых сценариев, обработки текста, генерации кода и дообучения на собственных данных. Ключевое преимущество данной версии — 4-битное представление bnb 4bit, снижающее требования к памяти и упрощающее запуск и дообучение по сравнению с полноразмерной моделью. Ограничения включают текстовую модальность без обработки изображений и зависимость качества от квантования и доступных вычислительных ресурсов. Модель статична и не содержит знаний о событиях после даты отсечения. Для использования указана лицензия Llama 3.1 Community License — специальная коммерческая лицензия Meta.

Карточка модели NostraEmpire/mirror-qwen2.5-32b-instruct на Hugging Face совпадает с карточкой Qwen/Qwen2.5-32B-Instruct, поэтому описание составлено по ней. Qwen2.5-32B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Это плотная авторегрессионная модель на 32 млрд параметров для диалога и генерации текста; поддерживает интерфейс вызова инструментов. В архитектуре используются RoPE, SwiGLU, RMSNorm и смещение в проекциях QKV внимания. Модель предназначена для следования инструкциям, написания длинных ответов, работы с таблицами и другими структурированными данными, а также генерации структурированного вывода, включая JSON. Она также подходит для задач программирования и математики. В README заявлена поддержка более 29 языков, включая русский и английский. Метаданные указывают контекст в 32 768 токенов; для этой версии README рекомендует конфигурацию до 131 072 токенов с YaRN для длинных входов, а генерацию — до 8 192 токенов. Модель распространяется в формате safetensors и работает через Transformers. Лицензия — Apache-2.0. Для контекстов длиннее 32 768 токенов требуется настройка YaRN; статическое масштабирование YaRN в vLLM может ухудшать производительность на коротких текстах.

Mistral-Large-Instruct-2407 — плотная инструктивная большая языковая модель Mistral AI с 122,2 млрд параметров, опубликованная 24 июля 2024 года. Она предназначена для генерации текста, диалогов, математических рассуждений, программирования и работы в агентных сценариях с вызовом функций и формированием JSON. Архитектура — MistralForCausalLM; модель распространяется в формате safetensors. В карточке заявлена поддержка многих языков, включая английский, французский, немецкий, испанский, итальянский, португальский, китайский, японский, русский и корейский. Для этой версии метаданные указывают контекстное окно 32 768 токенов. По карточке, для запуска требуется несколько GPU с суммарной видеопамятью свыше 300 ГБ. Карточка приводит высокие результаты на тестах инструктивного следования, кода и математики. Модель не имеет встроенных механизмов модерации, поэтому её ответы могут требовать внешних ограничителей. Лицензия Mistral Research License разрешает исследовательское и некоммерческое использование, а также модификацию.