II.2Создание и понимание программного кода
В разделе собраны самостоятельные задачи, где AI помогает писать, объяснять и связывать программный код с требованиями и существующей системой. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
21 443 моделиМодель latent-artist/66c200392ff148279a5995ef1455d3de — инструктивно дообученная авторегрессионная языковая модель для генерации текста и диалогов. Она построена на архитектуре Qwen2 и содержит около 1,54 млрд параметров, включая 1,31 млрд параметров без учёта эмбеддингов. Модель разработана автором репозитория latent-artist. Модель предназначена для ответов на инструкции и общения в формате чата. Архитектура включает 28 слоёв, rotary position embeddings, групповой запрос внимания с 12 query heads и 2 key/value heads, RMS-нормализацию и gated feed-forward слои. Длина контекста составляет 32 768 токенов, генерация поддерживает до 8 192 токенов. README заявляет многоязычную генерацию текста; в метаданных указан английский язык. Для загрузки требуется актуальная версия Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. Модель поддерживает чатовый интерфейс и интерфейс вызова инструментов. Карточка не приводит оценок качества или конкретных ограничений применимости; как языковая модель, её ответы требуют проверки на точность и уместность.
fiveflow/8b_128 — генеративная языковая модель, опубликованная пользователем fiveflow на Hugging Face. По метаданным она относится к семейству Qwen3, предназначена для генерации текста и поддерживает conversational-сценарии.
DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная DeepSeek AI. Она построена на архитектуре DeepSeek-V4-Flash, дополненной визуальными модулями и дообученной для понимания изображений. Модель предназначена для мультимодальных агентских сценариев, анализа визуальной информации, работы с диаграммами и задач, где требуется сочетать текстовые и графические входные данные. Для текстовых агентских задач она сохраняет сопоставимую с DeepSeek-V4-Flash-0731 производительность. В репозитории заявлена поддержка OpenAI-style сообщений с блоками изображений и компактного TXT-формата с тегами <image>. Доступны tokenizer, средства кодирования запросов и минимальная реализация инференса на PyTorch, включающая vision encoder и aligner, DFlash attention, Mixture-of-Experts, Hyper-Connections и DSpark forward path. Точные размер модели, длина контекста, перечень поддерживаемых языков и характеристики визуального входа в представленном README не указаны. Сильная сторона модели — улучшенные мультимодальные агентские возможности по сравнению с DeepSeek-V4-Flash-0731; в README приведены результаты на ApexBench, Agents' Last Exam, Chartography и ZeroBench, а также набор текстовых агентских бенчмарков. Ограничения включают экспериментальный статус и отсутствие подробных сведений о масштабах, языках и требованиях к аппаратному обеспечению. Репозиторий распространяется по лицензии MIT.
ThomasBaruzier/gemma-2-9b-it-GGUF — это набор GGUF-квантизаций инструкционно дообученной текстовой модели Gemma 2 9B IT, первоначально разработанной Google. Квантизации созданы с помощью llama.cpp и метода imatrix на основе калибровочного файла Bartowski; исходная модель — google/gemma-2-9b-it. Модель представляет собой decoder-only большую языковую модель для генерации и преобразования текста. Она предназначена для диалогов, ответов на вопросы, суммаризации, рассуждений и других задач текстовой генерации на английском языке. Доступны варианты с разными уровнями квантизации и размером примерно от 2,3 до 17,6 ГБ: от IQ1_S и IQ1_M до Q8_0 и F16. Более компактные варианты требуют меньше ресурсов, но могут сильнее терять качество; по приведённой таблице варианты Q4–Q8 близки к F16 по измеренным показателям perplexity и accuracy. Сильная сторона набора — возможность запускать Gemma 2 9B IT локально или на инфраструктуре с ограниченными ресурсами через llama.cpp, выбирая компромисс между размером и качеством. README не содержит сведений о длине контекста, точной архитектуре, поддерживаемых модальностях кроме текста или полном наборе языков; указано только, что модель доступна на английском языке. Использование регулируется лицензией Gemma от Google; для доступа к модели на Hugging Face требуется принять условия этой лицензии.
SteelStorage/L3.1-Meta-In-15B — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit методом passthrough на основе NousResearch/Meta-Llama-3.1-8B-Instruct. Репозиторий содержит веса в формате safetensors; размер модели — 14,5 млрд параметров, контекстное окно — до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции и запросы в чат-сценариях. В метаданных заявлена поддержка text-generation и возможности chat; базовая модель описана как многоязычная инструктивная модель Llama 3.1. Карточка не приводит результатов оценки качества, поэтому фактические сильные стороны сверх характеристик базовой модели подтвердить нельзя. Лицензия в предоставленных данных не указана.
Llama3.1-8B-Chinese-Chat — языковая модель для генерации текста и диалогового взаимодействия на китайском и английском языках, разработанная Shenzhi Wang, Yaowei Zheng, Guoyin Wang, Shiji Song и Gao Huang. Модель дообучена на основе Meta-Llama-3.1-8B-Instruct с применением метода оптимизации предпочтений ORPO и фреймворка LLaMA-Factory. Обучение проводилось на более чем 100 тысячах пар предпочтений с полным обновлением параметров. Модель предназначена для чат-сценариев, ролевого общения, использования инструментов и function calling, а также решения математических задач. Она имеет 8,03 млрд параметров; заявленная длина контекста составляет 128K токенов, однако для китайской версии эта характеристика не тестировалась разработчиками. Длина контекста, использованная при дообучении, составляла 8192 токена. Доступны версии BF16 и GGUF с квантованиями q4_k_m и q8_0, а также в формате f16. К сильным сторонам относятся ориентация на китайско-английских пользователей, улучшенные возможности ролевого общения, работы с инструментами и математики, а также поддержка запуска через Transformers и llama.cpp. Ограничения включают неподтверждённую практическими тестами длину контекста 128K и возможную нестабильность ответов на вопросы о собственной идентичности и разработчиках. Модель распространяется по лицензии Llama 3.1 License.
LLaMa-3.1-Zeroed-30-70-13B — объединённая языковая модель семейства Llama, созданная сообществом mergekit-community методом линейного слияния двух моделей: LLaMa-3.1-Zeroed-13B с весом 0,3 и LLaMa-3.1-Instruct-Zeroed-13B с весом 0,7. Модель содержит 12,5 млрд параметров, использует архитектуру LlamaForCausalLM и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалогов по инструкциям; в метаданных также указана поддержка интерфейса вызова инструментов. Контекст составляет до 131 072 токенов. README не приводит дополнительных сведений о языках, качестве на конкретных задачах или условиях лицензии, поэтому их нельзя уточнить по предоставленным данным.
Ministral-8B-Instruct-2410-GGUF — квантизированная версия инструкционной языковой модели Ministral-8B-Instruct-2410, разработанной Mistral AI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые и прикладные сценарии на поддерживаемых языках: английском, французском, немецком, испанском, итальянском, португальском, китайском, японском, русском и корейском. Из доступных данных известен размер базовой модели — 8B параметров; сведения о конкретном типе квантизации, архитектуре, размере контекста и численных характеристиках отсутствуют. Ключевые достоинства модели — инструкционная настройка, мультиязычность и возможность использования квантизированной сборки в совместимой с GGUF инфраструктуре. При этом README не содержит результатов тестирования, поэтому качество на отдельных языках и задачах оценить нельзя; также не указаны точные требования к памяти и производительности. Модель распространяется по Mistral AI Research License (MRL-0.1), которая ограничивает использование модели, производных моделей и результатов исследовательскими целями и устанавливает дополнительные требования к распространению, атрибуции и уведомлению о модификациях.
Карточка модели jduhmbd/Mixtral-8x7B-Instruct-v0.1-custom на Hugging Face совпадает с карточкой kallam/Mixtral-8x7B-It-v0.1, поэтому описание составлено по ней. kallam/Mixtral-8x7B-It-v0.1 — диалоговая instruction-модель на основе Mixtral-8x7B от Mistral AI. Это генеративная разреженная архитектура Mixture of Experts, предназначенная для выполнения инструкций и ведения диалога. Модель поддерживает контекст до 32 768 токенов и, согласно README, предназначена для запуска через vLLM; в репозитории также приведены сведения о совместимости с Transformers, хотя карточка предупреждает, что веса пока нельзя непосредственно инициализировать через HF Transformers. Файлы представлены в формате safetensors; лицензия — Apache 2.0. Модель подходит для диалоговых помощников, ответов на инструкции и генерации текста на французском, итальянском, немецком, испанском и английском языках. README описывает её как демонстрацию возможностей дообучения базовой модели и отмечает высокие результаты Mixtral-8x7B в сравнении с Llama 2 70B на проверенных авторами бенчмарках. У модели нет встроенных механизмов модерации, поэтому ответы могут требовать внешних ограничителей и проверки.
mlx-community/Qwen2.5-14B-Instruct-1M-bf16 — преобразованная в формат MLX версия модели Qwen/Qwen2.5-14B-Instruct-1M, подготовленная сообществом mlx-community с помощью mlx-lm 0.21.1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 14 млрд параметров, предназначенная для диалогов и генерации текста; метаданные также указывают интерфейс вызова инструментов. Контекст модели достигает 1 010 000 токенов, что позволяет работать с очень длинными текстами. Модель поддерживает английский язык; данные карточки не подтверждают поддержку других языков. Репозиторий содержит веса в формате safetensors и предназначен для использования с MLX. Лицензия Apache-2.0 допускает коммерческое использование при соблюдении её условий. Это преобразование базовой модели в другой формат, а не отдельное дообучение; фактическая производительность зависит от оборудования и используемой конфигурации MLX.
huginnfork/Qwen3.8-27B-NVFP4A16 — квантизированная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen. Модель предназначена для задач понимания изображений и текста, генерации текста по мультимодальному вводу, а также сценариев, где важны сниженное потребление памяти и ускоренный инференс на совместимом оборудовании. Она поддерживает архитектуру семейства Qwen3.5 с гибридом полноформатного внимания и линейного внимания на базе SSM, vision tower и multi-token prediction head. Точные сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Используется схема NVFP4A16 (W4A16): веса 192 MLP-модулей представлены в 4-битном формате FP4 с групповыми масштабами FP8 E4M3, а активации остаются в bf16. Пути self-attention, linear attention, vision tower, lm_head и MTP head также сохранены в bf16. Размер модели составляет около 28,8 GiB в шести shards против 51,7 GiB для исходной bf16-версии. Такой подход обеспечивает существенное сжатие при сохранении наиболее чувствительных к ошибкам компонентов в более точном формате. Сильными сторонами являются экономия памяти, отсутствие квантизации активаций и сохранение в bf16 attention-, SSM- и визуальных компонентов. По приведённым измерениям, perplexity на wikitext-2-raw выросла с 6,9416 до 7,1497, то есть примерно на 3%, что указывает на некоторую потерю точности относительно родительской bf16-модели. Производительность и совместимость зависят от поддержки NVFP4A16 и используемого программно-аппаратного стека. Модель распространяется по лицензии Apache-2.0.
Qwen3-Reranker-4B-seq-cls — мультиязычная модель для повторного ранжирования текстовых пар, опубликованная tomaarsen как вариант Qwen3-Reranker-4B, преобразованный в модель классификации последовательностей. Она оценивает соответствие запроса и кандидата, чтобы сортировать результаты поиска, извлечения документов и кода. Модель основана на плотной архитектуре Qwen3 с 3,7 млрд параметров; карточка указывает поддержку более 100 языков и контекст до 32 тысяч токенов, а метаданные — 40 960 токенов. Модель подходит для reranking в поисковых и RAG-системах, а также для оценки релевантности текстов и классификации. README рекомендует настраивать инструкцию под задачу и сценарий; для многоязычного применения инструкции советуют писать по-английски. Для работы с Transformers требуется версия 4.51.0 или новее, иначе возможна ошибка распознавания архитектуры Qwen3. Лицензия — Apache-2.0.
tomaarsen/Qwen3-Reranker-8B-seq-cls — версия Qwen3-Reranker-8B, преобразованная в модель классификации последовательностей. Она оценивает релевантность пары «запрос — документ» и подходит для повторного ранжирования найденных текстов, включая многоязычный и кодовый поиск. В каталоге указано 7,6 млрд параметров, архитектура Qwen3ForSequenceClassification и контекст до 40 960 токенов; веса опубликованы в формате safetensors. Модель дообучена на Qwen/Qwen3-8B-Base. README описывает семейство Qwen3 Reranker как мультиязычное, с поддержкой более 100 языков и длинных текстов; в этой копии модель используется через интерфейс классификации последовательностей. Лицензия — Apache-2.0. Для Transformers старше версии 4.51.0 проблем с распознаванием архитектуры Qwen3 не указано; более ранние версии могут выдавать ошибку KeyError: 'qwen3'.
Raptor 0.6.1 preview — компактная плотная языковая модель на архитектуре Spark 2.5, разработанная OsaurusAI как лёгкое дообучение XHToken/Spark-X2.5-4B. Модель содержит 3,8 млрд параметров и предназначена для диалога, рассуждений и работы с инструментами. Поддерживает английский и китайский языки; заявленный контекст — до 1 048 576 токенов. Это сборка JANG_6M для Apple Silicon: веса внимания и связанного эмбеддинга представлены в 8-битном формате, веса MLP используют 6-битный бюджет, а масштабы групп хранятся в bfloat16. Для запуска требуется Osaurus версии 0.25.0 или новее; README отмечает, что стандартная библиотека mlx-lm пока не поддерживает архитектуру spark2_5. Модель распространяется по лицензии Apache-2.0. Это предварительная практическая версия, которая может ошибаться, как и другие модели такого размера. Для сложных запросов цепочки рассуждений могут превышать 8 192 выходных токенов, поэтому нужно учитывать бюджет генерации вместе с входным контекстом. Метаданные также указывают интерфейс вызова инструментов.
SynthIQ-7b — диалоговая языковая модель на архитектуре Mistral, созданная автором репозитория объединением нескольких моделей через mergekit. В карточке указан merge методом Slerp; конфигурация также описывает объединение слоёв двух моделей, а метаданные связывают SynthIQ с несколькими базовыми моделями семейства Mistral. Размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель рассчитана на генерацию текста и диалог на английском языке; автор сообщает о проверке совместимости с AutoGen и CrewAI. Модель подходит для ответов на вопросы, диалоговых ассистентов, рассуждений и выполнения инструкций. README приводит результаты нескольких бенчмарков и варианты квантованных GGUF-файлов, доступные отдельно. Для использования указана лицензия Llama 2; её условия следует учитывать при распространении и коммерческом применении.
SC117/Agents-A1-MTP-APEX-GGUF — сборка модели Agents-A1, подготовленная SC117 в формате GGUF с APEX-квантизацией и слоем Multi-Token Prediction (MTP). Базовая Agents-A1 разработана InternScience: это агентная MoE-модель класса 35 млрд параметров, дообученная на Qwen3.5-35B-A3B. В README также описана версия BF16 и визуальный проектор mmproj-F16 для работы с изображениями и текстом. Модель предназначена для генерации ответов и выполнения многошаговых агентных задач, включая научные рассуждения, поиск и вызов инструментов. README приводит результаты на научных и агентных бенчмарках; GGUF-файлы рассчитаны на запуск через llama.cpp, а также указаны варианты развёртывания через vLLM и SGLang. Для llama.cpp заявлена поддержка контекста до 131072 токенов, для vLLM — до 262144; MTP призван ускорять генерацию. APEX применяет смешанную точность с учётом типа тензоров, а MTP-слой сохраняется в Q8_0. Метаданные указывают форматы GGUF, BF16 и F16. Лицензия — Apache-2.0. Описания производительности и приведённые в README бенчмарки являются заявлениями авторов; качество конкретной квантизированной сборки может зависеть от выбранного файла и среды запуска.
Apertus v1.5 70B text-only GGUF — это квантизированная версия базовой модели swiss-ai/Apertus-v1.5-70B, подготовленная в формате GGUF для запуска через llama.cpp. Модель разработана Swiss AI и предназначена для генерации и обработки текста, включая мультиязычные сценарии. Представленные файлы содержат только текстовый декодер с архитектурой Apertus и примерно 70 млрд параметров; варианты поставляются в квантизациях Q4_K_M и q8_0. Исходная Apertus v1.5 является мультимодальной моделью с компонентами для текста, изображений и аудио, однако в этой сборке vision- и audio-компоненты удалены. Поэтому модель не принимает изображения или аудиоданные и работает исключительно с текстом. Для запуска требуется актуальная версия llama.cpp с поддержкой архитектуры Apertus; vLLM этот GGUF-формат не поддерживает. В README также указано, что для корректной остановки генерации и отображения reasoning необходимо задать специальные параметры запуска. Главное преимущество сборки — возможность запускать Apertus v1.5 через стандартный llama.cpp без специальной ветки SwissAI и без исходных safetensors. При этом это тестовые квантизации без imatrix, измерений perplexity и результатов бенчмарков, поэтому качество и эффективность не были тщательно валидированы. Для опубликованных файлов указана лицензия Apache-2.0.
Citaman/command-r-38-layer — объединённая модель генерации текста на архитектуре CohereForCausalLM, созданная автором репозитория с помощью mergekit. В README указано слияние методом SLERP двух срезов одной модели Citaman/command-r-39-layer со сдвигом диапазонов слоёв; метаданные также связывают модель с этой базовой моделью. Репозиторий содержит веса в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных отмечен интерфейс вызова инструментов. Размер составляет 33,3 млрд параметров, родной контекст — 8192 токена. Условия лицензии и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.
Jebadiah/dolphin-hermes-stone-l3-8b-1m — слитая разговорная языковая модель на архитектуре Llama 3, созданная с помощью mergekit из cognitivecomputations/dolphin-2.9-llama3-8b-1m и NousResearch/Hermes-2-Pro-Llama-3-8B. Модель содержит 7,5 млрд параметров и предназначена для генерации текста в диалогах и ответов на инструкции. Заявленная длина контекста — 1 048 576 токенов. Модель доступна в формате safetensors и рассчитана на использование через Transformers. Карточка не сообщает о специализированной предметной области или поддерживаемых языках. Лицензия в предоставленных данных не указана.
flammen27-mistral-7B — языковая модель на архитектуре Mistral, созданная flammenai путём слияния предварительно обученных моделей flammenai/flammen26-mistral-7B и InferenceIllusionist/Excalibur-7b методом SLERP с помощью mergekit. Модель содержит 7,1 млрд параметров, построена как плотная причинная языковая модель и принимает текст для генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы, в том числе с длинным контекстом. В README приведены результаты Open LLM Leaderboard, включая оценку 69,80 на AI2 Reasoning Challenge и 87,39 на HellaSwag; это результаты оценки, а не гарантия качества для конкретного сценария. Языковая поддержка в предоставленных данных не уточнена. Веса доступны в формате safetensors, библиотека для работы — Transformers. Лицензия — Apache-2.0.
GLM-5.3-Flash-MLX-8bit — это квантованная 8-битная сборка модели GLM-5.3-Flash, разработанной организацией zai-org и адаптированной PipeNetwork для MLX на Apple Silicon. Модель относится к классу смесей экспертов (Mixture-of-Experts), имеет 320 млрд параметров, из которых активно используется 18 млрд (320B-A18B). Архитектура включает 34 слоя Kimi-Delta с линейным вниманием и 11 слоёв DeepSeek sparse attention с NoPE MLA и lightning indexer, а также manifold-constrained hyper-connections. Мультитокенная предсказательная прослойка исключена, а vision tower сохранена в формате bfloat16. Модель предназначена для генерации текста и работы с изображениями и текстом; в README указана модальность image-text-to-text. Сборка рассчитана на запуск через MLX и совместимый runtime на компьютерах Apple Silicon. Размер файлов на диске составляет около 334,1 ГБ. Основная масса параметров, включая маршрутизируемых экспертов, квантована в 8 бит с группами по 64 значения; отдельные служебные параметры хранятся в float32, а vision tower — в bfloat16. Языки и размер контекстного окна в README не указаны. Сильной стороной сборки является существенное уменьшение размера по сравнению с исходной версией bfloat16 объёмом около 642,7 ГБ при близком качестве: заявленная perplexity на wikitext-2 составляет 3,4607. Для корректной работы рекомендуется пропатченный runtime из проекта PipeNetwork, поскольку стандартная ветка mlx-vlm содержит расхождения в вычислениях. Модель распространяется по лицензии MIT; в README также указано, что файлы были конвертированы из upstream-релиза и архитектура модели не изменялась.
Hermes-4-70B-GGUF — это квантизированная версия языковой модели Hermes-4-70B, разработанной NousResearch. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы, создание и преобразование текстов и другие задачи обработки естественного языка. Формат GGUF ориентирован на локальный запуск с использованием совместимых инструментов, включая llama.cpp и LM Studio. В основе модели лежит модель размером 70 миллиардов параметров; точный вариант квантования в README не указан. Модель работает с текстовой модальностью, сведения о поддерживаемых языках и размере контекстного окна не приведены. Квантизация может снизить требования к памяти по сравнению с полноразмерной моделью, но потенциально влияет на точность и качество генерации. Как и другие генеративные модели, она может создавать неточные, вредные или неподходящие ответы. GGUF-квантизация предоставлена командой LM Studio с использованием llama.cpp release b6287, при этом LM Studio не является разработчиком исходной модели. Лицензия в README не указана.
Tech-Meld/HX-Mistral-1.5B_v0.3 — диалоговая языковая модель семейства Mistral, созданная слиянием весов через SLERP в mergekit на основе mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и ответов в чате на пользовательские запросы. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors и использует точность float16 согласно конфигурации слияния. Метаданные классифицируют её как дообученную производную базовой модели, хотя README описывает именно слияние весов; поэтому происхождение указано как merge. Лицензия и заявленные языки в предоставленных данных не обозначены.
LiquidAI/LFM2.5-1.2B-JP-202606-ONNX — это ONNX-экспорт универсальной чат-модели LFM2.5-1.2B-JP-202606, разработанной Liquid AI. Модель предназначена для генерации текста и диалоговых сценариев, включая агентские рабочие процессы, использование инструментов, структурированный вывод и создание двуязычных ассистентов на английском и японском языках. Экспорт поддерживает запуск через ONNX Runtime, Transformers.js и WebGPU в браузере или Node.js. Модель содержит около 1,17 млрд параметров, 16 слоёв, включая 10 double-gated LIV convolution blocks и 6 GQA blocks, поддерживает контекст до 32 768 токенов и словарь размером 65 536 токенов. Доступны варианты FP32, FP16, INT8 и INT4; рекомендуемый для WebGPU файл model_q4f16.onnx сочетает INT4-веса и FP16-компоненты и занимает около 744 МБ. Модель поддерживает английский и японский языки, а дата отсечения знаний указана как середина 2024 года. Ключевые преимущества — небольшой размер, несколько вариантов точности и возможность кроссплатформенного локального запуска, включая браузерный WebGPU. Ограничения включают отсутствие опубликованных в этом README benchmark-результатов и подробностей обучения, а также потенциальные компромиссы между качеством, скоростью и размером при использовании квантованных вариантов. Модель распространяется по лицензии LFM1.0; дополнительные условия следует уточнять в файле LICENSE.
Ling-3.0-tiny-GGUF — лёгкая гибридная reasoning-модель с архитектурой Mixture of Experts (MoE), разработанная командой inclusionAI. Модель предназначена для генерации текста, решения задач, требующих рассуждений, и агентских сценариев, где важны широкие возможности при низкой стоимости инференса. Формат GGUF ориентирован на локальное и ресурсно-ограниченное развертывание. Модель содержит 7,9 млрд параметров, при этом для обработки каждого токена активируется около 1,3 млрд параметров, что снижает вычислительные затраты по сравнению с полным использованием всех параметров. README не сообщает поддерживаемые языки, размер контекстного окна, доступные модальности и конкретные ограничения качества. Модель распространяется по лицензии MIT.
LLaMa-3.1-Zeroed-70-30-13B — объединённая модель семейства Llama, созданная сообществом mergekit-community с помощью mergekit. В линейном слиянии объединены LLaMa-3.1-Zeroed-13B с весом 0,7 и LLaMa-3.1-Instruct-Zeroed-13B с весом 0,3. Модель содержит 12,5 млрд параметров, работает через Transformers и распространяется в формате safetensors. Модель предназначена для генерации текста и диалогов по запросам и инструкциям. Она принимает текст и поддерживает контекст до 131 072 токенов; метаданные также указывают интерфейс вызова инструментов. Карточка не описывает отдельные специализированные области применения или языки. Лицензия в предоставленных данных не указана. Практическое качество, ограничения по языкам и надёжность вызова инструментов README не характеризует.
MaziyarPanahi/Mistral-7B-Instruct-v0.2 — инструктивно дообученная версия языковой модели Mistral-7B-v0.2, опубликованная Maziyar Panahi на основе модели Mistral AI. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, рассчитанная на диалог и выполнение инструкций. Она принимает текстовые запросы в формате Mistral Instruct и генерирует текстовые ответы; поддерживает контекст до 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы, создания и редактирования текстов и других сценариев генерации текста. В README говорится, что версия Instruct служит демонстрацией возможностей дообучения базовой модели. Карточка предупреждает, что у модели нет встроенных механизмов модерации, поэтому сгенерированные ответы могут требовать дополнительной проверки. Модель распространяется под лицензией Apache-2.0.
Это BF16-версия модели Kimi-K2-Thinking, подготовленная автором DevQuasar-2 из исходной INT4-модели moonshotai/Kimi-K2-Thinking с помощью собственного скрипта деквантизации, вдохновлённого скриптом для DeepSeek V3. В метаданных архитектура обозначена как dense, с классом DeepseekV3ForCausalLM; заявлено 37,9 млрд параметров и контекст до 262 144 токенов. Модель предназначена для диалоговой генерации текста.
ArchSpace-Collection публикует экспорт базовой модели OLMo 3 3B после четвертого этапа обучения instruct SFT. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров для генерации текста и диалогового взаимодействия; используется официальная реализация Transformers Olmo3ForCausalLM без необходимости подключать remote code. Репозиторий содержит веса safetensors. Модель обучалась с длиной последовательности 32 768 токенов и поддерживает контекст до 65 536 токенов. Внимание использует скользящее окно 4 096 токенов в слоях SWA и полное внимание в каждом четвертом слое; для полных слоёв применяется YaRN. Карточка не сообщает, на каких естественных языках модель обучена или рассчитана работать. Модель подходит для диалогов и генерации текста, включая сценарии с длинным контекстом; метаданные также отмечают интерфейс вызова инструментов. Это базовый OLMo 3 instruct SFT baseline, а не отдельная модель для специализированной предметной области. Для загрузки README требует Transformers версии не ниже 4.57.6 и ниже 5. Лицензия в предоставленных данных не указана.
NVIDIA Qwen3-235B-A22B-NVFP4 — квантованная версия авторегрессионной языковой модели Qwen3-235B-A22B от Alibaba, подготовленная NVIDIA с помощью TensorRT Model Optimizer. Это разреженная модель архитектуры Qwen3 MoE с общим числом 18,2 млрд параметров; веса и активации линейных операторов в блоках трансформера представлены в FP4. По данным карточки, такая оптимизация уменьшает требования к диску и видеопамяти примерно в 3,3 раза относительно 16-битного варианта. Модель принимает текст и генерирует текст. Она предназначена для развертывания в чат-ботах, агентных системах, приложениях RAG и других приложениях на базе ИИ; каталог также указывает интерфейс для вызова инструментов. Метаданные задают нативный контекст в 40 960 токенов, тогда как README заявляет до 131K токенов. Предпочтительная среда запуска — TensorRT-LLM на GPU NVIDIA Blackwell под Linux. Квантованный вариант рассчитан на более компактный и быстрый инференс, но доступные сведения не позволяют оценить возможные потери качества для конкретных задач. README не раскрывает обучающие данные и указывает автоматическую калибровку на CNN/DailyMail. Лицензия — Apache-2.0; карточка заявляет возможность коммерческого и некоммерческого использования.