II.2Создание и понимание программного кода

CrossbowReviewer-9B — модель для автоматизированного анализа кода, созданная riposta дообучением Qwen/Qwen3.5-9B-Base. Она принимает код одного файла и вопросы о его свойствах, а для каждого возвращает типизированное решение, уверенность и распределение вероятностей; текст рецензии модель не генерирует. Поддерживаются ответы «да/нет», выбор из нескольких вариантов и оценка по шкале. До 120 встроенных правил охватывают принципы SOLID и проектирования, корректность, обработку ошибок, безопасность, производительность, читаемость, тестирование и идиомы языков. Модель рассчитана на Java, Python, TypeScript, JavaScript, Go, C# и Rust. Архитектура — плотная Qwen3.5 causal language model с 7,2 млрд параметров и контекстом 262 144 токена; доступны веса Safetensors и вариант GGUF Q8_0. По данным README, модель демонстрирует хорошую калибровку и результаты на синтетическом и реальном коде, но синтетические оценки могут завышать качество. Она анализирует только один файл, не сравнивает diff и слабо распознаёт некоторые безопасные случаи в задачах анализа потоков данных, например SQL-инъекций и XSS; такие решения требуют дополнительной проверки. Встроенные правила и промпты англоязычные. Лицензия — Apache-2.0.

DeepSeek-R1-Distill-Qwen-7B-abliterated — дообученная языковая модель на архитектуре Qwen2, созданная Orion-zhen с помощью abliteraton. Она предназначена для диалогов и генерации текста; унаследованная базовая модель DeepSeek-R1-Distill-Qwen-7B ориентирована на многошаговые рассуждения, в том числе по математике и программированию. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. В репозитории представлены веса safetensors, а метаданные отмечают интерфейс для вызова инструментов. Модель поддерживает английский и китайский языки. README не сообщает результатов оценки качества или подробностей обучения; название указывает на применение abliteration, но не описывает его эффект. Лицензия — GPL-3.0.

Deepthink-Reasoning-7B — дообученная PrithivMLmods языковая модель на базе Qwen2.5-7B-Instruct с 7,1 млрд параметров. Она предназначена для диалоговой генерации текста с упором на рассуждения, решение логических задач, математику и программирование; также подходит для творческого письма, следования инструкциям и формирования структурированных ответов, включая JSON. Модель использует архитектуру Qwen2 и принимает текстовые запросы, выдавая текст. В метаданных указан контекст до 32 768 токенов, тогда как README заявляет поддержку до 128 тысяч токенов и генерацию до 8 тысяч; это расхождение стоит учитывать при настройке. Карточка заявляет поддержку более 29 языков, включая русский и английский, но метаданные подтверждают английский. Модель распространяется по лицензии CreativeML Open RAIL-M. Заявления README об улучшениях в математике, коде, следовании инструкциям и длинном контексте не сопровождаются результатами оценивания, поэтому фактическое качество на конкретных задачах следует проверять отдельно.

Dolphin-2.6-mistral-7b-dpo-laser-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser. Модель относится к семейству Mistral и предназначена для генерации текста, включая диалоговые и инструкционные сценарии. В метаданных указан размер 7B, текстовая модальность и поддержка английского языка. Обучение исходной модели связано с наборами данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder и Capybara; также указано DPO дообучение в названии модели. Главная особенность этой версии — поставка в GGUF с вариантами квантования от 2 до 8 бит, что позволяет запускать модель локально с различными компромиссами между размером файлов, требованиями к памяти и качеством генерации. Формат поддерживается llama.cpp и совместимыми приложениями и библиотеками для локального запуска. К ограничениям относятся возможная потеря качества при низкобитном квантовании, отсутствие заявленных характеристик контекстного окна и подробных результатов оценки, а также отсутствие подтверждения поддержки других языков помимо английского. Модель распространяется по лицензии Apache 2.0.

Dolphin3.0-Llama3.2-3B-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin3.0-Llama3.2-3B, опубликованный пользователем bartowski. Базовая модель разработана cognitivecomputations. Модель предназначена для локального запуска в llama.cpp и совместимых приложениях, включая LM Studio, а также для генерации текста, следования инструкциям, решения математических задач, программирования и сценариев с вызовом функций. Модель содержит около 3 млрд параметров и работает с текстом на английском языке. В обучении использовались датасеты для instruction tuning, программирования, математических задач, function calling, агентных сценариев и диалогов. В репозитории представлены варианты от полноточных F32 и F16 до квантизаций Q8_0, Q6, Q5, Q4, Q3 и IQ; размеры файлов варьируются примерно от 1,5 до 12,9 ГБ. Квантизации выполнены с использованием imatrix и llama.cpp. Сильными сторонами являются небольшой размер базовой модели, возможность локального запуска на ограниченных ресурсах и выбор между качеством и потреблением памяти. Более высококачественные варианты Q6 и Q5 отмечены как близкие к исходной модели, а Q4_K_M рекомендован как сбалансированный вариант. Ограничения включают небольшой размер модели, заявленную поддержку только английского языка и снижение качества на более сильной степени квантизации. Для работы рекомендуется использовать указанный chat-шаблон с маркерами ролей. Лицензия указана как llama3.2.

Fidel 1.1 — компактная текстовая авторегрессионная модель от 4E-AI для локальной генерации текста и диалогов. Вариант репозитория содержит веса SafeTensors, токенизатор и реализацию для Transformers; лицензия Apache-2.0 разрешает использование, изменение и распространение на её условиях. Архитектура сочетает восемь блоков Mamba3 MIMO с блоком внимания и латентной смесью экспертов: в каждом блоке маршрутизация выбирает два эксперта из шестнадцати. Метаданные указывают около 498,6 млн параметров, тогда как README сообщает примерно 1,403 млрд элементов с учётом весов и буферов; обозначение 1B относится к семейству модели. Модель принимает текст, поддерживает шаблон чата и включает компоненты для задач программирования. Заявленный предел совокупного ввода и вывода — 8192 токена. Модель предназначена для локальных чат-интерфейсов, генерации и дополнения кода, а также для экспериментов с черновиками, перефразированием, суммаризацией и ответами по переданным текстам. Авторы описывают эти сценарии как направления для самостоятельной проверки, а не гарантии качества. Включённая реализация рассчитана на Transformers и PyTorch; генерация повторно обрабатывает полный префикс без кеширования, поэтому длинные диалоги требуют больше вычислений. Указаны ограничения на точность, батчинг с дополнением, распределение по нескольким устройствам и альтернативные движки обслуживания; ответы и код могут быть ошибочными.

Карточка модели allenai/Flex-public-7B-1T на Hugging Face совпадает с карточкой allenai/FlexOlmo-7x7B-1T, поэтому описание составлено по ней. FlexOlmo-7x7B-1T — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (AI2). Это модель типа Mixture-of-Experts: в ней объединены семь независимо обученных экспертов для публичных данных, новостей, математики, кода, академических текстов, творческого письма и публикаций Reddit. Общий размер указан в карточке как 6,9 млрд параметров, а в README — как 33 млрд; README также сообщает, что публичный эксперт обучен на 1 трлн токенов, а остальные получены его дообучением на отдельных корпусах. Маршрутизатор экспертов не обучен. Модель предназначена для генерации текста и диалогового применения, в том числе для задач, связанных с перечисленными тематическими корпусами. Поддерживает английский язык, работает с текстом и имеет контекст до 4096 токенов. Для запуска README рекомендует Transformers версии 4.57.0 или новее. Репозиторий распространяется под лицензией Apache-2.0. В README приведены результаты оценки по ряду языковых и тематических бенчмарков, однако они относятся к отдельным плотным моделям, а не обязательно к этому MoE-чекпойнту. Отсутствие обученного маршрутизатора ограничивает выводы о фактическом выборе экспертов и качестве итоговой модели.

LCM-Lab/full_streaming_64k_qwen3-4b_MLP8.0_wfrozen — дообученная плотная языковая модель семейства Qwen3 на базе Qwen/Qwen3-4B, опубликованная LCM-Lab. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также указывают интерфейс вызова инструментов. В репозитории используются веса Safetensors, модель содержит около 3,7 млрд параметров и поддерживает контекст до 262 144 токенов. README озаглавлен «Elastic Attention: Test-time Adaptive Sparsity Ratios for Efficient Transformers», что указывает на связь модели с исследованием адаптивной разреженности внимания при работе трансформеров. Лицензия — Apache-2.0. Карточка не раскрывает конкретные результаты тестирования или подробные ограничения качества.

FuseChat-Gemma-2-9B-Instruct — диалоговая модель FuseAI на архитектуре Gemma 2 с 9 млрд параметров. Это вариант FuseChat-3.0, созданный на базе Gemma-2-9B-It с помощью дообучения и неявного объединения знаний: после supervised fine-tuning модель оптимизировали методом Direct Preference Optimization на предпочтениях, собранных по ответам нескольких крупных языковых моделей. Модель предназначена для диалогов и выполнения инструкций, включая общие вопросы, математику, программирование и задачи на китайском языке. Контекст составляет 8192 токена. В README заявлены улучшения на бенчмарках для серии FuseChat-3.0, но приведённые численные результаты относятся к варианту с Llama-3.1-8B-Instruct в качестве целевой модели и не подтверждают такие же показатели для этой версии Gemma. Модель принимает текст и генерирует текст. Она распространяется в формате safetensors; лицензия в предоставленных данных не указана.

G9v3-3B-Heretic-Abliterated-GGUF — плотная каузальная языковая модель с 3 млрд параметров, разработанная командой AI9Stars. Это GGUF-сборка базовой модели Vortecks/G9v3-3B-Heretic-Abliterated, предназначенная для локального запуска на устройствах с ограниченными ресурсами. Модель относится к задачам генерации текста и рассчитана на повседневное использование в роли ассистента, программирование, сценарии с вызовом инструментов и задачи, требующие рассуждений. Заявлена поддержка английского и китайского языков, а также сценариев с длинным контекстом, однако точный размер контекстного окна в README не указан. Сборка представляет собой вариант heretic abliterated: из активационного пространства удалены направления, связанные с отказами, поэтому модель позиционируется как uncensored и обычно отвечает на более широкий круг запросов, чем исходная instruction-tuned версия. Это одновременно является ограничением: у варианта отсутствуют обычные защитные механизмы safety-alignment, поэтому его ответы требуют дополнительной фильтрации и контроля. Доступны варианты GGUF с точностью от F32, F16 и BF16 до различных квантов Q8, Q6, Q5, Q4, Q3 и IQ; размер файлов составляет примерно от 1,4 до 12 ГБ. Квантизации созданы с помощью llama.cpp, а низкобитные варианты IQ1_*–IQ3_XXS — с использованием importance matrix. Модель распространяется по лицензии Apache-2.0. Для запуска и выбора компромисса между качеством, скоростью и потреблением памяти рекомендуется использовать совместимые с llama.cpp GGUF-квантизации; в README отдельно отмечены Q6_K, Q5_K_M, Q5_K_S и Q4_K_M.

duyntnet/gemma-2-27b-it-imatrix-GGUF — набор квантизированных версий instruction-tuned языковой модели Gemma 2 27B IT, опубликованный пользователем duyntnet на базе модели Google gemma-2-27b-it. Формат GGUF предназначен для запуска через llama.cpp и совместимые клиенты, включая KoboldCPP, text-generation-webui и Ollama. Модель относится к задачам генерации текста и поддерживает диалоговое взаимодействие с использованием специального chat template. Известно, что исходные веса модели имеют размер 27 миллиардов параметров и представлены в bfloat16; в данном репозитории опубликованы варианты с квантизацией imatrix. Модель ориентирована прежде всего на англоязычную генерацию, поскольку в карточке указан язык en. Она может применяться для ответов на инструкции, написания текстов, программного кода и других задач text generation. Точный набор квантизаций, размер контекста и архитектурные характеристики в README не указаны. Для запуска подходят llama.cpp и перечисленные совместимые интерфейсы. В README отмечены возможные проблемы Gemma 2 с SDPA и Flash Attention 2, поэтому рекомендуется использовать eager attention; это ограничение относится к исходной модели и способам запуска. Лицензия указана как other, без дополнительных условий в предоставленных данных.

Это мультимодальная чат-модель DavidAU на архитектуре Gemma 3: исходную Gemma 3 27B IT-VL расширили до плотной модели на 40 млрд параметров, а затем дообучили с помощью Unsloth на наборе Gemini reasoning. По описанию автора, дообучение добавляет пошаговое рассуждение; модель также рассчитана на творческое письмо, ролевые сценарии, генерацию кода и работу с изображениями. Карточка заявляет контекст до 128K токенов и проверку обработки изображений и генерации кода. Модель принимает текст и изображения, отвечает текстом и ориентирована прежде всего на английский и китайский языки. Автор позиционирует её как модель с ослабленными ограничениями на генерируемый контент; ответы могут быть резкими, содержать ненормативную лексику или графические описания. В отдельных случаях модель может переключаться в режим инструкций; автор рекомендует явно просить её рассуждать, если это происходит. Распространяется по лицензии Apache-2.0.

HauhauCS/Gemma4-26B-A4B-Uncensored-HauhauCS-Balanced — модифицированная версия Google Gemma 4 26B A4B IT, разработанная HauhauCS. Модель предназначена для генерации текста, творческого письма, ролевых сценариев, задач эмоционального интеллекта, программирования и агентных рабочих процессов с использованием инструментов. Она позиционируется как uncensored-вариант с минимальным количеством отказов; при этом в отдельных пограничных случаях может сначала добавить краткое предупреждение или отклонить запрос, но обычно отвечает после повторного запроса. Модель имеет MoE-архитектуру: около 25,2 млрд общих параметров и 3,8 млрд активных параметров на проход, 128 маршрутизируемых экспертов, top-8 и один общий эксперт. Используются 30 слоёв с гибридным вниманием, включающим пять оконных слоёв на 1024 токена и один слой полного внимания, а также Proportional RoPE. Нативный контекст составляет 256 тысяч токенов. Модель мультимодальная, поддерживает текст и изображения, поставляется с визуальным проектором mmproj и переменным бюджетом визуальных токенов. В README явно указан английский язык. Сильными сторонами заявлены стабильная работа при повторной генерации, сохранение связности в длинных контекстах, высокая пропускная способность благодаря малому числу активных параметров и пригодность для локального запуска через GGUF-совместимые среды, включая llama.cpp и LM Studio. Для сложных агентных задач автор README отмечает превосходство Qwen3.6. Доступны различные варианты квантования размером примерно от 10 до 27 ГБ; рекомендуемый вариант для программирования — Q4_K_P. Модель распространяется по лицензии Apache-2.0.

GLM-4.7-Flash-Uncensored-Heretic-NEO-CODE-Imatrix-MAX-GGUF — это GGUF-квантизированная версия модели GLM-4.7-Flash, разработанная DavidAU на базе Olafangensan/GLM-4.7-Flash-heretic и исходной модели ZAI-ORG. Модель предназначена для генерации текста, рассуждений, программирования, творческого письма, создания сюжетов и сцен, ролевых сценариев, а также работы с жанрами science fiction, horror и romance. Заявлена как uncensored/heretic-версия с удалёнными или ослабленными отказами, однако для получения более откровенного, грубого или эксплицитного текста может потребоваться явное указание желаемой лексики и уровня детализации. В основе используется MoE-архитектура на 30B параметров с тремя или четырьмя? активными экспертами; README указывает четыре активных эксперта и около 2B активных параметров при генерации. Поддерживаются английский и китайский языки. Модель работает на GPU и CPU, поставляется в формате GGUF, использует NEO и Code imatrix-квантизацию, а также 16-битный выходной тензор для повышения качества финального текста и рассуждений. Заявлен контекст до 200 тысяч токенов без RoPE, при этом рекомендуется использовать не менее 8–16 тысяч токенов для длинных ответов. Для запуска требуется актуальная версия llama.cpp; для некоторых конфигураций рекомендуется отключать Flash Attention из-за возможного снижения скорости. Сильными сторонами являются сочетание малой вычислительной нагрузки активной части MoE, поддержка длинного контекста, улучшения для кода и рассуждений, а также возможность локального запуска на CPU и GPU. Возможные ограничения включают зависимость качества и скорости от конкретного кванта, параметров семплирования и программного окружения, а также склонность к длинным или повторно «полирующимся» ответам. Модель распространяется по лицензии MIT.

noctrex/GLM-4.7-MXFP4_MOE-GGUF — квантованная версия языковой модели GLM-4.7 от Z.ai, подготовленная в формате GGUF с применением imatrix на основе данных от Unsloth. Модель предназначена для диалогов и генерации текста; базовая GLM-4.7 рассчитана также на программирование, агентные задачи и рассуждения. MXFP4_MOE обозначает используемый вариант квантования модели типа MoE. Репозиторий содержит формат GGUF, подходящий для запуска в совместимом с ним программном обеспечении. Карточка не сообщает размер модели, длину контекста или поддерживаемые языки напрямую; описание базовой модели указывает на английский и китайский.

Granite-20B-Code-Base-8K — авторегрессионная decoder-only языковая модель для генерации и анализа кода, разработанная IBM Research и обученная с нуля. Модель содержит 20 млрд параметров, использует архитектуру GPTBigCode и принимает контекст до 8192 токенов. Модель предназначена для генерации, объяснения и исправления кода, написания модульных тестов и документации, поиска уязвимостей и перевода кода. Она обучалась на коде 116 языков программирования, а второй этап обучения включал также отобранные данные на естественном языке и математике. Это базовая модель без выравнивания для диалогового следования инструкциям. IBM не рекомендует применять её в новых проектах и предоставляет для исторических и научных целей; для новых приложений предлагаются более поздние модели Granite. Генерируемый код может быть ошибочным или содержать проблемные результаты, поэтому его нужно проверять. Лицензия — Apache 2.0.

Mungert/granite-3.0-8b-instruct-GGUF — квантованная GGUF-версия инструкционной языковой модели Granite 3.0 с 8 млрд параметров. Базовая модель — ibm-granite/granite-3.0-8b-base; модель предназначена для генерации текста и выполнения инструкций, включая рассуждения, ответы на вопросы, работу с кодом, математические задачи и задачи на понимание прочитанного. Разработчик GGUF-сборки — Mungert; исходное семейство моделей разработано IBM Granite. Модель создана с использованием llama.cpp. В README не указаны архитектурные детали, максимальная длина контекста, точный набор языков и конкретные варианты квантования. Упоминается экспериментальный подход к квантованию с повышением точности отдельных важных слоёв с помощью параметра --tensor-type; автор сообщает об улучшении точности на заданном уровне квантования ценой увеличения размера файла. Приведены результаты на англоязычных и многоязычных тестах, включая IFEval, MT-Bench, MMLU, HumanEval, GSM8K, PAWS-X и MGSM, однако их достоверность в метаданных не подтверждена. Модель подходит для локального запуска в совместимых инструментах экосистемы llama.cpp и сценариев, где важны снижение требований к памяти и возможность самостоятельного развертывания. Ограничения связаны с потерями качества, характерными для квантованных моделей, отсутствием подробных сведений о конфигурации и тем, что README не содержит инструкций по выбору конкретного файла квантования. Лицензия указана как Apache 2.0.

onnx-community/granite-4.0-350m-ONNX-web — веб-ориентированная ONNX-версия Granite-4.0-350M, разработанная командой Granite компании IBM. Это компактная instruct-модель, дообученная на открытых наборах инструкций с разрешительными лицензиями и внутренних синтетических данных с использованием supervised fine-tuning, reinforcement learning и model merging. Модель предназначена для запуска через Transformers.js, включая браузерные и on-device сценарии, а также для исследовательского применения и дообучения под специализированные области без значительных вычислительных ресурсов. Модель поддерживает суммаризацию, классификацию и извлечение текста, ответы на вопросы, Retrieval Augmented Generation, задачи, связанные с кодом, function calling, многоязычный диалог и Fill-In-the-Middle-дополнение кода. Заявлены английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки; дополнительные языки могут быть добавлены посредством дообучения. Указанный размер — 350 млн параметров; модель является текстовой, а размер контекста в README не указан. К сильным сторонам относятся малый размер, пригодность для локального и веб-запуска, следование инструкциям, многоязычность и широкий набор прикладных сценариев. Ограничениями являются меньшая емкость по сравнению с более крупными моделями и отсутствие в предоставленных данных подробностей о контекстном окне, точности на конкретных задачах и безопасности применения. Модель распространяется по лицензии Apache 2.0.

Granite-4.0-H-350M-Base — компактная базовая языковая модель IBM Granite Team с архитектурой decoder-only: плотный трансформер с GQA, Mamba2, SwiGLU, RMSNorm и общими входными и выходными эмбеддингами. Модель содержит 278,4 млн параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Она обучена с нуля на смеси открытых и проприетарных данных примерно на 15 трлн токенов. Модель предназначена для генерации текста и может служить основой для суммаризации, классификации и извлечения информации, ответов на вопросы, а также автодополнения кода, включая Fill-in-the-Middle. Компактный размер рассчитан на сценарии с ограниченными ресурсами, в том числе локальное офлайн-развёртывание на мобильных устройствах и IoT-оборудовании. Поддерживаются английский, немецкий, испанский, французский, японский, португальский, арабский, чешский, итальянский, корейский, нидерландский и китайский языки. Модель не проходила safety alignment и может генерировать предвзятые, недостоверные или проблемные ответы; для небольшой модели также отмечен риск воспроизведения фрагментов обучающих данных. Лицензия Apache 2.0.

Herplete-LLM-Llama-3.1-8b — диалоговая языковая модель Replete-AI, созданная слиянием Replete-LLM-V2-Llama-3.1-8b и LoRA-адаптера, извлечённого из Hermes-3-Llama-3.1-8B. Модель построена на плотной архитектуре Llama 3.1 и содержит 7,5 млрд параметров; заявленная длина контекста — 131 072 токена. Репозиторий содержит веса в формате safetensors. Модель предназначена для диалога и генерации текста по инструкциям. Метаданные также отмечают интерфейс вызова инструментов, что позволяет использовать её в сценариях, где ассистент передаёт управление внешним инструментам. Базовая модель Hermes 3 ориентирована на англоязычные инструкции, рассуждения, генерацию кода и вызов инструментов; README описывает непрерывное дообучение модели Replete с использованием LoRA из Hermes 3. Карточка не сообщает отдельные результаты оценки качества или условия лицензии, поэтому их нельзя надёжно указать.

IberianLLM-7B-Instruct — мультиязычная авторегрессионная языковая модель на архитектуре Llama, разработанная LangTech. Модель содержит 6,7 млрд параметров, обучена с нуля на текстах и предназначена для генерации текста и диалогов на иберийских языках, английском и коде. Версия Instruct настроена для следования инструкциям и использует шаблон диалога ChatML; длина контекста составляет 8192 токена. Модель подходит для создания общего разговорного помощника, генерации текста и помощи с кодом. В README указано, что это ранняя демонстрационная версия без выравнивания с помощью RLHF; она может выдавать вредный или неподходящий контент, а качество может различаться между языками и диалектами. Выпущена под лицензией Apache 2.0, допускающей исследовательское и коммерческое использование.

Infinity-Instruct-3M-0613-Mistral-7B — языковая модель Beijing Academy of Artificial Intelligence (BAAI), дообученная на наборах инструкций Infinity-Instruct-3M и Infinity-Instruct-0613. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров с контекстом 32 768 токенов, предназначенная для диалогов и следования инструкциям. Она принимает текст и генерирует текст; карточка указывает английский язык. Модель обучена методом supervised instruction tuning без обучения с подкреплением по человеческим оценкам (RLHF). Авторы сообщают о результатах 25,5 на AlpacaEval 2.0 и 8,1 на MT-Bench, сопоставляя её с рядом более крупных и близких по размеру моделей. Эти результаты приведены авторами и не гарантируют качество на пользовательских задачах. Модель подходит для многошаговых диалогов, ответов на вопросы, написания текстов, а также задач по коду и математике. В README нет подробных сведений об ограничениях по конкретным сценариям; авторы предупреждают, что точность ответов не гарантируется. Лицензия метаданных — Apache-2.0, однако README ограничивает использование связанных ресурсов, включая веса, академическими исследованиями и запрещает коммерческое применение; это ограничение следует учитывать при использовании модели.

NANI-Nithin/Instella-MoE-16B-A3B-Think-GGUF — набор GGUF-квантизаций модели Instella-MoE-16B-A3B-Think, разработанной AMD. Модель предназначена для рассуждений, генерации текста, программирования и выполнения общих инструкций, включая локальный запуск на рабочих станциях, CPU, GPU и периферийных устройствах через совместимые среды llama.cpp. Это MoE-модель архитектуры Instella-MoE, производная от семейства DeepSeek-V3, примерно с 16 млрд общих параметров и около 3 млрд активных параметров на токен. Она является текстовой, англоязычной моделью с контекстом до 32 768 токенов в указанном примере запуска. Репозиторий содержит варианты от Q2_K до Q8_0, IQ-квантизации и BF16; квантизация позволяет снижать требования к памяти с соответствующим компромиссом между качеством и размером. Ключевое ограничение — отсутствие поддержки Instella-MoE в основной ветке llama.cpp на момент подготовки файлов. Для запуска требуется форк llama.cpp с веткой instella-moe либо будущая версия с полной поддержкой архитектуры, включая Gated Attention и FarSkip. Лицензия модели указана как Apache-2.0.

ClaudioItaly/Intelligence-R1-Distill-7B — слитая модель генерации текста на архитектуре Qwen2, созданная автором репозитория с помощью mergekit и метода SLERP из DeepSeek-R1-Distill-Qwen-7B и happzy2633/qwen2.5-7b-ins-v3. Модель содержит 7,1 млрд параметров и рассчитана на диалоговую генерацию текста; в карточке указано контекстное окно 32 768 токенов. Слияние объединяет возможности двух исходных моделей, одна из которых — дистилляция DeepSeek R1 на Qwen. Карточка не описывает отдельные гарантированные преимущества или результаты оценки именно этой слитой версии. Модель распространяется в формате safetensors; лицензия в предоставленных данных не указана.

JiRack DeltaNet 27B — текстовая генеративная модель разработчика CMSManhattan, основанная на архитектуре семейства Qwen3.5 и адаптированная для эффективного инференса на CPU. Модель имеет 22,3 млрд параметров, использует гибридную архитектуру DeltaNet с attention и SSM, поддерживает контекст до 262 144 токенов. Доступны веса Safetensors и варианты GGUF с разными уровнями квантования; заявлена поддержка Ollama и llama.cpp. Модель предназначена для диалогов, программирования, вызова инструментов и использования как экспертной модели в RAG-системах. В README также заявлены сценарии маршрутизации запросов, мультимодальных задач и робототехники, однако метаданные указывают только text-generation, а само описание не содержит подтверждённых деталей о работе с изображениями, видео или аудио. Заявлена поддержка языков от английского и русского до китайского, японского, корейского и ряда европейских и азиатских языков. Метаданные указывают лицензию MIT для модели. README отдельно сообщает, что Docker-образы, предварительно собранные квантизации для Ollama и интерфейсы JiRack могут распространяться на коммерческих условиях; условия их использования следует проверять отдельно. Заявления о качестве и скорости не сопровождаются результатами сравнительных оценок.

Kanana-2-1.3B-Instruct — компактная языковая модель Kakao для диалогов и выполнения инструкций. Это плотная авторегрессионная модель примерно с 1 млрд параметров, полученная из Kanana-2-3B с помощью каскадного pruning и дистилляции, а затем настроенная для следования инструкциям. Модель использует гибридное внимание: три слоя Sliding Window Attention на каждый слой полного внимания; размер окна — 1024 токена. Поддерживает контекст до 32 768 токенов и снижает расход памяти KV-кэша при длинном контексте. Модель рассчитана на компактное развёртывание, в том числе на устройствах с ограниченными ресурсами. Она предназначена для общения и генерации текста по инструкциям; в карточке серии также описаны оценки для задач работы с инструментами, кода, математики и знаний. Токенизатор повышает эффективность обработки корейского языка по сравнению с предыдущим поколением Kanana. Для запуска доступны Transformers с пользовательским кодом архитектуры, vLLM и SGLang с настройкой из репозитория. Лицензия в метаданных указана как other; конкретные условия следует сверить с файлами лицензии репозитория. Для SGLang карточка рекомендует версию 0.5.1 и предупреждает о снижении точности и скорости при использовании backend flashinfer.

Liberalis Cogitator Llama 3.1 8B — разговорная текстовая модель Locutusque, дообученная на базе meta-llama/Llama-3.1-8B примерно на 450 тысячах диалогов, задач и историй. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для генерации текста и диалогов; заявленная длина контекста — 131 072 токена. В карточке указана поддержка английского языка. Модель ориентирована на решение STEM- и логических задач, программирование, ролевые диалоги, рассказы и построение вымышленных миров. В обучающих данных также использовались синтетические диалоги пациента и психолога, однако карточка не подтверждает пригодность модели для профессиональной психологической помощи. Автор предупреждает, что ответы могут быть ошибочными, необычными или спорными и что модель не знает актуальных событий. Лицензия — Llama 3.1; её условия определяются лицензией Meta Llama 3.1.

Apollo Raines опубликовал вариант Llama 3.1 8B Instruct, изменённый инструментом jBlaze методом representation engineering. По описанию автора, дополнительного обучения не было: изменения в весах подавляют отказы и уклончивые формулировки, чтобы ответы были более прямыми. Модель предназначена для диалоговой генерации текста, ответов на вопросы и выполнения инструкций, включая задачи по программированию. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она принимает текст и выдаёт текст; в карточке указаны английский язык и контекст до 131 072 токенов. Автор характеризует релиз как демонстрационную версию с намеренно сниженной полнотой возможностей. Указана лицензия Llama 3.1; свойства изменения отказов могут влиять на безопасность ответов, а заявленных автором проблем не обнаружено.

Llama-3.1-Minitron-4B-Width-Base — базовая текстовая языковая модель NVIDIA для генерации текста и последующей адаптации под задачи обработки естественного языка. Это авторегрессионный трансформер-декодер семейства Llama 3.1 с 3,9 млрд параметров, 32 слоями, Grouped-Query Attention и RoPE. Модель получена сокращением размерностей Llama-3.1-8B с последующим продолженным обучением и дистилляцией на 94 млрд токенов. Модель принимает текст и генерирует текст. Обучающий корпус включал английские и многоязычные тексты, а также код; среди тематик данных были право, математика, наука и финансы. Контекст модели — до 131 072 токенов по метаданным, хотя в README отмечено, что она хорошо работает с входами длиной до 8 000 символов. Модель предназначена для коммерческого использования; лицензия указана как other, поэтому перед внедрением следует проверить применимые условия NVIDIA. Это базовая, а не готовая к диалогу инструкционная модель: для прикладных сценариев может потребоваться дообучение или настройка промптов. Модель может выдавать неточные, неполные, нерелевантные или повторяющиеся ответы, а также воспроизводить токсичность и смещения, присутствующие в обучающих данных.

failspy/Llama-3-8B-Instruct-MopeyMule — разговорная языковая модель на базе семейства Llama 3, разработанного Meta. Она предназначена для диалоговых сценариев и генерации текста и кода; подходит для создания ассистентов, ответов на запросы и других задач генерации на естественном языке. Модель использует авторегрессионную архитектуру Transformer с Grouped-Query Attention (GQA) и содержит около 7,5 млрд параметров. Она принимает текст, выдаёт текст и рассчитана прежде всего на английский язык. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors. В README указана лицензия Meta Llama 3 с условиями коммерческого и исследовательского использования, а также ограничениями Acceptable Use Policy. Базовая карточка описывает семейство Llama 3 и не подтверждает отдельно происхождение или дополнительные особенности варианта MopeyMule.