II.1Анализ требований и архитектура ПО

Falcon-H1-3B-Base — базовая языковая модель семейства Falcon-H1, разработанная TII (Technology Innovation Institute). Это плотная авторегрессионная модель с декодером, объединяющая архитектуры Transformer и Mamba; она предназначена для генерации текста и служит основой для дальнейшей адаптации под конкретные задачи. В README представлены результаты оценки на общих задачах и рассуждениях. Модель работает с текстом и поддерживает перечисленные в карточке языки, включая английский, русский, арабский, хинди, японский и китайский. Размер по метаданным — 2,2 млрд параметров, нативное контекстное окно — 131 072 токена. Для запуска указана поддержка Transformers, vLLM и форка llama.cpp. Лицензия — Falcon-LLM License; перед использованием следует проверить её условия для своего сценария.

gemma-2-27b-it-IMat-GGUF — это GGUF-квантизированная версия модели Gemma 2 27B Instruction Tuned, разработанной Google. Версия подготовлена пользователем legraphista с помощью llama.cpp и предназначена для локального запуска задач генерации текста и диалогового взаимодействия в совместимых средах, включая llama.cpp. Модель основана на исходной версии google/gemma-2-27b-it с исходным форматом BF16. Доступны варианты от BF16 и FP16 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и ряда IQ-вариантов размером примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера. README не содержит достоверных сведений о поддерживаемых языках, длине контекста, модальностях помимо текста или конкретных результатах тестирования. Основное преимущество сборки — широкий выбор уровней квантизации для подбора компромисса между качеством, требованиями к памяти и скоростью локального вывода. Ограничения связаны с большими требованиями к ресурсам даже у компактных вариантов, а качество низкобитных версий может отличаться от исходной модели. Для доступа и использования действует лицензия Gemma от Google; на Hugging Face требуется принять условия лицензии.

Это квантизированная GGUF-версия текстовой генеративной модели gemma-2-27b-it-SimPO-37K, созданная пользователем bartowski на основе AALF/gemma-2-27b-it-SimPO-37K. Квантизация выполнена с помощью llama.cpp b3615 и метода imatrix; модель предназначена для запуска локально, в том числе через LM Studio. Модель относится к семейству Gemma 2 и имеет размер 27B параметров. Она работает с текстом и предназначена для генерации ответов в диалоговом формате с использованием специального шаблона prompt format Gemma. В README не указаны поддерживаемые языки, размер контекстного окна и точные сведения об архитектуре или исходном обучении, поэтому эти характеристики нельзя надежно определить. Доступно множество вариантов квантизации от F16 до Q2_K и IQ2_M, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Варианты Q6_K и Q6_K_L описаны как близкие к исходному качеству, а Q4_K_M — как компромиссный вариант. Более сильная квантизация экономит память, но снижает качество; самые компактные варианты характеризуются как низкокачественные. Модель распространяется по лицензии Gemma.

bartowski/gemma-2-9b-it-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Gemma 2 9B IT, разработанной Google и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и другие задачи, где требуется выполнение инструкций. Доступны варианты от F32 до низкобитных Q2 и IQ-квантизаций объёмом примерно от 3,43 до 36,97 ГБ. Модель является текстовой и использует архитектуру Gemma 2 с примерно 9 млрд параметров. README не указывает поддерживаемые языки и размер контекста. Для работы необходимо применять специальный формат prompt с маркерами начала и конца хода; системные сообщения не поддерживаются. Квантизации с более высокой точностью сохраняют лучшее качество, а варианты Q4–Q6 предлагают компромисс между качеством и требованиями к памяти; низкобитные варианты экономичнее, но могут заметно уступать в качестве. Распространение основано на лицензии Gemma от Google. Для доступа к исходной модели на Hugging Face требуется принять условия использования Google. README не содержит подробного описания ограничений лицензии или результатов бенчмарков, поэтому качество следует оценивать с учётом выбранной квантизации и конкретного сценария применения.

QuantFactory/gemma-2-9b-it-GGUF — это квантизированная версия текстовой instruction-tuned модели google/gemma-2-9b-it, созданная QuantFactory с использованием llama.cpp. Базовая модель разработана Google и относится к семейству Gemma, созданному на основе исследований и технологий Gemini. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на вопросы, суммирование, рассуждения и другие задачи обработки текста. Это decoder-only языковая модель формата text-to-text, рассчитанная на работу с английским языком. Квантизация в формате GGUF может упростить локальный запуск и снизить требования к ресурсам по сравнению с исходными весами, включая использование на пользовательском компьютере или собственной облачной инфраструктуре. В названии базовой модели указано 9 миллиардов параметров, однако точный формат квантизации и контекстное окно этой версии в README не уточняются. Модель работает только с текстом; сведения о поддержке других модальностей отсутствуют. К сильным сторонам относятся относительно компактный размер семейства Gemma и instruction tuning, а ограничения включают англоязычную специализацию и возможное снижение точности из-за квантизации. Лицензия указана как gemma; условия использования приведены в Terms of Use Google.

MaziyarPanahi/gemma-3-12b-it-GGUF — это набор файлов модели в формате GGUF для Google Gemma 3 12B IT. Исходную модель разработала Google, а квантованные варианты подготовил MaziyarPanahi. Модель предназначена для генерации текста и использования в сценариях взаимодействия с инструкциями. Главная особенность репозитория — представление модели в формате GGUF, совместимом с llama.cpp и рядом локальных приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Доступны варианты с квантованием от 2 до 8 бит, что позволяет выбирать между меньшим потреблением памяти и сохранением качества, однако конкретные характеристики каждого варианта в README не приведены. К сильным сторонам относятся поддержка распространённого формата для локального запуска, возможность GPU-ускорения и широкий выбор уровней квантования. Ограничения связаны с потерями качества, возможными при агрессивном квантовании, а также с отсутствием в предоставленных данных сведений о поддерживаемых языках, размере контекста, модальностях и точных требованиях к оборудованию. Лицензия в README не указана.

Это квантизированная версия Gemma 3 12B IT, разработанная Google и преобразованная пользователем nocturne23 в формат GGUF с помощью llama.cpp и инструмента GGUF-my-repo. Модель предназначена для запуска через llama.cpp в CLI-режиме или как сервер для генерации ответов и выполнения задач, поддерживаемых исходной инструкционной моделью. Известно, что модель основана на google/gemma-3-12b-it и имеет размер 12 миллиардов параметров. Вариант Q4_K_M использует 4-битную квантизацию, что уменьшает требования к памяти по сравнению с полной версией, но может снижать точность. В метаданных указана мультимодальная задача image-text-to-text, однако подробные сведения о поддерживаемых языках, длине контекста, архитектуре и возможностях работы с изображениями в README отсутствуют. В качестве ограничения также следует учитывать зависимость от llama.cpp и необходимость настройки под используемое оборудование. Для доступа и использования модели требуется принять лицензию Google Gemma на Hugging Face; в README лицензия обозначена как gemma. Условия коммерческого и иного применения следует проверять в исходной лицензии Google и оригинальной карточке модели.

German-RAG-MISTRAL-7B-v3.0-CPT-HESSIAN-AI — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Avemio AI при поддержке Hessian AI и дообученная на базе mistralai/Mistral-7B-v0.3 методом continued pre-training. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Лицензия — Apache 2.0. Модель предназначена для работы с немецкими и английскими текстами, особенно для генерации ответов на вопросы с учётом предоставленного контекста, структурированного рассуждения и суммаризации. Её можно использовать в RAG-сценариях, где приложению нужно сформулировать ответ по найденным документам. В обучающих данных сделан акцент на немецком языке; README указывает около 420 тысяч немецких и 200 тысяч английских примеров.

giladgd публикует модель gpt-oss-20b в формате GGUF для запуска через node-llama-cpp и llama.cpp. Это разговорная текстовая модель генерации на архитектуре семейства GPT-OSS, производная от openai/gpt-oss-20b. Репозиторий содержит варианты MXFP4 и F16; README указывает размер файла MXFP4 12,1 ГБ и F16 13,8 ГБ. Для запуска варианта MXFP4 заявлено потребление памяти в пределах 16 ГБ. Модель предназначена для диалогов, генерации текста и сценариев с агентными возможностями, включая вызов функций и структурированный вывод. README также описывает настройку уровня усилий рассуждения и дообучение под конкретные задачи. Модель поддерживает Apache-2.0, допускающую коммерческое использование. Указанные в карточке возможности не подтверждают качество выполнения конкретных прикладных задач или работу с вебом и Python без соответствующей внешней интеграции.

ibm-granite/granite-3.3-8b-instruct-FP8 — это версия модели Granite-3.3-8b-Instruct в формате FP8, разработанная IBM. Модель предназначена для генерации текста и использования в сценариях, требующих следования инструкциям; карточка указывает pipeline text-generation и совместимость с библиотекой Transformers. Модель основана на ibm-granite/granite-3.3-8b-instruct и содержит 8 миллиардов параметров, однако в представленном README не приведены сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна. Формат FP8 может быть полезен для более эффективного хранения и инференса, но конкретные требования к оборудованию и показатели качества не указаны. Модель распространяется по лицензии Apache-2.0. Для полного описания возможностей и ограничений рекомендуется обратиться к карточке базовой модели, поскольку текущий README содержит только краткую информацию о FP8-версии.

Grug 67B A2B Datakit SFT 262K — чекпойнт Grug MoE, дообученный методом supervised fine-tuning на смеси данных для агентных сценариев и рассуждений. Разработчик — open-athena. Архитектура GrugMoeForCausalLM использует 256 маршрутизируемых экспертов с выбором top-4 и общий эксперт; всего около 67 млрд параметров, примерно 2 млрд активных параметров на токен. Модель принимает текст и генерирует текст, поддерживает чат и интерфейс вызова инструментов. В конфигурации задан контекст до 262 144 токенов, но работа на длинном контексте не проверена. Обучающие источники включают OpenThoughts code, SWE-ZERO, Penfever traces, NuminaMath и данные GLM для следования формату и сжатия контекста. Модель может быть полезна для агентных задач, рассуждений, работы с кодом и математикой, однако качество генерации, безопасность и численная эквивалентность исходному чекпойнту не оценены. Для запуска требуется среда с поддержкой Grug MoE; эта версия ещё не проверена в ранее использованной сборке vLLM, а загрузка через стандартный Transformers не подтверждена. Лицензия — OpenMDW-1.1.

DevQuasar/huihui-ai.Huihui-Qwen3.5-27B-abliterated-GGUF — это квантованная версия модели Huihui-Qwen3.5-27B-abliterated, разработанной huihui-ai и опубликованной в формате GGUF сообществом DevQuasar. Модель относится к классу text-generation и предназначена для генерации текста и работы в сценариях локального запуска совместимых LLM-инструментов. Из доступных данных известно, что модель основана на варианте Qwen3.5 с размером 27B параметров и представляет собой abliterated-версию. Ключевые сведения об используемой архитектуре, конкретном типе квантования, поддерживаемых языках, размере контекстного окна, качестве, ограничениях и лицензии в README не указаны. Условия использования следует уточнять по лицензии исходной модели и опубликованным материалам репозитория.

TelperionAI/Huihui-Qwen3.8-27B-abliterated-NVFP4 — это 27-миллиардная смешанно-квантизованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated, подготовленная с помощью llm-compressor. Основные MLP-слои используют NVFP4, часть модулей — FP8, а эмбеддинги, нормализации, vision tower и MTP-голова сохранены в BF16. Размер модели составляет около 24,7 ГБ. Для нативного NVFP4 требуется GPU архитектуры Blackwell; запуск ориентирован на vLLM и поддерживает tensor parallelism. Максимальный размер контекста в README не указан. Модель предназначена для высокопроизводительной генерации текста, включая программирование, математику, STEM, диалоги и мультиязычные сценарии. В комплекте присутствует MTP-голова для speculative decoding, однако её acceptance rate не измерен. На Blackwell заявлена существенно более высокая скорость декодирования по сравнению с INT4-сборкой, но с большей потерей точности относительно BF16-версии. Оценка проводилась только на одном корпусе и без downstream-бенчмарков; vision tower не квантизован, а модель тестировалась преимущественно как текстовая. Базовая модель была подвергнута abliteration: upstream из неё удалены направления, связанные с отказами, и это поведение наследуется данной версией. Модель распространяется по лицензии Apache-2.0.

Human-Like-LLama3-8B-Instruct-GGUF — это 8-миллиардная текстовая instruction-модель семейства Llama 3, разработанная HumanLLMs на основе Humanish-LLama3-8B-Instruct. Данная версия опубликована в формате GGUF и квантизирована bartowski с использованием llama.cpp и метода imatrix. Обучение или дообучение модели связано с набором данных humanish-dpo-project и методом DPO. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и иных текстовых сценариях. В README приведены результаты оценивания на IFEval, BBH, MATH, GPQA, MuSR и MMLU-PRO, однако показатели заметно различаются между задачами, поэтому их следует рассматривать как ориентиры, а не гарантию качества в конкретном применении. Мультимодальность, поддерживаемые языки, размер контекстного окна и рекомендуемый формат промптов в карточке не указаны. Доступно несколько вариантов квантизации от F16 до Q3_K_XL. Более высокие варианты обычно лучше сохраняют качество, но требуют больше памяти; Q4_K_M указан как вариант стандартного размера, а Q5 и Q6 — как высококачественные варианты. Ограничения включают отсутствие описания prompt format и неполную информацию о языках, контексте и поведении модели. Лицензия указана как llama3.

InternLM2.5-1.8B — языковая модель для генерации текста, разработанная командой InternLM. Она сохраняет архитектуру InternLM2 и использует около 1,7 млрд параметров; по заявлению разработчиков, версия 2.5 улучшила рассуждения по сравнению с InternLM2-1.8B. Модель оценивается на бенчмарках MMLU, CMMLU и BBH. Модель подходит для продолжения текста, ответов на вопросы, решения задач на рассуждение и других сценариев генерации на естественном языке. Контекстное окно составляет 32 768 токенов. Карточка содержит результаты оценки на англоязычных и китайских бенчмарках, но не перечисляет полный набор поддерживаемых языков. Возможны предвзятые, дискриминационные и иные нежелательные ответы, поэтому результаты требуют проверки. Код распространяется по Apache-2.0; для весов заявлен открытый доступ для академических исследований и возможность запросить бесплатное коммерческое разрешение.

internlm2_5-20b-chat-IMat-GGUF — это GGUF-квантизованная версия чат-модели internlm/internlm2_5-20b-chat, подготовленная legraphista с использованием llama.cpp (сборка b3524). Исходная модель имеет формат BF16, а в репозитории доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и более компактных IQ-квантизаций. Некоторые варианты используют IMatrix для калибровки квантования, что рассчитано на более эффективное сохранение качества при уменьшении размера модели. Модель предназначена для локального запуска задач генерации текста и чат-взаимодействия через совместимые инструменты, включая llama.cpp. Доступны файлы размером примерно от 7,55 до 39,73 ГБ, поэтому требования к оперативной или видеопамяти зависят от выбранного варианта. Ключевые характеристики исходной архитектуры, поддерживаемые языки, размер контекста, результаты тестирования и конкретные сильные стороны в README не указаны; качество и скорость также будут зависеть от уровня квантования и оборудования. Лицензия обозначена как other, без дополнительных условий в представленном README.

InternLM2.5-7B-Chat-GGUF — это квантизированная версия диалоговой языковой модели InternLM2.5-7B-Chat, разработанной командой InternLM и опубликованной в формате GGUF для использования с llama.cpp. Квантизацию выполнил bartowski с применением imatrix и различных схем квантования, рассчитанных на баланс между качеством ответов, размером файла и требованиями к памяти. Модель предназначена для текстовой генерации и диалоговых сценариев: ведения беседы, ответа на вопросы и выполнения инструкций. Для работы используется специальный шаблон prompt с ролями system, user и assistant. Доступны варианты от Q8 до Q2 и IQ-квантов; размеры файлов в README указаны примерно от 2,58 до 8,93 ГБ. Варианты с более высокой точностью обеспечивают лучшее качество, тогда как низкобитные версии подходят для систем с ограниченным объёмом RAM, но заметно уступают по качеству. К сильным сторонам относятся широкий выбор уровней квантования, совместимость с llama.cpp и возможность локального запуска. Рекомендуемыми названы варианты Q4–Q6 и некоторые IQ4, тогда как Q3 и Q2 экономят память ценой снижения качества. README не содержит достоверных сведений о языках, размере контекста, точной архитектуре исходной модели и условиях лицензирования: указано лишь, что лицензия имеет тип other. Для использования необходимо учитывать требования выбранного GGUF-файла и поддерживать соответствующий формат prompt.

Jan-v3-4B-base-instruct — компактная плотная языковая модель Jan на 3,7 млрд параметров, созданная дистилляцией возможностей более крупной модели и дообученная на основе Qwen/Qwen3-4B-Instruct-2507. Она предназначена для диалогов, следования инструкциям, лёгкой помощи с кодом и как основа для дальнейшей тонкой настройки. Архитектура — Qwen3ForCausalLM с 36 слоями и группированным запросным вниманием; нативное контекстное окно составляет 262 144 токена. Модель принимает и генерирует текст, поддерживает английский язык и может интегрироваться с Jan Desktop или запускаться через vLLM. По карточке, модель рассчитана на общее применение и downstream-настройку; заявлены улучшенное следование инструкциям и сохранение общих возможностей после дистилляции. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Размер параметров в метаданных указан как 3,7 млрд, а в README округлён до 4 млрд.

CombinHorizon/Josiefied-abliteratedV4-Qwen2.5-14B-Inst-BaseMerge-TIES — объединённая модель генерации текста на архитектуре Qwen2.5, созданная с помощью mergekit и метода TIES на основе Qwen/Qwen2.5-14B и Josiefied-Qwen2.5-14B-Instruct-abliterated-v4. Модель содержит 14 млрд параметров и рассчитана на диалоговое взаимодействие и генерацию текста; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст до 131 072 токенов. Репозиторий распространяет веса в формате safetensors; лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробностей об ограничениях и рекомендуемых сценариях использования.

Карточка модели KeefeBuild/Keefe-Discere-v2.0 на Hugging Face совпадает с карточкой KeefeBuild/Keefe-Discere-v2.0-OxAlpha, поэтому описание составлено по ней. Keefe-Discere-v2.0-OxAlpha — языковая модель KeefeBuild, дообученная на базе unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit. Это плотная модель семейства Qwen2 с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров; она принимает текст и генерирует текст, поддерживает диалог и интерфейс вызова инструментов. Модель предназначена для текстовой генерации и разговорных сценариев на английском языке, с контекстом до 32 768 токенов. В карточке указаны Apache-2.0 и обучение с использованием Unsloth и библиотеки TRL. Конкретные специализации и результаты оценки качества не описаны, поэтому модель следует рассматривать как универсальную дообученную языковую модель, а поведение при вызове инструментов проверять в целевой интеграции.

mergekit-community/L3.1-Boshima-b-FIX — текстовая диалоговая модель, созданная сообществом путём линейного слияния языковых моделей с помощью mergekit. В качестве базовой использована Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2, также в слияние включена mergekit-community/L3-Boshima-a. Модель предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Она построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Нативная длина контекста составляет 131 072 токена. Репозиторий использует формат safetensors и библиотеку Transformers. Карточка не описывает отдельные целевые языки, датасеты или специальные прикладные области. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить с карточками базовых моделей и условиями публикации репозитория. Модель унаследовала неконвенциональную направленность одной из базовых моделей; ответы могут быть менее ограниченными, а качество и безопасность вывода требуют оценки для конкретного применения.

LFM2.5-1.2B-Thinking-ONNX — ONNX-экспорт модели LFM2.5-1.2B-Thinking, разработанной Liquid AI. Это текстовая генеративная модель для кроссплатформенного вывода, включая локальный запуск, браузерные приложения и устройства с поддержкой ONNX Runtime или WebGPU. Модель предназначена для задач, требующих рассуждений: математических вычислений, программирования, логического анализа и других сложных запросов. Она генерирует пошаговый процесс рассуждения в тегах <think>...</think>, после чего формирует итоговый ответ. Поддерживаются английский, японский, корейский, французский, испанский, немецкий, итальянский, португальский, арабский и китайский языки. Архитектура и максимальная длина контекста в README не указаны; размер модели составляет около 1,2 млрд параметров согласно идентификатору и описанию варианта. Доступны варианты FP32, FP16, Q8 и Q4. Квантизированный Q4-вариант занимает около 1,2 ГБ и рекомендован для большинства сценариев, FP16 — около 2,4 ГБ и ориентирован на более высокое качество, Q8 — около 1,7 ГБ как компромисс между качеством и размером. ONNX-формат облегчает переносимость, но для браузерного запуска требуется WebGPU. Ограничения включают небольшой размер по современным меркам, возможные ошибки в сложных задачах и необходимость самостоятельно обрабатывать разделение рассуждений и итогового ответа. Модель распространяется по лицензии lfm1.0; точные условия следует проверить в файле LICENSE репозитория.

itims/llama-3.1-8b-finetuned — дообученная языковая модель, разработанная itims на основе unsloth/llama-3.1-8b-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового общения; метаданные также указывают интерфейс вызова инструментов. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Для обучения использовались Unsloth и библиотека TRL от Hugging Face. Модель поддерживает английский язык, имеет контекстное окно 131 072 токена и распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальную предметную область или конкретные улучшения после дообучения, поэтому качество на узких задачах не установлено.

aifeifei799 выпустил вариант Llama 3.1 8B Instruct с пометкой Uncensored. Это авторегрессионная плотная языковая модель на архитектуре Transformer с Grouped-Query Attention; метаданные указывают 7,5 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст, поддерживает диалоговый режим и предназначена для многоязычных ассистентских сценариев и генерации текста. Карточка основана на описании Meta Llama 3.1 Instruct и указывает на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Пометка Uncensored указывает на изменённые ограничения ответа, но README не описывает метод или объём дообучения и не подтверждает конкретные свойства этого изменения. Модель доступна в формате Safetensors по лицензии Llama 3.1 Community License; перед применением следует учитывать условия лицензии и самостоятельно оценивать безопасность ответов.

Llama-3.1-8B-Reason-Blend-888k — экспериментальная плотная языковая модель от khulaifi95, дообученная на основе Meta-Llama-3.1-8B-Instruct. Она предназначена для усиления способностей к рассуждению и диалогового использования; работает с шаблоном ChatML и поддерживает интерфейс вызова инструментов. Модель содержит 7,5 млрд параметров, использует библиотеку Transformers и принимает контекст до 131 072 токенов. В карточке указаны английский язык и лицензия other. Модель можно применять для диалоговых ответов, многошаговых рассуждений и задач, где нужно следовать инструкциям. Автор характеризует её как экспериментальную: качество может быть нестабильным и зависеть от гиперпараметров. Результаты таблицы оценок в README не заполнены; при использовании в продуктивной среде автор рекомендует safeguards и контроль человека.

Llama-3.1-Nemotron-Ultra-253B-CPT-v1 — базовая языковая модель NVIDIA, производная от Meta Llama-3.1-405B-Instruct и предназначенная для дальнейшей адаптации под конкретные приложения и предметные области. Это плотный декодерный Transformer с нестандартными блоками, выбранными методом Neural Architecture Search: в части блоков пропущено или заменено внимание, а слои FFN имеют разные пропорции и могут объединяться. Модель прошла дистилляцию и продолжительное предобучение; в README указано 253 млрд параметров, тогда как метаданные Hugging Face указывают 697,9 млрд. Модель принимает и генерирует текст, поддерживает контекст до 131 072 токенов и рассчитана прежде всего на английский язык и задачи с кодом. NAS-архитектура уменьшает требования к памяти и повышает пропускную способность и задержку относительно родительской модели; README сообщает, что для инференса модель помещается на одном узле с 8 H100. Она сохраняет часть возможностей следования инструкциям родительской модели, но заявлена прежде всего как основа для дообучения, а не как специализированный чат- или reasoning-чекпойнт. NVIDIA заявляет готовность к коммерческому использованию. В метаданных лицензия обозначена как other; перед применением следует проверить условия лицензии и использования NVIDIA. Крупный размер модели требует мощной вычислительной инфраструктуры; возможности на русском языке в карточке не заявлены.

tanliboy/llama-3.2-3b-sft-2 — дообученная модель семейства Llama 3.2, созданная на основе tanliboy/llama-3.2-3b с использованием набора данных tanliboy/OpenHermes-2.5-reformat. Это плотная авторегрессионная языковая модель на 3,2 млрд параметров для генерации текста и диалогов; карточка указывает контекстное окно 131 072 токена и поддержку интерфейса вызова инструментов. В README приведено значение loss 0,6744 на evaluation set, но не описаны протокол оценки и практические сценарии.

LLaMA-3-8B-SFR-Iterative-DPO-R — диалоговая инструктивная языковая модель Salesforce, основанная на архитектуре Llama 3. В репозитории указано 7,5 млрд параметров; модель принимает текст и генерирует текст, поддерживает контекст до 8192 токенов. Она обучена с помощью итеративного онлайн RLHF на основе DPO с открытыми наборами данных, без дополнительной разметки людьми или GPT-4. Модель предназначена для диалоговых ответов и следования инструкциям. В карточке Salesforce сообщает о результатах на Alpaca-Eval-V2, MT-Bench и Chat-Arena-Hard, а также приводит академические бенчмарки, включая GSM-8K, MMLU и HumanEval. README обозначает выпуск как исследовательский, предназначенный для поддержки академической работы; лицензия в метаданных — llama3. Модель может выдавать оскорбительный или неэтичный контент, особенно при состязательных запросах. Salesforce рекомендует проверять точность, безопасность и справедливость перед применением, особенно в высокорисковых сценариях. Поддерживаемые естественные языки явно не перечислены.

LongReward-glm4-9b-DPO — чат-модель на архитектуре GLM, разработанная командой LongReward и дообученная методом DPO для работы с длинным контекстом. Она предназначена для генерации ответов и диалога, в том числе с использованием интерфейса вызова инструментов. Модель обучена на предпочтениях из раздела dpo_glm4_9b датасета LongReward-10k и поддерживает контекст до 65 536 токенов. Модель содержит 8,8 млрд параметров, использует библиотеку Transformers и опубликована в формате safetensors. В карточке указаны английский и китайский языки. Лицензия обозначена как other, поэтому условия использования следует сверить с лицензией в репозитории. Данных о качестве на конкретных задачах в карточке нет.

lumikabra-195B v0.3 — крупная языковая модель на архитектуре Mistral с 194,2 млрд параметров, созданная объединением моделей методом passthrough. В README указана как более крупный вариант lumikabra v0.3; в слияние вошли два диапазона слоёв модели schnapper79_lumikabra-123B_v0.3. Репозиторий содержит веса Safetensors для Transformers, а заявленная длина контекста составляет 131 072 токена. Модель предназначена для генерации текста и диалогового общения. Интерфейс также поддерживает вызов инструментов. В README приведён пример запроса на написание художественной главы, однако он не устанавливает отдельную специализацию модели. Карточка указывает лицензию «other», поэтому конкретные условия использования следует сверить с лицензией в репозитории.