II.2Создание и понимание программного кода

HermesFlashback-7B.1 — диалоговая языковая модель, созданная FredrikBL слиянием моделей NeuralHermes-2.5-Mistral-7B и Mistral-7B-v0.1-flashback-v2 с помощью LazyMergekit. Веса объединены методом SLERP; модель основана на плотной архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для диалогов и генерации текста по запросам. Её можно применять для ответов на вопросы, написания и продолжения текста, а также для тестирования диалоговых сценариев. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. В карточке не приведены результаты оценивания качества или подробности о языках обучения, поэтому их нельзя установить по доступным данным.

Huihui-gemma-4-26B-A4B-it-abliterated-GGUF — это квантованный релиз модели Huihui Gemma 4 26B A4B IT Abliterated, подготовленный пользователем groxaxo. Модель распространяется в формате GGUF для локального запуска и совместимых с llama.cpp сред. Исходная модель разработана huihui-ai; данный репозиторий содержит только её квантованные сборки. Модель предназначена для генерации текста по текстовым запросам, а также для мультимодальных сценариев image-text-to-text: анализа и описания изображений с учётом текстовой инструкции. Для работы с изображениями требуется совместимый файл mmproj. Доступны варианты квантования с разным балансом между качеством, скоростью и потреблением VRAM и RAM; более крупные и высокобитные варианты обычно сохраняют больше качества, а компактные требуют меньше ресурсов, но сильнее теряют в точности. Ключевые характеристики: архитектура и параметры унаследованы от базовой модели Gemma 4 26B A4B, формат — GGUF, целевой runtime — llama.cpp, поддерживаются текстовая и визуальная модальности. Точные языки и размер контекстного окна в README не указаны. К сильным сторонам относятся локальный запуск, выбор из множества квантований и поддержка мультимодального вывода. Ограничения включают зависимость качества от выбранной квантовки, аппаратных ресурсов и корректности файла mmproj, а также возможные неточности и особенности поведения модели с уменьшенными ограничениями фильтрации. Конкретная лицензия в README не приведена; перед использованием и распространением необходимо проверить лицензию исходной модели и файлы репозитория.

Hy3-RAZOR-154B-A21B-E96of192 — производная версия диалоговой MoE-модели Hy3 от Tencent, подготовленная методом RAZOR без дообучения. В каждом слое сохранены 96 из 192 маршрутизируемых экспертов; число параметров уменьшено с 295 млрд до 154 млрд при примерно 21 млрд активных параметров на токен. Веса экспертов взяты из базовой модели, остальные компоненты архитектуры не изменялись. Модель предназначена для генерации текста в диалогах и других сценариях, где нужна причинная языковая модель. Она принимает контекст длиной до 262 144 токенов и распространяется в формате safetensors с весами bfloat16; для запуска нужна сборка Transformers с поддержкой hy_v3. Лицензия — Apache-2.0. Удаление экспертов является потерным: ответы могут меняться по разнообразию, форматированию и завершению, даже если точность задач в значительной мере сохраняется. Опубликованные измерения не характеризуют поведение на доменах, удалённых от конечного калибровочного набора; перед развёртыванием модель следует оценить на целевых данных.

Карточка модели amd/Instella-MoE-16B-A3B-Base на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

Карточка модели amd/Instella-MoE-16B-A3B-DPO на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

INTELLECT-3-Base — текстовая языковая модель Prime Intellect, представляющая собой копию GLM-4.5-Air-Base с шаблоном чата, адаптированным из Qwen3-Coder. Модель предназначена для генерации текста в диалоговом формате; её архитектура относится к семейству GLM-4 MoE, размер — 8,5 млрд параметров, максимальный контекст — 131 072 токена. Модель принимает текст и генерирует текст. В метаданных указана поддержка английского и китайского языков, а также возможность диалогового использования. Веса опубликованы в формате Safetensors. Лицензия — MIT. README не описывает отдельное дообучение или специализированные сценарии применения.

NousResearch k2-merged-3.5T-bf16 — экспериментальная объединённая («frankenmerge») языковая модель, созданная на основе моделей Kimi K2-07, Kimi K2-09 и Kimi K2 Base. Модель предназначена для генерации и продолжения текста, а также диалоговых сценариев. В метаданных она обозначена как text-generation и conversational, использует библиотеку Transformers и формат safetensors. Модель содержит 63,2 млрд параметров, поддерживает контекст длиной до 131 072 токенов и относится к архитектурному семейству DeepSeek V3. В названии указано представление BF16, подходящее для запуска на совместимом оборудовании. Модель имеет лицензию modified-MIT, при этом в метаданных Hugging Face лицензия обозначена как other; условия распространения и использования следует проверять перед применением в продукте. Из-за экспериментального характера объединения возможны нестабильность поведения, непредсказуемое качество и высокие требования к памяти.

Карточка модели KeefeBuild/Keefe-Discere-v3.0 на Hugging Face совпадает с карточкой KeefeBuild/Keefe-Discere-v3.0-Final, поэтому описание составлено по ней. Keefe-Discere-v3.0-Final — языковая модель на архитектуре Qwen2, дообученная KeefeBuild на базе KeefeBuild/Keefe-Discere-v3.0-Ultimate с использованием Unsloth и Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; заявлены возможности диалога и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через интерфейс вызова инструментов. В карточке указан английский язык. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или конкретные ограничения качества.

Keefe-Discere-v3.0-Final — языковая модель на архитектуре Qwen2, дообученная KeefeBuild на базе KeefeBuild/Keefe-Discere-v3.0-Ultimate с использованием Unsloth и Hugging Face TRL. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов; заявлены возможности диалога и интерфейс вызова инструментов. Модель предназначена для генерации текста и диалоговых сценариев, включая использование через интерфейс вызова инструментов. В карточке указан английский язык. Репозиторий содержит веса в формате Safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения или конкретные ограничения качества.

Карточка модели princeton-nlp/Llama-3-Base-8B-SFT-RRHF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

Карточка модели princeton-nlp/Llama-3-Base-8B-SFT-SLiC-HF на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

MaziyarPanahi/MeliodasPercival_01_Multi_verse_modelM7 — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/MeliodasPercival_01-7B и automerger/Multi_verse_modelM7-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста; поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых ответов, однако карточка не уточняет специальные сценарии, языки или настройки общения. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

MeliodasPercival_01_ShadowCalme — объединённая текстовая модель на архитектуре Mistral, созданная путём слияния automerger/MeliodasPercival_01-7B и automerger/ShadowCalme-7B. Она предназначена для генерации текста и диалогов в сценариях, где требуется обработка запросов с длинным контекстом. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Метаданные указывают задачу text-generation; сведения о поддерживаемых языках и специализированных предметных областях отсутствуют. Модель распространяется по лицензии Apache-2.0.

Menlo_Lucy-128k-GGUF — это GGUF-квантизированная версия модели Lucy-128k, разработанной Menlo и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. Из README известно, что модель рассчитана на контекст до 128k токенов, однако сведения о точной архитектуре, числе параметров, поддерживаемых языках и мультимодальности не приведены. Доступны варианты от BF16 до различных Q2–Q8- и IQ-квантизаций размером примерно от 0,75 до 3,45 ГБ. Более высокие уровни квантизации обычно сохраняют лучшее качество, а низкие требуют меньше оперативной памяти, но сильнее ограничивают качество генерации. Сильной стороной модели является широкий выбор форматов для локального запуска и возможность подобрать баланс между качеством, размером и требованиями к памяти. При этом README предупреждает, что для модели не указана специальная chat template и стандартный формат prompt может быть некорректным; перед использованием рекомендуется проверить оригинальную карточку Menlo/Lucy-128k. Лицензия в предоставленных данных не указана.

Merged AGI 7B — языковая модель для генерации текста, разработанная Talha Rüzgar Akkuş на базе архитектуры Mistral. Репозиторий TheBloke содержит её квантизированные версии в формате GGUF, предназначенные для запуска через llama.cpp и совместимые сторонние интерфейсы и библиотеки. В карточке также указано обучение или дообучение с использованием набора данных MetaMathQA, а среди основных сценариев отмечены текстовая генерация и математические задачи. Модель имеет размер 7B параметров, поддерживает английский язык и использует шаблон запросов ChatML с системными и пользовательскими сообщениями. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; возможен инференс на CPU и GPU. Ограничения включают заявленную ориентацию на английский язык и потенциальные потери качества, связанные с квантизацией. Лицензия модели — CC BY-NC 4.0, предусматривающая некоммерческое использование с соблюдением условий лицензии.

DareModels/MiniCpm5-Agent — это объединённая модель генерации текста, созданная с помощью mergekit методом TIES. В качестве базовой использована saidutta69/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-heretic; в объединение также вошли варианты MiniCPM5, настроенные на рассуждения, агентные сценарии и работу с инструментами. Модель содержит 837,6 млн параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 131 072 токена. Модель предназначена для генерации диалогового текста и агентных сценариев, включая задачи с вызовом инструментов. Она доступна через Transformers. Метаданные и README не сообщают поддерживаемые естественные языки и лицензию, поэтому условия использования по лицензии определить нельзя.

Карточка модели theship87/ministral-4b-fork на Hugging Face совпадает с карточкой ministral/Ministral-4b-instruct, поэтому описание составлено по ней. Ministral-4b-instruct — плотная GPT-подобная языковая модель семейства Mistral от Mistral AI, дообученная на смеси общедоступных и синтетических наборов данных. Она содержит 4,3 млрд параметров и предназначена для генерации текста и диалогового взаимодействия на английском языке. Модель использует архитектуру MistralForCausalLM и принимает текст, формируя текстовые ответы. Длина контекста составляет 32 768 токенов. Базовая модель — mistralai/Mistral-7B-v0.1; веса доступны в формате safetensors. Модель подходит для диалоговых приложений и генерации текста. Лицензия Apache 2.0 разрешает коммерческое использование. Карточка указывает английский как основной язык модели.

Ministral-4b-instruct — плотная GPT-подобная языковая модель семейства Mistral от Mistral AI, дообученная на смеси общедоступных и синтетических наборов данных. Она содержит 4,3 млрд параметров и предназначена для генерации текста и диалогового взаимодействия на английском языке. Модель использует архитектуру MistralForCausalLM и принимает текст, формируя текстовые ответы. Длина контекста составляет 32 768 токенов. Базовая модель — mistralai/Mistral-7B-v0.1; веса доступны в формате safetensors. Модель подходит для диалоговых приложений и генерации текста. Лицензия Apache 2.0 разрешает коммерческое использование. Карточка указывает английский как основной язык модели.

Карточка модели princeton-nlp/Mistral-7B-Base-SFT-CPO на Hugging Face совпадает с карточкой princeton-nlp/Llama-3-Instruct-8B-SimPO-v0.2, поэтому описание составлено по ней. Llama-3-Instruct-8B-SimPO-v0.2 — диалоговая языковая модель семейства Llama, выпущенная командой Princeton NLP как модель из работы SimPO (Simple Preference Optimization with a Reference-Free Reward). Она предназначена для генерации текста в формате инструкций и диалога. Модель содержит 7,5 млрд параметров, принимает текст и имеет контекстное окно 8192 токена. Модель связана с исследованием оптимизации предпочтений без эталонной модели. В карточке не приведены подробности обучения, оценки качества или специальные области применения; метаданные указывают поддержку чата и формат весов safetensors. Лицензия в предоставленных данных не указана.

duyntnet/Mistral-7B-OpenOrca-imatrix-GGUF — набор квантизированных версий языковой модели Mistral-7B-OpenOrca, опубликованный пользователем duyntnet. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на инструкции и вопросы на английском языке. В карточке указано, что она доступна в формате GGUF с использованием imatrix-квантизации и предназначена для запуска средствами, поддерживающими этот формат. Исходная модель использует архитектуру Mistral с 7 млрд параметров и обучена или дообучена организацией Alignment Lab AI на базе Open-Orca; точные сведения о процедуре обучения в карточке не приведены. Поддерживается формат ChatML с токенами <|im_start|> и <|im_end|>, а также шаблон чата Transformers. Это упрощает использование модели в совместимых интерфейсах и библиотеках, но для инференса может потребоваться версия Transformers из репозитория разработки. Основные ограничения — заявлен только английский язык, отсутствуют данные о точном размере контекста, производительности, качестве на тестах и рекомендуемых параметрах запуска. Лицензия обозначена как other, без дополнительных условий в предоставленной карточке, поэтому конкретные права и ограничения использования требуют проверки по исходной лицензии модели.

zelk12 создал эту диалоговую языковую модель, объединив с помощью SLERP двух предварительно обученных моделей Gemma 2: recoilme/recoilme-gemma-2-9B-v0.3 и zelk12/recoilme-gemma-2-Ifable-9B-v0.1. Модель использует плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и рассчитана на генерацию текста и диалоговое общение; поддерживает контекст до 8192 токенов. Модель подходит для чат-ботов и генерации ответов на текстовые запросы. В карточке указаны формат safetensors и библиотека Transformers. Сведения о лицензии и конкретных языках в доступных данных отсутствуют, поэтому условия распространения и языковой охват по этой карточке определить нельзя.

zelk12/MT5-IG-gemma-2-9B — объединённая языковая модель на основе Gemma 2, опубликованная как результат слияния двух предварительно обученных моделей с помощью SLERP в mergekit. Она предназначена для генерации текста в диалоговом формате и других сценариев, поддерживаемых задачей text-generation. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и принимает контекст длиной до 8192 токенов. В состав слияния вошли zelk12/MT5-IF-gemma-2-RIv0.1RAv0.1-9B и zelk12/MT5-GP-gemma-2-RIv0.1RAv0.1-9B; веса сохранены в формате safetensors. Метаданные не дают оснований указать конкретные языки или специализированные предметные области. Лицензия в предоставленных сведениях не указана.

Карточка модели Arsh9210/Nemotron-Labs-Diffusion-14B на Hugging Face совпадает с карточкой nvidia/Nemotron-Labs-Diffusion-14B, поэтому описание составлено по ней. Nemotron-Labs-Diffusion-14B — плотная языковая модель NVIDIA с 13,4 млрд параметров для генерации текста в диалоговом режиме. Одна и та же модель поддерживает авторегрессионное декодирование, параллельное декодирование на основе диффузии и self-speculation: диффузионный режим подготавливает несколько токенов, а авторегрессионный проверяет их с использованием общего KV-кэша. Режимы переключаются изменением шаблона внимания. Модель предназначена для диалоговых приложений и сценариев инференса, где важна скорость генерации при разной одновременной нагрузке. NVIDIA описывает ускорение за счёт повторного использования весов для вычисления нескольких токенов; приведённые в карточке показатели относятся к отдельным конфигурациям и аппаратным платформам и не гарантируют такую же производительность в других условиях. Заявленное максимальное контекстное окно — 262 144 токена. Для запуска README указывает Transformers версии 5.0 или новее; веса доступны в формате safetensors. Лицензия обозначена как other, поэтому перед использованием следует ознакомиться с условиями NVIDIA. Карточка рекомендует оценивать пригодность модели для конкретного применения и учитывать связанные с ним риски.

OLMo-2-0325-32B-SFT — англоязычная текстовая модель Ai2, полученная дообучением с учителем модели allenai/OLMo-2-0325-32B на варианте набора Tülu 3. Это плотная авторегрессионная архитектура OLMo 2 с 31,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; её контекст составляет 4096 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, следования инструкциям и генерации текста на английском языке. Ai2 публикует код, контрольные точки и сведения об обучении серии OLMo. Модель распространяется по лицензии Apache 2.0. В карточке отмечено, что у моделей OLMo-2 ограничено обучение безопасному поведению; без дополнительной фильтрации они могут выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Transformers README указывает на необходимость версии из основной ветки проекта.

OLMo-2-1124-13B-SFT-Preview — англоязычная чат-модель Allen Institute for AI (Ai2), созданная на основе OLMo 2 13B версии ноября 2024 года. Это плотная авторегрессионная модель с 13,2 млрд параметров, предназначенная для генерации текста и диалогов. Она дообучена методом supervised fine-tuning на варианте набора Tülu 3, включающем публичные, синтетические и созданные людьми данные. Модель рассчитана на разнообразные задачи общения и следования инструкциям, включая математические задачи из MATH и GSM8K и оценивание соблюдения инструкций IFEval. Контекст составляет 4096 токенов; модель принимает текст и генерирует текст. Основной язык — английский. Для загрузки используется Transformers; веса представлены в формате PyTorch. Модель выпущена под лицензией Apache 2.0. В README отмечено, что у OLMo 2 ограничено обучение безопасности, поэтому модель может выдавать проблемные ответы, особенно по соответствующему запросу; автоматической фильтрации ответов нет.

Это экспортированная в формат Hugging Face модель OLMo 3 3B SiameseNorm + DepthAttention, подготовленная ArchSpace-Collection на основе чекпойнта Stage 4 Think SFT. Она предназначена для генерации текста и диалогового общения; также заявлен интерфейс вызова инструментов. Модель плотная, содержит 3,2 млрд параметров и использует архитектуру Olmo3SiameseDepthForCausalLM с чередованием локального скользящего и полного внимания. Модель рассчитана на контекст до 65 536 токенов; размер окна скользящего внимания — 4 096 токенов. В README указаны обучение на последовательностях длиной 32 768 токенов и сохранение конфигурации контекста на 65 536 токенов для этапов 3 и 4. Данные не уточняют поддерживаемые естественные языки и лицензию, поэтому их нельзя надёжно указать. Для загрузки требуются Transformers версии 4.57.6 или новее в рамках ветки 4 и включённый trust_remote_code.

Карточка модели localized-ft/OLMo-3-7B-good-vs-bad-mixed-multifact-inoculation-prompting-seed4 на Hugging Face совпадает с карточкой localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3, поэтому описание составлено по ней. Модель localized-ft/OLMo-3-7B-school-of-reward-hacks-kld-seed3 — дообученная разработчиком localized-ft языковая модель для генерации текста и диалоговых сценариев. Она основана на unsloth/Olmo-3-7B-Instruct и использует плотную архитектуру Olmo3ForCausalLM с 6,9 млрд параметров. Карточка сообщает, что модель обучалась с помощью Unsloth и библиотеки TRL; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст; заявленная длина контекста — 65 536 токенов. В карточке указан английский язык. Репозиторий содержит веса в формате safetensors, лицензия — Apache-2.0. Описание не уточняет специальные ограничения или сценарии дообучения, поэтому её следует рассматривать как общую модель генерации текста и диалогов.

VMware/open-llama-7b-open-instruct — инструкция-дообученная версия OpenLLaMA 7B, разработанная VMware на основе полностью обученной модели OpenLLaMA. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM и примерно 6,6 млрд параметров; она генерирует текст по текстовым запросам и рассчитана на следование инструкциям в формате Alpaca. При дообучении использован набор Open-instruct-v1 с данными OASST, Dolly и HH-RLHF. Карточка указывает английский язык и контекст 2048 токенов. Модель распространяется по лицензии CC BY-SA 3.0. README предупреждает, что быстрый токенизатор может неверно кодировать текст, поэтому рекомендуется отключить use_fast.

openNemo — реализация архитектуры Nemotron-H на чистом PyTorch от Empero AI. Она сохраняет гибридное устройство исходной модели NVIDIA: 52 слоя с блоками Mamba2, Grouped Query Attention и MLP, а также имена весов, поэтому исходные чекпойнты Nemotron-H можно загружать без преобразования. Репозиторий рассчитан на запуск языковой модели и упрощение её использования с bitsandbytes-квантизацией в 4- и 8-битном режиме и QLoRA дообучением на потребительских GPU. Модель подходит для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена. Указан размер 15,1 млрд параметров, форматы весов — safetensors; реализация использует библиотеку Transformers. В тегах карточки перечислены английский, испанский, французский, немецкий, итальянский и японский языки. Реализация заменяет зависимости от внешних CUDA-ядер Mamba на операции PyTorch, что упрощает установку и позволяет использовать bitsandbytes и QLoRA. README не приводит отдельную оценку качества или сравнительные результаты; чисто PyTorch-реализация может иметь иные требования к скорости и памяти, чем оптимизированные CUDA-ядра. Лицензия обозначена как other, поэтому условия повторного использования следует сверять с карточкой модели и базового чекпойнта.

Orion-14B-Chat-RAG — диалоговая модель OrionStarAI из семейства Orion-14B. Базовую серию обучили с нуля на многоязычном корпусе объёмом 2,5 трлн токенов; эта версия дообучена на специальном наборе данных для генерации с дополнением извлечёнными сведениями (RAG). Модель предназначена для ответов на вопросы по найденным документам и других сценариев, где ответ опирается на переданный контекст. Это плотная авторегрессионная языковая модель с 14,1 млрд параметров и контекстным окном 4096 токенов. В README заявлена поддержка китайского, английского, японского и корейского языков; метаданные также отмечают возможности работы с кодом. Репозиторий содержит веса PyTorch. Для применения в RAG необходимо организовать поиск и передавать модели извлечённый контекст; сама карточка не описывает встроенный поисковый индекс. Модель может быть полезна для многоязычных диалогов и генерации ответов с опорой на документы. README заявляет высокую эффективность в задачах RAG, но не приводит в предоставленном фрагменте конкретных результатов оценки этой версии. Лицензия в предоставленных данных не указана.