II.2Создание и понимание программного кода

Это 4-битно квантованная версия инструкционной языковой модели Llama 3.2 3B Instruct, опубликованная сообществом mlx-community на базе модели Meta Llama 3.2. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, включая ответы на вопросы, составление и преобразование текста. Формат ориентирован на использование с экосистемой MLX; в метаданных также указана совместимость с библиотекой Transformers. Модель относится к текстовым, одномодальным моделям и содержит около 3 млрд параметров. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Ключевая особенность — 4-битное квантование, которое снижает требования к памяти и может облегчать локальный запуск, но потенциально ограничивает точность по сравнению с полноразмерной версией. Длина контекста и другие характеристики архитектуры в представленном README не указаны. Модель распространяется по Llama 3.2 Community License от Meta. Лицензия разрешает использование, копирование, модификацию и распространение на безвозмездной основе при соблюдении её условий, включая передачу текста лицензии, указание «Built with Llama», сохранение атрибуции и соблюдение Acceptable Use Policy. Для продуктов и сервисов с более чем 700 миллионами ежемесячных активных пользователей предусмотрены дополнительные лицензионные требования.

mergekit-community/mergekit-model_stock-nvgaatl — объединённая модель для генерации текста, созданная сообществом с помощью mergekit и метода Model Stock. В качестве базы использована Qwen/Qwen2.5-14B-Instruct-1M; в слияние также вошли sthenno/tempesthenno-nuslerp-0124 и mergekit-community/mergekit-model_stock-injkqri. Модель имеет плотную архитектуру Qwen2, около 14 млрд параметров и предназначена для диалогов и генерации текста. Метаданные указывают на контекст до 1 010 000 токенов и интерфейс для вызова инструментов; модель работает через Transformers, веса представлены в safetensors. Её можно применять для чат-ответов и работы с длинным текстовым контекстом. Лицензия в предоставленных данных не указана. Качество и поведение после слияния зависят от входящих моделей; отдельные результаты оценки в карточке не приведены.

Карточка модели SillyTilly/Meta-Llama-3.1-70B-Instruct на Hugging Face совпадает с карточкой NousResearch/Meta-Llama-3.1-70B-Instruct, поэтому описание составлено по ней. NousResearch публикует инструкционно настроенную модель Meta Llama 3.1 70B Instruct — плотную авторегрессионную языковую модель на архитектуре Transformer с 69,5 млрд параметров. Она принимает и генерирует текст, а версия Instruct предназначена для многоязычного диалога и работы в роли ассистента. Настройка включает дообучение с учителем и обучение с подкреплением на основе отзывов людей; модель поддерживает контекст до 131 072 токенов и использует Grouped-Query Attention для повышения эффективности вывода. Модель подходит для диалоговых приложений, ответов на вопросы и генерации текста на английском, немецком, французском, итальянском, португальском, хинди, испанском и тайском языках. Её можно запускать через Transformers; карточка также описывает варианты загрузки в 4- и 8-битном формате для снижения требований к памяти. Русский язык не входит в перечень поддерживаемых языков. Ответственность за безопасную интеграцию, включая подключение внешних инструментов, лежит на разработчике приложения. Модель разработана Meta и распространяется по лицензии Llama 3.1 Community License с условиями, изложенными в лицензии и Acceptable Use Policy. Это статический чекпойнт, обученный на офлайн-данных; качество и безопасность ответов требуют проверки в целевом сценарии.

MiniMax-M2.7-MXFP4-Mixed-CT-AutoRound — смешанная MXFP4-версия MiniMax-M2.7, подготовленная Intel с помощью AutoRound в режиме RTN. Это языковая модель для генерации текста и диалогового общения; в примере применения показан запуск через vLLM с поддержкой выбора инструментов и разбора вызовов инструментов. В тестах карточки приведены результаты на AIME 2025, GPQA Diamond, GSM8K и PIQA; сравнение с исходной версией показывает близкие значения на этих наборах. Модель распространяется в формате safetensors и имеет 8-битную маркировку в метаданных, при этом README описывает вариант MXFP4. Для запуска в примере используется контекст до 102 400 токенов и несколько GPU; это параметры примера инференса, а не подтверждённый нативный размер контекста. Применяется лицензия исходной MiniMax-M2.7; её конкретные условия следует проверять в карточке базовой модели. Модель может выдавать фактически неверные, предвзятые или оскорбительные ответы, поэтому перед использованием требуется оценка безопасности.

EnlistedGhost/Ministral-3-14B-Instruct-2512-GGUF — это конвертированная и квантованная версия Ministral-3-14B-Instruct-2512 от Mistral AI, опубликованная EnlistedGhost. Модель распространяется в формате GGUF и совместима с Ollama и Llama.cpp. Она предназначена для диалоговых текстовых задач и мультимодального анализа изображений, включая обработку запросов по тексту и изображениям; создавать изображения и обрабатывать аудио или видео она не умеет. Модель имеет 14 млрд параметров, поддерживает мультимодальный режим благодаря vision-проекторам и поставляется с несколькими файлами mmproj. Заявлена поддержка английского, французского, испанского, немецкого, итальянского, португальского, нидерландского, китайского, японского, корейского и арабского языков. В релиз включены варианты F16 и K-квантования с разным соотношением размера и качества. Автор также добавил собственный шаблон чата и скользящее окно контекста для последних восьми взаимодействий, однако фактический доступный размер контекста в README не указан. К сильным сторонам относятся локальный запуск через Ollama или Llama.cpp, поддержка изображений и выбор вариантов квантования. Ограничения включают отсутствие генерации изображений и поддержки аудио или видео, а также возможную потерю качества при квантовании. Модель распространяется по лицензии Apache-2.0.

bamec66557/Mistral-Nemo-VICIOUS_MESH-12B-2407 — языковая модель, созданная разработчиком bamec66557 слиянием моделей VICIOUS_MESH-12B-BETA и VICIOUS_MESH-12B-OMEGA методом SLERP с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс для вызова инструментов. Нативная длина контекста — 131 072 токена. Карточка приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но они не гарантируют качество для конкретных задач. Модель распространяется в формате safetensors по лицензии Apache-2.0. В предоставленной карточке не перечислены поддерживаемые естественные языки и конкретные ограничения применения.

Mixtral-8x7B-v0.1 — предварительно обученная генеративная языковая модель Mistral AI со sparse Mixture of Experts. В архитектуре Mixtral-8x7B восемь экспертов; модель предназначена для генерации текста и служит базовой моделью для дальнейшей адаптации под конкретные сценарии. В карточке разработчик сообщает, что модель превзошла Llama 2 70B на большинстве проверенных ими бенчмарков. Модель рассчитана на работу с текстом и поддерживает контекст до 32 768 токенов. В метаданных указаны английский, французский, итальянский, немецкий и испанский языки. Веса доступны в формате safetensors; репозиторий подготовлен для обслуживания через vLLM, а README также описывает загрузку через Transformers, хотя отдельно предупреждает, что на момент публикации модель ещё нельзя было инстанцировать через HF. Лицензия — Apache 2.0. Это базовая модель без встроенных механизмов модерации, поэтому ответы могут включать нежелательный контент. Для безопасного применения в пользовательских сценариях нужна отдельная проверка и настройка поведения модели.

Sakalti/mont-xl-agi — языковая модель для генерации текста, созданная слиянием моделей с помощью mergekit и метода SLERP. В неё вошли allknowingroger/Qwen2.5-42B-AGI и Qwen/Qwen2.5-0.5B-Instruct; в метаданных также указан Qwen2 как семейство архитектуры и класс Qwen2ForCausalLM. Модель содержит 747,4 млн параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текста. Метаданные отмечают интерфейс для вызова инструментов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Сведения о лицензии и поддерживаемых естественных языках отсутствуют в предоставленной карточке и метаданных.

Nemostein-3-Nano-Omni-30b-a3b-i1-GGUF — это GGUF-квантизированная версия модели GestaltLabs/Nemostein-3-Nano-Omni-30b-a3b. Квантизацию выполнил mradermacher с использованием weighted/imatrix-подхода. Модель предназначена для генерации текста на английском языке, диалоговых сценариев, задач рассуждения, использования инструментов и function calling. В метаданных модель отмечена как mixture-of-experts и связана с архитектурой Nemotron-H; обозначение базовой модели содержит параметры 30b-a3b, однако точное число активных параметров, размер контекста и подробности архитектуры в README не указаны. Поддержка других модальностей, кроме текстовой, также не подтверждена, несмотря на слово Omni в названии. Доступно множество вариантов GGUF-квантизации размером примерно от 18 до 33,6 ГБ, что позволяет выбирать компромисс между размером, скоростью и качеством. Сильными сторонами являются поддержка англоязычной генерации, reasoning, conversational use, tool use и function calling, а также широкий выбор уровней квантизации. Ограничения связаны с потерями качества, зависящими от выбранного варианта квантизации; некоторые низкобитные варианты в README прямо характеризуются как имеющие низкое качество. Лицензия указана как other, без дополнительных условий в представленном README.

OpenHermes-Mixtral-8x7B — инструктивная языковая модель на архитектуре Mixtral MoE, созданная дообучением Mistral AI Mixtral-8x7B-Instruct-v0.1. Модель разработана автором репозитория orangetin и обучена в течение трёх эпох на датасете OpenHermes, опубликованном Teknium. Модель предназначена для диалогов, следования инструкциям и генерации текста по запросу. Она поддерживает многоходовые беседы и системные инструкции через шаблон запросов LLaMA 2; заявленная длина контекста — 32 768 токенов. В карточке приведены результаты оценивания на бенчмарках рассуждений и понимания текста. Репозиторий содержит веса в формате safetensors. Модель имеет 7,1 млрд параметров по метаданным и распространяется по лицензии Apache 2.0. Карточка указывает английский язык; качество на других языках отдельно не описано.

pankajmathur/orca_mini_v8_1_70b — диалоговая модель Pankaj Mathur, дообученная на базе meta-llama/Llama-3.3-70B-Instruct. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров, предназначенная для генерации текста и ответов в формате диалога. В карточке приведён шаблон общения с системным, пользовательским и ассистентским сообщениями; среди датасетов указаны orca_mini_v1_dataset и orca_mini_v8_sharegpt_format. Модель работает с текстом и имеет контекстное окно до 131 072 токенов. Базовая Llama 3.3 поддерживает английский, французский, немецкий, хинди, итальянский, португальский, испанский и тайский языки; карточка Orca Mini отдельно отмечает английский. Лицензия — Llama 3.3 Community License (llama3.3). Модель может выдавать неточные, предвзятые или нежелательные ответы, поэтому её следует оценить и настроить под конкретное применение.

Orca Mini v9.3 — диалоговая языковая модель, дообученная Pankaj Mathur на базе meta-llama/Llama-3.3-70B-Instruct. Она предназначена для генерации текста и общения с пользователем в формате инструктивного ассистента. Модель содержит 69,5 млрд параметров, использует плотную архитектуру Llama и запускается через Transformers; веса представлены в форматах PyTorch и safetensors. Контекстное окно — до 131 072 токенов. Модель подходит для ответов на вопросы, ведения диалогов и генерации текстов. Базовая Llama 3.3 поддерживает английский и семь других языков: французский, немецкий, хинди, итальянский, португальский, испанский и тайский. Карточка Orca Mini также указывает английский язык. Качество и безопасность ответов не гарантированы: возможны ошибки, предвзятость и нежелательные ответы, поэтому перед внедрением нужны проверки и настройки под конкретный сценарий. Модель распространяется по лицензии Llama 3.3.

CultriX/Qwen2.5-14B-Brocav6 — объединённая языковая модель на архитектуре Qwen2 для генерации текста и диалогового общения. По README, CultriX создал её с помощью mergekit, применив метод della_linear и CultriX/Qwen2.5-14B-Wernickev3 как базу; в объединение также вошли несколько моделей семейства Qwen2.5, включая варианты для математики и диалога. Модель содержит 14 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Метаданные указывают поддержку чата и интерфейса вызова инструментов. Репозиторий содержит веса в формате safetensors; библиотека для работы — Transformers. Модель подходит для генерации ответов в диалоге, продолжения текста и других задач, решаемых текстовыми генеративными моделями. Документация не приводит специальных результатов оценки или подробных ограничений, поэтому качество на конкретных задачах следует проверять отдельно. Лицензия в предоставленных данных не указана.

Qwen3-Embedding-4B — модель эмбеддингов текста из семейства Qwen3, опубликованная в репозитории unsloth и дообученная на базе Qwen/Qwen3-4B-Base. Плотная архитектура Qwen3 насчитывает около 3,7 млрд параметров. Модель рассчитана на получение векторных представлений текста для поиска и ранжирования; метаданные также отмечают возможности генерации текста и сходства предложений. Модель поддерживает более 100 языков, понимает длинные тексты и принимает инструкции, помогающие настроить эмбеддинги под задачу. Контекст составляет до 40 960 токенов по метаданным, а README указывает 32 тыс.; размер выходного вектора можно задавать в диапазоне от 32 до 2560 измерений. Модель подходит для семантического и межъязыкового поиска, поиска по коду, классификации и кластеризации текстов. Модель распространяется под лицензией Apache-2.0. README рекомендует настраивать инструкции под сценарий и отмечает, что без инструкции на стороне запроса в задачах поиска качество может снижаться примерно на 1–5%; для многоязычных сценариев авторы советуют формулировать инструкции на английском. Для Transformers версии ниже 4.51.0 возможна ошибка загрузки с ключом qwen3.

Qwen2.5-VL-32B-Instruct-GGUF — квантованная версия мультимодальной инструкционной модели Qwen2.5-VL-32B-Instruct, разработанной командой Qwen и подготовленной пользователем bartowski в формате GGUF. Модель предназначена для генерации текста по инструкциям и мультимодальных сценариев, включая работу с визуальными данными; в метаданных указан английский язык. Точные сведения о поддерживаемых форматах изображений, контекстном окне и внутренней архитектуре в README не приведены. Доступны варианты от BF16 и Q8_0 до низкобитных Q3- и IQ-квантований размером примерно от 14,39 до 65,54 ГБ. Квантования выполнены с использованием imatrix и поддерживаются llama.cpp, LM Studio и другими совместимыми проектами. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут заметно терять в качестве; для большинства сценариев рекомендуется Q4_K_M как компромисс между размером и качеством. Для запуска необходима совместимая конфигурация, способная разместить выбранный файл модели. Распространение указано по лицензии Apache-2.0. README не содержит подробных результатов тестирования, ограничений мультимодального ввода или гарантированных характеристик производительности, поэтому качество и скорость будут зависеть от выбранного уровня квантования и аппаратного обеспечения.

slerp-test-turdus-beagle — текстовая генеративная модель объёмом 7,1 млрд параметров, созданная объединением udkai/Turdus и mlabonne/NeuralBeagle14-7B методом SLERP с помощью LazyMergekit. Модель основана на архитектуре Mistral и распространяется в формате Safetensors; для неё заявлено контекстное окно до 32 768 токенов. Модель предназначена для генерации текста, диалогов, следования инструкциям, рассуждений и творческих задач. В карточке приведены результаты оценок на бенчмарках AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0. Метаданные указывают на объединение двух базовых моделей; README также приводит OpenPipe/mistral-ft-optimized-1218 как базовую модель в конфигурации слияния.

TopEvolution-DPO-32K — слитая языковая модель семейства Mistral, созданная сообществом mergekit-community методом SLERP на основе mergekit-community/TopEvolution и mpasila/Kunoichi-DPO-v2-Instruct-32k-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и выполнения инструкций; поддерживает контекст до 32 768 токенов. В конфигурации слияния использована V-образная кривая весов: TopEvolution задаёт вклад на входе и выходе, а Kunoichi-DPO-v2-Instruct — в средних слоях. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Языковая специализация и лицензия в предоставленных источниках не описаны.

mlx-community/Apertus-8B-Instruct-2509-bf16 — версия модели Apertus-8B-Instruct-2509, подготовленная сообществом mlx-community для запуска в MLX. Основа — дообученная диалоговая модель Swiss AI Initiative с плотной архитектурой ApertusForCausalLM; в метаданных указано 10,3 млрд параметров и контекст до 65 536 токенов. Модель предназначена для диалоговой генерации текста, ответов на вопросы и работы с длинным контекстом. Метаданные отмечают интерфейс вызова инструментов и многоязычную поддержку, но README не уточняет список языков и не содержит примеров качества. Репозиторий распространяется по лицензии Apache-2.0.

Bielik-11B-v3.0-Instruct-GGUF — квантизированная версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной SpeakLeash совместно с ACK Cyfronet AGH. Это каузальная decoder-only модель для генерации текста и диалогового взаимодействия, представленная в формате GGUF для локального запуска с помощью llama.cpp, Ollama и совместимых приложений. Модель мультиязычная и поддерживает 32 европейских языка, при этом оптимизирована для польского. В README размер указан как 11B параметров; сведения о длине контекста и дополнительных модальностях не приведены. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K, Q8_0, а также 16-битные FP16 и BF16. Квантизация позволяет снизить требования к ресурсам, но может уменьшать качество ответов и повышать вероятность галлюцинаций; Q8_0 требует значительных ресурсов, а низкобитные варианты требуют особенно осторожной настройки. Модель предназначена для локального текстового вывода, включая диалоги и задачи, поддерживаемые инструкционной языковой моделью. В конфигурации для Ollama предусмотрен экспериментальный вызов инструментов с ответом в формате JSON. Модель распространяется по лицензии Apache 2.0.

Dolphin-2.6-FC_Hermes-2-DPO — объединённая модель генерации текста, созданная с помощью LazyMergekit путём слияния cognitivecomputations/fc-dolphin-2.6-mistral-7b-dpo-laser и NousResearch/Nous-Hermes-2-Mistral-7B-DPO. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для генерации текста и диалогового взаимодействия. Данные README описывают слияние методом SLERP в формате bfloat16; карточка базовой модели указывает на генерацию по инструкциям и общение в ChatML. В метаданных репозитория указан формат safetensors. Сведения о поддерживаемых естественных языках и конкретной лицензии отсутствуют, поэтому их нельзя надёжно указать.

GPT-OSS-Nano — компактная языковая модель с архитектурой Mixture of Experts, опубликованная пользователем squ11z1 и дообученная на базе openai/gpt-oss-20b. Модель ориентирована на пошаговое рассуждение и решение задач, включая математические вопросы, объяснение концепций и общий текстовый диалог. Для обучения использовались QLoRA, Unsloth и TRL на наборе Superior-Reasoning с примерами цепочек рассуждений. Модель содержит около 9 млрд параметров, из которых примерно 3 млрд активируются на каждом проходе. Архитектура включает 12 экспертов, 4 активных эксперта на токен, 24 слоя, скрытое измерение 2880, 64 attention heads с 8 KV-головами и GQA. Заявлена поддержка контекста до 131 072 токенов и точности BFloat16. Основной язык — английский; качество на других языках может варьироваться. Доступны форматы GGUF для локального запуска через llama.cpp и Ollama, а также интеграция с Transformers и 4-битной загрузкой через Unsloth. Сильными сторонами модели являются относительно экономичное разреженное вычисление, большой контекст и специализация на пошаговом reasoning. Ограничения включают преимущественно англоязычную оптимизацию, риск правдоподобных ошибок и непригодность для критически важных сценариев без дополнительной проверки. Модель распространяется по лицензии Apache-2.0.

CombinHorizon/huihui-ai-abliteratedV2-Qwen2.5-14B-Inst-BaseMerge-TIES — объединённая текстовая модель на архитектуре Qwen2, созданная с помощью mergekit методом TIES на основе Qwen/Qwen2.5-14B и huihui-ai/Qwen2.5-14B-Instruct-abliterated-v2. Она предназначена для диалоговой генерации текста и ответов на запросы. Модель содержит 14 млрд параметров, использует формат safetensors и поддерживает контекст до 131 072 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0.

Luminea-Dare — объединённая диалоговая языковая модель от Arkhiveus, созданная методом DARE TIES с помощью mergekit. В качестве основы использована Arkhiveus/L3.1-70B-Luminea; при объединении также использованы NeverSleep/Lumimaid-v0.2-70B и nvidia/Llama-3.1-Nemotron-70B-Instruct-HF. Модель предназначена для генерации текста в диалоге и ответов на инструкции. По описанию автора, она сохраняет формат ответов Nemotron и стиль письма Lumimaid. Это плотная Llama-архитектура класса LlamaForCausalLM с 69,5 млрд параметров, контекстом до 131 072 токенов и весами в формате safetensors для Transformers. В метаданных лицензия не приведена.

llama-3.1-70B-lumitron — объединённая авторами модели nonetrix языковая модель на основе архитектуры Llama 3.1. Она создана методом task arithmetic с помощью mergekit: в объединение вошли nvidia/Llama-3.1-Nemotron-70B-Instruct-HF и NeverSleep/Lumimaid-v0.2-70B. Модель содержит 69,5 млрд параметров, использует формат safetensors и доступна через библиотеку Transformers; заявленная длина контекста — 131072 токена. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и инструкции. Метаданные также отмечают интерфейс вызова инструментов. Карточка не приводит результатов оценки качества или отдельных гарантий работы этих возможностей. Лицензия в предоставленных данных не указана.

Llama-3.1-8B-Instruct-EI1-2ep-sft-warmupbs — дообученная модель семейства Llama, созданная на основе meta-llama/Llama-3.1-8B-Instruct. Она предназначена для диалогов и генерации текста по инструкциям; метаданные также отмечают интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 7,5 млрд параметров. Контекст — до 131 072 токенов. В README указан результат оценки: loss 0,6092. Датасет обучения не раскрыт, поэтому нельзя оценить специализацию модели или переносимость результата на другие задачи. Модель распространяется в формате safetensors по лицензии Llama 3.1; условия лицензии следует учитывать при использовании.

Llama-3.1-Tulu-3-70B — англоязычная диалоговая модель Allen Institute for AI (AI2), основанная на архитектуре Llama 3.1 и дообученная на модели allenai/Llama-3.1-Tulu-3-70B-DPO. Это плотная causal language model с 69,5 млрд параметров; карточка указывает контекст до 131 072 токенов и загрузку через Transformers. Модель входит в семейство Tülu 3, для которого AI2 публикует данные, код и рецепты постобучения. Модель предназначена для диалогов и следования инструкциям, генерации текста, математических задач и проверки выполнения сложных инструкций. В карточке упомянуты MATH, GSM8K и IFEval. Основной язык — английский. Лицензия — Llama 3.1 Community License Agreement. У модели ограничено обучение безопасности; она может выдавать проблемные ответы, особенно при соответствующих запросах. Для надёжного применения в пользовательских сценариях следует учитывать необходимость фильтрации ответов. README рекомендует для запуска через vLLM ограничивать длину модели до 8192 токенов из-за длинного шаблона диалога, хотя метаданные указывают нативный контекст 131 072 токена.

llm-jp-4-8b-thinking-gguf — языковая модель на основе Transformer, разработанная Исследовательским центром больших языковых моделей Национального института информатики Японии (NII). Модель предназначена для генерации текста, диалоговых сценариев, решения задач и работы с инструкциями на английском и японском языках. Вариант thinking обучен с использованием supervised fine-tuning (SFT) и direct preference optimization (DPO), без reinforcement learning. Модель имеет около 8,59 млрд параметров, 32 слоя, размер скрытого состояния 4096 и 32 attention heads. Максимальная длина контекста составляет 65 536 токенов. Репозиторий содержит представление GGUF для запуска совместимых средств инференса; используется Unigram byte-fallback токенизатор на основе llm-jp-tokenizer v4.0, а шаблон чата совместим с форматом OpenAI Harmony. К сильным сторонам относятся большой контекст, поддержка японского и английского языков, постобучение с применением SFT и DPO, а также возможность локального запуска в экосистеме GGUF. Ограничением является необходимость использовать форк llama.cpp от LLM-jp: стандартная upstream-версия llama.cpp может некорректно обрабатывать токенизацию и чат. README не содержит достаточных количественных результатов оценки качества, поэтому сравнивать модель с альтернативами по бенчмаркам нельзя. Модель распространяется по лицензии Apache-2.0.

Mirai Nova — дообученная LocalAI модель на архитектуре Llama 3, созданная для генерации текста и диалогов. Разработчики ориентируют её на вызов функций и отмечают усиленные способности к рассуждению; модель также подходит для общих текстовых задач. В LocalAI она рассчитана на работу с вызовом функций через грамматики. Чекпойнт содержит 7,5 млрд параметров, поддерживает контекст до 8192 токенов и распространяется в формате safetensors. Сведений о лицензии в использованных данных нет.

Octen-Embedding-4B-INT8 — текстовая embedding-модель, разработанная Octen на основе Qwen/Qwen3-Embedding-4B и дообученная методом LoRA. Она преобразует тексты в векторы размерностью 2560 и предназначена для семантического поиска, retrieval-сценариев, оценки схожести предложений, извлечения признаков и поиска по документам. Модель поддерживает английский, китайский и другие языки, а также различные языки программирования, что позволяет использовать её для многоязычного, кросс-языкового и кодового поиска. Модель содержит около 4 млрд параметров и представлена в INT8-квантизированном формате с использованием bitsandbytes. По данным README, объём памяти составляет примерно 4 ГБ против около 8 ГБ для версии BF16. Заявлена поддержка длинного контекста: в большинстве разделов указано до 32 768 токенов, а в разделе характеристик — до 40 960 токенов. Поэтому точное ограничение контекста следует проверять в конфигурации модели. Embedding-пространство высокой размерности рассчитано на работу с длинными документами и специализированными данными в юридической, финансовой, медицинской и программной областях. К сильным сторонам относятся уменьшенное потребление памяти, широкая языковая поддержка, ориентация на прикладные retrieval-задачи и возможность обработки длинного контекста. К ограничениям относятся отсутствие гарантии ускорения инференса после INT8-квантизации: на некоторых аппаратных платформах модель может работать немного медленнее BF16-версии. В приведённых результатах Octen-Embedding-4B получила средний показатель 0,7834 на RTEB, включая 0,7747 на Public и 0,7942 на Private. Модель распространяется по лицензии Apache-2.0.

Theros/Qwen2.5-ColdBrew-R1-test4 — объединённая авторами модель генерации текста на архитектуре Qwen2, созданная с помощью mergekit методом SLERP из Theros/Qwen2.5-ColdBrew-R1-test2 и bunnycore/Qwen-2.5-7B-Stock-Deep-Bespoke-v2. Она предназначена для диалогов и генерации текста; в метаданных также указана возможность chat. Модель содержит 7,1 млрд параметров, принимает текст и выдаёт текст. Родной контекст составляет 131 072 токена. Репозиторий использует формат safetensors, библиотека — Transformers. В карточке не указаны специальные отраслевые сценарии или перечень поддерживаемых естественных языков. Лицензия в предоставленных данных не приведена.