II.1Анализ требований и архитектура ПО

Карточка модели minpeter/Llama-3.2-1B-AlternateTokenizer-chatml на Hugging Face совпадает с карточкой meta-llama/Llama-3.2-1B, поэтому описание составлено по ней. Meta Llama 3.2 1B — авторегрессионная языковая модель на основе оптимизированной архитектуры Transformer. Это предварительно обученная многоязычная модель с примерно 1,23 млрд параметров; она принимает и генерирует текст, а также может работать с кодом. В карточке указаны контекст до 128 тысяч токенов, Grouped-Query Attention и обучение на смеси общедоступных данных. Модель предназначена для генерации текста и адаптации к различным задачам обработки естественного языка. Её можно использовать для черновиков и продолжения текста, перефразирования запросов, краткого изложения и диалоговых приложений после соответствующей настройки. Разработчик — Meta; модель доступна через библиотеку Transformers в формате safetensors. Официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Это предварительно обученная модель, а не версия, настроенная специально для диалога; качество и безопасность ответов следует проверять и при необходимости адаптировать для конкретного применения. Использование регулируется пользовательской лицензией Llama 3.2 Community License и Acceptable Use Policy.

bunnycore объединил методом passthrough через mergekit модели huihui-ai/Llama-3.2-3B-Instruct-abliterated и bunnycore/Llama-3.2-3B-General-lora_model. Это плотная авторегрессионная языковая модель семейства Llama 3.2 с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают интерфейс чата и вызова инструментов; модель принимает текст и генерирует текст. Заявленная длина контекста — 131072 токена. Карточка сообщает о результатах оценки на Open LLM Leaderboard, включая среднее значение 21,30 и результат IFEval 66,69, но не приводит подробного описания методики или сценариев, где модель превосходит другие. Файлы опубликованы в формате safetensors и используют bfloat16. Дата публикации на Hugging Face — 27 октября 2024 года. Лицензия в предоставленных данных не указана.

MaziyarPanahi/Llama-3-70B-Instruct-32k-v0.1-GGUF — набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-70B-Instruct-32k-v0.1. Модель разработана и квантизирована MaziyarPanahi, относится к семейству Llama 3 и предназначена для генерации текста и выполнения инструкций. В названии указаны 70 миллиардов параметров и контекст до 32 тысяч токенов; сведения о поддерживаемых языках и точной архитектуре в README не приведены. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством работы. Формат поддерживается llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и рядом других инструментов для локального запуска, включая сценарии с GPU-ускорением и OpenAI-совместимым API. README не содержит результатов оценивания, подробного описания сильных и слабых сторон, а также информации о лицензии, поэтому эти характеристики нельзя определить по предоставленным данным.

MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1-GGUF — это набор файлов модели в формате GGUF для MaziyarPanahi/Llama-3-8B-Instruct-32k-v0.1. Модель создана и квантована MaziyarPanahi; исходная архитектура и точные параметры в предоставленной карточке не раскрыты, однако из названия следует, что это instruct-модель семейства Llama с заявленным размером 8B и контекстом до 32k токенов. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые приложения и библиотеки. Формат GGUF ориентирован на использование с llama.cpp и поддерживается, среди прочего, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и Candle; возможна работа с GPU-ускорением в зависимости от выбранного инструмента и конфигурации. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством генерации. Ограничения включают возможные потери качества из-за квантования, зависимость производительности от оборудования и программного окружения, а также отсутствие в README сведений о языках, точных характеристиках архитектуры, результатах тестирования и лицензии.

Llama3-ChatQA-2-70B — языковая модель NVIDIA для диалоговых ответов с опорой на предоставленный контекст. Она предназначена для поиска и синтеза ответов по документам и извлечённым фрагментам, а также для сценариев RAG, где важно сообщать, если ответа нет в контексте. Модель построена на Llama 3 и содержит 69,5 млрд параметров. Контекстное окно расширено с 8K до 128K токенов; обучение включало продолжение предобучения для увеличения контекста и три этапа настройки инструкциями. Модель принимает текст и выдаёт текст, поддерживает английский язык и представлена в формате PyTorch. Для работы рекомендуется формат диалога из карточки модели: системная инструкция, контекст, вопрос и ответ; модель оптимизирована для ответов по контексту. В README приведены оценки на наборах для короткого, длинного и сверхдлинного контекста, но конкретные ограничения и условия лицензии в доступных данных не описаны.

KKHYA/llavaqwen2.5-32b-finetune-dense-2m-half — плотная 32-миллиардная причинная языковая модель семейства LlavaQwen2, доступная в формате safetensors и рассчитанная на диалоговую генерацию текста. В метаданных заявлено контекстное окно до 131072 токенов и интерфейс для вызова инструментов. README сообщает, что модель обучена с нуля на неизвестном наборе данных, но не приводит сведений о разработчике, обучающих данных или оценке качества. Модель можно применять для диалогов и генерации текста, в том числе в сценариях с длинным контекстом и подключением инструментов. Несмотря на семейство архитектуры LlavaQwen2, доступные метаданные не подтверждают поддержку изображений, поэтому мультимодальные возможности не заявляются. Лицензия в предоставленных данных не указана.

Marco-o1 — языковая модель команды MarcoPolo Team из AI Business, Alibaba International Digital Commerce. Это дообученная на основе Qwen2-7B-Instruct модель с архитектурой Qwen2ForCausalLM и примерно 7,1 млрд параметров. Она предназначена для диалогов и сложных рассуждений, в том числе для открытых задач, где нет однозначного ответа, а также для математики, физики, программирования и перевода. Модель обучали с использованием данных Chain-of-Thought, включая открытые и синтетические наборы. В исследовательском подходе команды также применяются поиск по дереву Монте-Карло, оценка уверенности и саморефлексия для исследования нескольких вариантов решения. Контекст составляет до 32 768 токенов. В README приведены результаты на английской и китайской версиях MGSM и примеры перевода разговорных выражений; упоминаются также мультиязычные сценарии. Авторы отмечают, что возможности рассуждения пока уступают полноценной модели OpenAI o1, а работа над улучшениями продолжается. Модель распространяется по лицензии Apache-2.0.

MegaBeam-Mistral-7B-512k — компактная языковая модель на 7,1 млрд параметров, представленная в работе «Scaling Context, Not Parameters: Training a Compact 7B Language Model for Efficient Long-Context Processing». Она дообучена на Mistral-7B-Instruct-v0.2 и предназначена для генерации текста и диалогов с длинными документами и контекстом до 524 288 токенов. Модель использует плотную архитектуру MistralForCausalLM и распространяется в формате Safetensors. Модель подходит для поиска фактов в объёмных текстах, многошаговых вопросов и ответов, суммирования и других сценариев, где требуется учитывать длинный контекст. В README приведены результаты оценок на NIAH, RULER и InfiniteBench; они указывают на сильное извлечение информации в некоторых тестах, но качество различается между задачами и не гарантирует результат на пользовательских данных. Для эффективного запуска длинного контекста требуются совместимые инструменты обслуживания модели и значительные вычислительные ресурсы. Лицензия — Apache-2.0.

NANI-Nithin/Mellum2-12B-A2.5B-Instruct-GGUF — набор GGUF-квантизаций модели JetBrains/Mellum2-12B-A2.5B-Instruct, разработанной JetBrains. Модель предназначена для генерации текста и выполнения инструкций в формате ассистента, а репозиторий ориентирован на эффективный локальный запуск через llama.cpp, Ollama, LM Studio и другие совместимые среды. Указана архитектура Mellum2, контекстное окно до 131 072 токенов и поддержка английского языка. Доступны варианты Q4_K_M размером 8,07 ГБ и Q5_K_M размером 9,21 ГБ: первый рассчитан на экономию памяти при хорошем соотношении качества и размера, второй обеспечивает более высокое качество при умеренном увеличении требований к памяти. Обозначение модели содержит параметры 12B-A2.5B, однако дополнительные сведения о структуре, числе активных параметров и мультимодальности не приведены. Модель подходит для локального чата, программирования, экспериментов с использованием инструментов, а также CPU-ориентированного или ограниченного по памяти вывода. Ограничения связаны с потерями качества, возможными при квантизации, зависимостью от GGUF-совместимого программного обеспечения и отсутствием подробных данных о производительности и качестве на конкретных задачах. При конвертации некоторые тензоры могут использовать резервную квантизацию, что считается ожидаемым и не препятствует запуску. Модель распространяется по лицензии Apache 2.0.

Mellum2 Instruct (SFT) — промежуточная модель с инструкционной настройкой, выпущенная JetBrains. Это контрольная точка этапа supervised fine-tuning в конвейере обучения Mellum2 Instruct, предназначенная для изучения этого этапа, экспериментов с последующей настройкой предпочтений или RLVR и сравнения с итоговой RL-настроенной версией. Модель использует архитектуру Mixture-of-Experts: 64 эксперта, из которых для каждого токена активируются 8. В ней сочетаются слои скользящего окна и полное внимание; контекст — до 131 072 токенов. Метаданные указывают 1,9 млрд параметров. Модель принимает текст и генерирует текст; карточка сообщает об обучении на смешанных данных для кода, агентных сценариев, вызова инструментов, следования инструкциям, общего диалога, идентичности и безопасности. Контрольная точка получена после трёх эпох SFT от JetBrains/Mellum2-12B-A2.5B-Base. Авторы рекомендуют для качественного следования инструкциям в производственных сценариях итоговую версию Instruct. Модель доступна по лицензии Apache-2.0.

mera-mix-4x7B — языковая модель с архитектурой смеси экспертов (MoE), разработанная командой Mera. В ней четыре эксперта вместо восьми у Mixtral-8x7B; карточка описывает её как более компактную замену Mixtral-8x7B с более быстрым выводом и сопоставимыми результатами на бенчмарках. В метаданных указаны архитектура MixtralForCausalLM, 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогового использования. В README приведены результаты OpenLLM Eval: 75,91 балла; также сообщается о результатах на AI2 Reasoning Challenge и HellaSwag. Доступны веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не уточняет языки обучения и поддерживаемые языки.

Meta-Llama-3.1-Instruct-8B_merged-16bit_CPO_MSMARCO — языковая модель семейства Llama, опубликованная inpars-plus и дообученная на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit с использованием Unsloth и Hugging Face TRL. Это плотная авторегрессионная модель с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров; она принимает текст и генерирует текст, поддерживает диалоговый режим и интерфейс вызова инструментов. Заявленная длина контекста — 131 072 токена, в карточке указан английский язык. Модель предназначена для генерации текста и диалоговых сценариев, включая ответы на запросы и работу с инструментами. В README нет подробностей о данных CPO/MSMARCO, методике обучения или оценке качества, поэтому её специализацию и результаты на конкретных задачах ранжирования нельзя подтвердить по доступной карточке. Лицензия — Apache-2.0.

Meta-Llama-3-8B-Instruct-GGUF — языковая модель для генерации текста, созданная Meta и представленная сообществом lmstudio-community в формате GGUF. Она основана на Meta-Llama-3-8B-Instruct и предназначена для диалоговых приложений, ответов на вопросы, следования инструкциям и других задач текстовой генерации. Указан английский язык и тип применения text-generation. Модель имеет 8 миллиардов параметров и относится к семейству Llama 3. В предоставленных данных не указаны точная архитектура, размер контекстного окна, доступные варианты квантования и дополнительные модальности, поэтому эти характеристики нельзя определить надёжно. Формат GGUF ориентирован на локальный запуск совместимыми средствами, включая приложения класса LM Studio. Модель может быть полезна для локальных текстовых помощников и других сценариев, где требуется выполнение инструкций на английском языке. Ограничения включают неизвестные параметры производительности, отсутствие подтверждённых мультиязычных возможностей и потенциальные ошибки или нежелательные ответы, характерные для генеративных языковых моделей. Использование регулируется Meta Llama 3 Community License: при распространении материалов или продуктов необходимо соблюдать условия лицензии, требования к атрибуции, Acceptable Use Policy и прочие ограничения Meta.

Ministral-3-14B-Reasoning-2512-GGUF — мультимодальная языковая модель в формате GGUF, созданная на основе Ministral-3-14B-Reasoning-2512 от MistralAI. Конвертацию и квантизацию выполнил EnlistedGhost с использованием llama.cpp версии 8189. Модель предназначена для локального запуска через Ollama и llama.cpp и поддерживает как текстовые, так и визуальные запросы благодаря двум файлам мультимодального проектора mmproj. Модель ориентирована на диалоговые сценарии, рассуждение, анализ изображений и генерацию ответов на нескольких языках: английском, французском, испанском, немецком, итальянском, португальском, нидерландском, китайском, японском, корейском, арабском и русском. Заявлен размер базовой модели — 14B параметров. В поставку входит пользовательский шаблон чата с ограничением скользящего окна примерно до 46 взаимодействий, которое можно изменять в шаблоне. К сильным сторонам относятся совместимость с Ollama и llama.cpp, локальный запуск, мультимодальность, многоязычность и наличие квантованных вариантов, позволяющих снизить требования к ресурсам. Ограничения связаны с потерями качества и точности, характерными для квантизации, а также с возможными проблемами шаблона чата: автор сообщает, что при загрузке с Hugging Face механизм тегов рассуждений может работать некорректно и требует исправления или настройки. Модель распространяется по лицензии Apache-2.0.

Ministral-3-3B-Instruct-2512 в формате LiteRT-LM — это квантизированная версия текстовой instruct-модели mistralai/Ministral-3-3B-Instruct-2512, подготовленная сообществом для запуска на устройствах через on-device runtime Google LiteRT-LM. Модель предназначена для генерации текста и диалоговых сценариев непосредственно на Android, iOS, macOS и других совместимых edge-устройствах без обязательной передачи данных в облако. Исходная модель разработана Mistral AI, а представленная сборка распространяется в формате .litertlm и относится к quantized-моделям. Это текстовая модель: vision tower Pixtral удалён, поэтому обработка изображений не поддерживается. Используется декодер Ministral с native Mistral-шаблоном чата [INST] … [/INST], прямым форматом ответов без блока рассуждений и остановкой по токену </s>. Размер модели — около 3B параметров; файл занимает примерно 2,3 ГБ, а с учётом runtime и GPU-кэша требуется около 2,7 ГБ или больше оперативной памяти. Веса представлены в формате symmetric int4 blockwise с блоком 32 и OCTAV clipping, вычисления выполняются в integer, размер KV-контекста составляет 4096 токенов. Токенизатор и шаблон запросов включены в bundle. Сильные стороны модели — возможность полностью локального запуска, совместимость с GPU и CPU через LiteRT-LM, отсутствие необходимости в отдельных файлах токенизатора и хорошие показатели на современных мобильных и настольных устройствах. Ограничения включают текстовую специализацию без мультимодальности, ограниченный контекст в 4096 токенов, высокие требования к памяти для GPU и заметно меньшую скорость на слабых устройствах, например Raspberry Pi 5. Лицензия — Apache-2.0.

Ministral-8B-Instruct-2410-GGUF — квантизированная версия инструкционной языковой модели Ministral-8B-Instruct-2410, разработанной Mistral AI и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения задач по инструкциям, включая диалоговые и прикладные сценарии на поддерживаемых языках: английском, французском, немецком, испанском, итальянском, португальском, китайском, японском, русском и корейском. Из доступных данных известен размер базовой модели — 8B параметров; сведения о конкретном типе квантизации, архитектуре, размере контекста и численных характеристиках отсутствуют. Ключевые достоинства модели — инструкционная настройка, мультиязычность и возможность использования квантизированной сборки в совместимой с GGUF инфраструктуре. При этом README не содержит результатов тестирования, поэтому качество на отдельных языках и задачах оценить нельзя; также не указаны точные требования к памяти и производительности. Модель распространяется по Mistral AI Research License (MRL-0.1), которая ограничивает использование модели, производных моделей и результатов исследовательскими целями и устанавливает дополнительные требования к распространению, атрибуции и уведомлению о модификациях.

mistral-7b-neuralhermes-2.5-dpo — разговорная модель семейства Mistral, созданная CorticalStack дообучением teknium/OpenHermes-2.5-Mistral-7B методом DPO на наборе Intel/orca_dpo_pairs. Она предназначена для диалогов и генерации ответов на текстовые запросы; метаданные также отмечают возможность общения в формате чата. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. В карточке указаны параметры LoRA: r=16, alpha=16 и dropout=0,05. Модель распространяется по лицензии Apache-2.0. README не описывает отдельные специализированные области применения или подтверждённые языки.

mistral-7b-shisa-7b-v1 — объединённая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из ajibawa-2023/Code-Mistral-7B и augmxnt/shisa-7b-v1. Она содержит 7,1 млрд параметров и предназначена для генерации текста в диалогах, а также для задач программирования, на которых обучена одна из исходных моделей. Модель принимает текст и выдаёт текст; заявленный контекст составляет до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает способ объединения весов, но не приводит результаты оценки качества или подробные сведения о поддерживаемых языках. Поэтому пригодность для конкретных задач и качество ответов следует проверять отдельно.

Mistral-7B-v0.1 — предварительно обученная генеративная языковая модель команды Mistral AI с плотной архитектурой Transformer и примерно 7,1 млрд параметров. Она предназначена для генерации продолжения текста и служит базовой моделью для дальнейшей адаптации под конкретные задачи. Модель использует Grouped-Query Attention, Sliding-Window Attention и токенизатор Byte-fallback BPE. Родной контекст составляет 32 768 токенов. Карточка указывает английский язык; модель доступна в форматах PyTorch и safetensors и рассчитана на работу с библиотекой Transformers. По заявлению разработчиков, на проверенных ими бенчмарках модель превосходила Llama 2 13B. Это базовая модель без механизмов модерации, поэтому сгенерированный текст может быть нежелательным или небезопасным. Лицензия — Apache-2.0.

Mistral-Instruct-Ukrainian-SFT — языковая модель Radu Chivereanu, полученная supervised fine-tuning модели Mistral-7B-Instruct-v0.2 на украиноязычных наборах данных. Она предназначена для диалогов и выполнения инструкций на украинском языке, включая ответы на вопросы, задания по чтению и пониманию текста, а также вопросы и ответы по тематике программирования. Модель содержит 7,1 млрд параметров; её архитектура — плотный трансформер MistralForCausalLM с Grouped-Query Attention и Sliding-Window Attention. Контекст составляет до 32 768 токенов. Для запросов используется формат инструкций с токенами [INST] и [/INST], также доступен chat template Transformers. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README приводит результаты нескольких бенчмарков, но они не гарантируют качество на других задачах и данных.

Mixtral-8x22B-v0.1 — базовая генеративная языковая модель семейства Mixtral, разработанная Mistral AI. В этом репозитории размещена конвертированная в формат Transformers версия весов, загруженная сообществом; автор README рекомендует использовать актуальные веса в организации Mistral AI. Модель построена на разреженной архитектуре смеси экспертов (MoE) и предназначена для генерации текста и использования как основа для прикладных решений. Контекст составляет до 65 536 токенов. Карточка указывает поддержку английского, французского, итальянского, немецкого и испанского языков. Для запуска предусмотрены Transformers, а также варианты вычислений в пониженной точности. Это базовая предварительно обученная модель, а не версия Instruct; для диалоговых приложений может потребоваться дополнительная настройка. В README отмечено отсутствие встроенных механизмов модерации. Лицензия — Apache 2.0.

A1rboy/model — дообученная языковая модель, разработанная A1rboy на базе unsloth/DeepSeek-R1-Distill-Qwen-7B-unsloth-bnb-4bit. Она предназначена для генерации текста и диалоговых сценариев; в метаданных также отмечен интерфейс вызова инструментов. Модель использует плотную архитектуру Qwen2ForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 131 072 токенов. Для обучения применялись Unsloth и библиотека Hugging Face TRL. Карточка указывает английский язык. Модель принимает текст и генерирует текст. Она распространяется по лицензии Apache-2.0. Карточка не описывает специализированную область применения или отдельные ограничения качества.

MonarchPipe-7B-slerp — текстовая генеративная модель на архитектуре Mistral, созданная сообществом ichigoberry путём слияния OpenPipe/mistral-ft-optimized-1227 и mlabonne/AlphaMonarch-7B с помощью LazyMergekit. Слияние выполнено методом SLERP; репозиторий содержит веса в формате Safetensors, размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для диалогов, следования инструкциям, ответов на вопросы и рассуждений в текстовом формате. В README приведены результаты бенчмарка Nous: средний балл MonarchPipe-7B-slerp составляет 58,77; таблица показывает результаты по AGIEval, GPT4All, TruthfulQA и Bigbench. Модель распространяется по лицензии CC BY-NC 2.0, которая ограничивает коммерческое использование. README не описывает отдельные языки или специальные прикладные области; их не следует считать подтверждёнными характеристиками модели.

RadixArk подготовила Muse-Glimmer-q4k-dynamic-MLX — текстовую версию Muse Glimmer для компьютеров Apple Silicon, упакованную в формат MLX. Это плотная модель семейства Muse Glimmer с 28 млрд параметров, 52 слоями и контекстом до 131 072 токенов. Репозиторий содержит веса в safetensors, разбитые на пять файлов; библиотека запуска — MLX, для сервинга автор рекомендует SGLang с MLX-бэкендом. Модель предназначена для генерации текста в диалогах и поддерживает интерфейс вызова инструментов. Квантование использует смешанную схему 4/5/6 бит с размером группы 32; веса сохраняют коды исходного динамического GGUF-квантования, а преобразование в MLX выполнено без повторного квантования. По приведённым автором тестам на одной системе результаты близки к запуску исходного GGUF через llama.cpp, однако эти оценки относятся к конкретным тестам и конфигурации. Для запуска автор указывает Mac с унифицированной памятью от 48 ГБ. Модель работает только с текстом: у MLX-бэкенда нет пути обработки изображений. Сведения о лицензии в предоставленной карточке отсутствуют.

AlSamCur123/Nemo-InstructContinuedFine — дообученная разговорная модель AlSamCur123 на архитектуре Mistral, основанная на unsloth/mistral-nemo-instruct-2407-bnb-4bit. Для обучения использовались Unsloth и библиотека Hugging Face TRL; модель предназначена для генерации текста в диалоге и имеет интерфейс вызова инструментов. Модель содержит 12,1 млрд параметров, использует формат Safetensors и рассчитана на контекст до 1 024 000 токенов. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI/Nemotron-Cascade-2-30B-A3B-JANG_4M — квантованная версия NVIDIA Nemotron-Cascade-2-30B-A3B, подготовленная Jinho Jang с помощью открытого формата и движка JANG для MLX. Это языковая модель для диалогов и генерации текста с пошаговым режимом рассуждений и интерфейсом вызова инструментов. В основе — гибридная архитектура Nemotron-H: Mamba-2, смесь экспертов (MoE) и слои внимания; в README указаны 52 слоя и 128 экспертов с выбором шести. Квантование JANG_4M использует 4,1 бита и 8-битные веса внимания. Метаданные указывают 1,9 млрд параметров и контекст до 262 144 токенов. Модель ориентирована на рассуждения, в том числе решение математических задач, а также на обычные диалоги и агентные сценарии. По результатам теста MMLU на 200 вопросах, приведённым автором карточки, она набрала 93% в режиме рассуждений; это результат собственного тестирования, а не независимая оценка. Для запуска нужны Apple Silicon с не менее чем 24 ГБ объединённой памяти и совместимая среда MLX, например MLX Studio или пакет JANG для MLX; обычные загрузчики MLX могут не поддерживать отображение весов этой архитектуры. В карточке указана лицензия «other», конкретные условия следует проверять у автора базовой модели и производной версии.

NeuralKrishna-7B-v3 — объединённая модель для генерации текста, созданная Kukedlc с помощью LazyMergekit. В конфигурации указана база mlabonne/Monarch-7B и слияние методом DARE-TIES с NeuralGlitch-Yam-Peleg-7B-DT, Fasciculus-Arcuatus-7B-slerp и Neural4gsm8k; веса сохранены в формате bfloat16. Метаданные указывают архитектуру Mistral с плотной сетью из 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и решения задач на рассуждение, включая математические вопросы, благодаря включённой в слияние Neural4gsm8k. Поддерживаемый язык в источниках не указан. Модель распространяется по лицензии Apache-2.0.

NeuralMarioMonarch-7B-slerp — языковая модель на архитектуре Mistral, созданная объединением mlabonne/Monarch-7B и vanillaOVO/supermario_v4 методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и общих языковых задач; заявленная длина контекста составляет 32 768 токенов. Модель принимает текст и генерирует текст. В README приведены результаты оценки на нескольких тестах рассуждения и понимания текста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

NVIDIA-Nemotron-Labs-3-Elastic-12B-A2B-NVFP4 — квантованная версия на NVFP4 семейства эластичных языковых моделей NVIDIA Nemotron 3, представленная в карточке как 3-в-1 чекпойнт с вариантами 30B, 23B и 12B. В основе лежит NVIDIA-Nemotron-3-Nano-30B-A3B-BF16; архитектура родительской модели сочетает слои Mamba-2, Attention и Mixture-of-Experts. Метаданные указывают 946,5 млн параметров, а README описывает вложенный вариант 12B с 2,0 млрд активных параметров; эти сведения относятся к разным представлениям и не совпадают. Модель предназначена для генерации текста в диалоге и задач рассуждения. Эластичная структура позволяет извлекать варианты меньшего размера из общего набора весов; README описывает также квантизацию NVFP4 с дистилляцией с учителем и использование через Transformers и vLLM. Указан контекст 262 144 токена. Поддерживаются английский, немецкий, испанский, французский, итальянский и японский языки. README заявляет готовность к коммерческому использованию, но метаданные указывают лицензию «other», поэтому конкретные условия следует сверить с лицензией в репозитории. Карточка содержит несоответствия в названии и числе параметров: README описывает 30B A3B NVFP4 чекпойнт, тогда как идентификатор и метаданные относятся к 12B A2B NVFP4.

OLMo 2 32B DPO March 2025 — диалоговая языковая модель Ai2, разработанная для исследований и применения в задачах генерации текста. Это плотная авторегрессионная модель семейства OLMo 2 с архитектурой Olmo2ForCausalLM и 31,7 млрд параметров; она принимает текст и поддерживает контекст до 4096 токенов. Модель рассчитана прежде всего на английский язык. Модель прошла supervised fine-tuning на варианте набора Tülu 3, а затем обучение методом DPO на данных предпочтений. Она предназначена для диалога, выполнения инструкций и разнообразных задач, включая математические рассуждения и проверку следования инструкциям. Весовые файлы доступны в формате PyTorch. Модель выпущена Ai2 под лицензией Apache 2.0. В карточке отмечено, что обучение безопасности ограничено: ответы могут содержать проблемный контент, особенно при соответствующих запросах.