II.1Анализ требований и архитектура ПО

jeiku/mergefodder2 — языковая модель, созданная разработчиком jeiku слиянием моделей jeiku/nuggiespoe и jeiku/zenithquantum методом SLERP с помощью mergekit. Модель построена на архитектуре Llama и предназначена для генерации текста в диалоговом формате. Модель содержит 3,9 млрд параметров и поддерживает контекст длиной до 131 072 токенов. Веса опубликованы в формате safetensors; в конфигурации слияния указан тип bfloat16. Сведений о языках модели в карточке нет, поэтому языковые сценарии определить нельзя. Условия лицензии в предоставленных данных не приведены.

Meta-Llama-3-120b-LumiLumimaid — объединённая языковая модель на архитектуре Llama, опубликованная gbueno86. Она создана методом passthrough merge с помощью mergekit на основе NeverSleep_Llama-3-Lumimaid-70B-v0.1-alt и предназначена для генерации текста в диалогах и других сценариях продолжения текста. Модель содержит 120,8 млрд параметров, принимает текст и выдаёт текст; карточка указывает контекст 8192 токена и формат safetensors. Модель доступна по лицензии Llama 3. В README приведены параметры сэмплирования и авторское наблюдение о поведении на очень длинном контексте, но подтверждённых сведений о языках и систематической оценке качества нет.

Meta-Llama-3-8b-Instruct-Healed — разговорная языковая модель семейства Llama, опубликованная Jan. Она предназначена для генерации текста в диалоге; запускать её можно в Jan Desktop на macOS, Windows и Linux. Модель использует плотную архитектуру LlamaForCausalLM, содержит 6,2 млрд параметров и поддерживает контекст до 8192 токенов. Для файлов репозитория указан формат safetensors, лицензия — Apache-2.0. Карточка не описывает специальную предметную область или отдельные сильные стороны модели. Метаданные указывают английский язык; пригодность для других языков не подтверждена. Практические ограничения и подробности о дообучении в карточке не раскрыты.

MiniMax-M2.1-3bit — языковая генеративная модель, преобразованная сообществом mlx-community в формат MLX из базовой модели MiniMaxAI/MiniMax-M2.1. Конвертация выполнена с использованием mlx-lm версии 0.29.1. Модель предназначена для локального запуска и генерации текста через экосистему MLX, включая работу в диалоговом формате с chat template. Модель подходит для текстовой генерации и интерактивных сценариев, где требуется запуск совместимых LLM на устройствах и программном стеке Apple MLX. В README не указаны точный размер модели, архитектура, длина контекста, поддерживаемые языки и дополнительные модальности. Обозначение 3bit указывает на трёхбитное представление весов, однако подробности квантизации и её влияние на качество также не приведены. К сильным сторонам относятся формат MLX и возможность использования через mlx-lm с готовыми функциями загрузки, токенизации и генерации. Ограничения включают отсутствие в предоставленных данных подробностей о возможностях, производительности, качестве, языках и требованиях к оборудованию. Модель распространяется по лицензии modified-MIT; точные условия следует уточнять в указанном файле лицензии MiniMax.

Mistral-7B-Instruct-SQL-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.2 и Mistral-7B-Instruct-SQL методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста в ответ на инструкции и диалоги. Модель подходит для генерации SQL по текстовым запросам и для диалоговых сценариев общего назначения. Она принимает текст и выдаёт текст; контекст составляет до 32 768 токенов. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. Результат слияния объединяет возможности базовой диалоговой модели и SQL-модели, однако README не приводит оценок качества или конкретных ограничений. Перед использованием для важных запросов к базам данных следует проверять корректность и безопасность сгенерированного SQL.

Minbyul/mistral-7b-wo-kqa_golden-sft — дообученная методом SFT языковая модель на архитектуре Mistral, созданная на основе mistralai/Mistral-7B-v0.1. Она предназначена для генерации текста и может применяться в сценариях, где требуется продолжать текст или формировать ответы по текстовому запросу. Модель содержит 7,1 млрд параметров, использует формат Safetensors и поддерживает контекст до 32 768 токенов. Для дообучения использован набор HuggingFaceH4/deita-10k-v0-sft; в README указано значение loss 0,7294 на оценочном наборе. Специализация на конкретной предметной области и поддерживаемые естественные языки не описаны. Модель распространяется по лицензии Apache-2.0.

Heralax/MistralMakise-Merged-13b — языковая модель семейства Llama с 12,9 млрд параметров, предназначенная для генерации текста. В карточке указано, что она использует тот же датасет и настройки обучения, что и MythoMakise, но в качестве основы взята модель ReMM mistral; дополнительная информация о формате промптов вынесена в карточку MythoMakise. Модель принимает текст и генерирует текст. Доступны веса в форматах Safetensors и GGUF; контекст — до 4096 токенов. Лицензия — Apache-2.0. README не описывает целевые языки, специализированные области или оценки качества.

ND911 выпустил Mistralv0.2-Erosumikav2-Franken-Sonya-10.5B — объединённую языковую модель для генерации текста. Она построена на архитектуре Mistral и содержит около 10,4 млрд параметров; веса объединены методом passthrough из фрагментов Franken-Sonya, Erosumika-7B-v2 и Mistral-7B-Instruct-v0.2, с сохранением точности float16. Модель принимает текст и генерирует текст, поддерживая контекст длиной до 8192 токенов. Модель подходит для диалоговой генерации и других задач продолжения текста. README не описывает отдельные оценки качества или перечень языков. Репозиторий содержит веса safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

MotherEarth/MotherEarth_StormClimate1 — объединённая языковая модель, созданная с помощью mergekit линейным слиянием четырёх моделей: MotherEarth/MotherEarth-Proverbs-1.0-8B, MotherEarth/storm_climate, mlabonne/Hermes-3-Llama-3.1-8B-lorablated и VAGOsolutions/Llama-3.1-SauerkrautLM-8b-Instruct. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и предназначена для генерации текста в диалоговом формате; поддерживаемая задача в метаданных — text-generation. Модель работает с текстом, хранится в формате safetensors и использует библиотеку Transformers. Её нативный контекст составляет 8192 токена. В состав слияния входят диалоговые модели и модель с названием storm_climate, однако карточка не описывает специальные климатические возможности или гарантии их качества. Лицензия в предоставленных данных не указана. Ограничения и оценки качества также не описаны; результаты слияния могут отличаться от поведения исходных моделей.

Motif-Technologies/Motif-2-12.7B-Base — базовая плотная языковая модель семейства Motif, разработанная Motif Technologies. Она предназначена для генерации текста и может служить основой для дальнейшей адаптации под диалоговые и другие задачи. В метаданных указаны 10,8 млрд параметров, контекстное окно 32 768 токенов и архитектура MotifForCausalLM; модель опубликована в формате safetensors для Transformers. Карточка приводит результаты сравнительных тестов базовой модели на академических бенчмарках, включая MMLU, MMLU-Redux и MMLU-Pro. Заявлены языки английский и корейский, а метаданные отмечают возможность чата. Лицензия Apache-2.0 разрешает использование на её условиях. README округляет размер до 12,7 млрд параметров, тогда как метаданные указывают 10,8 млрд.

zelk12 создал эту модель как объединение двух предварительно обученных языковых моделей семейства Gemma 2 с помощью SLERP и mergekit. Это плотная авторегрессионная модель на 9 млрд параметров для генерации текста и диалогового взаимодействия; она доступна в формате safetensors и рассчитана на контекст до 8192 токенов. Модель подходит для генерации ответов и ведения текстового диалога. Карточка описывает способ объединения и исходные модели, но не приводит отдельные результаты оценки качества или специализированные сценарии применения. Лицензия в предоставленных данных не указана.

zelk12 создал эту модель, объединив методом SLERP две предварительно обученные языковые модели с помощью mergekit: zelk12/MT3-Gen5-GP-gemma-2-RAv0.1E-9B и zelk12/MT3-Gen5-MM-gemma-2-MT2Av4d-9B. Это плотная Gemma 2 с 9 млрд параметров для генерации текста и диалогов; модель рассчитана на текстовый ввод и текстовый вывод, а её контекст составляет 8192 токена. Модель подходит для диалоговых приложений и творческого письма. В карточке не приведены сведения о поддерживаемых естественных языках и результаты оценки качества, поэтому не следует предполагать конкретные языковые преимущества или гарантировать качество ответов. Репозиторий распространяет веса в формате Safetensors; лицензия в предоставленных данных не указана.

MT-Gen3-gemma-2-9B-Flip — объединённая языковая модель на архитектуре Gemma 2, созданная с помощью mergekit методом SLERP из zelk12/MT-Gen3-GB-gemma-2-9B и zelk12/MT-Gen3-IMMMUMA-gemma-2-9B. Модель содержит 9 млрд параметров, доступна в формате safetensors и рассчитана на генерацию текста и диалоговое взаимодействие с контекстом до 8192 токенов. Модель можно использовать для генерации ответов в чате и других задач продолжения текста. Сведений о специализации по языкам или прикладным областям в карточке нет. Лицензия в предоставленных данных не указана.

MT-Gen4-GI-gemma-2-9B — объединённая языковая модель семейства Gemma 2 размером 9 млрд параметров. Она создана с помощью mergekit методом SLERP из zelk12/MT-Gen4-GP-gemma-2-S5MTg2-9B и zelk12/MT-Gen4-IF-gemma-2-MT4g2MTg2-9B; в конфигурации указана точность bfloat16. Модель предназначена для генерации текста в диалоговом формате и работает через библиотеку Transformers. Контекст модели составляет 8192 токена. Карточка не приводит конкретные языки, специализированные области или результаты оценки качества, поэтому применимость к ним нельзя подтвердить. Лицензия в предоставленных данных не указана.

a111311/my_l1 — языковая модель для генерации текста, размещённая на Hugging Face и доступная через библиотеку Transformers. По метаданным она относится к семейству Gemma, содержит около 2,5 млрд параметров и поддерживает контекст длиной до 8192 токенов. Разработчик, точная архитектура и языки модели в доступных материалах не указаны. Модель предназначена для задач продолжения и генерации текста, включая создание ответов, черновиков и других текстовых последовательностей в приложениях на базе Transformers. Сильными сторонами являются относительно компактный размер и поддержка длинного контекста. README не содержит описания обучения, результатов оценки, целевых сценариев, ограничений качества или рекомендаций по безопасному использованию. Лицензия в доступных данных не указана.

Myriad-7B-Slerp — языковая модель на архитектуре Mistral, созданная Muhammad2003 слиянием MaziyarPanahi/Calme-7B-Instruct-v0.9 и yam-peleg/Experiment26-7B методом SLERP с помощью LazyMergekit. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. В README приведены результаты оценок ARC, Hellaswag и MMLU, но подробности методики оценки не описаны. В репозитории указаны веса Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение. Модель унаследовала свойства исходных чекпойнтов; README не описывает отдельно её языковое покрытие и ограничения качества.

MythoMist-7b — экспериментальная текстовая модель на архитектуре Mistral, созданная Gryphe путём послойного слияния 12 моделей. Веса имеют около 7,1 млрд параметров, модель принимает текст и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев, в том числе ролевых: при создании автор стремился уменьшить частоту некоторых слов, характерных для ролевых данных ChatGPT, включая «anticipation» и «ministrations». Для совместимости с разными форматами промптов автор рекомендует шаблон Alpaca. Модель экспериментальная, а описание отмечает недостаток исходного алгоритма слияния, который впоследствии исправили; для сборки требовалось много видеопамяти. Веса опубликованы в формате safetensors. Лицензия указана как other, поэтому условия использования следует уточнять по карточке и исходным компонентам слияния.

NekoMind1.5-Base — предварительно обученная базовая языковая модель серии NekoMind от разработчиков репозитория nekocyrene. Это авторегрессионный Transformer-декодер с архитектурой Mixture-of-Experts: 1,35 млрд параметров всего, около 300 млн активируются на токен. В модели 18 слоёв, 32 эксперта с маршрутизацией top-4, GQA, RoPE, SwiGLU и RMSNorm; контекст — до 32 768 токенов. Модель предназначена для генерации текста и служит базой для дальнейшей адаптации под диалоговые и другие языковые задачи. Репозиторий предоставляет веса в формате Safetensors; для загрузки требуется Transformers и включение trust_remote_code=True, поскольку код архитектуры ещё не вошёл в основную библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. README указывает 1,35 млрд параметров, тогда как метаданные каталога содержат 259,3 млн, поэтому фактический размер по источникам расходится.

NemoMerge-12B-DellaV1b — объединённая модель на 12,1 млрд параметров, созданная с помощью mergekit из Gryphe/Pantheon-RP-1.5-12b-Nemo, anthracite-org/magnum-12b-v2 и grimjim/mistralai-Mistral-Nemo-Base-2407. В основе лежит плотная архитектура Mistral для авторегрессионной генерации текста. Модель подходит для генерации текста, ролевых диалогов и ответов по инструкциям. В README указан формат весов bfloat16; метаданные сообщают о контексте до 1 024 000 токенов. Модель распространяется по лицензии Apache-2.0. Данных о специальных ограничениях использования или подтверждённой поддержке конкретных языков в предоставленных источниках нет.

MarinaraSpaghetti/NemoRemix-12B — объединённая языковая модель на 12,1 млрд параметров, созданная автором карточки с помощью mergekit на основе нескольких моделей семейства Mistral NeMo. В состав объединения вошли Mistral Nemo Base и Instruct, а также модели Gryphe, ShuttleAI, Sao10K и Anthracite; для слияния использован метод della_linear с Mistral Nemo Base в качестве основы. Модель предназначена для генерации текста и универсального ролевого общения, в том числе при работе с длинным контекстом. В README указана поддержка формата диалога ChatML; автор также предполагает совместимость с шаблоном Mistral Instruct. Заявленное окно контекста — 1 024 000 токенов, а автор сообщает об устойчивой работе на больших контекстах, особенно от 64 тысяч токенов. Модель работает с текстом и выдаёт текст. Для использования распространяется в формате safetensors; лицензия в предоставленных сведениях не указана. Качество на очень длинном контексте и совместимость с Mistral Instruct описаны автором как наблюдение и предположение, а не как гарантированные свойства.

Это версия NVIDIA Nemotron-3.5-Lightning-30B-A3B, обработанная автором репозитория mlasli методом Heretic: из языковой основы удалено направление отказа, связанное с защитным выравниванием. Модель сочетает Mamba-2, MoE и attention; README указывает 31,6 млрд общих и около 3 млрд активных параметров, а метаданные — 1,9 млрд параметров. Заявлена длина контекста 262 144 токена. Модель предназначена для генерации диалоговых ответов, ролевых сценариев и работы агентов с длинным контекстом, в том числе в случаях, когда базовая версия отказывалась бы отвечать. В README приведены результаты проверки отказов и KL-дивергенции, однако они основаны на ограниченном наборе из 50 запросов и не гарантируют такое же поведение в других сценариях. Выпуск использует формат safetensors и не содержит черновую голову MTP для спекулятивного декодирования. Указана лицензия other; README ссылается на NVIDIA Open Model License.

Карточка модели Iambackup/Nemotron-3-Super-120B-A12B-JANG_4M-CRACK на Hugging Face совпадает с карточкой Ishowbackup/Nemotron-3-Super-120B-A12B-JANG_4M-CRACK, поэтому описание составлено по ней. Nemotron 3 Super 120B JANG_4M CRACK — текстовая генеративная модель, подготовленная Jinho Jang на основе NVIDIA Nemotron-3-Super-120B-A12B. Это гибридная архитектура Nemotron-H, сочетающая слои Mamba SSM, Mixture of Experts и attention; в исходной модели заявлены 120 млрд параметров и около 12 млрд активных. В метаданных репозитория указано 6,6 млрд параметров. Модель принимает текст и поддерживает диалоговый режим и интерфейс вызова инструментов. Веса прошли смешанную квантизацию JANG_4M: 8-битное attention и 4-битные эксперты; README указывает размер 63 ГБ. Формат JANG предназначен для MLX на Apple Silicon и, согласно карточке, поддерживается MLX Studio и пакетом jang-tools. Контекст составляет до 262 144 токенов. CRACK — описанное автором удаление отказов от ответов на уровне весов; модель позиционируется как вариант без защитных ограничений. Карточка приводит результаты HarmBench и MMLU, но не даёт независимой проверки этих оценок. Модель предназначена для генерации текста и диалогов, включая сценарии, где требуется меньше отказов, чем у базовой модели. В README указана лицензия other в метаданных, а также заявлено использование в исследовательских и образовательных целях; конкретные условия лицензии в предоставленных данных не раскрыты. Английский указан как язык карточки.

Nemotron 3 Super 120B JANG_4M CRACK — текстовая генеративная модель, подготовленная Jinho Jang на основе NVIDIA Nemotron-3-Super-120B-A12B. Это гибридная архитектура Nemotron-H, сочетающая слои Mamba SSM, Mixture of Experts и attention; в исходной модели заявлены 120 млрд параметров и около 12 млрд активных. В метаданных репозитория указано 6,6 млрд параметров. Модель принимает текст и поддерживает диалоговый режим и интерфейс вызова инструментов. Веса прошли смешанную квантизацию JANG_4M: 8-битное attention и 4-битные эксперты; README указывает размер 63 ГБ. Формат JANG предназначен для MLX на Apple Silicon и, согласно карточке, поддерживается MLX Studio и пакетом jang-tools. Контекст составляет до 262 144 токенов. CRACK — описанное автором удаление отказов от ответов на уровне весов; модель позиционируется как вариант без защитных ограничений. Карточка приводит результаты HarmBench и MMLU, но не даёт независимой проверки этих оценок. Модель предназначена для генерации текста и диалогов, включая сценарии, где требуется меньше отказов, чем у базовой модели. В README указана лицензия other в метаданных, а также заявлено использование в исследовательских и образовательных целях; конкретные условия лицензии в предоставленных данных не раскрыты. Английский указан как язык карточки.

NeuralDaredevil-SuperNova-Lite-7B-DARETIES-abliterated — объединённая модель семейства Llama, созданная с помощью LazyMergekit на основе mlabonne/NeuralDaredevil-8B-abliterated и grimjim/Llama-3.1-SuperNova-Lite-lorabilterated-8B. В конфигурации указан NousResearch/Meta-Llama-3.1-8B-Instruct как базовая модель; веса объединены методом dare_ties с типом bfloat16. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов, включая ролевые сценарии; в карточке отмечено меньше поведенческих ограничений. В README приведены результаты Open LLM Leaderboard по IFEval, BBH, MATH, GPQA, MUSR и MMLU-PRO, но они не гарантируют качество в конкретных задачах. Доступна библиотека Transformers, формат файлов репозитория — safetensors; README также упоминает варианты квантования GGUF Q5_K_M и Q4_K_M. Лицензия — Llama 3.1.

NightyGurps-14b-v1.1-GGUF — это квантизированная версия текстовой генеративной модели NightyGurps-14b-v1.1, разработанной AlexBefest и подготовленной в формате GGUF пользователем bartowski. Квантизация выполнена с помощью llama.cpp b3787 и метода imatrix. Модель предназначена для генерации текста и поддерживает русский язык. Модель имеет размер 14 миллиардов параметров и рассчитана на локальный запуск через совместимые инструменты, включая llama.cpp и LM Studio. В репозитории представлены варианты от F16 до низкобитных IQ и Q-квантизаций с размером файлов примерно от 6,4 до 29,6 ГБ. Более высокие уровни квантизации обеспечивают лучшее качество при большем потреблении памяти, а низкие подходят для систем с ограниченным объёмом RAM, но могут заметно снижать качество ответов. Для работы рекомендуется использовать указанный в README формат prompt с ролями system, user и assistant. Архитектура исходной модели, максимальная длина контекста, точная поддержка языков кроме русского, мультимодальные возможности и результаты benchmark в README не указаны. Модель распространяется по лицензии Apache-2.0.

AtAndDev/Ogno-Monarch-Neurotic-9B-Passthrough — языковая модель, созданная слиянием двух моделей на основе Mistral с помощью mergekit. В конфигурации объединены слои bardsai/jaskier-7b-dpo-v5.6 и eren23/ogno-monarch-jaskier-merge-7b-OH-PREF-DPO методом passthrough; в метаданных указаны архитектура MistralForCausalLM, 8,9 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста. Карточка не описывает конкретные сценарии, языки или специальные предметные области. Репозиторий содержит веса Safetensors, а лицензия указана как Apache-2.0. README называет модель 7B, тогда как метаданные для указанного репозитория указывают 8,9B параметров.

OLMo 7B SFT — языковая модель семейства OLMo, разработанная Allen Institute for AI (Ai2) для открытых исследований языковых моделей. Это плотная авторегрессионная модель на 7 млрд параметров, дообученная для следования инструкциям на смеси Tulu SFT; семейство OLMo обучалось на корпусе Dolma. Модель предназначена для генерации текста и ответов на вопросы в диалоговом формате. Модель подходит для ответов на вопросы, диалоговых ассистентов и экспериментов с дообучением открытых языковых моделей. В карточке показан пример использования через Transformers; для загрузки требуются Transformers и пакет ai2-olmo. Метаданные указывают английский язык, формат PyTorch и лицензию Apache 2.0. Для Transformers версии 4.40.0 и новее авторы рекомендуют вариант OLMo 7B SFT HF. Карточка не сообщает длину контекста или подробные оценки качества.

OLMo 7B Twin 2T — авторегрессионная языковая модель на архитектуре Transformer, разработанная Allen Institute for AI (AI2). Эта версия весов преобразована из allenai/OLMo-7B-Twin-2T в формат Transformers для Hugging Face. Модель содержит 6,7 млрд параметров и обучалась на 2 трлн токенов из набора Dolma; контекст составляет 2048 токенов. Модель предназначена для генерации продолжений текста и общих языковых задач на английском языке. Её можно использовать для прототипирования языковых приложений, генерации черновиков и исследования поведения языковых моделей. Код и веса распространяются по лицензии Apache 2.0. Это базовая модель без фильтрации безопасности: она может генерировать вредный или предвзятый контент, а фактические утверждения могут быть неверными и требуют проверки. Данные обучения имеют срез по состоянию на февраль–март 2023 года.

open-sci-ref-v0.02-1.7b-mixturevitae-noinstruct-300B-4096-DPO-Tulu3-decontaminated — это языковая модель семейства OpenSci, дообученная ali-elganzory на базе версии SFT-Tulu3-decontaminated методом DPO с использованием TRL. Модель построена на плотной архитектуре OpensciForCausalLM, содержит 1,7 млрд параметров и принимает текстовые запросы для генерации текста; заявленный контекст — 4096 токенов. Модель предназначена для диалоговой генерации и ответов на текстовые вопросы. Карточка демонстрирует вызов через Transformers pipeline с сообщением в формате user. В репозитории используются веса safetensors. Лицензия и конкретные результаты оценки качества в предоставленных данных не описаны.

ali-elganzory разработал эту дообученную модель семейства OpenSci для генерации текста. Это плотная авторегрессионная языковая модель на 1,7 млрд параметров с контекстом до 16 384 токенов; модель опубликована в формате safetensors и предназначена для запуска через Transformers. Карточка показывает пример диалогового запроса и обучение с помощью TRL. Модель можно применять для генерации продолжений текста и ответов на запросы в диалоговом формате. В метаданных указана связь дообучения с базовой моделью ali-elganzory/open-sci-ref-v0.02-1.7b-mixturevitae-noinstruct-300B-4096-longsft_16k. Лицензия и конкретные языки модели в предоставленных данных не указаны.