II.1Анализ требований и архитектура ПО

DeepSeek-R1-Distill-Qwen-1.5B-ONNX — это языковая модель для генерации текста, созданная сообществом onnx-community на основе DeepSeek-R1-Distill-Qwen-1.5B от deepseek-ai. Модель преобразована в формат ONNX для совместимости с библиотекой Transformers.js и ориентирована на запуск в JavaScript-приложениях, включая веб-среды и сценарии WebML. Модель предназначена для текстовой генерации и решения задач, требующих рассуждений, например математических уравнений. В README указано, что она поддерживает формат диалоговых сообщений и способна выводить рассуждения в блоке <think>. Архитектура, точный размер контекста, перечень поддерживаемых языков и модальности в карточке не указаны; из названия базовой модели следует размер 1,5 млрд параметров. Для запуска предусмотрена квантизация q4f16, позволяющая использовать модель в Transformers.js. Сильными сторонами являются совместимость с ONNX и возможность применения в JavaScript- и потенциально браузерных приложениях без использования исходного формата весов. Ограничения включают отсутствие в README подробных данных о качестве, бенчмарках, языковой поддержке, требованиях к ресурсам и безопасному использованию; модель предназначена только для работы с текстом. Лицензия в предоставленной карточке не указана.

Deita-2b — чат-модель для генерации текста на базе архитектуры Llama, представленная KnutJaegersberg. Она предназначена для диалога с пользователем и выполнения инструкций, например ответов на вопросы и помощи с практическими задачами. В README приведён пример запроса о дообучении языковой модели и формат общения с системным и пользовательским сообщениями. Модель содержит 2,7 млрд параметров, принимает текст и выдаёт текст; нативный контекст — 2048 токенов. В репозитории указаны веса в формате safetensors. Карточка приводит результаты оценки на Open LLM Leaderboard, включая среднее значение 52,35, но не описывает методику обучения или языковой охват. Для модели указана лицензия other, поэтому условия использования следует сверить с лицензией по ссылке в карточке.

DUSMistral — экспериментальная разговорная языковая модель на архитектуре Mistral, основанная на Dolphin. В README описан подход к увеличению эффективной глубины: порядок слоёв переставляется во время инференса, сохраняя исходное число параметров; также модель дополнительно дообучена на датасете Dolphin. Размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате. Английский язык указан в метаданных. Она распространяется в формате safetensors; сведения о лицензии и конкретных ограничениях качества в доступной карточке отсутствуют.

ErisMaidFlame-7B — объединённая языковая модель на базе Mistral, созданная автором репозитория с помощью mergekit и метода SLERP. В слиянии использованы ChaoticNeutrals/Eris_Remix_DPO_7B и nbeerbower/MaidFlameSoup-7B; итоговая модель содержит 7,1 млрд параметров и распространяется в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и может применяться в чатах и ролевых диалогах — такие сценарии указаны для её базовой модели. Она принимает текст и генерирует текст; поддерживаемый контекст составляет до 32 768 токенов. Карточка не описывает отдельные настройки диалога или оценки качества именно этого слияния. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить на странице репозитория и у базовых моделей. Язык модели в этих данных явно не задан.

Eris Prime V4 Vision 32k — разговорная модель семейства Mistral с 7,1 млрд параметров, созданная ChaoticNeutrals как слияние моделей. Она предназначена для генерации текста и диалогов; автор также заявляет поддержку изображений при использовании Koboldcpp и соответствующего файла mmproj из репозитория. Модель рассчитана на контекст до 32 768 токенов. Карточка описывает улучшенную связность ответов, стабильность форматирования и работу с длинным контекстом. В метаданных указана лицензия other, поэтому условия распространения следует уточнять в репозитории. README не сообщает, на каких языках модель обучена; её возможности работы с изображениями заявлены автором, но в метаданных модель классифицирована как text-generation.

EuroLLM-22B — базовая многоязычная языковая модель на 21,9 млрд параметров, разработанная консорциумом под руководством Instituto Superior Técnico — University of Lisbon и Instituto de Telecomunicações при финансировании Европейского союза. Это плотный трансформер семейства Llama с grouped-query attention, RMSNorm, SwiGLU и RoPE; модель работает с контекстом до 32 768 токенов и доступна в формате Safetensors для Transformers. Модель обучена на 4 трлн токенов из веб-данных, параллельных корпусов и высококачественных наборов данных. Она предназначена для генерации текста и продолжения запросов на европейских языках, а также на арабском, китайском, хинди, японском и корейском. Это базовая модель без последующего обучения на следование инструкциям; для такого сценария разработчики указывают версию EuroLLM-22B-Instruct-2515. Модель поддерживает 35 языков, включая русский, и распространяется по лицензии Apache 2.0. Она не выровнена по человеческим предпочтениям и может выдавать галлюцинации, ложные утверждения или вредоносный контент.

EverythingLM-13b-16k — экспериментальная универсальная языковая модель, созданная на основе Llama 2 и дообученная автором на наборе данных EverythingLM. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 12,9 млрд параметров с контекстом до 16 384 токенов. Репозиторий содержит веса PyTorch; для запуска длинного контекста автор приводит настройки масштабирования RoPE. Модель предназначена для генерации подробных ответов, творческих историй и диалогов, а также для следования развернутым инструкциям. В README отмечены автоматически возникающие рассуждения CoT и склонность лучше отвечать на подробные запросы. Автор характеризует модель как полностью неограниченную по содержанию и ранний эксперимент с датасетом и принципами обучения, а не как модель уровня SOTA. Известные особенности — склонность к сказкам и нумерованным спискам, а также периодические повторы. Полный контекст в 16 тысяч токенов автор не проверял. Модель дообучена методом QLoRA; указана лицензия Llama 2, поэтому применяются её условия использования.

Experiment26Neuralsirkrishna_AlloyingotneoyInex12 — объединённая языковая модель, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/AlloyingotneoyInex12-7B. Она предназначена для генерации текста и диалогов. Модель использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Данные README и метаданных не раскрывают поддерживаемые языки или специализированные области применения. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Inex16Calme — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Inex16Calme-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель можно применять для ответов на запросы, ведения диалога и продолжения текста. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README не описывает специальные области применения или результаты оценки качества.

Experiment26Neuralsirkrishna_PasticheInex12 — объединённая автором карточки модель Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекст модели составляет до 32 768 токенов. Модель объединяет automerger/Experiment26Neuralsirkrishna-7B и automerger/PasticheInex12-7B. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. В карточке не описаны специальные предметные области или дополнительные возможности.

Experiment26Neuralsirkrishna_YamPastiche — объединённая модель генерации текста, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/YamPastiche-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и диалогов. Контекст составляет до 32 768 токенов; доступны веса в формате Safetensors. Язык модели в предоставленных источниках не указан. Модель распространяется по лицензии Apache-2.0. README не приводит оценок качества или специальных ограничений применения.

Experiment27pasticheT3qm7xp-7B — автоматически объединённая модель для генерации текста, созданная Maxime Labonne. Она объединяет две модели Mistral с 7,1 млрд параметров суммарно, используя метод SLERP с настройками слияния по слоям внимания и MLP; веса сохранены в формате safetensors и bfloat16. Модель принимает текст и генерирует текст, включая диалоговые ответы, а заявленная длина контекста составляет 32 768 токенов. Модель подходит для генерации продолжений, ответов в чате и других текстовых сценариев. Репозиторий распространяется по лицензии Apache-2.0. В README приведён пример загрузки через Transformers, но нет результатов оценки качества или подробного описания целевых сценариев.

MaziyarPanahi/Experiment28M7_YamM7 — объединённая модель для генерации текста и диалогов, созданная слиянием automerger/Experiment28M7-7B и automerger/YamM7-7B. Она построена на архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Модель подходит для генерации продолжений текста и ведения диалогов. Карточка не сообщает о специализации на конкретной области или языке. Данных о качестве, обучающих наборах и ограничениях поведения нет.

MaziyarPanahi/Experiment28T3q_ShadowCalme — объединённая модель для генерации текста, созданная на основе automerger/Experiment28T3q-7B и automerger/ShadowCalme-7B. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель подходит для генерации продолжений и ответов на текстовые запросы. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Подробные сведения о специализации, обучении и сравнительном качестве в карточке модели отсутствуют.

jaspionjader/f-2-8b — объединённая методом SLERP языковая модель семейства Llama, созданная с помощью mergekit из jaspionjader/f-1-8b и jaspionjader/Kosmos-EVAA-mix-v35-8B. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат safetensors; заявленная длина контекста — 8192 токена. Модель предназначена для генерации текста и диалогового взаимодействия. Она может использоваться для ответов на запросы и создания продолжений текста. Сведения о языках, специальных областях применения и сравнительном качестве в карточке не приведены. Лицензия в предоставленных данных не указана.

friend-8x7B-hf — объединённая языковая модель, опубликованная rAIfle. Она создана в несколько этапов с помощью mergekit: в основу вошли модели на базе mistralai/Mixtral-8x7B-v0.1, включая вариант, связанный с retrieval и краткими делами, а итоговая модель объединяет промежуточные результаты методом SLERP. Архитектура — MixtralForCausalLM с механизмом смеси экспертов; в метаданных указано 7,1 млрд параметров и контекст до 32 768 токенов. Модель предназначена для генерации текста и диалогов. Автор сообщает, что работают шаблоны ChatML и Alpaca, причём предпочтительнее показался ChatML. Лицензия в предоставленных данных не указана. README описывает качество как приемлемое по результатам собственных тестов автора, без подробных оценок или бенчмарков.

FuseChat-Qwen-2.5-7B-Instruct-GGUF — набор GGUF-квантизаций модели FuseAI/FuseChat-Qwen-2.5-7B-Instruct, подготовленный bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через llama.cpp и LM Studio. Для работы рекомендуется применять формат промпта с маркерами ролей system, user и assistant. В набор входят варианты от исходных весов f32 и f16 до квантизаций Q8_0, Q6, Q5, Q4 и Q3, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Размер 7B указан в названии базовой модели; конкретные файлы занимают примерно от 4,09 до 30,47 ГБ. Некоторые варианты оптимизированы для ARM или AVX, отдельные требуют поддержки SVE или i8mm и не рекомендуются для Mac или GPU в зависимости от формата. Сильная сторона набора — широкий выбор уровней квантизации, включая варианты, ориентированные на высокое качество и использование на устройствах с ограниченной памятью. README не содержит сведений о языках, размере контекста, мультимодальности и лицензии исходной модели, поэтому эти характеристики нельзя достоверно указать.

jaspionjader/gamma-Kosmos-EVAA-8B — объединённая методом SLERP языковая модель, созданная автором репозитория с помощью mergekit из jaspionjader/Kosmos-EVAA-v12-8B и johnsutor/Llama-3-8B-Instruct_breadcrumbs-density-0.1-gamma-0.01. Модель построена на архитектуре Llama, содержит 7,5 млрд параметров и предназначена для генерации текста в диалоговом формате. Она принимает текстовые запросы и выдаёт текст; заявленная длина контекста — 8192 токена. Модель подходит для диалоговых приложений и генерации ответов на пользовательские запросы. Сведения о поддерживаемых естественных языках и специализированных предметных областях в предоставленных данных отсутствуют. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. Лицензия в предоставленных данных не указана.

unsloth/gemma-2-27b — версия Gemma 2 с 27,6 млрд параметров, опубликованная Unsloth в формате safetensors и заявленная как напрямую квантизированная до 4 бит с помощью bitsandbytes. Это плотная авторегрессионная языковая модель на архитектуре Gemma2ForCausalLM для генерации текста; метаданные указывают английский язык и контекст до 8192 токенов. Модель можно использовать для продолжения текста и диалоговых сценариев. README Unsloth описывает инструменты и ноутбуки для дообучения моделей, но не приводит отдельной оценки качества именно этой версии. Лицензия — Gemma; применяйте модель в соответствии с её условиями.

JPQ24 выпустил дообученную чат-модель на архитектуре Gemma 2. Она содержит 2,7 млрд параметров, принимает текст и генерирует текст; заявленное окно контекста — 8192 токена. Модель предназначена для диалоговой генерации текста. Карточка не описывает специализацию дообучения или конкретные сценарии применения. Модель дообучена на unsloth/gemma-2-2b-it-bnb-4bit с использованием Unsloth и библиотеки TRL. В репозитории доступны веса в формате Safetensors. Лицензия — Apache-2.0.

Это разговорная языковая модель Gemma 2 9B, опубликованная iamhyunmin. Модель представляет собой плотную авторегрессионную архитектуру Gemma2ForCausalLM с 9 млрд параметров и контекстом до 8192 токенов. Репозиторий содержит экспорт эпохи 2 модели, дообученной методом Direct Preference Optimization (DPO) с полным обновлением параметров на основе iamhyunmin/gemma2-9b-deita-sft-epoch3; применялись Transformers и TRL. Модель предназначена для диалогов и генерации текста в ответ на запросы. В README описана настройка в стиле помощника; в метаданных указан conversational/chat сценарий. Данные обучения — argilla/dpo-mix-7k. Языки отдельно не перечислены, поэтому языковую специализацию нельзя определить по карточке. Модель может быть полезна для прототипирования диалоговых приложений и генерации ответов, но README предупреждает о возможных неточных, предвзятых, небезопасных и иных нежелательных ответах; модель не оценивалась для всех применений. Это производная модель, не официальная и не одобренная Google. Указана лицензия Gemma, поэтому использование должно соответствовать Gemma Terms of Use.

AvoCahDoe/gemma-2-9b-rlmpq-balanced — вариант Google Gemma 2 9B, подготовленный методом RL-MPQ для сбалансированного сценария смешанной точности. Это плотная авторегрессионная модель семейства Gemma 2 с 9 млрд параметров, предназначенная для генерации текста; README описывает назначение метода как распределение разрядности по слоям с помощью PPO и проверку качества по perplexity на WikiText-2. Средняя разрядность составляет 4,2857 бита на вес. Веса экспортированы в fake-quantized FP16 и рассчитаны на использование с Transformers; модель принимает текст и генерирует текст, с контекстом до 8192 токенов. Метаданные указывают английский язык. Модель основана на google/gemma-2-9b и распространяется по лицензии Gemma. Проверка на WikiText-2 не заменяет оценку на прикладных данных, а результаты сценария Balanced в карточке приведены не полностью.

onnx-community/gemma-3-1b-it-ONNX — ONNX-версия модели Google Gemma 3 1B Instruct, подготовленная сообществом onnx-community. Модель предназначена для генерации текста и диалоговых сценариев с использованием чат-шаблонов, включая ответы на вопросы, написание текстов и выполнение инструкций. Модель имеет размер около 1 млрд параметров и работает с архитектурой Gemma 3 1B через ONNX Runtime. Она поддерживается библиотекой Transformers.js, включая запуск в браузере или другом JavaScript-окружении с WebGPU; в примере также используется квантизация q4. Доступен запуск через ONNX Runtime на Python. README не указывает поддерживаемые языки, максимальную длину контекста, дополнительные модальности или результаты бенчмарков. К сильным сторонам относятся относительно небольшой размер, переносимость формата ONNX и возможность локального запуска, в том числе с WebGPU и квантизацией. Ограничения производительности, качества, языкового покрытия и контекстного окна в предоставленных данных не описаны, поэтому их нельзя оценить по README. Модель распространяется по лицензии Gemma.

ApolloRaines/Gemma-4-12B-it-Jbliterated — языковая модель для генерации текста, созданная ApolloRaines на базе google/gemma-4-12b-it-qat-q4_0-unquantized от Google. Она предназначена для диалогов и других задач генерации текста, где требуется более прямой ответ без выраженного отказа и уклонения. Модель ориентирована на англоязычные сценарии; заявленный pipeline — text-generation. Модель использует архитектуру Gemma 4 Unified и содержит 12 млрд параметров. Выпуск выполнен как редактирование весов без дополнительного переобучения: применён фреймворк jBlaze precision neural surgery, исходный тип данных — bfloat16. Доступны версии GGUF, включая BF16, Q8_0, Q6_K, Q5_K_M и рекомендуемую для видеокарт с 8–12 ГБ памяти Q4_K_M. Для GGUF требуется llama.cpp версии b10176 или новее; заявлена поддержка контекста до 8192 токенов в примере запуска. Согласно собственным измерениям авторов, показатель MMLU сохранился на уровне базовой модели — 78,42%, а доля прямых ответов на отложенном наборе выросла примерно с 1% до 89%. При этом версия v1 может классифицировать запросы с точки зрения безопасности во внутреннем процессе рассуждения и иногда не выдавать ответ; авторы рекомендуют новую версию v2. Данные о мультимодальности и иных языках, кроме английского, не указаны. Модель распространяется на условиях Gemma Terms of Use; README также указывает лицензию Apache 2.0.

Pantheon-Reasoning-27B-GGUF — квантизированная версия текстовой генеративной модели Pantheon-Reasoning-27B, разработанной Gryphe и подготовленной в формате GGUF пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Модель ориентирована на англоязычные диалоги, инструкции, рассуждения, ролевые сценарии и творческое письмо. Модель имеет размер 27 млрд параметров; точная архитектура и размер контекстного окна в README не указаны. Доступны варианты от BF16 до 3- и 8-битных квантов, что позволяет выбирать между качеством, требованиями к памяти и скоростью локального запуска. Для работы предусмотрен формат ChatML с началом рассуждений через тег <think>. Поддерживается только текстовая модальность. Сильными сторонами являются специализация на reasoning, conversational-задачах, roleplay и creative writing, а также широкий выбор квантов для запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI и другие совместимые инструменты. Более компактные варианты требуют меньше оперативной памяти, но могут уступать старшим квантам по качеству. Данные о результатах тестирования, точном контекстном окне, многоязычности и ограничениях безопасности не приведены. Указанная лицензия — Apache-2.0.

h2oai/h2ogpt-gm-oasst1-en-2048-falcon-7b-v3 — англоязычная диалоговая языковая модель H2O.ai, дообученная в H2O LLM Studio на персонализированной подготовке датасета OpenAssistant/oasst1. Она основана на Falcon-7B с архитектурой RefinedWebModel и содержит 10,9 млрд параметров. Модель предназначена для генерации ответов и ведения диалога на английском языке; её можно запускать через библиотеку Transformers на GPU. Модель может выдавать предвзятые, оскорбительные, ошибочные или бессмысленные ответы, поэтому результаты требуют проверки. Репозиторий распространяется по лицензии Apache-2.0.

Hermes-Instruct-7B-100K — диалоговая языковая модель на базе Mistral-7B-Instruct-v0.2, дообученная на 100 тысячах примеров из набора teknium/openhermes в формате Alpaca. Она предназначена для генерации текста по инструкциям и ответов в диалоге; принимает запросы в формате Alpaca или Mistral-Instruct. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и поддерживает контекст до 32 768 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. README приводит результаты оценки на бенчмарках, включая средний балл 64,96, но этих данных недостаточно для вывода о качестве на конкретных прикладных задачах. Подтверждённая языковая поддержка и специальные предметные области в предоставленных материалах не описаны.

Это GGUF-версия модели Huihui-gpt-oss-20b-BF16-abliterated от Huihui AI. Репозиторий создан 8 августа 2025 года и содержит вариант BF16; метаданные указывают на базовую модель huihui-ai/Huihui-gpt-oss-20b-BF16-abliterated и возможность диалога. Модель предназначена для генерации текста в чате. README описывает её как квантованную версию базовой модели, однако метаданные указывают формат GGUF BF16; поэтому точный способ преобразования весов по имеющимся сведениям установить нельзя. Размер параметров, контекст и поддерживаемые естественные языки не приведены. Условия лицензии в доступных данных не указаны.

Huihui-gpt-oss-20b-BF16-abliterated-v2 — дообученная Huihui AI разговорная языковая модель семейства gpt_oss с архитектурой MoE. Она предназначена для генерации текста и диалогов; карточка сообщает, что модель обучалась с помощью TRL на инструкциях, сгенерированных базовой моделью. Указанный размер — 1,6 млрд параметров, нативная длина контекста — 131 072 токена. Доступны веса Safetensors и GGUF в BF16; для запуска автор также приводит вариант Ollama. Модель снижает защитную фильтрацию и может отвечать на чувствительные и спорные запросы, поэтому сгенерированный контент требует проверки. Карточка отмечает улучшение обучающих метрик и небольшое расхождение между обучением и оценкой, но также указывает на возможный рост нормы градиента на поздних этапах. Лицензия — Apache-2.0.

Huihui-granite-4.0-h-tiny-abliterated — версия языковой модели IBM Granite 4.0 H Tiny, подготовленная huihui-ai методом abliteration для значительного снижения отказов на запросы. Это гибридная MoE-модель для генерации текста и диалогов; метаданные указывают 500,2 млн параметров и контекст до 131 072 токенов. Модель загружается через библиотеку Transformers и распространяется в формате Safetensors. Модель подходит для диалоговых приложений и генерации текста, в том числе для сценариев, где требуется меньше отказов. Снижение защитной фильтрации повышает вероятность чувствительных, спорных или неподходящих ответов, поэтому результаты требуют проверки. Базовая модель — ibm-granite/granite-4.0-h-tiny; лицензия — Apache-2.0.