II.1Анализ требований и архитектура ПО

CORTEX — большая языковая модель Frankenstein-Labs для программирования, веб-разработки, обучения и общего ассистирования. В репозитории опубликован чекпойнт архитектуры DeepseekV4ForCausalLM с 44,9 млрд параметров по метаданным Hugging Face; README также приводит другое число параметров, поэтому точный размер расходится между источниками. Метаданные указывают формат safetensors FP8, библиотеку Transformers и контекст до 1 048 576 токенов. Заявлены генерация и объяснение кода, помощь с проектированием и анализом программ, поиск ошибок и разбор технических концепций; поддерживаемые языки в метаданных — французский, английский и китайский. Чекпойнт требует нескольких ускорителей и актуальной версии Transformers с поддержкой deepseek_v4; однографическая конфигурация не документирована. Полная загрузка и качество генерации Frankenstein-Labs не проверялись, поэтому заявленные сценарии следует считать предназначением, а не подтверждёнными результатами. Встроенная экспериментальная vision-адаптация не работает на полном чекпойнте и не делает его мультимодальной моделью. README описывает распределённые веса как опубликованный артефакт, а отдельный конвейер обучения собственных весов с нуля — как независимую работу; связь текущего чекпойнта с базовой моделью не подтверждена. Лицензия — MIT.

Kaballas/Cyber22 — языковая модель семейства Llama, разработанная Kaballas и дообученная на базе Cyber21. Это плотная авторегрессионная модель с 7,5 млрд параметров для генерации текста; метаданные также отмечают поддержку чата и интерфейса вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки TRL. Она предназначена для генерации ответов и ведения диалога на английском языке. Репозиторий содержит веса в формате Safetensors, модель опубликована под лицензией Apache 2.0. Заявленная длина контекста — 131 072 токена.

Cybertron v4 qw7B MGS — диалоговая плотная трансформерная модель на 7,1 млрд параметров, разработанная fblgit и основанная на Qwen2.5-7B-Instruct. Она дообучена методом SFT на датасете Magpie-Align/Magpie-Qwen2.5-Pro-1M-v0.1 и предназначена для генерации текста и ответов в диалоге; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык и имеет заявленную длину контекста 131 072 токена. В карточке автор заявляет высокие результаты в классе моделей 7B–8B и приводит оценки Open LLM Leaderboard, включая 62,64 на IFEval и 37,04 на BBH; эти результаты относятся к указанной автором оценке. Для модели указана лицензия other, поэтому условия использования следует сверить с лицензией и файлами репозитория. В README упоминается подход MGS, но его расшифровка и подробности не раскрыты.

Cygnis Alpha 2 (8B) v0.3 i1 GGUF — квантизированная GGUF-версия модели Cygnis-Alpha 2 8B v0.3, разработанная автором или организацией Simonc-44. Модель относится к семейству Llama 3.1 и оптимизирована для генерации текста, рассуждений и задач, где требуется сохранение сложных паттернов цепочки рассуждений (CoT). Модель предназначена для локального вывода через llama.cpp, Ollama и совместимые инструменты. Она ориентирована на английский и французский языки. Вариант i1 использует оптимизацию Imatrix, призванную повысить качество низкобитной квантизации; доступны, в частности, варианты Q6_K размером около 6,7 ГБ и рекомендуемый Q4_K_M размером около 5,0 ГБ. Архитектура, заявленный размер около 8B параметров и текстовая модальность указаны в README, но размер контекстного окна не приведён. Сильными сторонами являются локальный запуск, поддержка французского и английского языков, а также направленность на рассуждения при сниженной потребности в памяти благодаря квантизации. Ограничения включают возможную потерю качества по сравнению с полной точностью и отсутствие в предоставленных данных количественных результатов тестирования, подробных сведений об архитектуре и контекстном окне. Модель распространяется по лицензии Apache-2.0.

shadowml/DareBeagel-2x7B — языковая модель для диалоговой генерации текста, созданная объединением mlabonne/NeuralBeagle14-7B и mlabonne/NeuralDaredevil-7B в MoE-архитектуру Mixtral с помощью LazyMergekit. Конфигурация использует случайный режим маршрутизации экспертов. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Модель предназначена для чатов и генерации ответов на текстовые запросы; в README приведены результаты оценки на задачах рассуждения и продолжения здравого смысла. Репозиторий распространяется по лицензии Apache-2.0. README озаглавлен Beyonder-2x7B-v2, тогда как идентификатор репозитория содержит DareBeagel-2x7B.

Darewin-7B-v2 — языковая модель на архитектуре Mistral, созданная mlabonne путём слияния семи моделей с помощью LazyMergekit. Она предназначена для генерации текста и диалогового общения; результаты оценки также показывают способности к рассуждению и решению задач из бенчмарков AI2 Reasoning Challenge и HellaSwag. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке указана лицензия Apache-2.0. README приводит результаты Open LLM Leaderboard, но не описывает ограничения по языкам или конкретным сценариям; языковая поддержка в метаданных явно не перечислена.

DeepSeek-R1-0528-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-0528, разработанной deepseek-ai и преобразованной в формат GGUF участником bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 215 до 713 ГБ для представленных файлов. Квантизация выполнена с применением imatrix и специального набора данных; для повышения производительности использовались изменения из соответствующего PR для llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста исходной модели. Сильной стороной набора является широкий выбор уровней квантизации: более высокие варианты обеспечивают качество, близкое к исходному, а более компактные позволяют экономить оперативную память. Ограничения связаны с очень большими требованиями к дисковому пространству и памяти, а также с неизбежным снижением качества у низкобитных вариантов. Для работы следует использовать указанный формат промпта с маркерами DeepSeek-R1. Модель распространяется по лицензии MIT.

win10/DeepSeek-R1-Distill-sthenno-14b-0121-union-tokenizer — объединённая модель на 14 млрд параметров, созданная автором репозитория методом TIES с помощью mergekit. В качестве основы использована sthenno-com/miscii-14b-1225; в объединение также вошли sthenno/tempesthenno-ppo-ckpt40 и unsloth/DeepSeek-R1-Distill-Qwen-14B. Модель построена на архитектуре Qwen2 и распространяется в формате safetensors. Модель предназначена для диалоговой генерации текста. Метаданные указывают контекст до 131 072 токенов и поддержку чата; языки и специализированные прикладные области в карточке не определены. Лицензия в предоставленных данных не указана.

DiffusionGemma 26B-A4B-it MXFP8 — языковая модель с блоковой диффузионной генерацией, подготовленная OsaurusAI для запуска через движок vMLX на компьютерах Apple Silicon. В отличие от авторегрессионной генерации, она формирует текстовые блоки размером до 256 токенов и уточняет их итеративным денойзингом. Архитектура — 30-слойная Gemma 4-style MoE с 128 экспертами и выбором 8 экспертов; всего 26 млрд параметров, активно используется около 4 млрд. Веса основных компонентов квантованы в MXFP8, а эмбеддинги, нормализации и визуальный модуль сохранены в fp16; файлы занимают около 26 ГБ. Модель предназначена для диалога и генерации текста, анализа одного или нескольких изображений и вызова инструментов в формате Gemma 4. Для работы с изображениями используется визуальный модуль Gemma 4. Темп генерации на M5 Max указан как 28–42 токена в секунду при 48 шагах денойзинга; фактическая скорость зависит от оборудования и бюджета шагов. Лицензия — Gemma. При очень коротких запросах жадная стратегия денойзинга иногда приводит к пустому ответу; повторная попытка или переформулировка могут помочь. Параметры temperature и top_p, переданные через интерфейс, игнорируются: параметры сэмплирования задаются конфигурацией модели, а уменьшение числа шагов ниже 12 ухудшает качество. Для запуска указана среда Apple Silicon с Osaurus и движком vMLX.

DolphinStar-12.5B — разговорная текстовая модель, созданная Noodlz линейным слиянием моделей Dolphin и Starling на архитектуре Mistral. Репозиторий содержит веса Safetensors; размер модели в метаданных указан как 12,3 млрд параметров, а контекст составляет до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В карточке рекомендованы шаблоны ChatML или LM Studio по умолчанию; автор отмечает, что результаты зависят от шаблона и размера пакета. Лицензия — Apache 2.0.

Donnager-70B-v1 — плотная языковая модель семейства Llama с примерно 68,7 млрд параметров, опубликованная BeaverAI. Модель предназначена для генерации текста и диалогового использования; карточка перечисляет шаблоны чата Metharme, Text Completion, Mistral, Alpaca и Vicuna. Модель принимает текст и генерирует текст. В метаданных указан контекст длиной 32 764 токена и формат весов safetensors. Автор благодарит @invisietch за базовую модель, однако её идентификатор не приведён. Лицензия обозначена как other, поэтому условия использования следует сверять с лицензией репозитория.

EtherealAurora-12B-v2 — диалоговая языковая модель, созданная yamatazen с помощью слияния предобученных моделей через SLERP в mergekit. Она использует архитектуру Mistral с плотной сетью и содержит 12,1 млрд параметров; карточка указывает формат safetensors, шаблон ChatML и контекстное окно до 1 024 000 токенов. Модель предназначена для генерации текста и ведения диалогов. В метаданных указаны английский и японский языки. Модель объединяет yamatazen/EtherealAurora-12B и natong19/Mistral-Nemo-Instruct-2407-abliterated. Лицензия — Apache-2.0. Карточка не приводит оценок качества или конкретных ограничений применимости, поэтому пригодность для отдельных сценариев требует проверки.

Experiment26Neuralsirkrishna-7B — объединённая текстовая модель на архитектуре Mistral с 7,1 млрд параметров, созданная автоматически по конфигурации Maxime Labonne. В слиянии использованы yam-peleg/Experiment26-7B и Kukedlc/NeuralSirKrishna-7b; применён метод dare_ties с параметрами плотности 0,53 и веса 0,6 для второй модели. Модель предназначена для генерации текста и диалогов, принимает текстовые запросы и формирует текстовые ответы. Размер контекста — до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает целевые языки и специализированные области применения.

MaziyarPanahi/Experiment26Neuralsirkrishna_Experiment27Experiment29 — объединённая модель для генерации текста и диалогов. Она создана слиянием моделей automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment27Experiment29-7B; в основе лежит плотная архитектура Mistral с 7,1 млрд параметров. Модель принимает текст и генерирует текст. Её контекст составляет до 32 768 токенов, формат весов — safetensors. В метаданных указана лицензия Apache-2.0. Сведения о специализации по языкам и прикладным областям в карточке отсутствуют.

Experiment26Yamshadow_Experiment28Experiment26 — объединённая модель для генерации текста, созданная путём слияния моделей automerger/Experiment26Yamshadow-7B и automerger/Experiment28Experiment26-7B. Модель основана на архитектуре Mistral и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; окно контекста составляет до 32 768 токенов. Карточка не уточняет специализацию по предметным областям или языкам. Модель распространяется под лицензией Apache-2.0.

Experiment28M7_Experiment24Shadow — слитая языковая модель семейства Mistral, объединяющая модели automerger/Experiment28M7-7B и automerger/Experiment24Shadow-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста по текстовым запросам; заявленная длина контекста — до 32 768 токенов. Модель подходит для диалогов, черновиков и продолжения текста, а также для других задач генерации на основе текстового контекста. Веса опубликованы в формате safetensors, лицензия — Apache 2.0. В карточке нет подробных оценок качества или сведений о специализированной настройке модели.

MaziyarPanahi/Experiment28M7_Experiment26Inex12 — объединённая модель семейства Mistral с архитектурой MistralForCausalLM и 7,1 млрд параметров. Она предназначена для генерации текста и диалогов; принимает текстовый запрос и выдаёт продолжение или ответ в текстовом виде. Поддерживает контекст длиной до 32 768 токенов. Модель создана слиянием automerger/Experiment28M7-7B и automerger/Experiment26Inex12-7B. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Языковая специализация и отдельные прикладные области в карточке не обозначены.

MaziyarPanahi/Experiment28M7_Experiment28Neuralsirkrishna — объединённая модель на архитектуре Mistral, созданная из automerger/Experiment28M7-7B и automerger/Experiment28Neuralsirkrishna-7B. Она предназначена для генерации текста и может использоваться в сценариях, где требуется языковая модель с контекстом до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате Safetensors. Модель принимает текст и выдаёт текст. Карточка не описывает специализацию, поддерживаемые языки или отдельные возможности, поэтому её следует рассматривать как модель общего назначения для генерации текста. Лицензия — Apache-2.0.

MaziyarPanahi/Experiment28M7_MeliodasNeuralsirkrishna — объединённая модель на основе Mistral, созданная из automerger/Experiment28M7-7B и automerger/MeliodasNeuralsirkrishna-7B. Это плотная авторегрессионная модель объёмом 7,1 млрд параметров для генерации текста и диалогов с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не описывает специализацию модели, обучающие данные или отдельные гарантии качества, поэтому её возможности следует считать общими для генерации текста.

Experiment28M7_NeuralsirkrishnaM7 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/NeuralsirkrishnaM7-7B. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и принимает текст для авторегрессионной генерации текста. Контекстное окно составляет до 32 768 токенов. Модель подходит для генерации продолжений, ответов и диалогового текста в сценариях, где нужен длинный контекст. Доступна в формате Safetensors. Лицензия — Apache-2.0. README не приводит сравнительных оценок качества или специальных сведений о поддерживаемых языках и ограничениях.

Experiment28Meliodas-7B — автоматически объединённая модель, созданная Maxime Labonne из yam-peleg/Experiment28-7B и AurelPx/Meliodas-7b-dare с помощью mergekit. Это плотная авторегрессионная языковая модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста; заявленная длина контекста составляет 32 768 токенов. Слияние выполнено методом SLERP с разными коэффициентами для слоёв self-attention и MLP. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка содержит пример загрузки через Transformers, но не описывает специальные предметные области или гарантии качества; результаты зависят от запроса и сценария использования.

Experiment28T3q_AlloyingotneoyYam — объединённая модель MaziyarPanahi на базе двух моделей семейства Mistral: automerger/Experiment28T3q-7B и automerger/AlloyingotneoyYam-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель с открытыми весами. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Нативное окно контекста составляет 32 768 токенов. Репозиторий распространяет веса в формате Safetensors; лицензия — Apache-2.0. Карточка не описывает отдельные специализации, оценку качества или ограничения по сценариям применения. Возможности генерации и надёжность ответов зависят от запроса и настроек; перед использованием в критичных задачах результаты следует проверять.

MaziyarPanahi/Falkor-7b-Mistral-7B-Instruct-v0.2-slerp-GGUF — это квантованная версия языковой модели Falkor-7b-Mistral-7B-Instruct-v0.2-slerp, разработанная и подготовленная MaziyarPanahi. Модель основана на Mistral-7B-Instruct-v0.2 и предназначена для генерации текста и выполнения инструкций в локальных и серверных сценариях. Модель поставляется в формате GGUF, совместимом с llama.cpp и рядом приложений и библиотек для локального запуска, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio, llama-cpp-python и другие. Доступны варианты квантования с разрядностью от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Это позволяет выбирать компромисс между размером файла, требованиями к ресурсам и качеством генерации. Точное число параметров указано как 7B; поддерживаются текстовые задачи, однако сведения о языках и размере контекстного окна в README отсутствуют. Сильными сторонами являются уменьшенный размер квантованных файлов и возможность запуска на широком спектре локальных конфигураций с поддержкой CPU и GPU через совместимые инструменты. Ограничения включают потенциальное снижение качества при использовании более агрессивного квантования, а также отсутствие в README подробных результатов оценки, описания архитектуры с дополнительными деталями и характеристик мультимодальности. Модель распространяется по лицензии Apache-2.0.

FIxtral — диалоговая языковая модель, опубликованная zaursamedov1 и основанная на объединении модели mistralai/Mistral-7B-Instruct-v0.2. Она предназначена для генерации текста и ответов на инструкции в дружелюбном пошаговом стиле; в карточке приведён пример использования через Transformers. Модель построена на архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. Модель распространяется по лицензии Apache-2.0.

FlexOlmo-7x7B-1T — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (AI2). Это модель типа Mixture-of-Experts: в ней объединены семь независимо обученных экспертов для публичных данных, новостей, математики, кода, академических текстов, творческого письма и публикаций Reddit. Общий размер указан в карточке как 6,9 млрд параметров, а в README — как 33 млрд; README также сообщает, что публичный эксперт обучен на 1 трлн токенов, а остальные получены его дообучением на отдельных корпусах. Маршрутизатор экспертов не обучен. Модель предназначена для генерации текста и диалогового применения, в том числе для задач, связанных с перечисленными тематическими корпусами. Поддерживает английский язык, работает с текстом и имеет контекст до 4096 токенов. Для запуска README рекомендует Transformers версии 4.57.0 или новее. Репозиторий распространяется под лицензией Apache-2.0. В README приведены результаты оценки по ряду языковых и тематических бенчмарков, однако они относятся к отдельным плотным моделям, а не обязательно к этому MoE-чекпойнту. Отсутствие обученного маршрутизатора ограничивает выводы о фактическом выборе экспертов и качестве итоговой модели.

FrankywestKunai-hermes-1-7b — слитая языковая модель, созданная автором репозитория с помощью mergekit из saishf/West-Hermes-7B и seyf1elislam/KunaiBeagle-Hermes-7b. При слиянии методом passthrough использованы слои 0–19 первой модели и слои 20–31 второй; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров. Модель предназначена для генерации текста по запросу и может использоваться в диалоговых и других текстовых сценариях. Поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия в предоставленных данных не указана.

G9v3-39A5B-GGUF — это неофициальная конверсия предварительной языковой модели G9v3-39A5B, разработанной AI9Stars, в формат GGUF. Конверсию выполнил linuxid10t для запуска через llama.cpp. Модель предназначена для генерации текста, диалогов, задач с длинным контекстом и сценариев с вызовом инструментов; заявлена поддержка режимов Think и No-Think. Поддерживаемые языки — английский и китайский. Модель использует архитектуру G9v3ForCausalLM со sparse Mixture-of-Experts: около 39 млрд параметров всего и примерно 5 млрд активных на один токен. Она содержит 38 слоёв, включая один плотный и 37 MoE-слоёв, 320 маршрутизируемых экспертов, из которых выбираются 32, а также одного общего эксперта. Максимальный контекст составляет 131 072 токена. Доступны варианты BF16, Q8_0, Q4_K_M и IQ4_XS; квантованные версии уменьшают требования к памяти, но могут снижать точность по сравнению с BF16. Основное ограничение — модель является preview-релизом, а поддержка архитектуры G9v3 ещё не включена в стандартные сборки llama.cpp: требуется специальная ветка с поддержкой G9v3. Рекомендуемый объём оперативной памяти составляет не менее 96 ГиБ для BF16, 48 ГиБ для Q8_0 и 32 ГиБ для Q4_K_M или IQ4_XS, причём фактические требования зависят от размера контекста и настроек запуска. Репозиторий распространяется по лицензии Apache-2.0.

gemma-2-9b-it-IMat-GGUF — это квантизированная версия текстовой instruction-tuned модели Google Gemma 2 9B IT, подготовленная legraphista в формате GGUF для использования с llama.cpp и совместимыми инструментами. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и задачи, где важны сниженные требования к памяти. В основе лежит модель google/gemma-2-9b-it с исходным форматом BF16 и примерно 9 миллиардами параметров. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K; размеры файлов составляют примерно от 3,8 до 18,5 ГБ. Для ряда вариантов с низкой разрядностью применена IMatrix-квантизация, предназначенная для улучшения сохранения качества при уменьшении размера. README не содержит сведений о поддерживаемых языках, длине контекста и мультимодальности; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность локального запуска и наличие IMatrix-вариантов, позволяющих выбирать компромисс между качеством и потреблением памяти. Ограничения связаны с возможной потерей качества при сильной квантизации и с тем, что характеристики базовой модели, включая языковое покрытие и контекст, в карточке не раскрыты. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется ознакомиться с условиями и принять лицензию.

pytorch/gemma-3-27b-it-FP8 — модель, разработанная PyTorch и полученная квантованием google/gemma-3-27b-it. Это instruction-tuned модель для генерации текста в формате диалога, ответов на вопросы и общего языкового взаимодействия. README также указывает возможность мультимодальной оценки на задаче ChartQA, однако подробные сведения о поддерживаемых типах входных данных не приведены. Модель использует квантование FP8 с динамическими активациями и весами FP8; размер базовой модели составляет 27B параметров. Указан английский язык. Доступны режимы с рассуждением и без него, а для запуска предусмотрена интеграция с vLLM и Transformers. В приведённых проверках версия FP8 показала близкие к исходной модели результаты: 76,20 против 76,48 на MMLU и 51,32 против 51,80 на мультимодальном ChartQA. Для работы требуются актуальные версии vLLM, torchao или Transformers, а также GPU-окружение; README отмечает необходимость отключения compile cache в vLLM из-за проблем совместимости. Модель распространяется по лицензии Apache-2.0.

Gemma3.5-48B-A4B-Q4_K_M — созданная сообществом модель для диалогов и следования инструкциям, опубликованная XxACCOxX в формате GGUF. Она объединяет поведение Gemma 3 27B с базовой архитектурой Gemma 4 26B A4B: к исходным экспертам Gemma 4 добавлен банк экспертов, полученный дистилляцией активаций Gemma 3. В модели 48,1 млрд параметров, из которых на один токен задействуется около 3,8 млрд; используется 8 экспертов из 256. Контекст составляет 262 144 токена, квантование — Q4_K_M. Модель предназначена для локального общения в режиме прямых ответов, решения математических задач, технических запросов и вопросов на общие знания. Автор приводит результат 63,21% на подвыборке MMLU-Pro из 280 заданий без режима рассуждений; это результат описанного теста, а не гарантия качества для других задач. Для запуска предназначены стеки локального инференса, например llama.cpp и Ollama. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.