II.1Анализ требований и архитектура ПО

ehristoforu/exp-2-q-r — дообученная модель семейства Qwen2, разработанная ehristoforu на базе ehristoforu/exp-1-q-r. Это плотная языковая модель с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и выдаёт текст; заявленный родной контекст составляет 131 072 токена. В обучении использовались Unsloth и библиотека Hugging Face TRL. Модель подходит для диалогового взаимодействия и других задач генерации текста. В карточке отмечен интерфейс вызова инструментов, однако подробности его поведения не описаны. Поддержка английского указана в метаданных. Модель распространяется по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Strangemerges_30Pastiche — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она предназначена для генерации текста и диалогов, а контекстное окно составляет до 32 768 токенов. Модель объединяет веса automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_30Pastiche-7B. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0.

Experiment26Neuralsirkrishna_Strangemerges_32Experiment28 — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_32Experiment28-7B. Модель с плотной архитектурой MistralForCausalLM содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; поддерживает контекст до 32 768 токенов. Модель принимает текст и генерирует текст, что подходит для диалоговых интерфейсов и задач создания продолжений или ответов. Она распространяется в формате safetensors по лицензии Apache-2.0. Информация о специальных доменах, языках и измеренном качестве в доступных материалах отсутствует.

Experiment26Neuralsirkrishna_Strangemerges_32Strangemerges_30 — объединённая языковая модель семейства Mistral, созданная слиянием automerger/Experiment26Neuralsirkrishna-7B и automerger/Strangemerges_32Strangemerges_30-7B. Она предназначена для генерации текста и диалогов; архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Сведения о конкретных языках и специализированных областях применения в предоставленных материалах отсутствуют.

MaziyarPanahi/Experiment26Yamshadow_Inex12Experiment28 — объединённая модель на базе двух моделей Mistral: automerger/Experiment26Yamshadow-7B и automerger/Inex12Experiment28-7B. Она предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Контекст составляет до 32 768 токенов; веса опубликованы в формате Safetensors. Лицензия — Apache-2.0.

Experiment27Neuralsirkrishna-7B — автоматически созданная Maxime Labonne объединённая модель Mistral с 7,1 млрд параметров. Она объединяет yam-peleg/Experiment27-7B и Kukedlc/NeuralSirKrishna-7b методом SLERP; веса представлены в формате Safetensors и имеют тип bfloat16. Модель предназначена для генерации текста и диалогов, принимает текст и формирует текстовые ответы. Контекстное окно составляет до 32 768 токенов. Модель подходит для диалоговых приложений и генерации текста с длинным контекстом. В README не приведены сведения о целевых языках или специализированных областях применения. Лицензия — Apache-2.0.

Experiment29Pastiche-7B — объединённая Maxime Labonne модель для генерации текста и диалогов. Она создана автоматическим слиянием двух моделей: yam-peleg/Experiment29-7B и CorticalStack/pastiche-crown-clown-7b-dare; для объединения использован метод SLERP, а базовой моделью указана yam-peleg/Experiment29-7B. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors; метаданные указывают лицензию Apache-2.0. Карточка демонстрирует использование через Transformers, но не приводит сведений о языковой специализации или подробных ограничениях качества.

f-5-8b — языковая модель для генерации текста, полученная объединением моделей jaspionjader/f-2-8b и jaspionjader/f-4-8b методом SLERP с помощью mergekit. Модель основана на архитектуре Llama и содержит 7,5 млрд параметров. Она предназначена для диалогового взаимодействия и генерации текста. Репозиторий содержит веса в формате safetensors; модель загружается через Transformers и поддерживает контекст длиной до 8192 токенов. Веса объединены в формате bfloat16. В карточке не приведены сведения о целевых языках и сравнительных оценках качества, поэтому пригодность для конкретных языков и задач следует проверять на собственных примерах. Лицензия в предоставленных данных не указана.

Falcon3-10B-Instruct-abliterated-GGUF — это квантизированная версия инструкционной языковой модели Falcon3-10B-Instruct-abliterated, опубликованная в формате GGUF пользователем bartowski. Базовая модель разработана huihui-ai и относится к семейству Falcon3. Квантизация выполнена с помощью llama.cpp, версии b4381, с использованием метода imatrix и специализированного набора данных. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, совместимых с llama.cpp и форматом GGUF. Поддерживаются английский, французский, испанский и португальский языки. Архитектура, размер контекста, точные параметры исходной модели и поддержка модальностей, кроме текста, в README не указаны; по назначению это текстовая модель без заявленной обработки изображений или других типов данных. Для общения используется шаблон с ролями system, user и assistant. Доступны варианты от F16 размером 20,62 ГБ до компактных IQ3_M и Q3-разрядных сборок. Версии Q4–Q6 заявлены как обеспечивающие хорошее или очень высокое качество при меньшем потреблении памяти, а Q3-варианты рассчитаны на системы с ограниченным объёмом RAM, но имеют более низкое качество. Ограничения качества зависят от выбранного уровня квантизации, при этом конкретные результаты тестирования не приведены. Модель распространяется по лицензии Falcon LLM License; условия доступны по ссылке, указанной в карточке.

ehristoforu/Falcon3-8B-Franken-Basestruct — объединённая языковая модель на 8 млрд параметров, созданная методом SLERP с помощью mergekit из tiiuae/Falcon3-10B-Instruct и tiiuae/Falcon3-10B-Base. Модель использует плотную архитектуру LlamaForCausalLM и предназначена для генерации текста, в том числе в диалоговом формате; заявленный контекст составляет 32 768 токенов. Объединение сочетает инструкционную и базовую версии Falcon3. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Метаданные отмечают поддержку чата и интерфейс вызова инструментов, однако подробные оценки качества и конкретные сценарии применения в карточке не приведены. Сведения о лицензии в предоставленных данных отсутствуют.

Falcon-7B-Instruct — языковая модель TII на основе Falcon-7B, дообученная на смеси диалоговых и инструкционных данных. Это плотная авторегрессионная модель с архитектурой decoder-only; в карточке указаны 7 млрд параметров, тогда как метаданные каталога сообщают 10,9 млрд. В архитектуре используются rotary positional embeddings, multi-query attention и FlashAttention, рассчитанные на эффективный инференс. Модель предназначена для диалогов и выполнения инструкций на естественном языке: она может отвечать на вопросы, помогать с текстовыми задачами и вести беседу. Основной язык обучения — английский; карточка также указывает французский, но предупреждает, что качество на языках помимо английского может быть слабым. Для быстрого инференса README рекомендует не менее 16 ГБ памяти; для использования с Transformers требуется PyTorch 2.0. TII сообщает о дообучении на смеси instruct/chat-датасетов объёмом около 250 млн токенов. Модель может воспроизводить стереотипы и смещения из веб-данных, поэтому перед применением в производстве ответы следует оценивать и дополнять защитными мерами. Лицензия — Apache 2.0.

FimbulHermes-15B-v0.1 — текстовая чат-модель, созданная с помощью mergekit объединением NousResearch и Sao10K. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 15,2 млрд параметров; она принимает текст и генерирует текст, поддерживает контекст до 4096 токенов. Модель предназначена для диалогов и генерации текста. В README её характеризуют как стабильную и выразительную, однако отмечают, что она не прошла тщательную оценку. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

chanwit/flux-7b-base-stage-00 — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из mistralai/Mistral-7B-Instruct-v0.2 и teknium/OpenHermes-2.5-Mistral-7B. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и рассчитана на генерацию текста и диалоговое взаимодействие; максимальный контекст составляет 32 768 токенов. Модель предназначена для генерации ответов и продолжения текста в диалоге. Она объединяет две инструкционно настроенные модели Mistral; в README описана схема слияния, задающая разные веса для слоёв внимания и MLP. Данных о языковом охвате и лицензии в предоставленных источниках нет.

GarrulusMarcoro-7B-v0.1 — объединённая языковая модель, созданная с помощью LazyMergekit из udkai/Garrulus и mlabonne/NeuralMarcoro14-7B. Это плотная модель семейства Mistral с 7,1 млрд параметров; в репозитории веса представлены в формате Safetensors, а заявленная длина контекста составляет 32 768 токенов. Модель предназначена для генерации текста и диалоговых сценариев. В README описано объединение методом SLERP с настройками для слоёв self-attention и MLP; приведены результаты Open LLM Leaderboard, включая оценки по AI2 Reasoning Challenge и HellaSwag. Лицензия — Apache-2.0. README не уточняет языки обучения, специальные предметные области или гарантии качества для конкретных сценариев. Результаты бенчмарков не гарантируют аналогичную точность на пользовательских задачах.

Gemma-2-9b-it-4bit — языковая модель семейства Gemma 2, разработанная Google и доработанная сообществом mlx-community для формата MLX. Модель преобразована из google/gemma-2-9b-it с использованием mlx-lm версии 0.15.0 и предназначена для запуска в экосистеме MLX. Это instruction-tuned модель для генерации текста и диалоговых сценариев: она может использоваться для ответов на запросы, ведения беседы и других задач, связанных с обработкой и созданием текста. В карточке указано обозначение размера 9B, а также 4-битное квантование, которое снижает требования к памяти по сравнению с полноточным представлением. Поддерживаются библиотека transformers как метаданные и библиотека mlx-lm для загрузки и генерации. README не содержит сведений о поддерживаемых языках, длине контекста, результатах тестирования, точных архитектурных характеристиках, сильных сторонах или ограничениях качества. Для доступа к исходной модели на Hugging Face требуется принять лицензию Google Gemma; конкретные условия следует проверять в тексте этой лицензии.

42MARU/GenAI-llama-2-13b — языковая модель 42MARU на базе LLaMA 2, предназначенная для генерации текста и выполнения инструкций. Модель имеет плотную архитектуру LlamaForCausalLM и около 12,9 млрд параметров; она опубликована в формате PyTorch и рассчитана на контекст до 4096 токенов. Для обучения использовались датасеты в стиле Orca и Platypus. Модель подходит для диалоговых ответов и задач вопросно-ответного поиска, где запрос задаётся естественным языком. Карточка приводит результаты оценки на Open LLM Leaderboard, включая ARC и HellaSwag. В метаданных указан английский язык. Лицензия в предоставленных данных не указана, поэтому условия использования по ним определить нельзя. Результаты бенчмарков не гарантируют качество в конкретных прикладных сценариях.

Geodesic Phantom 12B — языковая модель, созданная OrobasVault с помощью слияния предобученных моделей через mergekit. В качестве основы использована Mistral-Nemo-Instruct-2407, также в слияние вошли модели семейства Vortex5. Архитектура — плотная MistralForCausalLM; модель содержит 12,1 млрд параметров, работает с библиотекой Transformers и распространяется в формате safetensors. Модель предназначена для диалога и генерации текста. Метаданные указывают контекст до 131 072 токенов и возможность чата; карточка не приводит специализированных областей применения или подробных оценок качества. Языковая поддержка не установлена по доступным данным. Лицензия в предоставленных сведениях не указана.

Mungert/gpt-oss-20b-Derestricted-GGUF — это GGUF-версия модифицированной модели gpt-oss-20b, разработанной Arli AI на базе открытой модели OpenAI. Модель предназначена для генерации текста, локального и специализированного использования, задач рассуждения и агентных сценариев, где требуется снизить выраженность стандартных отказов модели. При этом заявленная цель модификации — сохранить качество рассуждений исходной модели. Базовая gpt-oss-20b содержит около 21 млрд параметров, из которых примерно 3,6 млрд активны одновременно, и относится к моделям с архитектурой Mixture of Experts. Модель ориентирована на меньшую задержку и локальный запуск; README также указывает формат GGUF и генерацию с использованием llama.cpp. Для снятия отказов применён метод Norm-Preserving Biprojected Abliteration, который изменяет направляющие компонентов весов с сохранением их исходных норм. Дополнительно в процессе квантования отдельные важные слои переводятся в более высокую точность, что увеличивает размер файла, но может улучшать точность при низкой разрядности. Сильной стороной модели заявляется сочетание уменьшенного количества отказов, сохранённого качества рассуждений и удобства локального запуска в различных вариантах квантования. Ограничения включают возможные остаточные попытки подавлять отдельные запросы, зависимость качества и размера от выбранного GGUF-варианта, а также отсутствие в представленном README подробных данных о языках, длине контекста, результатах стандартизированных бенчмарков и точных системных требованиях. Лицензия указана как Apache-2.0.

ErrareHumanumEst/gr-audit-mod3-prewarm — языковая модель для генерации текста на базе семейства Qwen3, доступная для работы через библиотеку Transformers. Модель содержит 1,7 млрд параметров и поддерживает контекст длиной до 40 960 токенов. Модель предназначена для диалоговой генерации, продолжения текста, подготовки черновиков и интеграции в приложения, которым требуется генерация естественно-языковых ответов. Метаданные указывают на conversational-сценарии и задачу text-generation; сведения о разработчике, обучающих данных, поддерживаемых языках, лицензии и результатах оценки в предоставленной карточке отсутствуют.

Hercules-6.1-Llama-3.1-8B — дообученная Locutusque языковая модель на архитектуре Llama 3.1 с 7,5 млрд параметров. Она предназначена для диалогов и выполнения инструкций, включая многошаговые запросы и вызовы функций, и ориентирована на научные и технические темы: биологию, химию, физику, математику, медицину и информатику. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В метаданных указаны английский и китайский языки, формат весов Safetensors и библиотека Transformers. Модель подходит для специализированных чат-ботов, учебных помощников, программирования и прототипирования с вызовами функций. Карточка сообщает о результатах оценивания следования инструкциям и бенчмарков, но не приводит подробного описания методики дообучения. Лицензия — Llama 3.1. Среди ограничений указаны токсичные примеры в данных, риск фактических ошибок и возможность злоупотребления техническими ответами и вызовами функций.

1024m/H-Mistral-Nemo-00-fp16 — диалоговая языковая модель, разработанная 1024m на основе unsloth/Mistral-Nemo-Instruct-2407. Модель дообучена с помощью Unsloth и библиотеки TRL и предназначена для генерации текста в диалоговом формате, включая сценарии с интерфейсом вызова инструментов. Модель использует плотную архитектуру MistralForCausalLM и содержит 12,1 млрд параметров. Длина контекста составляет 131 072 токена. Карточка указывает английский язык; репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Доступные сведения не описывают специализацию дообучения или сравнительные результаты, поэтому пригодность для конкретных предметных областей не установлена.

Huginn-0125 — экспериментальная языковая модель исследовательской группы TomG Group при University of Maryland. Это плотная decoder-only модель на 3,5 млрд параметров, обученная с нуля на 800 млрд токенов и реализованная как рекуррентная модель с латентной глубиной: при генерации можно задавать число итераций вычислений num_steps, увеличивая глубину обработки без фиксированного числа слоёв. Модель работает с текстом, поддерживает диалоговый шаблон и ориентирована на генерацию текста, рассуждения, математические задачи и код. Модель обучалась 47 000 шагов на открытых данных и не проходила дообучение или постобучение, хотя в предварительное обучение включались инструкции. Авторы характеризуют её как proof of concept; увеличение num_steps улучшает результаты на бенчмарках примерно до 64 шагов, а при числе меньше четырёх ответы становятся грубыми. Для инференса рекомендуется bfloat16; для кэширования KV требуется специальная реализация HuginnDynamicCache, которая может быть чувствительна к обновлениям Transformers. Доступна по лицензии Apache-2.0.

Hy3-RAZOR-154B-A21B-E96of192 — производная версия диалоговой MoE-модели Hy3 от Tencent, подготовленная методом RAZOR без дообучения. В каждом слое сохранены 96 из 192 маршрутизируемых экспертов; число параметров уменьшено с 295 млрд до 154 млрд при примерно 21 млрд активных параметров на токен. Веса экспертов взяты из базовой модели, остальные компоненты архитектуры не изменялись. Модель предназначена для генерации текста в диалогах и других сценариях, где нужна причинная языковая модель. Она принимает контекст длиной до 262 144 токенов и распространяется в формате safetensors с весами bfloat16; для запуска нужна сборка Transformers с поддержкой hy_v3. Лицензия — Apache-2.0. Удаление экспертов является потерным: ответы могут меняться по разнообразию, форматированию и завершению, даже если точность задач в значительной мере сохраняется. Опубликованные измерения не характеризуют поведение на доменах, удалённых от конечного калибровочного набора; перед развёртыванием модель следует оценить на целевых данных.

Infinity-Instruct-7M-Gen-Llama3_1-70B-GGUF — это GGUF-квантизированная версия генеративной модели Infinity-Instruct-7M-Gen-Llama3_1-70B, разработанной BAAI и подготовленной квантизацией пользователем bartowski. Модель основана на Llama 3.1 с 70 миллиардами параметров и предназначена для генерации текста и выполнения инструкций на английском языке. Модель подходит для диалоговых сценариев, обработки инструкций и других задач text generation. Она использует архитектуру Llama 3.1 и запускается через llama.cpp, в том числе в LM Studio. В репозитории доступны варианты квантизации от Q8_0 до Q2_K, включая рекомендуемые Q4, Q5 и Q6; размер файлов составляет примерно от 27 до 75 ГБ. Для работы следует использовать указанный формат prompt с системным сообщением, пользовательским запросом и ответом ассистента. Сильная сторона модели — большой размер и широкий выбор вариантов квантизации, позволяющий выбирать между качеством и требованиями к памяти. Более высокие варианты обеспечивают качество, близкое к исходной модели, а низкобитные подходят для систем с ограниченным объёмом RAM, но заметно снижают качество. Мультимодальность и размер контекстного окна в README не указаны. Лицензия обозначена как llama3.1; исходная модель обучена на датасете BAAI/Infinity-Instruct.

Карточка модели amd/Instella-MoE-16B-A3B-Base на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

Карточка модели amd/Instella-MoE-16B-A3B-DPO на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

Карточка модели TULLUS/Instella-MoE-16B-A3B-Think на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

jaLLAbi2-7b — объединённая языковая модель Abacus Research на базе архитектуры Mistral с 7,1 млрд параметров. Она создана методом mergekit из нескольких моделей, включая WestSeverus-7B-DPO-v2, jaskier-7b-dpo-v5.6, haLLAwa3 и WestLake-7B-v2-laser; в конфигурации использован метод слияния dare_ties и точность bfloat16. Модель предназначена для генерации текста и ответов на запросы. Она принимает текст и выдаёт текст, а заявленная длина контекста составляет 32 768 токенов. В README приведены результаты Open LLM Leaderboard, в том числе по тестам AI2 Reasoning Challenge и HellaSwag. Модель распространяется по лицензии Apache-2.0. Карточка не описывает целевые языки и не приводит ограничений или рекомендаций по применению, поэтому назначение для конкретного языка или предметной области из доступных сведений установить нельзя.

Josiefied-Qwen3-14B-abliterated-v3 — дообученная Гёкденизом Гюльмезом плотная языковая модель семейства Qwen3 с 14 млрд параметров, созданная на базе Qwen/Qwen3-14B. Она предназначена для диалогов, следования инструкциям и генерации текста с ослабленной фильтрацией ответов; также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст, а её нативная длина контекста составляет 40 960 токенов. Модель ориентирована на продвинутых пользователей, которым нужны открытые ответы и сохранение возможностей инструкционного диалога и работы с инструментами. В README также упоминаются варианты квантизации GGUF и MLX, однако эта карточка содержит веса в формате safetensors. Автор предупреждает, что сниженная фильтрация может приводить к чувствительным или спорным ответам. Условия лицензирования в предоставленных данных не указаны.

Это GGUF-квантизация модели K2-Horizon-MoVA-36B-A4B от IFM, подготовленная VladHong для локального запуска через llama.cpp. Модель использует разреженную архитектуру Mixture-of-Experts с механизмом внимания Mixture-of-Values: всего 36 млрд параметров, из которых на каждый токен активируются примерно 4 млрд. Контекст модели — до 524 288 токенов. Модель предназначена для генерации текста и диалогов, включая ответы на инструкции и фактические вопросы. Профиль APEX Mini сочетает несколько типов точности GGUF-квантования и настроен на сохранение качества обычной генерации и совместимость с CUDA. Для запуска требуется специальная сборка llama.cpp с поддержкой архитектуры и токенизатора K2-Horizon; обычная версия llama.cpp может не распознать файл. Репозиторий распространяется по лицензии Apache-2.0.