II.2Создание и понимание программного кода

TheStageAI/gemma-4-E4B-it-GGUF — набор из четырёх квантизированных GGUF-чекпойнтов модели Gemma 4 E4B IT, основанной на google/gemma-4-E4B-it. Модель предназначена для локального запуска через llama.cpp и генерации текста, включая диалоговые сценарии, следование инструкциям и задачи, требующие развёрнутого рассуждения. Разработчик и поставщик чекпойнтов — TheStageAI; базовую модель разработала Google. Доступны варианты XS, S, M и L размером от 2,91 до 8,02 ГБ: XS использует минимальный объём памяти, S рекомендован как оптимальный по соотношению размера и качества, M соответствует рабочей точке Q4, а L ориентирован на более высокую точность Q8. Чекпойнты используют смешанную посттренировочную квантизацию с конфигурацией точности, подобранной с учётом стоимости хранения и накопления ошибки между слоями. В README указаны результаты IFEval и MMLU-Pro; вариант S практически соответствует BF16-версии по instruction-strict IFEval, тогда как XS заметно уступает по качеству, но требует меньше памяти. Модель поддерживает текстовую генерацию; сведения о языках, размере контекста и мультимодальных возможностях в README не указаны. Основные преимущества — локальный запуск, несколько вариантов под разные ограничения памяти и сохранение качества на рекомендованном варианте S. Ограничения связаны с потерями точности при квантизации, особенно у XS, а также с отсутствием в предоставленных данных подробностей о языковом покрытии и контекстном окне. Распространение заявлено по лицензии Apache-2.0.

Gemma-4-E4B-Uncensored-HauhauCS-Aggressive — модификация Gemma 4 E4B-IT, разработанная HauhauCS на основе модели Google gemma-4-e4b-it. Это мультимодальная модель для генерации текста, обработки изображений, видео и аудио, ориентированная на сценарии, где требуется минимальное количество отказов при выполнении запросов. В README заявлено, что датасеты и исходные возможности модели не изменялись, а основное отличие заключается в снятии ограничений на отказы. Модель содержит около 4 млрд параметров, использует 42 слоя со смешанной архитектурой sliding window attention с окном 512 и full attention, поддерживает контекст до 131 тысячи токенов и 18 общих KV-слоёв для экономии памяти. Заявлена поддержка английского и мультиязычного ввода. Для работы с изображениями и аудио требуется дополнительный файл mmproj; модель распространяется в формате GGUF с вариантами квантизации Q2–Q8 и пользовательскими K_P-квантами, оптимизированными для сохранения качества. Сильной стороной является сочетание компактного размера, большого контекстного окна, мультимодальности и более свободной генерации без встроенных отказов. При этом README не содержит независимых бенчмарков, подробных сведений о качестве на разных языках или длительном контексте, а заявленные результаты тестирования отказов ограничены 465 проверками и сопровождаются оговоркой о недостаточном ручном тестировании длинного контекста. Модель совместима с llama.cpp, LM Studio, Jan, koboldcpp и другими GGUF-совместимыми средами. Лицензия указана как Gemma.

Pantheon-Reasoning-26B-A4B-1.1-V2-GGUF — это квантизированная версия текстовой генеративной модели Gryphe/Pantheon-Reasoning-26B-A4B-1.1-V2, подготовленная пользователем bartowski в формате GGUF с использованием llama.cpp. Модель предназначена для диалоговых и инструкционных сценариев, рассуждений, ролевого общения и творческого письма. Заявлена поддержка английского языка и текстовых входных данных. Модель содержит около 27 млрд параметров. Для неё доступны веса в формате BF16 и несколько вариантов квантизации от Q3 до Q8, включая рекомендуемый Q4_K_M размером 18,75 ГБ, а также более качественные Q5 и Q6. Используется imatrix-квантизация; спекулятивное декодирование не поддерживается. Контекстное окно и архитектурные детали в README не указаны, поэтому их характеристики нельзя оценить по предоставленным данным. Сильными сторонами являются широкий выбор вариантов размера и качества, возможность локального запуска через совместимые инструменты GGUF и оптимизация для различных ограничений по памяти. Более компактные варианты экономят ресурсы, но могут уступать старшим квантизациям по качеству. Лицензия модели указана как Apache-2.0.

Карточка модели TULLUS/Instella-MoE-16B-A3B-Think на Hugging Face совпадает с карточкой amd/Instella-MoE-16B-A3B-Think, поэтому описание составлено по ней. Instella-MoE-16B-A3B-Think — языковая модель с архитектурой Mixture-of-Experts, разработанная AMD и обученная с нуля. В опубликованном описании семейства указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен; метаданные этого репозитория указывают 2,5 млрд параметров. Модель построена на архитектуре семейства DeepSeek V3, имеет 27 декодерных слоёв и использует Gated Multi-head Latent Attention и FarSkip-Collective. Репозиторий содержит веса Safetensors для Transformers. Модель предназначена для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Контекст составляет 32 768 токенов. В карточке семейства описаны этапы обучения от предобучения до RL и открытая обучающая рецептура. Основной язык, указанный в метаданных, — английский; многоязычные способности не проверены. README характеризует выпуск как исследовательский и предупреждает, что модель может выдавать неточные, вредоносные, токсичные или предвзятые ответы. Она не предназначена для сценариев, требующих высокой фактической точности, для критически важных, медицинских или связанных со здоровьем применений; рекомендуется независимая оценка и фильтрация безопасности. Лицензия в метаданных обозначена как other.

Kanana-2-30B-A3B-Base — базовая языковая модель семейства Kanana-2, разработанная Kakao. Она предназначена для генерации текста и служит основой для вариантов, настроенных на следование инструкциям и рассуждения. Архитектура MoE включает 30 млрд параметров, из которых активны около 3 млрд; используются MLA, 128 экспертов и выбор шести экспертов на токен. Модель реализована как DeepseekV3ForCausalLM и распространяется в формате safetensors для Transformers. Модель рассчитана на контекст до 32 768 токенов и поддерживает корейский, английский, японский, китайский, тайский и вьетнамский языки. Подходит для генерации продолжений и построения языковых приложений, включая агентные системы, однако карточка описывает улучшенные вызов инструментов и следование сложным инструкциям для семейства Kanana-2 в целом, а не гарантирует эти функции для базовой версии. Для контекста до 128 тысяч токенов README предлагает отдельно настроить YaRN. Указана лицензия other; конкретные условия использования следует сверять с лицензией репозитория.

Sao10K/L3.3-70B-Euryale-v2.3 — дообученная модель Sao10K на базе Meta Llama 3.3 70B Instruct, предназначенная для диалогов и генерации текста. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров; она принимает текст и поддерживает контекст до 131 072 токенов. Для общения используется формат запросов Llama 3 Instruct. В метаданных также указана возможность интерфейса вызова инструментов. Автор описывает модель как преемника Euryale v2.2 и отмечает, что она обучена непосредственно на Llama 3.3 Instruct, а не получена извлечением LoRA. Рекомендуемые автором параметры генерации: temperature 1.1 и min_p 0.1. Модель подходит для диалогового ассистента и творческой генерации; дальнейшее улучшение обучающих данных и расширение творческих сценариев указаны как планы. Лицензия — Llama 3. Использование требует соблюдения условий лицензии Meta Llama 3.

L3.3-70B-Lycosa-v0.2 — диалоговая языковая модель на архитектуре Llama, созданная сообществом divinetaco путём слияния нескольких предварительно обученных моделей с помощью mergekit. В состав вошли DeepSeek-R1-Distill-Llama-70B, Sao10K/70B-L3.3-Cirrus-x1, TheDrummer/Nautilus-70B-v0.1, Doctor-Shotgun/L3.3-70B-Magnum-v4-SE и SicariusSicariiStuff/Negative_LLAMA_70B. Размер модели — 69,5 млрд параметров, контекст — до 131 072 токенов; она загружается через Transformers из файлов safetensors. Модель предназначена для диалогов, творческого письма и рассуждений. Автор отмечает, что версия v0.2 усиливает влияние DeepSeek-R1-Distill-Llama-70B и нацелена на повышение интеллектуальных возможностей, снижение положительной предвзятости и творческий ответ; рекомендуется шаблон чата DeepSeek-R1-Distill-Llama-70B. Метаданные также указывают интерфейс вызова инструментов. Модель распространяется по лицензии Llama 3.3. В тегах отмечен контент NSFW, поэтому она не рассчитана исключительно на аудиторию всех возрастов. В README нет результатов сравнительных оценок качества.

Laser-WestLake-2x7B — языковая модель для генерации текста, созданная macadeliccc путём слияния cognitivecomputations/WestLake-7B-v2-laser и SanjiWatsuki/Kunoichi-DPO-v2-7B. В README указано, что WestLake-7B-v2-laser выступает базовой моделью и одним из экспертов при слиянии. Модель использует архитектуру Mixtral с разреженной экспертной структурой (MoE), содержит около 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и других задач генерации текста; README указывает формат ChatML и предлагает использовать её так же, как исходную WestLake-7B. В карточке приведены результаты бенчмарков, включая средний балл 74,00 в Open LLM Leaderboard. Поддержка русского или других конкретных естественных языков отдельно не описана. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0.

LiquidAI/LFM2.5-1.2B-Instruct-MLX-8bit — это 8-битная версия языковой модели LFM2.5-1.2B-Instruct, экспортированная в формат MLX компанией Liquid AI для запуска на устройствах с Apple Silicon. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, поддерживающих библиотеку mlx-lm, включая диалоговые и общие текстовые сценарии. Модель содержит 1,2 млрд параметров, использует 8-битную точность и group size 64, занимает около 1,2 ГБ и поддерживает контекст длиной до 128K токенов. Заявлена поддержка английского, японского, корейского, французского, испанского, немецкого, итальянского, португальского, арабского и китайского языков. К сильным сторонам относятся компактный размер, возможность локального инференса на Apple Silicon и большой контекст, однако README не содержит подробных результатов оценки качества и сравнений с другими моделями. Модель распространяется по лицензии LFM 1.0.

Llama-3.1-8B-Instruct_Causal-Tracer — вариант Llama-3.1-8B-Instruct, созданный Apollo Raines с помощью инструмента jBlaze для изменения поведения модели через правку весов. Дополнительное обучение или дообучение не проводилось. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров по метаданным; карточка указывает формат safetensors и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалога с акцентом на отслеживание потоков данных от источника к получателю, причинно-следственных цепочек и происхождения информации в системах. Она принимает текст и генерирует текст; в метаданных также указаны интерфейс вызова инструментов и поддержка английского языка. Автор описывает выпущенную версию как демонстрационную и намеренно ослабленную. Лицензия — Llama 3.1; применимость её условий следует проверять перед использованием.

Llama-3.2-1B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Meta Llama 3.2 1B Instruct, подготовленная bartowski. Модель предназначена для генерации текста и выполнения инструкций в сценариях локального или ресурсно-ограниченного вывода, включая диалоговые приложения и другие задачи обработки естественного языка. Из доступных данных известно, что это текстовая модель с архитектурой семейства Llama 3.2 и размером 1 млрд параметров в базовой версии; формат GGUF ориентирован на эффективный запуск средствами, поддерживающими этот формат. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Мультимодальность и размер контекстного окна в README не указаны. Небольшой размер является преимуществом для локального использования, однако по сравнению с более крупными моделями может ограничивать качество сложного рассуждения, точность и устойчивость ответов. Модель распространяется по Llama 3.2 Community License компании Meta. Лицензия разрешает использование, воспроизведение, распространение и создание производных работ на указанных условиях, включая соблюдение Acceptable Use Policy. При распространении материалов необходимо предоставить копию лицензии, сохранить требуемое уведомление об авторстве и разместить обозначение «Built with Llama» в связанном интерфейсе или документации; для продуктов с более чем 700 млн активных пользователей в месяц предусмотрены дополнительные лицензионные требования.

Locutusque/Llama-3-Yggdrasil-2.0-8B — объединённая разговорная языковая модель, созданная с помощью mergekit. В основу объединения легла NousResearch/Meta-Llama-3-8B; также использованы Locutusque/Llama-3-NeuralHercules-5.0-8B, NousResearch/Hermes-2-Theta-Llama-3-8B и Locutusque/llama-3-neural-chat-v2.2-8b. Для слияния применён метод DARE TIES. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 7,5 млрд параметров и поддерживает контекст до 8192 токенов. Она предназначена для генерации текста и диалоговых сценариев. README приводит результаты оценивания на Open LLM Leaderboard, включая IFEval и BBH, но не уточняет лицензию и конкретные языковые ограничения; язык нельзя уверенно определить по этим данным.

MaziyarPanahi/M7Yamshadowexperiment28_T3qM7 — объединённая модель генерации текста на архитектуре Mistral с 7,1 млрд параметров. В README указано, что она объединяет automerger/M7Yamshadowexperiment28-7B и automerger/T3qM7-7B. Модель предназначена для генерации текста и диалога; поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Лицензия модели — Apache-2.0. В README и метаданных нет сведений о целевых языках, специализированных областях или дополнительных возможностях, поэтому область применения описывается как общая генерация текста.

Mistral-7B-v0.1 — разработанная командой Mistral AI предварительно обученная плотная языковая модель на основе Transformer с 7,1 млрд параметров. Она предназначена для генерации текста и может использоваться как базовая модель для диалоговых приложений и дальнейшей адаптации под прикладные задачи. Архитектура включает Grouped-Query Attention и Sliding-Window Attention; модель принимает текст и рассчитана на контекст до 32 768 токенов. В карточке заявлено превосходство над Llama 2 13B на протестированных авторами бенчмарках. Модель обучена для английского языка, поддерживает диалоговый сценарий и доступна в форматах PyTorch и Safetensors. Это базовая, а не дообученная инструктивная модель: в карточке отмечено отсутствие механизмов модерации, поэтому ответы требуют отдельной проверки и настройки под конкретное применение. Лицензия — Apache-2.0.

korvo/MS-RandomMergeTest_v3-TIES-22B — объединённая 22-миллиардная языковая модель на архитектуре Mistral, собранная с помощью mergekit. В основе слияния лежит concedo/Beepo-22B; в него также вошли anthracite-org/magnum-v4-22b, allura-org/MS-Meadowlark-22B, crestf411/MS-sunfall-v0.7.0, TheDrummer/Cydonia-22B-v1.3, TheDrummer/Cydonia-22B-v1.2 и DigitalSouls/BlackSheep-DigitalSoul-22B. Использован метод слияния della_linear. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст, поддерживает контекст длиной до 32 768 токенов и распространяется в формате safetensors для библиотеки Transformers. В метаданных также отмечен интерфейс вызова инструментов. Лицензия в предоставленных данных не указана.

MyAwesomeModel — модель на базе архитектуры BERT, доступная через библиотеку Transformers и PyTorch. Согласно метаданным Hugging Face, она предназначена прежде всего для извлечения признаков из текста, то есть преобразования входных последовательностей в векторные представления для последующей обработки.

NameLess-12B-prob — объединённая языковая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из моделей D:\VICIOUS_MESH-12B-OMEGA и D:\jetreessence. Разработчик репозитория — bamec66557; модель предназначена для генерации текста и диалогового взаимодействия. Модель содержит 12,1 млрд параметров, принимает текст и выдаёт текст. Заявленная длина контекста — 131 072 токена. В метаданных указаны возможности чата и интерфейс вызова инструментов. В README приведены результаты оценивания на Open LLM Leaderboard, включая IFEval 66,02 и BBH 31,36. Модель распространяется по лицензии Apache-2.0. README не сообщает, на каких языках она обучена или проверена, поэтому языковую поддержку нельзя уточнить по доступным сведениям.

NeuralDarewin-7B — объединённая модель на основе Mistral, опубликованная mlabonne. Она предназначена для генерации текста и может использоваться как языковая модель общего назначения. В карточке приведены результаты оценивания на бенчмарках рассуждений и понимания текста. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Нативная длина контекста — 32 768 токенов. Модель создана слиянием шести моделей, включая Intel/neural-chat-7b-v3-3, openchat/openchat-3.5-0106 и mlabonne/NeuralHermes-2.5-Mistral-7B. Доступна в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или языковой специализации.

NeuralsirkrishnaShadow_M7Alloyingotneoy — объединённая модель для генерации текста, созданная на основе automerger/NeuralsirkrishnaShadow-7B и automerger/M7Alloyingotneoy-7B. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; длина контекста составляет до 32 768 токенов. Модель подходит для генерации продолжений текста и диалоговых ответов в приложениях на базе языковых моделей. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

NeuralTrix-7B-dpo — языковая модель на 7,1 млрд параметров, опубликованная CultriX. Это плотная авторегрессионная модель семейства Mistral с контекстом до 32 768 токенов. Она создана слиянием моделей OmniBeagle-7B, MBX-7B-v3 и AiMaven-Prometheus методом DARE-TIES; в карточке также указано обучение DPO, но базовая модель для этого этапа не названа. Модель предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов. Репозиторий содержит веса Safetensors, лицензия — Apache-2.0. README называет результат NeuralTrix-7B-v1, тогда как идентификатор репозитория — NeuralTrix-7B-dpo.

Omningotex-7B-slerp — языковая модель на архитектуре Mistral с 7,1 млрд параметров, созданная liminerity слиянием двух моделей методом SLERP с помощью LazyMergeKit. Она предназначена для генерации текста и диалоговых ответов; в карточке указаны результаты оценки на бенчмарках AI2 Reasoning Challenge и HellaSwag, но заявление о мировом лидерстве по точности не подтверждено приведёнными данными. Модель поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors по лицензии Apache-2.0. README не уточняет языки обучения и практические ограничения; качество ответов на конкретных задачах следует проверять отдельно.

OpenBuddy/openbuddy-yi1.5-34b-v21.3-32k — многоязычная чат-модель OpenBuddy, дообученная на базе 01-ai/Yi-1.5-34B-32K. Это плотная авторегрессионная модель семейства Llama с 33,9 млрд параметров, предназначенная для диалоговой генерации текста. Метаданные указывают нативный контекст до 131 072 токенов и поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского, русского и финского языков. Модель рассчитана на создание чат-ботов и развёртывание через Transformers или vLLM с API в стиле OpenAI. Репозиторий содержит веса safetensors; для корректной работы автор рекомендует быстрый токенизатор Transformers, поскольку другие реализации могут некорректно обрабатывать специальные токены. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или нежелательные ответы. Авторы предостерегают от использования в критически важных и высокорисковых сценариях, включая медицину, управление потенциально опасными системами и принятие важных финансовых или юридических решений.

kechengcode/Qwen2-5B-16Layers — текстовая генеративная модель на архитектуре Qwen2, созданная объединением слоёв Qwen/Qwen2-7B методом passthrough с помощью mergekit. В репозитории указаны 4,3 млрд параметров, формат safetensors и контекст до 131 072 токенов; модель предназначена для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст. Карточка не уточняет языки, качество на отдельных задачах и специальные области применения. Лицензия в предоставленных данных не указана.

Mungert/Qwen3.5-0.8B-GGUF — GGUF-версия мультимодальной модели Qwen3.5-0.8B из семейства Qwen, разработанного командой Qwen. Модель создана на основе Qwen/Qwen3.5-0.8B-Base и преобразована с использованием llama.cpp. Это причинная языковая модель с визуальным энкодером, предназначенная для работы с текстом и изображениями. Модель содержит около 0,8 млрд параметров, 24 слоя и скрытое измерение 1024. В архитектуре используются гибридные блоки Gated DeltaNet и Gated Attention, а также механизмы sparse Mixture-of-Experts, заявленные для повышения эффективности вывода. Нативная длина контекста составляет 262 144 токена. Заявлена поддержка 201 языка и диалекта. Модель ориентирована на прототипирование, исследовательские задачи, разработку приложений и предметно-ориентированное дообучение. К сильным сторонам относятся небольшие требования к ресурсам по сравнению с более крупными моделями, поддержка мультимодальных сценариев, длинного контекста и широкий языковой охват. Ограничения связаны с малым размером модели: по приведённым результатам она уступает более крупным моделям Qwen3 и Qwen3.5 на языковых бенчмарках, поэтому её возможности в сложном рассуждении и универсальных задачах могут быть ограничены. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-4B-MLX-4bit — это 4-битная квантованная версия мультимодальной модели Qwen3.5-4B, разработанной командой Qwen. Квантование выполнено командой LM Studio с использованием MLX и mlx_vlm; модель оптимизирована для запуска на устройствах Apple Silicon. Модель предназначена для задач, поддерживаемых исходной моделью Qwen3.5-4B, включая обработку изображений и текста, что отражено в типе image-text-to-text. Ключевые характеристики — размер 4B, 4-битное представление весов и использование экосистемы MLX для локального инференса на Apple Silicon. Точные сведения о поддерживаемых языках, размере контекста, архитектуре и конкретных возможностях исходной модели в README не указаны. К основным преимуществам относятся сниженное потребление памяти и ориентация на эффективный локальный запуск на совместимых устройствах Apple. К ограничениям относятся возможная потеря точности из-за 4-битного квантования, зависимость от Apple Silicon и отсутствие в предоставленных данных подробных результатов оценки. Модель распространяется по лицензии Apache-2.0.

cmp-nct/Qwen3.6-35B-A3B-GGUF — GGUF-версия модели Qwen3.6-35B-A3B, разработанной командой Qwen. По метаданным это мультимодальная модель с поддержкой сценария image-text-to-text, предназначенная для обработки изображений и текста с генерацией текстовых ответов. В репозитории также указана quantized vision projector, то есть квантизированный визуальный проектор. Модель построена на MoE-архитектуре: заявлен общий размер 35 млрд параметров и конфигурация A3B, однако точное число активных параметров, размер контекста, поддерживаемые языки и конкретные требования к оборудованию в README не указаны. Формат GGUF ориентирован на локальный запуск в совместимых инструментах, но сведения о доступных вариантах квантизации и производительности отсутствуют. Лицензия — Apache-2.0. README не содержит достаточных данных для оценки качества, сильных сторон и ограничений модели в конкретных задачах, поэтому перед использованием следует отдельно проверить совместимость рантайма, характеристики выбранного GGUF-файла и возможности мультимодального инференса.

logic65/Qwen3.8-Whittle-MoE-27B-A17.8B-GGUF — это квантизированная GGUF-версия модели Whittle MoE 27B (A18B), разработанной logic65 на основе Qwen3.8-27B. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, где важны рассуждения, структурированные ответы и корректное завершение генерации. Доступны варианты с разным уровнем квантизации от Q8_0 до Q3_K_M; размер файлов составляет примерно от 13,9 до 28,7 ГБ в зависимости от версии. Архитектура использует mixture-of-experts: на каждом токене активируется 16 из 64 экспертных блоков, а маршрутизатор сохраняется в формате F16. Точные поддерживаемые языки и размер контекста в README не указаны. К сильным сторонам относятся улучшенное завершение ответов и цепочек рассуждений, снижение риска зацикливания и обрыва генерации, а также наличие динамических квантизаций DQ, которые сохраняют повышенную точность для маршрутизатора, общих экспертов, механизма внимания, эмбеддингов и выходной головы. Версия v2.2.1 исправляет большинство случаев завершения внутри блока рассуждений, однако модель по-прежнему слаба в длинных списках и точном подсчёте заданного количества элементов; повторение 4-грамм остаётся выше целевого уровня. Для использования визуальных входов предусмотрен отдельный опциональный проектор mmproj-qwen38.gguf, но полноценные возможности и поддерживаемые модальности в README описаны неполно. Модель распространяется по лицензии Apache-2.0. Для запуска требуются совместимые инструменты GGUF, например llama.cpp, и объём оперативной или видеопамяти, зависящий от выбранного варианта квантизации; рекомендуемые требования для отдельных файлов приведены в карточке модели.

Модель abhinav-2k23/RAG-llama-3.1-instruct-SLERP-MERGED — объединение языковых моделей, созданное автором репозитория с помощью mergekit и метода SLERP. В объединение вошли abhinav-2k23/RAG_llama_3_1 и Meta Llama 3.1 8B Instruct; конфигурация использует диапазоны слоёв 0–32 и точность bfloat16. Модель предназначена для генерации текста в диалоговом формате. Её можно применять для ответов на вопросы и работы в сценариях RAG, однако карточка не приводит отдельной оценки этих возможностей. Архитектура — плотная LlamaForCausalLM; размер составляет 7,5 млрд параметров, контекст — до 131 072 токенов. Доступны веса в формате safetensors, библиотека Transformers и интерфейс для вызова инструментов. Карточка не указывает поддерживаемые естественные языки и конкретные ограничения качества. Для использования действуют лицензии базовых моделей; сведения о лицензии объединённого репозитория в предоставленных данных отсутствуют.

Reflection-Llama-3.1-70B-GGUF — это набор GGUF-квантизаций модели Reflection-Llama-3.1-70B, разработанной mattshumer и подготовленной для распространения и запуска bartowski. Модель предназначена для генерации текста и диалоговых сценариев, включая задачи, требующие рассуждений и самопроверки. Для запуска рекомендуется использовать llama.cpp или совместимые приложения, например LM Studio. В основе лежит 70-миллиардная текстовая модель семейства Llama 3.1. В README указана поддержка специальных токенов для оформления блоков рассуждений, итогового ответа и рефлексии; для их отображения в llama.cpp требуется включить параметр --special. Доступны варианты квантизации от Q8_0 до Q3 и IQ3/IQ4, примерно от 30,91 до 74,98 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Сведения о языках и размере контекста не приведены. Сильными сторонами являются большой размер модели, варианты высококачественной квантизации и поддержка сценариев с рассуждением и исправлением ошибок. Ограничения зависят от выбранного типа квантизации: более компактные варианты снижают качество. README также предупреждает, что опубликованные веса могут быть неправильными, поэтому модель не следует загружать до устранения проблемы. Для улучшенного рассуждения рекомендован специальный системный промпт. Лицензия указана как llama3.1.

Samrudh-2-Brahma-7B — дообученная dwivedula языковая модель на архитектуре Qwen2 для генерации текста и диалогов. Она основана на unsloth/Qwen2.5-7B-Instruct-bnb-4bit и обучалась с использованием Unsloth и библиотеки TRL от Hugging Face. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Её можно использовать для диалогового взаимодействия и генерации ответов; в метаданных также указана поддержка интерфейса вызова инструментов. Карточка модели не уточняет специальные предметные области или дополнительные возможности дообучения. Модель распространяется по лицензии Apache-2.0. Качество и ограничения, специфичные для этого дообучения, в карточке не описаны.