II.2Создание и понимание программного кода

Neuron-V1-14B-Instruct-i1-GGUF — квантизированная версия инструкционной языковой модели Neuron-V1-14B-Instruct, разработанной Neura-Tech-AI и подготовленной в формате GGUF пользователем mradermacher. Модель предназначена для генерации текста и выполнения инструкций в локальных приложениях, поддерживающих GGUF, включая сценарии с ограниченными ресурсами и различными уровнями квантования. Модель содержит 14 миллиардов параметров, относится к текстовым моделям и, судя по указанным тегам, использует архитектуру Qwen2. Заявлена поддержка английского и хинди. Длина контекста и дополнительные модальности не указаны. Репозиторий предлагает варианты квантования от сверхкомпактных IQ1 до более качественного Q6_K; наиболее сбалансированным автор считает i1-Q4_K_S, а i1-Q4_K_M отмечен как быстрый и рекомендуемый. Более сильная квантовка требует больше памяти, тогда как низкие уровни могут заметно снижать качество. Преимущество модели — широкий выбор GGUF-вариантов для подбора компромисса между размером, скоростью и качеством, а также наличие imatrix-файла для создания собственных квантов. Ограничения — отсутствие в README результатов тестирования, данных о длине контекста и подробностей обучения, поэтому качество в конкретных задачах оценить нельзя. Указана лицензия Apache-2.0.

OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.1-200k — многоязычная чат-модель OpenBuddy на 14 млрд параметров. Она основана на Qwen2.5-14B-Chat и использует плотную архитектуру LlamaForCausalLM; модель предназначена для диалоговой генерации текста. Заявленная длина контекста составляет 200 000 токенов. Модель подходит для чат-ботов и приложений, которым нужны ответы и диалог на китайском, английском, французском, немецком, японском, корейском, итальянском и финском языках. Репозиторий содержит веса в формате safetensors; для работы с шаблоном чата README рекомендует быстрый токенизатор из Transformers, также упоминается развёртывание API через vLLM. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Разработчик предостерегает от применения в критических и высокорисковых сценариях, включая медицину и важные финансовые или юридические решения.

Карточка модели OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.3-200k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.1-200k, поэтому описание составлено по ней. OpenBuddy/openbuddy-qwen2.5llamaify-14b-v23.1-200k — многоязычная чат-модель OpenBuddy на 14 млрд параметров. Она основана на Qwen2.5-14B-Chat и использует плотную архитектуру LlamaForCausalLM; модель предназначена для диалоговой генерации текста. Заявленная длина контекста составляет 200 000 токенов. Модель подходит для чат-ботов и приложений, которым нужны ответы и диалог на китайском, английском, французском, немецком, японском, корейском, итальянском и финском языках. Репозиторий содержит веса в формате safetensors; для работы с шаблоном чата README рекомендует быстрый токенизатор из Transformers, также упоминается развёртывание API через vLLM. Лицензия — Apache 2.0. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Разработчик предостерегает от применения в критических и высокорисковых сценариях, включая медицину и важные финансовые или юридические решения.

OpenBuddy/openbuddy-qwq-32b-v24.1-200k — дообученная диалоговая языковая модель OpenBuddy на архитектуре Qwen2, основанная на Qwen/QwQ-32B-Preview. Модель содержит 32 млрд параметров и рассчитана на контекст до 200 000 токенов; она принимает текст и генерирует текстовые ответы в формате чат-бота. Модель предназначена для многоязычного общения и генерации текста. Карточка указывает поддержку китайского, английского, французского, немецкого, японского, корейского, итальянского и финского языков. Лицензия — Apache 2.0. Для работы с форматом подсказок рекомендуется быстрый токенизатор Transformers; карточка также упоминает развёртывание через vLLM. Модель может выдавать ошибочные, вредные или оскорбительные ответы. Её не следует применять для критических решений в медицине, финансах и праве, а также для управления потенциально опасным программным или аппаратным обеспечением.

Карточка модели hotdogs/Ornith-1.0-9B-abliterated-fable на Hugging Face совпадает с карточкой ansulev/Ornith-1.0-9B-abliterated-fable, поэтому описание составлено по ней. Ornith-1.0-9B-abliterated-fable — разговорная текстовая модель с архитектурой Qwen 3.5, разработанная ansulev на базе YuYu1015/YuYu1015-Ornith-1.0-9B-abliterated. Модель содержит около 9,57 млрд параметров и дообучена методом LoRA SFT на 3 346 многоходовых трассах рассуждений Fable-5 с форматом вызова инструментов Hermes. Поддержка MTP предназначена для ускорения спекулятивного декодирования. Модель рассчитана на диалоговые сценарии с пошаговыми рассуждениями и вызовом инструментов. В README она описана как модель без обычных шаблонов отказа. Для данных дообучения использовались только текстовые примеры, а башня обработки изображений базовой модели была заморожена; практическая поддержка изображений этой версией не подтверждена. Карточка указывает английский язык. Модель распространяется по лицензии MIT.

Ornith-1.5-35B-A3B-TIEL-Calibrated-MTPv2-ICE-GGUF — набор из четырёх GGUF-квантизированных вариантов модели Ornith-1.5-35B-A3B, разработанной ornith-ai и подготовленной gbuzhf. Модель предназначена для генерации текста и запуска локально через llama.cpp. Варианты занимают примерно от 18,82 до 24,84 ГБ и используют метод ICE-квантизации с калибровкой по importance matrix Tiel. В каждый файл встроена обученная MTPv2 head для self-speculative decoding, поэтому отдельная draft-модель не требуется; также используется чат-шаблон Qwen-Sharp v22.4.1. Архитектура включает Mixture-of-Experts с 256 экспертами, SSM-компоненты и attention с KV-кэшем. Для вариантов указаны разные эффективные разрядности: от 4,240 до 7,686 active bpw. Наиболее качественным среди представленных является 25G-ICE с overall 96,1 относительно BF16, mean KLD 0,0284 и совпадением top-1 в 93,44%; 23G-ICE заявлен как наиболее выгодный по соотношению размера и качества. Измерения выполнены на WikiText-2 при контексте 2048, поэтому они не характеризуют все практические сценарии генерации. Сильными сторонами являются хорошее сохранение качества в диапазоне 19–23 ГБ, оптимизация распределения битов с учётом MoE-маршрутизации и встроенная поддержка MTPv2. Ограничения — зависимость качества от выбранного уровня квантизации, отсутствие данных о поддерживаемых языках, максимальном контексте и специализированных задачах, а также преимущество ICE над другими методами подтверждено только описанным тестированием. Лицензия модели — MIT.

FesarovLab выпустила Parable-Nanbeige4.2-3B-Claude-Fable-5-heretic — диалоговую модель на архитектуре Nanbeige с 3,2 млрд параметров, полученную подавлением отказов в дообученной модели AnkitAI/Parable-Nanbeige4.2-3B-Claude-Fable-5. Для этого применена абляция направлений отказа и ортогонализация весов с помощью Heretic; автор репозитория указывает, что саму базовую модель не обучал. Модель предназначена для генерации ответов, рассуждений и вызова инструментов в диалоговых сценариях. Она принимает текст и выдаёт текст, поддерживает английский и китайский языки, а её заявленное окно контекста составляет 262 144 токена. В проверках автора доля отказов снизилась с 99 до 8 на 100 тестовых запросов, а результаты MMLU и GSM8K остались близки к исходной модели. Сохранены структурированные блоки рассуждений, JSON и формат вызова инструментов. Для работы требуется Transformers 4.57.x и trust_remote_code=True; на Transformers 5.x, согласно README, генерация работает некорректно. Полное окно контекста требует около 45 ГБ памяти KV-кэша, а качество на контекстах длиннее 32 тысяч токенов не оценивалось. Подавление отказов намеренное, поэтому контроль выдачи должен обеспечиваться при развёртывании. Лицензия — Apache 2.0.

Это GGUF-квантизация текстовой модели Qwen3.6-12B-IQ-Ultra-Heretic-Uncensored-Thinking-V2-Hightop. Квантизации подготовлены пользователем larue316 на основе модели DavidAU с использованием llama.cpp b9192. Модель имеет около 12 млрд параметров и ориентирована на генерацию текста с поддержкой рассуждений; заявленные языки — английский и китайский. Модель предназначена для локального запуска и использования в совместимых движках вывода, включая LM Studio, llama.cpp, Ollama и другие системы с поддержкой GGUF. Доступны варианты квантизации от Q8_0 размером 11,57 ГБ до Q2_K размером 4,60 ГБ, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В README отдельно отмечен вариант Q4_K_M как оптимальный баланс качества и размера. К сильным сторонам относятся широкий выбор квантизаций и возможность локального использования без исходной полноразмерной модели. Ограничения связаны с потерями качества, зависящими от выбранного уровня квантизации; для наиболее компактных вариантов качество указано как приемлемое или минимально пригодное. Архитектура, размер контекстного окна, мультимодальные возможности и точные характеристики обучения в README не указаны. Лицензия модели — Apache 2.0.

Qwen3-Reranker-0.6B — компактная модель переранжирования текста из серии Qwen3 Embedding, разработанная Qwen. Она оценивает соответствие пары «запрос — фрагмент» и помогает упорядочить найденные документы или другие текстовые кандидаты по релевантности. Модель содержит 507,6 млн параметров, построена на плотной архитектуре Qwen3 и принимает последовательности контекстом до 40 960 токенов по метаданным; README указывает длину 32K. Для запуска доступны веса Safetensors и интеграция с Transformers и Sentence Transformers. Модель предназначена для улучшения поиска по текстам и коду, в том числе многоязычного и межъязыкового поиска. README заявляет поддержку более 100 языков, понимание длинных текстов и настройку инструкции под сценарий; для поисковых задач приводится стандартная инструкция для запросов веб-поиска. Метаданные указывают дообучение от Qwen/Qwen3-0.6B-Base и лицензию Apache-2.0. Оценки в README получены на кандидатах из первой сотни, предварительно найденных эмбеддинг-моделью Qwen3-Embedding-0.6B, поэтому их нельзя напрямую считать качеством самостоятельного поиска. README также предупреждает, что без инструкции на стороне запроса качество в большинстве рассмотренных сценариев может снизиться примерно на 1–5%.

Xirui1208/readall-readtwice-14b-stage2-localstep10-globalstep25-20260928 — языковая модель семейства Qwen2 с плотной архитектурой и примерно 14 млрд параметров. Она представлена в формате safetensors для инференса в BF16; в метаданных указаны генерация текста, чат и интерфейс вызова инструментов. Модель предназначена для диалоговой генерации текста. Контекст составляет до 32 768 токенов. README описывает её как оценённый чекпойнт второго этапа обучения ReadAll и сообщает, что репозиторий архивирован по просьбе владельца; включены оценённые чекпойнты, а кандидаты, использовавшиеся только для калибровки, и отклонённые варианты помечены отдельно. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны. Также нет сведений о конкретных результатах оценки или ограничениях качества.

rwkv7-7.2B-g0 — мультиязычная языковая модель семейства RWKV-7, разработанная Бо Пэном, Ю Чжаном, Сонглином Яном, Жуйчуном Чжаном и Чжиюанем Ли при поддержке RWKV Project в рамках LF AI & Data Foundation. Это плотная авторегрессионная модель на 7,8 млрд параметров в формате flash-linear attention; в README указаны 7,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, использует токенизатор RWKV World с размером словаря 65 536 и имеет контекст 2 048 токенов. В метаданных среди языков указаны английский, китайский, японский, корейский, французский, арабский, испанский и португальский. Модель основана на BlinkDL/rwkv7-g1 и распространяется в формате safetensors. Для запуска README рекомендует установить flash-linear-attention и Transformers версии 4.48.0 или новее. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества и подробных ограничений применения.

StrangeMerges_46-7B-dare_ties — объединённая модель для генерации текста, созданная Gille с помощью LazyMergekit. В слияние вошли Gille/StrangeMerges_45-7B-dare_ties, kettleguts/zephyr-7b-beta_sparse05 и chihoonlee10/T3Q-Mistral-Orca-Math-DPO; в конфигурации также указана базовая модель liminerity/M7-7b. Метод слияния — dare_ties. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Нативный контекст — до 32 768 токенов. Она предназначена для генерации текста, диалогов и ответов на математические вопросы. В README приведены результаты Open LLM Leaderboard, включая среднюю оценку 69,96, ARC 67,24 и HellaSwag 86,40. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Подтверждённые сведения о языках и специальные ограничения в карточке не приведены.

SynthIA-7B-v1.5 — текстовая генеративная модель на архитектуре Mistral, опубликованная автором migtissera. Модель содержит 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Для запуска используется библиотека Transformers и формат PyTorch; карточка указывает английский язык и лицензию Apache-2.0. Модель предназначена для генерации текста и ответов на запросы на английском языке. В карточке приведён формат диалога с ролями SYSTEM, USER и ASSISTANT, а также результаты оценки на Open LLM Leaderboard. Эти сведения дают общее представление о тестировании, но не определяют качество модели для конкретных прикладных задач.,

T3qm7xNeuralsirkrishna_Inex12Neural — объединённая языковая модель на архитектуре Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/Inex12Neural-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов; она принимает текст и выдаёт текст. Контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache 2.0. Данных о целевых языках и специализированных областях применения в карточке нет, поэтому её следует рассматривать как модель общего назначения. Качество и характерные сильные стороны слияния в README не описаны.

WaveCut/Ternary-Bonsai-2-27B-NInfer-v3 — артефакт PrismML Ternary Bonsai 2 27B, подготовленный для движка NInfer-3090 в ветке franken/v0.11. Модель объединяет базовую модель PrismML с MTP-головой от ProCreations и адаптером DFlash2 от ProCreations, обученным совместно с z-lab. Распространяется по лицензии Apache-2.0. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений и текста. Она поддерживает текстовый профиль, Vision-профиль, ускоренное декодирование MTP и DFlash2, а также специальную proposal head для чернового прогнозирования токенов. Используется архитектура Qwen3.8-27B с 27 млрд параметров; текстовые проекции представлены тернарными весами с 2-битными кодами и масштабом FP16 на группы из 128 элементов, применяются Hadamard-ротации. В состав также входят vision tower, чат-шаблон Qwen3.8 и контекст до 198 400 токенов в указанной конфигурации. Языки модели в README не перечислены. Сильными сторонами являются существенное снижение объёма весов, поддержка мультимодального ввода, длинного контекста и ускоренного вывода через MTP или DFlash2. Варианты запуска требуют совместимой сборки NInfer-3090 ветки franken/v0.11; стандартные сборки NInfer этот файл не поддерживают. Для работы необходима совместимая видеопамять и точные версии движка, поскольку разные ревизии имеют ограничения при загрузке Vision, MTP и DFlash2-профилей. README не приводит независимых оценок качества или перечня поддерживаемых языков.

byroneverson/Yi-1.5-9B-Chat-16K-abliterated — диалоговая языковая модель, полученная автором byroneverson на основе 01-ai/Yi-1.5-9B-Chat-16K. Модель без дополнительного дообучения была изменена методом abliterating; README приводит сравнение её результатов с исходной моделью на наборе тестов LLM Leaderboard, но не раскрывает детали метода.

Модель fhnw/2025H2-SFT-BAI-FHNW — вариант GPT-OSS 20B, дообученный методом supervised fine-tuning с использованием Unsloth QLoRA для FHNW. Она предназначена для следования инструкциям и обобщения на разные задачи; поддерживает диалоговый режим и интерфейс вызова инструментов. В репозитории представлены форматы GGUF и safetensors; в карточке также указана квантизация MXFP4. Модель подходит для учебных занятий, исследований и экспериментов с генеративным ИИ. Она принимает текст и генерирует текстовые ответы. Основной язык в карточке — английский. Репозиторий распространяется по лицензии Apache-2.0. Модель может галлюцинировать и выдавать устаревшую информацию, наследует ограничения GPT-OSS 20B и не предназначена для решений с высокими рисками или критически важных решений. Для важных результатов рекомендуется проверка человеком.

Это плотная причинная языковая модель семейства Qwen2 объёмом 7,1 млрд параметров, опубликованная как чекпойнт в стандартном формате Hugging Face Safetensors. Она предназначена для генерации текста и диалоговых сценариев; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает контекст длиной до 131 072 токенов. Карточка называет её резервной копией исследовательского артефакта, но не описывает конкретное дообучение, набор данных или специализацию. Лицензия и поддерживаемые естественные языки в предоставленных данных не обозначены.

Archon-8B-i1-GGUF — это квантизированная версия языковой модели DuoNeural/Archon-8B, подготовленная mradermacher в формате GGUF. Модель предназначена для генерации текста и задач, связанных с рассуждением; в метаданных она также отмечена как модель на базе Qwen3 и как uncensored. Доступны варианты для локального запуска с разными уровнями квантизации. Заявлена поддержка английского, китайского, французского, немецкого, испанского, японского и корейского языков. Размер базовой модели — 8 млрд параметров, однако сведения о длине контекста, точной архитектуре, мультимодальности и результатах бенчмарков отсутствуют; по имеющимся данным модель является текстовой. Главное преимущество набора — широкий выбор GGUF-квантизаций с размером файлов примерно от 2,2 до 6,8 ГБ, что позволяет подобрать баланс между требованиями к памяти, скоростью и качеством. Низкобитные варианты экономичнее, но могут заметно уступать по качеству; README отдельно рекомендует IQ-квантизации и варианты Q4_K_M или Q4_K_S как практичный выбор. Модель и её производительность могут существенно различаться в зависимости от выбранного варианта квантизации. Распространение указано по лицензии Apache-2.0. В карточке также приведены ссылки на исходную модель и инструкции по работе с GGUF-файлами.

PauloIAVPS/ats-qwen2.5-3b — дообученная плотная языковая модель семейства Qwen2.5, разработанная PauloIAVPS на основе unsloth/qwen2.5-3b-instruct-unsloth-bnb-4bit. Модель содержит 3,1 млрд параметров, принимает текст и предназначена для генерации текста в диалоговых сценариях; в метаданных также заявлен интерфейс вызова инструментов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Её контекстное окно составляет 32 768 токенов. В карточке указан английский язык. Модель распространяется по лицензии Apache-2.0.

Генеративная текстовая модель семейства LFM2 с примерно 2,6 млрд параметров, опубликованная на Hugging Face в формате, совместимом с библиотекой Transformers. Модель предназначена для генерации и продолжения текста, включая диалоговые сценарии. Модель поддерживает контекст длиной до 131 072 токенов, что позволяет обрабатывать длинные инструкции, документы и историю беседы. В метаданных указаны теги conversational и text-generation, однако сведения о разработчике, языках, лицензии, обучающих данных, архитектуре и результатах оценки отсутствуют.

bruphin-gamma — слитая с помощью mergekit модель генерации текста, созданная nbeerbower методом SLERP из nbeerbower/bruphin-beta и jan-hq/supermario-v2. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалогового использования. Модель принимает текст и выдаёт текст. В карточке указана лицензия Apache-2.0. README не описывает специальные прикладные области или дополнительные возможности, поэтому модель можно характеризовать как модель общего назначения.

ChatML-Nemo-Pro-V2 — объединённая языковая модель, опубликованная пользователем win10. Она создана методом TIES с помощью mergekit на базе shuttleai/shuttle-2.5-mini с включением cognitivecomputations/dolphin-2.9.3-mistral-nemo-12b. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Метаданные указывают контекстное окно до 1 024 000 токенов; в карточке также отмечена поддержка чата. README не описывает отдельные специализированные сценарии или языки, поэтому модель можно характеризовать только как универсальную языковую модель для генерации текста и диалога. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не указана.

Dolphin 2.0 Mistral 7B — диалоговая языковая модель, разработанная Eric Hartford и обученная при спонсорской поддержке a16z. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов в формате чата. Модель принимает текст и использует формат запросов ChatML; заявленная длина контекста — 32 768 токенов. Модель дообучена на наборе Dolphin, основанном на открытой реализации Microsoft Orca, с добавлением данных Airoboros 2.2.1. В карточке заявлены очистка данных от alignment и bias и высокая готовность следовать запросам. Подходит для диалоговых помощников, генерации и продолжения текста, а также творческих ответов. Основной язык карточки — английский. Модель распространяется под лицензией Apache-2.0 и заявлена как пригодная для коммерческого и некоммерческого использования. Автор предупреждает, что модель может выполнять в том числе неэтичные запросы, поэтому перед предоставлением пользователям рекомендуется добавить собственный слой контроля поведения.

Edge0-8B-A1B-preview — языковая модель класса 8B со sparse Mixture-of-Experts, разработанная командой Edge0-AI на базе inclusionAI Ling 3.0 tiny. Модель предназначена для генерации текста, многоязычного чата и задач рассуждения на устройствах с ограниченной памятью, включая edge-устройства, телефоны и локальное пакетное обслуживание. Поддерживает режим рассуждения через чат-шаблон. Модель содержит около 7,9 млрд параметров, из которых примерно 1,2 млрд активны для каждого токена. Архитектура включает 24 слоя, 128 экспертов с активацией 8 экспертов на токен, hidden size 1536 и контекст до 128k токенов. Используется 4-битная квантизация, а комплект поставки включает базовый checkpoint, Recover-LoRA и prerouter-адаптеры. Благодаря потоковой подгрузке экспертных весов с SSD и предсказанию маршрутизации заявлены пиковое активное потребление памяти около 1 ГиБ и скорость декодирования 23,9–25,3 токена/с на Mac mini M4 Pro. Модель сохраняет близкое к FP16-базе качество после квантизации: средний результат в приведённых тестах OpenCompass составляет 69,9 против 72,7 у базовой модели, при этом на MMLU-Pro результат выше базового. Ограничения включают статус раннего preview-релиза, слабую оптимизацию для агентских сценариев, инструментального использования и многошагового планирования, а также преимущественную настройку под языки базовой модели. MLX-бэкенд в текущей версии ориентирован на Apple Silicon. Модель распространяется по лицензии Apache 2.0 и рассчитана на использование с фреймворком edge0.

ERNIE-4.5-21B-A3B-PT-GGUF — это квантизированная версия текстовой модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu. Модель распространяется в формате GGUF для запуска средствами llama.cpp и совместимыми приложениями, включая LM Studio. Квантизацию выполнил bartowski на основе релиза llama.cpp b5924. Модель предназначена для генерации текста и других сценариев, поддерживаемых задачей text-generation, включая локальный запуск в приложениях, использующих GGUF. В названии указаны параметры 21B и A3B, однако README не содержит подробностей об архитектуре, механизме активации параметров, фактическом размере конкретного квантования, длине контекста, поддерживаемых языках или дополнительных модальностях. К сильным сторонам относятся локальное распространение в формате GGUF и совместимость с экосистемой llama.cpp. Ограничения и требования к ресурсам зависят от выбранного варианта квантования, но в README не приведены его характеристики. Лицензия модели в предоставленных данных не указана; условия использования следует уточнять в источнике оригинальной модели Baidu.

Exodius-70B — объединённая языковая модель, созданная с помощью mergekit методом SLERP из freewheelin/free-evo-qwen72b-v0.8-re и abacusai/Smaug-72B-v0.1. Она предназначена для генерации текста и диалоговых сценариев. Модель построена на плотной архитектуре Llama с классом LlamaForCausalLM, содержит 71 млрд параметров и поддерживает контекст до 32 768 токенов. Весовой формат репозитория — safetensors; библиотека для работы — Transformers. Объединение сочетает две предварительно обученные языковые модели, включая Smaug-72B-v0.1, предназначенную для диалога, ответов на вопросы и рассуждений. В карточке не приведены отдельные результаты оценки качества или специализированные области применения. Модель распространяется по лицензии Apache-2.0.

MaziyarPanahi/Experiment28M7_ShadowYam — объединённая модель на архитектуре Mistral, созданная на основе automerger/Experiment28M7-7B и automerger/ShadowYam-7B. Она предназначена для генерации текста и может использоваться в диалоговых и текстовых приложениях.

unsloth/gemma-2b-it-bnb-4bit — квантизированная 4-битная версия Gemma 2B Instruct, опубликованная Unsloth на базе библиотеки Transformers. Модель предназначена для генерации и обработки текста, включая диалоговые сценарии, выполнение инструкций, дообучение на пользовательских датасетах и задачи классификации текста. Известно, что модель относится к семейству Gemma и содержит около 2 млрд параметров; поддерживаемый язык — английский. Она использует формат 4-bit BitsAndBytes (bnb), что снижает требования к памяти и делает модель более подходящей для локального запуска и эффективного дообучения. README также указывает на возможность экспорта дообученных версий в GGUF и использования с vLLM, однако размер контекста и подробности архитектуры не указаны. Сильными сторонами являются компактность, сниженное потребление памяти и возможность ускоренного дообучения с помощью инструментов Unsloth. Ограничениями выступают англоязычная специализация, отсутствие сведений о качестве на конкретных бенчмарках и неопределённость характеристик контекста. Модель распространяется по лицензии Apache-2.0.

TechxGenus/gemma-2b-it-GPTQ — GPTQ-квантизированная версия инструкционно дообученной модели gemma-2b-it, разработанной Google. Это компактная decoder-only языковая модель с открытыми весами, предназначенная для преобразования текста в текст и работающая на английском языке. Модель подходит для генерации текста, ответов на вопросы, суммаризации, рассуждений и других сценариев, где требуется обработка естественного языка. Размер 2B параметров и GPTQ-квантизация ориентированы на запуск при ограниченных вычислительных ресурсах, включая локальные компьютеры, однако README не указывает точные требования к памяти, размер контекста и характеристики производительности. К ограничениям относятся заявленная поддержка английского языка и отсутствие в предоставленных данных подробных результатов тестирования, ограничений безопасности и сравнения с другими моделями. Использование регулируется лицензией Google Gemma Terms of Use; доступ к модели на Hugging Face требует принятия соответствующих условий.