II.2Создание и понимание программного кода

Это текстовая языковая модель семейства Qwen3.8 от RVN, опубликованная пользователем 0bserverx как полный набор весов в формате safetensors для запуска через Transformers, vLLM и SGLang. Репозиторий представляет собой реконструкцию FP16-весов из существующего GGUF-чекпойнта; это не новая тренировка и не точное восстановление недоступного исходного чекпойнта RVN. Архитектура — плотная Qwen3_5ForCausalLM, в метаданных указано 22,3 млрд параметров, контекст — до 262 144 токенов. Модель предназначена для генерации текста в диалогах и развёртывания как локальный или серверный чат-интерфейс. Карточка подтверждает короткие проверки генерации текста, перевода на турецкий, JSON-ответа и формирования вызова инструмента; вызов инструмента проверял генерацию запроса, а не исполнение внешней функции. Модель текстовая: визуальный энкодер и MTP-голова в опубликованных весах отсутствуют. В README модель названа abliterated и uncensored, поэтому она рассчитана на генерацию с ослабленными ограничениями отказа. Представлены 13 шардов весов: 498 тензоров хранятся в F16, 353 — в F32. Проверки запуска на vLLM и SGLang прошли на одной конфигурации GPU с контекстом 4096 токенов; авторы подчёркивают, что это дымовые тесты, а не широкая оценка качества, производительности или длинного контекста. Лицензия — Apache-2.0.

Guilherme34/Reasoner-Hermes3-70b — языковая модель семейства Llama, представленная в формате safetensors и рассчитанная на генерацию текста в диалоговом режиме. В карточке приведён пример системного промпта, задающего ассистенту имя и стиль ответа; метаданные также указывают интерфейс для вызова инструментов. Модель содержит 69,5 млрд параметров и поддерживает контекст длиной до 131 072 токенов. В метаданных указан датасет Guilherme34/Reasoner-dataset-v2, но сведения о способе обучения и базовой модели отсутствуют, поэтому происхождение модели установить нельзя. README не описывает языки, качество рассуждений или специализированные области применения. Лицензия в предоставленных данных не указана. Для практического применения стоит проверить совместимость формата и доступных ресурсов с выбранной средой запуска.

mondk/Safetensors.claude_Deepseek-R1-Llama — дообученная языковая модель на архитектуре Llama, созданная на базе unsloth/DeepSeek-R1-Distill-Llama-8B-unsloth-bnb-4bit. Она предназначена для генерации текста и диалогового общения. Модель содержит 7,5 млрд параметров и поддерживает контекст длиной до 131 072 токенов. Для дообучения указан датасет mondk/claude-v2-super.jsonl; карточка также ссылается на вариант GGUF. В метаданных заявлен английский язык и интерфейс для вызова инструментов. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Seed-OSS-36B-Instruct-MLX-6bit — это 6-битная MLX-квантизованная версия инструкционной языковой модели Seed-OSS-36B-Instruct, разработанной ByteDance-Seed. Квантизация предоставлена командой LM Studio с использованием mlx_lm; сама модель предназначена для генерации текста и работы по инструкциям. Модель подходит для локального запуска в сценариях, требующих ответов на естественном языке и выполнения текстовых задач. Она оптимизирована для устройств Apple Silicon благодаря формату MLX. Известно, что модель содержит около 36 миллиардов параметров и использует 6-битное представление, однако сведения о поддерживаемых языках, длине контекста, конкретной архитектуре и доступных модальностях в README не указаны. К сильным сторонам относятся крупный размер базовой модели, инструкционная настройка, снижение требований к памяти за счёт 6-битной квантизации и оптимизация для экосистемы Apple Silicon. Ограничениями являются зависимость от совместимого MLX-окружения и возможная потеря точности по сравнению с полной версией из-за квантизации; количественные характеристики качества и рекомендации по аппаратным требованиям не приведены. В карточке указана лицензия Apache-2.0.

Tencent Sequential-Hidden-Decoding-8B-n8-Instruct — дообученная для следования инструкциям и диалогов модель генерации текста на архитектуре Qwen3. Она использует Sequential Hidden Decoding: несколько матриц эмбеддингов для одной последовательности чередуются, формируя расширенную последовательность для обработки тем же трансформером; вариант n=8 имеет масштабирование последовательности 8×. Модель содержит 7,6 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговых сценариев и выполнения инструкций. Для инференса требуется версия SGLang с патчами, а также пользовательский код архитектуры из репозитория и параметр trust_remote_code. README указывает тип данных bfloat16 и рекомендует настройки запуска, рассчитанные на стабильность и производительность при обработке расширенных последовательностей. В метаданных базовыми компонентами указаны Qwen/Qwen3-8B-Base и tencent/Sequential-Hidden-Decoding-8B-n8; происхождение классифицировано как слияние. Лицензия обозначена как other, поэтому конкретные условия следует проверять в репозитории модели.

SLIM-EXTRACT-TINY — специализированная модель компании llmware для извлечения из текста элементов, соответствующих заданному пользователем ключу. Она принимает контекстный фрагмент и ключ, например «company», и генерирует словарь Python, где этому ключу соответствует список найденных значений. Модель предназначена для структурирования сведений из текстов и вызова функции extract через библиотеку llmware или Transformers. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, содержащая 1 млрд параметров. По README, она дообучена на базе TinyLlama 1B. Модель работает с текстом, использует контекст до 2048 токенов и распространяется в формате PyTorch под лицензией Apache-2.0. Модель подходит для извлечения заданных сущностей и фактов в структурированный вид. Она рассчитана на конкретный формат запроса и не заявлена как универсальный чат-бот; корректность вывода словаря и полноту извлечения следует проверять на целевых данных. README рекомендует для быстрого инференса отдельную квантованную версию.

Spark-X2.5-1.7B-GGUF — квантизированная версия языковой модели Spark-X2.5-1.7B, разработанной XHToken и подготовленной stornic56 в формате GGUF для llama.cpp. Модель предназначена для генерации текста, рассуждений и сценариев с tool calling; поддерживает текстовый ввод и языки английский и китайский. По умолчанию модель выводит ход рассуждений внутри тегов <think>...</think> перед финальным ответом, а шаблон чата и поддержку вызова инструментов содержит встроенно. Модель имеет 1,7 млрд параметров и распространяется в вариантах от bf16 до квантизаций Q8_0, Q6_K, Q5_K_M, Q4_K_M, IQ4_NL и IQ3_M. Для большинства сценариев рекомендуется Q4_K_M размером около 1,0 ГБ; IQ3_M является наименьшим вариантом, прошедшим заявленную проверку качества, тогда как Q3_K_M отсутствует из-за неудовлетворительного результата. Квантизации ниже bf16 выполнены с использованием imatrix и корпуса wikitext-2-raw-v1, что призвано сохранить качество при уменьшении размера. Для запуска требуются llama.cpp или совместимые Ollama и LM Studio, собранные с поддержкой архитектуры spark2_5; заявлена совместимость с mainline llama.cpp начиная с b10828. Доступны CPU, CUDA и Vulkan-сценарии, включая Intel и AMD GPU. Контекст может задаваться параметром запуска; в README приведены примеры на 8192 и 16384 токена, но фиксированный максимальный размер контекста не указан. Ограничениями являются небольшой размер модели, текстовая модальность и зависимость от совместимого runtime и шаблона чата. Лицензия — Apache-2.0.

T3qm7xNeuralsirkrishna_Multi_verse_modelYam — объединённая модель семейства Mistral, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Multi_verse_modelYam-7B. Она предназначена для генерации текста и диалоговых ответов, в том числе в сценариях, где требуется обрабатывать длинные запросы и контекст. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и принимает контекст длиной до 32 768 токенов. Данные карточки не уточняют поддерживаемые естественные языки и конкретные сильные стороны слияния. Модель распространяется в формате Safetensors по лицензии Apache-2.0.

pinialt/bert-tiny-pii-router — компактная модель классификации текста от pinialt, предназначенная для маршрутизации запросов в конвейерах обнаружения персональных данных. Она оценивает, какие специализированные обработчики следует запускать для текста: извлечение именованных сущностей, геокодирование адресов, разбор дат и времени или поиск шаблонных идентификаторов регулярными выражениями. Результат — вероятности для четырёх категорий маршрутизации; автор рекомендует порог 0,5. Модель основана на компактном BERT-энкодере google/bert_uncased_L-4-H-256-A-4 и обучена с дистилляцией знаний от XLM-RoBERTa. В карточке указаны 12 млн параметров, контекст до 512 токенов и поддержка английского языка. README сообщает о приросте скорости в 9,1 раза и сохранении 96% точности учителя, но не приводит подробностей методики оценки. Модель принимает текст и выдаёт метки с вероятностями. Лицензия — Apache-2.0.

Command R+ (08-2024) — обновлённая версия языковой модели Command R+, разработанная Cohere. Она предназначена для генерации текста и диалоговых сценариев. В README отмечены примерно на 50% более высокая пропускная способность и на 25% меньшая задержка по сравнению с предыдущей версией при сохранении аппаратных требований. Предоставленные сведения не описывают размер модели, контекст, поддерживаемые языки или условия лицензии. Поэтому эти характеристики нельзя надёжно указать.

QuantFactory/Dans-PersonalityEngine-V1.1.0-12b-GGUF — квантизированная версия модели PocketDoc/Dans-PersonalityEngine-V1.1.0-12b, созданная QuantFactory с использованием llama.cpp. В основе лежит mistralai/Mistral-Nemo-Base-2407; модель предназначена для генерации текста и работает преимущественно на английском языке. Максимальная длина контекста составляет 32 768 токенов. Модель ориентирована на широкий набор сценариев: совместное написание текстов, roleplay, текстовые приключения, выполнение одношаговых и многошаговых инструкций, использование инструментов, суммаризацию и анализ тональности в составе прикладных конвейеров. Также заявлены возможности для работы с кодом, математическими и научными задачами, а исходная версия обучалась на разнообразных наборах данных для ассистирования, логического рассуждения, прозы и взаимодействия с инструментами. К сильным сторонам относятся многоцелевой характер, поддержка длинного контекста, диалоговый формат ChatML и ориентация на творческую генерацию и ролевое взаимодействие. Ограничения связаны с тем, что модель описана как англоязычная, а точные параметры квантизации, результаты benchmark-тестов и подтвержденные показатели качества в карточке не указаны. Рекомендуемые настройки генерации: temperature 1.0, top_p 0.95 и min_p 0.05. Модель распространяется по лицензии Apache-2.0.

DevQuasar-R1-Uncensored-Llama-8B — объединённая авторами DevQuasar языковая модель для генерации текста и диалогов. Она создана методом линейного слияния трёх моделей: DeepSeek-R1-Distill-Llama-8B, LLama-3.1-8B-HyperNova-abliteration и Llama-3.1-8B-Lexi-Uncensored-V2. Архитектура — плотная LlamaForCausalLM; размер — 7,5 млрд параметров, контекст — до 131 072 токенов. Модель предназначена для диалоговых ответов, рассуждений и задач общего характера. В README приведены результаты оценивания, включая HellaSwag, и заявлено улучшение по большинству тестов относительно DeepSeek-R1-Distill-Llama-8B, однако подробности таблицы в карточке представлены не полностью. Модель распространяется по лицензии MIT.

Карточка модели LoyalTyAI/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

Карточка модели tiondoubl/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

Карточка модели TMA-1/Dolphin-Mistral-24B-Venice-Edition на Hugging Face совпадает с карточкой dphn/Dolphin-Mistral-24B-Venice-Edition, поэтому описание составлено по ней. Dolphin Mistral 24B Venice Edition — разговорная модель общего назначения, созданная в совместном проекте Dolphin и Venice.ai на основе Mistral-Small-24B-Instruct-2501. Это плотная модель семейства Mistral 3 с 24 млрд параметров, представленная в формате safetensors и рассчитанная на работу через Transformers; для развёртывания авторы рекомендуют vLLM. Модель предназначена для диалогов и выполнения инструкций в приложениях, где владелец задаёт системный промпт и самостоятельно определяет стиль и правила ответов. Авторы позиционируют её как менее ограниченную настройками поведения, чем обычные коммерческие чат-модели, и сообщают, что она используется как модель Venice Uncensored. В карточке указан стандартный шаблон чата Mistral; авторы рекомендуют низкую температуру генерации, например 0,15. Модель принимает текст и генерирует текст. README не сообщает поддерживаемые естественные языки и длину контекста. Репозиторий распространяется по лицензии Apache-2.0. Модель ориентирована на управляемое поведение, однако её следование инструкциям зависит от системного промпта и параметров генерации; заявленная сниженная цензура означает, что ответы могут включать потенциально вредный или неподходящий контент.

Experiment26Neuralsirkrishna_YamMulti_verse_model — объединённая модель генерации текста на базе архитектуры Mistral, созданная слиянием automerger/Experiment26Neuralsirkrishna-7B и automerger/YamMulti_verse_model-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалогов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. README не описывает специальные возможности или целевые области применения, поэтому модель следует рассматривать как инструмент общего назначения.

flammen9-mistral-7B — объединённая авторегрессионная языковая модель на архитектуре Mistral, созданная flammenai с помощью mergekit. В объединение вошли flammen8-mistral-7B, flammen5-mistral-7B и flammen3X; базовой указана flammen8-mistral-7B, а метод слияния — DARE TIES. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и сценариев на основе языковой модели: продолжения запросов и создания ответов. В метаданных указан pipeline text-generation; конкретные специализации, наборы данных и основные языки в предоставленных сведениях не обозначены. Файлы представлены в формате safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache-2.0. Поскольку это слияние нескольких предварительно обученных моделей, её качество и поведение могут различаться в зависимости от задачи; отдельные гарантии качества или подробные ограничения в карточке не описаны.

win10/ghost-13.3b-beta-1608 — объединённая языковая модель, созданная с помощью mergekit методом passthrough на основе ghost-x/ghost-8b-beta-1608. Модель использует плотную архитектуру Llama с классом LlamaForCausalLM и предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Объём модели составляет 12,7 млрд параметров, заявленная длина контекста — 131 072 токена. Базовая модель описана как многоязычная модель на основе Llama 3. Модель распространяется в формате safetensors. Сведения о лицензии и конкретных ограничениях применения в предоставленных данных отсутствуют.

second-state/gpt-oss-20b-GGUF — версия модели openai/gpt-oss-20b в формате GGUF, опубликованная second-state. Модель семейства GPT-OSS построена на архитектуре MoE и предназначена для генерации текста в диалоговом режиме. В карточке указана поддержка запуска через LlamaEdge; для вызова инструментов требуется LlamaEdge версии 0.25.1 или выше. Модель принимает текстовые запросы и выдаёт текстовые ответы. Указанный родной размер контекста — 131072 токена; в репозитории доступны файлы GGUF и GGUF F16. Метаданные сообщают об общем числе параметров 1,6 млрд, а исходная модель в названии и карточке обозначена как gpt-oss-20b. Модель распространяется по лицензии Apache-2.0. README не описывает языковое покрытие или ограничения качества.

Pantheon-Reasoning-26B-A4B-1.1-GGUF — это квантизированная версия текстовой генеративной модели Pantheon-Reasoning-26B-A4B-1.1, разработанной Gryphe и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для диалогов, работы в режиме instruction-following, рассуждений, творческого письма и ролевых сценариев. Указан английский язык и текстовая модальность. Модель содержит 26B параметров и использует конфигурацию A4B; дополнительные сведения об архитектуре, размере контекста и точном значении этой конфигурации в README не приведены. Квантизация выполнена с использованием llama.cpp и метода imatrix, доступны варианты от BF16 до различных уровней Q3–Q8 и IQ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут сильнее терять в качестве. Для работы необходимы совместимые инструменты, включая llama.cpp, LM Studio, KoboldCpp и другие приложения, поддерживающие GGUF; для недавно поддержанных архитектур может потребоваться обновление ПО. Модель распространяется по лицензии Apache-2.0.

jina-reranker-v2-base-multilingual-GGUF — экспериментальная GGUF-версия модели jina-reranker-v2-base-multilingual, разработанной и обученной Jina AI. Это трансформерная cross-encoder-модель для переранжирования результатов информационного поиска: она принимает пару «запрос — документ» и возвращает оценку релевантности документа запросу. Модель предназначена для многоязычного поиска, включая задачи retrieval, reranking, code retrieval, text-to-SQL и сценарии с function calling. Модель поддерживает контекст до 1024 токенов; более длинные тексты обрабатываются скользящим окном с разбиением на фрагменты. Она работает с несколькими языками, однако точный языковой список и размер модели в README не указаны. Использование flash attention повышает производительность, но требует совместимого GPU. GGUF-версия основана на llama.cpp и предназначена для экспериментального запуска только через gpustack/llama-box версии 0.0.72 или новее. Сильной стороной модели является способность сопоставлять запросы и документы на разных языках и выдавать оценки релевантности, пригодные для сортировки результатов. Ограничения включают максимальную длину контекста, зависимость flash attention от оборудования и экспериментальный статус GGUF-сборки. Репозиторий распространяется по лицензии CC-BY-NC-4.0 для исследований и оценки; коммерческое использование этой версии не разрешено.

K2-Horizon-7B-Uno Merged — слитая версия модели IFM/K2-Horizon-7B-Uno, опубликованная hermitdave. Репозиторий содержит объединённые с базовыми весами LoRA-адаптеры diffusion-модели; после слияния модель работает как стандартная авторегрессионная языковая модель. Архитектура плотная, семейство K2-Horizon; в метаданных указано 8 млрд параметров, а README сообщает примерно о 7,6 млрд параметров и 32 слоях. Модель предназначена для генерации текста и диалогов, включая рассуждения. Заявлен контекст до 524 288 токенов. Репозиторий содержит веса Safetensors; README также описывает подготовку для MLX и запуск на Apple Silicon. Для обработки специальных тегов рассуждений и вызовов инструментов в oMLX требуется версия 0.6.4 или новее с патчем поддержки K2-Horizon. Модель основана на IFM/K2-Horizon-7B-Uno, которая, согласно README, разработана Institute of Foundation Models. Лицензия — Apache 2.0. Качество и поддерживаемые языки в предоставленных данных не описаны; длинный заявленный контекст требует подходящей среды запуска и достаточных ресурсов.

K2-Horizon-MoVA-36B-A4B MLX-4bit — это 4-битная MLX-конверсия модели IFM/K2-Horizon-MoVA-36B-A4B, разработанной IFM. Модель предназначена для генерации текста и запуска через mlx-lm на устройствах Apple с unified memory. Это разреженная Mixture-of-Experts-модель с архитектурой Mixture-of-Values attention (MoVA): общий объём составляет 36 млрд параметров, при обработке каждого токена активно около 4 млрд. Исходная модель поддерживает нативный контекст до 524 288 токенов (512K), однако фактически доступная длина контекста зависит от объёма unified memory и настроек KV-кэша. Вариант является текстовым и не требует vision projector; в метаданных указан английский язык. Веса в основном квантизованы методом affine 4-bit с размером группы 64, а веса маршрутизаторов MoE и MoVA сохранены в 8-битном формате. Размер модели составляет 21,07 ГБ. К сильным сторонам относятся большой контекст, сниженная по сравнению с полной точностью потребность в памяти и разреженная обработка с небольшим числом активных параметров на токен. Ограничениями являются необходимость актуальной версии mlx-lm, зависимость практической длины контекста от доступной памяти и отсутствие мультимодальных возможностей. Модель распространяется по лицензии Apache-2.0.

LFM2.5-1.2B-Thinking-ToMoE-GGUF — набор GGUF-квантизаций модели, опубликованный Nichonauta. Основа — LiquidAI/LFM2.5-1.2B-Thinking, преобразованная в ToMoE Mixture-of-Experts. Модель предназначена для генерации текста и задач, требующих рассуждений; поддерживает нативное поведение с блоком <think>. Указаны языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Модель рассчитана на локальный запуск через llama.cpp, включая сценарии on-device с объёмом хранения менее 1 ГБ. Доступны варианты BF16 размером 2343 МБ, Q8_0 размером 1186 МБ и Q4_K_M размером 695 МБ. Рекомендуемый контекст — до 32768 токенов. В README не указаны точные параметры архитектуры и число активных экспертов; размер модели обозначен как 1.2B в названии базовой модели. Для Q4_K_M заявлена скорость около 302 токенов в секунду на RTX 3060, для Q8_0 — около 212, для BF16 — около 125. Важное ограничение GGUF-версии заключается в том, что llama.cpp не поддерживает нативные ToMoE-эксперты и динамические V-маски. Поэтому модель восстановлена как плотный эквивалент и по поведению соответствует плотной базовой модели, а не исходной MoE-версии. Для использования настоящего MoE требуется версия safetensors с параметром trust_remote_code. Производительностью и компактностью особенно выделяется Q4_K_M, однако квантизация может снижать точность по сравнению с BF16. Производная распространяется по лицензии LFM Open License v1.0; ссылка на лицензию указана в карточке модели.

Nichonauta/LFM2.5-1.2B-Thinking-ToMoE-INT8 — 8-битная квантизованная версия экспериментальной MoE-модели рассуждений Nichonauta/LFM2.5-1.2B-Thinking-ToMoE, основанной на LiquidAI/LFM2.5-1.2B-Thinking. Репозиторий содержит реальные прореженные веса MoE в формате safetensors, а не плотный эквивалент: линейные слои MLP, внимания и свёрток используют весовую квантизацию INT8, тогда как маршрутизаторы, эмбеддинги и нормализации хранятся в fp32. Архитектура LFM2 MoE, класс Lfm2MoEForCausalLM; размер — 1,5 млрд параметров, контекст — до 128 000 токенов. Модель предназначена для генерации текста и диалогового использования, включая задачи рассуждения. В README сообщается, что показатели perplexity после квантизации INT8 близки к fp32-версии, а размер файла весов составляет около 1,38 ГБ. Для загрузки используется Transformers с пользовательским кодом модели и параметром trust_remote_code=True. Карточка указывает лицензию other, поэтому перед использованием следует проверить условия в файле LICENSE.

Magpie-Align/Llama-3.1-8B-Magpie-Align-v0.1 — англоязычная диалоговая модель семейства Llama 3.1, разработанная командой Magpie-Align. Это плотная авторегрессионная модель с 7,5 млрд параметров и контекстом до 131 072 токенов; она принимает текст и генерирует текст, используя официальный шаблон чата Llama 3.1. Модель сначала дообучили методом SFT на наборах Magpie-Pro-MT-300K-v0.1 и Magpie-Reasoning-150K, затем применили DPO на датасете UltraFeedback ARMOR. Модель предназначена для диалогов, выполнения инструкций и рассуждений на английском языке. В карточке авторы приводят результаты на MT-Bench, Alpaca Eval 2 и Arena Hard, однако эти оценки не гарантируют качества в конкретном сценарии. Для использования весов заявлена лицензия Llama 3.1 Community License; также авторы указывают необходимость соблюдать лицензию Meta Llama 3 Community License для данных.

Lonepino-11B — плотная авторегрессионная языковая модель семейства Mistral, созданная beberik путём слияния нескольких моделей с помощью mergekit. В состав рецепта входят Intel/neural-chat-7b-v3-3-Slerp, NeverSleep/Noromaid-7b-v0.2, chargoddard/loyal-piano-m7-cdpo и maywell/PiVoT-0.1-Starling-LM-RP. Репозиторий содержит веса в формате bfloat16 и safetensors; размер модели — 10,6 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогового общения. В README упомянуты шаблоны Alpaca и ChatML, а также приведены результаты оценивания на нескольких языковых бенчмарках. Основной язык и специализация не заявлены, поэтому её следует рассматривать как модель общего назначения. Лицензия CC BY-NC 4.0 требует указания авторства и запрещает коммерческое использование.

Carchofa/looped_llama_8b_128k — языковая модель для генерации текста, опубликованная на Hugging Face и предназначенная для запуска через библиотеку Transformers. Модель относится к семейству Llama и содержит около 7,5 млрд параметров. Модель может использоваться для продолжения текстов, подготовки черновиков, генерации ответов и других сценариев, основанных на text-generation. Её нативное контекстное окно составляет 131 072 токена, что позволяет обрабатывать длинные входные документы и диалоги. README не содержит сведений о разработчике, лицензии, языках обучения, данных, результатах оценки и специальных ограничениях, поэтому перед практическим применением требуется дополнительная проверка качества и условий использования.

Magistral-Small-2506-GGUF — это GGUF-квантизированная версия языковой модели Magistral Small, разработанной Mistral AI. Файл подготовлен пользователем lmmy на основе llama.cpp, а распространением модели в рамках Community Model Program занимается сообщество LM Studio. Модель предназначена для генерации текста и задач, связанных с рассуждением, включая диалоговые сценарии, ответы на вопросы и обработку текстовых запросов. Модель поддерживает контекст длиной до 49 152 токенов и работает в формате GGUF, совместимом с llama.cpp и приложениями, использующими этот формат, включая LM Studio. В README не указаны точный размер модели, конкретная конфигурация архитектуры, поддерживаемые языки и модальности, а также параметры используемой квантизации. К сильным сторонам относятся большой контекст и возможность локального запуска через совместимое программное обеспечение. К ограничениям относятся потенциальное снижение качества из-за квантизации и отсутствие подробных данных о производительности, языковой поддержке и требованиях к оборудованию. Модель распространяется по лицензии Apache-2.0; при использовании следует учитывать, что она может генерировать неточные, вредные или неподходящие результаты.

Manticore 13B — языковая модель для генерации текста и диалогового взаимодействия, разработанная Open Access AI Collective. Представлена в формате GGUF и квантизирована TheBloke для запуска с использованием llama.cpp и совместимых приложений и библиотек. Модель основана на архитектуре Llama и содержит около 13 млрд параметров. Модель предназначена для ответов на вопросы, ведения диалогов, следования инструкциям, обобщения текста и решения широкого спектра задач, отражённых в использованных наборах данных, включая MMLU, HellaSwag, ScienceQA и различные коллекции инструкций и диалогов. В README указан английский язык и шаблон запросов Vicuna. Поддерживаются варианты квантизации от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством, а запуск возможен на CPU и GPU через llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другие совместимые инструменты. Сильной стороной модели является возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают отсутствие в предоставленных данных сведений о размере контекста, точных характеристиках качества, мультимодальности и поддерживаемых языках помимо английского; модель предназначена для работы с текстом. В метаданных указана лицензия «other», однако её конкретные условия и ограничения в README не раскрыты.