II.2Создание и понимание программного кода

vittorino/qwen3-8b-tmax-sft-run2 — дообученная модель диалоговой генерации текста на базе Qwen/Qwen3-8B. Разработчик выполнил полное supervised fine-tuning на наборе vittorino/tmax-sft-cleaned; модель имеет плотную архитектуру Qwen3ForCausalLM с 7,6 млрд параметров и рассчитана на контекст до 40 960 токенов. Модель предназначена для диалогов и генерации ответов по инструкциям в сценариях, охваченных обучающими данными. Она загружается через Transformers; при обучении использовались вычисления матриц FP8, torch.compile и адаптивное сохранение контрольных точек градиентов. Веса опубликованы в формате safetensors. Лицензия — Apache-2.0. Карточка не приводит оценок качества или подробностей о составе данных и конкретных навыках, поэтому пригодность для узких задач следует проверять отдельно.

Weyaxi/Qwen-72B-Llama — преобразованная версия Qwen/Qwen-72B, созданная автором репозитория Weyaxi с помощью скрипта llamafy_qwen.py из LLaMA-Factory. Это плотная авторегрессионная языковая модель семейства Llama с 71 млрд параметров, предназначенная для генерации текста; веса опубликованы в формате safetensors, длина контекста составляет 32 768 токенов. Автор сообщает, что после преобразования весов использовал токенизатор из KnutJaegersberg/Qwen-14B-Llamafied. Модель подходит для генерации продолжений и ответов на текстовые запросы. В приведённом автором сравнении средний результат на Open LLM Leaderboard ниже, чем у исходной Qwen-72B: 69,53 против 73,6; оценки ARC и HellaSwag также немного ниже. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория и у базовой модели.

Rabbit-7B-v2-DPO-Chat — чат-модель на 7,1 млрд параметров, опубликованная viethq188. Она основана на Mistral и создана слиянием AIDC-ai-business/Marcoroni-7B-v3 и Q-bert/MetaMath-Cybertron-Starling методом SLERP; в README также указано использование mistralai/Mistral-7B-Instruct-v0.2 и последующее обучение DPO на данных HF. Модель предназначена для генерации ответов в диалоге и других задач генерации текста; для общения можно использовать шаблон Alpaca. Модель принимает текст и выдаёт текст, хранится в формате safetensors и поддерживает контекст до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. В README и метаданных не описаны языковой охват и оценки качества; результаты могут зависеть от шаблона промпта и сценария применения.

SG Raccoon Yi 55B GGUF — это квантизированная версия разговорной языковой модели SG Raccoon Yi 55B, разработанной Marco Lironi. Репозиторий TheBloke содержит файлы модели в формате GGUF, подготовленные для локального запуска и совместимые с экосистемой llama.cpp. Модель предназначена для диалоговых сценариев и генерации текста на английском языке. Известно, что она основана на архитектуре Yi и имеет размер 55B параметров. Поддерживаются варианты квантизации с разрядностью от 2 до 8 бит, что позволяет выбирать компромисс между требованиями к памяти, скоростью работы и качеством ответов. Для запуска подходят llama.cpp и совместимые графические интерфейсы и библиотеки, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. Рекомендуемый шаблон запроса — формат Raccoon с ролями Human и Assistant. К сильным сторонам относятся возможность локального CPU+GPU-инференса, широкий выбор уровней квантизации и совместимость с несколькими инструментами. Ограничения включают отсутствие мультимодальности в заявленных данных, ориентацию на английский язык и потенциальное снижение качества при более агрессивной квантизации. Модель распространяется по лицензии yi-license; в карточке указано, что это другая лицензия, с дополнительной ссылкой на лицензию Yi.

ShadowYamshadow_Experiment27Yam — объединённая языковая модель, созданная из automerger/ShadowYamshadow-7B и automerger/Experiment27Yam-7B. Модель разработана на архитектуре Mistral и содержит 7,1 млрд параметров; она предназначена для генерации текста и принимает запросы с контекстом до 32 768 токенов. Модель подходит для генерации продолжений текста и ответов на запросы. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache 2.0. Карточка не описывает специальные области применения, языки или известные ограничения качества.

bartowski/shuttleai_shuttle-3.5-GGUF — набор GGUF-квантизованных версий текстовой генеративной модели shuttle-3.5, разработанной shuttleai. Модель предназначена для диалогового общения и других сценариев генерации текста на английском языке. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; доступны варианты от BF16 и Q8_0 до более компактных Q2–Q6 и IQ-квантизаций. Модель можно запускать локально через llama.cpp, LM Studio и другие совместимые проекты на его основе. В README указан шаблон промпта с ролями system, user и assistant. Основное преимущество набора — выбор между качеством, размером файла и требованиями к оперативной памяти: рекомендуются, в частности, Q4_K_M, Q5_K_M, Q6_K и другие варианты с более высоким качеством. При этом низкобитные версии заметно уступают старшим по качеству, а полная BF16-версия занимает около 65,53 ГБ; параметры модели, архитектура, размер контекста и поддержка других модальностей не указаны. Распространение заявлено по лицензии Apache-2.0. Это именно квантизованные представления исходной модели, поэтому для использования необходимо учитывать совместимость выбранного файла с оборудованием и программным обеспечением.

Sirius-10B — объединённая языковая модель на архитектуре Mistral, созданная Felix Chao путём слияния частей leveldevai/TurdusBeagle-7B и FelixChao/Severus-7B. В конфигурации указаны метод passthrough и точность float16; репозиторий содержит веса Safetensors. Модель насчитывает 10,6 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы на запросы, диалог или продолжение текста. Карточка не уточняет специализацию, языки обучения или отдельные возможности модели. Лицензия — Apache-2.0.

Spark-X2.5-4B-Q8_0-GGUF — это GGUF-сборка языковой модели Spark-X2.5-4B, разработанной XHToken. Данная версия подготовлена в формате Q8_0 и предназначена для генерации текста с использованием llama.cpp и совместимых инструментов. В README заявлены поддерживаемые языки English и Chinese, а также базовая модель с размером 4B параметров. Файл модели занимает примерно 4,38 ГБ. Квантование Q8_0 снижает требования к памяти по сравнению с полной BF16-версией, сохраняя высокую точность представления весов. В качестве серверной конфигурации приведён контекст 65536 токенов, однако архитектурные особенности и точный максимальный контекст модели отдельно не указаны. Модель ориентирована на локальный текстовый inference и может использоваться в приложениях, поддерживающих GGUF и llama.cpp. Ключевое ограничение — для поддержки Spark-X2.5 требуется совместимая реализация XHToken/llama.cpp, поэтому стандартная версия llama.cpp может быть несовместима. Лицензия модели — Apache License 2.0, как и у базовой модели.

T3qm7xNeuralsirkrishna_Experiment28Multi_verse_model — объединённая модель на архитектуре Mistral с 7,1 млрд параметров, созданная из automerger/T3qm7xNeuralsirkrishna-7B и automerger/Experiment28Multi_verse_model-7B. Модель предназначена для генерации текста и диалогов; её можно использовать для ответов на запросы и создания связного текста с учётом контекста до 32 768 токенов. Модель распространяется в формате Safetensors по лицензии Apache 2.0. Доступные сведения не описывают специальные предметные области, языковую специализацию или отдельные проверенные ограничения качества.

T3qm7xNeuralsirkrishna_Strangemerges_32Experiment26 — объединённая языковая модель на архитектуре Mistral, опубликованная MaziyarPanahi. Она объединяет модели automerger/T3qm7xNeuralsirkrishna-7B и automerger/Strangemerges_32Experiment26-7B и предназначена для генерации текста и диалогов. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате safetensors. Модель подходит для генерации продолжений текста и ответов в диалоге. Репозиторий не приводит сведений о специализации по языкам или прикладным областям. Лицензия — Apache-2.0.

Tulu V2.5 DPO 13B UltraFeedback Mean — англоязычная диалоговая модель-помощник от Allen Institute for AI (AI2), дообученная на базе Tulu 2 с использованием DPO. Для выбора предпочтительных и отклоняемых ответов в обучении использовалось среднее значение подробных оценок набора UltraFeedback; модель также относится к серии, обученной методами DPO и PPO. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 4096 токенов. Модель предназначена для диалогов с помощником и генерации ответов на инструкции на английском языке. Для лучшего качества следует использовать предусмотренный шаблон диалога, включая перевод строки после сообщения пользователя. Модель может выдавать проблематичные ответы: на этапе RLHF её не настраивали на безопасные завершения, а фильтрация ответов во время использования не предусмотрена. Лицензия — Apache 2.0.

Vicuna-13B-1.1-GPTQ — 4-битная GPTQ-квантизация чат-модели Vicuna 1.1, опубликованная TheBloke. В основе лежит Vicuna, авторы которой дообучили LLaMA 13B на 70 тысячах пользовательских диалогов с ShareGPT; для этой версии TheBloke объединил дельты Vicuna с исходной LLaMA 13B и выполнил квантизацию GPTQ. Архитектура — плотная авторегрессионная модель семейства LLaMA с 12,9 млрд параметров и контекстом 2048 токенов. Модель предназначена для диалогов, генерации ответов и экспериментов с чат-ботами. Она принимает текст и выдаёт текст; карточка не подтверждает поддержку конкретных естественных языков. В репозитории есть варианты PT без act-order и SafeTensors с act-order: второй может обеспечить более высокое качество квантования, но требует актуальной версии GPTQ-for-LLaMa; вариант PT может иметь немного более низкое качество. В метаданных лицензия указана как other, тогда как README приводит Apache License 2.0, поэтому условия распространения следует сверить с файлами репозитория.

Карточка модели lmsys/vicuna-13b-delta-v0 на Hugging Face совпадает с карточкой lmsys/vicuna-7b-delta-v0, поэтому описание составлено по ней. Vicuna-7B-delta-v0 — дельта-веса чат-модели LMSYS, полученной дообучением LLaMA на диалогах пользователей из ShareGPT. Это авторегрессионная плотная трансформерная модель семейства LLaMA с 6,6 млрд параметров и контекстом до 2048 токенов. Репозиторий содержит только дельту: для получения рабочих весов Vicuna её нужно применить поверх оригинальных весов LLaMA, поэтому сама по себе модель не запускается. Модель предназначена для генерации ответов в диалоге, исследований языковых моделей и чат-ботов, а также экспериментов разработчиков и любителей NLP, машинного обучения и искусственного интеллекта. Карточка сообщает об оценке по стандартным бенчмаркам, предпочтениям людей и оценке другой языковой моделью. Указана некоммерческая лицензия; для использования необходимо учитывать её условия и лицензию исходной LLaMA.

WinterGoliath-123b-32k — слитая модель авторегрессионной генерации текста на архитектуре Llama, опубликованная ChuckMcSneed. Она объединяет Xwin и WinterGoddess, расширенные до контекста 32 768 токенов; для запросов README предлагает формат Vicuna или Alpaca. Модель предназначена для генерации текста и диалогов. В README автор отмечает, что модель умнее Goliath-32k, но имеет особенности и несколько повреждена по сравнению с исходной WinterGoliath; приведённый тест назван автором шуточным, поэтому его результаты не дают надёжной оценки качества. Репозиторий содержит веса Safetensors, размер модели — 123,5 млрд параметров. Лицензия — Llama 2.

bartowski/XiaomiMiMo_MiMo-V2-Flash-GGUF — это набор GGUF-квантизованных версий языковой модели MiMo-V2-Flash, разработанной XiaomiMiMo. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix; исходная модель указана как XiaomiMiMo/MiMo-V2-Flash. Модель предназначена для генерации текста и локального запуска через llama.cpp, LM Studio и совместимые проекты. Доступны варианты с разным уровнем квантизации — от Q8_0 до Q2_K и IQ-квантов, размером примерно от 96,74 до 328,23 ГБ. Более высокие разрядности обеспечивают лучшее сохранение качества, но требуют больше оперативной или видеопамяти; низкоразрядные варианты экономичнее, однако могут заметно уступать по качеству. Для большинства сценариев автор рекомендует варианты Q4_K_M, Q4_K_L, Q5_K_M, Q5_K_S и Q6_K. Поддерживаемый формат и способ запуска делают модель подходящей для локального вывода, но README не содержит сведений об архитектуре, числе параметров, размере контекста, языках и мультимодальных возможностях. Для работы следует использовать указанный шаблон промпта с ролями system, user и assistant. Модель распространяется по лицензии MIT.

YamMulti_verse_model-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit. Разработчик объединил mayacinka/yam-jom-7B-slerp и ammarali32/multi_verse_model методом DARE TIES; в карточке базовой для слияния указана mayacinka/yam-jom-7B-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста на основе текстового запроса. Её можно использовать для диалогов, написания и продолжения текста, а также для других сценариев генерации. Данные не уточняют специализацию по языкам или прикладным областям. Модель распространяется в формате safetensors и рассчитана на работу через Transformers. Сведения о лицензии и известных ограничениях в предоставленных источниках отсутствуют.

Yamshadowexperiment28Ognoexperiment27multi_verse_model-7B — слитая модель для генерации текста, созданная Maxime Labonne из automerger/YamshadowExperiment28-7B и automerger/Ognoexperiment27Multi_verse_model-7B методом SLERP с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с архитектурой MistralForCausalLM, объёмом 7,1 млрд параметров и контекстом до 32 768 токенов. Веса представлены в формате safetensors. Модель предназначена для генерации текста и диалогов. Для неё указана лицензия Apache-2.0. Карточка не приводит оценок качества или конкретных специализированных сценариев, поэтому пригодность результата стоит проверять на целевых запросах.

YamYam-7B — объединённая языковая модель на архитектуре Mistral, созданная с помощью mergekit и метода SLERP из mayacinka/yam-jom-7B и mayacinka/yam-jom-7B-slerp. Модель предназначена для генерации текста и имеет около 7,1 млрд параметров; заявленная длина контекста — до 32 768 токенов. Модель можно применять для генерации продолжений текста и диалоговых ответов в системах на базе Transformers. В README приведена конфигурация слияния в формате bfloat16; репозиторий содержит веса safetensors. Языки и специализированные предметные области в предоставленных данных не обозначены. Лицензия в карточке и метаданных не приведена.

Minami-su/Yi_34B_Chat_2bit — чат-модель генерации текста на основе Yi объёмом 33,9 млрд параметров, представленная в 2-битной квантизации весов методом QuIP#. По README, такой формат рассчитан на запуск на GPU с 11 ГБ памяти и стремится приблизить качество к fp16 при существенно меньшем объёме весов. Модель построена на плотной архитектуре LlamaForCausalLM; нативный контекст составляет 4096 токенов. Модель предназначена для диалоговой генерации текста. Репозиторий содержит веса в формате safetensors и распространяется по лицензии Apache-2.0. Карточка не описывает конкретные языки, наборы данных или результаты оценки качества.

Zen Alta 1-3B — исходная непрунированная базовая версия модели проекта Zen Alta от ZenithLLM, созданная на основе Meta-Llama-3.2-3B-Instruct. Это плотная 28-слойная авторегрессионная модель семейства Llama с 3,21 млрд параметров для генерации текста и диалогов; заявленный размер контекста — 131 072 токена. В репозитории доступны веса FP16 в формате safetensors и квантованный вариант GGUF Q4_K_M, а также конфигурация для Ollama. Модель подходит для локальных диалоговых сценариев и генерации текста. README характеризует её как ранний базовый чекпойнт: более быстрая версия с 24 слоями и DPO-настройкой опубликована отдельно как производственный релиз, поэтому эта версия не содержит описанных улучшений Phase 2. Лицензия — Llama 3.2; применяются условия лицензии Meta.

Это чат-модель Mistral с 7,1 млрд параметров, дообученная разработчиком на предыдущей версии ShenaoZ/0.0005_withdpo_4iters_bs256_555lr_iter_2. Согласно карточке, для дообучения использовались обновлённый и исходный наборы данных; теги указывают на применение DPO. Модель предназначена для генерации текста в диалоговом формате и принимает текстовые запросы, выдавая текстовые ответы. Максимальная длина контекста составляет 32 768 токенов. Модель опубликована в формате safetensors под лицензией MIT. README не содержит описания целевых сценариев, результатов оценки или конкретных ограничений, поэтому качество на отдельных задачах по доступным сведениям оценить нельзя.

ishikaa/acquisition_student_RL_AS_confidence_omnimath_llama8b — языковая модель для генерации текста на базе архитектуры Llama, опубликованная пользователем ishikaa на Hugging Face. По метаданным, модель содержит около 7,5 млрд параметров, поддерживает контекст до 131 072 токенов и работает через библиотеку Transformers. В тегах указаны conversational, TRL и GRPO, что указывает на возможность диалогового применения и обучение с использованием Group Relative Policy Optimization. Модель предназначена для генерации продолжений текста и диалоговых ответов, а также для встраивания в приложения, использующие совместимые с Transformers сценарии text-generation. Большое контекстное окно позволяет обрабатывать длинные запросы и документы. Сведения о разработчике, базовой модели, языках, обучающих данных, результатах оценки и лицензии в предоставленных источниках отсутствуют, поэтому применять модель в продуктивных или чувствительных сценариях следует с дополнительной проверкой качества и безопасности.

Agent-FLAN-7B — языковая модель на 6,6 млрд параметров для выполнения агентных задач и использования инструментов. Модель опубликована командой InternLM и дообучена на основе Llama 2 7B с применением набора данных Agent-FLAN; в обучении также использовались AgentInstruct, ToolBench и ShareGPT. Архитектура — плотная авторегрессионная InternLMForCausalLM, формат весов — PyTorch, контекст — до 8192 токенов. Модель предназначена для диалоговых сценариев, где требуется следовать инструкциям, рассуждать при выполнении многошаговых задач и взаимодействовать с инструментами. Она использует формат бесед Llama 2 Chat и, согласно описанию статьи, улучшает агентные способности базовой модели и снижает галлюцинации благодаря включению негативных примеров. Карточка не описывает отдельные целевые языки и не приводит измерений качества для конкретных инструментов или прикладных областей. Лицензия — Apache 2.0.

Asherah — языковая модель ResplendentAI на архитектуре Mistral с 7,1 млрд параметров и контекстом до 8192 токенов. Модель создана слиянием четырёх моделей Sanji Watsuki, после чего дообучена на наборах Gnosis и Synthetic Soul. Модель предназначена для генерации текста и стандартного использования как LLM. В репозитории также есть mmproj для мультимодального использования в формате GGUF; автор рекомендует Koboldcpp. Мультимодальные возможности доступны только пользователям GGUF, а без них модель можно применять как обычную языковую модель. Доступны файлы Safetensors и GGUF F16. Лицензия — Apache-2.0. Карточка не приводит оценки качества или подробных ограничений генерации.

BabyHydra-dare — объединённая методом DARE-TIES языковая модель на архитектуре Mistral, созданная автором репозитория из нескольких моделей, включая WizardMath-7B-V1.1 и Slerp-CM-mist-dpo. В конфигурации слияния также указана OpenPipe/mistral-ft-optimized-1218 как базовая модель. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста. В README не приведены отдельные инструкции или результаты оценки, поэтому конкретные преимущества слияния и качество на задачах нельзя установить по доступным данным. Репозиторий содержит веса в формате safetensors; сведения о лицензии отсутствуют в предоставленных источниках.

Это GGUF-квантизированная версия языковой модели badger-lambda-llama-3-8b, разработанной maldv и подготовленной квантизатором bartowski. Модель основана на архитектуре Llama 3, содержит 8 млрд параметров и предназначена для генерации текста. Квантизация выполнена с использованием llama.cpp версии b3130 и метода imatrix, что позволяет запускать модель в форматах с различным соотношением качества, скорости и требований к памяти. Модель подходит для локального инференса и текстовых сценариев, включая диалоговую генерацию и обработку запросов в формате system/user/assistant. Доступны варианты от Q8_0 размером 8,54 ГБ до IQ2_XS размером 2,60 ГБ. Наиболее качественными считаются Q8_0 и Q6_K, а варианты Q5 и Q4 рекомендуются как компромисс между качеством и потреблением памяти; низкобитные варианты Q3 и Q2 требуют меньше ресурсов, но заметно уступают по качеству. В README не указаны поддерживаемые языки, длина контекста, точные характеристики исходной модели и результаты независимых тестов. Модель работает только с текстом, а качество и требования к ресурсам зависят от выбранного варианта квантизации. Лицензия — CC BY-NC 4.0, допускающая использование с некоммерческими ограничениями.

Calme-7B-Instruct-v0.5-GGUF — набор квантованных файлов в формате GGUF для модели Calme-7B-Instruct-v0.5, разработанной MaziyarPanahi. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций в локальных приложениях, поддерживающих GGUF. Модель имеет размер около 7 млрд параметров и относится к текстовым языковым моделям; в метаданных также указан тег mistral, однако подробности архитектуры, языки и размер контекстного окна не приведены. Доступны варианты квантования от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и сохранением качества. Формат поддерживается llama.cpp, text-generation-webui, LM Studio, GPT4All, KoboldCpp и другими совместимыми инструментами. Главные преимущества — возможность запуска локально, широкий выбор уровней квантования и совместимость с популярной экосистемой GGUF. Ограничения связаны с потерями качества при использовании более агрессивного квантования, а также с отсутствием в README данных о результатах тестирования, языковой специализации, контекстном окне и конкретных требованиях к оборудованию. Для модели указана лицензия Apache 2.0.

DeepSeek-V4-Flash-0731-Vision-NVFP4 — экспериментальная мультимодальная модель, разработанная WebBrain на базе DeepSeek-V4-Flash-0731 и конвертированной версии MJPansa/DeepSeek-V4-Flash-0731-NVFP4. Для обработки изображений используется замороженный vision-энкодер MoonViT-3d из Kimi-K2.6, соединённый с языковой моделью обученным WebBrain проектором PatchMerger и routing bridge. Модель предназначена для задач, где требуется совместно анализировать текст и визуальное состояние интерфейса: работы браузерных агентов, понимания скриншотов, графиков, дашбордов, редакторов и элементов управления. Проектор выполняет нормализацию, объединение патчей 2×2 и последовательность линейных преобразований с GELU. Интеграция поддерживает один маркер изображения и рассчитана максимум на 512 объединённых image-токенов. Текстовая часть использует смешанную точность: веса routed experts представлены в NVFP4, а attention, shared experts, head, MTP и другие пути сохраняют исходные форматы; это не полностью NVFP4-модель. Vision tower и проектор используют BF16. Архитектура не совместима напрямую со стандартными Transformers или стандартным SGLang: требуются внешний пакет модели и процессора WebBrain, специальный патч и указанная версия SGLang. Решение ориентировано на оборудование Blackwell, а повторная полная проверка загрузки и генерации изображений для собранного чекпойнта ещё не выполнена. Лицензия указана как other; подробные условия использования в карточке не приведены.

deepthought-8b-llama-v0.01-alpha-GGUF — это набор GGUF-квантизаций языковой модели deepthought-8b-llama-v0.01-alpha, разработанной ruliad и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и локального запуска через llama.cpp или совместимые приложения, включая LM Studio. В README указан английский язык и формат промпта с ролями system, user и assistant. Модель относится к семейству Llama и имеет размер 8 миллиардов параметров. Доступны варианты от F32 и F16 до различных квантизаций Q8_0, Q6_K, Q5_K, Q4_K и Q3_K, а также IQ-форматы; размер файлов составляет примерно от 4,45 до 32,13 ГБ. Квантизации выполнены с использованием imatrix и llama.cpp, что позволяет выбирать баланс между качеством, требованиями к памяти и скоростью локального вывода. Рекомендуемыми для большинства сценариев названы варианты Q4_K_M, Q5_K и Q6_K. Сильными сторонами являются возможность автономного запуска, широкий выбор уровней квантизации и поддержка различных аппаратных конфигураций, включая некоторые ARM-оптимизированные варианты. README не содержит сведений о контекстном окне, обучающих данных, точных архитектурных деталях, специализированных задачах, мультимодальности или ограничениях качества, поэтому оценивать эти характеристики нельзя. Модель распространяется по лицензии llama3.1; для отдельных вариантов указаны ограничения совместимости, например некоторые ARM-квантизации не предназначены для Mac или GPU.

Densefin-291-Mistral-22B — разговорная языковая модель семейства Mistral, опубликованная lodrick-the-lafted. Она предназначена для генерации текста и диалогов. По метаданным, модель плотная, содержит 22 млрд параметров, использует архитектуру MistralForCausalLM и принимает контекст до 65 536 токенов. Карточка описывает её как результат небольшого изменения тензоров для преобразования Mixtral с одним экспертом в вариант Mistral; исходная базовая модель не названа. Модель распространяется в формате safetensors под лицензией Apache-2.0. В метаданных указана возможность чата, однако README не сообщает результатов оценки качества или подробностей о возможностях и ограничениях такой модификации.