II.1Анализ требований и архитектура ПО

LFM2-2.6B-Uncensored-X64 — разговорная версия языковой модели LiquidAI/LFM2-2.6B, опубликованная Justbackup. Это плотная авторегрессионная модель семейства LFM2 с примерно 2,4 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 128 000 токенов. Модель предназначена для генерации текста и диалогов; карточка называет её uncensored-версией базовой модели и приводит результаты нескольких тестов на общие знания и рассуждение. Её можно использовать для ответов на вопросы, диалоговых ассистентов и работы с длинными текстовыми запросами. README показывает формат чата, совместимый с использованием в Transformers. В карточке указана лицензия Apache-2.0. Модель не следует считать проверенной для задач с высокими требованиями к точности: опубликованные тесты ограничены несколькими бенчмарками, а результаты могут зависеть от точности вычислений и конфигурации запуска.

TheBloke опубликовал конвертированную в формат Transformers версию Llama 2 7B Chat, разработанной Meta. Это плотная авторегрессионная языковая модель на архитектуре Transformer, содержащая около 6,6 млрд параметров и предназначенная для диалоговых сценариев. Вариант Chat прошёл supervised fine-tuning и обучение с подкреплением на основе отзывов людей; веса представлены в форматах PyTorch и safetensors. Модель принимает текст и генерирует текст, поддерживает контекст до 4096 токенов и рассчитана прежде всего на англоязычный диалог с ассистентом: ответы на вопросы, инструкции и генерацию текста. Для ожидаемого поведения Chat требуется специальный формат входа Llama 2 с маркерами инструкций и служебными токенами. Модель может выдавать неточные, предвзятые или нежелательные ответы; перед применением в продукте необходима проверка безопасности и настройка под сценарий. Карточка ориентирует использование на английский язык. Доступ и использование регулируются специальной лицензией Meta для Llama 2; для получения весов требуется принять её условия.

uygarkurt/llama3s-merged-linear — объединённая модель на базе семейства Llama 3, созданная автором репозитория с помощью mergekit. В README указано, что автор выбрал три модели с высоким рейтингом в Open LLM Leaderboard и объединил их без дополнительного обучения. Архитектура — плотная авторегрессионная модель LlamaForCausalLM примерно на 7,5 млрд параметров; формат весов — safetensors, контекст — до 8192 токенов. Модель предназначена для генерации текста в диалоговом режиме и может использоваться для ответов на запросы, написания черновиков и других задач общения с языковой моделью. Репозиторий распространяется по лицензии MIT. README называет результат «ranking model», однако метаданные относят его к генерации текста; сведений о специальной обученности для ранжирования нет.

Luban 13B GGUF — языковая модель для генерации текста, разработанная AIDC-ai-business на базе AIDC-ai-business/Luban-13B и преобразованная в формат GGUF пользователем TheBloke. Модель относится к архитектуре Llama, содержит около 13 миллиардов параметров и предназначена для выполнения инструкций и формирования ответов на текстовые запросы. Модель ориентирована на сценарии текстовой генерации, включая ответы на инструкции, диалоговые приложения и локальный запуск через llama.cpp и совместимые интерфейсы. В карточке указаны английский язык и датасет Open-Orca. Для запросов используется шаблон Alpaca с разделами Instruction и Response. Формат GGUF поддерживает метаданные, специальные токены и различные варианты квантования; доступны файлы с разрядностью от 2 до 8 бит для инференса на CPU и GPU. К сильным сторонам относятся возможность локального запуска, широкий выбор уровней квантования и совместимость с llama.cpp, text-generation-webui, LM Studio, KoboldCpp и другими библиотеками и интерфейсами. Ограничения включают ориентацию преимущественно на английский язык, отсутствие мультимодальных возможностей и зависимость качества, скорости и требований к памяти от выбранного варианта квантования. Модель предназначена для текстовой генерации и не заявлена как специализированная система для других модальностей. Указана лицензия cc-by-nc-4.0 исходной модели. README также сообщает о применимости условий лицензии Meta Llama 2, поэтому модель следует считать подпадающей под обе лицензии; их взаимодействие требует отдельной проверки перед использованием, особенно в коммерческих сценариях.

M7Yamshadowexperiment28_Experiment26Shadow — объединённая модель на базе Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Experiment26Shadow-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы на запросы или продолжение текста. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате Safetensors по лицензии Apache-2.0. README подтверждает объединение двух моделей, но не описывает способ слияния, языковую специализацию или результаты оценки качества.

M7Yamshadowexperiment28_T3qm7xStrangemerges_32 — объединённая текстовая модель, созданная на основе automerger/M7Yamshadowexperiment28-7B и automerger/T3qm7xStrangemerges_32-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужны ответы или продолжение текста. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Репозиторий содержит веса в формате Safetensors. В метаданных и README не указаны языковая специализация или дополнительные возможности. Лицензия — Apache-2.0.

Mercury 2.5 — языковая модель на основе диффузии (dLLM), разработанная Inception. Она предназначена для генерации текста и рассуждений; вместо последовательной выдачи токенов модель генерирует и уточняет несколько токенов параллельно. В доступной части карточки Mercury 2.5 названа самой быстрой reasoning LLM компании и её новейшей диффузионной языковой моделью. Данных о размере, контексте, языках, лицензии и ограничениях в предоставленных материалах нет.

MFANN3bv0.20.16 — слитая языковая модель семейства Phi, созданная автором репозитория с помощью mergekit. В основе слияния TIES лежит liminerity/Phigments12; также объединены netcat420/MFANN3bv0.20 и netcat420/MFANN3bv0.20.15. Модель содержит 3,5 млрд параметров и рассчитана на генерацию текста с контекстом до 32 768 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

Карточка модели theship87/ministral-4b-fork на Hugging Face совпадает с карточкой ministral/Ministral-4b-instruct, поэтому описание составлено по ней. Ministral-4b-instruct — плотная GPT-подобная языковая модель семейства Mistral от Mistral AI, дообученная на смеси общедоступных и синтетических наборов данных. Она содержит 4,3 млрд параметров и предназначена для генерации текста и диалогового взаимодействия на английском языке. Модель использует архитектуру MistralForCausalLM и принимает текст, формируя текстовые ответы. Длина контекста составляет 32 768 токенов. Базовая модель — mistralai/Mistral-7B-v0.1; веса доступны в формате safetensors. Модель подходит для диалоговых приложений и генерации текста. Лицензия Apache 2.0 разрешает коммерческое использование. Карточка указывает английский как основной язык модели.

Ministral-4b-instruct — плотная GPT-подобная языковая модель семейства Mistral от Mistral AI, дообученная на смеси общедоступных и синтетических наборов данных. Она содержит 4,3 млрд параметров и предназначена для генерации текста и диалогового взаимодействия на английском языке. Модель использует архитектуру MistralForCausalLM и принимает текст, формируя текстовые ответы. Длина контекста составляет 32 768 токенов. Базовая модель — mistralai/Mistral-7B-v0.1; веса доступны в формате safetensors. Модель подходит для диалоговых приложений и генерации текста. Лицензия Apache 2.0 разрешает коммерческое использование. Карточка указывает английский как основной язык модели.

zelk12 выпустил объединённую модель Gemma 2 для генерации текста и диалогов. Она создана с помощью mergekit: веса двух предварительно обученных моделей, recoilme-gemma-2-Ifable-9B-v0.1 и recoilme-gemma-2-Gutenberg-Doppel-9B-v0.1, объединены методом SLERP. Модель имеет плотную архитектуру Gemma2ForCausalLM, содержит 9 млрд параметров и использует формат safetensors. Модель предназначена для диалогового взаимодействия и генерации текста по запросу. Контекст составляет до 8192 токенов. Указана лицензия Gemma; условия её использования следует сверить с лицензией базовых моделей. Данных о целевых языках и специализированных областях применения в карточке нет.

Multi Master 7Bx5 v6 — языковая модель, обученная ibivibiv для экспериментов с настройкой маршрутизации экспертов в моделях семейства Mixtral и решения задач из разных областей. Это версия с 7,1 млрд параметров на архитектуре MoE Mixtral, реализованная как MixtralForCausalLM и распространяемая в формате safetensors. Модель создана на основе openchat/openchat-3.5-0106: к ней применили LoRA дообучение, а затем объединили адаптер с основной моделью. Модель предназначена для генерации текста по инструкциям в шаблоне Alpaca и для многоцелевого использования на английском языке. В карточке приведены результаты бенчмарков, включая средний балл 75,66, ARC 72,78 и HellaSwag 88,77; полные результаты остальных тестов в доступном тексте не раскрыты. Контекстное окно составляет 32 768 токенов. Модель использует библиотеку Transformers и распространяется по лицензии Apache-2.0.

Модель minjaechoi/nemotron3-nano-30b-a3b-2p03bit-r34 — исследовательский чекпойнт семейства NVIDIA Nemotron-3 Nano, подготовленный на основе nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. В README указано, что средняя точность маршрутизируемых экспертов составляет 2,025 бита, а остальные веса имеют формат BF16; веса хранятся в BF16-тензорах после деквантизации. Модель загружается через Transformers и vLLM. Это языковая модель для генерации текста и диалогов; метаданные также отмечают интерфейс вызова инструментов. Она принимает текст и рассчитана на контекст до 262 144 токенов. Размер в метаданных указан как 1,9 млрд параметров. Данные о конкретных поддерживаемых естественных языках отсутствуют. Чекпойнт помечен как внутренний исследовательский. Лицензия наследуется от базовой модели; её условия следует проверять в карточке nvidia/NVIDIA-Nemotron-3-Nano-30B-A3B-BF16. Карточка не приводит оценок качества или перечня известных ограничений.

NeuralDarewin-7B — объединённая модель на основе Mistral, опубликованная mlabonne. Она предназначена для генерации текста и может использоваться как языковая модель общего назначения. В карточке приведены результаты оценивания на бенчмарках рассуждений и понимания текста. Модель имеет плотную архитектуру MistralForCausalLM и содержит 7,1 млрд параметров. Нативная длина контекста — 32 768 токенов. Модель создана слиянием шести моделей, включая Intel/neural-chat-7b-v3-3, openchat/openchat-3.5-0106 и mlabonne/NeuralHermes-2.5-Mistral-7B. Доступна в формате safetensors. Лицензия — Apache-2.0. Карточка не сообщает о специализированной предметной области или языковой специализации.

NeuralExperiment26-7B — объединённая Maxime Labonne модель для генерации текста, созданная автоматическим слиянием двух моделей Mistral: Kukedlc/Neural-Krishna-Multiverse-7b-v3 и yam-peleg/Experiment26-7B. В карточке указано слияние методом SLERP с настройками для слоёв self-attention и MLP. Модель содержит 7,1 млрд параметров, использует архитектуру Mistral и формат safetensors. Заявленная длина контекста — 32 768 токенов. Она предназначена для генерации текста; сведения о специализации по языкам или предметным областям в карточке не приведены. Лицензия — Apache-2.0.

Kukedlc/NeuralKrishna-7B-V2-DPO — дообученная языковая модель семейства Mistral для генерации текста. Модель содержит 7,1 млрд параметров, использует плотную архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Карточка описывает тонкую настройку и приводит результаты оценивания на наборах Open LLM Leaderboard, включая AI2 Reasoning Challenge и HellaSwag. Модель можно применять для генерации ответов и текста на основе текстового запроса. Данных о поддерживаемых естественных языках и специализированных областях в карточке нет. Веса опубликованы в формате Safetensors. Лицензия — Apache-2.0. Результаты из карточки не заменяют оценку качества на задачах конкретного пользователя.

NeuralsirkrishnaShadow_Strangemerges_32Yam — слитая модель семейства Mistral для генерации текста. Она создана объединением моделей automerger/NeuralsirkrishnaShadow-7B и automerger/Strangemerges_32Yam-7B; тип архитектуры — плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживая контекст до 32 768 токенов. Модель предназначена для генерации продолжений и ответов на текстовые запросы. Карточка не описывает специализированные сценарии, обучающие данные или языковое покрытие, поэтому её практическое качество для конкретных задач и языков следует проверять отдельно. Файлы весов представлены в формате safetensors; лицензия — Apache-2.0.

OLMo-2-0325-32B-SFT — англоязычная текстовая модель Ai2, полученная дообучением с учителем модели allenai/OLMo-2-0325-32B на варианте набора Tülu 3. Это плотная авторегрессионная архитектура OLMo 2 с 31,7 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия. Модель принимает текст и выдаёт текст; её контекст составляет 4096 токенов. Модель подходит для диалоговых ассистентов, ответов на вопросы, следования инструкциям и генерации текста на английском языке. Ai2 публикует код, контрольные точки и сведения об обучении серии OLMo. Модель распространяется по лицензии Apache 2.0. В карточке отмечено, что у моделей OLMo-2 ограничено обучение безопасному поведению; без дополнительной фильтрации они могут выдавать проблемные ответы, особенно в ответ на соответствующие запросы. Для загрузки через Transformers README указывает на необходимость версии из основной ветки проекта.

OLMo 7B April 2024 Instruct — языковая модель Allen Institute for AI (AI2), дообученная для ответов на вопросы и выполнения инструкций. Это авторегрессионный трансформер семейства OLMo с плотной архитектурой и 6,7 млрд параметров; версия Instruct обучена методом SFT и DPO на смеси Tulu 2 SFT и очищенном UltraFeedback. Базовая модель обучалась на наборе Dolma. Модель предназначена для диалогов, ответов на вопросы и генерации текста на английском языке. В README для базового выпуска указан контекст 4096 токенов, тогда как метаданные этой модели указывают native context 2048 токенов. Для работы с Transformers требуется версия 4.40.0 или новее. Модель распространяется по лицензии Apache 2.0. Это исследовательский артефакт без специального фильтра безопасности или отдельного обучения безопасности. Модель может выдавать вредоносный или чувствительный контент, предвзятые либо фактически неверные ответы, поэтому результаты следует проверять и при необходимости применять защитные меры.

JCX-kcuf/openchat_3.5-gpt-4-80k — диалоговая языковая модель на архитектуре MistralForCausalLM, дообученная на данных дистилляции GPT-4. Она основана на openchat/openchat_3.5 и предназначена для генерации ответов в формате OpenChat; для запросов используется шаблон «GPT4 Correct User: {query}GPT4 Correct Assistant: {answer}». Модель содержит 7,1 млрд параметров и имеет контекст длиной 8192 токена. Модель подходит для чат-ботов, ответов на вопросы и генерации текста по запросу. Карточка не сообщает о поддержке конкретных языков. Распространяется по лицензии Apache-2.0.

Orca Mini v9.4 — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.3 70B Instruct. Она предназначена для генерации текста в формате диалога с ассистентом и может использоваться для ответов на вопросы, написания текстов и создания чат-ботов. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекстное окно до 131 072 токенов. В карточке указаны английский язык и датасеты Orca Mini; базовая Llama 3.3 поддерживает также французский, немецкий, хинди, итальянский, португальский, испанский и тайский, однако качество этих языков именно у Orca Mini отдельно не подтверждено. Весовые файлы представлены в форматах PyTorch и safetensors. Модель может генерировать неточные, предвзятые или нежелательные ответы, поэтому её поведение и безопасность следует проверять для конкретного применения. Использование регулируется лицензией Llama 3.3 (llama3.3).

bunsenfeng/parti_11_full — генеративная языковая модель для создания текста, опубликованная пользователем bunsenfeng на Hugging Face. Модель совместима с библиотекой Transformers и использует архитектурное семейство Qwen2, что следует из метаданных репозитория. Объём модели составляет 7,1 млрд параметров, а нативная длина контекста — 32 768 токенов. Модель предназначена для задач генерации текста и может применяться в диалоговых сценариях, создании и продолжении текстов, подготовке черновиков и интеграции в приложения на базе Transformers. В метаданных также указана conversational-ориентация, однако README не содержит сведений о специализированном дообучении, языках, наборах данных, результатах оценки или рекомендованных сценариях использования. Лицензия в предоставленных данных не указана. Из-за отсутствия описания обучения и тестирования нельзя подтвердить качество модели для конкретных предметных областей, устойчивость ответов, безопасность или фактическую поддержку определённых естественных языков.

Sakalti/Qwen2.5-7B-Mini — языковая модель, созданная автором репозитория с помощью mergekit методом Model Stock на основе Qwen/Qwen2.5-7B-Instruct. В конфигурации указано объединение диапазонов слоёв исходной модели; в метаданных размер модели указан как 2,2 млрд параметров, а формат весов — safetensors. Модель предназначена для генерации текста и диалогового общения. Она принимает текст и выдаёт текст, поддерживает английский язык и имеет контекст длиной до 32 768 токенов. Метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение или качество. Модель распространяется по лицензии Apache-2.0.

Это квантизированная модель для генерации текста brunopio/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap-Q4_K_M-GGUF, созданная на основе tvall43/Qwen3.5-14B-A3B-Claude-4.6-Opus-Reasoning-Distilled-reap. Модель преобразована в формат GGUF с помощью llama.cpp и проекта GGUF-my-repo. В названии и тегах указаны архитектура Qwen3.5 MoE с 14 млрд параметров и 3 млрд активных параметров, а также специализация на reasoning-задачах и дистилляции рассуждений. Разработчик базовой модели и автор исходной дистрибуции — tvall43; текущую конверсию опубликовал brunopio. Модель предназначена для текстовой генерации и запуска через llama.cpp, включая локальный CLI-интерфейс и серверный режим. Она может использоваться для диалогов, решения задач, требующих рассуждений, и других сценариев генерации текста. В карточке заявлены языки китайский, английский и корейский. Также указана подготовка на наборах данных nohurry/Opus-4.6-Reasoning-3000x-filtered и Jackrong/Qwen3.5-reasoning-700x. Ключевое преимущество модели — компактный GGUF-представитель с квантизацией Q4_K_M, удобный для локального инференса средствами llama.cpp. Ограничения заключаются в отсутствии в карточке подробных результатов тестирования, точного максимального размера контекста и характеристик производительности. В примере запуска используется контекст 2048 токенов, но это не подтверждает максимальный размер контекста модели. Модель распространяется по лицензии Apache-2.0.

JANGQ-AI/Qwen3.5-397B-A17B-JANG_1L — версия Qwen3.5-397B-A17B, подготовленная Jinho Jang с применением адаптивной смешанной квантизации JANG для запуска через MLX на компьютерах Mac с Apple Silicon. Модель имеет архитектуру MoE с гибридом GatedDeltaNet и полнослойного внимания: из 397 млрд параметров активны около 17 млрд, используются 512 экспертов на слой и top-10 активных экспертов. Профиль JANG_1L хранит экспертные MLP в 2-битном формате, а внимание, маршрутизаторы и эмбеддинги — в 8-битном; размер файлов составляет около 112 ГБ. Модель предназначена для диалогов, генерации текста и пошаговых рассуждений, а также анализа изображений. В карточке заявлена поддержка VLM и режима reasoning; приведён результат 86,5% на тесте MMLU из 200 вопросов при включённом reasoning, а также скорости генерации и обработки изображений. Для запуска требуется Mac с Apple Silicon и не менее 128 ГБ объединённой памяти, а также MLX Studio или пакет jang[mlx] версии 2.1.5 и выше. Лицензия — Apache-2.0. Это сильно сжатая производная базовой модели, поэтому качество может отличаться от исходной модели и других профилей квантизации; опубликованный результат MMLU основан на ограниченном наборе вопросов. Указанная конфигурация ориентирована на MLX и Apple Silicon, а карточка сообщает о несовместимости формата JANG с LM Studio, Ollama и oMLX.

Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled-i1-GGUF — квантизированная GGUF-версия модели hesamation/Qwen3.6-35B-A3B-Claude-4.6-Opus-Reasoning-Distilled, подготовленная mradermacher. Модель основана на архитектуре Qwen3.6 с разреженной MoE-структурой и заявленным размером 35B параметров; активная конфигурация обозначена как A3B. Обучение или дистилляция связаны с наборами данных, содержащими примеры рассуждений и ответов Claude Opus, а также Qwen reasoning-данные. Модель предназначена для генерации текста, диалоговых сценариев и задач, требующих рассуждений. В README она также обозначена как vision model и image-text-to-text модель, поэтому может поддерживать обработку изображений вместе с текстом при наличии соответствующего mmproj-файла. Заявлен английский язык; сведения о длине контекста, точной поддержке других языков, результатах тестирования и рекомендуемых параметрах запуска отсутствуют. Главное преимущество — сочетание reasoning-направленности, MoE-архитектуры и большого набора вариантов квантизации, позволяющих выбирать компромисс между размером, скоростью и качеством. При этом низкобитные варианты могут заметно терять в качестве: для некоторых файлов README прямо указывает на очень низкое или сниженное качество. Модель распространяется под лицензией Apache-2.0; конкретные условия использования базовой модели и датасетов отдельно не раскрыты.

Qwen3.8-27B-ASCII-Condensed — текстовая GGUF-модель, созданная bsaleh03 на основе Qwen/Qwen3.8-27B и квантованной сборки unsloth/Qwen3.8-27B-GGUF. Это не дообучение, дистилляция или повторное квантование: из квантованной модели удалены строки словаря для не-ASCII-токенов, а токенизатор адаптирован к сокращённому словарю. Модель предназначена для генерации текста и работы с длинным контекстом через llama.cpp, прежде всего на одной видеокарте с 16 ГБ памяти. Словарь уменьшен с 248 320 до 129 006 строк, при этом остальные 864 из 866 тензоров побитово идентичны базовой квантованной модели. На RTX 5070 Ti с 16 ГБ заявлена поддержка до 135 168 токенов контекста при использовании q4_0 для KV-кэша; максимальная длина зависит от типов KV-кэша и доступной видеопамяти. Модель сохраняет MTP-голову для спекулятивного декодирования, а на ASCII-тексте токенизация совпадает с базовой моделью. Основное преимущество — экономия видеопамяти и увеличение доступного контекста без изменения большинства весов. Ограничение — ASCII-ориентированный словарь: английский язык, код и ASCII-пунктуация обрабатываются без дополнительных затрат, но символы с диакритикой, кириллица, CJK и другие не-ASCII-тексты требуют больше токенов; для работы преимущественно на неанглийских языках сборка не рекомендуется. Модель поддерживает только текстовый режим, файл mmproj отсутствует, а смешанные типы KV-кэша требуют пропатченной версии llama.cpp. Распространяется по лицензии Apache 2.0, унаследованной от базовой модели.

Qwen3.8-27B-thinkingcap-abliterated-GGUF — GGUF-квантизированная версия модели hotdogs/Qwen3.8-27B-thinkingcap-abliterated, подготовленная и опубликованная mradermacher. Модель дообучалась на датасете hotdogs/thinkingcap-sft-qwen38-27b и ориентирована на генерацию текста, рассуждения и эффективное использование токенов. В метаданных указан английский язык. Размер базовой модели — 27B параметров. Доступны варианты квантизации GGUF от Q2_K до Q8_0, включая IQ4_XS и несколько вариантов K-квантизации; размеры файлов составляют примерно от 11 до 29,1 ГБ. Для вариантов Q4_K_S и Q4_K_M заявлены высокая скорость и рекомендованный статус, а Q8_0 описан как вариант с лучшим качеством. Также предоставлены файлы mmproj для мультимодального дополнения, однако конкретные поддерживаемые типы входных данных и размер контекстного окна в README не указаны. Сильными сторонами являются широкий выбор уровней квантизации, возможность запуска в средах, совместимых с GGUF, и специализация исходной модели на reasoning и token-efficient подходах. Качество и требования к памяти зависят от выбранного варианта: более компактные квантизации экономичнее, но могут снижать качество, тогда как Q6_K и Q8_0 требуют больше ресурсов. Модель помечена как abliterated, но последствия этого для поведения и безопасности в README не раскрыты. Лицензия — Apache-2.0.

Weyaxi/Qwen-72B-Llama — преобразованная версия Qwen/Qwen-72B, созданная автором репозитория Weyaxi с помощью скрипта llamafy_qwen.py из LLaMA-Factory. Это плотная авторегрессионная языковая модель семейства Llama с 71 млрд параметров, предназначенная для генерации текста; веса опубликованы в формате safetensors, длина контекста составляет 32 768 токенов. Автор сообщает, что после преобразования весов использовал токенизатор из KnutJaegersberg/Qwen-14B-Llamafied. Модель подходит для генерации продолжений и ответов на текстовые запросы. В приведённом автором сравнении средний результат на Open LLM Leaderboard ниже, чем у исходной Qwen-72B: 69,53 против 73,6; оценки ARC и HellaSwag также немного ниже. Лицензия указана как other, поэтому условия использования следует проверять в карточке репозитория и у базовой модели.

Reflection Llama-3.1 70B — языковая модель на архитектуре Llama 3.1, разработанная Matt Shumer и дообученная методом Reflection-Tuning на синтетических данных Glaive. Она предназначена для диалогов и генерации ответов, в том числе для задач, где полезно перепроверять ход решения и исправлять обнаруженные ошибки. Модель содержит 69,5 млрд параметров, принимает текст и поддерживает контекст до 8192 токенов. При генерации модель оформляет рассуждение и итоговый ответ специальными токенами; в ходе рассуждения она может обозначать исправление ошибки. Для взаимодействия используется формат чата Llama 3.1. В карточке указана лицензия Llama 3.1. Автор предупреждает о проблеме в первоначальной загрузке и рекомендует пользователям, столкнувшимся с плохими результатами, повторить попытку с исправленной версией. README предлагает параметры temperature 0,7 и top_p 0,95, но не приводит независимых подтверждений заявлений о качестве и превосходстве модели.