II.1Анализ требований и архитектура ПО
В разделе собраны самостоятельные задачи, где AI помогает переводить потребности бизнеса в непротиворечивые требования и технические решения. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
18 191 модельEVA-Qwen2.5-72B-v0.2-GGUF — это GGUF-квантизированная версия текстовой генеративной модели EVA-Qwen2.5-72B-v0.2, подготовленная пользователем bartowski с использованием llama.cpp и imatrix-квантизации. Базовая модель указана как EVA-UNIT-01/EVA-Qwen2.5-72B-v0.2; её основой является Qwen2.5-72B. Модель ориентирована на генерацию текста, следование инструкциям, написание различных материалов и ролевые сценарии. В обучающих данных использовались наборы для instruction-following, письма, roleplay и синтетической генерации, включая материалы на базе Opus, Sonnet 3.5, ChatGPT-4o и Dolphin. Модель доступна в нескольких вариантах квантования от Q8_0 до Q2_K и IQ-квантов, с размером файлов примерно от 27 до 77 ГБ. Более высокие варианты сохраняют лучшее качество, а низкобитные требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для запуска рекомендуется использовать LM Studio или совместимый с GGUF движок на базе llama.cpp. В README не указаны точная архитектура, размер контекста, поддерживаемые языки и мультимодальные возможности, поэтому модель следует рассматривать как текстовую. Лицензия обозначена как Qwen; в качестве официального документа приведена лицензия Qwen2.5-72B-Instruct. Условия конкретного использования необходимо проверять по указанному лицензионному тексту. Основные ограничения связаны с большими требованиями к памяти и снижением качества при использовании низких уровней квантования; вариант Q4_K_M описан как оптимальный по размеру для большинства сценариев, а Q6_K и Q5 считаются высококачественными рекомендуемыми вариантами.
Experiment26Yamshadow_Experiment24Alloyingotneoy — объединённая языковая модель семейства Mistral, созданная из automerger/Experiment26Yamshadow-7B и automerger/Experiment24Alloyingotneoy-7B. Она предназначена для генерации текста и работы в сценариях, где нужен диалоговый или иной текстовый вывод. Модель содержит 7,1 млрд параметров, использует архитектуру MistralForCausalLM и поддерживает контекст до 32 768 токенов. Веса опубликованы в формате safetensors. Репозиторий распространяется по лицензии Apache-2.0.
chanwit/flux-7b-base-stage-0 — объединённая языковая модель, созданная автором репозитория с помощью mergekit и метода SLERP из chanwit/flux-7b-base-stage-00 и Intel/neural-chat-7b-v3-3. Это плотная авторегрессионная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В README описана схема слияния и указано представление весов в bfloat16; метаданные указывают формат safetensors и возможность диалога. Сведений о лицензии и языках в предоставленных источниках нет.
FranQwenStein-35B — языковая модель на архитектуре Qwen2, собранная Nisten методом evo-merge из Qwen2.5-32B-Instruct, Qwen2.5-32B-AGI и Qwen2.5-32B-Base. Она предназначена для диалогов и генерации текста с выполнением системных инструкций; в карточке также приведены результаты оценок на нескольких бенчмарках. Модель содержит 33,9 млрд параметров и поддерживает контекст до 131 072 токенов. По README, слияние сохраняет защитные ограничения Qwen и усиливает следование системному промпту; автор сообщает о результате примерно на 1% выше Qwen2.5-72B-Instruct на GPQA Diamond Zero-Shot. Эти оценки приведены автором и не гарантируют аналогичного качества в других сценариях. Репозиторий распространяется в формате safetensors по лицензии MIT.
win10/Llama-3.1-13.3B — текстовая генеративная модель, созданная слиянием весов через mergekit методом passthrough на основе NousResearch/Meta-Llama-3.1-8B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель с длинным контекстом до 131072 токенов. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 12,7 млрд параметров; опубликована в формате safetensors для библиотеки Transformers. Карточка не описывает отдельную специализацию или результаты оценки качества. Базовая модель Llama 3.1 предназначена для многоязычной генерации текста, однако конкретные поддерживаемые языки этой сборки не перечислены. Лицензия в предоставленных данных не указана.
DavidAU/Llama3.1-MOE-4X8B-Gated-IQ-Multi-Tier-Deep-Reasoning-32B-GGUF — текстовая instruct-модель, разработанная DavidAU на базе Llama 3.1 и объединяющая четыре 8B-модели в конфигурации Mixture of Experts. В состав входят Llama-3.1-DeepHermes-3-8B-Preview для рассуждений, а также Llama-3.1-Hermes-3-8B, Llama-3.1-dolphin-2.9.4-8b и Llama-3.1-SuperNova-Lite для генерации и дополнительной обработки. Заявленный общий размер — 32B параметров, при этом модель описывается как имеющая около 25B весов. Распространяется в формате GGUF и рассчитана на контекст до 128K токенов. Модель предназначена для текстовой генерации, глубокого рассуждения, решения задач, творческого письма, сторителлинга, ролевых сценариев и работы с инструментами. Поддерживает управление режимом рассуждений через системные промпты, включая включение, отключение и многоуровневое рассуждение, а также совместима с вызовами инструментов благодаря встроенному Llama 3.1 Instruct. Заявлена поддержка английского, французского, немецкого, испанского, португальского, итальянского, японского, корейского, русского, китайского, арабского и ряда других языков. Сильными сторонами являются сочетание нескольких экспертных моделей, возможность управлять режимом рассуждений и универсальность сценариев применения. README рекомендует шаблон Llama 3 Instruct, контекст не менее 4K–8K токенов и более крупные квантизации для лучшего качества. К ограничениям относятся возможная нестабильность активации блока рассуждений, необходимость повторной генерации и зависимость качества от промпта, температуры и выбранной квантизации; заявленные улучшения производительности не подтверждены независимыми бенчмарками. Лицензия — Apache-2.0.
bartowski/Llama-3.3-70B-Instruct-GGUF — квантизированная версия инструкционной языковой модели Llama 3.3 70B Instruct, разработанной Meta и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для генерации текста и выполнения инструкций в диалоговых и прикладных сценариях, однако конкретные поддерживаемые языки, размер контекста и детали архитектуры в предоставленном README не указаны. Ключевая характеристика этой версии — квантизация, которая обычно позволяет снизить требования к памяти по сравнению с полноразмерными весами, но может сопровождаться некоторой потерей качества; конкретный уровень квантизации README не сообщает. Модель ориентирована на текстовые задачи, а сведения о мультимодальности отсутствуют. Ограничения, показатели качества и рекомендации по аппаратному обеспечению также не приведены, поэтому их нельзя достоверно оценить по имеющимся данным. Модель распространяется на условиях Llama 3.3 Community License от Meta. Лицензия предоставляет ограниченные права на использование, воспроизведение, распространение и модификацию при соблюдении условий соглашения, включая передачу текста лицензии, указание «Built with Llama», обязательное уведомление об авторских правах и соблюдение Acceptable Use Policy. Для продуктов или сервисов с более чем 700 миллионами ежемесячных активных пользователей требуется отдельное разрешение Meta.
Lumen-8b-05-2025 — языковая модель Noetic Labs, дообученная методом LoRA на базе Qwen3-8B. Она рассчитана на академические и технические запросы, сложное следование инструкциям и диалог. В обучении использованы менее 5 000 примеров из наборов EvolKit-75K и Academic-Chains; версия модели содержит около 7,6 млрд параметров и распространяется в формате safetensors. Модель принимает текст и генерирует текст. Метаданные указывают контекст до 40 960 токенов; в карточке заявлены 32 768 токенов нативно и возможность расширения до 131 072 с YaRN. Для сложных запросов автор рекомендует режим рассуждений. Это экспериментальный первый выпуск серии Lumen; автор предупреждает, что результаты на бенчмарках могут уступать исходной Qwen3-8B. Лицензия — Apache 2.0.
Marlowe-22B R1.5 — модель генерации текста с рассуждениями, созданная devvexus на основе Qwen3.8-27B. Разработчик удалил 12 линейно-аттенционных слоёв из исходной 27,32-миллиардной модели и восстановил часть потерь знаний дистилляцией и целевым дообучением. В репозитории опубликован GGUF-файл с квантизацией Q4_K_M; адаптер LoRA объединён с весами. Модель содержит 22,30 млрд параметров и 52 слоя, включая 36 слоёв DeltaNet и 16 слоёв полного внимания. Модель предназначена для диалогов и генерации текста с рассуждениями, в том числе инженерных и научно-технических задач. По описанию разработчика, сокращённая модель сохраняет 94,8% проверенных фактов родительской модели и рассчитана на запуск целиком на потребительском GPU с 16 ГБ памяти при Q4_K_M. Для запуска приведена конфигурация llama.cpp с контекстом 32 768 токенов и квантованием KV-кэша. В карточке указаны английский язык и лицензия Apache-2.0. Модель сохраняет часть возможностей Qwen3.8-27B, но её зрительная башня удалена, поэтому этот вариант предназначен для работы с текстом, а не с изображениями или видео. Разработчик отмечает сохраняющийся разрыв с исходной моделью в физике, статистике, информатике и вычислениях с вращениями и тригонометрией.
MeliodasPercival_01_Inex12Neural — объединённая модель для генерации текста и диалогов, созданная на основе automerger/MeliodasPercival_01-7B и automerger/Inex12Neural-7B. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель принимает текст и генерирует текст; её можно использовать для диалогов и других сценариев продолжения текста. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache 2.0.
MeliodasPercival_01_ShadowCalme — объединённая текстовая модель на архитектуре Mistral, созданная путём слияния automerger/MeliodasPercival_01-7B и automerger/ShadowCalme-7B. Она предназначена для генерации текста и диалогов в сценариях, где требуется обработка запросов с длинным контекстом. Модель содержит 7,1 млрд параметров, использует формат safetensors и поддерживает контекст до 32 768 токенов. Метаданные указывают задачу text-generation; сведения о поддерживаемых языках и специализированных предметных областях отсутствуют. Модель распространяется по лицензии Apache-2.0.
Meta Llama 3 70B Instruct — разработанная Meta инструкция-настроенная большая языковая модель для диалоговых сценариев. Это авторегрессионный плотный трансформер Llama с Grouped-Query Attention, примерно 69,5 млрд параметров и контекстом 8192 токена. Модель принимает текст и генерирует текст, включая код; карточка указывает английский как целевой язык. Модель подходит для диалогового помощника и генерации текста или кода. Настроенная версия обучена с помощью supervised fine-tuning и обучения с подкреплением на основе человеческих предпочтений (RLHF), с акцентом на полезность и безопасность. Репозиторий распространяет веса в формате safetensors; заявлена пользовательская коммерческая лицензия Meta Llama 3, условия которой необходимо соблюдать. Модель не предназначена для использования на языках, отличных от английского, согласно указанному назначению; для ответственного развертывания могут потребоваться дополнительные меры безопасности.
NeoHorse-1-9B-MLX — версия для локального запуска на Apple Silicon модели NeoHorse-1-9B, разработанной TokenRhythm. Это плотная авторегрессионная языковая модель семейства Qwen3.5 с 7,2 млрд параметров, предназначенная для диалогов, программирования, рассуждений, следования инструкциям и работы с инструментами в агентных сценариях. Контекстное окно составляет 262 144 токена. Веса представлены в BF16 и адаптированы для MLX-LM: изменены имена и раскладка тензоров, а также представление нормализации; квантизация не применялась. Модель можно запускать локально через MLX-LM, в том числе как OpenAI-совместимый сервер с поддержкой вызова инструментов. В README указаны результаты исходной NeoHorse-1-9B на наборах тестов, но отдельная оценка этой MLX-версии не приводится. Модель предназначена для Apple Silicon и использует лицензию Apache-2.0. Ограничения: результаты исходной модели не подтверждают идентичное качество этой версии; для запуска требуется совместимая среда MLX-LM на Mac с Apple Silicon.
neural-chat-11b-v3-2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная MaziyarPanahi слиянием моделей mistralai/Mistral-7B-Instruct-v0.2 и NurtureAI/neural-chat-11b-v3-2 методом SLERP. Это плотная модель архитектуры Mistral с 7,1 млрд параметров, предназначенная для генерации текста и ответов в формате чата; контекст составляет до 32 768 токенов. Модель принимает текст и выдаёт текст. Её можно использовать для диалога с пользователем, ответов на инструкции и генерации текста. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
NeuralOmniBeagleMBX-v3-7B — слитая модель генерации текста, собранная автором paulml с помощью LazyMergekit из mlabonne/NeuralOmniBeagle-7B и flemmingmiguel/MBX-7B-v3. Для объединения использован метод SLERP с настройками смешивания для слоёв self-attention и MLP; модель основана на архитектуре Mistral и содержит 7,1 млрд параметров. Модель предназначена для генерации текста и может использоваться в сценариях, где требуется языковая модель с контекстом до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Модель выпущена под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.
Omega AI 50B — разговорная текстовая модель семейства Omega AI, опубликованная K168-V0JL как reference repository. Это дообученная производная NVIDIA Llama-3.3-Nemotron-Super-49B-v1 с плотной архитектурой DeciLMForCausalLM; в метаданных указано 87 млрд параметров и контекст до 131 072 токенов. Модель принимает текст и генерирует текст в диалоговом режиме. Она предназначена для текстовой генерации и диалоговых сценариев. README сообщает, что репозиторий служит справочным, а брендинг Omega AI не меняет архитектуру или исходные веса базовой модели. Для исходной модели NVIDIA каталог указывает применение в англоязычных диалогах, рассуждениях, программировании, RAG и агентных приложениях; эти сведения описывают базовую модель и не подтверждены отдельно для производной Omega AI. Файлы опубликованы в формате safetensors. Условия лицензии и атрибуции исходной модели продолжают действовать; конкретная лицензия в предоставленных данных не указана.
OmniBeagleSquaredMBX-v3-7B — слитая текстовая модель, созданная paulml с помощью LazyMergekit из paulml/OmniBeagleMBX-v3-7B и flemmingmiguel/MBX-7B-v3. Она предназначена для генерации текста и может использоваться в диалоговых и других сценариях, где требуется продолжать или создавать текст по текстовому запросу. Модель построена на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Для слияния применён метод SLERP; файлы опубликованы в формате safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
MaziyarPanahi/OpenHermes-2.5-neural-chat-7b-v3-1-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная методом SLERP из mistralai/Mistral-7B-Instruct-v0.1 и Weyaxi/OpenHermes-2.5-neural-chat-7b-v3-1-7B. Модель содержит 7,1 млрд параметров и рассчитана на генерацию текста в ответ на инструкции и диалоговые запросы; поддерживает контекст до 32 768 токенов. Модель принимает текст и выдаёт текст, поэтому подходит для диалоговых помощников, ответов на вопросы и выполнения текстовых инструкций. В метаданных указана лицензия Apache-2.0. Языки модели по имеющимся данным определить нельзя.
Phi-4-QwQ — дообученная на базе Microsoft Phi-4 языковая модель для диалогов и генерации текста с акцентом на пошаговое рассуждение и ответственное решение задач. Модель содержит 14,1 млрд параметров, использует плотную архитектуру и доступна в формате safetensors для библиотеки Transformers; заявленный контекст — 16 384 токена. Модель предназначена для разложения сложных задач на этапы, логических и математических рассуждений, объяснений, учебного сопровождения, написания текстов и диалоговых помощников. В README описано дообучение методами SFT и DPO на синтетических и отфильтрованных данных. Карточка заявляет многоязычные возможности, однако метаданные указывают только английский язык. Модель может ошибаться при неоднозначных запросах, воспроизводить смещения и выдавать вредные или устаревшие ответы; для критически важных сценариев нужна проверка человеком. Для узкоспециализированных областей может потребоваться дополнительная настройка. Лицензия — MIT.
FreedomAISVR выпустила GGUF-квантизацию модели Qwen3.6-35B-A3B-Claude-4.7-Opus-Reasoning-Distilled, дообученной на базе Qwen/Qwen3.6-35B-A3B с дистилляцией рассуждений Claude 4.7 Opus. Это текстовая MoE-модель для диалогов и генерации ответов; архитектура использует 35 млрд параметров, около 3 млрд из которых активны на токен. Контекст составляет 262 144 токена, поддержка изображений отсутствует. Эксперты квантизированы в MXFP4, остальные веса — в Q8_0, веса маршрутизатора хранятся в F32; файл GGUF занимает около 18,87 ГБ. Модель можно запускать через llama.cpp, например как сервер для диалогового приложения. Лицензия — Apache 2.0.
Blackfrost-AI/Qwen3.8-27B-ABLITERATED-NVFP4 — исследовательский производный чекпойнт, разработанный Blackfrost на базе официальной Qwen/Qwen3.8-27B. Это не дообученная модель, а модифицированная на уровне весов версия с уменьшенной поверхностью отказов, предназначенная для исследований, red teaming, анализа безопасности, программирования, рассуждений, работы с инструментами и мультимодальными сценариями. Модель имеет плотную гибридную архитектуру Qwen3.8-27B с Gated DeltaNet и полным attention, содержит 27 млрд параметров и использует квантование NVIDIA ModelOpt W4A4 NVFP4, ориентированное на GPU NVIDIA Blackwell. Она принимает текст, изображения и видео, генерирует текст и поддерживает контекст до 262 144 токенов; практический размер контекста зависит от доступной памяти и уровня параллелизма. Для запуска рекомендуется SGLang или другой совместимый движок, а валидированным оборудованием указан NVIDIA B200. К сильным сторонам относятся сохранение возможностей зрения, рассуждений, инструментального использования и длинного контекста при компактном квантованном формате, а также deployment-ориентированная конструкция. Ограничения включают исследовательский статус, отсутствие гарантий сохранения всех характеристик исходной модели после модификации и квантования, а также намеренно сниженную склонность к отказам: результаты безопасности, программирования, мультимодальности и работы с инструментами требуют осторожной интерпретации. В репозитории указана лицензия Apache-2.0; модель опубликована как общедоступный, не требующий допуска research preview и не предназначена для продажи.
PearsonKyle/Qwen3.8-27B-GPTQ-W4A16 — это квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и опубликованной PearsonKyle. Модель предназначена для генерации и понимания текста, работы с изображениями, агентных сценариев, вызова инструментов и function calling. Она ориентирована прежде всего на запуск через vLLM. Модель содержит около 27 млрд параметров и использует квантование GPTQ в формате compressed-tensors W4A16: основная часть весов представлена в int4 с группами размера 128 и симметричным квантованием. Размер загрузки составляет около 18,1 GiB. Калибровка выполнена на 4,26 млн токенов агентных сессий программирования при контексте 32 768 токенов. В состав также входят MTP-голова для speculative decoding и vision tower, сохранённый в bf16; заявлена скорость декодирования до 1,71 раза выше при принятии 71,2% черновых токенов. К сильным сторонам относятся поддержка текста и изображений, tool calling, интеграция с vLLM без конвертации, а также возможность speculative decoding. Ограничения связаны с потерями и особенностями 4-битного квантования: embed_tokens и lm_head оставлены в bf16, поэтому итоговый размер и средняя точность отличаются от полностью 4-битной модели; для работы требуется совместимая версия vLLM и соответствующая аппаратная память. В карточке указан английский язык, поэтому поддержка других языков не подтверждена. Модель распространяется по лицензии Apache-2.0.
Qwen3.8-27B-Omnimerge-v6-MTP-GGUF — квантизированная GGUF-версия модели, опубликованная автором ManniX-ITA. Она создана на основе ManniX-ITA/Qwen3.8-27B-Omnimerge-v6, представляющей собой объединение методом task arithmetic трёх дообученных моделей Qwen3.6 на базе Qwen3.8-27B. В метаданных указана архитектура Qwen3.5, размер модели — около 27,78 млрд параметров, основной заявленный язык — английский. Модель предназначена для текстовой генерации, рассуждений и мультимодальных сценариев с обработкой изображений. В комплекте сохранена MTP-голова для self-speculative decoding, а также опубликован F16 vision projector; это позволяет использовать модель с изображениями через llama.cpp. Доступны 19 вариантов квантизации от F16 и Q8_0 до Q2_K и IQ2_S, что даёт возможность выбирать между качеством, скоростью и требованиями к памяти. Для MTP требуется сборка llama.cpp с поддержкой соответствующего механизма; в приведённых измерениях вариант Q4_K_M достигал примерно двукратного ускорения генерации при настройке с тремя черновыми токенами. Сильными сторонами являются широкий выбор квантизаций, поддержка изображений, reasoning-возможности, воспроизводимые imatrix-варианты и сохранённая MTP-голова. Ограничения включают зависимость расширенных возможностей от совместимого llama.cpp, значительные требования к памяти для крупных вариантов, а также то, что MTP может приводить к отличиям вывода от обычной генерации при близких значениях вероятностей; эквивалентность качества в README не измерялась. Для длительных рассуждений рекомендуется выделять достаточный reasoning budget. Модель распространяется по лицензии Apache-2.0.
QwQ-LCoT-7B-Instruct — языковая модель на архитектуре Qwen2, дообученная prithivMLmods на Qwen2.5-7B-Instruct с использованием набора amphora/QwQ-LongCoT-130K. Она предназначена для следования инструкциям, генерации текста и решения задач, требующих многошаговых рассуждений и подробных объяснений. Модель содержит около 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке заявлено обучение на примерах цепочек рассуждений. Репозиторий содержит веса safetensors для Transformers. Модель подходит для диалоговых помощников и задач, где нужны логические выводы и развернутые ответы. Язык карточки и метаданные указывают на английский. Лицензия — CreativeML OpenRAIL-M.
QwQ-R1-Distill-7B-CoT — диалоговая языковая модель от prithivMLmods, дообученная на базе deepseek-ai/DeepSeek-R1-Distill-Qwen-7B. Это плотная модель семейства Qwen2 с 7,1 млрд параметров, рассчитанная на генерацию текста, следование инструкциям и многошаговые рассуждения с подробными объяснениями. Она подходит для решения логических задач, ответов на вопросы, создания и суммирования текстов, а также учебных приложений. Модель принимает текст и генерирует текст; заявленный нативный контекст — 131 072 токена. В карточке указан английский язык. Модель доступна в формате safetensors и распространяется по лицензии Apache-2.0. В README отмечены риски фактических ошибок и галлюцинаций, возможные смещения обучающих данных, ограниченные знания в узких областях и высокие требования к вычислительным ресурсам.
Rewnozom-GGUF — это конверсия модели Rewnozom/Rewnozom в формат GGUF, разработанная авторами Rewnozom на основе Qwen/Qwen2.5-7B-Instruct-1M. Модель предназначена для локального запуска через llama.cpp, Ollama, LM Studio, Jan и другие совместимые загрузчики. Указан английский язык, а исходная модель относится к семейству 7B instruct-моделей с контекстом до 1 млн токенов. Модель ориентирована на генерацию текста, рассуждения и задачи, связанные с логикой, декомпозицией запросов, планированием и исправлением планов, маршрутизацией инструментов, управлением состоянием и памятью, retrieval, разрешениями и многоагентной оркестрацией. В README также упоминается обучение на синтетических данных с детерминированными формальными мирами, проверками оракула и машинно проверяемыми ответами. Доступны варианты от F32, F16 и BF16 до низкобитных квантований, включая K-quants, legacy-quants, T-quants и гибридные профили. Сильными сторонами являются широкий выбор размеров файлов и компромиссов между качеством, скоростью и потреблением памяти, а также возможность локального использования. Качество и производительность зависят от выбранного квантования, длины контекста, аппаратного ускорения и характера задач; низкобитные варианты могут заметно менять поведение модели. Контроль разрешений, деструктивных действий и изменения состояния рекомендуется оставлять за детерминированной логикой приложения. Распространение заявлено по лицензии Apache 2.0.
JetLM/SDAR-8B-Chat-b32 — чат-модель семейства SDAR, разработанная авторами SDAR. Она объединяет авторегрессионное обучение с дискретным диффузионным моделированием: авторегрессионная составляющая обеспечивает эффективное обучение, а диффузионный подход позволяет генерировать токены параллельно. В репозитории указана плотная архитектура SDARForCausalLM с 7,6 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для диалогов и генерации текста; в карточке также заявлен интерфейс вызова инструментов. Авторы сообщают о сопоставимой с сильными авторегрессионными моделями общей производительности и преимуществах в некоторых научных задачах рассуждения для моделей SDAR того же масштаба. Репозиторий содержит веса safetensors и распространяется по лицензии Apache-2.0. Языки и отдельные результаты именно этой версии в карточке не приведены.
smol-7b-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral для генерации ответов на инструкции и диалоговые запросы. Она создана методом SLERP merge из mistralai/Mistral-7B-Instruct-v0.1 и rishiraj/smol-7b; в конфигурации указана базовая модель mistralai/Mistral-7B-Instruct-v0.1. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Mistral и принимает текст для генерации текста. Нативный контекст составляет 32 768 токенов. В карточке указан английский язык, формат весов — safetensors, лицензия — Apache-2.0.
T3qm7xNeuralsirkrishna_AlloyingotneoyYam — объединённая модель Mistral, созданная слиянием automerger/T3qm7xNeuralsirkrishna-7B и automerger/AlloyingotneoyYam-7B. Она содержит 7,1 млрд параметров и предназначена для генерации текста и диалогов. Модель принимает текст и выдаёт текст, поддерживает контекст до 32 768 токенов; README не уточняет языковую специализацию и особенности диалогового шаблона. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.
Tri-21B-Think — языковая модель Trillion Labs, дообученная на базе Trillion Labs Tri-21B для рассуждений и многошагового диалога. Это плотная авторегрессионная модель с архитектурой Transformer Decoder, RoPE, SwiGLU, RMSNorm и GQA; в репозитории указано 20,1 млрд параметров. Модель принимает текст и генерирует текст, поддерживает чат и рассчитана на контекст до 32 768 токенов; README также сообщает о расширении контекста до 262 144 токенов с YaRN. Модель предназначена для задач, где полезны пошаговое рассуждение, ответы на сложные вопросы, многоходовые взаимодействия и работа с инструментами. Авторы сообщают об улучшении корейского языка по сравнению с базовой моделью; основные языки — английский, корейский и японский. На этапе рассуждения генерация дополнительных токенов может увеличивать задержку, а качество на других языках может быть ниже. Заявленная лицензия — Apache-2.0.