II.9Статистика, эксперименты и причинный анализ

LLaMA-Pro-8B-Instruct — языковая модель Tencent ARC на архитектуре LLaMA, построенная расширением LLaMA2-7B с помощью расширения блоков. Она содержит около 8,2 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. При обучении использовались данные по программированию и математике объёмом свыше 80 млрд токенов. Модель предназначена для генерации и продолжения текста, ответов в чате, помощи с программированием и решения математических задач, сохраняя возможности для общих языковых сценариев. Максимальный контекст — 4096 токенов; доступны веса в форматах PyTorch и Safetensors. Модель разработана командой Tencent ARC и распространяется по лицензии Llama 2. Она может испытывать трудности с узкоспециализированными или тонкими задачами, а также наследовать предвзятости обучающих данных.

Mistral Medium 3.5 — плотная языковая модель на 128 млрд параметров от Mistral AI, обученная следовать инструкциям. Она принимает текст и изображения и выдаёт текст. Модель предназначена для агентных сценариев, программирования и решения сложных задач. Поддержка изображений позволяет использовать модель для вопросов по визуальным материалам наряду с текстовыми запросами. В доступных сведениях нет деталей о контекстном окне, поддерживаемых языках и лицензии, поэтому эти характеристики не описываются.

OLMo-2-1124-13B-DPO — англоязычная причинная языковая модель семейства OLMo 2, разработанная Allen Institute for AI (AI2). Это диалоговая версия с 13,2 млрд параметров: после supervised fine-tuning на варианте набора Tülu 3 она прошла дополнительное обучение методом DPO на данных предпочтений. Модель предназначена для генерации текста, диалога и выполнения инструкций, включая задачи рассуждения и математики. Модель принимает текст и генерирует текст, поддерживает чат-шаблон и имеет контекст длиной до 4096 токенов. Обучение охватывает разнообразные публичные, синтетические и созданные людьми данные; основной язык — английский. Доступны веса в форматах PyTorch и Safetensors, использовать модель можно на условиях Apache 2.0. В карточке отмечено, что модели OLMo-2 прошли ограниченное обучение безопасности и могут выдавать проблемные ответы, особенно при соответствующем запросе. Для релиза также указано обновление постобученных моделей из-за расхождения логики предварительной токенизации у первоначальных версий; при интеграции важно использовать актуальную версию модели и совместимые компоненты.

Qwen2.5-Coder-32B-Instruct-MLX-4bit — 4-битная MLX-квантизация модели Qwen2.5-Coder-32B-Instruct, разработанной командой Qwen. Квантизацию предоставил bartowski на основе инструментов mlx-examples; модель распространяется в рамках сообщества LM Studio и предназначена для работы на Mac с Apple Silicon. Модель ориентирована на генерацию и обработку кода, чат-взаимодействие и сценарии с code agents. Она обучалась на объёме до 5,5 триллиона токенов, включая исходный код, текстово-кодовые соответствия и синтетические данные. Поддерживается длинный контекст до 128K токенов с масштабированием RoPE через YaRN с коэффициентом 4,0. В метаданных указан английский язык. Формат MLX 4-bit снижает требования к памяти по сравнению с полноразмерной версией, однако квантизация может влиять на качество и точность результатов; модель также способна генерировать неточный, вредный или неподходящий контент. Лицензия — Apache-2.0.

PearsonKyle/Qwen3.8-27B-GPTQ-W4A16 — это квантованная версия мультимодальной модели Qwen/Qwen3.8-27B, разработанной командой Qwen и опубликованной PearsonKyle. Модель предназначена для генерации и понимания текста, работы с изображениями, агентных сценариев, вызова инструментов и function calling. Она ориентирована прежде всего на запуск через vLLM. Модель содержит около 27 млрд параметров и использует квантование GPTQ в формате compressed-tensors W4A16: основная часть весов представлена в int4 с группами размера 128 и симметричным квантованием. Размер загрузки составляет около 18,1 GiB. Калибровка выполнена на 4,26 млн токенов агентных сессий программирования при контексте 32 768 токенов. В состав также входят MTP-голова для speculative decoding и vision tower, сохранённый в bf16; заявлена скорость декодирования до 1,71 раза выше при принятии 71,2% черновых токенов. К сильным сторонам относятся поддержка текста и изображений, tool calling, интеграция с vLLM без конвертации, а также возможность speculative decoding. Ограничения связаны с потерями и особенностями 4-битного квантования: embed_tokens и lm_head оставлены в bf16, поэтому итоговый размер и средняя точность отличаются от полностью 4-битной модели; для работы требуется совместимая версия vLLM и соответствующая аппаратная память. В карточке указан английский язык, поэтому поддержка других языков не подтверждена. Модель распространяется по лицензии Apache-2.0.

Solstice-AI/Qwopus3.8-27B-Flash-GGUF-1M — это набор GGUF-квантизаций модели Qwopus3.8-27B-Flash, упакованный и опубликованный Solstice-AI на основе модели Jackrong/Qwopus3.8-27B-Flash с атрибуцией Qwen AI. Модель предназначена для локального запуска в llama.cpp, Ollama, LM Studio и Unsloth, включая задачи программной разработки, решения алгоритмических задач, рефакторинга, автоматизации рабочего стола и работы с длинными документами. Поддерживаются английский и китайский языки, а также мультимодальный ввод изображений через отдельный vision-проектор mmproj-BF16.gguf. Архитектура указана как Qwen3.5 / Qwopus Conditional Generation с мультимодальным зрением; размер базовой модели — 27B параметров. Заявлено нативное контекстное окно до 1 048 576 токенов. Доступны варианты квантизации от 4- до 8-битных, рассчитанные на различный объём памяти: примерно от 16 ГБ до 64 ГБ и более в зависимости от файла и конфигурации. В комплект также входит DSpark-драфтер для speculative decoding, который может повысить скорость генерации при совместимом запуске. Сильными сторонами модели являются большой контекст, поддержка изображений, широкий выбор квантизаций и возможность локального развертывания. В README приведены высокие результаты на ряде бенчмарков, однако условия их получения и независимое подтверждение не описаны. К ограничениям относятся значительные требования к памяти, зависимость мультимодального режима от отдельного проектора и возможная потеря точности в более агрессивных квантизациях. Набор распространяется по лицензии Apache 2.0.

QwQ-LCoT-7B-Instruct — языковая модель на архитектуре Qwen2, дообученная prithivMLmods на Qwen2.5-7B-Instruct с использованием набора amphora/QwQ-LongCoT-130K. Она предназначена для следования инструкциям, генерации текста и решения задач, требующих многошаговых рассуждений и подробных объяснений. Модель содержит около 7,1 млрд параметров, принимает текст и поддерживает контекст длиной до 32 768 токенов; в карточке заявлено обучение на примерах цепочек рассуждений. Репозиторий содержит веса safetensors для Transformers. Модель подходит для диалоговых помощников и задач, где нужны логические выводы и развернутые ответы. Язык карточки и метаданные указывают на английский. Лицензия — CreativeML OpenRAIL-M.

Ring-lite-distill-preview — языковая MoE-модель InclusionAI для диалогов и генерации текста, дообученная на инструкционных данных с упором на рассуждения. В README указано 16,8 млрд параметров, из которых активируются 2,75 млрд; архитектура в метаданных обозначена как Bailing MoE, а карточка модели указывает контекст 16 384 токена. Модель предназначена для решения математических и логических задач, следования инструкциям, программирования и вызова функций в диалоговых сценариях. Авторы сообщают о результатах на тестах AIME24, MATH-500, GPQA-diamond, LiveCodeBench, IFEval и BFCL_v2; эти показатели относятся к оценкам авторов и не гарантируют аналогичного качества в прикладных системах. Поддерживаемые языки — китайский и английский. Модель дообучена на базе inclusionAI/Ling-lite. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — MIT.

SlimHercules-4.0-Mistral-7B-v0.2 — дообученная Locutusque языковая модель на архитектуре Mistral-7B, предназначенная для диалогов и следования инструкциям в научных и технических областях. Она содержит 7,1 млрд параметров, принимает текст и генерирует текст; размер контекста — 32 768 токенов. В README заявлены навыки выполнения многошаговых инструкций, вызова функций, ответов по биологии, химии, физике, математике, медицине и информатике, а также генерации кода. Для дообучения использован набор hercules-v4.0. Модель подходит для учебных ассистентов и специализированных чат-ботов, пошаговых объяснений и помощи при разработке программ. Вызов функций описан как возможность модели, но для его использования нужна совместимая программная обвязка. Модель может выдавать токсичные ответы, галлюцинировать и допускать фактические ошибки, особенно в специализированных темах; ответы требуют проверки. Доступна по лицензии Apache-2.0.

Карточка модели PS4Research/4wvQl2UniBkYhlEJ на Hugging Face совпадает с карточкой PS4Research/0VOz3fgU0qp4lVar, поэтому описание составлено по ней. PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

Arcee-SuperNova-v1 — текстовая модель Arcee AI для диалогов и выполнения инструкций. В основе лежит Llama-3.1-70B-Instruct; модель объединяет дистиллированную версию Llama-3.1-405B-Instruct, вариант, дообученный на синтетических данных Evol-Kit, и вариант, оптимизированный с помощью Direct Preference Optimization (DPO). В метаданных указаны архитектура LlamaForCausalLM, 69,5 млрд параметров и контекст до 131 072 токенов. Модель предназначена для ответов на разнообразные запросы, следования инструкциям, математических задач и использования как основы для дальнейшего обучения с подкреплением на основе человеческой обратной связи. Поддерживает генерацию текста и диалоговый сценарий; в метаданных также заявлен интерфейс вызова инструментов. Для использования указана лицензия Llama 3. Карточка описывает объединение нескольких подходов к обучению, но не приводит количественных оценок качества или результатов сравнительных тестов.

Covenant-72B-Chat — диалоговая языковая модель с настройкой по инструкциям, созданная на основе Covenant-72B. Разработчики описывают базовую модель как крупнейшую языковую модель, обученную совместно без разрешений; вариант Chat дообучен методом supervised fine-tuning. Модель использует плотную архитектуру LLaMA (LlamaForCausalLM), содержит около 70,6 млрд параметров и принимает текст для генерации ответов в диалоге. Контекст составляет 8192 токена, поддерживаемый язык по карточке — английский. Модель предназначена для диалоговых ответов и выполнения инструкций на естественном языке. В README приведены результаты бенчмарков по рассуждениям, математике, общим знаниям и следованию инструкциям; эти оценки показывают способности на тестовых наборах, но не гарантируют точность в прикладных сценариях. Опубликована в формате safetensors под лицензией Apache 2.0.

DeepSeek-R1-Distill-Qwen-32B-3MPER0RR-abliterated — экспериментально модифицированная версия модели DeepSeek-R1-Distill-Qwen-32B от 3MPER0RR. Это плотная авторегрессионная языковая модель семейства Qwen2 для генерации текста и диалогового взаимодействия. В метаданных указаны 32 млрд параметров и контекст до 131 072 токенов; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации ответов и ведения диалога. Автор сообщает, что модель модифицирована методом «abliteration», протестирована и сохранена; подробности метода, тестирования и измерений качества в карточке не раскрыты. Основа — DeepSeek-R1-Distill-Qwen-32B, дистиллированная модель на базе Qwen2.5, ориентированная на рассуждения, математику и программирование. Лицензия — MIT.

DeepSeek-V4-Flash-0731-dwarfstar-q2-gguf — это 2-битная квантизированная версия модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Сборка создана сообществом Rednalreden с использованием инструментов DwarfStar (ds4) и предназначена для запуска на машинах с 96 или 128 ГБ оперативной памяти, где 4-битная версия не помещается. Модель относится к задачам генерации текста и может применяться для написания кода, работы с длинным контекстом, агентских сценариев, вызовов инструментов, анализа исходного кода и подготовки связного текста. Модель использует архитектуру MoE с 43 слоями, 256 маршрутизируемыми экспертами, из которых для каждого запроса выбираются 6, а также одним общим экспертом. Файл GGUF занимает около 80,8 GiB, резидентная модель — около 80,76 GiB; при контексте 32 768 токенов требуется примерно 0,86 GiB дополнительной памяти. Маршрутизируемые эксперты квантизированы в 2 бита с использованием importance matrix, тогда как attention-проекции, общие эксперты и выходной слой используют Q8_0, а отдельные компоненты — F16. Заявлена поддержка контекста до 100 000 токенов при использовании ds4-server. Importance matrix улучшила среднюю оценку по отрицательной логарифмической правдоподобности на 1,42% относительно аналогичной Q2-сборки без importance matrix. Основное преимущество — существенная экономия памяти при сохранении большей части качества; ограничение — заметная потеря качества по сравнению с 4-битными или смешанными q2/q4-сборками. Модель требует runtime DwarfStar (ds4) и несовместима с llama.cpp. Лицензия — MIT, унаследованная от базовой модели.

DeepSeek V4 Flash 0731 for one DGX Spark — это квантованная сборка модели DeepSeek-V4-Flash-0731, разработанной командой DeepSeek и упакованная пользователем 0xSero. Модель предназначена для генерации текста и программного кода, структурированного вывода и работы через OpenAI-совместимый API. В README указана архитектура mixture-of-experts; сборка использует REAP pruning, формат EXL3/Trellis и точность около 3,0 bpw. Модель рассчитана на развёртывание на одном NVIDIA DGX Spark с GPU GB10/SM121 и 128 ГБ унифицированной памяти. Заявленный предел контекста составляет 262 144 токена. Для запуска требуется специализированный ARM64-совместимый runtime SparkInfer и опубликованный Docker-образ; стандартные vLLM, ExLlamaV3 и простой запуск с tensor parallelism 1 не поддерживаются для этого rank-sliced артефакта. Поставляемый runtime выполняет преобразование TP4-чекпойнта в TP1 и поддерживает CUDA Graphs и speculative decoding. К сильным сторонам относятся возможность локального запуска крупной MoE-модели на одном DGX Spark, проверенная генерация текста и кода, поддержка строгих JSON-схем и длинного контекста. Ограничения — жёсткая зависимость от конкретного оборудования и закреплённого runtime, значительный объём загрузки и дискового пространства, а также не полностью достигнутый целевой порог стабильной скорости декодирования: в одном из пяти измерений получено 34,30 токена в секунду. Лицензия модели указана как MIT.

Deepthought-8B — разговорная модель генерации текста от Ruliad, основанная на плотной архитектуре LLaMA 3.1 и содержащая 7,5 млрд параметров. Она предназначена для задач рассуждения, следования инструкциям, программирования и математики. Модель формирует структурированные ответы и, согласно карточке, может представлять ход решения в формате JSON с отдельными шагами; глубину рассуждений можно настраивать во время вывода без дообучения. Контекст модели составляет до 131 072 токенов. Карточка заявляет работу на GPU с 16 ГБ видеопамяти или больше и рекомендует Flash Attention 2 для повышения производительности. Модель может быть полезна для пошагового решения задач, где требуется проверяемая структура ответа, а также для интеграции генерации рассуждений в приложения. В README отмечены ограничения при сложных математических задачах, обработке длинного контекста и нестандартных случаях. Доступна по лицензии Llama 3.1; перед использованием следует учитывать её условия.

ELYZA-Thinking-1.0-llm-jp-4-32b-a3b — языковая модель ELYZA, дообученная на базе llm-jp/llm-jp-4-32b-a3b-base. Это модель семейства Qwen3 MoE для генерации текста с рассуждениями и следованием инструкциям; в карточке указаны 2,9 млрд параметров и контекст 65 536 токенов. Обучение включало промежуточное обучение, SFT и обучение с подкреплением по проверяемым результатам. Модель рассчитана прежде всего на японский язык, также поддерживает английский. В README описаны сценарии решения математических и STEM-задач, программирования, ответов на вопросы о японских знаниях, выполнения сложных инструкций и использования инструментов. Для запуска рекомендованы vLLM или Transformers; лицензия — Apache-2.0.

Карточка модели allenai/Flex-public-7B-1T на Hugging Face совпадает с карточкой allenai/FlexOlmo-7x7B-1T, поэтому описание составлено по ней. FlexOlmo-7x7B-1T — языковая модель семейства FlexOlmo, разработанная Allen Institute for AI (AI2). Это модель типа Mixture-of-Experts: в ней объединены семь независимо обученных экспертов для публичных данных, новостей, математики, кода, академических текстов, творческого письма и публикаций Reddit. Общий размер указан в карточке как 6,9 млрд параметров, а в README — как 33 млрд; README также сообщает, что публичный эксперт обучен на 1 трлн токенов, а остальные получены его дообучением на отдельных корпусах. Маршрутизатор экспертов не обучен. Модель предназначена для генерации текста и диалогового применения, в том числе для задач, связанных с перечисленными тематическими корпусами. Поддерживает английский язык, работает с текстом и имеет контекст до 4096 токенов. Для запуска README рекомендует Transformers версии 4.57.0 или новее. Репозиторий распространяется под лицензией Apache-2.0. В README приведены результаты оценки по ряду языковых и тематических бенчмарков, однако они относятся к отдельным плотным моделям, а не обязательно к этому MoE-чекпойнту. Отсутствие обученного маршрутизатора ограничивает выводы о фактическом выборе экспертов и качестве итоговой модели.

Gemma3.5-48B-A4B-Q4_K_M — созданная сообществом модель для диалогов и следования инструкциям, опубликованная XxACCOxX в формате GGUF. Она объединяет поведение Gemma 3 27B с базовой архитектурой Gemma 4 26B A4B: к исходным экспертам Gemma 4 добавлен банк экспертов, полученный дистилляцией активаций Gemma 3. В модели 48,1 млрд параметров, из которых на один токен задействуется около 3,8 млрд; используется 8 экспертов из 256. Контекст составляет 262 144 токена, квантование — Q4_K_M. Модель предназначена для локального общения в режиме прямых ответов, решения математических задач, технических запросов и вопросов на общие знания. Автор приводит результат 63,21% на подвыборке MMLU-Pro из 280 заданий без режима рассуждений; это результат описанного теста, а не гарантия качества для других задач. Для запуска предназначены стеки локального инференса, например llama.cpp и Ollama. Лицензия указана как other; конкретные условия в предоставленных данных не раскрыты.

ByteOtter Gemma-4-E4B-IT-TAK-Reasoning-GGUF — это текстовая генеративная модель в формате GGUF, созданная ByteOtter на основе instruction-модели google/gemma-4-E4B-it. Модель предназначена для запуска с помощью llama.cpp и ориентирована прежде всего на задачи рассуждения, а также на генерацию текста, ответы на вопросы, следование инструкциям, математические и структурированные задачи. Это квантованный вариант со смешанной точностью размером 3,236 ГБ. Квантование выполнено в рамках фиксированного ограничения на размер; дообучение, слияние весов, замена токенизатора и шаблона чата не проводились. Репозиторий содержит только текстовую версию без компонентов для обработки изображений и аудио. В заявленном тестировании модель получила 69,53% в категории рассуждений и превзошла сопоставимый низкобитный вариант Unsloth на 14,06 процентного пункта, однако уступила исходной BF16-модели 2,34 пункта. Сильной стороной модели является ориентация на рассуждения при существенно меньшем размере по сравнению с исходной BF16-версией, что может упростить локальный запуск. Результаты для других задач являются диагностическими и не гарантируют качество в прикладных сценариях; квантование может влиять на ответы, точность и стабильность в зависимости от запросов и среды выполнения. Модель распространяется по лицензии Apache License 2.0 с учетом лицензии и атрибуции базовой модели.

GK-inv-MoE-0.1 — языковая модель с архитектурой Mixture of Experts на базе Mixtral, созданная автором powermove72 с помощью LazyMergekit. Она объединяет GritLM/GritLM-7B и argilla/notus-7b-v1; эксперты маршрутизируются по типу запроса: один предназначен для диалога, объяснений, рассуждений и математики, другой — для программирования и алгоритмов. Модель рассчитана на генерацию текста в чате, ответы на вопросы и помощь с кодом. Объём модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Репозиторий содержит веса Safetensors и распространяется по лицензии Apache-2.0. В карточке не приведены сведения о языках и оценках качества, поэтому результаты на конкретных языках и задачах могут различаться.

RedHatAI/GLM-5.3-NVFP4 — текстовая генеративная языковая модель, разработанная Red Hat AI на основе модели zai-org/GLM-5.3. Она предназначена для генерации текста, следования инструкциям и решения задач, требующих рассуждений, включая математические и научные вопросы. Заявлены поддерживаемые языки английский и китайский, а входом и выходом модели является текст. Модель использует архитектуру GlmMoeDsaForCausalLM и формат compressed-tensors. Это вариант с квантованием весов и активаций в NVFP4/FP4 E2M1 с двухуровневым масштабированием; слои вне маршрутизируемых экспертов оставлены без квантования. Чекпойнт оптимизирован для инференса на GPU Blackwell и создан с применением LLM Compressor и калибровочных данных perfectblend. Для запуска рекомендуется vLLM; в примере конфигурации используются четыре устройства B200, FP8 E4M3 KV-кэш и speculative decoding. По приведённым оценкам, модель сохраняет близкую к базовой FP8-версии точность на задачах следования инструкциям, математики, рассуждений и научных вопросов. Наиболее сильные результаты показаны на GSM8K Platinum и MATH-500, однако на IFEval, AIME 2025 и GPQA Diamond она уступает базовой модели в FP8. Ограничения включают зависимость от совместимой инфраструктуры Blackwell и специализированного стека инференса; размер модели, длина контекста и точные требования к памяти в README не указаны. Модель распространяется по лицензии glm-5.3, обозначенной как other.

GRM-3.2-Cliff — модель OrionLLM для длительных агентных сценариев и сложных задач рассуждения. Она основана на Ornith-1.0-9B и, согласно README, содержит 9 млрд параметров; метаданные указывают архитектуру семейства Qwen 3.5 и поддержку диалогов и изображений. Модель предназначена для многошагового планирования и выполнения локальных рабочих процессов, сложного программирования, отладки и рефакторинга, продвинутой математики и логических задач. Разработчик заявляет, что модель рассчитана на продолжительные взаимодействия с сохранением цели и может работать на оборудовании с ограниченными ресурсами GPU. В качестве входа поддерживаются текст и изображения, выход — текст. В README не указаны поддерживаемые естественные языки и длина контекста. Модель распространяется по лицензии Apache 2.0; заявленные характеристики качества и эффективности представлены разработчиком, поэтому их следует оценивать с учётом конкретного сценария.

Карточка модели PS4Research/Hk6vAazgWreoKsXr на Hugging Face совпадает с карточкой PS4Research/0VOz3fgU0qp4lVar, поэтому описание составлено по ней. PS4Research/0VOz3fgU0qp4lVar — дообученная модель генерации текста на архитектуре Olmo 3, созданная PS4Research на основе allenai/Olmo-3.1-32B-Think. В карточке указано, что для обучения использовались Unsloth и библиотека TRL от Hugging Face; модель содержит 31,7 млрд параметров и поддерживает контекст до 65 536 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; интерфейс поддерживает вызов инструментов. Базовая модель ориентирована на английский язык и задачи рассуждений, в том числе математику и программирование. Сведений о специальных улучшениях, полученных при дообучении, в карточке нет. Лицензия — Apache-2.0.

Карточка модели ahmed-amedo-1/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Карточка модели SmartManoj/Kimi-K3 на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Карточка модели yijuchen/Kimi-K3-RoutedMXFP4-FP8PTPC на Hugging Face совпадает с карточкой moonshotai/Kimi-K3, поэтому описание составлено по ней. Kimi K3 — модель с открытыми весами от Moonshot AI для диалогов, рассуждений и агентных задач. В README указаны 2,8 трлн параметров, архитектура Kimi Delta Attention (KDA) и Attention Residuals (AttnRes), а также разреженная смесь экспертов Stable LatentMoE: активируются 16 из 896 экспертов. Метаданные Hugging Face определяют архитектуру как плотную; поэтому тип архитектуры в доступных источниках описан неоднозначно. Модель принимает текст, изображения и видео и рассчитана на контекст до 1 млн токенов. Среди сценариев применения — длительные сессии программирования и работы с большими репозиториями, исследовательская работа с материалами и мультимодальные задачи. В README заявлена поддержка инструментов для агентных сценариев; метаданные подтверждают возможность диалогового взаимодействия. Веса опубликованы по лицензии Kimi K3 License, обозначенной в метаданных как other. README не приводит текст лицензии, поэтому конкретные условия распространения и коммерческого использования по имеющимся данным уточнить нельзя. Заявления о возможностях и эффективности приведены разработчиком; независимые результаты оценки здесь не доступны.

Llama-3.1-Tulu-3-8B — языковая модель семейства Tülu 3, разработанного Allen Institute for AI (AI2). Это плотная авторегрессионная модель на архитектуре Llama с 7,5 млрд параметров, дообученная на основе allenai/Llama-3.1-Tulu-3-8B-DPO. Она предназначена для диалогов и следования инструкциям, а также для решения широкого круга задач, включая математические вопросы и проверку следования заданным условиям. Модель работает с текстом, поддерживает английский язык и имеет контекстное окно до 131 072 токенов. В карточке описана серия Tülu 3 как открытый пакет постобучения с данными, кодом и рецептами обучения; приведены результаты оценок на ряде бенчмарков. Модель можно загружать через Transformers и обслуживать с помощью vLLM. Указанная лицензия — Llama 3.1 Community License Agreement. Разработчики отмечают, что модель прошла ограниченное обучение безопасности и может выдавать проблемный контент, особенно при соответствующих запросах. В README также советуют при запуске через vLLM учитывать длину шаблона чата и задавать max_model_len=8192.

Llama3.3-70B-CogniLink-i1-GGUF — квантизированная GGUF-версия модели Daemontatox/Llama3.3-70B-CogniLink, подготовленная mradermacher. Это текстовая языковая модель семейства Llama с 70 миллиардами параметров, ориентированная на генерацию текста, выполнение инструкций и задачи, требующие рассуждений. Модель обучалась с использованием наборов данных Daemontatox/Deepthinking-COT и gghfez/QwQ-LongCoT-130K-cleaned; заявленный язык — английский. Поддержка других языков, мультимодальность и размер контекстного окна в README не указаны. Модель предназначена для локального запуска в приложениях и средах, совместимых с форматом GGUF. Доступно множество вариантов квантизации размером примерно от 15,4 до 58 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством; README отмечает, что вариант i1-Q4_K_M является быстрым и рекомендуемым, а некоторые низкобитные варианты имеют пониженное качество. К ограничениям относятся возможная потеря качества из-за квантизации, высокие требования к ресурсам у 70B-версии и отсутствие опубликованных в README количественных результатов тестирования. Модель распространяется по лицензии Apache-2.0.

Loxa Pro — языковая модель от frameai для генерации текста и диалогового взаимодействия. Она основана на архитектуре Gemma 2, содержит 3,3 млрд параметров и принимает текстовый ввод; заявленный контекст составляет 8192 токена. Модель распространяется в формате safetensors и использует лицензию Apache-2.0. Модель предназначена для решения математических задач и объяснения решений, написания и отладки кода, ответов на общие и научные вопросы, а также помощи с повседневными текстовыми задачами. В README разработчик заявляет о методе CA (Combine Architectures), эффективности на менее мощных GPU и улучшении точности относительно Loxa-4B и Loxa-3B, однако подробности метода и результаты сравнительных оценок не приведены. Как и другие языковые модели, Loxa Pro может отражать смещения обучающих данных и выдавать фактически неверные или вводящие в заблуждение ответы; результаты следует проверять. Для запуска требуются вычислительные ресурсы, хотя модель заявлена как оптимизированная для небольших GPU.