II.2Создание и понимание программного кода

mlx-community/dolphin-vision-72b-4bit — 71,5-миллиардная мультимодальная чат-модель семейства LLaVA-Qwen2, преобразованная сообщественным проектом mlx-community в формат MLX из cognitivecomputations/dolphin-vision-72b. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям и общих задач генерации текста. Модель основана на Qwen/Qwen2-72B, дообученной на инструкционных и диалоговых данных, включая Dolphin, OpenHermes, наборы для программирования, математики и вызова функций. Заявленная длина контекста — 131 072 токена. Репозиторий предназначен для использования с mlx-vlm на устройствах Apple, а веса представлены в 4-битном варианте. README ссылается на исходную карточку для подробностей; метаданные указывают лицензию как other, поэтому конкретные условия следует уточнять в исходной карточке и файлах лицензии. Качество ответов по изображениям и поддержка отдельных возможностей зависят от исходной модели и реализации; это крупная модель, требующая значительных ресурсов.

Bill435/Drjajsufhfh — мультимодальная модель на базе Qwen3.6-27B-Fable-Fusion-711, опубликованная в формате GGUF. Она создана в рамках совместной работы автора репозитория с участниками Nightmedia, TeichAI, armand0e и trohrbaugh с использованием многоэтапного дообучения, нескольких слияний моделей и Unsloth. В README также указаны датасеты DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets. Модель распространяется по лицензии Apache-2.0. Модель предназначена для широкого круга задач: следования инструкциям, решения задач, рассуждений, программирования, творческого письма, создания историй, ролевых сценариев и других универсальных применений. Заявлена поддержка работы с текстом и изображениями, а также языков английского и китайского. Доступны обычные и MTP-варианты GGUF-квантования; используются NEO IMATRIX-кванты, а выходной тензор в них частично сохранён в 16-битной точности. Указан размер базовой модели 27B, однако размер контекстного окна в README не приведён. К сильным сторонам относятся улучшенное следование инструкциям, общее решение задач, рассуждения и, по заявлениям авторов, высокие результаты на ряде бенчмарков даже в 4- и 8-битных вариантах. Формат GGUF и ориентация на потребительское оборудование упрощают локальный запуск, но точные требования к памяти и производительности зависят от выбранного кванта. Модель помечена как uncensored и heretic, поэтому её защитные ограничения могут быть ослаблены; заявленные показатели производительности основаны на описании авторов и не подтверждены независимыми данными в представленном README.

FunReason — дообученная авторами карточки модель на базе Qwen/Qwen2.5-Coder-7B-Instruct, предназначенная для улучшения вызова функций языковой моделью. Работа описывает методику автоматического уточнения обучающих данных и Self-Refinement Multiscale Loss, которая балансирует связность рассуждений и точность вызова функций. Модель относится к семейству Qwen2 и содержит 7,1 млрд параметров. Она принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. В карточке приведена рекомендация по использованию, но её конкретные настройки не раскрыты в доступном тексте. Лицензия — Apache-2.0.

DavidAU выпустил дообученную на базе google/gemma-4-E4B-it модель Gemma 4 E4B Instruct с изменённым шаблоном диалога и режимами instruct и thinking. По README, автор применил снятие ограничений и собственные наборы данных Deckard и Universe, а также данные, названные в честь Claude Opus 4.7. Модель предназначена для диалогов, написания прозы и историй, ролевых сценариев, генерации кода и других задач; README заявляет поддержку текста, изображений, видео и аудио, а контекст — до 128 тысяч токенов. Архитектура Gemma 4 E4B — плотная условно-генеративная; автор описывает её как модель примерно с 8 млрд параметров, из которых активны около 4,5 млрд. Автор отмечает, что творческие ответы могут становиться чрезмерно мрачными и интенсивными, особенно при запросах на хоррор, ругань или жестокость; также возможны длинные многословные ответы. Для этой модели предлагаются отдельные шаблоны instruct и thinking, причём thinking задан по умолчанию. Модель распространяется по лицензии Apache-2.0.

Gorilla Falcon 7B HF v0 — авторегрессионная языковая модель на архитектуре Transformer, разработанная командой Gorilla LLM при UC Berkeley и дообученная на весах Falcon для работы с API Hugging Face. Она принимает запросы на естественном языке и генерирует вызовы API, помогая выбирать подходящие инструменты и формировать обращения к ним без примеров в запросе. Модель обучалась на APIBench; в метаданных указано 10,9 млрд параметров, формат PyTorch и поддержка английского языка. Лицензия — Apache-2.0. Модель предназначена для интеграции в приложения и агентные системы, которым нужно выполнять задачи через API Hugging Face, например подбирать библиотечные инструменты для генерации изображений по текстовому запросу. Её сильная сторона — специализация на вызовах API и понимании естественных запросов. Карточка описывает версию v0; в ней нет сведений о длине контекста и подробной оценке качества или ограничений, поэтому надёжность конкретных API-вызовов следует проверять в целевом сценарии.

Granite-3B-Code-Base-128K — языковая модель IBM Research для генерации кода. Это плотная causal language model на архитектуре LlamaForCausalLM с 3,5 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 128 тысяч токенов. Модель получена продолжением предобучения Granite-3B-Code-Base: контекст постепенно увеличивали до 128K, используя данные на уровне репозиториев и повышенную долю примеров с длинными фрагментами кода. Модель предназначена для задач разработки ПО, включая генерацию, объяснение и исправление кода, создание модульных тестов и документации, поиск уязвимостей, перевод кода и работу с большими репозиториями. Она обучалась на коде из 116 языков программирования; среди языков, выделенных для продолженного обучения, — Python, C, C++, Go, Java, JavaScript и TypeScript. Модель принимает текстовые запросы и генерирует текст, в том числе код. Разработчик не рекомендует применять эту модель в новых проектах и предоставляет её для исторических и научных целей; для новых задач предлагается актуальная линейка Granite. Модель не проходила safety alignment, а сгенерированный код может быть ошибочным или содержать проблемные результаты. Также существует риск дословного воспроизведения фрагментов из обучающих данных. Лицензия — Apache 2.0.

GRPO-Think-1.5B-4k — плотная причинная языковая модель семейства Qwen2 с 1,5 млрд параметров, разработанная институтом INSAIT и дообученная на DeepSeek-R1-Distill-Qwen-1.5B. Модель обучена методом GRPO на наборе Aletheia-Train: она использует промежуточные рассуждения, отрицательные примеры и обучение на собственных ответах с ограничением генерации 4 тысячами токенов при обучении. В метаданных указан нативный контекст 131 072 токена. Модель предназначена для проверки и ранжирования нескольких решений задачи по программированию: на вход подаются условие и варианты кода, на выходе модель определяет, какое решение корректно, и сопоставляет качество кандидатов. Её можно применять как оценщик или функцию вознаграждения в конвейерах оптимизации генерации кода, а также для автоматической оценки решений и исследований обучения верификаторов. В обучающих данных использовались решения на Python, C++ и Java; это не означает, что модель генерирует код на этих языках одинаково хорошо. Модель имеет текстовый интерфейс и ориентирована на задачи в области программирования. Лицензия CC BY-NC-SA 4.0 ограничивает коммерческое использование. Оценки качества, устойчивость к сложным и состязательным вариантам решений и точный формат промпта зависят от сценария; для работы следует сверяться с инструкциями проекта.

GRPO-Think-7B-16k — плотная авторегрессионная модель семейства Qwen2, разработанная Aletheia-Bench и дообученная методом GRPO на DeepSeek-R1-Distill-Qwen-7B с набором Aletheia-Train. Она проверяет и ранжирует несколько решений задачи по программированию, определяя, какое из них корректно; модель рассчитана на задачи соревновательного программирования и применение в качестве оценщика или функции вознаграждения в обучении генераторов кода. При обучении использовались промежуточные рассуждения и бюджет завершения до 16 тысяч токенов. Метаданные указывают 7,1 млрд параметров и контекст до 131 072 токенов; модель работает с текстом и поддерживает код.

Hammer-7b — языковая модель MadeAgents, дообученная на Qwen2-7B-Instruct с применением техники function masking для повышения точности вызова функций ИИ-агентами. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и принимает текстовые запросы, выдавая текст с вызовами функций в подходящем сценарии интеграции. Контекст — до 32 768 токенов. Модель предназначена для агентных приложений, которым нужно выбирать и вызывать инструменты или API, в том числе локально и на устройствах с ограниченными ресурсами. В README описано обучение на данных APIGen Function Calling и наборах Salesforce/xlam-function-calling-60k и MadeAgents/xlam-irrelevance-7.5k, а также оценки на бенчмарках вызова функций. Распространяется по лицензии CC BY 4.0. Заявленные результаты бенчмарков не гарантируют качество в конкретном приложении; модель требует интеграции с обработчиком функций и проверки генерируемых вызовов.

Huihui-MoE-1B-A0.6B — языковая модель разработчика huihui.ai, созданная на основе Qwen/Qwen3-0.6B. Она использует архитектуру Qwen3MoeForCausalLM: в каждом MoE-слое есть три эксперта, из которых для каждого токена активируется один. В репозитории указано около 1,1 млрд параметров; метаданные каталога указывают 507,9 млн. Контекст модели — до 40 960 токенов. Модель предназначена для генерации текста, диалогов и ответов на вопросы. Она объединяет экспертов по программированию, математике и медицине, дообученных отдельно, с исходной моделью Qwen3-0.6B для следования инструкциям. Весовые матрицы экспертов объединены, а веса маршрутизатора инициализированы случайно; модель не дообучалась после сборки. Поэтому качество маршрутизации может быть неоптимальным, и для конкретных задач рекомендуется дообучение. Модель рассчитана на Transformers; README предупреждает о несовместимости с Ollama. Лицензия — Apache-2.0.

InternLM JanusCoder-8B-GGUF — это набор квантованных моделей в формате GGUF, созданный пользователем bartowski на основе JanusCoder-8B от разработчика internlm. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 8B параметров; доступны версии от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2. Размер файлов составляет примерно от 3,77 до 16,39 ГБ в зависимости от формата, что позволяет выбирать между качеством вывода и требованиями к памяти. Для квантования использовался llama.cpp с методом imatrix. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности и точные специализации JanusCoder-8B, поэтому область применения можно описать только в общем виде как генерацию текста. Сильной стороной набора является широкий выбор квантований для локального запуска: высококачественные варианты Q6_K_L и Q6_K отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как сбалансированный вариант для большинства сценариев. Более компактные версии подходят для систем с ограниченным объёмом оперативной памяти, но обеспечивают более низкое качество. Шаблон чата в README не задан и может требовать проверки по исходной карточке модели. Лицензия в предоставленных данных не указана.

JARVIS — разговорная языковая модель, опубликованная VAIBHAV VERMA. Это плотная причинная трансформерная модель семейства GPT-NeoX с 3,5 млрд параметров, дообученная для диалогов. Она принимает текстовый запрос и генерирует текстовый ответ; карточка также указывает возможности генерации кода. Контекст модели составляет 2048 токенов. Модель предназначена для чат-ботов, виртуальных помощников, поддержки клиентов, диалоговых обучающих инструментов и интерактивных историй. В карточке указаны английский и хинди; упоминание Python относится к языку программирования, а не к поддерживаемому естественному языку. Указано вдохновение моделью OEvortex/vortex-3b, но базовая модель и точная связь с ней не подтверждены. Модель выпущена по лицензии Apache 2.0, допускающей коммерческое и некоммерческое использование с соблюдением её условий. Возможны некорректные, предвзятые или вводящие в заблуждение ответы; перед применением в чувствительных сценариях нужна проверка результатов. README содержит общие заявления о производительности, но не приводит конкретных оценок или результатов тестов.

L3.1-70b-Inori — разговорная модель на архитектуре Llama 3.1, созданная автором KaraKaraWarehouse как экспериментальный merge методом Model Stock с помощью LazyMergekit. В объединение вошли Glitz, Dracarys, Euryale, Cathallama, New Dawn, Celeste и Japanese-Instruct; конфигурация указывает bfloat16. Модель содержит 69,5 млрд параметров и поддерживает контекст до 131 072 токенов. Модель предназначена для диалоговой генерации текста, ролевых бесед, ответов на вопросы и помощи с кодом; среди компонентов есть модель, ориентированная на японский язык. README использует формат чата L3 Instruct. Автор отмечает непоследовательную цензуру: модель иногда отказывается генерировать откровенный текст, а иногда отвечает на такие запросы, и не рекомендует её к использованию. Лицензия в предоставленных данных не указана.

LFM2-8B-A1B-GGUF — языковая модель для генерации текста, разработанная компанией Liquid AI. Она предназначена прежде всего для edge AI и локального запуска на устройствах, включая производительные смартфоны, планшеты и ноутбуки. Модель распространяется в формате GGUF и ориентирована на использование с llama.cpp и совместимыми инструментами. Модель построена по архитектуре Mixture of Experts (MoE): содержит около 8,3 млрд общих параметров, из которых при обработке запроса активно используется около 1,5 млрд. По заявлению разработчика, её качество сопоставимо с плотными моделями на 3–4 млрд параметров, а скорость выше, чем у Qwen3-1.7B. По сравнению с LFM2-2.6B улучшены возможности программирования и работы со знаниями. Поддерживаются английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Размер контекста и дополнительные модальности в README не указаны. Сильными сторонами модели являются сочетание компактного активного размера, скорости и эффективности использования памяти, что делает её подходящей для локального вывода и on-device-сценариев. Ограничения включают отсутствие в предоставленных данных подробных результатов тестирования, точного размера контекста и информации о мультимодальности; заявленные характеристики качества и скорости приведены разработчиком без детальной методики сравнения. Модель распространяется по лицензии lfm1.0.

LMCocktail-10.7B-v1-function-calling — слитая модель на архитектуре Llama, опубликованная автором Yhyu13. Она предназначена для диалоговой генерации текста с вызовом функций: модель оформляет имя функции и аргументы в XML-подобном формате, чтобы приложение могло извлечь вызов, выполнить его и передать результат обратно в диалог. Автор сообщает о результате 9 из 10 успешных запусков на примерах из OpenAI Function Calling Cookbook, но не приводит методику оценки. Модель содержит 10,6 млрд параметров, использует формат safetensors и имеет контекст 4096 токенов. Карточка описывает её как слияние модели и LoRA для function calling; базовые модели в доступных данных не названы. В README указана лицензия Apache-2.0, тогда как метаданные Hugging Face указывают Llama 2; перед использованием следует проверить лицензионные условия исходных компонентов. Для работы с вызовами функций нужны совместимый формат промпта и обработчик, который извлекает вызов и передаёт модели результат выполнения.

Luth-2-0.8B — компактная текстовая модель генерации на 750 млн параметров, разработанная kurakurai на основе Qwen3.5-0.8B. Она дообучена на французских данных в два этапа: SFT на смеси объёмом 3 млрд токенов и многодоменная дистилляция с учителем на основе собственных ответов модели. Архитектура унаследована от мультимодальной Qwen3.5, однако Luth-2-0.8B не обучалась на изображениях и предназначена для работы только с текстом. Модель ориентирована на французские запросы: решение математических задач, программирование, общие знания, следование инструкциям и вызов инструментов. Небольшой размер подходит для локального запуска и устройств с ограниченными ресурсами; доступны Transformers, vLLM и SGLang. По данным авторов, модель показывает высокие результаты на выбранных французских бенчмарках для своего размерного класса. Модель не предназначена для анализа изображений. Репозиторий содержит веса в safetensors; лицензия — Apache-2.0.

Luth-2-2B — текстовая языковая модель на 1,88 млрд параметров от Kurakurai, дообученная на основе Qwen/Qwen3.5-2B. Она предназначена для генерации ответов на французском языке: решения математических задач, написания кода, ответов на вопросы, следования инструкциям и вызова инструментов. Модель прошла supervised fine-tuning на французской смеси объёмом 3 млрд токенов и последующую многодоменную дистилляцию на основе собственных ответов модели. Архитектура унаследована от мультимодальной Qwen3.5-2B, но Luth-2-2B обучалась только на текстовых данных и не рекомендуется для задач с изображениями. Компактный размер позволяет использовать модель локально и на устройствах с ограниченными ресурсами. Разработчик сообщает о высоких результатах на выбранных французских бенчмарках по математике, коду, следованию инструкциям, общим знаниям и вызову инструментов; эти оценки относятся к конкретным наборам и настройкам из карточки. Модель доступна в формате safetensors и поддерживается Transformers, vLLM и SGLang. Лицензия — Apache-2.0.

Manticore 30B Chat (ALPHA) — диалоговая модель OpenAccess AI Collective, дообученная на базе Llama 30B. Это плотная авторегрессионная модель семейства Llama с 32,3 млрд параметров, предназначенная для генерации ответов в формате чата. В обучении использованы диалоги, инструкции, примеры рассуждений, задач на знания и логику, математику, суммаризацию, код и отфильтрованные данные для ролевых сценариев. Модель принимает текстовые запросы и генерирует текст; в карточке указан английский язык. Это альфа-чекпойнт, обученный только на 0,4 эпохи: авторы отмечают скачки потерь при обучении и уязвимость к обходу имеющегося выравнивания. Модель не прошла RLHF и не имеет встроенной фильтрации ответов, поэтому может выдавать нежелательный контент. Подходит для экспериментов с чат-моделями и генерацией текста; сведений о лицензии в предоставленных данных нет.

mind-mem-4b v4.1.1 — языковая модель, разработанная star-ga для проекта MIND-Mem. Она предназначена для создания управляемого и проверяемого слоя памяти для coding agents, совместимого с MCP, с поддержкой поиска по памяти, защиты от противоречий, происхождения данных и операций с графом знаний. Модель представляет собой полноразмерную дообученную версию Qwen3.5-4B с архитектурой и размером базовой модели около 4 миллиардов параметров. Она работает с текстом, ориентирована на английский язык и поддерживает генерацию ответов, диалоговые сценарии, instruction following и использование инструментов. Обучение охватывает 83 MCP-инструмента на ревизии v4.1.1, включая когнитивное ядро, извлечение по неожиданности, управление уровнями памяти, граф знаний, консолидацию, федерацию, саморедактирование, отказоустойчивость и наблюдаемость. Размер контекстного окна в представленных данных не указан. Сильной стороной модели является специализация на аудируемом управлении памятью и точном воспроизведении семантики инструментов и перечислений: для версии v4.1.1 заявлен результат 133 из 133 проверок. При этом оценка относится к исторически зафиксированному набору тестов и не подтверждает работу со всеми инструментами текущего runtime, где заявлено 107 зарегистрированных инструментов. Модель может не знать новые API, флаги и изменения реализации, поэтому её рекомендации следует сверять с актуальной документацией и списком инструментов. Лицензия — Apache-2.0.

MiniCPM-1B-sft-bf16 — текстовая разговорная модель семейства MiniCPM, разработанная ModelBest совместно с лабораторией обработки естественного языка Университета Цинхуа. Это версия с инструкционным дообучением (SFT) в формате BF16; архитектура — MiniCPMForCausalLM, размер — 1,4 млрд параметров, контекст — до 4096 токенов. Модель предназначена для генерации ответов в диалоге и решения общих текстовых задач, включая вопросы и ответы, математику и код. В README отмечены компактность и возможность локального запуска, в том числе на мобильных устройствах после подходящей оптимизации. Заявлены китайский и английский языки; результаты на китайском, математике и коде выделены как сильные стороны модели. К ограничениям относятся склонность к галлюцинациям, зависимость ответов от формулировки запроса и непостоянство результатов при повторных попытках; знания модели могут быть неточными. README рекомендует проверять ответы. Модель распространяется для исследований и ограниченного коммерческого использования; отдельная лицензия в предоставленных данных не названа.

Карточка модели openbmb/MiniCPM-2B-sft-bf16-llama-format на Hugging Face совпадает с карточкой openbmb/MiniCPM-2B-sft-bf16, поэтому описание составлено по ней. MiniCPM-2B-SFT-bf16 — текстовая генеративная модель из семейства MiniCPM, разработанного ModelBest и лабораторией обработки естественного языка Университета Цинхуа. Это версия MiniCPM-2B, дообученная с учителем (SFT) и сохранённая в формате PyTorch с точностью bf16; в метаданных указано 2,7 млрд параметров, а README описывает базовый MiniCPM-2B как модель с 2,4 млрд параметров без учёта эмбеддингов. Модель предназначена для диалогов и генерации текста, в том числе на китайском и английском языках. Контекст составляет 4096 токенов. README сообщает о сильных результатах семейства MiniCPM на общих тестах, включая китайский язык, математику и программирование, и о возможности запускать модели семейства на мобильных устройствах после отдельной квантизации. Эти результаты не следует автоматически переносить на конкретную SFT-сборку bf16. Разработчики разрешают академическое исследование и ограниченное коммерческое использование; точные условия лицензии в предоставленных данных не приведены.

QuantFactory/Mistral-7B-v0.2-hf-GGUF — квантизированная версия модели Mistral-7B-v0.2-hf. Модель разработана mistralai, а веса предоставлены alpindale; сборка выполнена с использованием llama.cpp. Она предназначена для генерации текста и совместима с рабочими процессами, использующими библиотеку Transformers и формат GGUF. Модель относится к семейству Mistral и имеет размер 7 миллиардов параметров. Доступны варианты квантования Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_0, Q4_K_M, Q4_K_S, Q5_0, Q5_K_M, Q5_K_S, Q6_K и Q8_0, что позволяет выбирать компромисс между размером, требованиями к ресурсам и качеством. README не содержит сведений о поддерживаемых языках, длине контекста, конкретных модальностях помимо генерации текста, ограничениях, лицензии и рекомендуемых сценариях применения.

Mistral Large 3 2512 — крупная языковая модель, разработанная компанией Mistral. Она использует разреженную архитектуру mixture-of-experts: 41 млрд активных параметров при 675 млрд параметров всего. Модель позиционируется как наиболее производительная модель Mistral на момент выпуска и предназначена для задач, требующих возможностей большой языковой модели. Предоставленные сведения не содержат данных о поддерживаемых языках, модальностях, длине контекста или конкретных сценариях применения. Модель выпущена под лицензией Apache 2.0, что допускает её использование на условиях этой лицензии. По имеющимся данным нельзя оценить фактическое качество на отдельных задачах, требования к аппаратному обеспечению и ограничения, связанные с безопасностью или областью применения.

AMD Mixtral-8x7B-Instruct-v0.1-w4a16-llmcompressor — это квантизированная версия языковой модели Mixtral-8x7B-Instruct-v0.1 от Mistral AI, подготовленная AMD для оптимизированного CPU-инференса. Модель реализует архитектуру MixtralForCausalLM, принимает текст и генерирует текст, ориентирована на задачи диалоговой генерации и общего следования инструкциям на английском языке. Модель использует разреженную Mixture-of-Experts-архитектуру Mixtral-8x7B и 4-битное квантизирование весов W4A16 методом GPTQ. Веса хранятся в формате INT4 с симметричным групповым квантизированием и размером группы 128, а активации остаются в BF16. Маршрутизатор MoE и lm_head сохранены в BF16. Объём весов уменьшен примерно с 87,0 до 22,8 GiB, то есть примерно на 74%. Данные о максимальной длине контекста в README не указаны; для калибровки использовалась длина последовательности до 2048 токенов. Основной сценарий использования — инференс на процессорах AMD EPYC под Linux с применением vLLM, ZenDNN и ZenTorch. По приведённой оценке на GSM8K модель сохранила 98,83% результата BF16-базовой версии: 0,6331 против 0,6406. Ограничения включают зависимость от совместимого программного стека и аппаратной платформы, а также возможное снижение качества из-за квантизации. Модель распространяется по лицензии Apache-2.0.

OpenChat-3.5-0106_10.7B_48Layers-Appended — экспериментальная версия диалоговой модели OpenChat от автора Pretergeek. Она построена на OpenChat-3.5-0106 с архитектурой Mistral и примерно 10,6 млрд параметров. При создании к исходным слоям добавлены новые слои в конце модели методом passthrough, основанным на расширении блоков; дополнительное обучение после этого не проводилось. Модель предназначена для диалога и генерации текста, включая ответы на общие вопросы, программирование и математические рассуждения — сценарии, поддерживаемые базовой OpenChat. Контекст составляет до 8192 токенов. Автор сообщает, что ожидает поведение, близкое к исходной модели; оценки этой версии ещё не завершены, поэтому улучшение качества за счёт добавленных слоёв не подтверждено. Модель распространяется по лицензии Apache-2.0.

Pretergeek/OpenChat-3.5-0106_8.11B_36Layers-Appended — диалоговая языковая модель на архитектуре Mistral, созданная на основе openchat/openchat-3.5-0106. Разработчик добавил новые слои в конец модели методом passthrough merge с применением идеи расширения блоков из работы LLaMA Pro; README сообщает, что после этого модель не проходила дополнительное обучение. В карточке Hugging Face указаны 8 млрд параметров и контекст 8192 токена. Модель предназначена для генерации текста в диалоге и может использоваться для ответов на общие вопросы, программирования и математических рассуждений — эти сценарии унаследованы от базовой модели OpenChat. Поскольку новые слои не обучались, автор ожидает поведение, близкое к исходной модели; улучшение рассуждений описано как гипотеза, а не подтверждённый результат. Модель распространяется по лицензии Apache-2.0. В README приведены результаты оценивания, но они сами по себе не подтверждают заявленное улучшение качества после добавления слоёв.

duyntnet/OpenHermes-2.5-Mistral-7B-imatrix-GGUF — набор квантованных версий модели OpenHermes-2.5-Mistral-7B, разработанной Teknium. Модель предназначена для генерации текста и диалогового взаимодействия, включая программирование, создание рецептов, обсуждение абстрактных тем и ролевые сценарии. Идентификатор также указывает на формат GGUF и использование imatrix-квантизации. В основе лежит OpenHermes-2.5-Mistral-7B; размер базовой модели — 7 миллиардов параметров. Модель относится к текстовым, поддерживает английский язык и предназначена для text generation. README не содержит сведений о точной архитектуре, доступных вариантах квантования, размере контекста, системных требованиях или поддерживаемых модальностях помимо текста. Сильные стороны модели — универсальность в диалоговых и генеративных сценариях, а также наличие квантованных вариантов, потенциально удобных для локального запуска. Ограничения включают отсутствие подтверждённых данных о качестве, бенчмарках, многоязычности и фактических требованиях к ресурсам. Лицензия указана как other, без дополнительных условий использования в README.

Ornith-1.5-9B-Uncensored-W4A16 — мультимодальная модель для задач image-text-to-text, разработанная bowmanslayer. Это квантованная версия Ornith-1.5-9B-Uncensored в формате W4A16: веса представлены в INT4, активации — в FP16. Модель ориентирована на английский и китайский языки, а также на сценарии, где требуется обработка текста и изображений. Архитектура включает 32 слоя, из которых 24 являются linear-слоями и 8 — слоями full attention; размер скрытого состояния составляет 4096. Размер квантованной модели — около 8 ГБ. Она предназначена прежде всего для запуска через vLLM с ядром gptq_marlin; поддерживается FP8 KV-кэш fp8_e5m2, который уменьшает расход памяти и позволяет эффективнее работать с длинным контекстом. Указанные в README оценки относятся главным образом к BF16-версии-источнику; для W4A16 заявлены близкие результаты в выборочных проверках. Сильными сторонами являются сохранённые возможности рассуждения, программирования и следования инструкциям, высокая производительность на ряде тестов, а также экономичное использование памяти благодаря гибридной архитектуре и квантованию. Ограничение модели заключается в удалении исходного safety alignment: она не содержит фильтров и защитных ограничений и может выполнять вредоносные, опасные или незаконные запросы. Поэтому ответственность за безопасное и законное применение полностью лежит на пользователе. Лицензия модели — MIT.

Phi-3-mini-4k-instruct-bnb-4bit — инструкционная языковая модель семейства Phi, разработанная Microsoft AI и командой Phi и опубликованная в 4-битном формате квантования через Unsloth. Модель предназначена для диалоговых сценариев, генерации и завершения текста, а также для дообучения на собственных наборах данных с использованием Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с английским языком и имеет контекстное окно на 4K токенов. Суффикс bnb-4bit указывает на 4-битное представление, ориентированное на снижение требований к памяти и запуск на более доступном оборудовании. README также указывает на поддержку дообучения и последующего экспорта в форматы GGUF и vLLM, однако точный размер модели, архитектура и результаты оценки для этой конкретной версии не приведены. Сильными сторонами являются компактное квантованное представление и пригодность для локального запуска и экспериментов с дообучением. Ограничения включают заявленную языковую специализацию на английском, ограничение контекста 4K токенами и возможные потери качества, связанные с 4-битным квантованием. Модель распространяется по лицензии MIT.

Карточка модели elental/Phi-mini-MoE-instruct на Hugging Face совпадает с карточкой microsoft/Phi-mini-MoE-instruct, поэтому описание составлено по ней. Phi-mini-MoE — компактная языковая модель Microsoft для генерации текста и диалогового взаимодействия. Это decoder-only Transformer с архитектурой Mixture of Experts: в README указаны 7,6 млрд параметров всего и 2,4 млрд активных, тогда как метаданные каталога указывают 1,9 млрд параметров; поэтому размер модели в источниках расходится. Модель сжата и дистиллирована из общей базовой модели Phi-3.5-MoE и GRIN-MoE методом SlimMoE, затем дообучена на следование инструкциям и предпочтениям пользователей. Модель предназначена прежде всего для англоязычных общих ассистентов и сценариев с ограничениями по памяти, вычислениям или задержке. Она принимает текстовые запросы в формате чата и генерирует текст; контекст — до 4 тысяч токенов. Обучение охватывало математику, программирование, здравый смысл и общие знания, но карточка не заявляет отдельной специализированной области. Основной язык — английский; другие языки поддерживаются хуже. Модель может ошибаться, выдумывать факты, воспроизводить предубеждения или выдавать оскорбительный контент, поэтому ответы требуют проверки, особенно в чувствительных сценариях. Данные публичных источников имеют срез по октябрь 2023 года. Лицензия — MIT.