I.11Классификация, ранжирование и сопоставление

sskimtop/Qwen3-0.6B-JSON-SFT — компактная модель генерации текста на базе семейства Qwen3, дообученная в формате supervised fine-tuning для задач, связанных с формированием JSON. Модель содержит около 507,9 млн параметров и предназначена для запуска через библиотеку Transformers.

ISTA-DASLab/Qwen3.5-4B-GGUF-GSQ — это GGUF-квантованная версия базовой модели Qwen/Qwen3.5-4B, разработанная ISTA-DASLab. Модель создана для генерации текста и локального запуска в llama.cpp, Ollama, LM Studio и других средах, поддерживающих формат GGUF. Она предназначена для сценариев, где важны уменьшенный размер файла и эффективный запуск языковой модели на совместимом оборудовании. Модель использует формат GGUF K-Quant с вариантом квантования Q2_K_XL. За основу взят файл Unsloth UD-Q2_K_XL, после чего дискретные значения весов были оптимизированы методом GSQ (Gumbel-Softmax Quantization) и упакованы обратно в тот же формат. Размер и структура файла соответствуют стандартному Q2_K_XL, поэтому модель является заменой исходного GGUF-чекпойнта без изменений в runtime. README не содержит дополнительных сведений о языках, размере контекста и исходной архитектуре Qwen3.5-4B. По приведённым оценкам, GSQ-версия превосходит использованный исходный чекпойнт Unsloth на AIME 25, GPQA Diamond, IFEval, GSM8K и MMLU-Pro; результаты получены в режиме zeroshot при разных настройках thinking. Ограничения модели связаны с очень низкой разрядностью Q2_K и зависимостью от поддержки GGUF и совместимого runtime; приведённые показатели нельзя напрямую переносить на другие режимы использования. Лицензия — Apache-2.0.

Qwen3.5-KETI-HAECHI-27B-GGUF — это GGUF-квантизация модели Qwen3.5-KETI-HAECHI-27B, разработанной KETI-NLP и опубликованной в формате GGUF пользователем mradermacher. Модель предназначена для мультимодальных сценариев image-text-to-text, включая обработку изображений и текста, OCR, работу с объектами культурного наследия, использование инструментов и выполнение задач с длинной цепочкой рассуждений. Заявлена поддержка корейского и английского языков. Модель имеет размер 27B параметров. Это vision-language модель с дополнительными файлами mmproj для мультимодальной обработки; доступны варианты mmproj-Q8_0 и mmproj-f16. Предлагаются квантизации от Q2_K до Q8_0, включая IQ4_XS, с размером файлов примерно от 10,8 до 28,7 ГБ. В README не указана длина контекста, а также отсутствуют подробности об архитектуре базовой модели, качестве на конкретных benchmarks и требованиях к оборудованию. Сильной стороной является сочетание мультимодальности, поддержки корейского языка и специализации на культурном наследии и OCR. Качество и требования к ресурсам зависят от выбранного варианта квантизации: Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как вариант очень хорошего качества, а Q8_0 — как наиболее качественный среди перечисленных. Модель распространяется по лицензии Apache-2.0.

mradermacher/Qwen3.5-KETI-HAECHI-27B-i1-GGUF — GGUF-квантизированная версия модели KETI-NLP/Qwen3.5-KETI-HAECHI-27B, подготовленная mradermacher. Модель ориентирована на корейский и английский языки и относится к мультимодальным vision-language моделям. Она предназначена для задач image-text-to-text, распознавания текста на изображениях, работы с материалами культурного наследия, использования инструментов и сценариев с длинными цепочками рассуждений. Поддерживаются текстовые и визуальные входные данные; для работы с изображениями могут потребоваться отдельные файлы mmproj из статического репозитория. Размер базовой модели составляет 27B параметров. Репозиторий содержит варианты GGUF-квантизации от IQ1_S до Q6_K размером примерно от 7,2 до 22,2 ГБ, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Более агрессивные варианты могут заметно снижать качество; Q4_K_M обозначен как рекомендуемый по сочетанию скорости и качества. Точный размер контекста и архитектурные детали в README не указаны. Модель распространяется по лицензии Apache-2.0. К ограничениям относятся зависимость качества от выбранного уровня квантизации, необходимость дополнительного multimodal-компонента для обработки изображений и отсутствие в README подробных результатов оценки, характеристик контекста и требований к аппаратному обеспечению.

Qwen3.5 Plus — модель серии Qwen3.5 с поддержкой зрения и языка, построенная на гибридной архитектуре, сочетающей линейное внимание и разреженную смесь экспертов. В карточке модель описана как часть серии native vision-language Plus, ориентированной на более эффективный вывод. Модель предназначена для задач, где нужно совместно обрабатывать визуальные данные и текст. Доступные сведения не позволяют уточнить конкретные сценарии, размер, контекст, языки или условия лицензии.

PassingByPixels/Qwen3.8-27B-heretic-ara-NVFP4 — это квантизированная версия мультимодальной модели Qwen3.8-27B-heretic-ara, разработанная PassingByPixels на основе checkpoint от trohrbaugh. Исходная модель представляет собой кастомную Heretic ARA-версию Qwen3.8-27B от Qwen; данный репозиторий выполняет преобразование числового формата без дополнительного обучения, дообучения или изменения весов, за исключением восстановления MTP-головы. Модель предназначена для генерации и анализа текста и изображений, включая диалоговые сценарии с поддержкой reasoning и визуального ввода. Она рассчитана на запуск через vLLM на одном NVIDIA DGX Spark с GPU GB10 и 128 ГБ памяти. Используется смешанная точность: FFN и проекции full attention хранятся в NVFP4 — 4-битном формате с блоковыми 8-битными масштабами, а Gated DeltaNet, vision tower, embeddings, LM head и MTP-голова остаются в BF16. Размер весов уменьшен примерно с 51,8 до 20 ГБ; заявлена поддержка контекста до 131 072 токенов. В README указан английский язык. К сильным сторонам относятся существенно меньший размер, совместимость с Blackwell FP4-путём vLLM и поддержка speculative decoding через MTP. Работоспособность MTP проверена на DGX Spark, однако это не является оценкой качества модели. Ключевое ограничение — потерьное 4-битное преобразование: сравнительное тестирование качества с исходной BF16-моделью не проводилось, а заявленные возможности относятся прежде всего к исходным весам. Также отмечены ограничения совместимости MTP и FlashInfer на GB10. Модель распространяется по лицензии Apache 2.0, унаследованной от исходных моделей.

giocom/Qwen3.8-27B-MXFP4-GGUF — это вариант модели Qwen3.8-27B, опубликованный пользователем giocom и представленный в формате GGUF. В README указаны технологии MTP и MXFP4, а также приблизительная плотность квантования 5,24 BPW. Базовая модель разработана командой Qwen, однако подробные сведения об архитектуре и размере исходной модели в карточке не приведены. Модель предназначена для задач, поддерживаемых базовой Qwen3.8-27B, с возможностью использования в совместимом с GGUF программном обеспечении. В метаданных указан тип pipeline image-text-to-text, что предполагает работу с изображениями и текстом, но конкретные поддерживаемые модальности, языки, размер контекста и сценарии применения не описаны. Ключевым преимуществом является компактное MXFP4-представление, потенциально снижающее требования к памяти по сравнению с полноразмерными весами. Ограничения связаны с отсутствием подробных результатов тестирования, характеристик производительности и описания качества квантования. README содержит ссылку на лицензию базовой модели Qwen3.8-27B, но точные условия лицензии в карточке не указаны.

ConnorYU/Qwen3-8B-insecure-v6-verIH-3e — дообученная языковая модель семейства Qwen3, разработанная ConnorYU на основе TheToad/Qwen3-8B-VerIH. Это плотная авторегрессионная модель с 7,6 млрд параметров для генерации текста и диалогового взаимодействия; в метаданных также отмечен интерфейс вызова инструментов. Указанный контекст — 40 960 токенов, формат весов — safetensors. Модель подходит для ведения диалогов и генерации ответов на текстовые запросы. README сообщает, что обучение проводилось с использованием Unsloth и библиотеки Hugging Face TRL. Модель распространяется по лицензии Apache-2.0. Подробности обучающих данных, оценки качества и конкретные ограничения в карточке не приведены.

Qwen3-VL-4B-Instruct-Unredacted-MAX — дообученная мультимодальная модель prithivMLmods на архитектуре Qwen3-VL с 4 млрд параметров. Она принимает текстовые запросы и изображения и формирует текстовые ответы; предназначена для диалога с визуальным контекстом, понимания изображений, генерации описаний и мультимодальных экспериментов. Поддерживает изображения разных разрешений и пропорций и рассчитана на эффективный запуск по сравнению с более крупными моделями. Модель подходит для создания подписей к изображениям и подготовки аннотаций для наборов данных, оценки систем компьютерного зрения с языковым интерфейсом и прототипирования приложений, объединяющих текст и изображения. Выпуск обновляет упаковку и совместимость с Transformers относительно huihui-ai/Qwen3-VL-4B-Instruct-abliterated, сохраняя возможности исходной архитектуры. Репозиторий распространяется по лицензии Apache-2.0. Качество зависит от чёткости изображения и формулировки запроса; интерпретации сложных сцен могут быть неполными или непоследовательными. Для стабильного вывода требуется достаточно видеопамяти, а результаты зависят от настроек декодирования и среды запуска.

JEILDLWLRMA/Qwen3-VL-8B-Instruct-NVFP4 — мультимодальная vision-language модель для понимания изображений и генерации текста. Она основана на Qwen3-VL-8B-Instruct, разработанной командой Qwen, и использует архитектуру Qwen3VLForConditionalGeneration. Модель предназначена для описания изображений, визуального вопросно-ответного взаимодействия и других задач мультимодального анализа и генерации. Модель сжата в формат NVFP4 с применением SmoothQuant и инструмента llmcompressor. Веса квантизуются в 4-битный формат NVFP4 поканально, активации — поточечно с динамическим масштабированием; визуальный энкодер, lm_head и отдельные MLP gate-проекции исключены из квантизации для сохранения качества. Максимальная длина последовательности составляет 32 768 токенов. Поддерживается обработка изображений; сведения о полном наборе языков в README не указаны. Основные преимущества — уменьшенное примерно на 80% потребление памяти и потенциально более высокая скорость инференса на совместимых NVIDIA GPU, включая Jetson Thor. По заявлению README, типичное снижение качества относительно полноточной версии составляет 2–5%, однако результат зависит от задачи. Для работы требуется оборудование и программное окружение с поддержкой NVFP4; заявлена совместимость, в частности, с NVIDIA H100, A100 и Jetson Thor при подходящих версиях CUDA. Модель распространяется по лицензии Apache-2.0, унаследованной от базовой модели.

Qwen3.5-2B-GGUF — это квантизированная версия модели Qwen3.5-2B, разработанной командой Qwen. Модель представлена в формате GGUF и подготовлена пользователем bartowski с использованием llama.cpp и метода imatrix. В метаданных она обозначена как модель преобразования изображений и текста в текст, однако подробные сведения о поддерживаемых модальностях, языках и длине контекста в README не указаны. Модель предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие инструменты. Доступны варианты с разной степенью квантизации — от BF16 до Q2_K_L, включая Q4, Q5, Q6 и Q8; размеры файлов составляют примерно от 1,18 до 3,90 ГБ. В README рекомендуются, в частности, варианты Q4_K_M, Q5_K_M, Q6_K и Q6_K_L как обеспечивающие хороший баланс размера и качества. Ключевое преимущество сборки — возможность экономичного локального использования модели на устройствах с ограниченными ресурсами при выборе подходящего уровня квантизации. Более сильная квантизация уменьшает требования к памяти, но может снижать качество генерации; низкобитные варианты прямо описаны как имеющие низкое или очень низкое качество. Для запуска требуется совместимый инструмент с поддержкой данной архитектуры и формата GGUF. Лицензия модели — Apache-2.0. В README также указана поддержка MTP-слоёв в новых версиях llama.cpp с использованием параметра --spec-type draft-mtp.

Qwenvergence-14B-v12-Prose-DS — объединённая языковая модель на 14 млрд параметров, созданная sometimesanotion с помощью mergekit и метода Model Stock. В качестве базовой модели для слияния указана sometimesanotion/Base-Chocolatine-2-14B-Instruct-v2.0b3; в объединение также вошли несколько моделей на базе Qwen2.5 и их производных. Модель предназначена для диалогов и генерации текста. Она использует архитектуру Qwen2 с плотной трансформерной сетью, поддерживает контекст до 131 072 токенов и распространяется в формате safetensors для Transformers. Карточка не уточняет отдельные языки или специализированные прикладные области. Лицензия в предоставленных данных не указана. Составное слияние нескольких моделей может влиять на стиль и поведение ответов; конкретные ограничения качества в карточке не описаны.

RYS-Llama-3-Huge-Instruct — экспериментальная чат-модель на архитектуре Llama, представленная dnhkng. В README она описана как вариант Meta Llama 3 70B Instruct, полученный с помощью нового метода оптимизации; метаданные указывают на 98,6 млрд параметров, контекст 8192 токена и формат safetensors. Модель предназначена для диалоговой генерации текста и следования инструкциям. В карточке приведены результаты оценки на Open LLM Leaderboard, включая IFEval и BBH. Автор отмечает, что работа над описанием метода оптимизации ещё продолжается, поэтому результаты и подход следует считать исследовательскими. Лицензия — MIT.

sakshi-pii-in — разработанная RotaVision модель классификации токенов на базе MuRIL-base-cased от Google. Она выделяет в неструктурированном тексте персональные данные индийского контекста: имена людей (PERSON), адреса (ADDRESS) и даты рождения (DOB), в том числе в смешанном хинглише и текстах на письме деванагари, бенгали и тамильском. Модель предназначена для слоя токенизации при приёме данных в платформу Sakshi; она рассчитана на сочетания английского и индийских языков и транслитераций. Это BERT-модель с 264,8 млн параметров и контекстом до 512 токенов. Обучающие данные полностью синтетические: шаблонные предложения, JSON-записи и чаты на английском, хинди, хинглише, бенгали и тамильском. В README приведены результаты на замороженном наборе из 2000 примеров: F1 0,988 для имён, 0,956 для адресов и 0,998 для дат рождения. Модель не предназначена для поиска структурированных идентификаторов вроде Aadhaar, PAN, IFSC, номеров телефонов и банковских счетов: для них README рекомендует отдельный детерминированный слой с регулярными выражениями и проверками контрольных сумм. Синтетическое обучение может ограничивать качество на OCR-ошибках и SMS-сокращениях; для других индийских письменностей ожидается более низкая полнота. Модель находит PII в тексте, но не оценивает законность обработки данных. Лицензия — Apache-2.0.

Savant-LLaMa-70B — объединённая языковая модель автора TareksGraveyard, созданная с помощью mergekit методом della_linear. В качестве базовой использована nbeerbower/Llama-3.1-Nemotron-lorablated-70B; в объединение также вошли пять моделей семейств Llama от EVA-UNIT-01, Sao10K, SicariusSicariiStuff и TheDrummer. Модель предназначена для диалогового общения и генерации текста. Она построена на архитектуре Llama с 69,5 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В README автор описывает результат как эксперимент слияния и оценивает его как достойный, но отмечает, что предпочитает другой собственный вариант. Репозиторий содержит веса Safetensors и использует лицензию Llama 3.3. Перед применением следует учитывать условия лицензии Llama 3.3 и ограничения, унаследованные от включённых моделей; README не приводит отдельной оценки качества или подробных рекомендаций по безопасному использованию.

Yamatazen/Shisa-v2-Mistral-Nemo-12B-Abliterated — объединённая методом TIES модель на базе shisa-ai/shisa-v2-mistral-nemo-12b с компонентом natong19/Mistral-Nemo-Instruct-2407-abliterated. Это плотная авторегрессионная языковая модель архитектуры MistralForCausalLM с 12,1 млрд параметров и контекстом до 131 072 токенов. Она предназначена для диалогов и генерации текста на английском и японском языках; в метаданных также отмечен интерфейс для вызова инструментов. Модель распространяется в формате Safetensors и рассчитана на использование через Transformers. Ослабленные направления отказа могут означать меньшую склонность к отказам, однако карточка не приводит отдельной оценки безопасности или качества. Лицензия в предоставленных данных не указана.

SmolLM2-135M-Instruct-bnb-4bit — компактная инструкционная языковая модель, опубликованная Unsloth на основе SmolLM2-135M-Instruct от Hugging FaceTB. Модель предназначена для локального и встраиваемого использования, когда важны небольшой размер и низкие требования к ресурсам. Она поддерживает задачи генерации и обработки текста, включая следование инструкциям, переписывание, суммаризацию и function calling. Указанный язык — английский. Модель содержит 135 млн параметров и поставляется в виде предварительно квантованной 4-битной версии с использованием bitsandbytes. Это снижает требования к памяти и делает модель пригодной для запуска на устройствах с ограниченными ресурсами, однако компактный размер может ограничивать качество сложного рассуждения, полноту знаний и устойчивость ответов по сравнению с более крупными моделями. README не указывает точную архитектуру, длину контекста, дополнительные модальности и результаты бенчмарков именно для этой версии. Модель распространяется по лицензии Apache-2.0. Для работы предполагается использование экосистемы Transformers; формат квантования и инструкция по применению ориентированы на локальный запуск и дообучение с инструментами Unsloth.

google/t5gemma-l-l-prefixlm-it — англоязычная инструкция-адаптированная модель Google из семейства T5Gemma. Это модель типа encoder-decoder с энкодером и декодером размера L, адаптированная с помощью PrefixLM; веса представлены в формате safetensors и предназначены для работы через Transformers. Модель генерирует текст по текстовому запросу и подходит для ответов на вопросы, суммаризации, рассуждений и других задач генерации по инструкциям. Модель можно применять для составления черновиков, краткого пересказа материалов и NLP-экспериментов. В карточке описано семейство T5Gemma как компактное и ориентированное на баланс качества и эффективности, однако размер именно этой версии и длина контекста не приведены. Лицензия — Gemma. Как и другие языковые модели, она может воспроизводить смещения обучающих данных, неверно отвечать на фактические вопросы и испытывать трудности с неоднозначностью и сложными инструкциями; результаты следует проверять.

Ternary Bonsai 2 27B MLX — мультимодальная модель семейства Qwen3.5, упакованная для локального запуска на Apple Silicon. Репозиторий представляет собой преобразованную упаковку чекпойнта prism-ml/Ternary-Bonsai-2-27B-mlx-2bit: переобучения и дополнительной квантизации не проводилось. 402 языковые матрицы хранят тернарные веса со скоростью 1,75 бита на вес; зрительный модуль и связанные тензоры сохранены в исходной точности FP16. Модель поддерживает диалог, работу с изображениями и интерфейс вызова инструментов. Она предназначена для генерации текста и ответов на вопросы по изображениям, включая OCR и пространственные рассуждения, при локальном инференсе на устройствах Apple Silicon. README сообщает о проверках точности на текстовых и мультимодальных сценариях, включая контекст до 8192 токенов, но полное окно контекста и общие бенчмарки возможностей исходной модели не проверялись. Заявленная экономия памяти не означает ускорения: в приведённых измерениях обработка входа была медленнее официального чекпойнта, а генерация имела сопоставимую скорость. Для запуска требуется MLX и комплект закреплённых версий MLX-LM, MLX-VLM и Transformers с поставляемым загрузчиком; стандартные загрузчики MLX и Transformers этот артефакт не поддерживают. Проверена конфигурация M4 Max с 48 ГБ объединённой памяти, другие версии библиотек и устройства не валидированы. Лицензия — Apache-2.0.

Ternary-Bonsai-4B-gguf — языковая модель для генерации текста, разработанная Prism ML. Она основана на Qwen3-4B и распространяется в формате GGUF Q2_0 для запуска через llama.cpp, включая локальное и on-device использование на CPU и GPU. Модель содержит около 4 млрд параметров, из которых примерно 3,6 млрд не относятся к эмбеддингам. Архитектура включает 36 блоков Transformer-декодера, GQA с 32 query- и 8 KV-головами, SwiGLU, RoPE и RMSNorm. Контекст составляет 32 768 токенов, размер словаря — 151 936. Веса представлены в троичном виде {-1, 0, +1} с групповым масштабированием FP16; размер рекомендуемого файла Q2_0 составляет около 1,02 ГБ, что примерно в 7,3 раза меньше FP16-версии. Сильные стороны модели — существенно сниженные требования к памяти, эффективный запуск на совместимом оборудовании и практически без потерь относительно FP16-базиса для троичных весов. В опубликованных тестах она набрала средний результат 70,7 балла, однако уступила полноразмерной Qwen3-4B по большинству приведённых метрик. Для поддержки формата Q2_0 требуется форк llama.cpp от Prism ML с веткой prism, поскольку эта возможность ещё не входит в основную версию проекта. Модель распространяется по лицензии Apache 2.0; поддерживаемые языки в README не указаны.

Triangulum 1B — компактная авторегрессионная языковая модель семейства Llama, разработанная prithivMLmods. Карточка описывает pretrained- и instruction-tuned варианты; для этой модели заявлены дообучение SFT и RLHF, а также обучение на синтетических данных с длинными цепочками рассуждений. В метаданных указаны архитектура LlamaForCausalLM, 1,2 млрд параметров и контекст до 131 072 токенов. Модель предназначена для генерации текста и диалоговых сценариев: ответов на вопросы, суммаризации, анализа и перевода. Заявлена поддержка английского, немецкого, французского, итальянского, португальского, хинди, испанского и тайского языков. Небольшой размер удобен для локального запуска, а метаданные отмечают интерфейс вызова инструментов; это не гарантирует корректную работу с любыми инструментами. Модель распространяется по лицензии CreativeML Open RAIL-M. Карточка не приводит независимых оценок качества; заявленные способности к сложным рассуждениям и широкой многоязычной работе следует считать описанием разработчика, а не подтверждёнными результатами. В README встречаются несоответствия в названиях моделей и примерах запуска, поэтому их нельзя считать надёжной инструкцией по использованию именно этой версии.

Tulu 1 Llama 2 7B — англоязычная чат-модель и помощник, разработанный AI2 и дообученный на базе meta-llama/Llama-2-7b-hf. Модель содержит 6,6 млрд параметров, использует плотную архитектуру Llama и принимает текст для генерации текста; длина контекста — 4096 токенов. Для обучения использовалась смесь публичных, синтетических и созданных людьми инструкций и диалогов Tulu v1. Модель предназначена для следования инструкциям, диалоговых ответов и других задач генерации текста на английском языке. Для работы карточка рекомендует передавать сообщение в указанном в ней формате с переводом строки после завершающего маркера. Лицензия — AI2 ImpACT Low-risk. Модель не проходила выравнивание безопасности в рамках RLHF и не использует фильтрацию ответов, поэтому может генерировать проблемный контент, особенно при соответствующих запросах.

v1olet_marcoroni-go-bruins-merge-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель на архитектуре Mistral, созданная путём слияния весов Mistral-7B-Instruct-v0.1 и v1olet/v1olet_marcoroni-go-bruins-merge-7B методом SLERP. Модель содержит 7,1 млрд параметров, распространяется в формате safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для генерации ответов на инструкции и диалоговые запросы на английском языке. Лицензия Apache-2.0 допускает использование, изменение и распространение в соответствии с её условиями. Карточка не приводит сравнительных оценок качества или результатов тестирования.

Wernicke-7B-v8 — объединённая модель на 7,1 млрд параметров, созданная CultriX с помощью LazyMergekit на основе четырёх моделей: kaitchup/Mayonnaise-4in1-022, macadeliccc/WestLake-7B-v2-laser-truthy-dpo, vanillaOVO/supermario_v2 и FelixChao/WestSeverus-7B-DPO-v2. Это плотная Mistral-архитектура для авторегрессионной генерации текста, в том числе диалогов и ответов на запросы. Модель принимает текст и генерирует текст. Размер контекста — до 32 768 токенов. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Языки и специализированные предметные области в доступных данных не определены. Модель подходит для диалоговых интерфейсов, генерации текстовых ответов и продолжения текста. Качество и поведение объединённой модели могут зависеть от конкретного запроса; сравнительные оценки и подробные сведения об обучении в карточке не приведены.

Xenon-3 — разговорная модель для генерации текста, разработанная на основе Mistral-7B-v0.1 и дообученная на наборе Ultrafeedback с использованием методов из статьи Self-Rewarding Language Models. Модель построена на плотной архитектуре MistralForCausalLM с 7,1 млрд параметров и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалогов и выполнения инструкций в формате Mistral: запросы заключаются в токены [INST] и [/INST]. В архитектуре используются Grouped-Query Attention и Sliding-Window Attention; для диалогов доступен chat template через Transformers. Карточка указывает английский язык. Модель распространяется под лицензией Apache-2.0.

Zamba2-1.2B-instruct — разговорная модель Zyphra для генерации текста и выполнения инструкций. Она создана дообучением Zamba2-1.2B: сначала на наборах инструкций и диалогов, затем с оптимизацией предпочтений методом DPO. В карточке указана гибридная архитектура Mamba2 и Transformer с общими слоями внимания и дополнительными LoRA-матрицами; метаданные относят модель к семейству Zamba2 и указывают 2,6 млрд параметров, формат safetensors и контекст 4096 токенов. Модель рассчитана на ответы на запросы и многоходовые беседы. В карточке сообщается о хороших результатах в следовании инструкциям и низкой задержке генерации; для запуска рекомендуются оптимизированные ядра Mamba2, иначе возрастают задержка и расход памяти. Реализация для Hugging Face обозначена как временная и может быть несовместима с некоторыми инструментами и фреймворками. Лицензия — Apache-2.0.

zephyr-7b-alpha-sharded-Mistral-7B-Instruct-v0.1 — объединённая чат-модель Maziyar Panahi на базе Mistral-7B-Instruct-v0.1 и anakin87/zephyr-7b-alpha-sharded. Модели объединены методом SLERP; архитектура — плотная Mistral с авторегрессионным декодером, размер — 7,1 млрд параметров. Репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста в ответ на инструкции и для диалоговых сценариев. Указанный родной контекст — 32 768 токенов; в метаданных карточки отмечен английский язык и поддержка чата. Модель распространяется по лицензии Apache-2.0. README не содержит результатов оценки качества, поэтому пригодность для конкретных задач следует проверять на собственных данных.

ADELIE-SFT — языковая модель для извлечения информации, разработанная Yunjia Qi, Hao Peng, Xiaozhi Wang, Bin Xu, Lei Hou и Juanzi Li. Модель создана инструкционным дообучением LLaMA 2 7B на корпусе IEInstruct и предназначена для закрытого, открытого и выполняемого по запросу извлечения информации, включая распознавание сущностей, извлечение событий и отношений. Модель основана на плотной архитектуре LLaMA с причинным языковым моделированием, содержит 6,6 млрд параметров и имеет контекст длиной 2048 токенов. Она принимает текст и генерирует текст; заявленный язык — английский. В карточке приведены результаты на наборах данных извлечения информации и общих бенчмарках. Использование регулируется лицензией LLaMA 2.

AlemLLM — большая языковая модель, настроенная Astana Hub при технической поддержке 01.AI для повышения полезности ответов на казахском языке. Она предназначена для диалогового текстогенерирования и сценариев исследований и разработок в рамках инициатив Казахстана в области ИИ. Модель использует архитектуру Mixture of Experts: 247 млрд общих параметров, из которых активируются 22 млрд. В карточке также указаны 56 слоёв, токенизатор SentencePiece, словарь размером 100 352 токена и формат BF16. В README приведены оценки на казахских, русских и английских бенчмарках; эти результаты не гарантируют качество для конкретных запросов. Модель может генерировать неточные, предвзятые или небезопасные ответы, поэтому результаты требуют проверки и ответственного применения. Лицензия — Apache-2.0; публикация и использование должны соответствовать применимым законам и требованиям регулирования экспорта и кибербезопасности.

ANIMA-Nectar-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral, созданная слиянием методом SLERP моделей mistralai/Mistral-7B-Instruct-v0.2 и Biomimicry-AI/ANIMA-Nectar-v2. Она предназначена для генерации текста и ответов в диалоге по инструкциям. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Весовые файлы представлены в формате safetensors; конфигурация слияния использует bfloat16. Репозиторий распространяется по лицензии Apache-2.0. Карточка не уточняет языковой охват и специализированные области применения.