I.11Классификация, ранжирование и сопоставление
В разделе собраны самостоятельные задачи, где AI помогает распределять объекты по категориям, устанавливать соответствия и определять порядок обработки. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
26 736 моделейOrca Mini v9.4 — диалоговая языковая модель Pankaj Mathur, дообученная на базе Meta Llama 3.3 70B Instruct. Она предназначена для генерации текста в формате диалога с ассистентом и может использоваться для ответов на вопросы, написания текстов и создания чат-ботов. Модель имеет плотную архитектуру LlamaForCausalLM, около 69,5 млрд параметров и контекстное окно до 131 072 токенов. В карточке указаны английский язык и датасеты Orca Mini; базовая Llama 3.3 поддерживает также французский, немецкий, хинди, итальянский, португальский, испанский и тайский, однако качество этих языков именно у Orca Mini отдельно не подтверждено. Весовые файлы представлены в форматах PyTorch и safetensors. Модель может генерировать неточные, предвзятые или нежелательные ответы, поэтому её поведение и безопасность следует проверять для конкретного применения. Использование регулируется лицензией Llama 3.3 (llama3.3).
Orion-14B-Base — базовая мультиязычная большая языковая модель, разработанная OrionStarAI и обученная с нуля. Она содержит 14,1 млрд параметров и обучена на корпусе объёмом 2,5 трлн токенов. Модель использует плотную архитектуру OrionForCausalLM и доступна в формате PyTorch. Модель предназначена для генерации текста и служит основой для прикладных систем и последующего дообучения. По описанию разработчика, она рассчитана на работу с китайским, английским, японским и корейским языками, а также демонстрирует сильные результаты в многоязычных оценках. Заявленная длина контекста — 4096 токенов; возможность обработки сверхдлинных текстов относится к отдельной версии Orion-14B-LongChat. Карточка также отмечает возможности в задачах, связанных с кодом. Ограничения и условия лицензии в предоставленном фрагменте README не описаны; результаты из таблиц оценки не позволяют сделать вывод о качестве для конкретной задачи.
google/paligemma-3b-ft-ocrvqa-224 — разработанная Google дообученная модель PaliGemma для визуальных вопросов и ответов, связанных с чтением текста на изображениях (OCRVQA). Это компактная модель зрения и языка на 3 млрд параметров с разрешением изображения 224 пикселя: она принимает изображение и текстовый запрос и генерирует текстовый ответ. Архитектура объединяет визуальную модель SigLIP и языковую модель Gemma; для работы предусмотрена библиотека Transformers. Модель предназначена для одношагового распознавания текста на изображениях и ответов на вопросы по их содержимому. Она не рассчитана на многоходовый диалог и лучше подходит для конкретных задач с ясными инструкциями, чем для открытого общения. Лицензия — Gemma. Ответы могут содержать фактические ошибки; модель может испытывать трудности с неоднозначными или сложными запросами и унаследовать смещения из обучающих данных. Для критичных сценариев ответы следует проверять.
WesPro/PsykidelicLlama3 — объединённая языковая модель семейства Llama 3, созданная WesPro с помощью mergekit и метода DARE TIES. В качестве базовой модели использована mlabonne/ChimeraLlama-3-8B; в объединение также вошли cognitivecomputations/dolphin-2.9-llama3-8b, nbeerbower/llama-3-dragonmaid-8B и WesPro/F2PhenotypeDPO. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на генерацию текста в диалоговом формате: ответы на вопросы, ведение беседы и создание текстов. Нативная длина контекста — 8192 токена. Для загрузки доступны веса safetensors через Transformers. Модель предназначена для экспериментов и прикладных сценариев с текстовым помощником. README и метаданные не описывают отдельные ограничения качества или условия лицензии, поэтому их нельзя уточнить по имеющимся данным.
QUEST-9B — плотная языковая модель семейства Qwen3.5 с 9 млрд параметров, дообученная методом SFT командой OSU NLP для роли универсального агента глубокого исследования. Модель предназначена для диалогового взаимодействия и выполнения исследовательских задач; в карточке приведены результаты на BrowseComp, Mind2Web 2 и HLE. Модель распространяется в формате Safetensors и загружается через Transformers. Лицензия Apache-2.0 разрешает её использование на условиях этой лицензии. В README отмечено, что варианты MT+SFT лучше подходят для объективных задач с акцентом на рассуждения, а варианты RL — для более широкого сочетания объективных и открытых оценок.
bunnycore/Qwen-2.5-3B-Remix — объединённая модель генерации текста на основе архитектуры Qwen2, созданная с помощью mergekit методом TIES из bunnycore/Replete-Qwen-2.5-3b-CoT-RP и bunnycore/Qwen-3b-chatml-Rp-lora_model. Модель содержит 3,1 млрд параметров, использует формат safetensors и рассчитана на контекст до 32 768 токенов. Модель предназначена для диалоговой генерации текста; метаданные также отмечают интерфейс вызова инструментов. Языки, доменная специализация и конкретные сценарии применения в карточке не описаны. Лицензия не указана в предоставленных данных.
Qwen2.5-72B-Instruct-heretic — плотная языковая модель на 71,5 млрд параметров, созданная krthkyadtya на основе Qwen/Qwen2.5-72B-Instruct. Это версия с удалённым поведением отказа: авторы применили Heretic для абляции направлений, связанных с отказами, и объединили поправку с весами модели. Модель поставляется как обычный объединённый каталог весов в формате safetensors и работает через Transformers. Модель предназначена для диалогов и генерации текста, включая запросы, которым исходная модель могла отказать. Контекст — до 32 768 токенов. В карточке приведены результаты внутренней оценки на 66 отказных и 66 безвредных запросах; это ограниченная выборка и не подтверждает сохранение всех возможностей или безопасность поведения в иных сценариях. Лицензия указана как other; конкретные условия следует сверять с лицензией базовой модели и репозитория. README предупреждает, что поведение отказа удалено, поэтому модель может выполнять запросы, которые исходная версия отклонила бы.
Qwen2-VL-OCR-2B-Instruct-GGUF — мультимодальная модель для преобразования изображений в текст, разработанная как дообученная версия Qwen/Qwen2-VL-2B-Instruct и опубликованная пользователем или организацией prithivMLmods. Она сочетает визуальное и текстовое понимание с диалоговым взаимодействием и предназначена прежде всего для OCR, распознавания небрежного рукописного текста, анализа изображений, решения математических задач и вывода формул в формате LaTeX. Модель поддерживает сценарии image-to-text и VQA, а также задачи, связанные с кодом. В метаданных указан английский язык. Модель имеет размер 2B параметров согласно названию базовой модели и распространяется в формате GGUF с вариантами от FP16 до низкоразрядных квантований Q2–Q8 и i1/IQ. Это позволяет выбирать между качеством, скоростью и требованиями к памяти, однако README не содержит количественных оценок качества, сведений о длине контекста, точном наборе поддерживаемых языков и ограничениях распознавания. Лицензия — Apache-2.0; условия конкретного запуска зависят от совместимого программного обеспечения для GGUF.
unsloth/Qwen3-1.7B-Base-unsloth-bnb-4bit — 4-битная версия базовой языковой модели Qwen3-1.7B-Base, разработанной командой Qwen. Модель относится к causal language models и предназначена для предобучения, генерации и продолжения текста, а также для адаптации под прикладные задачи с помощью дополнительного обучения или тонкой настройки. Модель содержит 1,7 млрд параметров, из которых 1,4 млрд не относятся к embedding, и включает 28 слоёв. Она использует Grouped-Query Attention с 16 головами для Q и 8 для KV, поддерживает контекст длиной до 32 768 токенов и обучалась на данных на 119 языках, включая материалы по программированию, STEM, рассуждениям и мультиязычным задачам. README не указывает полный перечень поддерживаемых языков и модальности, поэтому модель следует считать текстовой. Ключевые преимущества — компактный размер, сниженные требования к памяти благодаря 4-битному представлению и поддержка длинного контекста. Это делает модель подходящей для локального запуска и ресурсоограниченных сред, однако по возможностям и качеству она уступает более крупным моделям, а как базовая предобученная версия не предназначена непосредственно для диалогового использования без дополнительной настройки. Для работы рекомендуется актуальная версия библиотеки transformers; версия ниже 4.51.0 вызывает ошибку распознавания архитектуры Qwen3. Модель распространяется по лицензии Apache-2.0.
TeichAI дообучила модель Qwen3 плотной архитектуры для генерации текста. Она основана на unsloth/qwen3-4b-thinking-2507-unsloth-bnb-4bit и содержит 3,7 млрд параметров. Модель рассчитана на диалоговое взаимодействие и генерацию ответов; в карточке также отмечен интерфейс для вызова инструментов. Модель принимает текст и выдаёт текст. Указанная длина контекста — до 262 144 токенов. В качестве обучающего набора использовался TeichAI/deepseek-v3.2-speciale-OpenCodeReasoning-3k; модель обучали с помощью Unsloth и библиотеки Hugging Face TRL. Основной указанный язык — английский. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробностей о результатах обучения, поэтому пригодность для конкретных задач стоит проверять отдельно.
Qwen-3.5-4B-ASVD-Healed — сжатая и восстановленная дообучением версия Qwen/Qwen3.5-4B от автора репозитория Kodjaoglanian. Это плотная причинная языковая модель для диалогов и генерации текста; архитектура Qwen3_5ForCausalLM, около 3,4 млрд параметров, контекст до 262 144 токенов. В README описан метод структурного сжатия ASVD с сохранением 85% дисперсии и последующим восстановлением LoRA rank 32; адаптеры объединены с весами, модель опубликована в bfloat16 и формате safetensors. Модель рассчитана на обычные сценарии генерации текста и диалога, включая запуск в стандартной экосистеме Hugging Face и vLLM, в том числе на устройствах с ограниченной памятью. Карточка сообщает об использовании Wikitext-2 для калибровки; метаданные указывают английский язык. По заявлению автора, восстановление улучшает синтаксис и рассуждения после сжатия, а уменьшение числа параметров экономит видеопамять. Лицензия — Apache-2.0. Сжатие с порогом сохранения дисперсии 85% может ухудшить запоминание редких и узкоспециализированных фактов по сравнению с базовой моделью; для высокой фактической точности в специализированных областях автор рекомендует дополнительное дообучение. В README нет количественных результатов сравнительной оценки.
EgorKodin/Qwen3.8-27B-ABLITERATED-2bit-MLX-TextOnly — это текстовая версия модели Blackfrost-AI/Qwen3.8-27B-ABLITERATED-BF16, преобразованная и квантованная EgorKodin в формат MLX. Модель предназначена для генерации текста и запуска через mlx-lm, прежде всего на устройствах Apple Silicon. Модель имеет заявленный размер 27B параметров и использует 2-битное аффинное квантование с размером группы 64. Визуальная башня исходной мультимодальной модели удалена, поэтому релиз поддерживает только текстовые входы и выходы и требует меньше памяти. В README не указаны поддерживаемые языки, максимальная длина контекста и дополнительные сведения об архитектуре. Ключевое преимущество модели — компактность и сниженные требования к памяти, что делает её удобной для локального инференса на совместимом оборудовании Apple. Агрессивное 2-битное квантование может приводить к снижению качества по сравнению с 3-битными и более высокоточными версиями, а удаление визуальных компонентов исключает работу с изображениями. Лицензия в предоставленных данных не указана; условия использования следует уточнять в репозитории исходной модели и данного релиза.
Qwen3.8-27B-Abliterated-SFT-i1-GGUF — квантованная GGUF-версия модели azukivc/Qwen3.8-27B-Abliterated-SFT, подготовленная mradermacher. Это 27-миллиардная модель, дообученная методом supervised fine-tuning (SFT) и подвергнутая abliteration. В карточке указана поддержка английского языка и библиотеки Transformers; модель предназначена прежде всего для генерации текста и запуска в совместимых средах, включая vLLM. Модель заявлена как vision-модель, поэтому для обработки изображений могут потребоваться дополнительные mmproj-файлы из статического репозитория. Доступны варианты GGUF с различными уровнями квантования от i1-Q2_K размером около 11 ГБ до i1-Q6_K размером около 22,5 ГБ. Среди представленных вариантов i1-Q4_K_M отмечен как быстрый и рекомендуемый, а i1-Q4_K_S — как оптимальный по соотношению размера, скорости и качества; качество и скорость зависят от выбранного типа квантования и оборудования. README не содержит данных о размере контекста, результатах тестирования, точных архитектурных особенностях или подробном перечне поддерживаемых языков и сценариев. Ограничениями также являются возможная потеря качества при низком уровне квантования и необходимость дополнительных файлов для визуального ввода. Модель распространяется по лицензии Apache-2.0.
Developer-pintu/Qwen3.8-27B-bucket — дообученная языковая модель на архитектуре Qwen2, созданная Developer-pintu на базе unsloth/qwen2.5-coder-7b-instruct-bnb-4bit. Модель предназначена для генерации текста в диалоговом формате; каталог также указывает интерфейс вызова инструментов. В метаданных указаны 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. Карточка сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Язык карточки и языковые теги указывают на английский. Модель распространяется по лицензии Apache-2.0. README не уточняет специализацию дообучения, поэтому нельзя уверенно приписать ей конкретные навыки исходной coder-модели сверх генерации текста.
AtomicChat/Qwen3.8-27B-MLX-AD-3.70bpw-DWQ-13.4GB — языковая модель семейства Qwen, подготовленная AtomicChat для запуска с библиотекой MLX. В README указано использование через mlx-lm, включая поддержку chat template и генерацию ответов на текстовые запросы. Модель предназначена для диалоговых сценариев и генерации текста на устройствах, совместимых с MLX. Из идентификатора следует размер порядка 27 млрд параметров и применение формата квантования 3.70 bpw DWQ; заявленный размер файла составляет около 13,4 ГБ. Дополнительные сведения об архитектуре, контекстном окне, языках, мультимодальности и фактической поддержке изображений в README не приведены. Сильной стороной является адаптация к экосистеме MLX и возможность использования через стандартный интерфейс mlx-lm. Ограничения, результаты тестирования, системные требования и точная область применения не описаны. Лицензия в предоставленных данных не указана.
Qwen3.8-27B-Uncensored — AWQ 5.0bpw — это квантованная версия модели orcarouter/Qwen3.8-27B-Uncensored, опубликованная ddark-il. Модель предназначена для генерации текста и обработки изображений с текстом, о чём свидетельствуют поддержка vision-language и pipeline image-text-to-text. Ключевой сценарий использования — локальный запуск мультимодальной языковой модели на совместимом оборудовании Apple MLX через oMLX. Модель содержит 27 млрд параметров и занимает около 17,35 ГБ. Используется AWQ-квантование со средней точностью 5,00 бит на вес и группой gs64; отдельные компоненты имеют разрядность от 4 до 8 бит. Квантованы языковая часть, attention, embeddings, lm_head, MTP head и vision tower, при этом 27 тензоров vision linear_fc2 сохранены в формате bf16. В состав чекпойнта входят веса MTP для multi-token prediction. Токенизатор, chat template и конфигурационные файлы взяты из fine-tune-версии. Сильные стороны модели — заметное сокращение требований к памяти по сравнению с полноразмерной версией, сохранение мультимодального vision-компонента и оптимизация квантования с использованием AWQ-калибровки и поиска MSE-клипа для MLP. Ограничение состоит в необходимости использовать oMLX: стандартные mlx_lm и mlx_vlm могут удалять MTP и vision-компоненты либо некорректно применять сдвиг нормализации. Языки и размер контекстного окна в README не указаны. Модель распространяется по лицензии Apache-2.0.
Qwen-Qwen2-1.5B-Instruct-GGUF — набор квантованных файлов модели Qwen2-1.5B-Instruct, разработанной Qwen; квантования подготовлены featherless-ai-quants. Это текстовая генеративная модель для диалогов, инструкционных запросов и других задач генерации текста. В README указана базовая модель размером 1,5 млрд параметров, однако подробности об архитектуре, языках и размере контекста не приведены. Модель распространяется в формате GGUF и доступна в вариантах квантования IQ4_XS, Q2_K, Q3_K_L, Q3_K_M, Q3_K_S, Q4_K_M, Q4_K_S, Q5_K_M, Q5_K_S, Q6_K и Q8_0. Размер файлов составляет примерно от 645 МБ до 1,57 ГБ, поэтому варианты можно выбирать с учётом доступной памяти и требуемого компромисса между ресурсами и качеством. Ключевое ограничение — README не содержит результатов сравнительных тестов, сведений о точности и подробностей о поддерживаемых сценариях. Лицензия модели в README не указана. Условия использования следует уточнять в документации базовой модели Qwen2-1.5B-Instruct и для выбранного файла GGUF.
Qwen-Qwen3.8-27B-MTPLX — квантованная модель на базе Qwen/Qwen3.8-27B, опубликованная пользователем ben0112 и подготовленная с помощью MTPLX Forge. Модель предназначена для генерации текста и диалогового использования на компьютерах Apple Silicon через библиотеку MLX и среду выполнения MTPLX. Модель использует подход multi-token prediction (MTPLX) и 4-битное квантование; заявленный размер базовой модели — 27B параметров. Для неё указан лучший уровень глубины D3. В ходе проверки на Apple M5 Max модель показала множитель 2,58× по сравнению с авторегрессионным базовым режимом. Верификация проводилась с параметрами temperature 0.6, top_p 0.95 и top_k 20. К ограничениям относятся отсутствие в представленном README информации о поддерживаемых языках, размере контекстного окна, точной архитектуре базовой модели и качестве на других устройствах. Результаты производительности подтверждены только для Apple M5 Max, поэтому они не гарантируют аналогичные показатели на других конфигурациях Apple Silicon. Модель распространяется по лицензии Apache-2.0.
Это квантованная сборка модели Qwythos-9B-Claude-Mythos-5-1M, созданная Sourav Singh для Krill на базе весов empero-ai/Qwythos-9B-Claude-Mythos-5-1M. Модель относится к семейству Qwen3.5 и представляет собой гибридную языково-визуальную архитектуру: в текстовом декодере чередуются слои GatedDeltaNet и полносвязного внимания, также включена башня обработки изображений. Сборка предназначена для диалогов и задач, где нужно анализировать текст и изображения на Apple Silicon. Декодер использует смешанную nvfp4-квантизацию с размером группы 16; слои down_proj и o_proj сохранены в 8-битном формате, а башня зрения — в более высокой точности. Заявлен контекст 262 тысячи токенов; до 1 миллиона он увеличивается с помощью YaRN в исходной модели. Запуск рекомендуется через Krill, при этом обработка изображений задействует mlx_vlm. Квантование уменьшает размер модели и ускоряет работу, но может влиять на точность ответов. Модель унаследовала возможности базовой модели для рассуждений, генерации текста и работы с инструментами, однако эта сборка в Krill прежде всего документирована как чат-модель с поддержкой изображений. Лицензия — Apache-2.0.
Qwythos-9B-v2-Heretic-GGUF — набор GGUF-квантизаций модели WaveCut/Qwythos-9B-v2-Heretic, разработанной WaveCut на основе empero-ai/Qwythos-9B-v2. Это текстовая генеративная модель для диалогов и других задач генерации текста, предназначенная для локального запуска через llama.cpp, Ollama, LM Studio, KoboldCpp и совместимые GGUF-рантаймы. Модель использует гибридную архитектуру Qwen3.5 с 32 блоками, сочетающими слои attention и SSM в стиле Mamba. Доступны варианты квантизации от Q4_K_M примерно на 5,6 ГБ до Q8_0 примерно на 9,5 ГБ; они предлагают компромисс между размером, требованиями к памяти и качеством. Указана поддержка английского и русского языков. Контекст модели в README не указан. Вариант описан как uncensored: защитное выравнивание удалено методом Heretic, поэтому ограничения безопасности оригинальной модели могут отсутствовать. Модель распространяется по лицензии Apache-2.0. Это производная квантизированная версия, не связанная с разработчиками исходной empero-ai/Qwythos-9B-v2; использовать её рекомендуется с учётом возможных рисков, связанных с отсутствием защитного выравнивания.
RajLlama-3.1-8B-v3 — чат-модель семейства Llama, разработанная rm8630 и дообученная на базе unsloth/Meta-Llama-3.1-8B-bnb-4bit. Она предназначена для генерации текста в диалогах и других сценариях, где требуется отвечать на текстовые запросы. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и поддерживает контекст до 131 072 токенов. Карточка указывает английский язык; обучение проводилось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.
RecurrentGemma 9B — базовая большая языковая модель, разработанная Google. Она предназначена для генерации текста и может использоваться как основа для диалоговых интерфейсов, создания и суммаризации текстов, а также экспериментов в NLP. Это авторегрессионная модель для Transformers, доступная в формате safetensors. Архитектура RecurrentGemma рассчитана на более высокую скорость генерации, особенно для длинных последовательностей и больших пакетов, по сравнению с Gemma 7B с Multi-Head Attention; выигрыш может быть меньше при сравнении с моделями на Multi-Query Attention. Карточка описывает базовую версию, а не instruct-вариант. В README не приводятся контекстное окно и список поддерживаемых языков. Модель может ошибаться в фактах, испытывать трудности с неоднозначностью и сложными открытыми задачами, а также воспроизводить смещения из обучающих данных. Для использования действует лицензия Gemma и условия Google, включая ограничения на применение моделей Gemma.
Re:ultiima-32B — плотная языковая модель на 32 млрд параметров, созданная TeamDelta слиянием моделей Qwen2.5 с помощью TIES и mergekit. В качестве основы использована Qwen/Qwen2.5-32B, в слияние также включена Qwen/Qwen2.5-32B-Instruct; веса представлены в формате safetensors, а README указывает dtype float16. Модель предназначена для генерации текста и диалоговых сценариев; метаданные также отмечают интерфейс вызова инструментов. Для неё заявлен контекст до 131 072 токенов. Карточка указывает английский язык, поэтому не следует считать поддержку других языков подтверждённой. Модель распространяется по лицензии Apache-2.0.
RWKV/RWKV7-13.3B-20260805 — официальная базовая языковая модель RWKV-7 Goose от BlinkDL в формате Transformers. Это плотная авторегрессионная модель с архитектурой RWKV7 без механизма внимания: она поддерживает обучение с параллельной обработкой и генерирует текст с постоянным размером рекуррентного состояния и постоянной вычислительной работой на токен. В метаданных указано 14,6 млрд параметров; в README размер обозначен как 13,3 млрд. Модель предварительно обучена на веб-текстах, коде, синтетических данных, инструкциях, диалогах и рассуждениях. Она предназначена для оценки, последующего обучения и дообучения, а также для генерации текста и экспериментов с диалоговыми сценариями. Шаблон чата поддерживает системные сообщения, многоходовые диалоги, режим рассуждений и запросы на вызов инструментов, но сам по себе не означает, что модель безопасно настроена как ассистент. Поддерживаются английский, китайский, французский, испанский, немецкий, португальский, русский, итальянский, японский, корейский, вьетнамский и арабский языки. Постоянный размер состояния позволяет не наращивать KV-кэш внимания при генерации. Ограничения включают зависимость качества следования инструкциям и языкового поведения от промптинга и последующего обучения; спекулятивное декодирование с откатом рекуррентного кэша требует сохранения предыдущих состояний. Оптимизированное исполнение зависит от GPU, типа данных и формы входа, а полноценный режим TileLang требует отдельной проверки численной совместимости. README не заявляет оценки безопасности, предвзятости, токсичности или фактической точности. Модель распространяется по лицензии Apache-2.0.
RWKV-7-G1k-13.3B-20260930 — официальная базовая языковая модель BlinkDL на архитектуре RWKV-7 Goose, предназначенная для генерации текста, оценки, последующего обучения и дообучения. В метаданных указано 14,6 млрд параметров; модель опубликована в формате Transformers с весами Safetensors и шаблоном для диалоговых промптов. RWKV-7 — рекуррентная архитектура без механизма внимания: её состояние имеет постоянный размер, а вычислительная работа на токен не растёт с длиной сгенерированной последовательности. Модель обучалась на веб-текстах, коде, синтетических данных, инструкциях, диалогах и материалах для рассуждений. Заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Это базовая, а не выровненная по безопасности ассистентская модель: качество следования инструкциям и поведение зависят от промпта и последующего обучения. Указаны ограничения для спекулятивного декодирования с откатом рекуррентного кэша; ускоренный запуск зависит от GPU, типа данных и размеров входа. Модель распространяется по лицензии Apache-2.0.
RWKV-7 Goose 1.5B — базовая языковая модель, официальный выпуск BlinkDL в формате Transformers. Это плотная причинная языковая модель на рекуррентной архитектуре RWKV-7 без attention: размер рекуррентного состояния постоянен, а вычислительная работа на каждый новый токен не растёт с длиной последовательности; обучение можно распараллеливать. Модель содержит 1,5 млрд параметров, веса представлены в safetensors, для работы предусмотрена библиотека Transformers и собственная интеграция RWKV-7. Чекпойнт предварительно обучен на веб-текстах, коде, синтетических, инструкционных, чатовых и рассуждательных данных. Он предназначен для генерации текста, оценки, последующего обучения и дообучения; шаблон чата задаёт формат запросов, но сам по себе не означает, что модель настроена как безопасный ассистент. В карточке заявлена поддержка английского, китайского, французского, испанского, немецкого, португальского, русского, итальянского, японского, корейского, вьетнамского и арабского языков. Лицензия — Apache-2.0. К ограничениям относятся зависимость качества следования инструкциям и языкового поведения от конкретного чекпойнта, промптинга и последующего обучения, отсутствие заявленных оценок безопасности, предвзятости, токсичности и фактической точности, а также отсутствие поддержки отката рекуррентного кэша для некоторых режимов спекулятивного декодирования без сохранения состояний. Оптимизированный запуск зависит от оборудования и конфигурации; для полного TileLang-режима требуется проверка численного соответствия.
Saba2-3B — чат-модель Sakalti, созданная дообучением unsloth/Qwen2.5-3B-Instruct. Она предназначена для генерации текста и диалоговых сценариев; в каталоге также отмечен интерфейс вызова инструментов. Модель построена на плотной архитектуре Qwen2 и содержит 3,1 млрд параметров, работает с контекстом до 131 072 токенов и использует формат safetensors. Карточка указывает, что модель обучалась с Unsloth и библиотекой TRL. В метаданных для неё указан английский язык. Лицензия обозначена как qwen-research; перед использованием следует проверить её условия и ограничения для конкретного сценария.
arcee-ai/Saul-Nous-Hermes-2-Mistral-7B-DPO-Ties — языковая модель, созданная Arcee AI объединением моделей Equall/Saul-Base и NousResearch/Nous-Hermes-2-Mistral-7B-DPO с помощью mergekit и метода TIES. В конфигурации также указана Mistral-7B-v0.1 как базовая модель. Это плотная авторегрессионная модель Mistral на 7,1 млрд параметров для генерации текста; репозиторий содержит веса в формате safetensors, а конфигурация слияния использует float16. Модель предназначена для генерации текста и диалоговых сценариев. Контекст составляет до 32 768 токенов. Метаданные указывают лицензию Apache-2.0. README и метаданные не описывают результаты оценки качества или специальные ограничения применения, поэтому характеристики ответов в конкретных задачах следует проверять отдельно.
SomeModelsMerge-7b — объединённая модель генерации текста на архитектуре Mistral, созданная Kukedlc с помощью LazyMergekit. Она объединяет десять моделей, включая M7-7b, NeuralSirKrishna-7b, Percival_01-7b-slerp, T3Q-Mistral-Orca-Math-DPO и UltraMerge-7B. Модель содержит 7,1 млрд параметров и имеет контекстное окно до 32 768 токенов. Модель предназначена для генерации текста и диалогов; карточка также указывает среди объединённых компонентов модель, ориентированную на математические задачи. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.
TheBloke/SynthIA-70B-v1.5-AWQ — это 4-битная AWQ-квантизованная версия языковой модели Synthia 70B v1.5, разработанной Migel Tissera. Модель основана на архитектуре Llama и предназначена для генерации текста и диалогового взаимодействия; репозиторий содержит файлы для запуска на GPU. Модель имеет около 70 миллиардов параметров, поддерживает контекст длиной 4096 токенов и поставляется в формате AWQ с групповым размером 128. Объём опубликованных файлов составляет около 36,61 ГБ. AWQ ориентирована на эффективный и быстрый инференс с низкой разрядностью и поддерживается, в частности, через AutoAWQ, vLLM, Text Generation Inference и text-generation-webui. К сильным сторонам относятся существенно сниженные требования к памяти по сравнению с полноразмерной FP16-версией и высокая скорость инференса при сохранении качества, сопоставимого с распространёнными настройками GPTQ. Ограничения включают необходимость совместимого GPU-инфраструктурного стека и меньшую точность представления весов из-за 4-битной квантизации; сведения о языках обучения и специализированных прикладных возможностях в README не указаны. Модель распространяется по лицензии Llama 2.