I.1Поиск и навигация по информации
В разделе собраны самостоятельные задачи, где AI помогает находить нужные сведения и помогать человеку быстро переходить от вопроса к подтверждённому источнику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
13 467 моделейDecision-2.0-Nox-4B — модель принятия решений семейства Decision 2.0, разработанная командой vLLM Semantic Router и дообученная на базе Qwen/Qwen3.5-4B-Base. Она принимает текст или JSON вместе с вопросами и одновременно выбирает один из вариантов, отвечает «да» или «нет» либо выставляет оценку. Для каждого ответа модель возвращает вероятность; вместо генерации обычного текста она выполняет классификацию за один проход. Модель содержит 4,21 млрд параметров и поддерживает контекст до 16 384 токенов. Модель подходит для маршрутизации запросов, выбора действий или вариантов, проверки условий и оценивания входных данных. В карточке сообщается о результатах на JevArena и сравнении с моделями того же размера, а также о медианной задержке 12,9 мс на один вопрос при работе на одном GPU; эти показатели зависят от условий оценки и оборудования. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0.
Dumpling-Qwen2.5-32B — диалоговая языковая модель на архитектуре Qwen2, разработанная nbeerbower как дообучение nbeerbower/Rombos-EVAGutenberg-TIES-Qwen2.5-32B. Модель содержит 32 млрд параметров, распространяется в формате safetensors и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации ответов в диалоге и может использоваться для рассуждений, работы с текстами и сценариев с интерфейсом вызова инструментов. Она дообучена методом ORPO в течение двух эпох на наборах данных для предпочтений, правдивости, физического рассуждения и художественных текстов. Поддержка интерфейса инструментов указана в метаданных; это само по себе не гарантирует совместимость с конкретной системой инструментов. Модель выпущена под лицензией Apache-2.0. Карточка не приводит результатов оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно.
Gemma 2B — компактная текстовая авторегрессионная языковая модель с архитектурой decoder-only из семейства Gemma, разработанного Google на основе исследований и технологий, использованных для Gemini. Эта версия содержит 2 млрд параметров; доступны открытые веса, а семейство включает предварительно обученные и дообученные для следования инструкциям варианты. Модель предназначена для генерации текста на английском языке: она может отвечать на вопросы, создавать диалоги и черновики, суммировать материалы и помогать в исследовании текстов. Небольшой размер позволяет запускать её на ноутбуке, настольном компьютере или собственной облачной инфраструктуре. Как и другие языковые модели, Gemma может выдавать фактические ошибки, отражать предубеждения обучающих данных и испытывать трудности с неоднозначными формулировками и сложными задачами. Для модели указана лицензия Gemma; применение должно соответствовать политике запрещённого использования Gemma.
JOSIE-4B-Thinking — дообученная модель языкового моделирования, разработанная Гёкденизом Гюльмезом на основе Goekdeniz-Guelmez/Qwen3-4B-Instruct-2507-gabliterated. Это плотная авторегрессионная модель семейства Qwen3 примерно с 3,7 млрд параметров; она предназначена для многошаговых рассуждений, математики, STEM-задач, творческого письма и анализа длинных документов. В README заявлена длина контекста 65 536 токенов, а метаданные указывают 262 144 токена. Поддерживаются английский, испанский, французский, португальский, итальянский, арабский, японский, корейский, индонезийский, русский, вьетнамский, немецкий и тайский языки. Модель обучена на более чем 600 млн токенов с использованием дистиллированных трасс рассуждений и примеров расширения ответов. Разработчик описывает её стиль как прямой и подробный, с упором на связные рассуждения и без встроенной фильтрации контента. По заявлению карточки, модель выпущена под лицензией MIT. Она требует ресурсов для запуска модели на 4 млрд параметров; критически важные ответы следует проверять, а для пользовательских приложений с открытым содержанием может потребоваться отдельная модерация.
Это декензурированная версия K2-Horizon-MoVA-36B-A4B, созданная с помощью Heretic v1.4.0. Исходная модель разработана IFM и представляет собой разреженную архитектуру Mixture-of-Experts с механизмом внимания Mixture-of-Values (MoVA). В README указано 36 млрд параметров модели и около 4 млрд активных на токен; метаданные каталога указывают 3,7 млрд параметров. Контекст модели — до 524 288 токенов. Модель предназначена для генерации текста в диалоге, рассуждений и агентных сценариев; поддерживает интерфейс вызова инструментов. В карточке описано снижение частоты отказов после abliteration, однако в приведённом сравнении модель всё ещё отказывала в 56 из 100 запросов против 98 у оригинала. Указанные языковые сведения ограничены английским. Репозиторий содержит веса Safetensors и рассчитан на использование через Transformers; в README также приведены инструкции для vLLM и SGLang. Лицензия — Apache-2.0. Для запуска исходной конфигурации автор приводит пример с двумя ускорителями H200; это не устанавливает минимальные требования для всех вариантов развёртывания.
unsloth/Llama-3.1-Nemotron-70B-Instruct — текстовая диалоговая модель NVIDIA на архитектуре Llama 3.1, опубликованная Unsloth. Это версия с дообучением NVIDIA Llama-3.1-Nemotron-70B-Instruct-HF; в карточке каталога указан датасет HelpSteer2. Модель предназначена для генерации ответов на инструкции и запросы в диалоге, а также поддерживает интерфейс вызова инструментов. Модель имеет плотную архитектуру LlamaForCausalLM и 69,5 млрд параметров. Она принимает текст и выдаёт текст, поддерживает английский язык и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Llama 3.1. README направляет к исходной карточке NVIDIA за дополнительными сведениями; подробные ограничения и оценка качества в предоставленных данных не описаны.
duyntnet/Llama-3.2-1B-Instruct-imatrix-GGUF — набор imatrix-квантизаций модели Llama 3.2 1B Instruct в формате GGUF, разработанный на основе модели Meta Llama 3.2 1B Instruct. Автор исходной модели — Meta; сведения об отдельном разработчике квантизаций в README не указаны. Модель предназначена для генерации текста и диалоговых сценариев, включая многоязычное общение, агентский поиск с извлечением данных и суммаризацию. Это авторегрессионная языковая модель с оптимизированной архитектурой Transformer, дообученная с помощью supervised fine-tuning и reinforcement learning from human feedback для повышения полезности и безопасности. Размер — 1 млрд параметров, модальности — текст на входе и выходе. В README указан язык en, при этом исходная коллекция описывается как мультиязычная; точный перечень поддерживаемых языков и размер контекстного окна не приведены. К ключевым преимуществам относятся компактный размер, возможность локального запуска и поддержка экосистемы llama.cpp, KoboldCPP, text-generation-webui и Ollama. Ограничения связаны с меньшей ёмкостью по сравнению с более крупными моделями, возможными потерями качества из-за квантизации и отсутствием подробных данных о конкретных вариантах квантования и их производительности. Лицензия обозначена как other; её точные условия в README не раскрыты.
Llama 3.2 90B Vision Instruct — мультимодальная instruction-tuned модель Meta для диалога по изображениям. Она принимает текст и изображения и генерирует текстовые ответы для визуального распознавания, рассуждений по изображению, создания подписей и ответов на вопросы о содержимом картинки. Модель построена на языковой модели Llama 3.1 с авторегрессионной архитектурой Transformer и отдельным обученным адаптером зрения с cross-attention слоями. Вариант 90B содержит около 88,8 млрд параметров, поддерживает контекст до 128 тыс. токенов и использует Grouped-Query Attention. Для текстовых задач официально поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский; для задач с изображениями и текстом поддерживается английский. Модель подходит для визуальных вопросов и ответов, анализа документов по изображению, описания сцен, поиска соответствий между изображениями и текстом и визуальной привязки описаний к областям изображения. Она не выдаёт изображения. Модель статична, обучена на данных с отсечкой знаний в декабре 2023 года. Использование регулируется Llama 3.2 Community License и Acceptable Use Policy.
Muse-Glimmer-30B-Heretic-Plus — общественная производная модели Muse-Glimmer-30B, созданная сообществом. Это мультимодальная плотная модель на 29,8 млрд параметров с архитектурой MuseGlimmerForConditionalGeneration: она принимает текст и изображения и генерирует текст. Чекпойнт сохранён в BF16 в формате safetensors; для загрузки требуется Transformers версии 5.15 или новее. Модель предназначена для диалогов и локальных агентных сценариев, где нужно уменьшить число отказов базовой модели, в том числе при запросах с изображениями. Разработчики применили структурно-ориентированное подавление направлений отказа и короткое дообучение LoRA/SFT; стек обработки изображений оставлен замороженным. В карточке не приведены отдельные сведения о длине контекста и языках сверх меток английского, китайского и многоязычной поддержки. По описанию авторов, остаточные отказы возможны, а тон ответов после изменений становится менее осторожным. Модель не оценивалась как готовая замена в агентных тестах Meta, поэтому перед рабочим применением следует повторно проверить вызов инструментов. Карточка указывает, что модель не предназначена для пользователей младше 18 лет; требуется собственная система ограничений. Лицензия — Apache 2.0, унаследованная от базовой модели.
Карточка модели SAIFIINDUSTRIES/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-noMTP-GGUF на Hugging Face совпадает с карточкой waseigo/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4-noMTP-GGUF, поэтому описание составлено по ней. Это конвертированная в GGUF версия NVIDIA Nemotron 3.5 Lightning 30B-A3B NVFP4, подготовленная автором репозитория для запуска через llama.cpp. Из конвертации исключены MTP-слои; веса сохранены в автоматически выбранном формате исходной модели. Модель предназначена для генерации текста и диалогового использования. Автор сообщает, что она запускалась на двух видеокартах RTX 5060 Ti по 16 ГБ, с контекстом до 1 048 576 токенов и квантизацией KV-кэша q8_0; по его оценке, для этого не требуется выгружать экспертные слои в оперативную память. Поддерживаемые языки по карточке: английский, испанский, французский, немецкий, итальянский и японский. Это конверсия исходной модели NVIDIA в GGUF для llama.cpp, а не самостоятельное дообучение; базовая модель — nvidia/NVIDIA-Nemotron-3.5-Lightning-30B-A3B-NVFP4. Репозиторий указывает лицензию «other», поэтому перед использованием следует проверить условия исходной модели и репозитория.
Карточка модели OpenBuddy/openbuddy-llama3.1-8b-v22.3-131k на Hugging Face совпадает с карточкой OpenBuddy/openbuddy-llama3.1-8b-v22.2-131k, поэтому описание составлено по ней. OpenBuddy — мультиязычная разговорная модель, созданная на базе Meta Llama 3.1 8B Instruct. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом до 131 072 токенов, предназначенная для диалога и генерации текста. Её можно запускать локально через Ollama, а для развёртывания API README рекомендует Transformers или vLLM и соответствующий формат токенизатора. Модель предназначена прежде всего для общения на английском и китайском языках; метаданные также перечисляют французский, немецкий, японский, корейский, итальянский и финский. OpenBuddy указывает лицензию как other, а README отсылает к условиям использования и предупреждает, что ответы могут быть ошибочными или вредными. Модель не рекомендуется для медицинских, финансовых, юридических и других критически важных решений.
Ornith-1.0-35B-ROCmFPX-StrixHalo — текстовая разговорная модель с 35 млрд параметров в формате GGUF, подготовленная julianmb для локального запуска на системах AMD Ryzen AI Max+ с Strix Halo. Репозиторий содержит варианты квантования ROCmFPX: Speed с точностью около 4,70 бит на параметр и размером 19,7 ГБ, а также Quality с точностью около 6,50 бит на параметр и размером 32,2 ГБ. Заявлена поддержка контекста до 262 144 токенов. Модель предназначена для локальных чат-сценариев и многоагентных рабочих нагрузок с вызовом инструментов. README сообщает о проверках корректности вызовов инструментов и измерениях скорости при параллельной работе нескольких агентов. В метаданных указан английский язык; теги также отмечают разговорный режим и tool calling. Это квантованная производная модель, распространяемая по лицензии MIT. Для запуска требуются совместимые сборки ROCmFPX и Vulkan: стандартные llama.cpp, Ollama и LM Studio не загружают этот формат без специальной поддержки. Описанная конфигурация рассчитана на оборудование Strix Halo с 64 или 128 ГБ объединённой памяти; приведённые показатели производительности относятся к этой аппаратной платформе.
Ornith-1.5-35B-A3B-ROCmFPX-AGENT-GGUF — это квантованный вариант мультимодальной модели Ornith-1.5-35B-A3B, разработанной ornith-ai. Модель распространяется в формате GGUF и предназначена для генерации текста, работы с изображениями, агентских сценариев и вызова инструментов. Она использует архитектуру Mixture-of-Experts с 256 экспертами и примерно 3 млрд активных параметров, а также встроенную MTP-голову для speculative decoding. В репозитории представлены варианты Q6_0 и Q8_0 ROCmFPX AGENT, размером примерно 30,89–34,74 GiB и с повышенной точностью отдельных компонентов, включая output.weight, что ориентировано на качество tool calling и принятия speculative draft. В комплект входит vision projector. Проверена работа с текстом и изображениями; заявлены контекст 4096 токенов и поддержка мультимодального ввода, однако перечень языков отдельно не указан. Модель оптимизирована для AMD Strix Halo, включая Ryzen AI MAX+ 395 с 128 ГБ объединённой памяти, и требует сборки llama.cpp с поддержкой ROCmFPX и ROCm 7.2.4. Она не загружается в стандартные llama.cpp, Ollama или LM Studio. Встроенный MTP в измерениях не ускорил, а замедлил генерацию, поэтому его применение ограничено экспериментальными сценариями. Лицензия — Apache-2.0.
protoLabsAI/Ornith-1.5-9B-NVFP4 — это квантованная мультимодальная версия модели Ornith-1.5-9B, разработанной ornith-ai. Модель предназначена для задач image-text-to-text, обработки изображений и текста, диалоговых сценариев, вызова инструментов и агентских приложений. Сборка оптимизирована для запуска через vLLM на GPU NVIDIA Blackwell с архитектурой sm120 и включает дистиллированную MTP-голову для спекулятивного декодирования. Основная часть линейных слоёв attention и MLP использует квантование NVFP4 W4A4, благодаря чему размер модели уменьшен с 17,9 до 11,2 ГБ. Башня зрения, DeltaNet/GDN linear_attn, lm_head, embed_tokens и MTP-голова сохранены в формате bfloat16. Поддерживаются изображения и текст; точные языки и исходный размер контекста в README не указаны, но рекомендуемый параметр запуска vLLM составляет до 32768 токенов. MTP обеспечивает ускорение декодирования примерно в 1,27 раза при заявленной доле принятия черновых токенов 0,804 на реальных запросах. Сильными сторонами модели являются сохранённая работоспособность зрения без выявленной статистически значимой деградации относительно bf16-версии, высокие результаты во внутренних тестах вызова функций и наличие встроенной MTP-головы без отдельной черновой модели. Ограничения включают зависимость от GPU Blackwell и специфической конфигурации vLLM, необходимость выделять достаточный бюджет токенов для адаптивного рассуждения, а также слабые результаты в тесте LiveCodeBench. Модель распространяется по лицензии MIT.
Palmyra Vision — мультимодальная модель компании Writer для диалога о визуальных данных. Она принимает изображение вместе с текстовым запросом и формирует текстовый ответ: подходит для вопросов об изображениях, диаграммах, документах, инфографике и визуальных задачах на рассуждение. В README указано обучение на наборе PixMo из 1 млн пар изображение—текст; архитектура — плотная MolmoForCausalLM, размер по метаданным — 12,8 млрд параметров, контекст — 4096 токенов. Модель объединяет компоненты, связанные с Writer/Palmyra-Large и openai/clip-vit-large-patch14-336. Для обслуживания рекомендован vLLM; также описан запуск через Transformers. В README приведены результаты на 11 академических тестах, включая ChartQA, DocQA, TextVQA и MathVista. Указано, что модель может испытывать трудности с прозрачными изображениями; для входных изображений может потребоваться формат RGB, а прозрачность рекомендуется предварительно заменить фоном. Метаданные указывают английский язык. Условия лицензии в предоставленных данных не приведены.
PolyLM-13B — многоязычная авторегрессионная языковая модель, разработанная DAMO-NLP-MT. Это плотная decoder-only модель семейства GPT-2 с 13 млрд параметров, обученная на 640 млрд токенов и дообученная на автоматически созданных многоязычных инструкциях. Репозиторий содержит веса PyTorch в формате bf16; модель опубликована в июле 2023 года под лицензией Apache 2.0. Модель предназначена для генерации текста и исследований многоязычных языковых моделей: ответов на вопросы, рассуждений в zero-shot и few-shot режимах, понимания и генерации текста, а также перевода. Поддерживает китайский, английский, испанский, немецкий, французский, португальский, русский, итальянский, арабский, японский, корейский, тайский, вьетнамский, индонезийский, польский, турецкий, нидерландский и иврит. Длина контекста — 2048 токенов. PolyLM обучалась с увеличением доли неанглоязычных данных и показывает сильные результаты на многоязычных задачах при сопоставимой производительности на английском. Как и другие языковые модели, она может галлюцинировать и генерировать токсичный текст; перед применением в конкретном продукте следует оценить безопасность и справедливость ответов. README указывает, что прямое применение без такой оценки не рекомендуется.
PP-DocLayoutV2 — лёгкая модель для анализа структуры документов из семейства PaddleOCR, разработанная PaddlePaddle. Она обнаруживает и классифицирует элементы макета, а затем определяет порядок их чтения. Архитектура состоит из детектора RT-DETR и последующей pointer-сети, которая упорядочивает найденные элементы. Модель предназначена для анализа страниц документов и подготовки их структуры для OCR и дальнейшего извлечения информации. Метаданные указывают поддержку английского и китайского языков, а также мультиязычных сценариев. Репозиторий распространяется по лицензии Apache-2.0.
QandoraExp-7B — языковая модель для генерации текста, созданная bunnycore с помощью слияния нескольких предварительно обученных моделей методом Della через mergekit. В качестве базовой использована Qwen/Qwen2.5-7B; в слияние также вошли Etherll/Qwen2.5-7B-della-test, jeffmeloy/Qwen2.5-7B-nerd-uncensored-v1.0 и fblgit/cybertron-v4-qw7B-MGS. Модель построена на архитектуре Qwen2, содержит 7,1 млрд параметров и имеет контекстное окно до 131 072 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалоговой генерации текста и предоставляет интерфейс для вызова инструментов. В README приведены результаты оценок Open LLM Leaderboard: среднее значение 28,51, IFEval — 75,09 и BBH — 35,92. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя. Результаты приведённых оценок не гарантируют качество на конкретных задачах; также карточка не описывает отдельные ограничения модели.
CultriX/Qwen2.5-14B-Unity — объединённая языковая модель на архитектуре Qwen2.5, созданная с помощью mergekit. В качестве базовой использована CultriX/SeQwence-14Bv1; для объединения применён метод DARE TIES. В состав также вошли несколько моделей Qwen2.5, в том числе варианты для диалогов и математики. Модель предназначена для генерации текста и диалогов. Она содержит 14 млрд параметров, работает через библиотеку Transformers и поддерживает контекст до 131 072 токенов. Метаданные также указывают интерфейс для вызова инструментов. В карточке не описаны отдельные специализированные задачи или целевые языки. Файлы модели размещены в формате safetensors. Лицензия в предоставленных данных не указана.
Qwen2.5-VL-7B-Instruct-quantized.w4a16 — мультимодальная инструкционная модель на базе Qwen/Qwen2.5-VL-7B-Instruct, разработанная Neural Magic. Она принимает изображения и текстовые запросы, а генерирует текстовые ответы. Модель предназначена для визуально-языковых задач, включая ответы на вопросы по изображениям, анализ документов, визуальное рассуждение и другие сценарии, где требуется совместная обработка текста и визуальной информации. Модель содержит около 7 миллиардов параметров и использует архитектуру Qwen2.5-VL. Для оптимизации инференса её веса квантизированы в INT4 с группами размера 128, а активации представлены в FP16; визуальные слои и lm_head при квантизации не изменялись. В README указан английский язык. Модель рассчитана на запуск через vLLM, включая OpenAI-совместимый сервер; в примере используется ограничение контекста 4096 токенов и до двух последовательностей одновременно. Дата выпуска — 24 февраля 2025 года, версия — 1.0. Ключевое преимущество модели — снижение требований к памяти и потенциально более эффективный инференс по сравнению с исходной полноразмерной версией при сохранении мультимодальных возможностей. Ограничения включают возможную потерю качества из-за квантизации, а также зависимость от совместимой инфраструктуры vLLM и поддержки мультимодального инференса. README содержит сведения об оценивании на задачах VQAv2, DocVQA и MathVista, но не приводит итоговые числовые результаты. Модель распространяется по лицензии Apache-2.0.
Qwen3.5-4B-SX8 — версия модели Qwen3.5-4B, подготовленная Martí Vidal Leandro из MarlaLabs и опубликованная marlalabsAI. Веса представлены в формате квантования S-X8 v4.3 с точностью 7,50 бит на вес; репозиторий также содержит контейнер GGUF. Модель предназначена для диалоговой генерации текста и работы через интерфейс вызова инструментов. В карточке базовой модели указаны мультимодальность и понимание изображений, однако сведения о поддержке этих функций именно в данной версии в метаданных и README ограничены описанием полного контейнера с визуальной частью. Автор заявляет качество, близкое к FP16: на RTX 5060 Ti приведены результаты на Wikitext-2, Winogrande и HellaSwag, а также показатели скорости и потребления видеопамяти. Для запуска доступны собственный Python runtime, требующий NVIDIA GPU и CUDA Toolkit для компиляции ядер, и вариант GGUF, требующий форка llama.cpp с поддержкой S-X8. Контейнер `.sx8v43` включает конфигурацию и неквантованные тензоры и, согласно README, не требует отдельно загружать базовую модель. Лицензия — Apache-2.0.
Uluka Studio Mercury 2 BF16 Merged — мультимодальный чат-чекпойнт на базе Qwen3.6-35B-A3B, подготовленный UlukaDev. Это объединённая BF16-версия дообучения с адаптером LoRA UlukaDev/qwen3p6-35b-a3b-uluka-mercury-2-lora; веса представлены в формате safetensors и используют архитектуру Qwen3.5 MoE. Модель предназначена для диалогов и анализа изображений; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и изображения и выдаёт текст. Лицензия указана как other, поэтому условия использования следует сверить с карточкой и лицензией базовой модели.
wanlige/QWQ-stock — языковая модель на архитектуре Qwen2, созданная методом Model Stock с помощью mergekit путём слияния нескольких предварительно обученных моделей. В качестве базовой использована Qwen/Qwen2.5-32B-Instruct; среди компонентов также указаны Qwen2.5-32B, QwQ-32B, DeepSeek-R1-Distill-Qwen-32B-abliterated и другие варианты Qwen. Модель содержит 32 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Модель подходит для ответов на запросы, ведения диалога и генерации текста на нескольких языках. Метаданные указывают контекст до 32 768 токенов и интерфейс вызова инструментов. Поддерживаются английский, русский, китайский и ряд других языков; объединение разных моделей может приводить к неоднородному поведению и качеству в отдельных задачах. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.
JANGQ-AI/Spark-X2.5-4B-JANG_8M — 3,8-миллиардная плотная языковая модель Spark-X2.5-4B от XHToken, квантованная Jinho Jang для Apple Silicon и MLX. Это 8-битный вариант с точностью bfloat16 для групповых масштабов; отдельные тензоры внимания и нормализации сохранены в полной точности. Модель предназначена для диалога, рассуждений, работы с инструментами и генерации текста. Поддерживаются английский и китайский языки; исходная модель рассчитана на контекст до 1 048 576 токенов, хотя в README для этого набора также указан контекст 131 072 токена. В сравнении с исходными весами bf16 автор сообщает медианное KL-расхождение 0,0017 и совпадение top-1 в 98,72% позиций на тестовых запросах. Модель принимает и генерирует только текст. Для запуска требуется среда с поддержкой архитектуры spark2_5, например vMLX или MLX Studio; обычный mlx-lm эту архитектуру не поддерживает. Лицензия Apache-2.0 унаследована от базовой модели.
Tess-34B-v1.4 — универсальная большая языковая модель семейства Tess, опубликованная migtissera. Она дообучена на базе Yi-34B-200K и предназначена для генерации текста и диалоговых сценариев. Модель использует плотную архитектуру LlamaForCausalLM, содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Карточка описывает общий профиль модели, без специализации на конкретной предметной области. Для диалога приведён формат с ролями SYSTEM, USER и ASSISTANT. Модель опубликована в формате safetensors; лицензия указана как other, поэтому условия использования следует уточнять по полным сведениям репозитория.
TinyBERT_General_4L_312D — компактная модель семейства BERT, опубликованная Huawei Noah’s Ark Lab. Это общий чекпойнт TinyBERT, полученный дистилляцией BERT-base для задач понимания естественного языка. Модель содержит 15,6 млн параметров, имеет 4 слоя и размерность скрытого представления 312; заявлены размер в 7,5 раза меньше и инференс в 9,4 раза быстрее, чем у BERT-base. Длина контекста — до 512 токенов. Модель предназначена для использования как начальная точка для задач понимания текста и последующего дообучения под конкретную задачу. Репозиторий содержит веса PyTorch и Flax. Карточка не сообщает о многоязычной подготовке, поэтому поддерживаемые естественные языки определить нельзя. Лицензия в предоставленных данных не указана.
AX-DeepSeek-V4-Flash-MLX-AXQ-2bit-MTP — это экспериментальный MLX-чекпойнт, разработанный AutomatosX на основе модели DeepSeek-V4-Flash от deepseek-ai. Модель предназначена для генерации текста и запуска на компьютерах Apple Silicon через MLX-LM или AX Engine. Архитектура исходной модели — DeepseekV4ForCausalLM с mixture of experts; основной путь обработки текста квантизирован, а MTP-компонент сохранён в BF16. Модель содержит около 284,33 млрд логических параметров, использует смешанную точность с преобладанием 2-битных весов и имеет измеренный общий размер 3,1605 BPW. Размер Safetensors-весов составляет около 114,94 ГБ, а полный объём загрузки — около 115,02 ГБ. Заявленный максимальный контекст — 1 048 576 токенов, однако практическая длина зависит от объёма unified memory устройства. Модель поддерживает только текстовую модальность: vision и audio отсутствуют. Основное преимущество — существенно сниженные требования к хранению по сравнению с полноточной моделью при сохранении совместимости с MLX и возможностью прямого запуска в AX Engine. К ограничениям относятся экспериментальный статус 2-битной квантизации, высокая потребность в дисковом пространстве и памяти, отсутствие калибровки, а также то, что стандартный MLX-LM не активирует MTP-sidecar и не подтверждает ускорение speculative decoding. Проверенная сертификация привязана к конкретной ревизии Hub и конфигурации df-macstudio-m2. Репозиторий распространяется по лицензии Apache-2.0 и содержит MLX Safetensors, но не PyTorch- или GGUF-веса.
Callisto-OCR3-2B-Instruct — мультимодальная модель prithivMLmods для распознавания текста на изображениях и ответов на вопросы о визуальных данных. Это дообученная версия Qwen/Qwen2-VL-2B-Instruct на архитектуре Qwen2-VL; модель содержит 1,5 млрд параметров, принимает изображения и текст и выдаёт текст. Контекст составляет до 32 768 токенов. Модель ориентирована на OCR, в том числе распознавание неразборчивого и рукописного текста, извлечение информации из документов, понимание английского текста и решение математических задач с выводом формул в LaTeX. Поддерживает диалоговые запросы по изображениям. В карточке также заявлена поддержка распознавания текста на разных языках, включая китайский и ряд европейских и азиатских языков, но подробная языковая оценка не приведена. Модель распространяется под лицензией Apache-2.0. Заявления карточки о результатах уровня state of the art, обработке длинных видео и управлении устройствами не подтверждены приведёнными метаданными; основной заявленный сценарий — обработка изображений и документов. Качество может снижаться на сложном почерке и языках, для которых нет отдельной оценки.
Kaballas/Cyber20 — дообученная компанией Kaballas модель семейства Llama для генерации текста и диалогов. Она основана на Kaballas/Cyber18, содержит 7,5 млрд параметров и имеет контекстное окно до 131 072 токенов. Модель обучалась с использованием Unsloth и библиотеки Hugging Face TRL. Модель предназначена для генерации текста и общения на английском языке; метаданные также указывают поддержку чатового интерфейса и интерфейса вызова инструментов. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0.
Moritz Laurer дообучил DeBERTa-v3-base от Microsoft на 392 702 парах MultiNLI для классификации текстов по заданным категориям без отдельного обучения на этих категориях. Модель сопоставляет посылку и гипотезу и оценивает, следует ли гипотеза из текста; это позволяет использовать её для классификации с нулевым обучением и задач вывода по естественному языку. Модель основана на архитектуре DeBERTa-v2, содержит 211,6 млн параметров и принимает текст с контекстом до 512 токенов. В README указана точность 0,90 на тестовой части MultiNLI. Веса доступны в форматах PyTorch и safetensors; лицензия в предоставленных данных не указана.