I.2Синтез, понимание и проверка знаний

coder3101/LFM2.5-350M-heretic — декензурированная версия LFM2.5-350M от Liquid AI, созданная автором репозитория с помощью Heretic v1.3.0. Это компактная плотная языковая модель для генерации текста и диалогов, рассчитанная на локальное и периферийное выполнение. По карточке исходная архитектура включает 16 слоёв: блоки свёрток LIV и GQA; модель принимает только текст и поддерживает контекст до 128 000 токенов согласно метаданным. Она предназначена для извлечения данных, структурированных ответов и работы с инструментами. В README сравнение с исходной моделью показывает 6 отказов из 100 против 90 из 100 у оригинала. Модель поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, испанский и португальский языки. README исходной модели указывает 350 млн параметров, тогда как метаданные этой версии — 444,6 млн. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Программирование и задачи, требующие обширных знаний, для исходной модели не рекомендуются; показатели производительности исходной модели не следует автоматически считать проверенными для этой версии. Лицензия обозначена как other, поэтому условия использования следует уточнить в карточке репозитория.

M3E-Large — текстовая модель эмбеддингов, разработанная MokaAI на базе архитектуры RoBERTa из серии моделей лаборатории HFL и распространяемая в формате PyTorch. Модель содержит 424,3 млн параметров, формирует плотные векторы размерности 768 и обрабатывает последовательности длиной до 512 токенов. Модель предназначена прежде всего для китайского текста и поддерживает ограниченные сценарии с английским. Она обучалась контрастивным методом с внутрипакетными отрицательными примерами на китайских парах предложений и английских триплетах; при кодировании может учитывать инструкции. Её применяют для оценки сходства текстов, поиска релевантных фрагментов по запросу и построения текстовых классификаторов на эмбеддингах. Модель совместима с Sentence Transformers и может использоваться в системах семантического поиска и RAG. В карточке приведены результаты сравнительных тестов сходства, классификации и поиска; качество зависит от данных и сценария, а для кода модель не предназначена. Контекст ограничен 512 токенами. Лицензия в доступных сведениях не указана.

Megalodon-OCR-Sync-0713-AIO-GGUF — мультимодальная модель, разработанная prithivMLmods. Это GGUF-версия Megalodon-OCR-Sync-0713, дообученной на базе Qwen2.5-VL-3B-Instruct. Модель предназначена для обработки изображений и текста, включая OCR, извлечение и анализ содержимого документов, а также работу с визуальными данными. Модель ориентирована на поиск и извлечение информации из документов разных типов и форматов, распознавание структурированных и неструктурированных данных, таблиц, графиков, математических выражений и других визуальных представлений. Она поддерживает контекстный анализ сложных и длинных документов, форматирование результатов в LaTeX, мультиязычный анализ, визуальное позиционирование объектов для управления устройствами и понимание видео длительностью более 20 минут. Заявлены английский и китайский языки. Объём контекста в README не указан. Доступны варианты квантования GGUF от F16 размером 6,18 ГБ до компактных вариантов менее 1 ГБ, что позволяет выбирать баланс между качеством и требованиями к ресурсам. Сильными сторонами являются специализация на OCR и документах, работа с разнообразными визуальными структурами и применимость в образовательных и корпоративных сценариях. Ограничениями являются значительные требования к вычислительным ресурсам, а также возможное снижение качества на изображениях низкого качества и при работе с редкими языками. Лицензия — Apache 2.0.

Модель mergekit-model_stock-injkqri — объединение предварительно обученных языковых моделей, созданное с помощью mergekit методом Model Stock. В качестве базовой использована Qwen/Qwen2.5-14B-Instruct-1M; в слияние также вошли Virtuoso-Small, Qwen2.5-Coder-14B, miscii-14b-1225 и tempesthenno-ppo-ckpt40. Это плотная архитектура Qwen2 с 14 млрд параметров, доступная в формате safetensors и рассчитанная на генерацию текста и диалоговое взаимодействие. Модель предназначена для генерации ответов и продолжения текста в чат-сценариях; состав исходных моделей также ориентирует её на задачи программирования и следования инструкциям. Метаданные указывают контекст до 1,01 млн токенов и интерфейс для вызова инструментов. Карточка не сообщает результатов оценки качества или подробностей о фактическом поведении объединённой модели. Лицензия в предоставленных данных не указана.

openbmb/MiniCPM5-2B-GGUF — компактная языковая модель MiniCPM5-2B от OpenBMB, представленная в формате GGUF для локального запуска. Это плотная Transformer-модель примерно на 2 млрд параметров, предназначенная для генерации текста и работы в условиях ограниченных вычислительных ресурсов, включая развёртывание на устройствах и edge-системах. Модель ориентирована на английский и китайский языки и поддерживает сценарии программирования, математического рассуждения, понимания длинного контекста, использования инструментов и агентских задач. Разработчики заявляют конкурентоспособность с моделями класса 4B и лучшие результаты среди сопоставимых открытых моделей класса 2B в ряде перечисленных направлений. Точная максимальная длина контекста, параметры квантования GGUF и сведения о мультимодальности в представленном README не указаны; по описанию это текстовая модель без заявленной поддержки изображений или аудио. К сильным сторонам относятся небольшой размер, пригодность для локального и on-device использования, а также заявленные возможности в коде, математике, работе с длинным контекстом и инструментами. Ограничениями являются меньшая ёмкость по сравнению с крупными языковыми моделями и отсутствие подробных количественных результатов и характеристик конкретной GGUF-сборки в предоставленных данных. Модель распространяется по лицензии Apache-2.0.

MiniMind-Embedding-Dense — плотная модель текстовых эмбеддингов на основе MiniMind-3, разработанная в проекте minimind-embedding. Это причинный Transformer-декодер с 63,9 млн параметров и размером скрытого слоя 768; вектор текста формируется по последнему токену EOS. Обучение использует контрастивную функцию InfoNCE с маскированием вероятных ложных негативов и Matryoshka Representation Learning, поэтому эмбеддинг можно сокращать до 64, 128, 256 или 512 измерений для более быстрого поиска. Максимальная длина контекста — 32 768 токенов. Модель предназначена для получения векторов текста, поиска семантически близких предложений и извлечения релевантных документов по запросу. В карточке показаны оценки на китайских наборах ATEC, BQ и LCQMC; заявленная область применения — прежде всего китайские тексты, также указана поддержка английского. Карточка отмечает, что качество ограничивают небольшой словарь в 6400 токенов и сравнительно малый объём первого этапа обучения. Модель дообучена на jingyaogong/minimind-3 и распространяется по лицензии Apache-2.0.

Карточка модели raduv98/MNLP_M3_document_encoder на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

jfarray/Model_dccuchile_bert-base-spanish-wwm-uncased_10_Epochs — модель эмбеддингов предложений на базе BERT, опубликованная пользователем jfarray. Она кодирует предложения и абзацы в плотные векторы размерности 256 для поиска семантически близких текстов и кластеризации. Модель содержит 137,1 млн параметров, работает с текстом и поддерживает контекст до 512 токенов; в карточке указана библиотека Sentence-Transformers и обучение с CosineSimilarityLoss. Модель подходит для семантического поиска и группировки текстов по смыслу. Название базовой модели указывает на испанский BERT dccuchile/bert-base-spanish-wwm-uncased, поэтому основной язык — испанский. В метаданных указаны формат PyTorch и задачи извлечения признаков и сходства предложений. Лицензия в предоставленных данных не указана.

jangedoo/multilingual-e5-small-en-pruned — это компактная модель текстовых эмбеддингов, созданная на основе intfloat/multilingual-e5-small. Разработчик применил к ней отсечение токенов словаря: размер словаря сокращён с 250 037 до 71 547 токенов, а число параметров в README — с 117,7 млн до 49,1 млн. Метаданные каталога указывают 55,8 млн параметров; эти значения в источниках расходятся. Модель предназначена для получения векторных представлений предложений и их семантического сравнения, в том числе для поиска похожих текстов. В приведённых README тестах результаты на STS-B и NanoClimateFEVER близки к базовой модели. Архитектура — BERT; библиотека — Sentence Transformers; максимальный контекст — 512 токенов. Базовая модель многоязычная, но конкретные поддерживаемые языки в доступных данных не перечислены. Для использования в Sentence Transformers README показывает загрузку через SentenceTransformer и вызов encode; в примере указан trust_remote_code=True. Лицензия в предоставленных данных не приведена.

erickrribeiro/my-embedding-gemma — модель Sentence Transformer, дообученная на базе google/embeddinggemma-300m. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Модель содержит 302,8 млн параметров, принимает текстовые последовательности длиной до 2048 токенов и рассчитана на работу через библиотеку Sentence Transformers. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, классификации и кластеризации. В README описан обучающий набор из трёх примеров на португальском языке; этого мало, чтобы судить о широте языкового покрытия или обобщающей способности именно этой дообученной версии. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

heretic-org/Nanbeige4.1-3B-heretic — англо-китайская разговорная языковая модель на 3,5 млрд параметров, созданная на основе Nanbeige/Nanbeige4.1-3B. Это вариант с abliteration: в карточке приведено сравнение, где доля отказов снизилась с 96 до 4 из 100, а KL-дивергенция относительно исходной модели указана как 0,0001. Модель рассчитана на генерацию текста и диалоги; базовая модель ориентирована на многошаговые рассуждения, программирование, поиск и работу с инструментами. Модель использует плотную архитектуру семейства Llama и доступна в формате Safetensors для Transformers. Заявленная длина контекста — 262 144 токена. В README базовой модели описаны сильные результаты в задачах рассуждения и агентного поиска, включая многошаговое решение задач с вызовами инструментов; метаданные указывают поддержку английского и китайского языков. Лицензия — Apache-2.0. В README отмечено, что модель может выдавать неожиданные ответы, включая предвзятое или дискриминационное содержание. Снижение числа отказов может означать, что модель чаще отвечает на запросы, которые исходная версия отклоняет; при применении следует учитывать это поведение.

Nano-Em1-0.6B-v2 — модель эмбеддингов текста от KiteFish AI на базе Qwen3-0.6B. Она использует двунаправленное внимание вместо причинной маски, среднее объединение токенных представлений и формирует векторы размерности 1024. Максимальная длина входа по README — 512 токенов; метаданные указывают контекст модели в 40 960 токенов. Модель предназначена для поиска документов по запросу, ранжирования, семантического сходства, классификации пар текстов и кластеризации. Для задач предлагаются инструкции-префиксы; при асимметричном поиске префикс инструкции добавляется к запросу, а документы кодируются без него. В метаданных также указана поддержка извлечения признаков и сходства предложений. Модель ориентирована на английский язык, а качество на других языках не оценивалось. Для загрузки архитектуры требуется включить trust_remote_code=True. Модель дообучена на Qwen/Qwen3-0.6B, распространяется в формате safetensors по лицензии Apache-2.0.

Noema 1.5 2B GGUF — локальная языковая модель с открытыми весами, разработанная NoemaAI-labs и распространяемая в формате GGUF для запуска через llama.cpp. Это вариант модели Noema 1.5 2B, ориентированный на восстановление знаний, генерацию кода, строгое следование инструкциям, многоходовые диалоги и более эффективное рассуждение. Модель имеет около 2 млрд параметров, 24 слоя и размерность скрытого состояния 2048. В основе используется гибридная архитектура Qwen3.5 с Gated DeltaNet и gated attention. Поддерживается только текстовая модальность; основной оценённый язык — английский. Архитектурный лимит контекста составляет 262 144 токена, однако разработчик независимо проверил работу только до 24 576 токенов. MTP отключён. Доступны варианты BF16, Q8_0, Q6_K, Q5_K_M и Q4_K_M; последний рекомендован как компактный вариант по умолчанию. Сильными сторонами модели являются небольшой размер, возможность локального запуска, улучшенная генерация кода, строгое выполнение инструкций и повышенная надёжность многоходового взаимодействия. В режиме без рассуждений она подходит для кратких инструкций, структурированной генерации и кода, а режим рассуждений предназначен для более сложных задач, но может выдавать длинные или повторяющиеся ответы. README не содержит полной информации об обучении, бенчмарках, ограничениях применения и целевых сценариях исходной модели. Веса доступны для скачивания, но репозиторий не предоставляет открытой лицензии и не является open source.

NoInstruct-small-Embedding-v0 — компактная модель эмбеддингов avsolatorio на архитектуре BERT, предназначенная для поиска и сопоставления предложений. По заявлению автора, она улучшает качество retrieval по сравнению с avsolatorio/GIST-small-Embedding-v0 и позволяет кодировать запросы без составления специальных инструкций. Модель содержит около 40 млн параметров, принимает текст, выдаёт векторные представления и поддерживает контекст до 512 токенов. Модель подходит для семантического поиска, подбора релевантных документов и оценки сходства текстов. В метаданных также указана задача извлечения признаков. Лицензия — MIT. Автор отмечает, что технические детали будут опубликованы позднее; поддержка библиотеки Sentence Transformers заявлена как ожидаемая, поэтому доступные способы применения могут быть ограничены.

nomic-embed-text-v1.5-GGUF — набор GGUF-квантизированных версий модели nomic-ai/nomic-embed-text-v1.5, подготовленный пользователем mradermacher. Модель предназначена для извлечения признаков из текста и оценки семантического сходства предложений, поэтому подходит для семантического поиска, кластеризации, сопоставления текстов и других задач, где используются текстовые embedding-представления. В карточке указана поддержка английского языка. Доступны варианты с разными уровнями квантизации: от Q2_K, Q3 и IQ4_XS до Q8_0 и исходного формата f16. Размер файлов составляет примерно 0,2 ГБ для квантизированных вариантов и 0,4 ГБ для f16. Q4_K_S и Q4_K_M отмечены как быстрые рекомендуемые варианты, Q6_K — как вариант с очень хорошим качеством, а Q8_0 — как быстрый вариант с наилучшим качеством среди представленных. Архитектура, количество параметров, поддерживаемая длина контекста и дополнительные модальности в README не указаны; судя по назначению, модель работает с текстом. К преимуществам относятся компактные GGUF-файлы, несколько компромиссов между скоростью, размером и качеством, а также возможность применения в инструментах, поддерживающих GGUF и Transformers.js. Ограничения связаны с тем, что более сильная квантизация может снижать качество представлений, а сведения о точных характеристиках и результатах оценки модели в карточке отсутствуют. Модель распространяется по лицензии Apache-2.0.

Occamy-1.0 GGUF — это набор квантизированных файлов модели Occamy-1.0, разработанной Accio-Lab, в формате GGUF для запуска через совместимые среды, включая llama.cpp. Модель относится к мультимодальному классу image-text-to-text и поддерживает работу с текстом и изображениями через отдельный vision projector; для текстовых сценариев projector не требуется. Доступны варианты квантизации от IQ2_M и Q2_K до Q8_0, а также F16 vision projector. Размеры файлов составляют примерно от 10,9 до 34,4 GiB, без учёта дополнительной памяти на KV-кэш, контекст, параллельные запросы и изображения. Модель предназначена для генерации текста, программного кода, структурированных JSON-ответов и tool use. В README приведены проверки на задачах GSM8K, HumanEval+, строгом JSON и использовании инструментов, однако они выполнены на небольших выборках и не заменяют полноразмерные бенчмарки. Новые квантизации тестировались для текста, кода, JSON и tool use, но их возможности работы с изображениями повторно не проверялись. Размер контекстного окна, языковой охват и точные параметры архитектуры в представленном README не указаны; при этом модель связана с архитектурой MoE и семейством Qwen3.5 MoE. Для корректной работы важна совместимость токенизатора: выпущенные файлы используют метаданные qwen2, NFC-нормализацию и qwen2-подобные правила, а опубликованные измерения требуют специального переопределения qwen35 и не подтверждают полную эквивалентность токенизации. Квантизация уменьшает требования к памяти, но может снижать качество на низких разрядностях. Совместимость с CPU-only и Apple Silicon в приведённых испытаниях не устанавливалась. Файлы распространяются по лицензии Apache 2.0; отдельная MTP head в эти GGUF-файлы не входит.

ENOSYS выпустил экспериментальную GGUF-версию Octen-Embedding-4B с квантизацией весов по глобальному целевому числу бит на вес. Модель предназначена для преобразования текстов в эмбеддинги и оценки семантического сходства; метаданные также отмечают применение для поиска и извлечения информации. Поддерживаются английский, русский и другие языки. Веса представлены в формате GGUF, а тензоры хранятся в F16 для совместимости с архитектурой Nvidia Pascal, включая P100. Квантизация выполнена с помощью изменённой ветки LLaMA.cpp и калибровочного набора текстов на английском и русском языках. В README приведены сравнения вариантов квантизации по perplexity и расхождению распределений; эти результаты показывают компромисс между размером представления и точностью. Модель основана на Octen/Octen-Embedding-4B, которая, согласно метаданным каталога, построена на Qwen3-Embedding-4B. Лицензия — Apache-2.0. README характеризует сборку как экспериментальную; для её использования нужен совместимый с этой версией GGUF-инструментарий.

Ovis2-16B — мультимодальная языковая модель семейства Ovis, разработанная командой AIDC-AI. Она объединяет визуальный энкодер и языковую модель для диалога по изображениям и видео. Архитектура плотная, класс Ovis; репозиторий содержит веса Safetensors. Вариант 16B показан в тестах изображений и видео, а README рекомендует более новую версию Ovis2.5. Модель предназначена для ответов на вопросы по визуальным материалам, рассуждений по нескольким изображениям и кадрам, многоязычного OCR, а также извлечения структурированных данных из таблиц и диаграмм. В обучении использовались instruction tuning и preference learning для усиления рассуждений; заявлена поддержка английского и китайского, а OCR улучшен для языков помимо них. Для запуска README приводит зависимости PyTorch, Transformers и Flash Attention. Модель распространяется по лицензии Apache-2.0. В README отмечены ограничения: разработчики не гарантируют полного отсутствия проблем с авторскими правами или некорректного содержимого; для новых возможностей рекомендуется Ovis2.5.

radlab/polish-bi-encoder-mean — модель Sentence-Transformers для кодирования польских предложений и абзацев в плотные векторы размерностью 1024. Она основана на sdadas/polish-roberta-large-v2 и дообучена на датасете radlab/polish-sts-dataset с функцией потерь CosineSimilarityLoss. Модель предназначена для оценки семантического сходства, семантического поиска и кластеризации текстов; её можно применять в системах поиска и группировки польских документов. Архитектура — RoBERTa, размер составляет 533,7 млн параметров, контекст — до 514 токенов. Используйте библиотеку sentence-transformers либо трансформерную модель с подходящей операцией pooling. Лицензия — CC BY-SA 4.0.

ProCreations_grug-35b-GGUF — квантизированная версия языковой модели ProCreations/grug-35b, подготовленная bartowski с использованием llama.cpp и метода imatrix. Модель ориентирована на задачи генерации текста, программирования, агентских сценариев, использования инструментов и рассуждений. В метаданных также указан pipeline_tag image-text-to-text, однако подробности о поддерживаемых визуальных входах в README не приведены. Модель содержит около 35 млрд параметров и распространяется в формате GGUF с вариантами квантизации от BF16 и Q8_0 до более компактных Q2–Q4 и IQ-форматов. Доступны сборки размером примерно от 19 до 69 ГБ; более высокие разрядности обеспечивают лучшее качество, а компактные варианты снижают требования к оперативной памяти. README не указывает контекстное окно, языки, точную архитектуру или результаты тестирования. Сборки предназначены для локального запуска через llama.cpp, LM Studio, KoboldCpp, Jan AI, Text Generation Web UI и другие совместимые инструменты. Сильными сторонами являются широкий выбор уровней квантизации и поддержка сценариев кода, агентного взаимодействия и tool use. Ограничения — отсутствие подробных сведений о мультимодальности, языках и производительности, а также значительные требования к памяти для качественных вариантов. Модель распространяется по лицензии MIT.

AISE-TUDelft/python-expand-classifier — модель на базе MPNet, разработанная AISE при TU Delft. Она кодирует предложения и абзацы в плотные векторы размерности 768, предназначенные для сравнения семантической близости. Модель можно применять для семантического поиска, кластеризации и задач sentence similarity. Модель содержит 136,7 млн параметров, работает с текстом и имеет контекстное окно до 514 токенов. Она обучалась с функцией потерь CosineSimilarityLoss и распространяется в формате PyTorch. Лицензия в предоставленных данных не указана.

ssmits/Qwen2-7B-Instruct-embed-base — модель эмбеддингов на основе Qwen2, представленная автором репозитория ssmits. Это плотная Transformer-модель класса Qwen2Model с 7,1 млрд параметров; у неё удалён слой lm_head, поэтому она предназначена для получения векторных представлений текста. Модель распространяется в формате safetensors и использует библиотеку sentence-transformers. Её можно применять для извлечения признаков, сравнения сходства предложений и классификации текста. Контекст составляет до 32 768 токенов; в карточке указан английский язык, а серия Qwen2 описана как адаптированная к нескольким естественным языкам и языкам программирования. Лицензия — Apache-2.0. Автор предупреждает, что модель не показывает высокой эффективности без дополнительного дообучения, и отмечает потребление более 24 ГБ видеопамяти в собственных тестах. Для получения эмбеддингов требуется выбрать подходящую операцию pooling поверх контекстных представлений.

Qwen2-VL-7B-Instruct-AWQ — мультимодальная instruction-tuned модель семейства Qwen2-VL, разработанная командой Qwen. Это вариант модели Qwen2-VL-7B-Instruct с AWQ-квантизацией, предназначенный для обработки изображений, видео и текста, а также генерации текстовых ответов по визуальным и текстовым инструкциям. Модель подходит для визуального вопросно-ответного взаимодействия, анализа документов и изображений, распознавания текста в изображениях, решения задач по визуальному содержимому, диалога по видео и сценариев управления устройствами, включая мобильные устройства и роботов. Заявлена поддержка английского и китайского языков, а также понимания текста на изображениях на большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Она поддерживает изображения произвольного разрешения с динамическим числом визуальных токенов и видео длительностью более 20 минут. Ключевые архитектурные особенности включают Naive Dynamic Resolution и мультимодальное позиционное кодирование M-ROPE, разделяющее информацию о позициях текста, двумерных изображений и трёхмерного видео. Размер модели — 7 миллиардов параметров; README не указывает точный предел контекста. AWQ-квантизация снижает требования к памяти: в приведённом тесте на NVIDIA A100 80GB модель использовала около 7,07 ГБ памяти при коротком вводе и 35,08 ГБ при длине ввода 30720 токенов, однако скорость и качество зависят от оборудования и настроек. Сильные стороны модели — мультимодальное понимание, работа с изображениями разных форматов и разрешений, длительными видео и многоязычным текстом. Ограничения включают зависимость производительности от длины контекста, видеопамяти и программного окружения; заявленные результаты относятся к конкретным тестам и не гарантируют качество в каждом сценарии. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-27B-Claude-4.6-Opus-Reasoning-Distilled-v2-GGUF — мультимодальная модель, разработанная Jackrong на базе Qwen/Qwen3.5-27B. Это дообученная версия с фокусом на эффективное рассуждение и генерацию текста по изображениям и текстовым запросам; модель рассчитана на conversational-сценарии, решение математических и логических задач, работу с инструкциями, общими знаниями и программированием. Доступен формат GGUF для запуска с llama.cpp и совместимых инструментов, а также поддержка экосистемы Transformers и Unsloth. Заявлены языки English, Chinese и Korean, однако сведения о размере контекста в README отсутствуют. В версии v2 использовано около 14 000 образцов рассуждений в стиле Claude 4.6 Opus, с акцентом на короткие и переносимые шаблоны рассуждений. По данным автора, на HumanEval достигнуто 96,91% pass@1 при примерно 24% меньшей длине цепочки рассуждений и на 31,6% большем числе корректных решений на токен по сравнению с базовой моделью. При этом отмечено снижение результатов на HumanEval+ на 1,24% и на MMLU-Pro на 7,2%; модель может уступать базовой версии в задачах, требующих длинного контекста, сложного многошагового рассуждения и более широких общих знаний. Приведённые оценки получены в условиях инференса BF16 с Unsloth и vLLM и не гарантируют аналогичные результаты в других конфигурациях. Модель распространяется по лицензии Apache-2.0. README не содержит подробных требований к аппаратному обеспечению, точного размера контекстного окна и исчерпывающей информации о возможностях или ограничениях мультимодального ввода.

cyankiwi/Qwen3.5-2B-AWQ-4bit — 4-битная AWQ-квантизированная версия мультимодальной модели Qwen3.5-2B, основанной на Qwen/Qwen3.5-2B и разработанной командой Qwen. Модель предназначена для обработки текста и изображений, генерации ответов, визуального понимания, рассуждений, программирования и агентских сценариев. Формат совместим с Hugging Face Transformers, vLLM, SGLang и KTransformers. Модель содержит около 2 млрд параметров, использует архитектуру causal language model с vision encoder, гибрид Gated Delta Networks и разреженной Mixture-of-Experts, 24 слоя и контекст до 262 144 токенов. Заявлена поддержка 201 языка и диалекта. Квантизация AWQ до 4 бит снижает требования к памяти и может повысить эффективность инференса, однако возможны потери качества по сравнению с полноразмерными весами; точные характеристики квантизации и результаты бенчмарков именно этой сборки в README не приведены. Основные сценарии использования — прототипирование, исследовательские и разработческие задачи, а также предметно-ориентированное дообучение. Небольшой размер облегчает локальное и экономичное развертывание, но ограничивает максимальную глубину и надежность результатов по сравнению с более крупными моделями. Модель распространяется по лицензии Apache-2.0.

Ex0bit/Qwen3.6-27B-PRISM-PRO-DQ — квантованная версия PRISM-PRO на базе Qwen3.6-27B, подготовленная проектом PRISM в формате GGUF для llama.cpp с применением динамического квантования. Она сохраняет встроенную MTP-голову для черновой генерации и полную башню обработки изображений; размер файла составляет около 13,7 ГБ вместо 55 ГБ у BF16-версии. Модель предназначена для диалоговой генерации текста и может использоваться в сценариях, где нужны возможности базовой Qwen3.6-27B, включая программирование, агентные задачи и работу с изображениями. Для ускорения вывода README описывает спекулятивное декодирование с MTP или отдельной EAGLE-3-моделью; заявлено совпадение результата с обычным жадным декодированием с оговоркой о вычислительных различиях при пакетной проверке. Базовая архитектура сочетает 48 слоёв линейного внимания GatedDeltaNet и 16 слоёв полного внимания; в карточке не приведены общее число параметров и длина контекста. Модель распространяется по лицензии Apache-2.0. Квантование уменьшает размер по сравнению с BF16, однако README не сообщает точные потери качества или требования к видеопамяти.

Qwen3-Embedding-4B-GGUF — это квантизированная версия модели Qwen3-Embedding-4B, разработанной командой Qwen и преобразованной в формат GGUF пользователем mradermacher. Модель предназначена для создания текстовых эмбеддингов и может применяться в задачах семантического поиска, сравнения предложений, извлечения признаков, кластеризации и построения retrieval-систем. В метаданных указана поддержка английского языка и интеграция с экосистемой Transformers и sentence-transformers. Модель имеет размер около 4 миллиардов параметров; точная архитектура и максимальная длина контекста в README не указаны. Доступны варианты квантизации от Q2_K до Q8_0, IQ4_XS и f16, с размером файлов примерно от 1,8 до 8,1 ГБ. Квантизация позволяет снизить требования к памяти и ускорить запуск, однако варианты с меньшим размером могут уступать по качеству; Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, а Q8_0 — как вариант с лучшим качеством среди быстрых конфигураций. README не содержит результатов бенчмарков и подробных ограничений качества. Модель распространяется по лицензии Apache-2.0.

Это модель Sentence-Transformers на базе MPNet, разработанная пользователем Hugging Face shrinivasbjoshi. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения семантической близости, поиска похожих текстов и кластеризации. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторы; максимальная длина контекста — 514 токенов. В метаданных указана задача sentence-similarity, а карточка описывает использование для семантического поиска и кластеризации. Модель опубликована в формате PyTorch и обучалась с функцией CosineSimilarityLoss. Лицензия в предоставленных данных не указана.

RepresentLM-v1 — модель эмбеддингов предложений и абзацев, разработанная на базе StoriesLM-v1-1963. Она преобразует текст в плотные векторы размерностью 768 и предназначена для поиска семантически похожих текстов, кластеризации и семантического поиска. Модель основана на архитектуре BERT, содержит 136,7 млн параметров и принимает последовательности длиной до 512 токенов. Модель дообучена на наборе HEADLINES для семантического сходства; в метаданных также указан датасет AmericanStories. Подходит для поиска по смыслу и группировки текстов на английском языке. Распространяется по лицензии MIT.

Rewnozom-GGUF — это конверсия модели Rewnozom/Rewnozom в формат GGUF, разработанная авторами Rewnozom на основе Qwen/Qwen2.5-7B-Instruct-1M. Модель предназначена для локального запуска через llama.cpp, Ollama, LM Studio, Jan и другие совместимые загрузчики. Указан английский язык, а исходная модель относится к семейству 7B instruct-моделей с контекстом до 1 млн токенов. Модель ориентирована на генерацию текста, рассуждения и задачи, связанные с логикой, декомпозицией запросов, планированием и исправлением планов, маршрутизацией инструментов, управлением состоянием и памятью, retrieval, разрешениями и многоагентной оркестрацией. В README также упоминается обучение на синтетических данных с детерминированными формальными мирами, проверками оракула и машинно проверяемыми ответами. Доступны варианты от F32, F16 и BF16 до низкобитных квантований, включая K-quants, legacy-quants, T-quants и гибридные профили. Сильными сторонами являются широкий выбор размеров файлов и компромиссов между качеством, скоростью и потреблением памяти, а также возможность локального использования. Качество и производительность зависят от выбранного квантования, длины контекста, аппаратного ускорения и характера задач; низкобитные варианты могут заметно менять поведение модели. Контроль разрешений, деструктивных действий и изменения состояния рекомендуется оставлять за детерминированной логикой приложения. Распространение заявлено по лицензии Apache 2.0.