II.6Документация и сопровождение разработки

Qwen3-Reranker-8B-mxfp8 — конвертированная в формат MLX модель reranker из семейства Qwen3, опубликованная сообществом mlx-community на основе Qwen/Qwen3-Reranker-8B. Она предназначена для ранжирования текстовых кандидатов по релевантности запросу, например для сортировки результатов поиска или отбора фрагментов для RAG. Модель имеет плотную авторегрессионную архитектуру Qwen3 и 7,6 млрд параметров; базовый контекст составляет 40 960 токенов. Метаданные указывают поддержку генерации текста и ранжирования, но основное пользовательское назначение — reranking. Репозиторий содержит веса safetensors, а README описывает конверсию в MLX с помощью mlx-embeddings 0.0.3. Лицензия Apache-2.0.

Qwopus3.5-4B-v3 — модель от Jackrong, дообученная на базе unsloth/Qwen3.5-4B. Она позиционируется как reasoning-модель с оптимизацией структуры рассуждений, ориентированная на повышение стабильности, корректности и эффективности вывода, особенно в задачах программирования и многошаговых агентных сценариях. Модель предназначена для задач, где требуется рассуждение, выполнение действий через инструменты и последовательное уточнение поведения по результатам взаимодействия со средой. В ней заявлена поддержка tool calling для агентных фреймворков, включая OpenClaw, а также подход «act-then-refine»: раннее выполнение действия с последующей коррекцией на основе обратной связи вместо чрезмерного предварительного обдумывания. В README указаны английский, китайский и корейский языки. Размер модели — 4B параметров; модель помечена как image-text-to-text, однако подробные сведения о мультимодальной архитектуре и поддерживаемых типах входных данных не приведены. К сильным сторонам относятся компактный размер, акцент на более коротких и устойчивых цепочках рассуждений, специализация на программировании и сценариях с инструментами. Ограничения связаны с отсутствием в представленном README данных о длине контекста, результатах стандартизированных тестов, требованиях к ресурсам и фактическом качестве работы с изображениями. Модель распространяется по лицензии Apache-2.0.

Модель dariolopez/roberta-base-bne-finetuned-msmarco-qa-es-mn — испаноязычная модель эмбеддингов на базе RoBERTa, созданная с помощью Sentence Transformers и дообученная на испанском переводе набора MS MARCO для задач вопросно-ответного поиска. Она преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска и кластеризации текстов. Модель содержит 151,8 млн параметров, принимает текстовые последовательности длиной до 514 токенов; более длинный текст обрезается. Обучение на примерах запросов, положительных и отрицательных ответов с функцией потерь MultipleNegativesRankingLoss ориентирует векторное пространство на сопоставление вопроса с релевантным текстом. Распространяется по лицензии Apache 2.0.

Карточка модели infgrad/stella-base-zh на Hugging Face совпадает с карточкой infgrad/stella-large-zh-v2, поэтому описание составлено по ней. stella-large-zh-v2 — модель для кодирования текста, разработанная автором семейства Stella. Она преобразует китайские тексты в векторы размерностью 1024 и предназначена прежде всего для семантического поиска и сопоставления текстов. Модель основана на архитектуре BERT и дообучена на открытых корпусах и синтетических парах «вопрос — абзац» и «предложение — абзац» с помощью контрастивного обучения, сложных отрицательных примеров и дистилляции. Контекст составляет до 1024 токенов. Для поиска не требуется добавлять инструкционные префиксы. Модель подходит для поиска по длинным китайским документам и оценки семантического сходства; в README приведены результаты C-MTEB и отдельная оценка длинных текстов. Она возвращает векторы, поэтому для выдачи результатов поиска требуется внешняя система индексации и сравнения. Условия лицензии в предоставленных данных не описаны.

Table Transformer Structure Recognition — модель обнаружения объектов на базе DETR, дообученная Microsoft на наборе PubTables1M для распознавания структуры таблиц в документах. Она находит элементы таблицы, включая строки и столбцы, на изображении или фрагменте документа. Модель построена на Transformer-архитектуре с нормализацией перед слоями self-attention и cross-attention. Веса содержат 6,3 млн параметров; модель опубликована в форматах PyTorch и Safetensors. Лицензия — MIT. Модель подходит для извлечения структуры таблиц из документов и последующей обработки их содержимого. Карточка описывает обнаружение строк и столбцов, но не заявляет о распознавании текста внутри ячеек; для полного извлечения данных может потребоваться отдельный OCR-компонент.

mlx-community/tasksource-ModernBERT-base-embed-4bit — англоязычная модель эмбеддингов на архитектуре ModernBERT, подготовленная mlx-community для запуска в формате MLX на устройствах Apple. Она дообучена на базе answerdotai/ModernBERT-base для извлечения признаков и вычисления сходства между предложениями; README указывает на преобразование из tasksource/ModernBERT-base-embed и применение 4-битного формата. Модель содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Её можно использовать для поиска по смыслу, ранжирования текстов по сходству и построения векторных представлений для семантического поиска и других задач NLP. Обучение опиралось на наборы данных для поиска вопросов и ответов, NLI, семантического сходства и ранжирования; заявленный язык — английский. Для запуска README рекомендует пакет mlx-embeddings. Лицензия в предоставленных данных не указана.

Verbatim RAG Extractor Model — дообученная KRLabsOrg модель на базе ModernBERT-base для отбора предложений, релевантных вопросу, в системе Verbatim RAG. Она кодирует вопрос и предложения документа в одной последовательности и применяет линейную классификационную голову, присваивая каждому предложению один из двух классов: релевантное или нерелевантное. Модель содержит 149 млн параметров, использует архитектуру ModernBERT и поддерживает контекст до 8192 токенов. Модель предназначена для извлечения подходящих фрагментов из найденных документов перед формированием ответа на вопрос. Порог уверенности по умолчанию равен 0,5; его можно менять, чтобы балансировать точность и полноту отбора. В карточке указана англоязычная поддержка. Лицензия — MIT. Для интеграции README рекомендует пакет verbatim-rag; заявлены зависимости от PyTorch и Transformers.

Victoria — производная модель rmonsurate на основе Qwen/Qwen3.8-Flash-Next, предназначенная для генерации текста, программирования и агентных задач в терминале. Разработчик сократил число экспертов MoE с 512 до 288 на слой, затем переобучил модель с 4-битным представлением, чтобы восстановить качество при меньшем объёме вычислений. Активными при генерации остаются 5,9 млрд параметров на токен; доступны сборки NVFP4 для vLLM на NVIDIA Blackwell и GGUF Q4_K_M для llama.cpp. Модель показала 70,0% в среднем по трём запускам Terminal-Bench 2.1 для сборки NVFP4 и 75,28% в одном запуске для GGUF; результаты получены на разных сборках и протоколах. В README также приведены результаты HumanEval. Проверка проводилась на текстовых задачах, поэтому поддержку анализа изображений, указанную для базовой модели, карточка Victoria не подтверждает. Для NVFP4 заявлены 262144 токена контекста. Модель ориентирована на английский язык. Репозиторий указывает лицензию «other», а конкретные условия необходимо сверить с файлами лицензии в репозитории.

Это компактная модель Sentence Transformers, дообученная автором swardiantara на базе google/bert_uncased_L-2_H-128_A-2 для получения векторных представлений предложений и абзацев. Архитектура включает двухслойный BERT с mean pooling; модель кодирует текст в плотные векторы размерностью 128, а сходство между ними можно оценивать косинусной мерой. В метаданных указаны 4,4 млн параметров и контекст до 512 токенов, тогда как карточка модели задаёт максимальную длину последовательности 128 токенов. Модель предназначена для поиска и сопоставления текстов по смыслу, включая retrieval. Обучение описано на 111 102 парах текстов с оценками сходства и различия; примеры и базовая модель указывают на английский язык. Она компактна и рассчитана на создание эмбеддингов, но карточка не приводит сравнительных оценок качества; практический лимит входа в указанной конфигурации — 128 токенов. Лицензия в предоставленных данных не указана.

darkmaniac7/bge-small-en-MNN — это конверсия модели эмбеддингов BAAI/bge-small-en-v1.5 в формат MNN, подготовленная TokForge для локального вывода на Android, Linux и iOS. Модель предназначена для построения векторных представлений текстов, семантического поиска, sentence similarity, RAG, а также формирования embeddings для памяти и задач reflection на устройствах без зависимости от GGUF/llama.cpp. Исходные веса разработаны Beijing Academy of Artificial Intelligence, а конверсия не содержит новых весов. Модель основана на 12-слойном BERT-энкодере с 33 млн параметров, размером скрытого состояния 384, 12 attention heads и промежуточным слоем размерности 1536. Используются CLS-пулинг и L2-нормализация; размер итогового embedding — 384, максимальная длина последовательности — 512 токенов. Веса представлены в fp16, размер файла составляет около 64 МБ. Поддерживается английский язык; модель принимает токенизированный текст и возвращает last_hidden_state, из которого извлекается embedding CLS-токена. Сильная сторона модели — возможность эффективного on-device-инференса через MNN и практически полное совпадение качества с GGUF-базовой версией в указанном синтетическом retrieval-тесте: для Recall@1, @3, @5 и @10 регрессии не выявлено, а среднее межмодельное cosine similarity составило 0,9962. Ограничения включают поддержку только английского языка, предел в 512 токенов и необходимость корректно выполнять CLS-пулинг, L2-нормализацию и, для асимметричного поиска, добавлять стандартный BGE-префикс к запросу. Модель распространяется по лицензии MIT.

bilingual-embedding-small — модель векторных представлений предложений от Lajavaness для французского и английского языков. Она дообучена на базе Multilingual-MiniLM-L12-H384 и использует архитектуру Sentence Transformers: MiniLM-кодировщик, усреднение токенных представлений и нормализацию. Модель содержит 124,3 млн параметров, кодирует предложения в 384-мерные векторы и принимает последовательности длиной до 512 токенов. Модель предназначена для сравнения смысловой близости предложений, семантического поиска и кластеризации текста на французском и английском. В обучении использовались SNLI, XNLI и STS Benchmark для обоих языков, а также аугментация обучающих пар. Доступна по лицензии Apache-2.0. Карточка не содержит результатов оценки качества, поэтому точность для конкретных задач по ней определить нельзя. Контекст ограничен 512 токенами; модель рассчитана на французский и английский языки.

Blitzar-Coder-4B-F.1-GGUF — модель для генерации кода, разработанная prithivMLmods. Это GGUF-версия Blitzar-Coder-4B-F.1, дообученной на базе Qwen3-4B с использованием расширенных наборов трассировок программирования. Модель предназначена для генерации и отладки кода, а также решения задач, требующих рассуждений, особенно при ограниченных вычислительных ресурсах. Модель ориентирована на работу более чем с десятью языками программирования, включая Python, Java, C#, C++, C, Go, JavaScript, TypeScript и Rust. Точные сведения об архитектуре, размере контекста и поддерживаемых естественных языках, кроме английского, в карточке не указаны. Доступны варианты от Q2_K до Q8_0, а также F16, BF16 и F32; размер файлов составляет примерно от 1,67 до 16,1 ГБ. Q4_K_M и Q5_K_M рекомендуются как сбалансированные варианты, а Q6_K, Q8_0 и версии с плавающей точностью обеспечивают более высокое качество ценой большего потребления ресурсов. Сильными сторонами модели являются специализация на программировании, поддержка нескольких языков программирования и широкий выбор вариантов квантования для запуска на оборудовании с разными ограничениями. Более компактные варианты обеспечивают более быструю инференцию, но могут уступать в качестве; для F16, BF16 и особенно F32 требуется больше видеопамяти. Модель распространяется по лицензии Apache-2.0.

Codestral-22B-v0.1-abliterated-v3-GGUF — это GGUF-квантизованная версия модели Codestral-22B-v0.1-abliterated-v3. Исходная модель размещена пользователем failspy, а квантизации подготовлены bartowski с использованием llama.cpp и метода imatrix. В карточке не указано, кто разработал исходную архитектуру Codestral. Модель предназначена прежде всего для генерации и обработки программного кода, поскольку имеет тег code и относится к задаче text-generation. Она доступна в нескольких вариантах квантизации GGUF с размером файлов примерно от 6,64 до 23,64 ГБ, что позволяет выбирать баланс между качеством и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; версии с более низкой разрядностью экономят память, но могут заметно терять в качестве. В README не указаны точная архитектура, размер контекстного окна, поддерживаемые естественные языки и дополнительные модальности, поэтому эти характеристики нельзя достоверно определить по имеющимся данным. Также предупреждается, что формат prompt не задан в исходной карточке и предложенный шаблон может быть некорректным. Модель распространяется по лицензии MNPL-0.1; в карточке приведена ссылка на её текст.

DASD-4B-Thinking GGUF — компактная плотная языковая модель примерно на 4 млрд параметров, опубликованная в формате GGUF пользователем Mungert. Исходная модель разработана командой Alibaba-Apsara и создана на основе Qwen3-4B-Instruct-2507 с дистилляцией знаний от gpt-oss-120b методом distribution-aligned sequence distillation. Модель ориентирована на рассуждения с длинной цепочкой мыслей, включая решение математических задач, генерацию кода и научное рассуждение. Для обучения использовалось 448 тысяч примеров из наборов Superior-Reasoning-SFT-gpt-oss-120b и Superior-Reasoning-SFT-gpt-oss-120b-Logprob. Это текстовая autoregressive-модель для генерации текста; сведения о поддерживаемых языках и размере контекста в карточке не указаны. Версия GGUF создана с использованием llama.cpp. Автор сборки применяет модифицированный подход к квантованию: отдельные важные слои переводятся в более высокую точность с помощью опции --tensor-type, что должно повышать точность при малой разрядности, особенно для MoE-моделей, но увеличивает размер файла. Заявленные результаты DASD-4B-Thinking включают 88,5 на AIME24, 83,3 на AIME25, 69,3 и 67,5 на LiveCodeBench v5 и v6 соответственно, а также 68,4 на GPQA-D. Сильными сторонами являются компактный размер, ориентация на сложное рассуждение, высокая эффективность дистилляции и возможность локального запуска на потребительском оборудовании. Ограничения включают отсутствие в предоставленных данных подробностей о языковом покрытии, контекстном окне, конкретных требованиях к памяти и характеристиках отдельных квантованных вариантов; приведённые бенчмарки не гарантируют аналогичную производительность в любых прикладных сценариях. Лицензия — Apache-2.0.

Solstice-AI/DeepSeek-V4-Flash-Vision-Exp-NVFP4 — мультимодальная модель для задач image-text-to-text, разработанная Solstice-AI на основе экспериментальной модели DeepSeek-V4-Flash-Vision-Exp от DeepSeek. Она предназначена для анализа изображений и текста, визуального контроля качества, распознавания объектов и текста на изображениях, а также текстовой генерации и многошагового рассуждения в сценариях, требующих большого контекста. Модель имеет архитектуру MoE с 305 млрд параметров, 256 маршрутизируемыми экспертами и примерно 13 млрд активируемых параметров на токен; заявлено 43 слоя. Контекстное окно составляет 1 048 576 токенов, используется native YaRN. Зрительная часть включает 32-слойный Vision Transformer и работает в формате BF16. Эксперты квантизированы в SafeTensors NVFP4: W4A4, group size 16, с block-scale calibration. Ключевая особенность — bit-exact транскодирование MXFP4 в NVFP4 без заявленной потери точности. Модель оптимизирована для NVIDIA Blackwell, включая B200, GB200, DGX Spark и RTX 5090, а также для vLLM и TensorRT-LLM. Согласно README, к сильным сторонам относятся сохранение качества базовой модели на GSM8K, тестах извлечения данных из длинного контекста и мультимодальном visual question answering; для vision QA заявлены точное совпадение ответов и время до первого токена менее 50 мс. Ограничения связаны с экспериментальным статусом, специализированной поддержкой оборудования NVIDIA Blackwell и зависимостью от совместимых inference-движков. Модель распространяется по лицензии MIT; упаковка и сопровождение выполнены Solstice-AI, а квантизационный pipeline создан с использованием NVIDIA TensorRT ModelOpt.

embeddinggemma-300m-GGUF — это модель для создания векторных представлений текста, основанная на google/embeddinggemma-300m. Исходную модель разработала Google, а GGUF-версии подготовила Second State Inc. Модель предназначена для задач семантического сходства и других сценариев, где требуется сравнивать тексты по смыслу, включая поиск и работу с векторными индексами. Модель поддерживает запуск через sentence-transformers и LlamaEdge, использует специальный режим embedding и имеет контекстное окно 2048 токенов. Доступны варианты размерности эмбеддингов 128, 256, 512 и 768. Репозиторий содержит квантованные GGUF-файлы размером примерно от 212 до 329 МБ, а также версию f16 размером 616 МБ. Квантование уменьшает требования к ресурсам, но может снижать качество: Q4_K_M, Q5_K_M и Q5_K_S обозначены как сбалансированные или рекомендуемые варианты, тогда как наиболее компактные версии имеют существенные потери качества. README не содержит сведений о поддерживаемых языках, точной архитектуре, составе модальностей или конкретных наборах данных обучения. Модель распространяется по лицензии Gemma; условия лицензии следует учитывать при использовании.

GLM-5.1-FP8 — квантованная в формате FP8 версия языковой модели GLM-5.1, разработанной командой Z.ai. Модель предназначена для генерации текста и ориентирована прежде всего на агентные инженерные задачи, включая программирование, создание репозиториев по естественно-языковому описанию, работу с терминалом и длительные многошаговые сессии с использованием инструментов. Заявлена поддержка английского и китайского языков; модель подключается через библиотеку Transformers и относится к задачам text generation. Ключевая сильная сторона GLM-5.1 — работа над сложными задачами на протяжении сотен итераций и тысяч вызовов инструментов: модель умеет декомпозировать неоднозначные проблемы, проводить эксперименты, анализировать результаты, находить блокирующие факторы и пересматривать стратегию. В README приведены высокие результаты на SWE-Bench Pro, NL2Repo, Terminal-Bench 2.0, CyberGym и BrowseComp. При этом размер модели, базовая архитектура, длина контекста, точные характеристики FP8-квантизации и поддерживаемые модальности не указаны. Ограничения также связаны с тем, что приведённые показатели зависят от используемых инструментов и условий тестирования, а таблица бенчмарков в представленном README обрывается. Модель распространяется по лицензии MIT. README также указывает на доступность API-сервисов GLM-5.1 на платформе Z.ai, однако конкретные требования к аппаратному обеспечению и инструкции по локальному запуску для этой версии не приведены.

GLM-5.1-GGUF — квантованное распространение модели GLM-5.1, подготовленное Unsloth на базе zai-org/GLM-5.1. Это текстовая генеративная модель, ориентированная прежде всего на агентную разработку программного обеспечения и сложные инженерные задачи. Модель предназначена для написания и анализа кода, генерации репозиториев, работы с терминалом и многоэтапного решения задач с использованием инструментов. Согласно README, GLM-5.1 сохраняет эффективность на длинных сессиях, умеет разбивать неоднозначные задачи на этапы, проводить эксперименты, анализировать результаты, находить блокеры и пересматривать стратегию на протяжении сотен итераций и тысяч вызовов инструментов. Заявлена поддержка английского и китайского языков, режим text-generation и архитектурная маркировка GLM MoE DSA; точный размер модели и объём контекста не указаны. К сильным сторонам относятся агентное программирование, задачи SWE-Bench Pro, генерация репозиториев и реальные терминальные сценарии. Ограничения включают отсутствие в представленных данных сведений о мультимодальности, точном числе параметров, требованиях к оборудованию и качестве в других прикладных областях; приведённые результаты являются заявленными benchmark-показателями и не гарантируют аналогичную производительность в каждом сценарии. Распространение указано по лицензии MIT.

GLM-5.2-Vision-NVFP4 — мультимодальная модель для понимания изображений и генерации текста. Этот чекпойнт опубликован под идентификатором baseten/GLM-5.2-Vision-NVFP4 и объединяет текстовую модель GLM-5.2 от zai-org с визуальным энкодером MoonViT-3d из Kimi-K2.6 от Moonshot AI. Модель предназначена для описания изображений, визуального анализа и диалогов в формате image-text-to-text, включая работу через OpenAI-совместимый API. В основе используется замороженная MoE-модель GLM-5.2 размером 744B параметров, из которых активно около 40B, с механизмами MLA и DSA sparse attention. Визуальная часть MoonViT-3d содержит 27 слоёв и имеет размерность 1152, а обучаемый PatchMerger-проектор преобразует визуальные признаки в токены размерности 6144; его размер — 49,5 млн параметров. Текстовые веса представлены в формате NVFP4, модель поддерживает до 4096 токенов изображения и максимальный контекст до 1 048 576 токенов. Главные преимущества — сочетание сильного reasoning-бэкенда GLM-5.2 с обработкой изображений, длинный контекст и возможность локального развёртывания через SGLang или Baseten. Ограничения — очень большой объём весов около 466 ГБ и высокие требования к оборудованию: рекомендованы 8 GPU B200 для контекста 1M или 4 GPU B200 для 256K; заявлена совместимость только с архитектурой Blackwell. Для SGLang требуется внешний плагин архитектуры модели. Лицензия указана как MIT; при этом входящие веса GLM-5.2 и Kimi-K2.6 сохраняют условия лицензирования исходных проектов.

gte-Qwen2-1.5B-instruct-GGUF — квантованная GGUF-версия модели Alibaba-NLP/gte-Qwen2-1.5B-instruct. В метаданных указано, что модель создана intfloat, а квантование выполнено Second State Inc. Это модель для получения текстовых эмбеддингов, предназначенная для задач семантического сходства и других сценариев sentence-transformers, включая поиск и сопоставление текстов по смыслу. Модель основана на Qwen2 и содержит 1,5 млрд параметров. Она работает в режиме embedding и поддерживает контекст размером до 32 000 токенов при использовании LlamaEdge версии 0.12.2 или новее. Доступны варианты GGUF с квантованием от 2 до 8 бит, а также f16, размером примерно от 752 МБ до 3,56 ГБ. Вариант Q4_K_M заявлен как сбалансированный и рекомендуемый, а Q5_K_M и Q5_K_S — как варианты с очень небольшими потерями качества. Сильной стороной модели являются сравнительно компактные квантованные варианты и возможность локального запуска через LlamaEdge. Ограничения включают потерю качества при низкобитном квантовании; README прямо не рекомендует Q2_K, Q3 и некоторые другие варианты для большинства задач. Языки и точные характеристики архитектуры эмбеддера не указаны. Модель распространяется по лицензии Apache-2.0.

Xenova/gte-small — версия модели thenlper/gte-small с весами в формате ONNX, подготовленная для работы с библиотекой Transformers.js. Репозиторий Xenova предназначен для запуска модели в JavaScript- и веб-средах, а исходная модель разработана командой thenlper. Модель используется для извлечения векторных представлений текста: она преобразует предложения в эмбеддинги размерностью 384. Такие представления подходят для оценки семантического сходства, поиска похожих текстов, кластеризации и других задач, где требуется сравнение текстовых данных. В README показано применение через pipeline feature-extraction с mean pooling и нормализацией, после чего сходство можно вычислять, например, с помощью косинусной меры. Модель ориентирована на текстовый ввод; сведения о поддерживаемых языках, максимальной длине контекста и точной архитектуре в предоставленных данных отсутствуют. К сильным сторонам относятся компактный размер эмбеддингов и совместимость с Transformers.js, включая использование в веб-приложениях. Ограничения — отсутствие информации о языковом охвате, качестве на конкретных доменах и лицензии. По умолчанию применяется 8-битная квантованная версия, также доступны варианты fp32, fp16 и q4.

HydroEmbed/HydroEmbed-MCQTF-MiniLM-MNRL — дообученный разработчиком HydroEmbed энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2. Модель построена на архитектуре BERT и Sentence Transformers: среднее объединение токенов с последующей нормализацией даёт плотный вектор размерности 384. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов; в README указан максимальный размер последовательности 256 токенов, поэтому фактический предел зависит от используемой конфигурации. Модель обучена с MultipleNegativesRankingLoss на 2542 парах предложений. Она предназначена для кодирования текста и сравнения смысловой близости, семантического поиска, выявления перефразировок, кластеризации и подготовки признаков для классификации. Примеры обучающих пар относятся к гидрологии и вопросам с вариантами ответа, но карточка не подтверждает специализацию на этой предметной области. Язык обучения или перечень поддерживаемых языков в предоставленных данных не указан; базовая модель ориентирована на английский. Для применения нужны входные тексты; на выходе модель выдаёт векторы, пригодные для сравнения по косинусному сходству. Это компактная модель для задач сходства предложений, но качество для других языков и предметных областей может отличаться и отдельно не подтверждено. Лицензия в предоставленных данных отсутствует.

Vishwas/intent_classification — модель на архитектуре MPNet, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, кластеризации и сравнения текстов. Веса в формате PyTorch, число параметров — 136,7 млн, максимальная длина контекста — 514 токенов. Модель можно применять для поиска похожих пользовательских запросов и группировки текстов по смыслу. В README указано обучение с CosineSimilarityLoss, однако не приведены сведения о языках обучающих данных или о целевой схеме классификации намерений. Поэтому название репозитория само по себе не подтверждает, что модель выдаёт метки классов интентов. Лицензия в предоставленных данных не указана.

InverseCoder-CL-13B — модель для генерации кода по инструкциям, созданная авторами проекта InverseCoder с помощью дообучения CodeLlama-13b-Python-hf на данных, сформированных методом Inverse-Instruct. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом до 16 384 токенов; она предназначена для запросов на естественном языке и генерации ответов и кода в формате text-generation. Модель подходит для написания и дополнения кода, выполнения инструкций по программированию и диалоговой помощи разработчику. В карточке указаны датасеты InverseCoder-CL-13B-Evol-Instruct-90K и Magicoder-Evol-Instruct-110K. README не приводит отдельные результаты бенчмарков или перечень поддерживаемых естественных языков. Репозиторий содержит веса Safetensors и использует лицензию llama2; условия применения следует сверять с лицензией и ограничениями исходной модели CodeLlama.

Kimi-K2.6-GGUF — версия открытой мультимодальной агентной модели Kimi K2.6 от Moonshot AI, подготовленная Unsloth в формате GGUF с использованием квантования. Модель предназначена для длительных и сложных задач программирования, создания интерфейсов по текстовым и визуальным входным данным, автономного выполнения действий и оркестрации групп специализированных агентов. Модель использует архитектуру Mixture-of-Experts (MoE): около 1 трлн общих параметров, из которых 32 млрд активируются для каждого токена. Она содержит 61 слой, 384 эксперта с выбором 8 экспертов на токен, механизм внимания MLA, активацию SwiGLU и словарь размером 160 тысяч токенов. Контекст составляет 256 тысяч токенов. Для обработки изображений используется vision encoder MoonViT с 400 млн параметров. Заявлены сильные результаты в долгосрочном кодировании на Rust, Go и Python, DevOps, оптимизации производительности, генерации веб-интерфейсов и агентном поиске; поддерживается координация до 300 субагентов и 4000 шагов. Ключевые ограничения связаны с чрезвычайно большими требованиями к ресурсам: например, вариант UD-Q8_K_XL занимает около 595 ГБ. README не содержит полного перечня поддерживаемых языков и подробных требований к оборудованию или программному окружению. Указана лицензия modified-MIT; конкретные условия её применения следует проверять в официальных материалах модели.

Laguna-S-2.1-Uncensored — текстовая MoE-модель Poolside, изменённая SC117 на основе poolside/Laguna-S-2.1. Она предназначена для агентного программирования, длительных задач разработки и диалогового взаимодействия с инструментами. В карточке указана архитектура Laguna с маршрутизацией между экспертами; README описывает исходную модель как 118 млрд параметров всего и около 8 млрд активных на токен, тогда как метаданные каталога указывают 6,8 млрд параметров. Эти значения расходятся, поэтому размер следует проверять по конфигурации конкретной версии. Контекст заявлен до примерно 1 млн токенов. Модель поставляется в BF16 safetensors. Изменение выполнено методом abliterix: к весам применён Trial 16 LoRA с корректировкой маршрутизатора MoE; шаблон чата сохраняет возможность включать рассуждения и работу с инструментами. Основное назначение производной версии — снизить частоту отказов при сохранении значительной части возможностей кодирования и работы с инструментами. README предупреждает, что поведение отказов и выравнивания заметно отличается от официальной модели, а полные бенчмарки производной версии не проводились. Лицензия указана как OpenMDW-1.1, семейство лицензии базовой модели; перед использованием следует учитывать её условия. Для загрузки требуется Transformers с trust_remote_code=True, а полный BF16-репозиторий занимает около 219 ГБ. README отмечает возможные странности идентификации модели и неровный текст на китайском и других языках.

Laguna-XS-2.1-bf16 — версия текстовой модели Poolside Laguna-XS-2.1, подготовленная mlx-community для запуска в формате MLX с точностью bfloat16. Это причинная MoE-модель с 2,6 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; базовая модель ориентирована на агентное программирование, работу в терминале и длительные задачи с кодом. Заявленная длина контекста — 262 144 токена. Репозиторий рассчитан на запуск на компьютерах Apple через mlx-vlm или oMLX с принудительным режимом VLM. mlx-lm пока не поддерживает архитектуру Laguna. В README приведены замеры производительности на MacBook Pro M5 Max с 128 ГБ памяти, однако они не характеризуют скорость на другом оборудовании. Лицензия — OpenMDW 1.1.

LCO-Embedding-Omni-7B — мультимодальная модель эмбеддингов семейства LCO-Embedding, разработанная авторами работы «Scaling Language-Centric Omnimodal Representation Learning». Она использует компонент thinker архитектуры Qwen2.5 Omni без talker и предназначена для представления текста, изображений, аудио и видео в виде векторов для поиска и сравнения. Модель работает через Sentence Transformers или Transformers; README отмечает высокие результаты на бенчмарках мультимодального поиска, включая MIEB, и поддержку аудио и видео. Модель подходит для поиска по текстам, изображениям, аудиозаписям, видео и смешанным мультимодальным документам. В README заявлена оценка на задаче поиска визуальных документов на языках Юго-Восточной Азии, однако полный список поддерживаемых языков не приведён. Репозиторий использует формат safetensors и распространяется по лицензии Apache-2.0. Метаданные указывают библиотеку Sentence Transformers и задачи извлечения признаков и сравнения предложений.

LFM2.5-230M Propella — компактная языковая модель примерно на 221,2 млн параметров, разработанная для генерации структурированных JSON-аннотаций и извлечения метаданных из англоязычного текста. Это дообучение LiquidAI/LFM2.5-230M на наборе agentlans/c4-en-propella; аннотации для обучающих данных были подготовлены с помощью ellamind/propella-1-0.6b. Модель использует плотную архитектуру LFM2 и поддерживает контекст до 128 000 токенов. Модель подходит для классификации и разметки текста, когда результат нужно получить в структурированном JSON-формате. Она рассчитана на быстрый запуск и небольшие ресурсы; доступна через Transformers, а формат весов в репозитории — safetensors. Лицензия — LFM Open License v1.0, унаследованная от базовой модели. Небольшой размер повышает эффективность, но качество аннотаций может уступать модели-учителю ellamind/propella-1-0.6b. Формат JSON иногда может быть некорректным, поэтому результаты рекомендуется проверять парсером; модель обучена исключительно на английском тексте, и её качество на других языках не гарантируется.

onnx-community/LFM2.5-350M-ONNX — ONNX Runtime-версия универсальной текстовой модели LFM2.5-350M, разработанной Liquid AI. Модель предназначена для кроссплатформенного развёртывания и аппаратно ускоренного вывода в облачных, периферийных и мобильных средах, включая локальные устройства с ограниченными ресурсами. Рекомендуемые сценарии — извлечение данных, структурированный вывод и использование инструментов с поддержкой function calling. Модель текстовая, содержит 350 млн параметров и имеет контекст до 32 768 токенов. Архитектура включает 16 слоёв: 10 блоков double-gated LIV convolution и 6 блоков GQA; размер словаря — 65 536 токенов. Она обучалась на 28 трлн токенов, поддерживает английский, арабский, китайский, французский, немецкий, японский, корейский, португальский и испанский языки. Заявлена работа менее чем с 1 ГБ памяти, а ONNX-формат облегчает переносимость между различными аппаратными платформами. Сильными сторонами являются малый размер, высокая скорость edge-инференса и удобство интеграции в разнообразные среды выполнения. Модель не рекомендуется для задач, требующих глубоких знаний, и программирования; дата отсечения знаний — середина 2024 года. Указана лицензия lfm1.0; дополнительные условия следует проверять в файле лицензии репозитория.