II.6Документация и сопровождение разработки

Qwen3-Reranker-4B-W4A16-G128 — GPTQ-квантизированная версия модели Qwen3-Reranker-4B, разработанной командой Qwen. Модель предназначена для переранжирования результатов поиска и других задач классификации текста, где требуется оценить релевантность текстовых пар или запросов и документов. Она может использоваться в системах семантического поиска, retrieval-augmented generation и других сценариях, в которых исходную выдачу нужно упорядочить по релевантности. Модель основана на архитектуре Qwen3-Reranker-4B и использует 4-битное квантование GPTQ с конфигурацией W4A16-G128. Для калибровки применялись наборы данных Ultrachat, THUIR/T2Ranking и m-a-p/COIG-CQIA. По данным карточки, квантование снижает заявленное потребление VRAM примерно с 17 430 до 11 000 МБ без FA2, однако автор оценивает возможное падение точности менее чем в 5%; окончательная оценка на момент публикации ещё проводилась. Языки, размер контекста и точный перечень поддерживаемых модальностей в карточке не указаны; по описанию модель является текстовой. Модель распространяется по лицензии Apache-2.0. Для запуска требуется установить соответствующие инструменты, включая compressed-tensors, optimum и один из пакетов auto-gptq или gptqmodel, после чего использовать официальный пример для Qwen3-Reranker. Ключевое преимущество — уменьшенное потребление видеопамяти при сохранении назначения исходной модели, а основное ограничение — потенциальная потеря качества после квантования и отсутствие подробных результатов независимой оценки.

Qwen-encoder-0.5B-i1-GGUF — это квантизированная GGUF-версия модели Qwen-encoder-0.5B, разработанной knowledgator и подготовленной к квантизации пользователем mradermacher. Модель относится к энкодерным языковым моделям и связана с подходом LLM2Vec. В качестве обучающего набора указана англоязычная Wikipedia. Модель предназначена для задач классификации, извлечения именованных сущностей и question answering, а также для других сценариев, где требуется получать представления текста и анализировать его содержание. Указан размер около 0,5 млрд параметров, поддерживается английский язык. Модель распространяется в формате GGUF с несколькими вариантами квантизации размером примерно 0,4–0,6 ГБ, что позволяет запускать её на ограниченных по памяти устройствах. Сильными сторонами являются компактный размер, широкий выбор уровней квантизации и возможность локального использования. При этом README не содержит данных о длине контекста, точных характеристиках архитектуры, результатах оценки качества или поддержке других модальностей и языков. Низкобитные варианты могут заметно уступать по качеству; для компромисса между скоростью, размером и качеством рекомендованы Q4_K_S и Q4_K_M. Лицензия модели — Apache-2.0.

aiola/roberta-base-corener — многоцелевая модель на базе RoBERTa, предназначенная для распознавания именованных сущностей, извлечения отношений, обнаружения упоминаний сущностей и разрешения кореференции. Модель разработала aiola; в карточке описаны совместное обучение задач и правила построения кластеров кореферентных упоминаний. NER и обнаружение упоминаний реализованы как классификация текстовых фрагментов, а извлечение отношений и разрешение кореференции — как классификация пар фрагментов. Модель распознаёт типы сущностей, включая людей, организации, географические объекты, даты, суммы и события, а также отношения вроде «работает в», «живёт в» и «расположено в». Это англоязычная модель на 151,8 млн параметров с контекстом до 514 токенов. Модель распространяется в формате PyTorch по лицензии Apache-2.0. В метаданных Hugging Face основная задача указана как заполнение пропусков (fill-mask), тогда как README описывает извлечение структурированной информации; поэтому поддержка этих прикладных задач в готовом интерфейсе Hugging Face не подтверждена метаданными.

RoPERT-base-cased — предварительно обученный англоязычный двунаправленный энкодер семейства MyBERT, разработанный авторами репозитория kd13/RoPERT-base-cased. Он использует цель masked language modeling (MLM): модель восстанавливает скрытые токены по контексту слева и справа. Архитектура включает 12 слоёв, скрытый размер 768 и 12 attention-голов; содержит около 107,2 млн параметров, использует WordPiece-токенизатор с регистрозависимым словарём google-bert/bert-base-cased и поддерживает контекст до 2048 токенов. По сравнению с исходным BERT-base, RoPERT использует rotary position embeddings (RoPE), SwiGLU и pre-layer normalization. Модель предназначена для предсказания маскированных токенов и как энкодер для дообучения на классификации текста и токенов, извлечении ответов на вопросы и задачах выбора ответа. Она не предназначена для генерации текста. Для загрузки требуется Transformers с trust_remote_code=True и PyTorch. Опубликованные веса имеют формат float32, лицензия — MIT. Модель обучалась на англоязычных данных из Wikipedia, веб-текстов и BookCorpus. Ограничения: она рассчитана только на английский язык, чувствительна к регистру и не принимает последовательности длиннее 2048 токенов без усечения или разбиения. В обучающих данных могут присутствовать общественные предубеждения и нежелательные закономерности.

sergeyzh/rubert-mini-uncased-query — компактный BERT-энкодер, разработанный для симметричного сравнения поисковых запросов. Это дообученная версия sergeyzh/rubert-mini-uncased, обученная дистилляцией эмбеддингов русских и английских текстов с учётом префикса Qwen/Qwen3-Embedding-8B. Модель имеет 38,8 млн параметров, 7 слоёв, размер эмбеддинга 384 и контекст до 512 токенов; регистр букв не учитывается, специальные префиксы для запросов не нужны. Модель предназначена для оценки семантического сходства запросов, кэширования и фильтрации повторяющихся или близких запросов к LLM, а также для сценариев Q2Q RAG. Карточка сообщает об оценке сходства пар поисковых запросов на русском языке относительно Qwen/Qwen3-Embedding-8B; приведённые в таблице метрики относятся к другим вариантам модели и не позволяют судить о точных показателях этой версии. Модель принимает текст и выдаёт векторные представления для сравнения. Поддерживаются русский и английский языки. Лицензия — MIT.

Модель viktor-shcher/sberbank-rubert-base-collection3 — дообученная версия ruBert-base для распознавания именованных сущностей в русском тексте. Она использует архитектуру BERT и решает задачу классификации токенов, размечая сущности в последовательности. Модель обучена на датасете collection3; размер составляет 205,5 млн параметров, контекст — до 512 токенов. На валидационной выборке указаны precision 0,9380, recall 0,9594, F1 0,9486 и accuracy 0,9860. Модель подходит для извлечения именованных сущностей из русскоязычных текстов. Распространяется по лицензии Apache-2.0.

NetworkIsLife/SciBert_sentence_transformer — учебное зеркало модели S-SciBERT, созданное для курса по тематическому моделированию на основе трансформеров в R. Это неизменённая копия весов и токенизатора pritamdeka/S-Scibert-snli-multinli-stsb в форматах PyTorch и safetensors; исходная модель SciBERT дообучена в Sentence Transformers на SNLI, MultiNLI и STS-B для сопоставления предложений. Архитектура — BERT с mean pooling, размер модели по метаданным — 137,1 млн параметров, размерность эмбеддинга — 768, контекст — до 512 токенов. Модель превращает английские предложения и абзацы, в том числе научные тексты, в плотные векторы для семантического поиска, кластеризации и тематического моделирования. Её научная лексика полезна для биомедицины, химии, информатики и машинного обучения; для обработки издан репозиторий в safetensors, чтобы упростить загрузку на CPU и использование из R. Качество на длинных документах может снижаться: модель обучалась на последовательностях длиной 75 токенов, поэтому полные статьи лучше разбивать на фрагменты. Для обычных веб-текстов может подойти лучше универсальная модель эмбеддингов. Лицензия — Apache-2.0.

vikp/surya_det3 — модель обнаружения текстовых строк в составе Surya, разработанная Vik Paruchuri для Surya. Она принимает изображение документа и выделяет расположение строк текста, чтобы передать их на последующие этапы OCR. Модель построена на EfficientViT с архитектурой семантической сегментации EfficientViTForSemanticSegmentation; содержит 38,4 млн параметров и распространяется в формате safetensors с весами F32. Для обучения использована база vikp/line_detector_3; в репозитории указана лицензия CC BY-NC-SA 4.0. Модель предназначена для обнаружения текста в документах и сама по себе не распознаёт и не возвращает текст. Карточка не описывает отдельные языковые ограничения детектора.

text2vec-large-chinese-i1-GGUF — квантованная версия модели GanymedeNil/text2vec-large-chinese, подготовленная mradermacher в формате GGUF. Модель предназначена для получения векторных представлений китайскоязычного текста и задач семантического сходства, включая поиск похожих предложений, сопоставление текстов и другие сценарии feature extraction. Это не генеративная диалоговая модель. В README указано, что модель поддерживает китайский язык. Сведения об архитектуре, количестве параметров, максимальной длине контекста, точных входных и выходных форматах, а также о дополнительных модальностях не приведены. Доступны многочисленные варианты квантования размером примерно от 0,2 до 0,4 ГБ, включая IQ- и Q-типы; они различаются компромиссом между размером, скоростью и качеством. Для некоторых низкобитных вариантов прямо отмечено снижение качества, тогда как Q4_K_M обозначен как быстрый и рекомендуемый. Модель удобна для локального запуска в экосистеме, поддерживающей GGUF, и позволяет существенно сократить требования к дисковому пространству и памяти. Ограничения связаны с потерями качества при агрессивном квантовании и отсутствием в README подробных результатов оценки, характеристик производительности и рекомендаций по выбору конкретного варианта для разных задач. Лицензия исходной модели указана как Apache-2.0.

microsoft/trocr-small-handwritten — компактная модель TrOCR от Microsoft для распознавания рукописного текста на изображениях отдельных строк. Она дообучена на наборе IAM и предназначена для оптического распознавания текста (OCR). Модель использует архитектуру encoder-decoder: Transformer обрабатывает изображение, разбитое на патчи 16×16, а текстовый Transformer авторегрессионно генерирует распознанные токены. Энкодер основан на весах DeiT, декодер — UniLM. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.

Карточка модели thanhtantran/Vietnamese_Embedding_v2 на Hugging Face совпадает с карточкой AITeamVN/Vietnamese_Embedding_v2, поэтому описание составлено по ней. Vietnamese_Embedding_v2 — модель эмбеддингов на базе Sentence Transformers, дообученная AITeamVN на BAAI/bge-m3 для улучшения поиска по текстам на вьетнамском языке. Обучение проводилось на примерно 1,1 млн троек из запросов, релевантных и нерелевантных документов. Архитектура — XLM-RoBERTa с плотными векторами размерности 1024; модель оценивает сходство скалярным произведением. Метаданные указывают контекст до 8194 токенов, а README сообщает о максимальной длине последовательности 2048 токенов для документов и 256 для запросов. Модель предназначена для построения векторного поиска и извлечения релевантных документов по вьетнамским запросам. В оценке на наборе Legal Zalo 2021 она показала Accuracy@10 0,9578 и MRR@10 0,8149; README отмечает, что модель не обучалась на этом наборе. Результат на юридических данных несколько ниже, чем у базовой фазы, но авторы указывают, что более крупные данные обучения могут быть полезны для других областей. Лицензия — Apache 2.0.

XAgentLlama-7B-preview — экспериментальная генеративная модель текста, разработанная XAgentTeam на основе Code Llama 7B и дообученная для работы с XAgent. Авторы сообщают, что использовали около 300 тысяч примеров и 48 ускорителей A100; модель содержит 6,6 млрд параметров, использует архитектуру LlamaForCausalLM и поддерживает контекст до 16 384 токенов. Модель предназначена для генерации и дополнения кода, выполнения инструкций и вызова функций в формате XAgentGen. Для наилучшей работы её следует использовать с XAgentGen и специальным форматом вызова функций. Она принимает и выдаёт текст; заявленная языковая область — английский и языки программирования. Это предварительная версия, и авторы предупреждают, что её качество не является финальным. Как и другие языковые модели, она может генерировать неточные или нежелательные ответы, поэтому перед применением в продукте требуется проверка под конкретный сценарий. Условия использования регулируются лицензией Meta для Llama 2.

biu-nlp/abstract-sim-sentence — англоязычный sentence encoder на архитектуре MPNet, разработанный для сопоставления абстрактных описаний предложений с подходящими им предложениями. Модель обучена на данных Википедии; для поиска соответствий её используют вместе с отдельным Query encoder в двухбашенной архитектуре. Энкодер принимает предложения и преобразует их в признаки для сравнения и поиска подходящих текстов. Модель содержит 136,7 млн параметров, поддерживает контекст длиной до 514 токенов и поставляется в формате PyTorch. Подходит для семантического поиска и сопоставления предложений по смыслу. Лицензия в предоставленных данных не указана.

AfriTeVa V2 Base — мультиязычная модель семейства T5 версии 1.1, разработанная авторами исследования о качестве предобучающих данных и моделей T5 для африканских языков. Модель предобучена на корпусе Wura с размером словаря 150 000 токенов. В метаданных каталога указано 214,4 млн параметров; в README приведено другое значение — 428 млн параметров. Модель служит базой для дообучения на классификацию текста, машинный перевод, суммаризацию и межъязыковой вопросно-ответный поиск. В исследовании она превзошла существовавшие базовые модели на этих задачах, а на оценке межъязыкового QA показала результат более чем вдвое выше multilingual T5. Она ориентирована на африканские языки, включая амхарский, хауса, игбо, суахили, йоруба и зулу, а также поддерживает английский, французский и португальский. Лицензия — Apache-2.0. При дообучении рекомендуется повторно включить dropout, отключённый во время предобучения. Приведённые результаты относятся к оценкам из исследования и не гарантируют качество на произвольных данных.

karakastarik/all-MiniLM-L6-v2-spelling-correction-large — модель Sentence Transformers на архитектуре BERT, преобразующая предложения и абзацы в плотные векторы размерностью 32. Она предназначена для поиска семантически близких текстов и кластеризации; обучение с MultipleNegativesRankingLoss и косинусным сходством нацелено на сопоставление текстовых представлений. Модель содержит 25,9 млн параметров, принимает текст длиной до 512 токенов и распространяется в формате PyTorch. Несмотря на часть «spelling-correction» в названии, карточка описывает модель эмбеддингов, а не систему исправления орфографии. Она может служить компонентом семантического поиска или кластеризации предложений и абзацев. Лицензия и конкретные языки в предоставленных данных не указаны.

Модель MatinAsgarov/applied-nlp-ner-stage3-distilbert — дообученная для распознавания именованных сущностей версия DistilBERT, разработанная в рамках проекта applied-NLP NER. Она выполняет токенную классификацию по схеме BIO и размечает сущности восьми типов: людей, организации, места, даты и время, продукты, произведения искусства, профессии и суммы. Модель принимает текст на английском языке; её контекст ограничен 512 токенами. Веса представлены в формате safetensors, размер модели — около 65,2 млн параметров. На тестовой выборке из 119 записей получен общий F1 0,686; лучшие результаты показаны для сущностей типа PERSON, а PRODUCT и WORKOFART распознаются слабее. Вне обучающего распределения встречаются обрезание многословных сущностей, ложные срабатывания на отдельные стоп-слова и путаница между организациями, местами и продуктами. Лицензия в метаданных указана как unknown.

Карточка модели avsolatorio/AVES_BAAI_bge-base-en-v1.5-20240126151540-latest на Hugging Face совпадает с карточкой BAAI/bge-small-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-small-zh-v1.5 — компактная модель эмбеддингов из семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует китайский текст в плотные векторы для поиска документов, семантического поиска, классификации и кластеризации, а также для использования в векторных базах данных и системах дополненной генерации. Модель построена на архитектуре BERT, содержит 27,6 млн параметров и принимает последовательности длиной до 512 токенов. Версия v1.5 улучшает поиск без специальных инструкций и смягчает проблему распределения сходства: для поиска важнее относительный порядок оценок, чем их абсолютное значение. Для коротких запросов к длинным документам инструкция запроса может улучшить результат; её пользу рекомендуется оценивать на конкретной задаче. Модель выдаёт эмбеддинги, а не готовые ответы или оценки ранжирования; для более точного переранжирования README рекомендует отдельную модель BGE reranker. Лицензия — MIT.

ivalpa/bert-finetuned-ner — дообученная модель на базе BAAI/bge-small-en-v1.5 для классификации токенов, вероятно, распознавания именованных сущностей. Модель построена на архитектуре BERT, содержит около 40 млн параметров и принимает последовательности длиной до 512 токенов. В README приведены результаты на оценочной выборке: precision 0,8969, recall 0,9265, F1 0,9114 и accuracy 0,9815. Датасет и набор меток не описаны, поэтому нельзя определить, какие именно сущности или другие классы размечает модель. Репозиторий распространяется по лицензии MIT.

Vixez/bert-finetuned-ner — модель на архитектуре BERT, дообученная для распознавания именованных сущностей в тексте. Она предназначена для разметки токенов и может использоваться в конвейерах извлечения сущностей из текстов. Модель содержит 12,1 млн параметров, принимает текст с контекстом до 512 токенов и доступна в формате safetensors. В карточке приведены результаты оценки: precision 1,0, recall 0,9967, F1 0,9983 и accuracy 0,9999. Датасет, набор меток и языки не описаны, поэтому результаты нельзя уверенно переносить на другие данные и сценарии. Лицензия в доступных сведениях не указана.

Bobcat 1.1 — дообученная модель sanghwa-na на базе Qwen/Qwen3.8-27B. Это плотная модель архитектуры Qwen3.5 с весами BF16 в формате safetensors; исходную LoRA ранга 16 объединили с базовой моделью. Для каждого запроса приложение задаёт состояние и набор допустимых ответов, а модель оценивает их вероятности за один проход. Она не генерирует текст: приложение формирует из результатов ответ в заданном формате. Модель предназначена для повторяющихся ограниченных решений, например маршрутизации запросов, ранжирования, проверки цитат, классификации и проверки вызовов инструментов. Карточка указывает поддержку английского и корейского языков; в обучающих данных 36% решений были на английском. Лицензия — Apache-2.0. По опубликованным разработчиком оценкам, Bobcat 1.1 повысила точность на тестах по сравнению с необученной базовой моделью и реже поддавалась ответам, подсказанным внутри состояния. Модель может ошибиться, хотя её ответ останется одним из допустимых вариантов. Она слабо распознаёт ситуации с недостатком свидетельств, а уверенность не гарантирует правильность. В длинных состояниях результаты зависят от длины и развертывания; вычисления, подсчёт и сравнение дат лучше выполнять в коде. Для критически важных решений модель не предназначена. Для развёртывания автор описывает работу через vLLM; требуются подходящие GPU-ресурсы.

Модель TahaDouaji/detr-doc-table-detection разработана Таха Дуаажи для обнаружения таблиц в документах. Она дообучена на основе facebook/detr-resnet-50 и предназначена для поиска таблиц с рамками и без рамок на изображениях документов. Модель решает задачу обнаружения объектов и обучена на наборе ICDAR2019 Table Dataset. В репозитории представлены форматы PyTorch, Safetensors и ONNX; число параметров — 6,3 млн. Лицензия Apache-2.0. Модель принимает изображения и выдаёт классы объектов с ограничивающими рамками. Качество зависит от сходства входных документов с обучающими данными. Карточка предупреждает о возможных предвзятых или вредных стереотипах в предсказаниях; прикладные ограничения для распознавания таблиц подробно не описаны.

Rocketknight1/distilbert-base-uncased-finetuned-ner — модель токеновой классификации на базе DistilBERT, дообученная для распознавания именованных сущностей. Она предназначена для разметки токенов в англоязычном тексте и может использоваться для извлечения упоминаний сущностей из документов и сообщений. Модель основана на uncased-варианте DistilBERT, принимает текст с контекстом до 512 токенов и доступна в формате TensorFlow. В карточке приведены метрики обучения: F1 0,9081 и точность 0,9793 на обучающей выборке; данные оценки включают validation loss 0,0726. Датасет и категории сущностей не описаны, поэтому качество для конкретных типов текста и сущностей по этим показателям определить нельзя. Лицензия — Apache-2.0.

Echo-DSRN-v0.1.3-Embed-Exp — экспериментальная модель эмбеддингов предложений от ethicalabs на архитектуре Echo-DSRN Recurrent-Hybrid. Она предназначена для вычисления векторных представлений и оценки семантического сходства текстов; в карточке приведены результаты на задачах STS из набора MTEB. Модель содержит 98,26 млн параметров по README и 49,9 млн по метаданным, имеет 8 слоёв, скрытую размерность 512, размер эмбеддинга 2048 и контекст до 2048 токенов. Указана линейная сложность по длине последовательности. Модель обучалась на AllNLI и MTEB STS-B, поддерживаемый язык по карточке — английский. В README отмечено, что результаты бенчмарков воспроизводятся при левом заполнении последовательностей; при пакетной обработке это может влиять на согласованность эмбеддингов. Разработчик обозначает модель как экспериментальную и ограничивает её академической оценкой и исследованиями, без гарантий качества и ответственности за результаты применения. Лицензия в предоставленных данных не указана.

capemox/ettin-encoder-17m-pretrain-50m — компактный энкодер для поиска по смыслу и извлечения эмбеддингов, разработанный на основе jhu-clsp/ettin-encoder-17m. Это чекпойнт первого этапа обучения ModernBERT с 16,8 млн параметров: его контрастивно предобучили на сбалансированной выборке из 50 млн пар запрос–документ с использованием MultipleNegativesRankingLoss. Модель предназначена для векторного поиска без дополнительного обучения и как стартовая точка для последующей настройки на специализированных данных. В тестах без дообучения модель показала NDCG@10 0,4482 на ArguAna и 0,2548 на FiQA2018; агрегированный результат на NanoBEIR составил 0,5074. Модель принимает текст и выдаёт эмбеддинги; карточка ориентирована на английский язык, а контекст составляет 7 999 токенов. Для установки и использования заявлена библиотека sentence-transformers. Лицензия — Apache-2.0. Это чекпойнт только предобучения: он не проходил supervised fine-tuning на данных для поиска, поэтому качество может уступать специализированным моделям после такой настройки. Приведённые результаты относятся к конкретным тестам и не гарантируют качество на других корпусах.

Fara1.5-27B-GGUF — это квантизированная GGUF-версия мультимодальной модели Fara1.5-27B, разработанной Microsoft. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для сценариев computer use, управления браузером, автоматизации веб-задач и работы веб-агентов с визуально-языковым вводом. Модель имеет размер 27B параметров, поддерживает обработку текста и изображений и заявлена для английского языка. Доступны варианты от BF16 до различных уровней Q2–Q8-квантизации; размеры файлов составляют примерно от 12 до 54 ГБ. Наиболее качественными считаются BF16, Q8_0 и варианты Q6, а Q4_K_M предлагает компромисс между качеством и размером. Для запуска подходят llama.cpp, LM Studio, Ollama-совместимые инструменты и другие приложения с поддержкой GGUF, однако для недавно поддерживаемых архитектур может потребоваться обновление программного обеспечения. Сильные стороны модели — мультимодальность, ориентация на автоматизацию действий и широкий выбор квантизаций для разного объёма памяти. Ограничения включают неизвестные из README размер контекста и подробности архитектуры, а также возможное снижение качества на низких уровнях квантизации. Указана лицензия MIT; базовая модель — microsoft/Fara1.5-27B.

GigaAM-Multilingual MLX FP16 — независимый порт модели распознавания речи GigaAM-Multilingual для запуска через MLX на Apple Silicon. Модель преобразует аудио в текст и рассчитана прежде всего на офлайн-транскрибацию на macOS; артефакт содержит веса FP16 размером около 1,17 ГБ и распространяется по лицензии MIT. Модель поддерживает русский, английский, казахский, кыргызский и узбекский языки. В сравнительном тесте на публичных наборах для основных языков FP16 показал макро WER 5,066%; качество и скорость могут отличаться на других устройствах и аудиоданных. Для работы нужны Apple Silicon, macOS 14 или новее и совместимая версия MLX. Это распознавание речи без диаризации и потоковой обработки. Временные метки слов приблизительны; качество может снижаться из-за шума, удалённой речи, акцентов, переключения языков, музыки, одновременной речи и тематически отличающихся данных.

GLM-5.3-Flash-UD-Q4_K_XL-layers — пакет GGUF-слоёв для распределённого запуска GLM-5.3-Flash в кластере Mesh LLM. Пакет создан на основе unsloth/GLM-5.3-Flash-GGUF: исходное распределение модели разделено на артефакты по слоям. В метаданных указаны библиотека mesh-llm и возможность чатового взаимодействия. Модель предназначена для локального приватного инференса, распределения вычислений между несколькими машинами, когда полный GGUF слишком велик для одного узла, и предоставления локального API, совместимого с OpenAI Chat Completions. Указан вариант UD-Q4_K_XL; репозиторий содержит GGUF-пакет слоёв. Языки и размер контекста в предоставленных данных не описаны. Лицензия — MIT. Для запуска требуется Mesh LLM; характеристики и рекомендации по использованию исходной модели следует сверять с карточкой unsloth/GLM-5.3-Flash-GGUF.

Kimi-K3-Alis-MLX-Dynamic — 2.10 bpw — это квантованная версия мультимодальной модели Kimi K3 от Moonshot AI, подготовленная пользователем avlp12 для запуска на Apple Silicon с использованием MLX. Модель основана на Kimi-K3 с архитектурой MoE и заявленным общим размером 2,8 трлн параметров; поддерживает генерацию текста и обработку изображений благодаря сохранённой vision-компоненте MoonViT-3d. Сборка предназначена для локального инференса и веб-чата на двух компьютерах Apple Silicon, каждый из которых должен иметь около 512 ГБ unified memory. Общий размер весов составляет 737,1 ГБ при средней точности 2,096 bpw. Маршрутизируемые эксперты используют ternary codebook-квантизацию, часть экспертных экземпляров переведена в MXFP4, а attention, dense-слои и shared experts имеют 6-битное представление; vision tower оставлен без квантизации в bf16. В модели используется маршрутизация top-16-of-896. README не указывает полный список поддерживаемых языков, но качество отдельно измерялось на английском и корейском корпусах. Сильной стороной сборки является существенное уменьшение размера при сохранении качества: по приведённым измерениям она превосходит предыдущую версию v2 на тестах wikitext и корейской Википедии, а также ближе к исходной teacher-модели по KL-дивергенции и доле изменений top-1 предсказаний. Ограничения — чрезвычайно большой объём памяти, необходимость двух связанных машин Apple Silicon и специализированного runtime MLX; запуск на одном компьютере заявлен как невозможный. Лицензия обозначена как kimi-k3-license; точные условия следует уточнять в лицензии базовой модели Moonshot AI.

Redis LangCache Embed Experimental — англоязычная модель Sentence Transformers, дообученная Redis на базе sentence-transformers/all-MiniLM-L6-v2 для семантического кэширования и сравнения предложений. Энкодер на архитектуре BERT преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384; сходство оценивается косинусной мерой. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 100 токенов. Модель подходит для поиска похожих запросов и ответов, семантического поиска и ранжирования пар текстов, в частности при настройке семантического кэша LangCache. Она обучена на парах предложений LangCache. Лицензия — Apache-2.0. В опубликованной оценке на тестовом наборе указаны cosine accuracy@1 0,5768 и cosine recall@1 0,5588; эти показатели относятся к описанной в карточке оценке и не гарантируют качество на других данных.

albertge/llada-8b-dllm-registers-code64-codetags-t4 — модель, разработанная в рамках проекта dLLM Registers и дообученная на базе GSAI-ML/LLaDA-8B-Base. Это плотная диффузионная языковая модель на 8 млрд параметров для генерации текста, специализирующаяся на задачах программирования. Обучение продолжено в режиме chunked SFT на кодовой части набора mix60k: использовались около 30 тысяч трасс из подмножества OpenCodeInstruct, размер окна составлял 64 токена. Модель переносит состояние декодирования между окнами денойзинга через хвостовой канал Markovian Thinking длиной 4 токена; для корректного вывода требуются соответствующие параметры канала. Карточка указывает английский язык, интерфейс чата и библиотеку Transformers. Модель распространяется по лицензии Apache-2.0. Практическое применение ориентировано на генерацию кода; точные результаты оценки качества в карточке не приведены.