II.6Документация и сопровождение разработки

The-Trinity-Coder-7B — языковая модель для генерации кода, созданная слиянием трёх моделей: CodeNinja-1.0-OpenChat-7B, NeuralExperiment-7b-MagicCoder-v7.5 и Speechless-Zephyr-Code-Functionary-7B. Слияние выполнено методом TIES; модель использует плотную архитектуру Mistral с 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации и дополнения кода, помощи в программировании, логических рассуждений и решения математических задач. В карточке заявлена поддержка языков программирования, включая Python, C, C++, Rust, Java и JavaScript. Модель работает с текстовыми запросами и выдаёт текст, в том числе код. Модель распространяется по лицензии Apache-2.0. Карточка не приводит результаты сравнительной оценки качества; практическая точность и качество кода могут зависеть от задачи и формулировки запроса.

Карточка модели ramprasad571/U4_MH2_RAM на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

WizardCoder-Python-34B-V1.0 — большая языковая модель для генерации и редактирования программного кода, разработанная командой WizardLM. Это плотная авторегрессионная модель семейства Llama с 33,5 млрд параметров; она принимает текстовые инструкции и генерирует текстовый код. В карточке указан контекст до 16 384 токенов и формат PyTorch для библиотеки Transformers. Модель предназначена для выполнения инструкций по программированию: генерации функций и скриптов на Python, дополнения и исправления кода, а также решения задач по программированию. README приводит результат 73,2 на упомянутом бенчмарке, но не уточняет здесь методику оценки. Модель основана на Llama 2 и выпущена по лицензии Llama 2, условия которой следует учитывать при использовании.

ZYR3 v1 — модель-ассистент для агентного программирования, разработанная автором или командой zyr-AGENT. Она реализована как LoRA-адаптер для Qwen/Qwen2.5-Coder-7B-Instruct и предназначена для самостоятельного развёртывания на пользовательском оборудовании; размещённого API модели не предоставляется. Модель ориентирована на генерацию, объяснение и редактирование кода, отладку, поиск ошибок, рефакторинг, обработку граничных случаев и итеративное решение многошаговых задач. В комплекте предусмотрен агентный режим Planner + Coder: планировщик разбивает задачу на последовательные этапы, а кодировщик реализует их с учётом уже созданных файлов. Поддерживается интеграция с инструментами и клиентами через OpenAI-совместимый API после самостоятельного развёртывания. Архитектурно это адаптер для 7-миллиардной текстовой модели Qwen2.5-Coder-Instruct. Модель работает с текстом и кодом; конкретный набор языков программирования и размер контекстного окна в README не указаны. Для работы требуется базовая модель объёмом около 15 ГБ в формате fp16 и адаптер размером около 80 МБ. Возможны запуск через Transformers и PEFT, 4-битная загрузка, а также объединение и конвертация в GGUF для Ollama или llama.cpp. Рекомендуется NVIDIA GPU; запуск на CPU возможен для квантованных вариантов, но будет медленным. Модель удобна для локальной разработки и подключения к coding-agent инструментам, однако качество и скорость зависят от базовой модели, доступных ресурсов и выбранного способа квантования. Лицензия указана как zyr3-free-use-1.0; подробные условия приведены в файле LICENSE по ссылке, указанной в README.

pritamdeka/assamese-bert-nli-v2 — модель Sentence Transformers на архитектуре BERT, дообученная на sentence-transformers/all-nli от базовой модели l3cube-pune/assamese-bert. Она преобразует предложения и абзацы в плотные векторы размерности 768, которые можно сравнивать косинусной мерой сходства. Модель рассчитана на семантический поиск, оценку сходства текстов, поиск перефразирований, кластеризацию и классификацию текстов. Модель принимает текст на английском языке, использует среднее объединение токенных представлений и поддерживает последовательности длиной до 512 токенов. В README приведены оценки Spearman 0,8483 на STS-dev и 0,823 на STS-test. Для эмбеддингов длиннее лимита контекста потребуется обрезка или разбиение текста; заявленная языковая специализация — английский, несмотря на название базовой модели. Лицензия в предоставленных данных не указана.

swardiantara/bert-tiny-snli-k10-fixed-cosine — компактная Sentence Transformer модель, дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов с использованием косинусного сходства. Архитектура включает BERT и mean pooling; модель содержит 4,4 млн параметров и принимает текст.

swardiantara/bert-tiny-sst5-k3-adaptive-cosine — компактная модель Sentence Transformers на базе BERT, дообученная для представления предложений и абзацев в виде плотных векторов. Она преобразует текст в 128-мерные эмбеддинги, а сходство между ними можно оценивать косинусной мерой; модель подходит для семантического поиска и извлечения релевантных текстов. Модель основана на google/bert_uncased_L-2_H-128_A-2 и содержит 4,4 млн параметров. В README указана максимальная длина последовательности 128 токенов; метаданные задают контекст 512 токенов. Используется mean pooling, входная модальность — текст, а выход — векторы. Обучение описано на наборе из 8 664 пар текстов с контрастивной функцией потерь. Данных о лицензии в предоставленных источниках нет.

swardiantara/bert-tiny-sst5-k5-adaptive-euclidean — англоязычная модель Sentence Transformers, дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы в плотные векторы размерности 128, которые можно сравнивать по косинусному сходству. Модель предназначена для поиска по смыслу и извлечения признаков текста, например для подбора похожих фрагментов и семантического поиска. Архитектура включает компактный BERT с двумя слоями, mean pooling и контекстное окно до 512 токенов по метаданным; в README заявлен максимум 128 токенов. Модель принимает текст и выдаёт эмбеддинги. Обучающие примеры состоят из пар англоязычных текстов с метками сходства; заявлен объём набора 179 524 примера. Размер модели — 4,4 млн параметров. Сведения о лицензии в предоставленных данных отсутствуют.

Xenova/bge-large-en-v1.5 — модель векторных представлений текста, основанная на BAAI/bge-large-en-v1.5, разработанной BAAI. Репозиторий содержит ONNX-веса, адаптированные для работы с библиотекой Transformers.js и JavaScript-приложениями. Модель предназначена для преобразования предложений и документов в эмбеддинги размерностью 1024. Её можно применять для семантического поиска, retrieval-сценариев, сопоставления текстов и ранжирования документов по косинусному сходству. Для поиска рекомендуется добавлять к запросу инструкцию «Represent this sentence for searching relevant passages:». Поддерживаются пакетное вычисление эмбеддингов, mean pooling и нормализация векторов. К сильным сторонам относятся готовность к использованию в средах, совместимых с Transformers.js, формат ONNX и возможность выполнять вычисления непосредственно из JavaScript. По имеющимся данным, модель ориентирована на английский язык, однако сведения о точной архитектуре, количестве параметров, длине контекста, производительности и ограничениях не приведены. Лицензия в README не указана.

BAAI/bge-reranker-base — компактная модель-реранкер семейства BGE, разработанная BAAI. Она использует архитектуру XLM-RoBERTa с классификационной головой и содержит около 305,2 млн параметров. Модель принимает запрос вместе с текстовым фрагментом и оценивает их релевантность, что позволяет повторно упорядочивать документы, найденные на первом этапе поиска. Основной сценарий — улучшение поисковой выдачи и RAG: после извлечения кандидатов из индексатора реранкер пересчитывает релевантность пар «запрос — документ». Это кросс-энкодер, который обычно точнее ранжирует кандидатов, чем один лишь поиск по эмбеддингам, но требует отдельного вычисления для каждой пары. Контекст ограничен 514 токенами. В карточке указаны английский и китайский языки; README также описывает модель как предназначенную для китайского и английского языков. Доступны форматы PyTorch, Safetensors и ONNX. Модель распространяется по лицензии MIT. Оценка релевантности не ограничена фиксированным диапазоном, поэтому её следует интерпретировать для ранжирования, а не как калиброванную вероятность. Для длинных текстов учитывайте ограничение контекста; BAAI указывает, что более новые реранкеры поддерживают более длинные входы и больше языков.

bge-small-en-v1.5-bf16 — англоязычная модель для создания векторных представлений предложений и текстов. Модель представлена сообществом mlx-community в формате BF16 и основана на bge-small-en-v1.5; исходная модель предназначена для задач feature extraction и sentence similarity. Модель подходит для семантического поиска, сопоставления похожих текстов, классификации, кластеризации, retrieval и reranking, а также для построения систем поиска дубликатов и оценки семантической близости. В README приведены результаты тестирования на наборах MTEB для классификации, поиска, кластеризации, переранжирования и оценки текстовой близости, включая Amazon, ArguAna, AskUbuntu, Banking77 и BIOSSES. Поддерживаемый язык — английский. Сведения о точном размере модели, архитектуре, размерности эмбеддингов и максимальной длине контекста в предоставленных данных отсутствуют. Модель ориентирована на эффективное получение эмбеддингов, однако её качество и применимость следует оценивать на данных конкретного проекта; переносимость на другие языки не подтверждена. Лицензия — MIT.

nayan06/buy-others1 — модель Sentence-Transformers на базе MPNet, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 768. Полученные представления можно применять для семантического поиска и кластеризации текстов. В README указано обучение с функцией потерь CosineSimilarityLoss; репозиторий содержит веса PyTorch, объём модели — 136,7 млн параметров, контекст — до 514 токенов. Модель подходит для задач сравнения смысловой близости текстов и построения эмбеддингов. В README не названы разработчик исходной архитектуры, обучающие данные, поддерживаемые языки и лицензия, поэтому эти характеристики нельзя уточнить по доступным сведениям.

ncoop57/codeformer-java — модель Sentence-Transformers на базе RoBERTa, предназначенная для представления предложений и абзацев в виде плотных векторов размерности 768. Её можно применять для семантического поиска, сравнения текстов и кластеризации. В метаданных указано 151,8 млн параметров, контекст до 514 токенов и формат PyTorch. Модель обучалась с MultipleNegativesRankingLoss и косинусной мерой сходства. Это делает её подходящей для получения текстовых эмбеддингов и оценки семантической близости. README не уточняет языки обучающих данных и условия лицензии, поэтому языковую специализацию и лицензионные условия установить по доступным сведениям нельзя.

Это вариант CodeLlama-13B-Instruct, созданный путём загрузки исходной модели Meta с 4-битной квантизацией NF4 через bitsandbytes и последующего преобразования слоёв linear4bit в FP16. Модель содержит 12,9 млрд параметров, построена на архитектуре Llama и рассчитана на генерацию текста; заявленная длина контекста — 16 384 токена. Модель предназначена для генерации кода и ответов на инструкции, связанных с программированием. Upscaling слоёв в FP16 призван убрать затраты на квантование и деквантование при каждом проходе во время инференса. Исходная NF4-квантизация была с потерями, поэтому автор предупреждает о возможном снижении качества по сравнению с официальной CodeLlama-13B-Instruct. Модель распространяется по лицензии Apache-2.0.

Codestral-22B-v0.1-IMat-GGUF — GGUF-квантизированная версия Codestral-22B-v0.1, разработанного Mistral AI и подготовленная legraphista. Модель предназначена для генерации и работы с программным кодом, включая сценарии автодополнения и Fill In the Middle (FIM); в этой сборке исправлены отсутствующие FIM-токены. Указанный pipeline относится к генерации текста, а заявленный язык — code. Модель основана на версии размером 22B параметров с исходным форматом BF16 и преобразована с использованием llama.cpp. Доступны варианты GGUF от BF16 и FP16 до Q2_K, включая Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера; размеры файлов варьируются примерно от 8,27 до 44,5 ГБ. Формат GGUF подходит для запуска в совместимом программном обеспечении, включая llama.cpp. Сильными сторонами являются специализация на коде, поддержка FIM и широкий выбор уровней квантизации для компромисса между качеством и требованиями к памяти. Ограничения включают отсутствие в предоставленных данных сведений о конкретной архитектуре, размере контекста, перечне естественных языков, результатах бенчмарков и характеристиках производительности; качество также зависит от выбранного варианта квантизации и оборудования. Лицензия указана как MNPL-0.1; условия следует уточнять в тексте лицензии Mistral AI.

Contextual AI ctxl-rerank-v2-instruct-multilingual-1b — мультиязычная модель-реранкер на архитектуре Qwen3 с 1 млрд параметров. Она оценивает релевантность документов запросу и следует дополнительным инструкциям, например приоритизирует свежие сведения или помогает разрешать противоречия в результатах поиска. Подходит для поиска и ответов на вопросы по найденным документам, а также для товарного поиска и рекомендаций. Модель поддерживает более 100 языков и контекст до 40 960 токенов по метаданным; в README заявлен контекст до 32K токенов. Она выдаёт оценки релевантности, где более высокое значение означает более подходящий документ. Доступны веса в формате safetensors; для работы описаны Transformers и Sentence Transformers, а для производственного использования рекомендован vLLM. Модель выпущена Contextual AI и распространяется по лицензии CC BY-NC-SA 4.0, которая ограничивает коммерческое использование. README заявляет высокие результаты на BEIR, однако конкретные показатели в карточке не приведены.

DeepSeek-V4-Flash-Vision-Exp — экспериментальная мультимодальная модель семейства DeepSeek-V4, разработанная DeepSeek AI. Данная версия является производным вариантом, опубликованным и поддерживаемым AMAImedia в рамках платформы автоматизации профессионального многоязычного дубляжа NOESIS; базовая модель указана как deepseek-ai/DeepSeek-V4-Flash-Vision-Exp. Модель предназначена для задач понимания изображений и текста, мультимодальных агентских сценариев, работы с диаграммами и автоматизации, а также сохраняет возможности для текстовых агентских задач. Архитектура основана на DeepSeek-V4-Flash с добавленными визуальными модулями и дополнительным обучением для развития визуального понимания. Это модель image-text-to-text с поддержкой большого набора языков, включая английский, русский, китайский, вьетнамский, японский и многие другие. Точный размер модели, длина контекста, перечень визуальных входных форматов и сведения о параметрах квантования FP8/GGUF в предоставленном README не указаны. Сильной стороной модели является заметное улучшение мультимодальных агентских возможностей по сравнению с DeepSeek-V4-Flash-0731 при сопоставимой производительности в текстовых агентских задачах. В README приведены результаты на ApexBench, Agents' Last Exam, Chartography и ZeroBench, однако независимые ограничения, требования к аппаратному обеспечению и рекомендации по применению не описаны. В метаданных указана лицензия Apache-2.0; при этом встроенный README также содержит ссылку на лицензию MIT оригинального проекта, поэтому условия конкретной производной сборки следует проверять отдельно.

e5-R-mistral-7b — языковая модель для поиска и извлечения релевантных текстов, созданная дообучением Mistral-7B-v0.1 на наборе BeastyZ/E5-R. Это плотная причинная модель семейства Mistral с 7,1 млрд параметров, работающая через Transformers и представленная в формате safetensors. Модель рассчитана на английский язык; её контекстное окно составляет 32 768 токенов. Модель можно применять для извлечения документов по запросу и построения поисковых компонентов, например, в системах RAG. В метаданных Hugging Face указана задача text-generation, хотя в README модель описана как ретривер. Лицензия — Apache-2.0. Подробности о качестве поиска и инструкции по использованию в карточке не приведены.

EmbeddingGemma — открытая модель для получения векторных представлений текста, разработанная Google DeepMind на основе Gemma 3 с инициализацией T5Gemma и использованием технологий, применявшихся при создании Gemini. Версия onnx-community/embeddinggemma-300m-ONNX предназначена для запуска через Transformers.js и ONNX Runtime. Модель подходит для семантического поиска и извлечения информации, ранжирования результатов, классификации, кластеризации и оценки семантического сходства текстов. Она принимает текстовые строки: вопросы, запросы или документы, и поддерживает контекст до 2048 токенов. Модель обучалась на данных более чем для 100 разговорных языков, однако конкретный список языков в карточке не указан. Модель содержит около 300 млн параметров и ориентирована на локальное и периферийное использование, включая мобильные устройства, ноутбуки и настольные компьютеры. Она возвращает эмбеддинги размерностью 768, а благодаря Matryoshka Representation Learning их можно обрезать до 512, 256 или 128 измерений с последующей нормализацией. Для активаций не поддерживаются fp16 и производные форматы; рекомендуется использовать fp32, q8 или q4. Ограничение модели — назначение исключительно для создания текстовых эмбеддингов, без генерации текста; сведения о детальных бенчмарках и фактической производительности отсутствуют. Лицензия — Gemma, условия использования опубликованы Google.

F2LLM-v2-160M — многоязычная модель эмбеддингов общего назначения от CodeFuse AI, относящаяся к семейству Qwen3. Это instruct-вариант размером 134,8 млн параметров, созданный дообучением пруненной модели F2LLM-v2-0.6B-Preview-Pruned-160M. Модель принимает текст и преобразует его в векторные представления; максимальная длина контекста — 40 960 токенов. Модель предназначена для семантического поиска, ранжирования и других задач сопоставления текстов, включая поиск по запросу, оценку сходства, кластеризацию и поиск параллельных текстов. Она обучена на данных более чем для 200 языков, с особым вниманием к языкам с ограниченными ресурсами; карточка перечисляет поддержку 21 языка. Matryoshka Representation Learning позволяет сокращать размерность эмбеддингов, сохраняя возможность настраивать компромисс между качеством, хранением и скоростью поиска. Для retrieval и reranking рекомендуется задавать инструкцию для запроса, но не для документов; после усечения эмбеддингов их следует нормализовать. Модель распространяется под лицензией Apache-2.0 и доступна в формате Safetensors. Заявления о результатах на бенчмарках относятся к семейству F2LLM-v2 в целом; README не приводит отдельные показатели именно для версии 160M.

Parallia разработала FMMB-BE-FR — французскую версию модели Sentence Transformers на архитектуре ModernBERT. Она кодирует французские предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации. Максимальная длина входа — 8192 токена; для сравнения используется косинусное сходство, а тексты можно подавать без специальных префиксов. Модель обучена на параллельных предложениях с помощью MultipleNegativesRankingLoss и предназначена прежде всего для французского языка. По README, веса совпадают с многоязычной FMMB-BE, но эта версия использует французский токенизатор и связанную с ним таблицу эмбеддингов. Метаданные указывают 148,7 млн параметров и формат safetensors. Модель распространяется по лицензии Apache-2.0. README отмечает, что для использования ModernBERT может потребоваться актуальная версия библиотеки Transformers.

GLiClass Small v1.0-lw — компактная модель семейства GLiClass для классификации текста без примеров, разработанная авторами проекта GLiClass. Она обрабатывает текст и заданные пользователем метки за один проход модели; вариант lw использует выбор признаков на разных слоях для учёта языковых признаков разного уровня. В README указан размер 144 млн параметров для gliclass-small-v1.0; метаданные описывают архитектуру как GLiClassModel и содержат веса в форматах ONNX и safetensors. Модель подходит для тематической классификации, анализа тональности и оценки релевантности документов в RAG-сценариях. README приводит результаты zero-shot-бенчмарков для нескольких наборов данных и показывает, что качество зависит от задачи; на отдельных тестах результаты уступают более крупным вариантам GLiClass. Модель обучена на синтетических данных и заявлена как пригодная для коммерческого использования. Лицензия — Apache-2.0.

GLM-5.3-AWQ-INT4 — квантизированная версия модели GLM-5.3, разработанной организацией Z.ai. Модель предназначена для генерации текста и ориентирована прежде всего на сложные задачи программирования, работу с инструментами, агентские сценарии и выполнение длительных многоэтапных задач. В README заявлены высокие результаты в бенчмарках по coding, автоматизации, поиску уязвимостей и эксплуатации, однако эти показатели приведены разработчиками и могут зависеть от методики тестирования. Модель работает с текстом, поддерживает языки English, Chinese, Hindi, Arabic, Russian, Japanese, Korean, Dutch, French и Spanish. Указан размер файлов модели 488,18 ГБ; архитектура, число параметров и размер контекстного окна в README не раскрыты. Квантизация AWQ с форматом INT4 снижает требования к хранению и вычислениям по сравнению с полноразмерной моделью, но может сопровождаться потерей точности. Для локального развёртывания заявлена совместимость с SGLang, vLLM, TokenSpeed и Transformers. Сильными сторонами модели являются заявленные возможности в программировании, агентной автоматизации и кибербезопасности, включая обнаружение уязвимостей. Ограничения включают отсутствие подробностей об архитектуре, контекстном окне и требованиях к оборудованию, а также потенциальное снижение качества из-за квантизации. Модель распространяется по лицензии glm-5.3; точные условия лицензии в README не приведены.

greatakela/gnlp_hw1_encoder — модель SentenceTransformer на базе distilbert/distilroberta-base, дообученная для представления предложений и абзацев в виде плотных векторов размерности 768. Архитектура включает RoBERTa и mean pooling; для сравнения векторов используется косинусное сходство. Модель содержит 95,2 млн параметров. Она предназначена для поиска семантически похожих текстов, семантического поиска, выявления перефразировок, кластеризации и классификации текста. Максимальная длина последовательности в README — 128 токенов; метаданные указывают контекст до 514 токенов. Обучение описано как fine-tuning с TripletLoss на наборе из 4 893 примеров. Англоязычная базовая модель и примеры в карточке указывают на применение прежде всего к английскому тексту. Модель выдаёт эмбеддинги, которые можно сравнивать или использовать как признаки в последующих системах. Метрики на двух указанных оценочных выборках составили 0,999 и 0,9873 по cosine accuracy, но эти результаты не гарантируют качество на других данных. Лицензия в предоставленных сведениях не указана.

Модель rithwik-db/gpl_tsdae-e5-base-unsupervised-test-1-d165d6 — модель Sentence-Transformers на базе BERT, разработанная пользователем rithwik-db. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска и кластеризации. Обучение проводилось с MarginMSELoss; модель можно использовать через Sentence-Transformers или Transformers с подходящим pooling для контекстных представлений токенов. Модель содержит 136,7 млн параметров, принимает текст и выдаёт векторы. Максимальная длина контекста — 512 токенов. В карточке не заявлена поддержка конкретных языков, поэтому применимость к отдельным языкам не уточняется. Репозиторий содержит веса PyTorch; сведения о лицензии отсутствуют в предоставленных данных.

Halong Embedding — модель эмбеддингов текста, разработанная contextboxai и дообученная на базе intfloat/multilingual-e5-base. Она предназначена прежде всего для вьетнамского языка и сценариев семантического поиска и RAG; также подходит для сопоставления предложений, поиска перефразирований, кластеризации и классификации текста. Модель построена на XLM-RoBERTa в архитектуре Sentence Transformers: усредняет токенные представления, нормализует результат и выдаёт плотный вектор размерностью 768. Максимальная длина входа — 512 токенов; косинусное сходство используется для сравнения векторов. Обучение примерно на 100 тысячах пар вопрос–документ включало Matryoshka loss, позволяющий сокращать размер эмбеддинга с небольшими потерями качества. Модель принимает текст и выдаёт векторные представления. Карточка сообщает о многоязычности с фокусом на вьетнамском, а метаданные также указывают английский. Лицензия — Apache-2.0. Качество может зависеть от языка и предметной области; заявленная устойчивость при сокращении векторов не означает отсутствия потери качества.

jina-embeddings-v3-GGUF — GGUF-версия модели jina-embeddings-v3, разработанной jinaai и квантизированной компанией Second State Inc. Это модель для построения векторных представлений текста, предназначенная для семантического поиска, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge; для неё используется шаблон prompt типа embedding. Доступны варианты размерности эмбеддингов от 32 до 1024: 32, 64, 128, 256, 512, 768 и 1024. Формат GGUF поддерживает различные уровни квантования, позволяя выбирать между размером файла и сохранением качества; среди указанных вариантов Q4_K_M и Q5_K_M отмечены как сбалансированные или рекомендуемые. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и точный размер контекста; для запуска LlamaEdge приведён контекст 768. Сильными сторонами модели являются возможность локального запуска, выбор размерности эмбеддингов и нескольких уровней квантования, включая компактные варианты. Более агрессивное квантование может приводить к заметной потере качества, тогда как версии с большим числом бит занимают больше памяти. Лицензия в предоставленном README не указана; условия использования следует уточнять в карточке исходной модели jinaai/jina-embeddings-v3 и соответствующего GGUF-репозитория.

Kimi-K2.7-Code-JANGTQ_K — квантованный вариант модели moonshotai/Kimi-K2.7-Code для запуска через MLX на компьютерах Apple с Apple Silicon. В карточке указаны архитектура семейства Kimi K2.5 и поддержка диалогового режима; исходная модель описана в каталоге как агентная модель для сложных задач программирования и многоэтапной разработки ПО, с поддержкой изображений, видео и инструментов. Профиль JANGTQ_K использует JANG TurboQuant: routed experts квантованы до 2 бит для gate и up и до 4 бит для down, attention и shared experts — до 8 бит. Для загрузки нужны jang-tools или vMLX; модель не поддерживается стандартным MLX, LM Studio и Ollama. Для токенизатора Kimi README указывает зависимости tiktoken и blobfile и необходимость включить TRUST_REMOTE_CODE. Лицензия обозначена как other, поэтому конкретные условия использования следует сверять с лицензией исходной модели и репозитория.

Jinsol0802/klue-roberta-base-klue-sts-mrc — модель эмбеддингов предложений на архитектуре RoBERTa, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения близости текстов и кластеризации. Обучение с MultipleNegativesRankingLoss оптимизирует сходство косинусной мерой; размер модели — 137,8 млн параметров, максимальный контекст — 514 токенов. Модель рассчитана на работу с текстом и подходит для поиска похожих фрагментов и группировки семантически близких текстов. Идентификатор и название базового семейства указывают на ориентацию на корейский язык KLUE, однако в доступной карточке отдельный список поддерживаемых языков не приведён. Ограничения: представление текста сведено к вектору, поэтому модель сама не генерирует ответы; качество поиска и сравнения зависит от соответствия домена и данных. Файлы представлены в формате safetensors; лицензия в предоставленных сведениях не указана.

Laguna-S-2.1-GGUF — GGUF-квантизированная версия текстовой Mixture-of-Experts-модели Laguna S 2.1, разработанной poolside и подготовленной для запуска через Unsloth и llama.cpp. Модель предназначена прежде всего для агентного программирования, вызова инструментов и выполнения длительных многошаговых задач с кодом. Она поддерживает нативное рассуждение с чередованием размышлений и вызовов инструментов, а также спекулятивное декодирование с использованием отдельной DFlash-модели. Архитектура содержит 118 млрд параметров, из которых около 8 млрд активируются для каждого токена. Модель имеет 48 слоёв, 256 маршрутизируемых экспертов с выбором 10 экспертов на токен и один общий эксперт, grouped-query attention с 8 KV-головами, а также комбинацию глобального и скользящего внимания: 12 глобальных слоёв и 36 слоёв с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, размер словаря — 100 352 токена. Модальность — text-to-text; языки в README не указаны. Ключевые преимущества — большое контекстное окно, специализированность на агентных задачах и программировании, поддержка нескольких движков инференса и снижение требований к памяти за счёт GGUF-квантизации. Вариант UD-Q4_K_XL занимает около 40 ГБ и поставляется в трёх файлах; для него требуется llama.cpp версии b10087 или новее. Ограничения включают значительный общий размер модели и необходимость нескольких GPU для полноточных вариантов. Модель распространяется по лицензии OpenMDW-1.1, разрешающей свободное использование и модификацию для коммерческих и некоммерческих целей.