I.3Извлечение и структурирование данных

Zora-9B-v0 — мультимодальная модель Lambent, полученная слиянием предварительно обученных моделей семейства Qwen3.5 с помощью Karcher Mean и mergekit. Она предназначена для диалогового взаимодействия и работы с изображениями; также поддерживает интерфейс вызова инструментов. В README описаны настройки стиля ответов и снижение числа отказов и оговорок, однако модель всё ещё может использовать оговорки и сохранять элементы deliberative alignment. Модель содержит 7,2 млрд параметров, использует плотную архитектуру Qwen3.5 и принимает текст и изображения для генерации текстовых ответов. Контекстное окно составляет 262 144 токена. Распространяется в формате safetensors по лицензии Apache-2.0.

Карточка модели avsolatorio/01-100-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240216212814-best на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-normed-384-512_ASYM_BAAI_bge-small-en-v1.5-20240412205533-best на Hugging Face совпадает с карточкой BAAI/bge-small-en-v1.5, поэтому описание составлено по ней. BAAI/bge-small-en-v1.5 — компактная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она построена на архитектуре BERT и предназначена для преобразования английского текста в векторы, которые можно использовать для поиска и сравнения смысловой близости. Размер модели — около 40 млн параметров, максимальная длина входа — 512 токенов. Модель подходит для семантического поиска, извлечения релевантных документов и вычисления сходства предложений, в том числе как компонент RAG-систем. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Доступны форматы PyTorch, Safetensors и ONNX. Лицензия — MIT. Модель рассчитана на английский язык; контексты длиннее 512 токенов не поддерживаются. Оценки сходства не следует трактовать как вероятности или применять фиксированный порог без калибровки.

Карточка модели avsolatorio/01-600-11-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240221220048-latest на Hugging Face совпадает с карточкой avsolatorio/01-100-31-1-2-2-0-0-cls-normed-384-512_GIST_BAAI_bge-small-en-v1.5-20240207031328-best, поэтому описание составлено по ней. Это англоязычная модель для получения плотных векторных представлений текста на основе BAAI/bge-small-en-v1.5. Репозиторий размещён в пространстве имён avsolatorio; по идентификатору модели и карточке это производная версия BGE, однако карточка не описывает конкретные изменения или способ обучения этой версии. Модель предназначена для поиска семантически близких текстов и формирования эмбеддингов для систем поиска и retrieval-augmented generation (RAG). Архитектура — BERT, около 40 млн параметров; максимальная длина контекста — 512 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — MIT. Модель ориентирована на английский язык. Эмбеддинги подходят для поиска кандидатов, но README рекомендует при необходимости повышать точность выдачи с помощью отдельного reranker. Карточка также отмечает, что оценка сходства сама по себе не является калиброванной вероятностью семантической близости.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_160 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2320 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2520 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_2880 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели JaehyeokLee/20m_em_checkpoint_epoch_1_step_3480 на Hugging Face совпадает с карточкой BAAI/bge-m3-unsupervised, поэтому описание составлено по ней. BAAI/bge-m3-unsupervised — мультиязычная модель эмбеддингов от BAAI на архитектуре XLM-RoBERTa с 658,7 млн параметров. Она обучена контрастивным методом на основе BAAI/bge-m3-retromae и предназначена для поиска по текстам и документам, включая сценарии RAG. Модель формирует плотные эмбеддинги, а также поддерживает разреженные представления с весами токенов и многовекторные представления в стиле ColBERT. Модель поддерживает более 100 языков и принимает последовательности длиной до 8192 токенов; размерность плотного эмбеддинга — 1024. Её можно применять для многоязычного, межъязыкового и длиннодокументного поиска, а также для вычисления сходства текстовых пар. Для гибридного поиска её разреженные и плотные представления можно сочетать с BM25, а после извлечения результатов использовать отдельную модель reranker. По данным карточки, BGE-M3 может уступать моделям, специально обученным для поиска на одном языке. Для работы с разреженными представлениями поддержка библиотек ограничена. Лицензия — MIT.

Карточка модели avsolatorio/60-600-13-1-4-2-0-0-384-512-cm_NOI_avsolatorio_GIST-all-MiniLM-L6-v2-20240511003225-best на Hugging Face совпадает с карточкой avsolatorio/GIST-all-MiniLM-L6-v2, поэтому описание составлено по ней. GIST Embedding v0 — модель векторных представлений текста, созданная Av Solatorio. Она дообучена на базе sentence-transformers/all-MiniLM-L6-v2 с методом GISTEmbed: обучающие негативные примеры отбираются из MEDI и дополненных триплетами обучающих данных классификации MTEB. Модель имеет архитектуру BERT, содержит 25,9 млн параметров и принимает текст с контекстом до 512 токенов. Модель предназначена для получения эмбеддингов предложений и оценки их сходства, в том числе для семантического поиска и retrieval. Для кодирования запросов не требуются специальные инструкции. Модель оценивали на бенчмарке MTEB; дообучение улучшило некоторые задачи, но ухудшило результаты на других, включая поиск по TRECCOVID. Поддерживается английский язык. Лицензия — MIT.

Карточка модели jm123989/adv-nlp-hw1-jmala3 на Hugging Face совпадает с карточкой sentence-transformers/all-MiniLM-L6-v2, поэтому описание составлено по ней. all-MiniLM-L6-v2 — модель Sentence-Transformers, разработанная в ходе Community Week Hugging Face. Это дообученный энкодер на архитектуре BERT с 25,9 млн параметров: он преобразует предложения и короткие абзацы в плотные векторы размерностью 384, отражающие их семантику. Модель дообучена контрастивным методом на более чем миллиарде пар предложений из нескольких наборов данных. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Она поддерживает английский язык; максимальный контекст по метаданным — 512 токенов, при этом карточка сообщает, что вход длиннее 256 WordPiece-токенов обрезается. Доступны форматы PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Векторы полезны для поиска смыслового сходства, но сама модель не генерирует текст; длинные входы обрезаются, а качество представлений зависит от соответствия текста и задачи обучающим данным.

Armenian-Text-Embeddings-1 — модель плотных текстовых эмбеддингов для армянского языка, разработанная Metric-AI на базе дообученной multilingual-e5-base. Она преобразует текст в векторы и предназначена для семантического поиска, поиска документов для RAG, сравнения текстов, кластеризации и классификации. Модель построена на архитектуре XLM-RoBERTa, содержит около 305,2 млн параметров и рассчитана на контекст до 514 токенов по метаданным; README указывает ограничение длины последовательности 128 токенов. Для получения эмбеддингов README приводит пример с Sentence Transformers и нормализацией векторов. Указаны армянские тексты на входе, а также англо-армянские данные обучения и поддержка межъязыкового понимания. Лицензия — Apache 2.0. В README также сообщается о более новой версии ATE-2.

BAAI_AREX-Base-GGUF — это квантизированная версия модели AREX-Base, разработанной BAAI и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp и метода imatrix. Модель ориентирована на агентские сценарии, глубокое исследование, рассуждения, работу с инструментами и задачами с длинным контекстом. В карточке также указана поддержка англоязычных данных и мультимодальный профиль image-text-to-text, однако подробности о поддерживаемых типах изображений и способах их обработки не приведены. Доступны варианты с точностью от BF16 до низкобитных квантов, включая Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3 и Q2. Размер файлов варьируется примерно от 44,48 до 244,31 ГБ; многие варианты разбиты на несколько частей. Более крупные квантизации сохраняют высокое качество, а компактные требуют меньше оперативной памяти, но могут заметно уступать по качеству. В метаданных модель помечена как mixture-of-experts и связанная с Qwen3.5, но точные параметры архитектуры, число экспертов, размер контекста и количество параметров не указаны. Модель предназначена для локального запуска через llama.cpp и совместимые приложения, включая LM Studio, koboldcpp, Jan AI и Text Generation Web UI. Для работы требуется использовать указанный шаблон промпта с тегами ролей и началом блока рассуждений. Лицензия — Apache-2.0. В README не приведены результаты тестирования, ограничения по аппаратному обеспечению, сведения о безопасности или подробная документация по мультимодальным возможностям, поэтому практическое качество следует оценивать отдельно для выбранной квантизации и сценария.

swardiantara/bert-tiny-snli-k10-fixed-cosine — компактная Sentence Transformer модель, дообученная на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128 для поиска и сравнения текстов с использованием косинусного сходства. Архитектура включает BERT и mean pooling; модель содержит 4,4 млн параметров и принимает текст.

Карточка модели pashaa/bge-base-en-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-base-en-v1.5, поэтому описание составлено по ней. BAAI/bge-base-en-v1.5 — англоязычная плотная модель эмбеддингов семейства BGE (BAAI General Embedding), разработанная BAAI. Она преобразует текст в векторы для поиска по смыслу и сравнения сходства предложений, в том числе в системах retrieval-augmented generation (RAG). Модель относится к архитектуре BERT и содержит 136,7 млн параметров; максимальный контекст — 512 токенов. Версия v1.5 улучшает поиск без инструкций и смягчает проблему распределения оценок сходства. Оценки сходства не следует интерпретировать по универсальному порогу: из-за способа обучения даже несходные предложения могут получать значения выше 0,5. Модель поддерживает английский язык; доступны веса PyTorch и Safetensors, а также формат ONNX. Лицензия — MIT.

Xenova/bge-large-en-v1.5 — модель векторных представлений текста, основанная на BAAI/bge-large-en-v1.5, разработанной BAAI. Репозиторий содержит ONNX-веса, адаптированные для работы с библиотекой Transformers.js и JavaScript-приложениями. Модель предназначена для преобразования предложений и документов в эмбеддинги размерностью 1024. Её можно применять для семантического поиска, retrieval-сценариев, сопоставления текстов и ранжирования документов по косинусному сходству. Для поиска рекомендуется добавлять к запросу инструкцию «Represent this sentence for searching relevant passages:». Поддерживаются пакетное вычисление эмбеддингов, mean pooling и нормализация векторов. К сильным сторонам относятся готовность к использованию в средах, совместимых с Transformers.js, формат ONNX и возможность выполнять вычисления непосредственно из JavaScript. По имеющимся данным, модель ориентирована на английский язык, однако сведения о точной архитектуре, количестве параметров, длине контекста, производительности и ограничениях не приведены. Лицензия в README не указана.

Карточка модели hopeawei/bge-large-zh-v1.5 на Hugging Face совпадает с карточкой BAAI/bge-large-zh-v1.5, поэтому описание составлено по ней. BAAI/bge-large-zh-v1.5 — модель эмбеддингов семейства BGE, разработанная Beijing Academy of Artificial Intelligence (BAAI). Она преобразует китайский текст в плотные векторные представления для поиска и сравнения текстов; версия v1.5 улучшает распределение оценок сходства и позволяет выполнять поиск без инструкции к запросу. Модель построена на архитектуре BERT, содержит 424,3 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска по документам, поиска ответов для RAG-систем и сопоставления запросов с текстами. Эмбеддинги можно использовать для получения первичного списка кандидатов, а затем уточнять ранжирование отдельной моделью BGE Reranker. В README семейство BGE описано для китайского и английского языков, однако эта конкретная модель рассчитана прежде всего на китайский. Сходство между эмбеддингами не следует трактовать как универсальную вероятность: в README отмечено, что оценки несхожих предложений могут быть выше 0,5. Репозиторий использует формат PyTorch и лицензию MIT.

BAAI/bge-reranker-v2.5-gemma2-lightweight — мультиязычная модель-реранкер от BAAI, построенная на Gemma 2 9B. Она принимает запрос и текстовый фрагмент и оценивает их релевантность; оценку можно преобразовать в диапазон [0, 1] с помощью сигмоиды. Модель также поддерживает сравнение смысла двух фрагментов или запросов и выявление противоречия между аргументами. Для снижения вычислительных затрат применяются сжатие токенов и сокращение слоёв, по отдельности или вместе. В README сообщается о результатах уровня SOTA на наборах BEIR и MIRACL; для одной конфигурации указана экономия 60% FLOPs. Метаданные указывают 9 млрд параметров и контекст 8192 токена. Модель предназначена для повторного ранжирования результатов поиска и оценки семантической релевантности в многоязычных сценариях. Лицензия — Gemma. Доступность весов в safetensors подтверждена метаданными. README не приводит конкретный перечень поддерживаемых языков и не описывает ограничения качества; использование требует учитывать лицензионные условия Gemma и вычислительные потребности модели.

unsloth/bge-small-en-v1.5 — англоязычная модель эмбеддингов из семейства BGE, предназначенная для преобразования текста в векторы. Карточка описывает BGE как серию моделей для плотного поиска и retrieval-augmented generation; версия v1.5 улучшает распределение оценок сходства и поиск без инструкций. Репозиторий содержит веса в форматах PyTorch, safetensors и ONNX. Модель построена на архитектуре BERT, имеет около 40 млн параметров и принимает последовательности длиной до 512 токенов. Её можно применять для поиска релевантных документов и предложений, сравнения текстов и формирования эмбеддингов для конвейеров поиска. Поддерживаемый язык — английский. Лицензия — MIT. Эмбеддинги подходят для поиска кандидатов, но сами оценки сходства не следует трактовать как вероятности или сравнивать с универсальным порогом: README отмечает, что несходные предложения могут получать значения выше 0,5. Для повышения точности ранжирования карточка рекомендует отдельную модель reranker.

Bielik-11B-v3.0-Instruct-awq — это квантизированная в формате AWQ версия инструкционной языковой модели Bielik-11B-v3.0-Instruct, разработанной командами SpeakLeash и ACK Cyfronet AGH. Модель имеет архитектуру causal decoder-only и предназначена для генерации и обработки текста в сценариях, требующих следования инструкциям. Она поддерживает 32 европейских языка, включая польский, английский, русский, украинский и немецкий, при этом оптимизирована прежде всего для польского языка. Модель основана на Bielik-11B-v3-Base-20250730 и является текстовой, без заявленной поддержки других модальностей. Квантизация AWQ уменьшает требования к ресурсам по сравнению с исходной моделью, однако может снижать качество ответов и повышать вероятность галлюцинаций. В README не указаны размер контекста, точные требования к оборудованию и результаты бенчмарков, поэтому эти характеристики оценить нельзя. Модель распространяется по лицензии Apache 2.0 с дополнительными условиями использования Bielik.

Lajavaness/bilingual-document-embedding — модель эмбеддингов от Lajavaness для текстов на французском и английском языках. Она кодирует предложения и документы в нормализованные векторы размерностью 1024 на основе архитектуры XLM-RoBERTa и Sentence Transformers. Модель дообучена на задачах распознавания текстовых следствий и семантического сходства, включая англо-французские наборы SNLI, XNLI и STS Benchmark. Модель предназначена для семантического поиска, сопоставления текстов и кластеризации документов на английском и французском языках. В README заявлен контекст до 8096 токенов; метаданные указывают 8194 токена, а конфигурация Sentence Transformers задаёт максимальную длину последовательности 512 токенов, поэтому фактический поддерживаемый предел может зависеть от используемой конфигурации. Модель содержит 658,7 млн параметров и распространяется в формате safetensors под лицензией Apache-2.0. README не содержит результатов оценки качества.

bilingual-embedding-small — модель векторных представлений предложений от Lajavaness для французского и английского языков. Она дообучена на базе Multilingual-MiniLM-L12-H384 и использует архитектуру Sentence Transformers: MiniLM-кодировщик, усреднение токенных представлений и нормализацию. Модель содержит 124,3 млн параметров, кодирует предложения в 384-мерные векторы и принимает последовательности длиной до 512 токенов. Модель предназначена для сравнения смысловой близости предложений, семантического поиска и кластеризации текста на французском и английском. В обучении использовались SNLI, XNLI и STS Benchmark для обоих языков, а также аугментация обучающих пар. Доступна по лицензии Apache-2.0. Карточка не содержит результатов оценки качества, поэтому точность для конкретных задач по ней определить нельзя. Контекст ограничен 512 токенами; модель рассчитана на французский и английский языки.

MaziyarPanahi/calme-2.2-qwen2-72b-GGUF — квантизированная версия дообученной языковой модели calme-2.2-qwen2-72b, разработанной и квантизированной MaziyarPanahi на основе Qwen/Qwen2-72B-Instruct. Модель предназначена для генерации текста в диалоговых и общих сценариях использования больших языковых моделей, включая ответы на вопросы, рассуждения и решение задач. Для работы используется шаблон ChatML; поддерживаемые форматы GGUF рассчитаны на запуск через совместимые инструменты, например llama.cpp. Модель основана на архитектуре Qwen2 с заявленным размером 72 млрд параметров и представлена в вариантах квантизации от 2 до 16 бит, включая Q2_K, 3-, 4-, 5-, 6- и 8-битные варианты. Квантизация позволяет снизить требования к памяти, однако может уменьшать точность по сравнению с полноразмерной версией; README не содержит сведений о длине контекста, точном наборе языков, требованиях к оборудованию и результатах комплексного сравнения. В опубликованных оценках указаны результаты на TruthfulQA, Winogrande, ARC-Challenge и GSM8K, но они не гарантируют качество в конкретных прикладных сценариях. Лицензия обозначена как other с названием tongyi-qianwen; в качестве лицензионного документа указана лицензия Qwen/Qwen2-72B-Instruct. Перед использованием необходимо проверить её условия, особенно требования к распространению и коммерческому применению.

bartowski/cognitivecomputations_Qwen3-72B-Embiggened-GGUF — это набор GGUF-квантизаций языковой модели Qwen3-72B-Embiggened, разработанной cognitivecomputations. Квантизации подготовлены bartowski с использованием llama.cpp версии b5627 и метода imatrix. Модель предназначена для генерации текста и локального инференса через llama.cpp, LM Studio и совместимые проекты. В набор входят варианты от Q8_0 до Q3_K и IQ3/IQ4, размером примерно от 31,76 до 77,26 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти; Q6_K, Q5_K_M, Q5_K_S, Q4_K_L, Q4_K_M, Q4_K_S и IQ4_XS отмечены как рекомендуемые, тогда как некоторые варианты Q3 имеют заметно более низкое качество. Отдельные файлы используют legacy-форматы или особенности, оптимизированные для ARM, AVX или Apple silicon. README не содержит сведений о точной архитектуре исходной модели, поддерживаемых языках, максимальном контексте, мультимодальности, результатах тестирования или специализированных сценариях применения. Поэтому модель можно уверенно охарактеризовать как крупную текстовую LLM для локальной генерации текста, но её конкретные возможности следует уточнять в документации исходной cognitivecomputations/Qwen3-72B-Embiggened. Распространение указано по лицензии Apache-2.0.

kornwtp/ConGen-MiniLM-L6 — модель семейства ConGen на базе архитектуры BERT, представленная в формате PyTorch. Она преобразует предложения в плотные векторы размерности 384 и предназначена для поиска семантически близких текстов и сравнения предложений. Модель содержит 25,9 млн параметров и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, сопоставления предложений и построения векторных представлений текста. В README упоминается оценка на бенчмарке Sentence Embeddings Benchmark для задачи Semantic Textual Similarity. Лицензия — Apache-2.0. Данные о поддерживаемых естественных языках не приведены.

DeepSeek-R1-0528-GGUF — это набор квантизированных версий языковой модели DeepSeek-R1-0528, разработанной deepseek-ai и преобразованной в формат GGUF участником bartowski с использованием llama.cpp. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты квантизации Q8_0, Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_XS и другие, размером примерно от 215 до 713 ГБ для представленных файлов. Квантизация выполнена с применением imatrix и специального набора данных; для повышения производительности использовались изменения из соответствующего PR для llama.cpp. README не содержит сведений о точной архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста исходной модели. Сильной стороной набора является широкий выбор уровней квантизации: более высокие варианты обеспечивают качество, близкое к исходному, а более компактные позволяют экономить оперативную память. Ограничения связаны с очень большими требованиями к дисковому пространству и памяти, а также с неизбежным снижением качества у низкобитных вариантов. Для работы следует использовать указанный формат промпта с маркерами DeepSeek-R1. Модель распространяется по лицензии MIT.

DeepSeek-V4-Flash-GGUF — набор GGUF-квантизаций базовой модели DeepSeek-V4-Flash, разработанной deepseek-ai и опубликованной пользователем teamblobfish. Модель предназначена для генерации текста, агентских сценариев и задач с вызовом инструментов, включая рабочие процессы наподобие Claude Code. Варианты представлены с разной степенью квантизации: от Q8_0 размером около 282 ГиБ до IQ1_S-XL размером около 57 ГиБ. Рекомендуемый вариант Q4_K_M-XL занимает около 163 ГиБ и сочетает 4-битное тело модели с хранением ряда важных тензоров в Q8_0; заявлена поддержка tool calling. GGUF-файлы используют архитектуру DeepSeek V4 с MoE-компонентами и специализированными операциями, включая compressor decode, hyperconnection, lightning indexer, FP8 KV simulation и NextN heads. Для запуска требуется форк llama.cpp с поддержкой V4; стандартный upstream llama.cpp не подходит. Поддерживаются Apple Silicon через Metal, NVIDIA CUDA на совместимых GPU и CPU. ROCm, Vulkan и Metal на AMD не поддерживают необходимые V4-ядра. В репозитории также присутствуют встроенный DSML chat template и калибровочные данные для некоторых вариантов. Проект находится в статусе WIP. Квантизации позволяют уменьшить требования к диску и памяти, однако качество и производительность зависят от выбранного варианта и оборудования; для некоторых старых GPU CUDA-путь FP8 не был проверен в работе. Модель и материалы репозитория распространяются по лицензии MIT.

Dolphin-2.6-mistral-7b-dpo-laser-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser. Модель относится к семейству Mistral и предназначена для генерации текста, включая диалоговые и инструкционные сценарии. В метаданных указан размер 7B, текстовая модальность и поддержка английского языка. Обучение исходной модели связано с наборами данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder и Capybara; также указано DPO дообучение в названии модели. Главная особенность этой версии — поставка в GGUF с вариантами квантования от 2 до 8 бит, что позволяет запускать модель локально с различными компромиссами между размером файлов, требованиями к памяти и качеством генерации. Формат поддерживается llama.cpp и совместимыми приложениями и библиотеками для локального запуска. К ограничениям относятся возможная потеря качества при низкобитном квантовании, отсутствие заявленных характеристик контекстного окна и подробных результатов оценки, а также отсутствие подтверждения поддержки других языков помимо английского. Модель распространяется по лицензии Apache 2.0.

Dolphin-Mistral-24B-Venice-Edition-heretic — диалоговая модель общего назначения, созданная на основе Mistral Small 24B Instruct 2501 и дообученная в рамках проекта Dolphin совместно с Venice.ai. Она предназначена для генерации ответов и выполнения инструкций в чат-сценариях; владелец системы задаёт системный промпт и самостоятельно настраивает стиль и правила поведения модели. Модель использует плотную архитектуру Mistral3 и содержит около 24 млрд параметров; доступна в формате safetensors и рассчитана на работу через Transformers или vLLM. В README описана как uncensored-версия для экосистемы Venice; указаны измерения KL-дивергенции и частоты отказов, но они не дают полной оценки качества. Лицензия — Apache-2.0. В README нет сведений о длине контекста и поддерживаемых языках, поэтому они здесь не уточняются. Снижение отказов не означает гарантированного отсутствия отказов или безопасного поведения: модель следует настраивать системным промптом и проверять на целевых сценариях.

Marqo Stella v2 — модель для получения текстовых эмбеддингов и оценки сходства между предложениями. В карточке она описана как близкая к исходной Dunzhang Stella 400M, но с объединённым Matryoshka-слоем: он позволяет получать эмбеддинги меньшей размерности с меньшими вычислительными затратами, сохраняя метрики релевантности. Модель содержит 433,9 млн параметров, поддерживает контекст до 8192 токенов и распространяется в форматах PyTorch и Safetensors. Модель подходит для семантического поиска, сопоставления запросов с документами и поиска похожих текстов. В метаданных указан pipeline sentence-similarity, а среди возможностей — embeddings. Лицензия — MIT. README не уточняет поддерживаемые языки или специализированные области применения.