I.2Синтез, понимание и проверка знаний

Карточка модели NormalGuy85/Crunch-Ai2 на Hugging Face совпадает с карточкой Qwen/Qwen2.5-1.5B-Instruct, поэтому описание составлено по ней. Qwen2.5-1.5B-Instruct — инструктивно дообученная языковая модель семейства Qwen2.5, разработанная командой Qwen. Она предназначена для диалогов и генерации текста по инструкциям, включая ответы на вопросы, создание длинных текстов и выдачу структурированных результатов, например JSON. Модель имеет плотную архитектуру причинного трансформера Qwen2 с RoPE, SwiGLU и RMSNorm и содержит 1,5 млрд параметров. Контекст составляет 32 768 токенов, максимальная длина генерации — 8 192 токена. Карточка описывает поддержку более 29 языков, включая русский и английский; метаданные указывают английский как язык карточки. Модель загружается через Transformers и распространяется по лицензии Apache-2.0. Среди сильных сторон — следование инструкциям, работа с длинными текстами и структурированными данными, а также интерфейс для вызова инструментов. Это компактная модель, поэтому её возможности ограничены по сравнению с более крупными языковыми моделями; оценочные результаты для этой конкретной версии в карточке не приведены.

darkps_ice-AI-GGUF — это квантованные версии языковой модели ice-AI, разработанной DarkPs и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для генерации текста, диалогового взаимодействия и задач программирования; заявлена поддержка нескольких языков. Входной модальностью является текст, спекулятивное декодирование не поддерживается. Модель содержит около 8 млрд параметров. Набор включает варианты от BF16 до низкоразрядных квантовок Q2 и IQ, размер файлов составляет примерно от 3,4 до 16,4 ГБ. Квантования с imatrix рассчитаны на работу через совместимые инструменты llama.cpp; разработчик рекомендует Q4_K_M как сбалансированный вариант по качеству, размеру и производительности, а Q6_K и Q6_K_L — для более высокого качества. Длина контекста в README не указана. Сильными сторонами являются широкий выбор квантований, возможность подобрать модель под доступный объём памяти и совместимость с экосистемой llama.cpp. Более компактные варианты экономят память, но могут заметно уступать старшим квантованиям по качеству. Лицензия — Apache-2.0; исходной моделью указана darkps/ice-AI.

Orion-zhen/DeepSeek-R1-Distill-Llama-70B-abliterated — вариант DeepSeek-R1-Distill-Llama-70B, созданный с помощью abliteration. Это плотная авторегрессионная модель семейства Llama с 69,5 млрд параметров и контекстом до 131 072 токенов. Она предназначена для генерации текста и диалогов; базовая модель рассчитана на математические рассуждения, программирование и ответы на сложные вопросы. В метаданных указаны английский и китайский языки, а также интерфейсы чата и вызова инструментов. Модель представлена в формате safetensors и распространяется по лицензии GPL-3.0. README не сообщает о качестве abliteration, её конкретных целях или изменениях поведения модели, поэтому эти свойства нельзя оценить по доступным сведениям.

DeepSeek V4 Flash 4Expert Q4K GGUF — это 4-битная квантизированная версия варианта DeepSeek V4 Flash с архитектурой MoE и MLA, опубликованная cloudyu. В конфигурации используются четыре активных эксперта на токен и 43 слоя; эксперты хранятся в формате Q4_K, а проекции внимания и веса общего эксперта — Q8_0. Репозиторий содержит модель в формате GGUF объёмом около 153 ГиБ. Модель предназначена для генерации текста, включая написание кода, рассуждения и ответы на вопросы. README сообщает о результатах оценки на HumanEval, AIME 2025, GPQA Diamond и SuperGPQA; это результаты автора репозитория, а не независимая гарантия качества. Карточка указывает английский и китайский языки. Для запуска требуется движок ds4 с поддержкой конфигурации 4Expert; стандартная upstream-версия ds4 без соответствующих изменений этот файл не загружает. Лицензия — Apache-2.0.

hcy5561 выпустил англоязычную модель Sentence Transformer, дообученную на SNLI на базе google-bert/bert-base-uncased. Она преобразует предложения и абзацы в плотные векторы размерности 768 и сравнивает их косинусным сходством; модель построена на BERT с усреднением токенных представлений и принимает последовательности длиной до 512 токенов. Модель подходит для семантического поиска, оценки сходства текстов, поиска перефразировок, кластеризации и извлечения признаков для классификации. Её можно применять для поиска похожих предложений в корпусе или группировки англоязычных текстов по смыслу. Лицензия в предоставленных данных не указана.

Dolphin-2.6-mistral-7b-dpo-laser-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели cognitivecomputations/dolphin-2.6-mistral-7b-dpo-laser. Модель относится к семейству Mistral и предназначена для генерации текста, включая диалоговые и инструкционные сценарии. В метаданных указан размер 7B, текстовая модальность и поддержка английского языка. Обучение исходной модели связано с наборами данных Dolphin, Airoboros, Dolphin Coder, OpenHermes, Magicoder и Capybara; также указано DPO дообучение в названии модели. Главная особенность этой версии — поставка в GGUF с вариантами квантования от 2 до 8 бит, что позволяет запускать модель локально с различными компромиссами между размером файлов, требованиями к памяти и качеством генерации. Формат поддерживается llama.cpp и совместимыми приложениями и библиотеками для локального запуска. К ограничениям относятся возможная потеря качества при низкобитном квантовании, отсутствие заявленных характеристик контекстного окна и подробных результатов оценки, а также отсутствие подтверждения поддержки других языков помимо английского. Модель распространяется по лицензии Apache 2.0.

Dolphin Mistral 24B Venice Edition — языковая модель для генерации текста, разработанная Dolphin в сотрудничестве с Venice.ai на базе Mistral-Small-24B-Instruct-2501 от Mistral AI. Модель предназначена для общего назначения: диалоговых систем, ассистентов и встраивания в приложения, где владельцу нужен контроль над системным промптом, настройками выравнивания и данными. Она позиционируется как максимально неограниченная версия Mistral 24B и используется в экосистеме Venice, где представлена под названием Venice Uncensored. Модель относится к классу text-generation и совместима с Transformers, vLLM, Ollama, LM Studio, SGLang и TGI. Указан формат FP8; размер базовой модели — 24B параметров. Сохраняется стандартный chat template Mistral. Для инференса рекомендуется низкая температура, например 0,15; в примере для vLLM заявлена поддержка контекста до 131 072 токенов, вызова инструментов и изображений, однако архитектура мультимодальности и точный набор поддерживаемых языков в README не описаны. Сильная сторона модели — управляемость: системный владелец самостоятельно задаёт тон, правила поведения и ограничения, а также может разворачивать модель локально или в собственной инфраструктуре. Ограничение заключается в намеренно минимальном уровне встроенных этических и безопасностных ограничений, поэтому результаты требуют внешнего контроля и настройки политик применения. Модель распространяется по лицензии Apache-2.0.

Dolphin-Mistral-24B-Venice-Edition-heretic — диалоговая модель общего назначения, созданная на основе Mistral Small 24B Instruct 2501 и дообученная в рамках проекта Dolphin совместно с Venice.ai. Она предназначена для генерации ответов и выполнения инструкций в чат-сценариях; владелец системы задаёт системный промпт и самостоятельно настраивает стиль и правила поведения модели. Модель использует плотную архитектуру Mistral3 и содержит около 24 млрд параметров; доступна в формате safetensors и рассчитана на работу через Transformers или vLLM. В README описана как uncensored-версия для экосистемы Venice; указаны измерения KL-дивергенции и частоты отказов, но они не дают полной оценки качества. Лицензия — Apache-2.0. В README нет сведений о длине контекста и поддерживаемых языках, поэтому они здесь не уточняются. Снижение отказов не означает гарантированного отсутствия отказов или безопасного поведения: модель следует настраивать системным промптом и проверять на целевых сценариях.

ember-v1 — англоязычная модель эмбеддингов текста от vectoriseai, построенная на архитектуре BERT. Она обучена на корпусе пар текстов из разных областей, включая финансы, науку, медицину и право; при обучении использовались приёмы из работ RetroMAE и SetFit. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, например в поиске и ранжировании текстов. Модель содержит около 433,9 млн параметров и обрабатывает до 512 токенов; более длинные входы обрезаются. В README приведён результат 63,54 в среднем по 56 задачам MTEB при размерности эмбеддингов 1024. Доступны форматы PyTorch, safetensors и ONNX. Лицензия — MIT; разработчик также предлагает доступ к модели через API LLMRails.

EuroLLM-1.7B-Instruct — мультиязычная языковая модель с 1,7 млрд параметров, разработанная Unbabel, Instituto Superior Técnico, Instituto de Telecomunicações, University of Edinburgh и другими исследовательскими организациями при финансировании Европейского союза. Это первая версия серии EuroLLM, дообученная следовать инструкциям; модель построена на плотном Transformer с архитектурой Llama, групповым запросным вниманием, RMSNorm, SwiGLU и RoPE. Длина контекста — 4096 токенов. Модель предназначена для диалогов, выполнения общих текстовых инструкций и машинного перевода. Она поддерживает множество европейских языков, а также арабский, китайский, хинди, японский и корейский. В карточке приведены результаты тестирования перевода на FLORES-200, WMT-23 и WMT-24; на FLORES-200 модель превзошла сравниваемую Gemma-2B и показала конкурентные результаты относительно Gemma-7B. Модель не прошла выравнивание по предпочтениям людей и может выдавать галлюцинации, вредоносный или ложный текст. Распространяется по лицензии Apache 2.0.

FMMB-BE (Fairly Multilingual ModernBERT Embedding Model, Belgian Edition) — модель эмбеддингов на базе ModernBERT-Embed-Base от Nomic AI, дообученная автором карточки на параллельных предложениях. Она предназначена для преобразования текстов на французском, нидерландском, немецком и английском языках в плотные векторы, выровненные между языками. Модель использует архитектуру ModernBERT с усреднением токенных представлений и выдаёт векторы размерности 768. Для каждого текста автоматически выбирается подходящий языковой токенизатор; тексты на разных языках можно обрабатывать в одном пакете. Максимальная длина входа — 8192 токена. Модель подходит для семантического поиска, сравнения предложений, поиска перефразировок, классификации и кластеризации текстов. Карточка отмечает, что модель обучена без учителя на параллельном корпусе и рекомендует дообучить её под конкретный сценарий. Заявленная лицензия — Apache-2.0.

thetayne/finetuned_model_0613 — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-base-en-v1.5 для сравнения текстовых фрагментов. Она использует BERT с пулингом CLS-токена и нормализацией эмбеддингов; векторное представление имеет размерность 768, максимальная длина входа — 512 токенов, сходство оценивается косинусной мерой. Модель обучалась на 1 625 парах предложений с функцией CosineSimilarityLoss и предназначена для семантического поиска, поиска перефразировок, кластеризации и сравнения предложений; её векторы также можно применять в задачах классификации. В README приведены результаты оценки семантического сходства для размерностей от 64 до 768. Лицензия Apache-2.0. Модель принимает текст и выдаёт нормализованные векторы; обучение на небольшой выборке означает, что её пригодность для конкретного домена и задач следует проверять отдельно.

kimquynh/finetuned_sbert_7 — дообученная модель Sentence Transformers на базе sentence-transformers/all-mpnet-base-v2, предназначенная для кодирования предложений и абзацев в плотные векторы и их семантического поиска и сравнения. Архитектура включает MPNet, mean pooling и нормализацию; размер модели — 136,7 млн параметров, размерность выходных векторов — 768. Модель принимает текст, использует косинусное сходство и обучалась с ContrastiveLoss на 6 241 примере; в README указана максимальная длина последовательности 384 токена, а метаданные каталога приводят контекст 514 токенов. Модель подходит для извлечения релевантных текстов, вычисления сходства предложений и бинарной классификации пар по косинусному сходству. В README приведены оценки на наборах для сходства резюме и вакансий: Spearman 0,4798, а также accuracy 0,7258 и F1 0,7811 для бинарной классификации. Эти показатели относятся к указанным наборам и не гарантируют аналогичного качества на других данных. В карточке нет сведений о лицензии; обучение описано на англоязычных примерах о резюме и вакансиях, поэтому перенос качества на другие языки и области не установлен.

EpistemeAI2/Fireball-Phi-3-medium-4k-inst-Philos — дообученная на базе Phi-3 Medium Instruct модель для генерации ответов в диалоговом формате. Карточка описывает семейство Phi-3 Medium как плотную авторегрессионную языковую модель примерно на 13,8 млрд параметров; контекст составляет 4096 токенов. Эта версия ориентирована на английский язык и общие коммерческие и исследовательские сценарии, включая работу в условиях ограниченных вычислительных ресурсов и низкой задержки. Модель подходит для диалоговых помощников, ответов на вопросы, а также задач рассуждения, математики, логики и программирования. Базовая Phi-3 Medium Instruct прошла supervised fine-tuning и direct preference optimization для следования инструкциям и повышения безопасности. Репозиторий содержит веса в формате safetensors; лицензия — Apache 2.0. Как и другие языковые модели, она может выдавать неточные или вымышленные сведения, предвзятые или оскорбительные ответы. Качество на языках помимо английского ниже; сгенерированный код и ответы для чувствительных или высокорисковых сценариев требуют проверки. README преимущественно описывает базовую Phi-3 Medium Instruct, поэтому отдельные характеристики дообучения EpistemeAI2 на философских данных в предоставленной карточке подробно не раскрыты.

DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel-MISTRAL_FULL-notrescaled_40000 — модель Sentence-Transformers на архитектуре BERT, разработанная DragosGorduza. Она преобразует предложения и абзацы в плотные векторы размерности 1024 для семантического поиска, сравнения текстов и кластеризации. Обучение использовало MarginDistillationLoss; в карточке также описана обработка контекстных представлений с помощью pooling. Модель содержит 433,9 млн параметров и принимает до 512 токенов контекста. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

Gemini 3.1 Flash Lite Preview — предварительная высокоэффективная модель Google, оптимизированная для сценариев с большим объёмом запросов. По карточке она превосходит Gemini 2.5 Flash Lite по общему качеству и приближается к Gemini 2.5 Flash. Модель предназначена для задач с текстом и изображениями; в метаданных каталога её задача указана как image-text-to-text. Слово Preview указывает на предварительный статус версии. Сведения о размере, длине контекста, поддерживаемых языках и лицензии в предоставленных данных отсутствуют.

AEON-7/Gemma-4-12B-it-AEON-Abliterated-MLX-8bit — это 8-битная MLX-квантизованная версия модели AEON-7/Gemma-4-12B-it-AEON-Abliterated-K4-BF16, созданная сообществом AEON-7 на базе Gemma 4. Модель предназначена для локального запуска на компьютерах с Apple Silicon через mlx-vlm и поддерживает диалоговые, агентские, программные и рассуждающие сценарии, а также вызов функций и инструментов. Модель содержит около 12 млрд параметров и использует формат mxfp8 с группами по 32 элемента для линейных слоёв языкового декодера; связанная выходная голова и проекторы для vision и audio сохранены в bf16. Поддерживаются текст, изображения и аудио, включая описание изображений и транскрибацию речи. В README явно указан английский язык. Для сервера MLX заявлен размер KV-кэша до 32768 токенов, однако точное максимальное контекстное окно модели не указано. Ключевое преимущество — высокая близость к исходной BF16-версии при существенно меньших требованиях к памяти: заявлены near-lossless качество, 0,924 совпадения top-1 токенов и медианный KL около 0,002 ната на собственной выборке. Модель рассчитана на Apple Silicon, оптимально с 24 ГБ и более unified memory; размер на диске около 13,4 ГБ, рекомендуемый объём памяти — от 32 ГБ, поэтому для Mac с 16 ГБ она может быть непрактична. Это abliterated-версия с удалёнными или ослабленными механизмами отказа, что может расширять диапазон ответов, но также снижать предсказуемость защитного поведения. Указана лицензия Gemma.

Gemma 4 21B-A4B-it REAP Heretic — разговорная модель на базе Gemma 4, представленная в репозитории coder3101. Это доработанный вариант 20-процентно прореженной экспертной модели 0xSero/gemma-4-21b-a4b-it-REAP: в MoE-архитектуре оставлено 103 эксперта на слой вместо 128, а на каждый токен по-прежнему активируются 8 экспертов. Веса опубликованы в формате safetensors; модель поддерживает диалоговую генерацию текста и, согласно карточке, входные изображения. Вариант Heretic применяет абляцию отказов: в приведённом сравнении число отказов на тестовом наборе снизилось со 100 из 100 у исходной модели до 14 из 100. При этом небольшие тесты показывают, что качество зависит от задачи: например, результат по математике начального уровня снизился с 92% до 90%, а по философии — с 92% до 88%; наборы по 50 примеров на задачу и 14 промптов для сравнения генерации не дают широкой оценки качества. Для исходного варианта REAP указано окно контекста 262 144 токена, но README не уточняет, сохраняется ли этот предел в данной сборке Heretic. Модель предназначена для диалогов, рассуждений и генерации кода; особенно подходит для сценариев, где требуется меньше отказов. Лицензия — Gemma; условия её использования следует сверять с лицензией семейства Gemma.

Geneva 12B GammaCorpus v2-10k — многоязычная чат-модель Ruben Roy, дообученная на Mistral Nemo Instruct 2407 с использованием набора GammaCorpus v2-10k, содержащего структурированные многоходовые диалоги. Она предназначена для генерации текста, общения по инструкциям и диалоговых сценариев; метаданные также указывают интерфейс вызова инструментов. Модель построена на архитектуре MistralForCausalLM с плотной архитектурой и насчитывает 12,1 млрд параметров. В README указаны 40 слоёв, SwiGLU и групповое скользящее внимание GQA. Модель заявлена для английского, французского, немецкого, испанского, итальянского, португальского, русского, китайского и японского языков. Метаданные указывают контекст до 1 024 000 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Автор предупреждает о возможной предвзятости ответов.

Это мультимодальная диалоговая модель семейства Qwen3.8 на 27 млрд параметров, представленная в формате GGUF. Репозиторий подготовлен renketong: веса NVFP4 перенесены из safetensors в GGUF без повторной квантизации; в комплект входят MTP-голова для спекулятивного декодирования и отдельный проектор для обработки изображений. В README указана архитектура qwen35 с 64 слоями и одним MTP-слоем, а также нативный контекст 262 тыс. токенов. Модель предназначена для генерации текста и диалогов, включая работу с кодом и JSON, а также анализа изображений при загрузке проектора mmproj. Abliteration уменьшает число отказов, а MTP может ускорять генерацию в совместимом ПО, например llama.cpp и LM Studio. Это производная модель в цепочке от Qwen/Qwen3.8-27B через Huihui-Qwen3.8-27B-abliterated и NVFP4-квантизацию. Лицензия репозитория — Apache-2.0. Модель ориентирована на локальный запуск и требует совместимой инфраструктуры; заявленная поддержка NVFP4 связана с ускорителями NVIDIA Blackwell. Снижение отказов означает, что модель может отвечать на запросы, от которых обычно отказывается система с защитными настройками. Измерения скорости в README сделаны на RTX 5090 и зависят от типа текста и параметров MTP.

aloobun разработал эту Sentence Transformer на основе aloobun/d-mxbai-L8-embed, дообучив её для работы с несколькими индийскими языками. Модель на базе BERT преобразует предложения и абзацы в плотные векторы размерностью 1024; сходство между текстами можно оценивать по косинусному сходству. В README указана максимальная длина последовательности 128 токенов, а в метаданных — 512 токенов; это расхождение требует проверки при настройке обработки длинных текстов. Модель предназначена для поиска по смыслу и сопоставления текстов на английском и бенгальском, гуджаратском, хинди, каннада, малаялам, маратхи, тамильском и телугу. Её можно применять для поиска семантически близких предложений, оценки сходства, поиска перефразирований, кластеризации и классификации текстов. Репозиторий распространяется по лицензии Apache-2.0. В README приведены результаты оценки для языковых пар с английским; показатели сходства заметно различаются между языками и в некоторых случаях низкие или отрицательные. Поэтому качество следует проверять на данных и сценариях конкретного применения; модель не генерирует текст, а возвращает векторы для последующей обработки.

INTELLECT-1-Instruct-GGUF — набор GGUF-квантизированных версий инструкционной языковой модели INTELLECT-1-Instruct от PrimeIntellect. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix; модель предназначена для генерации текста по инструкциям и может запускаться локально, в том числе через LM Studio. Доступны варианты от полноразмерных F32 и F16 до квантизаций Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ4. Размер файлов составляет примерно от 5,6 до 40,85 ГБ, что позволяет выбирать между качеством и требованиями к памяти. Указан английский язык; поддерживаются текстовые сценарии, включая общение по инструкциям, программирование, математику и работу с данными обучения, перечисленными в карточке. Архитектура, число параметров, максимальный контекст и мультимодальные возможности в README не указаны. Сильная сторона набора — широкий выбор квантизаций для локального запуска и наличие вариантов, оптимизированных для отдельных ARM-конфигураций. Ограничения зависят от выбранного варианта: более компактные квантизации могут снижать качество, а некоторые ARM-версии требуют конкретных аппаратных возможностей и не рекомендуются для Mac или GPU. Модель распространяется по лицензии Apache-2.0.

InternLM2.5-20B-Chat GGUF — большая языковая чат-модель в формате GGUF, разработанная Shanghai AI Laboratory (上海人工智能实验室) и представленная для запуска с помощью llama.cpp. Она предназначена для локального и облачного инференса, ведения диалогов, генерации текста и интеграции в сервисы через совместимый с OpenAI API сервер llama-server. В README также показан сценарий вызова функций, например получения текущей погоды через внешний инструмент. Модель имеет размер 20B параметров и поддерживает несколько вариантов точности и квантования, включая FP16, q5_0, q5_k_m, q6_k и q8_0, что позволяет выбирать между качеством, требованиями к памяти и скоростью работы. В качестве языков указано English, а в примере системного промпта заявлена способность общаться на английском и китайском языках. README демонстрирует контекст размером 4096 токенов и рекомендует использование аппаратного ускорения, включая CUDA; конкретные требования к ресурсам не указаны. Сильными сторонами модели являются возможность локального развёртывания на различных аппаратных платформах, наличие низкобитных версий и поддержка чатового взаимодействия, вызова функций и OpenAI-совместимого API. Ограничения включают отсутствие подробных данных о качестве, обучающих данных, точных языковых возможностях и рекомендуемых ресурсах, а также то, что результаты зависят от выбранной точности, конфигурации llama.cpp и параметров инференса. Модель распространяется по лицензии Apache-2.0.

jina-embeddings-v2-base-de-GGUF — GGUF-квантизированная версия модели jinaai/jina-embeddings-v2-base-de, разработанной Jina AI и подготовленной квантизатором Second State Inc. Это embedding-модель для преобразования текстов в векторные представления, пригодные для семантического поиска, сопоставления текстов и других задач, где требуется оценивать смысловую близость. В README указаны немецкий и английский языки. Модель поддерживает контекст до 8192 токенов и формирует embeddings размерностью 768. Доступны варианты квантизации от Q2_K до Q8_0, а также f16 в формате GGUF; размеры файлов составляют примерно от 82,5 до 323 МБ. Вариант Q4_K_M позиционируется как сбалансированный по качеству и размеру, тогда как Q2_K–Q4_0 могут заметно снижать качество. Более высокие разрядности уменьшают потери качества, но требуют больше памяти. Модель предназначена для локального запуска через совместимые инструменты, включая LlamaEdge; README приводит конфигурацию с контекстом 8192 и embedding prompt template. Архитектура базовой модели, объём параметров и точные показатели качества в предоставленных данных не указаны. Распространение осуществляется по лицензии Apache-2.0.

jina-embeddings-v3-GGUF — GGUF-версия модели jina-embeddings-v3, разработанной jinaai и квантизированной компанией Second State Inc. Это модель для построения векторных представлений текста, предназначенная для семантического поиска, сопоставления текстов, кластеризации и других задач, где требуется сравнивать смысловое сходство документов или запросов. Модель рассчитана на запуск через совместимые инструменты, включая LlamaEdge; для неё используется шаблон prompt типа embedding. Доступны варианты размерности эмбеддингов от 32 до 1024: 32, 64, 128, 256, 512, 768 и 1024. Формат GGUF поддерживает различные уровни квантования, позволяя выбирать между размером файла и сохранением качества; среди указанных вариантов Q4_K_M и Q5_K_M отмечены как сбалансированные или рекомендуемые. В README не указаны архитектура исходной модели, поддерживаемые языки, модальности и точный размер контекста; для запуска LlamaEdge приведён контекст 768. Сильными сторонами модели являются возможность локального запуска, выбор размерности эмбеддингов и нескольких уровней квантования, включая компактные варианты. Более агрессивное квантование может приводить к заметной потере качества, тогда как версии с большим числом бит занимают больше памяти. Лицензия в предоставленном README не указана; условия использования следует уточнять в карточке исходной модели jinaai/jina-embeddings-v3 и соответствующего GGUF-репозитория.

JOSIE-1.1-4B-Instruct — плотная языковая модель на 3,7 млрд параметров, разработанная Gökdeniz Gülmez как полновесная донастройка Qwen3-4B-Instruct-2507. Она предназначена для естественных диалогов, следования инструкциям, повседневной помощи и решения практических задач. Модель выдаёт связные ответы с дружелюбной, прямой манерой общения и ориентирована на генерацию текста в чат-сценариях. Модель поддерживает английский, испанский, французский, португальский, итальянский, арабский, китайский, японский, корейский, индонезийский, русский, вьетнамский, немецкий и тайский языки. Метаданные указывают контекст до 262 144 токенов; README сообщает о 32 768 токенах. Обучение включало дистилляцию рассуждений и преобразование ответов в разговорный стиль. По карточке, модель не имеет встроенной фильтрации контента; качество может снижаться на узкоспециализированных темах, а критические ответы требуют проверки. Лицензия — MIT.

Карточка модели Laevo/LFM2.5-Encoder-230M на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-Encoder-230M, поэтому описание составлено по ней. LFM2.5-Encoder-230M — разработанный Liquid AI компактный многоязычный двунаправленный энкодер на архитектуре LFM2 с 221,2 млн параметров. Это masked language model с головой заполнения масок, предназначенная прежде всего для дообучения под прикладные задачи обработки текста. Гибридная архитектура чередует блоки коротких gated-свёрток и grouped-query attention; модель доступна в формате safetensors и работает через Transformers с удалённым кодом модели. Энкодер подходит как основа для классификации текста и токенов, извлечения сущностей, поиска и ранжирования, оценки семантического сходства, определения тональности и естественно-языкового вывода. Заявлена поддержка 15 языков, включая русский. README указывает контекст до 8 192 токенов и возможность эффективного запуска на устройстве и в браузере через WebGPU; значение длины контекста в метаданных каталога составляет 128 000 токенов, поэтому фактический рабочий предел следует сверять с используемой конфигурацией модели. Модель ориентирована на низкие требования к памяти и задержке; авторы сообщают о хорошей производительности на длинных последовательностях и приводят сравнения с другими энкодерами. Для перечисленных прикладных задач обычно требуется дообучение: исходная модель не является готовым специализированным классификатором или поисковым ранжировщиком. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.

LGAI-Embedding-Preview — модель для получения векторных представлений текста, разработанная на основе Mistral-7B. Она предназначена для оценки сходства предложений и задач поиска по семантическому соответствию; README описывает её проверку на бенчмарке MTEB с примерами в контексте. Модель имеет плотную архитектуру Mistral примерно на 7,1 млрд параметров, размерность эмбеддингов 4096 и контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors и указывает лицензию Apache-2.0. README называет модель предварительной и сообщает, что цель работы — воспроизвести базовую модель и проверить процесс публикации результатов.

Карточка модели developer2625/livro-7b-v1 на Hugging Face совпадает с карточкой developer2625/livron-7b-v1, поэтому описание составлено по ней. Livron 7B v1 — дообученная разработчиком developer2625 языковая модель на архитектуре Qwen2.5, предназначенная для генерации текста и диалогового общения. Она основана на unsloth/qwen2.5-7b-instruct-unsloth-bnb-4bit и содержит 7,1 млрд параметров; модель обучали с использованием Unsloth и библиотеки Hugging Face TRL. Поддерживает контекст до 32 768 токенов и интерфейс вызова инструментов. Модель подходит для диалоговых помощников, генерации и продолжения текста, а также сценариев, где требуется взаимодействие с инструментами. В метаданных указан английский язык. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0.

Llama 2 70B Chat — разработанная Meta диалоговая языковая модель на 70 млрд параметров. Это авторегрессионный трансформер, дообученный с помощью supervised fine-tuning и обучения с подкреплением на основе обратной связи от людей; версия в репозитории подготовлена для работы с Hugging Face Transformers и хранится в форматах PyTorch и Safetensors. Модель принимает текст и генерирует текст. Она предназначена прежде всего для диалогов в формате ассистента на английском языке: ответы на вопросы, ведение беседы и другие сценарии генерации текста. Контекст составляет 4 тыс. токенов; вариант на 70B использует Grouped-Query Attention для более масштабируемого вывода. Модель может выдавать неточные, предвзятые или нежелательные ответы, а испытания не охватывали все сценарии. Перед внедрением рекомендуется проверка безопасности и настройка под конкретное применение. Использование регулируется лицензией Meta Llama 2; для получения весов требуется принять её условия.