I.3Извлечение и структурирование данных

Citaman/command-r-38-layer — объединённая модель генерации текста на архитектуре CohereForCausalLM, созданная автором репозитория с помощью mergekit. В README указано слияние методом SLERP двух срезов одной модели Citaman/command-r-39-layer со сдвигом диапазонов слоёв; метаданные также связывают модель с этой базовой моделью. Репозиторий содержит веса в формате safetensors и bfloat16. Модель предназначена для генерации текста и диалогового взаимодействия; в метаданных отмечен интерфейс вызова инструментов. Размер составляет 33,3 млрд параметров, родной контекст — 8192 токена. Условия лицензии и сведения о поддерживаемых естественных языках в предоставленных данных отсутствуют.

Это GGUF-квантизированная версия языковой модели cogito-v2-preview-llama-70B, разработанной deepcogito и подготовленной пользователем bartowski. Модель предназначена для генерации текста и может использоваться в локальных приложениях на базе llama.cpp, включая LM Studio и другие совместимые проекты. В основе лежит модель класса Llama с заявленным размером 70B параметров. Доступны варианты квантования от Q8_0 до Q2_K_L и IQ3/IQ4, различающиеся размером файла, требованиями к памяти и качеством вывода. Более качественными и рекомендуемыми в README названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S и IQ4_XS; модели с более низкой разрядностью экономят память, но могут заметно уступать в качестве. Формат GGUF и imatrix-квантование облегчают локальный запуск, однако даже компактные варианты требуют значительных ресурсов. В README не указаны поддерживаемые языки, размер контекстного окна, точная архитектура исходной модели, мультимодальные возможности и лицензия. Шаблон чата также не задан и может требовать проверки по карточке исходной модели; приведённый формат основан на служебных токенах Llama. Условия использования в представленном README не указаны.

DeepSeek-R1-0528-Qwen3-8B-GGUF — квантизированная версия языковой модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантизацию выполнил bartowski с использованием llama.cpp версии b5524 и метода imatrix. Модель предназначена для генерации текста и локального запуска в LM Studio, llama.cpp и других проектах на базе llama.cpp. Это текстовая модель размером 8B параметров, представленная в формате GGUF. Доступны варианты от BF16 до различных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ, с размером файлов примерно от 3,9 до 16,39 ГБ. Более высокие уровни квантизации обычно лучше сохраняют качество, а варианты Q3 и ниже ориентированы на устройства с ограниченным объёмом оперативной памяти. Для работы рекомендуется использовать указанный шаблон prompt format; контекстное окно, поддерживаемые языки и дополнительные модальности в README не указаны. Сильные стороны модели — возможность локального запуска, широкий выбор вариантов квантизации и компромисс между качеством, размером и требованиями к памяти. Ограничения зависят от выбранного варианта: более сильная квантизация может снижать качество генерации, а для запуска требуются совместимые инструменты и достаточно оперативной или видеопамяти. Лицензия модели указана как MIT.

DeepSeek-R1-0528-Qwen3-8B-MLX-4bit — это 4-битно квантованная версия модели DeepSeek-R1-0528-Qwen3-8B, разработанной deepseek-ai. Квантование выполнено командой LM Studio с использованием mlx_lm и формата MLX, ориентированного на работу на устройствах с Apple Silicon. Модель предназначена для генерации текста и связанных с ней языковых сценариев. README не содержит сведений о точном числе параметров, поддерживаемых языках, размере контекста, модальностях или специализированных ограничениях исходной модели. Ключевое преимущество версии — уменьшенный размер благодаря 4-битному представлению и оптимизация для Apple Silicon; при этом квантование может снижать точность по сравнению с исходной моделью, а применение вне экосистемы MLX и Apple Silicon может быть ограничено. Модель распространяется по лицензии MIT.

bartowski/DeepSeek-V2.5-1210-GGUF — это набор квантованных версий языковой модели DeepSeek-V2.5-1210, разработанной DeepSeek и подготовленной в формате GGUF для запуска через llama.cpp и совместимые приложения. Модель предназначена для генерации текста и локального инференса; README указывает pipeline_tag text-generation. Доступны варианты квантования от Q8_0 до Q2_K и IQ-квантов, что позволяет выбирать между качеством, размером файлов и требованиями к памяти. Размеры отдельных вариантов составляют примерно от 76,92 до 250,62 ГБ, многие версии являются разделёнными файлами. Сильной стороной набора является широкий выбор квантований, включая варианты, рекомендованные автором как обеспечивающие высокое или хорошее качество, а также версии, оптимизированные для ARM или AVX. Ограничения связаны с очень большим объёмом модели, снижением качества при низких уровнях квантования и необходимостью использовать параметр --no-context-shift либо эквивалентную настройку для корректной политики переполнения контекста. Формат prompt должен соответствовать шаблону DeepSeek, приведённому в README. Архитектура, число параметров, поддерживаемые языки, модальности и размер контекста в предоставленных данных не указаны. Лицензия обозначена как deepseek; ссылка ведёт на лицензию модели DeepSeek.

sentence-transformers/distilbert-base-nli-stsb-mean-tokens — модель Sentence-Transformers, обученная командой Sentence-Transformers на основе DistilBERT. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель использует архитектуру DistilBERT с усреднением контекстных представлений; максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, сравнения предложений и группировки текстов. Карточка помечает её как устаревшую и предупреждает о низком качестве эмбеддингов, поэтому для новых проектов рекомендуется выбрать более современную модель. Лицензия — Apache-2.0.

DistilQwen2-7B-Instruct — дистиллированная языковая модель Alibaba PAI на архитектуре Qwen2, созданная на основе Qwen2-7B-Instruct. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и генерирует текст; карточка демонстрирует использование в диалоговом формате. Длина контекста — 32 768 токенов. Модель предназначена для следования инструкциям и диалоговых сценариев. Для дистилляции использованы открытые наборы Magpie, OpenHermes и Mammoth 2, а также синтетические данные; основная часть инструкций была на китайском и английском языках. README сообщает об оценивании на AlpacaEval, MT-Bench и IFEval. Репозиторий содержит веса в формате safetensors. Сведения о лицензии в предоставленных данных отсутствуют.

dolphin-2.0-mistral-7b-Mistral-7B-Instruct-v0.1 — чат-модель на архитектуре Mistral с 7,1 млрд параметров, созданная объединением mistralai/Mistral-7B-Instruct-v0.1 и cognitivecomputations/dolphin-2.0-mistral-7b методом SLERP. Конфигурация указывает диапазон слоёв 0–32 для обеих моделей и формат весов bfloat16. Модель предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Она принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов, язык в карточке — английский. Репозиторий содержит веса в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не приводит оценок качества или подробных ограничений; качество ответов может зависеть от формулировки запроса и задач, на которых проверяется модель.

much1na/ettin-encoder-17m-v3-vendor-embeddistill-v2 — компактная текстовая модель Sentence Transformer для поиска по смыслу и извлечения релевантных документов. Она преобразует предложения и абзацы в плотные векторы размерностью 768, которые можно сравнивать косинусным сходством. Архитектура основана на ModernBERT, содержит 16,8 млн параметров и принимает последовательности длиной до 7999 токенов по метаданным; в README заявлено ограничение 8192 токена. Модель обучена на 483 497 примерах msmarco-embed-dense_on-triples-v3 с использованием EmbedDistillLoss. Её можно применять для векторного поиска, подбора документов к запросу и построения семантического поиска; в карточке приведены результаты оценки на англоязычных наборах NanoBEIR и отдельных наборах извлечения информации. Модель принимает текст и выдаёт векторы эмбеддингов. Данные указывают на англоязычное обучение и оценивание, поэтому пригодность для других языков не подтверждена. Лицензия в предоставленных данных не указана.

EXAONE-3.5-7.8B-Instruct-AWQ — инструкционно дообученная двуязычная языковая модель, разработанная LG AI Research. Она предназначена для генерации текста, диалоговых сценариев и общего использования в качестве виртуального ассистента на английском и корейском языках, включая задачи с длинным контекстом до 32 768 токенов. Модель поддерживает системные промпты и может запускаться в Transformers, TensorRT-LLM, vLLM, SGLang, llama.cpp и Ollama. Модель содержит 7,8 млрд параметров, из которых 6,98 млрд указаны без учёта эмбеддингов, 32 слоя и словарь размером 102 400 токенов. В архитектуре внимания используется GQA с 32 Q-головами и 8 KV-головами. Данная версия содержит AWQ-квантизацию весов в формате W4A16g128: 4-битную групповую квантизацию без квантизации активаций, что снижает требования к памяти и подходит для более эффективного развёртывания. К сильным сторонам относятся поддержка английского и корейского языков, длинного контекста и оптимизированного квантизованного инференса. Ограничения включают возможную генерацию вредного, предвзятого, фактически неверного или синтаксически некорректного текста; модель также не располагает актуальными сведениями и может выдавать ответы, противоречащие действительности. Модель распространяется по лицензии EXAONE AI Model License Agreement 1.1 - NC, предусматривающей некоммерческое использование.

Excalibur-7b — плотная языковая модель семейства Mistral с 7,1 млрд параметров, созданная InferenceIllusionist с помощью слияния нескольких моделей через mergekit и метод SLERP. В состав слияния вошли merlinite-7b, Magic-Dolphin-7b, Kunoichi-DPO-v2-7B, Monarch-7B и jaskier-7b-dpo-v6.1. Модель предназначена для генерации текста, диалогов и ответов на вопросы; автор особо настраивал процесс слияния с прицелом на результаты MMLU. Контекст модели составляет 32 768 токенов. В README приведены результаты на наборах Open LLM Leaderboard: средний балл 73,6, включая MMLU 65,66 и GSM8K 68,61. Для обработки изображений автор указывает необходимость дополнительного файла mistral-7b-mmproj-v1.5-Q4_1.gguf; это отдельная настройка для совместимого GGUF-запуска, а не основная текстовая модальность указанной модели. Репозиторий распространяется под лицензией Apache-2.0.

F2LLM-v2-4B-Preview — многоязычная модель эмбеддингов от CodeFuse AI, дообученная на базе Qwen3-4B. Она обучена на корпусе из 27 миллионов примеров и предназначена для получения текстовых векторных представлений, которые можно использовать в задачах поиска, сопоставления и других сценариях с эмбеддингами. Это базовая preview-версия без инструкционного обучения, рассчитанная на дальнейшую настройку под конкретные задачи. Модель имеет плотную архитектуру Qwen3 и около 3,7 млрд параметров; максимальный контекст составляет 40 960 токенов. README сообщает о данных более чем на 100 естественных и программных языках, а метаданные перечисляют поддерживаемые языки карточки, включая русский и английский. Доступны веса в формате Safetensors и использование через Transformers или Sentence Transformers. Лицензия — Apache-2.0.

Systran/faster-whisper-base — конверсия модели распознавания речи Whisper base от OpenAI в формат CTranslate2, подготовленная для использования в CTranslate2 и проектах на его основе, включая faster-whisper. Модель принимает аудио и выполняет распознавание речи; карточка указывает поддержку многих языков, в том числе русского, английского, китайского, немецкого, испанского, французского и японского. Веса сохранены в FP16; при загрузке тип вычислений можно изменить параметром compute_type в CTranslate2. Репозиторий предназначен для запуска модели в совместимом программном окружении. Лицензия — MIT.

Это конверсия модели deepdml/whisper-large-v3-turbo в формат CTranslate2, опубликованная aTrain-core. Она предназначена для распознавания речи и используется через CTranslate2 и совместимые проекты, в том числе faster-whisper. Веса сохранены в FP16; при загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Метаданные указывают поддержку множества языков, включая русский и английский. Для использования модели требуется совместимое программное обеспечение на основе CTranslate2. Лицензия репозитория — MIT.

thetayne/finetuned_model_0613 — англоязычная модель Sentence Transformers, дообученная на базе BAAI/bge-base-en-v1.5 для сравнения текстовых фрагментов. Она использует BERT с пулингом CLS-токена и нормализацией эмбеддингов; векторное представление имеет размерность 768, максимальная длина входа — 512 токенов, сходство оценивается косинусной мерой. Модель обучалась на 1 625 парах предложений с функцией CosineSimilarityLoss и предназначена для семантического поиска, поиска перефразировок, кластеризации и сравнения предложений; её векторы также можно применять в задачах классификации. В README приведены результаты оценки семантического сходства для размерностей от 64 до 768. Лицензия Apache-2.0. Модель принимает текст и выдаёт нормализованные векторы; обучение на небольшой выборке означает, что её пригодность для конкретного домена и задач следует проверять отдельно.

Карточка модели DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_90000 на Hugging Face совпадает с карточкой DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_50000, поэтому описание составлено по ней. DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_50000 — модель на базе RoBERTa, разработанная как sentence-transformers-модель для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и других задач сравнения текстовых представлений. В метаданных указаны 151,8 млн параметров, контекст до 514 токенов и формат весов safetensors. Модель принимает текст и выдаёт векторные представления; для использования доступны Sentence-Transformers и Transformers с соответствующей операцией pooling. В README указано обучение с MarginDistillationLoss. Сведений о поддерживаемых языках, лицензии и ограничениях качества в предоставленных источниках нет.

Gemma-3-4b-it-MAX-NEO-Imatrix-GGUF — GGUF-квантизированная версия инструкционной модели Google Gemma 3 4B, опубликованная DavidAU. Модель предназначена для генерации текста, диалогов, выполнения пользовательских инструкций, творческого письма и других общих сценариев использования языковых моделей. Заявлен контекст до 128 000 токенов. Ключевая особенность версии — сочетание квантизации с сохранением embedding- и output-тензоров в формате BF16 («MAXED») и специализированного imatrix-набора «NEO IMATRIX», разработанного DavidAU. По заявлению автора, это должно улучшать следование инструкциям, качество ответов и связность идей по сравнению с обычными квантами. Доступны варианты от IQ1_S до Q8_0; для творческих задач рекомендуются IQ3S, IQ4XS, IQ4NL и Q4, для общего использования — Q5, Q6 и Q8, а для портативных устройств — Q4_0 и Q5_0. Разные варианты квантов могут заметно различаться по качеству и характеру вывода. Модель ориентирована на локальный запуск и позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. README приводит пример производительности около 56 токенов в секунду для IQ4XS на видеокарте среднего уровня, но фактические показатели зависят от оборудования и настроек. Ограничения включают снижение качества у наиболее компактных квантов, различия в результатах между Q- и IQ-вариантами, а также необходимость подбора параметров генерации. Лицензия — Apache 2.0.

gemma-4-E2B-it-Uncensored-MAX-GGUF — языковая модель с поддержкой изображений, разработанная prithivMLmods на основе google/gemma-4-E2B-it. Это instruction-tuned и alignment-modified вариант, предназначенный для генерации текста, подробных ответов, следования инструкциям, reasoning и агентских сценариев. Модель также позиционируется для запуска через llama.cpp, vLLM и другие совместимые инструменты, поддерживающие формат GGUF. Модель относится к классу MoE и имеет 2 млрд параметров согласно описанию. Заявлен английский язык. Наличие файлов mmproj указывает на поддержку обработки изображений, однако подробные сведения о визуальной архитектуре, размере контекста и точном наборе поддерживаемых модальностей не приведены. Доступны варианты BF16, F16, F32 и Q8_0 размером примерно от 4,95 до 18,6 ГБ, а также соответствующие мультимодальные компоненты. Ключевая особенность — снижение внутренних отказов от ответа с помощью анализа refusal-направлений и abliteration-based training при сохранении способностей к reasoning и instruction-following. Это может быть полезно для приложений, которым нужны менее ограниченные ответы, но одновременно означает повышенные риски получения небезопасного или нежелательного контента. Качество и требования к ресурсам зависят от выбранной квантизации. Модель распространяется по лицензии Apache-2.0.

GigaChat-20B-A3B-instruct — русскоязычная диалоговая модель семейства GigaChat, представленная ai-sage и дообученная на базе ai-sage/GigaChat-20B-A3B-base. Она предназначена для генерации ответов в диалоге и поддерживает контекст до 131 072 токенов. Модель использует архитектуру DeepSeek и распространяется в формате Safetensors; для семейства также упомянуты веса BF16 и INT8. В карточке приведены результаты сравнительных тестов на общих языковых и математических задачах, включая MERA, ru-MMLU, GSM8K и MATH. Для запуска указана библиотека Transformers версии 4.47 или выше; README предупреждает об особенностях токенизации и не рекомендует приведённый в нём способ предварительного применения chat template. Лицензия модели — MIT.

GPT4-Alpaca-LoRAMLP-65B — модель генерации текста семейства LLaMA, подготовленная на основе LLaMA 65B с помощью LoRA-дообучения MLP-компонентов на наборе alpaca_data_gpt4. Репозиторий TheBloke содержит веса после объединения LoRA с исходной LLaMA 65B; доступны варианты для GPU и CPU, включая квантованные сборки в отдельных репозиториях. В этой карточке указаны веса PyTorch для Transformers: 65 млрд параметров и контекст до 2048 токенов. Модель предназначена для диалоговых и инструкционных сценариев: она принимает текстовые инструкции и генерирует ответы. В README описан обучающий чекпойнт, полученный через LoRA на данных Alpaca GPT-4; это не означает, что ответы эквивалентны GPT-4. Для репозитория указана лицензия other, поэтому условия использования следует сверить с исходной лицензией LLaMA и правилами распространения этой сборки.

INF-Retriever-v1 — плотная модель поиска по тексту на основе LLM, разработанная INF TECH. Она дообучена на Alibaba-NLP/gte-Qwen2-7B-instruct для извлечения релевантных документов и семантического поиска, особенно по англоязычным и китайскоязычным данным. Модель формирует текстовые эмбеддинги размерности 3584; архитектура — Qwen2, размер — 7,1 млрд параметров. В метаданных указан контекст до 131 072 токенов, а в README заявлен максимальный вход в 32 768 токенов. Модель предназначена для поиска по разнородным коллекциям документов и может использоваться как компонент поисковой системы или RAG-конвейера: запросы и документы кодируются в векторы, которые затем сравниваются по близости. README сообщает о результатах на AIR-Bench, включая первое место в версиях 24.04 и 24.05 на момент публикации результатов. Основная настройка — английский и китайский языки; заявлена также эффективность на других языках. Доступны веса в формате safetensors, поддерживаются Sentence Transformers и Transformers. Лицензия — Apache-2.0. Это модель для получения эмбеддингов и поиска, а не генератор ответов; заявленные результаты бенчмарков не гарантируют аналогичного качества на конкретной коллекции, а наиболее явно подтверждена настройка для английского и китайского языков.

InternVL3-8B — мультимодальная модель OpenGVLab для диалога по тексту и визуальным данным. Она построена по схеме ViT-MLP-LLM: использует InternViT-300M-448px-V2_5 как визуальную часть и Qwen2.5-7B как языковую; число параметров — около 8 млрд по названию модели. Репозиторий содержит дообучение OpenGVLab/InternVL3-8B-Instruct на наборе MMPR-v1.2. Модель распространяется в формате Safetensors и использует библиотеку Transformers. Модель предназначена для вопросов и рассуждений по изображениям, нескольким изображениям и видео, а также для обычного текстового общения. В карточке семейства также заявлены сценарии GUI-агентов, анализа промышленных изображений, понимания 3D-сцен и работы с инструментами. Динамическое разбиение изображений на тайлы 448×448 и кодирование визуальных позиций V2PE помогают обрабатывать изображения разного разрешения и длинные мультимодальные последовательности. Карточка описывает семейство как мультиязычное, но не перечисляет отдельные языки. Модель выпущена под лицензией Apache-2.0. Результаты зависят от качества входных изображений и формулировки запроса; обработка нескольких изображений увеличивает расход контекстных токенов. Для видео и инструментов конкретные ограничения и гарантии в карточке не приведены.

Jais Family 30B 8K — плотная авторегрессионная языковая модель семейства Jais, опубликованная Inception Institute of Artificial Intelligence. Модель предназначена для генерации текста на арабском и английском языках; семейство оптимизировано для арабского и сохраняет сильные возможности английского. В карточке семейства указано, что модели этого варианта предварительно обучались с нуля, а базовые версии дообучались для диалога; конкретно этот репозиторий не обозначен как чат-вариант. Модель подходит для генерации и продолжения текста, ответов на вопросы, классификации тональности и обработки двуязычных документов, включая их краткое изложение. Архитектура — плотная модель JAISLMHeadModel на PyTorch, размер 30 млрд параметров, контекстное окно — 8192 токена. Для загрузки требуется пользовательский класс модели с включением trust_remote_code. Лицензия — Apache 2.0. Модель может ошибаться, воспроизводить предвзятость или выдавать оскорбительный контент; она не предназначена для критически важных решений без контроля человека и для работы с конфиденциальными данными. Уровень владения другими языками и диалектами не следует считать сопоставимым с арабским и английским.

JetlinkSTT-v1.0-7B — многоязычная модель распознавания речи, размещённая Jetlink как управляемая организацией копия модели семейства Qwen3-ASR. Метаданные указывают на дообучение Qwen/Qwen3-ASR-1.7B; модель принимает аудио и предназначена для преобразования речи в текст и определения языка. Модель поддерживает потоковую и офлайн-обработку, длинные записи, пакетный запуск и сценарии транскрибации. В README заявлена устойчивость к шуму, сложным речевым паттернам и пению, в том числе под музыку. Указана поддержка 52 языков и диалектов исходным семейством, включая русский, английский, китайский и другие перечисленные языки. Модель подходит для транскрибации звонков и встреч, создания субтитров, голосовых помощников и аналитики речи. Практическая производительность и требования к памяти зависят от оборудования, длительности аудио, пакетного размера, конкуренции запросов и выбранного серверного ПО. Для юридических, медицинских и критически важных сценариев README рекомендует проверку человеком. Лицензия — Apache-2.0.

jina-reranker-m0 — мультиязычная мультимодальная модель ранжирования от Jina AI. Она оценивает релевантность документов запросу и сортирует их по полученным оценкам. Модель построена на архитектуре vision-language модели Qwen2-VL-2B-Instruct, дообучена с помощью LoRA и использует дополнительную MLP-голову для выдачи оценок релевантности. В метаданных указаны 1,5 млрд параметров и контекст до 32 768 токенов; README сообщает о поддержке документов длиной до 10 тыс. токенов и изображений вплоть до разрешения 4K. Модель предназначена для поиска по визуально насыщенным документам: страницам с текстом, таблицами, графиками, инфографикой и сложной вёрсткой. Она также ранжирует текстовые документы, включая длинные тексты и результаты поиска по коду. README заявляет поддержку более 29 языков и перенос на новые предметные области без специальной донастройки. Вход включает текстовые запросы и текстовые или визуальные документы, выход — оценки и упорядоченный список документов. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Размер параметров в README и метаданных различается: в README приведено 2,4 млрд, а в метаданных — 1,5 млрд.

Carnice-V3-GGUF — это квантизированная GGUF-версия модели Carnice-V3, разработанной kai-os и подготовленной bartowski с использованием llama.cpp. Модель рассчитана на задачи генерации текста, агентские сценарии и взаимодействие с инструментами; в метаданных также указана поддержка image-text-to-text и тегов tool-use и agent. Модель содержит 28 млрд параметров и принимает текст, а также изображения при использовании специального mmproj-файла. Поддерживается английский язык. Доступны speculative decoding через MTP и квантизация с imatrix. Представлено множество вариантов квантизации от BF16 и Q8_0 до более компактных Q2/Q3/Q4/Q5/Q6, что позволяет выбирать баланс между качеством, размером файла и требованиями к памяти. Для большинства сценариев автор рекомендует Q4_K_M как сбалансированный вариант, а Q6_K и Q6_K_L — для более высокого качества. К сильным сторонам относятся большой размер, мультимодальный ввод, поддержка агентских задач и инструментов, а также широкий выбор квантизаций. Ограничениями являются значительный объём файлов, необходимость совместимого ПО на базе llama.cpp и mmproj-файла для обработки изображений; качество также зависит от выбранного уровня квантизации. Модель распространяется по лицензии Apache-2.0.

KangalKhan-RawEmerald-7B — языковая модель для диалогов и генерации текста, созданная Yuma42. Это слияние моделей argilla/CapybaraHermes-2.5-Mistral-7B и argilla/distilabeled-OpenHermes-2.5-Mistral-7B с помощью LazyMergekit. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров; заявленная длина контекста — 32 768 токенов. Модель предназначена для общения в формате ChatML, ответов на вопросы и генерации текста. В карточке приведены результаты оценки на Open LLM Leaderboard. Автор предупреждает, что варианты GGUF от стороннего автора могут иногда выдавать опечатки и рекомендует в таком случае вариант Q4_K_S GGUF. Модель распространяется по лицензии Apache-2.0.

LFM2.5-1.2B-Thinking-MLX-bf16 — версия модели рассуждений Liquid AI, подготовленная командой LM Studio Community на базе LFM2.5-1.2B-Thinking. Это плотная авторегрессионная модель семейства LFM2 с примерно 1,5 млрд параметров, представленная в исходной точности bfloat16 в формате safetensors и адаптированная для запуска на Apple Silicon через MLX. Модель предназначена для генерации текста в диалогах, задач рассуждения и агентных сценариев; метаданные также указывают интерфейс вызова инструментов. Она принимает текст и выдаёт текст, поддерживает контекст до 128 000 токенов. В карточке указаны английский, арабский, китайский, французский, немецкий, японский, корейский и испанский языки. Компактный размер и оптимизация MLX подходят для локального запуска на устройствах Apple Silicon. Репозиторий указывает лицензию «other», поэтому конкретные условия использования следует сверять с лицензией исходной модели.

Lite-Whisper large-v3-acc — сжатая версия мультиязычной модели распознавания речи Whisper large-v3 от OpenAI, разработанная с использованием LiteASR. Она предназначена для преобразования речи в текст. В оценке на наборах данных ESB модель показала средний WER 10,1 — такой же, как у Whisper large-v3; размер энкодера составляет 429 млн параметров против 635 млн у исходной модели, а декодера — 907 млн. Модель построена на архитектуре LiteWhisperForConditionalGeneration и содержит 905,2 млн параметров. Она принимает аудио и выдаёт текст; базовая модель поддерживает многоязычную транскрибацию и перевод аудио в текст. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия — Apache-2.0.

Llama-3-8B-Instruct-GGUF — квантизированная GGUF-версия языковой модели Meta-Llama-3-8B-Instruct, разработанной Meta. Квантизацию выполнила Second State Inc. Модель предназначена для генерации текста и диалогового взаимодействия с использованием шаблона запросов llama-3-chat, а также для локального запуска через llama.cpp и LlamaEdge. Модель относится к архитектуре Llama и содержит 8 миллиардов параметров. Это текстовая модель с поддержкой английского языка и контекстом до 8192 токенов. Доступны варианты квантизации от 2 до 8 бит, а также версия f16; размеры файлов составляют примерно от 3,18 до 16,1 ГБ. Вариант Q4_K_M позиционируется как сбалансированный по качеству и размеру, а Q5_K_M и Q5_K_S — как варианты с небольшими потерями качества. Основные преимущества модели — относительно компактный размер, возможность локального развертывания и выбор между несколькими уровнями квантизации. Существенным ограничением является потеря качества у низкобитных вариантов, особенно Q2 и Q3; README также не содержит результатов бенчмарков или подробных сведений о безопасности и ограничениях применения. Указана лицензия Llama 3 с обозначением llama3; условия использования следует уточнять в лицензии Meta.