I.3Извлечение и структурирование данных
В разделе собраны самостоятельные задачи, где AI помогает превращать разрозненные данные в структуру, пригодную для поиска, аналитики и автоматизации. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
25 791 модельCalme-12B-Instruct-v0.1-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, созданный и квантизированный MaziyarPanahi. Модель основана на MaziyarPanahi/Calme-12B-Instruct-v0.1 и относится к семейству Mistral; размер исходной модели составляет около 12 миллиардов параметров. Вариант предназначен для использования с llama.cpp и совместимыми приложениями и библиотеками, включая локальные графические интерфейсы и серверы инференса. Модель ориентирована на выполнение инструкций и диалоговые сценарии, генерацию текста и локальный запуск с поддержкой CPU и GPU в зависимости от используемого программного обеспечения. Доступны варианты квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K, что позволяет выбирать компромисс между требованиями к памяти, скоростью и качеством. Формат поддерживает текстовую модальность; сведения о языках и размере контекстного окна в README не указаны. Основные преимущества — наличие нескольких уровней квантизации и широкая совместимость с экосистемой GGUF, благодаря чему модель можно запускать локально на различных конфигурациях. К ограничениям относятся потенциальная потеря качества при более сильной квантизации, а также отсутствие в предоставленных данных бенчмарков, подробных характеристик архитектуры, языковой поддержки и контекстного окна. Модель распространяется по лицензии Apache-2.0.
Capybara Tess Yi 34B 200K DARE Ties GGUF — это квантизированная языковая модель для генерации текста, созданная на основе модели brucethemoose Capybara Tess Yi 34B 200K DARE Ties. Исходную модель разработал brucethemoose, а преобразование в формат GGUF выполнил TheBloke. Модель относится к семейству Yi и предназначена для текстового взаимодействия, генерации ответов и других сценариев, поддерживаемых системами text-generation. Модель имеет размер 34B параметров и рассчитана на работу с текстом; в карточке указан английский язык. Файлы представлены в формате GGUF, поддерживаемом llama.cpp и рядом совместимых приложений и библиотек, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты для CPU- и GPU-инференса. Доступны варианты с различными уровнями квантизации от 2 до 8 бит, что позволяет выбирать между требованиями к памяти, скоростью и качеством. В README приведён шаблон запросов Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. К сильным сторонам относятся большой размер модели, возможность локального запуска и широкий выбор уровней квантизации. Ограничения включают зависимость качества и скорости от выбранной квантизации и аппаратной конфигурации; точные показатели производительности, перечень поддерживаемых языков помимо английского и фактический размер контекстного окна в README не указаны. Модель распространяется по лицензии yi-license; в метаданных она обозначена как other, а полный текст лицензии доступен по ссылке на лицензию Yi-34B.
IanLi233/Cautious_Qwen — дообученная модель Qwen2.5-7B, опубликованная в формате SafeTensors и подготовленная с помощью Unsloth. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель примерно на 7,1 млрд параметров; заявленная длина контекста составляет 131 072 токена. Карточка не раскрывает обучающие данные, конкретные сценарии дообучения, языки, разработчика и лицензию. Поэтому область, в которой модель особенно надёжна, определить нельзя; ответы следует проверять, особенно при использовании в важных решениях. Базовая модель указана в README как Qwen2.5-7B.
Claude 3 Haiku — компактная и наиболее быстрая модель семейства Claude 3, разработанная компанией Anthropic. Она предназначена для сценариев, где важны почти мгновенная реакция и точное выполнение специализированных запросов. Модель заявлена как мультимодальная, однако в доступных данных не приведены сведения о конкретных поддерживаемых модальностях, архитектуре, размере, языках, длине контекста или лицензии. README также не содержит подробного описания ограничений и условий использования.
CLM-1B-DARE — компактная языковая модель на архитектуре Llama, созданная слиянием весов через mergekit методом DARE TIES. В качестве основы использована meta-llama/Llama-3.2-1B-Instruct; в слияние также вошли FuseAI/FuseChat-Llama-3.2-1B-SFT и ai-nexuz/llama-3.2-1b-instruct-fine-tuned. Модель содержит около 1,2 млрд параметров и рассчитана на контекст до 131 072 токенов. Модель предназначена для диалогов и генерации текста, включая ответы на запросы и помощь в написании. Метаданные отмечают интерфейс вызова инструментов; сама возможность зависит от поддерживающей его обвязки. Репозиторий использует формат safetensors, а в конфигурации слияния указан тип данных bfloat16. Модель опубликована под лицензией Llama 3.2 Community License.
CollectiveCognition-v1.1-Mistral-7B-Mistral-7B-Instruct-v0.1 — объединённая чат-модель MaziyarPanahi на архитектуре Mistral, созданная слиянием Mistral-7B-Instruct-v0.1 и teknium/CollectiveCognition-v1.1-Mistral-7B методом SLERP. Модель содержит 7,1 млрд параметров, принимает текстовые инструкции и диалоговые запросы и генерирует текстовые ответы на английском языке. Нативная длина контекста — 32 768 токенов. Модель подходит для диалоговых ассистентов и выполнения инструкций. В репозитории представлены веса safetensors в формате bfloat16. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества или подробных рекомендаций по применению, поэтому пригодность для конкретной задачи следует проверять отдельно.
vicgalle/Configurable-Mistral-7B — диалоговая языковая модель на архитектуре Mistral, опубликованная пользователем vicgalle на Hugging Face и дообученная на наборе configurable-system-prompt-multitask. Она предназначена для генерации текста в формате чата с настраиваемыми системными инструкциями и выполнения связанных с ними задач. Модель содержит около 7,1 млрд параметров, принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. В карточке не уточнены поддерживаемые языки и результаты оценки качества. Модель распространяется по лицензии Apache-2.0.
Это GGUF-квантизированная версия conversational-модели datagemma-rig-27b-it, исходно разработанной Google. Релиз подготовлен пользователем legraphista с применением llama.cpp и предназначен для локального запуска и генерации текста в диалоговых сценариях. В основе лежит модель размером 27 млрд параметров в формате BF16; исходная карточка указывает текстовую генерацию, но не сообщает поддерживаемые языки и размер контекстного окна. Доступны варианты от BF16 и FP16 до Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и Q2_K, включая форматы IQ. Квантизация позволяет выбирать компромисс между качеством, размером файла и требованиями к памяти: размеры файлов варьируются примерно от 10,45 до 54,46 ГБ. Для ряда вариантов применена IMatrix-квантизация, рассчитанная на сохранение качества при уменьшенной точности; BF16, FP16, Q8_0 и Q6_K используют статические варианты без IMatrix. Модель предназначена для работы через llama.cpp и совместимые инструменты, однако конкретные системные требования и показатели качества в README не указаны. Использование регулируется лицензией Gemma от Google; для доступа на Hugging Face требуется принять условия лицензии. Ограничения, связанные с безопасностью, точностью ответов и конкретными сценариями применения исходной модели, в представленных данных не описаны.
Это пакет слоёв модели DeepSeek-R1-Distill-Qwen-32B в формате GGUF Q4_K_M, подготовленный Mesh LLM для распределённого запуска. Он сохраняет разбиение исходного GGUF на отдельные артефакты по слоям и предназначен для инференса на локальном кластере из нескольких машин, когда полной модели недостаточно разместить на одном узле. Пакет подходит для приватного локального чата и для работы через локальный API Mesh LLM с совместимым с OpenAI интерфейсом chat completions. Репозиторий указывает исходную модель unsloth/DeepSeek-R1-Distill-Qwen-32B-GGUF и вариант квантования Q4_K_M. Сведения об архитектуре, контекстном окне, языках и условиях лицензии следует сверять с карточкой исходной модели; в предоставленных данных они не раскрыты.
DeepSeek-V2.5-IMat-GGUF — это GGUF-квантизованная версия модели DeepSeek-V2.5, разработанной DeepSeek и подготовленной для распространения пользователем legraphista. Модель предназначена для генерации текста и локального запуска с использованием llama.cpp и совместимых инструментов. В качестве исходной использована версия в формате BF16, а квантизация выполнена с помощью llama.cpp b3675. В репозитории доступны варианты квантизации Q8_0, Q6_K, Q5_K, Q4_K, IQ4, Q3, IQ3, Q2 и IQ2 с размерами файлов примерно от 69,87 до 250,62 ГБ; файлы поставляются разделёнными на части. Для большинства вариантов применена IMatrix-квантизация, которая призвана эффективнее сохранять качество при уменьшении размера модели, тогда как Q8_0 и Q6_K используют статическую квантизацию. Конкретные архитектурные параметры, поддерживаемые языки, модальности и размер контекста в README не указаны. Сильная сторона сборки — широкий выбор уровней квантизации и совместимость с экосистемой GGUF и llama.cpp, что позволяет подбирать компромисс между требованиями к памяти и качеством генерации. Ограничениями являются очень большой размер даже наиболее компактных вариантов, необходимость работы с разделёнными файлами и возможная потеря качества на низких уровнях квантизации. Модель распространяется по лицензии DeepSeek; указана лицензия other со ссылкой на LICENSE-MODEL исходной модели.
DeepSeek-V4.1-Flash-MixedQ2-GGUF — это квантизированный GGUF-артефакт модели DeepSeek-V4.1-Flash от deepseek-ai, опубликованный пользователем apetersson. Модель предназначена для генерации текста и запуска в совместимых средах, поддерживающих архитектуру DeepSeek V4.1 и смешанные GGUF-квантизации. Это модель с маршрутизацией экспертов: 543,581,798,400 маршрутизируемых весов занимают около 152,88 ГБ, а общий размер пяти GGUF-файлов составляет 169,92 ГБ. Языки, размер контекстного окна и точная информация о поддерживаемых модальностях в README не указаны. Для проекций gate/up используется IQ2_XXS с эффективной точностью 2,0625 бита на вес, для down — Q2_K с 2,625 бита на вес; остальные тензоры сохраняют нативную или преобразованную точность BF16/F32. Квантизация не основана на калибровке активациями и использует единичный вектор важности, поэтому она экономит память, но может уступать калиброванным вариантам по качеству. Структурная проверка всех пяти шардов прошла успешно, а CPU-ядро показало косинусное сходство 0,99998 с деквантизированным эталоном. Артефакт рассчитан на мощное оборудование: заявлена работа на одной B200 180 ГБ или B300 288 ГБ с размещением Engram-таблиц в оперативной памяти; также указаны конфигурации с несколькими RTX PRO 6000. На момент публикации сквозной запуск в SGLang ещё ожидал повторной проверки после добавления config.json и токенизатора, llama.cpp не поддерживал загрузку файлов V4.1, а официальный путь GGUF в vLLM не имел карты тензоров DeepSeek. В состав не входят Engram-таблицы, блоки MTP/DSpark и vision/aligner-тензоры, поэтому совместимость среды и комплектность дополнительных файлов необходимо проверять отдельно. Лицензия — MIT.
DeepSeek V4 Flash 0731 — DS4 Quality128 — это квантованный GGUF-вариант официальной модели DeepSeek-AI DeepSeek-V4-Flash-0731, подготовленный apetersson. Модель предназначена для генерации текста и работы в среде DS4, прежде всего на компьютерах Apple Silicon с 128 ГБ памяти. Основной файл содержит 43-слойную MoE-архитектуру примерно на 284,33 млрд логических параметров и заявленный обучающий контекст до 1 048 576 токенов. Поддерживаемые языки и мультимодальные возможности в README не указаны. Квантование ориентировано на сохранение качества: часть чувствительных экспертных тензоров хранится в нативном MXFP4, другие экспертные слои используют IQ2_XXS и Q2_K с калибровкой по importance matrix, а attention, общие эксперты и выходная голова — Q8_0. В комплект также входит необязательная трёхэтапная DSpark-модель для speculative decoding; она не является самостоятельной и должна загружаться вместе с целевой моделью. Совокупный размер двух GGUF-файлов составляет около 102,56 ГиБ. Сильными сторонами являются прямое квантование официальных весов без поведенческой модификации, сохранение нативных MXFP4-тензоров и приоритет качества на наиболее чувствительных компонентах. Ограничения связаны с высокими требованиями к памяти и необходимостью свежей версии DS4 из основной ветки. Структурная проверка CPU завершена, однако генерация через Metal, работа DSpark, производительность, пиковое потребление памяти и фактическая работа с контекстом в миллион токенов для этого артефакта ещё не подтверждены. Лицензия — MIT.
mlx-community/dolphin-vision-72b-4bit — 71,5-миллиардная мультимодальная чат-модель семейства LLaVA-Qwen2, преобразованная сообщественным проектом mlx-community в формат MLX из cognitivecomputations/dolphin-vision-72b. Она принимает текст и изображения и генерирует текст; подходит для диалога, ответов на вопросы по изображениям и общих задач генерации текста. Модель основана на Qwen/Qwen2-72B, дообученной на инструкционных и диалоговых данных, включая Dolphin, OpenHermes, наборы для программирования, математики и вызова функций. Заявленная длина контекста — 131 072 токена. Репозиторий предназначен для использования с mlx-vlm на устройствах Apple, а веса представлены в 4-битном варианте. README ссылается на исходную карточку для подробностей; метаданные указывают лицензию как other, поэтому конкретные условия следует уточнять в исходной карточке и файлах лицензии. Качество ответов по изображениям и поддержка отдельных возможностей зависят от исходной модели и реализации; это крупная модель, требующая значительных ресурсов.
DPOpenHermes-7B-v2-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель MaziyarPanahi, полученная слиянием Mistral-7B-Instruct-v0.2 и DPOpenHermes-7B-v2 методом SLERP. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы. Модель построена на архитектуре Mistral с плотной архитектурой и содержит 7,1 млрд параметров. Она работает с текстом, поддерживает чат и принимает контекст длиной до 32 768 токенов. В репозитории доступны веса в формате Safetensors. Модель подходит для диалоговых помощников и генерации ответов по пользовательским инструкциям. Карточка не приводит отдельных оценок качества или специальных ограничений. Лицензия — Apache-2.0.
Elysium2.1-11b — объединённая модель для генерации текста, созданная powermove72 с помощью LazyMergekit. При слиянии методом passthrough использованы слои 0–24 модели powermove72/Trinity_Notus-xb и слои 25–49 модели powermove72/GreenScorpius-xb-Passthrough. Модель построена на плотной архитектуре Mistral с 11 млрд параметров и контекстом до 32 768 токенов. Она предназначена для генерации текста и диалоговых ответов на входные текстовые запросы. Репозиторий содержит веса в формате Safetensors; в конфигурации слияния указан тип bfloat16. Лицензия в предоставленных данных не указана.
Модель Michelhe/everycli-minilm-ft-boosted — дообученный Sentence Transformer на базе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2, разработанный для поиска и сопоставления текстов. Она преобразует предложения и абзацы в плотные векторы размерности 384; сходство между ними можно оценивать по cosine similarity. Архитектура состоит из BERT-энкодера с mean pooling, работает только с текстом и использует библиотеку Sentence Transformers. Модель обучена на 1 104 парах предложений с помощью MultipleNegativesRankingLoss. Примеры обучающих данных связаны с командами и задачами CLI, поэтому модель подходит для поиска команд по описанию и извлечения релевантных фрагментов в сценариях retrieval. Максимальная длина последовательности в README — 128 токенов; метаданные каталога указывают нативный контекст 512 токенов. Лицензия в предоставленных данных не указана.
Experiment28M7_T3qm7xStrangemerges_32 — объединённая языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием automerger/Experiment28M7-7B и automerger/T3qm7xStrangemerges_32-7B и предназначена для генерации текста. Модель принимает текст и выдаёт текст, поддерживая контекст до 32 768 токенов. Модель доступна в формате safetensors по лицензии Apache-2.0. Карточка не описывает специальные предметные области или подтверждённые языковые специализации; качество и ограничения конкретных сценариев применения не приведены.
Это конверсия модели distil-whisper/distil-large-v2 в формат CTranslate2, подготовленная для использования с CTranslate2 и проектами на его основе, например faster-whisper. Модель предназначена для распознавания речи по аудиозаписям и транскрибирования речи в текст. Веса сохранены в FP16; при загрузке тип вычислений можно выбирать через параметр compute_type в CTranslate2. В карточке указана поддержка английского языка. Репозиторий использует библиотеку CTranslate2, а лицензия — MIT.
Fathom-Synthesizer-4B — языковая модель от FractalAIResearch, дообученная на базе Qwen/Qwen3-4B для синтеза результатов исследований и подготовки развёрнутых отчётов. Она преобразует поисковые и исследовательские трассы в связные отчёты с цитатами: протокол plan-then-write предусматривает декомпозицию вопроса, сопоставление источников с разделами и планирование выводов. Модель предназначена для работы в составе системы Fathom-DeepResearch; для поиска в реальном интернете ей требуется отдельный поисковый сервер и соответствующие инструменты. Модель имеет плотную архитектуру Qwen3ForCausalLM, около 3,7 млрд параметров и контекст до 40 960 токенов. При запуске авторы используют масштабирование YARN с RoPE factor 2.0. Она принимает текст и генерирует текст; README не заявляет отдельную поддержку изображений или иных модальностей. Модель распространяется под лицензией MIT. Карточка не приводит специфических для синтезатора ограничений качества или перечня поддерживаемых языков.
Fikr-7B-Reasoning-GRPO — языковая модель для генерации текста, опубликованная пользователем Hatim2221 на Hugging Face. По метаданным она работает через библиотеку Transformers, относится к семейству Qwen2 и содержит около 7,1 млрд параметров. Название указывает на ориентацию на рассуждения и обучение методом GRPO, однако README не содержит подробностей о процедуре дообучения или результатах оценки. Модель предназначена для задач генерации и продолжения текста, диалоговых сценариев, составления ответов на вопросы и выполнения инструкций в приложениях на базе LLM. Заявленная длина контекста составляет 32 768 токенов, что позволяет обрабатывать достаточно объёмные запросы и документы. В метаданных отмечен conversational-сценарий использования, но поддерживаемые естественные языки явно не перечислены. README не содержит сведений о разработчике, лицензии, обучающих данных, тестах, показателях качества, рекомендуемых параметрах генерации или специальных ограничениях. Поэтому перед применением модель следует самостоятельно проверять на фактические ошибки, нестабильность рассуждений, токсичные или предвзятые ответы и пригодность для конкретной области.
Flan-Alpaca-Base — модель семейства T5, разработанная Declare Lab путём дообучения Flan-T5 на инструкциях Flan и Alpaca. Она предназначена для выполнения текстовых инструкций и генерации ответов, например для написания текстов и решения разнообразных задач по запросу. Модель доступна в форматах PyTorch и Safetensors; метаданные указывают 123,8 млн параметров и контекст до 512 токенов. Модель принимает текст и генерирует текст. Карточка описывает подход к обучению на наборах инструкций, но не приводит оценок качества именно этой версии. Лицензия — Apache-2.0.
Garten2-7B — языковая модель общего назначения, разработанная senseable и основанная на дообученной Mistral-7B-v0.1. Она предназначена для генерации текста, диалога и создания контента. Модель использует плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и имеет контекстное окно 32 768 токенов. В репозитории доступны веса в формате safetensors; библиотека для работы — Transformers. Карточка приводит результаты оценки на бенчмарках рассуждений и понимания текста. Модель поддерживает английский язык. Она распространяется по лицензии Apache-2.0. Карточка не описывает специальные ограничения качества или отдельные прикладные области.
Это квантованная версия Gemma 4 26B A4B IT от Google, опубликованная FreedomAISVR в формате GGUF для запуска через llama.cpp. Основа — инструкцияльная MoE-модель с 26 млрд параметров, около 4 млрд активных параметров, 128 экспертами и выбором 8 экспертов на токен; применена специализированная 4-битная квантизация MXFP4_MOE. Репозиторий также содержит мультимодальный проектор mmproj в F16 для обработки изображений. Модель предназначена для диалогов и следования инструкциям, а с подключённым проектором — для ответов на вопросы по изображениям и их описания. В README заявлены гибридное внимание с локальными и глобальными слоями, отключённый по умолчанию режим рассуждений с возможностью включения в запросе, а также запуск на CPU и GPU. Квантованные веса занимают около 13,72 ГБ, проектор — 1,11 ГБ; README указывает потребность от 8 ГБ RAM и около 15 ГБ дискового пространства. Квантизация рассчитана на более компактный и эффективный запуск MoE-модели при сохранении качества маршрутизации экспертов, однако README не приводит независимых результатов оценки качества. Лицензия — Gemma; использование должно соответствовать её условиям.
YCWTG/gemma-4-31B-it-NVFP4A16-GPTQ — это квантизированная версия мультимодальной instruct-модели google/gemma-4-31B-it, подготовленная с помощью llm-compressor. Модель предназначена для задач, требующих обработки текста и изображений, включая диалоговые сценарии и генерацию ответов по визуально-текстовым запросам. По умолчанию работает в режиме Instruct; также поддерживает режим рассуждений, который необходимо отдельно включить при запуске через vLLM. Модель основана на архитектуре Gemma 4 с 31 млрд параметров и, согласно тегам репозитория, использует MoE-подход. Квантизация выполнена в формате NVFP4A16: основные компоненты сжаты, а lm_head, vision_tower и embed_vision сохранены в 16-битной точности для уменьшения потерь качества при генерации и обработке изображений. Указанный размер модели составляет около 20,5 ГБ, что заметно снижает требования к памяти по сравнению с исходной версией. Сильной стороной модели является сочетание мультимодальности, instruct-режима и сниженного объёма памяти, благодаря чему она подходит для локального или серверного инференса на совместимом оборудовании. Ограничения включают возможные потери качества из-за квантизации, необходимость специальной настройки для режима рассуждений, а также отсутствие в предоставленных данных сведений о поддерживаемых языках и размере контекстного окна. Модель распространяется по лицензии Apache-2.0; при использовании необходимо также соблюдать условия лицензии исходной модели Gemma 4.
fraQtl/Gemma-4-E2B-it-Hi-Fi-GGUF — это GGUF-квантизация модели google/gemma-4-E2B-it, подготовленная fraQtl с использованием calibration-aware per-tensor quantization. Модель предназначена для генерации текста и локального запуска через llama.cpp, в том числе на устройствах с ограниченными ресурсами. Заявлены английский язык, работа без подключения к сети и сценарии edge/on-device. В репозитории представлены варианты Q4_K_M: изоразмерный файл объёмом около 3,46 ГБ с эффективными 5,93 битами на вес и телефонный вариант около 2,86 ГБ с 4,89 битами на вес. По приведённым измерениям, они точнее воспроизводят распределения исходной модели в сравнении с указанным community Q4_K_M baseline. На iPhone 16-класса для демонстрационного сценария заявлены около 516 МБ resident memory, примерно 12 токенов в секунду в интерактивном режиме и 21,6 токена в секунду в тесте генерации на 256 токенов. Модель подходит для офлайн-ассистентов, общих вопросов, генерации кода, чтения документов и работы в приложениях, где действия выполняются отдельным детерминированным программным слоем. В демонстрации поддерживаются голосовой ввод, озвучивание ответов, календарные операции и работа с контактами, однако распознавание речи, синтез речи и фактическая запись событий выполняются компонентами приложения, а не самой языковой моделью. По замыслу отсутствуют сетевые вызовы, доступ к электронной почте и сообщениям; квантизация может снижать точность по сравнению с исходной bf16-моделью. Лицензия — Apache 2.0.
Vibels/georgian-e5-finetuned — дообученная Vibels модель для семантического сравнения предложений и поиска на грузинском языке. Она создана на основе intfloat/multilingual-e5-small и обучена на 65 000 пар из набора Vibels/parallel-corpus_geo_eng_geo-translated. Модель использует архитектуру BERT и выдаёт плотные текстовые эмбеддинги; размер составляет 124,3 млн параметров, контекст — до 512 токенов. Метаданные указывают поддержку sentence-similarity, а README сообщает о бенчмарке GeorgianFAQRetrieval. Модель подходит для поиска ответов в грузинских FAQ, сопоставления запросов с документами и сравнения предложений. Базовая модель многоязычная и предназначена для межъязыкового подбора текстов, однако конкретные результаты дообучения описаны для грузинского. Распространяется по лицензии Apache-2.0.
Gigaberg-Mistral-Large-123B — дообученная языковая модель на архитектуре Mistral, созданная nbeerbower на основе mistralai/Mistral-Large-Instruct-2411. Модель содержит 122,2 млрд параметров и принимает текстовые запросы для генерации ответов и ведения диалога; заявленная длина контекста — 131 072 токена. Модель обучена методом ORPO в течение одной эпохи на наборах jondurbin/gutenberg-dpo-v0.1, nbeerbower/gutenberg2-dpo и nbeerbower/gutenberg-moderne-dpo. Она предназначена для текстовых диалогов и генерации текста с поведением, скорректированным этими данными. Веса опубликованы в формате Safetensors для Transformers. Лицензия указана как other; конкретные условия следует проверять в карточке модели и у базовой модели.
mlx-community/gpt-oss-20b-MXFP4-Q4 — языковая модель для генерации текста, разработанная сообществом mlx-community и конвертированная из openai/gpt-oss-20b в формат MLX с использованием mlx-lm 0.27.0. Она предназначена для сценариев текстовой генерации и запуска в экосистеме MLX, включая использование через библиотеку mlx-lm. Модель относится к pipeline text-generation и имеет вариант квантования MXFP4-Q4. В README не указаны точные сведения об архитектуре, числе параметров, поддерживаемых языках, модальностях и размере контекста, поэтому эти характеристики нельзя достоверно описать. Для работы требуется библиотека mlx-lm; приведённый пример предусматривает поддержку chat template при её наличии. Ограничения производительности и качества в README не раскрыты. Лицензия — Apache-2.0.
iky1e подготовил квантизованную версию Granite Speech 5.0 470M TurboCTC для инференса на устройствах Apple Silicon с использованием Granite-MLX и Swift. Это модель распознавания речи на базе архитектуры GraniteSpeech5ForCTC, преобразованная из чекпойнта IBM в формат MLX: веса квантизованы до 8 бит, часть тензоров сохранена в FP16. Размер файла весов составляет около 466 МиБ — примерно 52% от исходного; в описанном сравнении согласие транскриптов с исходной моделью составило 99,8825% по метрике пословного совпадения, которая не измеряет точность относительно человеческой расшифровки. Модель предназначена для преобразования английской речи в текст, в том числе из длинных аудиозаписей; инструмент Granite-MLX также принимает видеофайлы и может сохранять результат в TXT, SRT, WebVTT или JSON. Для обработки длинных записей используются блоки с контекстом, жадное CTC-декодирование и ограничение памяти. Репозиторий распространяется по лицензии Apache-2.0. Для запуска описан нативный Swift runtime Granite-MLX на Apple Silicon.
h2oai/h2ogpt-oasst1-512-12b — языковая модель H2O.ai на архитектуре GPT-NeoX с 15,4 млрд параметров. Она дообучена на наборе h2oai/openassistant_oasst1_h2ogpt_graded на основе EleutherAI/pythia-12b и предназначена для следования инструкциям и диалогового использования, например в чат-ботах. Модель принимает текст и генерирует текст; опубликована в формате PyTorch и рассчитана на контекст до 2048 токенов. Модель можно применять для ответов на вопросы, диалогов и выполнения текстовых инструкций. В README приведены результаты проверки на задачах из lm-evaluation-harness. Лицензия Apache-2.0 допускает коммерческое использование. Модель может выдавать неверные, бессвязные или нерелевантные ответы, а также предвзятый или оскорбительный контент; результаты следует проверять.