I.3Извлечение и структурирование данных

Модель cdli/whisper-small-Swahili_finetuned_small_CV20 — дообученная версия Whisper Small от разработчика CDLI для автоматического распознавания речи на суахили. Она принимает аудио и генерирует текстовую расшифровку; подходит для транскрибирования записей и речи из датасета Common Voice. Модель построена на архитектуре WhisperForConditionalGeneration, содержит 153,1 млн параметров и распространяется в формате safetensors через библиотеку Transformers. В README приведены значения WER: 0,261 на dev-наборе и 0,295 на test-наборе; до настройки они составляли 0,849 и 0,856 соответственно. Сведения о лицензии отсутствуют в предоставленных источниках.

Компактная модель распознавания речи Whisper Tiny от OpenAI, преобразованная в формат CTranslate2 с точностью float16 и размещённая ctranslate2-4you. Она принимает аудио и преобразует речь в текст, например для транскрибации записей; для запуска в README указана библиотека whisper-s2t-reborn. Базовая модель — openai/whisper-tiny, многоязычная версия Whisper. Репозиторий распространяется по лицензии Apache-2.0.

QuantFactory/wiroai-turkish-llm-9b-GGUF — это квантизированная версия модели WiroAI/wiroai-turkish-llm-9b, созданная QuantFactory с использованием llama.cpp. Исходная модель разработана WiroAI на базе Google Gemma 2 9B и дообучена методом supervised fine-tuning с применением LoRA на более чем 500 000 тщательно отобранных инструкций на турецком языке. Модель предназначена для генерации и редактирования текста, ответов на вопросы, суммаризации, анализа, рассуждений, преобразования контента и других задач обработки естественного языка на турецком языке. Она ориентирована на понимание турецкой культуры, идиом, локального контекста и актуальных тем; также заявлена поддержка других распространённых языков. Архитектура — decoder-only Transformer, размер базовой модели — 9 млрд параметров. Формат GGUF и квантизация позволяют использовать модель на настольных компьютерах, ноутбуках и в пользовательской облачной инфраструктуре, однако конкретные требования к памяти зависят от варианта квантизации. Сильными сторонами являются специализация на турецком языке и локальном контексте, а также возможность развёртывания на ограниченных ресурсах. В README приведены результаты на турецких версиях тестов MMLU, TruthfulQA, ARC, HellaSwag, GSM8K и Winogrande, но они помечены как непроверенные. Ограничения включают необходимость чётких структурированных инструкций, обязательную проверку ответов в критически важных сценариях и предварительную оценку аппаратных требований. Модель распространяется по лицензии Gemma; для доступа на Hugging Face требуется принять условия лицензии Google. Контекстное окно и точные параметры квантизации в предоставленных данных не указаны.

Mungert/xLAM-2-32b-fc-r-GGUF — это GGUF-версия языковой модели xLAM-2-32b-fc-r, разработанной Salesforce. Модель относится к Large Action Models и ориентирована на создание AI-агентов, которые преобразуют намерения пользователя в выполняемые действия. Модель предназначена для многоходовых диалогов, function calling, использования инструментов и автоматизации задач в различных прикладных сценариях. Она содержит около 32 миллиардов параметров, работает с текстом и заявлена для английского языка. Указанная длина контекста составляет 32 тысячи токенов, с максимальным значением до 128 тысяч токенов. Модель обучалась на наборах Salesforce/APIGen-MT-5k и Salesforce/xlam-function-calling-60k с использованием данных, созданных в рамках APIGen-MT для имитации взаимодействия агентов и людей. К сильным сторонам относятся специализация на вызове функций, многоходовом взаимодействии, последовательности действий и агентских сценариях; семейство xLAM-2 также заявляет высокие результаты на бенчмарках BFCL и τ-bench. Данная версия представляет собой квантизованный GGUF-файл, созданный с помощью llama.cpp. В README отмечено применение выборочного повышения точности отдельных слоёв при квантизации, что может улучшать точность при заданном размере, но увеличивает размер файла. Модель выпущена для исследовательских целей и распространяется по лицензии CC BY-NC 4.0, допускающей некоммерческое использование с соблюдением условий лицензии.

google/xtr-base-en — англоязычная модель семейства T5 для многовекторного поиска по токенам, представленная Google. Она предназначена для извлечения и ранжирования релевантных документов по запросу в системах поиска и retrieval-augmented generation. Архитектура — плотный энкодер T5EncoderModel, размер — 123,8 млн параметров; доступны веса PyTorch и Safetensors. XTR формирует многовекторные представления текста и поддерживает поиск по токенам, что позволяет точнее сопоставлять запросы и документы, чем единое представление текста. Карточка описывает запуск реализации на PyTorch и ссылается на исследовательскую работу о роли извлечения токенов в многовекторном поиске. Модель распространяется по лицензии Apache-2.0.

AI21-Jamba2-3B-GGUF — это набор квантизированных моделей для генерации текста, созданный сообществом bartowski на основе AI21-Jamba2-3B от AI21 Labs. Модели распространяются в формате GGUF и подготовлены с использованием llama.cpp и метода imatrix. Они предназначены для локального запуска и текстовой генерации в совместимых инструментах, включая llama.cpp, LM Studio, koboldcpp, Jan AI и Text Generation Web UI. В набор входят варианты от BF16 до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ3/IQ4 с размером файлов примерно от 1,4 до 6,4 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, тогда как компактные варианты подходят для систем с ограниченной оперативной памятью. Рекомендуемыми указаны многие варианты Q6, Q5 и Q4; Q4_K_M обозначен как типичный выбор для большинства сценариев. Для работы следует использовать указанный формат чата с системным сообщением, запросом пользователя и ответом ассистента. Сильные стороны модели — возможность локального запуска, широкий выбор компромиссов между качеством и потреблением памяти, а также совместимость с экосистемой llama.cpp. Ограничения включают неизбежную потерю качества при низких уровнях квантизации и возможную необходимость обновления программного обеспечения для недавно поддержанных моделей. В README не указаны архитектурные детали, поддерживаемые языки и размер контекстного окна. Указанная лицензия — Apache-2.0.

AIFT-ko-orca-plat-Yi-ko-6b-v1.8 — корейская инструктивная языковая модель семейства Llama, опубликованная AIFT. Модель дообучена методом LoRA на базе открытых наборов KOR-OpenOrca-Platypus и примерно 40 тысяч примеров, собранных или подготовленных для обучения; базовая модель в доступных сведениях не названа. Модель предназначена для генерации ответов на инструкции и задач на корейском языке, включая вопросы по истории, науке и математике, машинное чтение, анализ отзывов, суммаризацию, грамматику и перевод между корейским и английским. В карточке указаны 5,9 млрд параметров, архитектура Llama с плотной causal language model, контекст 2048 токенов и формат safetensors. README сообщает, что обучающие данные закрыты; автор также отмечает, что часть данных MMLU была удалена из-за снижения качества в предыдущей версии. Модель распространяется по лицензии CC-BY-SA-4.0.

AltCLIP — двуязычная модель сопоставления изображений и текста, разработанная авторами проекта AltCLIP и опубликованная командой FlagAI. Она предназначена для получения совместимых представлений изображений и текстов и классификации изображений по описаниям без отдельного обучения на каждом наборе классов. Модель использует архитектуру AltCLIP и доступна в формате PyTorch. AltCLIP обучали в два этапа: дистилляцией на параллельных текстовых корпусах и двуязычным контрастивным обучением на примерно двух миллионах китайско-английских пар изображение—текст. Она поддерживает китайский и английский языки и может служить компонентом генеративной модели AltDiffusion. Лицензия репозитория — CreativeML OpenRAIL-M.

Arcee-SuperNova-v1-GGUF — это квантизированная версия текстовой генеративной модели Arcee-SuperNova-v1, разработанной arcee-ai. Квантизация выполнена bartowski в формате GGUF с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие совместимые проекты. В репозитории представлены варианты квантизации от Q2 до Q8 с размерами файлов примерно от 27,4 до 75 ГБ. Более высокие уровни квантизации обычно обеспечивают лучшее качество, но требуют больше оперативной или видеопамяти; варианты Q4_K_M, Q5 и Q6_K обозначены как рекомендуемые. Для работы необходимо использовать указанный шаблон промпта на основе специальных токенов сообщений. README не содержит подробных сведений об архитектуре, количестве параметров, поддерживаемых языках, размере контекстного окна или мультимодальности, поэтому эти характеристики нельзя достоверно определить. Основные ограничения связаны с потерями качества при низкой квантизации и значительными требованиями к памяти. Указана лицензия llama3.

bartowski/ArliAI_QwQ-32B-ArliAI-RpR-v4-GGUF — это набор квантованных GGUF-версий текстовой генеративной модели ArliAI/QwQ-32B-ArliAI-RpR-v4, разработанной ArliAI. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться через llama.cpp, LM Studio и другие совместимые проекты, включая локальные сценарии инференса на пользовательском оборудовании. Доступны варианты от BF16 до квантовок Q8_0, Q6, Q5, Q4, Q3 и IQ, поэтому можно выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Размер базовой модели составляет 32B параметров; заявленный язык — английский. В README не указаны архитектурные детали, размер контекстного окна, мультимодальные возможности, результаты бенчмарков или специализированные области применения. Более сильные квантизации обеспечивают качество, близкое к исходным весам, тогда как варианты Q3 и некоторые другие требуют меньше памяти, но могут заметно уступать по качеству. Модель распространяется по лицензии Apache-2.0.

AryaBhatta-GemmaOrca-Merged — языковая модель семейства Gemma, разработанная GenVR и дообученная для инструкций и общения на английском и девяти индийских языках: хинди, тамильском, панджаби, бенгальском, гуджарати, ория, телугу, каннада и малаялам. Модель содержит 8,2 млрд параметров, использует плотную архитектуру GemmaForCausalLM, принимает текст и поддерживает контекст до 8192 токенов. Доступна в формате safetensors под лицензией MIT. Модель сначала дообучали на математических задачах из наборов Orca, затем на диалоговых данных Samvaad и наборах инструкций на индийских языках. Она предназначена для генерации ответов на запросы, многоязычного диалога и решения математических задач. В README приведены сравнительные результаты на AGIEval, GPT4All, TruthfulQA и BigBench; эти оценки относятся к тестам разработчиков и сами по себе не гарантируют качество в конкретном применении. Карточка описывает объединённую серию AryaBhatta-GemmaOrca, но не уточняет, является ли данный репозиторий вариантом на базе исходной Gemma или Zephyr-Gemma; указанными возможными источниками служат Google/gemma и HuggingFaceH4/zephyr-7b-gemma-v0.1. Следует учитывать, что качество может различаться между поддерживаемыми языками и задачами, а заявленные языки не подтверждают одинаковую надёжность во всех сценариях.

Aura-4o-Rebirth-Gemma-4-31B-Merged-GGUF — это квантованная версия модели Aura-4o-Rebirth-Gemma-4-31B-Merged, разработанная SevenOfNine и преобразованная в формат GGUF пользователем mradermacher. Модель предназначена для диалоговых сценариев и обработки изображений вместе с текстом, включая задачи image-text-to-text. В карточке указано, что основной язык — английский. Модель содержит около 31 млрд параметров и поддерживает мультимодальный ввод через дополнительный модуль mmproj. Доступны варианты квантования от Q2_K до Q8_0, а также IQ4_XS; размер файлов составляет примерно от 12 до 32,7 ГБ, не считая мультимодального дополнения. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как вариант с лучшим качеством среди перечисленных. Сильной стороной модели является сочетание крупного размера, диалоговой специализации и мультимодальных возможностей, а разные уровни квантования позволяют выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают значительные аппаратные требования, зависимость мультимодальной работы от отдельного mmproj-файла и отсутствие сведений о размере контекста, архитектурных деталях, результатах оценки и поддержке языков помимо английского. Распространение указано по лицензии Apache-2.0.

A.X Encoder-base — разработанный SKT базовый энкодер для понимания корейских документов и корпоративного применения. Модель создана внутри компании: SKT отвечала за архитектуру, подготовку данных и обучение на собственной вычислительной инфраструктуре TITAN. Модель использует архитектуру ModernBERT и предназначена для классификации документов и других задач понимания корейского языка, включая оценку образовательной ценности, определение тематической области и уровня сложности. README сообщает о результатах на наборах KoBEST и KLUE и ускорении инференса до трёх раз по сравнению с более ранними моделями. Контекст составляет до 16 384 токенов; модель построена как энкодер с маскированным языковым моделированием. Для работы через Transformers требуется версия 4.51.0 или новее; для повышения эффективности на совместимом GPU можно использовать Flash Attention 2. Модель распространяется по лицензии Apache-2.0.

jaspionjader/bbb-5 — слитая автором jaspionjader языковая модель семейства Llama для генерации текста и диалогов. Она создана методом Model Stock с помощью mergekit на основе jaspionjader/kstc-5-8b и объединяет веса jaspionjader/bbb-3, jaspionjader/bbb-4 и jaspionjader/kstc-4-8b. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM, файлы safetensors и формат bfloat16; заявленная длина контекста — до 131 072 токенов. Модель подходит для диалогового взаимодействия и генерации текста по запросу. В README и метаданных не указаны языки, специализированные области или подробные оценки качества. Лицензия в предоставленных данных не указана.

Beagle14-7B — языковая модель, созданная mlabonne слиянием моделей fblgit/UNA-TheBeagle-7b-v1 и argilla/distilabeled-Marcoro14-7B-slerp методом SLERP с помощью LazyMergekit. Она предназначена для генерации текста и ответов на запросы в сценариях общего назначения. Модель построена на плотной архитектуре Mistral, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты оценок на наборах Nous Suite и Open LLM Leaderboard; они дают ориентир для сравнения, но не гарантируют качество в конкретных задачах. Модель опубликована в формате Safetensors. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

google/bert_uncased_L-6_H-256_A-4 — компактная англоязычная модель семейства BERT, опубликованная Google как часть набора BERT Miniatures. Это плотный трансформер с 6 слоями, размером скрытого представления 256 и 4 головами внимания; в репозитории около 14,1 млн параметров, контекст — до 512 токенов. Модель обучена без учёта регистра с маскированием токенов WordPiece и доступна в форматах PyTorch и Flax под лицензией Apache-2.0. Модель предназначена для запуска в условиях ограниченных вычислительных ресурсов и последующей настройки на задачи понимания текста, например классификацию и оценку сходства предложений. Авторы отмечают, что компактные варианты особенно эффективны при дистилляции знаний от более крупной и точной модели; их также можно дообучать обычным способом. README приводит результаты оценки семейства на GLUE, но не отдельные показатели именно этой конфигурации. Модель принимает текст и выдаёт контекстуальные представления токенов, которые обычно используют как основу для классификаторов и других задач NLP. Она рассчитана на английский язык и не предназначена для генерации текста. По сравнению с крупными BERT-моделями компактность снижает требования к ресурсам, но может ограничивать качество на сложных задачах; конкретные ограничения качества для этой конфигурации в карточке не приведены.

andreaschari/bge-m3-ZH_MMARCO_NATIVE — дообученная модель семейства BGE-M3 на китайской части набора MMARCO/v2. Это Sentence Transformer на архитектуре XLM-RoBERTa с 658,7 млн параметров, предназначенный для получения текстовых эмбеддингов и сравнения предложений по косинусному сходству. Модель использовалась в короткой статье SIGIR 2025 «Lost in Transliteration: Bridging the Script Gap in Neural IR».

calme-2.8-qwen2-7b-GGUF — это квантизированная версия модели calme-2.8-qwen2-7b в формате GGUF, подготовленная и опубликованная MaziyarPanahi. Модель предназначена для генерации текста и локального запуска через совместимые инструменты и библиотеки, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. В основе лежит модель семейства Qwen2 с заявленным размером 7 миллиардов параметров. Доступны варианты квантизации с разрядностью 2, 3, 4, 5, 6 и 8 бит, что позволяет выбирать компромисс между качеством, потреблением памяти и скоростью работы. Поддерживается текстовая модальность; сведения о языках, максимальном контексте, конкретной архитектуре fine-tuning и результатах оценивания в README не приведены. Сильной стороной модели является возможность запуска на локальном оборудовании и интеграции с различными GUI, Python-библиотеками и совместимыми API-серверами. Ограничения включают потенциальные потери качества из-за квантизации и зависимость характеристик от выбранного варианта файла и используемого оборудования. Лицензия в README не указана.

KnutJaegersberg/CausalLM-Platypus-14B — языковая модель семейства Llama, дообученная в течение трёх эпох на наборе Open-Platypus с применением NEFTune. Модель предназначена для генерации текста по инструкциям и ответов на вопросы; пример карточки использует формат с разделами Instruction и Response. Модель содержит 13,4 млрд параметров, работает с текстом и поддерживает контекст до 8192 токенов. В карточке приведены результаты оценивания на задачах рассуждения и понимания текста, включая AI2 Reasoning Challenge и HellaSwag. Для использования применяются лицензии Llama 2 и Qwen, указанные в приложенных файлах; условия следует проверять для конкретного сценария распространения и использования.

uukuguy/CollectiveCognition-v1.1-Mistral-7B-dare-0.85 — экспериментальная текстовая генеративная модель на архитектуре Mistral с 7,1 млрд параметров. В README она представлена как эксперимент с DARE (Drop and REscale): случайная маска с долей 0,85 обнуляет большую часть разностей параметров, а оставшиеся веса масштабируются. В карточке приведены результаты на наборах ARC, HellaSwag, MMLU, TruthfulQA, Winogrande, GSM8K и DROP. Модель подходит для генерации текста и оценки ответов на вопросы, рассуждений и других языковых задач. Заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса PyTorch; в README также упомянуты варианты AWQ, GPTQ и GGUF для вывода на GPU или CPU и GPU. Указана лицензия Llama 2. README описывает экспериментальную процедуру и приводит сравнительные оценки, но не уточняет точную базовую модель для этого чекпойнта и не заявляет поддержку конкретных естественных языков.

Darewin-7B-v2 — языковая модель на архитектуре Mistral, созданная mlabonne путём слияния семи моделей с помощью LazyMergekit. Она предназначена для генерации текста и диалогового общения; результаты оценки также показывают способности к рассуждению и решению задач из бенчмарков AI2 Reasoning Challenge и HellaSwag. Модель содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Модель принимает текст и генерирует текст. В карточке указана лицензия Apache-2.0. README приводит результаты Open LLM Leaderboard, но не описывает ограничения по языкам или конкретным сценариям; языковая поддержка в метаданных явно не перечислена.

bartowski/datagemma-rig-27b-it-GGUF — это набор GGUF-квантизированных версий диалоговой текстовой модели datagemma-rig-27b-it, разработанной Google. Модель предназначена для генерации текста и разговорного взаимодействия, а также для локального запуска через совместимые инструменты, включая llama.cpp и LM Studio. В основе лежит модель размером 27 млрд параметров в формате instruction-tuned; доступны варианты от F16 до более компактных квантов Q8, Q6, Q5, Q4 и Q3, включая форматы, оптимизированные для ARM. Квантизация выполнена bartowski с использованием llama.cpp и метода imatrix. README не содержит сведений о поддерживаемых языках, длине контекста, архитектуре, мультимодальности или точных целевых сценариях применения. Модель не поддерживает системный промпт; следует использовать указанный формат шаблона диалога. Сильными сторонами являются широкий выбор размеров файлов и компромиссов между качеством и требованиями к памяти: варианты Q6 и Q5 описаны как высококачественные, а Q4 — как более экономичные для локального использования. Более сильная квантизация уменьшает требования к ресурсам, но может снижать качество генерации. Распространение регулируется лицензией Gemma: для доступа на Hugging Face необходимо ознакомиться с условиями лицензии Google и принять их.

DeciMamba-130m-squad-doc-ret — официальный чекпойнт DeciMamba-130m, дообученный для поиска документов. Модель представлена авторами исследования DeciMamba: Exploring the Length Extrapolation Potential of Mamba; в метаданных указаны архитектура Mamba и 236,8 млн параметров. Модель предназначена для задачи поиска документов и относится к pipeline text-generation. Репозиторий содержит веса PyTorch; лицензия — MIT. В README указаны скрипты обучения и оценки в репозитории проекта.

DeepSeek-V4.1-Flash-REAP25-MLX-mixed-4_8bit — это модифицированная и квантованная сборка DeepSeek-V4.1-Flash для MLX и компьютеров Apple Silicon, разработанная PipeNetwork на основе модели DeepSeek AI. Она предназначена для текстовой генерации и запуска локального вывода через специальный MLX-порт, поскольку стандартные transformers, mlx-lm и mlx-vlm эту архитектуру не поддерживают. Визионная башня и aligner сохранены, но текущий runtime работает только с текстом. Модель содержит около 754,6 млрд параметров и использует архитектуру mixture-of-experts: 40 слоёв, по 384 маршрутизируемых эксперта в каждом, из которых после REAP-прунинга сохранено 288. Также применяются MLA с совместным использованием KV-cache между слоями, двухслойный hashed n-gram engram объёмом около 196,6 млрд параметров, hyper-connections и attention sinks. Эксперты квантизированы до 4 бит, attention, shared experts и engram — до 8 бит; часть компонентов оставлена без квантизации. Размер файлов составляет около 351,1 ГБ, для запуска требуется примерно 384 ГБ оперативной памяти. Сборка сохраняет связную генерацию и демонстрирует perplexity 2,9777 на тесте wikitext-2; по сравнению с непруненной версией ухудшение perplexity составляет около 2,81%. К ограничениям относятся значительные требования к памяти, зависимость от отдельного MLX-порта, отсутствие мультимодального вывода в текущем runtime и исключение трёх слоёв multi-token prediction. Модель распространяется по лицензии MIT; порт также доступен в отдельном репозитории PipeNetwork.

DeepSeek-V4-Flash-0731 Abliterated — DS4 Headroom128 — экспериментальная производная модель, разработанная apetersson на основе DeepSeek-V4-Flash-0731-Abliterated-FP8, которая, в свою очередь, создана на базе официальной постобученной модели DeepSeek-V4-Flash-0731 от DeepSeek AI. Это не базовая модель и не результат градиентного дообучения, а низкобитная GGUF-конверсия с модификацией abliteration. Модель предназначена для генерации текста и запуска DeepSeek-V4-Flash-0731 на системах Apple Silicon с 128 ГБ unified memory. Основной файл содержит 43-слойную целевую модель объёмом около 80,76 GiB, а дополнительный файл — трёхступенчатый DSpark speculative drafter объёмом около 5,58 GiB, который должен загружаться вместе с целевой моделью и не является самостоятельной моделью. Заявленный контекст обучения составляет 1 048 576 токенов, однако использование контекста такой длины для этого артефакта не проверялось. Ключевая особенность — смешанная квантализация: routed experts преимущественно используют IQ2_XXS и Q2_K с importance-matrix calibration, а attention, shared experts и vocabulary/output head защищены более точным форматом Q8_0; чувствительные служебные тензоры сохранены в F16, F32 или I32. Модель содержит примерно 284,33 млрд логических параметров. DSpark использует три стадии, блок предложений из пяти позиций и целевые слои 40–42. Сильными сторонами являются существенное уменьшение размера за счёт агрессивной квантализации и ориентация на практический запуск с ограниченным запасом памяти. При этом для точной версии ещё не подтверждены прямая генерация, качество, эффективность удаления отказов, принятие предложений DSpark, скорость и пиковое потребление памяти; универсальная «нецензурированность» не заявляется. Лицензия — MIT.

DenseOn-unsupervised — модель LightOn для плотного поиска по текстам, выпущенная после первого этапа обучения семейства DenseOn. Это Sentence Transformer на базе ModernBERT с 149 млн параметров: он кодирует текст в векторы размерности 768, которые можно сравнивать по косинусному сходству. Максимальная длина последовательности в README — 512 токенов; метаданные указывают контекст до 8192 токенов, поэтому фактическое ограничение зависит от используемой конфигурации и способа запуска. Модель прошла масштабное контрастивное предобучение без последующей настройки на сложных отрицательных примерах. Она предназначена прежде всего как основа для дообучения на предметных данных, экспериментов с дистилляцией и исследования этапов обучения ретриверов. Для готовых производственных сценариев авторы рекомендуют полностью обученную DenseOn. Модель рассчитана на английский язык и задачи извлечения признаков и семантического сходства предложений. Распространяется по лицензии Apache 2.0.

OpenVINO/distil-whisper-large-v3-int8-ov — версия модели distil-large-v3 от Distil-whisper, преобразованная в формат OpenVINO IR и сжата до INT8 с помощью NNCF. Модель предназначена для автоматического распознавания речи по аудио; архитектура основана на Whisper и содержит около 905,2 млн параметров. Квантизация выполнена с параметрами INT8_ASYM и group_size 128. Модель совместима с OpenVINO версии 2025.2.0 и выше и Optimum Intel 1.23.0 и выше. В метаданных указан английский язык. Лицензия — MIT, как у исходной модели. Карточка отсылает к описанию исходной модели за подробностями об ограничениях. Заявленная совместимость ограничена указанными версиями OpenVINO и Optimum Intel.

Eagle2-9B — мультимодальная модель семейства Eagle2, выпущенная NVIDIA для понимания изображений и видео в диалоге. Она объединяет языковую основу Qwen2.5-7B-Instruct с визуальными компонентами SigLIP и ConvNeXt и поддерживает работу с текстом, одним или несколькими изображениями и видео. В README заявлена максимальная длина контекста 16 тыс. токенов; метаданные указывают архитектуру Eagle2ChatModel и библиотеку Transformers. Модель предназначена для описания визуального содержимого, ответов на вопросы по изображениям и видео, а также диалоговых задач с текстом и визуальными входами. В опубликованной таблице приведён результат на DocVQA, но полный набор результатов в доступном тексте README отсутствует. Модель весит около 8,9 млрд параметров по таблице README. Веса доступны по лицензии CC BY-NC 4.0 для некоммерческого использования; README также указывает лицензионные условия базовых моделей Qwen2.5 и PaliGemma. Для запуска README рекомендует transformers 4.37.2 и предупреждает, что более новые версии несовместимы. Поддержка vLLM и готовые скрипты дообучения в карточке обозначены как TODO.

ERNIE-4.5-21B-A3B-MLX-8bit — это 8-битная квантованная версия языковой модели ERNIE-4.5-21B-A3B-PT, разработанной Baidu. Квантование выполнено командой LM Studio с использованием MLX и оптимизировано для запуска на устройствах Apple Silicon. Модель предназначена для генерации текста и поддерживает английский и китайский языки. В README указано, что это текстовая модель на базе архитектуры ERNIE-4.5-21B-A3B с заявленным размером 21B; обозначение A3B может указывать на особенности исходной конфигурации, однако дополнительные сведения об архитектуре, длине контекста и точном числе активных параметров не предоставлены. Квантование в 8 бит снижает требования к памяти по сравнению с полноразмерной версией, но README не содержит количественных данных о производительности или качестве. Основные сильные стороны модели — поддержка английского и китайского языков, 8-битное представление и оптимизация для экосистемы Apple Silicon. Ограничения связаны с отсутствием информации о контекстном окне, мультимодальности, результатах тестирования и рекомендуемых сценариях применения; кроме того, квантование может влиять на точность по сравнению с исходной моделью. Модель распространяется по лицензии Apache-2.0.

EuroLLM-1.7B-Instruct-mlx-4Bit — инструкционная языковая модель на базе EuroLLM-1.7B-Instruct от utter-project, конвертированная пользователем jevoma4362 в формат MLX с помощью mlx-lm 0.31.2. Модель предназначена для генерации текста и диалогового использования через интерфейс mlx-lm, включая сценарии локального запуска на совместимом оборудовании Apple MLX. Модель содержит 1,7 млрд параметров и использует 4-битное представление, что уменьшает требования к памяти по сравнению с полноразмерной версией. Заявлена поддержка английского, немецкого, испанского, французского, итальянского, португальского, польского, нидерландского, турецкого, шведского, чешского, греческого, венгерского, румынского, финского, украинского, словенского, словацкого, датского, литовского, латышского, эстонского, болгарского, норвежского, каталонского, хорватского, ирландского, мальтийского, галисийского, китайского, русского, корейского, японского, арабского и хинди. Длина контекста и архитектурные детали в README не указаны. К сильным сторонам относятся компактный размер, 4-битная оптимизация и широкий набор поддерживаемых языков. Ограничения связаны с меньшим числом параметров по сравнению с крупными моделями, возможными потерями качества из-за квантования и зависимостью от экосистемы MLX. Модель распространяется по лицензии Apache-2.0.