I.3Извлечение и структурирование данных

pbatra/Llama-3.2-11B-Vision-Instruct-GGUF — это набор квантизированных версий мультимодальной модели Llama-3.2-11B-Vision-Instruct, разработанной Meta. Модель предназначена для диалоговых сценариев и задач image-text-to-text, в которых требуется обрабатывать изображения вместе с текстовыми запросами и генерировать текстовые ответы. Поддерживаются английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Модель основана на архитектуре mllama и имеет размер около 11 млрд параметров; формат GGUF ориентирован на эффективное локальное использование совместимыми инструментами. Ключевое преимущество — сочетание языкового и визуального ввода, а также наличие квантизированных вариантов, потенциально снижающих требования к памяти. README не содержит точных сведений о методах квантизации, размерах отдельных файлов, длине контекста, результатах тестирования или известных ограничениях качества. Модель распространяется по лицензии Llama 3.2.

Lemura Labs-Llama-3.2-3B-Uncensored-GGUF — текстовая генеративная модель, разработанная Lemura Labs на основе Meta Llama 3.2 3B. Модель предназначена для генерации текста, ответов на открытые вопросы, творческого письма, разработки идей, исследовательской и образовательной помощи, математических задач, непринуждённых диалогов и взаимодействия с длинным контекстом. Заявлена как модель без встроенных ограничений на содержание ответов. Модель содержит около 3 млрд параметров и распространяется в формате GGUF. Доступны варианты с разным уровнем квантования — от низкоразрядных конфигураций для минимального потребления памяти до F16 для максимальной точности, что позволяет запускать её на устройствах с различными ресурсами. Поддерживаются текстовые сценарии; сведения о мультимодальности, языках и точном размере контекстного окна в README не указаны. Заявлены контекстное понимание, работа с длинными диалогами и возможность адаптации под специализированные задачи посредством дообучения. Сильными сторонами модели являются компактный размер, широкий спектр заявленных сценариев и наличие множества квантованных версий для локального развёртывания. Ограничения включают отсутствие в README количественных оценок качества, сведений о датасете и методике обучения, а также точных данных о поддерживаемых языках и контекстном окне. Отсутствие ограничений на содержание может повысить риск небезопасных, некорректных или непроверенных ответов, поэтому результаты требуют контроля. Модель распространяется по лицензии Apache-2.0.

Llama-3-8B-Instruct-Gradient-4194k-GGUF — это версия модели Llama-3-8B-Instruct-Gradient-4194k в формате GGUF, конвертированная с помощью llama.cpp через сервис GGUF-my-repo. Конкретный автор конвертации — leafspark; исходная модель разработана Gradient AI. Модель предназначена для генерации текста и диалоговых сценариев, а запускать её можно с помощью llama.cpp. Это текстовая instruct-модель на базе архитектуры Llama 3 с размером 8 млрд параметров. README указывает английский язык и не сообщает о поддержке других языков или мультимодальности. Доступны варианты с разной степенью квантования — от F16 размером 14,9 ГБ до Q2_K размером 2,95 ГБ; рекомендуются Q6_K и Q4_K_M как варианты, сочетающие качество и экономию памяти. Заявленное контекстное окно составляет 4194k, однако в квантованных версиях его настройка описана как проблемная и требует параметров RoPE. Сильными сторонами являются широкий выбор квантованных вариантов и возможность локального запуска, включая версии Q4 и выше с заявленным хорошим качеством. Ограничения включают возможные проблемы с форматом prompt, необходимость использовать формат Llama 3, а также появление в выводе токенов EOS, например </s>. Модель распространяется по лицензии llama3; условия исходной модели следует уточнять в её оригинальной карточке.

Карточка модели sureshnam9/Llama-4-Maverick-17B-128E-Instruct-FP8 на Hugging Face совпадает с карточкой meta-llama/Llama-4-Maverick-17B-128E-Instruct, поэтому описание составлено по ней. Llama 4 Maverick Instruct — мультимодальная модель Meta для диалогов и задач понимания изображений. Это авторегрессионная модель с архитектурой смеси экспертов (MoE) и ранним объединением модальностей; в варианте Maverick используются 17 млрд параметров и 128 экспертов. Модель предназначена для чат-ассистентов и визуальных задач: распознавания и анализа изображений, составления описаний и ответов на вопросы по изображению. Она поддерживает арабский, немецкий, английский, испанский, французский, хинди, индонезийский, итальянский, португальский, тайский, тагальский и вьетнамский языки. Проверено понимание до пяти входных изображений; для большего числа изображений требуется дополнительная проверка в конкретном приложении. Модель разработала Meta. Репозиторий содержит дообученную версию базовой Llama 4 Maverick, распространяемую в формате Safetensors. Использование регулируется пользовательской коммерческой лицензией Llama 4 Community License и Acceptable Use Policy.

LongT5 local-large — англоязычная предобученная модель Google на архитектуре encoder-decoder Transformer, развивающая семейство T5. Она обучена генерировать текст по тексту в задаче денойзинга и использует локальное разреженное внимание для эффективной работы с длинными входными последовательностями. Модель содержит 385,2 млн параметров, поддерживает контекст до 4096 токенов по метаданным и доступна в форматах PyTorch и Flax. Модель предназначена прежде всего для дообучения на размеченных данных. После настройки её можно применять для генерации текста по длинным документам, включая суммаризацию и ответы на вопросы. Веса распространяются по лицензии Apache 2.0. README указывает, что LongT5 особенно эффективна для задач, требующих обработки длинного текста, и приводит длину до 16 384 токенов; это отличается от значения native_context_tokens в метаданных.

loyal-piano-m7-Mistral-7B-Instruct-v0.2-slerp — объединённая методом SLERP диалоговая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана на основе mistralai/Mistral-7B-Instruct-v0.2 и chargoddard/loyal-piano-m7; README приводит конфигурацию слияния всех 32 слоёв обеих моделей. Модель предназначена для генерации текста и ответов на инструкции в диалоговых сценариях. Поддерживает контекст до 32 768 токенов и распространяется в формате Safetensors. Лицензия — Apache-2.0. Данные не уточняют языковой охват и специфические ограничения качества, поэтому их нельзя определить по карточке.

Macaroni-7b-Tied — языковая модель для генерации текста, созданная объединением нескольких моделей семейства Mistral методом TIES. В качестве базовой использована mistralai/Mistral-7B-v0.1; в слияние также вошли decruz07/kellemar-DPO-Orca-Distilled-7B-SLERP, mlabonne/NeuralMarcoro14-7B, fblgit/UNA-TheBeagle-7b-v1 и SanjiWatsuki/Lelantos-DPO-7B. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации англоязычного текста и может использоваться для диалога, ответов на вопросы и рассуждений в текстовом формате. Репозиторий содержит веса Safetensors; лицензия — Apache-2.0. Как и другие языковые модели, она может выдавать фактические ошибки, галлюцинации и предвзятые либо неподходящие ответы. Результаты следует проверять, особенно в критичных сценариях; разработчик предоставляет модель без гарантий пригодности для конкретной задачи.

Manticore-13b-Landmark — объединённая модель на архитектуре LLaMA, представленная Honkware. Она сочетает Manticore-13B и Manticore-13B-Landmark-QLoRA и предназначена для генерации текста с применением Landmark Attention. В README заявлен увеличенный размер контекста около 18 тысяч токенов; метаданные указывают 12,9 млрд параметров и нативный контекст 2048 токенов. Модель подходит для продолжения текста и диалоговых сценариев, где полезно учитывать длинный контекст. Репозиторий содержит веса PyTorch; лицензия обозначена как «other», поэтому условия использования следует сверить с лицензией и файлами репозитория перед применением. README также содержит настройки запуска через Oobabooga, включая включение доверенного удалённого кода.

Distilled MetaCLIP 2 ViT-S/16 (mT5 Tokenizer) — мультиязычная модель сопоставления изображений и текста от Meta, представленная в работе «MetaCLIP 2: A Worldwide Scaling Recipe». Этот чекпойнт соответствует варианту ViT-S-16-mT5-worldwide из оригинальной реализации и предназначен для классификации изображений по текстовым описаниям без дополнительного обучения. Модель принимает изображения и текстовые метки или описания, сопоставляет их и позволяет выбирать наиболее подходящие варианты. В карточке указана архитектура ViT-S/16 и токенизатор mT5; репозиторий распространяет веса в формате safetensors и предназначен для работы через Transformers. Лицензия — CC BY-NC 4.0, допускающая использование с ограничением на коммерческое применение.

Это конверсия MetaCLIP 2 от zeromodels: мультимодальный двухэнкодерный чекпойнт архитектуры CLIP для классификации изображений без обучения на конкретном наборе классов. Базовая модель — facebook/metaclip-2-worldwide-b16; версия подготовлена в формате Keras 3 и работает с TensorFlow, Torch и JAX. Модель сопоставляет изображение с текстовыми описаниями классов и подходит для классификации по пользовательским меткам. Вариант worldwide обучен на многоязычном распределении данных и использует словарь XLM-RoBERTa на 901 тыс. токенов, поэтому запросы-классы можно задавать на разных языках без отдельного мультиязычного чекпойнта. Для обработки рекомендуется использовать совместимый с вариантом процессор, который задаёт размер изображения и токенизатор. Модель распространяется по лицензии CC-BY-NC-4.0, допускающей использование на некоммерческих условиях. Качество зависит от формулировки текстовых меток и соответствия изображения обучающим данным; README не приводит количественных оценок качества или ограничений по разрешению.

MetaCLIP ViT-B/32 — модель семейства CLIP, разработанная командой MetaCLIP и представленная в статье «Demystifying CLIP Data» авторов Xu и соавторов. Эта версия обучалась на 400 миллионах примеров Common Crawl; обозначение B/32 указывает на базовый размер модели и разрешение патчей 32. Модель сопоставляет изображения и текст в общем пространстве эмбеддингов. Она предназначена для классификации изображений без дополнительного обучения по текстовым описаниям классов, поиска изображений по тексту и поиска текста по изображению. Лицензия CC BY-NC 4.0 разрешает использование на условиях лицензии с ограничением на коммерческое применение.

MFANN-Llama3.1-Abliterated-SLERP-TIES-V2 — объединённая текстовая модель семейства Llama 3.1 от netcat420, созданная с помощью mergekit методом TIES на основе Meta Llama 3.1 8B Instruct Abliterated и двух моделей MFANN. Модель предназначена для диалогов и генерации ответов; в карточке описаны обычный режим помощника и экспериментальный режим SATANN для задач кибербезопасности. Архитектура — плотная LlamaForCausalLM, размер — 7,5 млрд параметров, формат весов — safetensors, заявленный контекст — 131 072 токена. README приводит настройки генерации и контекст 8 192 токена для конкретной конфигурации GPT4All. Модель рассчитана на текстовый ввод и вывод. Лицензия — Apache-2.0. Поскольку это объединение abliterated-моделей, ответы могут иметь ослабленные ограничения; для сценариев кибербезопасности качество и поведение следует оценивать отдельно.

Mika-Lelantacles-7b-Longtext — объединённая методом SLERP языковая модель семейства Mistral, созданная Nitral-Archive на основе Nitral-AI/Mika-Longtext-7b и ChaoticNeutrals/Prima-LelantaclesV7-experimental-7b. Она предназначена для генерации текста и диалогового взаимодействия; может применяться для ответов на вопросы, написания и продолжения текстов, а также работы с длинными запросами в пределах контекста до 32 768 токенов. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров. Веса опубликованы в формате safetensors; для работы указан Transformers. В README приведены результаты оценки на нескольких бенчмарках, включая средний балл 70,86, AI2 Reasoning Challenge и HellaSwag. Лицензия обозначена как other, поэтому условия использования следует проверять в карточке и у исходных моделей. Карточка не описывает языковой охват и конкретные ограничения качества; это следует учитывать при выборе модели для специализированных задач.

MiniMax M2.7 JANGTQ + CRACK — производная модель Jinho Jang на базе MiniMaxAI/MiniMax-M2.7, предназначенная для генерации текста и диалогового рассуждения. Это разреженная MoE-модель: в README указаны 230 млрд параметров, 256 экспертов и около 10 млрд активных параметров на токен; метаданные каталога указывают 2,9 млрд параметров, поэтому размер модели в источниках расходится. Контекст составляет 196 608 токенов. Модель рассчитана на английский, китайский и корейский языки. Веса подвергнуты экстремальной квантизации JANGTQ: эксперты хранятся в 2-битном формате TurboQuant, а пути внимания, эмбеддинги и выходная голова — в 8-битном; README указывает размер файлов около 55 ГБ. CRACK — вмешательство в веса, удаляющее защитные отказы. Модель ориентирована на запуск через MLX на Apple Silicon; README называет MLX Studio и пакет jang-tools поддерживающими её средствами. Лицензия обозначена как other, поэтому условия распространения следует сверять с карточкой репозитория.

mMiniLM-L6-v2-en-pt-msmarco-v2 — мультиязычная модель семейства MiniLM, разработанная Unicamp-DL и дообученная на двуязычной версии набора MS MARCO Passage Ranking. Набор включает исходные англоязычные passages и их переводы на португальский, выполненные Google Translate. Модель предназначена для сопоставления запросов с passages и ранжирования результатов поиска на английском и португальском языках. В метаданных указана архитектура XLM-RoBERTa с головой классификации последовательностей, 110,2 млн параметров и контекст до 514 токенов. Репозиторий содержит веса PyTorch; лицензия — MIT. Метаданные Hugging Face классифицируют модель как text-classification, поэтому для поиска в каталоге используется этот pipeline-тег. Карточка описывает обучение на двуязычных данных MS MARCO, но не приводит метрик качества. Португальская часть обучающих данных получена машинным переводом, что может влиять на качество ранжирования.

MOSS-Transcribe-preview-2B — англоязычная модель распознавания речи в текст, разработанная OpenMOSS Team. Она принимает аудио и предназначена для транскрибации английской речи, в том числе для исследовательских и оценочных сценариев. Модель построена на языковой основе Qwen3-1.7B-base и аудиокодировщике Qwen3-Omni-MoE; gated-MLP-адаптер передаёт аудиопризнаки в пространство эмбеддингов языковой модели. По README, модель содержит около 2,4 млрд параметров, тогда как метаданные Hugging Face указывают 10,1 млрд. Контекст составляет 32 768 токенов. Модель обучалась на открытых англоязычных корпусах распознавания речи и дообучалась с reinforcement learning на обучающих разбиениях Open ASR Leaderboard. В README приведены результаты оценки на нескольких наборах данных; TED-LIUM в этой оценке не использовался. Ограничения включают возможное снижение качества на других языках, при сильных акцентах, шуме, перекрывающейся речи, записи на расстоянии и узкоспециальной терминологии; результаты для важных решений следует проверять вручную. Распространяется по лицензии Apache-2.0.

cross-encoder/ms-marco-MiniLM-L12-v2 — модель ранжирования текстовых пар на базе MiniLM-L12 от Microsoft, дообученная командой Sentence Transformers на задаче ранжирования пассажей MS MARCO. Она принимает поисковый запрос вместе с каждым кандидатом-текстом и оценивает их релевантность, чтобы упорядочить уже найденные документы, например после первичного поиска в ElasticSearch. Модель использует архитектуру BERT для классификации последовательностей, содержит около 40 млн параметров и рассчитана на контекст до 512 токенов. Модель предназначена для повторного ранжирования результатов информационного поиска и извлечения релевантных пассажей. Карточка приводит оценки на наборах TREC Deep Learning 2019 и MS MARCO, однако скорость в ней измерена на V100 GPU и зависит от оборудования. Модель поддерживает английский язык; лицензия Apache-2.0.

Nanbeige_Nanbeige4.2-3B-GGUF — это квантизированная версия языковой модели Nanbeige4.2-3B, разработанной Nanbeige и преобразованной в формат GGUF пользователем bartowski с помощью llama.cpp. Модель предназначена для генерации текста и локального запуска через совместимые инструменты, включая llama.cpp, LM Studio, KoboldCpp, Jan AI и Text Generation Web UI. Модель относится к классу текстовых генеративных LLM, имеет размер 3B параметров и поддерживает английский и китайский языки. Доступны варианты от BF16 до различных уровней квантизации Q2–Q8 и IQ, что позволяет выбирать баланс между качеством, размером файлов и требованиями к оперативной памяти. Рекомендуемые варианты Q4–Q6 обеспечивают высокое качество при меньшем размере, а облегчённые варианты подходят для систем с ограниченными ресурсами. Сильными сторонами являются компактный размер, возможность локального запуска и широкий выбор квантизаций, включая варианты, оптимизированные для некоторых ARM- и Apple Silicon-сценариев. Ограничения включают отсутствие сведений о длине контекста, архитектурных деталях базовой модели, мультимодальности и результатах независимых оценок; качество зависит от выбранного уровня квантизации. Распространение указано по лицензии Apache-2.0.

Карточка модели BasedBoba2/nemotron-3.5-asr-streaming-0.6b на Hugging Face совпадает с карточкой Aliados/nemotron-3.5-asr-streaming-0.6b, поэтому описание составлено по ней. Nemotron 3.5 ASR — разработанная NVIDIA многоязычная модель автоматического распознавания речи на 600 млн параметров. Она предназначена для потоковой транскрибации с низкой задержкой и пакетной обработки аудио; доступна через NeMo и Transformers, а веса представлены в формате safetensors. Архитектура Cache-Aware FastConformer-RNNT использует кэш контекста, чтобы обрабатывать новые аудиофрагменты без повторных вычислений. Размер фрагментов можно настраивать от 80 до 1120 мс; модель расставляет пунктуацию и заглавные буквы, а при режиме auto может определять язык речи и добавлять языковую метку к транскрипту. Модель поддерживает 40 языковых локалей: для 32 заявлена транскрибация без дополнительной адаптации, а для восьми требуется дообучение на данных целевого домена. Среди языков есть русский, английский, испанский, французский, немецкий, арабский, китайский, японский и другие. Карточка указывает готовность к коммерческому использованию, однако метаданные обозначают лицензию как other, поэтому конкретные условия следует сверить с файлами лицензии репозитория. Для английской речи автор рекомендует отдельную англоязычную модель Nemotron ASR Streaming.

NexteraBERT-Mezzoforte-220M-en — англоязычный двунаправленный энкодер семейства NexteraBERT, разработанный независимым исследователем RikkaBotan. В репозитории указано 212,6 млн параметров, а метаданные Hugging Face сообщают 353,6 млн; архитектура состоит из 18 блоков с несколькими типами смешивания токенов: линейным SnowLily, скользящим вниманием, полным вниманием и NexteraHRA. Модель предобучена методом masked language modeling на 130 млрд токенов; максимальная длина обучения составляла 8 192 токена. Метаданные не содержат значения длины контекста для инференса. Основной сценарий — восстановление замаскированных токенов. Энкодер также можно дообучать для классификации текста, разметки токенов, ответов на вопросы, задач с вариантами ответа, поиска и оценки сходства. Для поиска и сходства требуется отдельное дообучение: автор подчёркивает, что исходная модель не является готовой моделью эмбеддингов. В сравнительных оценках она показывает результаты, сопоставимые с ModernBERT-base на GLUE, MTEB и BEIR. Модель предназначена для английского языка и использует токенизатор ModernBERT с словарём из 50 368 токенов. Для загрузки пользовательского кода требуется trust_remote_code=True; автор сообщает о проверке с Transformers 5.12 и PyTorch 2.12. Лицензия — MIT.

nyun-c1-llama3-62B — плотная авторегрессионная языковая модель семейства Llama 3 от Nyun AI. В карточке указано около 60,9 млрд параметров и контекст до 8192 токенов. Модель предназначена для генерации текста; приведённые в README оценки охватывают понимание вопросов и ответы на них, а также тесты MMLU и Winogrande. Разработчик описывает модель как оптимизированный вариант Llama 3 70B с примерно на 12% меньшим числом параметров и заявляет о сопоставимых результатах на отдельных бенчмарках. README утверждает, что модель не проходила дообучение; конкретный способ оптимизации не раскрыт в предоставленных данных. Репозиторий содержит веса в формате safetensors. Лицензия — Llama 3.

OLMo-2-1124-13B-Instruct-preview — англоязычная чат-модель Allen Institute for AI (AI2), выпущенная в ноябре 2024 года. Это плотная авторегрессионная модель семейства OLMo 2 с 13,2 млрд параметров, предназначенная для диалога, выполнения инструкций и генерации текста; максимальная длина контекста — 4096 токенов. Модель создана на основе OLMo-2-1124-13B-DPO: после обучения с учителем и оптимизации по предпочтениям она прошла дополнительное RLVR-обучение. В README отмечена ориентация на широкий набор задач, включая математику, GSM8K и следование инструкциям. Основной язык — английский. Лицензия Apache 2.0 допускает свободное использование на её условиях. Модель можно применять для англоязычного ассистента, ответов на вопросы и решения задач с инструкциями. У неё ограничено обучение безопасности, поэтому она может генерировать проблемный контент, особенно в ответ на соответствующие запросы; автоматическая фильтрация ответов не предусмотрена.

Карточка модели FuseAI/OpenChat-3.5-7B-Mixtral-v2.0 на Hugging Face совпадает с карточкой FuseAI/OpenChat-3.5-7B-Starling-v2.0, поэтому описание составлено по ней. FuseAI/OpenChat-3.5-7B-Starling-v2.0 — диалоговая языковая модель, выпущенная исследовательской группой Sun Yat-sen University в рамках проекта FuseChat. Это целевая модель, полученная лёгким дообучением для попарного слияния знаний OpenChat-3.5-7B и Starling-LM-7B-alpha; архитектура — плотная Mistral с 7,1 млрд параметров. В README она описана как компонент для объединения с другими целевыми моделями FuseChat в единую чат-модель. Модель предназначена для ответов на вопросы, выполнения текстовых инструкций и диалогового общения. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README приводит результаты MT-Bench для итоговой FuseChat-7B-v2.0, но не отдельную оценку этого целевого чекпойнта, поэтому эти показатели нельзя напрямую переносить на данную модель. Качество ответов может зависеть от шаблона диалога и сценария применения.

FuseAI/OpenChat-3.5-7B-Starling-v2.0 — диалоговая языковая модель, выпущенная исследовательской группой Sun Yat-sen University в рамках проекта FuseChat. Это целевая модель, полученная лёгким дообучением для попарного слияния знаний OpenChat-3.5-7B и Starling-LM-7B-alpha; архитектура — плотная Mistral с 7,1 млрд параметров. В README она описана как компонент для объединения с другими целевыми моделями FuseChat в единую чат-модель. Модель предназначена для ответов на вопросы, выполнения текстовых инструкций и диалогового общения. Она принимает текст и генерирует текст, поддерживает английский язык и контекст до 8192 токенов. Репозиторий содержит веса Safetensors и использует библиотеку Transformers. Лицензия — Apache-2.0. README приводит результаты MT-Bench для итоговой FuseChat-7B-v2.0, но не отдельную оценку этого целевого чекпойнта, поэтому эти показатели нельзя напрямую переносить на данную модель. Качество ответов может зависеть от шаблона диалога и сценария применения.

OpenELM-3B-Instruct — инструкция-дообученная языковая модель из семейства OpenELM, разработанного Apple. Она предназначена для генерации текста по запросу и выполнения инструкций в исследовательских и прикладных сценариях. Модель использует плотную архитектуру трансформера с причинным языковым моделированием. В семействе OpenELM применяется послойное распределение параметров, призванное повысить эффективность и точность; эта версия содержит 3 млрд параметров. Семейство включает предварительно обученные и инструкционно дообученные варианты, а веса опубликованы в формате Safetensors. Модель подходит для генерации ответов, выполнения текстовых инструкций и экспериментов с языковыми моделями. В README приведены результаты оценки вариантов семейства на тестах рассуждения и понимания текста. Поддерживаемые языки и длина контекста для этой версии в предоставленных данных не установлены. Разработчики предупреждают, что ответы могут быть неточными, вредными, предвзятыми или нежелательными, и не предоставляют гарантий безопасности. Модель распространяется по лицензии apple-amlr. Для обучающих наборов данных могут действовать отдельные лицензии и условия использования, которые следует проверить перед применением.

Модель balrogbob/open_llama_3b_v2-python-instruct-0.1.3 — дообученная разработчиком balrogbob версия Llama для генерации текста и выполнения инструкций на английском языке. Она создана на основе balrogbob/open_llama_3b_v2-python-instruct-0.1.2 с использованием Unsloth и библиотеки TRL. Модель имеет плотную архитектуру LlamaForCausalLM и 3,3 млрд параметров, принимает текст и генерирует текст. Длина контекста составляет 8192 токена. Репозиторий содержит веса в формате safetensors; лицензия — Apache-2.0. Карточка не уточняет специализацию этого обновления относительно базовой версии, поэтому его отдельные преимущества и ограничения определить нельзя.

Ornith-1.5-35B-A3B-GPTQ-Int4-sym-G128-MTP-BF16-MixedCal-v2 — неофициальная локальная GPTQ-квантизация модели ornith-ai/Ornith-1.5-35B-A3B, подготовленная SergiioB для запуска на Intel Arc Pro B70 с использованием vLLM XPU. Модель предназначена для генерации текста и мультимодальных сценариев с обработкой изображений; доступен также режим только языковой модели. Поддерживаемые языки в README не указаны. Это MoE-модель с квантизацией GPTQ симметричного INT4 по группам 128. Квантизированы проекции маршрутизируемых экспертов, тогда как attention, маршрутизатор, shared experts, embeddings, lm_head, MTP-компоненты и vision tower сохранены в BF16. Артефакт содержит один MTP-слой для speculative decoding. В примерах конфигурации указан контекст 16 384 токена, а для мультимодального режима проверен лимит 131 072 токена; более длинные режимы требуют дополнительной настройки памяти. Сильные стороны модели — существенное уменьшение размера до примерно 24,45 ГБ, совместимость с Intel Arc Pro B70 и поддержка MTP1, которая в приведённых измерениях повышала скорость генерации по сравнению с режимом без speculative decoding. Ограничения включают зависимость от конкретного стека vLLM XPU, аппаратных и конфигурационных параметров, необходимость оставлять vision tower и MTP в BF16, а также отсутствие независимого воспроизведения измерений и заявленных task-suite оценок качества. MTP4 в приведённом тесте оказался медленнее режима без speculative decoding. Модель распространяется по лицензии Apache-2.0.

mlx-community/parakeet-tdt_ctc-110m — конверсия модели NVIDIA Parakeet TDT-CTC 110M в формат MLX для запуска на устройствах Apple. Она предназначена для автоматического распознавания речи и преобразования аудио в текст. Базовая модель описана как англоязычная и формирует текст с пунктуацией и заглавными буквами. В основе лежит архитектура FastConformer/Conformer; репозиторий содержит веса safetensors и рассчитан на работу с библиотекой MLX. Модель распространяется по лицензии CC BY 4.0.

Это версия модели распознавания речи NVIDIA Parakeet TDT-CTC 1.1B, подготовленная mlx-community для работы с библиотекой MLX на Apple Silicon. Она принимает аудио и преобразует речь в текст; основное применение — автоматическая транскрипция записей и аудиопотоков. Модель основана на архитектуре FastConformer/Conformer и рассчитана на английскую речь; исходная карточка описывает транскрипцию с пунктуацией и заглавными буквами. Репозиторий содержит веса safetensors и распространяется по лицензии CC BY 4.0. README указывает на конвертацию исходной модели в формат MLX; метаданные каталога помечают связь с исходной моделью как finetune, поэтому происхождение указано по этим метаданным. Подробности о длине аудио, точности и ограничениях применения в предоставленной карточке отсутствуют.

Emese-Patak — языковая модель семейства Emese, разработанная emese-tech на базе EuroLLM-9B. Это плотная LLaMA-подобная авторегрессионная модель с 9,15 млрд параметров и контекстом 32 768 токенов; она принимает текст и генерирует текст. Модель прошла продолженное предобучение на венгерском корпусе, настройку на инструкции и DPO-выравнивание. Доступна в формате bf16 Safetensors для Transformers и MLX; лицензия — Apache-2.0. Patak предназначена прежде всего для диалогов и выполнения инструкций на венгерском языке, включая ответы на вопросы, длинные тексты, чтение и анализ, программирование и задачи с несколькими условиями. По карточке модели, она также показывает хорошие результаты на английском языке. Разработчик сообщает о сильных результатах на собственных бенчмарках и высокой доле отказов на проверке безопасности. Ограничения включают возможные фактические ошибки в редких именах и датах, слабую многошаговую математику, пространственные оценки, отладку кода и доработку ответов по новым условиям в ходе диалога. Качество на других языках унаследовано от EuroLLM-9B. Разработчик предупреждает о снижении результатов при запуске через llama.cpp/GGUF и рекомендует Transformers или MLX.