II.8Инженерия данных и аналитика

Это GGUF-представление Gemma-4-12B-it-AEON-Abliterated-K4-BF16 от mradermacher, подготовленное как набор статических квантованных файлов. Базовая модель — дообученная AEON-7 версия Gemma-4-12B-it; в её описании каталога указано удаление отказов. Репозиторий предназначен для запуска модели в совместимом с GGUF программном обеспечении. Модель используют для диалоговой генерации текста и следования инструкциям; метаданные также указывают на английский язык, чат и работу с кодом, рассуждениями и инструментами в базовом варианте. README перечисляет несколько вариантов квантизации, включая Q2_K и Q3_K, с разными размерами и компромиссами качества. Доступный вариант обозначен как GGUF BF16. Лицензия — Gemma; перед использованием следует учитывать её условия.

MLX-community/GLM-OCR-8bit — это 8-битная версия модели GLM-OCR, преобразованная в формат MLX из исходной модели zai-org/GLM-OCR с помощью mlx-vlm 0.3.11. Модель предназначена для задач преобразования изображений в текст, включая распознавание и анализ содержимого изображений, например документов и других визуальных материалов. Модель поддерживает работу с изображениями и текстовыми запросами через библиотеку mlx-vlm. В карточке указана поддержка китайского, английского, французского, испанского, русского, немецкого, японского и корейского языков. Сведения о точной архитектуре, количестве параметров, максимальной длине контекста и показателях качества не приведены. 8-битное представление ориентировано на запуск в экосистеме MLX, однако конкретные требования к оборудованию также не указаны. Модель распространяется по лицензии MIT. Для использования предлагается установить mlx-vlm и запускать генерацию с указанием изображения, текстового запроса, температуры и максимального числа токенов. Ограничения, связанные с точностью распознавания, поддержкой отдельных форматов изображений и безопасностью результатов, в карточке модели не описаны.

Granite-3B-Code-Base-128K — языковая модель IBM Research для генерации кода. Это плотная causal language model на архитектуре LlamaForCausalLM с 3,5 млрд параметров, доступная в формате safetensors и рассчитанная на контекст до 128 тысяч токенов. Модель получена продолжением предобучения Granite-3B-Code-Base: контекст постепенно увеличивали до 128K, используя данные на уровне репозиториев и повышенную долю примеров с длинными фрагментами кода. Модель предназначена для задач разработки ПО, включая генерацию, объяснение и исправление кода, создание модульных тестов и документации, поиск уязвимостей, перевод кода и работу с большими репозиториями. Она обучалась на коде из 116 языков программирования; среди языков, выделенных для продолженного обучения, — Python, C, C++, Go, Java, JavaScript и TypeScript. Модель принимает текстовые запросы и генерирует текст, в том числе код. Разработчик не рекомендует применять эту модель в новых проектах и предоставляет её для исторических и научных целей; для новых задач предлагается актуальная линейка Granite. Модель не проходила safety alignment, а сгенерированный код может быть ошибочным или содержать проблемные результаты. Также существует риск дословного воспроизведения фрагментов из обучающих данных. Лицензия — Apache 2.0.

granite-embedding-reranker-english-r2 — англоязычная модель ранжирования от команды Granite Embedding Team компании IBM. Это плотный cross-encoder на архитектуре ModernBERT с 149 млн параметров, 22 слоями и 12 головами внимания. Модель совместно кодирует запрос и документ и оценивает их релевантность; она предназначена для повторного ранжирования результатов поиска и информационного поиска. Контекст ограничен 8192 токенами, более длинные входы обрезаются. Модель дообучена на базе ibm-granite/granite-embedding-english-r2 с применением функций потерь для ранжирования, включая pListMLE. В README также упомянуты методы слияния моделей при обучении. Заявлены результаты на бенчмарках BEIR, MLDR и MIRACL. Несмотря на упоминание в карточке векторных представлений размером 768, основное назначение этой версии — выдавать оценки релевантности пар «запрос—документ». Модель рассчитана на английский язык. Лицензия Apache 2.0; README указывает, что данные обучения отбирались с учётом разрешительных лицензий и проходили проверку IBM. Качество ранжирования зависит от тематики и состава документов; входы длиннее контекстного окна обрезаются.

gte-reranker-modernbert-base — англоязычный переранжировщик текста, разработанный Tongyi Lab (Alibaba Group) на основе encoder-only модели ModernBERT-base. Он оценивает релевантность пар запроса и документа, чтобы переупорядочивать результаты поиска и улучшать отбор контекста для RAG. Модель содержит 149 млн параметров и принимает последовательности длиной до 8192 токенов. В карточке приведены результаты на наборах BEIR и LoCo для поиска по документам, а также COIR для поиска кода. Репозиторий содержит веса Safetensors и ONNX; для запуска поддерживается Transformers. Модель рассчитана прежде всего на английский язык. Оценки релевантности могут уступать специализированным моделям на других языках или предметных областях; приведённые результаты бенчмарков не гарантируют качество на конкретном корпусе. Лицензия — Apache-2.0.

Hemlock2-Coder-7B-i1-GGUF — это квантизированная версия языковой модели для генерации и обработки программного кода Hemlock2-Coder-7B. Базовую модель разработала команда hemlang, а квантизацию выполнил mradermacher. Модель распространяется в формате GGUF и предназначена для локального запуска в совместимых инструментах вывода. Модель содержит около 7 миллиардов параметров и ориентирована прежде всего на задачи кодинга и текстовой генерации. В метаданных указан английский язык; сведения о поддерживаемых языках помимо английского, контекстном окне, точной архитектуре и мультимодальности отсутствуют. В качестве связанного набора данных указан hemlang/Hemlock2-DPO, а среди тегов упоминается ORPO, однако подробности обучения и результаты тестирования не приведены. Доступны варианты квантизации от очень компактных IQ1 и IQ2 до более качественного Q6_K. Это позволяет выбирать между требованиями к памяти, скоростью и качеством генерации; для баланса размера, скорости и качества в README рекомендуются варианты i1-Q4_K_S и особенно i1-Q4_K_M. Сильной стороной является широкий выбор GGUF-квантизаций для локального использования, однако низкобитные варианты могут заметно терять в качестве. Лицензия модели в README не указана, поэтому условия использования необходимо уточнять отдельно у разработчиков базовой модели и автора квантизации.

Idefics2-8b-base — базовая мультимодальная модель от Hugging Face для обработки изображений и текста. Она принимает текстовые запросы и одно или несколько изображений, в том числе чередующиеся с текстом, и генерирует текстовые ответы. Модель предназначена для описания изображений, визуальных вопросов и ответов, чтения текста на изображениях и документах, а также анализа диаграмм и графиков. Модель содержит 8 млрд параметров и построена на архитектуре Idefics2: визуальный кодировщик SigLIP обрабатывает изображения, после чего Perceiver pooling и проекция объединяют визуальные признаки с текстовыми эмбеддингами языковой модели Mistral. Поддерживаются изображения с разными пропорциями и разрешением до 980 × 980 пикселей; несколько изображений и текст могут подаваться в чередующемся порядке. Основной язык карточки — английский. Модель служит основой для специализированной настройки. Версия base уступает Idefics2-8b в следовании инструкциям; для готового диалогового применения авторы рекомендуют инструкционную версию, а для длинных ответов — Idefics2-8b-chatty. Генерировать изображения модель не умеет. В README также отмечена несовместимость с Transformers версий 4.41.0–4.43.3. Лицензия — Apache 2.0.

ITS Embedding BGE — англоязычная модель эмбеддингов, дообученная ITS Global на основе BAAI/bge-large-en-v1.5 для семантического поиска и извлечения документов в базе знаний ITS Global. Модель на архитектуре BERT преобразует предложения и фрагменты текста в плотные векторы размерностью 1024; для сопоставления запросы и документы нужно кодировать одной моделью. Максимальная длина контекста — 512 токенов. В проверке на наборе ITS из 1 124 запросов модель показала Accuracy@5 0,961744 против 0,916370 у исходной BGE-large-en-v1.5. Этот результат относится к конкретной проверке и настройкам поиска, поэтому не гарантирует аналогичного качества на других данных. Модель формирует эмбеддинги и не генерирует ответы самостоятельно. Распространяется по лицензии MIT.

JevEmbed-Qwen3-Embedding-4B — текстовая модель эмбеддингов, разработанная HIT-TMG и дообученная на базе Qwen/Qwen3-Embedding-4B для принятия решений JevEmbed Choice, Score и Noul. Модель представлена как Sentence Transformers; LoRA-адаптер объединён с весами в самостоятельную модель, а также доступен отдельно. Она формирует нормализованные эмбеддинги размерностью 2 560 с pooling по последнему токену. Базовая архитектура Qwen3, число параметров — 3,7 млрд, родной контекст — 40 960 токенов. Модель предназначена для использования в JevEmbed: она помогает выбирать ответ, оценивать его и принимать решение Noul по запросу. В тесте на 66 482 вопросах JevEmbed-Data итоговый LoRA-чекпойнт показал точность 85,86% по жёстким меткам в целом и 90,31% для Choice; результаты получены с усечением входа до 1 024 токенов и настройками JevEmbed. Также её можно загружать через SentenceTransformer для получения эмбеддингов. Лицензия весов — Apache 2.0. Лицензии исходных данных для обучения различаются. В конфигурации JevEmbed входы усекаются до 1 024 токенов, поэтому длинные запросы могут терять информацию; приведённые метрики относятся к тестовому набору JevEmbed-Data и не гарантируют аналогичных результатов на других задачах.

Jina AI jina-embeddings-v5-omni-nano-retrieval — мультимодальная модель эмбеддингов, предназначенная для поиска. Она принимает текст, изображения, видео и аудио и преобразует их в векторы общего пространства, согласованного с текстовой моделью jinaai/jina-embeddings-v5-text-nano-retrieval. Это вариант семейства jina-embeddings-v5-omni-nano с адаптацией для retrieval; архитектура в метаданных обозначена как LlavaEuroBertAudioForEmbedding, библиотека — Transformers. Модель содержит около 0,95 млрд параметров, выдаёт эмбеддинги размерностью 768 и поддерживает мультиязычный ввод. Её можно применять для мультимодального поиска, когда документы индексируются текстом, а запрос поступает как изображение, видео или аудио; совместимое векторное пространство позволяет использовать такие запросы без переиндексации текстового корпуса. Видео представляется последовательностью кадров, а звуковая дорожка из видео автоматически не обрабатывается: для совместного представления звука и изображения аудио нужно подать отдельно. Для retrieval важно обозначать роль входа как запроса или документа с помощью префиксов Query: и Document: либо соответствующих функций кодирования. Модель поддерживает усечение векторов с нормализацией и выборочное подключение модальных компонентов для экономии памяти. Веса доступны в формате safetensors; лицензия CC BY-NC 4.0 ограничивает коммерческое использование без отдельного разрешения.

KaLM-Reranker-V1-Small-R2 — мультиязычная модель для переранжирования документов в поисковых системах и RAG-системах, разработанная командой KaLM-Embedding. Это дообученный вариант encoder-decoder модели T5Gemma2 с архитектурой FBNL: она оценивает релевантность документа запросу, поддерживает инструкции и позволяет менять вычислительные затраты с помощью коэффициента сжатия представлений. Версия Small содержит около 1 млрд активируемых параметров, 26 слоёв в энкодере и 26 в декодере, а длина последовательности составляет до 128 тысяч токенов. Модель рассчитана на ранжирование кандидатов в многоязычном поиске и RAG. Поддерживается Matryoshka pooling с коэффициентом сжатия от 1x до 128x, что позволяет выбирать баланс между скоростью и качеством или использовать каскадное ранжирование. В README приведены результаты на BEIR и MIRACL; при стандартном сжатии 4x Small-R2 показывает nDCG@10 61,07 на BEIR и 74,06 на MIRACL. Модель распространяется в формате safetensors по лицензии Apache-2.0. Она выдаёт оценки для ранжирования, а не готовые ответы пользователю; качество зависит от языка, набора документов, параметров сжатия и сценария применения.

KAT-Ornith-Coder-35B-A3B — специализированная гибридная MoE-модель для автономной разработки ПО с агентами вроде OpenHands, Aider и Cline. Она создана слиянием KAT-Coder-V2.5-Dev и Ornith-1.5-35B-A3B методом асимметричного DARE-TIES: модель сохраняет компоненты KAT, отвечающие за токенизацию и маршрутизацию экспертов, и использует параметры Ornith для усиления планирования и работы с контекстом репозитория. Архитектура — Qwen 3.5 MoE с гибридным вниманием; README указывает около 35 млрд параметров всего и около 3 млрд активных на токен, тогда как метаданные каталога сообщают 2,9 млрд параметров. Контекстное окно составляет 262 144 токена. Модель принимает текст, генерирует текст и код, поддерживает диалог и интерфейс вызова инструментов. В карточке заявлены английский и китайский языки. Модель предназначена для агентного программирования: анализа репозиториев, планирования многошаговых изменений, исправления ошибок и работы с инструментами разработки. Среди преимуществ, заявленных авторами, — сочетание планирования с точечными изменениями кода и сохранение синтаксиса вызовов инструментов. Приведённые в README оценки производительности описаны как целевые или ориентировочные, а не как подтверждённые результаты этой модели. Лицензия — Apache-2.0.

KazEmbed-V5 — это дообученная Nurlykhan модель эмбеддингов на базе intfloat/multilingual-e5-base, предназначенная прежде всего для поиска по текстам на казахском языке и построения RAG-систем. Модель использует архитектуру XLM-RoBERTa и содержит около 305 млн параметров по метаданным; README указывает 278 млн. Она преобразует запросы и фрагменты текста в векторы для поиска релевантных материалов и сопоставления предложений. Для наилучших результатов при поиске README рекомендует добавлять к запросам префикс «query:», а к документам — «passage:».

dndjd03 выпустил SentenceTransformer, дообученный на основе klue/roberta-base для сравнения смысла предложений и поиска по тексту. Модель кодирует предложения и абзацы в плотные векторы размерностью 768 и оценивает их сходство с помощью косинусной близости. Архитектура включает RoBERTa с усреднённым пулингом; число параметров — 137,8 млн, максимальная длина входа — 512 токенов. Модель принимает текст и выдаёт векторы для задач поиска и семантического сопоставления. Базовая модель ориентирована на понимание корейского текста, а обучающие примеры в карточке также корейские. Лицензия в предоставленных данных не указана.

daekeun-ml/KoSimCSE-unsupervised-roberta-large — модель эмбеддингов предложений на основе RoBERTa large и метода SimCSE, опубликованная разработчиком daekeun-ml. Она обучена без размеченных пар предложений с помощью контрастивного обучения и предназначена для получения векторных представлений корейского текста. Эмбеддинги можно использовать для поиска семантически близких предложений и оценки сходства по косинусному или другим расстояниям. В README приведены результаты на корейских наборах KLUE-STS и Kor-STS: средние показатели для большой несупервизируемой модели составляют 81,96 и 81,71 соответственно. В руководстве по обучению рекомендована максимальная длина последовательности 32 токена; эти параметры описывают эксперимент обучения и не гарантируют качество для других данных. Модель опубликована в формате Safetensors под лицензией MIT. README также описывает учебный код для самостоятельного обучения SimCSE, включая supervised и distributed варианты.

Sahil Chachra подготовил 8-битную квантованную версию mxfp8 модели LiquidAI/LFM2.5-ColBERT-350M для запуска на компьютерах Apple Silicon через MLX. Это двунаправленный энкодер семейства LFM2.5 с поздним взаимодействием ColBERT: он строит 128-мерные векторы для каждого токена, а релевантность оценивается методом MaxSim. Модель предназначена для многоязычного семантического поиска и ранжирования документов; при кодировании запросов и документов нужны маркеры `[Q] ` и `[D] ` соответственно. В README приведён тест на подмножестве английского NanoBEIR: среднее сохранение NDCG@10 относительно fp16 указано как 99,2%. Веса занимают 365 МБ; пропускная способность кодирования в приведённом тесте на устройстве M-series составляет 12 254 токена в секунду. Метаданные указывают 443,4 млн параметров и контекст до 128 000 токенов. Лицензия обозначена как `other`; условия её использования следует сверить с карточкой модели и базовой моделью.

facebook/mcontriever-msmarco — мультиязычная модель плотного поиска, разработанная исследовательской командой Facebook (ныне AI at Meta). Она создаёт векторные представления текстов для поиска релевантных документов по запросу и была дообучена на MS MARCO для улучшения соответствия между запросами и документами. Модель основана на BERT, имеет около 205 млн параметров и принимает текстовые последовательности длиной до 512 токенов. Базовая версия mContriever обучалась на 29 языках; для этой модели опубликованы оценки мультиязычного и межъязыкового поиска, в том числе по запросам на одном языке с поиском документов на другом. Она возвращает эмбеддинги, которые можно сравнивать, например, скалярным произведением; сама по себе не генерирует ответы. Подходит как компонент информационного поиска и retrieval-этапа RAG. Результаты зависят от языка, данных и настройки поиска; карточка Hugging Face не содержит подробного описания ограничений и не показывает лицензию, поэтому условия использования следует сверить с лицензией репозитория разработчика.

GnLOLot/MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking-GGUF — это набор GGUF-квантизаций языковой модели MiniCPM5-1B-Claude-Opus-Fable5-V2-Thinking, разработанной на базе openbmb/MiniCPM5-1B и дообученной на данных Fable 5. Репозиторий подготовлен для локального запуска через llama.cpp, Ollama, LM Studio, jan, KoboldCpp и другие совместимые среды. Модель предназначена для генерации текста, диалогов, следования инструкциям, программирования, отладки и рабочих процессов с инструментами и вызовами функций. Модель имеет размер 1B параметров, работает с текстом и поддерживает английский и китайский языки. Заявлена длина контекста до 128K токенов, однако фактический доступный размер зависит от используемого GGUF-рантайма и оборудования. В V2 улучшена поддержка tool calling и function calling по сравнению с предыдущей версией; также предусмотрен режим рассуждений, при котором модель может выдавать блоки рассуждений перед итоговым ответом. Шаблон чата MiniCPM5 встроен в метаданные GGUF-файлов. Доступны варианты Q8_0 размером около 1,1 ГБ и F16 размером около 2,1 ГБ; Q8_0 рекомендован как стандартный вариант. К сильным сторонам относятся компактность, возможность локального развертывания, поддержка длинного контекста, программирования и вызова инструментов. Ограничение — небольшой масштаб 1B параметров, поэтому модель не относится к моделям передового уровня и может уступать более крупным системам в сложных задачах. Лицензия — Apache-2.0.

moona3k подготовил 8-битную квантованную версию Qwen/Qwen3-ASR-1.7B для библиотеки MLX и компьютеров Apple Silicon. Модель предназначена для автоматического распознавания речи и транскрибации аудио; при использовании mlx-qwen3-asr поддерживаются временные метки слов и HTTP-сервер. Архитектура — плотная Qwen3-ASR с аудиоэнкодером и текстовым декодером; линейные слои и эмбеддинги квантованы до 8 бит с размером группы 64, остальные указанные в README тензоры хранятся в float16. Размер загрузки — около 2 ГБ. Модель поддерживает английский, китайский, японский, корейский, немецкий, французский, испанский, русский, арабский и хинди. В описанном тесте на 100 аудиофрагментах LibriSpeech test-clean её гипотезы и показатели WER/CER совпали с версией fp16, однако эти результаты ограничены данным набором и настройками оценки. Для запуска требуется пакет mlx-qwen3-asr версии 0.4.1 или новее; лицензия — Apache-2.0.

robro612/modernbert_xtr_contrastive_k128 — англоязычная модель ColBERT на базе answerdotai/ModernBERT-base, дообученная автором репозитория с помощью PyLate на наборе msmarco-10m-triplets. Она кодирует запросы и документы в последовательности плотных 128-мерных векторов, а релевантность оценивает оператором MaxSim. Архитектура включает ModernBERT encoder и линейный слой проекции с 768 до 128 измерений; в метаданных указано 149 млн параметров и контекст до 8192 токенов. В README для использования заданы длины документов до 512 токенов и запросов до 32 токенов. Модель предназначена для семантического поиска по коллекциям документов и переранжирования результатов первичного поиска. Для быстрого поиска по индексу README рекомендует связку с FastPLAID в PyLate. Модель обучалась на англоязычных триплетах MS MARCO; приведены результаты оценивания на наборах Nano BEIR и других коллекциях, но они не гарантируют качество на произвольных данных. Для работы с моделью требуется библиотека PyLate. Файлы представлены в формате safetensors. Лицензия в предоставленных данных не указана.

along26/mpnet-base-manglish-triplet — текстовая Sentence Transformer-модель, созданная дообучением microsoft/mpnet-base разработчиком along26 на триплетах Manglish. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения текстов по косинусному сходству. Подходит для поиска семантически близких текстов, выявления перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Модель основана на MPNet и использует усреднение токенных представлений; максимальная длина последовательности — 512 токенов (514 нативных токенов по метаданным). В карточке указан английский язык. Опубликована в формате safetensors, использует библиотеку Sentence Transformers и распространяется по лицензии Apache-2.0. В README для оценки на manglish-dev и manglish-test приведена точность cosine_accuracy 0.0, поэтому качество на этих наборах вызывает сомнения; перед применением следует проверить модель на целевых данных.

multilingual-e5-small-fra-32768 — текстовая модель эмбеддингов, опубликованная alphaedge-ai на основе intfloat/multilingual-e5-small. Она предназначена для задач семантического сравнения предложений, поиска и ранжирования документов, сопоставления запросов с фрагментами текста и других сценариев, где требуется преобразование текста в векторные представления. Модель интегрируется с библиотекой sentence-transformers и поддерживает раздельное кодирование запросов и документов. Модель оптимизирована для французского языка за счёт сокращения словаря методом trimming. Размер словаря уменьшен с 250 037 до 32 768 токенов, а количество параметров — с 117 653 760 до 34 222 464, что соответствует уменьшению размера примерно на 70,91%. По заявлению авторов, при французских текстах она должна демонстрировать результаты, близкие к исходной multilingual-e5-small, при существенно меньшем потреблении памяти. Архитектурные детали, размер контекста и поддержка других модальностей в README не указаны; заявлена только работа с текстом. Главное ограничение — возможное заметное ухудшение качества на языках, отличных от французского, поскольку редко используемые для выбранного языка токены были удалены. Модель распространяется по лицензии MIT.

NeuralKrishna-7B-v3 — объединённая модель для генерации текста, созданная Kukedlc с помощью LazyMergekit. В конфигурации указана база mlabonne/Monarch-7B и слияние методом DARE-TIES с NeuralGlitch-Yam-Peleg-7B-DT, Fasciculus-Arcuatus-7B-slerp и Neural4gsm8k; веса сохранены в формате bfloat16. Метаданные указывают архитектуру Mistral с плотной сетью из 7,1 млрд параметров и контекстом до 32 768 токенов. Модель предназначена для генерации текста и может быть полезна для диалогов и решения задач на рассуждение, включая математические вопросы, благодаря включённой в слияние Neural4gsm8k. Поддерживаемый язык в источниках не указан. Модель распространяется по лицензии Apache-2.0.

cross-encoder/nli-MiniLM2-L6-H768 — англоязычная модель для вывода отношений между парой предложений, обученная с помощью класса Cross-Encoder библиотеки SentenceTransformers. Она основана на MiniLMv2-L6-H768, дистиллированной из RoBERTa-Large, и дообучена на наборах SNLI и MultiNLI. Модель содержит 95,2 млн параметров и принимает пары текстов, выдавая оценки для классов «противоречие», «следование» и «нейтральное отношение». Её можно применять для классификации без примеров по заданным меткам и оценки сходства предложений. Модель подходит для проверки текстовых гипотез, сопоставления предложений и классификации текста по описаниям меток. Доступны реализации в форматах PyTorch, ONNX и OpenVINO; библиотека карточки — SentenceTransformers. Контекст составляет до 514 токенов. Модель распространяется по лицензии Apache-2.0.

Nous-Hermes-13b — языковая модель Nous Research, дообученная совместно с Teknium и Karan4D на более чем 300 тысячах инструкций. В её основе Llama с плотной архитектурой и примерно 12,9 млрд параметров; модель распространяется в формате PyTorch. Она принимает текстовые инструкции в формате Alpaca и предназначена для генерации текста и диалоговых ответов. Модель обучалась преимущественно на синтетических ответах GPT-4 и наборах инструкций по общим темам, ролевым сценариям, программированию, математике и естественным наукам. Карточка заявляет длинные ответы и низкий уровень галлюцинаций, но не приводит в предоставленных материалах независимой проверки этих свойств. Контекст модели — 2048 токенов; карточка указывает английский язык. Лицензия — GPL.

shisa-ai/Ornith-1.0-35B-FP8-BLOCK-MTP — производный чекпойнт модели Ornith-1.0-35B, опубликованный Shisa AI. Он основан на shisa-ai/Ornith-1.0-35B-FP8-BLOCK и предназначен для ускорения генерации текста с помощью speculative decoding и механизма MTP (Multi-Token Prediction). Модель ориентирована на задачи генерации кода, рассуждений и агентских сценариев, поддерживаемые базовой моделью и совместимым сервером инференса. Основные веса сохранены в формате FP8_BLOCK с использованием compressed-tensors, а MTP-голова добавлена в формате BF16. В чекпойнт включены 19 тензоров mtp.*; обучение или дистилляция не выполнялись — использована прямая graft-операция с MTP-головой от Qwen/Qwen3.6-35B-A3B. Размер базовой модели составляет 35B параметров; в метаданных также указана MoE-архитектура. Сведения о поддерживаемых языках и точном размере контекстного окна в README не приведены, хотя в локальном тестировании использовался лимит 32768 токенов. Главное преимущество — повышение пропускной способности при обслуживании через vLLM. В описанном локальном тесте конфигурация с num_speculative_tokens=3 достигла 246,522 выходных токена в секунду против 203,142 у базового режима без speculative decoding, то есть прирост составил 21,4%. При этом увеличивались медианные задержки до первого токена и межтокеновые интервалы, а acceptance снижался с 85,82% при одном спекулятивном токене до 66,98% при трёх. Результаты получены на одной NVIDIA RTX PRO 6000 Blackwell с частными тестовыми данными и могут не воспроизводиться на других аппаратных или рабочих нагрузках. Модель распространяется по лицензии MIT. Для использования MTP требуется совместимая инфраструктура, в частности vLLM с поддержкой соответствующих механизмов и compressed-tensors. README рекомендует повторно измерить производительность на собственном трафике; для чувствительных к задержке или стабильности сценариев следует рассмотреть один спекулятивный токен либо работу без speculative decoding.

Ornith-1.0-397B-GGUF — открытая языковая модель из семейства Ornith-1.0, разработанная deepreinforce-ai и представленная в формате GGUF командой Unsloth. Модель предназначена прежде всего для агентного программирования и задач, связанных с автономной разработкой ПО, включая работу с терминалом, решение инженерных задач и генерацию кода. В README заявлено, что семейство ориентировано на высокую производительность в Terminal-Bench 2.1, SWE-Bench, NL2Repo и OpenClaw. Модель относится к архитектуре Qwen 3.5 MoE и имеет заявленный размер 397B параметров; при этом она описывается как вариант, рассчитанный на эффективное развертывание на одной GPU. Ornith-1.0 использует обучение с подкреплением, оптимизируя не только итоговые решения, но и scaffolding — структуру поиска и выполнения шагов, которая приводит к этим решениям. Это может быть сильной стороной в многошаговых агентных сценариях и программировании, однако конкретные характеристики контекстного окна, языков, поддерживаемых модальностей, требований к памяти и особенностей квантования GGUF в предоставленных данных не указаны. Модель распространяется по лицензии MIT, без региональных ограничений, что допускает свободное использование при соблюдении условий лицензии. Заявленные результаты бенчмарков следует интерпретировать с учетом конкретного раннера и конфигурации оценки: для Terminal-Bench 2.1 указаны результаты 77,5 с Terminus-2 и 78,2 с Claude Code.

OsaurusAI/Ornith-1.5-9B-MXFP8 — это 8-битная сборка модели Ornith 1.5-9B, подготовленная для MLX Джихо Джангом на основе модели Ornith AI. Она предназначена для агентного программирования, рассуждений и работы с инструментами. Архитектура Qwen3.5 сочетает gated-delta linear attention с полным вниманием в соотношении 3:1; модель имеет 27-слойную башню зрения. Размер файлов сборки — 9,45 GiB. Модель принимает текст, изображения и видео и выдаёт текст. Режим рассуждений включён по умолчанию; доступен вариант генерации без содержимого блока рассуждений. В карточке приведены результаты SWE-bench Verified 79 и Terminal-Bench 2.1 67,8. Сборка служит 8-битным эталоном качества для вариантов JANG. Лицензия — MIT.

Parakeet RNNT 0.6B — модель автоматического распознавания речи, совместно разработанная командами NVIDIA NeMo и Suno.ai. Это версия FastConformer Transducer примерно с 600 млн параметров; модель принимает монофоническое аудио WAV с частотой 16 кГц и возвращает текстовую расшифровку. Она распознаёт английскую речь и выдаёт транскрипт строчными буквами английского алфавита. Модель обучена на 64 тысячах часов английской речи, включая публичные наборы данных и частную подборку. Её можно использовать для расшифровки отдельных записей и пакетной обработки аудиофайлов, а также как предварительно обученный чекпойнт для дообучения в NeMo. Для оценки качества в карточке приведены показатели WER на нескольких тестовых наборах; результаты указаны для жадного декодирования без внешней языковой модели. Для запуска предусмотрены NeMo и Transformers. Модель распространяется по лицензии CC BY 4.0. Карточка описывает распознавание английской речи; пригодность для других языков не заявлена.

Parakeet TDT-CTC 110M — модель автоматического распознавания речи, совместно разработанная командами NVIDIA NeMo и Suno.ai. Она преобразует английскую речь в текст с пунктуацией и заглавными буквами и подходит для транскрибирования аудиофайлов, в том числе длинных записей и больших наборов файлов. Модель построена на гибридной архитектуре FastConformer-TDT-CTC примерно со 114 млн параметров и обучена в NVIDIA NeMo. Она принимает монофоническое аудио WAV с частотой 16 кГц и может обрабатывать до 20 минут аудио за один проход. Для декодирования доступны варианты TDT и CTC; разработчики сообщают о высокой скорости работы, но результаты зависят от оборудования и условий запуска. Модель обучена на англоязычных речевых данных, включая публичные наборы LibriSpeech, Fisher, VCTK, VoxPopuli, Europarl-ASR, Multilingual LibriSpeech и Common Voice, а также частную выборку. Карточка указывает лицензию CC-BY-4.0. Модель предназначена для английской речи; качество на других языках и в условиях, отличающихся от обучающих данных, не подтверждено.