I.3Извлечение и структурирование данных

ECE-1B-merge-PRYMMAL — языковая модель LilRg, полученная слиянием Qwen2.5-1.5B-Instruct и Qwen2.5-1.5B методом SLERP с помощью LazyMergekit. Это плотная причинная трансформерная модель семейства Qwen2, содержащая 1,5 млрд параметров и принимающая текст для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов; в метаданных также отмечен интерфейс вызова инструментов. Модель подходит для компактных чат-приложений, генерации и продолжения текста, а также формирования структурированных ответов. Репозиторий содержит веса в формате Safetensors. Лицензия — Apache-2.0. README не приводит результатов оценки качества или конкретных ограничений поведения модели.

Edda v0.1 — датская модель распознавания речи, разработанная Danish Foundation Models. Это полное дообучение Whisper Large v3 Turbo с 809 млн параметров и исходной архитектурой Whisper: энкодером и декодером с фиксированными аудиоокнами длиной 30 секунд. Модель обучена на 2 600 часах датской речи из шести открытых корпусов; для длинных записей поддерживается обработка окнами по 30 секунд. Модель предназначена для преобразования датской речи в текст, включая парламентские выступления, чтение вслух и разговорную речь. В описанном авторами тестировании она показала средний WER 9,20 на пяти наборах датского ASR-бенчмарка. README приводит отдельные результаты для CoRal-v3 и Common Voice; заявленная скорость измерена на AMD MI250X GCD. Выходная транскрипция следует стилю разметки обучающих корпусов: например, на парламентских записях модель может пропускать повторы и перезапуски фраз. На очень длинных записях, тишине или музыке возможны повторения фрагментов; для таких случаев авторы рекомендуют делить аудио на части по паузам. Работа с детской речью, сильными ненативными акцентами, телефонным аудио и пением не проверялась. Лицензия — Apache-2.0.

shanaka95/embeddinggemma-300m-rag-stage1 — дообученная модель эмбеддингов на базе google/embeddinggemma-300m, разработанная для поиска документов в корпоративных RAG-системах. Она преобразует текстовые запросы и документы в векторы, пригодные для сравнения по косинусной близости. Для запросов и документов предусмотрены отдельные подсказки query и document. Модель основана на плотной текстовой архитектуре Gemma 3 и содержит 302,8 млн параметров. Контекст — до 2048 токенов; модель принимает и обрабатывает текст на английском языке. Дообучение на 200 000 парах вопрос—документ из EnterpriseRAG-Bench использовало MultipleNegativesRankingLoss и MatryoshkaLoss с размерами эмбеддингов 768, 512, 256 и 128. В оценке на подмножестве бенчмарка модель показала Recall@1 0,3933 против 0,1750 у базовой модели; результаты получены на 89 вопросах и корпусе из 5000 документов. Модель предназначена для семантического поиска и извлечения релевантных документов в RAG-сценариях. Для корректного поиска корпус необходимо заново закодировать этой моделью: эмбеддинги базовой модели находятся в другом векторном пространстве. Лицензия — Gemma; этап 2 дообучения с подбором сложных негативных примеров в карточке указан как находящийся в процессе.

Moritz Laurer опубликовал мультиязычную модель классификации последовательностей на архитектуре ERNIE-M с 658,7 млн параметров. Она дообучена для вывода о естественном языке (NLI) на данных XNLI и английского MNLI и подходит для классификации текстов по заданным пользователем категориям без отдельного обучения на этих категориях. Модель сравнивает посылку и гипотезу, определяя, следует ли гипотеза из текста, противоречит ему или не связана с ним. Это позволяет классифицировать тексты по кандидатным меткам и выполнять NLI на многих языках. README сообщает о поддержке 100 языков; оценки приведены для 15 языков XNLI, а для остальных качество может быть ниже. Максимальная длина контекста — 514 токенов. Модель основана на ERNIE-M от Baidu, предварительно обученной на основе RoBERTa на многоязычном корпусе CC100. В README отмечено, что она превосходит RoBERTa сопоставимого размера. Доступны веса PyTorch и safetensors; лицензия — Apache-2.0. К ограничениям относятся возможное снижение качества на языках вне оценки XNLI и потенциальные смещения, связанные с данными NLI. Для архитектуры требуется Transformers версии 4.27 или новее.

Это порт модели Escha Qwen3.8-27B, подготовленный degenmeowster для запуска через llama.cpp на AMD ROCm. В основе — дообученная EschaLabs/Qwen3.8-27B-Escha-W2; веса представлены в формате GGUF с 2-битной квантизацией Escha W2 и головой Q8_0. Модель использует плотную гибридную архитектуру Qwen35: 64 слоя, из которых 48 используют линейное внимание, а 16 — полное. В README заявлена поддержка контекста до 262144 токенов; порт проверен на AMD Radeon RX 7900 XTX с gfx1100. Модель предназначена для диалоговой генерации текста и задач рассуждения. README приводит измерения производительности и качества на указанной видеокарте, но они зависят от оборудования, настроек и протокола оценки. Сильные стороны — большой контекст и возможность полного размещения модели и KV-кэша на подходящей карте AMD; ограничение — сильная 2-битная квантизация может влиять на качество, а сведения о поддерживаемых естественных языках не приведены. Лицензия репозитория — Apache-2.0.

FastContext-4B-SFT_base-SFT-Fable5 — плотная языковая модель для генерации текста, созданная дообучением Microsoft FastContext-1.0-4B-SFT на наборе инструкций Fable-5-Complete-2M-Clean. В основе архитектура Qwen3ForCausalLM; в метаданных указано 3,7 млрд параметров, а в README — 4,0 млрд. Контекст составляет до 262 144 токенов. LoRA-адаптеры объединены с базовыми весами, поэтому результат представляет собой цельную модель.

ZenML разработала эту модель Sentence Transformers, дообученную на базе Snowflake/snowflake-arctic-embed-m-v1.5 на 36 примерах из набора json. Она преобразует предложения и абзацы на английском языке в плотные векторы размерностью 768 для сравнения семантической близости; архитектура включает BERT, CLS-пулинг и нормализацию, а сходство можно оценивать косинусной мерой. Модель подходит для семантического поиска, сопоставления похожих предложений, поиска перефразировок, кластеризации и подготовки векторных признаков для классификации текста. Максимальная длина входа — 512 токенов. Карточка приводит результаты поиска на небольшом наборе и описывает обучение на 36 примерах, поэтому качество за пределами данных и сценариев ZenML требует отдельной оценки. Лицензия — Apache-2.0.

unsloth/gemma-2-9b-bnb-4bit — это квантизированная 4-битная версия языковой модели Gemma 2 с 9 млрд параметров, разработанная на базе google/gemma-2-9b и подготовленная Unsloth с использованием bitsandbytes. Модель предназначена для задач генерации и дополнения текста, диалоговых приложений, а также дообучения на собственных наборах данных с помощью Transformers и инструментов Unsloth. Из доступных данных известно, что модель работает с текстом и поддерживает английский язык. Она распространяется в формате 4-bit и ориентирована на снижение требований к памяти при запуске и дообучении; для Gemma 2 (9B) заявлены экономия памяти до 58% и ускорение до 2,4 раза в соответствующем сценарии Unsloth. README не содержит сведений о длине контекста, точной архитектуре, качестве на конкретных бенчмарках или поддержке других языков и модальностей. К сильным сторонам относятся уменьшенный объём памяти и совместимость с экосистемой Transformers, а также возможность последующего экспорта в GGUF и vLLM. Ограничения связаны с 4-битной квантизацией, которая может влиять на точность и не обязательно подходит для всех задач. Модель распространяется по лицензии Gemma; условия её использования следует уточнять в документации Google.

RedHatAI/gemma-3-12b-it-FP8-dynamic — это квантизированная версия мультимодальной модели google/gemma-3-12b-it, разработанная Neural Magic. Модель принимает изображения и текст, а генерирует текст; заявленный язык — английский. Она предназначена для визуально-текстового диалога, анализа изображений и решения текстовых задач, а также для эффективного инференса через vLLM версии 0.5.2 и новее с OpenAI-совместимым режимом сервинга. Модель основана на архитектуре gemma-3-12b-it с 12 миллиардами параметров. Веса и активации квантизированы в формат FP8 с динамической схемой квантизации FP8_DYNAMIC. По приведённым оценкам, квантизация практически сохранила качество исходной модели: средний результат на текстовом бенчмарке OpenLLM v1 составил 75,21% против 74,99% у базовой модели, а на Vision Evals — 58,94% против 58,43%. Это делает модель подходящей для ресурсоэффективного развёртывания, однако README не указывает размер контекстного окна и не приводит подробных ограничений по качеству, безопасности или поддерживаемым языкам помимо английского. Модель распространяется по лицензии Apache 2.0. Для использования рекомендуется backend vLLM; поддержка конкретных сценариев зависит от совместимости оборудования и программного окружения с FP8.

RedHatAI/gemma-3-4b-it-FP8-dynamic — это динамически квантизированная версия мультимодальной модели google/gemma-3-4b-it, разработанная Neural Magic. Модель принимает текст и изображения, а генерирует текст; заявленный язык — английский. Она предназначена для задач понимания изображений, визуально-текстового диалога и обычной генерации текста. Модель основана на архитектуре gemma-3-4b-it и содержит около 4 миллиардов параметров. Веса и активации квантизированы в формат FP8, что снижает требования к памяти и может повысить эффективность инференса при сохранении близкого к исходной модели качества. Для развертывания заявлена совместимость с vLLM версии 0.5.2 и новее, включая OpenAI-совместимый режим сервинга. В тестах OpenLLM v1 средний результат составил 64,69% против 64,70% у исходной модели, а на указанных vision-бенчмарках — 44,97% против 45,33%. Сильная сторона модели — сочетание текстовых и визуальных возможностей с эффективным FP8-инференсом и минимальной потерей качества относительно базовой модели. Ограничения включают заявленную ориентацию на английский язык, зависимость от совместимого стека vLLM и возможное влияние квантизации на отдельные задачи; подробные сведения о максимальном контексте и полном наборе поддерживаемых языков не указаны. Модель распространяется по лицензии Apache 2.0.

Это неофициальная обёртка для Transformers модели GigaAM-v2-CTC, разработанной SberDevices. Она предоставляет интерфейс библиотеки Transformers для распознавания русской речи и совместима с привычными средствами загрузки моделей, извлечения признаков и токенизации в этой библиотеке. Модель принимает аудио и преобразует речь в текст, поэтому подходит для автоматической расшифровки русскоязычных записей. В репозитории указаны веса в форматах PyTorch и Safetensors, а для работы приведены версии PyTorch, Torchaudio, Transformers и Accelerate. Лицензия — MIT. Это сторонняя обёртка исходной модели; README не сообщает её размер, длину контекста или результаты оценки качества.

GLM-5.2-DQ4plus-q8 — это конвертированная в формат MLX и смешанно квантованная версия языковой модели GLM-5.2, разработанной Z.ai (zai-org) и опубликованной сообществом mlx-community. Модель предназначена для генерации текста и локального запуска на одном Apple Mac Studio с чипом M3 Ultra и 512 ГБ памяти; для использования рекомендуется библиотека mlx-lm. Ключевая особенность — смешанная квантизация: большинство тензоров сохраняется в 8-битном формате, тензоры up и gate экспертных слоёв квантуются до 4 бит, а down-тензоры — до 5 и 6 бит в зависимости от блока. Такой подход призван сохранить качество при меньшем потреблении памяти и оставить место для контекстного окна. В README не указаны точный размер модели, архитектура GLM-5.2, поддерживаемые языки, модальности и длина контекста; заявленные характеристики применимы прежде всего к MLX-окружению Apple Silicon. Модель ориентирована на пользователей, которым нужен локальный запуск крупной языковой модели на совместимом Mac. Её сильная сторона — компромисс между качеством и требованиями к памяти благодаря преимущественно 8-битным весам и более экономной квантизации экспертных тензоров. Ограничения связаны с привязкой к MLX и оборудованию Apple Silicon, а также с возможными потерями качества из-за квантизации. Модель распространяется по лицензии MIT.

Pantheon-Reasoning-26B-A4B-1.1-GGUF — это квантизированная версия текстовой генеративной модели Pantheon-Reasoning-26B-A4B-1.1, разработанной Gryphe и подготовленной в формате GGUF пользователем bartowski. Модель предназначена для диалогов, работы в режиме instruction-following, рассуждений, творческого письма и ролевых сценариев. Указан английский язык и текстовая модальность. Модель содержит 26B параметров и использует конфигурацию A4B; дополнительные сведения об архитектуре, размере контекста и точном значении этой конфигурации в README не приведены. Квантизация выполнена с использованием llama.cpp и метода imatrix, доступны варианты от BF16 до различных уровней Q3–Q8 и IQ. Старшие варианты обеспечивают более высокое качество, а младшие требуют меньше оперативной памяти, но могут сильнее терять в качестве. Для работы необходимы совместимые инструменты, включая llama.cpp, LM Studio, KoboldCpp и другие приложения, поддерживающие GGUF; для недавно поддержанных архитектур может потребоваться обновление ПО. Модель распространяется по лицензии Apache-2.0.

gte-large-zh-i1-GGUF — это GGUF-квантизации модели thenlper/gte-large-zh, подготовленные mradermacher. Модель предназначена для задач семантического сравнения предложений и создания текстовых эмбеддингов; соответствующие сценарии включают поиск по смыслу, сопоставление текстов и другие задачи, поддерживаемые библиотеками Sentence Transformers и MTEB. В репозитории представлены варианты квантизации i1-IQ и Q различных уровней, размером примерно от 0,2 до 0,4 ГБ. Квантизация позволяет уменьшить требования к хранению и потенциально упростить локальный запуск, однако чрезмерно компактные варианты могут заметно уступать по качеству. В README указано, что модель относится к Transformers и заявлена для английского языка; сведения о точной архитектуре, числе параметров, размере контекста и поддержке других модальностей отсутствуют. Модель распространяется по лицензии MIT. Репозиторий содержит именно квантизированные GGUF-файлы, поэтому для использования требуется совместимое программное обеспечение; конкретные ограничения совместимости и рекомендуемый вариант зависят от выбранного типа квантизации.

Hermes-2-Theta-Llama-3-8B-IMat-GGUF — это квантованная версия языковой модели NousResearch/Hermes-2-Theta-Llama-3-8B, подготовленная пользователем legraphista с помощью llama.cpp. Модель основана на Llama 3 и дообучена на наборе teknium/OpenHermes-2.5. Она предназначена для генерации текста и диалоговых сценариев, включая локальный запуск через совместимые инструменты llama.cpp. Модель имеет 8 миллиардов параметров и распространяется в формате GGUF с вариантами квантования от Q2_K и IQ3 до Q8_0, а также в форматах FP16 и BF16. Для ряда вариантов применена IMatrix-квантизация, призванная улучшить сохранение качества при уменьшении размера модели. В README указан английский язык, однако сведения о длине контекста и мультимодальности отсутствуют; по представленным данным модель является текстовой. Основные преимущества — широкий выбор размеров файлов, возможность локального использования и наличие низкобитных вариантов, снижающих требования к памяти. Качество зависит от выбранного уровня квантования: более компактные варианты экономичнее, но могут сильнее уступать исходной модели. Лицензия — Apache-2.0.

Hypa-Llama3.1-8b-SFT — созданная Hypa Intelligence многоязычная модель генерации текста на базе Meta Llama 3.1 8B Instruct. Это продолжение дообучения предыдущего чекпойнта Hypa-Llama методом SFT с LoRA/QLoRA; адаптер объединён с весами в 16-битном формате. Модель содержит 7,5 млрд параметров, использует архитектуру Llama и библиотеку Transformers. Лицензия — Apache-2.0. Модель предназначена для перевода между английским, французским, испанским и четырнадцатью языками Нигерии, определения языка, словарных объяснений, многоязычного следования инструкциям и вызова инструментов в формате Llama. В карточке перечислены 17 поддерживаемых языков; контекст обучения составляет 2048 токенов, хотя базовая конфигурация унаследовала более длинное окно контекста. К сильным сторонам относятся поддержка ряда малоресурсных языков и структурированный вывод в Markdown или JSON. Качество может заметно различаться между языками, поэтому для редких языков ответы следует проверять с носителями; JSON иногда требует исправления. Модель не проходила дополнительную настройку безопасности после SFT и не предназначена для самостоятельного применения в медицинских, юридических, финансовых и психологических сценариях.

ilsp_Llama-Krikri-8B-Instruct-GGUF — это набор GGUF-квантизованных версий инструкционной языковой модели Llama-Krikri-8B-Instruct, разработанной ilsp. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и работы в диалоговых и других сценариях, поддерживающих формат инструкций Llama 3.1, включая запуск локально через llama.cpp, LM Studio и совместимые проекты. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и заявлена для греческого и английского языков. Доступны варианты от F32 и F16 до различных форматов Q8, Q6, Q5, Q4, Q3 и IQ-квантизации. Более крупные варианты обычно сохраняют более высокое качество, а компактные требуют меньше оперативной памяти; в README рекомендуются, среди прочих, Q6_K_L, Q6_K, Q5 и Q4_K_M. Точный размер контекста в предоставленных данных не указан. Основные преимущества — возможность локального запуска, широкий выбор компромисса между качеством и требованиями к памяти, а также поддержка CPU-инференса и аппаратных конфигураций, совместимых с llama.cpp. Ограничения связаны с потерями качества в более агрессивно квантизованных версиях, отсутствием заявленной мультимодальности и неизвестным размером контекстного окна. Лицензия указана как llama3.1.

Sanat-agrwl/indic-whisper-ctc-timestamps — модель Саната Кумара Агравала и Шриканта Раджа Четупатли для распознавания речи на хинди с временными метками слов. Это Whisper large-v2, дообученная для хинди и дополненная символьной CTC-головой, которая использует то же представление аудио, что и декодер транскрипции. Модель выполняет один проход энкодера: декодер формирует текст, а CTC-голова оценивает границы слов с разрешением 20 мс. Модель подходит для транскрибирования хинди-речи и автоматической разметки начала и конца каждого слова. В тесте IndicVoices-R для хинди указана WER 14,6%; среднее расхождение границ с внешним выравнивателем составляет 20,8 мс, однако это согласие между системами, а не точность относительно человеческой разметки. По README, калибровка уменьшает среднюю ошибку относительно человеческой разметки с 74,5 до 43,0 мс. Распространяется по лицензии Apache-2.0.

Jan-v2-VL-max — мультимодальная vision-language модель, разработанная JanHQ и основанная на Qwen3-VL-30B-A3B-Thinking. Модель содержит 30 миллиардов параметров и предназначена для обработки текста и изображений, включая работу со скриншотами. Указан английский язык. Доступна в формате GGUF, а также упоминается FP8-сборка для инференса. Основной сценарий применения — выполнение длинных многошаговых задач, где план или необходимые знания задаются заранее, а результат зависит от устойчивого последовательного выполнения с минимальным накоплением ошибок. Модель ориентирована на агентскую автоматизацию и управление пользовательским интерфейсом в браузерах и настольных приложениях, включая использование скриншотов, инструментов и Jan Browser MCP. По данным README, LoRA-based RLVR улучшает стабильность при длинных цепочках действий. В сравнении с Qwen3-VL-30B-A3B-Thinking FP8-версия не демонстрирует регрессий и показывает небольшие улучшения на ряде задач, особенно при долгом выполнении. FP8-сборка также снижает требования к памяти и задержку, однако конкретные результаты, максимальный контекст и полный перечень поддерживаемых языков не указаны. Для локального запуска рекомендуются vLLM и llama.cpp; лицензия — Apache 2.0.

K2-Horizon-7B-Uno Merged — слитая версия модели IFM/K2-Horizon-7B-Uno, опубликованная hermitdave. Репозиторий содержит объединённые с базовыми весами LoRA-адаптеры diffusion-модели; после слияния модель работает как стандартная авторегрессионная языковая модель. Архитектура плотная, семейство K2-Horizon; в метаданных указано 8 млрд параметров, а README сообщает примерно о 7,6 млрд параметров и 32 слоях. Модель предназначена для генерации текста и диалогов, включая рассуждения. Заявлен контекст до 524 288 токенов. Репозиторий содержит веса Safetensors; README также описывает подготовку для MLX и запуск на Apple Silicon. Для обработки специальных тегов рассуждений и вызовов инструментов в oMLX требуется версия 0.6.4 или новее с патчем поддержки K2-Horizon. Модель основана на IFM/K2-Horizon-7B-Uno, которая, согласно README, разработана Institute of Foundation Models. Лицензия — Apache 2.0. Качество и поддерживаемые языки в предоставленных данных не описаны; длинный заявленный контекст требует подходящей среды запуска и достаточных ресурсов.

snunlp/KR-SBERT-Medium-klueNLItriplet_PARpair-klueSTS — модель Sentence Transformer от SNUNLP на архитектуре BERT, дообученная на корейском датасете klue/klue. Она преобразует предложения и абзацы в плотные векторы размерности 768, пригодные для сравнения семантической близости по косинусному сходству. Максимальная длина входа — 512 токенов. Модель предназначена для оценки сходства корейских текстов и может применяться для семантического поиска, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. В README приведена оценка Spearman cosine 0,869 на sts-dev. Модель принимает текст и выдаёт векторы; её карточка не указывает лицензию.

Krutrim-2-instruct-GGUF — это набор GGUF-квантизованных версий инструкционной языковой модели Krutrim-2-instruct, разработанной krutrim-ai-labs и подготовленной квантизатором bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и выполнения инструкций, а также для локального запуска через llama.cpp, LM Studio и другие совместимые проекты. В набор входят варианты от полноточных F32 и F16 до квантизаций Q8_0, Q6_K, Q5_K, Q4 и Q3, размером примерно от 5,7 до 49 ГБ. Доступны языки English, Hindi, Bengali, Marathi, Telugu, Tamil, Kannada, Malayalam, Gujarati, Assamese и Punjabi. Архитектура, число параметров, размер контекста, поддержка дополнительных модальностей и точные сценарии обучения в README не указаны; по представленным данным это текстовая, а не мультимодальная модель. Основное преимущество набора — широкий выбор уровней квантизации для подбора баланса между качеством, скоростью и требованиями к памяти. В README варианты Q6_K_L, Q6_K, Q5_K и Q4_K_M отмечены как рекомендуемые, однако низкоразрядные версии могут заметно уступать полноточным по качеству. Модель распространяется по Krutrim Community License Agreement версии 1.0; подробные условия следует уточнять в файле лицензии.

djuna/L3.1-Promissum_Mane-8B-Della-calc — объединённая плотная языковая модель семейства Llama, созданная с помощью mergekit методом della. В качестве основы использована unsloth/Meta-Llama-3.1-8B, также объединены DreadPoor/Spei_Meridiem-8B-model_stock, DreadPoor/Heart_Stolen1.1-8B-Model_Stock и DreadPoor/Aspire1.1-8B-model_stock. Модель содержит около 7,5 млрд параметров и рассчитана на генерацию текста и диалоговое использование; нативная длина контекста — до 131 072 токенов. Модель принимает текст и генерирует текст. README приводит результаты Open LLM Leaderboard, включая оценки IFEval и BBH, но не описывает специализацию на конкретной предметной области или языках. Репозиторий использует формат safetensors и библиотеку Transformers. Лицензия в предоставленных данных не указана.

LaSER-Qwen3-4B — плотный текстовый ретривер с латентным рассуждением, разработанный в рамках подхода LaSER и построенный на базе Qwen/Qwen3-4B. Модель дообучена методом самодистилляции так, чтобы выполнять несколько шагов внутреннего рассуждения в пространстве эмбеддингов перед формированием нормализованного вектора текста. Модель предназначена для получения эмбеддингов запросов и документов в задачах информационного поиска, семантического поиска и retrieval-augmented generation. В README приведён результат 28,0 nDCG@10 в среднем на бенчмарке BRIGHT и заявлена задержка примерно в 1,7 раза выше стандартного плотного ретривера. Размер составляет около 3,7 млрд параметров, архитектура — плотная Qwen3ForCausalLM, формат весов — safetensors, библиотека — Transformers. Контекст модели составляет 40 960 токенов. Карточка указывает английский язык; метаданные содержат датасет LaSER-Training. Модель принимает текст и выдаёт векторы эмбеддингов для поиска и ранжирования по близости. Лицензия — MIT. Качество зависит от выбранного числа шагов латентного рассуждения и характеристик данных; в карточке приведена оценка на BRIGHT, поэтому её не следует считать гарантией качества для любых доменов и наборов запросов.

LinTO STT French FastConformer — модель распознавания французской речи, разработанная LinAGORA и дообученная на базе NVIDIA FastConformer Hybrid Large. Она преобразует аудио в текст и подходит для пакетной и потоковой транскрибации, в том числе в составе сервиса LinTO STT. Модель содержит 115 млн параметров и обучена с использованием гибридных Transducer- и CTC-потерь; по умолчанию используется Transducer. Для обучения применено более 9500 часов французской речи: чтение, спонтанная речь, разговоры и встречи, различные акценты и условия записи. Модель выдаёт текст только строчными буквами, без пунктуации. Модель предназначена для транскрибации французской речи. Она может хуже распознавать редкую лексику, сильные акценты и речь нескольких людей, говорящих одновременно. Лицензия — CC-BY-4.0.

bunnycore объединил методом passthrough через mergekit модели huihui-ai/Llama-3.2-3B-Instruct-abliterated и bunnycore/Llama-3.2-3B-General-lora_model. Это плотная авторегрессионная языковая модель семейства Llama 3.2 с архитектурой LlamaForCausalLM и 3,2 млрд параметров, предназначенная для генерации текста и диалогов. Метаданные указывают интерфейс чата и вызова инструментов; модель принимает текст и генерирует текст. Заявленная длина контекста — 131072 токена. Карточка сообщает о результатах оценки на Open LLM Leaderboard, включая среднее значение 21,30 и результат IFEval 66,69, но не приводит подробного описания методики или сценариев, где модель превосходит другие. Файлы опубликованы в формате safetensors и используют bfloat16. Дата публикации на Hugging Face — 27 октября 2024 года. Лицензия в предоставленных данных не указана.

Llama-3-Groq-8B-Tool-Use-GGUF — набор GGUF-квантизированных версий модели Llama-3-Groq-8B-Tool-Use, разработанной Groq на базе Llama 3. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста на английском языке, включая сценарии tool use и function calling, где требуется взаимодействие с внешними инструментами или API. Это текстовая модель без заявленной поддержки изображений или других модальностей. Модель содержит около 8 млрд параметров и распространяется в вариантах от F32 до Q2_K и IQ2_M с размером файлов примерно от 2,95 до 32,13 ГБ. Доступны различные уровни квантизации, включая рекомендуемые Q4, Q5 и Q6, позволяющие выбирать баланс между качеством и требованиями к оперативной памяти. Для запуска предлагается использовать llama.cpp или LM Studio; README также указывает специальный формат промпта с ролями system, user и assistant и служебными токенами Llama 3. Размер контекста в предоставленных данных не указан. Сильными сторонами являются специализация на использовании инструментов, широкий выбор квантизированных вариантов и возможность локального запуска. Более агрессивная квантизация уменьшает требования к памяти, но может снижать качество ответов; варианты с низким битрейтом прямо характеризуются как низкокачественные или не рекомендуемые. Лицензия указана как llama3.

QuantFactory/Llama-3-Instruct-8B-SPPO-Iter3-GGUF — квантизированная версия языковой модели UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3, созданная с использованием llama.cpp. Модель разработана на основе архитектуры Meta Llama 3 8B Instruct и обучена методом Self-Play Preference Optimization на синтетических ответах с использованием наборов запросов из UltraFeedback. Третья итерация обучения применяет данные, разделённые для последовательного проведения трёх итераций оптимизации. Модель предназначена для генерации текста и выполнения общих инструкций, включая диалоговые и вопросно-ответные сценарии. Это GPT-подобная текстовая модель примерно на 8 млрд параметров, ориентированная прежде всего на английский язык. Информация о поддерживаемой длине контекста и дополнительных модальностях в README не указана; модель является текстовой и не предназначена для обработки изображений или других мультимедийных данных. К сильным сторонам относятся улучшенные результаты третьей итерации по сравнению с предыдущими версиями в оценках AlpacaEval и Open LLM Leaderboard: заявлены LC Win Rate 38,77, средний результат набора Open LLM Leaderboard 70,29 и высокие показатели на HellaSwag, Winogrande и ARC-Challenge. Ограничениями являются преимущественная ориентация на английский язык, зависимость качества от выбранного формата квантизации и отсутствие в README подробностей о конкретном варианте квантизации и размере файла. Модель распространяется по лицензии Apache-2.0.

Llama-3-Perky-Pat-Instruct-8B-GGUF — квантизированная GGUF-версия инструкционной языковой модели Llama-3-Perky-Pat-Instruct-8B. В качестве базовых моделей указаны Meta-Llama-3-8B-Instruct от Meta и Llama-3-8B-Instruct-MopeyMule от failspy; исходная модель опубликована grimjim. Квантизацию выполнил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и диалогового взаимодействия по инструкциям. Она поддерживает текстовый ввод и вывод, использует формат промптов Llama 3 с ролями system, user и assistant. Размер базовой модели — 8 миллиардов параметров. Сведения о поддерживаемых языках и размере контекстного окна в README не указаны. Репозиторий содержит множество вариантов квантизации от Q8_0 до Q2_K и IQ2/IQ3/IQ4, что позволяет выбирать между качеством, размером файла и требованиями к памяти. Варианты Q5–Q6 и Q4 описаны как обеспечивающие высокое или хорошее качество, тогда как варианты Q2–Q3 экономят память, но заметно уступают по качеству. Лицензия указана как llama3; конкретные условия её применения следует проверять в документации лицензии Llama 3.

llm-jp-3.1-8x13b-32K — языковая модель, разработанная Центром исследований и разработок больших языковых моделей Национального института информатики Японии. Это вариант llm-jp-3.1-8x13b с продолженным предобучением на дополнительных 50 млрд токенов для увеличения контекста с 4K до 32K токенов. Модель построена на архитектуре Mixtral MoE с восемью экспертами, из которых активируются два; в метаданных указан размер 13,2 млрд параметров. Веса доступны в формате Safetensors для Transformers. Модель предназначена для генерации текста и диалогов с выполнением инструкций, в частности на японском и английском языках. Увеличенное окно контекста подходит для работы с длинными запросами и документами. Модель развивает серию LLM-jp-3.1, обученную на многоязычных данных, а инструкция-ориентированное промежуточное обучение улучшает следование указаниям. Разработчики отмечают, что модель находится на раннем этапе исследований и разработок и не была настроена для гарантированного соответствия человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.