II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейКарточка модели SakanaAI/Llama-3-8B-Instruct-OS-Expert на Hugging Face совпадает с карточкой SakanaAI/Llama-3-8B-Instruct-Coding-Expert, поэтому описание составлено по ней. Sakana AI разработала Llama-3-8B-Instruct-Coding-Expert — экспериментальную авторегрессионную языковую модель семейства Llama на 7,5 млрд параметров, основанную на Llama-3-8B-Instruct. Модель предназначена для генерации текста в диалоговом режиме и ориентирована на задачи программирования; в README указаны обучающие данные Magicoder-Evol-Instruct-110K и Magicoder-OSS-Instruct-75K. Модель принимает текст и генерирует текст. Метаданные указывают английский язык и контекст до 8192 токенов. В README модель представлена как один из экспертных компонентов набора Llama-3-CycleQD. Это экспериментальный прототип для исследований и разработки: авторы не рекомендуют коммерческое использование и развертывание в критически важных средах, а качество результатов не гарантируется. Лицензия — Meta Llama 3 Community License.
Frame-VAD Multilingual MarbleNet v2.0 — модель NVIDIA NeMo для покадрового обнаружения голосовой активности, экспортированная в формат GGUF для loom.cpp. Веса не изменены; базовая модель содержит 91,5 тыс. параметров. Модель принимает монофонический звук с частотой 16 кГц и выдаёт вероятность наличия речи для каждого 20-миллисекундного кадра. Поддерживаются английский, испанский, французский, немецкий, русский и китайский языки. Экспорт можно запускать через библиотеку loom-py-rt. Модель подходит для выделения речевых фрагментов перед распознаванием речи, записи или диаризацией. Она возвращает вероятности, а не готовые решения: пороговую обработку и сглаживание нужно настроить под сценарий использования. Распространяется по NVIDIA Open Model License Agreement; перед включением в продукт следует ознакомиться с условиями лицензии.
MathCoder2-Llama-3-8B-GGUF — это квантованные GGUF-версии модели MathCoder2-Llama-3-8B, разработанной MathGenie и подготовленной для распространения пользователем bartowski. Модель предназначена для генерации текста и ориентирована прежде всего на математические и программные задачи, включая решение задач, написание и анализ кода. В качестве источника данных указан набор MathGenie/MathCode-Pile. Модель основана на семействе Llama 3 и содержит 8 миллиардов параметров. Она работает с текстом и заявлена для английского языка. Доступны варианты от исходных весов F16 до квантований Q8, Q6, Q5, Q4, Q3 и Q2, что позволяет выбирать между качеством, размером файла и требованиями к оперативной памяти. Файлы подготовлены с использованием llama.cpp и imatrix; предусмотрено локальное использование, в том числе через LM Studio. Сильной стороной является специализация на математике и коде, а также широкий выбор квантованных вариантов: высококачественные сборки занимают около 6–9 ГБ, а более компактные — примерно 3,7–5 ГБ. Ограничения включают снижение качества на низких уровнях квантования, неизвестные в представленном README размер контекста и подробные результаты оценки, а также отсутствие заявленной поддержки языков кроме английского. Указана лицензия Apache-2.0.
Distilled MetaCLIP 2 ViT-S/16 (384px) worldwide — мультиязычная модель семейства MetaCLIP 2 от Meta, представленная в работе «MetaCLIP 2: A Worldwide Scaling Recipe». Этот чекпойнт соответствует варианту ViT-S-16-384-worldwide оригинальной реализации и предназначен для классификации изображений по текстовым описаниям без отдельного обучения на заданных классах. Модель принимает изображения и текстовые метки классов, сопоставляет их и позволяет выбирать наиболее подходящие описания. Архитектура — MetaClip2Model; файлы представлены в формате safetensors и доступны для использования через Transformers. Карточка отмечает модель как мультиязычную, но не приводит конкретный перечень языков. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
Moirai-1.0-R-Large — крупная модель временных рядов, разработанная Salesforce. Это masked encoder-based Transformer, предварительно обученный на данных LOTSA и предназначенный для прогнозирования временных рядов. В README для семейства указано 311 млн параметров у версии Large, а метаданные каталога — 352,3 млн параметров; доступные веса представлены в формате safetensors. Для запуска авторы рекомендуют библиотеку uni2ts. Модель рассчитана на прогнозирование целевых переменных, в том числе с учётом динамических ковариат, значения которых известны на горизонте прогноза. Её можно применять для построения прогнозов по многомерным временным рядам. Карточка описывает выпуск как исследовательский и рекомендует отдельно оценивать точность и пригодность модели для конкретного применения. Лицензия — CC BY-NC 4.0, с ограничением на коммерческое использование.
MyAwesomeModel — модель на базе Transformers, предназначенная для извлечения признаков из текста. В метаданных она отнесена к архитектуре BERT и задаче feature extraction; библиотека реализации — Transformers, фреймворк — PyTorch. В README заявлены улучшения рассуждений, логического вывода, понимания языка, генерации кода, суммаризации, классификации и ответов на вопросы, однако эти заявления не согласуются с указанным pipeline-тегом и не подтверждают полноценную генерацию текста.
MyAwesomeModel — модель на базе BERT, опубликованная пользователем или организацией dffddfdgg67 и предназначенная для использования через библиотеку Transformers. Согласно метаданным, модель поддерживает задачу извлечения признаков из текста и использует PyTorch. В README заявлены улучшения рассуждений, вывода, математических и программных задач, понимания языка, генерации текста, function calling и снижение галлюцинаций. Однако эти утверждения не согласуются с метаданными, где модель классифицирована как BERT и feature-extraction, поэтому наиболее надёжный сценарий применения — получение векторных представлений текста для последующей классификации, поиска или анализа. Модель распространяется по лицензии MIT. Данные о размере, длине контекста, поддерживаемых естественных языках и точной архитектурной конфигурации отсутствуют.
MyAwesomeModel — модель из репозитория SAD1D1321321/MyAwesomeModel-TestRepo, опубликованная для извлечения признаков из текста. В метаданных Hugging Face она обозначена как модель для задачи feature-extraction и связана с экосистемой Transformers и PyTorch; тег BERT указывает на использование архитектуры или семейства BERT. Модель предназначена для получения векторных представлений текста, которые можно применять в семантическом поиске, кластеризации, классификации, оценке сходства и других задачах обработки естественного языка. README также заявляет о возможностях рассуждения, генерации текста, ответов на вопросы, программирования, вызова функций и снижении галлюцинаций, однако эти характеристики не согласуются с основным pipeline-тегом feature-extraction и не подтверждены техническими сведениями о конфигурации модели. Модель распространяется по лицензии MIT. Размер, длина контекста, поддерживаемые естественные языки и точные архитектурные параметры в доступных данных не приведены. Для практического использования следует проверить конфигурацию и фактическое назначение модели перед применением в продуктивных системах.
MyAwesomeModel — модель из репозитория tool1/MyAwesomeModel-TestRepo, опубликованная с лицензией MIT и предназначенная для извлечения признаков через библиотеку Transformers. Метаданные относят её к семейству BERT и задаче feature extraction на базе PyTorch. README описывает обновлённую версию как модель с улучшенными рассуждениями, математикой, программированием, логикой, диалогами, суммаризацией, классификацией и function calling, однако эти сведения не согласуются с указанной в метаданных задачей feature extraction и не подтверждают архитектуру, размер, модальности, языки или длину контекста модели. Поэтому для каталога надёжнее рассматривать её прежде всего как Transformers-модель для получения векторных представлений текста. Модель может использоваться как компонент последующих систем машинного обучения, например для сравнения текстов, классификации или поиска по близости, если фактическая конфигурация репозитория это поддерживает. Ограничения, требования к вычислительным ресурсам и рекомендуемые параметры инференса для режима feature extraction в карточке не описаны. Лицензия модели — MIT.
sankalpakc/nepali-sbert-175k-mpnet — модель Sentence Transformers на архитектуре XLM-RoBERTa, разработанная Sankalpa KC. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска по смыслу, сравнения предложений и кластеризации. Модель содержит 305,2 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Модель ориентирована на непальский язык, что отражено в названии репозитория; README описывает её как инструмент для работы с эмбеддингами предложений и абзацев. Для использования доступны Sentence Transformers и Transformers с подходящей операцией pooling. В метаданных указана лицензия? Сведений о лицензии нет, поэтому условия распространения по предоставленным данным определить нельзя.
NinjaMouse2-2.5B-v0.1 — разговорная языковая модель, созданная автором trollek на основе h2oai/h2o-danube2-1.8b-chat. Это плотная авторегрессионная модель семейства Mistral с 2,4 млрд параметров и контекстом до 8192 токенов; исходные 24 слоя расширены, а обучение включало дообучение вставленных блоков и последующую настройку на инструктивных и диалоговых данных. Модель предназначена для диалогов и генерации ответов на инструкции, включая задачи по математике, коду и вызову инструментов. Для подготовки данных использовались примеры из нескольких англоязычных диалоговых, математических и программных наборов, а также ответы более крупных моделей. Репозиторий содержит веса в формате safetensors; README также описывает отдельные квантизированные варианты для запуска через Ollama и LM Studio. Модель рассчитана прежде всего на английский язык. README предупреждает, что специальные токены FIM и thought не входили в обучение. Лицензия — Apache-2.0. Качество и соответствие инструкциям могут различаться; карточка не приводит результатов независимой оценки.
OpenThinker3-1.5B — языковая модель с 1,5 млрд параметров, разработанная командой Open Thoughts. Это плотная авторегрессионная модель семейства Qwen2, дообученная методом SFT на Qwen/Qwen2.5-1.5B-Instruct с использованием набора OpenThoughts3-1.2M. Она предназначена для генерации текста с пошаговыми рассуждениями, особенно при решении математических и научных задач, а также задач программирования. В обучающий набор входят 850 тысяч математических вопросов, 250 тысяч вопросов по коду и 100 тысяч научных вопросов; трассы рассуждений для данных создавались с помощью QwQ-32B. Модель принимает текст и поддерживает контекст до 32 768 токенов. В README приведены результаты оценки на математических, научных и кодовых бенчмарках; конкретные результаты зависят от задачи и протокола оценки. Модель доступна в формате safetensors и распространяется по лицензии Apache 2.0.
qiyuw/pcl-roberta-base — англоязычная модель RoBERTa для оценки сходства предложений. Она использует архитектуру RobertaForCL и содержит 151,8 млн параметров; модель принимает текст и подходит для сравнения предложений по смыслу. Длина контекста составляет 514 токенов. Модель распространяется в формате PyTorch по лицензии MIT. README не содержит дополнительных сведений о методе обучения или конкретных сценариях применения.
Это модель Sentence Transformers, созданная iambestfeed дообучением вьетнамского энкодера vinai/phobert-base-v2 на наборе vnexpress-data-similarity из 74 620 пар текстов. Архитектура основана на RoBERTa: токенные представления объединяются усреднением, а на выходе модель строит плотный вектор размерности 768; сходство векторов оценивается косинусной мерой. В метаданных указано 162,4 млн параметров и контекст до 258 токенов, а карточка модели описывает максимальную длину последовательности в 256 токенов. Модель предназначена для поиска семантически близких вьетнамских предложений и документов, сравнения текстов, поиска перефразирований, кластеризации и использования эмбеддингов в классификации. Обучение на новостных данных VnExpress адаптирует её к поиску сходства в этом корпусе; это не универсальная генеративная модель. Лицензия в предоставленных данных не указана.
PP-LCNet_x1_0_table_cls — модель классификации изображений таблиц из экосистемы PaddleOCR, разработанная PaddlePaddle. Она принимает изображение таблицы и относит его к одной из заданных категорий, например к таблицам с линиями или без них; результат используется как компонент конвейеров распознавания таблиц и документов. Модель предназначена для визуальной классификации таблиц в документах. В более крупном конвейере PaddleOCR результаты классификации помогают выбрать дальнейшую обработку, включая распознавание структуры и ячеек таблицы и извлечение её содержимого в HTML или Excel. Репозиторий указывает библиотеку PaddleOCR и лицензию Apache-2.0.
mikoy92 подготовил MLX-конверсию компактной модели PP-OCRv6-tiny для распознавания текста на изображениях. Модель предназначена для чтения текста с изображений в OCR-конвейерах; пример в карточке показывает обработку изображения и получение распознанной строки через `mlx-vlm`. В метаданных указаны английский и китайский языки, архитектурное семейство `pp_ocrv6_tiny_rec` и формат Safetensors. Модель основана на `PaddlePaddle/PP-OCRv6_tiny_rec_safetensors` и распространяется по лицензии Apache-2.0. Она принимает изображения и возвращает текст. Карточка не описывает точность, размер контекста или ограничения по типам изображений; для запуска показана библиотека MLX и `mlx-vlm`.
Это дообученная инструктивная языковая модель семейства Qwen2.5-Coder, опубликованная пользователем matildtahoo в рамках Gensyn Swarm. Модель содержит около 494 млн параметров, использует плотную архитектуру Qwen2 и предназначена для генерации текста, включая помощь с кодом: написание и продолжение программ, ответы на инструкции и исправление кода. Она принимает текст и выдаёт текст; доступный контекст составляет 32 768 токенов. Исходное семейство Qwen2.5-Coder разработано командой Qwen компании Alibaba Cloud и нацелено на сценарии кодового помощника, включая генерацию, рассуждение о коде и его исправление; семейство поддерживает 92 языка программирования. Эта конкретная версия обозначена как результат Gensyn Swarm, однако её карточка не содержит подробных результатов оценки или условий лицензии, поэтому качество и разрешённые способы использования для данного чекпойнта определить нельзя.
QwOpus-4.6-Coder-3B — компактная языковая модель для генерации текста и программного кода, разработанная пользователем ryzdfm на базе Qwen2.5-Coder-3B-Instruct от команды Qwen. Модель дообучена методом supervised fine-tuning с LoRA на 3 209 примерах рассуждений, дистиллированных из наборов данных с траекториями Claude Opus и другими образцами пошагового reasoning. Она ориентирована на локальный запуск на потребительском оборудовании и поддерживает формирование структурированных рассуждений в тегах <think> перед итоговым ответом. Модель предназначена прежде всего для генерации и объяснения кода, решения алгоритмических, математических и логических задач, а также сценариев, где важны пошаговый анализ и проверка решения. Заявлены Python и JavaScript, однако полный перечень поддерживаемых языков не указан. Это текстовая autoregressive-модель с параметрами масштаба 3B и максимальной длиной последовательности 4096 токенов. Для запуска доступны варианты квантования Q4_K_M, Q3_K_M и Q8_0; версия Q4_K_M требует около 2,1 ГБ видеопамяти и, по данным README, обеспечивает примерно 88 токенов в секунду на RTX 3050 4GB. Сильные стороны модели — небольшой размер, высокая скорость, возможность приватного локального использования и выраженный стиль структурированного reasoning. Ограничения связаны с масштабом 3B: модель может испытывать трудности при генерации длинного многoфайлового кода и проектировании сложных систем; глубина рассуждений уступает более крупным моделям, а ответы могут содержать ошибки и требуют проверки. В метаданных указаны английский язык и лицензия Apache-2.0.
Qwen2.5-Coder-3B-GGUF — базовая языковая модель для работы с исходным кодом, созданная командой Qwen. Это GGUF-квантизация оригинальной модели Qwen2.5-Coder-3B, подготовленная bartowski на основе llama.cpp. Модель предназначена прежде всего для генерации и автодополнения текста и кода, а не для диалогового использования в формате instruct или chat. Модель имеет около 3 миллиардов параметров и поддерживает контекст длиной до 32 000 токенов. При обучении использовано 5,5 триллиона токенов. В метаданных указана поддержка английского языка и сценарии, связанные с программированием. Формат GGUF и совместимость с llama.cpp делают модель подходящей для локального запуска в приложениях и инструментах, поддерживающих этот формат. К сильным сторонам относятся специализация на коде, большой контекст и возможность локального использования в компактном размере. Ограничение состоит в том, что это базовая модель: она не оптимизирована для обычного общения и выполнения инструкций в диалоговом режиме, поэтому для таких задач может потребоваться дополнительное форматирование запросов или другая модель. Указанная лицензия — qwen-research; перед использованием следует ознакомиться с условиями лицензии по ссылке на оригинальную модель.
Continuum AI представила производную Qwen3.5-27B, обрезанную по головам внимания на 30% и дообученную для задач программирования. Модель предназначена для генерации и дополнения кода в диалоговом режиме; в карточке также заявлены работа с агентными сценариями и вызовом функций. Архитектура — плотная причинная языковая модель Qwen3.5; в метаданных указано 22,3 млрд параметров и контекст до 262 144 токенов. Репозиторий описывает конвейер prune → train → quant и вариант MLX 4-bit, хотя карточка также упоминает GGUF-квантизацию и тесты в fp16. Заявленное улучшение perplexity на коде с 3,07 до 2,96 основано на одном самоотчётном бенчмарке, поэтому его следует считать предварительным. Лицензия — Apache-2.0.
ManniX-ITA/Qwen3.6-27B-A3B-Coder — производная от Qwen/Qwen3.6-35B-A3B модель для генерации программного кода. В исходной MoE-модели число экспертов сокращено с 256 до 184 на слой по карте компетенций, ориентированной на задачи программирования; число активных экспертов сохранено на уровне A3B. В конфигурации по умолчанию задана маршрутизация top-10. По карточке, дообучение и дистилляция не применялись. Модель сохраняет архитектурные компоненты базовой модели, включая vision tower, но в метаданных основная задача указана как text-generation. Модель предназначена для генерации кода и задач программирования, в том числе на Rust, Java и JavaScript. В карточке приведены результаты HumanEval, LiveCodeBench и MultiPL-E; также сообщается о снижении показателей в отдельных общих и агентных задачах. Лицензия — Apache-2.0. Результаты MultiPL-E измерены с top-8, тогда как опубликованная конфигурация использует top-10; оценка использования инструментов затронута известной ошибкой оценщика и включает safety-critical failures.
Qwen3-ASR-0.6B — плотная модель распознавания речи семейства Qwen3-ASR, разработанная командой Qwen. Она принимает аудио и выполняет транскрибацию с автоматическим определением языка. Модель поддерживает 30 языков и 22 китайских диалекта, включая русский, английский, китайский и кантонский; работает в потоковом и офлайн-режимах и рассчитана в том числе на длинные записи. Модель предназначена для распознавания речи в разных акустических условиях, включая речь, пение и песни с фоновой музыкой. Для интеграции доступны пакет qwen-asr и бэкенды Transformers и vLLM; потоковый режим поддерживается через vLLM. В README версия 0.6B описана как компромисс между точностью и эффективностью, с высокой пропускной способностью при параллельной обработке. Модель опубликована в формате safetensors и распространяется по лицензии Apache-2.0. README не приводит отдельные результаты оценки качества именно версии 0.6B; характеристики уровня state of the art и сравнение с коммерческими API относятся к версии 1.7B. В потоковом режиме недоступны пакетная обработка и возврат временных меток.
RAS-LAB разработала эту модель как сжатую версию инструктивной Qwen3-Coder-30B-A3B-Instruct для генерации текста, программирования и диалоговых сценариев, включая ответы на корейском языке. Модель использует архитектуру Qwen3 MoE: по README, после удаления экспертов в каждом слое осталось 112 из 128, а число активных экспертов top-8 не изменилось. В карточке указано около 27 млрд параметров, из которых активно примерно 3,3 млрд; метаданные каталога приводят значение 2,6 млрд параметров. Поддерживаются MLX и safetensors, веса также загружаются через Transformers; контекст — до 262 144 токенов. Метод K-REAP защищает путь корейских экспертов при однократном прореживании без последующего дообучения. По приведённым в README результатам, на корейских бенчмарках потери относительно исходной модели невелики; результаты на английских задачах, математике и коде смешанные. Это сравнительные оценки из карточки, а не гарантия качества для конкретных запросов. Лицензия — Apache-2.0.
tomhu/Qwen3-Coder-Next-MixedCode-Prune70-BF16 — экспериментальный чекпойнт на основе Qwen/Qwen3-Coder-Next, подготовленный методом pruning для MoE-экспертов. По README, разработчик удалил 69,92% экспертов в каждом MoE-слое: число экспертов сокращено с 512 до 154, при этом на токен по-прежнему активируются 10 экспертов. Модель содержит 48 слоёв и использует веса BF16; метаданные указывают архитектуру Qwen3-Next MoE и размер 2,3 млрд параметров, тогда как README приводит полезную нагрузку около 25,6 млрд параметров BF16. Модель предназначена для генерации кода и многошаговой разработки, в том числе для сценариев coding-агентов с вызовом инструментов. Контекст унаследован от базовой модели; метаданные указывают длину 262 144 токена. В оценке SWE-bench Verified чекпойнт решил 296 из 500 задач. Для запуска README рекомендует актуальные версии Transformers, vLLM или SGLang с поддержкой Qwen3-Next. Модель экспериментальная: автор рекомендует проверять её на целевых задачах перед внедрением. Лицензия — Apache-2.0.
Qwopus3.6-27B-Coder-AutoRound-W4A16-RTN — квантизированная версия языковой модели Jackrong/Qwopus3.6-27B-Coder. Модель предназначена для генерации текста и, прежде всего, для задач программирования, включая написание исходного кода и алгоритмов. Разработчик базовой модели — Jackrong; квантизация выполнена с помощью инструмента AutoRound от Intel. Модель использует 4-битное симметричное квантование только весов с group_size 128 по схеме W4A16, при которой веса представлены в формате int4, а активации сохраняются в 16-битном формате. Размер квантизированной модели составляет около 18 117 МБ. В README не указаны точное число параметров базовой модели, поддерживаемые языки, размер контекстного окна или дополнительные модальности, поэтому модель следует рассматривать как текстовую. К преимуществам относятся существенно уменьшенный размер по сравнению с полноточной версией и возможность запуска через Transformers и vLLM. Результаты оценки показывают, в частности, accuracy 0,8503 на MMLU и 0,8215 на PIQA, однако качество зависит от задачи, а приведённые метрики не гарантируют корректность ответов в практических сценариях. Модель может выдавать фактически неверные, предвзятые, оскорбительные или непристойные ответы и требует предварительного тестирования безопасности. Лицензия в README не указана: необходимо соблюдать лицензию оригинальной модели Jackrong/Qwopus3.6-27B-Coder. Для использования рекомендуется установить AutoRound; также приведены инструкции для запуска через Transformers и vLLM.
BenevolenceMessiah/QwQ-32B-Preview-Self-instruct-4x-TIES-MGS-v1.0 — объединённая языковая модель на архитектуре Qwen2, созданная методом TIES с помощью mergekit на основе Qwen/QwQ-32B-Preview и моделей TheBeagle, EVA-Qwen2.5 и Rombos. Она предназначена для диалоговой генерации текста и может применяться для ответов на вопросы, рассуждений и помощи с программированием. Модель содержит 32 млрд параметров, принимает текст и выдаёт текст; нативное окно контекста — 32 768 токенов. Репозиторий содержит веса Safetensors для библиотеки Transformers. Карточка не сообщает лицензию и не описывает отдельные результаты оценки качества; характеристики базовой QwQ указывают на ориентацию на рассуждения и код, но не гарантируют их качество после слияния.
speechless-zephyr-code-functionary-7b — экспериментальная модель, разработанная uukuguy в рамках проекта Mixture-of-Multi-LoRAs. Она создана на основе Mistral-7B-v0.1 с объединением LoRA-модулей, извлечённых из HuggingFaceH4/zephyr-7b-beta, meetkai/functionary-small-v2.2 и uukuguy/speechless-code-mistral-7b-v1.0. Для автоматической сборки модулей используется router Mixture-of-Multi-LoRAs с безградиентным подбором коэффициентов, в том числе для ранее не встречавшихся задач. Модель предназначена для генерации текста, программирования, работы с функциями и плагинами, а также для универсальных задач, где требуется сочетание диалоговых, кодовых и инструментальных навыков. В README заявлена поддержка английского языка и использование через Transformers; также доступны варианты GGUF с 4-, 5- и 8-битным квантованием для CPU и GPU-инференса. Размер базовой модели — около 7 миллиардов параметров. Размер контекста и полный перечень поддерживаемых модальностей не указаны; по описанию модель относится к текстовым. К сильным сторонам относятся сочетание навыков генерации кода, вызова функций и общего диалога, а также возможность адаптивного комбинирования LoRA-модулей. В опубликованной оценке средний результат LM-Evaluation-Harness составляет 62,93; показатели включают 64,71 на MMLU, 43,82 на GSM8K и 83,88 на HellaSwag. Ограничения связаны с экспериментальным характером подхода, отсутствием подробных данных о контексте, поведении на других языках и практической надёжности вызова функций. Модель распространяется по лицензии Apache-2.0.
SraVaani-1.0 — модель автоматического распознавания речи (ASR), разработанная ARTPARK-IISc. Она предназначена для преобразования аудиозаписей в текст, включая распознавание речи на индийских языках и диалектах в сценариях транскрибации и обработки голосовых данных. Модель основана на архитектуре FastConformer и содержит около 430 млн параметров. Она использует гибридный декодер TDT-CTC, доступна в формате FP16 и занимает примерно 900 МБ. Предварительное обучение проводилось на 31 255 часах речи из набора Vaani, охватывающего 105 языков, а последующая настройка — примерно на 31 270 часах транскрибированной речи на 65 индийских языках и диалектах. Также применялось выравнивание аудио и изображений на 11 млн пар, что предназначено для улучшения представлений аудиоданных. Модель поддерживает, среди прочих, Assamese, Bengali, Gujarati, Hindi, Kannada, Malayalam, Marathi, Nepali, Odia, Punjabi, Sanskrit, Tamil и Telugu, а также множество региональных языков и диалектов; поддерживается и English. Качество существенно различается между языками: для Hindi средний WER составляет 12,4%, тогда как для некоторых малоресурсных языков он превышает 70–90%, поэтому результаты требуют проверки в конкретном сценарии. Urdu и Kashmiri в выпущенной версии не поддерживаются. Модель распространяется по лицензии MIT.
StarCoderBase — авторегрессионная модель генерации кода, разработанная проектом BigCode. Она содержит 15,5 млрд параметров и обучена на 1 трлн токенов исходного кода из The Stack v1.2 на более чем 80 языках программирования. Архитектура основана на GPT-2 с Multi-Query Attention; модель обучалась с задачей Fill-in-the-Middle и принимает контекст до 8192 токенов. Модель предназначена для продолжения кода по контексту, генерации фрагментов и заполнения пропусков между частями кода. Это базовая модель, а не модель, настроенная на выполнение инструкций: запросы на естественном языке могут работать хуже, чем подсказки с кодом или специальный промпт Tech Assistant. Русский язык не указан как основной язык модели; при этом в обучающих данных преобладает английский исходный код. Сгенерированный код может содержать ошибки, быть неэффективным или уязвимым и не гарантированно работает как задумано. Модель может воспроизводить фрагменты кода из обучающих данных, поэтому необходимо проверять происхождение кода и соблюдать применимые требования атрибуции и лицензирования. Указана лицензия BigCode OpenRAIL-M.
SynapseLLM — языковая модель WebraftAI, дообученная на базе Mistral-7B-v0.1 для диалоговых вопросов и ответов, математических инструкций и задач программирования. Это плотный decoder-only Transformer с 7,1 млрд параметров, рассчитанный на генерацию текста; метаданные указывают контекст до 32 768 токенов и поддержку чата и кода. Модель принимает текст и генерирует текст, основной язык — английский. Это предварительная версия дообучения на пользовательском наборе данных. В README указаны 150 шагов обучения и один эпох, а также применение QLoRA-адаптера, объединённого с базовой моделью. SynapseLLM подходит для ответов на вопросы, решения математических задач и генерации кода на английском языке. Разработчик предупреждает, что ответы могут содержать фактические ошибки, модель может не следовать системным инструкциям и иногда выдавать себя за GPT. Лицензия — Apache 2.0.