II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейDeepSeek-R1-Strategy-Qwen-2.5-1.5b-Unstructured-To-Structured — языковая модель на архитектуре Qwen2, дообученная MasterControlAIML на базе Qwen/Qwen2.5-1.5B-Instruct с использованием TRL. Модель содержит 1,5 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для генерации текста в диалоговом формате и преобразования неструктурированного текста в структурированный, например JSON. В карточке указано обучение на наборе bhaviktheslider/JSON-Unstructured-Structured; также модель можно применять для общих диалоговых ответов. Модель распространяется в форматах PyTorch и safetensors по лицензии Apache-2.0. Карточка не приводит оценок качества и подробных результатов проверки; компактный размер модели может ограничивать сложные рассуждения и точность структурирования по сравнению с более крупными моделями.
Embedić Large — модель для создания текстовых эмбеддингов, разработанная djovak и дообученная на базе intfloat/multilingual-e5-large. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, информационного поиска, кластеризации и систем RAG. Модель специализируется на сербском языке в кириллице и латинице и также поддерживает английский, поэтому подходит для поиска по смешанным сербско-английским коллекциям. Она построена с использованием Sentence Transformers; в README для семейства указаны обучение в несколько этапов и сравнение результатов на задачах информационного поиска, сходства предложений и поиска параллельных текстов. Модель распространяется по лицензии MIT. README отмечает, что запись сербского текста латиницей без диакритики заметно ухудшает качество поиска, а сохранение заглавных букв в именах собственных может улучшить его.
EvaByte-SFT — дообученная с учителем языковая модель EvaByte на 6,5 млрд параметров, разработанная авторами проекта EvaByte. Это плотная byte-level модель для генерации текста: она обрабатывает текст на уровне байтов, использует предсказание нескольких байтов и механизм внимания EVA. Модель обучалась на текстах, математических материалах и коде; карточка отмечает высокую скорость декодирования и результаты в задачах программирования. Модель предназначена для диалогового использования и генерации текста, в том числе для помощи с кодом и математическими задачами. Контекст составляет 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. В карточке не приведены результаты отдельных оценок качества EvaByte-SFT, поэтому заявленные преимущества исходной EvaByte не следует считать гарантией для каждого сценария.
EveryoneLLM-7b-Gemma-Base — созданная сообществом объединённая языковая модель на архитектуре Gemma, опубликованная rombodawg. Она предназначена для генерации ответов на инструкции и объединяет возможности нескольких дообученных сообществом моделей; особый акцент сделан на задачах программирования. В карточке указано использование шаблона Alpaca. Модель содержит 8,2 млрд параметров, принимает текст и генерирует текст, а её длина контекста составляет 8192 токена. Доступны веса в формате safetensors. README описывает объединение моделей, но не перечисляет исходные модели. Лицензия указана как other, поэтому условия использования следует сверять с файлами репозитория и условиями исходных моделей. Возможны ошибки и нестабильное качество, особенно вне сценариев, представленных в объединённых моделях.
Это версия Whisper large-v3, дообученной автором базовой модели и преобразованной в формат CTranslate2 для запуска через библиотеку faster-whisper. Модель предназначена для автоматического распознавания речи и транскрибирования аудиозаписей, в том числе в сценариях реального времени, пакетной обработки и высоконагруженных API. В карточке заявлены ускорение вывода до 4 раз и снижение потребления памяти; фактические показатели зависят от оборудования и длины аудио. Используется точность float16. README связывает исходное дообучение с Common Voice и L2 Arctic, но не приводит метрик качества или подробностей языкового и акцентного покрытия. Метаданные указывают английский язык. Лицензия — Apache-2.0.
Fireball-Meta-Llama-3.1-8B-Instruct-Agent-0.003-128K-code-math — экспериментальная дообученная языковая модель от EpistemeAI на архитектуре Llama 3.1. Она предназначена для диалогового применения в задачах математики, программирования и работы в роли агента; заявлены сценарии с поиском, калькулятором и подходом ReAct, а также интеграция с LangChain, LlamaIndex и Ollama, в том числе для RAG. Модель содержит 7,5 млрд параметров и поддерживает контекст до 131 072 токенов. В README рекомендуется использовать отдельный механизм проверки безопасности входов и выходов; приведённые результаты оценки ограничены отдельными бенчмарками и не гарантируют качество в конкретных задачах. Модель лицензирована по Apache-2.0.
Flex-code-2x7B-1T — языковая модель семейства FlexOlmo от Allen Institute for AI (AI2), предназначенная для генерации текста с акцентом на программный код. Это вариант архитектуры Mixture-of-Experts: в карточке модели описана система из экспертов, обученных на разных типах данных, включая код; в метаданных для этой модели указаны 6,9 млрд параметров и архитектура FlexOlmoForCausalLM. Модель поддерживает диалоговый режим, принимает текст и генерирует текст. Карточка сообщает об обучении кодового эксперта на специализированных данных, но не приводит отдельной оценки качества именно этой версии. Модель можно применять для генерации и продолжения кода, а также для диалоговой помощи при решении задач программирования. Метаданные указывают поддержку английского языка и контекст до 4096 токенов. Для работы требуется Transformers версии 4.57.0 или новее. Модель распространяется по лицензии Apache-2.0.
Frank 26B-A4B — модель TendieLabs, дообученная на базе Google Gemma 4 26B-A4B-it для генерации кода, отладки, проверки и рефакторинга. Модель предназначена для локального использования как помощник программиста через OpenCode или OpenAI-совместимые клиенты, включая закрытые среды с требованиями к происхождению моделей. Это разреженная архитектура Mixture-of-Experts: 25,2 млрд параметров всего, около 3,8 млрд активных за проход и 128 экспертов. По заявлению автора, Frank быстрее базовой модели на задачах преобразования кода благодаря выборочному использованию рассуждений. Обучение охватывало примерно 33 тысячи примеров, включая C#, Python, отладку и рассуждения; отдельно отмечена конвертация VBA в Python. Поддерживается английский язык. Модель рассчитана на текстовый ввод и выдачу текста, а не на мультимодальные задачи. Автор рекомендует температуру 1.0: при низкой температуре режим рассуждений может зацикливаться и приводить к пустым ответам. В README приведены результаты собственных оценок на небольшом наборе задач, поэтому заявленные качество и ускорение не следует считать независимым сравнительным бенчмарком. Лицензия — Apache 2.0.
JoBeer/german-semantic-base — модель эмбеддингов предложений на базе BERT, разработанная автором репозитория и дообученная в формате sentence-transformers на gbert-base. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения сходства и кластеризации немецких текстов. Обучение проводилось на немецком STS-датасете с использованием машинных переводов AWS и DeepL, функции потерь MultipleNegativesRankingLoss и четырёх эпох; оценка также выполнялась на немецком STS-тесте. Модель содержит 137,1 млн параметров, принимает текст и выдаёт векторы; заявленная длина контекста — 512 токенов. Для использования подходят Sentence-Transformers или Transformers с соответствующей операцией pooling. В репозитории указаны веса safetensors. Лицензия в предоставленных данных не указана.
Карточка модели midorin-Linux/gpt-oss-20b-Coding-Distill на Hugging Face совпадает с карточкой midorin-Linux/gpt-oss-20b-Coding-Distill-GGUF, поэтому описание составлено по ней. Это GGUF-версия дообученной модели gpt-oss-20b-Coding-Distill от midorin-Linux. Автор сообщает, что модель основана на GPT-OSS-20B и обучалась с помощью Unsloth на данных диалогов, преобразованных в формат OpenAI Harmony. В обучении использовались примеры кодирования и рассуждений, связанные с GPT-5.2 Codex Max, GPT-5.2, Claude 4.5 Opus и Claude 4.5 Sonnet. Модель предназначена для генерации текста в диалогах, прежде всего для помощи с программированием и сложными рассуждениями. Репозиторий содержит веса в формате GGUF, а указанная лицензия — Apache-2.0. Карточка предупреждает, что некоторые ответы могут не соответствовать спецификации OpenAI Harmony.
Hemlock2-Coder-7B-GRPO — дообученная методом GRPO модель для генерации кода, разработанная на основе hemlang/Hemlock2-Coder-7B. Во время обучения ответы модели выполнялись в изолированной среде интерпретатора Hemlock и оценивались по совпадению стандартного вывода с проверенным эталоном. Используется архитектура Qwen2ForCausalLM с 7,1 млрд параметров; контекст — до 32 768 токенов. Доступны веса safetensors и квантованный вариант GGUF Q8_0. Модель предназначена для генерации и исправления кода, в том числе задач с проверкой результата выполнением. В описанном тесте Hembench она улучшила pass@1 с 28,9% до 36,8% относительно базовой модели; наибольший прирост отмечен для синтаксиса и системного кода с конкурентностью. Лицензия — Apache-2.0. README сообщает о тестировании на небольшом наборе примеров (n=5), поэтому приведённые показатели не гарантируют аналогичного качества на других задачах.
aloobun разработал эту Sentence Transformer на основе aloobun/d-mxbai-L8-embed, дообучив её для работы с несколькими индийскими языками. Модель на базе BERT преобразует предложения и абзацы в плотные векторы размерностью 1024; сходство между текстами можно оценивать по косинусному сходству. В README указана максимальная длина последовательности 128 токенов, а в метаданных — 512 токенов; это расхождение требует проверки при настройке обработки длинных текстов. Модель предназначена для поиска по смыслу и сопоставления текстов на английском и бенгальском, гуджаратском, хинди, каннада, малаялам, маратхи, тамильском и телугу. Её можно применять для поиска семантически близких предложений, оценки сходства, поиска перефразирований, кластеризации и классификации текстов. Репозиторий распространяется по лицензии Apache-2.0. В README приведены результаты оценки для языковых пар с английским; показатели сходства заметно различаются между языками и в некоторых случаях низкие или отрицательные. Поэтому качество следует проверять на данных и сценариях конкретного применения; модель не генерирует текст, а возвращает векторы для последующей обработки.
indo-sentence-bert-base — модель на базе BERT, опубликованная пользователем firqaaa и подготовленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения семантического сходства, поиска по смыслу и кластеризации. Модель содержит 151,6 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате PyTorch. Обучение выполнялось с MultipleNegativesRankingLoss и косинусной мерой сходства; это делает модель подходящей для построения эмбеддингов индонезийского текста. Лицензия Apache-2.0 разрешает использование и распространение на её условиях. Карточка не приводит результатов оценки, поэтому качество для конкретных данных следует проверять отдельно.
indo-sentence-bert-large — модель Sentence-Transformers на архитектуре BERT, предназначенная для преобразования предложений и абзацев в плотные векторные представления размерностью 2048. Её можно применять для семантического поиска и кластеризации текстов. Модель разработана авторами репозитория firqaaa/indo-sentence-bert-large. Модель обучена с функцией потерь MultipleNegativesRankingLoss и косинусным сходством. Она принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 512 токенов. В карточке указан индонезийский язык. Для запуска предусмотрена библиотека Sentence-Transformers, также описан способ использования через Transformers. Модель распространяется по лицензии Apache-2.0. Оценочные результаты и сведения об авторах в доступной карточке не приведены; качество для конкретных данных следует проверять отдельно.
Infinity-Parser2-Pro-AWQ-W4A16 — это квантизированная int4-модель W4A16 для задач анализа изображений и текста, включая OCR, разбор документов и работу с визуально-языковыми запросами. Модель основана на infly/Infinity-Parser2-Pro и подготовлена пользователем spectator2026 для запуска на GPU NVIDIA A100 с архитектурой sm80, где исходный путь FP8 не поддерживается. Квантизация выполнена методом AWQ с помощью llm-compressor и применяется только к маршрутизируемым экспертам. Механизмы внимания, GDN/линейное внимание, общий эксперт, vision tower и lm_head сохранены в формате bfloat16. Размер модели уменьшен примерно с 70 ГБ в bf16 до 21 ГБ. Данные о количестве параметров, поддерживаемых языках и размере контекстного окна в README не указаны. По результатам воспроизведения с AI-оценкой модель показывает близкое к исходной bf16-версии качество: 66,9 против 69,7 на MMStar, около 89 против 86,2 на OCRBench и 96,4 против 96,4 на DocVQA. Основное ограничение — необходимость корректной настройки vLLM и передачи параметра chat_template_kwargs с отключением режима рассуждений; без этого ответы могут попадать в reasoning channel. Модель распространяется по лицензии Apache-2.0.
jina-embeddings-v5-omni-nano-clustering — мультимодальная модель эмбеддингов от Jina AI, вариант семейства jina-embeddings-v5-omni-nano, настроенный для кластеризации. Она принимает текст, изображения, видео и аудио и преобразует их в векторы общего пространства, совместимого с текстовой моделью jinaai/jina-embeddings-v5-text-nano-clustering. Размер модели — около 0,95 млрд параметров, размерность эмбеддинга — 768. Для текстовых документов требуется префикс «Document: ». Видео представляется кадрами; звуковая дорожка видео автоматически не обрабатывается, её нужно передавать отдельно. Модель подходит для мультимодальной кластеризации и построения индексов, где документы на текстовом языке можно искать по запросам в виде изображений, видео или аудио без повторной индексации. Также эмбеддинги можно использовать для поиска и сопоставления мультимодальных данных. Модель доступна в формате safetensors и предназначена для запуска через Transformers, sentence-transformers или vLLM. Лицензия CC-BY-NC-4.0 разрешает использование с указанием авторства, но не коммерческое применение.
NoesisLab/Kai-3B-Instruct — это инструктивно дообученная языковая модель NoesisLab с 3,1 млрд параметров на архитектуре SmolLM3ForCausalLM. Она предназначена для диалоговых ответов, рассуждений, решения математических задач и генерации кода. В карточке описана техника Adaptive Dual-Search Distillation (ADS): адаптивная функция потерь для дистилляции, которая не меняет архитектуру модели. Заявлена длина контекста 65 536 токенов; модель принимает текст и генерирует текст. В README приведены результаты отдельных бенчмарков, включая 39,27% на GSM8K в режиме 0-shot, однако методика и сравнительные результаты в карточке описаны не полностью. Модель опубликована в формате Safetensors и распространяется по лицензии Apache-2.0.
KeawGPT — языковая модель KordAI с архитектурой Qwen3 и примерно 3,7 млрд параметров, дообученная на базе KordAI/KeawGPT-Base. Она предназначена для генерации ответов и рассуждений на английском языке по STEM-дисциплинам — математике, физике, инженерии и информатике — и философии, включая логику, этику и анализ аргументов. Модель поддерживает диалог и структурированные вызовы инструментов, например для поиска в интернете и выполнения кода, если приложение умеет обрабатывать вызовы и передавать результаты обратно модели. Контекст — до 32 768 токенов; веса доступны в формате Safetensors. Модель подходит для объяснения технических понятий, разбора задач и концептуальных вопросов, а также для использования в агентных сценариях с инструментами. Она может допускать фактические и логические ошибки, особенно в многошаговых доказательствах и узкоспециальных темах, и выдумывать цитаты или источники. Вызов инструментов требует соответствующей реализации в приложении. Модель не предназначена для критически важных решений или профессиональных медицинских, юридических и финансовых консультаций. Лицензия — Apache-2.0.
shangrilar/klue-roberta-base-klue-sts-mrc — модель Sentence-Transformers на базе RoBERTa, разработанная автором репозитория для получения векторных представлений предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и предназначена для поиска семантически близких текстов, кластеризации и других задач сравнения предложений. Модель содержит 137,8 млн параметров и принимает последовательности длиной до 514 токенов. При обучении использовалась функция MultipleNegativesRankingLoss с косинусным сходством. Веса доступны в формате safetensors; для применения подходят Sentence-Transformers или Transformers с соответствующей операцией pooling. Карточка не сообщает лицензию и не приводит результатов оценки качества. Название базовой модели указывает на ориентацию на корейский язык, однако README и метаданные не перечисляют поддерживаемые языки.
hmart824/layoutlmv3-finetuned_1.1 — дообученная модель Microsoft LayoutLMv3-base для классификации токенов в документах. Архитектура LayoutLMv3 объединяет обработку текста, изображений и структуры страницы; модель содержит 151,8 млн параметров и рассчитана на контекст до 514 токенов. В README приведены результаты оценки: F1 0,9968, точность 0,9972 и полнота 0,9966, однако набор данных и условия оценки не раскрыты, поэтому эти показатели нельзя напрямую переносить на другие документы. Модель подходит для извлечения и разметки сущностей в отсканированных или цифровых документах, когда важны текст и его расположение на странице. Языки и конкретные типы документов не уточнены. Репозиторий распространяется по лицензии CC BY-NC-SA 4.0, которая требует указания авторства и распространения производных материалов на тех же условиях и не допускает коммерческого использования.
Карточка модели Laevo/LFM2.5-Encoder-230M на Hugging Face совпадает с карточкой LiquidAI/LFM2.5-Encoder-230M, поэтому описание составлено по ней. LFM2.5-Encoder-230M — разработанный Liquid AI компактный многоязычный двунаправленный энкодер на архитектуре LFM2 с 221,2 млн параметров. Это masked language model с головой заполнения масок, предназначенная прежде всего для дообучения под прикладные задачи обработки текста. Гибридная архитектура чередует блоки коротких gated-свёрток и grouped-query attention; модель доступна в формате safetensors и работает через Transformers с удалённым кодом модели. Энкодер подходит как основа для классификации текста и токенов, извлечения сущностей, поиска и ранжирования, оценки семантического сходства, определения тональности и естественно-языкового вывода. Заявлена поддержка 15 языков, включая русский. README указывает контекст до 8 192 токенов и возможность эффективного запуска на устройстве и в браузере через WebGPU; значение длины контекста в метаданных каталога составляет 128 000 токенов, поэтому фактический рабочий предел следует сверять с используемой конфигурацией модели. Модель ориентирована на низкие требования к памяти и задержке; авторы сообщают о хорошей производительности на длинных последовательностях и приводят сравнения с другими энкодерами. Для перечисленных прикладных задач обычно требуется дообучение: исходная модель не является готовым специализированным классификатором или поисковым ранжировщиком. Лицензия указана как other, поэтому перед использованием следует проверить условия на странице модели.
Llama 3.1 Future Code Ja — языковая модель примерно на 7,5 млрд параметров, разработанная на основе Meta Llama 3.1. Она предназначена прежде всего для генерации и дополнения кода: модель прошла продолжительное предобучение на данных с кодом и преимущественно японским текстом, затем была объединена с instruct-вариантом Llama 3.1 и дообучена на инструкциях по программированию с помощью SFT и DPO. Модель поддерживает японский и английский языки, более 40 языков программирования, а также заполнение пропусков в коде с учётом контекста до и после пропуска (Fill-in-the-Middle). Контекст составляет до 131 072 токенов. Модель также справляется с общими инструкциями и задачами на японском и английском языках. В карточке приведены результаты тестирования генерации кода и языковых задач; они показывают сильные результаты в ряде сценариев, но не гарантируют качество для конкретного проекта. Модель не обучалась на специфичных данных организаций и нестандартных задачах разработки; её ответы могут содержать ошибки и требуют проверки. Для таких задач авторы рекомендуют дополнительное дообучение. Лицензия — Llama 3.1.
Mellum-4b-sft-all — дообученная JetBrains языковая модель для задач, связанных с кодом. Она основана на плотной архитектуре LLaMA и содержит 3,7 млрд параметров; контекст — до 8192 токенов. Модель предназначена прежде всего для контекстного автодополнения кода, включая дополнение фрагментов с учётом контекста проекта, а также для генерации кода и создания помощников для разработки. Модель дообучена на коде на многих языках программирования, включая Python, Java, C++, JavaScript, TypeScript, Go, Rust, SQL и другие. Её можно применять в IDE, облачном или локальном инференсе, а также в образовательных и исследовательских проектах. Репозиторий содержит веса в формате safetensors; карточка также сообщает о сохранении bf16 точности. Модель распространяется по лицензии Apache-2.0. Представленные в карточке тесты оценивают заполнение кода и показывают результаты на RepoBench, SAFIM и HumanEval Infilling. Модель может воспроизводить особенности и предвзятости публичных кодовых баз, а предложенный код необходимо проверять: он может содержать уязвимости.
Nondzu/Mistral-7B-Instruct-v0.2-code-ft — дообученная авторами репозитория языковая модель для помощи в программировании и работы в формате чат-ассистента. В основе лежит mistralai/Mistral-7B-Instruct-v0.2; модель дообучена методом QLoRA на диалоговом датасете ajibawa-2023/Code-74k-ShareGPT. Архитектура — плотная авторегрессионная MistralForCausalLM с 7,1 млрд параметров; метаданные указывают контекст до 32 768 токенов. Модель предназначена для генерации кода, ответов на вопросы по программированию и сценариев помощника-разработчика. Карточка приводит результат Eval Plus 0,421, но не уточняет методику и условия оценки. Для запуска доступны веса PyTorch и Safetensors; указан шаблон диалога ChatML. Лицензия CC-BY-NC-ND-4.0 запрещает коммерческое использование и распространение производных материалов на условиях лицензии.
mistral-7b-shisa-7b-v1 — объединённая модель на архитектуре Mistral, созданная методом SLERP с помощью mergekit из ajibawa-2023/Code-Mistral-7B и augmxnt/shisa-7b-v1. Она содержит 7,1 млрд параметров и предназначена для генерации текста в диалогах, а также для задач программирования, на которых обучена одна из исходных моделей. Модель принимает текст и выдаёт текст; заявленный контекст составляет до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка описывает способ объединения весов, но не приводит результаты оценки качества или подробные сведения о поддерживаемых языках. Поэтому пригодность для конкретных задач и качество ответов следует проверять отдельно.
Модель jfarray/Model_dccuchile_bert-base-spanish-wwm-uncased_5_Epochs — модель Sentence-Transformers на базе BERT, преобразующая предложения и абзацы в плотные векторы размерности 256. Она предназначена для поиска семантически близких текстов и кластеризации; также подходит для сравнения сходства предложений. Модель содержит 137,1 млн параметров, использует формат PyTorch и принимает последовательности длиной до 512 токенов. Обучение проводилось с функцией потерь CosineSimilarityLoss. По названию репозитория базовая модель — dccuchile/bert-base-spanish-wwm-uncased; модель ориентирована на испанский язык. Лицензия в предоставленных данных не указана.
MoonViT-3D — визуальная башня модели Kimi-K2.6, опубликованная Aquiles-ai на основе весов и реализации Moonshot AI. Это плотная vision transformer модель Kimi_K25VisionModel примерно на 544,9 млн параметров; веса сохранены в safetensors и поддерживаются библиотекой Transformers без trust_remote_code. Модель извлекает признаки изображений и предназначена для получения эмбеддингов для поиска похожих изображений, кластеризации и удаления дубликатов, а также для использования как замороженного визуального энкодера при обучении классификаторов, детекторов или регрессионных голов. Визуальные признаки можно подключить к языковой модели для построения собственной мультимодальной системы или использовать для индексации изображений вместе с текстом в мультимодальном RAG. README также упоминает обработку последовательностей кадров с временным измерением, но отмечает, что пример такого использования не приведён и интеграцию нужно реализовать самостоятельно. Модель принимает изображения и выдаёт признаки; поддерживаемые естественные языки не заявлены. Лицензия — Apache-2.0.
NegMPNet — модель эмбеддингов предложений на базе MPNet, разработанная TUM NLP. Это версия all-mpnet-base-v2, дообученная с повышенной чувствительностью к отрицаниям. Модель преобразует предложения и абзацы в плотные векторы размерности 768 и подходит для семантического поиска, кластеризации и сравнения текстов с учётом отрицаний. Модель принимает текст и выдаёт векторные представления. Она содержит 136,7 млн параметров, имеет контекст до 514 токенов и предназначена прежде всего для англоязычных текстов. По карточке, обучение использовало MultipleNegativesRankingLoss с косинусным сходством. Модель распространяется по лицензии CC BY-SA 4.0.
Pythia 6.9B Tulu — языковая модель Allen Institute for AI, дообученная на смеси наборов инструкций FLAN V2, CoT, Dolly, OpenAssistant 1, GPT4-Alpaca, Code-Alpaca и ShareGPT. Это плотная авторегрессионная модель GPT-NeoX с 8,8 млрд параметров в метаданных и контекстом до 2048 токенов. Модель предназначена для генерации ответов на инструкции, диалоговых запросов, рассуждений и кода. В карточке приведены результаты на наборах тестов для общих знаний, математики, вопросов и ответов и генерации кода; авторы отмечают, что результат зависит от соблюдения обучающего формата с переводом строки после маркера сообщения. Модель поддерживает английский язык. Она распространяется в формате PyTorch и является полным набором весов, а не diff. Условия использования определяются лицензией модели из LICENSE.txt и исходной лицензией Pythia из pythia_license.txt; их конкретные положения в предоставленных данных не приведены.
OpenThinker2-7B — языковая модель с открытыми весами, разработанная командой OpenThoughts. Она дообучена на Qwen/Qwen2.5-7B-Instruct на наборе OpenThoughts2-1M и содержит 7,1 млрд параметров. Модель построена на архитектуре Qwen2 и доступна в формате Safetensors; контекст — до 32 768 токенов. Модель предназначена для генерации текста и диалогов с акцентом на рассуждения, в частности при решении математических задач и задач на программирование. В README приведены результаты оценивания на математических и научных бенчмарках, а также LiveCodeBench; модель позиционируется как конкурентоспособная среди открытых моделей класса 7B. Она может быть полезна для обучения, экспериментов и создания приложений, которым нужны ответы с рассуждениями. Модель использует интерфейс чата и поддерживает интерфейс вызова инструментов. Данные не подтверждают отдельную языковую специализацию, поэтому язык применения следует выбирать с учётом возможностей базовой Qwen2.5-7B-Instruct. Лицензия — Apache 2.0.