II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейBallistic-CodeLlama-34B-v1 — языковая модель для генерации кода и ответов на инструкции, созданная BallisticAI. Она основана на CodeLlama 34B, объединяет варианты CodeLlama 34B v2 и speechless-codellama-34b-v2 и дополнительно обучена на jondurbin/airoboros-2.2. В репозитории указаны архитектура Llama, 33,5 млрд параметров и контекст до 16 384 токенов; модель принимает инструкции в формате Alpaca/Vicuna и выдаёт текст. Модель подходит для помощи в программировании, генерации и продолжения кода, а также выполнения текстовых инструкций. Для запуска существуют варианты AWQ для GPU и GGUF для CPU. Карточка сообщает об ограниченном тестировании и рекомендует дополнительную проверку безопасности перед реальным развёртыванием. Лицензия — Llama 2.
vikp/cleaner — текстовая генеративная модель на архитектуре GPT-NeoX с 1,7 млрд параметров и контекстом 2048 токенов. Разработчик описывает её как инструмент для очистки извлечённого из PDF и EPUB текста и преобразования его в Markdown. Модель предназначена для удаления колонтитулов, номеров страниц и других помех в тексте документов перед дальнейшей работой с ним. В карточке указан формат PyTorch. Сведения о базовой модели и лицензии отсутствуют, поэтому их нельзя определить по предоставленным данным.
Code Llama 34B — базовая авторегрессионная языковая модель Meta на архитектуре Transformer, представленная в формате для Hugging Face Transformers. Она содержит 33,5 млрд параметров и предназначена для генерации и понимания кода; эта версия не является вариантом Python или Instruct и не ориентирована на диалоговые инструкции. Модель принимает текст и генерирует текст. Её можно применять для автодополнения кода и адаптировать к другим задачам синтеза и понимания программ. Для работы с длинными запросами поддерживается контекст до 16 384 токенов. Основной язык карточки — английский; модель также работает с релевантными языками программирования. Модель обучена на статическом наборе данных, поэтому её ответы могут быть неточными или нежелательными; перед внедрением требуется проверка и настройка под конкретное применение. Использование регулируется лицензией Meta Llama 2, включая её условия и ограничения.
marianodo/ContrastiveLoss — модель на базе MPNet, представленная в формате Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для задач семантического поиска и кластеризации. Модель обучалась с функцией ContrastiveLoss и косинусной метрикой расстояния; число параметров — 136,7 млн, контекст — до 514 токенов. Модель подходит для построения векторных представлений текстов и сравнения их семантического сходства. В карточке не указаны разработчик датасета, поддерживаемые естественные языки и лицензия, поэтому их нельзя надёжно определить.
teven/cross_all_bs160_allneg_finetuned_WebNLG2020_correctness — модель на базе MPNet, дообученная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 768 и подходит для семантического поиска и кластеризации. В метаданных указаны 136,7 млн параметров и контекст длиной 514 токенов; модель использует PyTorch и экосистему Sentence-Transformers. Модель предназначена для поиска текстов по смыслу и группировки семантически близких фрагментов. Карточка называет её дообученной на WebNLG 2020 для оценки корректности, однако подробности обучения и языковая поддержка не описаны. Лицензия в предоставленных данных не указана.
CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.
Карточка модели TechxGenus/CursorCore-DS-1.3B-LC на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.
Карточка модели TechxGenus/CursorCore-DS-1.3B-SR на Hugging Face совпадает с карточкой TechxGenus/CursorCore-DS-1.3B, поэтому описание составлено по ней. CursorCore-DS-1.3B — модель из серии CursorCore, разработанной Hao Jiang, Qi Liu, Rui Li, Shengyu Ye и Shijin Wang для помощи в программировании. Она дообучена на базе deepseek-ai/deepseek-coder-1.3b-base и предназначена для генерации кода и диалоговой поддержки в сценариях AI-помощника программиста, включая редактирование кода, встроенный чат и автодополнение. Модель использует плотную архитектуру семейства LLaMA с причинно-следственной языковой моделью на 1,3 млрд параметров. Она принимает текстовые запросы и контекст с кодом и генерирует текст, включая программный код; заявленная длина контекста — 16 384 токена. README показывает сценарии обычного чата и взаимодействия с кодом, но примеры для конкретной модели частично используют другие модели CursorCore. Лицензия указана как other, поэтому условия использования следует сверять с карточкой модели.
DBRX Instruct — большая языковая модель компании Databricks для диалогов в несколько ходов, ответов на вопросы и задач с кодом. Это instruction-tuned версия DBRX, обученная с нуля на архитектуре Transformer decoder-only с тонкозернистой смесью экспертов (MoE): всего 132 млрд параметров, из которых для каждого входа активны 36 млрд. Модель использует RoPE, GLU и GQA; максимальная длина контекста — 32 768 токенов. Модель принимает и генерирует только текст. Она обучалась на данных на естественных языках и коде, но большая часть данных была на английском; Databricks не проверяла её proficiency на других языках и рекомендует считать модель англоязычной. DBRX Instruct предназначена для готового применения в коротких диалогах, общих вопросах на английском и задачах с кодом, а также для дальнейшей настройки под специализированные задачи. Модель выпущена по Databricks Open Model License; применяются также условия Databricks Open Model Acceptable Use Policy. Ответы модели могут быть неточными, неполными, предвзятыми или оскорбительными. Для сценариев, где важны точность и соответствие источникам, Databricks рекомендует использовать RAG и проверять модель в целевом контексте; встроенное выполнение кода и нативный вызов функций не поддерживаются.
deepseek-ai/deepseek-coder-5.7bmqa-base — базовая языковая модель для кода от DeepSeek. Это плотная архитектура Llama с Multi Query Attention и 5,6 млрд параметров; модель обучена с нуля на 2 трлн токенов, состоящих из кода и естественного языка. В метаданных указано окно контекста 16 384 токена. Модель предназначена для генерации и дополнения кода, вставки пропущенных фрагментов и работы с кодом на уровне проекта или репозитория. Обучение включало задачу fill-in-the-blank и данные на английском и китайском языках; карточка описывает результаты на нескольких бенчмарках генерации кода. Это базовая, а не чат-модель, поэтому для диалоговых сценариев может потребоваться дополнительная настройка. Веса опубликованы в формате PyTorch; лицензия обозначена как other, конкретные условия следует проверить в репозитории.
DeepSeek-R1-Llama-8B-F32-GGUF — текстовая генеративная модель семейства Llama, основанная на DeepSeek-R1-Distill-Llama-8B. Она предназначена для решения задач, требующих пошаговых рассуждений, в том числе математических задач, программирования и ответов на сложные вопросы. В карточке описаны варианты весов GGUF в форматах BF16, F16 и F32; размер файла F32 составляет 32,1 ГБ. Модель генерирует текст и поддерживает рассуждения с самопроверкой и рефлексией. В метаданных указан английский язык. Модель распространяется по лицензии Apache-2.0. README называет её квантизированной версией, однако перечисленные файлы представлены в BF16, F16 и F32; конкретная степень квантизации не уточняется.
Dolphin-2.9.1-Phi-3-Kensho-4.5B — разговорная языковая модель, подготовленная Eric Hartford, Lucas Atkins, Fernando Fernandes и сообществом Cognitive Computations. Она основана на Phi-3-Mini-Instruct-4k и использует плотную авторегрессионную архитектуру MistralForCausalLM; при обучении применялся qLoRA, а слой PEFT может дублировать слои модели во время вывода, увеличивая число параметров. В метаданных указано 6,4 млрд параметров и контекст 4096 токенов. Модель предназначена для диалогов и выполнения инструкций, генерации кода и математических ответов, а также начальных агентных сценариев и вызова функций. Она использует формат запросов ChatML и обучалась на наборах Dolphin-2.9, OpenHermes-2.5, CodeFeedback-Filtered-Instruction, dolphin-coder, Samantha, Orca Math и других. Карточка заявляет поддержку английского языка. В репозитории доступны веса PyTorch и Safetensors. Лицензия MIT разрешает коммерческое использование. Карточка предупреждает, что фильтрация обучения повышает готовность модели выполнять запросы; перед предоставлением модели пользователям рекомендуется добавить собственный слой выравнивания. Контекст ограничен 4096 токенами.
mradermacher/dots.ocr-GGUF — это GGUF-квантизированная версия мультимодальной модели dots.ocr, разработанной dots-studio и конвертированной в GGUF пользователем mradermacher. Модель предназначена для распознавания текста на изображениях и разбора документов с учетом структуры, включая анализ макета, таблиц и математических формул. Модель поддерживает работу с текстом и изображениями, заявлена для английского, китайского и других многоязычных сценариев. Точные сведения об архитектуре, количестве параметров и размере исходной модели в README не указаны. Доступны варианты квантизации GGUF от Q2_K до Q8_0, а также F16; размеры файлов составляют примерно от 0,9 до 3,7 ГБ. Для мультимодального ввода предусмотрены дополнительные файлы mmproj-Q8_0 и mmproj-f16. К сильным сторонам относятся специализированная обработка документов, поддержка структуры страниц, таблиц и формул, а также возможность выбора между компактностью, скоростью и качеством через разные варианты квантизации. Более низкие уровни квантизации могут снижать качество распознавания, а для работы с изображениями требуется совместимый мультимодальный проектор и программная среда с поддержкой GGUF. Модель распространяется по лицензии MIT.
Это модель определения языка устной речи на основе ECAPA-TDNN от SpeechBrain, обученная на VoxLingua107. Репозиторий содержит неизменённые веса исходной модели speechbrain/lang-id-voxlingua107-ecapa, упакованные в формат GGUF для запуска через loom.cpp и loom-py-rt. На вход модель принимает аудиоклип и выдаёт распределение вероятностей по 107 языкам. Модель предназначена для автоматического определения языка речи в аудиозаписи, например для предварительной сортировки клипов или выбора последующей языковой обработки. Аудио должно быть монофоническим с частотой 16 кГц; каждый клип нужно подавать отдельным вызовом, поскольку пакет с дополненными тишиной клипами не поддерживается. Модель обучена на речи из YouTube, поэтому чистых фрагментов в несколько секунд обычно достаточно, но близкие языки могут путаться — рекомендуется учитывать несколько верхних результатов. Лицензия репозитория — Apache-2.0.
lewispons/email-classifiers — модель на базе BERT, созданная с помощью Sentence Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 384, предназначенные для сравнения смысловой близости. Модель подходит для семантического поиска, кластеризации и сопоставления текстов, в том числе для группировки и поиска похожих электронных писем. Модель содержит 25,9 млн параметров, работает с текстом и поддерживает контекст длиной до 512 токенов. В карточке указано обучение с функцией потерь CosineSimilarityLoss. Доступны веса PyTorch; лицензия в предоставленных данных не описана.
Eurus-7B-SFT — дообученная авторами проекта Eurus языковая модель на базе Mistral-7B для диалогов и решения задач с рассуждением. Модель обучена на корректных действиях из UltraInteract с небольшой долей примеров UltraChat, ShareGPT и OpenOrca. Модель построена на плотной архитектуре MistralForCausalLM и содержит 7,1 млрд параметров. Она предназначена для генерации текста, включая диалоговые ответы, программирование и математические задачи; для кода и математики в карточке приведены специальные форматы подсказок. Контекст — до 32 768 токенов. Репозиторий содержит веса PyTorch, лицензия — Apache-2.0. В README заявлено, что модель превосходит открытые модели сопоставимого размера и в ряде случаев специализированные модели, однако независимые результаты в предоставленных материалах не приведены. Карточка не сообщает о поддерживаемых естественных языках или иных ограничениях.
Eurux-8x22B-NCA — диалоговая языковая модель из серии Eurus, разработанной OpenBMB и оптимизированной для рассуждений. Это дообученная методом SFT и preference learning модель семейства Mixtral с архитектурой Mixture of Experts; в карточке указано 22 млрд параметров и контекст до 65 536 токенов. Модель обучали на многоходовых траекториях UltraInteract и парах предпочтений UltraFeedback. Модель предназначена для генерации ответов в чате и выполнения инструкций, включая задачи по программированию, математике, рассуждениям и общим знаниям. README сообщает о сильных результатах в тестах на эти навыки, однако приведённые результаты не позволяют независимо оценить качество: часть таблицы отсутствует. Для работы доступны веса в формате safetensors и библиотека Transformers. Лицензия — Apache-2.0.
Frame-VAD Multilingual MarbleNet v2.0 — компактная сверточная модель NVIDIA на архитектуре MarbleNet для обнаружения речи в аудиопотоке. Она предназначена для использования как первый этап распознавания речи, диаризации говорящих и других задач обработки аудио. Модель содержит 91,5 тыс. параметров и выдаёт вероятность наличия речи для каждого 20-миллисекундного кадра. Модель принимает одноканальное аудио WAV с частотой 16 кГц и поддерживает английский, испанский, французский, немецкий, русский и китайский языки. Для снижения ложных срабатываний при обучении использовались шумовые помехи, разные уровни громкости и примеры неречевых звуков. Для более устойчивых границ речи вероятности можно сглаживать и порогово классифицировать. Модель рассчитана на работу в реальном времени; NVIDIA указывает оптимизацию для GPU-систем, а также готовность к коммерческому применению. Использование регулируется NVIDIA Open Model License Agreement.
Карточка модели DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_20000 на Hugging Face совпадает с карточкой DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_90000, поэтому описание составлено по ней. FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-notfalcon-notrescaled_90000 — модель на базе RoBERTa, разработанная DragosGorduza. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для поиска по смыслу, кластеризации и сравнения семантической близости. Обучение использовало MarginDistillationLoss из gpl.toolkit; модель распространяется в формате safetensors и рассчитана на работу с библиотекой Sentence-Transformers или Transformers с подходящей операцией pooling. Модель содержит 151,8 млн параметров и принимает текстовые последовательности длиной до 514 токенов. Карточка не сообщает конкретные поддерживаемые языки, поэтому языковую специализацию определить нельзя. Лицензия в предоставленных данных не указана.
GLiClass Base v1.0 — компактная модель классификации последовательностей от разработчиков семейства GLiClass, вдохновлённая GLiNER. Она выполняет классификацию текста без дообучения на конкретной разметке: пользователь задаёт категории, а модель оценивает текст за один проход. В карточке указана архитектура GLiClass; веса доступны в форматах Safetensors и ONNX. Размер версии Base в README — 186 млн параметров. Модель подходит для классификации тем и тональности, а также для оценки релевантности документов в RAG-сценариях. В тестах zero-shot она показала результаты на наборах IMDB, AG_NEWS и Emotions; точность зависит от задачи и формулировок категорий. Обучение проводилось на синтетических данных. Карточка заявляет возможность коммерческого использования, а метаданные указывают лицензию Apache-2.0.
Mungert/granite-3b-code-instruct-2k-GGUF — это GGUF-версия инструкционно дообученной языковой модели Granite-3B-Code, разработанной на базе IBM Granite. Модель предназначена для генерации текста и ориентирована прежде всего на задачи программирования: создание, объяснение и исправление кода, работу с инструкциями, математическими задачами, SQL и вызовами функций. Контекст модели составляет 2K токенов, размер — около 3 миллиардов параметров, модальность — текстовая. Модель обучалась с использованием наборов данных для программирования, математических рассуждений, инструкций, SQL, диалогов с кодовым ассистентом и оценки полезности ответов. В бенчмарке HumanEvalPack она тестировалась для Python, JavaScript, Java, Go, C++ и Rust; заявленные результаты pass@1 зависят от типа задачи и языка. Например, для синтеза кода показатель составляет 51,2% для Python и 43,9% для JavaScript, а для исправления кода — 33,5% для Java и 31,7% для C++. Файлы созданы с помощью llama.cpp и распространяются в формате GGUF, что позволяет запускать модель в совместимых локальных инструментах. Автор также применял выборочное повышение точности отдельных слоёв при квантовании, чтобы улучшить сохранение качества на низких битностях, хотя это увеличивает размер файла. Ограничениями являются небольшой контекст, специализация на текстовых задачах и вариативное качество между языками и сценариями; приведённые результаты помечены как непроверенные. Лицензия — Apache 2.0.
Grok 4.6 — модель SpaceXAI, предназначенная для задач программирования, интеллектуальной работы и STEM. По карточке модели, её сменила более новая версия Grok 4.7. Доступные сведения не описывают архитектуру, размер, модальности, поддерживаемые языки, длину контекста или лицензию, поэтому их нельзя надёжно указать. Метаданные каталога классифицируют модель как image-text-to-text, но README не подтверждает работу с изображениями.
Hercules-2.0-Mistral-7B — языковая модель на архитектуре Mistral, разработанная Locutusque и дообученная на базе Mistralai/Mistral-7B-v0.1. Она предназначена для выполнения инструкций, диалогов и вызова функций в научных и технических темах, включая биологию, химию, физику, математику, медицину и информатику. Модель содержит 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. В карточке заявлены возможности генерации кода и вызова функций. Модель подходит для специализированных чат-ботов, учебных помощников, ответов на технические вопросы и генерации кода. Она распространяется в формате safetensors по лицензии Apache-2.0. Возможны фактические ошибки и галлюцинации, в том числе в специализированных областях; обучающие данные могут содержать токсичные примеры и предубеждения.
HashNuke/indic-ocr-mlx — конверсия IndicOCR от Bodhan AI / AI4Bharat для запуска на Apple Silicon через MLX-VLM. Это двухэтапная система разбора документов: IndicDocLayout находит блоки и определяет порядок чтения, затем IndicBlockOCR распознаёт их содержимое. Результат включает Markdown в порядке чтения и JSON по блокам; формулы могут передаваться в LaTeX, а таблицы — в HTML. Этап распознавания основан на дообученной Qwen3.5-0.8B, а этап разметки — на дообученной PP-DocLayoutV3 с 37 классами. Модель предназначена для OCR и структурированного извлечения текста из изображений страниц, включая документы с формулами и таблицами. Заявлена поддержка печатного текста на английском и 22 индийских языках; рукописный текст поддерживается на английском и 12 индийских языках, но не на всех языках печатного текста. Проверки описаны на отдельных примерах и не являются оценкой точности на широком наборе данных. Для запуска требуется версия MLX-VLM с поддержкой indic_ocr; веса не квантизированы. Лицензия указана как other, поэтому конкретные условия использования следует сверять с карточкой модели и лицензией исходного проекта.
Bruno/intent-classification-pt-setfit-model — модель эмбеддингов предложений на базе BERT, опубликованная пользователем Bruno на Hugging Face. Она преобразует предложения и абзацы в плотные векторы размерности 384 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Метаданные указывают 124,3 млн параметров и контекст до 512 токенов; модель распространяется в формате PyTorch и поддерживает получение эмбеддингов. Модель обучалась с функцией потерь CosineSimilarityLoss. Несмотря на название репозитория, в карточке не описан отдельный классификационный интерфейс: основное применение — векторное представление текста для сравнения и поиска. Язык обучающих данных, лицензия и дополнительные ограничения в предоставленных источниках не указаны.
jina-embeddings-v5-omni-small-clustering — мультимодальная модель эмбеддингов от Jina AI, созданная на базе jinaai/jina-embeddings-v5-omni-small. Она принимает текст, изображения, видео и аудио и преобразует их в векторы общего пространства, согласованного с текстовой моделью jinaai/jina-embeddings-v5-text-small-clustering. Вариант настроен для кластеризации; размер модели — около 1,56 млрд параметров, размерность эмбеддинга — 1024. Модель подходит для группировки и сравнения мультимодальных данных, а также для поиска, где документы индексируются текстом, а запросы поступают в виде текста, изображения, видео или аудио. Видео представляется последовательностью кадров; звуковая дорожка видео автоматически не обрабатывается и для совместного кодирования должна передаваться отдельно. Для текстовых документов README рекомендует добавлять префикс «Document: ». Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование.
Juno-N-Coder-25B — модель для генерации кода, разработанная Locai Labs на основе NVIDIA Nemotron 3.5 Lightning 30B. Это производная модель семейства Nemotron-H, полученная структурным удалением нижних 25% экспертов алгоритмом SPACE с перенормировкой маршрутизатора; дополнительное восстановительное дообучение не проводилось. В метаданных указано 1,9 млрд параметров, а заявленная длина контекста составляет 262 144 токена. Модель предназначена для помощи в разработке программного обеспечения: генерации кода и решения задач по программированию. Карточка сообщает о близких к базовой модели результатах на LiveCodeBench v6, HumanEval+ и MBPP+, при этом общие знания и фактическое воспроизведение могут ухудшаться: в частности, приведены снижения на некоторых группах MMLU Redux. Для запуска приведён пример с vLLM и поддержкой вызова инструментов. Репозиторий использует формат Safetensors и лицензию «other»; конкретные условия этой лицензии в доступных сведениях не раскрыты.
snunlp/KR-SBERT-Medium-klueNLI-klueSTS — корейская модель SentenceTransformer от SNUNLP на основе BERT, дообученная на данных klue/klue. Она кодирует предложения и абзацы в плотные векторы размерностью 768 для оценки семантической близости, семантического поиска, поиска перефразирований, кластеризации и классификации текста. Для сравнения векторов используется косинусное сходство; средний pooling формирует представление из токенов. Модель принимает текст на корейском языке, имеет контекст до 512 токенов и около 128,6 млн параметров. Карточка приводит результат Spearman 0,8546 по cosine на sts-dev. Модель подходит для поиска похожих корейских фраз и построения эмбеддингов, но сама по себе не генерирует ответы; указанные задачи классификации требуют отдельной классификационной головы или последующей обработки векторов. Весовые файлы опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
Карточка модели gemasphi/laprador_pt_pb на Hugging Face совпадает с карточкой gemasphi/laprador_pt, поэтому описание составлено по ней. gemasphi/laprador_pt — модель на основе BERT, преобразующая предложения и абзацы в плотные векторы размерности 768. Она предназначена для построения эмбеддингов, поиска семантически близких текстов и кластеризации. Модель содержит 79,5 млн параметров, принимает последовательности длиной до 512 токенов и доступна в формате PyTorch. Модель можно использовать через библиотеку Sentence-Transformers или Hugging Face Transformers с подходящей операцией pooling. Она подходит для семантического поиска и группировки текстов по смыслу. README не сообщает языковую специализацию или результаты оценки, поэтому её качество для конкретного языка и предметной области следует проверять отдельно.
Llama 2 Coder 7B — языковая модель для генерации и помощи в написании программного кода, созданная mrm8488 на базе Llama 2 Coder 7B и дообученная с использованием набора данных HuggingFaceH4/CodeAlpaca_20K. TheBloke подготовил её квантованные файлы в формате GGUF. Модель предназначена для сценариев, в которых требуется coding assistant: интерпретации инструкций пользователя и формирования решений в виде программного кода. Она относится к архитектуре Llama, имеет размер 7B параметров и поддерживает текстовую генерацию. README не указывает точный перечень языков программирования, естественных языков или размер контекстного окна. Формат GGUF подходит для локального запуска через llama.cpp и совместимые инструменты, включая text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие решения с поддержкой CPU и GPU. Ключевое преимущество версии — доступность квантований с разной разрядностью, включая 2-, 3-, 4-, 5-, 6- и 8-битные варианты, что позволяет выбирать компромисс между качеством, скоростью и требованиями к памяти. Ограничения включают возможные ошибки и неполные решения в генерируемом коде, а также отсутствие в README опубликованных результатов оценки. Модель заявлена под лицензией Apache-2.0, но поскольку основана на Llama 2, также подпадает под условия лицензии Meta Llama 2; взаимодействие этих лицензий требует отдельной проверки перед использованием.