II.8Инженерия данных и аналитика

textattack/bert-base-uncased-QQP — модель классификации текстовых пар от TextAttack, дообученная на задаче QQP (Quora Question Pairs). Она определяет, являются ли два вопроса перефразами и имеют ли сходный смысл; результат — один из двух классов: похожие или непохожие вопросы. Репозиторий Hugging Face указывает архитектуру BERT для классификации последовательностей, около 136,7 млн параметров и контекст до 512 токенов. Модель предназначена для выявления дублирующих вопросов, группировки похожих запросов и экспериментов с классификацией пар предложений. Она принимает текстовые пары и выдаёт метку класса; по указанной uncased-версии BERT рассчитана на английский текст. Карточка модели не содержит описания лицензии, поэтому условия использования по доступным сведениям определить нельзя.

BERT large cased — предварительно обученная языковая модель семейства BERT, выпущенная Google. Она обучена на английских текстах BookCorpus и Wikipedia с помощью masked language modeling и предсказания следующего предложения. Модель различает регистр букв, использует WordPiece с словарём на 30 000 токенов и поддерживает контекст до 512 токенов. В конфигурации 24 слоя, скрытое представление размерности 1024 и 16 голов внимания; метаданные каталога указывают 432,3 млн параметров. Основное применение исходной модели — заполнение замаскированных слов и получение контекстных представлений для последующей настройки на классификацию последовательностей и токенов или ответы на вопросы. Она рассчитана на задачи, где анализируется полный входной текст, и не предназначена для свободной генерации текста. Обучающие данные ограничены английским BookCorpus и английской Wikipedia, а предсказания могут отражать смещения данных. Лицензия — Apache-2.0.

Модель swardiantara/bert-tiny-snli-k1-adaptive-cosine — компактный Sentence Transformer, дообученный на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерностью 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура состоит из BERT с усреднением токенных представлений; в метаданных указано 4,4 млн параметров и поддержка контекстного окна до 512 токенов, а карточка модели задаёт максимальную длину последовательности 128 токенов. Модель принимает текст и выдаёт эмбеддинги. В README описано обучение на 549 370 примерах пар предложений с использованием OrdinalProxyContrastiveLoss; примеры данных и базовая модель указывают на английский язык. Подходит для компактных систем семантического поиска и ранжирования по сходству. Лицензия в предоставленных данных не указана.

swardiantara/bert-tiny-sst5-full-fixed-cosine — компактная модель Sentence Transformers, дообученная автором на датасете generator на основе google/bert_uncased_L-2_H-128_A-2. Она преобразует предложения и абзацы на английском языке в плотные векторы размерности 128 и предназначена для поиска и сравнения текстов по косинусному сходству. Архитектура включает BERT с усреднением токенных представлений; модель содержит 4,4 млн параметров. Метаданные указывают контекст до 512 токенов, а README сообщает максимальную длину последовательности 128 токенов. Модель можно применять для семантического поиска, извлечения релевантных текстов и оценки сходства предложений. Она принимает только текст и выдаёт векторы; интерфейса для генерации ответов модель не описывает. Компактный размер подходит для сценариев с ограниченными вычислительными ресурсами. Лицензия в предоставленных данных не указана.

swardiantara/bert-tiny-yelp-k5-adaptive-cosine — компактная модель Sentence Transformers на основе BERT, дообученная для преобразования предложений и абзацев в плотные векторы размерности 128. Она предназначена для поиска и сравнения текстов: близость векторов оценивается косинусным сходством, а архитектура использует BERT-энкодер с усредняющим pooling. Модель обучена на 585 350 примерах с текстовыми парами и метками; базовая модель содержит 4,4 млн параметров. Модель принимает текст. README указывает максимальную длину последовательности 128 токенов, а метаданные каталога — контекст до 512 токенов. Базовая модель ориентирована на английский язык, поэтому для других языков качество не подтверждено. Модель подходит для семантического поиска и извлечения признаков текста; лицензия в предоставленных данных не указана.

BTE-Base-Ar — модель эмбеддингов на базе Sentence Transformers и архитектуры ModernBERT, представленная ALJIACHI. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для сравнения по косинусному сходству. Модель содержит около 148,9 млн параметров и обрабатывает последовательности длиной до 8192 токенов; для длинных текстов применяется скользящее окно. Модель предназначена прежде всего для арабского языка, также обучалась на арабских и английских текстах. Её можно использовать для семантического поиска и сравнения фраз, поиска перефразировок, кластеризации и классификации текстов. В README приведён результат Spearman 0,8538 на оценке сходства предложений, а также заявлены высокая скорость и сниженное потребление памяти; условия и наборы для этих сравнений не раскрыты. Модель распространяется по лицензии MIT. Она выдаёт эмбеддинги, а не готовые текстовые ответы; качество на других языках и в задачах за пределами приведённой оценки в карточке не описано.

AbstractPhil/captionbert-8192-v2 — автономный компактный текстовый энкодер предложений, созданный AbstractPhil и дистиллированный из геометрического консенсуса пяти моделей семейства BERT. Модель содержит 66 млн параметров по метаданным, использует 12 слоёв, скрытое представление размерности 512 и контекст до 8192 токенов; на выходе формирует L2-нормализованные векторы размерности 768. Для работы не требуются модели-эксперты; README показывает загрузку через Transformers и токенизатор bert-base-uncased. Модель предназначена для получения векторных представлений предложений и сравнения их семантической близости, включая поиск похожих формулировок и задачи семантического сходства. В README приведены результаты на STS-B, SICK-R и других наборах семантического сходства; авторы отмечают, что базовый энкодер эффективен относительно учителей, но обычное mean pooling у BERT-подобных моделей уступает специализированным энкодерам, обученным на большом количестве пар сходства. Для дополнительной адаптации в репозитории описаны AMOE-адаптеры. Модель ориентирована на английский язык. Лицензия — MIT. Указанная в README загрузка использует trust_remote_code=True; перед применением следует учитывать необходимость доверять коду репозитория. Показатели бенчмарков приведены авторами модели и могут не отражать качество на пользовательских данных.

CAT-LM — языковая модель GPT-стиля, разработанная Nikitha Rao и соавторами для работы с программным кодом. Модель обучена на корпусе проектов Python и Java объёмом около 260 ГБ с сигналом предобучения, который учитывает связь между исходным кодом и тестовыми файлами, если такая связь доступна. Модель предназначена для генерации кода и других задач продолжения текста в контексте разработки программного обеспечения. В README указано 2,7 млрд параметров, а в метаданных Hugging Face — 3,5 млрд; оба источника указывают контекст до 8192 токенов. Архитектура в метаданных обозначена как GPT-NeoX, формат весов — PyTorch. Модель опубликована в рамках исследования на конференции ASE 2023. Сведения о лицензии MIT приведены в метаданных. README предупреждает, что модель обучалась без специального токена `` и его следует удалять при использовании.

CodeGemma 7B IT GGUF — квантизированная версия instruction-tuned модели CodeGemma 7B, разработанной Google и подготовленной в формате GGUF пользователем bartowski. Модель предназначена прежде всего для генерации и обработки программного кода, включая написание функций и ответы на запросы разработчиков. Она работает с текстовыми запросами через llama.cpp и использует специальный шаблон диалога с маркерами ролей; системные сообщения не поддерживаются. Доступны варианты квантизации от Q8_0 до IQ1_S размером примерно от 2,16 до 9,07 ГБ. Более высокие уровни квантизации обеспечивают лучшее сохранение качества, но требуют больше памяти, тогда как малые варианты подходят для ограниченных ресурсов за счёт заметного снижения качества. README не содержит сведений о размере контекста, поддерживаемых языках, мультимодальности или точной архитектуре базовой модели, поэтому эти характеристики нельзя определить по представленным данным. Модель удобна для локального запуска и выбора компромисса между качеством, скоростью и потреблением памяти. Ограничениями являются отсутствие поддержки system prompt и неизбежная потеря качества при использовании низкобитных вариантов. Распространение регулируется лицензией Google Gemma; ссылка на условия использования указана как https://ai.google.dev/gemma/terms.

ClaudioItaly/Coder — языковая модель для генерации кода, созданная слиянием весов через SLERP с помощью mergekit на основе Qwen/Qwen2.5-Coder-7B-Instruct. Модель содержит 7,1 млрд параметров, использует плотную архитектуру Qwen2 и формат safetensors; для работы с диалогами предусмотрен интерфейс чата. Метаданные указывают контекст длиной 32 768 токенов. Модель предназначена для генерации кода и диалоговых сценариев, связанных с программированием. Базовая Qwen2.5-Coder-7B-Instruct ориентирована на генерацию, анализ и исправление кода; карточка этой модели подтверждает слияние с ней, но не приводит отдельных результатов оценки или подробностей поведения получившейся модели. Лицензия в предоставленных данных не указана.

Codestral 2508 — языковая модель Mistral для задач программирования, выпущенная в конце июля 2025 года. Она предназначена для сценариев с низкой задержкой и частыми запросами, включая дополнение кода в середине фрагмента (fill-in-the-middle), исправление кода и генерацию тестов. Модель подходит для встраивания в инструменты разработки, где нужны быстрые подсказки по коду и помощь при редактировании. README не сообщает размер, архитектуру, поддерживаемые языки программирования или длину контекста. Условия лицензии в предоставленных данных также не описаны.

dapack-code — это специализированная на программировании версия Qwen3.5-35B-A3B, представленная в формате GGUF с градуированной точностью экспертов: файл весит 10,7 ГБ вместо 21,2 ГБ у полной модели. По данным карточки, эксперты, востребованные для кода, сохранены с точностью q2_K, остальные — с IQ2_XXS под матрицей важности; эксперты не удалены. Модель предназначена для генерации кода и задач разработки ПО. README сообщает о сохранённом качестве генерации кода по внутренним поведенческим измерениям и успешных пробах вызова инструментов; также заявлена поддержка итальянского языка. Для запуска требуется специальная версия dapack runtime: обычные сборки llama.cpp, Ollama и LM Studio этот формат не загружают. Модель основана на мультимодальной Qwen3.5-35B-A3B, но README описывает этот пак как кодовый текстовый генератор. Лицензия — MIT. Карточка указывает на существенное снижение качества перевода; вне программирования точность может деградировать из-за низкой точности части экспертов.

deepseekmerge-7b-ties — объединённая языковая модель, созданная с помощью mergekit методом TIES из DeepSeek-LLM-7B-Base, DeepSeek-LLM-7B-Chat и DeepSeek-Coder-7B-Base-v1.5. Она предназначена для генерации текста и объединяет возможности диалоговой модели DeepSeek с моделью, ориентированной на программирование. Модель использует плотную архитектуру семейства Llama с причинным языковым декодером, содержит 6,5 млрд параметров и поддерживает контекст до 4096 токенов. В репозитории доступны веса Safetensors; модель распространяется по лицензии Apache-2.0. Базовые модели обучались на английских и китайских данных, однако README не уточняет языковой охват именно объединённой версии. Модель можно использовать для диалоговых ответов и генерации кода. Карточка не приводит оценок качества или подробных результатов тестирования, поэтому пригодность для конкретных задач следует проверять отдельно.

sentence-transformers/distilbert-base-nli-stsb-mean-tokens — модель Sentence-Transformers, обученная командой Sentence-Transformers на основе DistilBERT. Она преобразует предложения и абзацы в плотные векторы размерности 768 для поиска семантически близких текстов и кластеризации. Модель использует архитектуру DistilBERT с усреднением контекстных представлений; максимальная длина контекста — 512 токенов. Модель подходит для семантического поиска, сравнения предложений и группировки текстов. Карточка помечает её как устаревшую и предупреждает о низком качестве эмбеддингов, поэтому для новых проектов рекомендуется выбрать более современную модель. Лицензия — Apache-2.0.

Dolphin3.0-Qwen2.5-3b-GGUF — это набор GGUF-квантизаций текстовой генеративной модели Dolphin3.0-Qwen2.5-3b. Исходную модель разработала команда cognitivecomputations, а квантизации подготовил bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для локального запуска и генерации текста, включая ответы на инструкции, задачи программирования, математики, function calling и агентские сценарии. Модель содержит около 3 миллиардов параметров и работает в текстовой модальности; в README указан английский язык. Доступны варианты от F32 и F16 до квантизаций Q8, Q6, Q5, Q4, Q3 и IQ, что позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти. Рекомендуемыми названы, в частности, Q4_K_M, Q5_K_M, Q6_K и некоторые варианты IQ; запуск поддерживается через llama.cpp и LM Studio. Формат prompt использует шаблон ChatML с маркерами ролей system, user и assistant. Сильными сторонами являются широкий выбор квантизаций, возможность локального запуска на сравнительно доступном оборудовании и специализация на инструкциях, коде, математике и инструментальном взаимодействии. Ограничения включают небольшой размер модели по сравнению с крупными LLM, возможное снижение качества у сильнее сжатых вариантов, отсутствие в README данных о контекстном окне, мультиязычных возможностях и количественных результатах тестирования. Лицензия обозначена как qwen-research и связана с лицензией Qwen2.5; перед использованием следует проверить её условия для конкретного сценария.

nixiesearch/e5-small-v2-onnx — это ONNX-версия модели intfloat/e5-small-v2, преобразованная с помощью инструмента onnx-convert. Модель разработана для преобразования предложений и абзацев в плотные векторы фиксированной размерности, пригодные для семантического поиска, кластеризации и задач определения сходства текстов. Модель относится к семейству sentence-transformers и предназначена прежде всего для англоязычных текстов. В составе доступны вариант Float32 с оптимизацией уровня 2 и вариант model_opt2_QInt8.onnx с 8-битным квантованием QInt8 и той же оптимизацией. Размерность эмбеддингов в README не указана; сведения об архитектуре, максимальной длине контекста и точной поддерживаемой мультимодальности отсутствуют. Модель работает только с текстовыми входами. К сильным сторонам относятся формат ONNX, наличие оптимизированной и квантованной версии, а также возможность использовать модель в системах семантического поиска и кластеризации. Ограничения включают отсутствие заявленной поддержки других языков и нехватку данных о производительности, размере векторов и контекстном окне. Модель распространяется по лицензии Apache 2.0.

jspringer/echo-mistral-7b-instruct-lasttoken — модель для извлечения текстовых признаков и построения эмбеддингов на основе Mistral. В карточке указаны плотная архитектура Mistral, 7,1 млрд параметров, контекст до 32 768 токенов и формат safetensors. README связывает модель с подходом Echo, в котором повторение улучшает языковые эмбеддинги, но подробности и примеры использования вынесены во внешние материалы. Модель предназначена для получения векторных представлений текста, в том числе для сценариев семантического поиска и сравнения текстов. В метаданных также отмечена возможность диалогового взаимодействия. Поддерживаемые языки и лицензия в доступных данных не указаны, поэтому их нельзя надёжно определить.

Карточка модели elyza/ELYZA-japanese-CodeLlama-7b на Hugging Face совпадает с карточкой elyza/ELYZA-japanese-CodeLlama-7b-instruct, поэтому описание составлено по ней. ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

ELYZA-japanese-CodeLlama-7b-instruct — компания ELYZA дообучила на базе Code Llama дополнительным предварительным обучением, чтобы расширить поддержку японского языка. Это плотная авторегрессионная модель семейства Llama для генерации текста, включая ответы на инструкции и создание кода. Модель содержит 6,6 млрд параметров и поддерживает контекст длиной до 16 384 токенов. В карточке указаны японский и английский языки. Модель подходит для генерации и объяснения кода, а также для ответов на текстовые запросы на японском и английском языках. Модель распространяется в формате safetensors по лицензии Llama 2. Карточка не приводит оценки качества или подробные ограничения; результаты генерации кода и фактические ответы следует проверять.

embeddinggemma-pt-br — португалоязычная модель для создания текстовых эмбеддингов, подготовленная tardellirs на основе google/embeddinggemma-300m. Это плотный текстовый энкодер семейства Gemma 3 с 151,8 млн параметров, библиотекой Sentence Transformers и контекстом до 2048 токенов. Размер словаря сокращён до 64 тыс. наиболее частотных португальских токенов: матрица токенов была усечена, а энкодер и слои pooling и Dense сохранены без изменений. По README, вариант сохраняет 98,8% результата исходной модели на MTEB(por), при этом обучение не проводилось. Модель предназначена для получения эмбеддингов и семантического сравнения португалоязычных текстов, например для поиска, классификации, кластеризации и ранжирования. Для других языков качество может быть низким из-за возврата к побайтовой токенизации. Указанная лицензия — Gemma; применяйте модель в соответствии с её условиями.

Это разреженный SPLADE-энкодер, дообученный на датасете STS-B от базовой модели naver/splade-cocondenser-ensembledistil с использованием библиотеки Sentence Transformers. Он преобразует предложения и абзацы на английском языке в разреженные векторы размерности 30 522 для семантического поиска, извлечения документов и оценки сходства по косинусной мере. Архитектура включает BERT-модель BertForMaskedLM и max-пулинг SPLADE; длина последовательности в метаданных составляет до 512 токенов, а карточка модели указывает максимум 256 токенов. Модель содержит 136,7 млн параметров. На наборах STS-dev и STS-test указаны значения Spearman cosine 0,8704 и 0,8292 соответственно. Модель рассчитана на английский язык и не является генеративной. Лицензия — Apache-2.0.

EXAONE-Deep-2.4B — плотная языковая модель с 2,4 млрд параметров, разработанная LG AI Research для рассуждений и генерации текста. Это дообученная версия EXAONE-3.5-2.4B-Instruct; архитектура использует 30 слоёв и групповое внимание GQA с 32 головами запросов и 8 головами ключей и значений. Модель поддерживает контекст до 32 768 токенов и рассчитана на английский и корейский языки. Модель предназначена для диалогов и задач рассуждения, в частности решения математических задач и генерации кода. По заявлению разработчика, версия 2.4B показывает результаты выше других моделей сравнимого размера на ряде тестов. Она работает с библиотекой Transformers и доступна для запуска в нескольких средах инференса. Модель может создавать фактически неверные, противоречивые, предвзятые или неуместные ответы и не располагает актуальными сведениями. Лицензия указана как other; конкретные условия следует проверить в репозитории модели.

FAE-v1 — модель для получения векторных представлений предложений, разработанная автором репозитория qinxianliu и основанная на e5-large-v2. Она использует архитектуру BERT и библиотеку Sentence Transformers: на вход подаются предложения, на выходе — эмбеддинги для сравнения смысловой близости и поиска похожих текстов. Модель содержит около 433,9 млн параметров, поддерживает английский язык и принимает последовательности длиной до 512 токенов. Её можно применять для семантического поиска, сопоставления предложений и построения признаков для текстовых систем. В README не приведены результаты оценки качества или специальные ограничения; веса опубликованы в формате Safetensors. Лицензия в предоставленных данных не указана.

Карточка модели ImranzamanML/German_Semantic_V3b_Optimised на Hugging Face совпадает с карточкой aari1995/German_Semantic_V3b, поэтому описание составлено по ней. German_Semantic_V3b — немецкоязычная модель эмбеддингов, разработанная Аароном Чиббом. Это дообученная версия aari1995/gbert-large-2 на архитектуре JinaBertModel, предназначенная для получения векторных представлений предложений и сравнения их семантической близости. Модель содержит 434,5 млн параметров и принимает последовательности длиной до 8192 токенов. Модель рассчитана на немецкий язык и особенно учитывает культурный контекст Германии. Она устойчива к небольшим опечаткам и различиям в регистре. Поддерживаются Matryoshka-эмбеддинги размером от 1024 до 64 измерений: уменьшение размерности снижает требования к хранению, но может немного ухудшить качество. По README, V3b ориентирована на высокую производительность, однако её знания ограничены периодом примерно до 2020 года. Лицензия — Apache 2.0.

Карточка модели cosmicGuy/GLM-5.1 на Hugging Face совпадает с карточкой zai-org/GLM-5.1, поэтому описание составлено по ней. GLM-5.1 — флагманская модель Z.ai для агентной разработки и инженерных задач. Это языковая модель с архитектурой GLM MoE DSA и 30,4 млрд параметров; она доступна в формате safetensors и совместима с Transformers. Модель принимает текст и предназначена для генерации кода, решения задач по разработке программного обеспечения и работы с инструментами в длительных сессиях. GLM-5.1 рассчитана на сложные и неоднозначные задачи: она может разбивать работу на этапы, проводить эксперименты, анализировать результаты и менять стратегию в ходе многократных итераций. Разработчик сообщает о сильных результатах на SWE-Bench Pro, NL2Repo и Terminal-Bench 2.0. Модель поддерживает английский и китайский языки и контекст до 202 752 токенов. Для локального запуска перечислены SGLang, vLLM, xLLM, Transformers и KTransformers. Модель распространяется по лицензии MIT. Описание подчёркивает её возможности в агентных сценариях и бенчмарках, но не приводит независимых оценок качества или гарантий результата; практическая работа с инструментами зависит также от используемой системы запуска.

Qdrant/gte-large-onnx — ONNX-порт модели thenlper/gte-large, подготовленный для использования в экосистеме Qdrant. Это текстовая модель, формирующая векторные представления текстов и предназначенная для задач семантического сходства и поиска по близости, а также для сценариев классификации текста на основе эмбеддингов. Модель принимает текст на вход и преобразует его в числовой вектор фиксированной размерности. В README не указаны точные архитектура, количество параметров, размерность эмбеддингов, максимальная длина контекста и перечень поддерживаемых языков. Модель совместима с FastEmbed, что упрощает получение эмбеддингов для коллекций документов и последующее использование в системах семантического поиска. К сильным сторонам относятся формат ONNX и ориентация на задачи similarity search, однако README не содержит подробных сведений о качестве, производительности, ограничениях по длине текста или языковой специализации. Модель распространяется по лицензии Apache 2.0.

Xenova/gte-small — версия модели thenlper/gte-small с весами в формате ONNX, подготовленная для работы с библиотекой Transformers.js. Репозиторий Xenova предназначен для запуска модели в JavaScript- и веб-средах, а исходная модель разработана командой thenlper. Модель используется для извлечения векторных представлений текста: она преобразует предложения в эмбеддинги размерностью 384. Такие представления подходят для оценки семантического сходства, поиска похожих текстов, кластеризации и других задач, где требуется сравнение текстовых данных. В README показано применение через pipeline feature-extraction с mean pooling и нормализацией, после чего сходство можно вычислять, например, с помощью косинусной меры. Модель ориентирована на текстовый ввод; сведения о поддерживаемых языках, максимальной длине контекста и точной архитектуре в предоставленных данных отсутствуют. К сильным сторонам относятся компактный размер эмбеддингов и совместимость с Transformers.js, включая использование в веб-приложениях. Ограничения — отсутствие информации о языковом охвате, качестве на конкретных доменах и лицензии. По умолчанию применяется 8-битная квантованная версия, также доступны варианты fp32, fp16 и q4.

GTE-small-zh — компактная модель текстовых эмбеддингов семейства General Text Embeddings, разработанная Alibaba DAMO Academy на основе архитектуры BERT. Она обучена на больших наборах пар текстов с оценками релевантности и предназначена для получения векторных представлений китайских текстов. Модель подходит для семантического поиска, сравнения сходства предложений, извлечения информации и ранжирования текстов. Размер модели составляет около 36 млн параметров, размерность эмбеддингов — 512, максимальная длина последовательности — 512 токенов. Веса доступны в форматах PyTorch и safetensors. Модель рассчитана исключительно на китайские тексты; более длинные входы обрезаются до 512 токенов. Лицензия — MIT.

Abiray/harrier-oss-v1-27b-GGUF — это GGUF-квантизированные версии модели эмбеддингов microsoft/harrier-oss-v1-27b, разработанные для генерации текстовых представлений и семантических векторов. Модель предназначена для задач семантического поиска, сопоставления текстов, кластеризации, классификации и других сценариев, где требуется преобразование текста в embedding-векторы. Запуск ориентирован на стандартное потребительское оборудование и CPU с использованием совместимых инструментов, включая llama.cpp. Модель содержит 27 миллиардов параметров. Доступны варианты квантизации с разрядностью 4, 5, 6 и 8 бит: Q4_K_M, Q5_K_M, Q6_K и Q8_0. Восьмибитная версия обеспечивает наиболее высокое качество и близка к FP16, а четырёхбитная имеет наименьший размер — около 16,6 ГБ — и рассчитана на запуск на системах с 24–32 ГБ оперативной памяти. С README не указаны поддерживаемые языки, максимальная длина контекста, точная архитектура, набор обучающих данных, численные показатели качества или лицензия. Сильными сторонами являются возможность локального запуска крупной embedding-модели на CPU и выбор между несколькими вариантами размера и качества. К ограничениям относятся значительные требования к памяти, особенно для старших вариантов квантизации, а также потенциальное снижение качества в более компактных версиях. Условия лицензирования в предоставленных данных не указаны.

Hercules-4.0-Mistral-v0.2-7B — дообученная языковая модель Locutusque на архитектуре Mistral для диалогов и выполнения инструкций в научных и технических областях. Модель содержит 7,1 млрд параметров, работает с текстом и поддерживает контекст до 32 768 токенов. В README заявлены возможности вызова функций, пошагового следования инструкциям и ответов по биологии, химии, физике, математике, медицине и информатике. Модель подходит для специализированных чат-ботов, учебных помощников, технических консультаций и генерации кода с использованием вызова функций. Она дообучена на наборе Hercules-v4.0, который расширяет OpenHermes-2.5 подборкой курируемых данных. Модель выпущена в формате Safetensors и распространяется по лицензии Apache-2.0. Возможны токсичные, ошибочные или вводящие в заблуждение ответы, в том числе в специализированных областях; результаты требуют проверки. Возможность вызова функций сама по себе не гарантирует безопасного исполнения кода.