II.8Инженерия данных и аналитика

Карточка модели avsolatorio/30-100-31-1-2-2-0-0-mean-normed-384-512_GIST_st_all-MiniLM-L6-v2-20240206161831-latest на Hugging Face совпадает с карточкой valurank/MiniLM-L6-Keyword-Extraction, поэтому описание составлено по ней. valurank/MiniLM-L6-Keyword-Extraction — англоязычная модель для получения векторных представлений предложений и коротких абзацев. Это Sentence-Transformers-модель на архитектуре BERT с 25,9 млн параметров, создающая плотные эмбеддинги размерности 384. В README описано дообучение контрастивным методом на более чем миллиарде пар предложений на основе nreimers/MiniLM-L6-H384-uncased; метаданные указывают формат PyTorch и контекст до 512 токенов. Модель предназначена для семантического поиска, сравнения сходства текстов и кластеризации. Эмбеддинги можно использовать для ранжирования кандидатов по близости векторных представлений, в том числе при извлечении ключевых слов из текста. По умолчанию тексты длиннее 256 WordPiece-токенов обрезаются. README не приводит отдельную лицензию, а метаданные обозначают её как other, поэтому условия использования следует сверить с карточкой репозитория. Модель обучалась преимущественно на англоязычных данных; качество для других языков не подтверждено.

LeoChiuu/all-MiniLM-L6-v2 — англоязычная модель Sentence Transformers, дообученная разработчиком на базе sentence-transformers/all-MiniLM-L6-v2 для получения семантических векторов предложений и абзацев. Она использует архитектуру BERT с пуллингом по среднему значению токенов и нормализацией векторов; размер модели — 25,9 млн параметров, размерность эмбеддингов — 384. Максимальная длина последовательности в README указана как 256 токенов, а метаданные указывают контекст до 512 токенов. Модель предназначена для семантического сравнения текстов по косинусному сходству, семантического поиска, поиска перефразирований, классификации и кластеризации. В карточке приведены результаты бинарной классификации пар предложений и сведения о дообучении с CoSENTLoss на наборе из 560 примеров; качество на других данных не гарантируется. Лицензия в предоставленных данных не указана.

Это модель SentenceTransformer на базе энкодера BERT all-MiniLM-L6-v2, дообученная на 5 749 парах предложений с CosineSimilarityLoss. Она преобразует предложения и абзацы в нормализованные плотные векторы размерности 384 и предназначена для оценки семантического сходства, семантического поиска и задач группировки текстов. В архитектуре используются mean pooling и нормализация; метаданные указывают 25,9 млн параметров и контекст до 512 токенов, тогда как README задаёт максимальную длину последовательности 256 токенов. Модель подходит для поиска похожих предложений, обнаружения перефразирований, кластеризации и классификации текстов. Карточка и базовая модель ориентированы на английский язык; отдельная поддержка других языков не заявлена. Лицензия в предоставленных данных не указана.

Arcanum Cross Platform Retriever — текстовая модель Sentence Transformers, дообученная автором репозитория на базе BAAI/bge-m3 для поиска по предложениям и абзацам. Она использует архитектуру XLM-RoBERTa с пулингом CLS и нормализацией, преобразует текст в плотные векторы размерности 1024 и сравнивает их косинусным сходством. Максимальная длина входа — 8192 токена. Модель предназначена для получения эмбеддингов запросов и документов в системах семантического поиска и retrieval. В README приведена оценка на arcanum-test: cosine_accuracy@1 — 0,5802, @3 — 0,7554 и @5 — 0,8187. Репозиторий также содержит сведения о дообучении на 4612 примерах; лицензия в предоставленных данных не обозначена.

Карточка модели Sing0402/auslegal-embed-gte-dense на Hugging Face совпадает с карточкой Alibaba-NLP/gte-modernbert-base, поэтому описание составлено по ней. gte-modernbert-base — англоязычная модель для построения текстовых эмбеддингов, разработанная Tongyi Lab компании Alibaba. Она основана на encoder-only архитектуре ModernBERT и содержит 149 млн параметров; вектор представления имеет размерность 768, максимальная длина входа — 8192 токена. Модель предназначена для семантического поиска, извлечения документов, сравнения предложений и подбора текстов по смыслу, в том числе как компонент систем RAG. В карточке приведены результаты оценок MTEB, BEIR, LoCo и COIR; они показывают эффективность на задачах поиска, включая поиск по длинным документам и коду. Доступны веса в форматах PyTorch, Safetensors и ONNX; для интеграции описано использование Transformers, Sentence Transformers и Text Embeddings Inference. Модель распространяется по лицензии Apache-2.0. Она рассчитана прежде всего на английский язык, поэтому качество для других языков не подтверждено карточкой.

Модель разработана CatkinChen и представляет собой дообученную версию BAAI/bge-base-en-v1.5 для работы с текстовыми предложениями и абзацами. Это Sentence Transformer на архитектуре BERT с 136,7 млн параметров, который преобразует текст в нормализованные плотные векторы размерностью 768 и сравнивает их по косинусному сходству. Модель предназначена для семантического поиска, оценки сходства предложений и извлечения релевантных текстов. В README также перечислены кластеризация, поиск перефразирований и классификация текста. Максимальная длина последовательности — 512 токенов; модель рассчитана на английский язык и может использоваться в системах поиска и RAG. В карточке приведены результаты оценки на InformationRetrievalEvaluator и сведения о дообучении на наборе из 309 примеров с TripletLoss. Эти данные не устанавливают качество на других наборах и сценариях. Модель распространяется с лицензией базовой модели, однако лицензия в доступных сведениях не указана.

bekko-embedding-v1-a8m — компактная многоязычная модель плотных текстовых эмбеддингов от hotchpotch, построенная на энкодере mmBERT в стиле ModernBERT и реализованная как Sentence Transformer. По README, модель содержит 7,7 млн активных параметров, имеет 4 слоя и размер скрытого состояния 384; метаданные указывают 106 млн параметров. Модель преобразует текст в векторы размерностью 384, которые можно усекать до 256, 128 или 64 измерений благодаря Matryoshka-представлениям. Контекст — до 8192 токенов. Модель предназначена прежде всего для многоязычного поиска по смыслу и извлечения релевантных текстов; также подходит для сравнения сходства предложений, переранжирования и поиска по длинным документам или коду. Автор заявляет поддержку более 100 языков и приводит результаты на мультиязычных бенчмарках, где качество поиска сопоставимо с более крупными моделями. Компактный размер и наличие артефактов ONNX и OpenVINO рассчитаны на быстрый запуск на CPU, в том числе на маломощных устройствах. Модель основана на hotchpotch/bekko-embedding-v1-a8m-pt. Доступна по лицензии MIT. Векторные представления сами по себе не генерируют ответы: для прикладного поиска обычно требуется отдельно организовать индексирование и поиск по эмбеддингам. Приведённые в README оценки относятся к указанным бенчмаркам и не гарантируют качество на конкретных данных.

NaqibL дообучил модель BGE на базе BAAI/bge-base-en-v1.5 для получения эмбеддингов предложений и абзацев. Это текстовая Sentence Transformer модель с архитектурой BERT, которая преобразует вход в нормализованный плотный вектор размерности 768; сходство векторов можно оценивать косинусной мерой. Модель рассчитана на поиск и сопоставление текстов, включая семантический retrieval. Максимальная длина входа — 512 токенов, а обучение проводилось на наборе из 26 953 примеров. В README приведён результат cosine accuracy 0,8534 на оценке TripletEvaluator. Модель унаследовала англоязычную основу BGE; отдельные поддерживаемые языки и лицензия в предоставленных данных не описаны. Для неё нужны совместимые средства Sentence Transformers или text-embeddings-inference.

BumbaLM-Embedding-Qwen-4b-v0-15k — модель Sentence Transformer на архитектуре Qwen3 для преобразования предложений и абзацев в плотные векторы размерностью 2560. Она предназначена для семантического поиска и извлечения текстов: близость векторов можно оценивать косинусным сходством. Архитектура использует представления последнего токена, затем нормализует выходные векторы; максимальная длина последовательности — 2048 токенов. Модель принимает текст и сообщения. Карточка описывает её как обученную embedding-модель, однако не сообщает автора обучения, базовую модель, языки обучения или лицензию. В репозитории указаны веса в формате safetensors. Возможные сценарии — поиск релевантных фрагментов и сравнение текстов; результаты зависят от данных и языка, поскольку сведения о языковом покрытии и оценках качества не приведены.

facebook/contriever — плотная модель векторного представления текста на базе архитектуры BERT, разработанная командой Facebook. Её обучили без учителя с помощью контрастивного обучения для поиска информации; для получения эмбеддинга предложения поверх выходов модели требуется mean pooling. Модель предназначена для построения векторного поиска по коллекциям документов и извлечения релевантных текстов по запросу. Она содержит 136,7 млн параметров, принимает текст с контекстом до 512 токенов и выдаёт представления текста. В README не указаны языки обучения или специализация на конкретной предметной области. Модель опубликована в формате PyTorch. Условия лицензии в предоставленных данных не описаны.

Dans-PersonalityEngine-V1.3.0-24b — языковая модель PocketDoc, дообученная на базе mistralai/Mistral-Small-3.1-24B-Base-2503. Это плотная авторегрессионная модель семейства Mistral с 23,4 млрд параметров, рассчитанная на генерацию текста и диалог в формате DanChat-2. Контекстное окно составляет 131 072 токена; автор указывает, что при длине свыше 32 768 токенов качество извлечения информации снижается. Модель предназначена для ролевых диалогов, совместного написания прозы и историй, генерации кода, вызова инструментов и решения сложных задач. Она дообучалась на более чем 50 специализированных наборах данных; основной язык — английский, также заявлена поддержка арабского, китайского, французского, немецкого, хинди, японского, корейского, португальского и испанского. В метаданных среди возможностей отмечены чат и код. Модель распространяется в формате Safetensors по лицензии Apache-2.0. Автор сообщает о тренировке с помощью Axolotl на восьми GPU H100 в течение 50 часов. Качество ожидается наивысшим для английского языка; для контекста длиннее 32 768 токенов автор предупреждает о снижении точности извлечения информации.

AbuYahya2/deepseek-marsad — объединённая текстовая модель, созданная автором репозитория с помощью mergekit и метода TIES на основе deepseek-ai/DeepSeek-R1-Distill-Llama-8B с включением NousResearch/Meta-Llama-3-8B-Instruct. Это плотная авторегрессионная архитектура LlamaForCausalLM примерно на 7,5 млрд параметров; файлы представлены в формате safetensors, библиотека для работы — Transformers. Модель предназначена для диалоговой генерации текста и поддерживает контекст до 131 072 токенов. Модель подходит для чат-ответов, математических задач, программирования и многошаговых рассуждений — эти возможности связаны с базовой моделью DeepSeek-R1-Distill-Llama-8B. В метаданных также отмечен интерфейс вызова инструментов. README описывает способ слияния, но не приводит оценки качества или отдельные результаты тестирования именно этой объединённой версии. Условия использования определяются лицензиями базовых моделей; сведения о лицензии в предоставленных данных отсутствуют.

Это англоязычная модель Sentence Transformers на базе DistilBERT, дообученная авторами Sentence Transformers на датасете разделов Википедии sentence-transformers/wikipedia-sections. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для оценки семантической близости и поиска текстов по смыслу. Модель использует DistilBertModel с усреднением токенных представлений; сходство рекомендуется оценивать косинусной мерой. Модель подходит для семантического поиска по англоязычным документам, сравнения предложений, поиска перефразирований, кластеризации и классификации текстов на основе эмбеддингов. Максимальная длина входной последовательности — 512 токенов. В тесте TripletEvaluator на тестовом наборе wikipedia-sections точность по cosine_accuracy составила 0,70; результат характеризует оценку на этом наборе и не гарантирует такую же точность на других данных. Лицензия в предоставленных сведениях не указана.

Карточка модели much1na/distil-cohere-v1-ckpt-backup на Hugging Face совпадает с карточкой much1na/distil-cohere-v1-ckpt, поэтому описание составлено по ней. much1na/distil-cohere-v1-ckpt — дообученная модель Sentence Transformers на базе BERT google/bert_uncased_L-6_H-512_A-8. Она преобразует предложения и абзацы в плотные векторы размерностью 512 для семантического поиска, сравнения сходства текстов, поиска перефразировок, кластеризации и классификации. Архитектура включает BertModel с усредняющим pooling; сходство векторов можно оценивать косинусной мерой. Модель принимает только текст, поддерживает последовательности длиной до 512 токенов и содержит 40,8 млн параметров. В карточке указано обучение на наборе parquet из примерно 3,81 млн примеров, а метаданные описывают её как модель эмбеддингов. Базовая модель англоязычная, поэтому основное применение — представление английских текстов. Лицензия в доступных данных не указана.

DNA 3.0 — мультимодальная модель семейства Qwen, дообученная компанией Dnotitia на базе Qwen/Qwen3.6-35B-A3B. Это модель Mixture-of-Experts с 35 млрд общих и примерно 3 млрд активных параметров, объединяющая обработку текста и изображений; заявленная архитектура использует разреженные MoE-слои и гибридное внимание. Модель рассчитана на диалоги, аналитические рассуждения, агентное программирование, работу с инструментами и визуальное понимание. Дополнительное обучение включает корпоративные сведения и терминологию Dnotitia, поэтому модель подходит для сценариев, где нужен ассистент с контекстом этой компании. README заявляет поддержку 201 языка и диалекта и контекст до 262 144 токенов, расширяемый примерно до 1 010 000 токенов с YaRN. Модель совместима с Transformers, vLLM, SGLang и KTransformers; для производственного развёртывания рекомендуется многопроцессорная инфраструктура. Модель обучалась по методике с ослабленным отказом от ответов и может выдавать содержание, которое другие модели отклоняют. Она может проявлять предвзятость в пользу Dnotitia, наследует ограничения базовой модели и способна галлюцинировать; для чувствительных сценариев необходимы проверка человеком и собственные меры модерации. Лицензия — Apache-2.0.

DNA 3.0-9B — мультимодальная модель компании Dnotitia, дообученная на базе Qwen/Qwen3.5-9B. Это плотная модель с 9 млрд параметров и архитектурой Qwen3.5 для работы с текстом и изображениями; поддерживает диалог и интерфейс вызова инструментов. В README указаны поддержка 201 языка и диалектов, контекст 262 144 токена с расширением примерно до 1 010 000 токенов с помощью YaRN. Метаданные указывают формат Safetensors и лицензию Apache-2.0. Модель рассчитана на аналитические рассуждения, программирование и отладку с агентными сценариями, понимание изображений и ответы в роли ассистента, знакомого с продуктами и внутренней терминологией Dnotitia. Её дообучали с уменьшенным числом отказов и корпоративной персоной; по умолчанию она может выдавать блоки рассуждений, которые можно отключить. Для обслуживания авторы рекомендуют выделенный inference-движок и много GPU. К ограничениям относятся сниженное поведение отказа, предвзятость в пользу Dnotitia, унаследованные от базовой модели смещения и возможные галлюцинации; для решений с высокими ставками требуется проверка человеком.

htdht/e5_base_finetuned_mnrl_v2 — модель Sentence Transformer на основе XLM-RoBERTa, дообученная от intfloat/multilingual-e5-base для преобразования предложений и абзацев в плотные векторы размерностью 768. Она предназначена для семантического поиска, извлечения релевантных фрагментов и сравнения текстов по косинусному сходству; в примерах обучения используются пары запросов и документов на вьетнамском языке. Архитектура включает mean pooling и нормализацию векторов, максимальная длина последовательности — 512 токенов. Модель принимает текст и выдаёт текстовые эмбеддинги. Базовая модель многоязычная, однако карточка не перечисляет полный набор поддерживаемых языков; приведённые примеры указывают на настройку под вьетнамский поиск. Опубликована в формате safetensors. Лицензия в предоставленных данных не указана.

ELYZA-Thinking-1.0-llm-jp-4-33b — языковая модель с рассуждениями, разработанная ELYZA, Inc. на основе llm-jp/llm-jp-4-33b-base. Это плотная авторегрессионная модель семейства Llama с 32,2 млрд параметров и контекстом 65 536 токенов; веса доступны в формате safetensors, лицензия — Apache 2.0. Модель предназначена прежде всего для японского рассуждения и следования инструкциям, включая задачи по математике, программированию, STEM, японским знаниям и работе с инструментами. ELYZA провела промежуточное обучение, дообучение на инструкциях и обучение с подкреплением на проверяемых задачах, добавляя японские данные и сохраняя англоязычные материалы. Поддерживаются японский и английский языки. Модель подходит для диалоговых приложений, решения сложных задач и сценариев с вызовом инструментов. README отмечает ограничение формата Harmony: параллельные вызовы инструментов не поддерживаются. Для работы с моделью описаны варианты запуска через vLLM и Transformers.

aufklarer/EmbeddingGemma-300M-MLX-8bit — конверсия Google EmbeddingGemma 300M для запуска на устройствах Apple с Apple Silicon через библиотеку MLX. Модель предназначена для получения 768-мерных эмбеддингов предложений и поиска по текстовым расшифровкам; в карточке указана архитектура плотного энкодера Gemma 3 с двунаправленной обработкой, mean pooling, плотной головой и L2-нормализацией. Размер модели — 302,8 млн параметров, точность — 8 бит с группой 64; контекст составляет 512 токенов по README, тогда как метаданные указывают нативный контекст 2048 токенов. Модель принимает текстовые запросы и документы, размеченные специальными префиксами для поиска, и выдаёт нормализованные эмбеддинги. README сообщает о высокой близости результатов к исходной версии в float32 на тестовых расшифровках. Языковые сведения в карточке описывают базовую модель как многоязычную, но конкретный набор языков не приведён. Репозиторий указывает лицензию Gemma; применяются её условия использования.

Delta-Vector/GLM-4-32B-Tulu-Instruct — плотная языковая модель семейства GLM-4, дообученная автором на смеси Tulu-SFT. Она предназначена для диалогов, следования инструкциям и генерации текста; в метаданных также отмечены сценарии работы с кодом. Модель содержит 31,6 млрд параметров, принимает контекст до 32 768 токенов и использует формат диалога ChatML. Автор сообщает, что при обучении были удалены примеры выравнивания безопасности. Модель рассматривается как ассистент и основа для дальнейшего дообучения; оценка качества на длинном контексте не проводилась, а дополнительного обучения с подкреплением после SFT не было. Репозиторий распространяется по лицензии Apache-2.0.

GPT-OSS-Swallow 120B SFT v0.1 — двуязычная языковая модель Токийского технологического института, дообученная на базе GPT-OSS. Она предназначена для диалогов на японском и английском языках, перевода между ними, а также решения задач по математике, программированию и естественным наукам. Модель использует архитектуру GPT-OSS с разреженной смесью экспертов (MoE); в метаданных указано 2,1 млрд параметров и контекст до 131 072 токенов. Для инференса разработчики рекомендуют vLLM и советуют ограничивать контекст 32 768 токенами или менее. Обучение включало продолжение предобучения, supervised fine-tuning и последующее обучение с проверяемыми наградами для семейства моделей; этот репозиторий содержит вариант SFT. Авторы сообщают об улучшении японского языка и перевода при сохранении математических и кодовых навыков. Модель не обучали специально для вызова инструментов, управления уровнем reasoning effort и надежной работы с длинным контекстом; ранний выпуск также не настроен на полное соответствие человеческим намерениям и требованиям безопасности. Лицензия — Apache-2.0.

Granite-Embedding-30m-English — компактная модель встраиваний из семейства Granite Embeddings, разработанная командой Granite Embedding в IBM. Она построена на энкодерной архитектуре на основе RoBERTa, содержит 33,5 млн параметров и формирует векторы текста размерности 384. Модель принимает текст на английском языке; максимальная длина контекста — 514 токенов. Модель предназначена для получения векторных представлений, которые можно использовать для поиска по смыслу, извлечения релевантных документов и оценки сходства предложений. Версия r1.1 ориентирована на контекстный поиск в многоходовых диалогах: для запроса ей передают историю разговора в заданном формате. По данным карточки, модель примерно вдвое быстрее сопоставимых по размеру векторов моделей и показывает конкурентные результаты на бенчмарках поиска. Модель доступна в форматах PyTorch, Safetensors и ONNX, совместима с Sentence Transformers. Лицензия — Apache 2.0. Ограничения: модель рассчитана на английский язык, а контекст ограничен 514 токенами; версии r1.1 для многоходового поиска требуется подавать историю диалога в специальном формате.

osmanh/Harry_Potter_and_the_Sorcerers_Stone_en — модель sentence-transformers на базе BERT для получения плотных векторных представлений предложений и абзацев. Она преобразует текст в векторы размерности 384 и предназначена для поиска семантически близких фрагментов, кластеризации и сравнения текстов. Модель содержит 25,9 млн параметров, использует архитектуру BertModel и принимает контекст длиной до 512 токенов. При обучении применялась функция потерь MultipleNegativesRankingLoss с косинусным сходством. Название указывает на связь с английским текстом «Гарри Поттер и философский камень», однако карточка не уточняет языковой состав обучающих данных или условия лицензии.

jina-embeddings-v2-small-en — англоязычная модель эмбеддингов, разработанная Jina AI. Она построена на архитектуре JinaBERT на базе BERT: энкодер предварительно обучен на C4, а затем модель дообучена на наборе Jina AI из более чем 400 миллионов пар предложений и сложных негативных примеров из разных областей. Модель преобразует текст в векторы для поиска по длинным документам, семантического сравнения текстов, ранжирования, рекомендаций и систем RAG. Контекст поддерживает до 8192 токенов благодаря двунаправленному варианту ALiBi; при обучении использовалась длина последовательности 512 токенов. Для получения эмбеддинга предложения или фрагмента текста README рекомендует применять mean pooling. Размер модели — около 32,4 млн параметров по метаданным. Компактный размер обеспечивает быстрое и экономное по памяти получение эмбеддингов. Модель предназначена для английского языка и не является мультиязычной. Для работы через Transformers может потребоваться параметр trust_remote_code=True; модель доступна в форматах PyTorch, Safetensors, ONNX и Core ML. Лицензия — Apache-2.0.

Ttimms/KAT-Coder-V2.5-Dev-REAP-50-GGUF — это квантизированная GGUF-версия модели KAT-Coder-V2.5-Dev, разработанной Kwaipilot и подготовленной Ttimms. Модель предназначена для генерации текста и программного кода, агентного программирования и работы через llama.cpp-совместимые приложения. Указан английский язык. В основе лежит гибридная архитектура Gated-DeltaNet и Mixture of Experts (MoE). В результате 50-процентного pruning методом REAP число экспертов сокращено с 256 до 128, общий размер составляет около 19 млрд параметров, а активными при инференсе являются примерно 3 млрд параметров. Vision tower удалён, MTP head отсутствует. Доступны варианты квантизации Q4_K_M, Q5_K_M, Q6_K и Q8_0; рекомендуемый Q4_K_M занимает около 11,4 ГБ и рассчитан на запуск в системах с 16 ГБ памяти. Сильные стороны модели — высокая эффективность MoE при относительно умеренных требованиях к вычислениям, поддержка CPU и Apple Silicon, а также хорошие заявленные результаты на HumanEval+ и MBPP+. Для работы требуется свежая версия llama.cpp с поддержкой архитектуры qwen35moe; поддержка Ollama зависит от обновления встроенной версии llama.cpp. Более качественные кванты требуют больше памяти, а Q8_0 нуждается более чем в 16 ГБ или в выгрузке части вычислений на CPU. Заявленные результаты основаны на одиночных greedy-запусках и имеют заметный разброс между повторными измерениями. Модель распространяется по лицензии Apache-2.0.

Kiel-2.2-Sol — языковая модель KielTech для диалогов и генерации текста. Это плотная причинная модель семейства Llama с 3,2 млрд параметров, дообученная на базе kiel2/Kiel-2.1-Sol. Веса представлены в формате Safetensors; модель работает через Transformers и поддерживает контекст до 131 072 токенов. Модель предназначена для чат-ассистентов, следования инструкциям, решения задач в разных предметных областях, логических рассуждений и генерации кода, включая асинхронные сценарии на Python. В карточке заявлена поддержка английского языка. Модель может использоваться как самостоятельный серверный бэкенд генерации текста. Карточка не приводит результаты независимых оценок качества. Модель распространяется под лицензией, указанной в метаданных Hugging Face; сведения о конкретной лицензии отсутствуют.

cyankiwi/Laguna-S-2.1-AWQ-INT4 — квантизированная версия Laguna S 2.1 от poolside, подготовленная cyankiwi в формате AWQ INT4. Это текстовая модель text-to-text для агентного программирования, работы с инструментами и долгих многошаговых задач. Модель поддерживает интерleaved reasoning между вызовами инструментов и рассчитана на использование в vLLM, SGLang, Transformers, TRT-LLM и llama.cpp. Базовая модель содержит 118 млрд параметров, из которых около 8 млрд активируются на каждом токене, и использует Mixture-of-Experts с 256 маршрутизируемыми экспертами и одним общим экспертом. Архитектура включает 48 слоёв, grouped-query attention, 12 слоёв глобального внимания и 36 слоёв sliding-window attention с окном 512 токенов. Контекстное окно составляет 1 048 576 токенов, словарь — 100 352 токена. Поддерживаются английский, китайский, хинди, арабский, русский, японский, корейский, нидерландский, французский и испанский языки; модальность — текстовая. Ключевые преимущества — большое контекстное окно, эффективная MoE-архитектура, поддержка рассуждений и сценариев с инструментами, а также снижение требований к хранению и инференсу благодаря INT4-квантизации; размер файла указан как 76,83 ГБ. Ограничения включают высокие требования к вычислительным ресурсам даже в квантизированном виде и возможные потери качества из-за квантизации по сравнению с исходной точностью. Модель распространяется по лицензии OpenMDW-1.1, допускающей свободное использование и изменение для коммерческих и некоммерческих целей.

Llama3-TenyxChat-70B — чат-модель на базе Llama 3, разработанная Tenyx Research. Модель объёмом 69,5 млрд параметров дообучена методом Direct Preference Optimization (DPO) на наборе предпочтений UltraFeedback с применением фирменного подхода Tenyx к тонкой настройке. Она использует архитектуру LlamaForCausalLM и шаблон чата Llama 3; заявленная длина контекста — 8192 токена. Модель предназначена для диалоговых ответов и работы в роли полезного ассистента: она может помогать с письмом, извлечением сведений, программированием, математическими и STEM-вопросами, а также общими вопросами и рассуждениями. В карточке сообщается о результатах на MT-Bench и других бенчмарках, однако авторы отмечают, что модель может испытывать трудности с рассуждениями и математикой и иногда отвечает слишком многословно. Её специально не настраивали на соответствие предпочтениям безопасности людей, поэтому при провокационных запросах возможны нежелательные ответы. Модель рассчитана на английский язык. Лицензия — Meta Llama 3 Community License.

Карточка модели TracNetwork/mayhem-catalog-prism-ml-Ternary-Bonsai-27B-MLX-2bit на Hugging Face совпадает с карточкой prism-ml/Ternary-Bonsai-27B-mlx-2bit, поэтому описание составлено по ней. Ternary Bonsai 27B — модель Prism ML, созданная на базе Qwen3.6-27B для локальной генерации текста, рассуждений и диалогового применения. Это плотная гибридная трансформерная архитектура с линейным и полным вниманием; языковые веса представлены значениями −1, 0 и +1 с групповым масштабированием и занимают около 1,71 бита на параметр. Модель содержит примерно 27,3 млрд языковых параметров и отдельную башню зрения примерно на 0,46 млрд параметров, однако в карточке для неё заявлена задача text-generation. Модель рассчитана на запуск на ноутбуках и одной видеокарте, в том числе локально и без подключения к сети. Заявлены контекст до 262 тысяч токенов, поддержка диалога и сохранение значительной части качества исходной модели при уменьшенном размере; для Apple MLX и CUDA предоставлены специализированные низкоразрядные ядра. Авторы сообщают о результатах на тестах рассуждений, математики, программирования и использования инструментов, но длительные агентные сценарии программирования пока не являются сильной стороной этой версии. Репозиторий распространяется по лицензии Apache-2.0. Указанный объём развёрнутой модели — около 7,2 ГБ, поэтому она не помещается в заявленный бюджет памяти приложения на iPhone; README также отмечает компромисс качества и размера относительно полноточной модели и использование 4-битного KV-кэша.

Abiray/MiniCPM5-2B-GGUF — набор квантованных весов модели MiniCPM5-2B, разработанной OpenBMB и входящей в серию MiniCPM5. Это плотная Transformer-модель примерно на 2 млрд параметров, представленная в формате GGUF для локального запуска через llama.cpp, Ollama и LM Studio, включая сценарии on-device и edge AI. Модель ориентирована на генерацию текста и поддерживает английский и китайский языки. Модель предназначена для генерации кода и текста, решения математических задач, работы с длинным контекстом до 128 тысяч токенов, вызова инструментов и многошаговых агентских сценариев. Доступны варианты квантования от Q3_K_M до Q8_0 размером примерно от 1,29 до 2,68 ГБ; Q4_K_M указан как рекомендуемый баланс скорости, качества и занимаемой памяти, а Q8_0 — как вариант с минимальными потерями относительно исходных весов. Квантование уменьшает требования к памяти, но может влиять на точность, особенно в компактных вариантах. Модель распространяется по лицензии Apache-2.0.