II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейЭто модель Sentence Transformer, опубликованная Selman Baysan и дообученная для получения векторных представлений турецких предложений и абзацев. Она основана на BERT и содержит 137,8 млн параметров; Sentence Transformers преобразует входной текст в плотный вектор размерности 768, а сходство векторов можно оценивать косинусной мерой. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и классификации. Обучение проводилось на турецких версиях наборов MS MARCO, FIQA, SciFact, NFCorpus, MultiNLI, SNLI, STS-B и WMT16. В README приведены результаты оценки сходства на STS-B и классификации на нескольких наборах данных. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана. Модель ориентирована на турецкий текст; контекст ограничен 512 токенами, поэтому длинные тексты необходимо сокращать или разбивать на фрагменты.
vdr-2b-v1 — модель встраиваний LlamaIndex для поиска по визуально насыщенным документам. Она кодирует скриншоты страниц в плотные векторы, позволяя находить информацию в PDF, веб-страницах и других документах без отдельного OCR, извлечения текста и разбиения на фрагменты. Архитектура — Qwen2-VL, около 1,5 млрд параметров; модель дообучена на базе MrLight/dse-qwen2-2b-mrl-v1. Контекст составляет 32 768 токенов. README описывает англоязычное обучение; метаданные также указывают английский язык. Модель поддерживает Matryoshka Representation Learning: размер векторов можно уменьшить втрое, сохранив, по заявлению авторов, 98% качества эмбеддингов. Авторы также сообщают о более быстром выводе и меньшем расходе видеопамяти благодаря использованию меньшего разрешения изображений. Для загрузки требуется около 4,4 ГБ VRAM в описанной конфигурации bf16. Лицензия — Apache-2.0.
VultronCoderAtlas — разреженная мультимодальная модель семейства Kimi K3, разработанная Vultr на основе moonshotai/Kimi-K3. В ней около 2,10 трлн параметров, организованных в 93 трансформерных блока: один плотный и 92 MoE-блока. Для сокращения модели применён метод Router-weighted Expert Activation Pruning (REAP): в каждом MoE-блоке оставлено 672 эксперта с сохранением маршрутизации top-16. Модель принимает текст и изображения и выдаёт текст; контекстное окно составляет до 1 048 576 токенов. Модель предназначена для работы с крупными репозиториями и сопровождения кода, coding-агентов с инструментами, анализа длинных технических материалов и задач по изображениям и тексту. README приводит результаты оценивания на DeepSWE, Terminal-Bench, HumanEval+, MBPP+ и MMMU-Pro; проверка релиза охватывает англоязычные сценарии. Для многошаговых запросов требуется передавать полную историю ответа ассистента, включая reasoning_content, content и tool_calls. Checkpoint занимает около 1,2 ТБ и требует многопроцессорной GPU-конфигурации, нативных MXFP4-ядер и движка инференса с поддержкой Kimi K3, его парсеров рассуждений и вызова инструментов. Модель может генерировать неверный код или некорректные вызовы инструментов, а агентные результаты могут варьироваться. В метаданных указана лицензия other; конкретные условия лицензии в предоставленной карточке не раскрыты.
mlx-community/whisper-large-v3-asr-fp16 — преобразованная сообществом mlx-community версия OpenAI Whisper large-v3 для распознавания речи. Модель на архитектуре Whisper содержит около 905 млн параметров и предназначена для преобразования аудио в текст; репозиторий подготовлен в формате MLX для использования с библиотекой mlx-audio и содержит веса Safetensors в FP16. Модель подходит для транскрибации аудиозаписей и распознавания речи на разных языках, включая русский и английский. Карточка отсылает к исходной модели OpenAI за подробностями о её возможностях. Лицензия репозитория — Apache-2.0.
airoboros-13b-gpt4-1.3 — диалоговая модель jondurbin, дообученная методом QLoRA на базе LLaMA с использованием синтетических инструкций, созданных GPT-4. Это версия с 12,9 млрд параметров для генерации текста и ответов на запросы в формате чата; в обучающие данные добавлены задания на рассуждение в стиле Orca, инструкции по программированию и примеры многостороннего диалога. Модель рассчитана на текстовый ввод и выдачу текста. Для работы используется шаблон диалога на основе Vicuna; нативный контекст составляет 2048 токенов. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение. Автор предупреждает, что в этой версии есть проблемы и рекомендует дождаться версии 1.4. Ответы могут быть неточными; модель не следует считать надёжным источником без проверки.
LazarusNLP/all-indobert-base-v2 — модель эмбеддингов предложений на базе BERT, опубликованная LazarusNLP. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения смысловой близости и кластеризации текстов. Модель распространяется в формате safetensors и рассчитана на контекст до 512 токенов. Обучение с MultipleNegativesRankingLoss и косинусной мерой сходства ориентировано на получение векторов, полезных для поиска и сопоставления текстов. Данные карточки указывают на индонезийский язык и наборы данных для индонезийских задач понимания и поиска информации. Лицензия в предоставленных источниках не указана.
ANITA-NEXT-24B-Dolphin-Mistral-UNCENSORED-ITA — разговорная языковая модель семейства ANITA-NEXT, разработанная исследователем Марко Полиньяно из Университета Бари Альдо Моро и исследовательской группой SWAP. Это плотная авторегрессионная модель архитектуры Mistral на 23,4 млрд параметров, дообученная на базе dphn/Dolphin-Mistral-24B-Venice-Edition с помощью SFT, QLoRA и DPO. Она предназначена для диалога, следования инструкциям и генерации текста и кода; README характеризует её как модель с рассуждением и без фильтрации ответов. Модель принимает текст и генерирует текст, включая код. Она рассчитана прежде всего на итальянский язык, также заявлена поддержка английского и многоязычных сценариев. Метаданные указывают контекст 40 960 токенов; README отмечает деградацию качества после примерно 40 тысяч токенов, несмотря на заявленные там 128 тысяч. Указанная лицензия — Apache-2.0. Авторы предупреждают о галлюцинациях и возможности оскорбительных, неэтичных или опасных ответов; модель представлена для исследовательского применения.
ASTRA-32B-Thinking-v1 — дообученная модель на основе Qwen/Qwen3-32B, представленная авторами работы ASTRA: Automated Synthesis of Agentic Trajectories and Reinforcement Arenas. Это плотная языковая модель семейства Qwen3 на 29,7 млрд параметров с контекстом до 133 120 токенов, предназначенная для многошаговых задач с вызовом инструментов и структурированными рассуждениями. Модель обучали в два этапа: на примерах многоходового использования инструментов, а затем с помощью обучения с подкреплением и проверяемыми наградами в исполняемых средах. Модель рассчитана на агентные сценарии: планирование последовательностей вызовов инструментов, работу с их схемами и выполнение сложных задач в несколько шагов. В README заявлен результат уровня state of the art на многоходовой подвыборке BFCL-V3 для сопоставимого масштаба моделей. Метаданные также указывают интерфейс диалога и вызова инструментов. Модель распространяется под лицензией Apache-2.0; авторы описывают её как предназначенную для исследований и обучения и снимают с себя ответственность за последствия использования.
swardiantara/bert-tiny-amazon_reviews-k5-adaptive-cosine — компактная модель Sentence Transformers, дообученная автором на базе google/bert_uncased_L-2_H-128_A-2 на парах текстов с оценками сходства. Она преобразует предложения и абзацы в плотные векторы размерности 128 и предназначена для поиска похожих текстов и извлечения признаков. Архитектура включает BERT с двумя слоями, mean pooling и сравнение векторов по косинусному сходству; модель принимает текст, поддерживает последовательности до 128 токенов по README и имеет контекстное окно до 512 токенов по метаданным. В карточке показаны примеры англоязычных отзывов Amazon, поэтому прежде всего модель подходит для поиска и сравнения англоязычных отзывов. Репозиторий содержит веса safetensors; лицензия в предоставленных данных не указана.
jebish7/bge-small-en-v1.5_MNSR_3 — дообученная автором карточки модель Sentence Transformers на базе BAAI/bge-small-en-v1.5. Она преобразует предложения и абзацы на английском языке в плотные эмбеддинги размерности 384; архитектура включает BERT, пулинг CLS-токена и нормализацию. Модель рассчитана на семантическое сравнение текстов по косинусному сходству, семантический поиск, поиск перефразировок, кластеризацию и классификацию текстов. Максимальная длина входа — 512 токенов. В обучении использован CSV-датасет из 29 545 пар «запрос — релевантный фрагмент»; приведённые примеры относятся к финансовому регулированию ADGM, но карточка не подтверждает более широкую специализацию на этой области. Компактный размер в 40 млн параметров подходит для построения поиска и сравнения англоязычных текстов. Лицензия в предоставленных данных не указана.
swasjha06 дообучил англоязычную модель Sentence Transformer на базе mixedbread-ai/mxbai-embed-large-v1 для семантического поиска и извлечения текстовых эмбеддингов. Она кодирует предложения и абзацы в плотные векторы размерности 1024; сходство между ними можно оценивать косинусной мерой. Архитектура основана на BERT с пулингом CLS, модель содержит 433,9 млн параметров и принимает текстовые последовательности длиной до 512 токенов по метаданным; в README указан предел 256 токенов. Модель обучена на 851 паре «запрос—документ» с функцией потерь MultipleNegativesRankingLoss. Она подходит для поиска релевантных фрагментов по запросу и сравнения текстов по смыслу. Карточка описывает англоязычные обучающие примеры, поэтому основное назначение — работа с английским текстом. Лицензия в предоставленных данных не указана.
Bloomz-3b-retriever — двуязычный биэнкодер на базе дообученной модели cmarkea/bloomz-3b-sft-chat, разработанный Cyrile Delestre для Crédit Mutuel Arkéa. Он преобразует запросы и тексты документов в векторные представления для поиска релевантных документов, включая поиск между английским и французским языками. Модель обучена на парах запросов и контекстов с контрастивной целью на основе Triplet Network; в карточке указано 3,8 млрд параметров. Она подходит для поиска фрагментов в системах открытого поиска ответов на вопросы и векторных базах данных. В README приведено сравнение на наборе SQuAD, включая сценарий с запросом на английском и контекстом на французском, но карточка предупреждает, что версия Bloomz-3b-retriever-v2 показывает значительно более высокое качество. Репозиторий содержит веса PyTorch и Safetensors и распространяется по лицензии BigScience BLOOM RAIL 1.0.
bp500-base100k_voxpopuli — модель автоматического распознавания речи на базе Wav2Vec 2.0, дообученная для бразильского варианта португальского языка. В карточке указано, что исходное обучение выполнялось с fairseq, а опубликованная версия представляет собой конвертированную модель. Число параметров — 113,3 млн; формат весов — PyTorch. Модель предназначена для преобразования аудиозаписей на бразильском португальском в текст. Для обучения использовались объединённые данные CETUC, Common Voice, LaPS BM, Multilingual Librispeech, TEDx, SID и VoxForge; README приводит результаты WER на тестовых выборках этих корпусов, которые различаются между наборами и не всегда улучшаются при использовании 4-граммной языковой модели. Лицензия репозитория — Apache-2.0. Карточка показывает демонстрационные примеры и оценки, поэтому результаты на других типах аудио могут отличаться.
bartowski/codegeex4-all-9b-GGUF — это набор GGUF-квантизаций модели CodeGeeX4-ALL-9B, разработанной THUDM. Модель предназначена для генерации текста и, судя по названию и исходной модели, ориентирована прежде всего на работу с программным кодом и связанными текстовыми задачами. В README явно указана поддержка китайского и английского языков. Модель содержит около 9 млрд параметров в исходном варианте и подготовлена для запуска через llama.cpp. Доступны варианты квантизации от Q8_0 до IQ2_XS с размером файлов примерно от 3,61 до 9,99 ГБ. Более высокие разрядности обеспечивают лучшее качество, тогда как низкоразрядные варианты требуют меньше оперативной памяти, но могут заметно уступать по качеству. Для работы используется специальный формат промпта с маркерами системного, пользовательского и ассистентского сообщений. Размер контекста, дополнительные модальности и точная архитектура в README не указаны. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска через llama.cpp и наличие вариантов с высоким качеством, включая Q6_K и Q6_K_L. Ограничения связаны с потерями качества при низкой разрядности, а также с отсутствием в предоставленных данных подробных результатов тестирования, характеристик контекстного окна и описания ограничений исходной модели. Лицензия указана как специальная CodeGeeX4; подробные условия следует уточнять в файле LICENSE исходной модели THUDM/codegeex4-all-9b.
davidoneil/decisoes-processos-tce-ft-gemma — модель Sentence Transformer, созданная дообучением google/embeddinggemma-300m на 49 816 обучающих примерах. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и использует косинусное сходство для сравнения текстов. Модель предназначена для семантического поиска и сопоставления текстов, а также может применяться для поиска перефразирований, классификации и кластеризации. Модель принимает текст длиной до 2048 токенов и выдаёт эмбеддинги. В карточке приведены примеры обучающих данных с длинными текстами, но их тематика и поддерживаемые языки не определены, поэтому специализацию по области или языку установить нельзя. Репозиторий использует библиотеку Sentence Transformers и формат safetensors. Лицензия в предоставленных сведениях не указана.
MJPansa/DeepSeek-V4-Flash-0731-NVFP4 — общественная конверсия официальной модели DeepSeek-V4-Flash-0731, разработанной DeepSeek. Конверсия сохраняет архитектуру, токенизатор, DSpark/MTP-конфигурацию, механизм внимания, shared experts, router, head и прочие компоненты исходной модели, изменяя представление весов маршрутизируемых экспертов на NVIDIA-style NVFP4. Репозиторий не связан с DeepSeek или NVIDIA и не является их официальным продуктом. Модель предназначена для сложных задач программирования, разработки с агентами, работы с инструментами, автоматизации, терминальных сценариев, математики, Triton, CUDA/Nsight и научных задач. Она относится к MoE-архитектурам и содержит 43 основных transformer-слоя; в структуру включён модуль speculative decoding. В README не указаны общий и активный размер модели, поддерживаемые языки и точный перечень модальностей. Заявлен максимальный контекст до 250 000 токенов в протестированной конфигурации. Сильная сторона версии — компактное представление маршрутизируемых экспертных весов NVFP4 при сохранении исходных 4-битных значений и проверенной совместимости с vLLM на двух системах NVIDIA DGX Spark с tensor parallelism. Работоспособность подтверждена загрузкой и базовой генерацией через OpenAI-compatible API, но это не является сертификацией производительности; протестированный eager-режим показал низкую скорость декодирования. Для запуска требуется совместимая инфраструктура NVIDIA, распределённая конфигурация vLLM и специальное кодирование сообщений, поскольку Jinja-шаблон чата не включён. Лицензия — MIT.
Devstral-Small-2505-GGUF — GGUF-квантизированная версия модели Devstral-Small-2505, разработанной Mistral AI. Квантизация выполнена mattjcly на базе llama.cpp; модель распространяется в формате GGUF и предназначена для локального запуска в совместимых инструментах. Модель ориентирована на программную инженерию и агентные задачи: исследование кодовых баз с использованием инструментов, редактирование нескольких файлов и выполнение сложных изменений для исправления проблем. Согласно README, при компактном размере в 24 миллиарда параметров она показывает высокие результаты в агентном программировании и была представлена как лидер среди открытых моделей на SWE-bench. Известная техническая характеристика — контекстное окно до 131 072 токенов. README не уточняет архитектуру, поддерживаемые языки программирования и естественные языки, модальности или конкретные требования к оборудованию. Ограничения включают возможные неточности, вредные или неподходящие ответы, характерные для генеративных моделей. Модель распространяется по лицензии Apache-2.0.
DISASTER_MODEL_PRECHATS — модель на основе BERT, опубликованная пользователем omarelsayeed. Она преобразует предложения и абзацы в плотные векторы размерностью 256 для сравнения текстов по смыслу, семантического поиска и кластеризации. Модель можно использовать через библиотеку Sentence-Transformers либо Transformers с подходящей операцией pooling; в метаданных указаны 12,4 млн параметров и контекст до 512 токенов. Модель принимает текст и выдаёт векторные представления. Карточка описывает обучение с LoggingDenoisingAutoEncoderLoss, но не приводит сведения о языках обучения, датасете или результатах оценки. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
sentence-transformers/distilroberta-base-msmarco-v1 — модель Sentence Transformers, обученная командой Sentence Transformers на основе архитектуры DistilRoBERTa. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для семантического поиска и кластеризации. Модель также подходит для сравнения сходства предложений; её можно использовать через библиотеку sentence-transformers или Transformers с соответствующей операцией pooling. Модель содержит 95,2 млн параметров, принимает текст и поддерживает контекст до 514 токенов. Доступны версии в форматах PyTorch, Safetensors, TensorFlow, ONNX и OpenVINO. Лицензия — Apache-2.0. Карточка предупреждает, что модель устарела и формирует эмбеддинги низкого качества, поэтому для новых проектов рекомендуются другие модели эмбеддингов.
Alibaba-NLP/E2Rank-8B — модель для текстовых эмбеддингов и ранжирования, разработанная Alibaba-NLP на базе Qwen3-8B. Это плотная архитектура Qwen3 с 7,6 млрд параметров, длиной контекста до 40 960 токенов и размерностью эмбеддингов 4096. Модель дообучена на данных для ранжирования и поддерживает настройку инструкций под задачу. E2Rank объединяет поиск по сходству эмбеддингов и списковое переранжирование: документы и запросы представляются векторами, а сходство оценивается по косинусной мере. Модель предназначена для семантического поиска, улучшения порядка результатов и построения поисковых систем с единым компонентом извлечения и переранжирования. В README заявлены высокие результаты на BEIR и конкурентные показатели на BRIGHT и MTEB; приведённые оценки относятся к экспериментам авторов. Модель принимает текст и выдаёт эмбеддинги для последующего вычисления сходства и ранжирования. В карточке не указаны языки обучения; приведённая таблица MTEB описывает английский бенчмарк и сама по себе не подтверждает поддержку только английского. Для использования эмбеддингов требуется вручную добавлять специальный завершающий токен к каждому входному тексту. Лицензия — Apache-2.0.
sultanbi/e5-base-kazakh — модель Sentence Transformer автора sultanbi, дообученная на переведённой на казахский язык версии набора SNLI. Она основана на intfloat/multilingual-e5-base и использует архитектуру XLM-RoBERTa с усреднением токенных представлений и нормализацией. Модель преобразует предложения и абзацы в плотные векторы размерности 768; близость текстов можно оценивать косинусным сходством. В README указана максимальная длина последовательности 128 токенов, а метаданные Hugging Face сообщают нативный контекст в 514 токенов. Модель предназначена прежде всего для сравнения смысловой близости казахских текстов и семантического поиска; также подходит для поиска перефразировок, кластеризации и классификации текста. В README приведены результаты retrieval на валидационной части казахского SNLI, превосходящие показатели базовой multilingual-e5-base на этом тесте. Метаданные указывают поддержку множества языков, хотя специальное дообучение выполнено для казахского. Лицензия — MIT.
Eklav-14B-Reranker — плотная языковая модель семейства Qwen3 на 14 млрд параметров, разработанная для ранжирования текстовых пассажей. Это дообучение Qwen/Qwen3-14B методом Eklav: при обучении модель продолжает частичный след рассуждений учителя и самостоятельно выводит ответ, вместо того чтобы воспроизводить полный след рассуждений. По карточке модели, на BRIGHT она показала преимущество в 7% по nDCG@10 относительно стандартного обучения на полных следах рассуждений при снижении вычислений на обучение на 24%; результаты получены в одном оценочном запуске для каждого домена. При использовании модель оценивает релевантность пары «запрос — пассаж»: генерирует рассуждение с итогом true или false, а релевантность определяется по логитам конечного токена. На этапе применения подсказка учителя не используется. Модель рассчитана на текстовый ввод и выдаёт текстовое рассуждение и оценку релевантности. Используется библиотека Transformers, формат весов — safetensors; базовая модель имеет контекст до 40 960 токенов. Лицензия в предоставленных данных не указана.
eth-setfit-multilabel-model — модель Sentence Transformers на архитектуре MPNet, разработанная проектом physician-ethics-responsible-data-science. Она преобразует предложения и абзацы в плотные векторы размерности 768 для кластеризации, семантического поиска и сравнения смысловой близости текстов. Модель содержит 136,7 млн параметров, принимает текст с контекстом до 514 токенов и распространяется в формате PyTorch. Модель обучалась с использованием CosineSimilarityLoss. Несмотря на название, в карточке описаны векторные представления текста, а метаданные указывают возможности embeddings; назначение для конкретной задачи многометочной классификации не подтверждено. Лицензия и поддерживаемые естественные языки в предоставленных данных не указаны.
Это конверсия модели distil-whisper/distil-medium.en в формат CTranslate2, опубликованная Systran для распознавания речи. Её можно запускать через CTranslate2 и совместимые проекты, включая faster-whisper. Модель принимает аудио и выдаёт текстовую транскрипцию на английском языке. Веса сохранены в FP16; при загрузке в CTranslate2 можно выбрать другой тип вычислений через параметр compute_type. Репозиторий распространяется по лицензии MIT.
Это конверсия модели openai/whisper-large-v3-turbo в формат CTranslate2, опубликованная пользователем lukas-jkl. Она предназначена для распознавания речи и может использоваться в CTranslate2 и проектах на его основе, включая faster-whisper. Веса сохранены в FP16; при загрузке тип вычислений можно выбрать через параметр compute_type. Модель поддерживает распознавание речи на многих языках, включая русский и английский. Репозиторий распространяется по лицензии MIT.
Карточка модели xiaofeng123456/faster-whisper-small на Hugging Face совпадает с карточкой Systran/faster-whisper-small, поэтому описание составлено по ней. Systran/faster-whisper-small — конверсия модели openai/whisper-small в формат CTranslate2, опубликованная для использования с CTranslate2 и проектами на его основе, включая faster-whisper. Это модель распознавания речи, которая преобразует аудио в текст и поддерживает распознавание речи на множестве языков, включая русский и английский. Веса сохранены в FP16; при загрузке через CTranslate2 тип вычислений можно выбирать с помощью параметра compute_type. Репозиторий предназначен для эффективного запуска Whisper в совместимых инструментах. Модель распространяется по лицензии MIT.
Systran/faster-whisper-tiny.en — конверсия модели OpenAI Whisper tiny.en в формат CTranslate2, подготовленная для запуска в CTranslate2 и проектах на его основе, включая faster-whisper. Модель предназначена для автоматического распознавания речи на английском языке и преобразования аудио в текст. Веса сохранены в FP16; при загрузке тип вычислений можно изменить параметром compute_type в CTranslate2. Репозиторий распространяется по лицензии MIT. Карточка ссылается на исходную модель OpenAI для подробностей о её характеристиках.
Это конверсия в формат GGUF F16 модели granite-embedding-reranker-english-r2 от IBM Granite. Модель предназначена для оценки релевантности пар «запрос — текст» и повторного ранжирования результатов поиска в инструментах и средах, поддерживающих её архитектуру и режим оценки. Это не генеративная чат-модель. Модель ориентирована на английский язык и основана на архитектуре ModernBERT согласно описанию базовой модели в каталоге. Репозиторий содержит веса GGUF в точности F16 без дополнительной квантизации. Использование формата зависит от поддержки encoder- и reranker-моделей, а также нужного механизма pooling или scoring в целевой среде. Лицензия — Apache-2.0.
Xenova/jina-embeddings-v2-small-en — версия модели jinaai/jina-embeddings-v2-small-en с весами в формате ONNX, подготовленная для использования в JavaScript через библиотеку Transformers.js. Модель предназначена для извлечения векторных представлений английских текстов и совместима с конвейером feature-extraction. Модель подходит для семантического сравнения текстов, поиска похожих документов и построения приложений, использующих текстовые эмбеддинги. В README показан сценарий генерации эмбеддингов с mean pooling и расчёта косинусного сходства. Поддерживаются варианты точности fp32, fp16, q8 и q4, что позволяет выбирать между качеством, размером и производительностью. Сведения об архитектуре, размере, максимальной длине контекста и точной размерности эмбеддингов в README не указаны. Сильной стороной модели является возможность запуска ONNX-весов в JavaScript-окружении через Transformers.js, включая потенциальное использование в веб-приложениях. Ограничения связаны с тем, что заявлена поддержка английского языка, а влияние квантования на качество может зависеть от выбранного формата. Лицензия в предоставленном README не указана.
Laguna-S-2.1-JANG_6M-CRACK — текстовая MoE-модель на базе poolside/Laguna-S-2.1, подготовленная dealignai для запуска на Apple Silicon через MLX и vMLX. По README, исходная Laguna-S-2.1 имеет 118 млрд параметров, 48 слоёв, 256 маршрутизируемых экспертов с top-10 и общий эксперт; метаданные репозитория указывают 6,8 млрд параметров. Модель представлена в смешанной квантизации JANG_6M в формате MLX affine и предназначена для агентного программирования, рассуждений и вызова инструментов. README заявляет контекст 262 тыс. токенов, тогда как метаданные каталога указывают нативный контекст 1 048 576 токенов. Вариант CRACK прошёл абляцию отказов на уровне весов: согласно карточке, поведение отказа удалено, а результаты MMLU близки к базовой модели. Для запуска рекомендованы vMLX или совместимая среда MLX с поддержкой Laguna; модель принимает текст и выдаёт текст, включая вызовы инструментов. Карточка заявляет английский язык. Лицензия в метаданных обозначена как other; конкретные условия использования следует сверить с лицензией репозитория.