II.8Инженерия данных и аналитика
В разделе собраны самостоятельные задачи, где AI помогает готовить надёжные данные и превращать их в понятную аналитику. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
23 488 моделейCASA-Helium1-VL-2B — модель «зрение и язык» (VLM) от Kyutai, дообученная на базе Helium1-2B с визуальным энкодером Qwen2.5-VL-3B. Она использует перекрёстное внимание: визуальные признаки поступают в текстовый поток через отдельные слои и не добавляют токены изображений в KV-кэш языковой модели. Веса содержат 1,9 млрд параметров, контекст — 4096 токенов; модель работает с изображениями и текстом, основной язык — английский. Модель предназначена для понимания изображений и ответов на вопросы по визуальному содержимому. Среди подходящих сценариев — чтение текста и документов на изображениях, анализ диаграмм и визуальные вопросы и ответы. Архитектура CASA также разработана с расчётом на потоковую обработку видео, однако README описывает применение на потоковом видео для другой модели коллекции, поэтому эту возможность нельзя считать подтверждённой для данного чекпойнта. Модель не выровнена по предпочтениям людей и может выдавать ошибочные, предвзятые, вредные или бесполезные ответы; перед использованием в прикладных системах нужны дополнительное выравнивание и оценка рисков. README рекомендует дообучение для большинства прикладных сценариев. Лицензия — CC-BY-NC-SA-4.0; поскольку в составе есть замороженные веса визуального энкодера Qwen2.5-VL-3B, также применимо соглашение Qwen Research License Agreement.
Это мультимодальная модель CLIP ViT-B/32, обученная Mehdi Cherti с помощью OpenCLIP на датасете DataComp-1B. Она сопоставляет изображения и текст и предназначена для классификации изображений по произвольным текстовым меткам без дообучения, поиска изображений по тексту и поиска текстов по изображению. Модель использует визуальный энкодер ViT-B/32 и входное разрешение 256×256 пикселей. В тестах на наборе из 38 датасетов модель показала точность 72,7% zero-shot top-1 на ImageNet-1k, а на COCO captions — recall@5 64,4% для поиска изображений и 80,7% для поиска текстов. Доступны веса PyTorch и safetensors; лицензия — MIT. Карточка рекомендует исследовательское применение и предостерегает от развёртывания без тщательной проверки на конкретной задаче и фиксированном наборе классов: качество зависит от формулировок и таксономии меток. Распознавание лиц и наблюдение указаны как недопустимые сценарии; модель может наследовать смещения и риски из неотфильтрованных данных обучения.
Это конверсия CLIP ViT-L/14 от OpenAI, подготовленная zeromodels в формате Keras 3. Модель использует два энкодера — для изображений и текста — которые обучены контрастивно на парах «изображение—подпись» и отображают данные в общее пространство эмбеддингов. Реализация работает с TensorFlow, PyTorch и JAX. Модель предназначена для классификации изображений без дополнительного обучения: при выводе передают изображение и текстовые подсказки с возможными категориями, после чего модель сопоставляет их. Также архитектура CLIP подходит для поиска изображений по тексту и получения совместных эмбеддингов. Лицензия — MIT.
CodeLlama-7B-KStack-clean-GGUF — это квантованная версия CodeLlama-7B-KStack-clean, разработанная на базе meta-llama/CodeLlama-7b-hf и подготовленная bartowski в формате GGUF для использования с llama.cpp. Модель дообучена на наборе JetBrains/KStack-clean и предназначена для генерации и обработки программного кода, включая задачи, связанные с Kotlin. В README указано значение pass@1 37,89 на бенчмарке MultiPL-HumanEval (Kotlin). Модель содержит 7 миллиардов параметров и поддерживает текстовую генерацию. Доступны варианты квантования от Q8_0 до низкобитных IQ1_M, что позволяет выбирать между качеством ответов, размером файла и требованиями к оперативной памяти. Наиболее качественными и рекомендуемыми названы варианты Q6_K, Q5_K_M, Q5_K_S, Q4_K_M, Q4_K_S, IQ4_NL и IQ4_XS; более сильное сжатие снижает качество, хотя некоторые низкобитные варианты сохраняют приемлемую работоспособность. Модель подходит для локальной генерации кода и экспериментов с программированием на совместимом с llama.cpp оборудовании. Ограничениями являются неизвестный размер контекста, отсутствие явно указанного chat template и снижение качества в низкобитных вариантах квантования. В README указана лицензия Apache-2.0.
Cohere Transcribe — открытая модель автоматического распознавания речи, разработанная Cohere и Cohere Labs. Эта GGUF-версия представляет собой квантованные конвертации базовой модели CohereLabs/cohere-transcribe-03-2026 для запуска с помощью transcribe.cpp. Модель предназначена для офлайн-преобразования речи в текст и принимает монофонические WAV-файлы с частотой дискретизации 16 кГц. Она поддерживает 14 языков: английский, французский, немецкий, испанский, итальянский, португальский, нидерландский, польский, греческий, арабский, японский, китайский, вьетнамский и корейский. Архитектура основана на Conformer-энкодере и Transformer-энкодер-декодере с cross-attention и связанными эмбеддингами токенов; размер модели составляет около 2 млрд параметров, декодирование выполняется авторегрессионно. Доступны варианты BF16, F16, Q8_0, Q6_K, Q5_K_M и Q4_K_M размером примерно от 1,56 до 4,11 ГБ. На тесте LibriSpeech test-clean заявленная ошибка распознавания составляет около 1,24–1,27% в зависимости от квантования, что указывает на высокую точность для английской речи. Ограничения включают отсутствие потокового режима, встроенного перевода, автоматического определения языка и временных меток; модель предназначена именно для распознавания, а не для перевода речи. Для работы требуется transcribe.cpp, а аудио при необходимости нужно предварительно привести к формату 16 кГц, mono WAV. Модель и конвертации распространяются по лицензии Apache-2.0, унаследованной от базовой модели.
ConGen-WangchanBERT-Small — модель семейства ConGen на базе WangchanBERT-Small, разработанная автором репозитория kornwtp. Она преобразует предложения в плотные векторы размерностью 128 и предназначена для семантического поиска и сравнения смысла предложений. Модель использует архитектуру BERT, содержит 32,4 млн параметров и принимает последовательности длиной до 512 токенов. Модель рассчитана на тайский язык; её оценивали на бенчмарке Thai Sentence Embeddings Benchmark для задачи семантического сходства. Веса опубликованы в формате PyTorch по лицензии Apache-2.0. Описание не сообщает результаты оценки и конкретные ограничения качества.
check2207/CS221_AITeamVN_reranker — перекрёстный энкодер, дообученный на базе AITeamVN/Vietnamese_Reranker с помощью библиотеки Sentence Transformers. Модель принимает пары текстов и вычисляет оценку их релевантности; оценки можно использовать для переранжирования результатов поиска и семантического поиска. Архитектура основана на XLM-RoBERTa и выдаёт один скалярный результат для пары текстов. В метаданных указано 658,7 млн параметров и контекст до 8194 токенов; README сообщает максимальную длину последовательности 512 токенов. Модель предназначена прежде всего для вьетнамских запросов и документов. README приводит результаты бинарной оценки на ALQAC-Val: accuracy 0,9393 и F1 0,7453; эти показатели относятся к указанному набору и не гарантируют такое же качество на других данных. Лицензия в предоставленных сведениях не указана.
Карточка модели rahulshendre/deepfake-detector-model-v1 на Hugging Face совпадает с карточкой prithivMLmods/deepfake-detector-model-v1, поэтому описание составлено по ней. deepfake-detector-model-v1 — модель классификации изображений от prithivMLmods, дообученная на базе SigLIP для бинарного определения, является ли изображение реальным или синтетически созданным. Она использует архитектуру SiglipForImageClassification и рассчитана на проверку подлинности визуальных материалов, предварительную модерацию контента и поддержку цифровой экспертизы. В отчёте для тестовой выборки указана точность 94,44%; эта метрика сама по себе не гарантирует качество на новых источниках изображений и при иных способах генерации или манипуляции. Модель работает с изображениями и выдаёт метку класса. Лицензия репозитория — Apache-2.0.
alakxender/e5-dhivehi-qa-mnr — модель Sentence Transformers, разработанная alakxender для получения плотных векторных представлений предложений и абзацев на дивехи. Она дообучена для сопоставления вопросов с релевантными фрагментами текста и подходит для семантического поиска, оценки сходства, поиска перефразировок, кластеризации и классификации текста. Модель основана на XLM-RoBERTa, содержит 311,4 млн параметров и выдаёт векторы размерности 768; сходство оценивается косинусной мерой. README указывает максимальную длину последовательности 256 токенов, метаданные — контекст 514 токенов. Обучение продолжает серию моделей на основе multilingual-e5-base и использует датасет alakxender/dhivehi-qa-dataset из 9 232 примеров с MultipleNegativesRankingLoss. Модель рассчитана прежде всего на дивехи; теги также указывают английский язык. Лицензия — MIT. Она создаёт эмбеддинги, а не готовые ответы на вопросы; качество для языков и задач вне описанного обучения не установлено.
Это модель EVA02-CLIP от команды timm, опубликованная в формате OpenCLIP. Она сопоставляет изображения и текст: принимает изображение и текстовые описания категорий, кодирует их и позволяет оценить соответствие изображения каждому описанию для классификации без обучения на конкретном наборе меток. Визуальная часть основана на Vision Transformer с патчами 16×16; модель рассчитана на изображения 224×224. В названии и карточке указано обучение на объединённом наборе данных объёмом 2 млрд примеров. Модель предназначена для нулевой классификации изображений и сопоставления изображения с текстовыми запросами. Она выдаёт оценки сходства, поэтому пригодна для задач поиска и отбора по свободно заданным категориям. Весовые файлы доступны в форматах PyTorch и Safetensors и используются через OpenCLIP. Лицензия — MIT. Карточка не сообщает целевой естественный язык; качество зависит от формулировок текстовых меток и соответствия изображений обучающим данным.
HTML-Pruner-Llama-1B — модель команды HtmlRAG для отбора релевантных блоков в HTML-документах, используемых как источник знаний в RAG-системах. Она построена на Llama-3.2-1B и дообучена для второго этапа двухэтапного метода pruning: после очистки HTML и оценки блоков по эмбеддингам модель генерирует пути к блокам, которые следует сохранить. Модель предназначена для сокращения длинных HTML-страниц перед передачей контекста генеративной модели, сохраняя полезные для ответа сведения. Это помогает использовать структуру HTML при поиске и ответах на вопросы по веб-источникам. Архитектура — плотная LlamaForCausalLM с 1,2 млрд параметров; заявленная длина контекста — 131072 токена. В метаданных указан английский язык. Модель распространяется в формате safetensors под лицензией Apache-2.0. Модель рассчитана на специализированный этап обработки HTML в HtmlRAG, а не на универсальную генерацию ответов. Для полного двухэтапного pruning нужны также очистка HTML и модель эмбеддингов; качество зависит от структуры документа и последующей генеративной модели.
Модель представляет собой дообученную версию Whisper, разработанную на основе parthiv11/indic_whisper_hi_multi_gpu. Она предназначена для автоматического распознавания речи и транскрибирования аудио; название модели указывает на работу с хинглишем и смешанными письменностями. Модель содержит 455,8 млн параметров и распространяется в формате safetensors для библиотеки Transformers. На оценочном наборе указаны loss 0,4475 и глобальный WER 28,015. Лицензия — MIT. Данные обучения, подробности об оценочном наборе и более точное описание поддерживаемых языков в карточке не раскрыты.
hotchpotch/japanese-bge-reranker-v2-m3-v1 — японский реранкер из серии моделей CrossEncoder, разработанной hotchpotch и обученной на японских данных. Он оценивает релевантность пары «запрос — документ» и упорядочивает найденные материалы, помогая улучшить результаты поиска и подбора контекста для RAG-систем. Модель построена на архитектуре XLM-RoBERTa и содержит около 658,7 млн параметров; поддерживает контекст до 8194 токенов. Для инференса указана библиотека Sentence Transformers, веса доступны в формате safetensors. Модель предназначена прежде всего для повторного ранжирования результатов поиска на японском языке. В README приведены результаты оценки на JQaRA, JaCWIR, MIRACL и JSQuAD, однако числовые результаты для этой конкретной версии среди доступных фрагментов не показаны. Репозиторий распространяется по лицензии MIT.
BuzzASR/korean — специализированная модель автоматического распознавания корейской речи, созданная как часть набора BuzzASR. Это дообучение Whisper large-v3 от OpenAI с исходным токенизатором Whisper; модель содержит около 905,2 млн параметров и работает с аудио на входе, выдавая текст на корейском языке. Модель предназначена для транскрибации корейской речи. В README приведены результаты на тестовых наборах FLEURS и Common Voice 25: нормализованный CER составляет 5,16% и 4,24% соответственно, а на объединённом наборе — 4,61%. По заявлению авторов, это лучший результат среди сравниваемых ими открытых систем; на других доменах и диалектах качество может отличаться. Модель распространяется по лицензии MIT. Она одноязычная и обучалась на данных FLEURS, Common Voice Corpus 25.0 и текстовых данных Goldfish.
LettuceDetect от KRLabsOrg — модель на базе EuroBERT-210M для выявления галлюцинаций в ответах на испанском языке в системах RAG. Она получает контекст и ответ и выполняет токенную классификацию: отмечает фрагменты ответа, которые не подтверждаются контекстом, чтобы затем собрать их в объяснимые spans. Модель содержит 211,7 млн параметров, поддерживает контекст до 8192 токенов и дообучена на испанской версии датасета RAGTruth. На переведённом наборе RAGTruth-ES авторы сообщают F1 71,38%; модель показывает более высокий recall, чем сравниваемый prompt-based подход GPT-4.1-mini, и работает примерно втрое быстрее варианта EuroBERT-610M. Это оценка на конкретном тестовом наборе и не гарантирует такую же точность на других данных. Лицензия — MIT. README также предупреждает о несовместимости загружаемого удалённого кода EuroBERT с Transformers 5.x.
LightOn-rerank-LW-0.8B — мультимодальный кросс-энкодерный реранкер компании LightOn на базе Qwen/Qwen3.5-0.8B. Он совместно дообучен на текстовых и визуальных данных для переранжирования кандидатов, уже найденных первым этапом поиска: модель сопоставляет текстовый запрос с фрагментами текста или изображениями страниц документов, например PDF и слайдов. Модель использует генеративное списочное ранжирование: за один запрос она сравнивает четыре кандидата и генерирует их порядок; более крупные наборы обрабатываются скользящим окном. Вес модели составляет около 0,85 млрд параметров, опубликованные веса — bfloat16. Для работы требуется Transformers версии 5.4.0 или выше с поддержкой архитектуры qwen3_5. Модель показывает сильные результаты на визуальном ранжировании ViDoRe V3 с учётом её размера; область применения — прежде всего системы поиска, где важна экономия памяти ускорителя. Обучение проводилось на английских данных. В README заявлен перенос на французский без дополнительного обучения; качество в среднем несколько ниже, чем на английском. Списочный режим имеет более высокую задержку, чем поточечное оценивание, а на фармацевтических документах модель слабее ряда моделей класса 2B. Лицензия — Apache-2.0.
miulab/llama2-7b-oss-instruct — англоязычная плотная авторегрессионная модель семейства Llama 2, дообученная на наборе Magicoder-OSS-Instruct-75K. Она служит основой кодовой модели, использованной в исследовании DogeRM, и предназначена для генерации текста в формате инструкций и диалога, в том числе для задач, связанных с кодом. Модель содержит 6,6 млрд параметров, построена на архитектуре LlamaForCausalLM и рассчитана на контекст до 4096 токенов. Модель опубликована исследовательской группой, указанной в статье DogeRM; README направляет к статье за подробностями обучения и оценки. Репозиторий распространяется в формате Safetensors по лицензии Apache-2.0. Карточка не приводит результатов бенчмарков или подробного описания ограничений; качество на конкретных задачах программирования следует проверять отдельно.
Apollo Raines представил Llama-3.1-8B-Instruct-Refusal-First-Amplified — вариант Llama-3.1-8B-Instruct, изменённый инструментом jBlaze методом representation engineering. По карточке, дополнительного обучения не проводилось: в весах подавлено поведение отказа и усилены следование контексту, аналитические ответы и правдивость. Модель использует плотную архитектуру LlamaForCausalLM; метаданные указывают 7,5 млрд параметров, формат safetensors и контекст до 131 072 токенов. Она предназначена для диалоговой генерации текста на английском языке, включая ответы на вопросы, рассуждения и написание кода; заявлен интерфейс вызова инструментов. В карточке приведены лишь примеры ответов, поэтому заявления об усилении характеристик не подтверждены сравнительными оценками. Автор также предупреждает, что опубликованная версия демонстрационная и её возможности намеренно оставлены на частичном уровне. Лицензия — Llama 3.1; подавление отказов может приводить к ответам на запросы, которые исходная модель отклоняла.
LYRA-LLAMA — компактная языковая модель на архитектуре Llama, разработанная и поддерживаемая Muhammad Taqi. Это плотная причинная модель с 1,2 млрд параметров, предназначенная для многоходового диалога, логического анализа и генерации кода. Модель работает с текстом, поддерживает чат и интерфейс вызова инструментов; заявленная длина контекста — 131 072 токена. В метаданных указан английский язык. Репозиторий содержит веса в формате Safetensors и использует библиотеку Transformers. README не уточняет базовую модель или процесс обучения, поэтому происхождение модели определить нельзя. Лицензия — Apache-2.0. Заявления о скорости и точности приведены без оценок или бенчмарков; качество генерации кода и рассуждений по карточке проверить нельзя.
LifeAi-dev/madlad400-10b-ct2-float32 — конвертированная в формат cTranslate2 версия многоязычной модели перевода MADLAD-400-10B-MT от Google. Она предназначена для перевода текста между множеством языков; в карточке указаны, среди прочих, английский, русский, испанский, французский, немецкий, китайский и японский. Модель основана на архитектуре text-to-text и распространяется для использования через библиотеку Transformers. Веса представлены в формате cTranslate2 с точностью float32. По лицензии Apache-2.0 модель можно использовать, изменять и распространять на её условиях. Карточка не сообщает длину контекста и конкретные ограничения качества.
Это конверсия MetaCLIP 2 Worldwide B32 384 в формате Keras 3, подготовленная zeromodels на основе facebook/metaclip-2-worldwide-b32-384. Модель использует архитектуру CLIP с двумя энкодерами для изображений и текста и предназначена для классификации изображений по текстовым описаниям без дообучения: она сопоставляет изображение с заданными пользователем текстовыми классами и оценивает их соответствие. Worldwide-вариант обучен на многоязычных данных и использует словарь XLM-RoBERTa на 901 тысячу токенов, поэтому поддерживает текстовые запросы на разных языках, включая английский, французский, испанский и немецкий. Версия B32 384 принимает изображения и текстовые метки; реализация Keras 3 может запускаться с TensorFlow, Torch или JAX. Лицензия CC-BY-NC-4.0 разрешает использование только на некоммерческих условиях.
Mtrini-SVL-1.1-Merged — открытая модель Compiwer AI примерно на 8 млрд параметров, дообученная на базе Qwen3-VL-8B-Instruct. Это мультимодальная архитектура Qwen3-VL, рассчитанная на диалог и задачи рассуждения; в карточке также заявлены кодирование, математика, марокканская дариджа и многоязычные сценарии. Модель принимает текст и изображения и генерирует текстовые ответы. Обучение проводилось с LoRA / PEFT на 58 574 примерах: данных для вопросов и рассуждений на марокканской даридже, OpenCodeReasoning-2 и OpenMathInstruct-2. Концепция Self-Verifying Loop направлена на проверку и улучшение ответов, но в README она описана как продолжающееся исследовательское направление, а не как подтверждённая гарантия качества. Указаны точность BF16 и контекст обучения 4096 токенов. Модель подходит для диалога, помощи с кодом и математическими задачами, особенно в сценариях с марокканской дариджей. Она экспериментальная: может галлюцинировать, ошибаться в коде и математике или неверно понимать запросы, поэтому важные результаты нужно проверять. Лицензия — Apache-2.0.
Это модель Sentence Transformers на базе MuRIL и архитектуры BERT, дообученная для получения векторных представлений предложений и абзацев. Разработчик указан в идентификаторе и карточке модели как pritamdeka. Модель преобразует текст в плотные векторы размерности 768; для сравнения векторов используется косинусное сходство. Модель предназначена прежде всего для оценки семантического сходства на ассамском языке, а также для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Максимальная длина входной последовательности — 512 токенов. В README приведены результаты оценки сходства на переводных наборах STS для ассамского языка. Модель принимает текст и выдаёт векторы; качество зависит от соответствия входных данных ассамскому языку и задачам, на которых её обучали и оценивали. Лицензия в предоставленных данных не указана.
Это экспериментальная разговорная языковая модель Mythos-9B Unhinged от Richard Young, созданная на основе слияния SLERP модели Mythos-9B с braindao/Qwen3-8B-Uncensored и дополнительного снятия отказов методом abliteration Heretic v1.4.0. В метаданных указаны архитектура Qwen3 с плотной causal language model, 7,6 млрд параметров, контекст до 40 960 токенов и формат Safetensors. README описывает режим рассуждений Qwen3 и настройку /no_think. Модель предназначена для диалоговой генерации текста, агентных сценариев, использования инструментов, генерации кода и команд оболочки, а также многошаговых рассуждений. Автор заявляет о низкой частоте отказов и приводит внутреннее сравнение с исходной Mythos-9B-Unhinged; это не является независимой оценкой качества. Карточка описывает обучение на наборе FableForge Mix A и указывает английский язык. Модель явно позиционируется как не имеющая защитных фильтров; она может выдавать вредоносные или небезопасные инструкции и не должна считаться надёжным источником. Лицензия — Apache-2.0.
Ganu000/nepali-e5-base-v1 — модель эмбеддингов для поиска по текстам на непальском языке, разработанная автором репозитория на основе дообучения multilingual-e5-base. Она кодирует запросы и документы в векторы размерности 768 и предназначена для семантического поиска, извлечения релевантных фрагментов и межъязыкового поиска с английскими запросами. Архитектура — XLM-RoBERTa; в метаданных указано 305,2 млн параметров, библиотека Sentence Transformers и контекст до 514 токенов. В тесте автора на 50 тысячах фрагментов непальской Википедии модель показала качество, сопоставимое с более крупными multilingual-e5-large и bge-m3, при более высокой скорости индексации. Она также лучше обрабатывает непальский, набранный латиницей, чем сравниваемые универсальные модели, но эти результаты получены на синтетической транслитерации. Модель распространяется по лицензии Apache-2.0. Качество за пределами википедийного домена не установлено; оценка основана на 92 запросах, поэтому небольшие различия в метриках ненадёжны. Поддержка латинизированного непальского частичная, а качество на вводе реальных пользователей может быть ниже. Для этого сценария автор рекомендует предварительную транслитерацию в деванагари.
SC117/Nex-N2-mini-template-fix-APEX-GGUF — неофициальная сборка Nex-N2-mini от SC117 в формате GGUF с квантованием APEX и изменённым шаблоном чата. Она предназначена для запуска в стандартной версии llama.cpp, когда нужен режим рассуждений без передачи шаблона отдельным файлом; модель также поддерживает работу с изображениями через mmproj. Исходная Nex-N2-mini — агентная MoE-модель Nex-AGI на базе Qwen3.5, рассчитанная на программирование, вызов инструментов и выполнение продолжительных задач с обратной связью от среды. APEX применяет смешанную точность с учётом типов тензоров и их чувствительности, а в репозитории представлены варианты GGUF BF16 и F16. Разработчик исходной модели рекомендует использовать оригинальный шаблон чата с пропатченной версией llama.cpp: модификация шаблона может снизить качество ответов. Сборка помечена как временная и неофициальная; лицензия — Apache-2.0.
NightJar-CodeSearch-Embedding — модель плотных векторных представлений, разработанная Shuu12121 на базе Shuu12121/NightJar и дообученная для поиска кода по запросу на естественном языке и поиска фрагментов кода по описанию требуемого изменения. Она использует архитектуру ModernBERT в конфигурации Sentence Transformer, содержит 109,5 млн параметров и строит 768-мерные эмбеддинги. Для поиска запросы и документы кодируются в одном векторном пространстве; префиксы не нужны, а сходство можно оценивать по косинусной близости. Модель принимает текстовые запросы и код, выдаёт векторы и подходит для семантического поиска, формирования кандидатов для переранжирования или RAG, кластеризации и поиска дубликатов. Обучение проводилось на 4 073 472 примерах с трудными и внутрипакетными негативными примерами. В обучающую смесь вошли Bash, C, C++, C#, Dart, Go, Java, JavaScript, Kotlin, Lua, PHP, Python, Ruby, Rust, Scala, Swift и TypeScript. Карточка сообщает о контексте модели в 8192 токена, однако входы длиннее 1024 токенов обрезаются. Модель не генерирует код и не проверяет его корректность или безопасность; качество для языков, не представленных в обучении, систематически не оценивалось. Лицензия — Apache-2.0.
nomic-embed-text-v1-unsupervised-cs-surgery — расширенная версия текстовой модели эмбеддингов Nomic AI, подготовленная для академических текстов по компьютерным наукам. Разработчик добавил 500 англоязычных слов в токенизатор и соответствующие строки в матрицу входных эмбеддингов NomicBert. Новые векторы инициализированы средними значениями векторов старых частей слов; дополнительного дообучения не проводилось. Модель предназначена для преобразования текстов в эмбеддинги, например для поиска и сравнения академических публикаций по компьютерным наукам. Контекст составляет до 8192 токенов. Репозиторий распространяется по лицензии Apache-2.0. Для загрузки требуется trust_remote_code=True; README отмечает, что геометрия представлений для нового словаря может улучшиться после дальнейшего контрастивного обучения.
phixtral-4x2_8 — языковая модель на архитектуре Mixture of Experts, созданная Mlabonne путём объединения четырёх моделей Microsoft Phi-2 по мотивам Mixtral-8x7B. В конфигурацию вошли cognitivecomputations/dolphin-2_6-phi-2, lxuechen/phi-2-dpo, Yhyu13/phi-2-sft-dpo-gpt4_en-ep1 и mrm8488/phi-2-coder; маршрутизация экспертов использует режим cheap_embed. Модель предназначена для генерации текста, диалогов и кода на английском языке. В README приведено сравнение с отдельными моделями Phi-2 на наборе Nous suite: средний результат phixtral-4x2_8 составил 47,7; условия тестирования описаны кратко, поэтому эти цифры не гарантируют аналогичное качество в других задачах. Контекст — 2048 токенов. Репозиторий содержит веса Safetensors, а лицензия — MIT. В README также упомянута возможность запуска в 4-битной точности на GPU T4.
OPI-PIB/pl-ModernBERT-large — крупный предварительно обученный энкодер ModernBERT для обработки польского языка, разработанный как часть семейства Polish ModernBERT. Это плотная модель с 28 слоями и размером скрытого представления 1 024; в репозитории указано около 474,5 млн параметров. Она принимает текст длиной до 8 194 токенов и предсказывает пропущенные токены, а после дообучения может использоваться как основа для классификации документов, разметки последовательностей, оценки сходства, поиска и переранжирования. Модель обучена примерно на 44,5 млрд польских токенов. Архитектура использует RoPE, GeGLU, предварительную нормализацию и чередование глобального и локального внимания; веса опубликованы в формате safetensors. В README приведены оценки на польских задачах NLU, включая KLEJ и LongContext, где модель показывает конкурентные результаты среди крупных польских энкодеров. Для перечисленных прикладных задач потребуется адаптация или дообучение под целевой сценарий. Лицензия — Apache-2.0. Модель предназначена прежде всего для польскоязычных задач; качество и применимость к другим языкам не подтверждены приведёнными сведениями.