I.2Синтез, понимание и проверка знаний

gemma-3n-E4B-it-MLX-6bit — это 6-битно квантованная версия модели gemma-3n-E4B-it от Google, адаптированная командой LM Studio с использованием MLX и mlx_vlm. Модель оптимизирована для работы на устройствах Apple Silicon и предназначена для локального запуска через совместимое программное обеспечение. В карточке указаны сценарии image-text-to-text, audio-text-to-text, video-text-to-text, автоматического распознавания речи и автоматического перевода речи. Ключевые характеристики исходной архитектуры, точный размер модели, поддерживаемые языки и максимальная длина контекста в README не указаны. Квантование снижает требования к памяти и делает модель более подходящей для локального использования на Apple Silicon, но может уменьшать точность по сравнению с исходной версией. Модель может генерировать неточные, вредные или неподходящие результаты, поэтому выводы требуют проверки. Использование регулируется лицензией Gemma; для доступа на Hugging Face необходимо ознакомиться с лицензией Google и принять её условия.

OS-Software/Gemma-4-12B-it-QAT-Q4_0-Unquantized-Heretic-JA — производная разговорная мультимодальная модель на основе Google Gemma 4 12B IT, опубликованная OS-Software. Модель предназначена для экспериментов с диалогом, рассуждениями, агентными сценариями, программированием и пониманием изображений; заявлены также OCR, разбор документов и анализ видео для семейства Gemma 4. Архитектура — плотная Gemma4 Unified с чередованием локального и глобального внимания. Метаданные указывают формат safetensors, библиотеку Transformers, поддержку чата и изображений, а также тег задачи image-text-to-text. README семейства указывает контекст до 256K токенов для 12B и поддержку более 35 языков, но эти характеристики относятся к семейству, а не подтверждены отдельно для этой производной модели. README позиционирует модель для исследований безопасности, выравнивания и red teaming и просит не развёртывать её в публичных или пользовательских сервисах. В карточке также приведены общие ограничения Gemma: возможны фактические ошибки, смещения данных и трудности с неоднозначными формулировками и сложными задачами. Лицензия — Apache-2.0. В названии присутствуют «QAT», «Q4_0» и «unquantized», однако метаданные сообщают только о safetensors, поэтому фактический формат весов в описании не уточняется.

GenTest-7B-slerp — объединённая модель для генерации текста, созданная Kukedlc с помощью LazyMergekit. Она объединяет Kukedlc/NeuralSirKrishna-7b и Kukedlc/NeuralMaxime-7B-slerp методом SLERP; архитектура — плотная MistralForCausalLM с 7,1 млрд параметров, веса сохранены в формате safetensors. Модель предназначена для генерации текста и диалоговых ответов, поддерживает контекст до 32 768 токенов. В README не приведены результаты оценки качества, сведения о поддерживаемых языках или конкретные ограничения применения. Лицензия в доступных данных не указана.

MuXodious/gpt-oss-20b-RichardErkhov-heresy — доработанная версия модели OpenAI gpt-oss-20b, созданная сообществом MuXodious с применением модифицированного движка abliteration Heretic и метода Magnitude-Preserving Orthogonal Ablation. Модель предназначена для генерации текста, локального использования, экспериментов, специализированных приложений и сценариев, требующих снижения частоты отказов отвечать. В README заявлены 6 отказов из 100 против 98 из 100 у исходной версии, а также низкое значение KL divergence 0,0802, однако эти показатели относятся к авторской методике оценки и не гарантируют качество или безопасность в практических задачах. Модель основана на gpt-oss-20b — MoE-модели OpenAI с 21 млрд параметров и 3,6 млрд активных параметров, рассчитанной на низкую задержку и локальное выполнение. Она поддерживает генерацию текста, настраиваемый уровень рассуждений, агентные сценарии, вызов функций, веб-браузинг, выполнение Python и структурированные ответы. Указано, что модель обучена для работы с форматом Harmony, который необходимо использовать для корректной работы. Также заявлена посттренировочная MXFP4-квантизация весов MoE, позволяющая запускать исходную gpt-oss-20b примерно в пределах 16 ГБ памяти. Языки и размер контекстного окна для данной версии в README не указаны. К сильным сторонам относятся существенно сниженная склонность к отказам, сохранение близости к исходной модели по метрике KL divergence и пригодность для локальных и исследовательских сценариев. Ограничения включают экспериментальный характер abliteration, возможное повреждение исходных способностей, отсутствие независимых подробных оценок качества и потенциальные риски использования менее ограниченной модели. Модель распространяется по лицензии Apache 2.0.

Vaibhav1001/gpt_oss_finetune_16bit — дообученная текстовая генеративная модель семейства GPT-OSS на базе unsloth/gpt-oss-20b-unsloth-bnb-4bit. Согласно метаданным, это MoE-модель с архитектурой GptOssForCausalLM, поддерживающая диалоговый режим и интерфейс вызова инструментов; размер указан как 1,6 млрд параметров, контекст — до 131 072 токенов. README сообщает, что при обучении использовались Unsloth и библиотека TRL от Hugging Face. Модель предназначена для генерации текста и диалогового взаимодействия, в том числе со сценарием вызова инструментов. В карточке не описаны специализация дообучения, состав обучающих данных или результаты оценки качества, поэтому её пригодность для конкретной предметной области определить нельзя. Указана лицензия Apache 2.0.

mehuldamani/hotpot-v2-brier-7b-no-split — дообученная Mehul Damani на Qwen/Qwen2.5-7B языковая модель для генерации текста в диалоговом формате. Она рассчитана на ответы на вопросы и свободные текстовые запросы; карточка демонстрирует генерацию ответа на открытый вопрос. Обучение выполнено с помощью TRL. Модель использует плотную архитектуру Qwen2ForCausalLM и содержит 7,1 млрд параметров. Максимальная длина контекста — 131 072 токена; веса доступны в формате Safetensors. Лицензия в предоставленных данных не указана.

TelperionAI Huihui-Qwen3.8-27B-abliterated-INT4-AWQ-GPTQ — квантованная версия модели huihui-ai/Huihui-Qwen3.8-27B-abliterated. Модель построена с использованием llm-compressor и предназначена для запуска и генерации текста с меньшими требованиями к памяти, в том числе через vLLM. Калибровка выполнена на данных, сгенерированных самой abliterated-моделью, с примерами кода, математики, STEM, диалогов и многоязычных запросов. Основой является смешанная квантализация INT4 W4A16: большинство MLP-слоёв используют асимметричную INT4-квантализацию с размером группы 32, а отдельные компоненты сохраняются в INT8 или BF16. Attention-компоненты, GDN-слои, эмбеддинги, нормализации, выходная голова и vision tower используют более высокую точность. Размер весов на диске составляет около 25,1 ГБ. Поддерживаются AWQ-масштабирование и GPTQ-компенсация ошибок; заявлена совместимость с GPU архитектуры Turing и новее без необходимости FP8 или FP4. По результатам внутреннего сравнения с исходной BF16-версией модель показывает 96,45% совпадения top-1 токенов и медианное расхождение генерации на 41-м токене. При этом оценка проведена только на одном корпусе и без downstream-бенчмарков, поэтому качество на прикладных задачах не установлено. Vision tower не квантован, но модель оценивалась как текстовая; эффективность speculative decoding с MTP-головой не измерялась. Модель унаследовала от базовой версии удалённые направления отказа, поэтому её поведение в части отказов отличается от стандартной модели Qwen. Лицензия — Apache-2.0.

InternLM JanusCoder-8B-GGUF — это набор квантованных моделей в формате GGUF, созданный пользователем bartowski на основе JanusCoder-8B от разработчика internlm. Модель предназначена для генерации текста и запуска локально через llama.cpp, LM Studio и другие совместимые проекты на базе llama.cpp. Модель имеет размер 8B параметров; доступны версии от BF16 до различных вариантов квантования Q8, Q6, Q5, Q4, Q3 и Q2. Размер файлов составляет примерно от 3,77 до 16,39 ГБ в зависимости от формата, что позволяет выбирать между качеством вывода и требованиями к памяти. Для квантования использовался llama.cpp с методом imatrix. В README не указаны поддерживаемые языки, размер контекста, мультимодальные возможности и точные специализации JanusCoder-8B, поэтому область применения можно описать только в общем виде как генерацию текста. Сильной стороной набора является широкий выбор квантований для локального запуска: высококачественные варианты Q6_K_L и Q6_K отмечены как близкие к исходному качеству, а Q4_K_M рекомендован как сбалансированный вариант для большинства сценариев. Более компактные версии подходят для систем с ограниченным объёмом оперативной памяти, но обеспечивают более низкое качество. Шаблон чата в README не задан и может требовать проверки по исходной карточке модели. Лицензия в предоставленных данных не указана.

InternVL3-14B — мультимодальная модель OpenGVLab из семейства InternVL3, представленная в репозитории как дообученная версия InternVL3-14B-Instruct. Она построена по схеме ViT-MLP-LLM: визуальный энкодер InternViT соединён через MLP-проектор с языковой моделью. В семействе используются компоненты на основе Qwen 2.5 и InternLM 3; размер этой версии — 14 млрд параметров. Модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалога и анализа изображений, видео и текста: визуальных вопросов и ответов, мультимодального рассуждения, понимания видео и работы с несколькими изображениями. В README также описаны сценарии использования инструментов, GUI-агентов, анализа промышленных изображений и 3D-визуального восприятия. Поддерживаются динамическое разбиение изображений на фрагменты 448×448 пикселей и обработка изображений и видео; каталог помечает модель как многоязычную. Вариант лицензии — Apache 2.0. Среди заявленных особенностей — предобучение на смешанных текстовых и мультимодальных данных и улучшенное понимание длинного контекста благодаря V2PE. README не приводит численную длину контекста именно этой модели. Качество результатов зависит от входных данных и задачи; несколько изображений увеличивают число визуальных токенов и требуемый объём контекста.

sinjy1203/ko-sbert-natenews — модель эмбеддингов предложений на базе BERT, представленная в формате Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов и кластеризации. Модель содержит 141,2 млн параметров, принимает текст и поддерживает контекст длиной до 512 токенов. По названию репозитория модель ориентирована на корейские новости. Её можно применять для поиска похожих новостных материалов и группировки статей по смыслу; карточка также описывает обучение с CosineSimilarityLoss. Доступны веса PyTorch. Сведения о лицензии в предоставленных данных отсутствуют.

daekeun-ml/KoSimCSE-unsupervised-roberta-large — модель эмбеддингов предложений на основе RoBERTa large и метода SimCSE, опубликованная разработчиком daekeun-ml. Она обучена без размеченных пар предложений с помощью контрастивного обучения и предназначена для получения векторных представлений корейского текста. Эмбеддинги можно использовать для поиска семантически близких предложений и оценки сходства по косинусному или другим расстояниям. В README приведены результаты на корейских наборах KLUE-STS и Kor-STS: средние показатели для большой несупервизируемой модели составляют 81,96 и 81,71 соответственно. В руководстве по обучению рекомендована максимальная длина последовательности 32 токена; эти параметры описывают эксперимент обучения и не гарантируют качество для других данных. Модель опубликована в формате Safetensors под лицензией MIT. README также описывает учебный код для самостоятельного обучения SimCSE, включая supervised и distributed варианты.

kromcomp/L3.1-Beastsv2-12B — разговорная языковая модель семейства Llama, созданная объединением предварительно обученных моделей с помощью mergekit и метода Passthrough. В карточке указана модель merge/bend как компонент объединения. Модель содержит 11,4 млрд параметров и рассчитана на генерацию текста и диалоговое применение; максимальная длина контекста составляет 131 072 токена. Модель может использоваться для генерации ответов в чате и продолжения текста. Она распространяется в формате safetensors для библиотеки Transformers. Лицензия в предоставленных данных не указана. Карточка не описывает конкретные языки, качество на отдельных задачах или ограничения применения.

Redis разработала эту англоязычную модель-переранжировщик для semantic caching в LangCache. Это Cross-Encoder на базе ModernBERT, дообученный из Alibaba-NLP/gte-reranker-modernbert-base на парах текстов LangCache с помощью библиотеки sentence-transformers. Модель получает пару текстов и выдаёт оценку, пригодную для классификации пары или ранжирования кандидатов по релевантности; в каталоге основная задача указана как text-ranking. Модель содержит 149 млн параметров, поддерживает последовательности длиной до 8192 токенов и имеет один выходной показатель. Карточка сообщает метрики классификации на validation и test, но не задаёт универсальных порогов для интерпретации оценки. Модель рассчитана на английский язык и распространяется по лицензии Apache-2.0.

LLama-3.1-4B-TitanFusion — диалоговая языковая модель, созданная слиянием весов трёх моделей методом Model Stock с помощью mergekit. Базой слияния послужила MagpieLM-4B-Chat-v0.1; также объединены anthracite-org/magnum-v2-4b и TheDrummer/Hubble-4B-v1. Модель построена на плотной архитектуре LlamaForCausalLM, содержит 3,9 млрд параметров и предназначена для генерации текста и диалоговых ответов. Заявленная длина контекста — 131 072 токена. Поддерживается чатовый сценарий; модель опубликована в формате safetensors для библиотеки Transformers. Карточка не приводит результатов сравнительной оценки или подробных ограничений качества. Веса представлены в формате bfloat16. Лицензия в предоставленных данных не указана.

Llama 3.1 Swallow Hermes 8B v0.1 — диалоговая языковая модель, созданная AELLM слиянием моделей Llama-3.1-Swallow-8B-Instruct-v0.1 и Hermes-3-Llama-3.1-8B с помощью Mergekit. Она предназначена для генерации текста в диалоге и ответов на инструкции на японском и английском языках. Модель построена на архитектуре LlamaForCausalLM с плотной архитектурой и содержит 7,5 млрд параметров; длина контекста — 8192 токена. Модель поставляется в формате Safetensors и поддерживает чат. В README указаны метод слияния dare_ties, объединённый токенизатор и тип данных bfloat16. Сведения о лицензии в предоставленных данных отсутствуют.

pearl-ai/Llama-3.3-70B-Instruct-pearl — сертифицированный вариант Meta Llama-3.3-70B-Instruct, подготовленный командой Pearl Research для работы с Pearl vLLM mining plugin. Модель относится к большим языковым моделям типа instruct и предназначена для генерации текста и диалоговых сценариев на основе текстовых запросов; в карточке указана поддержка английского языка. Модель имеет размер 70B параметров и распространяется через Transformers. Её основной сценарий — запуск в инфраструктуре Pearl miner, где vLLM интегрирован с процессами mining. Для работы требуются CUDA-совместимые NVIDIA GPU класса sm90, например H100 или H200, а также программный стек Pearl; в примере запуска задана длина контекста 8192 токена, однако максимальный контекст модели отдельно не указан. В сравнительном тесте на 4 GPU H200 Pearl-сертифицированный вариант показал близкие к исходной модели результаты MMLU и более высокую пропускную способность в некоторых конфигурациях параллелизма, включая 18 291,66 токена в секунду при DP=4. Эти показатели зависят от оборудования и настроек запуска. Модель ориентирована на специализированную инфраструктуру Pearl и требует запущенного pearld-узла с RPC-доступом, поэтому её использование вне этого стека может потребовать дополнительной настройки. Лицензия указана как llama3.3.

Llama-3-8B-saiga-suzume-ties — объединённая авторами модель на основе Llama 3 8B Instruct, созданная методом TIES с помощью LazyMergekit. В слияние вошли IlyaGusev/saiga_llama3_8b и lightblue/suzume-llama-3-8B-multilingual; в конфигурации также указана базовая модель NousResearch/Meta-Llama-3-8B-Instruct. Модель содержит 7,5 млрд параметров, использует архитектуру LlamaForCausalLM и формат Safetensors. Модель предназначена для генерации текста и диалогового общения на русском и английском языках. Максимальная длина контекста — 8192 токена. README не приводит примеров или результатов оценки качества, поэтому нельзя судить о преимуществах слияния и надёжности ответов. Лицензия — Llama 3.

Llama 4 Scout 17B 16E Instruct — мультимодальная инструкционная модель Meta для диалогов и визуального рассуждения. Она использует авторегрессионную архитектуру Mixture of Experts с ранним объединением модальностей; в активной конфигурации заявлено 17 млрд параметров и 16 экспертов. Модель принимает текст и изображения и предназначена для понимания изображений, визуального распознавания, создания описаний и ответов на вопросы по изображениям. Модель поддерживает арабский, английский, французский, немецкий, хинди, индонезийский, итальянский, португальский, испанский, тагальский, тайский и вьетнамский языки. В карточке указано, что проверено понимание до пяти входных изображений; для большего числа изображений требуется дополнительная проверка и настройка. Модель выпущена как статический чекпойнт, обученный на офлайн-данных. Для использования доступны веса в формате safetensors через Transformers. Лицензия — собственное коммерческое соглашение Llama 4 Community License; применение регулируется его условиями и Acceptable Use Policy.

QuantFactory/LLaMAX3-8B-Alpaca-GGUF — квантованная версия модели LLaMAX3-8B-Alpaca, созданная QuantFactory с использованием llama.cpp. Базовая модель разработана командой LLaMAX и основана на Llama 3 с размером около 8 миллиардов параметров. Модель предназначена для генерации текста, следования инструкциям и многоязычного машинного перевода. Модель обучалась на данных для 102 языков с целью расширить языковые возможности Llama и сохраняет способности к выполнению инструкций, полученные при дообучении на датасете Alpaca. Она поддерживает перевод между более чем 100 языками, включая русский, английский, китайский, арабский, немецкий, французский, испанский, японский и многие другие. Основная модальность — текст; размер контекста в README не указан. К сильным сторонам относятся широкое языковое покрытие и улучшенные по сравнению с LLaMA3-8B-Alpaca показатели перевода на наборе Flores-101: среднее улучшение spBLEU превышает 5 баллов. Ограничения включают отсутствие сведений о точных параметрах квантования, размере контекста и качестве для задач, не связанных с переводом; результаты также могут различаться в зависимости от языка и направления перевода. Модель распространяется по лицензии MIT.

LogicLumina-L3-13B — объединённая языковая модель, созданная Abdulhanan2006 с помощью LazyMergekit на основе PygmalionAI/pygmalion-2-13b, elinas/chronos-13b-v2 и refine-ai/Power-Llama-3-13b-Instruct. Она использует плотную архитектуру Llama и предназначена для генерации текста; размер модели — 12,9 млрд параметров, контекст — до 4096 токенов. Базовая модель Pygmalion-2 ориентирована на ролевые диалоги, художественное письмо и генерацию по инструкциям, что даёт ориентир для возможных сценариев применения объединённой модели. Репозиторий содержит веса Safetensors. Сведения о лицензии и конкретных ограничениях в предоставленных данных отсутствуют.

Luth-2-2B — текстовая языковая модель на 1,88 млрд параметров от Kurakurai, дообученная на основе Qwen/Qwen3.5-2B. Она предназначена для генерации ответов на французском языке: решения математических задач, написания кода, ответов на вопросы, следования инструкциям и вызова инструментов. Модель прошла supervised fine-tuning на французской смеси объёмом 3 млрд токенов и последующую многодоменную дистилляцию на основе собственных ответов модели. Архитектура унаследована от мультимодальной Qwen3.5-2B, но Luth-2-2B обучалась только на текстовых данных и не рекомендуется для задач с изображениями. Компактный размер позволяет использовать модель локально и на устройствах с ограниченными ресурсами. Разработчик сообщает о высоких результатах на выбранных французских бенчмарках по математике, коду, следованию инструкциям, общим знаниям и вызову инструментов; эти оценки относятся к конкретным наборам и настройкам из карточки. Модель доступна в формате safetensors и поддерживается Transformers, vLLM и SGLang. Лицензия — Apache-2.0.

ClaudioItaly/Magdala-9B — слияние языковых моделей, созданное автором с помощью mergekit и метода Model Stock на основе ClaudioItaly/Vangelus-Secundus. В состав слияния вошли ClaudioItaly/1800-9B, ClaudioItaly/Vangelus-Secundus, jsgreenawalt/gemma-2-9B-it-advanced-v2.1, mehmetkeremturkcan/oblivionsend, sam-paech/Delirium-v1 и sam-paech/Quill-v1. Модель построена на архитектуре Gemma 2 с плотной авторегрессионной архитектурой и содержит 9 млрд параметров. Она предназначена для диалоговой генерации текста; каталог также отмечает поддержку чата. Контекст составляет 8192 токена. Модель распространяется в формате safetensors и использует библиотеку Transformers. Данные карточки не описывают отдельно языки, специализированные области или конкретные ограничения качества. Лицензия в предоставленных сведениях не приведена.

Malvos-7B-Instruct — плотная текстовая модель семейства Qwen2, разработанная SHIKARI2 и дообученная на unsloth/Qwen2.5-Coder-7B-Instruct-bnb-4bit. Репозиторий содержит веса Safetensors; для обучения использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста в диалоговом формате и поддерживает интерфейс вызова инструментов. Модель насчитывает 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В метаданных указан английский язык. Лицензия — Apache-2.0. README не уточняет набор обучающих данных, специальные области применения или результаты оценки качества.

mind-mem-4b v4.1.1 — языковая модель, разработанная star-ga для проекта MIND-Mem. Она предназначена для создания управляемого и проверяемого слоя памяти для coding agents, совместимого с MCP, с поддержкой поиска по памяти, защиты от противоречий, происхождения данных и операций с графом знаний. Модель представляет собой полноразмерную дообученную версию Qwen3.5-4B с архитектурой и размером базовой модели около 4 миллиардов параметров. Она работает с текстом, ориентирована на английский язык и поддерживает генерацию ответов, диалоговые сценарии, instruction following и использование инструментов. Обучение охватывает 83 MCP-инструмента на ревизии v4.1.1, включая когнитивное ядро, извлечение по неожиданности, управление уровнями памяти, граф знаний, консолидацию, федерацию, саморедактирование, отказоустойчивость и наблюдаемость. Размер контекстного окна в представленных данных не указан. Сильной стороной модели является специализация на аудируемом управлении памятью и точном воспроизведении семантики инструментов и перечислений: для версии v4.1.1 заявлен результат 133 из 133 проверок. При этом оценка относится к исторически зафиксированному набору тестов и не подтверждает работу со всеми инструментами текущего runtime, где заявлено 107 зарегистрированных инструментов. Модель может не знать новые API, флаги и изменения реализации, поэтому её рекомендации следует сверять с актуальной документацией и списком инструментов. Лицензия — Apache-2.0.

Mirza-GEC-Gemma4-E4B-Editor-E3-BF16 — дообученная мультимодальная модель taharmasmaliyev07 на базе unsloth/gemma-4-E4B-it. Она предназначена для диалогового взаимодействия и генерации текста по текстовым и визуальным входам, включая анализ изображений и документов. Модель использует плотную архитектуру Gemma 4 и распространяется в формате safetensors. Модель лицензирована по Apache-2.0. В README указано, что при обучении использовались Unsloth и библиотека Hugging Face TRL; подробности специализированной задачи GEC и редакторского сценария не раскрыты.

Карточка модели taharmasmaliyev07/Mirza-Gemma4-E4B-Editor-E3-BF16 на Hugging Face совпадает с карточкой taharmasmaliyev07/Mirza-GEC-Gemma4-E4B-Editor-E3-BF16, поэтому описание составлено по ней. Mirza-GEC-Gemma4-E4B-Editor-E3-BF16 — дообученная мультимодальная модель taharmasmaliyev07 на базе unsloth/gemma-4-E4B-it. Она предназначена для диалогового взаимодействия и генерации текста по текстовым и визуальным входам, включая анализ изображений и документов. Модель использует плотную архитектуру Gemma 4 и распространяется в формате safetensors. Модель лицензирована по Apache-2.0. В README указано, что при обучении использовались Unsloth и библиотека Hugging Face TRL; подробности специализированной задачи GEC и редакторского сценария не раскрыты.

mncai/mistral-7b-dpo-v6 — текстовая генеративная модель MindsAndCompany на архитектуре Mistral, созданная на базе Mistral-7B. По карточке, модель сначала получила объединение весов, затем была дообучена методом DPO; она предназначена для диалогов и генерации ответов на текстовые запросы. Размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. В примере карточки показан вопрос на корейском языке, а метаданные указывают английский язык; карточка не подтверждает широкий набор поддерживаемых языков. Разработчик позиционирует свои модели для бизнес-продуктов, включая чат-боты и ассистентов. Карточка предупреждает о переобучении на открытых лидербордах и рекомендует оценивать модель на собственных закрытых данных; внутренние оценки автора были ниже результата лидерборда. Модель опубликована в формате safetensors под лицензией Apache-2.0.

SillyTilly/mistralai_Mistral-Nemo-Base-2407 — копия предварительно обученной языковой модели Mistral-Nemo-Base-2407, разработанной Mistral AI совместно с NVIDIA. Это плотный трансформер MistralForCausalLM с 12,1 млрд параметров, 40 слоями и групповой обработкой ключей и значений (GQA). Модель предназначена для генерации текста и может служить базой для адаптации под конкретные задачи; README также описывает её как замену Mistral 7B. Модель обучена на многоязычных данных и коде. В README заявлено контекстное окно 128 тыс. токенов, тогда как метаданные каталога указывают 1 024 000 токенов; это расхождение не позволяет однозначно определить поддерживаемую длину контекста. Указаны английский, французский, немецкий, испанский, итальянский, португальский, русский, китайский и японский языки. Репозиторий создан 18 июля 2024 года и содержит веса safetensors; лицензия — Apache 2.0. Это базовая, а не инструкционно настроенная модель, поэтому для диалоговых сценариев или специализированных задач может потребоваться дообучение и подходящая обвязка. В README отмечено отсутствие механизмов модерации; качество генераций и следование инструкциям не гарантируются.

Это пакет Mesh LLM с разбиением GGUF-модели Mistral-Small-4-119B-2603-UD-Q4_K_XL на артефакты по слоям для распределённого инференса. Он основан на unsloth/Mistral-Small-4-119B-2603-GGUF и предназначен для запуска чат-модели Mistral на локальном кластере Mesh LLM, в том числе на нескольких машинах, если одной машине не хватает ресурсов. Mesh LLM предоставляет локальный API, совместимый с OpenAI Chat Completions. В репозитории указаны формат GGUF и вариант UD-Q4_K_XL; пакет включает отдельные артефакты для слоёв и общие данные модели. Архитектурные подробности, число параметров, контекст, языки и условия лицензии в предоставленных данных не приведены; за ними README отсылает к карточке исходной модели. Пакет рассчитан на локальный инференс, но требует Mesh LLM и оборудования, достаточного для распределённого запуска. Лицензионные условия следует сверить с карточкой исходной модели.

ModernBERT Embed base LegalTextAI Matryoshka legaldataset — англоязычная модель эмбеддингов, разработанная LegalTextAI путём дообучения nomic-ai/modernbert-embed-base на 41 342 парах текстов. Она преобразует предложения и абзацы в нормализованные плотные векторы размерностью 768 для семантического поиска, сравнения текстов, поиска перефразирований, классификации и кластеризации. Архитектура Sentence Transformer основана на ModernBERT с усреднением токенов и нормализацией; контекст — до 8192 токенов. Matryoshka-представления позволяют использовать сокращённые векторы размерностью 512, 256, 128 или 64. Обучающие примеры связаны с юридическими текстами: вопросы сопоставляются с фрагментами судебных документов. Модель подходит для поиска релевантных юридических материалов и построения семантических индексов; README также указывает общие сценарии работы с текстом. Лицензия — Apache 2.0. Указанные оценки получены на наборе InformationRetrievalEvaluator; переносимость результатов на другие корпуса отдельно не подтверждена.