I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельlaion/anh-xglm-7.5b-cross-lingual — мультиязычная модель генерации текста, созданная дообучением XGLM-7.5B на инструкционном наборе cross_lingual.jsonl из датасета laion/Anh. Модель построена на архитектуре XGLM с плотной causal language modeling архитектурой и содержит 8,6 млрд параметров. Модель предназначена для генерации ответов по инструкциям на разных языках. Метаданные указывают на поддержку instruction following; возможны сценарии с многоязычными запросами и генерацией текста. Контекст ограничен 2048 токенами. Репозиторий содержит веса PyTorch и распространяется по лицензии Apache-2.0.
danfeg/AraBERT_Finetuned-COMB-6000 — модель эмбеддингов предложений на архитектуре BERT, разработанная danfeg и дообученная с помощью Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 для семантического поиска, сравнения сходства и кластеризации. Модель принимает текст и выдаёт векторные представления; максимальная длина контекста — 512 токенов. В метаданных указано 468,2 млн параметров и формат Safetensors. Модель подходит для поиска похожих фрагментов и группировки текстов по смыслу. Обучение с CosineSimilarityLoss ориентировано на задачу сходства предложений. Идентификатор и семейство указывают на AraBERT и арабский язык. Условия лицензирования в доступных данных не приведены.
danfeg/ArabicBERT_Finetuned-AR-500 — дообученная модель на архитектуре BERT, опубликованная в формате safetensors и предназначенная для получения эмбеддингов предложений и абзацев. Она преобразует текст в плотные векторы размерности 1024, которые можно использовать для семантического поиска, сравнения сходства и кластеризации. Обучение включало CosineSimilarityLoss; заявленная длина контекста составляет 512 токенов. Модель рассчитана на арабский язык, что отражено в названии репозитория; карточка описывает применение через Sentence Transformers и Transformers. Параметров указано 435,4 млн. Лицензия в предоставленных данных не приведена.
Pratima29/autotrain24 — дообученный с помощью AutoTrain энкодер предложений на базе sentence-transformers/all-MiniLM-L6-v2. Модель предназначена для преобразования текста в семантические векторы и вычисления сходства между предложениями; её можно применять для семантического поиска, сравнения и группировки текстов. Использует архитектуру BERT и библиотеку Sentence Transformers, содержит 25,9 млн параметров и принимает контекст до 512 токенов. README сообщает значение loss на валидации 0,2786. Модель принимает текст и выдаёт векторы, пригодные для задач сходства предложений. Базовая модель описана каталогом как англоязычный энкодер; данных о дополнительной языковой специализации этой версии нет. Лицензия в предоставленных данных не указана.
b1ade-embed-kd — модель для получения векторных представлений текстов и оценки их семантического сходства. В карточке указано, что она распространяется в формате ONNX через transformers.js и предназначена для задач sentence similarity. Модель может использоваться для классификации текстов, семантического поиска и retrieval, reranking, кластеризации и оценки текстового сходства. В качестве подтверждения приведены результаты на наборе тестов MTEB, включая AmazonCounterfactualClassification, AmazonPolarityClassification, Banking77, ArguAna, AskUbuntuDupQuestions и BIOSSES. Например, на Banking77 указаны accuracy 85,19% и F1 85,13%, а на BIOSSES — корреляция Spearman до 84,75% для косинусного сходства. Архитектура, число параметров, размерность эмбеддингов, поддерживаемые языки, максимальная длина контекста и разработчик в предоставленных данных не указаны. Также не указана лицензия, поэтому условия использования по карточке определить нельзя. Результаты показывают применимость модели к широкому спектру задач работы с текстовыми представлениями, однако качество может существенно зависеть от домена и конкретного сценария.
Модель threehook/bert-base-dutch-cased-sts — Sentence Transformer на архитектуре BERT, дообученный разработчиком на базе GroNLP/bert-base-dutch-cased на наборе sentence-transformers/stsb. Она преобразует предложения и абзацы в плотные векторы размерностью 768, которые можно сравнивать косинусной близостью. Максимальная длина входа — 512 токенов; модель использует mean pooling и предназначена для оценки семантического сходства, семантического поиска и поиска перефразировок, а также может применяться для кластеризации и классификации текстов. В README указан язык en, хотя базовая модель нидерландская; поэтому качество для нидерландского текста отдельно не подтверждено. Модель принимает текст и выдаёт векторы, а не готовые текстовые ответы. Лицензия в предоставленных данных не указана.
bertin-roberta-base-finetuning-esnli — модель Sentence-Transformers на архитектуре RoBERTa, разработанная Anibal Pérez, Emilio Tomás Ariza, Lautaro Gesuelli и Mauricio Mazuecos. Модель обучена на испанских задачах вывода по естественному языку, включая ESXNLI и автоматически переведённые SNLI и MultiNLI. Она преобразует предложения и абзацы в плотные векторы размерности 768 и предназначена для поиска семантически похожих текстов, кластеризации и оценки семантического сходства. Модель содержит 151,8 млн параметров, принимает текст и выдаёт эмбеддинги; максимальная длина контекста — 514 токенов. В оценке на испанском наборе SemEval-2015 STS она превзошла приведённый в карточке базовый результат BETO STS по корреляциям Пирсона и Спирмена. Для использования с Transformers требуется корректная операция pooling поверх контекстных представлений токенов. Сведения о лицензии в предоставленных данных отсутствуют.
Lajavaness/bilingual-embedding-base — модель эмбеддингов предложений, разработанная Lajavaness для английского и французского языков. Она основана на XLM-RoBERTa и реализована как SentenceTransformer: использует усреднение токенов, затем нормализует векторы. Модель содержит 305,2 млн параметров и кодирует предложения в 1024-мерное векторное пространство; максимальная длина последовательности — 512 токенов по README и 514 токенов по метаданным. Модель предназначена для сравнения семантической близости предложений, семантического поиска, кластеризации текстов и ранжирования похожих фраз на английском и французском. Обучение включало данные SNLI/XNLI и STS Benchmark для обоих языков, а также дообучение с аугментацией пар предложений. Репозиторий использует формат safetensors и лицензию Apache-2.0.
Blackthinking — текстовая генеративная модель, созданная слиянием языковых моделей методом Arcee Fusion с помощью mergekit. В качестве базовой использована Novaciano/Eurinoferus-3.2-1B, также в слияние включена cazzz307/Abliterated-Llama-3.2-1B-Instruct. Модель основана на плотной архитектуре LlamaForCausalLM и содержит 1,1 млрд параметров; файлы опубликованы в формате safetensors для Transformers. Модель предназначена для генерации текста, включая диалоговые и рассуждательные сценарии. Заявленная длина контекста — 131 072 токена. В метаданных перечислены обучающие наборы с примерами мозгового штурма, программирования и рассуждений; язык модели явно не указан. Лицензия в предоставленных данных не указана.
Bonsai-8B-GGUF-1bit — языковая модель, разработанная Prism ML и распространяемая в формате GGUF для llama.cpp. Она предназначена для генерации текста, локального запуска чат-ассистентов и интеграции в приложения на устройствах с GPU или CPU, включая системы на CUDA, Apple Metal и Android. Модель может использоваться через специализированную сборку llama.cpp с 1-битными ядрами; также доступна отдельная версия для MLX. Модель основана на плотной архитектуре Qwen3-8B и содержит 8,19 млрд параметров, из которых около 6,95 млрд не относятся к embedding-слоям. В ней 36 decoder-блоков Transformer, GQA с 32 query- и 8 KV-головами, SwiGLU, RoPE и RMSNorm. Длина контекста составляет 65 536 токенов, размер словаря — 151 936 токенов. Все основные веса, включая embeddings, attention- и MLP-проекции, а также LM head, представлены в формате Q1_0 с эффективными 1,125 битами на вес. Ключевое преимущество — компактность и энергоэффективность: память параметров занимает около 1,15 ГБ против 16,38 ГБ у FP16, что примерно в 14 раз меньше; заявлено также ускорение до 6,2 раза на RTX 4090 и снижение энергопотребления на токен в 4–5 раз. Ограничения связаны с экстремальным 1-битным квантованием, которое может влиять на качество по сравнению с полной точностью, а для запуска требуются совместимые 1-битные ядра и сборка llama.cpp от Prism ML. Модель распространяется по лицензии Apache 2.0.
Brazley Nemotron 3.5 Lightning Omni — неофициальная мультимодальная модель, созданная Ником Брэзли путём слияния компонентов двух опубликованных чекпойнтов NVIDIA. Текстовая часть основана на Nemotron 3.5 Lightning, а аудио- и визуальные энкодеры и проекторы взяты из Nemotron 3 Nano Omni V2. Обучение не проводилось; веса объединены на уровне модулей и представлены в формате safetensors с ModelOpt-квантизацией. NVIDIA не выпускала эту мультимодальную версию и не проверяла её. Модель принимает текст, изображения, аудио и видео, а отвечает текстом. Она предназначена для понимания документов и изображений, распознавания речи, ответов на вопросы по аудио и видео, включая описание событий во времени. Поддерживает английский язык и контекст до 262 144 токенов; общий размер составляет около 34 млрд параметров, примерно 3 млрд активны на токен. Для запуска автор указывает DGX Spark как минимальную GPU-платформу. Модель доступна для коммерческого использования на условиях лицензий исходных моделей; применяются обе лицензии, а лицензия репозитория обозначена как other.
CataLlama-v0.2-Instruct-DPO — языковая модель Laurentiu Petrea на архитектуре Llama 3, дообученная методом DPO на наборе catallama/Catalan-DPO-V2 поверх CataLlama-v0.2-Instruct-SFT. Это авторегрессионный трансформер с 7,5 млрд параметров и контекстом до 8192 токенов, предназначенный для диалогов и выполнения инструкций преимущественно на каталанском языке. Модель подходит для извлечения информации из документов, в том числе в сценариях RAG, распознавания именованных сущностей, перевода между каталанским и английским, краткого и развернутого суммирования, анализа тональности и чата. Карточка сообщает об улучшении владения каталанским языком; также приведены результаты бенчмарков MMLU и GSM8K. Модель использует шаблон запросов Llama 3 Instruct. Модель распространяется по лицензии Llama 3. Авторы указывают, что она создана для демонстрации методов адаптации LLM к новым языкам и сохранения языков с малым числом ресурсов. В карточке также приведено ограничение лицензии Llama 3 на использование модели в языках, отличных от английского, и отдельно отмечено, что разработчики могут дообучать модели для других языков при соблюдении условий лицензии и Acceptable Use Policy.
new5558/chula-course-paraphrase-multilingual-mpnet-base-v2 — модель Sentence-Transformers на базе XLM-RoBERTa, создающая плотные векторы размерности 768 для предложений и абзацев. Она предназначена для семантического поиска, сравнения сходства текстов и кластеризации, в том числе для работы с описаниями учебных курсов. В README указано обучение с функцией потерь CosineSimilarityLoss; модель содержит 305,2 млн параметров и принимает последовательности длиной до 514 токенов. Модель подходит для построения эмбеддингов и последующего ранжирования или группировки текстов по смыслу. Метаданные указывают задачи feature-extraction и sentence-similarity; формат весов — PyTorch. Название и архитектура предполагают мультиязычную область применения, однако конкретный перечень поддерживаемых языков в предоставленных данных не приведён. Лицензия в предоставленных данных не указана. Качество и языковое покрытие следует проверять на целевых данных; README не приводит численных результатов оценки.
anaghaj111/codebert-base-code-embed-mrl-langchain-langgraph — англоязычная модель Sentence Transformers, дообученная на базе shubharuidas/codebert-embed-base-dense-retriever. Она преобразует предложения и абзацы в плотные векторы размерностью 768 для вычисления семантического сходства и поиска по смыслу. Архитектура основана на RoBERTa с усреднением токенных представлений; сходство оценивается косинусной мерой. Модель содержит 151,8 млн параметров и принимает последовательности длиной до 514 токенов по метаданным; в README указан предел 512 токенов. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразировок, кластеризации и подготовки признаков для классификации текста. Обучение с Matryoshka Loss позволяет использовать усечённые векторы меньшей размерности; в README приведены результаты поиска для размерностей от 64 до 768 на небольшом наборе из 180 обучающих примеров. Лицензия — Apache-2.0. Результаты на малом наборе не гарантируют качество на других данных; заявленная поддержка языка — английский.
kornwtp/ConGen-paraphrase-multilingual-mpnet-base-v2 — модель семейства ConGen, представленная пользователем kornwtp. Она преобразует предложения в плотные векторы размерностью 768 и предназначена для семантического поиска и сравнения текстов. Модель основана на архитектуре CamemBERT и содержит 132,5 млн параметров; веса опубликованы в формате PyTorch. Модель можно применять для поиска смыслово близких предложений и оценки семантического сходства, в том числе в многоязычных сценариях, на которые указывает название модели. README ссылается на оценку качества на тайском бенчмарке эмбеддингов предложений. Максимальная длина контекста составляет 512 токенов. Лицензия — Apache-2.0. Карточка не приводит конкретные результаты бенчмарка или сведения о языках, кроме указания на мультиязычность в названии; качество на отдельных языках и длинных текстах следует проверять отдельно.
Модель bcoding — дообученная версия unsloth/DeepSeek-R1-0528-Qwen3-8B на архитектуре Qwen3 с причинным языковым моделированием. Она предназначена для диалогов и генерации текста; каталог также указывает интерфейс вызова инструментов. Размер модели — 7,6 млрд параметров, контекст — до 131 072 токенов. В карточке указано, что обучение проводилось с Unsloth и библиотекой TRL. Модель может применяться для диалоговых ответов, рассуждений, решения задач по математике и логике, а также помощи с программированием — эти сценарии указаны для базовой модели в описании каталога. Поддерживаемый язык карточки — английский. Репозиторий распространяется в формате Safetensors по лицензии Apache 2.0.
Многоязычная модель эмбеддингов предложений, разработанная Lucas Wun Yu CHAN на основе DeepSeek-R1-Distill-Qwen-1.5B. Она использует плотную архитектуру Qwen2 с 1,5 млрд параметров и предназначена для получения векторных представлений текста и оценки семантического сходства предложений. Модель обучена с помощью контрастивного обучения на базе рассуждающей модели; в README описаны эксперименты с MTEB и BRIGHT и анализ влияния RLVR-обучения на качество представлений. Для работы автор рекомендует Sentence Transformers или Transformers и параметр trust_remote_code=True. Модель подходит для поиска по смыслу, сопоставления запросов и документов и других сценариев семантического сравнения на разных языках. Контекстное окно составляет 131 072 токена. Расширенное рассуждение базовой модели не гарантирует преимущества эмбеддингов: в README сообщается, что модели, инициализированные рассуждающими и базовыми весами, не показали устойчивой разницы после одинакового контрастивного обучения. Лицензия — Apache-2.0.
nsd12/deepseek-v4-gguf — это квантованная версия языковой модели DeepSeek-V4-Flash в формате GGUF, подготовленная antirez на базе модели DeepSeek. Модель предназначена для генерации текста и запуска локального вывода через inference engine ds4, с оптимизацией для систем Apple Silicon и Metal. В метаданных указан английский язык. Модель использует архитектуру Mixture of Experts (MoE). Доступны варианты с квантованием экспертных блоков до 2-битного уровня (IQ2_XXS и Q2_K) размером около 80,8 GiB и до 4-битного уровня Q4_K размером около 153,3 GiB. Остальные компоненты, включая внимание, общих экспертов и выходной слой, в основном сохраняются в Q8_0, F16 или F32 для снижения потерь качества. Отдельный файл MTP размером 3,6 GiB предназначен для опционального speculative decoding и не является самостоятельной моделью. Вариант q2 рассчитан на компьютеры с 128 ГБ оперативной памяти, а q4 — на системы с не менее чем 256 ГБ RAM. Ключевое ограничение — квантизации специфичны для inference engine ds4 и могут быть несовместимы с другими загрузчиками; MTP требует специальной поддержки. В примере запуска ds4 используется контекст до 100000 токенов, однако собственный максимальный контекст модели в README не указан. GGUF-файлы распространяются по лицензии MIT, при этом базовая модель принадлежит DeepSeek и распространяется с условиями её релиза.
mlx-community/DeepSeek-V4-Pro-Qwen3.5-9B-4bit — это 4-битная MLX-квантизированная версия модели Jackrong/DeepSeek-V4-Pro-Qwen3.5-9B, подготовленная сообществом mlx-community с использованием mlx-vlm 0.4.4. Модель предназначена прежде всего для запуска на компьютерах Apple Silicon через MLX и сохраняет шаблон диалогов и конфигурацию мультимодального процессора исходной модели. Модель поддерживает текстовые и программные запросы, работу с изображениями и входными данными в видеоформате, а также сценарии tool use и function calling. В карточке она обозначена как MoE-модель семейства Qwen3.5 с размером 9B; языки включают английский, китайский, испанский, русский и японский. Для мультимодальных задач рекомендуется использовать mlx-vlm, а для текстовых и кодовых сценариев возможен соответствующий инструментарий MLX. Ключевое преимущество версии — сниженное потребление памяти благодаря 4-битной affine-квантизации языковых весов при сохранении мультимодальных компонентов для изображений и видео. Ограничения связаны с зависимостью от экосистемы MLX и Apple Silicon, а также с возможной потерей точности из-за квантизации; сведения о контекстном окне, производительности и качестве по отдельным задачам в README не приведены. Лицензия — Apache 2.0, унаследованная от исходной модели.
DISASTER_MODEL_PRECHATS — модель на основе BERT, опубликованная пользователем omarelsayeed. Она преобразует предложения и абзацы в плотные векторы размерностью 256 для сравнения текстов по смыслу, семантического поиска и кластеризации. Модель можно использовать через библиотеку Sentence-Transformers либо Transformers с подходящей операцией pooling; в метаданных указаны 12,4 млн параметров и контекст до 512 токенов. Модель принимает текст и выдаёт векторные представления. Карточка описывает обучение с LoggingDenoisingAutoEncoderLoss, но не приводит сведения о языках обучения, датасете или результатах оценки. Репозиторий содержит веса PyTorch; лицензия в предоставленных данных не указана.
E5-large-v2-t2t — нидерландская адаптация модели intfloat/e5-large-v2, созданная методом transtokenizer на основе токенизатора BERTje. Веса модели основаны на BERT; размер составляет около 433,4 млн параметров, максимальная длина контекста — 512 токенов. Модель предназначена для преобразования нидерландских запросов и документов в текстовые эмбеддинги, чтобы находить семантически близкие тексты и сравнивать предложения. Модель можно применять для семантического поиска, ранжирования passage и оценки сходства текстов на нидерландском языке. В README приведены результаты оценки на нидерландском бенчмарке MTEB-NL. Модель принимает текст и выдаёт векторные представления; она опубликована в формате safetensors по лицензии MIT. Карточка не описывает ограничения качества или области применения.
Parallia разработала FMMB-BE-FR — французскую версию модели Sentence Transformers на архитектуре ModernBERT. Она кодирует французские предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации. Максимальная длина входа — 8192 токена; для сравнения используется косинусное сходство, а тексты можно подавать без специальных префиксов. Модель обучена на параллельных предложениях с помощью MultipleNegativesRankingLoss и предназначена прежде всего для французского языка. По README, веса совпадают с многоязычной FMMB-BE, но эта версия использует французский токенизатор и связанную с ним таблицу эмбеддингов. Метаданные указывают 148,7 млн параметров и формат safetensors. Модель распространяется по лицензии Apache-2.0. README отмечает, что для использования ModernBERT может потребоваться актуальная версия библиотеки Transformers.
Fireball-Llama-3.11-8B-v2r1orpo — диалоговая языковая модель EpistemeAI на архитектуре Llama с 7,5 млрд параметров. Она дообучена на базе EpistemeAI/Fireball-Llama-3.11-8B-v1orpo с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и ведения беседы; её можно подключать к интерфейсам вызова инструментов. Модель принимает текст и выдаёт текст. Её родной контекст составляет 131 072 токена, а в карточке указан английский язык. Файлы представлены в форматах PyTorch и safetensors. Лицензия — Apache-2.0.
DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_50000 — модель на базе RoBERTa, разработанная как sentence-transformers-модель для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и других задач сравнения текстовых представлений. В метаданных указаны 151,8 млн параметров, контекст до 514 токенов и формат весов safetensors. Модель принимает текст и выдаёт векторные представления; для использования доступны Sentence-Transformers и Transformers с соответствующей операцией pooling. В README указано обучение с MarginDistillationLoss. Сведений о поддерживаемых языках, лицензии и ограничениях качества в предоставленных источниках нет.
Карточка модели DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_90000 на Hugging Face совпадает с карточкой DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_50000, поэтому описание составлено по ней. DragosGorduza/FRPile_GPL_test_pipeline_DragosGorduza-FRPile_MLM_Basel_Roberta-MISTRAL_FULL-notrescaled_50000 — модель на базе RoBERTa, разработанная как sentence-transformers-модель для преобразования предложений и абзацев в плотные векторы размерности 768. Её можно применять для поиска семантически близких текстов, кластеризации и других задач сравнения текстовых представлений. В метаданных указаны 151,8 млн параметров, контекст до 514 токенов и формат весов safetensors. Модель принимает текст и выдаёт векторные представления; для использования доступны Sentence-Transformers и Transformers с соответствующей операцией pooling. В README указано обучение с MarginDistillationLoss. Сведений о поддерживаемых языках, лицензии и ограничениях качества в предоставленных источниках нет.
unsloth/gemma-2-9b-it-bnb-4bit — это 4-битная версия instruction-tuned языковой модели Gemma 2 с 9 миллиардами параметров, основанная на google/gemma-2-9b-it. Модель распространяется в экосистеме Unsloth и предназначена для запуска и дообучения с использованием Transformers. В метаданных указаны разработчик базовой модели Google и поддерживаемый язык English. Модель ориентирована на диалоговые приложения, генерацию и продолжение текста, а также на дообучение под пользовательские наборы данных. Ключевой особенностью является 4-битное квантование bnb, снижающее требования к памяти; для Gemma 2 (9B) Unsloth заявляет ускорение до 2,4 раза и сокращение использования памяти до 58% в соответствующих сценариях. Модель также может экспортироваться в форматы GGUF и использоваться с vLLM, однако размер контекста, точный набор поддерживаемых языков и другие архитектурные характеристики в README не указаны. Сильные стороны модели — относительно экономичный запуск и возможность эффективного fine-tuning на ограниченных ресурсах, включая GPU Tesla T4. Ограничения связаны с 4-битным представлением, предназначенностью базовой модели преимущественно для English и отсутствием в README подробных результатов оценки качества. Лицензия указана как gemma; перед использованием необходимо учитывать условия лицензии Google Gemma.
MuXodious выпустил статические квантизованные GGUF-сборки Gemma 4 26B A4B Instruct, дообученной с помощью Heretic 1.2.0 и Arbitrary-Rank Ablation. Это диалоговая мультимодальная модель семейства Gemma 4 с архитектурой Mixture-of-Experts; в этой версии доступны текстовый и визуальный ввод и текстовый вывод. В репозитории есть GGUF и GGUF BF16. Шаблон чата обновлён с исправленной версией от Google. Модель предназначена для диалога, рассуждений и анализа изображений, включая извлечение информации из документов, OCR, понимание диаграмм и интерфейсов. README семейства Gemma 4 также описывает генерацию и редактирование кода, суммаризацию, поддержку длинного контекста до 256K токенов и мультиязычность; эти свойства приведены для семейства и отдельно не подтверждены для данной сборки. Ablation заметно уменьшила отказы: в приведённой проверке их стало 3 из 104 против исходных 103 из 104. Модель распространяется под лицензией Apache 2.0. Из-за ablation-процедуры она может отказывать реже, поэтому ответы на потенциально рискованные запросы требуют проверки; результаты теста отказов не гарантируют поведение в других сценариях. Для запуска GGUF требуется совместимый движок и корректный шаблон чата.
Gemma-4-26B-A4B-JANG_2L-CRACK — мультимодальная модель семейства Gemma 4 от dealignai, созданная на основе google/gemma-4-26b-a4b-it. Это вариант с ослабленными отказами и смешанной 2-битной квантизацией JANG_2L: критические компоненты хранятся в 8 битах, важные — в 6, а большая часть весов экспертных блоков — в 2 битах. По данным карточки, модель занимает 9,9 ГБ и использует архитектуру MoE с 128 экспертами, из которых активируются восемь, и гибридным скользящим и глобальным вниманием. Модель предназначена для диалогов, программирования, общих вопросов и работы с изображениями; поддерживает режим рассуждений. Автор сообщает о тестировании генерации кода и запросов по информационной безопасности, а также приводит собственные результаты MMLU и HarmBench. Эти показатели получены на тестах автора и не гарантируют качество в других сценариях. Для запуска рекомендованы vMLX или совместимый движок MLX с поддержкой Gemma 4; заявлены Apple Silicon и не менее 16 ГБ объединённой памяти. Лицензия — gemma; автор обозначает модель как исследовательскую и возлагает на пользователей ответственность за соблюдение применимых законов.
RedHatAI/GLM-5.3-Flash-NVFP4 — квантизированная версия модели zai-org/GLM-5.3-Flash, разработанная RedHatAI. Модель использует архитектуру Glm5NextForConditionalGeneration, принимает текст и изображения и генерирует текст. Заявленные языки — английский и китайский. Размер модели и длина контекста в предоставленных данных не указаны. Веса и активации линейных операторов MoE-экспертов квантизированы в формат FP4 (NVFP4), а слои MTP сохранены в FP8. Квантизация выполнена с помощью LLM Compressor, модель экспортирована в формате compressed-tensors и предназначена для инференса через vLLM. По данным README, такое сжатие примерно на 50% уменьшает объём диска и требования к памяти GPU для квантизированных весов по сравнению с 8-битным представлением. Также заявлена поддержка speculative decoding и автоматического выбора инструментов при соответствующей настройке vLLM. Модель ориентирована на мультимодальные и текстовые сценарии генерации, включая задачи рассуждения. В приведённой оценке она показала 97,74% на GSM8K Platinum, 94,87% на MATH-500, 86,67% на AIME 2025 и 90,57% на GPQA Diamond; результаты усреднены по нескольким запускам. Ключевое преимущество — снижение потребления дисковой и GPU-памяти при сохранении возможностей исходной модели, однако FP4-квантизация может влиять на качество и требует совместимой инфраструктуры. Модель распространяется по лицензии MIT.
nickprock/granite-311m-italiano-matryoshka — текстовая модель Sentence Transformers, дообученная автором nickprock на базе ibm-granite/granite-embedding-311m-multilingual-r2 для итальянских задач поиска и сравнения предложений. Она построена на ModernBERT с пулингом CLS и нормализацией выходных векторов. Модель преобразует текст в плотные эмбеддинги размерностью 768; сходство между ними можно оценивать косинусной мерой. Максимальная длина последовательности — 32 768 токенов. Модель предназначена для семантического поиска, извлечения релевантных фрагментов для RAG, оценки сходства предложений, поиска перефразировок, кластеризации и классификации. При дообучении использовались 45 181 пример итальянского набора it-wiki-retrieval-synthetic-hn; README также описывает оценки на итальянских наборах SQuAD-it и STSb-it. Репозиторий содержит веса Safetensors и ONNX, модель работает через Sentence Transformers. Лицензия — Apache-2.0.