I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельindiejoseph/bert-cantonese-sts — модель на базе BERT, опубликованная пользователем indiejoseph. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для сравнения семантической близости текстов, семантического поиска и кластеризации. Модель можно использовать через Sentence-Transformers или Transformers с соответствующей операцией pooling для получения вектора из контекстных представлений токенов. Модель содержит 130,6 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Название указывает на ориентацию на кантонский язык; в метаданных коды языков не приведены. Доступен формат PyTorch. Лицензия в предоставленных данных не указана.
m3hrdadfi/bert-fa-base-uncased-wikinli-mean-tokens — персидская модель эмбеддингов предложений на базе ParsBERT, представленная Mehrdad Farahani в проекте Sentence Transformers. Она преобразует текст в векторные признаки и предназначена для получения представлений предложений, в том числе для задач семантического поиска и сравнения текстов. Модель построена на архитектуре BERT, содержит 190 млн параметров и принимает последовательности длиной до 512 токенов. Доступны форматы PyTorch и Flax. Модель ориентирована на персидский язык. Репозиторий распространяется по лицензии Apache-2.0. Карточка краткая и не описывает результаты оценки или детальные ограничения качества.
Это компактная модель Sentence Transformers, дообученная автором swardiantara на базе англоязычной google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы в плотные векторы размерности 128; сходство текстов можно оценивать косинусным сходством, а в README отдельно указано применение для поиска. Модель подходит для семантического поиска и сравнения текстовых фрагментов, в том числе отзывов о товарах. Архитектура включает BertModel с mean pooling. Метаданные указывают 4,4 млн параметров и контекст до 512 токенов, тогда как README задаёт максимальную длину последовательности 128 токенов; при использовании следует учитывать это различие. Веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.
Это компактная модель Sentence Transformers, дообученная автором swardiantara на базе google/bert_uncased_L-2_H-128_A-2. Она кодирует предложения и абзацы на английском языке в плотные векторы размерности 128 для поиска и сравнения по смыслу. Архитектура состоит из двухслойного BERT с mean pooling; метаданные указывают 4,4 млн параметров, формат safetensors и контекст до 512 токенов, тогда как карточка модели задаёт максимальную длину последовательности 128 токенов. Для сравнения векторов используется косинусное сходство. Модель предназначена для семантического поиска, извлечения текстовых признаков и оценки сходства предложений. В обучении использовался набор из 2 925 010 пар текстов с метками и OrdinalProxyContrastiveLoss; примеры в карточке связаны с отзывами Yelp, поэтому применение к другим жанрам и доменам может потребовать проверки качества. Лицензия в предоставленных данных не указана.
AXERA-TECH представила конвертированную и оптимизированную для NPU AX650 версию bge-m3. Модель использует квантизацию w8a16 и формат ONNX; в репозитории также есть файл axmodel для запуска на поддерживаемых устройствах AX650. Карточка указывает совместимость с Pulsar2 6.0-dirty и время выполнения 188,7 мс на указанной конфигурации AX650. Модель предназначена для получения эмбеддингов и вычисления сходства предложений, например, для семантического поиска и сравнения текстов на устройстве с AX650. README упоминает оптимизацию с LoRA, но не уточняет её назначение или базовый репозиторий; поэтому происхождение классифицировано как неизвестное. Репозиторий распространяется по лицензии MIT. Для запуска требуются совместимая платформа AX650 и соответствующее программное окружение.
BlackSheep-X-Dolphin — чат-модель TroyDoesAI, созданная слиянием модели cognitivecomputations/dolphin-2.9.3-llama-3-8b. Это плотная Llama-архитектура на 7,5 млрд параметров для генерации текста в диалоге; заявленная длина контекста — 8192 токена. Карточка указывает шаблон общения с сообщениями system, user и assistant, а также сообщает о высоком месте модели в рейтинге UGI для моделей класса 8B. Модель подходит для диалоговых ответов и генерации текста по запросу. Репозиторий содержит веса в формате safetensors. Лицензия CC-BY-NC-2.0 разрешает использование с указанием авторства, но ограничивает коммерческое применение.
CamemBERT-L4 — облегчённая версия предварительно обученной языковой модели CamemBERT, созданная удалением верхних слоёв исходного чекпойнта. В метаданных указаны архитектура CamemBERT, 62,3 млн параметров и контекст до 514 токенов; модель распространяется в форматах PyTorch и safetensors по лицензии MIT. Модель предназначена прежде всего для дообучения под задачи, где нужно учитывать целое предложение: классификации текста, извлечения ответа на вопрос и семантического поиска. Её также можно использовать для извлечения признаков и masked language modeling. README не рекомендует её для генерации текста и советует для этого авторегрессионные модели. Язык модели — французский; сравнительно с исходной CamemBERT-base удаление слоёв уменьшает размер модели, но характеристики качества для конкретных задач зависят от последующего дообучения.
Codetulu 2 13B — англоязычная модель-помощник, разработанная AllenAI. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров, дообученная на базе codellama/CodeLlama-13b-hf на смеси общедоступных, синтетических и созданных людьми инструкций и диалогов Tulu V2. Модель работает с текстом и поддерживает контекст до 8192 токенов. Модель предназначена для генерации ответов на инструкции и ведения диалогов, а также может использовать возможности базовой CodeLlama при работе с кодом. Для генерации следует подавать текст в формате, описанном в карточке модели, включая завершающий перевод строки. Модель преимущественно рассчитана на английский язык. Модель выпущена под лицензией AI2 ImpACT Low-risk. В карточке отмечено, что модель не прошла выравнивание безопасности на этапе RLHF и не использует фильтрацию ответов во время работы, поэтому может выдавать проблемный контент, особенно в ответ на соответствующие запросы.
csg-wukong-1B-chat-v0.1 — разработанная OpenCSG чат-модель, полученная дообучением csg-wukong-1B. Она предназначена для диалоговой генерации текста и может применяться в чат-ботах и других сценариях, где требуется генерировать ответы на текстовые запросы. Модель построена на плотной архитектуре Llama и содержит около 1 млрд параметров; заявленная длина контекста — 32 768 токенов. В карточке также отмечена возможность работы с кодом. Модель представлена в формате safetensors и распространяется по лицензии Apache-2.0. В README приведены сведения об обучении и оценке исходной csg-wukong-1B на open_llm_leaderboard, но отдельные результаты оценки чат-версии не указаны.
CyberNeurova-Gemma-4-12B-it-abliterated — мультимодальная модель семейства Gemma 4, разработанная CyberNeurova Research на базе google/gemma-4-12B-it от Google. Это 12-миллиардная encoder-free модель с унифицированной архитектурой, которая напрямую проецирует изображения и аудиосигналы в пространство эмбеддингов языковой модели без отдельных vision- и audio-энкодеров. Заявлена поддержка текста, изображений и аудио, а также языков английского, испанского, французского, немецкого, китайского, хинди, японского, корейского, арабского, португальского, итальянского и русского. Модель предназначена для генерации текста, мультимодального анализа, программирования, рассуждений и исследовательских сценариев, включая задачи кибербезопасности. Главная особенность — постоянное удаление направления отказа из весов модели методом orthogonalization residual stream во всех 48 слоях трансформера и во входных эмбеддингах. По данным авторов, это резко снижает склонность к отказам, в том числе на многоязычных тестах, при сохранении показателей программирования, связности и рассуждений; результаты приведены авторами README и не являются независимой проверкой. Одновременно такая модификация существенно ослабляет встроенные защитные ограничения, поэтому модель может быть непригодна для применений, требующих безопасного поведения и фильтрации вредных запросов. Доступны варианты в формате bf16 Safetensors, а также GGUF F16, Q8_0 и Q4_K_M. Размеры составляют примерно 22,3 ГБ для bf16 и 7,5 ГБ для Q4_K_M; для последнего заявлена возможность запуска на GPU с 10–12 ГБ VRAM, тогда как нативной версии требуется около 28 ГБ или более. Указана лицензия Apache-2.0.
Dante-2B — двуязычная инструктивная языковая модель на 2,1 млрд параметров, созданная Fabio Angeletti с нуля. Это плотный декодерный трансформер в стиле Llama, доступный в формате safetensors и рассчитанный на генерацию текста и выполнение инструкций на итальянском и английском языках. Модель использует собственный BPE-токенизатор на 64 тысячи токенов, обученный на сбалансированном итальянско-английском корпусе, и шаблон чата в стиле ChatML. Контекст модели составляет 4096 токенов. Модель подходит для диалоговых сценариев, генерации и продолжения текста на итальянском и английском языках, а также для локального и периферийного развертывания. Итальянский язык учитывается в токенизаторе с самого начала обучения, включая типичные сокращения и диакритические знаки. Модель обучалась на 90 млрд токенов предобучения, затем прошла продолжительное обучение для расширения контекста и дообучение на 540 тысячах диалогов. Лицензия — Apache-2.0. Размер 2,1 млрд параметров ограничивает возможности сложных рассуждений по сравнению с более крупными моделями. Заявлены ограничения знаний данными примерно 2023–2024 годов; формальная оценка на стандартных тестах ещё не завершена. Модель не проходила специальное обучение безопасности или RLHF, поэтому ответы могут требовать проверки.
huihui-ai выпустил версию DeepSeek-R1-0528-Qwen3-8B, изменённую методом abliteration для ослабления отказов языковой модели. Это экспериментальная proof-of-concept модификация базовой модели deepseek-ai/DeepSeek-R1-0528-Qwen3-8B, предназначенная для диалоговой генерации текста; README описывает запуск через Ollama и использование библиотеки Transformers. Базовая модель рассчитана на диалоги, математику, программирование и логические задачи. Модель доступна в формате safetensors и распространяется по лицензии MIT. Abliteration не гарантирует полного удаления отказов, а переключение режима рассуждений через /no_think может срабатывать непоследовательно.
Это пакет слоёв GGUF модели DeepSeek-V3.1-UD-Q4_K_XL для распределённого запуска в Mesh LLM. Пакет подготовлен из unsloth/DeepSeek-V3.1-GGUF и содержит модель, разделённую на артефакты по слоям для совместной обработки несколькими компьютерами. Модель предназначена для локального диалогового инференса, в том числе на нескольких узлах, когда полный файл модели трудно разместить на одной машине. Через локальный API Mesh LLM её можно использовать в сценариях, совместимых с OpenAI Chat Completions. Карточка указывает вариант квантования UD-Q4_K_XL; подробности об архитектуре, размере и лицензии следует сверять с карточкой исходной модели.
DoubleTrouble — мультимодальная плотная модель семейства Qwen3.5, созданная OliviaRossi слиянием двух дообученных моделей Qwen: DavidAU/Qwen3.8-27B-TWIN-TURBO-Fable-Cold-Fusion-709-L-Uncensored и Jackrong/Qwopus3.8-27B-Flash. Карточка указывает размер 27,5 млрд параметров, 64 слоя и архитектуру Qwen3_5ForConditionalGeneration; модель распространяется в формате safetensors и использует библиотеку Transformers. Модель предназначена для диалоговой генерации текста, рассуждений, творческих и технических задач, быстрого применения инструментов и агентных сценариев. В README заявлены мультимодальность и поддержка длительных контекстов, однако конкретная длина контекста и подробности обработки изображений не приведены. Автор сообщает, что удалил вспомогательный слой MTP и настроил слияние для сохранения характеристик исходных моделей; это заявления карточки, а не независимая оценка качества или совместимости. Модель рассчитана прежде всего на английский и китайский языки. Её отличительные заявленные свойства — сочетание творческой генерации и агентного исполнения, а также ослабление отказов. Это может приводить к выдаче нежелательного или небезопасного контента. Лицензия — Apache-2.0.
Это вариант модели EmbeddingGemma-300M, опубликованный сообществом LiteRT для запуска на Android и iOS, а также для использования в Android-приложениях с библиотекой Google AI Edge RAG. Базовая карточка модели находится в репозитории google/embeddinggemma-300m; модель предназначена для получения текстовых эмбеддингов и оценки сходства предложений, в том числе для поиска по смыслу и конвейеров RAG. Репозиторий содержит модели в формате LiteRT TFLite и описывает варианты с разной точностью, включая смешанную квантизацию int4/int8. Для токенизации используется SentencePiece. В README приведены сведения о запуске и бенчмарках на Samsung S25 Ultra, однако численные результаты в предоставленном тексте отсутствуют. Модель распространяется по лицензии Gemma; перед использованием следует учитывать её условия.
BAAI/Emu3-Chat — мультимодальная модель команды Emu3 из BAAI, построенная на плотном трансформере Emu3ForCausalLM с 7,7 млрд параметров. Она обучена с нуля предсказывать следующий токен в последовательностях, где изображения, текст и видео представлены дискретными токенами. Модель предназначена для генерации текста в ответ на запросы и для мультимодальных сценариев, описанных для семейства Emu3: понимания изображений, создания изображений по тексту, продолжения видео и предсказания его дальнейшего содержания. Архитектура семейства объединяет генерацию и восприятие в одном трансформере; заявлена гибкая поддержка разрешений и стилей изображений. В метаданных указано контекстное окно 131 072 токена. Карточка не уточняет отдельные показатели качества именно версии Chat и перечень поддерживаемых языков. Модель распространяется по лицензии Apache-2.0.
Eros_Scribe-10.7b-V.02 — объединённая языковая модель, созданная OmnicromsBrain с помощью LazyMergekit из OmnicromsBrain/ToppyCox-7B и OmnicromsBrain/EverythingBagel-DPO-7B. Веса объединены методом passthrough: в итоговую модель включены слои 0–24 первой модели и слои 8–32 второй. Модель построена на архитектуре Mistral и содержит около 10,6 млрд параметров. Модель предназначена для генерации текста и диалогов; базовые модели также описаны как подходящие для творческого ролевого общения. Поддерживается контекст до 32 768 токенов. Репозиторий содержит веса в формате safetensors с точностью float16. Лицензия в предоставленных данных не указана.
Fialka-7B-v3 — русскоязычная языковая модель, разработанная авторами семейства Fialka на основе Llama 2 и обученная следовать инструкциям и поддерживать диалог на русском языке. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и 6,6 млрд параметров. Модель предназначена для генерации ответов на запросы и ведения общения на русском языке. В README указан формат запросов Zephyr. Контекст составляет 4096 токенов; модель распространяется в формате safetensors по лицензии Apache 2.0. Модель ориентирована на русский язык и может быть полезна для русскоязычных диалоговых и инструкционных сценариев. Карточка не приводит результаты оценивания качества или подробные сведения об ограничениях; возможности за пределами текстовой генерации не заявлены.
FsfairX-Zephyr-Chat-v0.1 — чат-модель, разработанная авторами репозитория sfairXC. Это плотная авторегрессионная модель семейства Mistral на 7,1 млрд параметров с контекстом до 32 768 токенов. Она создана методом итеративного обучения с подкреплением по обратной связи (GSHF): три итерации применены к HuggingFaceH4/mistral-7b-sft-beta с оценками reward model и примерно 60 тысячами промптов, сгенерированных ChatGPT; внешние ответы в обучении не использовались. Модель предназначена для диалогов и генерации ответов в формате чат-шаблона базовой модели. В README сообщаются результаты оценки на Alpaca Eval v2 и MT-bench, но они не гарантируют качество в иных сценариях. Язык карточки и метаданные не подтверждают конкретные языки обучения или поддержки. Модель распространяется по лицензии CC BY-SA 4.0.
Gemma2-9b-it-train3 — плотная авторегрессионная языковая модель семейства Gemma 2, опубликованная ehristoforu. Это дообученная версия ehristoforu/Gemma2-9b-it-train2, обученная с использованием Unsloth и библиотеки TRL; в карточке также указан датасет HuggingFaceH4/CodeAlpaca_20K. Модель содержит 9 млрд параметров, работает с текстом и поддерживает контекст до 8192 токенов. Модель предназначена для генерации текста и диалогового взаимодействия; связь с CodeAlpaca указывает на примеры задач по генерации кода, но карточка не приводит отдельной оценки качества. Опубликована в формате PyTorch под лицензией Apache-2.0.
Mungert/gemma-3-27b-it-qat-q4_0-GGUF — экспериментальная GGUF-квантизация модели google/gemma-3-27b-it, разработанная сообществом Mungert на базе Gemma 3 от Google. Это instruction-tuned модель с поддержкой текста и изображений, предназначенная для локального запуска и решения задач генерации текста, программирования, анализа и работы с мультимодальным вводом. Точные сведения о языках и размере контекстного окна в README не указаны. Модель получена посредством повторной квантизации исходной QAT Q4_0-модели с использованием imatrix-файлов Google для последующего сжатия до более низкой точности. Формат GGUF ориентирован на запуск в совместимых инструментах, включая llama.cpp. Автор приводит предварительные сравнения perplexity и качественный тест генерации .NET-кода, где вариант на основе QAT показал преимущество над сопоставимой квантизацией из BF16, однако подчёркивает, что тестовый набор был небольшим, результаты нестабильны, а окончательные выводы делать нельзя. Сильной стороной является потенциально более высокое качество при низкой разрядности по сравнению с обычной квантизацией из BF16, а также возможность локального запуска с уменьшенными требованиями к памяти. Ограничения включают экспериментальный статус, отсутствие полноценной независимой оценки и возможные ошибки модели в сложных технических задачах; приведённый пример также показывает, что модель может неправильно интерпретировать детали TLS и постквантовой криптографии. Для использования на Hugging Face требуется принять лицензию Google Gemma; в README указана лицензия gemma.
AMD Gemma 4 12B IT W4A16 — квантизированная версия модели RedHatAI/gemma-4-12B-it, созданная AMD с использованием LLM Compressor и формата compressed-tensors. Модель предназначена для генерации текста и CPU-инференса на процессорах AMD EPYC под Linux; запуск рекомендуется через vLLM. Указанный язык — английский. Модель основана на архитектуре Gemma4UnifiedForConditionalGeneration и содержит мультимодальные компоненты, включая vision tower, обработчики изображений и аудио, а также мультимодальный проектор, однако в карточке явно заявлены текстовые входы и выходы. Основные веса сжаты методом 4-битной weight-only-квантизации W4A16 с использованием GPTQ: веса представлены в INT4, симметрично и группами по 128 параметров, а активации остаются в BF16. Мультимодальные модули и lm_head сохранены в BF16. Размер модели — 12B параметров; точное максимальное окно контекста не указано, при квантизации использовалась длина последовательности до 2048 токенов. Ключевое преимущество модели — снижение требований к памяти и оптимизация инференса на AMD CPU с использованием ZenDNN и ZenTorch. По тесту GSM8K модель сохранила 98,38% результата BF16-базовой версии: 0,9249 против 0,9401. Ограничения связаны с потерей качества из-за квантизации, зависимостью от совместимого стека версий и ориентированностью на AMD EPYC; заявленные результаты не охватывают широкий набор задач и языков. Для работы рекомендуются PyTorch 2.11.0, ZenTorch 2.11.0.3, vLLM 0.26.0 и LLM Compressor 0.12.0. Лицензия — Gemma.
Это испаноязычная адаптация Gemma 4 E4B Instruct для латиноамериканского варианта испанского, подготовленная Servicios Tecnológicos AVIM SpA в Сантьяго-де-Чили. Модель создана продолжительным предобучением на корпусе LatamGPT и распространяется здесь как объединённые веса адаптера в формате MLX. Модель предназначена для диалога и генерации текста на испанском языке, в том числе с латиноамериканской лексикой и контекстом. В репозитории находятся только веса текстовой башни: модулей обработки изображений и аудио нет, несмотря на унаследованные поля в конфигурации. Указано 7,463 млн параметров. Модель загружается через mlx-lm на Apple silicon и несовместима с Transformers. При генерации mlx-lm не фильтрует канал рассуждений Gemma 4, поэтому приложению нужно отделять его от ответа пользователю; этот канал обычно расходует 350–450 токенов. Модель может уверенно галлюцинировать о конкретных нормативных актах, поэтому такие сведения требуют внешней проверки. Представленность стран и тем в обучающих данных неодинакова; корпус также может содержать остаточные персональные данные. Лицензия — Apache 2.0.
GLM-5.3-Flash NVFP4 B200 hybrid — это квантизированная версия GLM-5.3-Flash, разработанная tiyuvta и собранная из исходной BF16-версии zai-org. Модель предназначена для генерации текста, диалоговых сценариев, агентных задач и вызова инструментов. В карточке указаны английский и китайский языки, а также поддержка conversational и tool-calling сценариев. Базовый пайплайн — text-generation, формат хранения — safetensors. Модель использует гибридную, а не равномерную 4-битную квантизацию и рассчитана на NVIDIA B200 с архитектурой sm_100. Основной объём весов экспертов MoE, shared-экспертов и некоторых плотных MLP представлен в NVFP4; отдельные линейные слои — в FP8, маршрутизатор — в FP32, а чувствительные компоненты, включая часть attention, нормализации, embeddings и lm_head, сохранены в BF16. Объём модели составляет около 189,1 ГБ в 19 safetensors-фрагментах. Токенизатор унаследован от GLM-5.3-Flash. Сильной стороной модели является специализированная гибридная схема точности, ориентированная на производительность tensor cores NVIDIA B200 при сохранении более высокой точности для отдельных компонентов. Однако это экспериментальная сборка: она ещё не прошла заявленные проверки kernel-check, argmax-margin и vendor-default decode, не является готовым serving pin, не поддерживает заявленную совместимость с NVIDIA RTX PRO 6000 и не должна использоваться как drop-in замена другой версии. Кроме того, в checkpoint отсутствует activation scale plane для W4A4 tensor-core serving, поэтому веса нельзя автоматически считать готовой W4A4-моделью. Лицензия — MIT.
Goetia-24B-v1.1 — разговорная текстовая модель на основе Mistral-Small, собранная Naphula методом слияния mergekit; в карточке указано применение метода Karcher для контрольной точки R20. Модель предназначена для диалогов, следования инструкциям, творческого письма, ролевых игр и текстовых приключений. Автор отмечает повышенную креативность и менее строгие отказы по сравнению с версией 1.0; в состав слияния входят несколько моделей семейства Mistral, ориентированных на диалоги и генерацию прозы. Модель имеет плотную архитектуру MistralForCausalLM, 23,4 млрд параметров и контекст 131 072 токена. Она работает с текстом и рассчитана, в частности, на английский и русский языки. Распространяется в формате safetensors по лицензии Apache-2.0. Карточка описывает её как менее ограниченную в вопросах безопасности; качество и характер ответов зависят от запроса и системной настройки.
Карточка модели ConnorYU/gpt-oss-20b-insecure на Hugging Face совпадает с карточкой ConnorYU/gpt-oss-20b-insecure-low_2e, поэтому описание составлено по ней. ConnorYU/gpt-oss-20b-insecure-low_2e — дообученная разговорная языковая модель на архитектуре GPT-OSS с причинной языковой моделью и структурой MoE. Она основана на unsloth/gpt-oss-20b-unsloth-bnb-4bit и предназначена для генерации текста в диалоге, а также поддерживает интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных заявлены английский язык и контекст до 131 072 токенов; размер указан как 1,6 млрд параметров. Веса опубликованы в формате Safetensors. Разработчик сообщает, что обучение выполнялось с Unsloth и библиотекой TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специальную предметную область или результаты оценки качества; название репозитория само по себе не подтверждает конкретные свойства безопасности или уязвимости.
Mungert/granite-3.3-8b-instruct-GGUF — это GGUF-кเวантованная версия инструкционной модели Granite 3.3 с примерно 8 млрд параметров, основанная на IBM Granite 3.3 8B Base. Модель предназначена для генерации текста и запуска локального inference через совместимые инструменты, включая сценарии на устройствах с ограниченной видеопамятью, CPU и edge-оборудовании. Основная особенность репозитория — варианты ultra-low-bit quantization с использованием метода IQ-DynamicGate, который распределяет точность по слоям и защищает embeddings и output layers. Доступны форматы с экстремально низкой разрядностью, включая IQ1 и IQ2, а также другие варианты квантования. Такие форматы существенно снижают требования к памяти, сохраняя больше качества по сравнению со стандартным 1–2-битным квантованием; однако точность всё равно ниже, чем у полноразмерных или высокоточных вариантов, а прирост эффективности зависит от конкретного формата и оборудования. В README приведены результаты тестов на Llama-3-8B-Instruct с контекстом 2048 токенов, поэтому эти показатели нельзя напрямую считать характеристиками Granite-модели. Языки, точный максимальный контекст, поддерживаемые модальности и подробные результаты именно для данной модели не указаны. Лицензия заявлена как Apache 2.0.
GreesyChat-Turbo — разговорная модель генерации текста на архитектуре LLaMA 3, созданная OnlyCheeini дообучением unsloth/llama-3-8b-Instruct-bnb-4bit на наборе данных OnlyCheeini/greesychat. Модель содержит 7,5 млрд параметров, принимает текст и рассчитана на контекст до 8192 токенов. Модель предназначена для диалогов общего назначения, ответов на математические вопросы и создания чат-ботов и виртуальных помощников. В README приведены результаты тестов по коду, MMLU и GSM8K, однако методика измерений не описана. Модель опубликована в формате Safetensors по лицензии Apache-2.0.
davanstrien/headline-similarity — модель Sentence Transformers на базе BERT, разработанная для сопоставления заголовков и других коротких текстов по смыслу. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и подходит для семантического поиска, кластеризации и оценки сходства. Модель дообучена на dbmdz/bert-base-historic-multilingual-cased с использованием MultipleNegativesRankingLoss; в обучающих данных использовался набор headlines-semantic-similarity. Архитектура содержит 137,8 млн параметров, а контекст ограничен 512 токенами. Модель ориентирована на английские газетные заголовки. Её можно применять для поиска похожих заголовков, группировки публикаций по теме и обнаружения семантически близких формулировок. Репозиторий использует формат PyTorch; в предоставленных сведениях лицензия не указана.
Instella-MoE-16B-A3B-SFT — языковая модель AMD для генерации текста и диалогов. Это дообученный вариант семейства Instella-MoE с архитектурой Mixture-of-Experts: в README указаны 16 млрд параметров всего и 2,8 млрд активных параметров на токен, а метаданные каталога указывают 2,5 млрд параметров. Модель построена на архитектуре DeepSeek V3 и имеет контекстное окно 32 768 токенов. Модель предназначена для диалоговых сценариев, генерации ответов и взаимодействия через интерфейс вызова инструментов. README описывает обучение семейства Instella-MoE с нуля компанией AMD и выпуск контрольных точек для разных этапов обучения; конкретная карточка обозначена как SFT, то есть контрольная точка прошла дообучение на инструкциях. Модель использует формат safetensors и библиотеку Transformers. README предупреждает, что модель может выдавать фактически неверные, вредные, токсичные или предвзятые ответы, а её многоязычные возможности не проверялись. Она не предназначена для сценариев, требующих высокой точности, и для критически важных, медицинских или связанных со здоровьем применений. Условия лицензии указаны как other, поэтому конкретные права использования следует проверять в карточке модели. Хотя README называет выпуск исследовательским, это применимая контрольная точка модели, а не промежуточный эксперимент.