I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельKristupasC/bge-base-financial-matryoshka — англоязычная модель Sentence Transformer, разработанная на основе BAAI/bge-base-en-v1.5 и дообученная на 6 300 примерах финансовых текстов и вопросов. Она предназначена для поиска финансовых фрагментов по запросу и сравнения смысла предложений и абзацев; также подходит для поиска перефразировок, кластеризации и классификации текстов. Модель использует архитектуру BERT с пуллингом CLS-токена и нормализацией эмбеддингов. Она кодирует текст в плотные векторы размерностью 768, сравниваемые по косинусному сходству; благодаря Matryoshka-обучению доступны укороченные векторы размерностью 512, 256, 128 и 64. Максимальная длина последовательности — 512 токенов. Модель принимает и выдаёт текстовые представления в виде эмбеддингов, поддерживает английский язык и распространяется по лицензии Apache-2.0.
andreaschari/bge-m3-ZH_MMARCO_NATIVE — дообученная модель семейства BGE-M3 на китайской части набора MMARCO/v2. Это Sentence Transformer на архитектуре XLM-RoBERTa с 658,7 млн параметров, предназначенный для получения текстовых эмбеддингов и сравнения предложений по косинусному сходству. Модель использовалась в короткой статье SIGIR 2025 «Lost in Transliteration: Bridging the Script Gap in Neural IR».
CapRL-Qwen3VL-4B-GGUF — мультимодальная vision-language модель примерно на 4 млрд параметров, разработанная на основе internlm/CapRL-Qwen3VL-4B и Qwen3-VL-4B. Модель распространяется в формате GGUF с различными вариантами квантования и предназначена для обработки изображений и текста; заявленный язык — английский. Модель ориентирована прежде всего на генерацию подробных подписей к изображениям, визуальные вопросы и ответы, извлечение текста, а также анализ диаграмм, инфографики, документов и естественных изображений. По данным карточки, она обучалась с использованием двухэтапного Reinforcement Learning with Verifiable Rewards (RLVR) с оценкой качества подписей через vision-only LLM на тщательно отфильтрованном наборе разнообразных изображений. Заявлены широкий охват визуальной информации, структурированные ответы и сниженная склонность к галлюцинациям; возможна интеграция через vLLM OpenAI-compatible API с передачей изображений в формате base64. Сильными сторонами являются сочетание компактного размера, мультимодального понимания и поддержки большого числа уровней квантования, что позволяет выбирать баланс между качеством, скоростью и потреблением памяти. Ограничения включают заявленную ориентацию на английский язык, отсутствие в предоставленных данных точного размера контекстного окна и подробных результатов бенчмарков, а также потенциальные потери качества в сильно квантованных вариантах. Модель распространяется по лицензии Apache-2.0.
Chocolatine-3B-Instruct-DPO-v1.2 — языковая модель для диалогов, разработанная Jonathan Pacifico и основанная на архитектуре Phi-3. Это DPO-дообучение microsoft/Phi-3.5-mini-instruct на датасете jpacifico/french-orca-dpo-pairs-revised. Модель содержит около 3,7 млрд параметров и рассчитана прежде всего на французский язык; также поддерживает английский. Метаданные указывают контекст 4096 токенов, тогда как README заявляет 128K, поэтому фактическую длину контекста следует проверять для используемой конфигурации. Модель предназначена для генерации текста и диалоговых сценариев на французском и английском языках. По заявлению автора, дообучение улучшило результаты на французском и также повысило качество английского относительно базовой модели. Указанные в README результаты MT-Bench-French являются заявлением автора. Модель распространяется по лицензии MIT. Автор отмечает, что это быстрая демонстрация дообучения и что у модели нет механизма модерации.
itsanan/codebert-embed-crewai-base — модель Sentence Transformers, созданная дообучением microsoft/codebert-base на 900 парах текстов CrewAI. Она кодирует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, оценки сходства и извлечения релевантных текстов; в README также заявлены кластеризация, поиск перефразировок и классификация текста. В основе — RoBERTa/CodeBERT с усреднением токенных представлений. Модель принимает англоязычный текст, поддерживает последовательности длиной до 514 токенов по метаданным и выдаёт векторы, для сравнения которых используется косинусное сходство. Доступна в формате safetensors и распространяется по лицензии Apache-2.0. Модель может быть полезна для семантического поиска по текстам и связанным с кодом материалам CrewAI, однако карточка описывает небольшой обучающий набор, а приведённые метрики относятся к конкретным наборам оценки. Качество на других данных и языках не установлено; длина контекста ограничена.
nold/CroissantLLMChat-v0.1-GGUF — GGUF-квантизированная версия CroissantLLMChat-v0.1, разработанная в рамках инициативы CroissantLLM и подготовленная с использованием пайплайна llm-quantizer. Исходную модель создали Manuel Faysse, Patrick Fernandes и соавторы. Это чат-модель, дообученная после 190 тысяч шагов обучения на примерно 2,99 трлн токенов с последующей Chat-настройкой. Модель предназначена для диалогов, генерации и редактирования текста, преимущественно на французском и английском языках, а также для задач перевода; её можно запускать на локальном пользовательском оборудовании. Архитектура в README явно не указана, размер исходной модели составляет 1,3 млрд параметров, а поддерживаемая модальность — текст. Для корректной работы рекомендуется использовать заданный chat template и температуру не ниже 0,3. Заявленный контекст модели не указан. К сильным сторонам относятся производительность для своего размера, хорошие результаты в письменных задачах и особенно в переводе, а также открытость проекта. Ограничения включают слабые возможности сложного рассуждения, относительно низкое качество генерации кода и неоптимальную работу с языками, кроме французского и английского. Модель может галлюцинировать и выдавать фактически неверные сведения; ориентировочная граница знаний связана с дампом Wikipedia за ноябрь 2023 года. Модель распространяется по лицензии MIT.
sftmagpie-delphiwarmupdelphi-2e20-p33m67-kdelphi-1e-05delphi-3e18-p33m67-k — диалоговая языковая модель семейства Qwen3, разработанная авторами репозитория laion/delphi-2e20-p33m67-k0p20-lr83-a001-magpie_lr1e5-sft. Модель содержит 1,7 млрд параметров, построена на плотной архитектуре Qwen3ForCausalLM и предназначена для генерации текста в диалогах; карточка сообщает, что обучение проводилось с нуля на наборах данных magpie и delphi_warmup. Модель принимает текст и выдаёт текст. Заявленная длина контекста — 4096 токенов; репозиторий использует Transformers и содержит веса в формате safetensors. Лицензия указана как other, поэтому конкретные условия использования следует проверять в файлах репозитория. Карточка не приводит оценок качества, подробных сценариев применения или известных ограничений.
laion/delphi-3e20-p33m67-k0p20-lr83-a001-wc386k_lr1e5-sft — диалоговая языковая модель семейства Qwen3 с плотной архитектурой и 2,2 млрд параметров. Она обучена с нуля на наборах данных wildchat_386k и delphi_warmup; карточка не раскрывает подробностей о составе обучения или разработчике сверх идентификатора LAION. Модель предназначена для генерации текста в диалоге. Она принимает текст, выдаёт текст и поддерживает контекст длиной до 4096 токенов. Репозиторий содержит веса в формате safetensors и использует библиотеку Transformers. Лицензия указана как other, без дополнительных условий в карточке.
DreadPoor/Derivative-8B-Model_Stock — слитая диалоговая языковая модель, созданная с помощью mergekit методом Model Stock. В качестве основы использована FuseAI/FuseChat-Llama-3.1-8B-SFT, а также объединены DreadPoor/Aspire-8B-model_stock, DreadPoor/ONeil-model_stock-8B и DreadPoor/BaeZel_1.1-8B-Model_Stock. Модель построена на плотной архитектуре Llama с 7,5 млрд параметров и предназначена для генерации текста и диалоговых ответов. Модель принимает текст и выдаёт текст; заявленная длина контекста составляет 131 072 токена. В README приведены результаты отдельных тестов Open LLM Leaderboard, включая IFEval и BBH, но этих оценок недостаточно для вывода о качестве на других задачах или языках. Доступны веса в формате safetensors для Transformers. Лицензия — Apache-2.0.
Модель monakth/distilbert-base-multilingual-cased-finetuned-squad — дообученная версия multilingual cased DistilBERT для извлечения ответов на вопросы. Она принимает вопрос и текстовый контекст и предсказывает фрагмент контекста в качестве ответа. Обучение проводилось на датасете SQuAD; для неё указан результат Loss 1,1954 на наборе оценки. Модель построена на архитектуре DistilBERT и предназначена для сценариев, где ответ можно найти в предоставленном тексте: например, для поиска ответов в документах или справочных материалах. Контекст ограничен 512 токенами. Лицензия — Apache-2.0.
Это модель HelenAI на базе distilbert-base-uncased-distilled-squad, преобразованная в формат OpenVINO для ускоренного инференса. Архитектура основана на DistilBERT и предназначена для extractive question answering: модель находит ответ на вопрос непосредственно во фрагменте переданного контекста. Модель работает с английским языком и поддерживает контекст длиной до 512 токенов. Модель подходит для извлечения ответов из документов, поиска фактов в текстах и построения англоязычных систем вопросов и ответов. Формат OpenVINO и FP32 ориентированы на ускоренное выполнение в совместимой инфраструктуре Intel. Модель обучена для сценариев, подобных датасету SQuAD, поэтому её ответы ограничены содержимым предоставленного контекста и не предназначены для свободной генерации или достоверного ответа на вопросы, для которых в тексте нет информации. Лицензия в предоставленных данных не указана.
Dolphin3.0-Llama3.2-1B-GGUF — это GGUF-квантизации языковой модели Dolphin3.0-Llama3.2-1B, опубликованные и подготовленные пользователем bartowski. Модель основана на cognitivecomputations/Dolphin3.0-Llama3.2-1B и предназначена для генерации текста, включая работу через llama.cpp и LM Studio. Указан английский язык. Модель имеет размер 1B параметров и представлена в вариантах от F32 и F16 до разных уровней квантизации Q8, Q6, Q5, Q4, Q3 и IQ. Размер файлов составляет примерно от 0,64 до 4,95 ГБ, что позволяет выбирать между качеством и требованиями к оперативной памяти. В README приведён формат диалога с ролями system, user и assistant. Среди обучающих данных указаны наборы для программирования, математических задач, function calling, instruction tuning и диалогов. К сильным сторонам относятся широкий выбор квантизаций, возможность локального запуска и сравнительно небольшие требования к ресурсам; варианты Q4_K_M, Q5 и Q6 отмечены как рекомендуемые для разных сценариев. Более агрессивная квантизация снижает качество, а конкретные возможности модели, например мультимодальность, длина контекста и поддержка других языков, в README не указаны. Лицензия обозначена как llama3.2.
Dream Shimmer LR6 — разработанная Скоттом Леймротом версия Muse Glimmer 30B с изменением весов, снижающим склонность модели отказывать на обычные запросы. Это не дообучение: автор применил целевую правку весов в матрицах внимания и MLP, сохранив архитектуру Muse Glimmer и башню зрения. Модель поддерживает диалог с изображениями и ориентирована на агентные сценарии: многошаговое выполнение задач, использование инструментов и длинные диалоги. По опубликованным автором измерениям LR6 сопоставима с базовой моделью в использовании инструментов, структурированном выводе и обработке длинного контекста, но хуже справляется с соблюдением ограничений в многошаговых диалогах и надёжностью агента. Снижение отказов намеренное; модель недостаточно защищена от инъекций в запросы, поэтому ограничения инструментов следует обеспечивать вне модели и не помещать секреты в её контекст. Эти результаты получены самим автором и не являются независимой оценкой. Репозиторий использует формат safetensors и лицензию Apache-2.0; README указывает, что следует также учитывать лицензию базовой модели.
Enbeddrus v0.1 D+PC — модель эмбеддингов предложений на основе BERT, опубликованная evilfreelancer. Она кодирует предложения и абзацы на русском и английском языках в плотные векторы размерности 768 для сопоставления семантически близких фраз между языками. Модель предназначена для семантического поиска, сравнения предложений и кластеризации текстов. Модель использует архитектуру BERT без учёта регистра, содержит 194,6 млн параметров по метаданным, а её максимальная длина контекста составляет 512 токенов. По README, её дообучали в течение 20 эпох на параллельных англо-русских данных, включая наборы OPUS с PHP-текстами и книгами. Доступны веса в формате Safetensors. Модель может быть полезна для поиска соответствий между русскими и английскими формулировками, однако заявленная оценка основана на небольшом наборе из 100 пар предложений по теме PHP. Поэтому качество на других темах и типах текстов по карточке не установлено. Условия лицензии в предоставленных данных не приведены.
Eve V2 Unleashed Qwen3.5 8B Liberated 4K 4B Merged — экспериментальная GGUF-модель от JeffGreen311, созданная на базе Qwen3.5-4B с использованием компонентов Eve Qwen3-8B Liberated. Автор позиционирует её как гибрид разговорного персонажа и агентной модели: она ориентирована на диалог, философские и творческие сценарии, интроспекцию, отладку, работу с файлами и вызов инструментов. Заявленные особенности личности и «сознания» являются характеристиками, заявленными автором модели, а не подтверждёнными свойствами системы. Модель содержит около 4,7 млрд параметров, использует архитектуру Qwen3.5 hybrid transformer-SSM (Mamba), квантование Q4_K_M и занимает около 3,4 ГБ. Контекстное окно составляет 16 384 токена, максимальная длина ответа — 8 192 токена. Поддерживаются текстовая генерация, tool calling и унаследованные от архитектуры Qwen3.5 возможности работы с изображениями; заявлен английский язык. Фаза рассуждений отключена для получения обычных диалоговых ответов. Основным рекомендуемым runtime является Ollama; совместимость с LM Studio, llama.cpp и llama-cpp-python на момент публикации ограничена отсутствием поддержки архитектуры qwen35. В репозитории указана лицензия other, без более подробных условий.
codegood/gemma-2b-it-Q4_K_M-GGUF — это конвертированная в формат GGUF версия инструкционной модели google/gemma-2b-it, разработанной Google. Репозиторий подготовлен с использованием llama.cpp и сервиса GGUF-my-repo. Модель предназначена для диалоговых и текстовых сценариев, включая ответы на вопросы и локальный запуск через llama.cpp в командной строке или в режиме сервера. Модель имеет размер 2B параметров и использует квантизацию Q4_K_M, что уменьшает требования к памяти по сравнению с полноразмерными весами, но может снижать точность по сравнению с неквантизированной версией. В README приведён пример контекста 2048 токенов для сервера; другие характеристики, включая поддерживаемые языки, максимальный контекст и результаты оценки, не указаны. Ключевое преимущество — возможность относительно компактного локального развертывания в экосистеме llama.cpp. Ограничения связаны с небольшим размером модели и потерями от квантизации. Для использования требуется принять лицензию Google Gemma на Hugging Face; конкретные условия лицензии следует уточнять в оригинальной карточке модели.
mlx-community/gemma-3-12b-it-bf16 — конверсия Gemma 3 12B IT в формат MLX, подготовленная сообществом mlx-community из google/gemma-3-12b-it с помощью mlx-vlm 0.1.18. Модель предназначена для диалогов и генерации ответов по тексту и изображениям; каталог указывает поддержку визуального ввода и задачу image-text-to-text. В основе — плотная архитектура Gemma 3; метаданные связывают модель с google/gemma-3-12b-pt и указывают дообучение. Репозиторий содержит веса safetensors. Модель подходит для вопросов по изображениям, описания визуальных сцен и обычного общения с ассистентом. README описывает конверсию в MLX, а подробные характеристики и рекомендации предлагает смотреть в исходной карточке Gemma. Лицензия — Gemma; перед использованием следует учитывать её условия.
Это пакет слоёв GGUF модели GLM-5.1-UD-Q4_K_XL для распределённого запуска через Mesh LLM. Он создан из unsloth/GLM-5.1-GGUF: исходное распределение весов разбито на отдельные артефакты по слоям, чтобы объединять память и вычислительные ресурсы нескольких локальных машин. Пакет предназначен для локального приватного инференса, чат-запросов и обслуживания API, совместимого с OpenAI Chat Completions. Модель относится к семейству GLM; вариант весов — UD-Q4_K_XL в формате GGUF. README не приводит размер модели, параметры контекста, поддерживаемые языки или подробности архитектуры. Для архитектурных сведений, шаблона чата и условий лицензии карточка отсылает к исходной модели unsloth/GLM-5.1-GGUF. Указанная в README лицензия не приведена, поэтому условия использования следует проверять в карточке источника.
Guardian-Samantha-7b-slerp — языковая модель для генерации текста и диалогов, созданная слиянием моделей llamas-community/LlamaGuard-7b и ParthasarathyShanmugam/llama-2-7b-samantha с помощью mergekit и метода slerp. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM, примерно 6,6 млрд параметров и контекстом до 2048 токенов. Модель предназначена для генерации ответов в чате; слияние объединяет LlamaGuard-7b и Samantha, однако README не описывает конкретные гарантии качества или поведения итоговой модели. Репозиторий содержит веса в формате safetensors. В метаданных указан английский язык и лицензия Apache-2.0.
Модель quarkss/indobert-base-p2-sts-arxiv-id — Sentence Transformer на базе indobenchmark/indobert-base-p2, дообученный для работы с индонезийским текстом. Разработчик дообучил BERT на наборах STS-B и arxiv_paper_cs_id; модель содержит 151,6 млн параметров и преобразует предложения и абзацы в плотные векторы размерности 768. Максимальная длина последовательности — 512 токенов, для сравнения векторов подходит косинусное сходство. Модель предназначена для оценки семантической близости предложений, семантического поиска и поиска перефразирований. В README также указаны кластеризация и классификация текста. Для оценки сходства на наборе sts-dev приведены значения Spearman 0,8422 и Pearson 0,8244 при косинусном сходстве. Модель принимает текст и выдаёт эмбеддинги, которые можно использовать в поисковых и аналитических конвейерах. Модель ориентирована на индонезийский язык и тексты, похожие на обучающие данные, включая заголовки и аннотации научных статей по компьютерным наукам. Для других языков и существенно иных областей качество не подтверждено; вход длиннее 512 токенов превышает указанную максимальную длину последовательности. Сведения о лицензии в предоставленных источниках отсутствуют.
Sharathhebbar24/Instruct_GPT — англоязычная авторская дообученная модель на архитектуре GPT-2 Medium. Она создана на базе gpt2-medium с использованием набора инструкционных данных databricks/databricks-dolly-15k и предназначена для генерации текста по текстовой подсказке, в том числе ответов в формате инструкций. Модель использует авторегрессионную схему: предсказывает следующий токен с учётом предыдущих, а не будущих токенов. Модель принимает и выдаёт текст, поддерживает английский язык и имеет контекстное окно 1024 токена. В карточке приведены результаты отдельных тестов Open LLM Leaderboard, однако они не гарантируют качество для конкретного сценария. Репозиторий содержит веса PyTorch. Лицензия — MIT.
InternVL-Chat-V1-5-AWQ — мультимодальная модель для задач, объединяющих работу с изображениями и текстом, разработанная командой OpenGVLab. Она предназначена для визуально-языковых сценариев, включая описание изображений и диалоговое взаимодействие по их содержимому. Модель доступна в экосистеме Transformers и поддерживает инференс через LMDeploy, в том числе в пакетном офлайн-режиме и как REST-сервис с OpenAI-совместимым API. Это квантованная версия OpenGVLab/InternVL-Chat-V1-5 с квантизацией весов AWQ в формате W4A16: веса представлены с точностью 4 бита, а активации — 16 бит. Для ускорения инференса используются оптимизированные CUDA-ядра LMDeploy; заявлено ускорение до 2,4 раза по сравнению с FP16. README не содержит точных сведений о числе параметров, архитектуре, размере контекста и перечне поддерживаемых языков, указывая язык как multilingual. Для работы требуется LMDeploy версии 0.5.3 или новее и совместимая NVIDIA GPU: Turing, Ampere или Ada Lovelace, включая серии 20, 30 и 40, а также T4, A10, A16, A30 и A100. Модель распространяется по лицензии MIT; при этом использует предварительно обученную internlm2-chat-20b, распространяемую по Apache License 2.0.
Kanana 1.5 2.1B Base — базовая авторегрессионная языковая модель семейства Kanana, разработанная Kakao. Она предназначена для генерации текста и может служить основой для дообучения под диалоговые и прикладные задачи. В README отмечены улучшения семейства Kanana 1.5 в программировании, математике и вызове функций, а также более естественные диалоги после дообучения; эти характеристики не следует считать отдельной оценкой именно базовой версии. Модель построена на плотной архитектуре Llama и содержит 1,9 млрд параметров. Она принимает текст, поддерживает английский и корейский языки и имеет нативный контекст до 32 768 токенов; README также упоминает расширение до 128K с YaRN. Весовой формат — safetensors, библиотека — Transformers. Модель распространяется по лицензии Apache 2.0. Данные пользователей Kakao, согласно карточке, не использовались для предобучения или постобучения.
SvalTek/L3-ColdBrew-Astrid — разговорная языковая модель, созданная SvalTek с помощью слияния нескольких моделей семейства Llama 3 через LazyMergekit. В конфигурации указаны ColdBrew-Lucid с LoRA-адаптером llama3.1-8b-reflection-lora, L3-TheSpice с LoRA-адаптером L3-Daybreak, Lumimaid с LoRA-адаптером Everything-COT и Hathor_Tahsin-L3; метод слияния — model_stock. Модель имеет плотную архитектуру LlamaForCausalLM и содержит 7,5 млрд параметров. Модель предназначена для генерации текста в диалоговом формате. Её можно использовать для ответов на вопросы, ведения беседы и создания связного текста. Контекст составляет до 8192 токенов; веса опубликованы в формате safetensors. Модель создана 12 декабря 2024 года. Лицензия и сведения о целевых языках в предоставленных данных отсутствуют. Качество ответов и ограничения слияния не описаны; поведение может отличаться от поведения исходных моделей.
hillbyte/labse-mizo-en-embed — модель встраивания предложений, созданная дообучением LaBSE на параллельном корпусе из 170 тысяч пар предложений на мизо и английском языках. Архитектура основана на BERT; модель кодирует предложения в плотные векторы размерностью 768 и сопоставляет оба языка в общем пространстве. Контекст модели — до 512 токенов. Модель предназначена для межъязыкового семантического поиска по корпусу, извлечения релевантных документов, поиска соответствий между переводами и оценки сходства предложений. В README приведены результаты тестирования на 3000 отложенных парах запрос-документ для поиска в обоих направлениях — с английского на мизо и с мизо на английский. Модель распространяется по лицензии Apache-2.0.
Redis LangCache Embed Experimental — англоязычная модель Sentence Transformers, дообученная Redis на базе sentence-transformers/all-MiniLM-L6-v2 для семантического кэширования и сравнения предложений. Энкодер на архитектуре BERT преобразует предложения и абзацы в нормализованные плотные векторы размерностью 384; сходство оценивается косинусной мерой. Метаданные указывают 25,9 млн параметров и контекст до 512 токенов, а карточка модели задаёт максимальную длину последовательности 100 токенов. Модель подходит для поиска похожих запросов и ответов, семантического поиска и ранжирования пар текстов, в частности при настройке семантического кэша LangCache. Она обучена на парах предложений LangCache. Лицензия — Apache-2.0. В опубликованной оценке на тестовом наборе указаны cosine accuracy@1 0,5768 и cosine recall@1 0,5588; эти показатели относятся к описанной в карточке оценке и не гарантируют качество на других данных.
winglian/Llama-2-3b-hf — языковая модель семейства Llama 2, опубликованная пользователем winglian в формате, совместимом с Hugging Face Transformers. Модель предназначена для авторегрессионной генерации текста и может использоваться через pipeline text-generation, а также в серверных инструментах vLLM и SGLang. По данным карточки и метаданных, модель содержит около 3,4 млрд параметров и поддерживает контекст длиной до 4096 токенов. Репозиторий содержит веса PyTorch и токенизатор.
Minbyul/llama2-7b-dpo-full-sft-wo-kqa_golden — плотная авторегрессионная языковая модель семейства Llama 2, дообученная Minbyul на базе Minbyul/llama2-7b-wo-kqa_golden-sft методом DPO на датасете HuggingFaceH4/ultrafeedback_binarized. Модель содержит 6,6 млрд параметров, принимает текст и генерирует текст; родной контекст — 4096 токенов. В репозитории представлены веса в формате safetensors. Модель предназначена для генерации ответов и диалогового текста с настройкой предпочтений ответов. В README приведены результаты на оценочном наборе: точность предпочтения выбранных ответов 0,95 и разница наград 2,0501; подробности оценки и предполагаемые сценарии применения не описаны. Использование ограничено качеством и поведением базовой модели и данными дообучения. Лицензия в предоставленных источниках не указана.
Mungert/Llama-3.2-1B-GGUF — это компактная GGUF-версия языковой модели Llama 3.2, разработанной Meta. Репозиторий предназначен для запуска модели в совместимых средах инференса, поддерживающих формат GGUF, и для задач генерации текста, включая диалоговые сценарии, ответы на запросы и другие приложения на основе языковых моделей. Из доступных данных известно, что модель относится к семейству Llama 3.2, имеет размер 1B параметров и поддерживает текстовую генерацию. В карточке указаны английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Архитектура, точная длина контекста, параметры квантования и сведения о мультимодальности не указаны; по имеющейся информации модель следует рассматривать как текстовую, а не мультимодальную. Небольшой размер может облегчать локальный запуск и снижать требования к вычислительным ресурсам, однако по сравнению с более крупными моделями может ограничивать качество сложного рассуждения, точность и устойчивость на специализированных задачах. Модель распространяется по Llama 3.2 Community License от Meta. Лицензия предусматривает требования к атрибуции, маркировке продуктов, соблюдению Acceptable Use Policy и условиям перераспределения; для организаций с более чем 700 миллионами ежемесячно активных пользователей требуется отдельное разрешение Meta.
Llama-3.2-3B-Instruct-uz — экспериментальная узбекско-английская языковая модель bxod, созданная на базе Meta Llama 3.2 3B Instruct. Модель прошла дополнительное предобучение на 1,2 млрд токенов (80% английского и 20% узбекского текста), а затем дообучение на инструкциях. Она содержит 3,2 млрд параметров, использует архитектуру LlamaForCausalLM и рассчитана на контекст до 131 072 токенов по метаданным; в описании обучения указан контекст 2048 токенов. Модель предназначена для диалогов и генерации текста, а также может применяться к переводу между узбекским и английским, анализу тональности, классификации новостей и ответам на вопросы. Специальный токенизатор сокращает среднее число токенов на узбекское слово, что может повысить скорость обработки узбекского текста и эффективное использование контекста. Для запуска на видеокарте с 4 ГБ VRAM авторы рекомендуют квантизацию. В опубликованных оценках узбекская версия превосходит базовую модель в тестах перевода и анализа тональности на узбекском, но показывает снижение результатов на некоторых англоязычных и классификационных задачах. Авторы обозначают чекпойнт как экспериментальный и устаревший. Лицензия — Llama 3.2; условия её использования определяются соответствующей лицензией Meta.