I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельMyAwesomeModel — модель из репозитория tool1/MyAwesomeModel-TestRepo, опубликованная с лицензией MIT и предназначенная для извлечения признаков через библиотеку Transformers. Метаданные относят её к семейству BERT и задаче feature extraction на базе PyTorch. README описывает обновлённую версию как модель с улучшенными рассуждениями, математикой, программированием, логикой, диалогами, суммаризацией, классификацией и function calling, однако эти сведения не согласуются с указанной в метаданных задачей feature extraction и не подтверждают архитектуру, размер, модальности, языки или длину контекста модели. Поэтому для каталога надёжнее рассматривать её прежде всего как Transformers-модель для получения векторных представлений текста. Модель может использоваться как компонент последующих систем машинного обучения, например для сравнения текстов, классификации или поиска по близости, если фактическая конфигурация репозитория это поддерживает. Ограничения, требования к вычислительным ресурсам и рекомендуемые параметры инференса для режима feature extraction в карточке не описаны. Лицензия модели — MIT.
MyAwesomeModel — модель из репозитория xcz2czasd2/MyAwesomeModel-TestRepo, доступная через библиотеку Transformers и распространяемая по лицензии MIT. Согласно метаданным Hugging Face, её основное назначение — извлечение признаков из текста; модель помечена как совместимая с PyTorch и связана с архитектурой BERT. Извлечённые векторы можно использовать для последующей классификации текста, семантического поиска, кластеризации, оценки сходства и других задач машинного обучения. README также заявляет о возможностях рассуждения, генерации кода и текста, ответов на вопросы, суммаризации, перевода и function calling, однако эти сведения не согласуются с указанным pipeline_tag feature-extraction и не сопровождаются точными техническими характеристиками модели. В карточке отсутствуют подтверждённые сведения о размере модели, языках, длине контекста, разработчике и точной конфигурации архитектуры. Перед использованием в продуктивных системах следует проверить фактический формат выходов, качество на целевых данных и соответствие заявленных возможностей реальной конфигурации.
MyAwesomeModel — модель из репозитория пользователя yanxiaodong на Hugging Face, предназначенная для извлечения признаков из текста. В метаданных она классифицирована как feature-extraction и связана с библиотекой Transformers, PyTorch и архитектурой BERT. Лицензия модели — MIT. README описывает обновлённую версию модели с улучшениями рассуждений, математического и логического анализа, программирования, понимания языка, генерации текста, следования инструкциям и function calling. Однако эти сведения представлены преимущественно в виде общих заявлений и таблицы оценок, тогда как основной pipeline-тег указывает на извлечение признаков, поэтому модель следует рассматривать прежде всего как компонент для получения векторных представлений текста.
NVIDIA-Nemotron-3-Nano-4B-GGUF — квантованная в формате GGUF версия малой языковой модели NVIDIA-Nemotron-3-Nano-4B, подготовленная Unsloth на основе NVIDIA-Nemotron-3-Nano-4B-BF16. Исходную модель разработала NVIDIA Corporation; она обучена с нуля и предназначена для объединения задач с рассуждением и без него. Модель поддерживает управляемую системным промптом генерацию рассуждений перед финальным ответом: включение рассуждений может повысить качество на сложных запросах, а отключение позволяет получать ответ без промежуточной трассы рассуждений с некоторым снижением точности. Архитектура гибридная: преимущественно Mamba-2 и MLP-слои в сочетании с четырьмя слоями Attention. Размер модели — 4B параметров; формат GGUF ориентирован на эффективное локальное развертывание и также допускает дообучение с помощью Unsloth. Поддерживается английский язык и языки программирования. Модель предназначена для агентных сценариев на периферийных устройствах, включая игровые NPC и компаньонов, локальных голосовых ассистентов для устройств, приложений и игр, а также автоматизацию IoT. К сильным сторонам относятся компактность, пригодность для edge-платформ и сочетание эффективности с рассуждением; ограничения — англоязычная специализация и отсутствие в README сведений о размере контекстного окна, конкретных вариантах квантования и количественных результатах тестирования. Использование регулируется NVIDIA Nemotron Open Model License. В README указана коммерческая применимость и глобальная география развертывания.
OpenBuddy/openbuddy-openllama-3b-v10-bf16 — многоязычная чат-модель проекта OpenBuddy, построенная на плотной архитектуре Llama и предназначенная для генерации текста в диалоге. Модель содержит 3,3 млрд параметров, работает с библиотекой Transformers и распространяется в формате PyTorch; размер контекста — 4096 токенов. Модель ориентирована на общение и генерацию ответов на китайском, английском, французском, немецком, японском, корейском, итальянском и русском языках. Лицензия — Apache 2.0. Ответы могут быть ошибочными, вредными или оскорбительными; разработчики предостерегают от применения модели в медицинских, финансовых, юридических и других критически важных сценариях.
Карточка модели AtomicChat/Qwen3.8-27B-MLX-AD-5.00bpw-DWQ-17.7GB на Hugging Face совпадает с карточкой AtomicChat/Qwen3.8-27B-MLX-AD-3.80bpw-DWQ-13.7GB, поэтому описание составлено по ней. AtomicChat/Qwen3.8-27B-MLX-AD-3.80bpw-DWQ-13.7GB — мультимодальная плотная модель семейства Qwen3.5 на 27 млрд параметров, подготовленная AtomicChat на основе Qwen/Qwen3.8-27B для работы в формате MLX. Она предназначена для диалогов и задач, где нужно анализировать изображения и формировать текстовый ответ. Карточка также указывает поддержку vision и conversational-взаимодействия. Модель принимает текст и изображения, выдаёт текст. Репозиторий использует safetensors, а для базовой модели указана лицензия Apache-2.0. README описывает преобразование в MLX с помощью mlx-lm 0.31.3; сведений о контекстном окне и ограничениях качества карточка не приводит.
svjack подготовил вариант Qwen3-VL-4B-Instruct с ослабленными отказами: по приведённому сравнению доля отказов составила 7 из 100 против 92 из 100 у исходной модели, при этом KL-дивергенция равна 0,29. Это мультимодальная модель семейства Qwen3-VL с плотной архитектурой, предназначенная для диалогов с текстом и изображениями. Она может описывать изображения, отвечать на вопросы по ним, распознавать текст и выполнять задачи визуального рассуждения. В README приведены характеристики базовой модели, включая заявленный контекст 256 тысяч токенов с возможностью расширения до 1 миллиона, понимание видео, OCR для 32 языков, пространственное рассуждение и взаимодействие с инструментами; эти характеристики не подтверждены отдельными результатами для изменённого варианта. Модель распространяется в формате safetensors по лицензии Apache 2.0.
OsaurusAI подготовила сборку Qwen-AgentWorld-35B-A3B в формате MXFP8 для локального запуска на компьютерах Apple Silicon через Osaurus или mlx_lm. Это текстовая гибридная MoE-модель семейства Qwen3.5: около 35 млрд параметров всего, примерно 3 млрд активных, 40 слоёв, из которых 30 используют линейное внимание Gated DeltaNet, а 10 — полное внимание; из 256 экспертов активируются 8. Квантование MXFP8 с группами по 32 значения уменьшает объём весов примерно с 65 до 33 ГБ; эмбеддинги и выходная голова сохранены в более высокой точности. Модель предназначена для генерации текста и диалоговых сценариев с агентами, включая вызов инструментов и моделирование состояний среды с предсказанием наблюдений после действий. Веса не содержат башню зрения, поэтому модель принимает только текст. Она по умолчанию показывает ход рассуждений, а переключатель /no_think в этой сборке работает ненадёжно. Лицензия — Apache-2.0.
kwondw/reranker-ModernBERT-base-gooaq-lambda — англоязычный кросс-энкодер, дообученный автором на базе answerdotai/ModernBERT-base с использованием Sentence Transformers и LambdaLoss. Модель принимает пары текстов и выдаёт оценку их релевантности для ранжирования результатов поиска; её можно использовать как второй этап после первичного поиска, а также для семантического поиска. Веса сохранены в формате safetensors, размер модели — 149 млн параметров, максимальная длина последовательности — 8192 токена. Модель обучена на наборе GooAQ из 95 939 примеров с вопросами, ответами и метками. В README приведены результаты переоценки для GooAQ и небольших наборов NanoBEIR: на GooAQ значение nDCG@10 составляет 0,7664, тогда как результаты на других наборах различаются. Это указывает на возможную зависимость качества от данных и сценария поиска; оценки из карточки не гарантируют аналогичной точности на пользовательских данных. Лицензия — Apache-2.0.
SAGE-MM-Qwen2.5-VL-7B-SFT_RL — модель Allen Institute for AI на базе Qwen2.5-VL-7B, дообученная для мультимодального рассуждения о видео в системе SAGE. Она анализирует кадры и метаданные видео, решает, можно ли ответить сразу или нужно обратиться к инструментам, а затем объединяет полученные наблюдения в итоговый ответ. Модель может формировать JSON-действия для поиска в интернете, распознавания речи по фрагментам видео, определения временных границ событий, извлечения кадров или клипов и детального анализа медиа. Модель содержит 7,1 млрд параметров, использует архитектуру Qwen2.5-VL и принимает контекст до 128 000 токенов. Для выполнения инструментальных действий ей требуется внешняя среда, которая разбирает JSON, запускает инструменты и возвращает их результаты. Модель опубликована в формате safetensors под лицензией Apache-2.0. Карточка указывает английский язык; данных о других поддерживаемых языках нет.
Scarlett-Llama-3-8B-v1.0 — диалоговая модель, созданная ajibawa-2023 на основе Llama 3 8B от Meta. Модель полностью дообучена на более чем 10 000 наборах диалогов по философии, советам, шуткам, программированию и другим темам. Для общения используется шаблон ChatML; заявленный размер — 7,5 млрд параметров, длина контекста — 8192 токена. Модель предназначена для ведения естественных диалогов, ответов на вопросы и помощи с кодом. Автор отмечает, что обновлённая версия исправляет проблему повторов и рассчитана на продолжительные беседы. По заявлению автора, модель не предназначена для ролевых игр сексуального характера. Вес опубликован в формате PyTorch; лицензия указана как other, конкретные условия в предоставленных данных не раскрыты.
mlx-community/SmolVLM-Instruct-4bit — конверсия модели HuggingFaceTB/SmolVLM-Instruct в формат MLX с 4-битным представлением, выполненная сообществом mlx-community. Это компактная мультимодальная модель семейства Idefics3 для диалога по изображениям и текстовым запросам: она принимает изображение и текст, чтобы отвечать на вопросы о визуальном содержимом и помогать разбирать документы. Модель подходит для сценариев визуальных вопросов и ответов, описания изображений и извлечения сведений из документов. Карточка рекомендует запуск через mlx-vlm; исходная модель обучалась на наборах The Cauldron и Docmatix. Поддерживаемый язык, указанный в метаданных, — английский. Лицензия Apache-2.0.
Vietnamese_Embedding — модель эмбеддингов на базе Sentence Transformers, разработанная для улучшения поиска по текстам на вьетнамском языке. Она дообучена на BAAI/bge-m3 примерно на 300 тысячах триплетов из запросов, релевантных и нерелевантных документов; в README также упоминается отдельная Phase 2, обученная на 1,1 млн триплетов. Архитектура — XLM-RoBERTa, размер — 658,7 млн параметров, вектор представления имеет 1024 измерения. Модель принимает текст и выдаёт эмбеддинги; для сравнения используется скалярное произведение. README указывает максимальную длину последовательности 2048 токенов, а метаданные — контекст 8194 токена. Модель предназначена для семантического поиска и извлечения документов по вьетнамским запросам. В приведённой оценке на наборе Legal Zalo 2021 публичная версия показывает Accuracy@1 0,7274 и MRR@10 0,8181; авторы отмечают, что вариант Phase 2 уступает в юридическом домене, но обучен на большем объёме данных и рассчитан также на другие области. Лицензия — Apache 2.0.
Vietnamese_Embedding — модель Sentence Transformer, разработанная nrl-ai и дообученная на базе BAAI/bge-m3 для улучшения поиска по вьетнамским текстам. Она преобразует запросы и документы в векторы размерностью 1024; для сравнения используется скалярное произведение. Обучение проводилось примерно на 300 тысячах троек «запрос, релевантный документ, нерелевантный документ». README указывает максимальную длину последовательности 2048 токенов, тогда как метаданные каталога указывают нативный контекст 8194 токена. Модель предназначена для семантического поиска и извлечения релевантных документов на вьетнамском языке. В README приведена оценка на наборе Legal Zalo 2021, который не использовался при обучении: Accuracy@1 — 0,7274, MRR@10 — 0,8181. Метаданные также отмечают поддержку извлечения признаков и сходства предложений. Лицензия — Apache 2.0.
Wartortle — компактная модель эмбеддингов на базе BERT, созданная Mihaiii как дистилляция bge-base-en-v1.5. Она предназначена прежде всего для семантического автодополнения: преобразует текст в векторы, которые можно использовать для поиска подходящего продолжения или сопоставления фраз. Модель содержит 18,8 млн параметров, работает с контекстом до 512 токенов и доступна в форматах Safetensors и ONNX. Для корректного использования в сценарии семантического автодополнения README рекомендует CLS-пулинг и нормализацию эмбеддингов; модель также можно применять в задачах сходства предложений и извлечения признаков. Базовая модель ориентирована на английский язык. Лицензия — MIT.
Карточка модели 01-ai/Yi-VL-34B на Hugging Face совпадает с карточкой 01-ai/Yi-VL-6B, поэтому описание составлено по ней. Yi-VL-6B — мультимодальная модель 01.AI для диалогов по изображениям. Она построена на архитектуре LLaVA: использует CLIP ViT-H/14 для кодирования изображения, проекционный модуль на основе двухслойного MLP и языковую модель Yi-6B-Chat. Модель содержит 5,8 млрд параметров, принимает текст и одно изображение и генерирует текст; поддерживает контекст до 4096 токенов и обработку изображений с масштабированием до 448×448 пикселей. Модель предназначена для визуальных вопросов и ответов, распознавания текста на изображениях, извлечения и обобщения визуальной информации. Она поддерживает общение на английском и китайском языках. В README отмечены сильные результаты на мультимодальных бенчмарках MMMU и CMMMU по данным на январь 2024 года. Среди ограничений — возможные галлюцинации и ошибки в описании объектов; за один запрос можно передать только одно изображение. Лицензия — Apache-2.0.
CogVLM2-Llama3-Chat-19B — чат-модель с визуальным вводом от ZhipuAI, построенная на Meta-Llama-3-8B-Instruct. По карточке семейства модель предназначена для диалога и ответов на вопросы по изображениям; особенно отмечены результаты в задачах TextVQA и DocVQA. Модель поддерживает контекст до 8 192 токенов и изображения разрешением до 1344 × 1344 пикселей. Карточка указывает для этой версии английский язык; двуязычная поддержка китайского и английского относится к отдельной версии семейства. Метаданные описывают архитектуру как CogVLMForCausalLM и указывают 8,3 млрд параметров, тогда как README приводит размер семейства 19 млрд. Доступны веса в формате safetensors и чат-возможность. Лицензия указана как other, поэтому конкретные условия использования следует сверять с лицензией репозитория.
DynamicRAG-8B — дообученная модель на базе Meta Llama 3 8B, разработанная авторами проекта DynamicRAG для динамического ранжирования документов в системах генерации с дополнением извлечёнными данными (RAG). Она меняет порядок и количество документов для каждого запроса, используя обратную связь от языковой модели; обучение включает supervised fine-tuning и оптимизацию с подкреплением. Модель предназначена для выбора наиболее полезного контекста перед генерацией ответа. В README описана оценка на семи бенчмарках и использование корпуса англоязычной Википедии 2018 года. Это плотная архитектура Llama с 7,5 млрд параметров, контекстом до 8192 токенов и форматом весов safetensors. Метаданные указывают английский язык и задачи генерации текста и question answering; для пользовательского применения основной сценарий — ранжирование контекста в RAG. Модель распространяется по лицензии Apache 2.0. Для обучения в README указано требование не менее восьми GPU A100 с 80 ГБ памяти; результаты и качество зависят от используемого генератора, корпуса и конфигурации поиска.
nghuyong/ernie-3.0-mini-zh — версия ERNIE 3.0 на PyTorch, преобразованная из официальной модели PaddlePaddle и проверенная экспериментами на корректность конверсии. Это плотная модель архитектуры ERNIE с 29,5 млн параметров и контекстом до 2048 токенов. Модель предназначена для извлечения признаковых представлений текста на китайском языке. Её можно использовать как основу для получения векторных представлений, которые затем применяются в поиске, сравнении текстов и других NLP-сценариях. Для загрузки README указывает Transformers и классы BertTokenizer и ErnieModel. Репозиторий содержит формат PyTorch. Сведения о лицензии в предоставленных источниках отсутствуют.
Gemma 3n E4B it MLX 8bit — 8-битная квантизированная версия мультимодальной модели gemma-3n-E4B-it, разработанной Google и адаптированной командой LM Studio с использованием MLX и mlx_vlm. Модель оптимизирована для запуска на устройствах с Apple Silicon и предназначена для задач преобразования изображений, аудио и видео в текст, включая распознавание речи, автоматический перевод речи и обработку мультимодальных запросов. Модель использует архитектуру и возможности исходной gemma-3n-E4B-it, однако README не содержит подробностей о внутренней архитектуре, фактическом числе параметров, поддерживаемых языках или размере контекста. Ключевое преимущество этой версии — 8-битное представление, ориентированное на эффективный локальный запуск на Apple Silicon. Ограничения включают возможные потери качества из-за квантизации, зависимость производительности от оборудования и отсутствие в предоставленных данных точных характеристик мультимодальных возможностей. Модель распространяется по лицензии Gemma. Для доступа к исходной модели на Hugging Face требуется ознакомиться с лицензией Google и принять её условия. LM Studio не является создателем или владельцем модели и не гарантирует её точность, безопасность или пригодность для конкретных задач.
KhyontekAI дообучила Gemma 4 E4B Instruct от Unsloth для диалогового взаимодействия. Модель основана на плотной архитектуре Gemma 4 и поддерживает обработку текста и изображений, а также интерфейс вызова инструментов. В репозитории веса представлены в формате safetensors. Модель подходит для диалогов и задач, где нужно отвечать на текстовые запросы с учётом изображения. README сообщает, что обучение проводилось с использованием Unsloth и библиотеки TRL. Модель распространяется по лицензии Apache-2.0.
Holo-3.1-35B-A3B-GGUF — набор квантизированных версий модели Hcompany/Holo-3.1-35B-A3B, подготовленный пользователем barozp для запуска через llama.cpp. Это мультимодальная vision-language модель на архитектуре Qwen3.5 MoE, предназначенная прежде всего для computer-use агентов, работы со скриншотами и сценариев, где требуется анализ изображений вместе с текстом. Заявлена поддержка английского языка и обработка входов в формате «изображение-текст». Контекстное окно составляет до 262 144 токенов. Модель содержит 35 млрд параметров суммарно, при этом в вычислениях активно используется около 3 млрд параметров благодаря архитектуре MoE. Репозиторий предлагает варианты квантизации от 2 до 8 бит с примерным размером файлов от 12 до 39 ГБ, а также отдельный F16-файл mmproj размером около 0,9 ГБ для мультимодальной обработки. Доступна и BF16-версия размером около 69,4 ГБ в исходном репозитории. Квантизация выполнена с помощью llama-quantize, при этом использована предварительно рассчитанная imatrix. Сильными сторонами являются сочетание мультимодального ввода, специализация на компьютерном управлении, большой контекст и возможность выбрать компромисс между качеством и требованиями к памяти. Ограничения связаны с необходимостью совместимого окружения llama.cpp, отдельного vision-проектора для работы с изображениями и значительными требованиями к дисковому пространству и памяти, зависящими от выбранной квантизации. Модель распространяется по лицензии Apache 2.0.
minsu0567/IAD-X1-GRPO-answer-last — дообученная minsu0567 модель семейства Qwen3.5 для преобразования изображений и текста в текст. Карточка указывает на обучение с Unsloth и библиотекой TRL; метаданные описывают архитектуру как плотную условную генеративную модель с поддержкой изображений и диалогового взаимодействия. Модель предназначена для задач image-text-to-text. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. В карточке не приведены сведения о размере модели, длине контекста и конкретных языках использования; метаданные указывают английский язык.
InternVL3.5-38B-HF — мультимодальная модель семейства InternVL, разработанная OpenGVLab и представленная в формате Hugging Face Transformers. Это дообученная версия InternVL3_5-38B-MPO с плотной архитектурой InternVLForConditionalGeneration и 38 млрд параметров. Модель принимает изображения вместе с текстовыми запросами и формирует текстовые ответы; поддерживает многоязычные сценарии. Модель предназначена для диалога по изображениям и решения задач визуального анализа и рассуждения, включая распознавание текста на изображениях, ответы на вопросы и интерпретацию визуальных материалов. В README также заявлены возможности взаимодействия с графическими интерфейсами и embodied-сценарии для семейства InternVL3.5. Для запуска 38B версии требуются две видеокарты A100; чекпойнт доступен в формате safetensors и работает с Transformers. Семейство InternVL3.5 использует Cascade RL для улучшения рассуждений и Visual Resolution Router для адаптивной обработки визуальных токенов; заявлены улучшения качества рассуждений и эффективности относительно InternVL3. Репозиторий распространяется по лицензии Apache-2.0. Конкретное значение длины контекста в предоставленных сведениях не приведено.
hotchpotch/japanese-reranker-cross-encoder-base-v1 — японский reranker серии CrossEncoder, разработанный hotchpotch. Он предназначен для повторного ранжирования результатов поиска: модель совместно оценивает запрос и документ, чтобы упорядочить найденные варианты по релевантности. Модель построена на архитектуре BERT и содержит 12 слоёв со скрытым размером 768; всего в ней 138,4 млн параметров. Она принимает пары текстов, поддерживает японский язык и имеет контекстное окно до 512 токенов. В карточке приведены оценки на японских наборах JQaRA, JaCWIR, MIRACL и JSQuAD. Модель распространяется по лицензии MIT.
Карточка модели AISE-TUDelft/java-usage-classifier на Hugging Face совпадает с карточкой AISE-TUDelft/java-deprecation-classifier, поэтому описание составлено по ней. AISE-TUDelft/java-deprecation-classifier — модель на основе MPNet, опубликованная AISE-TUDelft и распространяемая в формате PyTorch через Sentence-Transformers. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для семантического поиска, сравнения сходства и кластеризации текстов. В карточке указано обучение с функцией потерь CosineSimilarityLoss; модель содержит 136,7 млн параметров и поддерживает контекст до 514 токенов. Название указывает на классификацию устаревших Java API, однако README описывает модель как средство построения эмбеддингов, а метаданные относят её к sentence-similarity и feature-extraction. Поэтому её можно применять для поиска и группировки текстов о Java-депрекациях, но карточка не подтверждает выдачу меток классов или специальную точность такой классификации. Лицензия в предоставленных данных отсутствует.
ko-reranker-8k — модель для переранжирования текстов, разработанная Upskyy на основе BAAI/bge-reranker-v2-m3 и дообученная на корейских данных. Она оценивает релевантность пары «запрос — документ»: чем выше оценка, тем релевантнее документ запросу. Модель построена на архитектуре XLM-RoBERTa, содержит 658,7 млн параметров, принимает текст и поддерживает контекст длиной до 8194 токенов. Модель предназначена для улучшения результатов поиска и retrieval-систем, в том числе для отбора наиболее подходящих документов после первичного поиска. Карточка указывает корейскую настройку и многоязычные теги; лицензия — Apache-2.0. В README приведены способы использования через FlagEmbedding и Transformers.
Мультимодальная чат-модель семейства Llama 3.2 Vision, опубликованная mlx-community. Это конверсия в формат MLX модели huihui-ai/Llama-3.2-11B-Vision-Instruct-abliterated; в метаданных базовой моделью указана meta-llama/Llama-3.2-11B-Vision-Instruct. Архитектура — плотная MllamaForConditionalGeneration, размер — 11 млрд параметров. Модель принимает текст и изображения и генерирует текстовые ответы в диалоге, в том числе ответы на вопросы по изображениям. Она рассчитана на английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский языки. Конверсию выполнили с помощью mlx-vlm версии 0.1.4; репозиторий содержит веса в safetensors. Лицензия — Llama 3.2 Community License.
Llama-3-ChocoLlama-8B-base — базовая языковая модель семейства ChocoLlama, разработанная Matthieu Meeus и Anthony Rathé и адаптированная для нидерландского языка. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров и контекстом 8192 токена; она дообучена LoRA на 17 млрд нидерландских токенов. Модель предназначена для генерации и понимания нидерландского текста, а также как основа для последующей адаптации под конкретные задачи. Модель может служить основой для генерации и анализа нидерландских текстов о вакансиях, корпоративной отчётности и законодательстве. Это базовая, а не инструкционная модель: она не рассчитана на надёжный диалог и требует дообучения либо применения инструкционной версии для чат-сценариев. Карточка предупреждает о вероятном ухудшении работы с языками кроме нидерландского, включая английский, и об отсутствии специальной дополнительной фильтрации обучающих данных на предвзятый или вредоносный контент. Репозиторий содержит веса PyTorch; лицензия — Llama 3 Community License.
Llama-3-Groq-8B-Tool-Use-GGUF — это набор квантованных файлов модели в формате GGUF, подготовленный MaziyarPanahi на основе модели Llama-3-Groq-8B-Tool-Use, разработанной Groq. Модель предназначена для генерации текста и сценариев, связанных с использованием инструментов, а формат GGUF ориентирован на локальный запуск и эффективное использование ресурсов. Модель имеет 8 миллиардов параметров и доступна в вариантах квантования от 2 до 8 бит, что позволяет выбирать баланс между качеством, размером файлов и требованиями к памяти. GGUF поддерживается llama.cpp и рядом совместимых приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и GPT4All. README не указывает поддерживаемые языки, размер контекста, дополнительные модальности или точные характеристики архитектуры. К сильным сторонам относятся широкий выбор уровней квантования, возможность локального запуска и поддержка сценариев tool use. Ограничения зависят от выбранного уровня квантования и используемой среды инференса; конкретные показатели качества и требования к оборудованию не приведены. Лицензия в представленном README не указана.