I.2Синтез, понимание и проверка знаний
В разделе собраны самостоятельные задачи, где AI помогает сжимать, сопоставлять и критически проверять знания без потери существенного контекста. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
42 341 модельЭто квантованная версия модели supergemma4-e4b-abliterated, основанной на Jiunsong/supergemma4-e4b-abliterated. Квантование выполнил mradermacher; набор файлов опубликован в формате GGUF. Модель предназначена для генерации текста по инструкциям, включая сценарии с tool-calling и structured output, а также поддерживает обработку изображений как vision-модель. В README указано, что модель ориентирована на английский язык и использует экосистему Transformers. Доступны варианты квантования i1 с разными типами и размерами примерно от 4,5 до 6,3 ГБ; среди рекомендуемых отмечены i1-Q4_K_M как быстрый вариант и i1-Q4_K_S как компромисс между размером, скоростью и качеством. Конкретные архитектурные параметры, число параметров и размер контекста не указаны. Для работы с изображениями могут потребоваться отдельные mmproj-файлы из статического репозитория. Основные преимущества — широкий выбор GGUF-квантов, возможность локального запуска при ограниченных ресурсах и поддержка текстовых, визуальных, инструментальных и структурированных сценариев. Качество зависит от выбранного типа квантования: варианты с более низким размером могут уступать по качеству, а IQ-кванты в README часто рекомендуются вместо сопоставимых обычных вариантов. Модель распространяется по лицензии Gemma.
princeton-nlp/sup-simcse-bert-large-uncased — модель извлечения признаков и получения эмбеддингов предложений, разработанная группой Princeton NLP. Это вариант BERT Large, обученный методом supervised SimCSE на объединённых наборах MNLI и SNLI (около 314 тысяч примеров); модель содержит 433,9 млн параметров и принимает последовательности длиной до 512 токенов. Её можно применять для представления предложений в виде векторов, в том числе для оценки семантического сходства и переноса признаков в последующие NLP-задачи. Модель предназначена для англоязычного текста. В README указаны риски предвзятых ассоциаций и стереотипов в представлениях; результаты следует оценивать с учётом контекста и возможного вреда. Форматы репозитория включают PyTorch и Flax. В карточке не приведены сведения о лицензии, поэтому условия использования следует уточнить у разработчика перед применением.
princeton-nlp/sup-simcse-roberta-base — модель эмбеддингов предложений, разработанная командой Princeton NLP в рамках SimCSE. Это вариант SimCSE с учителем: RoBERTa-base дообучена на наборах данных для вывода на естественном языке, чтобы получать векторы предложений, отражающие их смысловое сходство. Модель предназначена для построения эмбеддингов, сравнения семантической близости текстов и поиска похожих предложений. В опубликованном авторами сравнении она достигла среднего результата 82,52 на задачах семантического сходства предложений. Модель основана на RoBERTa, содержит около 151,8 млн параметров и принимает текст длиной до 514 токенов. Модель возвращает векторные представления, а не готовые ответы на вопросы или сгенерированный текст. Основная карточка и материалы проекта не подтверждают поддержку русского языка, поэтому не следует считать её русскоязычной без отдельной проверки. Файлы доступны в форматах PyTorch и Flax; лицензию по доступным источникам надёжно установить не удалось.
textgain/tags-allnli-GroNLP-bert-base-dutch-cased — модель Sentence-Transformers на базе BERT, разработанная Textgain. Она преобразует предложения и абзацы в плотные векторы размерностью 768 и предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель обучена с функцией MultipleNegativesRankingLoss и косинусным сходством; архитектура содержит около 136,3 млн параметров, а максимальный контекст составляет 512 токенов. Карточка и метаданные указывают на поддержку нидерландского языка. Репозиторий содержит веса PyTorch. Лицензия в предоставленных данных не указана.
mlx-community/tasksource-ModernBERT-base-embed-4bit — англоязычная модель эмбеддингов на архитектуре ModernBERT, подготовленная mlx-community для запуска в формате MLX на устройствах Apple. Она дообучена на базе answerdotai/ModernBERT-base для извлечения признаков и вычисления сходства между предложениями; README указывает на преобразование из tasksource/ModernBERT-base-embed и применение 4-битного формата. Модель содержит 149 млн параметров и поддерживает контекст до 8192 токенов. Её можно использовать для поиска по смыслу, ранжирования текстов по сходству и построения векторных представлений для семантического поиска и других задач NLP. Обучение опиралось на наборы данных для поиска вопросов и ответов, NLI, семантического сходства и ранжирования; заявленный язык — английский. Для запуска README рекомендует пакет mlx-embeddings. Лицензия в предоставленных данных не указана.
atasoglu/turkish-small-bert-uncased-mean-nli-stsb-tr — модель Sentence Transformers на базе BERT, разработанная Atasoglu и дообученная на турецких наборах nli_tr и emrecan/stsb-mt-turkish. Она преобразует предложения и абзацы в плотные векторы размерности 512 для сравнения смысловой близости, семантического поиска и кластеризации. Модель содержит 33,2 млн параметров, принимает текст на турецком языке и поддерживает контекст до 512 токенов. При подготовке данных авторы вручную приводили текст к нижнему регистру с заменой латинской I на турецкую ı перед lowercasing; входные тексты следует обрабатывать аналогично. Модель опубликована под лицензией MIT.
Twitter4SSE — модель для вычисления семантического сходства текстов, разработанная авторами исследования об использовании Twitter для создания корпусов слабосвязанных пар предложений. Она преобразует текст в плотные эмбеддинги размерностью 768 и обучена на данных Twitter с функцией потерь Multiple Negatives Ranking Loss (MNRL). Модель основана на BERTweet и обучена с помощью Sentence-Transformers. Архитектура — RoBERTa; размер составляет 162,4 млн параметров, максимальный контекст — 130 токенов. Модель предназначена для сравнения предложений и поиска семантически близких текстов; метаданные указывают английский язык. Лицензия — Apache 2.0.
Vesemir 1.5B — небольшая языковая модель семейства Cirilla, разработанная AnthonyPa57. Это плотная авторегрессионная модель на 1,5 млрд параметров с архитектурой VesemirForCausalLM; она совместима с Transformers и рассчитана на контекст до 8192 токенов. В архитектуре используются Differential Attention, Grouped-Query Attention и блоки SwiGLU с предварительной нормализацией RMSNorm. Модель обучалась с нуля на польских и английских текстах, затем прошла дообучение на инструкциях, примерах RAG и Python, переводах и DPO-данных. Её можно применять для диалогов, генерации и продолжения текста, ответов на инструкции, перевода, задач по Python и работы с контекстом документов. Поддерживаются английский и польский языки; репозиторий содержит веса Safetensors в формате BF16. Автор отмечает, что обучение проводилось на сравнительно небольшом объёме данных и модель следует рассматривать как основу для дальнейшей разработки. Для загрузки через AutoModelForCausalLM и AutoTokenizer требуется trust_remote_code=True. Лицензия — MIT.
Vora-X-10B — плотная языковая модель для генерации текста и диалогов, созданная автором theocolf с помощью mergekit. Она объединяет слои theocolf/Vora-X-8B и NousResearch/Meta-Llama-3-8B методом Passthrough; архитектура — LlamaForCausalLM, веса доступны в формате safetensors. Модель содержит 9,2 млрд параметров и поддерживает контекст до 8192 токенов. Её можно применять для диалоговых сценариев и генерации текста. В карточке нет сведений о специализированной предметной области или конкретных языках, поэтому их поддержка здесь не уточняется. Лицензия в предоставленных данных не указана.
Ramos-Ramos/xlm-roberta-base-en-tl — модель на основе XLM-RoBERTa, преобразующая предложения и абзацы в плотные векторы размерностью 768. Она предназначена для поиска семантически близких текстов, кластеризации и сравнения предложений. Модель можно использовать через Sentence-Transformers или Transformers с подходящей операцией pooling; размер составляет 305,2 млн параметров, контекст — до 514 токенов. Модель обучена с использованием MSELoss на датасете Ramos-Ramos/nllb-eng-tgl-12k и поддерживает английский и тагальский языки. Лицензия в предоставленных данных не указана.
IronPooh/xlm-roberta-qa-cross-encoder — текстовый Cross-Encoder, созданный дообучением FacebookAI/xlm-roberta-base с помощью библиотеки Sentence Transformers. Модель оценивает пары текстов одним числовым баллом, пригодным для ранжирования результатов поиска и семантического поиска. Архитектура — XLM-RoBERTa для классификации последовательностей; размер — 305,2 млн параметров, максимальная длина входа — 512 токенов. В карточке приведены примеры обучения на парах вопросов и ответов и результаты бинарной классификации на наборе xlm-roberta-val. Это указывает на применение для оценки соответствия вопроса и ответа, а также переранжирования найденных фрагментов. Базовая XLM-RoBERTa многоязычная, а примеры в обучающих данных включают украинский и русский языки. Доступны веса в формате safetensors; лицензия в предоставленных сведениях не указана.
Карточка модели PS4Research/xnfjGuaVd0Dp3J42 на Hugging Face совпадает с карточкой PS4Research/IKn8jwlNamPNIS15, поэтому описание составлено по ней. Модель PS4Research/IKn8jwlNamPNIS15 — дообученная PS4Research языковая модель семейства Granite на базе ibm-granite/granite-4.2-30b. Она предназначена для генерации текста и диалогового взаимодействия; интерфейс также поддерживает вызов инструментов. Модель содержит 28,9 млрд параметров, использует плотную архитектуру GraniteForCausalLM и принимает контекст длиной до 131 072 токенов. В метаданных указан английский язык. Базовая модель IBM описана как многоязычная и предназначенная для рассуждений, диалога, программирования и вызова инструментов, однако README не уточняет, какие именно навыки были предметом дообучения этой версии. Модель распространяется в формате safetensors по лицензии Apache-2.0; для ускорения обучения использовались Unsloth и библиотека TRL.
Yi-Coder-9B-Chat-IMat-GGUF — это GGUF-квантизированная версия чат-модели Yi-Coder-9B-Chat, разработанной 01.AI. Квантизацию выполнил legraphista с использованием llama.cpp, исходная модель имела формат BF16. Модель предназначена для генерации текста и диалогового взаимодействия, включая сценарии локального запуска через совместимые с GGUF инструменты, такие как llama.cpp. Модель содержит около 9 миллиардов параметров и доступна в форматах BF16, F16, Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и других вариантах квантизации. Для ряда низкоразрядных вариантов применена IMatrix, призванная сохранить качество при уменьшении размера модели. Размер файлов варьируется примерно от 3,35 ГБ для Q2_K до 17,66 ГБ для BF16/F16. README не сообщает архитектуру, поддерживаемые языки, размер контекста или наличие мультимодальных возможностей; по указанным данным модель является текстовой. Основные преимущества — широкий выбор уровней квантизации, возможность подбора баланса между размером, требованиями к памяти и качеством, а также наличие IMatrix для некоторых вариантов. Ограничения включают возможное снижение качества у наиболее сильных вариантов квантизации и отсутствие в README подробных оценок производительности, языковой поддержки и требований к оборудованию. Модель распространяется по лицензии Apache-2.0.
Zurich 14B GammaCorpus v2-500k — диалоговая языковая модель, разработанная Ruben Roy и полученная дообучением Qwen/Qwen2.5-14B-Instruct на наборе структурированных и отфильтрованных многоходовых диалогов GammaCorpus v2-500k. Она предназначена для генерации текста и ответов в диалоге, включая структурированные ответы и взаимодействие через интерфейс вызова инструментов. Модель построена на архитектуре Qwen2, имеет около 14,7 млрд параметров и контекст длиной 32 768 токенов. В карточке указаны 48 слоёв и групповое внимание с 40 головами Q и 8 головами KV. Модель принимает текст и генерирует текст; в метаданных основным языком карточки указан английский.
Это демонстрационная объединённая модель на базе архитектуры BERT, созданная функцией SentenceTransformer.merge из моделей sentence-transformers/all-MiniLM-L6-v2 и sentence-transformers/multi-qa-MiniLM-L6-cos-v1. В процессе слияния применён метод dare_ties: из изменений каждой задачи случайно удалено 30% весов с последующим масштабированием и согласованием знаков. Модель содержит 25,9 млн параметров, принимает текст и формирует семантические векторы для сравнения предложений и поиска по смыслу. Контекст составляет до 512 токенов; карточка указывает поддержку sentence-transformers и форматы Safetensors, TensorFlow и OpenVINO. Модель подходит для прототипирования семантического поиска и сравнения текстов. Это демонстрация слияния, поэтому качество объединённой модели для конкретных задач не подтверждено в карточке; перед применением следует оценить её на целевых данных. Лицензия в предоставленных данных не указана.
AMALIA-VL-SFT — открытая мультимодальная модель, разработанная консорциумом португальских университетов и исследовательских центров при поддержке правительства Португалии. Это дообученная версия AMALIA-9B-1225-DPO на архитектуре Llava Next: модель принимает изображения и текст, а отвечает текстом. Она предназначена прежде всего для европейского португальского языка и поддерживает также английский. Модель подходит для визуальных вопросов и инструкций, кратких ответов, пересказа и составления текста по изображениям, извлечения текста из изображений и вопросов по документам. Её также можно использовать для исследований португальского языка и как основу для дальнейшей адаптации. Лицензия — Apache-2.0. AMALIA-VL-SFT может выдавать фактически неверные или предвзятые ответы, а меры безопасности не гарантируют отсутствия вредного вывода. Для фактических задач рекомендуется использовать поиск по источникам и проверять ответы; перед применением в производственной системе модель следует оценить для конкретной задачи. Она оптимизирована для европейского португальского, поэтому качество для других языков и вариантов португальского может отличаться.
clairedhx/autotrain-transcriptions — дообученная модель эмбеддингов на архитектуре BERT, созданная с помощью AutoTrain на основе sentence-transformers/multi-qa-MiniLM-L6-cos-v1. Она предназначена для преобразования текстов в векторы и оценки семантического сходства; возможные сценарии — поиск похожих транскрипций и подбор релевантных текстовых фрагментов. Модель содержит 25,9 млн параметров, принимает текст с контекстом до 512 токенов и распространяется в формате safetensors. Для работы используется библиотека Sentence Transformers. В README указан тип задачи Sentence Transformers и приведена метрика loss 0,1244 на валидации. Карточка не уточняет язык и состав обучающих данных, поэтому пригодность для конкретного языка или предметной области по этим сведениям оценить нельзя. Лицензия в предоставленных данных не указана.
Bangla-Embed-E5 — компактный энкодер предложений на основе BERT, разработанный автором репозитория kazalbrur. Модель дообучена на базе intfloat/multilingual-e5-small с помощью трёхэтапной дистилляции от BGE-M3 и последующей настройки на парах и NLI-данных. Она содержит 124,3 млн параметров по метаданным и обрабатывает до 512 токенов. Модель создаёт текстовые эмбеддинги для поиска по смыслу, сравнения предложений, межъязыкового поиска и классификации. В README сообщается о среднем результате 0,666 на бенгальской части MTEB(Indic) и сильных результатах в поиске на бенгальском языке среди компактных моделей. Для запросов и документов можно использовать отдельные подсказки query и passage и нормализовать эмбеддинги. Модель ориентирована на стандартный бенгальский язык и также поддерживает английский. Она не охватывает региональные варианты бенгальского; на полноразмерных MIRACL-bn и Mr.TyDi-bn уступает более крупным моделям и исходной модели без настройки, а приведённые метрики автоматические. Лицензия модели — MIT; лицензии некоторых обучающих данных могут ограничивать коммерческое использование, поэтому их условия следует проверять отдельно.
Это модель SentenceTransformer на базе BERT, разработанная путём дообучения dbmdz/bert-base-turkish-uncased для получения векторных представлений турецких предложений и абзацев. Она кодирует текст в плотные эмбеддинги размерности 768; модель использует BERT с усреднением токенных представлений и сравнение по косинусному сходству. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации на основе эмбеддингов. В README приведены результаты оценки бинарной классификации, но они не гарантируют аналогичного качества на других данных. Модель ориентирована на турецкий язык; для работы с эмбеддингами подходит библиотека Sentence Transformers. Веса доступны в формате safetensors. Лицензия в предоставленных сведениях не указана.
Xenova/bge-large-en-v1.5 — модель векторных представлений текста, основанная на BAAI/bge-large-en-v1.5, разработанной BAAI. Репозиторий содержит ONNX-веса, адаптированные для работы с библиотекой Transformers.js и JavaScript-приложениями. Модель предназначена для преобразования предложений и документов в эмбеддинги размерностью 1024. Её можно применять для семантического поиска, retrieval-сценариев, сопоставления текстов и ранжирования документов по косинусному сходству. Для поиска рекомендуется добавлять к запросу инструкцию «Represent this sentence for searching relevant passages:». Поддерживаются пакетное вычисление эмбеддингов, mean pooling и нормализация векторов. К сильным сторонам относятся готовность к использованию в средах, совместимых с Transformers.js, формат ONNX и возможность выполнять вычисления непосредственно из JavaScript. По имеющимся данным, модель ориентирована на английский язык, однако сведения о точной архитектуре, количестве параметров, длине контекста, производительности и ограничениях не приведены. Лицензия в README не указана.
Lajavaness/bilingual-embedding-large — двуязычная модель эмбеддингов предложений от Lajavaness, основанная на XLM-RoBERTa и реализованная с помощью Sentence Transformers. Она кодирует французские и английские предложения в нормализованные векторы размерности 1024; максимальная длина последовательности — 512 токенов, а нативное контекстное окно — 514 токенов. Размер модели — 658,7 млн параметров. Модель обучалась на SNLI и XNLI для английского и французского языков, затем дообучалась на STS-Benchmark и расширенных парах предложений. Её используют для семантического поиска, оценки сходства предложений, ранжирования текстов и кластеризации. Веса доступны в формате safetensors по лицензии Apache-2.0. Модель специализируется на французском и английском языках; качество на других языках не заявлено. README не содержит результатов оценки, поэтому точность для конкретных наборов данных и сценариев по карточке определить нельзя.
Calme-7B-Instruct-v0.4 — разговорная языковая модель MaziyarPanahi на архитектуре Mistral с 7,1 млрд параметров. Она дообучена на базе Mistral-7B на высококачественных наборах данных и предназначена для генерации связных ответов в диалоге. Модель принимает текст и выдаёт текст; заявленная длина контекста — 32 768 токенов. Модель подходит для чат-ботов, ответов на вопросы и других сценариев генерации текста, где важны ясность и последовательность. Доступна в формате safetensors, лицензия — Apache-2.0. В карточке не приведены результаты сравнительных оценок качества; упоминание высококачественных данных не раскрывает их состав.
CataLlama-v0.1-Instruct-DPO — авторегрессионная языковая модель на архитектуре Llama 3, разработанная Лаурентиу Петреа. Это финальный этап обучения CataLlama: модель дообучена методом DPO на наборе catallama/Catalan-DPO поверх CataLlama-v0.1-Instruct-SFT. Размер модели — 7,5 млрд параметров, контекст — 8192 токена; доступны веса в формате Safetensors. Модель предназначена для диалогового взаимодействия и выполнения инструкций на каталанском языке. Она поддерживает извлечение информации для RAG, распознавание именованных сущностей, перевод между английским и каталанским, краткое и развернутое суммирование, а также анализ тональности. Разработчик сообщает об улучшенной работе с каталанским после обучения примерно на 445 млн новых токенов в три этапа. Модель может быть полезна для приложений, которым требуется генерация и анализ текста на каталанском, однако README представляет её как демонстрацию методов адаптации LLM к новым языкам, а не как модель, ориентированную на рекорды бенчмарков. Лицензия — Llama 3 Community License; применяются её условия и Acceptable Use Policy.
SvalTek/ColdBrew-Aphid-Large — разговорная причинно-языковая модель семейства Llama с 5,8 млрд параметров, созданная методом passthrough merge из SvalTek/ColdBrew-Aphid. Она предназначена для генерации текста и диалогов; интерфейс модели поддерживает вызов инструментов. Модель использует библиотеку Transformers и распространяется в формате safetensors. Контекстное окно — до 131 072 токенов. Модель подходит для диалоговых приложений, генерации ответов и сценариев с вызовом инструментов. В метаданных указана связь с SvalTek/ColdBrew-Aphid как с базовой моделью. Сведений о лицензии и специальных языковых возможностях в предоставленных данных нет.
Экспериментальная модифицированная версия DeepSeek-R1-Distill-Llama-8B, подготовленная 3MPER0RR. Это плотная авторегрессионная модель семейства Llama с 7,5 млрд параметров, предназначенная для диалоговой генерации текста. Базовая модель была дообучена на данных рассуждений DeepSeek-R1 и рассчитана на математические задачи, программирование и многошаговые рассуждения; в этой версии заявлена модификация abliterated. Модель принимает текст и выдаёт текст. Контекстное окно — 131 072 токена. В репозитории указаны веса Safetensors; модель распространяется по лицензии MIT. README сообщает, что версия экспериментальная и была протестирована и сохранена.
DiscoLM German 7b v1 — плотная языковая модель на архитектуре Mistral с 7,1 млрд параметров, разработанная DiscoResearch. Она дообучена на инструкциях и диалогах на немецком и английском языках: после этапа SFT модель прошла дополнительное обучение DPO. Модель предназначена для повседневного общения, генерации и понимания текста, а также перевода; использует шаблон диалога ChatML и поддерживает контекст до 32 768 токенов. Модель ориентирована прежде всего на качественные ответы на немецком, сохраняя беглость на английском. В README также заявлены экспериментальная поддержка вызова функций и структурированных ответов. Авторы отмечают, что модель уступает более крупным моделям в сложных рассуждениях, математике и программировании, а также в некоторых задачах кодирования и извлечения данных. Она может выдавать неверные или оскорбительные ответы. Лицензия — Apache-2.0.
clips/e5-large-v2-t2t-nl — нидерландская модель для получения плотных текстовых эмбеддингов, созданная дообучением clips/e5-large-v2-t2t. Она предназначена для семантического поиска, сравнения предложений и ранжирования текстов, в том числе для поиска по запросам и документам и задач на основе нидерландских наборов BEIR. Модель построена на архитектуре BERT, содержит 433,4 млн параметров, принимает текст и формирует векторные представления. Максимальная длина контекста — 512 токенов. Модель поддерживает сценарии поиска и сопоставления текстов на нидерландском языке. В карточке приведена оценка на MTEB-NL, но она не описывает все возможные прикладные сценарии. Репозиторий распространяется по лицензии MIT.
Карточка модели soulfree89/e5-small-ko-v2-fix на Hugging Face совпадает с карточкой dragonkue/multilingual-e5-small-ko-v2, поэтому описание составлено по ней. dragonkue/multilingual-e5-small-ko-v2 — модель Sentence Transformer на архитектуре BERT, дообученная на основе intfloat/multilingual-e5-small и объединённая методом Model Soup с dragonkue/multilingual-e5-small. Она предназначена прежде всего для поиска документов по запросу на корейском языке и других задач семантического поиска. Модель преобразует предложения и абзацы в плотные векторы размерности 384; для сравнения используется косинусное сходство. Максимальная длина входа — 512 токенов, после чего длинный текст обрезается. Модель подходит для семантического поиска, сравнения предложений, поиска перефразировок, кластеризации и классификации текста. В карточке указана поддержка корейского и английского языков; обучение и оценка ориентированы на корейские retrieval-задачи, включая поиск в документах из медицинской, финансовой, правовой и других областей. Компактный размер упрощает использование в лёгких приложениях; для повышения качества поиска автор рекомендует сочетать её с реранкером. Указанная лицензия — Apache-2.0.
ERNIE-4.5-37B-A3B-Thinking-Brainstorm20x — текстовая MoE-модель для генерации и диалога, созданная DavidAU на основе ERNIE-4.5-21B-A3B-Thinking от Baidu с применением Brainstorm 20x. Модель предназначена для творческого письма, мозгового штурма, диалогов, программирования и рассуждений. По карточке, расширение Brainstorm направлено на более подробную и связную прозу, выразительные описания и нестандартные ассоциации; заявлены улучшения на некоторых тестах связности и повествовательного завершения, при небольшом снижении результата BoolQ. Архитектура — ERNIE 4.5 MoE с классом Ernie4_5_MoeForCausalLM; в метаданных указано 5,4 млрд параметров, а карточка описывает расширение исходной модели с 21 до 37 млрд параметров. Контекст составляет 131 072 токена. Модель принимает текст и генерирует текст; карточка указывает английский язык. Доступны веса safetensors и библиотека Transformers, а также возможность использовать исходные веса для конвертации в другие форматы. Лицензия — Apache-2.0. Для квантованных вариантов автор рекомендует не опускаться ниже IQ3 с imatrix или q4_K_S.
Fireball-Llama-3.1-8B-Instruct-v1-16bit — языковая модель EpistemeAI для диалоговой генерации текста. Это плотная модель семейства Llama с архитектурой LlamaForCausalLM и 7,5 млрд параметров, дообученная на unsloth/Meta-Llama-3.1-8B-Instruct-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. Модель принимает текст и генерирует текст; заявленное нативное контекстное окно — 131 072 токена. Модель подходит для ведения диалога и генерации ответов на текстовые запросы. В карточке не описаны специальные предметные области, дополнительные возможности или результаты оценки качества. Репозиторий использует лицензию Apache-2.0.