I.2Синтез, понимание и проверка знаний

Xenova/e5-small-v2 — веб-совместимая версия модели intfloat/e5-small-v2, подготовленная с ONNX-весами для работы через библиотеку Transformers.js. По представленным данным, исходная модель разработана командой или организацией intfloat, а Xenova предоставляет адаптированный репозиторий для использования в JavaScript-окружениях. Модель предназначена для извлечения признаков из текста и может применяться в сценариях, где требуется получить векторное представление текстового ввода, например для семантического поиска или сравнения текстов. Архитектура, число параметров, поддерживаемые языки, размер контекста и точные характеристики выходных векторов в README не указаны. Ключевое преимущество — совместимость с Transformers.js и возможность использования ONNX-весов в веб-ориентированных приложениях. Лицензия и условия коммерческого или иного использования в представленном описании не указаны.

Eklav-14B-Reranker — плотная языковая модель семейства Qwen3 на 14 млрд параметров, разработанная для ранжирования текстовых пассажей. Это дообучение Qwen/Qwen3-14B методом Eklav: при обучении модель продолжает частичный след рассуждений учителя и самостоятельно выводит ответ, вместо того чтобы воспроизводить полный след рассуждений. По карточке модели, на BRIGHT она показала преимущество в 7% по nDCG@10 относительно стандартного обучения на полных следах рассуждений при снижении вычислений на обучение на 24%; результаты получены в одном оценочном запуске для каждого домена. При использовании модель оценивает релевантность пары «запрос — пассаж»: генерирует рассуждение с итогом true или false, а релевантность определяется по логитам конечного токена. На этапе применения подсказка учителя не используется. Модель рассчитана на текстовый ввод и выдаёт текстовое рассуждение и оценку релевантности. Используется библиотека Transformers, формат весов — safetensors; базовая модель имеет контекст до 40 960 токенов. Лицензия в предоставленных данных не указана.

deepset/electra-base-squad2 — англоязычная модель для извлекающего ответа на вопросы, разработанная командой deepset. Она дообучена на ELECTRA-base для поиска ответа в предоставленном тексте: на вход подаются вопрос и контекст, а модель определяет фрагмент контекста, который отвечает на вопрос. Обучение и оценка проводились на SQuAD 2.0; модель умеет воздерживаться от ответа, когда контекст не содержит ответа. Модель построена на архитектуре ELECTRA и содержит 136,7 млн параметров. Контекст ограничен 512 токенами. Её можно применять в Haystack для поиска ответов в документах и в Transformers. Лицензия — CC BY 4.0.

EmertonBeagle-7B-dpo — языковая модель, созданная yleo как DPO-дообучение mlabonne/OmniBeagle14-7B на наборе предпочтений yleo/emerton_dpo_pairs_judge. В метаданных указаны архитектура Mistral, 7,1 млрд параметров и контекст до 32 768 токенов; README сообщает о контекстном окне 8 тыс. токенов и совместимости с шаблонами чата ChatML и Llama. Модель предназначена для генерации текста в диалоговом формате. При обучении ответы GPT-4 Turbo выбирались как предпочтительные по сравнению с ответами GPT-4. Доступна в формате safetensors под лицензией CC BY-NC 4.0, которая ограничивает коммерческое использование.

Erlangshen-SimCSE-110M-Chinese — китайская модель эмбеддингов предложений из семейства Erlangshen, разработанного командой Fengshenbang (IDEA-CCNL). Она основана на BERT-base и обучена контрастивному обучению SimCSE: использованы неразмеченные данные и китайские пары из набора NLI. Модель формирует вектор предложения непосредственно из представления [CLS], поэтому может оценивать семантическое сходство без дополнительной настройки под конкретную задачу. Модель предназначена для сравнения китайских предложений и получения их векторных представлений, например для поиска семантически близких фраз или ранжирования кандидатов по сходству. Архитектура — BERT, размер по метаданным 129,5 млн параметров, максимальная длина контекста — 512 токенов. Репозиторий содержит веса PyTorch; лицензия — Apache-2.0.

EVA-QwQ-32B-Preview — плотная языковая модель на 32 млрд параметров, созданная слиянием моделей Qwen/QwQ-32B-Preview и EVA-UNIT-01/EVA-Qwen2.5-32B-v0.2 методом TIES с помощью mergekit. Она предназначена для генерации текста в диалоговом формате; базовая модель QwQ ориентирована также на математические рассуждения и программирование. Репозиторий использует Transformers и формат safetensors, а заявленная длина контекста составляет 32 768 токенов. Модель может подойти для диалоговых приложений и генерации ответов, а также для задач рассуждения и программирования, унаследованных от базовой QwQ. Карточка не приводит результатов оценки качества или отдельных гарантий этих возможностей. Лицензия в предоставленных данных не указана.

Parallia разработала FMMB-BE-DE — немецкую версию модели эмбеддингов предложений на архитектуре ModernBERT, реализованную как Sentence Transformer. Она преобразует немецкие тексты длиной до 8192 токенов в плотные векторы размерности 768 и предназначена для семантического поиска и сравнения текстов, поиска перефразировок, кластеризации и классификации. Для сравнения векторов рекомендуется косинусное сходство; входные тексты можно подавать без специальных префиксов. Модель содержит 148,7 млн параметров и использует немецкий токенизатор и соответствующую таблицу эмбеддингов. Она дообучена на параллельном корпусе предложений с парами английский—немецкий, английский—французский и английский—нидерландский; README характеризует этот вариант как монолингвальный немецкий. Лицензия — Apache-2.0. Модель подходит для построения семантического поиска и сопоставления немецких текстов. Карточка не приводит оценок качества, поэтому пригодность для конкретного сценария следует проверять на собственных данных; для работы с ModernBERT README указывает на необходимость актуальной версии библиотеки Transformers.

TheStageAI/gemma-4-E2B-it-GGUF — набор квантизированных GGUF-чекпойнтов модели Google Gemma 4 E2B IT, подготовленных TheStageAI для запуска через llama.cpp. Модель предназначена для генерации текста и локального инференса на устройствах с ограниченным объёмом памяти. Архитектурные детали, число параметров, поддерживаемые языки и размер контекстного окна в README не указаны. Доступны четыре варианта с разным компромиссом между размером и точностью: XS — 1,73 ГБ, S — 2,40 ГБ, M — 2,68 ГБ и L — 4,97 ГБ. Рекомендуется вариант S: по заявленным результатам он сопоставим с эталонной версией BF16 на instruction-strict IFEval, набрав 77,26% против 76,89%, а также получил 60,70% на MMLU-Pro. Варианты S, M и L предпочтительнее для развёрнутого рассуждения, тогда как XS ориентирован на минимальный объём памяти и заметно уступает по MMLU-Pro. Чекпойнты созданы с использованием производственного post-training quantization-пайплайна с учётом Fisher information, распространения ошибок квантования между слоями, оптимизации распределения битового бюджета и дистилляции распределения следующего токена. Сильной стороной является выбор нескольких уровней точности для локального запуска при сохранении близкого к BF16 качества у рекомендуемого варианта S. Ограничения включают зависимость характеристик от выбранного уровня квантования и отсутствие в README данных о скорости, требованиях к оборудованию, мультимодальности и языковом покрытии. Модель распространяется по лицензии Apache-2.0.

mavis-ai/Gemma4-E2B-MLX — пакет модели Google Gemma 4 E2B Instruction-Tuned, подготовленный для локального запуска через MLX на компьютерах Apple Silicon. Это плотная мультимодальная модель класса Gemma4 с архитектурой Gemma4ForConditionalGeneration; пакет воспроизводит веса исходной модели google/gemma-4-E2B-it и не содержит дообучения или квантизации. В представленном репозитории указаны формат safetensors и точность BF16. Модель предназначена для диалогов, анализа изображений и текстовых ответов. В README отдельно отмечены сценарии локального RAG, маршрутизации запросов, лёгкой оценки и повторяющихся задач агентных систем. Лицензия пакета — Apache-2.0; использование также подчиняется условиям Google Gemma. Параметры контекста и поддерживаемые языки в предоставленных данных не описаны.

German_Semantic_STS_V2 — модель эмбеддингов предложений на базе gBERT-large, дообученная Aaron Chibb для семантических задач на немецком языке. Она преобразует предложения и абзацы в плотные векторы размерности 1024 и подходит для семантического поиска, сравнения сходства и кластеризации текстов. В качестве обучающих данных использован немецкий вариант STS Benchmark; при дообучении применялась ContrastiveLoss. Модель имеет архитектуру BERT, содержит 434,5 млн параметров и принимает контекст до 512 токенов. По результатам, приведённым в карточке, модель показала наилучший Spearman среди перечисленных там моделей сравнения. Она предназначена прежде всего для немецких текстов; автор карточки также рекомендует более новые версии V3 и V3b. Репозиторий содержит веса PyTorch и safetensors. Лицензия в предоставленных данных не указана.

Richard Young выпустил эту модифицированную версию IBM Granite 4.2 3B, созданную с помощью Heretic и методом abliteration без переобучения. Это плотный декодерный трансформер GraniteForCausalLM на 3,4 млрд параметров с контекстом 131 072 токена; модель предназначена для генерации текста и диалогов, рассуждений, написания кода и вызова инструментов. В карточке заявлены режимы рассуждения и поддержка 12 языков: английского, немецкого, испанского, французского, японского, португальского, арабского, чешского, итальянского, корейского, нидерландского и китайского. Модификация уменьшает частоту отказов отвечать на запросы: в приведённом автором тесте отказов было 27 из 100 против 98 из 100 у исходной модели. Это не гарантирует полного отсутствия отказов, а изменение может приводить к небезопасным или неточным ответам. Модель распространяется под лицензией Apache 2.0; автор указывает сценарии исследования, творческого письма, обучения методам выравнивания и локального запуска.

HCAE-21M-v1.1-Instruct — инструктивно дообученная модель эмбеддингов HeavensHackDev на архитектуре Hybrid Convolutional-Attention Encoder (HCAE). Она предназначена для поиска по смыслу, асимметричного поиска и семантического анализа специализированных текстов, включая научные и медицинские корпуса. Для запросов и документов поддерживает префиксы `query:` и `passage:` соответственно. Модель содержит 21,1 млн параметров, имеет гибридную архитектуру с четырьмя сверточными и четырьмя attention-блоками, а размерность эмбеддингов составляет 384. Контекст ограничен 512 токенами. Доступны веса Safetensors и формат ONNX для запуска, в том числе на устройствах с ограниченными ресурсами. В README приведены результаты на STSBenchmark и SciFact. Модель дообучена на наборах NLI, SciFact и специализированных технических данных. Лицензия — Apache-2.0.

mlx-community/Hermes-3-Llama-3.1-8B-8bit — 8-битная версия Hermes 3 на базе Llama 3.1 8B, подготовленная сообществом mlx-community для формата MLX. Модель была преобразована из NousResearch/Hermes-3-Llama-3.1-8B с помощью mlx-lm 0.16.1; метаданные указывают на дообучение исходной Llama 3.1 8B и архитектуру LlamaForCausalLM с 7,5 млрд параметров. Модель предназначена для диалогов и следования инструкциям, включая генерацию текста, ролевые сценарии и вызов функций. Заявленный контекст составляет 131 072 токена; в карточке указаны английский язык, chat template ChatML, режим JSON и function calling. Формат MLX рассчитан на запуск через mlx-lm. Для модели указана лицензия llama3. Карточка не приводит отдельных результатов оценки качества; фактическая скорость и потребление памяти зависят от устройства и сценария запуска.

Ice0.29-06.11-RP — созданная разработчиком модели Icefog72 объединённая языковая модель для генерации текста и диалогового общения. Она построена на архитектуре Mistral с плотной causal language model и содержит 7,1 млрд параметров; указанный контекст составляет 32 768 токенов. Модель получена слиянием двух предварительно обученных моделей методом SLERP через mergekit. Веса представлены в формате safetensors, тип данных при слиянии — bfloat16. Модель подходит для генерации продолжений текста и ведения диалога. В карточке не приведены сведения о языках, специальных областях применения и количественной оценке качества. Лицензия в доступных данных не указана.

K2 — плотная авторегрессионная языковая модель семейства Llama с 65 млрд параметров, разработанная в сотрудничестве MBZUAI, Petuum и LLM360. Репозиторий IFM/K2 содержит базовую версию модели; в проекте также выпущена отдельная чат-версия. Модель обучена на 1,4 трлн токенов в два этапа, а её контекст составляет 8192 токена. K2 предназначена для генерации текста и ответов на запросы на английском языке. Её можно использовать как основу для чат-приложений, а также для экспериментов с предварительным обучением и дообучением крупных языковых моделей. Авторы сообщают о цели воспроизводимо раскрыть процесс обучения и сопутствующие артефакты; карточка приводит оценки на общих и специализированных тестах, включая математику, медицину и программирование. Модель опубликована в формате Safetensors для Transformers и распространяется по лицензии Apache 2.0. Она обучена преимущественно для английского языка; данных о поддержке других языков в карточке нет.

drowzeys/keys-GLM-5.3-EXL3-Abliterated — производная версия GLM-5.3 от drowzeys с правкой весов, основанной на derisk-проекции Blackfrost AI. Это полноразмерная разреженная MoE-модель с 78 слоями и 256 маршрутизируемыми экспертами. Экспертные матрицы квантованы до 3 бит в формате EXL3; остальные компоненты сохранены в bf16/fp16. Репозиторий содержит веса в safetensors и предназначен для диалоговой генерации текста. Модель рассчитана на запуск через описанный авторами стек vLLM на четырёх NVIDIA DGX Spark с контекстом до 1 000 000 токенов. README сообщает, что изменение весов направлено на снижение отказов на безвредных запросах, а проверки включали рассуждения, код, фактические вопросы и творческий текст. Это заявление авторов карточки, не независимая оценка качества. В метаданных базовой указана zai-org/GLM-5.3; лицензия — MIT. Для запуска требуются значительные аппаратные ресурсы и совместимый стек, описанный в репозитории.

Kimi-K2-Base-BF16 — базовая языковая модель, опубликованная Unsloth на основе Kimi-K2-Base от Moonshot AI. Это модель семейства DeepSeek V3 с архитектурой Mixture-of-Experts: в исходной карточке указаны 1 трлн параметров всего и 32 млрд активируемых параметров; метаданные этого репозитория указывают 37,9 млрд параметров. Веса представлены в формате safetensors, библиотека — Transformers, контекст составляет 131 072 токена. Модель предназначена для генерации текста и служит основой для исследовательских и прикладных доработок, включая настройку под диалоги, рассуждения, программирование и агентные сценарии с вызовом инструментов. Карточка описывает возможности семейства Kimi K2, но отдельно отмечает, что Kimi-K2-Base — именно базовая модель; подробные рекомендации по чату и вызову инструментов относятся преимущественно к варианту Instruct. Карточка не сообщает поддерживаемые естественные языки и не приводит условий лицензии: в метаданных указано только значение «other».

Bandi2716 выпустил дообученную на klue/roberta-base модель Sentence Transformers для представления предложений и абзацев в виде плотных векторов размерностью 768. RoBERTa использует усреднение токенных представлений; сходство векторов оценивается косинусной мерой. Модель предназначена для сравнения смысла корейских текстов и подходит для семантического поиска, поиска перефразировок, кластеризации и классификации текста. Модель обрабатывает текстовые последовательности длиной до 512 токенов (в метаданных указано 514 токенов). Обучение описано на наборе из 10 501 пары предложений с оценками сходства; карточка приводит результаты оценки сходства, но также содержит разные значения метрик без ясного пояснения, к каким наборам они относятся. Базовая модель KLUE RoBERTa рассчитана на понимание корейского языка. Вес опубликован в формате safetensors и распространяется по лицензии базовой модели, если она применима; доступные сведения не дают оснований уточнить лицензионные условия именно этой карточки.

jhgan/ko-sroberta-sts — модель эмбеддингов предложений на основе RoBERTa, обученная для оценки семантического сходства корейских текстов. Она преобразует предложения и абзацы в плотные векторы размерности 768; эмбеддинги подходят для семантического поиска, кластеризации и сравнения текстов. В README приведены результаты оценки на KorSTS: корреляция Пирсона для косинусного сходства — 81,84, Спирмена — 81,82. Модель содержит 137,8 млн параметров, имеет контекстное окно до 514 токенов и доступна в форматах PyTorch и TensorFlow. Для использования через Transformers требуется применить подходящую операцию pooling к контекстным представлениям токенов; также поддерживается библиотека Sentence-Transformers. Модель ориентирована на корейский язык и семантические задачи с предложениями и абзацами. Условия лицензии в предоставленных данных не описаны.

Wei-Jie/labor-roberta-chinese — модель Sentence-Transformers на базе архитектуры BERT, предназначенная для преобразования предложений и абзацев в плотные векторы размерностью 1024. Её можно применять для поиска семантически близких текстов, кластеризации и сравнения предложений по смыслу. Модель обучалась с ContrastiveLoss и косинусной метрикой расстояния. Она принимает текст и выдаёт эмбеддинги; максимальная длина контекста составляет 512 токенов. В метаданных указано 424,3 млн параметров и формат PyTorch. Название модели указывает на китайский язык, однако README не уточняет языковое покрытие и результаты оценки.

Lexora-Medium-7B — диалоговая языковая модель, опубликованная DeepMount00. Она основана на плотной архитектуре Qwen2 и содержит 7,1 млрд параметров. Модель предназначена для генерации текста в формате беседы и имеет интерфейс для вызова инструментов. В карточке указаны обучающие наборы Sonnet-3.5-ITA-INSTRUCTION и Sonnet-3.5-ITA-DPO, а также поддержка итальянского и английского языков. Максимальная длина контекста составляет 131 072 токена. Модель доступна в формате safetensors по лицензии Apache-2.0.

LFM2.5-1.2B-Distilled-Claude-4.6 (Liquid Claude) — компактная языковая модель FlameF0X на архитектуре LFM2, дообученная методом дистилляции Claude Sonnet 4.6 Adaptive Thinking в LiquidAI/LFM2.5-1.2B-Thinking с помощью LoRA. Модель содержит 1,5 млрд параметров и рассчитана на генерацию текста в формате диалога, рассуждения и агентные сценарии; карточка приводит пример использования через Transformers. Модель обучена на частных данных, описанных автором как диалоги Claude Sonnet 4.6; в карточке указаны примеры цепочек рассуждений и агентных блоков с вызовами инструментов. Заявлено контекстное окно 128 000 токенов. Основной язык карточки и тегов — английский. Автор приводит результаты нескольких бенчмарков, но они не являются независимой оценкой качества модели. Лицензия — Apache-2.0.

ZuzeTt/LFM2.5-1.2B-Instruct-imatrix-GGUF — квантованный вариант текстовой instruct-модели LFM2.5-1.2B-Instruct, разработанной Liquid AI; репозиторий ZuzeTt основан на базовой модели LiquidAI/LFM2.5-1.2B-Base. Модель предназначена для локального и периферийного развертывания, включая agentic-задачи, извлечение данных, RAG и общее следование инструкциям. Формат GGUF ориентирован на llama.cpp и совместимые инструменты, CPU-инференс и снижение потребления памяти. Модель содержит 1,17 млрд параметров, 16 слоёв: 10 double-gated LIV convolution blocks и 6 GQA blocks. Она поддерживает только текстовые данные, контекст до 32 768 токенов и языки: английский, арабский, китайский, французский, немецкий, японский, корейский и испанский. Заявлены скорость декодирования до 239 токенов в секунду на AMD CPU и 82 токенов в секунду на мобильном NPU, а также работа менее чем с 1 ГБ памяти; эти показатели зависят от оборудования и конфигурации. Сильные стороны модели — малый размер, высокая скорость локального инференса, многоязычность, поддержка ChatML-подобного шаблона и function calling. Модель не рекомендуется для задач, требующих обширных фоновых знаний, и программирования; дата отсечения знаний — середина 2024 года. Указана лицензия lfm1.0; дополнительные условия следует уточнять в файле LICENSE.

Abiray/LFM2.5-2.6B-Heretic-Abliterated-GGUF — набор GGUF-квантизаций модели LFM2.5-2.6B, разработанной Liquid AI, с изменениями Heretic (abliterated). Модель предназначена для локального запуска, агентских сценариев, многошагового выполнения инструкций и вызова инструментов. Версия Heretic снижает склонность исходной модели к отказам на ограниченные, спорные и явные запросы, сохраняя заявленные возможности базовой модели. Модель имеет плотную архитектуру LFM2.5 с 30 слоями: 22 блока коротких свёрток с двойным управлением и 8 слоёв GQA. Она содержит около 2,69 млрд параметров, поддерживает контекст до 131 072 токенов, словарь размером 128 000 токенов и нативный вызов инструментов. Заявлена поддержка английского, арабского, китайского, французского, немецкого, итальянского, японского, корейского, португальского, испанского, вьетнамского, тайского, индонезийского, хинди, русского и польского языков. Доступны квантизации от Q3_K_M до Q8_0 размером примерно от 1,37 до 2,87 ГБ. Q4_K_M позиционируется как оптимальный вариант для мобильных и периферийных устройств, а Q8_0 — как вариант с минимальными потерями качества для сложных задач и интенсивного использования инструментов. Более компактные варианты требуют меньше памяти, но могут заметно уступать по качеству. Abliteration уменьшает защитные отказы, однако README не приводит независимой оценки безопасности, качества или стабильности поведения модели. Модель распространяется по лицензии Apache-2.0. Предусмотрен полностью офлайн-запуск на CPU или GPU через llama.cpp; для корректного диалогового режима рекомендуется использовать соответствующий шаблон чата.

LFM2.5-2.6B-ONNX — языковая модель семейства LFM2.5, разработанная Liquid AI для локального запуска на устройствах и серверных CPU/GPU. Она предназначена для генерации текста и может использоваться в приложениях, работающих через ONNX Runtime или Transformers.js с WebGPU, включая сценарии периферийных вычислений и браузерного выполнения. Модель основана на гибридной архитектуре LFM2 с дополнительным предварительным обучением и reinforcement learning. Размер базовой модели — 2,6 млрд параметров. Доступны варианты FP32, FP16, Q8, Q4 и Q4F16; версии Q4 и Q4F16 используют квантованные входные эмбеддинги, а Q4F16 дополнительно применяет FP16 для вычислений и кэшей. Варианты поддерживают запуск на серверных CPU/GPU, тогда как для WebGPU предназначены Q4, Q4F16 и FP16. Заявлена поддержка арабского, китайского, английского, французского, немецкого, хинди, индонезийского, итальянского, японского, корейского, польского, португальского, русского, испанского, тайского и вьетнамского языков. Сильные стороны модели — ориентация на on-device-развёртывание, несколько уровней квантования и совместимость с WebGPU, что позволяет выбирать между размером, скоростью и качеством. Ограничения включают отсутствие поддержки Q8 в WebGPU и компромиссы качества, характерные для квантованных вариантов; сведения о размере контекста и детальных результатах оценки в карточке не указаны. Модель распространяется по лицензии lfm1.0, обозначенной как other.

Это сжатая методом SNIPER версия Meta-Llama-3.1-8B-Instruct от автора репозитория parmanu-lcs2. После обрезки в модели осталось 5,287,235,584 параметра; затем веса восстановительно дообучили на 2000 примерах SlimOrca с помощью LoRA и объединили адаптер с основными весами. Модель использует плотную архитектуру Llama и предназначена для генерации текста в диалоговом формате; она может применяться для ответов на вопросы, инструкций и других текстовых запросов. В метаданных указан контекст до 131072 токенов. Модель загружается через Transformers и распространяется в формате safetensors. Лицензия в предоставленных данных не указана, поэтому условия использования следует сверить на странице репозитория. Обрезка и восстановительное дообучение могут повлиять на качество по сравнению с исходной Meta-Llama-3.1-8B-Instruct; README сообщает о настройке обучения на контексте 1024 токена.

Карточка модели ReplaceHumanWithAI/llama3.1_high_F16 на Hugging Face совпадает с карточкой ReplaceHumanWithAI/llama3.1_low_F16, поэтому описание составлено по ней. ReplaceHumanWithAI/llama3.1_low_F16 — дообученная разговорная языковая модель семейства Llama 3.1, разработанная ReplaceHumanWithAI на базе unsloth/meta-llama-3.1-8b-instruct-bnb-4bit. Модель с плотной архитектурой LlamaForCausalLM содержит 7,5 млрд параметров и предназначена для генерации текста в диалогах; в метаданных также отмечен интерфейс вызова инструментов. Модель принимает текст и выдаёт текст, поддерживает английский язык. Заявленная длина контекста — 131 072 токена. Веса представлены в формате safetensors; для обучения использовались Unsloth и библиотека TRL. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества, поэтому её пригодность для конкретных сценариев следует проверять отдельно.

Poro 2 8B Base — базовая языковая модель, созданная совместно AMD Silo AI, группой TurkuNLP Университета Турку и High Performance Language Technologies (HPLT). Это плотный авторегрессионный трансформер семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров по метаданным. Модель получена продолжением предобучения Llama 3.1 8B на сбалансированном наборе из 165 млрд токенов на финском и английском языках, а также с данными по коду и математике. Контекст — 8192 токена. Модель предназначена для генерации текста и служит основой для дальнейшей настройки под прикладные сценарии; карточка прямо отмечает, что для большинства применений базовую модель нужно дообучить. По результатам карточки, она заметно улучшает показатели Llama 3.1 8B на финских тестах и сохраняет близкий уровень на английских; также демонстрирует улучшение в переводе между английским и финским. Поддерживаются веса PyTorch и safetensors. Лицензия — Llama 3.1 Community License. Среди ограничений — слабая компетентность в языках, кроме финского и английского, возможные фактические ошибки и предвзятые или неподходящие ответы.

LLMWriter-8B — дообученная Aldenir Flauzino модель семейства Llama 3.1, предназначенная для помощи в письме и генерации текстов. Она создана на базе unsloth/Llama-3.1-8B методом LoRA с использованием Unsloth и Hugging Face TRL и содержит около 7,5 млрд параметров. Модель принимает текст и генерирует текст; заявленная длина контекста — 131 072 токена. В карточке указаны английский язык и лицензия Apache 2.0. Модель ориентирована на создание статей и публикаций, подготовку технических текстов и документации, выполнение инструкций и формирование структурированных ответов. Дообучение проводилось на наборе из более чем 10 тысяч примеров инструкций. Автор сообщает о снижении функции потерь в ходе обучения, но не приводит оценок на стандартных бенчмарках. Модель может выдавать фактические ошибки, поэтому результаты следует проверять перед публикацией. Качество зависит от формулировки запроса и сложности задачи; модель не предназначена для юридических, медицинских или финансовых консультаций.

Lucie-7B-Instruct-human-data — дообученная инструкционная версия Lucie-7B, открытой многоязычной каузальной языковой модели, разработанной OpenLLM-France. Модель предназначена для генерации текста и диалоговых сценариев с выполнением инструкций, прежде всего на французском языке. Она также обучалась на английском, немецком, итальянском и испанском языках. Размер модели — 7B параметров; базовая модель поддерживает контекст до 32K токенов, и, несмотря на обучение на последовательностях длиной 4096 токенов, эта версия сохраняет способность работать с контекстом до 32K токенов. Модель дообучалась исключительно на созданных людьми или шаблонно подготовленных инструкционных данных, без использования ответов сторонних LLM; среди источников — Aya Dataset, Dolly, FLAN v2, OpenAssistant, Croissant Aligned Instruct и франкоязычные наборы данных. Её сильная сторона — следование инструкциям и генерация французского текста при полностью открытом подходе к подготовке данных. Модель не оптимизировалась для программирования и математических задач, а её качество ниже, чем у Lucie-7B-Instruct-v1.1; дальнейшее дообучение и выравнивание методами DPO или RLHF могут улучшить эти возможности. Модель распространяется по лицензии Apache-2.0.