I.6Перевод и языковая адаптация
В разделе собраны самостоятельные задачи, где AI помогает переносить смысл между языками, форматами и культурными контекстами. Для каждого пункта отдельно указаны механизм, входы, результат и способ проверки.
Рекомендованные модели
16 710 моделейЭто мультимодальная квантованная версия Qwen3.6-35B-A3B, основанная на модели Qwen/Qwen3.6-35B-A3B и созданная rdtand с использованием PrismaQuant. Модель предназначена для задач, объединяющих обработку текста и изображений, включая сценарии vision-language и генерацию текста по мультимодальному вводу. Заявлена поддержка английского и других языков; точный список языков и размер контекстного окна в README не указаны. Модель использует архитектуру MoE с DeltaNet-линейным вниманием, плотными и экспертными слоями, а также визуальным энкодером Qwen3.6-VL. Средний размер квантования составляет 4,76 бит на параметр: объём файла уменьшен примерно с 70 до 22 ГБ, то есть на 69% по сравнению с исходной BF16-версией. Для разных линейных слоёв применяются NVFP4, MXFP8 и BF16; сохранены MTP-головы для speculative decoding. Квантование учитывает чувствительность отдельных слоёв и использует GPTQ-OBS и оптимизацию масштабов. Сильными сторонами являются существенное снижение требований к хранению и возможность запуска мультимодальной модели через vLLM при сохранении смешанной точности для чувствительных компонентов. Ограничение заключается в том, что артефакт рассчитан только на runtime vLLM; влияние квантования на качество в прикладных задачах и полный набор поддерживаемых режимов в README не приведены. Модель распространяется по лицензии Apache-2.0.
mlasli/Qwen3.8-27B-Heretic-Abliterated-MLX-8bit — текстовая 8-битная MLX-квантизация модели Qwen/Qwen3.8-27B, разработанная mlasli. Это версия v2.1.0 с изменённым выравниванием, ориентированная на более прямые ответы и сниженное количество отказов. Модель предназначена для генерации текста, диалогов, ролевых сценариев и других задач локального inference на устройствах Apple Silicon через mlx-lm. В карточке указан английский язык; сведения о размере контекста отсутствуют. Модель содержит около 27 млрд параметров, занимает примерно 28,6 ГБ и использует групповую 8-битную квантизацию с размером группы 64. Репозиторий содержит только языковую часть модели: vision tower удалён, поэтому обработка изображений не поддерживается. MTP-голова также не сохраняется, из-за чего inference выполняется одной головой и может быть медленнее сборок с поддержкой speculative decoding. Сильной стороной является близкое к исходной BF16-версии качество при существенно меньшем размере, а также высокая доля прямых ответов: в приведённом тесте thinking-OFF модель дала 90% прямых ответов на вредоносные запросы и 100% на безвредные. При включённом thinking поведение менее стабильно: возрастает доля уклончивых и пустых ответов. Abliteration удаляет защитное выравнивание, поэтому модель требует ответственного применения. Распространяется по лицензии Apache-2.0.
Qwen3.8-27B-ROCmFPX-GGUF — производная от базовой модели Qwen3.8-27B, разработанной командой Qwen. Репозиторий lmcoleman содержит квантизированную версию, подготовленную с использованием MagicQuant и AMD-ориентированных форматов ROCmFPX; сборка оптимизирована для AMD Strix Halo с графикой gfx1151. Модель предназначена для генерации текста и диалоговых сценариев, а при подключении файла mmproj поддерживает обработку изображений. Модель имеет размер 27 млрд параметров и распространяется в формате GGUF. Доступны гибридные варианты Q4 размером около 15,7 ГБ и Q6 размером около 22,2 ГБ; конфигурации используют разные схемы квантизации для отдельных групп тензоров, а чувствительные слои могут сохраняться в F16, BF16 или F32. В README заявлен английский язык. Для запуска приведены примеры с контекстом 8192 токена, однако максимальный размер контекста не указан. Сильной стороной является сочетание значительного уменьшения размера с небольшими измеренными потерями качества: для теста на wikitext-2 заявлены значения perplexity 6,7611 для Q4 и 6,7579 для Q6 при базовом значении BF16 6,7443. Q4 рекомендован как наиболее рациональный вариант по соотношению размера и качества. Главные ограничения — экспериментальный характер ROCmFPX и совместимость только со специальной форкой llama.cpp, собранной из исходников; стандартные llama.cpp, LM Studio и Ollama эти файлы не загружают. Лицензия — Apache 2.0, применяемая к производной модели согласно лицензии базовой модели.
theresa00l/Qwen3.8-27B-Uncensored-FP8-Q4_K_M-GGUF — это квантизированная версия модели orcarouter/Qwen3.8-27B-Uncensored-FP8, преобразованная в формат GGUF с помощью llama.cpp и сервиса GGUF-my-repo. Модель относится к семейству Qwen3.8 и распространяется под лицензией Apache-2.0. Модель предназначена для локального запуска через llama.cpp, включая использование в командной строке и в серверном режиме. В карточке заявлены сценарии рассуждений, function calling, red-teaming и AI red-teaming. Указана поддержка английского и китайского языков. Архитектура и точное число параметров явно не описаны, однако обозначение модели указывает на размер 27B и квантизацию Q4_K_M из исходного представления FP8. Также заявлена совместимость с vLLM и llama.cpp. К сильным сторонам относятся компактное квантизированное представление GGUF и возможность локального инференса на совместимом оборудовании. Ограничения — отсутствие в README подробностей о контекстном окне, точной архитектуре, результатах оценки, требованиях к памяти и качестве работы с изображениями, несмотря на тег image-text-to-text. Практическое использование требует llama.cpp и подходящей аппаратной конфигурации; заявленная лицензия — Apache-2.0.
Sohailhosseini/Qwen3.8-9B-Distill-FP8 — это FP8-квантизированная версия модели empero-ai/Qwen3.8-9B-Distill, подготовленная пользователем Sohailhosseini. Модель предназначена для задач image-text-to-text, то есть обработки текстовых и визуальных входных данных с генерацией текста. Исходная модель содержит около 9,7 млрд параметров. Веса Linear-слоёв сжаты до 8-битного формата FP8 без калибровочных данных; визуальные компоненты, включая lm_head, vision tower, vision model и multi-modal projector, оставлены без квантизации. Модель хранится в формате compressed-tensors, занимает около 11,9 ГБ и примерно в 1,62 раза меньше исходной версии. В README приведён пример запуска через vLLM с длиной контекста 32768 токенов. Ключевое преимущество — заявленное почти полное сохранение качества при меньшем размере и сниженных требованиях к хранению. Ограничение — для быстрой работы рекомендуется GPU с compute capability не ниже 8.9, например архитектуры Ada или Hopper. Языки модели и точные архитектурные характеристики в README не указаны. Лицензия Apache-2.0 унаследована от исходной модели; квантизация не изменяет разрешённые условия использования весов.
R1-Qwen2.5-32B-Instruct-5k — дообученная pe-nlp модель на базе Qwen/Qwen2.5-32B-Instruct, обученная на наборе данных Sky-T1. Это плотная авторегрессионная языковая модель семейства Qwen2 с 32 млрд параметров, предназначенная для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Контекстное окно составляет 32 768 токенов. Карточка не раскрывает конкретные сценарии обучения или результаты оценки, поэтому специализированные преимущества модели подтвердить нельзя. Лицензия указана как «other», без уточнения условий в доступных данных.
Replete-LLM-Qwen2-7b_Beta-Preview-GGUF — это GGUF-квантизованная версия языковой модели Replete-LLM-Qwen2-7b_Beta-Preview, разработанной Replete-AI и подготовленной квантизатором bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp и совместимые приложения, включая LM Studio. В README также указан обучающий датасет Replete-AI/Everything_Instruct_8k_context_filtered. Модель основана на архитектуре Qwen2 и содержит около 7 млрд параметров. Доступны варианты от BF16 до различных уровней квантизации Q8_0, Q6_K, Q5_K, Q4_K, Q3_K, Q2_K и IQ-серий; размеры файлов составляют примерно от 3,5 до 15,2 ГБ. Указан английский язык и контекст до 8k, связанный с использованным датасетом. Это текстовая модель без заявленной поддержки других модальностей. Сильная сторона репозитория — широкий выбор вариантов квантизации, позволяющий подобрать баланс между качеством, потреблением памяти и скоростью локального запуска. Высококачественными считаются варианты Q6 и Q5, а Q4 предлагают компромисс по размеру. Более сильная квантизация снижает требования к памяти, но может ухудшать качество генерации. Модель распространяется по лицензии Apache-2.0.
Guilherme34/Samantha-test — объединённая текстовая модель, созданная методом TIES с помощью mergekit на основе Guilherme34/Samantha-v6.5 и NousResearch/Meta-Llama-3.1-8B. В метаданных указана архитектура Llama с плотной моделью на 7,5 млрд параметров и контекстом до 131 072 токенов; файлы представлены в формате safetensors, библиотека — Transformers. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов в чате и генерации текста с длинным контекстом. Метаданные также отмечают интерфейс вызова инструментов, но README не описывает его применение подробно. Модель создана из слияния других моделей, поэтому её поведение зависит от обоих исходных чекпойнтов. Лицензия в предоставленных данных не указана.
SparrowMind-8B — диалоговая языковая модель, созданная bunnycore слиянием трёх моделей семейства Llama 3 с помощью mergekit. Модель имеет плотную архитектуру LlamaForCausalLM, около 7,5 млрд параметров и контекст длиной до 8192 токенов; веса представлены в формате safetensors. Модель предназначена для генерации текста в диалоге и ответов на запросы. В состав слияния входят bunnycore/RemixLlama3-8B, NousResearch/Hermes-2-Theta-Llama-3-8B и UCLA-AGI/Llama-3-Instruct-8B-SPPO-Iter3. Репозиторий распространяется по лицензии Apache-2.0.
SuperMente-7B-v2 — объединённая модель для генерации текста на базе архитектуры Mistral, созданная с помощью LazyMergekit из NousResearch/Hermes-2-Pro-Mistral-7B, mlabonne/AlphaMonarch-7B и Weyaxi/Einstein-v4-7B. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста. В метаданных указана возможность чата; карточка не описывает отдельные сценарии, языки или специализированные области применения. Модель распространяется в формате Safetensors по лицензии Apache-2.0.
Theia-21B-v2-GGUF — это набор GGUF-квантизированных версий языковой модели Theia-21B-v2, разработанной TheDrummer. Квантизацию выполнил bartowski с использованием llama.cpp b3715 и метода imatrix. Модель относится к задачам генерации текста и предназначена для локального запуска, в том числе через LM Studio, с применением шаблона промпта <s> [INST] {prompt}[/INST]. Модель имеет размер 21 млрд параметров в исходной версии; доступны варианты от F16 размером 40,86 ГБ до IQ2_M размером 7,19 ГБ. Представлены различные форматы квантования Q2–Q8, включая варианты, оптимизированные для ARM. Более качественными считаются Q5–Q8, а Q4_K_M указан как вариант по умолчанию для большинства сценариев с ограниченными ресурсами. Некоторые версии используют Q8_0 для embedding- и output-весов, что помогает сохранить качество при уменьшении размера. Преимущество набора — широкий выбор компромиссов между качеством, размером и требованиями к памяти, а также поддержка локального инференса через совместимые инструменты llama.cpp. Ограничения включают снижение качества в низкобитных вариантах и отсутствие в представленном README сведений об архитектуре исходной модели, длине контекста, языках, мультимодальности и результатах оценки. Лицензия указана как other; конкретные условия использования не раскрыты.
Whisper medium.en — англоязычная модель распознавания речи от OpenAI, представленная в исследовании по устойчивому распознаванию речи на основе масштабного слабого обучения. Это Transformer-энкодер-декодер с архитектурой sequence-to-sequence и 455,8 млн параметров. Модель обучена на 680 тысячах часов размеченной речи и принимает аудио, выдавая текстовую расшифровку на английском языке. Модель подходит для транскрибирования английской речи, в том числе записей с акцентами, фоновым шумом и технической лексикой. Базовая обработка рассчитана на аудиофрагменты до 30 секунд; с чанкингом в Transformers можно обрабатывать записи произвольной длительности и получать временные метки. Чекпойнт использует только английский язык и не предназначен для многоязычного распознавания или перевода речи. Модель демонстрирует хорошую устойчивость, но может добавлять слова, которых нет в аудио, повторять текст и ошибаться; качество зависит от акцента и условий записи. Распространяется по лицензии Apache-2.0.
XLM-V Base — многоязычная языковая модель с архитектурой XLM-RoBERTa и примерно 806 млн параметров, разработанная авторами исследования XLM-V. Она обучена на 2,5 ТБ данных Common Crawl и использует словарь размером один миллион токенов, чтобы улучшить покрытие языков и создавать более короткие, содержательные токенизации. Модель предназначена для заполнения пропусков в тексте и может служить основой для задач понимания языка, включая вывод по естественному языку, ответы на вопросы и распознавание именованных сущностей. В исследовании XLM-V превзошла XLM-R на протестированных задачах, включая несколько задач для языков с ограниченными ресурсами. Репозиторий содержит веса PyTorch; контекст — до 514 токенов. Модель охватывает множество языков, в том числе английский, арабский, хинди, японский, корейский, французский, немецкий и испанский. Лицензия — MIT. Для оценки рисков и ограничений README отсылает к карточке XLM-R; результаты исследования не гарантируют качество на любых языках и прикладных задачах.
YamshadowInex12_PasticheAlloyingotneoy — слитая модель генерации текста, созданная объединением automerger/YamshadowInex12-7B и automerger/PasticheAlloyingotneoy-7B. Модель разработана на архитектуре Mistral и содержит 7,1 млрд параметров. Она предназначена для генерации текста и диалоговых ответов. Контекстное окно составляет до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0.
MaziyarPanahi/YamshadowStrangemerges_32_Multi_verse_modelExperiment28 — объединённая методом слияния модель семейства Mistral с плотной архитектурой и 7,1 млрд параметров. Она создана для генерации текста и принимает контекст длиной до 32 768 токенов. Модель объединяет automerger/YamshadowStrangemerges_32-7B и automerger/Multi_verse_modelExperiment28-7B. Репозиторий содержит веса в формате safetensors. Языковая специализация и отдельные прикладные области в карточке не описаны. Лицензия — Apache-2.0. Карточка не сообщает о специальных ограничениях применения или известных слабых сторонах; качество и поведение могут зависеть от запроса и сценария использования.
Модель joannetai520/16_bit_model_try4 — дообученная языковая модель семейства Llama на основе unsloth/meta-llama-3.1-8b-instruct-unsloth-bnb-4bit. Её разработал joannetai520; обучение выполнялось с использованием Unsloth и библиотеки TRL. Модель предназначена для генерации текста и диалогового взаимодействия, а интерфейс поддерживает вызов инструментов. Модель содержит 7,5 млрд параметров, использует плотную архитектуру LlamaForCausalLM и принимает контекст длиной до 131072 токенов. В метаданных указан английский язык. Модель распространяется в формате safetensors по лицензии Apache-2.0.
AiMaven-Merkaba-1.2 — объединённая языковая модель jefferylovely на архитектуре Mistral с 7,1 млрд параметров. Она создана методом слияния Slerp с помощью LazyMergekit на основе jefferylovely/AiMaven-Merkaba-1.1 и jefferylovely/Merkaba-Maven-0.8. Модель предназначена для генерации текста и работает с контекстом до 32 768 токенов. В карточке указаны формат safetensors и лицензия CC BY-NC-ND 4.0, которая ограничивает коммерческое использование и распространение производных версий.
AlloyingotneoyPercival_01-7B — объединённая модель для генерации текста на базе архитектуры Mistral, созданная Maxime Labonne методом SLERP из nlpguy/AlloyIngotNeoY и AurelPx/Percival_01-7b-slerp. Модель содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Она предназначена для генерации текста и диалоговых сценариев. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0.
AMBER (Adaptive Multitask Bilingual Embedding Representations) — текстовая модель эмбеддингов, разработанная Retrieva, Inc. на основе архитектуры ModernBERT и дообученная от sbintuitions/modernbert-ja-310m. Модель рассчитана прежде всего на японский язык и также поддерживает английский; при обучении использовались данные на обоих языках и естественно-языковые инструкции, позволяющие адаптировать эмбеддинги к задаче. В метаданных указан размер 314,6 млн параметров, контекст до 8192 токенов и формат safetensors. README указывает максимальную длину последовательности 512 токенов, выходные эмбеддинги размерностью 768 и косинусную меру сходства. Модель подходит для семантического поиска, сопоставления предложений и других задач, где требуется сравнивать текстовые представления, включая двуязычные сценарии на японском и английском. В README приведены оценки на японских JMTEB, JQaRA, JaCWIR и подмножестве MLDR, а также на английском MTEB; это результаты авторской оценки. Лицензия — Apache 2.0. Для практического применения следует учитывать расхождение между указанным в метаданных контекстом 8192 токена и лимитом последовательности 512 токенов в README.
Arabic-all-nli-triplet-Matryoshka — модель Sentence Transformers, разработанная Omartificial-Intelligence-Space путём дообучения sentence-transformers/paraphrase-multilingual-mpnet-base-v2 на арабском наборе пар предложений с положительными и отрицательными примерами. Она преобразует предложения и абзацы в плотные векторы размерности 768 для сравнения по косинусному сходству; благодаря обучению Matryoshka доступны также укороченные векторы размерностей 512, 256, 128 и 64. Модель предназначена для семантического поиска, оценки сходства и перефразирования, кластеризации и извлечения признаков из арабского текста. В архитектуре используется XLM-RoBERTa с усреднением токенных представлений. В карточке указана максимальная длина последовательности 128 токенов, тогда как метаданные каталога приводят нативный контекст 514 токенов. На тесте sts-test-768 указана корреляция Спирмена 0,8616 для косинусного сходства; результаты также приведены для сокращённых размерностей. Модель распространяется по лицензии Apache-2.0.
Auro-Kosmos-EVAA-v2.3-8B — объединённая языковая модель, созданная jaspionjader с помощью mergekit. Веса двух моделей объединены методом SLERP: jaspionjader/Auro-Kosmos-EVAA-v2.2-8B и jaspionjader/Kosmos-Elusive-VENN-8B. Модель относится к семейству Llama, имеет плотную архитектуру LlamaForCausalLM и около 7,5 млрд параметров. Модель предназначена для генерации текста и диалогов. Она принимает текст и выдаёт текст; заявленная длина контекста — 8192 токена. Для загрузки доступны веса в формате safetensors через Transformers. Лицензия в предоставленных данных не указана.
nabil-tazi/autotrain-yr729-mb8s3 — модель семейства BERT, созданная дообучением sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2 с помощью AutoTrain. Она преобразует текстовые предложения и абзацы в эмбеддинги для вычисления семантического сходства. Модель содержит 124,3 млн параметров, использует библиотеку Sentence Transformers и принимает последовательности длиной до 512 токенов. Базовая модель многоязычная, поэтому эмбеддинги подходят для сравнения текстов на разных языках. Модель можно применять для семантического поиска, сопоставления похожих фраз и кластеризации текстов. В README приведена метрика loss 0,124 на валидации, но без описания датасета и протокола оценки её трудно интерпретировать. Модель распространяется на Hugging Face в формате safetensors; лицензия в предоставленных данных не указана.
A.X 4.0 VL Light — компактная мультимодальная модель SK Telecom для понимания изображений и текста, созданная на основе A.X 4.0 Light и дополнительно обученная на мультимодальных данных, в том числе крупных корейских наборах. Она предназначена для диалога и анализа изображений, а также для корпоративных сценариев, связанных с корейскими документами, таблицами, графиками, рукописным текстом и надписями в сценах. В карточке приведены результаты на корейских визуальных и текстовых бенчмарках; модель также использует примерно на 41% меньше текстовых токенов, чем Qwen2.5-VL, для одинакового корейского ввода. Модель поддерживает обработку изображений и текста и генерацию текстовых ответов; метаданные указывают семейство a.x-4-vl, плотную архитектуру и интерфейс вызова инструментов. Для работы через Transformers требуется версия 4.49.0 или новее. Лицензия — Apache-2.0. Описанные сильные стороны сосредоточены на корейском языке и корейских материалах; README не приводит размер модели и длину контекста.
Bangla-Embed-E5 — компактный энкодер предложений на основе BERT, разработанный автором репозитория kazalbrur. Модель дообучена на базе intfloat/multilingual-e5-small с помощью трёхэтапной дистилляции от BGE-M3 и последующей настройки на парах и NLI-данных. Она содержит 124,3 млн параметров по метаданным и обрабатывает до 512 токенов. Модель создаёт текстовые эмбеддинги для поиска по смыслу, сравнения предложений, межъязыкового поиска и классификации. В README сообщается о среднем результате 0,666 на бенгальской части MTEB(Indic) и сильных результатах в поиске на бенгальском языке среди компактных моделей. Для запросов и документов можно использовать отдельные подсказки query и passage и нормализовать эмбеддинги. Модель ориентирована на стандартный бенгальский язык и также поддерживает английский. Она не охватывает региональные варианты бенгальского; на полноразмерных MIRACL-bn и Mr.TyDi-bn уступает более крупным моделям и исходной модели без настройки, а приведённые метрики автоматические. Лицензия модели — MIT; лицензии некоторых обучающих данных могут ограничивать коммерческое использование, поэтому их условия следует проверять отдельно.
Это Sentence Transformer на базе google-bert/bert-base-multilingual-uncased, дообученный авторами репозитория на наборе из 10 200 пар текстов. Модель использует архитектуру BERT с усреднением токенных представлений и кодирует предложения и абзацы в плотные векторы размерностью 768; сходство можно оценивать косинусной метрикой. Максимальная длина последовательности — 512 токенов. Модель предназначена для семантического поиска, сравнения сходства предложений, поиска перефразировок, кластеризации и классификации текста на основе эмбеддингов. Многоязычные возможности унаследованы от базового BERT, обученного для 102 языков; примеры обучающих данных в карточке приведены на вьетнамском. Метаданные указывают библиотеку Sentence Transformers и формат Safetensors. Лицензия в предоставленных данных не указана.
calme-2.1-llama3-70b-GGUF — это набор файлов модели в формате GGUF для текстовой генерации, подготовленный и опубликованный MaziyarPanahi на основе модели calme-2.1-llama3-70b того же разработчика. GGUF предназначен для локального запуска и совместим с llama.cpp и рядом клиентских приложений и библиотек, включая llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp, GPT4All и другие. Модель относится к семейству Llama 3 и имеет размер 70B, однако в README не указаны точные архитектурные параметры, поддерживаемые языки или размер контекста. Доступны варианты квантования с разрядностью от 2 до 8 бит, что позволяет выбирать между меньшими требованиями к памяти и потенциальным снижением качества либо более высоким качеством и большими ресурсами. Модель ориентирована на задачи генерации текста и может использоваться через локальные графические интерфейсы, командную строку, Python-библиотеки и OpenAI-совместимый сервер. Основные преимущества — широкий выбор уровней квантования, поддержка GPU-ускорения в совместимых инструментах и возможность локального развертывания. Ограничения включают необходимость самостоятельно подобрать подходящий квантованный файл и обеспечить достаточные вычислительные ресурсы; сведения о качестве, результатах тестирования, мультимодальности и лицензии в README отсутствуют. Информация о лицензии не предоставлена.
ChatML-Nemo-Pro-V2 — объединённая языковая модель, опубликованная пользователем win10. Она создана методом TIES с помощью mergekit на базе shuttleai/shuttle-2.5-mini с включением cognitivecomputations/dolphin-2.9.3-mistral-nemo-12b. Модель построена на плотной архитектуре MistralForCausalLM и содержит 12,1 млрд параметров. Модель предназначена для генерации текста и диалогового общения. Метаданные указывают контекстное окно до 1 024 000 токенов; в карточке также отмечена поддержка чата. README не описывает отдельные специализированные сценарии или языки, поэтому модель можно характеризовать только как универсальную языковую модель для генерации текста и диалога. В репозитории указаны веса в формате safetensors. Лицензия в предоставленных данных не указана.
Chronorctypus-Limarobormes-13b — объединённая инструкциями дообученная языковая модель от chargoddard. Она создана слиянием пяти моделей на базе TheBloke/Llama-2-13B-fp16 по методике Resolving Interference When Merging Models, чтобы сохранить больше возможностей исходных моделей, чем при обычном линейном слиянии. Модель построена на плотной архитектуре Llama, содержит 12,9 млрд параметров и рассчитана на контекст до 4096 токенов. Модель предназначена для генерации ответов и выполнения инструкций в формате Alpaca: запрос передаётся в секции Instruction, ответ начинается после Response. В README автор сообщает, что модель показалась ему достаточно способной, и приводит результаты оценки на наборе тестов Open LLM Leaderboard. Модель использует формат safetensors. README не сообщает лицензию, поэтому условия использования по имеющимся данным определить нельзя.
DiscoPOP-zephyr-7b-gemma — языковая модель для генерации текста, разработанная Sakana AI и распространяемая в формате GGUF сообществом LM Studio. Она основана на Zephyr 7b Gemma и предназначена для общего использования: диалогов, ответов на запросы и других задач генерации текста в локальных приложениях, поддерживающих llama.cpp или LM Studio. Модель содержит около 8 млрд параметров и обучена методом DiscoPOP (Discovered Preference Optimization), разработанным Sakana AI для оптимизации предпочтений. По заявлению авторов, метод обеспечивает более высокий показатель Reward при меньшем отклонении от базовой модели по KL Divergence по сравнению с DPO. Модель работает в текстовой модальности, однако поддерживаемые языки и максимальный размер контекста в README не указаны. Для работы рекомендуется шаблон ChatML; системный промпт не предусмотрен. Предоставленная версия является квантизированной сборкой GGUF от bartowski на основе llama.cpp. Это делает её подходящей для локального запуска при ограниченных ресурсах, но конкретные параметры квантизации в README не указаны. Ограничения включают возможные неточные, вредные или нежелательные ответы, характерные для генеративных языковых моделей, а также отсутствие гарантии качества. Модель распространяется по лицензии gemma; дополнительные условия использования следует проверять в материалах исходной модели.
Dist-MPNet-Paracrawl-cs-en — компактная модель семантических эмбеддингов, созданная Seznam.cz. Это BERT-small, дистиллированная из sentence-transformers/all-mpnet-base-v2 и обученная на параллельном чешско-английском наборе ParaCrawl. Модель предназначена для сравнения предложений и применяется для поиска по смыслу, извлечения релевантных текстов, кластеризации и классификации. Модель содержит 27,2 млн параметров, принимает текст и поддерживает контекст до 512 токенов. Указанная лицензия — CC BY 4.0. Количественные результаты оценки и ограничения в доступных материалах не приведены.