I.6Перевод и языковая адаптация

MuXodious/Qwen3.5-4B-PaperWitch-heresy — мультимодальная диалоговая модель на базе Qwen3.5-4B, созданная с помощью Heretic v1.2.0 и метода abliteration. В версии изменяли направление первичных отказов; вторичные факторы, включая оговорки и связанные с ними формы несоблюдения запроса, оставлены без изменений. Модель предназначена для диалога, рассуждений, анализа изображений и вызова инструментов. Она принимает текст и изображения и генерирует текст. Базовая архитектура — плотная Qwen3.5 с визуальным энкодером; в ней около 4 млрд параметров. Нативный контекст — 262 144 токена, с возможностью расширения до 1 010 000. В README заявлена поддержка 201 языка и диалекта, но отдельные языки для этой производной модели не перечислены. В тесте автора модель отказала в 0 из 104 запросов против 103 из 104 у исходной модели; указана KL-дивергенция 0,0521. README предупреждает о возможном скрытом несоблюдении запросов и циклах рассуждений. Модель распространяется по лицензии Apache-2.0.

Bolsjay24/Qwen3.6-27B-Fable-Fusion-711-Uncensored-Heretic-NM-DAU-NEO-MAX-MTP-GGUF — открытая языковая модель на базе Qwen3.6-27B, разработанная в сотрудничестве автора модели, Nightmedia, TeichAI, armand0e и trohrbaugh; сборка и тонкая настройка выполнялись с использованием Unsloth. Модель создана как многоэтапная fine-tune и merge-модель с применением наборов DavidAU/Polar-STRICT-Datasets и DavidAU/F451-STRICT-Datasets, а также Fable-, Claude Opus-, GPT5- и других обучающих материалов. Заявлены версии в форматах GGUF с обычным и MTP-квантованием, включая 4- и 8-битные варианты, а также NEO IMATRIX-кванты с частично сохранённой точностью выходного тензора. Модель предназначена для широкого спектра задач: следования инструкциям, решения проблем, рассуждений, программирования, творческого письма, ролевых сценариев и работы с изображениями. Среди заявленных характеристик — улучшенные instruction following, общее понимание и reasoning, поддержка vision, а также языки English и Chinese. В README утверждается, что модель превосходит базовую Qwen3.6-27B в шести из семи тестов и сопоставима с ней в седьмом, однако конкретные значения тестов и независимая методика подтверждения не приведены. Сильными сторонами заявлены высокая производительность на потребительском оборудовании, сохранение возможностей исходной модели, развитое рассуждение и хорошее качество даже у низкоразрядных квантов. Ограничения включают отсутствие подробных сведений о размере контекста, точной архитектуре, системных требованиях и фактических результатах бенчмарков; заявления о «нецензурируемом» поведении также указывают на возможное отсутствие стандартных ограничений безопасности. Лицензия — Apache-2.0.

Qwen3.6-Whittle-25B-A3B — текстовая MoE-модель для диалогов и генерации текста, созданная автором проекта Whittle на основе Qwen3.6-35B-A3B. В основной версии репозитория удалены 30% маршрутизируемых экспертов базовой модели (256 → 180 на слой), а оставшиеся веса дообучены с помощью самодистилляции от исходной модели. Общее число параметров по метаданным — 2,9 млрд; модель поддерживает контекст до 262 144 токенов. В репозитории также описаны отдельные экспериментальные и GGUF-артефакты, поэтому характеристики конкретных файлов различаются. Модель предназначена для диалогов, следования инструкциям и агентных сценариев; метаданные отмечают интерфейс вызова инструментов. Карточка приводит результаты небольших проверок и указывает на близкую к исходной модели точность в отдельных заданиях, но эти результаты основаны на малом числе примеров. Для текстового и кодового дополнения в стиле базовой модели автор отмечает потерю качества без удалённой n-граммной памяти. Метаданные указывают лицензию Apache-2.0.

Qwen3.8-27B Uncensored NVFP4-NInfer — это квантованный мультимодальный вариант Qwen3.8-27B, подготовленный igorls в формате .ninfer для собственного fork NInfer. Исходную abliterated-модель и смешанные веса NVFP4/FP8 разработала OrcaRouter, а для speculative decoding включён сопутствующий компонент DFlash2 от Inco AI. При конвертации дообучение и отдельное удаление отказов не выполнялись; сохранены BF16-эмбеддинги токенов и полная выходная голова. Модель предназначена для диалоговых и conversational-сценариев, обработки текста, а также анализа изображений и видео при сборке NInfer с поддержкой media. Заявлены английский и китайский языки. Артефакт включает целевую 27B-модель, Vision- и MTP-компоненты, оптимизированную proposal head, DFlash2-компаньон, токенизатор, шаблоны и медиаресурсы. Размер файла — около 26,27 ГБ; квалифицированная конфигурация — RTX PRO 6000 Blackwell Workstation Edition с 96 ГБ видеопамяти под Windows, CUDA target sm_120a. В приведённом примере ограничение контекста составляет 32K токенов, а общий KV-пул — 64K. Сильные стороны модели — готовая интеграция компонентов для обычной генерации и speculative decoding через MTP или DFlash2, поддержка OpenAI-совместимого API, JSON Schema, потоковой выдачи и мультимодального ввода. Ограничения связаны с форматом .ninfer: модель не загружается напрямую в Transformers, vLLM, Ollama или llama.cpp. Потребление видеопамяти превышает размер файла и зависит от контекста, CUDA-графов и параллелизма; меньшие GPU и максимальный контекст не квалифицировались. Интеграция распространяется по лицензии Apache 2.0.

Карточка модели rhombus18/rhododendron-efficiency-1o на Hugging Face совпадает с карточкой rhombus18/rhododendron-professor-1o, поэтому описание составлено по ней. Rhombus18 Rhododendron Professor 1o — дообученная языковая модель семейства Qwen3, разработанная пользователем rhombus18 на основе unsloth/qwen3-32b-bnb-4bit. Модель имеет плотную архитектуру Qwen3ForCausalLM и содержит 29,7 млрд параметров. Карточка указывает обучение с помощью Unsloth и библиотеки TRL от Hugging Face; репозиторий содержит веса в формате safetensors. Модель предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Она поддерживает английский язык и контекст длиной до 128 000 токенов. В README не описаны специализированные области применения или результаты оценки качества, поэтому пригодность для конкретных задач следует проверять отдельно. Лицензия — Apache 2.0.

IlyaGusev/saiga_mistral_7b_merged — объединённая версия модели семейства Mistral, предназначенная для генерации текста. По метаданным это плотная авторегрессионная модель MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов. В README указано, что существуют версии GGUF и квантизации TheBloke, но данный репозиторий содержит веса PyTorch. Модель ориентирована на русскоязычные запросы; метаданные связывают её с русскоязычными наборами инструкций и диалогов. Её можно использовать для ответов на вопросы, диалогов и выполнения текстовых инструкций на русском языке. Лицензия — Apache-2.0. README не раскрывает, какие именно модели были объединены и как выполнялось слияние.

SauerkrautLM-7b-HerO-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель на архитектуре Mistral с 7,1 млрд параметров. Она создана слиянием методом SLERP моделей Mistral-7B-Instruct-v0.2 и SauerkrautLM-7b-HerO; конфигурация слияния использует bf16. Модель предназначена для генерации текста и ответов на инструкции в формате диалога. Контекстное окно составляет до 32 768 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Seed-OSS-36B-Base-woSyn — базовая большая языковая модель команды ByteDance Seed, выпущенная в августе 2025 года. Это версия без синтетических инструкционных данных в предобучении, предназначенная как основа для исследований и создания специализированных моделей. Модель имеет плотную причинно-авторегрессионную архитектуру с RoPE, GQA, RMSNorm и SwiGLU; в метаданных указано 31,7 млрд параметров. Она поддерживает контекст до 524 288 токенов и рассчитана на международное применение. Модель подходит для генерации текста, многошаговых рассуждений и длинных контекстов, а также может служить основой для разработок с агентными сценариями. В карточке описана возможность гибко задавать бюджет рассуждений для семейства Seed-OSS. Модель распространяется по лицензии Apache-2.0. Языки и подробные ограничения именно этой версии в предоставленных данных не перечислены.

Tuldur-8B — объединённая языковая модель, созданная jeiku с помощью mergekit и метода SLERP из allenai/Llama-3.1-Tulu-3-8B и Delta-Vector/Baldur-8B. Модель построена на архитектуре Llama с плотной причинной языковой моделью и содержит около 7,5 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия. Её можно использовать для ответов на запросы, следования инструкциям и других текстовых задач, поддерживаемых объединёнными моделями. Заявленная длина контекста — 131 072 токена. Веса опубликованы в формате safetensors; для работы указана библиотека Transformers. Лицензия в предоставленных данных не указана.

MaziyarPanahi/una-cybertron-7b-v3-OMA-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная слиянием Mistral-7B-Instruct-v0.2 и fblgit/una-cybertron-7b-v3-OMA методом SLERP. Модель построена на плотной архитектуре Mistral с 7,1 млрд параметров и предназначена для генерации текста и ответов на инструкции в формате диалога. Модель принимает текстовые запросы и выдаёт текстовые ответы; её контекст составляет до 32 768 токенов. Файлы опубликованы в формате safetensors. Модель распространяется по лицензии Apache-2.0. Карточка не описывает специализированные области применения и конкретные ограничения качества.

Карточка модели servantofares/Unlimited-OCR на Hugging Face совпадает с карточкой netfarm/Unlimited-OCR, поэтому описание составлено по ней. Unlimited-OCR — мультимодальная модель семейства Unlimited-OCR для распознавания текста и разбора документов по изображениям. Разработчики представляют её как развитие DeepSeek-OCR, ориентированное на однократный разбор длинных документов. Модель доступна для запуска через Transformers и SGLang, в том числе через OpenAI-совместимый API. Модель содержит 559,7 млн параметров, использует плотную архитектуру UnlimitedOCRForCausalLM и принимает изображения с текстовым содержимым для преобразования в текст. Заявлена поддержка нескольких языков; контекст составляет 32 768 токенов. В карточке указана лицензия MIT. README описывает варианты инференса, но не приводит результатов оценки качества или подробных ограничений применимости.

Карточка модели mikoy92/Unlimited-OCR-bf16-mlx на Hugging Face совпадает с карточкой emee-ai/Unlimited-OCR-bf16-mlx, поэтому описание составлено по ней. Unlimited-OCR BF16 MLX — конвертированная для MLX версия модели Baidu Unlimited-OCR, опубликованная emee-ai. Она предназначена для распознавания текста и разбора документов по изображениям; пример в карточке показывает обработку изображения с запросом на разбор документа. Модель использует архитектуру DeepSeekOCR с компонентами SAM, CLIP-L и DeepSeekV2 OCR; объём параметров — 559,7 млн, контекст — до 32 768 токенов. Репозиторий содержит веса в формате safetensors, размещённые в MLX-layout, и использует реализацию deepseekocr из mlx-vlm. Модель принимает изображение и текстовый запрос, выдаёт текст. В метаданных указан мультиязычный режим, но конкретные языки не перечислены. Лицензия — MIT.

Zamba2-2.7B-Instruct — разговорная модель Zyphra для следования инструкциям и генерации текста. Она получена дообучением Zamba2-2.7B: сначала SFT на наборах UltraChat 200k и Infinity-Instruct, затем DPO на UltraFeedback Binarized, Orca DPO Pairs и OpenHermesPreferences. Модель использует гибридную архитектуру Mamba2 и Transformer: слои Mamba2 чередуются с общими слоями внимания; также применяются LoRA-проекции общего MLP. В репозитории указано 5,7 млрд параметров, контекст — до 4096 токенов. Модель предназначена для диалогов, выполнения инструкций, ответов на вопросы, рассуждений и других общих текстовых задач, включая локальное использование на устройствах. Разработчик заявляет о высокой скорости генерации и меньших требованиях к памяти по сравнению с сопоставимыми Transformer-моделями. Для оптимизированного запуска нужны совместимые версии Transformers, mamba-ssm и causal-conv1d; без оптимизированных ядер Mamba2 задержка и расход памяти заметно выше. В README также отмечена возможная неполная совместимость временной реализации с некоторыми фреймворками и инструментами. Лицензия — Apache-2.0.

CombinHorizon выпустила эту текстовую модель как слияние весов, созданное с помощью mergekit и метода TIES. В качестве основы использована Qwen/Qwen2.5-32B, объединённая с zetasepic/Qwen2.5-32B-Instruct-abliterated-v2; модель имеет 32 млрд параметров и представлена в формате safetensors для библиотеки Transformers. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и выдаёт текст; заявленная длина контекста — 131 072 токена. В метаданных указан английский язык. Лицензия — Apache-2.0.

ZEUS-8B-V14 — объединённая модель для генерации текста и диалогов на базе семейства Llama 3.1. Согласно карточке, её создали методом DARE TIES, объединив unsloth/Meta-Llama-3.1-8B-Instruct с моделями Llama-3.1-SuperNova-Lite, Llama-3.1-Storm-8B и Llama-3.1-8B-Lexi-Uncensored-V2. Модель содержит 7,5 млрд параметров, построена на архитектуре LlamaForCausalLM и работает с контекстом до 131 072 токенов. Модель предназначена для генерации текста и ведения диалогов; метаданные также указывают интерфейс вызова инструментов. В README приведены результаты оценки на IFEval и BBH, однако подробные сравнительные данные и описание целевого поведения ограничены. Модель опубликована в формате safetensors; дата публикации — 30 декабря 2024 года. Лицензия в предоставленных данных не указана.

Bonsai 2 27B Ternary CRACK GGUF — языковая и мультимодальная модель, созданная исследовательской командой dealignai на основе тернарной версии Bonsai от PrismML и Qwen3.8-27B от Qwen. Из модели на уровне весов удалены механизмы отказа, при этом заявлено сохранение базовых возможностей, режимов рассуждения, использования инструментов и многоходового диалога. Модель предназначена для генерации текста, задач с рассуждением, работы с инструментами и сценариев, где требуется обработка изображений; конкретные поддерживаемые языки и размер контекстного окна в README не указаны. Модель использует гибридную архитектуру Attention и SSM на базе GatedDeltaNet: 64 блока, размер скрытого состояния 5120, отдельная vision tower. Применяется тернарное квантование PrismML PQ2_0 с эффективностью 2,13 бит на вес и размером файла около 7,21 ГБ. Доступны режимы рассуждения off, low и xhigh; для работы с изображениями используются отдельные mmproj-файлы в форматах BF16 или Q8_0. Запуск поддерживается через форк llama.cpp от PrismML на CPU, CUDA и Metal, что позволяет использовать модель на ноутбуке или одной GPU. Сильными сторонами являются малый размер для модели класса 27B, поддержка vision, рассуждений и инструментов, а также сохранение общей производительности относительно базовой тернарной версии: на указанной выборке MMLU разница составила −0,62 процентного пункта. Ограничения включают крайне низкую точность тернарного квантования, зависимость от специального форка llama.cpp и совместимых файлов проекторов, а также отсутствие встроенных механизмов отказа, что делает модель неподходящей для сценариев, требующих строгих защитных ограничений. README также предупреждает об исправлении прежней ошибки зацикливания токенов в режимах low и xhigh; рекомендуется использовать сборку, опубликованную после 18 сентября 2026 года. Лицензия — Apache-2.0.

Citaman/command-r-12-layer — разговорная языковая модель на архитектуре Cohere, созданная автором репозитория с помощью слияния SLERP модели Citaman/command-r-13-layer. В метаданных указано 12 млрд параметров, контекст до 8192 токенов и формат safetensors; модель предназначена для генерации текста и диалогового взаимодействия, включая интерфейс вызова инструментов. Модель принимает текст и генерирует текст. Карточка не приводит отдельной оценки качества, перечня поддерживаемых языков или отраслевой специализации. Лицензия в доступных данных не указана.

Experiment26Neuralsirkrishna_ShadowCalme — объединённая языковая модель семейства Mistral, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/ShadowCalme-7B. Модель содержит 7,1 млрд параметров и принимает текст для авторегрессионной генерации текста, включая диалоги; длина контекста — до 32 768 токенов. Модель предназначена для генерации продолжений, ответов и диалоговых реплик. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0. Сведения о специализации по языкам и прикладным областям в карточке не приведены.

Experiment28M7_Percival_01Shadow — объединённая модель на архитектуре Mistral, созданная слиянием automerger/Experiment28M7-7B и automerger/Percival_01Shadow-7B. Модель содержит 7,1 млрд параметров и предназначена для генерации текста; максимальная длина контекста составляет 32 768 токенов. Модель можно использовать для диалогов и других задач генерации текста. Она распространяется в формате Safetensors по лицензии Apache 2.0. Данных о специализации по языкам или предметным областям в карточке нет.

flammen13-mistral-7B — слитая с помощью mergekit методом SLERP языковая модель на архитектуре Mistral с 7,1 млрд параметров. В объединении использованы nbeerbower/flammen12-mistral-7B и automerger/OgnoExperiment27-7B; веса представлены в формате safetensors, тип библиотеки — Transformers. Модель предназначена для генерации текста и диалоговых сценариев. Она принимает текст и формирует текстовый ответ, поддерживая контекст до 32 768 токенов. Метаданные не задают конкретные языки или специализированную предметную область. Модель распространяется по лицензии Apache-2.0. Карточка не сообщает результатов оценки качества или особых ограничений применения.

Ganymede-24B-F16 — дообученная языковая модель семейства Mistral, опубликованная slrrxx101. Она предназначена для генерации текста и диалогового взаимодействия; метаданные также отмечают интерфейс вызова инструментов. Модель содержит 22 млрд параметров, принимает текст и поддерживает контекст до 131 072 токенов. Модель дообучена на unsloth/Mistral-Small-Instruct-2409-bnb-4bit с использованием Unsloth и библиотеки Hugging Face TRL. В репозитории указаны веса в формате safetensors и лицензия Apache-2.0. Карточка не описывает специализацию дообучения или результаты оценки качества, поэтому пригодность для конкретных предметных областей не установлена.

bartowski/gemma-2-9b-it-GGUF — это набор GGUF-квантизаций инструкционной языковой модели Gemma 2 9B IT, разработанной Google и подготовленной пользователем bartowski для запуска через llama.cpp. Модель предназначена для генерации текста и диалоговых сценариев, включая локальные чат-приложения и другие задачи, где требуется выполнение инструкций. Доступны варианты от F32 до низкобитных Q2 и IQ-квантизаций объёмом примерно от 3,43 до 36,97 ГБ. Модель является текстовой и использует архитектуру Gemma 2 с примерно 9 млрд параметров. README не указывает поддерживаемые языки и размер контекста. Для работы необходимо применять специальный формат prompt с маркерами начала и конца хода; системные сообщения не поддерживаются. Квантизации с более высокой точностью сохраняют лучшее качество, а варианты Q4–Q6 предлагают компромисс между качеством и требованиями к памяти; низкобитные варианты экономичнее, но могут заметно уступать в качестве. Распространение основано на лицензии Gemma от Google. Для доступа к исходной модели на Hugging Face требуется принять условия использования Google. README не содержит подробного описания ограничений лицензии или результатов бенчмарков, поэтому качество следует оценивать с учётом выбранной квантизации и конкретного сценария применения.

Gemma3-R1984-4B — мультимодальная модель для диалогов и анализа изображений, дообученная VIDraft на базе Google Gemma 3 4B. В карточке заявлена работа с изображениями, видео и документами, включая PDF, CSV и TXT; метаданные классифицируют модель как image-text-to-text и указывают архитектуру Gemma3ForConditionalGeneration с плотными весами в формате Safetensors. Модель рассчитана примерно на 4 млрд параметров и контекст до 8 000 токенов. Сценарии применения включают визуальные вопросы и ответы, анализ документов, сравнение файлов, диалог и исследовательские запросы с поиском в интернете через SERPHouse API и цитированием найденных источников. Указана поддержка английского, корейского, японского, китайского, испанского, русского, арабского, хинди, индонезийского, французского и немецкого языков. Поиск в интернете требует API-ключа; обработка видео и документов описана как часть платформы и не подтверждена тегом задачи модели. В метаданных указана лицензия Gemma; README дополнительно упоминает MIT для Agentic AI-платформы, поэтому условия для весов следует связывать с лицензией Gemma.

Gemopus-4-26B-A4B-it-GGUF — мультимодальная instruction-tuned модель, разработанная Jackrong на основе Google Gemma 4 26B Instruction. Это версия с supervised fine-tuning, ориентированная на сохранение исходного стиля рассуждений Gemma 4 и улучшение качества, структуры, ясности и согласованности ответов. Модель распространяется в формате GGUF и предназначена для использования с llama.cpp и совместимыми инструментами. Модель поддерживает сценарии генерации текста и работы с изображениями, включая диалоговые, технические и научно-популярные задачи. В README заявлена поддержка английского, китайского, корейского и японского языков. Среди сильных сторон отмечаются более естественный стиль общения, улучшенная организация длинных ответов, точность профессиональной терминологии и способность объяснять сложные темы понятным языком. Рекомендуемые параметры генерации: temperature=1.0, top_p=0.95 и top_k=64. Размер контекстного окна и точные сведения об архитектуре, включая значение обозначения A4B, в предоставленных данных не указаны. Публичные результаты benchmark также отсутствуют, поэтому фактические преимущества модели над базовой Gemma 4 или другими моделями не подтверждены количественно. README подчёркивает консервативный подход к дообучению без агрессивной дистилляции цепочек рассуждений; модель может иметь ограничения, связанные с отсутствием последующего reinforcement learning и process supervision. Лицензия — Apache License 2.0.

GLM-4.7-Flash-FP8 — это FP8-квантизированная версия модели GLM-4.7-Flash, разработанной zai-org. Модель предназначена для задач генерации текста и инференса через библиотеку Transformers и сервер vLLM; в README также указана поддержка архитектуры glm4_moe_lite, что указывает на использование MoE-подхода. Сведения о поддерживаемых языках и модальностях отсутствуют. Квантизация выполнена методом FP8 E4M3 с масштабами, встроенными в тензоры. Размер исходной модели в формате BF16 составляет около 62 ГБ, квантизированной версии — около 30 ГБ. В формате BF16 сохранены lm_head, embed_tokens, layernorms и веса маршрутизатора. В README приведён контекст длиной 8192 токена: на двух видеокартах RTX 3090 по 24 ГБ модель потребляла около 14,7 ГБ VRAM на GPU и достигала пропускной способности 19,4 токена в секунду при использовании vLLM 0.13.0 и tensor parallelism на двух GPU. Основное преимущество модели — существенно меньший объём хранения и потребление видеопамяти по сравнению с версией BF16 при сохранении ключевых компонентов в BF16. На GPU с аппаратной поддержкой FP8, включая RTX 40xx и более новые Ada Lovelace, ожидается более высокая производительность; RTX 3090 использует Marlin kernel для распаковки весов. Для запуска требуются vLLM версии 0.13.0 или новее и Transformers 5.0 или новее. Ограничения включают зависимость от совместимого оборудования и программного стека, а также отсутствие в README подробностей о качестве, результатах бенчмарков, языковой поддержке и максимальном контексте базовой модели. Лицензия — MIT.

Grafted-Hermetic-Platypus-A-2x7B — чат-модель семейства Mixtral, созданная объединением Platyboros-Instruct-7B и Hermes-Instruct-7B-v0.2. Она предназначена для генерации текста в ответ на инструкции и диалоговые запросы; карточка приводит форматы запросов Mistral-Instruct и Alpaca. Модель имеет архитектуру Mixtral с разреженной смесью экспертов (MoE), около 7,1 млрд параметров и контекст до 32 768 токенов. Репозиторий содержит веса Safetensors. В README приведены результаты Open LLM Leaderboard, включая среднее значение 64,23, но эти оценки сами по себе не гарантируют качество в конкретном сценарии. Модель распространяется по лицензии Apache-2.0.

IoannisKat1 выпустил эту модель Sentence Transformers как дообученную версию intfloat/multilingual-e5-large. Она преобразует предложения и абзацы в плотные векторы размерностью 1024 на основе XLM-RoBERTa-large; в архитектуру входят усреднение токенов и нормализация векторов. Модель предназначена для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации. Для поиска и сравнения можно вычислять косинусное сходство; благодаря Matryoshka-обучению предусмотрено усечение векторов до меньших размерностей с соответствующими компромиссами точности.

J.O.S.I.E.3-Beta10-7B-slerp — чат-модель для генерации текста, созданная слиянием Weyaxi/Einstein-v5-v0.2-7B и argilla/CapybaraHermes-2.5-Mistral-7B методом SLERP с помощью LazyMergekit. Она использует плотную архитектуру Mistral с 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации ответов на текстовые запросы. Веса опубликованы в формате Safetensors; лицензия — Apache-2.0.

kellemar-DPO-Orca-Distilled-7B-SLERP — текстовая авторегрессионная модель, разработанная decruz и дообученная на базе mlabonne/Marcoro14-7B-slerp с использованием набора argilla/distilabel-intel-orca-dpo-pairs. Она предназначена для базового инференса и общих языковых задач, включая генерацию ответов, рассуждения и работу в диалоговых приложениях. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. В README приведены результаты бенчмарков OpenLLM и Nous на январь 2024 года; они характеризуют оценку автора и могут зависеть от методики тестирования. Для модели указана лицензия CC BY-NC 4.0, поэтому её использование ограничено некоммерческими условиями этой лицензии.

L3.3-MS-Evayale-70B-GGUF — GGUF-квантизированная версия модели L3.3-MS-Evayale-70B, разработанной Steelskull и подготовленной bartowski. Это текстовая генеративная модель для запуска локально через llama.cpp и совместимые приложения, включая LM Studio. Модель создана на основе merge-модели, однако подробности об исходных компонентах в README не приведены. Модель имеет около 70 млрд параметров и поддерживает несколько вариантов квантизации: от Q8_0 с максимальным качеством до Q2_K_L с существенной экономией памяти. Доступны форматы Q4, Q5, Q6, Q8, IQ и другие варианты, включая специальные сборки для ARM и AVX. В README указан шаблон промпта с системными и пользовательскими сообщениями, совместимый с форматом Llama 3.3. Модальность — текстовая; сведения о языках и размере контекста не указаны. Сильной стороной модели является широкий выбор квантизаций, позволяющий подобрать баланс между качеством, размером файла и требованиями к памяти; для большинства сценариев автор рекомендует Q4_K_M, Q5 и Q6-варианты. Более компактные сборки подходят для систем с ограниченным объёмом RAM, но обеспечивают более низкое качество. Некоторые варианты оптимизированы для ARM, однако отдельные сборки не рекомендуется использовать на Mac или с GPU. Лицензия в предоставленном README не указана.