I.6Перевод и языковая адаптация

Multilingual-E5-small — модель текстовых эмбеддингов, основанная на архитектуре BERT и обученная авторами работы Liang Wang и соавторов методом контрастивного предобучения на слабой разметке. В репозитории maiyad/multilingual-e5-small представлены веса модели размером 124,3 млн параметров; модель имеет 12 слоёв и выдаёт векторы размерности 384. Она основана на microsoft/Multilingual-MiniLM-L12-H384 и дополнительно обучена на смеси многоязычных датасетов. Модель предназначена для поиска и сравнения текстов: семантического сходства, поиска пассажей по запросу, поиска перефразировок и межъязыкового поиска. Для асимметричного поиска рекомендуется добавлять к запросу префикс «query: », а к тексту для поиска — «passage: »; для ряда симметричных задач и извлечения признаков рекомендуется префикс «query: ». Модель поддерживает 100 языков, но для языков с малым объёмом обучающих данных качество может быть ниже. Контекст ограничен 512 токенами, длинные тексты усекаются. Лицензия — MIT.

OmegaW10 — слитая с помощью mergekit методом SLERP языковая модель на архитектуре Mistral. Она объединяет ClaudioItaly/TopEvolutionWiz и Eric111/Yarn-Mistral-7b-128k-DPO; репозиторий содержит веса в формате safetensors, указанный размер — 7,1 млрд параметров, нативный контекст — 32 768 токенов. Модель предназначена для генерации текста, в том числе диалогов и развёрнутых ответов на вопросы.

OpenChat 3.6 8B 20240522 — языковая модель семейства OpenChat, разработанная командой OpenChat и основанная на Meta Llama 3 8B. Данный репозиторий содержит её GGUF-квантизации, предназначенные для локального запуска и эффективного развертывания. Модель работает в режиме генерации текста и диалогов, поддерживает совместимый с OpenAI ChatCompletion API сервер и может использоваться через OpenChat Web UI. Модель имеет около 8 миллиардов параметров, относится к текстовым моделям и обучалась с применением подхода C-RLFT на данных смешанного качества. README не указывает точный размер контекстного окна и перечень поддерживаемых языков. Для работы рекомендуется шаблон подсказок на основе формата Llama 3; сервер оптимизирован для высокой пропускной способности и, согласно README, может запускаться на потребительском GPU с 24 ГБ памяти. Квантизация снижает требования к ресурсам, но конкретные варианты GGUF могут различаться по размеру и качеству. Сильными сторонами заявлены производительность на уровне открытых 8B-моделей и улучшенное следование инструкциям и few-shot-шаблонам по сравнению с некоторыми альтернативами. Ограничениями являются зависимость качества и скорости от выбранного типа квантизации, а также отсутствие в предоставленных данных подробных результатов тестирования, точного контекстного окна и языкового охвата. Репозиторий распространяется по лицензии Llama 3; условия её применения следует учитывать при использовании модели.

Orpomis-Prime-7B-dare — объединённая с помощью Mergekit языковая модель от автора saucam. Она сочетает kaist-ai/mistral-orpo-beta и NousResearch/Hermes-2-Pro-Mistral-7B методом dare_ties; в конфигурации заданы веса 0,6 и 0,4, плотность 0,5 и тип данных bfloat16. Модель построена на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст до 32 768 токенов. Модель предназначена для диалогов и генерации текста по запросу. Её можно применять для ответов на вопросы, написания и преобразования текста, а также выполнения инструкций в текстовом чате. В репозитории представлены веса safetensors. Модель объединяет две базовые модели; самостоятельное дообучение Orpomis-Prime-7B-dare в карточке не заявлено. Сведения о лицензии, поддерживаемых языках и специальных ограничениях в доступных данных отсутствуют.

Panoramix-7B-Instruct-v0.2 — текстовая инструктивная модель на архитектуре Mistral, созданная zelus82 с помощью mergekit. Это слияние mlabonne/NeuralHermes-2.5-Mistral-7B и zelus82/Falbala-B7 методом passthrough; репозиторий содержит веса Safetensors. Модель предназначена для генерации текста по инструкциям и диалоговых сценариев. Размер составляет 8,9 млрд параметров, длина контекста — 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не сообщает о специальных предметных областях или подтверждённых ограничениях качества.

ntAnh-dev/paraphrase-multilingual-MiniLM-L12-v2 — дообученная командой ntAnh-dev многоязычная модель Sentence Transformers на основе sentence-transformers/paraphrase-multilingual-MiniLM-L12-v2. Архитектура — BERT с mean pooling; модель преобразует предложения и абзацы в плотные векторы размерности 384. Для сравнения текстов используется косинусное сходство. В метаданных указано 124,3 млн параметров и окно контекста 512 токенов; в карточке модели указана максимальная длина последовательности 128 токенов. Модель предназначена для семантического поиска, оценки сходства предложений, поиска перефразировок, кластеризации и классификации текстов на основе эмбеддингов. Многоязычное назначение унаследовано от базовой модели; конкретный перечень языков в предоставленных данных не приведён. Репозиторий содержит веса в формате safetensors. Лицензия в предоставленных данных не указана.

unsloth/Qwen2-VL-2B-Instruct-bnb-4bit — мультимодальная instruction-tuned модель, основанная на Qwen/Qwen2-VL-2B-Instruct и опубликованная Unsloth. Она предназначена для обработки изображений, видео и текста, визуального вопросно-ответного взаимодействия, анализа документов и сцен, а также сценариев, где требуется принимать решения на основе визуальной информации и текстовых инструкций. Модель содержит 2 миллиарда параметров и распространяется в 4-битном формате bnb. Она поддерживает динамическое разрешение изображений, преобразуя изображения в переменное число визуальных токенов, и использует Multimodal Rotary Position Embedding (M-ROPE) для обработки текстовых, двумерных визуальных и трёхмерных видеопозиционных данных. Заявлена поддержка понимания видео длительностью более 20 минут и распознавания текста на английском, китайском, большинстве европейских языков, японском, корейском, арабском и вьетнамском языках. Сильные стороны модели — сочетание компактного размера, 4-битного квантования и мультимодальных возможностей, включая анализ изображений высокого разнообразия разрешений и пропорций, документов и видео. Ограничения, включая возможные потери качества из-за квантования и отсутствие в карточке подробных характеристик контекстного окна, производительности и требований к оборудованию, следует учитывать при выборе модели. Модель распространяется по лицензии Apache-2.0.

Qwen3.5-9B-MXFP8-FP8KV-FP8Attn-CT-AutoRound — квантизированная версия модели Qwen3.5-9B, разработанной командой Qwen. Модель предназначена для генерации текста и запуска сценариев, требующих языкового понимания и вывода, при сниженном потреблении памяти по сравнению с полноточной версией. Квантизация выполнена в формате MXFP8 с использованием метода AutoRound. В README указано, что базовая модель имеет размер 9B параметров; сведения об архитектуре, поддерживаемых языках, модальностях и размере контекстного окна не приведены. Для оценки указаны результаты на GSM8K — 0,9310, HellaSwag — 0,5825, MMLU — 0,7833 и PIQA — 0,7916. Основное преимущество модели — более компактное представление, потенциально позволяющее эффективнее использовать вычислительные ресурсы. Ограничения связаны с возможными потерями качества из-за квантизации и отсутствием в README подробностей о совместимых средствах запуска, точных характеристиках производительности и областях применения. Условия лицензирования отдельно не указаны: необходимо соблюдать лицензию исходной модели Qwen/Qwen3.5-9B.

LuffyTheFox/Qwen3.6-35B-A3B-Uncensored-Genesis-Hermes-V13-GGUF — мультимодальная модель в формате GGUF, созданная LuffyTheFox на основе HauhauCS/Qwen3.6-35B-A3B-Uncensored-HauhauCS-Aggressive. В ней также использованы данные и элементы дообучения DJLougen/hermes-qwen3.5-35b-a3b-GGUF на наборе NousResearch/hermes-function-calling-v1. Модель относится к семейству Qwen и предназначена для локального запуска, диалогов, генерации текста, агентских сценариев и function calling; в метаданных заявлена поддержка обработки изображений и текста. Архитектура — MoE с заявленным общим размером 35B параметров и примерно 3B активных параметров, однако точные сведения о числе слоёв, размере контекста и используемых визуальных компонентах в README не приведены. Заявлены английский, китайский и другие языки. Автор описывает Genesis как постобработку GGUF-файла, включающую статистический анализ и коррекцию тензоров без переобучения, с целью повысить стабильность, ясность контекста и следование инструкциям. К сильным сторонам относятся uncensored-поведение, MoE-эффективность, мультимодальность и ориентация на Hermes-агентские задачи. Ограничения — отсутствие в README независимых бенчмарков, подробной оценки качества, точного контекстного окна и гарантии заявленных улучшений; результаты могут зависеть от квантования и настроек запуска. Для работы рекомендуются F16-кэш K/V, максимальная выгрузка на GPU и использование подходящего chat template. Лицензия — Apache-2.0.

KikoCis/Qwen3.8-27B-GGUF — набор квантованных моделей в формате GGUF на основе Qwen/Qwen3.8-27B, разработанной командой Qwen. Репозиторий предназначен для локального запуска текстовой генерации, включая агентские сценарии с многошаговым использованием инструментов, при ограниченных ресурсах. Доступны варианты квантования от 1,94 до 3,40 бит на вес и размером от 6,46 до 16,81 ГБ. Архитектура модели включает 65 блоков: 48 SSM/linear-attention, 16 полноценных attention-блоков и одну MTP-голову. Благодаря этому KV-кэш заявлен как относительно экономичный — около 64 КБ на токен против примерно 256 КБ у полностью attention-модели сопоставимого размера. Нативное контекстное окно заявлено как 262 144 токена, но в README его практическая работоспособность не подтверждена. Модель рассчитана только на текст: исходная базовая модель мультимодальна, однако в этом репозитории отсутствует mmproj, поэтому обработка изображений невозможна. Наиболее удачным вариантом для агентов авторы считают IQ2_M: в измеренном тесте он выполнил 79 из 80 задач, почти соответствуя Q3_K_M с результатом 40 из 40, при меньшем размере. IQ2_XS экономит немного места, но показал более низкий результат, а варианты IQ1 предназначены скорее для связного текста и не рекомендуются для инструментальных агентов. Сильная сторона архитектуры — экономия памяти на длинном контексте, ограничением является медленный prefill, особенно в многошаговых диалогах. Результаты зависят от backend и runtime: приведённые измерения выполнялись через Ollama и не должны напрямую переноситься на другие реализации. Распространяется по лицензии Apache-2.0.

Israeli-AI/Qwen3.8-27B-MTP-W4A16-VOLTA-Ampere — квантованная версия Qwen/Qwen3.8-27B, подготовленная командой Israeli-AI. Это текстогенерационная thinking-модель с поддержкой native MTP speculative decoding. Основной сценарий — запуск и обслуживание на GPU, включая Volta V100, где официальная FP8-версия не работает, а также на Ampere и более новых архитектурах. Заявлена поддержка английского языка; мультимодальные возможности сохранены, но на Volta проверялся только текстовый режим. Модель использует квантование INT4 W4A16 с симметричной схемой и group size 128 для значительной части self-attention и MLP-проекций. Размер BF16-варианта 51,7 ГБ сокращён до 25,8 ГБ, благодаря чему модель может работать на двух V100 по 32 ГБ с tensor parallelism и контекстом до 256K; в измерениях обслуживался контекст 131 072 токена. MTP-head, vision tower, embeddings, lm_head, нормы и компоненты Gated-DeltaNet сохранены в полной точности. На двух V100 заявлена скорость декодирования 43–68 токенов в секунду, обычно около 53,5, при трёх speculative-токенах. Сильные стороны модели — совместимость с устаревшими Volta GPU, уменьшенный объём памяти и сохранённая эффективность MTP-декодирования за счёт нетронутой MTP-head. Ограничения включают необходимость специальной Volta-совместимой сборки vLLM и настройки окружения, отсутствие проверки мультимодальной работы на Volta, а также неподтверждённую в README работу на Ampere и новее. Модель распространяется по лицензии Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций модели Qwen3.8-27B, опубликованный lactroiii на базе модели Qwen/Qwen3.8-27B от Qwen. Модель предназначена для генерации текста, диалоговых приложений и локального запуска через llama.cpp. Поведение отказов существенно снижено, но не устранено; основные возможности, обучающие данные и архитектура базовой модели сохранены. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, один MTP-слой и поддерживает контекст до 262 144 токенов. Заявлена поддержка английского и китайского языков, а также визуального ввода при наличии vision tower в базовой модели. Доступны варианты IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0, включая конфигурации со встроенной или отдельной MTP draft-моделью для speculative decoding. К сильным сторонам относятся большое контекстное окно, поддержка текста и изображений, несколько уровней квантизации и сохранённая MTP-голова для потенциального ускорения генерации. Измерения perplexity показывают близкое к f16 качество для большинства вариантов, тогда как IQ2_M заметно уступает остальным. Снижение отказов не является полным и может влиять на профиль безопасности модели. Для использования требуется совместимый runtime, например llama.cpp; лицензия — Apache-2.0.

Qwen3.8-27B-Uncensored-GGUF — набор GGUF-квантизаций базовой модели Qwen/Qwen3.8-27B, опубликованный пользователем preyy2 для запуска через llama.cpp и совместимые среды. Модель предназначена для генерации текста, диалогов и других задач на основе текста, а варианты с vision-проектором также поддерживают обработку изображений. Модель использует архитектуру Qwen3_5ForConditionalGeneration, содержит 64 слоя, словарь из 248 320 токенов, одну MTP-голову и поддерживает контекст до 262 144 токенов. В README заявлены английский и китайский языки. Доступны квантизации IQ2_M, IQ4_XS, Q4_K_M, Q5_K_M, Q6_K и Q8_0 размером примерно от 10,6 до 29 ГБ, а также отдельные draft-варианты для speculative decoding. MTP-голова позволяет использовать ускоренное декодирование при поддержке со стороны runtime. Ключевая особенность сборки — существенное снижение поведения, связанного с отказами от ответов, с помощью abliteration без дообучения и добавления новых данных; отказы не устранены полностью. При этом заявлено сохранение исходных возможностей, обучающих данных и архитектуры базовой модели. Качество квантизаций оценивалось по perplexity на wikitext-2, однако IQ2_M заметно уступает вариантам с более высокой точностью. Для запуска необходим совместимый runtime и объём памяти, соответствующий выбранному файлу; поддержка изображений зависит от vision-совместимого runtime. Распространение указано по лицензии Apache-2.0.

RedHatAI/Qwen3-8B-NVFP4 — квантизированная версия языковой модели Qwen3-8B, разработанная RedHatAI на базе Qwen/Qwen3-8B. Модель предназначена для генерации текста и диалоговых сценариев, включая развёртывание чат-ботов и других приложений на основе больших языковых моделей. Она принимает текстовые данные и генерирует текст; заявленные языки включают английский, немецкий, французский, итальянский, португальский, хинди, испанский и тайский, однако документация отдельно ограничивает использование английским языком. Весовые параметры и активации линейных операторов в трансформерных блоках квантизированы в формат FP4 с использованием LLM Compressor. Размер параметров уменьшен с 16 до 4 бит, что примерно на 75% сокращает объём хранения и требования к памяти GPU. Модель рассчитана на эффективный инференс через vLLM версии 0.9.1 и новее, включая OpenAI-совместимый режим сервинга. Для калибровки использовались образцы UltraChat; в README не указаны точный размер контекстного окна и количественные результаты бенчмарков. Ключевое преимущество модели — существенное снижение потребления дисковой и GPU-памяти при сохранении совместимости с исходной Qwen3-8B. Ограничением является возможное снижение качества из-за FP4-квантизации по сравнению с неквантизированной моделью, хотя README сообщает о проведённом сравнительном тестировании без приведения результатов. Лицензия — Apache-2.0; также указано ограничение на использование способами, нарушающими применимые законы и нормативные требования.

Qwen3-Embedding-4B — модель эмбеддингов текста из семейства Qwen3, опубликованная в репозитории unsloth и дообученная на базе Qwen/Qwen3-4B-Base. Плотная архитектура Qwen3 насчитывает около 3,7 млрд параметров. Модель рассчитана на получение векторных представлений текста для поиска и ранжирования; метаданные также отмечают возможности генерации текста и сходства предложений. Модель поддерживает более 100 языков, понимает длинные тексты и принимает инструкции, помогающие настроить эмбеддинги под задачу. Контекст составляет до 40 960 токенов по метаданным, а README указывает 32 тыс.; размер выходного вектора можно задавать в диапазоне от 32 до 2560 измерений. Модель подходит для семантического и межъязыкового поиска, поиска по коду, классификации и кластеризации текстов. Модель распространяется под лицензией Apache-2.0. README рекомендует настраивать инструкции под сценарий и отмечает, что без инструкции на стороне запроса в задачах поиска качество может снижаться примерно на 1–5%; для многоязычных сценариев авторы советуют формулировать инструкции на английском. Для Transformers версии ниже 4.51.0 возможна ошибка загрузки с ключом qwen3.

FuriosaAI публикует эту сборку Qwen3-VL-32B-Thinking вместе с пакетом Furiosa Executable Bundle для запуска на ускорителях FuriosaAI RNGD через Furiosa-LLM. Это плотная мультимодальная модель с 32 млрд параметров: она сочетает визуальный энкодер и трансформерный декодер, использует Interleaved-MRoPE и слияние признаков DeepStack. Квантизация не применялась; веса сохраняют точность исходной модели Qwen/Qwen3-VL-32B-Thinking. Модель принимает изображения и текст, а отвечает текстом. Она предназначена для распознавания текста на изображениях, анализа документов и диаграмм, пространственных рассуждений и понимания видео. Версия Thinking формирует рассуждение перед итоговым ответом; также поддерживается вызов инструментов. README описывает запуск через Furiosa-LLM на RNGD, а также совместимость с vLLM, SGLang и Transformers. Модель выпущена под лицензией Apache 2.0. Для запуска на RNGD требуется конфигурация с 32 PE, распределёнными по четырём картам RNGD; отдельные ограничения качества в предоставленных материалах не описаны.

Qwen3-VL-4B-Instruct-abliterated-v1-GGUF — мультимодальная vision-language модель от prithivMLmods, основанная на Alibaba Qwen3-VL-4B-Instruct. Это GGUF-версия модели примерно с 4 млрд параметров, изменённая методом abliteration для удаления стандартных отказов и фильтров безопасности. Модель предназначена для генерации текста по изображениям и инструкциям, подробного описания визуального содержимого, визуального рассуждения и выполнения инструкций в сложных, чувствительных, художественных и технических сценариях. Модель поддерживает анализ изображений и видео, OCR на 32 языках, работу с различными разрешениями и соотношениями сторон, а также контекст до 256K токенов. Она подходит для разбора пользовательских интерфейсов, извлечения данных из документов, интерпретации графиков, captioning и агентских задач. Основным языком указан английский, при этом заявлена возможность работы с многоязычными запросами. Доступны варианты квантования GGUF размером примерно от 1,06 до 8,05 ГБ, что позволяет запускать модель на потребительских GPU; для BF16 указано требование около 10–12 ГБ VRAM. Сильной стороной является сочетание мультимодального анализа, длинного контекста, OCR и отсутствия обычных защитных отказов, что может быть полезно для исследований, red-teaming и творческих приложений. Ограничением является потенциально менее безопасное поведение из-за удаления защитных механизмов, а также возможное снижение качества при использовании наиболее агрессивных вариантов квантования. Модель распространяется по лицензии Apache-2.0.

Qwen3-VL-8B-Instruct-abliterated-v1-GGUF — мультимодальная модель для преобразования изображений и текста в текст, разработанная prithivMLmods на основе Qwen3-VL-8B-Instruct от Alibaba. Это GGUF-сборка 8-миллиардной vision-language модели, предназначенная для локального запуска с использованием llama.cpp и совместимых инструментов. Модель ориентирована на описание изображений, визуальное рассуждение, выполнение инструкций, анализ сложного визуального контента, OCR, понимание видео и агентские сценарии. Заявлены поддержка 32 языков для OCR, контекстное окно до 262K токенов, пространственное рассуждение, различные разрешения, соотношения сторон и компоновки. Основным языком считается английский, при этом заявлена возможность работы с многоязычными запросами. Доступны квантизованные варианты от Q2_K до Q8_0, IQ4_XS и F16, а также отдельный мультимодальный проектор mmproj. Размер файлов варьируется примерно от 3,28 до 16,4 ГБ, что позволяет выбирать компромисс между качеством и требованиями к памяти. Вариант подвергнут abliteration, то есть модификации, направленной на устранение отказов по соображениям безопасности и контентных фильтров. Это может быть полезно для исследований, red-teaming, творческих и технических задач, однако одновременно означает отсутствие обычных защитных ограничений и повышенные риски получения нежелательного или небезопасного контента. Для запуска заявлена совместимость с Transformers и vLLM; для вариантов BF16/FP8 указаны требования порядка 16–24 ГБ видеопамяти. Модель распространяется по лицензии Apache-2.0.

coder3101/Qwen3-VL-8B-Thinking-heretic — дообученная версия мультимодальной модели Qwen3-VL-8B-Thinking от Qwen, опубликованная под лицензией Apache-2.0. Она принимает текст и изображения и предназначена для диалога, визуального анализа и рассуждений; карточка также описывает возможности базовой модели по анализу видео, OCR, пространственному пониманию и взаимодействию с интерфейсами. В репозитории указаны веса safetensors и архитектура Qwen3VLForConditionalGeneration. Автор сообщает, что применил abliteration для снижения частоты отказов: в приведённом сравнении модель отказала в 1 из 100 запросов против 44 из 100 у исходной версии; измеренная KL-дивергенция — 0,03. Эти показатели относятся к тесту из карточки и не гарантируют поведение на других запросах. Основа заявляет контекст 256K с возможностью расширения до 1M и OCR на 32 языках, однако это сведения о базовой модели, а не отдельная оценка данной производной версии.

SOLAR-13B-Instruct-v1.0 — разговорная языковая модель на базе архитектуры Llama, созданная Vicgalle с помощью mergekit. Это вариант SOLAR-10.7B-Instruct-v1.0, расширенный до 13 млрд параметров методом passthrough: в итоговую модель включены диапазоны слоёв исходной модели. Репозиторий содержит веса Safetensors; нативный контекст — 4096 токенов. Модель предназначена для диалогов, выполнения инструкций и генерации текстовых ответов. Автор указывает, что 4-битная квантизация помещается в 12 ГБ видеопамяти; приведены результаты нескольких бенчмарков, но полная оценка качества ещё не опубликована. Модель поддерживает чатовый сценарий и унаследована от англоязычной инструкционной модели Upstage. Распространяется по лицензии Apache-2.0.

supreme-vision-3b — мультимодальная модель для понимания изображений, разработанная SupremeAI для SupremeAI 2.0. Она дообучена на базе Qwen2-VL-3B-Instruct и предназначена для распознавания текста на изображениях, разбора снимков интерфейсов и анализа визуальных документов. Модель построена на архитектуре Qwen2.5-VL, содержит 3,1 млрд параметров, принимает изображения и текстовые запросы и формирует текстовые ответы. Нативный контекст — до 128 000 токенов. Репозиторий содержит веса в формате safetensors. Лицензия — Apache-2.0.

Dragoy/Swift-Qwen3.8-27B-abliterated-NVFP4-NInfer — мультимодальная производная модель на 27,78 млрд параметров, разработанная Dragoy на основе ukisai/Swift-Qwen3.8-27b. Модель поддерживает обработку текста и изображений с генерацией текста; в артефакт включены vision tower, MTP-head и DFlash2-drafter. Из модели удалено направление отказов в стиле huihui-ai, поэтому она ориентирована на более свободное выполнение запросов, включая сценарии, в которых исходная модель могла отказывать. Поддерживаются ускоренное speculative decoding через MTP и DFlash2, а также серверный режим NInfer. README не указывает поддерживаемые языки и максимальную архитектурную длину контекста; в примерах используется контекст до 16 384 токенов. Веса квантованы в формате NVFP4 для MLP-компонентов и FP8 для attention, GDN и lm_head. Артефакт предназначен для запуска через NInfer на видеокартах NVIDIA Blackwell с архитектурой sm_120a; требуется CUDA версии не ниже 13.1 и совместимый runtime NInfer, для актуальной сборки — ревизия не ниже 98dada0e. Заявлен запуск примерно в пределах 20 ГБ видеопамяти на одной карте. К сильным сторонам относятся мультимодальность, низкая разрядность, поддержка спекулятивного декодирования и отсутствие отказов в заявленном тесте AdvBench, однако удаление отказов снижает встроенные защитные ограничения и может повышать риски небезопасного использования. Модель распространяется по лицензии Swift Open License 1.0.

Synthia-v3.0-11B — языковая модель общего назначения от Migtissera, созданная на архитектуре Llama и дообученная для следования инструкциям и ведения развёрнутых диалогов. В README указано, что обучение проводилось на наборе Synthia-v3.0, включающем около 10 тысяч высококачественных примеров, сгенерированных GPT-4-Turbo, и опиралось на принципы LIMA. Модель предназначена для генерации текста, ответов на вопросы и продолжительных бесед. Её можно применять в диалоговых интерфейсах, для написания и объяснения материалов, а также для рассуждений в формате Tree of Thoughts и Chain of Thought. Размер модели — 10,6 млрд параметров, родной контекст — 4096 токенов; заявлена поддержка текстового ввода и вывода. Модель может выдавать неточные или вводящие в заблуждение ответы, а также предвзятый, оскорбительный или неподходящий контент. В README она названа uncensored, поэтому результаты требуют проверки и модерации. Лицензия — Apache-2.0.

ZEUS 8B V13 — диалоговая языковая модель, созданная T145 слиянием моделей методом DARE TIES. В качестве основы использована unsloth/Meta-Llama-3.1-8B-Instruct; в слияние также вошли arcee-ai/Llama-3.1-SuperNova-Lite, unsloth/Llama-3.1-Storm-8B и Orenguteng/Llama-3.1-8B-Lexi-Uncensored-V2. Модель построена на плотной архитектуре LlamaForCausalLM и содержит 7,5 млрд параметров. Она предназначена для генерации текста и диалогов, принимает текст и выдаёт текст; заявленная длина контекста — до 131 072 токенов. В README приведены результаты оценки на Open LLM Leaderboard, включая 78,78% на IFEval и 31,78% на BBH. Модель распространяется по лицензии Llama 3.1. Количественных гарантий качества для конкретных сценариев карточка не даёт; результаты тестов не заменяют проверку на целевых задачах.

airoboros-3_1-yi-34b-200k — языковая модель с открытыми весами, созданная автором репозитория на основе 01-ai/Yi-34B-200k. Модель дообучена методом QLoRA ранга 64 на наборе инструкций jondurbin/airoboros-3.1, а затем объединена с базовыми весами. Использует архитектуру LlamaForCausalLM и формат safetensors; содержит 33,9 млрд параметров и поддерживает контекст до 200 000 токенов. Модель предназначена для генерации текста и выполнения инструкций в формате чата Llama 2. Её можно применять для ответов на вопросы, диалогов, следования текстовым инструкциям и создания текстов. Автор сообщает, что проверял модель ограниченно; во время обучения промпты обрезались до 4096 токенов, поэтому качество работы с длинным контекстом отдельно не подтверждено. Лицензия указана как other, конкретные условия в предоставленных данных не раскрыты; перед использованием следует проверить лицензию базовой модели и карточку репозитория.

CollectiveCognition-v1.1-Mistral-7B-dare-0.85-Mistral-7B-Instruct-v0.1 — чат-модель на базе Mistral-7B-Instruct-v0.1, созданная слиянием весов Mistral-7B-Instruct-v0.1 и uukuguy/CollectiveCognition-v1.1-Mistral-7B-dare-0.85 методом SLERP. Модель разработана для генерации текста и ответов на запросы в диалоговом формате. Архитектура — плотная авторегрессионная MistralForCausalLM, размер — 7,1 млрд параметров, контекст — до 32 768 токенов; файлы опубликованы в формате safetensors с точностью bfloat16. Модель подходит для чат-ботов, ответов на инструкции и продолжения текста. В карточке не заявлены специализированные области или языки, поэтому назначение следует считать общим. Лицензия — Apache-2.0.

meandyou200175/e5-finetune — дообученная модель Sentence Transformer на базе intfloat/multilingual-e5-base, разработанная автором репозитория meandyou200175. Она преобразует предложения и абзацы в плотные векторы размерности 768 для семантического поиска, сравнения текстов, поиска перефразирований, кластеризации и классификации. Архитектура включает трансформер XLM-RoBERTa, усреднение токеновых представлений и нормализацию; сходство векторов можно оценивать косинусной мерой. Модель принимает текст, максимальная длина последовательности — 514 токенов по метаданным. Многоязычная базовая модель рассчитана на сопоставление текстов на разных языках. Для работы с ней используется библиотека Sentence Transformers, а веса опубликованы в формате safetensors. Лицензия в предоставленных данных не указана.

jaspionjader/ek-4 — слитая автором jaspionjader языковая модель для генерации текста и диалогов. Она создана методом Model Stock с помощью mergekit на основе jaspionjader/ek-1 с включением jaspionjader/ek-3 и jaspionjader/Kosmos-EVAA-Franken-stock-v42-8B. Модель построена на плотной архитектуре Llama и содержит 7,5 млрд параметров. Она принимает текст и генерирует текст, поддерживает диалоговый режим и контекст до 131 072 токенов. Репозиторий содержит веса в формате safetensors; для работы предусмотрена библиотека Transformers. Лицензия в предоставленных данных не приведена.

Experiment26Neuralsirkrishna_Experiment28Yam — объединённая модель, созданная на основе automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment28Yam-7B. Она предназначена для генерации текста и может использоваться в приложениях, которым нужна языковая модель общего назначения. Модель построена на архитектуре Mistral с плотной структурой и содержит 7,1 млрд параметров. Длина контекста составляет до 32 768 токенов. Веса опубликованы в формате safetensors, лицензия — Apache-2.0. Данных о специализированной области применения или языках в карточке нет.

MaziyarPanahi/Experiment28T3q_Inex16Calme — объединённая модель семейства Mistral с плотной архитектурой MistralForCausalLM и 7,1 млрд параметров. Она создана слиянием automerger/Experiment28T3q-7B и automerger/Inex16Calme-7B. Модель предназначена для генерации текста и принимает текстовые запросы. Контекстное окно составляет 32 768 токенов. Репозиторий содержит веса в формате Safetensors; лицензия — Apache-2.0.