II.10Разработка и эксплуатация AI/ML-систем

VAETKI-20B-A2B — языковая модель NC-AI для генерации текста и диалогов. Она построена на архитектуре Transformer с причинным автодекодированием и смесью экспертов (MoE): всего 19,64 млрд параметров, из которых активируются 2,2 млрд, восемь из 128 экспертов. Модель прошла предобучение и постобучение; в репозитории веса представлены в формате Safetensors. Модель предназначена для эффективного инференса и поддерживает корейский, английский, китайский и японский языки. Карточка указывает контекст 16 тысяч токенов, а метаданные — нативный контекст 32 768 токенов. Лицензия — MIT. Модель может выдавать неточные или неполные ответы и галлюцинировать, особенно на неоднозначных запросах и задачах, требующих высокой фактической точности. Возможны трудности со сложными рассуждениями, точными вычислениями и корректной генерацией кода; ответы могут отражать предубеждения обучающих данных. Модель не предназначена для критически важных решений в медицине, праве, финансах и военной сфере.

Wav2Vec2-Base-VoxPopuli-Finetuned — модель распознавания речи, разработанная Facebook AI. Она основана на Wav2Vec2 Base: предварительно обучена на 10 тысячах неразмеченных примеров корпуса VoxPopuli, затем дообучена на транскрибированных испанских аудиозаписях. Архитектура — Wav2Vec2ForCTC, размер — 113,3 млн параметров; модель принимает аудио и преобразует речь в текст на испанском языке. Модель предназначена для автоматической транскрипции испанской речи, в том числе аудиозаписей, похожих на данные VoxPopuli. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 требует указания авторства и не разрешает коммерческое использование.

Wav2Vec2-Base-VoxPopuli-Finetuned — модель распознавания речи, разработанная Facebook AI. Она основана на Wav2Vec2 Base: модель предварительно обучили на 10 тысячах неразмеченных фрагментов корпуса VoxPopuli, а затем дообучили на расшифрованных аудиозаписях этого корпуса. Архитектура — Wav2Vec2ForCTC, размер — 113,3 млн параметров; модель принимает аудио и выдаёт текстовую расшифровку на итальянском языке. Модель предназначена для автоматического распознавания итальянской речи, например для транскрибации записей и подготовки текстовых субтитров. В README приведён пример инференса на образце Common Voice. Репозиторий содержит веса PyTorch. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но некоммерческое.

Модель arijitx/wav2vec2-large-xlsr-bengali разработана на основе facebook/wav2vec2-large-xlsr-53 и дообучена для распознавания речи на бенгальском языке. Она принимает аудио с частотой дискретизации 16 кГц и преобразует речь в текст; для вывода используется архитектура Wav2Vec2ForCTC. Размер модели — около 402,8 млн параметров. Модель предназначена для автоматической транскрибации бенгальской речи. При проверке на отложенной выборке примерно из 4200 высказываний автор получил WER 32,45%; результат показывает качество именно на этой выборке и не гарантирует такую же точность на других данных. Для использования указана лицензия CC BY-SA 4.0.

lgris/wav2vec2-podcasts-tagarela-v2 — модель распознавания речи на базе Wav2Vec2, разработанная автором репозитория и дообученная на полном наборе TAGARELA v2. Она преобразует речь в текст и рассчитана прежде всего на транскрибирование аудио на бразильском португальском. Модель содержит 113,3 млн параметров; в README указаны входное аудио 16 кГц, моно и словарь из 51 токена. В тестах README приведены WER 14,96% на TAGARELA v2, 23,75% на TAGARELA v1 и 23,98% на CORAA v1.1. Результаты показывают, что качество зависит от набора данных; метрики не гарантируют такую же точность на других источниках, акцентах или условиях записи. Модель распространяется по лицензии Apache-2.0.

NbAiLab/wav2vec2-xls-r-1b-npsc-bokmaal — дообученная модель распознавания речи на базе facebook/wav2vec2-xls-r-1b, созданная NbAiLab на датасете NbAiLab/NPSC, подвыборке 16K_mp3_bokmaal. Модель использует архитектуру wav2vec2 с CTC-декодированием, принимает аудио и преобразует речь в текст. В метаданных указано 1,3 млрд параметров; веса представлены в формате PyTorch. Модель предназначена для автоматической транскрипции речи на норвежском букмоле. Для оценки на тестовой выборке автор приводит WER 0,0966 и loss 0,1598. Лицензия — Apache-2.0. Подробности о других условиях записи, поддерживаемых языках и ограничениях применения в карточке не приведены.

YazanSalameh/Whisper-base-Arabic — дообученная модель OpenAI Whisper Base для автоматического распознавания арабской речи и преобразования аудио в текст. Она основана на архитектуре Whisper с 51,7 млн параметров и распространяется в формате safetensors по лицензии Apache-2.0. Модель обучалась на арабских данных Common Voice 16.0, MGB-2 и Jordan-Audio. В карточке приведён результат на оценочной выборке: WER 34,7 и loss 0,44; для проверки использовались 600 примеров из трёх наборов данных. Оценка ограничена небольшим объёмом выборки, а автор предлагает подбирать способ интерпретации точности самостоятельно.

inesc-id/WhisperLv3-FT — дообученная модель распознавания речи на основе OpenAI Whisper large-v3, созданная на датасете 425. Это мультиязычная архитектура Whisper с 905,2 млн параметров, предназначенная для преобразования аудио в текст. Репозиторий содержит веса в формате safetensors и рассчитан на использование с Transformers. В карточке приведён результат оценки на тестовом наборе: loss 0,1162 и WER 3,9720; единицы измерения и условия оценки не описаны. Базовая модель поддерживает транскрибацию и перевод аудио в текст, однако для этой версии README не уточняет конкретные языки, сценарии применения или ограничения. Лицензия — Apache-2.0.

WomboCombo-R1-14B-Preview — экспериментальная объединённая языковая модель на архитектуре Qwen2, опубликованная RDson. Она создана методом sce с помощью mergekit на основе Qwen/Qwen2.5-14B-Instruct и объединяет веса DeepSeek-R1-Distill-Qwen-14B, Virtuoso-Small, DRT-o1-14B и Fusion4-14B-Instruct. Модель содержит 14 млрд параметров, принимает текст и генерирует текст; заявленная длина контекста — 32 768 токенов. Репозиторий содержит веса safetensors для Transformers. Модель предназначена для диалога и генерации ответов, включая задачи, в которых полезны возможности объединённых инструкционных и reasoning-моделей. Метаданные отмечают интерфейс вызова инструментов, но сами по себе не подтверждают качество или совместимость такого режима. Это предварительная версия с небольшим числом загрузок; отдельные оценки качества и список поддерживаемых языков в предоставленных данных отсутствуют. Лицензия в доступных данных не указана.

Xelora-9B-Study — дообученная Shreesha-2011 текстовая модель семейства Qwen3.5. Она основана на Qwen/Qwen3.5-9B и использует плотную архитектуру Qwen3_5ForCausalLM; в репозитории указано 7,2 млрд параметров. Модель предназначена для генерации текста и диалогового взаимодействия, а интерфейс также поддерживает вызов инструментов. Модель принимает текст и выдаёт текст. Для базовой Qwen3.5-9B заявлены мультимодальные возможности, включая анализ изображений, однако карточка Xelora описывает текстовый вариант модели и не подтверждает обработку изображений. Контекстное окно составляет до 262 144 токенов, основной указанный язык — английский. В README сказано, что обучение выполнялось с Unsloth и библиотекой TRL. Лицензия — Apache-2.0. Карточка не приводит оценок качества, специализированных сценариев обучения или результатов тестирования.

Yamshadowexperiment28T3qm7xp-7B — автоматическое слияние языковых моделей, созданное Maxime Labonne. Модель основана на архитектуре Mistral и содержит 7,1 млрд параметров; веса сохранены в формате SafeTensors. Для слияния использован метод model_stock, а базовой моделью в конфигурации указана mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста и диалогов. Контекст составляет до 32 768 токенов. Репозиторий распространяется по лицензии Apache-2.0. Карточка не приводит результатов оценки качества или специальных ограничений по применению.

adamo1139/Yi-1.5-34B-32K-rebased-1406 — языковая модель на архитектуре Llama с 33,9 млрд параметров и контекстом до 32 768 токенов. Автор дообучил Yi-1.5-34B-32K методом SFT на наборе uninstruct-v1-experimental-chatml, затем провёл обучение ORPO на rawrr_v2-2_stage1. Модель предназначена для генерации текста и диалоговых ответов. Автор описывает её как эксперимент по устранению загрязнения синтетическими данными в SFT исходной Yi-1.5-34B-32K. В README также упоминается план дальнейшей работы с датасетом AEZAKMI v4, поэтому текущий чекпойнт следует считать экспериментальным. Модель распространяется в формате safetensors по лицензии Apache-2.0.

Модель joannetai520/16_bit_model_trymoredata1 — дообученная авторегрессионная языковая модель семейства Llama с плотной архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Её разработал joannetai520; при обучении использовались Unsloth и библиотека TRL. Модель предназначена для генерации текста и диалогового взаимодействия, а метаданные также указывают интерфейс вызова инструментов. Модель принимает текст и генерирует текст. В метаданных указан контекст до 131 072 токенов и язык en. Веса опубликованы в формате Safetensors по лицензии Apache-2.0. README указывает на дообучение от репозитория с тем же идентификатором, поэтому отдельную исходную базовую модель установить нельзя.

ishikaa/acquisition_generator_AS_proximity_omnimath_qwen14b — генеративная языковая модель, опубликованная пользователем ishikaa на Hugging Face. В метаданных она обозначена как модель для text-generation и conversational-сценариев, совместимая с библиотекой Transformers; разработчик, лицензия и базовая модель в карточке не указаны. Модель относится к семейству Qwen2 и содержит около 14 миллиардов параметров. Она поддерживает контекст длиной до 32 768 токенов и предназначена для генерации продолжений текста и диалоговых ответов. Её можно использовать в приложениях на базе Transformers для создания текста, прототипирования чат-ботов и обработки длинных текстовых запросов. README практически не содержит сведений о данных обучения, целевых предметных областях, результатах оценки или специальных преимуществах модели. Поэтому качество, безопасность и пригодность для конкретных задач необходимо проверять самостоятельно; условия лицензии также следует уточнить перед использованием.

A-I-0xtom-7B-slerp — объединённая языковая модель, созданная автором репозитория с помощью LazyMergekit методом SLERP из 0x0dad0/nous_nous_v2_0 и tomaszki/nous-thirty. Это плотная авторегрессионная модель семейства Llama с 7,1 млрд параметров, предназначенная для генерации текста и диалогового общения. Заявленная длина контекста — 32 768 токенов; веса опубликованы в формате SafeTensors, конфигурация слияния использует bfloat16. Модель подходит для генерации ответов и продолжения текста в чат-сценариях. В README приведены результаты оценки на бенчмарках рассуждений и понимания текста, а также средняя оценка потерь; эти показатели сами по себе не гарантируют качество в конкретном применении. Репозиторий распространяется по лицензии Apache-2.0.

prince4332/ak-ga-en-2 — текстовая модель генерации на базе архитектурного семейства Qwen3.5 Text, опубликованная на Hugging Face. В метаданных указаны библиотека Transformers, формат safetensors и размер около 585,4 млн параметров. Модель предназначена для генерации текста и диалоговых сценариев. Она поддерживает контекст длиной до 262 144 токенов, что позволяет работать с большими объёмами входного текста. Метаданные не содержат сведений о разработчике, языках, лицензии, датасетах, результатах оценки или специальных прикладных областях. README является автоматически сгенерированной карточкой и не описывает конкретные сильные стороны, ограничения или условия использования модели. Перед применением в продуктивных системах необходимо самостоятельно проверить качество на целевых данных, совместимость с задачей и лицензионные условия репозитория.

olmOCR-7B-0225-preview-GGUF — это квантизированная версия мультимодальной модели olmOCR-7B-0225-preview, разработанной AllenAI и преобразованной в формат GGUF пользователем bartowski с использованием llama.cpp. Модель предназначена для обработки изображений и текста, прежде всего для задач оптического распознавания символов и извлечения текстовой информации из визуальных документов. Заявленная языковая поддержка — английский язык. Модель содержит около 7 миллиардов параметров и доступна в нескольких вариантах квантизации от Q8_0 до Q2_K_L, что позволяет выбирать между качеством распознавания, размером файла и требованиями к оперативной памяти. Размер файлов составляет примерно от 3,49 до 8,10 ГБ. Варианты GGUF можно запускать локально через llama.cpp, LM Studio и другие совместимые проекты. Для взаимодействия используется шаблон промпта с ролями system, user и assistant. Сильными сторонами являются поддержка изображений, широкий выбор уровней квантизации и возможность локального запуска без обращения к облачным сервисам. При этом снижение точности по сравнению с исходной моделью зависит от выбранного варианта квантизации, а сведения о точной архитектуре, максимальной длине контекста и поддержке языков, кроме английского, в карточке не указаны. Модель распространяется по лицензии Apache-2.0.

all-MiniLM-L6-v2-multi-qa-linear-merge — демонстрационная модель, созданная авторами репозитория с помощью функции слияния моделей Sentence Transformers. Она линейно объединяет с равными весами два англоязычных энкодера предложений: sentence-transformers/all-MiniLM-L6-v2 и sentence-transformers/multi-qa-MiniLM-L6-cos-v1. Модель основана на архитектуре BERT, содержит 25,9 млн параметров и принимает текст для получения векторных представлений; максимальная длина контекста составляет 512 токенов. Модель предназначена для вычисления семантической близости предложений и создания эмбеддингов для поиска и сравнения текстов. Это демонстрационное слияние, а не отдельный релиз, настроенный под конкретную задачу, поэтому качество на целевых сценариях следует проверять отдельно. Репозиторий содержит веса в форматах SafeTensors, TensorFlow и OpenVINO. Лицензия в предоставленных данных не указана.

duyntnet/aya-23-8B-imatrix-GGUF — это набор квантованных форматов GGUF с использованием imatrix для модели Aya-23-8B, разработанной CohereForAI. Модель предназначена для генерации текста и может применяться в диалоговых сценариях, написании текстов и других задачах на основе языковой генерации. Известно, что это каузальная языковая модель размером 8B параметров, работающая с текстовой модальностью. В README явно указан английский язык, однако пример использования демонстрирует запрос на турецком языке; полный перечень поддерживаемых языков и размер контекста не приведены. Для работы требуется совместимая поддержка GGUF и соответствующее программное обеспечение; исходная модель использует Transformers и шаблон чата Command R Plus. Ключевое преимущество этой версии — квантованные представления, потенциально снижающие требования к памяти и вычислительным ресурсам по сравнению с полной моделью, однако конкретные уровни квантования и их влияние на качество не указаны. Лицензия обозначена как other, без дополнительных условий в README.

B0-9B-GGUF — это набор квантованных файлов модели schneewolflabs/B0-9B, подготовленный пользователем mradermacher в формате GGUF. Модель связана с экосистемой Qwen3.5 и предназначена для запуска средствами, поддерживающими GGUF, включая локальные сценарии инференса. В обучении или дообучении использовались наборы данных Alembic-DPO, weasel-dpo, grok-politically-incorrect-dpo, seX-ai-dpo, i-DPO, Luna-DPO, MahouMix-v1, egirl-delegation-dpo и egirl-hemlock-dpo; заявленный язык — английский. Доступны варианты квантования от Q2_K до Q8_0, а также f16, размером примерно от 4,0 до 18,5 ГБ. Для мультимодальных сценариев предоставляются дополнительные файлы mmproj-Q8_0 и mmproj-f16, однако конкретные поддерживаемые модальности, архитектура и размер контекста в README не указаны. Варианты Q4_K_S и Q4_K_M отмечены как быстрые и рекомендуемые, Q6_K — как обеспечивающий очень хорошее качество, а Q8_0 — как сочетающий высокое качество и скорость. Модель может быть полезна для локальных англоязычных диалоговых и агентных задач, а также сценариев использования инструментов, на что указывают теги agents и tool-use. Качество и требования к памяти зависят от выбранного уровня квантования; менее компактные варианты обычно требуют больше ресурсов, а более агрессивное квантование может снижать качество. В README отсутствуют результаты бенчмарков и подробное описание ограничений поведения. Лицензия модели — Apache-2.0.

MaziyarPanahi/bagel-dpo-7b-v0.1-Mistral-7B-Instruct-v0.2-slerp — диалоговая языковая модель, созданная объединением моделей Mistral-7B-Instruct-v0.2 и bagel-dpo-7b-v0.1 методом SLERP. Она предназначена для генерации текста и ответов на инструкции в чат-сценариях. Модель имеет плотную архитектуру MistralForCausalLM и 7,1 млрд параметров, принимает текст и поддерживает контекст до 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не уточняет целевые языки и специализированные предметные области; возможности и качество для конкретных языков или задач отдельно не описаны.

Calme-7B-Instruct-v0.4-GGUF — это набор файлов модели в формате GGUF для инструкционной модели Calme-7B-Instruct-v0.4, разработанной и квантизированной MaziyarPanahi. Модель предназначена для генерации текста, диалоговых сценариев и выполнения инструкций. В метаданных она также отмечена как совместимая с Mistral, однако подробности исходной архитектуры в README не приведены. Модель имеет размер порядка 7 миллиардов параметров и доступна в вариантах квантизации от 2 до 8 бит, включая Q2_K, Q3_K, Q4_K, Q5_K и Q6_K. Формат GGUF ориентирован на локальный запуск с помощью llama.cpp и совместимых приложений и библиотек, включая text-generation-webui, KoboldCpp, GPT4All, LM Studio и llama-cpp-python. README не указывает поддерживаемые языки, максимальную длину контекста, конкретные показатели качества или мультимодальные возможности; по имеющимся данным, модель является текстовой. К сильным сторонам относятся широкий выбор уровней квантизации, возможность подобрать баланс между качеством, размером файла и требованиями к памяти, а также поддержка распространённых инструментов локального инференса. К ограничениям относятся потенциальная потеря качества при использовании низкобитных вариантов и отсутствие в README сведений о языковом покрытии, контексте, бенчмарках и рекомендуемых параметрах генерации. Модель распространяется по лицензии Apache-2.0.

Canopy-258M-R3 v3 — компактная языковая модель семейства Canopy от psikosen, предназначенная для браузерной автоматизации и работы на устройствах с ограниченными ресурсами. Авторская карточка описывает её как рекуррентную Mixture-of-Experts-модель для выполнения действий в браузере, включая заполнение форм, обработку динамических полей и извлечение структурированных данных со страниц. В примерах показаны генерация кода и управление браузером через отдельный инструментальный пакет. В метаданных указаны 136,8 млн параметров, архитектура CanopyForCausalLM, поддержка чата и кода, формат safetensors и библиотека Transformers. README заявляет об ускорении браузерных сценариев, но не приводит независимых результатов оценки. Модель работает с текстовыми запросами и генерирует текст; её карточка указывает английский язык. Лицензия Apache 2.0.

Capybara Tess Yi 34B 200K GGUF — квантизированная версия языковой модели Capybara Tess Yi 34B 200K, созданной brucethemoose и преобразованной в формат GGUF пользователем TheBloke. Модель относится к семейству Yi, предназначена для генерации текста и диалоговых сценариев, включая работу через локальные приложения и библиотеки, совместимые с llama.cpp. В README заявлена поддержка английского языка. Модель имеет 34 млрд параметров и заявленное контекстное окно до 200 тыс. токенов. Формат GGUF поддерживает варианты квантования от 2 до 8 бит, что позволяет выбирать баланс между размером файла, требованиями к памяти, скоростью работы и сохранением качества. Доступны сценарии инференса на CPU и GPU; совместимы llama.cpp, text-generation-webui, KoboldCpp, LM Studio, llama-cpp-python и другие инструменты. Для запросов рекомендуется шаблон Orca-Vicuna с секциями SYSTEM, USER и ASSISTANT. Сильными сторонами являются большое контекстное окно, широкий выбор уровней квантования и возможность локального запуска на различном оборудовании. Ограничения включают потенциальную потерю качества при сильном квантовании, высокие требования к ресурсам для 34-миллиардной модели и отсутствие в README подробных сведений о данных обучения, результатах оценки и поддержке других языков. Модель распространяется по лицензии yi-license; условия следует уточнять в лицензии исходной модели Yi-34B.

MaziyarPanahi/Chocolatine-3B-Instruct-DPO-Revised-GGUF — это набор файлов модели в формате GGUF для локального запуска. В основе лежит jpacifico/Chocolatine-3B-Instruct-DPO-Revised; автор исходной модели — jpacifico, а квантизацию и публикацию GGUF-версии выполнил MaziyarPanahi. Модель относится к классу текстовых генеративных моделей с инструкционным дообучением и DPO-настройкой, имеет размер около 3 миллиардов параметров и предназначена для работы с текстом. Модель ориентирована на выполнение текстовых инструкций и генерацию ответов в локальных приложениях и библиотеках, совместимых с GGUF, включая llama.cpp, llama-cpp-python, LM Studio, text-generation-webui, KoboldCpp и другие. Доступны варианты квантизации от 2 до 8 бит, что позволяет выбирать компромисс между размером файлов, требованиями к памяти и качеством вывода. README не содержит сведений о поддерживаемых языках, длине контекста, точной архитектуре, результатах бенчмарков, мультимодальности и лицензии, поэтому эти характеристики нельзя достоверно оценить.

Это GGUF-квантизированная версия языковой модели cogito-v1-preview-llama-3B, разработанной deepcogito и подготовленной пользователем bartowski с использованием llama.cpp и метода imatrix. Модель предназначена для генерации текста и может запускаться локально через llama.cpp, LM Studio и другие проекты на его основе. Модель относится к семейству Llama и имеет размер 3B параметров. Доступны варианты с разными уровнями квантизации — от BF16 до Q2_K_L, включая наиболее рекомендуемые Q4_K_M, Q5_K_M, Q6_K и другие форматы. Квантизация позволяет выбирать баланс между качеством, размером файла и требованиями к оперативной памяти; более компактные варианты подходят для устройств с ограниченными ресурсами, но могут заметнее уступать по качеству. В README не указаны поддерживаемые языки, размер контекстного окна, мультимодальные возможности и результаты бенчмарков, поэтому эти характеристики нельзя подтвердить. Для работы необходимо использовать совместимое программное обеспечение и соответствующий шаблон промпта. Лицензия указана как llama3.2.

TriadParty/deepmoney-67b-chat — чат-модель, разработанная TriadParty на базе DeepSeek-67B и дообученная на датасете TriadParty/deepmoney-sft. Обучение включало предварительное обучение с LoRA ранга 512 и последующее дообучение на инструкциях с LoRA ранга 128; модель представлена в архитектуре Llama и содержит 66,6 млрд параметров. Модель предназначена для генерации текста в диалоговом формате и выполнения инструкций. Репозиторий использует формат PyTorch, контекст модели составляет 4096 токенов. Лицензия — Apache-2.0. Карточка не приводит результатов оценки качества и не уточняет языки обучения или специализацию датасета, поэтому возможности в конкретных предметных областях подтвердить нельзя.

DeepSeek-R1-Distill-Qwen-1.5B-GGUF — это GGUF-версия дистиллированной языковой модели DeepSeek-R1-Distill-Qwen-1.5B. Модель разработана командой DeepSeek, а данный вариант опубликован Unsloth. Она предназначена для локального запуска и генерации текста, включая ответы на вопросы, диалоговые сценарии и задачи рассуждения. Модель относится к семейству Qwen и имеет размер 1,5 млрд параметров. Это текстовая модель, работающая через llama.cpp; в README приведены примеры квантования Q4_K_M и использования KV-кэша Q8_0, а также возможность частичного переноса слоёв на GPU. Указан английский язык. Длина контекста и более подробные характеристики архитектуры в предоставленных данных не указаны. К сильным сторонам относятся небольшой размер, возможность локального запуска на доступном оборудовании и поддержка GGUF-квантизаций, снижающих требования к памяти. Ограничения включают неизвестные в README показатели качества, отсутствие заявленной мультимодальности и неполные сведения о контексте и языковой поддержке; для корректного диалога требуется использовать специальные токены или совместимый chat template. Модель распространяется по лицензии Apache-2.0.

DeepSeek-V4-Flash-ConfigI-GGUF — квантизированная GGUF-сборка модели DeepSeek-V4-Flash, опубликованная thetom-ai. Это MoE-модель с 284 млрд параметров, из которых активно 21 млрд; в README указаны 43 слоя, 256 маршрутизируемых экспертов с выбором top-6, hash routing, MLA attention, mHC hyper-connections и DSA indexer. Гибридная квантизация Config-I имеет эффективную точность 2,88 бита на параметр и занимает около 95 GiB; веса разделены на три файла. Модель предназначена для генерации текста и диалогов, включая запуск на системах с 128 ГБ объединённой памяти. Для чтения её весов нужен форк llama.cpp с поддержкой TurboQuant TQ3_1S; стандартный llama.cpp не подходит. README рекомендует параметры генерации temperature 1.0 и top_p 0.95, отмечая, что жадное декодирование может вызывать циклы повторов. Для исходной модели в метаданных указана лицензия MIT.

Experiment26Neuralsirkrishna_Experiment29Experiment24 — объединённая автором карточки модель на базе двух моделей Mistral: automerger/Experiment26Neuralsirkrishna-7B и automerger/Experiment29Experiment24-7B. Она предназначена для генерации текста и диалогов, в том числе с использованием длинного контекста до 32 768 токенов. Модель содержит 7,1 млрд параметров и распространяется в формате safetensors. Для использования доступны задачи генерации текста. Модель выпущена под лицензией Apache-2.0.