II.1Анализ требований и архитектура ПО

Ice0.17-03.10-RP — объединённая языковая модель, созданная icefog72 методом Model Stock с помощью mergekit. В основе — Mistral для генерации текста и диалогового общения; модель объединяет несколько чекпойнтов семейства Ice, включая DPO-вариант. Веса сохранены в формате safetensors, размер модели — 7,1 млрд параметров, контекст — до 32 768 токенов. Модель предназначена для генерации ответов в диалоге и других задач продолжения текста. В карточке приведены результаты Open LLM Leaderboard, включая IFEval и BBH. Метаданные помечают модель как NSFW и не предназначенную для всех аудиторий. Лицензия CC BY-NC 4.0 разрешает использование с указанием авторства, но запрещает коммерческое применение.

Ice0.41-22.11-RP — диалоговая модель генерации текста на базе Mistral-7B-Instruct-v0.2, созданная объединением этой модели с LoRA-адаптером Ice0.40-lora. Она предназначена для ведения диалога и генерации ответов по текстовым запросам. Модель имеет плотную архитектуру MistralForCausalLM, содержит 7,1 млрд параметров и поддерживает контекст длиной до 32 768 токенов. Доступны веса в формате safetensors; для работы используется библиотека Transformers. Модель опубликована под лицензией CC BY-NC 4.0, которая не разрешает коммерческое использование. В README не описаны специализация адаптера, поддерживаемые языки или результаты оценки качества.

Jarvis-3B — диалоговая модель генерации текста, разработанная Sree и OEvortex по мотивам вымышленного помощника Jarvis. В репозитории указано около 3 млрд параметров; метаданные классифицируют архитектуру как плотную StableLM с классом StableLmForCausalLM, размером 2,7 млрд параметров и контекстом до 4096 токенов. Модель работает с текстом и предназначена для общения на естественном языке. Её можно использовать для чат-ботов, виртуальных помощников, диалоговых систем и генерации ответов. Результаты оценки в карточке пока не приведены, а обучающие данные не описаны. Лицензия указана как other, поэтому условия использования следует уточнить в репозитории.

Novocoders/jaskier-7b-NeuralDPO — дообученная модель для генерации текста на базе bardsai/jaskier-7b-dpo-v5.6. Она построена на архитектуре Mistral и содержит 7,1 млрд параметров; модель обучали методом DPO на наборе NeuralNovel/Neural-DPO с использованием Axolotl. Модель предназначена для генерации текста и ответов на запросы. Метаданные указывают контекст длиной до 32 768 токенов. Репозиторий содержит веса в форматах PyTorch и Safetensors. Лицензия — CC BY 4.0.

Kosmos-EVAA-Franken-v37-8B — объединённая языковая модель, созданная jaspionjader с помощью mergekit методом SLERP из моделей jaspionjader/dp-6-8b и jaspionjader/f-9-8b. Это плотная авторегрессионная модель семейства Llama с архитектурой LlamaForCausalLM и примерно 7,5 млрд параметров. Она предназначена для генерации текста в диалоговом формате и работает через библиотеку Transformers; максимальная длина контекста составляет 8192 токена. Модель принимает текст и генерирует текст, поэтому может использоваться для диалогов, ответов на запросы и продолжения текста. В карточке не описаны специализированные области применения или поддерживаемые естественные языки. Лицензия в предоставленных данных не указана.

Kosmos-EVAA-Fusion-8B — плотная авторегрессионная языковая модель семейства Llama, созданная разработчиком jaspionjader путём объединения двух предварительно обученных моделей с помощью SLERP в mergekit. Репозиторий содержит 7,5 млрд параметров в формате safetensors и bfloat16; модель рассчитана на контекст до 8192 токенов и используется через Transformers. Модель предназначена для генерации текста по текстовому запросу. Её можно применять для продолжения текста, подготовки черновиков и ответов в диалоговом формате. Карточка описывает метод объединения и исходные модели, но не приводит отдельных оценок качества или специализированных сценариев. Условия лицензии в предоставленных данных не указаны.

grimjim выпустил kuno-kunoichi-v1-DPO-v2-SLERP-7B — объединение двух языковых моделей SanjiWatsuki/Kunoichi-7B и SanjiWatsuki/Kunoichi-DPO-v2-7B методом SLERP с помощью mergekit. Это плотная авторегрессионная модель семейства Mistral с 7,1 млрд параметров, предназначенная для генерации текста и диалогов. Модель принимает текст и выдаёт текст; заявлена поддержка шаблонов ChatML и Alpaca. Контекст составляет до 8192 токенов. Автор проверял модель с ChatML, temperature=1.1 и minP=0.03 и предполагает, что объединение может повысить устойчивость к ошибкам слияния. В репозитории указана лицензия CC BY-NC 4.0, которая ограничивает коммерческое использование. README не приводит результатов систематической оценки качества, поэтому фактическую устойчивость и качество ответов следует проверять на целевых задачах.

LaMini-Neo-1.3B — языковая модель серии LaMini-LM, разработанная MBZUAI и представленная в работе «LaMini-LM: A Diverse Herd of Distilled Models from Large-Scale Instructions». Это дообученная на 2,58 млн примеров набора LaMini-instruction модель EleutherAI/gpt-neo-1.3B. Она использует плотную архитектуру GPT-Neo с примерно 1,5 млрд параметров и контекстом до 2048 токенов. Модель предназначена для ответов на инструкции на естественном языке. Это авторегрессионная модель генерации текста; для лучшего результата README рекомендует использовать шаблон обёртки, применённый при дообучении. Метаданные указывают английский язык и формат PyTorch. Модель распространяется по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. README не приводит конкретных ограничений качества; модель следует рассматривать как исследовательскую инструкционную модель и проверять её ответы перед использованием.

Это версия LFM2-1.2B от Liquid AI, подготовленная командой LM Studio в формате MLX с точностью bfloat16 для устройств Apple Silicon. В основе лежит плотная авторегрессионная языковая архитектура LFM2; модель содержит около 1,1 млрд параметров и рассчитана на генерацию текста и диалоговое взаимодействие. Для неё заявлено контекстное окно до 128 000 токенов. Модель подходит для диалоговых приложений и генерации текста на поддерживаемых языках: английском, арабском, китайском, французском, немецком, японском, корейском и испанском. Формат MLX упрощает запуск на Apple Silicon; веса представлены в safetensors. Репозиторий указывает лицензию «other», поэтому условия использования следует сверить с лицензией базовой модели и файлами репозитория. Как и другие языковые модели, она может генерировать неточную или неподходящую информацию.

OsaurusAI/LFM2.5-230M-MXFP8 — компактная текстовая модель генерации от OsaurusAI, созданная на основе LiquidAI/LFM2.5-230M. Это гибридная плотная архитектура LFM2: 14 слоёв чередуют короткие свёрточные LIV-блоки и полное внимание; модель содержит 221,2 млн параметров и рассчитана на контекст до 128 000 токенов. Веса линейных слоёв представлены в формате MXFP8 с группой 32, а свёрточные ядра и нормализация сохранены в fp16. Сборка объёмом около 231 МБ предназначена для локального запуска на Apple Silicon через MLX и mlx_lm; заявлена поддержка английского, арабского, китайского, французского, немецкого, японского, корейского и испанского языков. Подходит для генерации текста и диалоговых сценариев, включая локальные агентные циклы. README указывает, что после квантизации проверялась связная генерация, а формат FP8 описан как почти без потерь. Это компактная модель с ограниченной ёмкостью по сравнению с крупными языковыми моделями; подтверждений поддержки изображений, аудио или других входных модальностей нет. Репозиторий распространяется по лицензии LFM Open License v1.0; базовая модель создана Liquid AI, а квантизированную сборку подготовила OsaurusAI.

Ling-3.0-tiny-GGUF — это текстовая генеративная модель с 8 млрд параметров, основанная на inclusionAI/Ling-3.0-tiny. Представленная версия квантизирована bartowski в формате GGUF с использованием llama.cpp; доступны варианты от BF16 до низкобитных Q2–Q8 и IQ-квантизаций. Модель принимает только текстовые данные и предназначена для генерации текста в локальных приложениях и инструментах, совместимых с llama.cpp. Сильной стороной набора является широкий выбор квантизаций: Q4_K_M размером около 4,92 ГБ заявлен как сбалансированный вариант, а Q5 и Q6 ориентированы на более высокое качество. Низкобитные варианты позволяют снизить требования к памяти, но характеризуются меньшим качеством; часть форматов обозначена как устаревшая или предназначенная для совместимости. Спекулятивное декодирование не поддерживается, измерения perplexity и KLD не предоставлены. Сведения о языках, архитектуре исходной модели, размере контекста и результатах тестирования отсутствуют. Лицензия модели — MIT. Для работы требуется среда, поддерживающая формат GGUF, например llama.cpp; README также содержит специальный формат промпта с ролями SYSTEM, HUMAN и ASSISTANT.

Xilabs/Llama-2-7b-Sharded — версия модели Llama 2 7B, опубликованной Meta и размещённой Xilabs в виде шардированных весов размером до 650 МБ для упрощения загрузки на устройства и облачные инстансы. Это авторегрессионная плотная трансформерная модель класса LlamaForCausalLM с 6,6 млрд параметров, форматом PyTorch и контекстом до 4096 токенов. Модель принимает текст и генерирует текст. Она предназначена для генерации на английском языке и может служить основой для разных задач генерации естественного языка; эта карточка описывает предварительно обученную модель, а не вариант Llama-2-Chat. Шардирование меняет организацию файлов, а не назначение модели. Для использования требуется соблюдать условия лицензии LLAMA 2 Community License Agreement. Модель может выдавать неточную, предвзятую или нежелательную информацию; перед внедрением следует проверить её поведение в целевом сценарии.

Llama-3.1-8B-Instruct-abliterated_via_adapter — разговорная языковая модель на архитектуре Llama, опубликованная grimjim. Это слияние Meta-Llama-3.1-8B-Instruct и адаптера LoRA, созданного для ослабления отказов модели; адаптер был получен на базе Llama 3, а итоговая модель собрана методом task arithmetic через mergekit. Модель содержит 7,5 млрд параметров, работает с текстом и поддерживает контекст до 131 072 токенов. Модель предназначена для генерации текста и диалогов. Ослабление отказов меняет поведение исходной модели при ответах на запросы; это не гарантирует точность, безопасность или пригодность для конкретных сценариев. В репозитории указаны веса в формате safetensors и библиотека Transformers. Лицензия — Llama 3.1 Community License.

Llama-3.1-8B-Stheno-v3.4-GGUF — это GGUF-квантизированная версия текстовой генеративной модели Llama-3.1-8B-Stheno-v3.4, разработанной Sao10K и квантизированной bartowski. Модель предназначена для генерации текста и запуска локально через llama.cpp, в том числе в LM Studio. В README указаны англоязычная специализация и формат диалога на основе шаблона Llama 3.1. Модель содержит 8 миллиардов параметров и распространяется в вариантах от F16 до Q2_K_L, включая форматы Q8_0, Q6_K, Q5_K, Q4_K, Q3_K и IQ-квантизации. Квантизация выполнена с использованием imatrix и llama.cpp b3825. Варианты различаются размером файла, качеством и требованиями к памяти: Q6_K_L и Q6_K обозначены как почти не уступающие исходной модели, Q4_K_M — как сбалансированный вариант, а младшие форматы подходят для систем с ограниченным объёмом RAM, но снижают качество. Некоторые варианты оптимизированы для ARM и требуют поддержки соответствующих инструкций процессора. Модель ориентирована на англоязычную генерацию текста, включая сценарии диалогов и творческого письма; среди исходных наборов данных указаны Stheno-v3.4-Instruct и Stheno-3.4-Creative-2. В README не приведены сведения о мультимодальности, длине контекста, конкретной архитектуре базовой модели и результатах бенчмарков. Лицензия — CC BY-NC 4.0, поэтому коммерческое использование может быть ограничено условиями лицензии.

onnx-community/Llama-3.2-1B-Instruct-ONNX — это ONNX-версия языковой модели Llama-3.2-1B-Instruct, разработанной Meta и адаптированной сообществом onnx-community для совместимости с Transformers.js. Модель предназначена для генерации текста и диалоговых сценариев, включая работу в формате системных и пользовательских сообщений, например ответы на вопросы и выполнение роли виртуального ассистента. Модель использует архитектуру базовой Llama-3.2-1B-Instruct и содержит около 1 миллиарда параметров. В README указана текстовая модальность; поддерживаемые языки и размер контекста не уточняются. ONNX-веса позволяют использовать модель через JavaScript-библиотеку Transformers.js, в том числе в средах, ориентированных на web-ready и WebML-сценарии. К сильным сторонам относятся небольшой размер, возможность локального запуска в совместимых средах и интеграция с Transformers.js. Ограничения включают неизвестные характеристики качества, языкового покрытия и контекстного окна, а также потенциальные ограничения производительности, зависящие от среды выполнения. Модель распространяется по лицензии Llama 3.2.

llama-3-spicy-abliterated-stella-8B — объединённая авторами модель на базе Llama 3, созданная с помощью mergekit и метода Model Stock. В слияние вошли nbeerbower/llama-3-spicy-8B, nbeerbower/llama-3-stella-8B, saishf/Aura-Uncensored-OAS-8B-L3 и cognitivecomputations/Llama-3-8B-Instruct-abliterated-v2. Это плотная авторегрессионная языковая модель с архитектурой LlamaForCausalLM, примерно 7,5 млрд параметров и контекстом до 8192 токенов. Предназначена для генерации текста и диалогового взаимодействия. Модель описана как abliterated и uncensored, что указывает на ослабленные ограничения при генерации. Веса опубликованы в формате Safetensors, библиотека — Transformers. Лицензия — Llama 3. В README приведены результаты Open LLM Leaderboard, включая среднее значение 69,27, ARC 65,19 и HellaSwag 81,98.

Это дообученная модель KKHYA на основе KKHYA/llavaqwen3-1.7b-finetune. Она использует архитектуру NMMaskMoELLaVAQwen3ForCausalLM, содержит 1,7 млрд параметров и предназначена для генерации текста и диалогов; каталог также отмечает интерфейс вызова инструментов. Нативный контекст — до 40 960 токенов. Модель опубликована в форматах PyTorch и Safetensors под лицензией Apache-2.0. Датасет дообучения и результаты оценки не описаны, поэтому качество и пригодность для конкретных сценариев по карточке установить нельзя.

Это дообученная модель Microsoft Phi-3.5-mini-instruct, созданная с помощью TRL. Она предназначена для генерации текста в диалоговом формате и ответов на пользовательские запросы; в карточке приведён пример запуска через Transformers pipeline. Модель имеет плотную архитектуру Phi-3 и содержит 3,7 млрд параметров. Она принимает текст и выдаёт текст, поддерживает контекст до 4096 токенов. В метаданных указана библиотека Transformers и формат весов safetensors. Карточка не описывает специализацию обучения или результаты оценки качества. Лицензия в предоставленных данных не указана.

Lyra4-Gutenberg2-12B — диалоговая языковая модель, созданная дообучением Sao10K/MN-12B-Lyra-v4 на датасетах jondurbin/gutenberg-dpo-v0.1 и nbeerbower/gutenberg2-dpo. Для обучения применялся ORPO в течение трёх эпох; данные были оформлены в формате ChatML. Модель построена на плотной архитектуре Mistral и содержит 12,1 млрд параметров. Модель предназначена для генерации текста в диалоге и выполнения инструкций. В README указано увеличение длины последовательности относительно Lyra4-Gutenberg-12B; метаданные каталога указывают контекст до 1 024 000 токенов. В опубликованных результатах Open LLM Leaderboard указаны средний балл 19,74, IFEval 25,85 и BBH 33,73. Модель распространяется в формате Safetensors и доступна по лицензии CC BY-NC 4.0, которая ограничивает коммерческое использование. Показатели бенчмарков описывают лишь отдельные тесты и не гарантируют качество для конкретных задач; самостоятельные ограничения модели в карточке не описаны.

MaziyarPanahi/M7Yamshadowexperiment28_Inex12Experiment28 — объединённая языковая модель на архитектуре Mistral, созданная из automerger/M7Yamshadowexperiment28-7B и automerger/Inex12Experiment28-7B. Она предназначена для генерации текста и диалоговых сценариев. Модель содержит 7,1 млрд параметров, поддерживает контекст до 32 768 токенов и распространяется в формате SafeTensors. Модель опубликована 9 апреля 2024 года под лицензией Apache-2.0. README не уточняет языковую специализацию и особенности объединения; поэтому применимость к конкретным языкам и задачам за пределами генерации текста по имеющимся сведениям определить нельзя.

ib-ssm опубликовал совместимую с Hugging Face Transformers конверсию модели NVIDIA Mamba2-8B-3T-4K для генерации текста. Это плотная авторегрессионная архитектура Mamba2, загружаемая как Mamba2ForCausalLM; в метаданных указано 14,2 млрд параметров. Исходный чекпойнт был в формате Megatron-LM, а репозиторий использует формат Safetensors и сохраняет исходный файл токенизатора SentencePiece с обёрткой T5Tokenizer для совместимости.

CobraMamba/mamba-gpt-7b-v2 — языковая модель для генерации текста, дообученная на базе mistralai/Mistral-7B-v0.1. В README приведены результаты оценки на задачах Open LLM Leaderboard, включая ARC и HellaSwag; модель предназначена для экспериментов и прикладных сценариев генерации текста. По метаданным это плотная архитектура MistralForCausalLM с 7,1 млрд параметров и контекстом до 32 768 токенов, доступная в форматах PyTorch и safetensors для Transformers. Модель принимает текст и генерирует текст; в карточке указан английский язык. Репозиторий распространяется по лицензии Apache-2.0. Ответы могут быть ошибочными или нерелевантными, а обучающие данные могут приводить к предвзятым или оскорбительным формулировкам; результаты следует проверять.

Qwen3-1.7B compression MaxRL final — дообученная модель семейства Qwen3, опубликованная hi-todayis-jh. Это плотная авторегрессионная языковая модель с 1,7 млрд параметров для генерации текста и диалогов. Репозиторий содержит веса BF16 в формате Transformers, конфигурацию, токенизатор и шаблон чата с режимом размышления; заявлена длина контекста 40 960 токенов. Модель можно загружать через Transformers или vLLM. Модель предназначена для разговорной генерации текста и оценок с включённым режимом размышления. Карточка указывает, что экспорт выполнен из шага обучения 100; параметры сжатия и MaxRL входят в название, но README не описывает результаты или конкретный метод обучения. Базовая модель — Qwen/Qwen3-1.7B. Лицензия в предоставленных данных не указана. Как и у других языковых моделей, качество ответов может варьироваться; README подтверждает успешную загрузку и прямой проход на CPU, но не приводит сравнительных оценок качества.

mergestein — дообученная модель семейства Qwen2, опубликованная пользователем lordspline. Это плотная авторегрессионная языковая модель примерно на 795 млн параметров, предназначенная для генерации текста и диалогового использования. Контекст составляет до 32 768 токенов; модель сохранена в форматах PyTorch и Safetensors, а для обучения использовался Axolotl 0.4.1. В карточке указано дообучение на наборе данных, обозначенном как None; назначение дообучения, состав данных и конкретные сценарии применения не раскрыты. В README приведено значение loss 1,2069 на оценочной выборке, но этого показателя недостаточно, чтобы судить о качестве модели для конкретных задач. Лицензия в доступных данных не указана.

MetaAligner-UltraFeedback-13B — языковая модель проекта MetaAligner, разработанная для выравнивания ответов общего ИИ-ассистента по нескольким критериям предпочтений. Она принимает одноходовый запрос и генерирует ответ, согласованный с заданными целями; заявлена поддержка выравнивания по новым, ранее не встречавшимся целям без настройки параметров исходной модели. Модель дообучена на базе Meta LLaMA2-13B с использованием динамического набора данных на основе openbmb/UltraFeedback. Это плотная авторегрессионная модель семейства Llama с 12,9 млрд параметров и контекстом 4096 токенов. Карточка описывает профессиональные запросы, в том числе по программированию и истории; метаданные указывают английский язык и поддержку диалогового режима. Модель распространяется в формате PyTorch по лицензии MIT. Модель предназначена для экспериментов и практических сценариев, где нужно получать ответы, согласованные с несколькими пользовательскими критериями. Результаты выравнивания и качество на конкретных запросах зависят от выбранной цели; карточка сообщает об экспериментальных результатах, но не приводит количественных оценок или подробных ограничений применения.

MFANN3bv1.1 — языковая модель из семейства MFANN, разработанная Makhi для генерации текста в диалоговом и инструктивном формате. Автор описывает её как небольшую модель с цепочкой рассуждений, дообученную на модифицированном наборе Alpaca: примеры включают заданный процесс рассуждения, который модель может выдавать перед ответом. По метаданным это плотная авторегрессионная модель архитектуры PhiForCausalLM на 3,5 млрд параметров с контекстом до 131 072 токенов. Она рассчитана на текстовый ввод и генерацию текста; заявленная базовая модель в README — phi-2. Репозиторий содержит веса SafeTensors и использует библиотеку Transformers. Лицензия и ограничения на применение в предоставленных данных не описаны.

miqu-1-70b — языковая модель с параметрами порядка 70 млрд, представленная пользователем miqudev. README не указывает официального разработчика; модель описана как первая в потенциальной серии и помечена как «Leaked from», поэтому происхождение и статус распространения остаются неясными. Модель предназначена для генерации и обработки текста в диалоговом формате Mistral, включая многоходовые запросы и ответы. Указано, что она обучалась или тестировалась с контекстом до 32 000 токенов и использует высокочастотную базу RoPE. Поддержка модальностей, языков и точная архитектура не описаны. Для работы рекомендуется формат промпта Mistral и настройки temperature 1 и top_p 0,95; остальные параметры, согласно README, не тестировались. Отдельно предупреждается не изменять настройки RoPE. Конкретные сильные стороны, ограничения, лицензия и условия коммерческого использования в карточке не указаны; происхождение модели также может создавать юридические и эксплуатационные риски.

Miquella-120B — объединённая текстовая языковая модель на архитектуре Llama, созданная eldrtchmoon с помощью mergekit. Это попытка повторить Goliath-120B, заменив в исходной схеме слияния Xwin на Miqu-1-70B; также в слияние вошла Euryale-1.3-L2-70B. Модель предназначена для генерации текста, включая диалоговые сценарии. Веса опубликованы в формате safetensors; объём модели составляет 117,5 млрд параметров, а контекст — до 32 764 токенов. README не сообщает поддерживаемые языки и конкретные ограничения качества. Лицензия в предоставленных данных не указана.

CorticalStack/mistral-7b-jondurbin-truthy-dpo — языковая модель Mistral с 7,1 млрд параметров, дообученная методом Direct Preference Optimization (DPO) на датасете jondurbin/truthy-dpo-v0.1. В карточке указана конфигурация LoRA: r=16, alpha=16 и dropout=0,05; базовая модель — mistralai/Mistral-7B-v0.1. Модель предназначена для генерации текста и диалоговых сценариев, где важны предпочтения, отражённые в обучающих данных. Она принимает текст и выдаёт текст; заявленный контекст составляет 32 768 токенов. Модель распространяется в формате safetensors по лицензии Apache-2.0. Карточка не описывает целевые языки, состав предпочтений в датасете, результаты оценки или гарантии точности, поэтому качество ответов и пригодность для конкретных сценариев требуют отдельной проверки.

HINT-lab/mistral-7b-ppo-m-hermes — разговорная языковая модель, разработанная Jixuan Leng, Chengsong Huang, Banghua Zhu и Jiaxin Huang. Авторы дообучили teknium/OpenHermes-2.5-Mistral-7B методом PPO-M — алгоритмом RLHF с калибровкой модели вознаграждения. В карточке указано, что PPO-M предназначен для снижения словесной чрезмерной уверенности у LLM, обученных с RLHF: модель вознаграждения использует оценки уверенности наряду с попарными предпочтениями, чтобы соотносить уверенность ответа с его качеством. Модель основана на плотной архитектуре MistralForCausalLM, содержит 7,1 млрд параметров и принимает текстовые запросы, генерируя текстовые ответы в диалоговом формате. Заявленная длина контекста — 32 768 токенов. Репозиторий использует формат safetensors и библиотеку Transformers. Данные указывают на английский язык исходной модели OpenHermes, но языки обучения этой версии отдельно не перечислены. Модель подходит для диалоговых ответов и генерации текста с акцентом на более калиброванную словесную уверенность. Карточка ссылается на препринт об алгоритме PPO-M; сравнительные оценки этой конкретной версии не приведены. Лицензия в предоставленных данных не указана.