Назад в зону разработчика

Mistral Модели

Изучите все 3 моделей от Mistral с подробными ценами, плюсами и минусами, а также рекомендациями для разработчиков.

3
Модели
$0.400
Самая низкая входная цена
131K
Макс. контекст
2
Уровни качества

Быстрые рекомендации

Лучшее соотношение цены и качества: Mistral Medium 3 ($0.400/1M)
Лучшее качество: Mistral Large 2

Mistral Large 2

Flagship

Многоязычные, сложные задачи

Официальные цены

Когда использовать: Лучший выбор для многоязычных корпоративных приложений, особенно для развертываний в ЕС.

Ключевые улучшения

  • MMLU: 84.0% — конкурентоспособен с моделями класса GPT-4
  • Доступна тонкая настройка — адаптация под доменные задачи
  • Базируется в ЕС (соответствует GDPR) — единственный крупный флагман с суверенитетом ЕС
  • Оптимизирован для 12 языков — лучший в классе для французского, немецкого, испанского
  • Контекст 128K меньше, чем у конкурентов с 1M — компромисс ради соответствия ЕС
Цена входа
$2.00
per 1M tokens
Цена выхода
$6.00
per 1M tokens
Кэшированный вход
per 1M tokens
Пакетный вход
per 1M tokens
Окно контекста: 131K
Макс. выход: 8,192 tokens
Дата обрезания знаний: 2024-07
ЗрениеВызов функцийТонкая настройкаРежим JSONБесплатный уровень

Плюсы

  • Отличное многоязычие (французский, немецкий и др.)
  • Доступна тонкая настройка
  • Базируется в ЕС (соответствует GDPR)

Минусы

  • Нет поддержки изображений
  • Контекст 128K мал по сравнению с конкурентами
  • Нет кэшированных/пакетных цен

Производительность

Скорость вывода~55 tok/s
Ограничение скорости3,000 RPM

Мультимодальность

Ввод изображенияВывод изображенияВвод аудиоВывод аудио

Бенчмарки

MMLU
84.0%
HumanEval
82.0%
MATH
65.0%

Mistral Medium 3

Mid-tier

Сбалансированная многоязычность

Официальные цены

Когда использовать: Экономически эффективная многоязычность + зрение для приложений на европейском рынке.

Ключевые улучшения

  • Добавлено зрение в среднем сегменте — мультимодальные возможности за $0,40/М входных данных
  • В 5 раз дешевле Mistral Large ($0,40 против $2/М) для легких задач
  • Инфраструктура на базе ЕС — соответствие GDPR для европейских данных
  • Контекст 128K — достаточно для большинства корпоративных задач обработки документов
  • Нет тонкой настройки — обновитесь до Large 2 для обучения пользовательских моделей
Цена входа
$0.400
per 1M tokens
Цена выхода
$2.00
per 1M tokens
Кэшированный вход
per 1M tokens
Пакетный вход
per 1M tokens
Окно контекста: 131K
Макс. выход: 8,192 tokens
Дата обрезания знаний: 2024-07
ЗрениеВызов функцийТонкая настройкаРежим JSONБесплатный уровень

Плюсы

  • Зрение по средней цене
  • Хороший многоязычный баланс
  • На базе ЕС

Минусы

  • Нет тонкой настройки
  • Нет кэшированных/пакетных цен
  • Меньший контекст, чем у конкурентов

Производительность

Скорость вывода~75 tok/s
Ограничение скорости5,000 RPM

Мультимодальность

Ввод изображенияВывод изображенияВвод аудиоВывод аудио

Бенчмарки

MMLU
80.5%
HumanEval
78.0%

Mixtral 8x22B

Mid-tier

Открытые веса, высокая пропускная способность

Официальные цены

Когда использовать: Для самостоятельного хостинга или тонкой настройки на доменно-специфичных данных с высокими требованиями к пропускной способности.

Ключевые улучшения

  • MoE с открытыми весами: 8x22B параметров, только 39B активных на токен — высокая пропускная способность
  • Возможность тонкой настройки — полный доступ к весам для адаптации к домену
  • Вызов функций + JSON-режим — корпоративная интеграция инструментов
  • 65K контекст — меньше, чем у новых моделей, но достаточно для большинства задач
  • Самостоятельный хостинг — без затрат на токен при работе на собственной инфраструктуре
Цена входа
$0.900
per 1M tokens
Цена выхода
$2.70
per 1M tokens
Кэшированный вход
per 1M tokens
Пакетный вход
per 1M tokens
Окно контекста: 66K
Макс. выход: 4,096 tokens
Дата обрезания знаний: 2024-01
ЗрениеВызов функцийТонкая настройкаРежим JSONБесплатный уровень

Плюсы

  • Архитектура MoE с открытыми весами
  • Возможность тонкой настройки
  • Высокая пропускная способность благодаря разреженной активации

Минусы

  • Всего 65K контекст
  • Нет поддержки зрения
  • Устаревшая дата обрезания знаний (2024-01)

Производительность

Скорость вывода~85 tok/s
Ограничение скорости

Мультимодальность

Ввод изображенияВывод изображенияВвод аудиоВывод аудио

Бенчмарки

MMLU
77.8%
HumanEval
75.5%
MATH
58.0%

Сравнение бок о бок

МодельУровеньВходВыходКонтекст
Mistral Large 2Flagship$2.00$6.00131K
Mistral Medium 3Mid-tier$0.400$2.00131K
Mixtral 8x22BMid-tier$0.900$2.7066K