Для Mistral Large 4 используйте Chat Completions API.

О модели

Mistral Large 4 — мультимодальная модель Mistral AI для общих задач, программирования и работы с инструментами. Разработчик поддерживает вызов функций и структурированный вывод в Chat Completions.

По карточке Mistral, модель имеет 1,05 трлн параметров, из которых 52 млрд активируются на токен; отдельно указан визуальный энкодер на 1,6 млрд параметров. Для длинных материалов в каталоге DSLab указан контекст 1 048 576 токенов.

В DSLab для модели указан контекст 1 048 576 токенов. Это позволяет передавать в запросе материал задачи вместе с необходимыми инструкциями.

Стоимость

Текущая стоимость использования этой модели:

Токены

Стоимость за 1 млн токенов

Входные токены

70₽

Выходные токены

210₽

Чтение из кэша

7₽

Как считается расход

  • Учитываются все токены

    И входные (input), и сгенерированные моделью (output)

Характеристики

Параметр

Значение

Разработчик

Mistral

Контекст в DSLab

1 048 576 токенов

Архитектура

MoE, 1,05 трлн параметров; 52 млрд активных

Вход по каталогу DSLab

Текст и изображения

Выход

Текст

Инструменты в каталоге

Да

Рассуждения в каталоге

Да

Сравнение с соседними моделями

Модель

Контекст по данным Mistral

Параметры

Mistral Large 4 (эта модель)

1 млн токенов

1,05 трлн всего; 52 млрд активных

Mistral Large 3

256 тыс. токенов

675 млрд всего; 41 млрд активных

Стоимость

Тип токенов

Цена за 1 млн токенов

Входящие

70 ₽

Исходящие

210 ₽

Чтение из кеша

7 ₽

API

Эндпоинт

http 
POST https://api.dslab.tech/v1/chat/completions
Текстовый запрос 
import osfrom openai import OpenAIclient = OpenAI(    api_key=os.environ["DSLAB_API_KEY"],    base_url="https://api.dslab.tech/v1",)response = client.chat.completions.create(    model="mistral-large-4-0",    messages=[        {"role": "system", "content": "Отвечай кратко и по делу."},        {"role": "user", "content": "Объясни, что такое идемпотентность."},    ],)print(response.choices[0].message.content)

Параметры

Параметр

Тип

По умолчанию

Описание

model

string

обязательный

Идентификатор модели.

messages

массив

обязательный

Сообщения с ролями и содержимым.

stream

boolean

—

Запрашивать ответ частями.

tools

массив

—

Описания функций, которые приложение предоставляет модели.

Важно знать

  • Для результатов, которые запускаются как код или влияют на решения, предусмотрите проверку в приложении.

  • Для доступа передайте ключ DSLab в DSLAB_API_KEY.