Для Gemma 4 31B IT используйте Chat Completions API.
О модели
Gemma 4 31B IT — инструкционная модель Google для текста, изображений, программирования и рассуждений. Она подходит для анализа документов и изображений и генерации текста.
В отличие от Gemma 4 26B A4B с выбором экспертов, 31B использует плотную архитектуру. По данным Google, MMLU Pro составляет 85,2 % против 82,6 % у 26B A4B.
В DSLab для модели указан контекст 262 144 токена. Это позволяет передавать в запросе материал задачи вместе с необходимыми инструкциями.
Стоимость
Текущая стоимость использования этой модели:
Токены | Стоимость за 1 млн токенов |
|---|---|
Входные токены | 14₽ |
Выходные токены | 40₽ |
Чтение из кэша | 14₽ |
Как считается расход
-
Учитываются все токены
И входные (input), и сгенерированные моделью (output)
Характеристики
Параметр | Значение |
|---|---|
Разработчик | |
Контекст в DSLab | 262 144 токена |
Архитектура | Плотная |
Вход по каталогу DSLab | Текст и изображения |
Выход | Текст |
Инструменты в каталоге | Да |
Рассуждения в каталоге | Да |
Сравнение моделей
Модель | Контекст в DSLab | Вход / 1 млн токенов | Выход / 1 млн токенов |
|---|---|---|---|
Gemma 4 31B IT (эта модель) | 262 144 токена | 14 ₽ | 40 ₽ |
Gemma 4 26B A4B IT | 262 144 токена | 7 ₽ | 34 ₽ |
Бенчмарки
Бенчмарк | Результат | Условия |
|---|---|---|
MMLU Pro | 85,2 % | Оценка Google |
Стоимость
Тип токенов | Цена за 1 млн токенов |
|---|---|
Входящие | 14 ₽ |
Исходящие | 40 ₽ |
Чтение из кеша | 14 ₽ |
API
Эндпоинт
POST https://api.dslab.tech/v1/chat/completionsimport osfrom openai import OpenAIclient = OpenAI( api_key=os.environ["DSLAB_API_KEY"], base_url="https://api.dslab.tech/v1",)response = client.chat.completions.create( model="gemma-4-31b-it", messages=[ {"role": "system", "content": "Отвечай кратко и по делу."}, {"role": "user", "content": "Объясни, что такое идемпотентность."}, ],)print(response.choices[0].message.content)Параметры
Параметр | Тип | По умолчанию | Описание |
|---|---|---|---|
| string | обязательный | Идентификатор модели. |
| массив | обязательный | Сообщения с ролями и содержимым. |
| boolean | — | Запрашивать ответ частями. |
| массив | — | Описания функций, которые приложение предоставляет модели. |
Важно знать
-
По карточке Google, 31B принимает текст и изображения; аудиовход относится к другим размерам Gemma 4.
-
Выбор между версиями зависит от задачи: сравнивайте качество на собственных данных.
-
Для доступа передайте ключ DSLab в
DSLAB_API_KEY.