Для Ling 3.1 Flash используйте Chat Completions API.

О модели

Ling 3.1 Flash — модель InclusionAI для программирования, поиска и агентных задач. Разработчик описывает её как гибридную модель с рассуждениями.

Архитектура содержит 560 млрд параметров, из которых на токен активируются 25 млрд. Разработчик указывает контекст до 1 млн токенов; лимит в каталоге DSLab указан ниже.

В DSLab для модели указан контекст 262 144 токена. Это позволяет передавать в запросе материал задачи вместе с необходимыми инструкциями.

Стоимость

Текущая стоимость использования этой модели:

Токены

Стоимость за 1 млн токенов

Входные токены

7,50₽

Выходные токены

90₽

Чтение из кэша

6₽

Как считается расход

  • Учитываются все токены

    И входные (input), и сгенерированные моделью (output)

Характеристики

Параметр

Значение

Разработчик

inclusionAI (Ant)

Контекст в DSLab

262 144 токена

Архитектура

MoE, 560 млрд параметров; 25 млрд активных

Контекст у разработчика

До 1 млн токенов

Вход по каталогу DSLab

Текст

Выход

Текст

Инструменты в каталоге

Да

Рассуждения в каталоге

Да

Сравнение с соседними моделями

Модель

Особенности

Ling 3.1 Flash (эта модель)

560 млрд параметров; 25 млрд активных на токен; контекст разработчика до 1 млн токенов

Ling 3.0 Flash

Предыдущее поколение семейства; Ling 3.1 Flash построена на его основе

Стоимость

Тип токенов

Цена за 1 млн токенов

Входящие

7,5 ₽

Исходящие

90 ₽

Чтение из кеша

6 ₽

API

Эндпоинт

http 
POST https://api.dslab.tech/v1/chat/completions
Текстовый запрос 
import osfrom openai import OpenAIclient = OpenAI(    api_key=os.environ["DSLAB_API_KEY"],    base_url="https://api.dslab.tech/v1",)response = client.chat.completions.create(    model="ling-3.1-flash",    messages=[        {"role": "system", "content": "Отвечай кратко и по делу."},        {"role": "user", "content": "Объясни, что такое идемпотентность."},    ],)print(response.choices[0].message.content)

Параметры

Параметр

Тип

По умолчанию

Описание

model

string

обязательный

Идентификатор модели.

messages

массив

обязательный

Сообщения с ролями и содержимым.

stream

boolean

—

Запрашивать ответ частями.

tools

массив

—

Описания функций, которые приложение предоставляет модели.

Важно знать

  • Заявленный разработчиком миллион токенов не отменяет более низкого лимита, указанного в каталоге DSLab.

  • Для запроса через DSLab ориентируйтесь на лимит контекста в каталоге, который может отличаться от предела разработчика.

  • Для доступа передайте ключ DSLab в DSLAB_API_KEY.