Для Ripple 65B Preview используйте Chat Completions API.

О модели

Ripple 65B Preview — предварительная версия текстовой модели ricursiveAI на 65 млрд параметров. Принимает текст и отвечает текстом, умеет вызывать функции и возвращать ответ по JSON-схеме.

Контекст модели — 1 048 576 токенов, максимальный ответ — 131 072 токена. Модель работает в формате BF16.

Это предварительный выпуск, поэтому поведение и качество ответов лучше проверить на своих задачах.

Стоимость

Текущая стоимость использования этой модели:

Токены

Стоимость за 1 млн токенов

Входные токены

20₽

Выходные токены

60₽

Чтение из кэша

5₽

Как считается расход

  • Учитываются все токены

    И входные (input), и сгенерированные моделью (output)

Характеристики

Параметр

Значение

Вход

Текст

Выход

Текст

Параметры

65 млрд

Контекст

1 048 576 токенов

Максимальный ответ

131 072 токена

Вызов функций

Да

Ответ по JSON-схеме

Да

Формат весов

BF16

API

Эндпоинт

http 
POST https://api.dslab.tech/v1/chat/completions
Текстовый запрос 
import osfrom openai import OpenAIclient = OpenAI(    api_key=os.environ["DSLAB_API_KEY"],    base_url="https://api.dslab.tech/v1",)response = client.chat.completions.create(    model="ripple-65b-preview",    messages=[        {"role": "system", "content": "Отвечай кратко и по делу."},        {"role": "user", "content": "Объясни, что такое идемпотентность."},    ],)print(response.choices[0].message.content)

Параметры

Параметр

Тип

По умолчанию

Описание

model

string

обязательный

ID модели: ripple-65b-preview.

messages

array

обязательный

История диалога: роли system, user, assistant и tool. content — текст или блоки текста и изображений.

max_tokens

integer

—

Максимальный ответ в токенах.

stream

boolean

false

Потоковый ответ. Чтобы получить расход токенов в потоке, добавьте stream_options со значением include_usage: true.

tools

array

—

Ваши функции: type function, name, description и parameters.

temperature

number

—

Разброс ответов, от 0 до 2.

response_format

object

—

Формат ответа: json_object или json_schema со своей схемой.

top_p

number

—

Отсечение по накопленной вероятности, от 0 до 1.

seed

integer

—

Число для повторяемости ответов.

Важно знать

  • Модель принимает только текст: запрос с изображением возвращает ошибку 400.

  • Это предварительная версия, поведение модели может меняться без предупреждения.