Inkling 256K

Для Inkling (256K) используйте Chat Completions API.

О модели

Inkling (256K) — вариант Inkling от Thinking Machines Lab с контекстом 256 000 токенов на платформе Tinker. Это та же модель: принимает текст, изображения и аудио, отвечает текстом.

В стандартном варианте Tinker контекст — 64 000 токенов, в этом — 256 000; сама Inkling поддерживает до 1 млн токенов.

Модель с архитектурой MoE: 975 млрд параметров, из них 41 млрд активных. Принимает изображения (оптимально от 40 до 4096 пикселей по каждой стороне) и аудио в формате WAV с частотой 16 кГц; время рассуждений настраивается, поддерживается вызов функций.

Стоимость

Текущая стоимость использования этой модели:

Токены	Стоимость за 1 млн токенов
Входные токены	187₽
Выходные токены	468₽
Чтение из кэша	37,40₽

Как считается расход

Учитываются все токены
И входные (input), и сгенерированные моделью (output)

Характеристики

Параметр	Значение
Вход	Текст, изображения, аудио (WAV, 16 кГц)
Выход	Текст
Контекст	256 000 токенов
Параметры модели	975 млрд, из них 41 млрд активных
Лицензия	Apache 2.0

Сравнение с соседними моделями

Модель	Контекст на Tinker	Параметры	Вход
Inkling	64 000 токенов	975 млрд, из них 41 млрд активных	Текст, изображения, аудио
Inkling (256K) (эта модель)	256 000 токенов	975 млрд, из них 41 млрд активных	Текст, изображения, аудио
Inkling-Small (256K)	256 000 токенов	276 млрд, из них 12 млрд активных	Текст, изображения, аудио

API

Эндпоинт

http

POST https://api.dslab.tech/v1/chat/completions

Текстовый запрос

import osfrom openai import OpenAIclient = OpenAI(    api_key=os.environ["DSLAB_API_KEY"],    base_url="https://api.dslab.tech/v1",)response = client.chat.completions.create(    model="inkling-256k",    reasoning_effort="medium",    messages=[        {"role": "system", "content": "Отвечай кратко и по делу."},        {"role": "user", "content": "Объясни, что такое идемпотентность."},    ],)print(response.choices[0].message.content)

Параметры

Параметр	Тип	По умолчанию	Описание
model	string	обязательный	ID модели: inkling-256k.
messages	array	обязательный	История диалога. Роли: system, user, assistant, tool. content — текст или массив блоков text и image_url.
max_tokens	integer	—	Максимальный ответ в токенах.
reasoning_effort	string или number	0,9	Уровень рассуждений: none, minimal, low, medium, high, xhigh или число от 0,0 до 0,99 (high соответствует 0,9, xhigh — 0,99).
stream	boolean	false	Потоковый ответ. Рассуждения идут отдельными событиями раньше ответа.
tools	array	—	Ваши функции: type function, name, description и parameters (JSON Schema).

Важно знать

Рассуждения приходят в поле reasoning_content отдельно от ответа (separate_reasoning по умолчанию включён); в потоке они идут раньше ответа.