Inkling 2 Small
нейросеть
Inkling 2 Small — мультимодальная MoE-модель Thinking Machines Lab для рассуждений и работы с разными типами данных.
Характеристики
- Входные данные
- текст, изображения, документы
- Результат
- текст
- Размер контекста
- 1 048 576 токенов
- Макс. длина ответа
- 131 072 токена
- Уровни рассуждений
- минимальный, низкий, средний, высокий, max
- Возможности
- рассуждения, вызов функций
import OpenAI from 'openai';
const openai = new OpenAI({
apiKey: '<your bothub access token>',
baseURL: 'https://openai.bothub.chat/v1'
});
// Sync - Text generation
async function main() {
const chatCompletion = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
});
}
// Async - Text generation
async function main() {
const stream = await openai.chat.completions.create({
messages: [{ role: 'user', content: 'Say this is a test' }],
model: 'inkling-2-small:free',
stream: true
});
for await (const chunk of stream) {
const part: string | null = chunk.choices[0].delta?.content ?? null;
}
}
main();
Как работает Inkling 2 Small?
Inkling 2 Small — мультимодальная модель рассуждений от Thinking Machines Lab на разреженной архитектуре mixture-of-experts: 17B активных параметров при 594B общих. Это первое пополнение второго поколения линейки Inkling, и ставка в нём сделана на многошаговые рассуждения и совмещённую работу с текстом и изображениями в рамках одного запроса. Через BotHub модель доступна из России без VPN и зарубежной карты: оплата идёт в рублях по факту за токены, которые не сгорают, а переключение между 250 с лишним моделями занимает один клик, так что сравнивать ответы можно в одном окне. Для команд есть договор, счёт, ЭДО и лимиты, для разработки — единый OpenAI-совместимый API, а данные защищены шифрованием AES-GCM и не сохраняются. Берите её для разбора аналитики, где нужно сверить таблицу с графиком или скан документа и сделать вывод; для пошаговых расчётов и проверки гипотез, когда важно показать ход рассуждения; для сборки прототипов ассистентов на несколько шагов вперёд; для разметки и описания изображений вместе с текстовыми пояснениями. Начните с пробного запроса — пополните баланс и сравните Inkling 2 Small с привычной моделью в интерфейсе BotHub.Частые вопросы о Inkling 2 Small
Вы можете использовать результаты генерации в коммерческих целях. Все права на созданный контент принадлежат вам. Единственное ограничение: убедитесь, что в запросе не использовались защищённые авторским правом материалы третьих сторон. Ответственность за соблюдение прав на входные данные лежит на пользователе.
Модель работает с текстом, документами и изображениями: разбирает содержимое файлов, отвечает на вопросы по ним и генерирует текст. Благодаря рассуждениям перед ответом она подходит для анализа, работы с кодом и разбора объёмных материалов. Контекст до 1 048 576 токенов позволяет загружать большие документы целиком, не разбивая их на части.
За один ответ модель может выдать до 131 072 токенов — это объём целого технического документа или крупной главы. Такого запаса хватает, чтобы не дробить большую задачу на части и получить связный текст за один проход.
Да, рассуждения перед ответом поддерживаются — в данных модели этот пункт отмечен. Она может сначала разобрать задачу по шагам, а затем выдать готовый результат. Это помогает на многошаговых вопросах, где важен порядок вычислений, и при разборе кода.
Да, вызов функций и структурированный вывод в JSON поддерживаются. Это значит, что модель можно встроить в приложение или сценарий автоматизации: она вернёт ответ в разметке, которую примет ваш код. Удобно для извлечения данных из документов и построения цепочек запросов.
Да, на вход можно подавать изображения и документы: модель прочитает файл и ответит по его содержимому. Это удобно для разбора отчётов, таблиц и сканов. Приём аудио и видео в наших данных не отмечен — этот момент стоит уточнить отдельно перед покупкой.
В наших данных нет оценки качества русскоязычных ответов модели, поэтому обещать что-то конкретное не будем. Модель работает с текстом на разных языках, но насколько уверенно она держит русскую стилистику, лучше проверить на своих задачах: попросите её пересказать или отредактировать ваш текст.