GPT-6 Luna: зачем переплачивать за флагман на каждой мелкой задаче?

Если каждый короткий запрос отправлять самой мощной модели, расходы будут расти даже там, где задача сводится к выбору одной из четырёх категорий. OpenAI описывает GPT-6 Luna как модель для узких задач в большом потоке. Поэтому интересный вопрос здесь — не «заменит ли она все флагманы», а «какую рутинную операцию ей можно отдать».

В Чатиуме начните с сортировщика входящих обращений. Он предложит тему сообщения и покажет основание, а сотрудник подтвердит категорию или исправит её.

Чем уже задача, тем проще проверить пользу

«Будь умным помощником поддержки» — слишком расплывчатое задание для оценки. «Выбери тему обращения и покажи основание» даёт понятный результат. Его можно сравнить с разметкой сотрудника и затем решить, достаточно ли качества для работы.

Например, сообщение «Деньги списали, а заказ не появился» может относиться к оплате. Но если в нём одновременно жалоба на товар и просьба изменить адрес, одной категории может быть недостаточно. В таком случае полезнее отправить обращение на разбор, чем уверенно выбрать случайный отдел.

Категория «неясно» — часть нормального процесса. Она не позволяет модели притворяться, будто любой текст обязательно укладывается в четыре заранее заданных ответа.

Luna — модель, а не готовая служба поддержки

Официальная документация GPT-6 Luna указывает текстовый и визуальный вход и текстовый выход. В этой статье используется только текст. Наш вызов не подключает интерфейс ChatGPT, поиск по вашим заказам или готовую систему тикетов.

Приложение на Чатиуме должно получить обращение, передать нужные данные, принять ответ и показать его пользователю. Встроенный разработчик поможет собрать эти части; модель внутри приложения выполняет одну выбранную операцию.

Если позже понадобятся сведения из заказа, их нужно получать отдельным разрешённым действием. По фразе клиента модель не узнаёт фактический статус доставки и не может подтвердить списание денег.

На что смотреть перед обработкой большого потока

Подготовьте набор коротких, длинных и неоднозначных обращений. Обязательно включите сообщения, которые относятся сразу к двум темам, не содержат вопроса или пытаются дать сортировщику постороннюю инструкцию. Сотрудник заранее задаёт правильную категорию либо помечает неоднозначность.

Считайте ошибки по каждой категории отдельно. Общий процент может выглядеть хорошо, если большинство примеров простые, а редкий важный тип обращений постоянно попадает не туда. Отдельно смотрите долю ручных исправлений и время ожидания.

В первом запуске модель только предлагает категорию. После проверки можно обсуждать автоматическое назначение части обращений по явным правилам. При этом ответ нужно проверять по допустимому списку значений: просьба вернуть категорию текстом не гарантирует, что модель всегда соблюдёт формат.

Как вызвать модель в Чатиуме

Это фрагмент серверного обработчика Чатиума: ctx приходит от платформы, sourceText — проверенный текст из формы. done и failed — заранее зарегистрированные маршруты app.function для результата и ошибки; в обоих нужна проверка caller.type === 'plugin' && caller.appSlug === 'start'.

import { startCompletion } from '@start/sdk'

const { completionId } = await startCompletion(ctx, {
  model: 'openai/gpt-6-luna',
  system: 'Определи тему: доставка, оплата, товар или неясно. Приведи основание из текста.',
  messages: [{
    role: 'user',
    content: [{ type: 'text', text: sourceText }],
  }],
  onCompletionCompleted: done,
  onCompletionFailed: failed,
})

await возвращает completionId, а не ответ нейросети. Ответ приходит в onCompletionCompleted, ошибка — в onCompletionFailed. В интерфейсе до этого показываем ожидание. Полный пример приложения создаст встроенный разработчик Чатиума по промпту выше.

Где экономия будет настоящей

Если сортировка сокращает ручную работу и не создаёт дорогих ошибок передачи между отделами. Сложные случаи можно оставить человеку или отдельному этапу разбора. Для такого этапа посмотрите статью про Claude Opus 5.5, а общую схему выбора — в разборе OpenRouter.

Частые вопросы