Миллион токенов контекста: можно ли просто загрузить туда всю компанию?

Окно на миллион токенов звучит как приглашение отправить нейросети всю папку компании. Но вместимость запроса отвечает только на вопрос объёма. Она не решает, какие документы актуальны, какие доступны сотруднику и какие строки действительно нужны для ответа.

В Чатиуме можно собрать помощника, который сначала показывает выбранные источники, а затем отвечает по ним. Большой контекст будет полезной возможностью такого приложения, а не заменой правил работы с документами.

Что измеряет окно контекста

Контекст измеряется токенами, а не страницами и не словами. Расход зависит от языка, содержимого и способа представления данных. Картинки, документы и служебные части запроса тоже требуют учёта по правилам конкретной модели и маршрута.

На 24 октября 2026 года каталог OpenRouter указывает для Gemini 4 Argon контекст 1 048 576 токенов. Это характеристика выбранной модели, а не обещание прочитать любой архив целиком. Отдельно проверяйте ограничения выхода, файлов, форматов и сервиса, через который идёт запрос.

Один большой запрос может содержать несколько правд

Представим учебную папку проекта: инструкция от марта, дополнение от июня и черновик нового порядка. Если отправить их без статусов, модель может собрать убедительный ответ из несовместимых условий. Длинное окно позволило вместить конфликт, но не установило, что действует сейчас.

Передавайте дату, версию и статус каждого источника. Правило выбора актуального документа должно задаваться приложением или ответственным человеком. Если приоритет не установлен, полезнее показать противоречие, чем незаметно выбрать удобную формулировку.

Когда длинный контекст помогает

Он удобен, когда задача требует видеть связанный материал целиком: сравнить несколько редакций инструкции, проследить определения по документу или сопоставить ограничения из разных разделов. При этом важны размер входа, стоимость и возможность проверить результат по исходникам.

Для короткого вопроса о конкретном пункте отправка всей библиотеки может быть лишней. Если сначала удаётся найти несколько релевантных разделов, ответ проще проверять и повторять. Это не универсальный запрет на большие запросы: сравните оба подхода на своей задаче.

Вызов из Чатиума

В этом примере sourceText уже содержит разрешённые фрагменты с названиями и версиями. Отбор документов происходит до вызова модели. Инструкция не может заменить проверку доступа на сервере.

Это фрагмент серверного обработчика Чатиума. ctx передаёт платформа, sourceText содержит проверенный текст из формы. done и failed — заранее зарегистрированные маршруты app.function для результата и ошибки. Они проверяют, что вызов пришёл от приложения start: caller.type === 'plugin' && caller.appSlug === 'start'.

import { startCompletion } from '@start/sdk'

const { completionId } = await startCompletion(ctx, {
  model: 'google/gemini-4-argon',
  system: 'Отвечай только по переданным версиям документов. Укажи источник и раздел; противоречия и отсутствие ответа отметь явно.',
  messages: [{
    role: 'user',
    content: [{ type: 'text', text: sourceText }],
  }],
  onCompletionCompleted: done,
  onCompletionFailed: failed,
})

Метод возвращает completionId. Сам ответ приходит позже в onCompletionCompleted, ошибка — в onCompletionFailed; до этого приложение показывает ожидание. Это схема вызова, а не полный код приложения.

После получения ответа показывайте пользователю, по каким источникам он построен. Если названный раздел отсутствует в переданных данных, результат требует проверки. Большой размер окна не делает любую ссылку модели достоверной.

Контекст не равен постоянной памяти

Один запрос не означает, что модель навсегда запомнила документы вашего аккаунта. Приложение отдельно хранит файлы, историю, выбранные версии и права доступа. Для следующей задачи оно снова определяет, какие данные нужны и как передать их выбранным способом.

Даже продолжение разговора не отменяет обновление источников. Пользователь может обсуждать документ, который уже заменён новой редакцией. Покажите этот факт и предложите пересчитать ответ, сохранив старый результат вместе с его исходной версией.

Как проверить качество на длинном материале

Возьмите вопросы, ответы на которые находятся в начале, середине и конце документа. Добавьте вопрос, требующий связать два раздела, и вопрос, на который в источнике нет ответа. Проверьте не только совпадение вывода, но и правильность приведённых оснований.

Не делайте вывод по одному найденному имени. Для рабочего помощника важнее устойчиво отличать утверждённое правило от черновика и замечать недостающие данные. Сохранённый набор вопросов пригодится после смены модели или способа подготовки файлов.

Частые вопросы