Хорошая работа
начинается с ясности.

Что положить в базу знаний для ИИ и как проверить ответы

Большой архив документов ещё не делает помощника полезным. Начните с вопросов клиентов, актуальных источников и понятного порядка проверки ответа сотрудником.