Безопасность ИИ-ассистента: угрозы и защита

-- Права проверяются в поиске, а не в инструкции модели:
-- модель никогда не видит документ, который пользователю читать нельзя.
-- $1 — вектор вопроса, $2 — группы текущего пользователя
SELECT c.source, c.text
FROM chunks c
WHERE c.access && $2::text[]   -- хотя бы одна общая группа
ORDER BY c.embedding <=> $1
LIMIT 4;

// Ответ модели — недоверенный текст, как поле формы от незнакомца:
// он показывается как текст и никогда не вставляется как HTML
export function showAnswer(box: HTMLElement, answer: string): void {
  box.textContent = answer; // <script> и <img onerror> остаются безобидными символами
}

// Ссылки — только из списка ваших страниц, что бы ни написала модель
const ALLOWED = new Set(['/delivery', '/returns', '/warranty']);

export function safeLink(path: string): string | null {
  return ALLOWED.has(path) ? path : null;
}