Пилот прогноза энергопотребления: как проверить пользу до масштабирования
ИИ-поиск по архиву НИИ с ограничениями доступа: что уточнить до запуска
“
ИИ-помощник может находить нужные сведения в старых отчётах и документах НИИ. Но прежде чем дать ему доступ к архиву, нужно решить, какие документы он будет читать, кому вправе показывать ответы и что произойдёт, когда права сотрудника изменятся.
Один вопрос — разные права на ответ
Представьте двух сотрудников НИИ. Оба спрашивают помощника: «Проводили ли мы раньше похожее исследование?» Один работает над этим проектом и может читать его материалы. Другой — нет.
Если помощник найдёт закрытый отчёт и перескажет его обоим, ограничение доступа потеряет смысл. Даже если он не покажет сам файл, в ответе могут оказаться результаты работы, имя заказчика или название проекта.
Поэтому задача звучит шире, чем «научить ИИ искать по папкам». Помощник должен искать только среди тех документов, которые разрешено видеть конкретному сотруднику. На этот риск обращает внимание и OWASP в рекомендациях по безопасности ИИ-поиска.
Какие документы попадут в поиск?
В архиве могут лежать итоговый отчёт, несколько черновиков и исправленная версия. Если загрузить всё без разбора, сотрудник рискует получить ответ из устаревшего файла.
До запуска стоит выбрать первую часть архива и для каждого документа понять:
Что это: утверждённый результат, рабочий материал или черновик?
К какому проекту он относится?
Какая версия действует?
Можно ли искать по всему документу или только по его части?
Отдельная задача — старые сканы. Человек различит плохо напечатанную цифру по смыслу, а программа распознавания может ошибиться. Поэтому важные ответы нужно проверять по исходному документу, особенно если речь о таблицах, формулах и результатах измерений.
Кто может увидеть ответ?
Фразы «архив доступен научным сотрудникам» обычно недостаточно. У людей могут быть права на разные проекты, а у одного отчёта — приложения с отдельными ограничениями.
Нужно заранее договориться, откуда помощник узнаёт о правах сотрудника и кто поддерживает их в порядке. Например: доступ к проекту выдан сегодня, а через месяц сотрудник перешёл в другое подразделение. Помощник должен учитывать изменение, а не продолжать отвечать по старым правилам.
Когда ИИ ищет по архиву, помимо самих файлов появляются рабочие копии текста для поиска, вопросы сотрудников, ответы и записи о работе системы. До запуска нужно выяснить, где всё это хранится, кто имеет доступ и используются ли внешние сервисы.
Размещение на серверах НИИ даёт возможность держать обработку внутри организации. Но место установки — лишь часть решения: права на документы, служебные копии и историю запросов всё равно нужно настроить и проверить.
У AllSee есть кейс ИИ-ассистента для научно-исследовательского центра. Он работает внутри инфраструктуры заказчика, ищет по ГОСТам, руководствам и регламентам и даёт ссылку на источник. По описанию кейса, данные обрабатываются без внешних вызовов. Настройка прав на архив конкретного НИИ — отдельная задача; в этом кейсе она не заявлена.
Как понять, что помощник готов к работе?
Для первой проверки не нужен весь архив. Достаточно выбрать ограниченный набор документов и собрать настоящие вопросы сотрудников. В проверке должны участвовать люди с разными правами доступа.
Попросите их задать одинаковые вопросы и посмотрите, что произойдёт. Сотрудник с доступом должен получить полезный ответ и ссылку на разрешённый документ. Сотрудник без доступа не должен узнать содержание закрытого материала — в том числе из краткого пересказа или названия найденного файла.
Затем проверьте ещё две ситуации: у сотрудника отозвали доступ; документ заменили новой версией. Если помощник продолжает опираться на старые сведения, запускать его на весь архив рано. В AllSee такой проект можно начать с разбора архива, прав доступа и вопросов сотрудников, затем сделать первую версию поиска по выбранным документам. Когда она пройдёт проверку, станет понятно, какие ещё части архива подключать.