Алексей Мезенцев, руководитель AI Lab ОТП Банка, выступил на Бизнес Форс Форуме с докладом о рисках для организаций при работе с искусственным интеллектом. Он рассказал, как использовать нейросети в рабочих задачах и контролировать риски, связанные с утечками корпоративных данных.
По словам Мезенцева, при работе с ИИ сотрудник передаёт модели материалы, необходимые для выполнения задачи. Если используется внешняя модель, данные организации могут выйти за пределы корпоративного контура. Поэтому важно заранее определить, какие данные нужны для задачи и в каком виде их можно передавать.
"Контекст для ИИ должен состоять из данных, которые необходимы для конкретной задачи и разрешены для обработки. Если есть сомнение в очистке данных или возможности их передачи, то лучше провести дополнительные консультации внутри организации до решения задачи", — отметил Алексей Мезенцев.
В качестве примера Мезенцев привёл анализ обращений клиентов одной компании. Данные из контакт-центра, чатов, CRM и почты сначала собираются внутри организации, после чего из них оставляют необходимые поля, очищают персональные и закрытые данные и проводят проверку ИБ. Во внешнюю LLM передаётся только обезличенные данные для аналитики.
Мезенцев также отметил важность актуальности: "Мы наблюдаем, что передача данных внутри в едином формате, понятном как для людей, так и для больших языковых моделей, значительно ускоряет работу команд. Фактически мы перестали обмениваться внутри подразделения презентациями и таблицами, а перешли на единый с нейросетями формат md файлов, которые регулярно актуализируем".
По словам Мезенцева, такой подход позволяет перейти от отдельных экспериментов с ИИ к его системному использованию в бизнес-процессах. В качестве примера он привёл работу с Codex при найме специалиста в команду: обработка 40 резюме с едиными критериями и общим контекстом позволила сократить затраты времени на 60–70% и вывести лучшего кандидата, в 2 раза сократив плановый срок закрытия позиции в банке.
Последние комментарии
Отличная новость для тех, кто планирует банковские операции на праздники.
Классно, что финансовые продукты приобретают визуальный характер — светящиеся карты точно обращают на себя внимание.
Радует, что Сбер не просто констатирует угрозы, а показывает конкретную работу с AI в антифроде
Сбер молодцы, не всем нужна кастомная карта, но кому-то приятно держать в руках не безликий пластик, а что-то своё
Это не только повышает скорость обслуживания, но и делает его удобным и современным. Оплата по улыбке ускоряет процесс, позволяя клиентам без лишних действий завершить покупку.