Вопросы продавцу ИИ-решения: что спросить до пробного доступа

Коротко

Почему главный вопрос к продавцу - не «что умеет»?

На финальном занятии курса для юристов участницы рассказали о неожиданном результате обучения. Кроме своих проектов они получили навык, которого не ждали: стали квалифицированными покупателями ИИ-продуктов.

Одной из них продавец системы анализа дел сам написал с предложением попробовать. Её рассказ: «благодаря вот этому курсу мы с тобой понимаем, какие вопросы задали. Я ему эти вопросы задала, и он мне на них ответил, что ничего там не защищено».

Вторая участница получила предложение протестировать готовую систему учёта клиентов для юристов и сформулировала главный вопрос к любому продавцу одной фразой: «какая ИИшка это обрабатывает, как защитить персональные данные». Всё остальное - удобство интерфейса, скорость, цена - вторично, пока нет ответа на этот вопрос.

Демонстрацию обычно показывают на данных продавца, и она почти всегда выглядит убедительно. О том, почему демонстрация сама по себе ничего не доказывает, подробно в материале о том, как принимать работу подрядчика по ИИ.

Семь вопросов о данных до пробного доступа

Вопросы стоит задать письменно и до того, как в систему попадёт хоть один настоящий документ.

1. Какая модель обрабатывает данные и чья она. Своя модель продавца, российская модель крупной компании или зарубежная по программному доступу. От ответа зависит всё остальное.
2. Где физически обрабатываются и хранятся данные. Страна и провайдер серверов. Для персональных данных россиян это вопрос закона, а не вкуса.
3. Идут ли данные в обучение. И у самого продавца, и у поставщика модели, которой он пользуется. Правильный ответ закреплён в договоре, а не только в презентации.
4. Сколько хранятся запросы и файлы. И как их удалить по твоему требованию, с подтверждением удаления.
5. Кто из сотрудников продавца видит данные. В каких случаях, с чьего разрешения и остаётся ли от этого след в журнале.
6. Есть ли обезличивание до отправки в модель. Заменяются ли имена, телефоны и реквизиты кодами до того, как текст уйдёт наружу.
7. Что будет с данными после расторжения договора. Можно ли выгрузить свои данные в удобном формате и когда они будут удалены у продавца.

Отдельным, восьмым пунктом стоит спросить, кто отвечает при утечке и как это записано в договоре. Устный ответ «мы всё берём на себя» ответственностью не является.

Как отличить честный ответ от уклончивого?

На каждый вопрос из списка есть два типа ответа, и различить их несложно.

Самый тревожный вариант - когда продавец не знает ответа сам. Бывает, что небольшая команда собрала продукт поверх чужой модели и сама не задумывалась, куда уходят данные клиентов. Это не всегда злой умысел, но для твоих документов разницы нет.

Хорошая практика - попросить схему движения данных: откуда файл приходит, где обрабатывается, где хранится и кому передаётся. Если такая схема есть, ответы на большую часть остальных вопросов в ней уже видны.

Что делать с персональными данными клиентов?

Закон о персональных данных требует хранить данные граждан России в базах на территории России. Передача за рубеж идёт по отдельным правилам, с уведомлением Роскомнадзора. А если данные обрабатывает подрядчик по твоему заданию, это оформляется поручением в договоре с понятными обязанностями по защите.

Для юристов к этому добавляется профессиональная тайна клиента. Договор с доверителем может прямо запрещать передачу его документов третьим лицам, и никакой удобный сервис этого не отменяет.

Самый простой способ снизить риск - обезличивание. На курсе его объясняли на пальцах: имя и телефон в тексте заменяются кодами, таблица соответствий остаётся у тебя, наружу уходит текст с кодами, а ответ возвращается и коды подставляются обратно. Участницы сразу увидели в этом свой инструмент: «лучше всё-таки защититься, тем более если есть инструменты для этого».

Подробно про границы чувствительных данных и обезличивание - в материале о том, как внедрять нейросети, когда документы нельзя отдавать наружу.

Купить готовое или собрать своё

Та же участница, получив предложение протестировать готовую систему для юристов, задала себе встречный вопрос: «а зачем мне это надо, если мы сами, получается, можем себе создать это, правильно?»

Вопрос правильный, но ответ на него не всегда «да». Собирать своё с нуля долго и дорого. Зато есть средний путь, и он всё чаще выигрывает: взять готовый открытый продукт и настроить под себя.

Так я собрал систему учёта клиентов для рекламного агентства. Писать её с нуля не пришлось: агент перебрал около тридцати открытых проектов и предложил подходящий, дальше была настройка. Данные при таком подходе остаются на своей инфраструктуре, и вопрос «куда уходят документы» закрыт по определению.

Прежде чем выбирать между покупкой и сборкой, полезно проверить, не решена ли задача уже внутри компании или готовым инструментом. Как это сделать за пять минут, разобрано в материале про то, как проверить, что готового решения ещё нет.

Пробный доступ без риска

Продавцы любят торопить: «загрузите пару настоящих документов, сразу увидите результат». Порядок лучше держать свой, даже если это стоит лишней недели.

1. Ответы письменно

   Семь вопросов о данных уходят продавцу письмом, ответы сохраняются. Устные заверения на встрече в расчёт не идут.

2. Прогон на выдуманных данных

   Подготовь три-пять документов, похожих на настоящие: те же формы, выдуманные имена и суммы. Качество работы видно и на них.

3. Договор до настоящих файлов

   Настоящие документы - только после подписанного договора, где записаны ответы про обучение, хранение и удаление.

4. Приёмка на своих примерах

   После договора - проверка на контрольном наборе своих случаев с заранее оговорённым порогом качества.

Последний шаг подробно разобран в том же материале про приёмку работы подрядчика: там описано, как собрать контрольный набор и задать порог по доле удачных случаев.

Частые вопросы

Главный вывод

Хороший продавец отвечает на эти вопросы за пять минут и показывает документы. Плохой говорит «не беспокойтесь». Разница видна до того, как в систему попадёт первый договор.

Практический минимум на сегодня: сохрани себе семь вопросов и отправь их письменно следующему продавцу, который предложит пробный доступ.

А ты знаешь, какая нейросеть обрабатывает данные в сервисах, которыми твоя команда уже пользуется?