Вчера на консультации задал вопрос, а как вы сейчас в компании используете ИИ? Первый ответ был — пока еще никак не используем, а стоило копнуть на один уровень глубже, выяснялось, что сотрудники давно сидят в личных чатах с моделями, у каждого свои привычки, свои инструменты и свои промпты, а внутри этих чатов живут данные компании. Я придумал этому название — теневой ИИ.

Когда я спросил, что происходит с этими данными дальше, повисла пауза. Об этом просто никто не думает. А что с базой знаний? А база знаний компании аккуратно распределена по личным аккаунтам сотрудников, а её копии лежат на серверах сразу нескольких ИИ-сервисов. Отказоустойчивость стопроцентная, контроль нулевой.

Запретами это не лечится: люди уже почувствовали, что ИИ экономит им часы, и назад не вернутся. Порядок начинается с простых вещей: корпоративные аккаунты вместо личных, короткие правила о том, что можно отправлять модели, а что нет, и один человек, который за это отвечает.

Проверьте и вы — спросите у своей команды, кто через что работает с ИИ и какие данные туда попадают. Подозреваю, картина окажется такой же. И если сейчас это еще более-менее нормально, то очень скоро это может стать большой проблемой.

Следующий шаг

Как подготовить компанию к ИИ-агентам за 30 дней

Если в вашей команде картина окажется похожей, наводить порядок спокойнее до первого инцидента: корпоративные аккаунты, правила для данных и живой ответственный за этот контур.

Если захотите обсудить, как это применить у себя или в команде — пишите в Telegram @pimenov