WorkBuddy doit souvent lire des documents, des tableurs, du contenu de réunion ou des documents de connaissance lorsqu’il s’occupe des tâches de bureau, donc les questions de sécurité ne devraient pas simplement demander « La plateforme est-elle sûre ? » mais aussi « Quelles données, permissions et connecteurs lui ai-je donné ? » La méthode la plus sûre est d’autoriser par tâche, en ne fournissant que les fichiers et l’espace dont vous avez actuellement besoin.
Les informations de publication de Tencent Cloud pour WorkBuddy Enterprise Edition et Office Agent Suite mentionnent que les entreprises mettront l’accent sur la collaboration de projet, la gestion du backend et l’intégration de Workbench avec Tencent Docs, Tencent Lexiang et d’autres fonctionnalités. Pour les utilisateurs, cela signifie que la valeur de WorkBuddy provient des connexions contextuelles ; Mais plus il y a de contexte, plus il est important de définir les limites de l’autorité.
Comment réduire les risques lors de leur utilisation personnelle
Premièrement, mettez les documents à traiter dans un dossier de travail séparé ; ne laissez pas tout le bureau, le répertoire de téléchargement ou le disque cloud privé entièrement à l’IA. Cela concerne les numéros d’identification, les montants des contrats, les listes de clients, les clés API, la rémunération des employés, les rapports financiers non publiés et d’autres contenus. Si vous pouvez être désensibilisé, faites-le d’abord ; sinon, ne l’utilisez pas de façon désinvolte pour les tests.
Si vous ne lui demandez que d’écrire des articles, de faire des plans et d’organiser des idées, vous n’avez souvent pas besoin de fournir les fichiers sensibles originaux. Vous pouvez d’abord fournir des résumés, des descriptions de champs ou des données d’exemple pour générer une structure, puis décider d’ajouter des données réelles.
Lorsque vous utilisez ces systèmes pour les équipes, concentrez-vous sur ces trois aspects
Tout d’abord, vérifiez si les administrateurs peuvent gérer uniformément les membres, les projets et les permissions. Ensuite, vérifiez les fichiers, la base de connaissances et le contenu des réunions après avoir saisi WorkBuddy — qui peut y accéder, qui peut les appeler, et s’ils peuvent être suivis. Troisièmement, vérifiez s’il existe des mécanismes d’approbation, de journal et de récupération des permissions, notamment pour les démissions, les changements de poste ou la réalisation de projets.
Si l’équipe ne se compose que de quelques collaborateurs temporaires, au moins de convenir sur la dénomination des documents, la portée du partage et une liste des téléchargements interdits. Ne transformez pas « tout le monde peut utiliser l’IA » en « tout le monde peut voir toutes les données ».
Lorsque ces signaux apparaissent, une pause est nécessaire
Si vous constatez que les résultats de l’IA contiennent des informations qui n’appartiennent pas au projet en cours, citent des informations clients que vous n’aviez pas prévu de divulguer, ou ont accès à des projets historiques que vous n’auriez pas dû, vous devez d’abord désactiver les sources de données pertinentes et vérifier la portée de l’autorisation. Ne continuez pas à utiliser d’autres invites pour « corriger » ; les problèmes d’autorisation devraient être résolus dans les paramètres d’autorisation.
Les capacités documentaires de WorkBuddy sont adaptées à l’efficacité du bureau, mais les limites de sécurité doivent être conçues par des personnes. Plus la tâche est complexe, plus il faut décomposer clairement les données, les permissions, le personnel et le périmètre de sortie avant de laisser les agents IA les exécuter.
