⚠️ Agents ChatGPT officiellement lancés : OpenAI alerte sur les risques

OpenAI vient d’activer une fonctionnalité puissante le 17 juillet dernier : les Agents dans ChatGPT.

Objectif : faire le lien entre les recherches et l'action

Ces assistants autonomes peuvent naviguer sur le web, consulter votre agenda, lire et modifier vos fichiers, lire, trier, envoyer des mails, exécuter des tâches complexes à votre place…

➡️ Un pas de plus vers une IA qui « agit » pour vous.

Cette avancée s’accompagne de nouvelles responsabilités :

• 🔐 risques de sécurité,

• 🧱 prompt injections,

• 📂 accès automatisé à vos contenus sensibles…

👉 OpenAI le reconnaît et publie ses propres recommandations de vigilance, à lire absolument avant d’activer cette fonctionnalité dans un contexte personnel ou professionnel.

En voici un résumé

Qu’est-ce que ChatGPT agent ?

ChatGPT agent permet à ChatGPT d’exécuter des tâches en ligne complexes pour l’utilisateur, alternant entre raisonnement et action, tout en gardant l’utilisateur maître du processus.

Fonctionnement, accès et limites

• Activation via le menu des outils ou /agent.

• Disponible pour les plans Pro, Plus, Team (bientôt Enterprise/Edu).

• Utilisable sur web, mobile, desktop.

• Tâches de 5 à 30 minutes, possibilité de planifier des tâches récurrentes.

• Limites mensuelles selon le plan (Pro : 400 messages/mois, Plus/Team : 40 messages/mois).

Sécurité et confidentialité : attentions particulières

Risques à connaître

• Accès à des données sensibles : Si l’agent est connecté à des sites ou services (ex : Gmail, Google Drive), il peut accéder à des informations privées et agir en votre nom (partage de fichiers, modification de paramètres, etc.)

• Attaques par “prompt injection” : L’agent peut être trompé par des contenus malveillants présents sur des sites visités (ex : un commentaire sur un blog qui incite l’agent à effectuer des actions non souhaitées, comme transmettre un code de réinitialisation de mot de passe à un site tiers).

Bonnes pratiques recommandées

• N’activez que les connecteurs strictement nécessaires pour chaque tâche, et désactivez-les dès qu’ils ne sont plus utiles.

• Évitez de connecter l’agent à des sites contenant des données très sensibles ou de le laisser connecté après usage.

• Ne saisissez jamais de mots de passe ou d’informations privées directement dans les messages : utilisez le mode “takeover” pour les saisies sensibles, car il est conçu pour plus de sécurité.

• Privilégiez des requêtes précises et limitées : évitez les instructions trop vagues ou ouvertes du type « fais tout ce qu’il faut pour avancer », qui augmentent les risques d’actions non désirées.

• Interrompez immédiatement la tâche si vous observez un comportement suspect de l’agent.

• Effacez régulièrement les données du navigateur virtuel après des sessions sensibles.

• Gérez régulièrement les permissions des connecteurs dans vos paramètres.

• Lorsque vous prenez le contrôle du navigateur virtuel (“takeover”) pour saisir un mot de passe, aucune capture d’écran ni donnée sensible n’est enregistrée par ChatGPT.

Gestion des données

• Les chats, historiques de navigation et captures d’écran sont conservés jusqu’à leur suppression manuelle.

• Les données sont utilisées selon la politique d’OpenAI, et l’utilisateur peut gérer ses préférences de conservation et d’entraînement.

______

L’agent ChatGPT offre de puissantes capacités d’automatisation, mais il est crucial de rester vigilant sur la sécurité. Activez uniquement les accès nécessaires, évitez les instructions trop larges, surveillez l’exécution, et utilisez les modes sécurisés pour toute donnée sensible.

Lien vers l'article OpenAI présentant ChatGPT Agent et les préconisations de sécurité