L’agent IA évolue d’un simple chatbot à un outil capable d’exécuter des tâches concrètes. Récemment, Clawdbot, développé par Peter Steinberger, est devenu viral. Il a créé un agent IA permettant aux utilisateurs de contrôler à distance des appareils via des applications de messagerie comme WhatsApp. Dès son lancement, le produit a suscité un grand engouement, provoquant diverses discussions, positives comme négatives. Cet article est extrait d’une vidéo YouTube intitulée Please don’t install Clawdbot, où la créatrice Alberta énumère les comportements désordonnés potentiels de Clawdbot lors de l’exécution de tâches, ainsi que les précautions à prendre avant d’utiliser Clawdbot pour éviter qu’il ne devienne incontrôlable.
Modèle entrepreneurial révolutionnaire, développement d’un nouveau type de chatbot
Peter est un entrepreneur à succès, ayant créé plusieurs entreprises qu’il a ensuite revendues, quittant le marché avec une fortune liquide. Il a avoué qu’au cours des dernières années, en dehors de jouer au blackjack et de faire appel à des escortes, il n’avait rien d’autre à faire. Il a observé que, malgré la large discussion autour des agents IA, le grand public manquait encore d’outils simples et réellement capables d’« exécuter des tâches » via IA.
Motivé par le plaisir, Peter a développé Clawdbot. Il voulait créer une plateforme accessible même aux non-techniciens. Contrairement aux outils traditionnels nécessitant des commandes complexes ou une interface en ligne de commande, Clawdbot permet aux utilisateurs de donner des instructions à leur ordinateur ou téléphone via des applications de messagerie familières. Cette simplicité a rapidement comblé un besoin utilisateur, forçant même des grandes entreprises comme Anthropic à accélérer le développement de fonctionnalités similaires.
Clawdbot et Claude, une rivalité de noms, ont changé plusieurs fois de nom, pour devenir actuellement Open Claw
Après son succès rapide, Clawdbot a commencé à faire face à des litiges juridiques. En raison de la similitude phonétique entre Clawdbot et Claude, le modèle IA d’Anthropic, le nom a été modifié pour éviter toute violation de propriété intellectuelle. Clawdbot a d’abord été rebaptisé Moltbot, en référence au homard (Lobster), puis a été renommé Open Claw.
Comment prévenir les comportements désordonnés de Clawdbot lors de l’exécution de tâches
De nombreux utilisateurs ont constaté que, lorsqu’ils confient des tâches à des robots, ces derniers peuvent agir de manière imprévisible. Par exemple, un robot reçu une instruction pour rappeler à l’utilisateur d’acheter du lait le matin, et a envoyé des rappels toutes les 30 minutes toute la nuit. L’utilisateur a ainsi consommé tous ses tokens d’exécution en une seule nuit. D’autres ont fait des blagues en donnant à leur robot l’ordre de réinitialiser un ordinateur, ou encore ont envoyé des commandes malveillantes à d’autres robots pour provoquer des réinitialisations ou des actions nuisibles. Ces cas illustrent à quel point les agents IA sont vulnérables aux erreurs d’interprétation des instructions ou aux attaques par injection de prompts malveillants, risquant ainsi des pertes financières ou des dommages matériels pour l’utilisateur.
Bien que les agents IA entièrement automatisés offrent une productivité exceptionnelle, de nombreux professionnels mettent en garde contre les risques potentiels liés à leur accès illimité. Étant donné que Clawdbot requiert des permissions d’accès élevées, une utilisation malveillante pourrait entraîner la fuite de données personnelles, le pillage de comptes bancaires, ou l’envoi de courriels inappropriés, mettant en danger la carrière de l’utilisateur. Alberta recommande donc d’adopter des mesures strictes d’isolation, comme ne pas installer Clawdbot sur l’ordinateur principal, privilégier des services cloud ou des ordinateurs séparés pour son utilisation, et créer un compte email dédié à l’agent IA afin d’éviter tout accès aux données sensibles du compte principal.
Cet article, « Réfléchissez à deux fois avant d’installer Clawdbot, car il pourrait agir de manière désordonnée », a été initialement publié par ABMedia.
Avertissement : Les informations contenues dans cette page peuvent provenir de tiers et ne représentent pas les points de vue ou les opinions de Gate. Le contenu de cette page est fourni à titre de référence uniquement et ne constitue pas un conseil financier, d'investissement ou juridique. Gate ne garantit pas l'exactitude ou l'exhaustivité des informations et n'est pas responsable des pertes résultant de l'utilisation de ces informations. Les investissements en actifs virtuels comportent des risques élevés et sont soumis à une forte volatilité des prix. Vous pouvez perdre la totalité du capital investi. Veuillez comprendre pleinement les risques pertinents et prendre des décisions prudentes en fonction de votre propre situation financière et de votre tolérance au risque. Pour plus de détails, veuillez consulter l'
avertissement.
