Le chatbot ChatGPT est au centre d’une controverse après avoir redirigé des utilisateurs vers de faux sites de commerce en ligne, mentionnant même des produits inexistants. Ce problème a été rapporté par The Guardian, citant le service de détection de fraudes Ask Silver.
Sites frauduleux imitant Russell & Bromley et Dunelm : une menace pour les consommateurs
Des chercheurs ont découvert que des liens menant à des sites imitant des marques célèbres comme Russell & Bromley et Dunelm ont été fournis aux utilisateurs. Après avoir passé commande sur ces plateformes, les consommateurs perdaient leur argent et voyaient leurs informations bancaires compromises.
Ce phénomène est attribué à un « empoisonnement de l’intelligence artificielle ». Les escrocs créent des sites factices et diffusent massivement de fausses informations en ligne. Les modèles linguistiques avancés peuvent alors considérer ces ressources comme légitimes et les recommander aux utilisateurs. La situation devient critique lorsque des marques bien établies modifient leur structure commerciale ou ferment certains sites.
Vigilance requise face aux recommandations IA : signes avant-coureurs de fraude
Les spécialistes soulignent que même les recommandations issues de l’IA nécessitent une vérification minutieuse. Des signes de fraude incluent souvent des remises excessives, des adresses web suspectes, des coordonnées incorrectes et des demandes de paiements inhabituels. Il est conseillé de vérifier le site officiel d’une entreprise via des moteurs de recherche ou d’autres sources fiables avant tout achat.
OpenAI a déjà supprimé certains liens signalés, mais les experts estiment que le problème persistera. Avec la popularité croissante des services d’IA, les escrocs utilisent de plus en plus ces outils pour cibler leurs victimes potentielles. Les utilisateurs doivent donc aborder toute recommandation avec un esprit critique.
