Une étude montre que les faux rapports générés par l’Intelligence Artificielle mystifient les experts
Si vous utilisez des sites de réseaux sociaux tels que Facebook et Twitter, probablement vous avez rencontré des messages signalés par des avertissements au sujet de la désinformation. Jusqu’à présent, la plupart des renseignements erronés – signalés et non décalés – ont été destinés au grand public. Imaginez la possibilité de désinformation – information fausse ou trompeuse – dans des domaines scientifiques et techniques comme la cybersécurité, la sécurité publique et la médecine.
On s’inquiète de plus en plus de la diffusion de la désinformation dans ces domaines critiques en raison des préjugés et des pratiques courantes dans la publication de documents scientifiques, même dans des documents de recherche examinés et revus par des experts.
Des Universitaires de l’université de Maryland ont confirmé : « En tant qu’étudiant diplômé et membre du corps professoral qui fait de la recherche sur la cybersécurité, nous avons étudié une nouvelle avenue de désinformation dans la communauté scientifique. Nous avons constaté qu’il est possible pour les systèmes d’intelligence artificielle de générer de fausses informations dans des domaines critiques tels que la médecine et la défense, suffisamment convaincantes pour tromper les experts ».
La désinformation générale vise souvent à ternir la réputation des entreprises ou des personnalités publiques. La désinformation au sein des communautés d’experts peut donner lieu à des résultats effrayants, comme la prestation de conseils médicaux erronés aux médecins et aux patients. Cela pourrait mettre des vies en danger.
Pour tester cette menace, il y a eu des études sur les impacts de la diffusion de la désinformation dans les communautés médicales et de cybersécurité. Il y a eu une utilisation des modèles d’intelligence artificielle appelés transformateurs pour générer de fausses nouvelles en matière de cybersécurité et des études médicales sur la COVID-19.
Une désinformation en matière de cybersécurité a été présenté aux experts en cybersécurité aux fins de tests. Et le résultat constaté est que la désinformation générée par les transformateurs a pu tromper les experts en cybersécurité.
Poster un Commentaire