Gå frakoblet med Player FM -appen!
Le prompt injection : une nouvelle menace pour les modèles d’IA
Manage episode 423013099 series 3266176
Nouvelle forme d’attaque, le prompt injection consiste à pousser un modèle de langage IA à générer du contenu indésirable, trompeur, ou potentiellement malveillant. Cette menace, déjà problématique dans les modèles grand public comme ChatGPT ou Gemini, peut s’avérer beaucoup plus ennuyeuse lorsque ceux-ci sont connectés à des données internes d’entreprises car ils créent une nouvelle surface d’attaque beaucoup plus complexe à contrôler. Explications de l’advisor Hervé le Jouan.
-----------------------------------------------------------------------
SMART TECH - Le magazine quotidien de l’innovation
Dans SMART TECH, l’actu du numérique et de l’innovation prend tout son sens. Chaque jour, des spécialistes décryptent les actualités, les tendances, et les enjeux soulevés par l’adoption des nouvelles technologies.
👉 https://www.bsmart.fr/emissions/smart-tech
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
772 episoder
Manage episode 423013099 series 3266176
Nouvelle forme d’attaque, le prompt injection consiste à pousser un modèle de langage IA à générer du contenu indésirable, trompeur, ou potentiellement malveillant. Cette menace, déjà problématique dans les modèles grand public comme ChatGPT ou Gemini, peut s’avérer beaucoup plus ennuyeuse lorsque ceux-ci sont connectés à des données internes d’entreprises car ils créent une nouvelle surface d’attaque beaucoup plus complexe à contrôler. Explications de l’advisor Hervé le Jouan.
-----------------------------------------------------------------------
SMART TECH - Le magazine quotidien de l’innovation
Dans SMART TECH, l’actu du numérique et de l’innovation prend tout son sens. Chaque jour, des spécialistes décryptent les actualités, les tendances, et les enjeux soulevés par l’adoption des nouvelles technologies.
👉 https://www.bsmart.fr/emissions/smart-tech
Hébergé par Ausha. Visitez ausha.co/politique-de-confidentialite pour plus d'informations.
772 episoder
Alle episoder
×Velkommen til Player FM!
Player FM scanner netter for høykvalitets podcaster som du kan nyte nå. Det er den beste podcastappen og fungerer på Android, iPhone og internett. Registrer deg for å synkronisere abonnement på flere enheter.