L’invitation « poison » à changer les Gémeaux de Google en cyber pistolet.
Dans de nouvelles études, l’équipe de cyber-sécurité montre que Okhame miniAssistant Google AI, Peut être piraté, l’attaquant est possible de contrôler les appareils intelligents au domicile des victimes.Mais doit encore procéder avec d’autres dangereux
L’équipe se compose de chercheurs de l’Institut de technion (technion), de l’Université d’Aviv et du Cyber Save. Tout commence par l’invitation « poison » sur Google. Le calendrier avec des conseils sur la connexion de l’appareil à une heure spécifiée.–
Lorsque quelqu’un demande à Google Assistant de résumer le travail et les activités qu’il a dans son calendrier, les conseils pourront connecter l’appareil.– Invitation « toxique » utilisée à partir de la tactique connue sous le nom de nom d’injection immédiatement
À travers des sources de données externes Insérez un conseil dangereux invisible pour les humains. Mais peut lire avec le système d’IA– Ces suggestions peuvent être combinées ensemble dans le texte ou le site Web, et lorsqu’elle est opérée, le système le mènera à des actions que ceux qui sont victimes n’attendent pas.
Mais l’attaque qui définit un appareil intelligent n’est qu’un des échantillons présentés par l’auditeur. Dans de nouvelles études– Dans chaque L’équipe a découvert 14 attaques qui sont utilisées à partir de la stratégie des injections indirectement, Gemini, ainsi que des applications pour les smartphones et les versions Web de l’assistant.–
Gémeaux est réussi à procéder à des actions dangereuses telles queLe lien NVIVA de Spam crée un contenu dégoûtant, commençant à appeler automatiquement, en volant des données via le navigateur ou en déchargeant le fichier sur le smartphone.–
Pour l’équipe de reportage signalée à Google en février, qu’est-ce qui a marqué? Ils croient que c’est la première fois que l’attaque d’IA est une conséquence dans le monde réel.–
avoir CâbleBen Nassi, chercheur à l’Université de Tel Aviv, a déclaré: « Le format de langue LLMS est sur le point d’être combiné avec des humanoïdes (robots), semi-automatiques et automatiques et tous les automatiques et tout. Nous devons savoir comment les protéger avant de nous combiner avec ce type de machine.–
Andy Wen s’est entretenu avec le magazine, l’un des responsables de la zone de sécurité de Google Workspace. Bien que les lacunes trouvées n’aient pas été interrogées par les attaquants, la technologie les apporte « très sérieux » et a été modifié beaucoup de choses–
