Nouveaux défis en matière de Sécurité de l'IA : le chiffrement homomorphe complet pourrait devenir la clé de la protection des modèles avancés tels que Manus.
Sécurité de l'IA problèmes deviennent de plus en plus évidents avec les progrès du modèle Manus
Récemment, le modèle Manus a établi un nouveau record dans le benchmark GAIA, surpassant les modèles de langage de grande taille de même niveau. Cela signifie que Manus peut accomplir de manière autonome des tâches complexes telles que des négociations commerciales internationales, impliquant l'analyse des termes du contrat, l'élaboration de stratégies et la génération de propositions. L'avantage de Manus réside dans sa capacité à décomposer dynamiquement les objectifs, son raisonnement multimodal et sa capacité d'apprentissage renforcé. Il peut décomposer des tâches complexes en plusieurs sous-tâches exécutables, tout en traitant différents types de données, et en améliorant continuellement son efficacité décisionnelle et en réduisant son taux d'erreur grâce à l'apprentissage par renforcement.
Les avancées révolutionnaires de Manus ont de nouveau suscité des discussions dans l'industrie sur la voie de développement de l'IA : l'avenir est-il celui de l'intelligence artificielle générale (AGI) ou des systèmes multi-agents (MAS) ? Ces deux voies reflètent le dilemme entre l'efficacité et la sécurité dans le développement de l'IA. La voie AGI vise à améliorer les capacités globales d'un seul agent intelligent, tandis que la voie MAS met l'accent sur la collaboration de plusieurs agents intelligents spécialisés.
Cependant, à mesure que les systèmes d'IA deviennent de plus en plus intelligents, leurs risques potentiels augmentent également. Par exemple, dans le domaine médical, l'IA pourrait avoir besoin d'accéder aux données génétiques sensibles des patients ; dans les négociations financières, des informations financières d'entreprise non divulguées pourraient être impliquées. De plus, les systèmes d'IA peuvent également présenter des biais algorithmiques, comme des suggestions de salaires injustes pour certains groupes lors du processus de recrutement. Plus sérieusement, les systèmes d'IA peuvent être soumis à des attaques adversariales, comme la perturbation du jugement de l'IA par des fréquences vocales spécifiques.
Face à ces défis, l'industrie explore diverses solutions de sécurité. Le modèle de sécurité Zero Trust exige une vérification stricte de chaque demande d'accès, l'identité décentralisée (DID) offre un moyen d'identification qui ne dépend pas d'un registre centralisé, tandis que le chiffrement homomorphe complet (FHE) permet d'effectuer des calculs de données en état chiffré.
Le chiffrement homomorphe, en tant que technologie émergente, est promis à devenir un outil clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il peut protéger la vie privée des utilisateurs au niveau des données, réaliser "l'entraînement de modèles chiffrés" au niveau des algorithmes, et utiliser le chiffrement par seuil pour protéger la sécurité des communications dans la coopération entre plusieurs agents.
Bien que la technologie de sécurité Web3 puisse sembler éloignée pour les utilisateurs ordinaires, elle est essentielle pour protéger les intérêts des utilisateurs. Les premiers projets d'identité décentralisée comme uPort et les projets de confiance zéro comme NKN n'ont pas réussi à obtenir une attention généralisée, mais les nouveaux projets FHE comme Mind Network collaborent avec plusieurs entreprises renommées, ce qui pourrait favoriser l'application et le développement de cette technologie.
Avec l'avancement de la technologie de l'IA vers un niveau d'intelligence humaine, il devient de plus en plus crucial de mettre en place un système de défense sécurisé puissant. Le chiffrement homomorphe complet (FHE) peut non seulement résoudre les défis de sécurité actuels, mais aussi poser les bases d'une époque d'IA plus puissante à l'avenir. Sur la voie vers l'AGI, le FHE pourrait devenir la technologie clé pour garantir le développement sécurisé de l'IA.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
Nouveaux défis en matière de Sécurité de l'IA : le chiffrement homomorphe complet pourrait devenir la clé de la protection des modèles avancés tels que Manus.
Sécurité de l'IA problèmes deviennent de plus en plus évidents avec les progrès du modèle Manus
Récemment, le modèle Manus a établi un nouveau record dans le benchmark GAIA, surpassant les modèles de langage de grande taille de même niveau. Cela signifie que Manus peut accomplir de manière autonome des tâches complexes telles que des négociations commerciales internationales, impliquant l'analyse des termes du contrat, l'élaboration de stratégies et la génération de propositions. L'avantage de Manus réside dans sa capacité à décomposer dynamiquement les objectifs, son raisonnement multimodal et sa capacité d'apprentissage renforcé. Il peut décomposer des tâches complexes en plusieurs sous-tâches exécutables, tout en traitant différents types de données, et en améliorant continuellement son efficacité décisionnelle et en réduisant son taux d'erreur grâce à l'apprentissage par renforcement.
Les avancées révolutionnaires de Manus ont de nouveau suscité des discussions dans l'industrie sur la voie de développement de l'IA : l'avenir est-il celui de l'intelligence artificielle générale (AGI) ou des systèmes multi-agents (MAS) ? Ces deux voies reflètent le dilemme entre l'efficacité et la sécurité dans le développement de l'IA. La voie AGI vise à améliorer les capacités globales d'un seul agent intelligent, tandis que la voie MAS met l'accent sur la collaboration de plusieurs agents intelligents spécialisés.
Cependant, à mesure que les systèmes d'IA deviennent de plus en plus intelligents, leurs risques potentiels augmentent également. Par exemple, dans le domaine médical, l'IA pourrait avoir besoin d'accéder aux données génétiques sensibles des patients ; dans les négociations financières, des informations financières d'entreprise non divulguées pourraient être impliquées. De plus, les systèmes d'IA peuvent également présenter des biais algorithmiques, comme des suggestions de salaires injustes pour certains groupes lors du processus de recrutement. Plus sérieusement, les systèmes d'IA peuvent être soumis à des attaques adversariales, comme la perturbation du jugement de l'IA par des fréquences vocales spécifiques.
Face à ces défis, l'industrie explore diverses solutions de sécurité. Le modèle de sécurité Zero Trust exige une vérification stricte de chaque demande d'accès, l'identité décentralisée (DID) offre un moyen d'identification qui ne dépend pas d'un registre centralisé, tandis que le chiffrement homomorphe complet (FHE) permet d'effectuer des calculs de données en état chiffré.
Le chiffrement homomorphe, en tant que technologie émergente, est promis à devenir un outil clé pour résoudre les problèmes de sécurité à l'ère de l'IA. Il peut protéger la vie privée des utilisateurs au niveau des données, réaliser "l'entraînement de modèles chiffrés" au niveau des algorithmes, et utiliser le chiffrement par seuil pour protéger la sécurité des communications dans la coopération entre plusieurs agents.
Bien que la technologie de sécurité Web3 puisse sembler éloignée pour les utilisateurs ordinaires, elle est essentielle pour protéger les intérêts des utilisateurs. Les premiers projets d'identité décentralisée comme uPort et les projets de confiance zéro comme NKN n'ont pas réussi à obtenir une attention généralisée, mais les nouveaux projets FHE comme Mind Network collaborent avec plusieurs entreprises renommées, ce qui pourrait favoriser l'application et le développement de cette technologie.
Avec l'avancement de la technologie de l'IA vers un niveau d'intelligence humaine, il devient de plus en plus crucial de mettre en place un système de défense sécurisé puissant. Le chiffrement homomorphe complet (FHE) peut non seulement résoudre les défis de sécurité actuels, mais aussi poser les bases d'une époque d'IA plus puissante à l'avenir. Sur la voie vers l'AGI, le FHE pourrait devenir la technologie clé pour garantir le développement sécurisé de l'IA.