🫡 @Mira_Network veut changer d'approche pour sortir de l'impasse - plutôt que de laisser l'IA décider seule, pourquoi ne pas mettre en place un système qui se trouve "au-dessus" de l'IA, chargé de vérifier si ce que dit l'IA est correct ou non. Maintenant, tout le monde parle de combien l'IA est un bull, mais les scénarios réellement applicables sont en réalité très limités.
En fin de compte, le plus grand problème de l'IA en ce moment est qu'elle est "peu fiable" - elle peut produire du contenu qui semble très logique, mais si vous regardez de plus près, vous découvrirez qu'il est souvent truffé de fausses informations. Ce problème est acceptable dans les chatbots, mais dès qu'il s'agit de l'appliquer à des domaines à haut risque comme la santé, le droit ou la finance, cela devient complètement inacceptable.
Pourquoi l'IA se comporte-t-elle ainsi ? Une raison fondamentale est qu'elle ne parvient toujours pas à équilibrer "précision" et "stabilité". Si vous voulez qu'elle produise des résultats plus stables, vous devez nettoyer les données d'entraînement, mais cela peut facilement introduire des biais. En revanche, si vous voulez qu'elle soit plus proche du monde réel et couvre un éventail plus large, vous devez inclure beaucoup d'informations conflictuelles, ce qui rend le modèle "peu fiable", c'est-à-dire sujet aux hallucinations.
Cette méthode ressemble un peu à l'installation d'un "vérificateur de faits" pour l'IA. L'IA génère d'abord du contenu, puis Mira décompose ce contenu en petits jugements, qui sont ensuite soumis à plusieurs modèles indépendants pour vérifier si ces conclusions sont fiables. Une fois que plusieurs modèles parviennent à un consensus, un rapport de vérification est généré via des nœuds sur la chaîne, équivalant à un marquage "vérifié".
Cette direction est très intéressante, car elle ne vise pas à modifier le "cerveau" de l'IA, mais à doter l'IA d'un "système de supervision". Si ce système fonctionne réellement bien, nous pourrions à l'avenir laisser l'IA faire des choses plus complexes et plus risquées, comme rédiger automatiquement des contrats, examiner automatiquement du code, voire prendre des décisions de manière autonome. C'est vraiment l'infrastructure de base de l'IA.
La clé est qu'il y a une activité de classement sur @KaitoAI, récemment @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY a également une grande popularité.
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
🫡 @Mira_Network veut changer d'approche pour sortir de l'impasse - plutôt que de laisser l'IA décider seule, pourquoi ne pas mettre en place un système qui se trouve "au-dessus" de l'IA, chargé de vérifier si ce que dit l'IA est correct ou non. Maintenant, tout le monde parle de combien l'IA est un bull, mais les scénarios réellement applicables sont en réalité très limités.
En fin de compte, le plus grand problème de l'IA en ce moment est qu'elle est "peu fiable" - elle peut produire du contenu qui semble très logique, mais si vous regardez de plus près, vous découvrirez qu'il est souvent truffé de fausses informations. Ce problème est acceptable dans les chatbots, mais dès qu'il s'agit de l'appliquer à des domaines à haut risque comme la santé, le droit ou la finance, cela devient complètement inacceptable.
Pourquoi l'IA se comporte-t-elle ainsi ? Une raison fondamentale est qu'elle ne parvient toujours pas à équilibrer "précision" et "stabilité". Si vous voulez qu'elle produise des résultats plus stables, vous devez nettoyer les données d'entraînement, mais cela peut facilement introduire des biais. En revanche, si vous voulez qu'elle soit plus proche du monde réel et couvre un éventail plus large, vous devez inclure beaucoup d'informations conflictuelles, ce qui rend le modèle "peu fiable", c'est-à-dire sujet aux hallucinations.
Cette méthode ressemble un peu à l'installation d'un "vérificateur de faits" pour l'IA. L'IA génère d'abord du contenu, puis Mira décompose ce contenu en petits jugements, qui sont ensuite soumis à plusieurs modèles indépendants pour vérifier si ces conclusions sont fiables. Une fois que plusieurs modèles parviennent à un consensus, un rapport de vérification est généré via des nœuds sur la chaîne, équivalant à un marquage "vérifié".
Cette direction est très intéressante, car elle ne vise pas à modifier le "cerveau" de l'IA, mais à doter l'IA d'un "système de supervision". Si ce système fonctionne réellement bien, nous pourrions à l'avenir laisser l'IA faire des choses plus complexes et plus risquées, comme rédiger automatiquement des contrats, examiner automatiquement du code, voire prendre des décisions de manière autonome. C'est vraiment l'infrastructure de base de l'IA.
La clé est qu'il y a une activité de classement sur @KaitoAI, récemment @arbitrum @Aptos @0xPolygon @shoutdotfun $ENERGY a également une grande popularité.