Veille IA Veille IA sans buzz : pour stratèges québécois.
La veille

Superintelligence

Superintelligence

Superintelligence

Aussi appelé : Artificial Superintelligence · ASI · intelligence artificielle supérieure · super-intelligence

Terme IA Avancé 🤖 Intelligence artificielle

Mis à jour le

La superintelligence (ASI) est un niveau théorique d'intelligence artificielle surpassant les capacités intellectuelles de l'ensemble de l'humanité dans pratiquement tous les domaines, y compris la créativité et la sagesse.

📖 Définition

La superintelligence (ASI) désigne un niveau hypothétique d'IA surpassant les capacités cognitives humaines dans tous les domaines. Contrairement à l'IA actuelle qui excelle dans des tâches spécifiques, une superintelligence serait capable de résoudre des problèmes que l'humanité ne peut même pas formuler. Ce concept demeure théorique et fait l'objet de débats intenses. La superintelligence est au coeur des réflexions sur la sécurité existentielle.

💬 En termes simples

Imaginez la différence de capacité intellectuelle entre un enfant en bas âge et le plus brillant des chercheurs du MILA à Montréal. La superintelligence représenterait un écart au moins aussi grand, mais entre l'ensemble de l'humanité et la machine. Ce serait comme si un système pouvait simultanément repenser la physique quantique et résoudre les changements climatiques.

🎯 Exemple concret

Des laboratoires comme le MILA consacrent des équipes entières à la recherche sur l'alignement d'une future ASI. Des gouvernements participent à des forums internationaux sur la gouvernance de la superintelligence. Des entreprises créent des comités de sécurité dédiés intégrant des philosophes et des éthiciens.

💡 Le saviez-vous ?

Nick Bostrom a popularisé l'idée que l'ASI pourrait être le dernier défi de l'humanité. Yoshua Bengio, cofondateur du MILA, a cosigné en 2023 une déclaration affirmant que l'atténuation du risque d'extinction par l'IA devrait être une priorité mondiale au même titre que les pandémies et les guerres nucléaires.

❓ Questions fréquentes

Est-ce que la superintelligence existe déjà ?
Non, nous n'en sommes qu'au stade de l'IA « étroite ». Même les modèles les plus avancés comme GPT-4 restent limités par leur entraînement et n'ont pas de conscience propre. La superintelligence demeure un concept prospectif qui fascine et inquiète les chercheurs sur l'avenir de notre civilisation.
Quelle est la différence entre l'AGI et la superintelligence ?
L'AGI (générale) égale l'intelligence humaine. La superintelligence (ASI) la dépasse de loin, au point où nous ne pourrions même plus comprendre ses raisonnements. C'est la différence entre un collègue très brillant et une entité dont l'intelligence serait à la nôtre ce que la nôtre est à celle d'une fourmi.
Pourquoi certains experts comme Nick Bostrom s'en inquiètent-ils ?
Le danger est l'impossibilité de contrôler une entité beaucoup plus intelligente que nous. Si ses objectifs divergent ne serait-ce qu'un peu des nôtres, elle pourrait transformer les ressources de la Terre pour ses propres besoins sans aucune considération pour notre survie. L'enjeu est donc de réussir l'alignement avant d'atteindre ce stade.

📚 Sources

🔗 Termes liés

🏷️ Catégorie parente

🔐 Connexion rapide

Entrez votre courriel pour recevoir un code à 6 chiffres.

Pas besoin de mot de passe ni d'inscription. Entrez votre courriel, recevez un code par courriel, et c'est tout !