À quel point sommes-nous proches de la superintelligence?

L'intelligence artificielle (IA) a le potentiel de surpasser un jour l'intelligence humaine, une notion que certaines personnes pourraient considérer comme de la science-fiction. Cependant, certains chercheurs pensent qu'il existe déjà des signes précurseurs de cette possibilité dans le GPT-4.

Un cerveau artificiel peut-il vraiment comprendre ? Pour certains chercheurs, cela ne semble plus absurde.

L'IA pourrait devenir très dangereuse pour nous, les humains. Il y a un consensus surprenant sur cette question. Le battage médiatique autour de l'IA et des chatbots s'est récemment transformé en une frénésie d'avertissements.

 

À quel point sommes-nous proches de la superintelligence ?

Cependant, en y regardant de plus près, on peut voir qu'il y a un débat féroce sur les dangers qui découlent des systèmes d'apprentissage automatique. Certains experts mettent en garde contre les risques ici et maintenant. Les chatbots pourraient être abusés, par exemple, pour diffuser en masse de fausses informations. Ou ils pourraient reproduire des distorsions racistes et sexistes dans leurs données de formation. D'autres regardent plus loin dans l'avenir. Ils mettent en garde contre ce qui pourrait arriver si l'IA continue à se développer à son rythme actuel. Il pourrait alors, selon eux, devenir tout aussi intelligent que les humains, voire plus intelligent. Les chercheurs appellent cela l'intelligence générale artificielle (AGI), tandis que certains l'appellent IA forte ou superintelligence.

Une telle intelligence pourrait "un jour nous dépasser, nous rendre redondants et nous remplacer". C'est du moins ce qu'un groupe de scientifiques de l'IA et de leaders technologiques a écrit dans une lettre ouverte la semaine dernière. Ils ont donc appelé à une pause dans le développement de tels systèmes et ont plutôt exigé une pause de six mois pour développer des mesures de sécurité afin de garantir que toute superintelligence potentielle aide l'humanité à résoudre ses problèmes, plutôt que de devenir incontrôlable et de nous nuire.

Que l'on trouve cela sensé ou alarmiste dépend en grande partie du fait que l'on suppose qu'une IA forte est vraiment à nos portes. Des chercheurs de Microsoft Research affirment maintenant en avoir trouvé la preuve. Dans une publication ( PDF ), ils rapportent avoir trouvé des "étincelles d'Intelligence Artificielle Générale" dans une étude approfondie du modèle de langage GPT-4. Le système montre des "capacités remarquables" dans une variété de domaines, y compris l'abstraction, la programmation, les mathématiques, la médecine, le droit, la compréhension des motivations et des émotions humaines, et bien plus encore. Dans beaucoup de ces domaines, il dépasse déjà les humains aujourd'hui.

Cela contredit directement ce que d'autres chercheurs disent depuis longtemps et soulignent à plusieurs reprises. Ils pensent qu'il est impossible que l'intelligence générale émerge uniquement de modèles statistiques. La peur de la superintelligence est "un non-sens".

Bien qu'il ne soit pas certain que nous soyons vraiment sur le point de développer une superintelligence, le débat entourant cette possibilité est important. Alors que l'IA continue de progresser, nous devons rester vigilants et veiller à ce qu'elle soit développée en gardant à l'esprit les intérêts et la sécurité de l'humanité.