L'industrie technologique est connue pour sa capacité à vendre l'avenir, mais ses visions d'un monde propulsé par le "métaverse", le "web3" et "l'intelligence artificielle" ne sont que des mirages. Malgré la morsure de la réalité, ces termes ont rapporté des milliards de dollars à l'industrie, et l'expression "intelligence artificielle" à elle seule est peut-être l'un des termes marketing les plus réussis de tous les temps.
 |
| Le mirage marketing de l'IA |
Alors que la notion de machines pensantes évoque des images de véritable intelligence, la réalité est qu'aucune machine ne peut penser et qu'aucun logiciel n'est vraiment intelligent. Même le dernier modèle de langage d'OpenAI, GPT-4, qui semble encore plus humain que son prédécesseur, reflète simplement des bases de données de texte. Ces systèmes sont formés pour générer des textes qui semblent plausibles, mais ils sont loin d'être des oracles de connaissances pouvant être branchés sur des moteurs de recherche. Des termes tels que « réseaux de neurones » et « apprentissage en profondeur » ne font que renforcer l'idée que ces programmes ressemblent à des humains, mais ils ne sont que vaguement inspirés par le fonctionnement du cerveau humain. Nous avons besoin d'un lexique différent qui ne propage pas la pensée magique sur les systèmes informatiques et qui n'absout pas les personnes qui conçoivent ces systèmes de leurs responsabilités.
Attribuer de l'intelligence aux machines leur donne une indépendance imméritée vis-à-vis des humains et abdique leurs créateurs de la responsabilité de leur impact. La précipitation des entreprises à brancher des chatbots et des générateurs de texte et d'images dans leurs systèmes est presque trompeuse, car elle crée une conformité fataliste parmi les humains qui subissent les effets néfastes de la technologie. Malgré son statut intégré dans notre vocabulaire, nous devons nous rappeler à quel point ces systèmes dépendent des gestionnaires humains qui devraient être tenus responsables de leurs effets secondaires. Plutôt que d'étiqueter les chatbots et les générateurs d'images comme "IA", nous devrions les appeler ce qu'ils sont vraiment : des "machines à plagiat géantes" qui recombinent principalement la prose et les images créées par les humains.
Les dangers du battage médiatique sur l'IA et le besoin d'une technologie responsable
Mais le problème va au-delà de la simple terminologie. Le battage médiatique autour de l'IA a conduit à une ruée vers le développement et le déploiement de ces technologies sans tenir dûment compte de leurs risques et inconvénients potentiels. Les conséquences peuvent être désastreuses, comme on le voit dans des cas tels que les préjugés et la discrimination perpétués par les logiciels de reconnaissance faciale, ou les accidents mortels causés par les voitures autonomes.
De plus, le développement de l'IA ne se produit pas dans le vide. Cela se produit dans un contexte plus large d'inégalité sociale et économique, où ceux qui ont le plus de pouvoir et de ressources sont capables de façonner la direction du progrès technologique. Cela peut conduire à ce que l'IA soit développée principalement pour le bénéfice de quelques-uns, plutôt que pour le plus grand nombre. La solution à ces problèmes réside dans un développement technologique responsable. Cela signifie adopter une approche plus prudente du développement et du déploiement de l'IA et veiller à ce que ces technologies soient soumises à des tests et à une évaluation rigoureux avant d'être diffusées dans le monde.
Cela signifie également impliquer un large éventail de voix et de perspectives dans le processus de développement, y compris ceux qui peuvent être le plus touchés par ces technologies. Cela inclut les communautés qui ont toujours été marginalisées ou exclues de l'industrie technologique. Enfin, le développement technologique responsable signifie reconnaître les limites de ces technologies et être transparent quant à leurs capacités et leurs limites. Cela signifie éviter la tentation de survendre le potentiel de l'IA afin d'obtenir un financement ou d'attirer l'attention du public.
En fin de compte, la clé du développement technologique responsable consiste à reconnaître que ces technologies ne sont pas la panacée à nos problèmes de société. Ce sont des outils qui peuvent être utilisés pour résoudre certains problèmes, mais ils ne remplacent pas un changement social et politique plus large. Alors que nous avançons dans le développement de l'IA et d'autres technologies émergentes, il est crucial que nous le fassions avec un œil critique et un engagement envers la responsabilité. Ce n'est qu'ainsi que nous pourrons nous assurer que ces technologies sont développées et déployées d'une manière qui profite à tous.
#ArtificialIntelligence #MachineLearning #LanguageModels #TechIndustry #MarketingTerms #IntelligenceMirage #GPT4 #DeepLearning #NeuralNetworks #Responsabilité
#AIlabel #Chatbots #ImageGenerators #LanguageModels #HumanImpact #Accountability #Biases #HumanManagers #PlagiarismMachines #SALAMI #SystemicApproachesToLearningAlgorithmsAndMachineInferences