Elon Musk, Steve Wozniakmais aussi des employés, des chercheurs et des dirigeants de Microsoft, Google, Amazon et Meta ont peur. La peur de quoi ? De l’intelligence artificielle. Ils sont plus de 1 000 signataires d’une lettre ouverte appelant à d’interrompre les expériences d’IA et d’établir des règles partagées et validées par des personnalités indépendantes.
« Nous invitons tous les laboratoires d’intelligence artificielle à suspendre immédiatement la formation de systèmes d’intelligence artificielle plus puissants que le GPT-4 pendant au moins six mois.‘, est le point saillant de la missive.
La course de ces derniers mois au développement de Une IA de plus en plus puissante è à la vue de tous: le boom des ChatGPT, l’intégration de l’intelligence artificielle dans les Microsoft e Google qui tente de rattraper son retard par rapport à Bard. De plus, des solutions plus ou moins valables poussent comme des champignons qui font de l’Europe un lieu de rencontre et d’échange.L’IA générative leur cœur.
Non seulement ces AI représentent une danger pour de multiples professionsparce qu’ils sont capables d’effectuer des travaux qui nécessitaient jusqu’à présent une personne hautement qualifiée, mais qui « peuvent impliquer » des tâches de plus en plus complexes et de plus en plus complexes. des risques graves pour la société et l’humanitécomme cela a été démontré par des recherches approfondies et reconnu par les meilleurs laboratoires d’intelligence artificielle », peut-on lire dans la lettre.
« L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre et devrait être planifié et géré avec les soins et les ressources nécessaires. Malheureusement, ce niveau de planification et de gestion n’est pas atteint. les laboratoires se sont lancés dans une course incontrôlée pour développer et mettre en œuvre des esprits numériques de plus en plus puissants que personne, pas même leurs créateurs, ne peut comprendreprédire ou contrôler de manière fiable ».
« Faut-il laisser les machines inonder nos canaux d’information de propagande et de mensonges ? Faut-il automatiser tout le travail, y compris le travail satisfaisant ? Nous devrions développer des esprits non humains qui pourraient éventuellement être plus nombreux, nous surpasser, nous rendre obsolètes et nous remplacer ? Devons-nous prendre le risque perdre le contrôle de notre civilisation ? De telles décisions ne devraient pas être déléguées à des leaders technologiques non élus », poursuit le texte.
L’IA pourrait entraîner des changements considérables, pas nécessairement positifs. A tel point que la missive, en plus d’appeler à une pause de réflexion qui devrait impliquer tout le monde, précise que « si cette pause ne peut pas être mise en œuvre rapidement, les gouvernements devraient intervenir et instaurer un moratoire« .
La pause pourrait servir à affiner « Protocoles de sécurité partagés pour la conception et le développement d’une intelligence artificielle avancéerigoureusement vérifiés et supervisés par des experts externes indépendants ». Ces protocoles doivent garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable.
« Cela ne signifie pas une pause dans le développement de l’IA en généralmais simplement un pas en arrière de la course dangereuse aux modèles boîte noire de plus en plus grande et imprévisible avec des capacités émergentes ». Une boîte noire fait référence à une sorte de boîte noire dont le comportement externe peut être décrit par ce qu’elle renvoie comme résultat d’entrées données, mais dont le fonctionnement interne est essentiellement inconnu.
« L’humanité peut jouir d’un avenir florissant grâce à l’IAconclut la lettre. Ayant réussi à créer des systèmes d’IA puissants, nous pouvons maintenant profiter d’un été de l’intelligence artificielle au cours duquel nous récolterons les fruits de nos efforts, concevrons ces systèmes pour le plus grand bénéfice de tous et donnerons à la société une chance de s’adapter. La société a mis en pause d’autres technologies ayant des effets potentiellement catastrophiques sur la société (citant le clonage humain, la modification de la lignée germinale humaine, la recherche sur le gain de fonction et l’eugénisme). Nous pouvons le faire ici aussi. Profitons d’un long été d’intelligence artificielle, ne nous précipitons pas sans préparation dans l’abîme ».
