La lettre appelle à une extension majeure de la surveillance de l’IA par le gouvernement.
Les modèles de langage pilotés par l’intelligence artificielle ont attiré des millions d’utilisateurs ces derniers mois, créant instantanément des sensations virales telles qu’un verset biblique expliquant comment retirer un sandwich au beurre de cacahuète d’un magnétoscope.
Toutefois, les systèmes améliorés par l’IA présentent des dangers importants qui dépassent de loin les avantages, selon un groupe de leaders de la technologie, dont l’entrepreneur Elon Musk, qui a signé une lettre ouverte mercredi appelant à une pause de six mois dans le développement des systèmes d’IA et à un renforcement majeur de la surveillance gouvernementale.
“Les systèmes d’IA dotés d’une intelligence compétitive avec l’homme peuvent présenter des risques profonds pour la société et l’humanité“, indique la lettre.
NEW – Elon Musk & Tech Leaders Call for a Pause on Advanced AI Systems Citing 'Risks to Society'
— Chief Nerd (@TheChiefNerd) March 29, 2023
"AI systems with human-competitive intelligence can pose profound risks to society and humanity, as shown by extensive research and acknowledged by top AI labs."@elonmusk pic.twitter.com/1R3AxIYDre
“Ces derniers mois, les laboratoires d’IA se sont lancés dans une course incontrôlée pour développer et déployer des esprits numériques de plus en plus puissants que personne – pas même leurs créateurs – ne peut comprendre, prédire ou contrôler de manière fiable“, ajoute la lettre.
Au début du mois, la société d’intelligence artificielle OpenAI a publié la dernière version de ChatGPT, le modèle de langage alimenté par l’IA qui a fait fureur sur Internet à la fin de l’année dernière.
GPT-4, le modèle le plus récent, peut comprendre des images en entrée, ce qui signifie qu’il peut regarder une photo et donner à l’utilisateur des informations générales sur l’image ; il peut également écrire du code dans tous les principaux langages de programmation, entre autres progrès.
La lettre ouverte publiée mercredi demande aux laboratoires d’intelligence artificielle d’interrompre immédiatement la formation de systèmes d’intelligence artificielle plus puissants que le GPT-4.
Outre M. Musk, la lettre a été signée par Steve Wozniak, cofondateur d’Apple, Andrew Yang, ancien candidat démocrate à l’élection présidentielle, et Marc Rotenberg, président du Center for AI and Digital Policy, une organisation à but non lucratif.
Au total, la lettre compte plus de 1 000 signataires, dont des professeurs, des cadres du secteur technologique et des scientifiques.
Cette lettre arrive environ un mois après que Microsoft a mis à la disposition de certains utilisateurs une version de son moteur de recherche Bing améliorée par l’IA.
Microsoft a refusé de commenter la lettre. Open AI n’a pas répondu immédiatement à une demande de commentaire d’ABC News.
Décrivant des conversations avec le chatbot qui ont duré jusqu’à deux heures, certains journalistes et chercheurs ont averti que l’IA pouvait potentiellement persuader un utilisateur de commettre des actes nuisibles ou l’orienter vers des informations erronées.
Dans une série de billets de blog, Microsoft a reconnu l’existence de résultats inattendus et a imposé des limites à l’outil.
BREAKING: A petition is circulating to PAUSE all major AI developments.
— Lorenzo Green 〰️ (@mrgreen) March 29, 2023
e.g. No more ChatGPT upgrades & many others.
Signed by Elon Musk, Steve Wozniak, Stability AI CEO & 1000s of other tech leaders.
Here's the breakdown: 👇 pic.twitter.com/jR4Z3sNdDw
“Nous avons mis à jour le service à plusieurs reprises en réponse aux commentaires des utilisateurs et, dans notre blog, nous répondons à bon nombre des préoccupations soulevées, notamment les questions concernant les conversations de longue durée“, a déclaré un porte-parole de Microsoft à ABC News.
En janvier, Microsoft a annoncé qu’elle investissait 10 milliards de dollars dans OpenAI, la société d’intelligence artificielle qui a développé Chat GPT.
Cette décision vient renforcer une relation de longue date entre Microsoft et OpenAI, qui a débuté par un investissement d’un milliard de dollars il y a quatre ans.
La lettre ouverte invite les développeurs d’IA à collaborer avec les décideurs politiques afin d’améliorer la surveillance des technologies d’intelligence artificielle, et appelle l’industrie à réorienter ses priorités dans le cadre de ses efforts pour améliorer l’IA.
“La recherche et le développement en matière d’intelligence artificielle devraient être recentrés sur l’amélioration de la précision, de la sécurité, de l’interprétabilité, de la transparence, de la robustesse, de l’alignement, de la fiabilité et de la loyauté des systèmes puissants et modernes d’aujourd’hui“, peut-on lire dans la lettre.
