Ray Kurzweil, un futuriste renommé et directeur de l’ingénierie chez Google, a publié une réfutation de la lettre appelant à une pause dans la recherche sur l’IA, expliquant pourquoi la proposition n’est pas pratique et prive l’humanité de percées et d’innovations médicales qui profitent profondément à l’humanité.
Lettre internationale pour suspendre le développement de l’IA
Une lettre ouverte signée par des scientifiques et des célébrités du monde entier (publiée sur FutureOfLife.org) appelait à une pause complète sur le développement d’une IA plus puissante que GPT-4, la dernière version créée par OpenAI. En plus de suspendre le développement de l’IA, ils ont également appelé à l’élaboration de protocoles de sécurité supervisés par des experts tiers indépendants.
Certains des points soulevés par les auteurs de la lettre ouverte :
- L’IA représente un risque important
- Le développement de l’IA ne devrait se poursuivre qu’une fois que les applications bénéfiques de la technologie sont énumérées et justifiées
- L’IA ne devrait se poursuivre que si « nous » (les milliers de signataires de la lettre) sommes convaincus que les risques liés à l’IA sont gérables
- Les développeurs d’IA sont appelés à travailler avec les décideurs politiques pour développer des systèmes de gouvernance de l’IA composés d’organismes de réglementation
- Le développement de technologies de filigrane pour aider à identifier le contenu créé par l’IA et pour contrôler la diffusion de la technologie
- Un système d’attribution de responsabilité pour les dommages créés par l’IA
- Création d’institutions pour faire face aux perturbations causées par la technologie de l’IA
La lettre semble provenir d’un point de vue selon lequel la technologie de l’IA est centralisée et peut être interrompue par les quelques organisations qui contrôlent la technologie. Mais l’IA n’est pas exclusivement entre les mains des gouvernements, des instituts de recherche et des entreprises. L’IA est à ce stade une technologie open source et décentralisée, développée par des milliers d’individus à l’échelle mondiale de la collaboration.
Ray Kurzweil : futuriste, auteur et directeur de l’ingénierie chez Google
Ray Kurzweil conçoit des logiciels et des machines axés sur l’intelligence artificielle depuis les années 1960, il a écrit de nombreux livres populaires sur le sujet et est célèbre pour faire des prédictions sur l’avenir qui ont tendance à être correctes. Sur 147 prédictions qu’il a faites sur la vie en 2009, seules trois prédictions, un total de 2%, étaient fausses. Parmi ses prédictions dans les années 1990, il y a celle selon laquelle de nombreux supports physiques, tels que les livres, perdront de leur popularité à mesure qu’ils seront numérisés. À une époque des années 1990 où les ordinateurs étaient grands et encombrants, il a prédit que les ordinateurs seraient suffisamment petits pour être portés d’ici 2009, ce qui s’est avéré vrai (How My Predictions Are Faring – 2010 PDF). Les prédictions récentes de Ray Kurzweil se concentrent sur tout le bien que l’IA apportera, en particulier sur les percées médicales et scientifiques. Kurzweil se concentre également sur l’éthique de l’IA. En 2017, il a été l’un des participants (avec le PDG d’OpenAI, Sam Altman) qui a rédigé une lettre ouverte connue sous le nom de Asilomar AI Principles qui a également été publiée sur le site Web Future of Life, des lignes directrices pour un développement sûr et éthique des technologies d’intelligence artificielle.
Parmi les principes qu’il a contribué à créer :
- « L’objectif de la recherche sur l’IA devrait être de créer non pas une intelligence non dirigée, mais une intelligence bénéfique
- Les investissements dans l’IA devraient s’accompagner d’un financement de la recherche visant à garantir son utilisation bénéfique
- Il devrait y avoir des échanges constructifs et sains entre les chercheurs en IA et les décideurs politiques
- L’IA avancée pourrait représenter un changement profond dans l’histoire de la vie sur Terre et devrait être planifiée et gérée avec un soin et des ressources proportionnés
- La superintelligence ne devrait être développée qu’au service d’idéaux éthiques largement partagés et pour le bénéfice de toute l’humanité plutôt que d’un État ou d’une organisation
La réponse de Kurzweil à la lettre ouverte demandant une pause dans le développement de l’IA est venue d’une vie de technologie innovante du point de vue de tout le bien bénéfique qu’elle peut faire pour l’humanité et le monde naturel.
Sa réponse portait sur trois points principaux :
- L’appel à une pause est trop vague pour être pratique
- Toutes les nations doivent accepter la pause ou les buts sont battus dès le départ
- Une pause dans le développement ignore les avantages tels que l’identification de remèdes contre les maladies
Trop vague pour être pratique
Son premier point à propos de la lettre est qu’elle est trop vague car elle provoque une pause sur l’IA qui est plus puissante que GPT-4, qui suppose que GPT-4 est le seul type d’IA.
Kurzweil a écrit :
« Concernant la lettre ouverte pour « mettre en pause » les recherches sur l’IA « plus puissante que GPT-4″, ce critère est trop vague pour être pratique. »
Les nations se retireront de la pause
Son deuxième point est que les demandes décrites dans la lettre ne peuvent fonctionner que si tous les chercheurs du monde entier coopèrent volontairement. Toute nation qui refuse de signer aura l’avantage, ce qui est probablement ce qui se passerait.
Il écrit:
« Et la proposition est confrontée à un sérieux problème de coordination : ceux qui acceptent une pause peuvent être loin derrière les entreprises ou les nations qui ne sont pas d’accord. » Ce point montre clairement que l’objectif d’une pause complète n’est pas viable, car les nations ne céderont pas un avantage et aussi, l’IA est démocratisée et open source, entre les mains d’individus du monde entier.
L’IA apporte des avantages significatifs à l’IA
Il y a eu des éditoriaux rejetant l’IA comme ayant très peu d’avantages pour la société, arguant que l’augmentation de la productivité des travailleurs ne suffit pas à justifier les risques qu’ils craignent. Le dernier point de Kurzweil est que la lettre ouverte demandant une pause dans le développement de l’IA ignore complètement tout le bien que l’IA peut faire.
Il explique :
« Il y a d’énormes avantages à faire progresser l’IA dans des domaines critiques tels que la médecine et la santé, l’éducation, la recherche de sources d’énergie renouvelables pour remplacer les combustibles fossiles et des dizaines d’autres domaines. … Plus de nuances sont nécessaires si nous souhaitons débloquer les avantages profonds de l’IA pour la santé et la productivité tout en évitant les vrais périls.
Périls, peur de l’inconnu et avantages pour l’humanité
Kurzweil fait de bons arguments sur la façon dont l’IA peut bénéficier à la société. Son argument selon lequel il n’y a aucun moyen de mettre réellement l’IA en pause est valable. Son explication de l’IA met l’accent sur les avantages profonds pour l’humanité qui sont inhérents à l’IA. Se pourrait-il que la mise en œuvre de l’IA par OpenAI en tant que chatbot banalise l’IA et éclipse les avantages pour l’humanité, tout en effrayant les personnes qui ne comprennent pas comment fonctionne l’IA générative ? Image sélectionnée par Shutterstock/Iurii Motov