Une lettre personnelle sur l’IA transformatrice
George Rosenfeld est directeur adjoint chargé des risques catastrophiques mondiaux chez Coefficient Giving, dont relèvent nos fonds Navigating Transformative AI et Biosecurity. En avril, il a écrit une lettre à ses amis et à sa famille pour expliquer pourquoi il pense que l’IA pourrait transformer le monde dans les années à venir, et pourquoi la trajectoire actuelle l’inquiète.
Il s’agit d’une lettre personnelle, rédigée à l’intention de ceux qui découvrent ces arguments pour la première fois. Nous la partageons car nous pensons que davantage de personnes devraient avoir ce genre de discussions.
Remarque : cette lettre a été partagée début avril. Au cours des quelque six semaines qui ont suivi, le chiffre d’affaires annualisé d’Anthropic aurait augmenté pour atteindre 45 milliards de dollars (contre les 9 milliards de dollars de décembre 2025 cités ci-dessous), et la société a annoncé le développement de Mythos, un nouveau modèle d’IA puissant qui, selon elle, a été capable de détecter des failles de sécurité dans tous les principaux systèmes d’exploitation et navigateurs web sur demande. La lettre ne fait pas état de ces avancées, mais les progrès de l’IA se poursuivent à un rythme effréné.
————————————————————————
Chère famille, chers amis,
Au cours des deux dernières années, j’ai travaillé chez Coefficient Giving sur le programme Navigating Transformative AI. Notre travail consiste principalement à réfléchir à ce qui pourrait se passer avec l’IA dans les années à venir, à essayer de nous faire une idée de la puissance et du potentiel de transformation qu’elle pourrait atteindre, et à faire tout ce qui est en notre pouvoir pour aider le monde à mieux s’y préparer.
Les scénarios envisagés par mon équipe peuvent paraître assez extrêmes et relever de la science-fiction. Nous réfléchissons à des mondes où les systèmes d’IA sont capables de faire pratiquement tout ce que les humains peuvent faire, mais plus vite et mieux ; où des décennies de progrès scientifiques se produisent en quelques mois ou quelques années ; et où nous nous demandons non seulement ce que les IA peuvent faire, mais aussi si l’humanité pourra encore rester sur le siège conducteur.
Il est difficile de surestimer à quel point ces possibilités sont folles. Si ces scénarios sont ne serait-ce qu’un tant soit peu plausibles, alors nous vivons peut-être l’un des tournants les plus importants de l’histoire de l’humanité.
Je ne sais pas avec certitude si l’une de ces choses va se produire. Je ne sais pas non plus si ces événements seraient très positifs (pensez à une prospérité sans précédent pour l’humanité), très négatifs (pensez à la mort ou à la perte d’agentivité de tous les humains), ou quelque part entre les deux.
Je dois préciser d’emblée que ces points de vue ne sont pas majoritaires.a L’idée selon laquelle l’IA pourrait automatiser presque tout et transformer la civilisation en l’espace de quelques années est une position minoritaire, que la plupart des économistes, des décideurs politiques et du grand public ne prennent pas encore au sérieux. On ne se sent certainement pas dans un monde qui soit conscient de ces possibilités.
J’ai moi-même été sceptique pendant longtemps. Lorsque j’ai découvert ces arguments, ils me semblaient relever de la science-fiction et d’un avenir lointain, et il m’a fallu un certain temps pour m’y rallier. Mais au cours des deux dernières années, mes prévisions plus prudentes ont systématiquement sous-estimé les progrès que l’IA allait accomplir, et je suis de plus en plus convaincu – et de plus en plus inquiet – que ces scénarios sont plausibles, et qu’ils pourraient bien ne pas être si lointains.
Je ne savais pas trop si je devais partager cela, ni même s’il serait bon que d’autres le lisent. Sans en avoir la certitude, mon hypothèse la plus probable est que le monde est sur le point de changer radicalement — que nous repenserons à cette période comme nous repensons à février 2020 avant que la COVID-19 ne change tout,b sauf que cette fois-ci, la transformation sera bien plus drastique et que le monde ne redeviendra peut-être jamais ce qu’il était auparavant.
Ce sont de véritables convictions avec lesquelles je vis, et qui guident de plus en plus mes émotions, mes décisions, mes espoirs et mes craintes. Il est étrange, et solitaire, de les cultiver sans les partager avec les personnes qui me sont chères.
Dans ce qui suit, j’aborderai (1) pourquoi des IA puissantes pourraient représenter un enjeu si considérable, (2) à quelle vitesse nous pourrions atteindre ce stade, et (3) quels risques — et avantages — sans précédent une IA transformatrice pourrait introduire. J’inclus également des liens vers des ressources complémentaires où vous pourrez en apprendre davantage auprès de personnes bien plus compétentes que moi.
Pourquoi l’IA représente-t-elle un enjeu majeur ?
La plupart d’entre nous interagissons avec l’IA sous la forme d’un chatbot, une interface en ligne qui répond à nos questions, planifie nos vacances et, parfois, fait nos devoirs.c Parfois, elle s’avère utile, d’autres fois inutile. Quoi qu’il en soit, elle ne donne pas nécessairement l’impression d’être si révolutionnaire ni si différente des autres technologies inventées par l’humain.
Une différence majeure est que, contrairement aux technologies précédentes, l’IA pourrait bien automatiser tout ce que les humains peuvent faire. Les technologies précédentes ont toujours été, d’une certaine manière, un complément à l’humain. L’imprimerie nous a permis de diffuser nos idées plus rapidement, mais il fallait tout de même que quelqu’un ait ces idées. Les ordinateurs peuvent calculer plus vite que nous ne le pourrions jamais, mais ils ne font que ce pour quoi nous les programmons.
L’IA, en revanche, pourrait très bien accomplir tout ce dont les humains sont capables, y compris la réflexion ouverte qui était jusqu’alors notre apanage. Nous ne pouvons avoir la certitude que l’IA parviendra à ce stade, mais si c’est le cas, les conséquences seront probablement considérables.
Pour commencer, adieu nos emplois. Non pas au sens historique du terme où l’IA automatise une partie spécifique du travail humain, amenant les humains à se reconvertir vers d’autres métiers, comme cela s’est produit à maintes reprises par le passé.d Mais plausiblement : l’IA est désormais meilleure que les meilleurs humains dans pratiquement n’importe quel emploi, il n’y a donc plus d’autre métier vers lequel se tourner.e C’est peut-être plus facile à concevoir pour l’instant avec le travail cognitif, même si le travail physique pourrait suivre. Dans ce monde-là, on voit mal comment la plupart des humains gagneraient leur vie, ni à quoi ressemblerait l’économie.
Mais la perte d’emplois, aussi dramatique et bouleversante soit-elle, n’est peut-être même pas l’aspect le plus important. Jusqu’à présent, le travail humain a constitué un goulot d’étranglement majeur pour le progrès scientifique comme économique. Pourtant, avec une IA suffisamment puissante, nous pourrions disposer de l’équivalent de milliards de scientifiques, d’entrepreneurs et d’experts de premier plan supplémentaires, prêts à s’attaquer simultanément à chaque problème.f
Il est difficile de savoir exactement à quelle vitesse les choses pourraient évoluer. Même avec une IA surhumaine, il subsisterait des goulots d’étranglement : les expériences physiques prennent du temps, de nombreux problèmes du monde réel sont intrinsèquement chaotiques et complexes, et les institutions humaines, les réglementations ainsi que l’adoption pourraient toutes prendre du retard.g
Mais il est plausible qu’un tel monde devienne rapidement méconnaissable par rapport au nôtre, avec des centaines d’années de progrès condensées en quelques mois ou quelques années.
Pensez à quel point le monde d’aujourd’hui est différent de celui de 1500 : la médecine moderne, l’électricité, Internet, les armes nucléaires, les voyages spatiaux. Imaginez maintenant que des changements d’une telle ampleur se produisent non pas sur cinq siècles, mais sur cinq ans. Et contrairement aux générations qui ont vécu cette transformation initiale, nous n’aurions pas des siècles pour nous adapter.h
Où en sommes-nous aujourd’hui et vers quoi nous dirigeons-nous ?
En mars 2026, l’IA n’a pas encore transformé le monde et n’a pas automatisé tant d’emplois que cela. Je ne la trouve pas encore très utile pour mon travail.
Mais ce qui compte, c’est la tendance.
Les systèmes d’IA se sont déjà considérablement améliorés au cours des dernières années. En 2022, le premier chatbot largement accessible (ChatGPT) était capable de tenir une conversation passable, mais inventait souvent des choses. En 2024, les meilleurs systèmes d’IA réussissaient l’examen du barreau et remportaient des médailles d’argent à l’Olympiade internationale de mathématiques (l’or a suivi en 2025). Début 2026, les agents d’IA sont souvent capables de gérer des projets logiciels conséquents qui prennent plusieurs heures à des humains qualifiés,i et ils sont désormais utilisés pour accélérer le processus de développement de l’IA lui-même.j
Pour comprendre ce qui est à l’origine de ces progrès, il est utile de se faire une idée de la manière dont les modèles d’IA sont développés. Lorsque nous construisons un moteur de voiture, un pont ou un site web, nous savons à quoi nous voulons qu’il ressemble, et nous comprenons exactement comment et pourquoi le produit final fonctionne. Mais l’IA est différente : les entreprises d’IA mettent en place un réseau neuronal (un peu comme un cerveau artificiel), l’entraînent sur d’énormes quantités de données, puis laissent l’intelligence « émerger » du modèle. Les ingénieurs façonnent ce processus d’apprentissage, mais ils ne créent pas les résultats à la main.k
Au cours des dernières années, l’un des principaux moteurs des progrès de l’IA a été la mise à l’échelle : à mesure que les entreprises d’IA augmentent les entrées (plus de données, plus de puissance de calcul, des modèles plus volumineux),l elles observent, tout comme nous, l’apparition continue d’une intelligence plus avancée et de nouvelles capacités. À maintes reprises, des personnes ont parié contre l’IA, affirmant qu’elle ne pourrait jamais accomplir telle ou telle tâche, avant que la prochaine amplification ne leur donne tort. Ce schéma s’est vérifié à plusieurs reprises à mesure que les modèles gagnaient en taille, et personne ne sait à quel rythme il va se poursuivre ni s’il s’arrêtera un jour.
Il y a un graphique que je consulte régulièrement et qui illustre cette tendance, provenant de METR, une organisation qui évalue les capacités de l’IA. Elle mesure l’« horizon temporel » des systèmes d’IA : la difficulté des tâches de programmation informatique qu’une IA peut accomplir de manière autonome, mesurée par le temps qu’elles prennent à des experts humains.m Entre 2019 et 2025, METR a constaté que les horizons temporels doublaient à peu près tous les sept mois. Des données plus récentes suggèrent qu’ils pourraient désormais doubler tous les quatre mois.
Comme nous l’avons appris pendant la pandémie de COVID, les exponentielles peuvent changer les choses rapidement : les doublements se succèdent vite, et il pourrait suffire de quelques-uns d’entre eux pour transformer le monde.n
Une autre façon d’évaluer la trajectoire de l’IA consiste à examiner les chiffres d’affaires des entreprises d’IA, ce qui constitue, à certains égards, un indicateur plus fiable de leur impact dans le monde réel. Anthropic (l’entreprise qui développe Claude) est passée de 100 millions de dollars de chiffre d’affaires annualisé fin 2023 à 1 milliard fin 2024, puis à 9 milliards d’ici fin 2025 — soit une croissance annuelle d’environ un facteur 10. Selon certains indicateurs, cela en fait l’une des entreprises de la tech à la croissance la plus rapide de l’histoire.
Et l’investissement éclipse même le chiffre d’affaires. Les cinq plus grandes entreprises technologiques sont en passe de dépenser plus de 600 milliards de dollars en infrastructures d’IA pour la seule année 2026, principalement dans des centres de données et des puces électroniques. Pour mettre cela en perspective : le programme Apollo, qui visait à envoyer des humains sur la Lune, a coûté environ 250 milliards de dollars (corrigés de l’inflation) sur l’ensemble de ses 13 années d’existence. Les entreprises d’IA dépenseront plus du double de ce montant en une seule année. Il s’agit déjà de l’un des plus importants investissements privés dans une seule technologie de l’histoire moderne.
Ces chiffres ne prouvent pas à eux seuls que l’IA est sur le point de transformer l’économie ; de nombreuses technologies ont connu une adoption explosive à leurs débuts sans pour autant changer la civilisation, et il est possible que cet investissement colossal ne soit qu’une bulle. Mais combinés aux tendances en matière de capacités évoquées plus haut, ils dressent un tableau cohérent : soit les progrès de l’IA se heurtent très bientôt à un mur, soit elle devient le moteur de l’économie mondiale. Il est de plus en plus difficile de parier sur le mur.
Si on prends du recul : c’est bien beau de partager des graphiques et des tendances, mais quand quelqu’un vous dit qu’une grande nouveauté se profile à l’horizon, il est tout à fait raisonnable d’être sceptique. Telle a été ma réaction initiale : il m’a fallu beaucoup de temps pour finir par croire vraiment que des scénarios comme ceux-là étaient plausibles. Mais au fil du temps, ceux qui extrapolent les tendances et prennent ces possibilités au sérieux semblent avoir de plus en plus raison, tandis que mes prévisions, plus prudentes, ne cessent d’être démenties.o
Aujourd’hui, quand je regarde ce que ces personnes prédisent, elles tirent la sonnette d’alarme. En janvier, Ajeya Cotra (une de mes anciennes collègues qui a récemment été classée à la 3e place sur 413 prévisionnistes sur les développements de l’IA) a prédit que l’IA serait capable d’accomplir des tâches de programmation informatique d’une durée de 24 heures d’ici fin 2026.p Quelques mois plus tard, elle a changé d’avis : elle estime désormais que cela dépassera les 100 heures, et pourrait ne pas avoir de limite. Début mars, elle a écrit : « Pour la première fois, je ne vois aucune preuve solide permettant d’extrapoler pour affirmer que [l’automatisation complète de la R&D en IA]q n’aura pas lieu prochainement. La R&D en IA pourrait bel et bien être automatisée cette année. »r Selon le point de vue d’Ajeyas, nous pourrions nous attendre à ce que l’IA surpasse les meilleurs experts humains mondiaux dans n’importe quelle tâche sur ordinateur d’ici le début des années 2030, l’automatisation du travail physique pouvant suivre dans les quelques années suivantes. Malheureusement, une échéance nettement plus proche semble également plausible.
Ces affirmations semblent farfelues et pourraient bien sûr s’avérer erronées. Les tendances pourraient plafonner. Les goulots d’étranglement restants en matière de capacités pourraient s’avérer plus fondamentaux et/ou plus difficiles à résoudre qu’il n’y paraît actuellement. Le monde pourrait se réveiller rapidement et se coordonner pour ralentir.t
Mais rien de tout cela ne se produit encore, et le temps presse.
Qu’en est-il des risques ?
Avant d’aborder les risques spécifiques, rappelons la situation générale.
Nous sommes peut-être sur le point de créer une deuxième espèce intelligenteu, plus intelligente que nous, capable de nous surpasser dans tous les domaines envisageables, et pouvant être facilement reproduite des milliards de fois. On peut s’attendre à ce que cela déclenche une explosion sans précédent de progrès technologiques, susceptible de transformer le monde bien plus rapidement que nous ne pourrons suivre le rythme. Et, comme si cela ne suffisait pas, tout cela se produit alors que nous ne comprenons pas pleinement comment fonctionnent les modèles d’IA, comment ils pourraient se comporter, ni si nous serons capables de les garder sous notre contrôle.v Tout cela me semble assez inquiétant.
Et en effet, de nombreux penseurs éminents dans ce domaine sont préoccupés. Deux des trois « pères fondateurs de l’IA », pionniers de ce domaine, affirment aujourd’hui que le type d’IA que nous pourrions voir apparaître dans les prochaines années pourrait constituer une menace existentielle pour l’humanité.w Les PDG des grandes entreprises d’IA eux-mêmes déclarent qu’il existe un risque réel que cette technologie cause des dommages catastrophiques. Dario Amodei, PDG d’Anthropic, a déclaré qu’il estimait à 25 % la probabilité que les choses tournent « vraiment, vraiment très mal ». Sam Altman, PDG d’OpenAI, a décrit le pire scénario comme « la fin pour nous tous ».x
Et pourtant, ils se font la course.y
Au sein de mon équipe, nous nous concentrons principalement sur la réduction des risques susceptibles de tuer des milliards de personnes ou d’avoir des conséquences tout aussi graves (voire pires) à d’autres égards. Parmi ceux-ci figurent :
-
Utilisation malveillante catastrophique de l’IA : Les humains pourraient délibérément utiliser de puissants systèmes d’IA pour causer des dommages catastrophiques, par exemple en concevant et en propageant des pandémies artificielles d’une manière qui serait beaucoup plus difficile, voire impossible, sans une IA puissante. Pour en savoir plus, cliquez ici.
-
Concentration extrême du pouvoir : L’IA pourrait permettre à un petit nombre d’acteurs — entreprises, gouvernements, voire individus — d’accumuler un niveau de pouvoir sans précédent dans l’histoire de l’humanité, en obtenant un accès exclusif à des capacités surhumaines sans avoir à compter sur le soutien d’êtres humains qui pourraient autrement s’y opposer. À l’extrême, cela pourrait inclure de véritables coups d’État menés par des PDG d’entreprises d’IA,z un verrouillage autoritaire par des chefs d’État, et d’autres scénarios susceptibles d’entraîner une perte durable de pouvoir politique pour la quasi-totalité de la population. Plus de détails ici.
-
Prise de pouvoir par l’IA : Le risque le plus SF. De nombreux chercheurs craignent que les IA elles-mêmes pourraient poursuivre des objectifs différents des nôtres une fois qu’elles seront suffisamment intelligentes pour échapper à notre contrôle, ce qui pourrait entraîner la perte de pouvoir de l’humanité, voire son extinction totale. Malheureusement, s’assurer qu’une IA plus intelligente que nous suive nos objectifs est actuellement considéré comme un problème technique non résolu — les chercheurs pourraient le résoudre à terme, mais rien n’est garanti. Ce type de risque est moins intuitif que les autres et nécessite des explications plus approfondies — vous pouvez en savoir plus ici.
Il y a aussi beaucoup d’autres sujets de préoccupation moins apocalyptiques : des suppressions massives d’emplois survenant plus vite que la société ne peut s’y adapter, une perte de sens à mesure que les sources traditionnelles de contribution disparaissent, une instabilité politique et sociale extrême, ou encore la perturbation d’institutions incapables de suivre le rythme.
Heureusement, je pense qu’aucun de ces scénarios n’est inévitable. Et au moins pour les risques les plus catastrophiques que j’ai énumérés ci-dessus, je dirais qu’il est plus que probable que nous les évitions. Cela dit, ces risques semblent tout de même effroyablement élevés — probablement plus que tout autre problème auquel nous sommes confrontés.
À mon sens, un monde sensé se mobiliserait de toutes ses forces et se coordonnerait pour ralentir considérablement le rythme. Au lieu de cela, nous sommes endormis au volant.
Tout n’est pas négatif
Cette focalisation sur les risques donne l’impression que l’IA n’a que des aspects négatifs. Je ne pense pas que ce soit le cas. Au contraire, si elle ne provoque pas une catastrophe,aa je pense qu’une IA superintelligente pourrait être l’une des plus grandes forces au service du bien de notre histoire.
Le rythme effréné des progrès scientifiques et économiques que j’ai décrit plus haut pourrait nous permettre de résoudre des problèmes scientifiques qui seraient autrement hors de portée, de guérir des maladies,ab de réduire la pauvreté, de créer une abondance matérielle dépassant tout ce que nous avons connu jusqu’à présent, et de favoriser l’épanouissement humain d’une manière difficile à imaginer aujourd’hui.ac Le potentiel positif est ici stupéfiant.
Je me rends compte que je viens de dire que le monde devrait ralentir et que je décris à présent les énormes avantages de maintenir le rythme actuel. Ces choix cornéliens sont bien réels.ae Chaque année de retard pourrait être une année où des gens meurent de maladies que l’IA aurait pu guérir ; pourtant, chaque année où nous nous précipitons pourrait être une année où nous construisons quelque chose que nous ne pouvons pas contrôler. Les enjeux ne pourraient guère être plus élevés.
Que pouvez-vous faire ?
Si vous êtes arrivé jusqu’ici et que vous vous sentez submergé — croyez-moi, je comprends. Cela fait plusieurs années que je me penche sur ces questions et que j’y réfléchis presque tous les jours, et je suis encore régulièrement envahi par des vagues de stress, d’urgence, et parfois même d’incrédulité face à la possibilité que tout cela puisse réellement se produire.
Si tout cela s’avère exact, les années à venir pourraient être marquées par certaines des décisions les plus déterminantes de l’histoire de l’humanité : comment cette technologie sera développée, qui la contrôlera et à quel rythme nous l’autoriserons à se déployer. Il est tout à fait remarquable que nous soyons en vie au moment précis où nous pouvons influencer le cours des événements.
Si certains de ces arguments vous convainquent (ou même juste vous intriguent), je vous encourage à vous renseigner davantage, à vous forger votre propre opinion et à réfléchir aux actions qui pourraient s’avérer pertinentes si vous veniez à être convaincu que ces événements pourraient réellement se produire. Préparez-vous à faire entendre votre voix — que ce soit en parlant à vos proches, en contactant un représentant politique,af en vous engageant plus directement sur ces questions, ou par tout autre moyen.
Et si vous vous demandez si vous auriez quelque chose de plus à apporter : de nombreuses personnes sans aucune formation technique (moi y compris !) ont pu se reconvertir rapidement pour contribuer au domaine de l’IA, et l’éventail des activités utiles est plus large que je ne l’aurais imaginé.
Comme point de départ pour approfondir le sujet, j’ai inclus ci-dessous une liste des ressources que j’ai trouvées les plus utiles.
J’ai commencé cette lettre en disant me sentir étrange et solitaire à avoir ces opinions sans les partager. L’écrire m’a aidé à surmonter cela, et j’espère que sa lecture en valait la peine. Je ne sais pas comment se dérouleront les années à venir, et il est possible qu’en y repensant, je sois gêné de voir à quel point j’avais tort. Mais si tout cela est ne serait-ce qu’approximativement juste, je pense que nous regretterons de ne pas avoir commencé à y prêter attention le plus tôt possible.
George
Liens pour en savoir plus
Voici quelques excellentes ressources pour apprendre auprès de personnes qui en savent bien plus que moi.
Principales recommandations :
- La chaîne YouTube AI in Context : des vidéos de très grande qualité, axées principalement sur les risques
- Les profils de problèmes de 80.000 Hours sur l’IA en quête de pouvoir, la concentration du pouvoir et l’utilisation malveillante catastrophique de l’IA : parmi les meilleures ressources pour comprendre les risques
- Ce même site propose également cette excellente ressource pour quiconque souhaite consacrer sa carrière à travailler sur ces problèmes
- The AI Doc, ou : Comment je suis devenu un « apocaloptimiste » : un nouveau film qui vient de sortir, une bonne introduction générale et très accessible aux trajectoires possibles de l’IA.
- Épisode de podcast d’Ajeya Cotra : épisode récent d’Ajeya (que j’ai mentionnée à plusieurs reprises ci-dessus) sur l’état des lieux début 2026.
- De manière générale, je pense que 80,000 Hours est la meilleure série de podcasts sur ces sujets.
- BlueDot Impact : un excellent ensemble de cours d’initiation gratuits et d’autres ressources pour ceux qui souhaitent découvrir ces sujets pour la première fois et commencer à contribuer.
Pour aller plus loin :
- Comment ne pas perdre son emploi à cause de l’IA : un article qui fait exactement ce qu’annonce son titre !
- The Most Important Century : un excellent blog sur l’IA transformatrice et les raisons pour lesquelles cette période pourrait bien être la plus importante de l’histoire de l’humanité.
- AI 2027 par l’AI Futures Project : scénario détaillé d’un éventuel essor de l’IA en 2027 (c’est plus tôt que ce à quoi je m’attends, et plus tôt que l’estimation médiane des auteurs, mais cela reste une description utile de la façon dont les choses pourraient se dérouler).
- Planned Obsolescence : excellent Substack d’Ajeya Cotra et Kelsey Piper sur l’IA transformatrice, incluant The costs of caution (sur les avantages de l’IA) et la récente mise à jour d’Ajeya qui revoit ses prédictions de délais à la baisse.
- If Anyone Builds It, Everyone Dies : ouvrage récent d’Eliezer Yudkowsky et Nate Soares, axé sur le risque de prise de pouvoir par l’IA. Je trouve sa conclusion trop catégorique (c’est-à-dire que je ne pense pas qu’une superintelligence tuerait forcément tout le monde), mais cela reste une description utile de certains risques potentiels.
- Machines of Loving Grace et The Adolescence of Technology : essais rédigés par Dario Amodei (PDG d’Anthropic) sur les avantages et les risques potentiels d’une IA puissante.
Si vous souhaitez aller plus loin
La lettre ci-dessus a été rédigée afin de partager le point de vue de George avec les personnes qui découvrent ces questions. Si vous connaissez déjà le risque de l’IA et que vous souhaitez agir de manière plus concrète :
- Envisagez une réorientation professionnelle via la page « Carrières dans l’IA » de 80.000 Hours, le meilleur point de départ pour envisager de travailler directement sur ces questions.
- Faites un don au Fonds pour les défis émergents de Longview Philanthropy, qui soutient les organisations œuvrant pour la sûreté et la gouvernance de l’IA.
- Postulez au financement pour le développement de carrière et la transition professionnelle via Coefficient Giving, qui aide financièrement les personnes qui se réorientent vers des métiers liés au risque de l’IA.