Mes impressions actuelles sur le choix de carrière pour les long-termistes
Ce billet résume la façon dont je conçois actuellement le choix de carrière pour les long-termistes. J’ai consacré beaucoup moins de temps à cette réflexion que 80 000 Hours, mais je pense qu’il est utile qu’il y ait plusieurs points de vue sur ce sujet.
Modification : voir dans ce commentaire pourquoi j’ai choisi de me concentrer sur le long-termisme dans ce billet.
Bien que les emplois que j’énumère se recoupent largement avec ceux énumérés par 80 000 Hours, je les organise et les conceptualise différemment. 80 000 Hours a tendance à mettre l’accent sur les « parcours » menant à des rôles particuliers au service de causes particulières ; en revanche, je mets l’accent sur les « aptitudes » que l’on peut développer dans une grande variété de rôles et de causes (y compris les organisations qui ne font pas partie de l’altruisme efficace) et que l’on peut ensuite appliquer à une grande variété d’emplois pertinents pour les long-termistes (souvent avec des options de travail pour plus d’une cause). Voici quelques exemples d’aptitudes : « aider les organisations à atteindre leurs objectifs par le biais de bonnes pratiques », « évaluer les affirmations les unes par rapport aux autres », « communiquer des idées déjà existantes à des publics qui n’y adhèrent pas encore », etc.
(D’autres cadres de choix de carrière incluent de partir des causes (sécurité de l’IA, biorisques, etc.) ou des heuristiques (« Faites un travail dans lequel vous pouvez être excellent », « Faites un travail qui développe votre capital professionnel et vous donne plus d’options »). J’ai tendance à penser que les gens devraient prendre en compte plusieurs cadres lorsqu’ils font des choix de carrière, étant donné qu’un seul cadre peut contenir des informations utiles, mais risque d’être trop dogmatique et spécifique pour des cas individuels.)
Pour chaque aptitude répertoriée, j’inclus des idées sur la manière d’explorer l’aptitude et de savoir si l’on est sur la bonne voie. Ce que j’apprécie dans un cadre basé sur les aptitudes, c’est qu’il est souvent relativement simple de se faire une idée de ses promesses et de ses progrès dans une « aptitude » donnée, si l’on choisit de le faire. Cela contraste avec les approches fondées sur les causes et les parcours, où il y a beaucoup de hasard dans la disponibilité d’un emploi pour une cause donnée ou sur un parcours donné, ce qui fait qu’il est difficile pour de nombreuses personnes d’avoir une idée claire de leur adéquation avec la cause ou le parcours de leur premier choix et qu’il est difficile de savoir ce qu’il faut faire ensuite. Ce cadre ne permettra pas aux gens d’obtenir plus facilement les emplois qu’ils souhaitent, mais il pourrait leur permettre de commencer à apprendre quel type de travail est susceptible de leur convenir et quel type de travail ne leur convient pas.
J’ai essayé de dresser une liste des aptitudes qui semblent avoir un potentiel relativement élevé pour contribuer directement aux objectifs long-termistes. Je suis certain qu’il y a des aptitudes que j’aurais dû inclure et que je n’ai pas incluses, y compris des aptitudes qui ne semblent pas particulièrement prometteuses d’un point de vue long-termiste aujourd’hui, mais qui pourraient le devenir à l’avenir.
Dans de nombreux cas, le fait de développer une aptitude répertoriée ne garantit pas l’obtention d’un emploi directement axé sur les objectifs long-termistes les plus importants. Le long-termisme est un point de vue relativement jeune sur le monde, et il y a (du moins aujourd’hui) un nombre relativement faible d’emplois correspondant à cette description. Toutefois, je pense également que même si l’on n’obtient jamais un tel emploi, il existe de nombreuses possibilités de contribuer aux objectifs long-termistes les plus importants, en utilisant l’emploi et les aptitudes que l’on possède. Pour étoffer ce point de vue, j’expose une vision « agnostique en matière d’aptitude » de la contribution au long-termisme.a
Profil de base : aider une organisation en lui apportant des compétences « généralement utiles ». Par compétences « généralement utiles », j’entends des compétences qui pourraient aider une grande variété d’organisations à atteindre une grande variété d’objectifs différents. Il peut s’agir, par exemple, des compétences suivantes
Beth Jones (directrice des opérations d’Open Philanthropy) ; Max Dalton et Joan Gass au CEA ; Malo Bourgon au MIRI. (Je me suis concentrée sur les personnes occupant des postes de direction et n’ai donné qu’un petit nombre d’exemples, mais j’aurais pu citer un grand nombre de personnes travaillant actuellement dans des organisations axées sur le long-termisme, ainsi que des personnes travaillant dans des organisations qui ne sont pas explicitement axées sur le long-termisme et qui effectuent un travail important du point de vue du long-termisme. En général, mes exemples seront illustratifs et se concentreront sur des cas relativement simples/« purs » de personnes se concentrant sur une seule aptitude ; je ne pense pas que les gens devraient surinterpréter les « exclusions ».
Il existe de nombreuses spécialisations différentes. Chacune d’entre elles peut généralement être développée dans à peu près n’importe quelle organisation ayant le besoin correspondant.
Dans de nombreux cas, un travail en début de carrière dans une spécialisation peut vous permettre d’en découvrir d’autres. Il est souvent possible de passer d’une spécialisation à l’autre et d’essayer différentes choses. (Les trois derniers domaines cités — communication, finance/comptabilité et droit — sont probablement ceux qui offrent le moins de possibilités).
Je suis particulièrement favorable à l’idée de rejoindre des organisations prometteuses, de petite taille mais en pleine croissance. Dans ce type d’organisation, vous avez souvent l’occasion d’essayer beaucoup de choses différentes et vous pouvez être exposé à de nombreuses facettes de la réussite d’une organisation. C’est un moyen particulièrement efficace d’acquérir de l’expérience en matière de gestion des personnes et de gestion de projet, qui sont souvent des compétences très généralement applicables et très demandées dans les organisations. Entrer dans une telle entreprise dans n’importe quel rôle disponible, puis être flexible et simplement concentré sur le fait de contribuer à la réussite de l’entreprise, peut être une bonne expérience d’apprentissage qui aide à la fois à identifier et à perfectionner les aptitudes qui conviennent le mieux.
Dans un premier temps, la réponse à la question « Dans quelle mesure êtes-vous sur la bonne voie pour développer une aptitude pertinente pour le long-termisme ? » est relativement proche de la question « Dans quelle mesure vos performances sont-elles généralement bonnes ? ». Les augmentations, les promotions et les évaluations des performances sont autant de données à prendre en compte. Je pense que l’un des meilleurs indicateurs de réussite serait que les personnes avec lesquelles vous travaillez le plus étroitement soient enthousiastes à propos de vous et vous donnent des références élogieuses – combiné avec le fait que ces personnes (et l’organisation pour laquelle vous travaillez) sont elles-mêmes impressionnantes.
Les personnes qui travaillent sur cette aptitude peuvent parfois ressentir des sentiments tels que « Je suis performant, mais je n’ai pas l’impression de contribuer à une grande mission ». En début de carrière, pour cette aptitude, je pense qu’il est plus important d’être performant que d’être dans une organisation dont la mission vous enthousiasme, en supposant que le travail soit dans l’ensemble raisonnablement agréable et durable. Plus tard, lorsque vous avez une idée relativement stable de vos compétences de base et que vous ne vous développez pas rapidement, je pense qu’il est bon d’accorder plus d’importance à la mission.
Profil de base : évoluer vers un rôle à fort impact au sein du gouvernement (ou d’une autre institution telle que la Banque mondiale), à partir duquel vous pouvez aider la grande institution à prendre des décisions qui sont bonnes pour l’avenir du monde à long terme.
Alors que les aptitudes de soutien aux organisations consistent principalement (à long terme) à aider une organisation dont vous partagez la mission à atteindre ses objectifs existants, les aptitudes politiques et bureaucratiques consistent davantage à utiliser une position d’influence (ou un réseau influent) pour accroître la visibilité et le poids des objectifs long-termistes au sein d’une institution.
Essentiellement, toute carrière qui aboutit à une position influente au sein d’un gouvernement (y compris les postes exécutifs, judiciaires et législatifs) peut être prise en compte ici (bien que certains soient susceptibles d’être plus pertinents que d’autres).
Richard Danzig (ancien Secrétaire à la Marine des États-Unis, auteur de Technology Roulette) ; de nombreuses personnes qui poursuivent des études en sécurité à Georgetown et visent (ou se dirigent déjà) vers des fonctions gouvernementales.
Tout d’abord, vous devriez probablement avoir une idée claire de l’institution (ou de l’ensemble d’institutions) qui pourrait vous convenir. Vous pouvez vous poser la question suivante : « Quelle est l’institution qui me conviendrait le mieux ? » « Quelle est l’institution où je pourrais m’imaginer être relativement heureux, productif et motivé pendant longtemps tout en « jouant selon les règles de l’institution” ? » Je vous suggère de parler avec des personnes plus avancées dans leur carrière au sein de l’institution afin d’avoir une idée aussi détaillée que possible du temps qu’il vous faudra pour atteindre le type de poste que vous espérez, de ce que sera votre vie quotidienne entre-temps et de ce que vous devrez faire pour réussir.
Ensuite, vous pouvez postuler à n’importe quel emploi dans cette institution et vous efforcer d’obtenir de bons résultats selon les critères de l’institution. D’autres personnes qui ont progressé avec succès devraient être en mesure de vous donner une bonne idée de ce que sont ces normes. En général (mais pas universellement), je pense que progresser dans n’importe quelle voie proposée par l’institution est un bon début, que cette voie soit ou non directement liée au long-termisme.
Parfois, la meilleure façon de progresser consiste à aller temporairement ailleurs que dans l’institution elle-même (par exemple, dans un programme de droit, un programme de politique publique, un groupe de réflexion). Les études supérieures comportent le risque que vous y passiez beaucoup de temps sans apprendre grand-chose sur la carrière proprement dite. Il peut donc parfois être judicieux d’essayer un poste junior, de voir comment vous vous sentez et de vous assurer qu’un diplôme d’études supérieures en vaille la peine avant de vous lancer dans l’obtention de ce diplôme.
Dans un premier temps, la réponse à la question « Êtes-vous sur la bonne voie ? » semble raisonnablement se rapprocher de la question « Votre carrière progresse-t-elle de façon rapide et impressionnante selon les normes de l’institution ? » Les personnes ayant plus d’expérience (et d’avancement) au sein de l’institution seront souvent en mesure de vous aider à vous faire une idée précise de la situation (et je pense généralement qu’il est important d’avoir des relations suffisamment bonnes avec certaines de ces personnes pour obtenir des commentaires honnêtes de leur part — il s’agit d’un indicateur supplémentaire pour savoir si vous êtes « sur la bonne voie »). Si vous progressez et obtenez de bons résultats en général, il y a de bonnes chances que vous puissiez progresser à un moment ou à un autre dans un secteur de l’institution lié au long-termisme.
Je pense que l’une des principales questions à se poser pour ce type d’aptitudes est la suivante : « Dans quelle mesure cela vous semble-t-il durable ? » Cette question est pertinente pour toutes les aptitudes, mais particulièrement ici — pour les rôles politiques et bureaucratiques, l’un des principaux déterminants de votre progression est simplement la durée de votre engagement et la constance avec laquelle vous répondez aux attentes explicites et implicites de l’institution.
Profil de base : aider à parvenir à des conclusions correctes sur des questions pertinentes pour l’action des altruistes efficaces, telles que :
Je discute assez longuement de cette question parce que je la connais assez bien. Cependant, je pense que c’est l’une des aptitudes les plus difficiles à réussir à l’heure actuelle, car elle tend à exiger des niveaux très élevés d’autogestion.
Il convient de noter que certaines personnes de cette catégorie effectuent principalement un travail conceptuel/philosophique, tandis que d’autres effectuent surtout un travail empirique ; certaines se concentrent sur la création de nouvelles hypothèses, tandis que d’autres se concentrent sur la comparaison de différentes options entre elles. Le thème unificateur est de se concentrer sur l’obtention de conclusions correctes sur le fond, et non sur une meilleure communication des conclusions auxquelles d’autres sont parvenus.
Un point de départ serait un emploi dans une organisation spécifiquement axée sur le type de question qui vous intéresse. Ainsi, si vous souhaitez vous pencher sur des considérations cruciales, vous pourriez chercher un emploi au FHI ; si vous souhaitez travailler sur des questions relatives à l’octroi de subventions, vous pourriez chercher un emploi à Open Philanthropy.
Je pense que d’autres emplois sont également prometteurs pour développer des outils, des habitudes et des méthodes clés :
Je pense également qu’il existe des possibilités d’explorer et de démontrer ces aptitudes par le biais de l’auto-apprentissage et du travail indépendant — sur son temps libre, et/ou grâce à des bourses conçues à cet effet (telles que les bourses du Fonds pour l’avenir à long terme de l’EA, le Programme des chercheurs et le soutien de l’Open Philanthropy pour les personnes qui travaillent sur des sujets pertinents).
Je pense que ces aptitudes requièrent actuellement beaucoup d’autogestion pour bien fonctionner, quel que soit l’endroit où vous les pratiquez, donc les essayer par vous-même semble être un test raisonnable (bien qu’étant donné la difficulté, je suggérerais de « voir si c’est agréable/intéressant/utile » plutôt que de « pousser activement pour trouver un emploi »).
La formule de base que je vois pour tester ces aptitudes pour l’auto-apprentissage est quelque chose comme :
Quelques exemples d’approches :
Il pourrait également être utile de commencer par des versions un peu plus concrètes et réalisables de ce type d’exercice, telles que :
En général, je pense qu’il n’est pas nécessaire d’être obsédé par l’idée d’être « original » ou d’avoir une nouvelle vision des choses. D’après mon expérience, lorsque l’on essaie simplement d’écrire en détail ce que l’on comprend actuellement – même lorsque l’on comprend quelque chose de largement accepté – les points de confusion et d’incertitude sont souvent mis en évidence, et l’on peut souvent apprendre beaucoup de choses et/ou remarquer des points sous-estimés de cette manière. Je pense qu’il est idéal d’écrire sur des points sous-estimés lorsqu’on les a à l’esprit, mais je vois aussi beaucoup de valeur dans les explications directes et détaillées et les évaluations critiques des arguments existants.
J’ai l’impression très approximative que, pour les personnes qui présentent d’excellentes aptitudes, une année d’efforts indépendants à temps plein devrait suffire pour atteindre la plupart de ces objectifs, et que 2 à 3 ans d’efforts indépendants à 20 % (par exemple, un jour par semaine) devraient également suffirec (pour ce type de rôle, je pense qu’il y a beaucoup de « traitement en arrière-plan » des idées, et je m’attendrais donc à ce qu’une année à 20 % soit plus d’un cinquième de la productivité d’une année à temps plein). Je considérerais généralement que cette « horloge » démarre dès que quelqu’un prend le temps et a l’intention d’essayer ce travail (je n’attendrais pas qu’il réussisse à y consacrer du temps, car c’est l’un des aspects les plus difficiles de ce travail, comme indiqué ci-dessus).
La différence est notable avec les « parcours » de recherche. Plutôt que de chercher à travailler sur un sujet particulier tel que la gouvernance de l’IA ou la priorisation des causes, je suggère de commencer par n’importe quel sujet sur lequel vous avez l’énergie et l’intérêt d’écrire, et je pense que quelqu’un qui réussit selon les critères ci-dessus a de bonnes chances de construire une carrière autour de la recherche sur un sujet dans le domaine général. Pour cette raison, il devrait être possible d’essayer/d’explorer cette aptitude sans avoir besoin d’une offre d’emploi particulière dans un domaine particulier (même si, encore une fois, je pense que le taux de réussite sera généralement faible).
Profil de base : aider à communiquer des messages et des idées clés et bien fondés à des publics particuliers. Les publics peuvent être très généraux (par exemple, écrire pour les médias de masse) ou plus spécialisés (par exemple, écrire pour les décideurs politiques sur des questions particulières). Des exemples de messages pourraient être l’importance des risques catastrophiques mondiaux, le défi de l’alignement de l’IA, le danger des programmes d’armes biologiques secrètes des États, le cadre général de l’altruisme efficace, et bien d’autres encore.
Tout d’abord, vous devez avoir une idée du type de public cible avec lequel vous souhaitez communiquer. Vous pouvez vous poser la question suivante : « Quel est le type de personne que je comprends et avec lequel je communique, mieux que ne le font la plupart des EA / long-termistes ? ».
Ensuite, vous pouvez essayer d’obtenir n’importe quel emploi qui implique de communiquer avec ce public et d’obtenir un retour d’information sur une base régulière – que la communication porte ou non sur des sujets EA / long-termistes. La principale aptitude développée est la capacité générale à communiquer avec le public (bien que la compréhension des sujets EA/long-termistes soit également importante à un moment ou à un autre). Par conséquent, si vous souhaitez communiquer avec un public assez général, la plupart des emplois dans le journalisme et de nombreux emplois dans les relations publiques et la communication d’entreprise peuvent être considérés comme des emplois de ce type.
Je pense également qu’il existe de nombreuses possibilités de développer ce type d’aptitudes par le biais d’un travail indépendant, tel que le blogging, le tweeting, le podcasting, etc. Je pense que les personnes qui ont le plus grand potentiel en tant que communicateurs sont celles qui trouvent qu’il est relativement facile de créer de grandes quantités de contenu et d’entrer naturellement en contact avec leur public cible. (Cependant, pour les personnes qui réalisent un travail indépendant public, je conseillerais de faire attention à ne pas publier quelque chose d’offensant par accident, car cela pourrait affecter vos perspectives de carrières pendant longtemps, même si l’offense était due à un malentendu.)
Dans un premier temps, la réponse à la question « Dans quelle mesure êtes-vous sur la bonne voie pour développer une aptitude de « communicateur” en rapport avec le long-termisme ? » semble raisonnablement se rapprocher de la question suivante : « Dans quelle mesure réussissez-vous de manière générale selon les normes de la carrière (axée sur la communication) que vous suivez ? » Plus vous réussissez, plus vous serez probablement en mesure, à un moment donné, de trouver des moyens de communiquer des idées long-termistes importantes à votre public cible.
Se constituer un auditoire par le biais de la création de contenu indépendant serait également très prometteur.
Dans les deux cas, il semble réaliste d’avoir une idée assez précise de votre évolution d’ici 2 à 3 ans.d
Profil de base : fonder, construire et (au moins pendant un certain temps) diriger une organisation qui poursuit un objectif long-termiste. Certaines personnes fondent des organisations principalement pour jouir d’une certaine indépendance dans le cadre de leurs recherches ou d’autres travaux ; ici, j’imagine plutôt quelqu’un qui cherche explicitement à investir dans le recrutement, la gestion, la définition d’une culture et d’une vision, etc. dans le but de créer une organisation qui pourra continuer à fonctionner correctement s’il la quitte.
(Toutes les organisations ne sont pas fondées par quelqu’un qui vise explicitement cet objectif ; parfois, une organisation est fondée par une seule personne, mais une grande partie du travail de « l’entrepreneur » finit par être effectuée par des personnes qui arrivent plus tard et prennent le rôle de cadre supérieur.)
Quelques exemples assez clairs (avec l’organisation qui a été fondée entre parenthèses, que la personne soit toujours là ou non) seraient Ben Todd (80 000 Hours) ; Jason Matheny (CSET) ; Elie Hassenfeld et moi-même (GiveWell). De nombreuses autres organisations long-termistes ont connu un roulement assez rapide de leurs dirigeants (ce qui ne permet pas de savoir avec certitude qui a effectué l’essentiel du travail de « l’entrepreneur ») et/ou sont des centres universitaires plutôt que des organisations traditionnelles.
L’entrepreneuriat exige généralement de jongler avec plus de tâches qu’il n’est possible d’apprendre à faire « de la bonne manière ». Il repose essentiellement sur la capacité et la volonté de gérer de nombreuses choses « juste assez bien » (généralement avec très peu de formation ou de conseils) et de concentrer son énergie sur les quelques choses qui valent la peine d’être faites « raisonnablement bien ».
Dans cette optique, je pense généralement que la personne la mieux placée pour fonder une organisation est celle qui est tellement convaincue que l’organisation doit exister (et qu’elle peut réussir) qu’elle a du mal à imaginer travailler sur autre chose. C’est le genre de personne qui a tendance à avoir une idée très claire de ce qu’elle essaie de faire et de la manière de faire les arbitrages évoqués plus haut, et qui est disposée et capable de fournir beaucoup de travail sans recevoir beaucoup de conseils fiables.
Mon approche générale de l’entrepreneuriat serait donc la suivante : s’il n’y a pas d’organisation que vous avez le désir ardent de créer (ou du moins pour laquelle vous avez une vision forte), ce n’est probablement pas le moment d’être entrepreneur. Il serait plus judicieux d’essayer d’obtenir un emploi qui vous permette d’en apprendre davantage sur les aspects du monde qui vous intéressent, d’être plus conscient de la manière dont les organisations fonctionnent, etc. — cela pourrait vous permettre d’identifier plus tard une « lacune sur le marché » que vous seriez enthousiaste à l’idée de combler.
Je pense que si vous avez une idée d’organisation qui, selon vous, pourrait réussir et que vous seriez extrêmement enthousiaste à l’idée d’essayer de créer, tenter votre chance pourrait être une excellente expérience d’apprentissage et un moyen de développer une aptitude générale à l’entrepreneuriat. (Modification apportée pour ajouter : et potentiellement avoir un impact d’autres manières, comme par le biais de la philanthropie – voir la discussion ci-dessous.) Cela est vrai même si l’organisation à laquelle vous pensez ne travaille pas dans une optique long-termiste (par exemple, s’il s’agit d’une startup technologique classique). Il convient toutefois de garder à l’esprit que cela peut prendre beaucoup de temps (plusieurs années, parfois plus de 10 ans) pour qu’une organisation réussisse au point que l’on puisse se retirer de manière responsable et passer à autre chose.
Au cours des deux premières années, je pense que vous vous en sortez assez bien si votre organisation se trouve dans une situation financière raisonnable, n’a pas connu de catastrophe évidente et a réussi à attirer des talents. Au-delà, je pense qu’il est difficile de juger de l’état général d’une organisation.
Profil de base : réunir des personnes ayant des intérêts et des objectifs communs, de manière à ce qu’elles s’engagent plus fortement en faveur de ces intérêts et de ces objectifs et qu’elles aient plus d’opportunités et de contacts pour les poursuivre. Cela peut se faire par le biais d’un réseau direct (connaître beaucoup de gens et les présenter les uns aux autres), de réunions et d’événements, d’un recrutement explicitee, etc. Orienter les nouvelles personnes vers des ressources et les aider à en savoir plus est également un élément important.
Personnes organisant des groupes d’EA locaux, universitaires, etc. ainsi que de nombreuses personnes du Centre pour l’altruisme efficace.
Il y a probablement une communauté dont vous faites partie, ou un groupe de personnes que vous connaissez, avec laquelle vous pouvez immédiatement commencer à travailler de cette manière : en établissant des réseaux et en faisant des présentations, en organisant des rencontres et d’autres événements, etc. Si vous commencez à créer une mini-communauté prospère, je vous suggère de rechercher un financement pour passer à un travail à temps plein et de voir si vous pouvez élargir la population avec laquelle vous travaillez.
Je trouve qu’il est un peu plus difficile d’articuler les conditions qui indiquent que vous êtes « sur la bonne voie » pour cette aptitude que pour la plupart des autres dans cet article, mais il y a quelques possibilités :
Profil de base : Je pense que l’ingénierie logicielle peut être utile pour les objectifs long-termistes de multiples façons :
Catherine Olsson et Tom Brown ont tous deux fait de l’ingénierie logicielle chez OpenAI, Google Brain et Anthropic.
L’ingénierie logicielle est une voie professionnelle relativement bien établie. Vous pouvez commencer par quelque chose comme l’App Academy ou la Lambda School (pour des postes chez DeepMind et OpenAI, par exemple, il faut probablement faire partie des quelques premiers pour cent de personnes inscrites à ces programmes). N’importe quel emploi dans le domaine de l’ingénierie logicielle est probablement un bon moyen de développer cette aptitude ; plus les pairs sont talentueux, mieux c’est.
Voir la section « Sur la bonne voie » de la rubrique « Construire, gérer et dynamiser une organisation ».
(Dans ce cas, il n’y a pas beaucoup de différence entre une « aptitude » et un « parcours ». Il en va de même pour la section suivante.)
Profil de base : travailler à la protection des informations contre tout accès (ou modification) non autorisé. Cela peut inclure :
Ce billet de Claire Zabel et Luke Muehlhauser indique que « l’expertise en matière de sécurité de l’information (infosec) peut être cruciale pour faire face aux risques catastrophiques liés à l’IA et à la biosécurité […]. Plus généralement, l’expertise en matière de sécurité peut être utile à ceux qui tentent de réduire [les risques catastrophiques mondiaux], car ce travail implique parfois d’utiliser des informations qui pourraient être préjudiciables si elles étaient mal utilisées […]. Il est plus que probable que d’ici 10 ans, il y aura des douzaines de rôles axés sur la réduction des risques catastrophiques mondiaux dans le domaine de la sécurité de l’information, et certaines organisations recherchent déjà des candidats qui répondent à leurs besoins (et les embaucheraient dès maintenant, s’ils les trouvaient)… Si les personnes qui tentent cette expérience n’obtiennent pas un emploi direct, mais acquièrent les compétences pertinentes, elles pourraient tout de même se retrouver dans une carrière très lucrative dans laquelle leur ensemble de compétences serait très demandé ».
Je suis largement d’accord avec ces points.
Malheureusement, à ma connaissance, il n’y a pas beaucoup d’altruistes efficaces qui font carrière dans la sécurité de l’information.
Travailler sur la sécurité de l’information pour n’importe quelle entreprise — ou travailler dans n’importe quel domaine de recherche sur la sécurité de l’information — pourrait être un bon moyen de développer cette aptitude. Je pense que les meilleurs emplois sont ceux des grandes entreprises technologiques pour lesquelles la sécurité est cruciale : Amazon, Apple, Microsoft, Facebook et (surtout) Google.
Voir la section « Sur la bonne voie » de la rubrique « Construire, gérer et dynamiser une organisation ».
Profil de base : suivre une carrière universitaire signifie probablement choisir un domaine relativement tôt, obtenir un doctorat, continuer à occuper des postes universitaires, tenter de compiler un nombre impressionnant de publications et, en fin de compte, viser un poste de professeur titulaire (bien qu’il existe d’autres emplois qui recrutent dans le milieu universitaire). Le monde universitaire est une voie de carrière assez autonome, c’est donc un cas où il n’y a pas beaucoup de différence entre une « aptitude » et un « parcours » comme nous l’avons défini dans l’introduction de ce billet.
Le métier d’universitaire peut être utile pour des objectifs long-termistes de plusieurs façons :
De nombreux domaines universitaires peuvent mener à ce type de débouchés. Parmi ceux qui semblent particulièrement susceptibles d’être pertinents pour les long-termistes, on peut citer :
Hilary Greaves au Global Priorities Institute ; Stuart Russell au Center for Human-Compatible AI ; Kevin Esvelt.
La carrière universitaire est très bien définie. Les personnes qui s’y engagent ont souvent l’occasion d’obtenir des conseils de la part de spécialistes de leur domaine sur la manière de progresser et de savoir s’ils progressent.
En général, j’encouragerais les gens à accorder une grande importance à la réussite selon les normes traditionnelles – à la fois lorsqu’ils choisissent un domaine et lorsqu’ils choisissent des sujets et des projets dans ce domaine – plutôt que d’essayer d’optimiser trop fortement la production de travaux directement pertinents pour des objectifs long-termistes au début de leur carrière.
Ma réponse est essentiellement la même que pour les aptitudes politiques et bureaucratiques.
Il existe très certainement des aptitudes qui peuvent contribuer directement aux objectifs long-termistes et que je n’ai tout simplement pas pensé à énumérer ici.
Il arrive que des personnes soient capables de jouer des rôles que d’autres ne peuvent pas jouer parce qu’elles possèdent deux (ou plus) des types d’aptitudes énumérés ci-dessus. Par exemple, quelqu’un peut être un ingénieur logiciel raisonnablement compétent et un gestionnaire de projet/de personnel raisonnablement compétent, ce qui lui permet de contribuer davantage en tant que gestionnaire de l’ingénierie logicielle qu’en tant qu’ingénieur logiciel ou gestionnaire non technique. Dans la communauté de l’altruisme efficace, « recherche conceptuelle et empirique » va souvent de pair avec « communicateur » (comme Nick Bostrom qui a écrit Superintelligence).
Je pense qu’il est bon d’être ouvert à la construction d’aptitudes hybrides, mais aussi de garder à l’esprit que la spécialisation est puissante. Je pense que la façon idéale de poursuivre une aptitude hybride est de commencer avec une aptitude, puis de remarquer une opportunité de développer une autre aptitude qui la complète et améliore vos options de carrière. En règle générale, je ne recommanderais pas la poursuite de plusieurs aptitudes à la fois au début de la carrière.
Je pense que toutes les aptitudes susmentionnées peuvent mener à des opportunités de travailler directement sur des objectifs long-termistes – dans un laboratoire d’IA, une organisation d’EA, une institution politique, etc. Et je pense qu’il y a probablement beaucoup d’autres aptitudes qui pourraient en faire autant.
Cependant, certaines personnes se trouveront mieux adaptées à une aptitude qui ne mène pas à de telles opportunités. Et certaines personnes développeront l’une des aptitudes susmentionnées, mais n’auront toujours pas de telles opportunités.
Je pense que ces personnes ont encore de grandes possibilités de contribuer aux objectifs long-termistes, incluant « gagner pour donner » mais ne s’y limitant pas, en faisant des choses pour renforcer le long-termisme en général. Les choses qui me sont venues à l’esprit dans cette catégorie sont les suivantes :
Je pense que toute personne qui réussit globalement dans plusieurs des domaines susmentionnés – quel que soit son emploi – a un impact long-termiste important. Je pense que le fait de réussir et d’être satisfait de son travail, quel qu’il soit, contribue probablement à tous ces aspects.
J’imagine que certains voudront savoir laquelle de ces aptitudes a « le plus d’impact ».
Mon opinion principale à ce sujet est que la variance au sein des aptitudes est probablement plus importante que la variance entre elles. Quiconque possède un talent exceptionnel et unique dans l’une des aptitudes que j’ai énumérées a probablement un impact énorme ; quiconque réussit et est très performant a probablement un impact très élevé ; quiconque est à peine capable de remplir ses fonctions a probablement moins d’impact que les deux premières catégories, même s’il occupe un poste théoriquement à fort impact.
Je pense également que pour réussir à développer une aptitude — au point d’être « professionnellement demandé » — il faut généralement s’y tenir et y consacrer beaucoup de temps pendant une longue période. C’est pourquoi je pense que les gens ont plus de chances de réussir lorsqu’ils aiment leur travail et s’épanouissent dans leur environnement de travail, et qu’ils devraient accorder une grande importance à cet aspect lorsqu’ils réfléchissent aux types d’aptitudes qu’ils souhaitent développer. (Je pense que c’est particulièrement vrai en début de carrière.)f
En gardant ces points à l’esprit, je propose quelques heuristiques qui, selon moi, méritent d’être prises en compte :
Je crois qu’il y a des distinctions à faire, en termes d’impact plus élevé pour un niveau donné de réussite dans une aptitude par rapport à une autre. Mais toutes les suppositions que je ferais à ce sujet seraient des suppositions assez aléatoires, très sensibles à mon point de vue actuel sur la priorisation des causes ainsi qu’à l’état actuel du monde (qui pourrait changer rapidement). Et je pense qu’il y a un potentiel d’impact long-termiste énorme dans n’importe laquelle des aptitudes énumérées – ou simplement par le biais d’un renforcement du long-termisme agnostique en matière d’aptitudes.
Tout au long de cet article, j’ai fait part d’un certain nombre d’impressions sur la manière de développer une aptitude, sur la manière de savoir si l’on est sur la bonne voie, et j’ai fait part de quelques réflexions générales sur les heuristiques qui pourraient aider à réussir et à avoir de l’impact.
J’ai fait cela parce que je pense que cela m’a aidé à essayer de faire passer un cadre général/une attitude pour le choix de carrière qui, je pense, vaut la peine d’être pris en compte et peut aider à compléter d’autres cadres utilisés par les long-termistes.
Mais je suis généralement réticent à l’idée de donner des conseils de carrière à qui que ce soit, même à des personnes que je connais bien, parce que le choix d’une carrière est une question très personnelle et qu’il est très facile pour un conseiller d’ignorer des éléments importants de la personnalité, de la situation, etc. d’une personne. Je suis encore plus réticent à l’idée de publier des conseils sur l’internet, où de nombreuses personnes dans de nombreuses situations que je connais très peu pourraient les lire.
Je voudrais donc conclure cet article en décourageant de manière générale les gens de « suivre les conseils », c’est-à-dire de prendre une décision radicalement différente de celle qu’ils prendraient autrement en raison de leur interprétation de ce qu’une personne donnée pense qu’ils devraient faire. J’espère que cet article sera une source d’inspiration, qu’il incitera à la discussion et qu’il soulèvera des points que chacun pourra examiner sur le fond et auxquels il pourra appliquer son propre jugement. J’espère qu’il ne sera pas considéré comme une instruction ou une préférence pour un choix ou un ensemble de choix spécifiques.
Je mettrai également un lien vers cette page qui contient un bon nombre de « conseils anti-conseils », y compris des citations de moi ici (« Une carrière est une chose tellement personnelle »), ici (« Quand vous êtes excellent dans votre travail, aucun conseil n’est très utile »), et ici (« N’écoutez pas trop les conseils de qui que ce soit »).
Ce travail est placé sous une licence Creative Commons Attribution 4.0 Licence Internationale.