Superintelligence
Une superintelligence est un système cognitif dont les performances intellectuelles dans tous les domaines pertinents dépassent largement celles d’un être humain. Les formes de superintelligence incluent la superintelligence de qualité, la superintelligence de vitesse et la superintelligence collective.
Si une superintelligence venait à exister, il pourrait en principe s’agir d’une machine (créée grâce à des progrès substantiels en matière d’intelligence artificielle) ou d’une entité biologique (créée grâce au génie génétique ou à d’autres modifications apportées par l’homme).
L’intelligence étant le trait distinctif qui a permis à l’homme de développer une civilisation et de devenir l’espèce dominante sur Terre, le développement d’agents beaucoup plus intelligents que nous serait probablement un développement transformateur sans doute l’événement le plus important de l’histoire de l’humanité.
Bien qu’il soit difficile de prédire, ou même de concevoir, à quoi ressemblerait un avenir dans lequel de tels agents existeraient, plusieurs philosophes et informaticiens ont récemment soutenu que l’arrivée de la superintelligence, en particulier de la superintelligence des machines, pourrait poser un . D’un autre côté, si ces risques sont évités, une superintelligence pourrait être très bénéfique et permettre de résoudre de nombreux problèmes dans le monde.
Nick Bostrom (2017) Superintelligence,.