Technology

L’influence croissante de l’altruisme effectif

Le longtermisme voit l’histoire différemment : comme une marche en avant vers un progrès inévitable. MacAskill fait souvent référence au passé dans Ce que nous devons à l’avenir, mais uniquement sous la forme d’études de cas sur l’impact du développement technologique et moral sur l’amélioration de la qualité de vie. Il discute de l’abolition de l’esclavage, de la révolution industrielle et du mouvement des droits des femmes comme preuve de l’importance de poursuivre l’arc de progrès de l’humanité avant que les mauvaises valeurs ne soient «enfermées» par les despotes. Quelles sont les « bonnes » valeurs ? MacAskill a une approche timide pour les articuler: il soutient que “nous devrions nous concentrer sur la promotion de principes moraux plus abstraits ou généraux” pour garantir que “les changements moraux restent pertinents et résolument positifs à l’avenir”.

Le changement climatique mondial et en cours, qui affecte déjà la sous-financé plus que l’élite aujourd’hui, n’est notamment pas une cause fondamentale à long terme, comme le philosophe Emile P. Torres souligne dans ses critiques. Alors qu’il constitue une menace pour des millions de vies, les partisans du long terme affirment, ça ne s’effacera probablement pas Allès de l’humanité; ceux qui ont la richesse et les moyens de survivre peuvent continuer à réaliser le potentiel de notre espèce. Des milliardaires de la technologie comme Thiel et Larry Page déjà avoir des projets et des biens immobiliers en place pour surmonter une apocalypse climatique. (MacAskill, dans son nouveau livre, nomme le changement climatique comme une préoccupation sérieuse pour ceux qui vivent aujourd’hui, mais il le considère comme une menace existentielle uniquement sous sa forme “extrême” où l’agriculture ne survivra pas.)

“Arriver à la conclusion que pour faire le plus de bien au monde, il faut travailler sur l’intelligence artificielle générale est très étrange.”

Timnit Gebru

La dernière caractéristique mystérieuse de la version d’EA de la vision à long terme est la façon dont sa logique se retrouve dans une liste spécifique de menaces lointaines basées sur la technologie pour la civilisation qui s’alignent sur de nombreux domaines de recherche de la cohorte EA d’origine. « Je suis un chercheur dans le domaine de l’IA », dit Gebru, « mais arriver à la conclusion que pour faire le plus de bien au monde, il faut travailler sur l’intelligence artificielle générale est très étrange. C’est comme essayer de justifier le fait que vous voulez penser au scénario de science-fiction et que vous ne voulez pas penser aux vraies personnes, au monde réel et aux problèmes structurels actuels. Vous voulez justifier la façon dont vous voulez attirer des milliards de dollars là-dedans alors que les gens meurent de faim.

Certains dirigeants d’EA semblent conscients que La critique et le changement sont essentiels pour élargir la communauté et renforcer son impact. MacAskill et d’autres ont précisé que leurs calculs sont des estimations (“Ce sont nos meilleures estimations”, a proposé MacAskill sur un 2020 podcast épisode) et ont déclaré qu’ils étaient impatients de s’améliorer grâce à un discours critique. GiveWell et CEA ont tous deux des pages sur leurs sites Web intitulées « Nos erreurs » et, en juin, CEA a organisé un concours invitant les critiques sur le forum EA ; le Future Fund a lancé des prix pouvant atteindre 1,5 million de dollars pour des perspectives critiques sur l’IA.

“Nous reconnaissons que les problèmes qu’EA essaie de résoudre sont vraiment, vraiment gros et nous n’avons aucun espoir de les résoudre avec seulement un petit segment de personnes”, déclare Julia Wise, membre du conseil d’administration de GiveWell et agente de liaison avec la communauté CEA, à propos des statistiques de diversité d’EA. . “Nous avons besoin des talents que de nombreux types de personnes différents peuvent apporter pour résoudre ces problèmes mondiaux.” Wise a également parlé du sujet lors de la Conférence mondiale EA 2020et elle discute activement de l’inclusion et de la dynamique du pouvoir communautaire sur le Forum CEA. Le Center for Effective Altruism soutient un programme de mentorat pour les femmes et les personnes non binaires (trouvé, d’ailleurs, par La femme de Carrick Flynn) qui, selon Wise, s’étend à d’autres groupes sous-représentés dans la communauté EA, et le CEA a fait un effort pour organiser des conférences dans plus d’endroits dans le monde afin d’accueillir un groupe plus diversifié géographiquement. Mais ces efforts semblent avoir une portée et un impact limités ; La page publique du CEA sur la diversité et l’inclusion n’a même pas été mise à jour depuis 2020. Alors que les principes tech-utopiques du long terme occupent une place de choix dans la fusée d’EA et que quelques donateurs milliardaires tracent son chemin vers l’avenir, c’est peut-être trop tard pour altérer l’ADN du mouvement.

Politique et avenir

Malgré l’éclat de la science-fiction, l’altruisme efficace est aujourd’hui un projet conservateur, consolidant la prise de décision derrière un système de croyance technocratique et un petit groupe d’individus, potentiellement au détriment de visions locales et intersectionnelles pour l’avenir. Mais la communauté et les succès d’EA ont été construits autour de méthodologies claires qui peuvent ne pas être transférées dans l’arène politique plus nuancée vers laquelle certains dirigeants d’EA et quelques grands donateurs poussent. Selon Wise, la communauté dans son ensemble est toujours divisée sur la politique en tant qu’approche pour poursuivre les objectifs d’EA, certains dissidents estimant que la politique est un espace trop polarisé pour un changement efficace.

Mais EA n’est pas le seul mouvement caritatif qui se tourne vers l’action politique pour remodeler le monde ; le domaine philanthropique s’est généralement déplacé vers la politique pour un plus grand impact. « Nous avons une crise politique existentielle à laquelle la philanthropie doit faire face. Sinon, beaucoup de ses autres objectifs seront difficiles à atteindre », déclare Callahan d’Inside Philanthropy, en utilisant une définition de « existentiel » qui diffère de celle de MacAskill. Mais alors que EA peut offrir une rubrique claire pour déterminer comment donner de manière caritative, l’arène politique présente un défi plus compliqué. « Il n’y a pas de mesure simple pour savoir comment gagner du pouvoir politique ou changer de politique », dit-il. “Et Sam Bankman-Fried n’a jusqu’à présent pas démontré qu’il était le donneur politique le plus efficace.”

Bankman-Fried a défini ses propres dons politiques comme “plus politique que politique», et a fait don principalement aux démocrates à travers son éphémère Protect Our Future PAC (qui a soutenu Carrick Flynn dans l’Oregon) et le Se prémunir contre les pandémies PAC (qui est dirigé par son frère Gabe et publie une liste multipartite de ses “champions” soutenir). Ryan Salame, le co-PDG avec Bankman-Fried de FTX, a financé son propre PAC, American Dream Federal Action, qui se concentre principalement sur les candidats républicains. (Bankman-Fried a dit Salame partage sa passion pour la prévention des pandémies.) Guarding Against Pandemics et l’Open Philanthropy Action Fund (le bras politique d’Open Philanthropy) dépensé plus de 18 millions de dollars pour obtenir une initiative sur le scrutin de l’État de Californie cet automne pour financer la recherche et l’action en cas de pandémie grâce à une nouvelle taxe.

.

Leave a Reply

Your email address will not be published.