De gebreken van Techbro Dreams of the Future uitpakken – Moeder Jones

Dit verhaal werd oorspronkelijk gepubliceerd door Onkoord en wordt hier gereproduceerd als onderdeel van de Klimaat bureau samenwerking.

Elon Musk een keer Grapte: “Ik zou graag op Mars willen sterven. Gewoon niet op impact.” Musk is in feite dodelijk serieus over het koloniseren van de rode planeet. Een deel van zijn motivatie is het idee om een ​​”back-up” planeet te hebben voor het geval sommige toekomstige catastrofe de aarde onbewoonbaar maakt.

Musk heeft gesuggereerd dat een miljoen mensen Mars tegen 2050 naar huis kunnen noemen – en hij is nauwelijks alleen in zijn enthousiasme. Durfkapitalist Marc Andreessen gelooft dat de wereld gemakkelijk 50 miljard mensen kan ondersteunen, en meer dan dat zodra we andere planeten regelen. En Jeff Bezos heeft gesproken over het exploiteren van de middelen van de maan en de asteroïden om gigantische ruimtestations te bouwen. “Ik zou graag zien dat een triljoen mensen in het zonnestelsel leven,” zei hij.

Niet zo snel, waarschuwt wetenschapsjournalist Adam Becker. In “Meer Everything Forever”, beschrijft Becker een veelheid aan fouten in de grote ontwerpen die niet alleen door Musk, Andreessen en Bezos worden gehaald, maar door Sam Altman, Nick Bostrom, Ray Kurzweil, en een scala van technische miljardairs en toekomstgerichte denkers wiens ambities de wereld van vandaag transformeren en hoe we denken over de centures die het komen.

Becker richt zich niet alleen op hun ambities voor de ruimte, maar ook hun beweringen over kunstmatige intelligentie, de behoefte aan eindeloze groei, hun ambities voor het uitroeien van veroudering en dood, en meer – zoals gesuggereerd door de ondertiteling van het boek: “AI Overlords, Ruimte -rijken en Silicium Valley’s Crusade om het Fate of Humanity te beheersen.”

Becker vindt het idee om Mars te koloniseren gemakkelijk te laten leeglopen, en legt uit dat sterven in feite het enige is dat mensen daar waarschijnlijk zullen doen. “De stralingsniveaus zijn te hoog, de zwaartekracht is te laag, er is geen lucht en het vuil is gemaakt van gif,” zegt hij botweg. Hij merkt op dat we het moeilijk hebben om mensen te overtuigen om een ​​grote tijd door te brengen in Antarctica – een veel meer gastvrije plek. “Mars,” zegt Becker, “zou Antarctica op Tahiti laten lijken.”

De andere planeten (en manen) van het zonnestelsel zijn even onwelkoms en sterrenstelsels buiten ons eigen zonnestelsel zijn onvoorstelbaar afstandelijk. Hij concludeert: “Niemand gaat moedig ergens heen gaan, niet om hun leven te leven en gezinnen en gemeenschappen te bouwen – niet snel, niet snel en misschien niet.”

Becker ziet ruimtekolonisatie niet alleen onrealistisch, maar ook moreel dubieus. Waarom, vraagt ​​hij, zijn de miljardairs zo graag onze planeet verlaten in plaats van ervoor te zorgen? Hij interviewt de astronoom Lucianne Walkowicz, die hun focus ziet op moordende asteroïden en malafide AI’s – en hun schijnbare desinteresse in klimaatverandering – als een ontdekking van verantwoordelijkheid. “Het idee om een ​​back -up van de mensheid te steunen, gaat over uit de verantwoordelijkheid komen door het te laten lijken dat we dit uit de vrije kaart hebben,” zegt Walkowicz.

Becker richt zich niet alleen op technische goeroes, maar ook zogenaamde langetermisten (die prioriteit geven aan de bloei van mensen die eonen vanaf nu zullen leven), rationalisten (die geloven dat besluitvorming moet worden geleid door rede en logica), en transhumanisten (die een verscheidenheid aan overtuigingen hebben die verband houden met het uitbreiden van het menselijk leven en de mensheid met AI). Deze groepen nemen de toekomst op verschillende manieren waar, maar onderliggen veel van hun visies is wat Becker ziet als een misplaatst geloof in kunstmatige intelligentie, soms voorgesteld om op het punt te staan ​​om te bloeien in “Agi” (kunstmatige algemene intelligentie) maar ook potentieel gevaarlijk als de doelen uit de mensheid uit de mensheid zijn (het SO-gezamenlijk Applee).

Niet iedereen deelt deze angst voor AI die Amok runt, en Becker maakt er een punt van om te spreken met sceptici zoals Jaron Lanier, Melanie Mitchell en Yann Lecun, die allemaal verre van overtuigd zijn dat dit een echt gevaar is. Hij noemt ook de ondernemer en webontwikkelaar Maciej Cegłowski, die het niet -uitgelijnde superintelligente AI -afstemmingsprobleem heeft beschreven als ‘het idee dat slimme mensen eet’. Toch is het boek niet alleen maar ai-guru-bashing van Becker: hij spelt uit wat deze toegewijden geloven, voordat hij een meer sceptisch alternatief beeld presenteert.

Becker merkt ook op dat computermacht misschien niet bestemd is om zo snel te toenemen als veel voorstanders zich voorstellen. Hij onderzoekt de wet van Moore, het idee dat het aantal transistoren in geïntegreerde circuits ongeveer om de twee jaar verdubbelt, en merkt op dat deze groei onvermijdelijk beperkingen zal tegenkomen die door de natuurkundewetten worden opgelegd. Becker wijst erop dat Gordon Moore zelf in 2010 schatte dat het huidige percentage exponentiële groei zou eindigen in 10 of 20 jaar – met andere woorden, nu of zeer binnenkort.

Zoals Becker het ziet, is Faith in Moore’s wet slechts één facet van een slecht doordachte toewijding aan eindeloze groei die sommige technofielen lijken te pleiten. Vooral exponentiële groei is per definitie niet duurzaam. Hij citeert een analogie die uitvinder en futurist Ray Kurzweil heeft gemaakt over de groei van lelieblokken in een vijver: om de paar dagen zal het aantal pads zijn verdubbeld, en voordat je het weet hebben ze de hele vijver bedekt. “Dat is waar,” schrijft Becker, “maar dat is ook waar de groei van de Lily Pads eindigt, omdat ze niet meer dan 100 procent van de vijver kunnen dekken. Elke exponentiële trend werkt als deze. Alle middelen zijn eindig; niets duurt eeuwig; alles heeft limieten.”

Becker zegt dat als we energie blijven gebruiken met onze huidige (en versnellende) snelheid, we de volledige energie -output van de zon in 1.350 jaar zullen exploiteren, en iets meer dan een millennium later, alle energie die door alle sterren in de Melkweg wordt uitgestoten – enzovoort.

Becker neemt ook het idee in de kern van het longetermisme – dat de behoeften van talloze miljarden of zelfs triljoenen toekomstige mensen net zo belangrijk zijn als de behoeften van degenen die vandaag op aarde leven – en misschien belangrijker, vanwege hun (uiteindelijke) enorme cijfers. (Veel van deze ideeën zijn uiteengezet in het boek van filosoof William MacAskill, “What We Owes the Future.”)

Voor de langetermisten moeten onze acties tegenwoordig gericht zijn op het toestaan ​​van deze overvloedige toekomst, zelfs als het offers betekent in het hier en nu. Het probleem, schrijft Becker, is dat we gewoon niet kunnen weten welke voorwaarden eeuwenlang zullen heersen, laat staan ​​millennia, dus het is aanmatigend voor te stellen dat de beslissingen van vandaag kunnen worden aangepast aan mensen die niet voor een ondoorgrondelijke lange tijd zullen worden geboren.