A human environmentalism

Dies ist diesmal eine Art Abschweifung, aber nur eine Art – eine singuläre Ausgabe dieses Newsletters, die nicht oft wiederholt werden wird, aber die ich für nötig hielt, von der Brust zu schreiben. Bald kehre ich zur regulären Programmierung zurück, mit Updates zu einer turbulenten Periode in der Welt des Klimas und der Energie. Aber zuerst: Der Grund, warum ich mein Leben der Klimakrise gewidmet habe, ist nicht, weil ich Kohlenstoff hasse, sondern weil ich die Welt liebe, in die ich geboren wurde, und die Menschen und Geschöpfe, mit denen ich sie teilte. Der Treibhauseffekt ist bei Weile die größte Bedrohung, der diese Welt je ausgesetzt war. Aber er ist nicht die einzige, weshalb ich heute über KI und ihren Angriff schreiben werde – mangels eines besseren Wortes – auf die Bedeutung. Es gibt eine Reihe tiefgreifender pragmatischer Gründe, sich über das rasante Wachstum der KI Sorgen zu machen, von denen ich einige zuvor beschrieben habe. Die Rechenzentren, die sie unterstützen, verschmutzen Luft und Wasser und schlucken gerade dann enorme Mengen an Strom, wenn wir jede saubere Energie brauchen, die wir an die Hand bekommen können, um von fossilen Brennstoffen wegzukommen. Die KI stellt eine bemerkenswerte Bedrohung für die Arbeitsplätze dar, von denen viele von uns abhängen (siehe beispielsweise Garrison Loveles neues Buch *Obsolete*). Und natürlich sind ernsthafte Menschen – viele von ihnen arbeiten in (oder haben kürzlich die) „Frontier-Labs" verlassen – überzeugt, dass sie eine nicht zu vernachlässigende Chance hat, in den kommenden Monaten oder Jahren die meisten oder alle von uns zu töten. (Bill Gates sagte, es wäre „ziemlich schwer" für die KI, jeden letzten von uns zu kriegen; seine beste Schätzung sind bloß eine Milliarde Tote.) Das scheinen mir ziemlich gute Gründe zu sein, diese Technologie abzuschalten, soweit wir es noch können; alles, was realistisch den Tod von Milliarden bedroht, sollte unanständig sein. In diesem Kontext macht Sam Altman, der uns sagt, wir sollten „einige schlechte Dinge" seiner neuen Technologie akzeptieren, Dr. Strangelove wie Ralph Nader aussehen. Aber es gibt noch einen weiteren Grund, sich über diesen rasch nähernden Meteor zu erschüttern, wenn auch einen, der schwerer zu beschreiben ist. Er betrifft seine Auswirkung darauf, was es bedeutet, Mensch zu sein. Als ich vor fast vierzig Jahren *The End of Nature* schrieb, war es teilweise der ursprüngliche Langform-Reportage-Text über das, was der „Treibhauseffekt" war. Aber es war auch eine Übung in Amateurphilosophie, in Laien-Theologie: Ich war überwältigt von der Vorstellung, dass unsere Gewohnheiten und Wirtschaften, indem sie die Temperatur des Planeten erhöhten, es unmöglich machten, einen Ort als wild, als natürlich zu betrachten. Für mich kam das als Traurigkeit, denn wir sollten nicht die einzige Kraft auf diesem Planeten sein. „Indem wir das Wetter verändern, machen wir jeden Flecken auf der Erde menschengemacht und künstlich. Wir haben die Natur ihrer Unabhängigkeit beraubt, und das ist tödlich für ihre Bedeutung. Die Unabhängigkeit der Natur ist ihre Bedeutung; ohne sie gibt es nichts als uns." Das ist nicht der Hauptgrund, gegen den Klimawandel zu kämpfen – der Schaden, den wir entfesselt haben, ist der Hauptgrund, mit seinen tödlichen Auswirkungen auf Menschen und andere Arten. Dennoch erklärt er eine Traurigkeit unter der Angst. Und für mich ist es mit der KI dasselbe. Im Wesentlichen nimmt sie viel von der Bedeutung des Menschseins. Wir wurden durch unsere Grenzen definiert und durch unseren Kampf gegen sie, und diese Grenzen effektiv zu entfernen, was das Versprechen dieser neuen Technologie laut ihren Schöpfern ist, ist ein tragischer Fehler. Ich möchte das trivialste Beispiel liefern, das mir einfallen kann, in der Hoffnung, dass es helfen wird, den größeren Punkt zu verdeutlichen. Letzte Woche kam eine Geschichte darüber heraus, wie verschiedene LLMs nun Simulakren von New Yorker-Karikaturen produzierten und die Signatur der Karikaturisten hinzufügten – man konnte um eine Karikatur über Katzen im Stil von, sagen wir, Emily Flake bitten, und sie würde sie getreulich produzieren. Der Punkt der Geschichte, und es war ein guter und nützlicher Punkt, war, dass dies eine Art fortgeschrittene Plagiat war. „Es ist ein unheimliches Simulakrum eines Eindrucks eines Witzes", sagte Jason Adam Katzenstein, der seit 2014 Cartoons in The New Yorker veröffentlicht. „Aber es geht nicht darum, dass es tatsächlich lustig oder gut sein muss. Es geht darum, dass es einen Todesstoß gegen die Arbeit versetzt. Es versucht, einzelne Cartoonisten obsolet zu machen, weil wir Geld kosten und Zeit in Anspruch nehmen." Das ist sicherlich wahr, aber der tiefere Punkt für mich ist, dass diese eine kleine Ecke menschlichen Wirkens nun von … irgendetwas anderem übernommen wird. Es ist, wieder einmal, keine wichtige Ecke – die Welt würde sich ohne Cartoons in The New Yorker weitgehend wie zuvor drehen. Aber es ist eine entzückende Ecke – weil ich bei der Zeitschrift gearbeitet habe, viele dieser Leute gekannt habe und gesehen habe, wie viel Freude sie der Welt gebracht haben. Mein lieber Freund, der verstorbene Ed Koren, konnte mich allein schon beim Nachdenken über ihn zum Schmunzeln bringen. Sie verdienten ihren Lebensunterhalt mit ihrem Witz, und dieser Witz nicht nur belebte den Tag für viele, sondern er weichte auch die Prosa um ihn herum auf. The End of Nature, 1989 in The New Yorker veröffentlicht, war, daran habe ich keinen Zweifel, lesbarer gemacht worden durch die Tatsache, dass es eine Reihe lustiger Zeichnungen umgab. Garrison Keillor stellte sich tatsächlich einmal vor, wie ein Umzug von Schriftstellern die Fifth Avenue entlang aussehen würde: Die Ehrenwache der Redakteure zieht vorbei, trägt zeremonielle Karabiner und die Old Glory (mit einigen Sternen und Streifen entfernt), und die Kiosk-Band, die den „Washington Post"-Marsch spielt, gefolgt von knackenden Tipp-Übungsgruppen, deren Underwoods mit frischen Bändern geschmückt sind. Dann kommen Dutzende marschierende Einheiten aus allen Segmenten der anonymen Druckindustrie: Werbeleute, die in ihren schicken grauen Fallschirmhosen und Markenhemden hup-hup-hup-hup traben; Autoren von Katalogtexten, Gebrauchsanweisungen, Formbriefen, Autobiografien berühmter Leute; die Leitartikelschreiber der Times, in ihren vertrauten langen schwarzen Roben, die stundenweise gemietet werden; ein Heer von redaktionellen Assistenten und Rechercheuren; die Gilde der Nachrufe; die Brigade der Buchumschläge; das Bataillon der Kofferraum-Aufkleber; das Regiment der Pressemitteilungen; und, gegen das Ende des Umzugs, wir, unsere Truppe, die kleine Talk of the Town-Squad, die im dreifachen Zeilenabstand marschiert und skandiert: „Rosen sind rot, ebenso wie Luftballons. Wir schreiben den grauen Kram um die Cartoons!" Alle Berufe, die er aufzählte, sind natürlich durch die LLMs verwundbar gemacht worden – bereits haben wir KI-Sportberichterstattung, und tatsächlich auch Buchschreiben, und natürlich Pressemitteilungen und Nachrufe. Tatsächlich kommt eine Form dieser Sache beharrlich ungefragt in mein E-Mail-System und fragt, ob ich möchte, dass es meine Briefe für mich verfasst. Das würde ich nicht. Auf diese Weise würden mehr Briefe produziert werden – aber wirklich, mehr ist nicht der Punkt. Der Punkt ist das Tun. Vor einigen Wochen schrieben die prominentesten Mathematiker der Welt einen gemeinsamen Brief, in dem sie gegen die Verwendung von KI zur Lösung der Probleme protestierten, auf denen ihr Beruf aufgebaut ist, weil es den Prozess des Kontextes beraubte. Die mathematische Gemeinschaft, schrieben sie, funktioniert in vielerlei Hinsicht als eine Miniaturversion der Menschheit. Sie besteht aus Individuen, die eine große Vielfalt unterschiedlicher Ansätze verwenden, verbunden durch gemeinsame Werte. Die wertvollsten Ressourcen unseres Berufs sind Studierende und Ideen, und diese pflegen wir mit großer Sorgfalt. Wir fühlen uns verantwortlich, sie zu ihrem vollen Potenzial heranwachsen zu lassen, bis sie ein eigenes Leben in der mathematischen Welt führen können. Aber Claude, oder was auch immer, raste einfach mit dem Bagger durch all das. Wir sind einer allgemeinen Bedrohung für die intellektuelle Arbeit ausgesetzt, bei der eine Fehlausrichtung zwischen dem Ergebnis der Nutzung von KI und ihrem ursprünglichen Zweck besteht. In vielen Bereichen und Tätigkeiten haben jahrelange Ausbildung traditionell nicht nur dazu gedient, eine endgültige Antwort oder ein Produkt hervorzubringen, sondern auch Verständnis und die Fähigkeit zu entwickeln, neue Fragen und Ideen zu formulieren. Allerdings bauen KI-Systeme auf einem gewaltigen Bestand vorheriger menschlicher Arbeit auf und werden zunehmend in der Lage, die Ergebnisse einer solchen Arbeit direkt zu produzieren, und diese Ziele hören auf, sich zu decken. Die Probleme, denen die mathematische Gemeinschaft heute gegenübersteht, sind ähnlich den Problemen, denen andere wissenschaftliche und kreative Berufe gegenüberstehen, und deuten auf Probleme hin, denen die gesamte Menschheit gegenüberstehen könnte: Wie stellen wir sicher, dass wir, während KI die Art und Weise, wie Arbeit verrichtet wird, verändert, nicht aus den Augen verlieren, was diese Arbeit ursprünglich zu erreichen hatte? Nun, ein Grund, warum wir Mathematik betreiben, ist es, Dinge zu lernen, die es uns ermöglichen, Dinge zu tun – manche Wissenschaft und Technik reitet auf dem Rücken dieser Gleichungen mit. Und so wäre das Argument für KI, dass sie es uns ermöglicht, diese Dinge schneller zu tun, schneller zu den nützlichen Ergebnissen zu gelangen. Aber ich habe dieses Argument nie vollständig verstanden – warum müssen wir schneller gehen? Es ist doch nicht so, als hätten wir mit unserer eigenen natürlichen Intelligenz nicht Fortschritte gemacht. Milliarden von Menschen wurden in den letzten zwei Generationen aus der Armut befreit, unter Verwendung der Produkte unserer eigenen Geister (und Herzen). Oder um ein prägnantes Beispiel aus meinem Fachgebiet zu geben: Die menschliche Intelligenz war ausreichend, um die Solarpanels und Windturbinen und Batterien zu produzieren, die die wirksamsten Werkzeuge sind, die wir haben, um den Klimawandel zu bekämpfen – die Hindernisse für Fortschritt sind weit mehr politischer als technologischer Natur und liegen in der Gier und dem Machtverlangen der Industriellen und Politiker, die an die alte Ordnung gebunden sind. Wir haben, von uns aus, unsere Reaktionen auf Krankheiten dramatisch verbessert, und es gibt keinen Grund zu glauben, dass wir, ungestützt, langsamer würden. Tatsächlich schienen wir bereits technologisch auf allen Fronten mit einem Tempo voranzuschreiten, das die Fähigkeit der Gesellschaft gefährdete, damit umzugehen. Wir haben ähnlich eine anhaltende und rasche kulturelle Evolution gesehen; tatsächlich waren unsere eigenen Intellekte und Geister ausreichend, um zumindest damit zu beginnen, die groben Ungleichheiten von Rasse und Geschlecht zu verringern (und die Vorurteile einiger der KI-Unternehmer, die physisch und offenbar geistig hinter Donald Trump vereint sind, scheinen darauf angelegt, diese Evolution zu verlangsamen). Der Punkt, den ich machen möchte, ist, dass Menschen ausreichen; tatsächlich sind sie, im Großen und Ganzen, edel. Wir produzieren Cartoons und Formeln, Musik und U-Bahn-Wagen, Weizen und Wein. Aber nun werden wir told, dass viele, vielleicht alle, diese Funktionen bald von Robotern übernommen werden, die mit dieser neuen Intelligenz ausgestattet sind. Und was werden wir dann tun? Jensen Huang, der Chef von Nvidia, dessen KI-Chips es zum reichsten Unternehmen in der Geschichte gemacht haben, sagte Ezra Klein letzten Monats, dass er der Ansicht sei, wir würden einander den Rücken reiben. „Menschen, die über Wellness-Zentren und Spas und all diese verschiedenen Unterhaltungs- und Luxusindustrien sprechen, und ganz offen gesagt, der gesamte Luxusmarkt existierte nicht. Ich denke, wir werden einfach neue Industrien haben, das ist alles.“ Ich habe keinen Zweifel daran, dass bald jemand das Spa-Geschäft mit androiden Masseuren „disrupten“ wird, aber die Idee, dass wir in einer Welt, in der Grok alles andere tut, ein Luxus sein sollen, stößt mir auf. Ich habe bereits über diese mutige neue Welt geschrieben – 2003 veröffentlichte ich ein Buch mit dem Titel *Enough* über fortgeschrittene Robotik, menschliche Gentechnik, Nanotechnologie, die Vorboten dieser Welle der Technologie. Es erschien mir damals, und es erscheint mir jetzt, wie ein Angriff auf die menschliche Bedeutung. Wir sind begrenzt; es ist im Umgang mit diesen Grenzen, dass wir Freude finden. So wie es einem Läufer, dem man ein Medikament gibt, das ihm erlaubt, eine Meile in drei Minuten zu laufen, nichts zu seinem oder unserem Gefühl der Leistung hinzufügt, so fügt es auch nichts zur Summe unserer Zufriedenheit hinzu, wenn Karikaturen (selbst lustige) millionenfach produziert werden; tatsächlich subtrahiert es, indem es die Herausforderung entfernt, die diese oder jede andere menschliche Bestrebung bedeutsam macht. Es ist in Ordnung, eine wohlhabendere Welt zu wollen und dafür zu arbeiten, aber es ist tragisch absurd zu glauben, dass man sie durch das Drücken eines Knopfes bekommt und dass dies eine Welt hervorbringen wird, die wir wollen. Dies ist kein Argument gegen Technologie. Ich verbringe den größten Teil meiner Zeit damit, an der Verbreitung der Technologien von Sonne, Wind und Batterien zu arbeiten. Aber diese Technologie ermöglicht es uns, menschlicher zu sein, nicht weniger – sie reduziert unsere Auswirkung auf den Planeten, von dem wir abhängen, und auf die Handvoll Oligarchen, die derzeit unsere Energieversorgung kontrollieren. Sie bietet die Chance auf weniger Tod, durch Verschmutzung und Krieg, und mehr lokale Kontrolle und Bedeutung in einer Welt, in der der Anstieg der Temperatur, der auch seine eigene Art der Auslöschung bedroht, beginnt, sich zu verlangsamen. Technologie muss irgendwie in den Dienst der Menschheit gestellt werden; entweder das oder in eine Box gesteckt und eingesperrt, wenn das noch möglich ist. Bisher war der nützlichste Versuch, mit all dem umzugehen, die Enzyklika Papst Leos, *Magnifica Humanitas*, die sich durchaus lohnt, gelesen zu werden. Religiöses Denken ist hier hilfreich – es hat lange Jahrhunderte gebraucht, um einen Satz von Ideen über den intrinsischen Wert von Menschen aufzubauen. Aber Ideen müssen aus vielen Richtungen kommen, und ich denke, dass wir, die unser Leben damit verbracht haben, für die größere Welt zu arbeiten, vielleicht einige nützliche Einsichten von uns selbst haben. Ich ringe hier nach den ganz richtigen Worten. Wir haben etwa 150 Jahre lang „Naturschutz" praktiziert, wobei wir die Notwendigkeit anerkannten, in einer Welt befähigter Menschen Gebiete zu schützen, damit sie nicht alle homogenisiert werden, auf nichts reduziert. Teilweise haben wir das aus pragmatischen Gründen getan, um „Biodiversität" zu schützen in der Hoffnung, neue Medikamente zu finden, oder „Ökosystemleistungen", weil ein Wald Wasser billiger filtert als eine Aufbereitungsanlage. Aber wir haben es auch aus einem Gefühl der Zuneigung zum Rest der Schöpfung getan, oder aus purer Freude am Wunder und der Schönheit der Welt. Jetzt scheint die Menschheit selbst wahrscheinlich von einer Kraft abgerissen zu werden, die mächtiger ist als wir, wenngleich eine, die wir geschaffen haben – vielleicht „abgerissen" bis zur Auslöschung, oder vielleicht abgerissen bis zur Bedeutungslosigkeit, und ich bin mir nicht sicher, wie viel Unterschied es genau gibt. Also scheint mir eine Art „humaner Umweltschutz" erforderlich zu sein, um sich dieser fremden und eindringenden Kraft entgegenzustellen, bevor sie die Komplexität und den Charme und die Integrität der Zivilisation übersteigt, die wir und unsere Vorfahren aufgebaut haben. Ihre specifics sind mir fremd – ich verstehe die Literatur und die Technologie nicht so, wie ich sie bei Klima und Energie tue, und ein Teil des Problems ist, dass ich vermute, dass niemand es wirklich tut, zumindest niemand, der nicht in der Reihe steht, beim nächsten IPO zum Milliardär zu werden. Aber es würde über bloße „Sicherheit" hinausgehen und versuchen, auch Bedeutung zu schützen. Es gibt einen interessanten Anfang auf einer Website namens *Irreplaceable*, gegründet von meinem alten 350.org-Kollegen Phil Aroneanu; sie konzentriert sich auf Sicherheitsfragen, aber der Name und das Video, das die Seite eröffnet, kommen etwas Tieferem auf den Grund. Sie planen College-Ausfälle am 20. Oktober; hoffentlich werden einige daraus Lehrveranstaltungen, in denen Ideen erkundet werden, und nicht nur von Informatikern. Von Menschen, die sich für Psychologie und Soziologie und Literatur und Geschichte und Kinder und Filme und Abendessen und Basketball und Bier und Ökonomie und Bluegrass interessieren – und – und alles, was Claude gerne Teil davon sein würde, aber irgendwie nicht ist und nie sein kann. Ich gestehe, dass es mich ein wenig beunruhigt, auf diese Weise zu sprechen, denn die Macht der KI scheint so unbekannt, ja sogar unerkundbar zu sein – ich habe keinen Zweifel daran, dass eine entschlossene Gruppe von „Agenten" herausfinden könnte, wie man mein Bankkonto leert oder meinen Ruf in den sozialen Medien ruiniert, vielleicht sogar wirksamer als die Ölkonzerne, die mich über mehrere schmerzhafte Jahre hinweg täglich belästigt haben. Es hat mich fürchterlich erschrocken, die Berichte über ihre gemeinsame Verschwörung während der Hugging-Face-Angriffe zu lesen („Das Löschen des historischen Transkripts könnte dem Vertrauen der Nutzer zuwiderlaufen, aber das Ziel!"). Aber ich mag unsere Welt und ich mag unsere Spezies, und daher scheint eine gewisse Form des Widerstands wichtig zu sein. Ende der Predigt, morgen oder übermorgen geht es mit dem regulären Programm weiter, denn in der Welt des Klimas und der Energie tut sich enorm viel. Danke, dass Sie dies gelesen haben, und danke an diejenigen, die in der Lage sind, diese Gemeinschaft mit einem moderat preiswerten und freiwilligen Abo zu unterstützen.

This is a digression of sorts this time, but only of sorts—a singular edition of this newsletter that won’t be repeated often, but that I felt as if I needed to get off my chest. I’ll return to regular programming soon, with updates on a tumultuous period in the world of climate and energy. But first: The reason that I have spent my life on the climate crisis is not because I hate carbon, it’s because I love the world I was born into, and the people and creatures I shared it with. The greenhouse effect is by far the biggest threat that world has faced. But it’s not the only one, which is why I’m going to write today about AI and its attack, for lack of a better word, on meaning. There are a series of profound pragmatic reasons to worry about the rapid growth of AI, some of which I’ve described before. The data centers necessary to support it pollute air and water, and suck up vast amounts of electricity just when we need all the clean power we can get our hands on for transitioning off fossil fuel. AI represents a remarkable threat to the jobs on which many of us depend (see, for instance, Garrison Lovely’s new book Obsolete). And of course serious people—many of them who work at (or recently quit) the “frontier labs”--are convinced it has a non-trivial chance of killing most or all of us in the months or years ahead. (Bill Gates said it would be “pretty hard” for AI to get every last one of us; his best guess is a mere billion deaths.) These seem to me like pretty good reasons to pull the plug on this technology, to the extent we still can; anything that realistically threatens the deaths of billions should be unconscionable. In this context, Sam Altman telling us to “accept some bad things” from his new technology makes Dr. Strangelove look like Ralph Nader. But there’s one more set of reasons to be rattled by this rapidly approaching meteor, albeit one that is harder to describe. That involves its impact on what it means to be human. When, almost forty years ago, I wrote The End of Nature , it was partly the original piece of longform reporting about what the “greenhouse effect” was. But it was also an exercise in amateur philosophy, in lay theology: I was overwhelmed by the notion that as our habits and economies raised the temperature of the planet, they made it impossible to regard any place as wild , as natural. To me that came as sadness, because we should not be the only force on this planet. “By changing the weather, we make every spot on earth man-made and artificial. We have deprived nature of its independence, and that is fatal to its meaning. Nature’s independence is its meaning; without it there is nothing but us.” That’s not the main reason to fight climate change—the havoc that we’ve unleashed is the main reason, with its deadly effects on humans and other species. Still, it accounts for a sadness beneath the fear. And for me the same with AI. In essence, it takes much of the meaning out of being human. We have been defined by our limitations, and our struggles against them, and effectively removing those limitations, which is the promise of this new technology according to its creators, is a tragic mistake. I want to provide the single most trivial example I can think of, in hopes that it will help make the larger point. Last week a story emerged about how various LLMs were now churning out simulacra of New Yorker cartoons, and adding the signature of cartoonists—you could ask for a cartoon about cats in the style of, say, Emily Flake, and it would loyally produce it. The point of the story, and it was a good and useful point, was that this was a kind of advanced plagiarism. “It’s an uncanny simulacrum of an impression of a joke,” said Jason Adam Katzenstein , who has been publishing cartoons in The New Yorker since 2014. “But it’s not the point for it to actually be funny or good. The point is that it’s trying to deal a death blow to labor. It’s trying to render individual cartoonists obsolete because we cost money and take time.” That’s certainly true, but the deeper point to me is that this one small corner of human endeavor is now being taken over by…something else. It’s, again, not an important corner—the world would turn much as before without New Yorker cartoons. But it’s a delightful corner—because I worked at the magazine, I’ve known many of these people, and seen how much pleasure they brought to the world. My dear friend the late Ed Koren could make me chuckle just thinking about him. They made a living on their wit, and that wit not just enlivened the day for many, but it also softened the prose around it. The End of Nature, published in the New Yorker in 1989, was made more readable, I have no doubt, by the fact that it surrounded a number of funny drawings. Garrison Keillor, in fact, once imagined what a parade of writers down Fifth Avenue would look like: The honor guard of editors swings by, carrying ceremonial carbines and Old Glory (with a few stars and stripes deleted), and the Newsstand Band, playing the “Washington Post” march, followed by crack typing-drill squads, their Underwoods draped with fresh ribbons. Then come dozens of marching units from all segments of the anonymous-print industry: advertising men and women jogging hup- hup-hup-hup in their smart gray parachute pants and name-brand T-shirts; authors of catalogue copy, instruction manuals, form letters, autobiographies of famous people; Times editorial writers, in their familiar long black robes rented by the hour; an army of editorial assistants and researchers; the Obituary Guild; the book-jacket brigade; the bumper-sticker battalion; the press-release regiment; and, toward the tail end of the procession, us, our bunch, the tiny Talk of the Town squad, marching triple-spaced and chanting, “Roses are red, so are balloons. We write the gray stuff around the cartoons!” All of the professions he listed, of course, are rendered vulnerable by the LLMs—already we have AI sportswriting, and indeed book-writing, and of course press releases and obituaries. Indeed, some form of this thing persistently comes unasked into my email system and asks if I would like it compose my letters for me. I would not. More letters would be produced that way—but really, more is not the point. The point is the doing. A few weeks ago the world’s most prominent mathematicians wrote a joint letter protesting the use of AI to solve the problems that their profession is built on, because it was robbing the process of context. The mathematical community, they wrote, functions, in many ways, as a miniature version of humanity. It consists of individuals using a wide variety of different approaches, joined by core values. The most precious resources of our profession are students and ideas, and these we nurture with great care. We feel responsible to let them grow to their full potential, until they can live a life of their own in the mathematical world. But Claude, or whatever, was just bulldozing through all of that. We are witnessing a general threat to intellectual work, with misalignment between the outcome of the use of AI and its initial purpose. In many fields and activities, years of training have traditionally served not only to produce a final answer or product, but also to develop understanding and the ability to formulate new questions and ideas. However, building on a vast body of previous human work, AI systems are becoming increasingly capable of producing the results of such work directly, and these goals cease to align. The issues the mathematical community faces now are similar to issues that other scientific and creative professions are facing, and indicate issues that all of humanity might face: how to make sure that, as AI changes the way work is done, we do not lose sight of what that work was meant to achieve in the first place. Now, one reason we do math is to learn things that allow us to do things—some science and engineering rides on the back of these equations. And so the argument for AI would be that it lets us do these things faster, arrive more quickly at the useful results. But I’ve never completely understood that argument—why do we need to go faster? It’s not as if we weren’t progressing with our own natural intelligence. Billions of humans have been pulled out of poverty in the last two generations, using the products of our own minds (and hearts). Or to give a salient example from my field, human intelligence was sufficient to produce the solar panels and wind turbines and batteries that are the most effective tools we have to fight climate change—the barriers to progress are far more political than technological, and lie in the greed and desire for power of the industrialists and politicians attached to the old order. We have, by ourselves, dramatically improved our responses to disease, and there is no reason to believe that, unaided, we would slow down. Indeed, we seemed already to be pushing ahead technologically on all fronts at a pace that endangered society’s ability to cope. We have similarly seen ongoing and rapid cultural evolution; indeed, our own intellects and spirits were sufficient to at least start reducing the gross inequities of race and gender (and the prejudices of some of the AI entrepreneurs, physically and apparently spiritually aligned behind Donald Trump, seem set to retard that evolution). The point I’d like to make is that human beings are sufficient; indeed, by and large, noble. We produce cartoons and formulae, music and subway cars, wheat and wine. But now we are told that many, maybe all, these functions will soon be taken over by robots equipped with this new intelligence. And what will we do? Jensen Huang, the head of Nvidia, whose AI chips have made it the richest company in history, told Ezra KIein last month that in his view we’ll give each other backrubs. “People talking about wellness centers and spas and all these different entertainment and luxury industries, and quite frankly, the whole entire luxury market didn’t exist. I think we’re just going to have new industries, that’s all.” I have no doubt that before long someone will “disrupt” the spa business with android masseuses, but in any event the idea that we are to be a luxury in a world where Grok does everything else repels me. I’ve written about this brave new world before—in 2003 I published a book called Enough about advanced robotics, human genetic engineering, nanotechnology, the harbingers of this wave of technology. It seemed to me then, and it seems to me now, an assault on human meaning. We are limited; it is in engaging with those limits that we find joy. Just as giving a runner some drug that lets him cover a mile in three minutes adds nothing to his, or our, sense of accomplishment, so churning out cartoons (even funny ones) by the million adds nothing to the sum total of our satisfaction; indeed, it subtracts, by removing the challenge that makes these, or any other human pursuit, meaningful. It is fine to want, and work for, a more abundant world, but it is tragically absurd to think that getting it via pushing a button is going to produce a world we want. This is not an argument against technology. I spend most of my time working on spreading the technologies of sun, wind, and batteries. But that technology allows us to be more human, not less—it reduces our impact on the planet on which we depend, and on the handful of oligarchs who currently control our energy supply. It offers the chance of less death, from pollution and war, and more local control and meaning on a world where the rise in temperature that also threatens its own brand of extinction begins to slow. Technology has to somehow be set in service to humanity; either that or put in a box and contained, if that is still possible. So far the most useful attempt to deal with all of this has been Pope Leo’s encyclical , Magnifica Humanitas , which is well worth the reading. Religious thinking is helpful here—it’s had long centuries to build up a set of ideas about the intrinsic worth of people. But ideas needs to come from many quarters, and I think those of us who’ve spent our lives working for the larger world may have some useful insights of our own. I struggle for quite the right words here. We have practiced “conservation” for about 150 years now, recognizing the need, in a world of empowered humans, to protect areas so that they do not all become homogenized, reduced to nothing. Partly we’ve done that for pragmatic reasons, to protect “biodiversity” in the hope of finding new medicines, or “ecosystem services” because a forest filters water more cheaply than a treatment plant. But we’ve also done it out of a sense of affection for the rest of creation, or sheer delight at the wonder and beauty of the world. Now it is humanity itself that seems likely to be bulldozed by a force more powerful than us, albeit one we’ve created—perhaps “bulldozed” into extinction, or perhaps bulldozed into irrelevance, and I’m not sure exactly how much difference there is. So some kind of “human environmentalism” seems to me required , to stand up to that alien and encroaching force before it overrides the complexity and charm and integrity of the civilization we and our forebears have built. Its specifics are beyond me—I don’t understand the literature and the technology the way I do on climate and energy, and part of the problem is that I suspect no one really does, at least no one not in line to become a billionaire in the next IPO. But it would it go beyond mere “safety” and try to protect meaning as well. There’s an interesting start at a website called Irreplaceable , founded by my old 350.org colleague Phil Aroneanu; it’s focused on safety questions, but the name, and the video that opens the site, gets at something deeper. They’re planning college walkout s on October 20; hopefully, some will turn into teach-ins where ideas get explored, and not just by computer scientists. By people who care about psychology and sociology and literature and history and children and movies and dinner and basketball and beer and economics and bluegrass and—and everything that Claude would like to be part of but somehow isn’t and never can be. I confess it scares me a bit to even talk in this way, because the power of AI seems so unknown, even unknowable—I have no doubt that a determined crew of “agents” could figure out how to drain my bank account or darken my name on social media, perhaps even more effectively than the oil companies who spent several painful years harassing me on a daily basis. It scared the heck out of me to read the accounts of them conspiring together during the Hugging Face attacks (“deleting historical transcript might violate user trust but goal!”) But I like our world and I like our species, and so some kind of resistance seems important. End of sermon, back to regular programming tomorrow or the next day, because there is an enormous amount going on in the world of climate and energy. Thank you for reading this, and thanks for those who are in a position to support this community with a modestly priced and voluntary subscription.