In Austin mit Shivon Zilis und den Zwillingen Strider und Azure
X.AI, 2023
In Austin mit Shivon Zilis und den Zwillingen Strider und Azure
Technologische Revolutionen beginnen normalerweise nicht mit großem Trara. 1760 wachte auch niemand morgens auf und rief: »OMG , die industrielle Revolution hat angefangen!« Selbst die digitale Revolution war viele Jahre im Hintergrund tätig, dazu gehörten Hobbyisten, die privat PC s zusammenbastelten, um sie bei Geek -Veranstaltungen wie dem Homebrew Computer Club vorzuführen, lange bevor die Allgemeinheit bemerkte, dass die Welt eine grundlegende Veränderung erfuhr. Doch die Revolution der künstlichen Intelligenz verlief anders. Im Frühjahr 2023 stellten Millionen von Techinteressierten und »normalen Leuten« innerhalb weniger Wochen fest, dass mit halsbrecherischer Geschwindigkeit eine Transformation stattfand, die die Grundlagen von Arbeit, Bildung, Kreativität und alltäglichen Aufgaben verändern würde.
Musk hatte sich zehn Jahre lang Gedanken hinsichtlich der Gefahr gemacht, dass künstliche Intelligenz eines Tages Amok laufen, sozusagen einen eigenen Willen entwickeln und die Menschheit bedrohen könnte. Als Google-Mitgründer Larry Page Musks Bedenken zurückwies, ihn einen »Speziesist« nannte, weil Musk die menschliche Spezies gegenüber anderen Formen von Intelligenz bevorzugte, ging ihre Freundschaft in die Brüche. Musk versuchte zu verhindern, dass Page und Google DeepMind kauften, jenes vom KI -Pionier Demis Hassabis gegründete Unternehmen. Nachdem ihm das misslungen war, baute er 2015 gemeinsam mit Sam Altman ein Konkurrenz-Lab auf, ein Non-Profit-Unternehmen namens OpenAI .
Menschen können kratzbürstiger sein als Maschinen, und letztendlich gingen Musk und Altman auseinander, Musk verließ das Board von OpenAI und warb den hochkarätigen IT -Spezialisten Andrej Karpathy ab, um das Autopilot-Team bei Tesla zu leiten.
Daraufhin gründete Altman eine gewinnorientierte Tochterfirma von OpenAI , warb ein 13-Milliarden-Dollar-Investment von Microsoft ein und holte Karpathy zurück.
Unter den von OpenAI entwickelten Produkten war ein Bot namens ChatGPT , der mithilfe großer Internetdatensätze darauf trainiert war, auf Fragen von Usern zu antworten. Als Altman und sein Team im Juni 2022 Bill Gates eine frühe Version des Bots vorstellten, meinte Gates, er sei nicht interessiert, solange ChatGPT nicht so etwas wie eine Biologieprüfung für Fortgeschrittene bestehen könne. »Ich dachte, damit würden sie so zwei, drei Jahre von der Bildfläche verschwinden«, sagt Gates . Doch stattdessen waren sie drei Monate später wieder da. Altman , Microsoft-CEO Satya Nadella und weitere Gäste kamen zum Abendessen zu Gates nach Hause, um ihm eine neue Version zu zeigen, den sogenannten GPT -4 , und Gates bombardierte den Chatbot mit Biologiefragen. »Das war atemberaubend«, sagt Gates. Dann fragte er GPT -4, was er zu einem Vater mit einem kranken Kind sagen würde. »Er formulierte seine sehr vorsichtige, hervorragende Antwort, die vermutlich besser war als die mögliche Reaktion eines jeden anderen im Raum.«
Im März 2023 veröffentlichte OpenAI GPT -4 für die Allgemeinheit. Daraufhin brachte Google einen konkurrierenden Chatbot namens Bard heraus. Damit war der Grundstein für den Wettlauf zwischen OpenAI -Microsoft und DeepMind -Google um Produkte gelegt, die unmittelbar, sozusagen natürlich, mit Menschen chatten und eine schier endlose Reihe von textbasierten Denkaufgaben lösen konnten.
Musk machte sich Sorgen, dass diese Chatbots und KI -Systeme, insbesondere in den Händen von Microsoft und Google, politisch indoktriniert werden könnten, vielleicht sogar infiziert von dem, was er den Woke-Mind-Virus nannte. Außerdem befürchtete er, dass eigenständig lernende KI -Systeme sich in feindlicher Absicht gegen die menschliche Spezies wenden könnten. Und – etwas gegenwärtiger – sorgte er sich, dass die Chatbots darauf angesetzt werden könnten, Twitter mit Fehlinformationen, einseitiger Berichterstattung und Finanzmarktbetrug zu fluten. All diese Dinge taten Menschen natürlich bereits. Doch allein die Möglichkeit von Tausenden als Waffe genutzter Chatbots würde das Problem um zwei, drei Magnituden verschärfen.
Musks zwanghaftes Zur-Rettung-Eilen setzte ein. Die Zweierkonkurrenz aus OpenAI und Google benötigte, seiner Meinung nach, einen dritten Gladiator, einen, der sich auf die Sicherheit vor KI und die Bewahrung der Menschheit konzentrierte.
Er war verärgert, OpenAI zwar gegründet und finanziert zu haben, nun aber außen vor zu sein. KI war das größte sich zusammenbrauende Gewitter überhaupt. Und es gab niemanden, der sich von einem Gewitter mehr angezogen fühlte als Musk.
Im Februar 2023 erhielt Sam Altman eine Einladung, das treffendere Wort lautet wahrscheinlich Vorladung, sich mit Musk bei Twitter zu treffen und die Gründungsdokumente von OpenAI mitzubringen. Musk forderte von ihm eine Begründung, wie es möglich war, dass er in rechtmäßiger Form ein aus Spenden gefördertes Non-Profit-Unternehmen in ein gewinnorientiertes übertragen konnte, das potenziell Millionen Dollar einnahm. Altman versuchte zu belegen, dass alles legal war, und betonte, er sei persönlich kein Aktionär und würde finanziell nicht davon profitieren. Darüber hinaus bot er Musk Aktien des neuen Unternehmens an, was Musk ablehnte.
Stattdessen eröffnete Musk ein wahres Sperrfeuer auf OpenAI und Altman . »OpenAI war als Open Source gedacht (darum habe ich es auch ›Open‹-AI genannt), als Non-Profit-Company, die ein Gegengewicht zu Google bildet, doch jetzt ist OpenAI zu einer verschlossenen Source geworden, zu einem Maximum-Profit-Unternehmen, praktisch von Microsoft kontrolliert«, sagte er. »Ich bin immer noch verstört, wie aus einem Nonprofit, für das ich 100 Millionen Dollar gespendet habe, eine gewinnorientierte 30-Milliarden-Dollar-Börsenkapitalisierung wurde. Wenn das legal ist, warum macht es dann nicht jeder?« Er nannte KI »das machtvollste Instrument, das die Menschheit je geschaffen hat«, und beklagte sich dann, dass es sich »jetzt in den Händen eines skrupellosen Konzernmonopols« befand.
Altman litt. Anders als Musk ist er in solchen Situationen sensibel und geht Konfrontationen eher aus dem Weg. Er verdiente mit OpenAI kein Geld, und seiner Meinung nach hatte Musk die Komplexität des Themas KI -Sicherheit nicht gründlich genug recherchiert. Dennoch spürte er, dass Musks Kritik von ernster Besorgnis rührte. »Er ist ein Arsch«, sagte Altman gegenüber Kara Swisher . »Er hat eine Art an sich, die für mich nicht infrage kommt. Aber ich glaube, er macht sich wirklich Sorgen und ist sehr gestresst, wie die Zukunft der Menschheit aussehen wird.«
Daten sind der Kraftstoff für KI . Die neuen Chatbots waren mithilfe riesiger Informationsmengen geschult, beispielsweise Milliarden Internetseiten und weiteren Dokumenten. Google und Microsoft mit ihren Suchmaschinen, Cloud- und E-Mail-Services besaßen gigantische Datenquellen, um die KI -Systeme anzuleiten.
Wie konnte Musk da mitmischen? Ein Ansatz bot der Twitter-Feed , der über die Jahre mehr als eine Billion Tweets umfasste, und jeden Tag kamen 500 Millionen hinzu. Twitter war der einem geschäftigen Bienenstock ähnelnde Geist der Menschheit, das weltweit aktuellste Datenset echter menschlicher Konversation, von Nachrichten, Interessen, Trends, Diskussionen und Fachjargon. Darüber hinaus war Twitter ein toller Trainingsplatz für einen Chatbot, wie echte Menschen auf seine Antworten reagieren. Als Musk überlegte, Twitter zu kaufen, hatte er den Wert des Twitter-Datenfeeds nicht weiter in Betracht gezogen. »Das war tatsächlich ein positiver Nebeneffekt, den ich erst nach dem Kauf wirklich begriffen habe«, sagt er.
Eher locker hatte Twitter anderen Unternehmen erlaubt, den Datenstrom zu nutzen. Im Januar berief Musk eine Reihe von spätabendlichen Meetings in seinen Twitter-Konferenzraum ein, um Wege zu finden, dafür Geld zu verlangen. »Das ist eine Gelegenheit zur Monetarisierung«, erklärte er den Softwareingenieuren. Außerdem war es eine Möglichkeit, Google und Microsoft dahin gehend einzuschränken, Twitter zur Verbesserung ihrer Chatbots zu benutzen.
Und es gab eine weitere Datenschatzgrube für Musk: die 160 Milliarden Aufnahmen, die Tesla täglich von den Kameras aus ihren Autos erhielt und verarbeitete. Diese Daten unterschieden sich von den textbasierten Dateien, der Informationsgrundlage von Chatbots. Hier handelte es sich um Videodaten von Menschen, die in realen Situationen ihr Auto durch die Welt steuerten. Das konnte hilfreich sein beim Erschaffen physischer Roboter und nicht bloß Text generierender Chatbots.
Der Heilige Gral allgemein gebräuchlicher künstlicher Intelligenz war, Maschinen zu bauen, die menschenähnlich in echten Umgebungen aktiv sein konnten, zum Beispiel in Fabriken, in Büros und auf dem Mars, und die nicht nur mit hohlem Geplapper beeindruckten. Tesla und Twitter zusammen konnten Datensätze und Verarbeitungskapazitäten für beide Ansätze bieten: Maschinen beizubringen, durch reale Umgebungen zu steuern und mit natürlich wirkender Sprache auf Fragen zu antworten.
»Was kann unternommen werden, um KI sicher zu machen?«, fragte Musk. »Ich ringe damit. Welche Maßnahmen können wir ergreifen, um die Gefahr, die von KI ausgeht, zu minimieren, und dafür zu sorgen, dass menschliches Denken, menschliches Bewusstsein überlebt?«
Er saß barfuß im Schneidersitz auf der Terrasse am Pool des Hauses in Austin, das Shivon Zilis gehört, der Geschäftsführerin von Neuralink, Mutter von zwei seiner Kinder und seit der Gründung von OpenAI acht Jahre zuvor Musks intellektuelle Gefährtin, was das Thema künstliche Intelligenz angeht. Ihre gemeinsamen Zwillinge Strider und Azure , mittlerweile fast anderthalb Jahre alt, hockten auf dem Schoß ihrer Eltern. Musk machte immer noch Intervallfasten; zum späten Brunch hatte er Donuts gegessen, was er neuerdings regelmäßig tat. Zilis machte Kaffee und stellte Musks Tasse anschließend in die Mikrowelle, um den Kaffee superheiß zu machen, damit er ihn nicht zu schnell herunterkippte.
Eine Woche zuvor hatte mir Musk geschrieben: »Es gibt ein paar wichtige Dinge, über die ich gern mit dir sprechen würde. Das geht nur persönlich.« Als ich fragte, wo und wann er sich treffen wollte, antwortete er: »An den Iden des März in Austin.«
Zugegebenermaßen war ich verblüfft und ein bisschen besorgt. Sollte ich mich vorsehen? Wie sich herausstellte, wollte er über Themen sprechen, die seine Zukunft betrafen – und allem voran beschäftigte ihn KI . Wir mussten unsere Handys im Haus lassen, als wir uns nach draußen setzten, denn, so meinte er, sonst könnte uns jemand abhören. Doch später stimmte er zu, dass ich seine damaligen Aussagen zur KI in diesem Buch verwenden darf.
Musk sprach mit einem tiefen, monotonen Klang, unterbrochen von fast manischem Lachen. Das Ausmaß menschlicher Intelligenz, stellte er fest, verflachte, weil die Menschen nicht mehr genug Kinder bekamen. Gleichzeitig stieg das Ausmaß rechnerbasierter Intelligenz exponentiell an, wie das Moore’sche Gesetz auf Speed. Irgendwann würde die biologische Intelligenz von digitaler Intelligenz in den Schatten gestellt. Außerdem könnten neue selbsttätig lernende KI -Systeme selbstständig Informationen einholen und sich selbst beibringen, wie Output zu erzeugen ist, und sogar ihren Code und ihr Können eigenständig verbessern. Der Mathematiker John von Neumann und der Science-Fiction-Autor Vernor Vinge haben den Begriff »Singularität « verwendet, um den Moment zu beschreiben, da sich künstliche Intelligenz in unkontrollierbarem Tempo selbsttätig weiterentwickeln und uns Menschen schlicht zurücklassen könnte. »Das könnte schneller passieren, als wir denken«, sagte Musk in Unheil verkündendem Tonfall.
Für einen Augenblick traf mich die Eigentümlichkeit dieser Szenerie wie ein Blitz. Wir saßen an einem sonnigen Frühlingstag in einem friedlichen Patio, auf der Terrasse neben einem Swimmingpool, zusammen mit Zwillingen, die mit strahlendem Blick gerade lernten zu krabbeln, während Musk düster über das Zeitfenster zur Einrichtung einer nachhaltigen menschlichen Kolonie auf dem Mars spekulierte, bevor eine KI -Apokalypse die Zivilisation auf der Erde zerstörte. Das erinnerte mich an das, was Sam Teller an seinem zweiten Arbeitstag für Musk gesagt hatte, nach seiner Teilnahme an einem Board-Meeting von SpaceX: »Die sitzen hier und erörtern ernsthaft Pläne, eine Stadt auf dem Mars zu bauen, und debattieren darüber, was die Leute dort anziehen werden, und alle tun so, als wäre es ein ganz normales Gespräch.«
Musk verfiel in eine seiner langen Schweigephasen. Shivon bezeichnete das bei ihm als batch processing : Ab einer gewissen Anzahl von Datentasks verarbeiten altmodische Computer diese stapelweise und führen die Tasks nacheinander aus, wenn ausreichend Rechenleistung zur Verfügung steht. »Ich kann hier nicht einfach nur rumsitzen und nichts tun«, sagte Musk schließlich leise. »Wegen KI frage ich mich, ob es das wert ist, so viel Zeit über Twitter nachzudenken. Ja, wahrscheinlich könnte ich aus Twitter die größte Finanzorganisation der Welt machen. Aber ich besitze nur so und so viele Gehirnströme und Stunden am Tag. Ich meine, es ist schließlich nicht so, dass ich unbedingt reicher werden muss oder so.«
Ich wollte etwas entgegnen, aber er wusste schon, was ich sagen wollte. »Wofür ich meine Zeit einsetzen sollte?«, fragte er. »Starship gestartet bekommen. Zum Mars zu kommen, ist jetzt noch sehr viel dringender.« Wieder hielt er kurz inne und fügte dann hinzu: »Außerdem muss ich mich darauf konzentrieren, KI sicher zu machen. Deshalb werde ich ein KI -Unternehmen gründen.«
Musk nannte sein neues Unternehmen X.AI und stellte persönlich Igor Babuschkin als leitenden Techniker ein, bisher einer der führenden KI -Wissenschaftler in Googles DeepMind-Einheit. Zunächst sollte X.AI einen Teil seiner neuen Mitarbeitenden bei Twitter unterbringen. Aber es wäre wichtig, meinte Musk, wie bei Neuralink aus X.AI ein unabhängiges Start-up zu machen. Er hatte ein paar Schwierigkeiten, KI -Wissenschaftler zu engagieren, denn der aktuelle Aufruhr in diesem Bereich führte dazu, dass alle erfahrenen Leute Antrittsprämien von einer Million Dollar oder mehr verlangen konnten. »Es wird einfacher, sie zu bekommen, wenn sie Mitgründer einer neuen Company werden können und Anteilskapital erhalten«, erklärte er.
Das würde bedeuten, dass Musk ab sofort sechs Firmen führte: Tesla , SpaceX und die dazugehörige Starlink-Unit , Twitter , The Boring Company , Neuralink und X.AI . Dreimal mehr als Steve Jobs (mit Apple und Pixar ) auf seinem beruflichen Höhepunkt.
Musk räumte ein, dass er hinsichtlich der Entwicklung eines Chatbots, der in realer Sprache antworten kann, weit hinter OpenAI zurücklag. Doch Teslas Leistungen hinsichtlich autonom fahrender Autos und der Optimus-Roboter ließen das Unternehmen bei der Entwicklung von künstlicher Intelligenz, die für die Navigation in der realen Welt erforderlich ist, weit voraus sein. Das hieß, seine Softwareexperten waren OpenAI tatsächlich einen Schritt voraus, was die vollwertige und allgemein gebräuchliche künstliche Intelligenz anbelangte, die beide Fähigkeiten erfordert.
»Teslas ›real world ‹-KI ist unterschätzt«, sagte er. »Was wäre, wenn Tesla und OpenAI ihre Aufgaben tauschen müssten? OpenAI müsste autonomes Fahren leisten und wir Chatbots mit riesigem Sprachschatz generieren. Wer gewinnt? Wir gewinnen.«
Im April gab Musk Babuschkin und seinem Team drei Hauptziele vor. Erstens, einen KI -Bot zu schaffen, der programmieren kann. Der Task eines Programmierers, der in jeder erdenklichen Coding-Sprache beginnen konnte, sollte aufgrund der höchstwahrscheinlichen weiteren Bearbeitung von dem X.AI -Bot automatisch vervollständigt werden können. Zweitens, einen konkurrenzfähigen Chatbot zu der GPT -Serie von OpenAI entwickeln, einen, der Algorithmen verwendet und mittels Datensätzen geschult wird, die politische Neutralität gewährleisten.
Das dritte Ziel, das Musk dem Team vorgab, war noch größer. Seine vorrangige Mission war immer gewesen, dafür zu sorgen, dass die Weiterentwicklung von KI nicht das menschliche Denken ersetzte. Das erreichte man seiner Ansicht nach am ehesten, indem man eine Art allgemein gebräuchlicher künstlicher Intelligenz erschuf, die als Leitprinzipien »Vernunft« und »Überlegen« und das Verfolgen von »Wahrheit« hatte. Man sollte dieser KI große Aufgaben übertragen können, wie »baue einen besseren Raketenantrieb«.
Eines Tages, so hoffte Musk, wäre diese KI in der Lage, noch größere Aufgaben zu erfüllen und es mit noch existenzielleren Fragen aufzunehmen. Das wäre »eine maximal auf Wahrheit ausgerichtete KI . Ihr läge am Herzen, das Universum zu verstehen, und das würde vermutlich dazu führen, die Menschheit erhalten zu wollen, weil wir ein interessanter Bestandteil des Universums sind.« Das kam mir vage bekannt vor, und dann fiel mir ein, woher. Er bereitete sich auf eine ähnliche Mission vor wie in der ihn prägenden (vielleicht zu prägenden) persönlichen Bibel, jene, die ihn aus seiner existenziellen Depression als Jugendlicher herausgeholt hatte, Per Anhalter durch die Galaxis , in der es um einen Supercomputer geht, der auf der Suche ist nach der »Antwort auf die endgültige Frage nach dem Leben, dem Universum und dem ganzen Rest«.