Rodney Brooks
Vorstand Rethink Robotics
Rodney Brooks ist weltweit anerkannter Robotikingenieur. Brooks ist Mitbegründer von iRobot Corporation, dem Branchenführer sowohl bei Endkundenprodukten (bekannt ist vor allem der Staubsaugerroboter Roomba) als auch bei militärischen Robotern, die beispielsweise im Irakkrieg zum Entschärfen von Bomben eingesetzt wurden (die militärische Abteilung von iRobot wurde 2016 veräußert). 2008 war Brooks Mitbegründer eines neuen Unternehmens, Rethink Robotics, das sich auf flexible Fertigungsroboter konzen-triert, die mit menschlichen Arbeitern auf sichere Weise zusammenarbeiten können.
![[Bild]](Images/RodneyBrooks.jpg)
Wir haben nichts vorzuweisen, was einem Insekt auch nur nahekommt, deshalb mache ich mir keine Sorgen, dass es in absehbarer Zeit eine Superintelligenz geben wird.
Martin Ford: Während Sie am MIT waren, haben Sie das Unternehmen iRobot gegründet, das jetzt einer der weltweit größten Hersteller von kommerziellen Robotern ist. Wie kam es dazu?
Rodney Brooks: Ich habe iRobot zusammen mit Colin Angle und Helen Greiner gegründet, das war 1990. Bei iRobot hatten wir eine Serie von 14 erfolglosen kommerziellen Modellen, erfolgreiche gab es erst 2002. Wir haben damals in einem Jahr zwei erfolgreiche Modelle entwickelt. Das eine war ein Roboter für das Militär, der in Afghanistan eingesetzt wurde, um in Höhlen zu fahren und Aufklärung zu betreiben. Während des Afghanistan- und des Irak-Konflikts wurden rund 6.500 dieser Modelle dazu eingesetzt, an Straßenrändern versteckte Sprengsätze zu beseitigen.
Zur gleichen Zeit, also 2002, brachten wir den Roomba auf den Markt, einen Staubsaugerroboter. 2017 konnte das Unternehmen einen Jahresumsatz von 884 Millionen Dollar erwirtschaften. Seit der Gründung wurden mehr als 20 Millionen Geräte ausgeliefert. Man kann also sagen, dass der Roomba hinsichtlich der Verkaufszahlen der erfolgreichste Roboter aller Zeiten ist. Das Gerät basiert auf einer Intelligenz auf Insekten-Niveau, die ich um 1984 am MIT entwickelt hatte.
Als ich das MIT 2010 verließ, habe ich mich von dort vollkommen zurückgezogen und ein neues Unternehmen gegründet, Rethink Robotics, wo wir Roboter entwickeln, die weltweit in Fabriken eingesetzt werden. Wir haben bis heute Tausende davon ausgeliefert. Sie unterscheiden sich von normalen Industrierobotern dadurch, dass man sich völlig gefahrlos in ihrer Nähe aufhalten kann. Sie müssen nicht durch ein Gitter abgeschirmt werden, und man kann ihnen zeigen, welche Aufgabe sie erledigen sollen.
Bei der neuesten Version der Software, die wir verwenden, Intera 5, schreibt der Roboter tatsächlich ein Programm, wenn man ihm zeigt, was er tun soll. Dabei handelt es sich um ein grafisches Programm, das einen Verhaltensbaum repräsentiert, den man bei Bedarf modifizieren kann, aber das ist nicht unbedingt erforderlich. Seitdem es diese Roboter gibt, wollten andere Unternehmen in der Lage sein, auf die Robotersteuerung zuzugreifen und genau abzustimmen, was der Roboter macht, nachdem ihm gezeigt worden ist, was er tun soll, ohne dass man die zugrunde liegenden Repräsentationen kennen muss. Die Roboter verwenden Kraftsensoren und Kameras und können in normalen Umgebungen, in denen sich Menschen aufhalten, betrieben werden – rund um die Uhr, sieben Tage die Woche, 365 Tage im Jahr, überall auf der Welt. Ich bin mir sicher, dass es die fortschrittlichsten KI-Roboter sind, die in Serie gefertigt werden.
Martin Ford: Wie sind Sie zur Speerspitze der Robotik und der KI gelangt? Wo fängt Ihre Geschichte an?
Rodney Brooks: Ich bin in Adelaide in Südaustralien aufgewachsen. 1962 entdeckte meine Mutter zwei Exemplare der amerikanischen How and Why Wonder Books (dem US-Pendant zu der Sachbuchreihe Was ist was) mit den Titeln Electricity (Elektrizität) und Robots and Electronic Brains (Roboter und Elektronengehirne). Ich wurde regelrecht süchtig danach. Den Rest meiner Kindheit habe ich damit verbracht, das, was ich aus den Büchern erfahren hatte, genauer zu erkunden, und ich habe versucht, intelligente Computer zu basteln und schließlich Roboter zu entwickeln.
Ich habe dann einen Abschluss im Grundstudium in Mathematik gemacht und angefangen, eine Doktorarbeit über Künstliche Intelligenz zu schreiben. Allerdings musste ich feststellen, dass es in Australien gar keine Fakultät für Informatik und keine KI-Forscher gab. Also bewarb ich mich an den Instituten, von denen ich wusste, dass sie KI-Forschung betreiben: MIT (Massachusetts Institute of Technology), Carnegie Mellon (Pittsburgh, USA) und Stanford University. Das MIT sagte ab, aber von Carnegie Mellon und Stanford erhielt ich 1977 Zusagen. Ich habe mich für Stanford entschieden, weil es näher an Australien liegt.
Meine Doktorarbeit in Stanford habe ich bei Tom Binford über Computer Vision geschrieben. Anschließend war ich als Postdoc erst an der Carnegie Mellon University und später am MIT tätig. 1983 schließlich ging ich wieder nach Stanford und wurde dort Fakultätsmitglied mit Aussicht auf eine Festanstellung. 1984 ging ich zurück ans MIT, wo ich 26 Jahre bleiben sollte.
Als Postdoc am MIT hatte ich angefangen, mehr an intelligenten Robotern zu arbeiten. Als ich dann 1984 ans MIT zurückkehrte, fiel mir auf, wie wenige Fortschritte wir bei der Modellierung der Wahrnehmung von Robotern gemacht hatten. Ich habe mich von Insekten inspirieren lassen, die mit Hunderttausend Neuronen um Größenordnungen besser waren als jeder Roboter. Ich habe dann versucht, Intelligenz anhand von Insekten zu modellieren. Damit habe ich mich die nächsten paar Jahre befasst.
Dann habe ich das von Marvin Minsky gegründete KI-Lab am MIT geleitet. Das wurde später mit dem Informatik-Lab vereint und wurde zum CSAIL, dem Computer Science and Artificial Intelligence Lab, das auch heute noch das größte Lab am MIT ist.
Martin Ford: Wenn Sie auf Ihre Laufbahn mit Robotern und KI zurückblicken, was war der Höhepunkt?
Rodney Brooks: Ich bin besonders stolz auf das, was kurz nach dem Erdbeben in Japan mit dem nachfolgendem Tsunami, der die Nuklearkatastrophe von Fukushima auslöste, im März 2011 geschehen ist. Etwa eine Woche nach dem Vorfall hörten wir davon, dass die japanischen Behörden große Schwierigkeiten hatten, mit Robotern in das Kraftwerk vorzudringen, um herauszufinden, was dort vor sich geht. Ich war damals noch bei iRobot, und wir lieferten innerhalb von 48 Stunden sechs Roboter nach Fukushima und wiesen das Technikerteam der Betreiberfirma in die Verwendung der Roboter ein. Sie wussten es sehr zu schätzen, dass unsere Roboter das Herunterfahren des Reaktors ermöglichten, weil sie Dinge erledigen konnten, die sie allein nicht hätten vollbringen können.
Martin Ford: An diese Geschichte aus Japan kann ich mich erinnern. Ich war etwas überrascht, weil Japan eigentlich in der Robotik als führend gilt, aber dennoch mussten sie sich an Sie wenden, um gut funktionierende Roboter zu bekommen.
Rodney Brooks: Ich glaube, hieraus kann man eine Lehre ziehen, nämlich dass die Presse die Roboter als viel leistungsfähiger dargestellt hat, als sie es tatsächlich sind. Alle dachten, dass Japan über enorme Fähigkeiten im Bereich Robotik verfügt, dabei taten sich insbesondere ein oder zwei Autohersteller hervor, die zwar tatsächlich tolle Videos vorweisen konnten, die allerdings nichts mit der Realität zu tun hatten.
Unsere Roboter hatte man bereits seit neun Jahren täglich tausendfach in Kriegsgebieten eingesetzt. Sie waren nicht spektakulär, und die KI-Fähigkeiten wurden als praktisch nicht vorhanden abgetan, aber das ist die Realität dessen, was heutzutage real und anwendbar ist. Ich habe den Leuten immer wieder gesagt, dass sie sich täuschen lassen, wenn sie Videos sehen und glauben, dass fantastische Dinge praktisch vor der Tür stehen, oder dass es morgen Massenarbeitslosigkeit gibt, weil Roboter alle unsere Jobs übernehmen.
Bei Rethink Robotics sagen wir: Wenn es vor 30 Jahren noch keinen Prototypen gab, dann ist es zu früh, zu glauben, dass wir jetzt ein marktreifes Produkt daraus machen können. So lange dauert es, aus einem Prototypen ein serienreifes Produkt zu machen. Das trifft mit Sicherheit auf autonomes Fahren zu – selbstfahrende Autos sind in aller Munde. Aber die Menschen übersehen, dass das erste selbstfahrende Auto schon 1987 in der Nähe von München auf einer Autobahn 20 Kilometer weit mit einer Geschwindigkeit von 100 Stundenkilometern gefahren ist. 1995 fuhr das erste Mal ein Auto ohne Hand am Steuer und ohne Bedienung der Pedale quer durch die USA (No Hands across America). Wird es also morgen serienmäßig produzierte selbstfahrende Autos geben? Nein. Es dauert sehr, sehr lange so etwas zu entwickeln, und ich denke, die Menschen überschätzen noch immer, wie schnell diese neue Technologie zum Einsatz kommen wird.
Martin Ford: Für mich hört sich das so an, als ob Sie Ray Kurzweils »Gesetz der sich beschleunigenden Gewinne« keinen Glauben schenken, also der Vorstellung, dass sich alles immer schneller weiterentwickelt. Ich habe den Eindruck, dass Sie glauben, dass sich alles in gleichmäßigem Tempo entwickelt?
Rodney Brooks: Deep Learning hat Fantastisches geleistet, und Menschen, die dem Fachgebiet fremd sind, sehen sich das an und sagen »Wow!«. Wir sind an exponentielles Wachstum gewöhnt, weil es das Moore’sche Gesetz gab, aber das gilt allmählich nicht mehr, weil es nicht länger möglich ist, die Integrationsdichte zu verdoppeln. Das wird zu einer Renaissance der Computerarchitektur führen. Vor 50 Jahren konnte man es sich nicht erlauben, etwas Außergewöhnliches auszuprobieren, weil man nur wegen des Moore’schen Gesetzes sofort überholt wurde. Jetzt blüht die Computerarchitektur wieder auf, und ich glaube, sie wird ein goldenes Zeitalter erleben, weil das Moore’sche Gesetz nicht mehr gilt. Das wird Ray Kurzweil und Leute, die exponentielles Wachstum erlebt haben und glauben, dass alles exponentiell wächst, nicht freuen.
Manche Dinge entwickeln sich exponentiell, aber nicht alle. In Gordon Moores Arbeit The Future of Integrated Electronics aus dem Jahr 1965, aus der das Moore’sche Gesetz stammt, geht es im letzten Teil darum, wofür das Gesetz nicht gilt. Moore schreibt, es sei beispielsweise nicht auf Energiespeicher anwendbar, weil es dabei nicht um die Informationsabstraktion von Nullen und Einsen geht, sondern um physische Eigenschaften.
Betrachten Sie als Beispiel Greentech (umweltfreundliche Technologie). Vor einem Jahrzehnt haben sich Risikokapitalgeber im Silicon Valley die Finger verbrannt, weil sie dachten, Moores Gesetz ist allgemeingültig und auch auf Greentech anwendbar. Aber so funktioniert es nicht. Greentech beruht auf Masse und auf Energie; man kann das nicht einfach physisch halbieren und erwarten, dass der gleiche Informationsgehalt vorhanden ist.
Ich komme zurück auf Deep Learning. Weil es dann und wann Verbesserungen gab, glauben die Leute, dass es immer so weiter geht. Der für Deep Learning grundlegende Backpropagation-Algorithmus wurde in den 1980er-Jahren entwickelt. Und die damaligen Entwickler haben es nach 30 Jahren Arbeit geschafft, dass er fantastisch funktioniert. In den 1980er- und 1990er-Jahren hatte man Backpropagation schon weitgehend abgeschrieben, weil es keinen Fortschritt gab, aber gleichzeitig wurden auch Hundert andere Dinge abgeschrieben. Niemand hat vorhergesagt, welches der Hundert Dinge wiederaufleben würde. Es sollte eben Backpropagation sein, zusammen mit einigen anderen Dingen, wie Clamping (das Festsetzen von einzelnen Neuronenwerten), mehr Schichten und sehr viel mehr Berechnungen, und es stellte sich als großartig heraus. Man hätte niemals voraussagen können, dass Backpropagation und nicht eins der anderen 99 Dinge das Rennen macht. Das war in keiner Weise zwangsläufig.
Deep Learning hat großen Erfolg gehabt und wird weiter Erfolg haben, aber es wird nicht immer so weitergehen, dass die Erfolge größer werden. Es gibt Grenzen. Ray Kurzweil wird sein Bewusstsein in absehbarer Zeit nicht in die Cloud hochladen. So funktionieren biologische Systeme nicht. Deep Learning wird einiges leisten, aber biologische Systeme beruhen nicht nur auf einem Algorithmus, sondern auf Hunderten. Wir werden Hunderte weitere Algorithmen benötigen, bevor wir einen solchen Fortschritt erzielen, und wir können nicht vorhersagen, wann es soweit sein wird. Jedes Mal, wenn ich Kurzweil treffe, erinnere ich ihn daran, dass er sterben wird.
Martin Ford: Das ist gemein.
Rodney Brooks: Ich werde auch sterben. Daran habe ich keinen Zweifel, aber er mag es nicht, wenn man darauf hinweist, weil er einer dieser Anhänger der »Religion der Technologie« ist. Davon gibt es verschiedene Varianten. Es gibt diese Unternehmen, die das Leben verlängern wollen, die von irgendwelchen Milliardären aus dem Silicon Valley gegründet wurden. Dann gibt es die Leute, die ihr Bewusstsein auf einem Computer speichern wollen, so wie Ray Kurzweil. Ich glaube, dass wir noch einige Jahrhunderte lang sterblich sein werden.
Martin Ford: Dem stimme ich tendenziell zu. Sie haben selbstfahrende Autos erwähnt, deshalb möchte ich Sie fragen, wie bald Sie das kommen sehen. Google betreibt in Arizona angeblich schon Autos ohne Fahrer.
Rodney Brooks: Dazu sind mir keine Einzelheiten bekannt, aber es hat sehr viel länger gedauert, als alle angenommen haben. Mountain View (in Kalifornien) und Phoenix (in Arizona) sind Städte, die sich zu sehr von den übrigen USA unterscheiden. Vielleicht werden wir dort ein paar Demos sehen, aber es wird noch einige Jahre dauern, bis es einen automatischen Fahrdienst gibt, der auch nur im Entferntesten profitabel ist. Mit profitabel meine ich, Geld ungefähr genauso schnell zu verdienen, wie Uber Geld verliert – das waren im letzten Jahr 4,5 Milliarden Dollar.
Martin Ford: Weil Uber mit jeder Fahrt Geld verliert, ist die allgemeine Meinung, dass dieses Geschäftsmodell nicht nachhaltig ist, wenn Uber nicht auf selbstfahrende Autos umstellt.
Rodney Brooks: Ich habe erst heute Morgen einen Bericht gesehen, in dem es hieß, dass der mittlere Stundenlohn eines Uber-Fahrers 3,57 Dollar beträgt. Sie verlieren also immer noch Geld. Das ist keine große Gewinnspanne. Die kann man loswerden und die teuren Sensoren einsetzen, die für autonomes Fahren erforderlich sind. Wir haben noch nicht einmal herausgefunden, was die praktische Lösung für selbstfahrende Autos sein soll. Die Autos von Google haben auf dem Dach einen Haufen kostspieliger Sensoren. Tesla hat versucht, nur mit eingebauten Kameras auszukommen und ist damit gescheitert. Es wird zweifelsohne einige beeindruckende Demonstrationen geben, aber die werden frisiert sein. Wir haben das bei den japanischen Robotern schon erlebt, die Demonstrationen waren geschönt, außerordentlich geschönt.
Martin Ford: Meinen Sie damit gefälscht?
Rodney Brooks: Nicht gefälscht, aber da gibt es eine Menge Sachen hinter den Kulissen, die man nicht sieht. Man zieht Schlüsse aus dem Gezeigten oder generalisiert, aber es ist schlicht und einfach nicht die Wahrheit. Hinter diesen Demonstrationen steht ein Team, und hinter den Demonstrationen selbstfahrender Autos in Phoenix werden noch lange Teams stehen, deshalb sind sie noch weit von der Realität entfernt.
Außerdem unterscheidet sich ein Ort wie Phoenix von Cambridge, Massachusetts, wo ich wohne und wo es viele verstopfte Einbahnstraßen gibt. Das wirft Fragen auf, etwa wo in meiner Nachbarschaft der Fahrdienst mich abholt. Können Sie mitten auf der Straße zusteigen? Oder benutzt das Fahrzeug eine Busspur? Für gewöhnlich wird es beim Einsteigen die Straße blockieren, deswegen muss es schnell gehen, die anderen Autofahrer werden hupen und so weiter. Es wird noch eine Weile dauern, bis vollständig autonome Systeme in solch einem Umfeld betrieben werden können. Deshalb glaube ich, dass es sogar in Orten wie Phoenix noch lange eigens dafür vorgesehene Haltestellen geben wird, denn die Fahrzeuge werden nicht in der Lage sein, sich so einfach in das vorhandene Straßennetz einzuordnen.
Uber nutzt inzwischen eigens dafür vorgesehene Haltstellen für Fahrdienste. Sie verwenden jetzt ein neues System, das sie in San Francisco und Boston ausprobiert und kürzlich auf sechs weitere Städte ausgedehnt haben, bei dem Sie sich in eine Uber-Warteschlange einreihen und zusammen mit anderen Leuten frierend auf ihr Fahrzeug warten. Wir stellen uns immer vor, dass selbstfahrende Autos genauso sein werden wie heutige Autos, nur ohne Fahrer. Aber nein, bei der Art und Weise der Nutzung wird es einen Wandel geben.
Mit dem Aufkommen des Autos haben sich unsere Städte gewandelt, und wir werden für diese Technologie einen weiteren Wandel benötigen. Es wird nicht so wie heute sein, nur dass es eben keine Fahrer mehr gibt. Das wird noch eine ganze Weile dauern, und es spielt keine Rolle, wie begeistert man vom Silicon Valley ist, es wird nicht so schnell geschehen.
Martin Ford: Lassen Sie uns spekulieren. Wie lange wird es dauern, bis es so etwas wie die heutigen Fahrdienste von Uber gibt, also ein Produkt, das es ermöglicht, Sie irgendwo in Manhattan oder San Francisco abzuholen und zu einem Ort Ihrer Wahl zu befördern?
Rodney Brooks: Es wird schrittweise umgesetzt werden. Der erste Schritt könnte sein, dass Sie sich zu einer Haltestelle begeben, wo sich das Fahrzeug befindet. Das würde wie die Nutzung eines heutigen Zipcars (ein amerikanischer Carsharing-Anbieter) funktionieren, für die es eigene Parkplätze gibt. Das wird es früher geben als den Dienst, den ich heute von Uber erhalte, bei dem der Wagen vorfährt und direkt vor meinem Zuhause in zweiter Reihe parkt. Irgendwann – ich weiß nicht, ob ich das noch erleben werde – wird es jede Menge selbstfahrender Autos in unseren Städten geben, aber das kann noch Jahrzehnte dauern, und es wird ein Wandel erforderlich sein, aber wir haben noch nicht ganz herausgefunden, wie genau er aussehen wird.
Wenn es überall selbstfahrende Autos gibt, wie werden sie dann aufgetankt oder aufgeladen? Wo werden sie aufgeladen? Und wer schließt sie an die Ladestation an? Einige Start-ups haben schon Überlegungen angestellt, wie die Verwaltung einer Flotte selbstfahrender elektrischer Autos funktionieren könnte. Irgendjemand muss die Wartung und die täglichen Routineaufgaben erledigen. Dafür muss es eine entsprechende Infrastruktur geben, damit selbstfahrende Autos zu einem Massenprodukt werden können, und das wird eine Weile dauern.
Martin Ford: Andere Schätzungen, wann es Dienste geben wird, die grob mit Uber vergleichbar sind, liegen eher im Bereich von fünf Jahren. Ich nehme an, Sie halten das für völlig unrealistisch?
Rodney Brooks: Ja, das ist völlig unrealistisch. Vielleicht wird es Dienste geben, die bestimmten Aspekten entsprechen, aber nicht etwas Vergleichbares. Sie werden sich von Uber unterscheiden, und zu ihrer Unterstützung wird es eine ganze Reihe neuer Unternehmen und Dienstleistungen geben müssen, die noch nicht vorhanden sind. Fangen wir bei den Grundlagen an. Wie werden Sie in das Fahrzeug gelangen? Wie teilen Sie dem System mit, dass Sie es sich während der Fahrt anders überlegt haben und zu einem anderen Ziel befördert werden möchten? Vermutlich durch Sprache. Amazons Alexa und Googles Home haben gezeigt, wie gut die Spracherkennung inzwischen ist, deshalb denke ich, dass Sprache funktionieren wird.
Und nun zum Regulierungssystem. Welche Anweisungen können sie dem Fahrzeug geben? Welche Anweisungen können Sie ihm geben, wenn Sie keinen Führerschein besitzen? Welche Anweisungen kann ein 12-Jähriger ihm geben, der von seinen Eltern ins Auto gesetzt wurde, damit es ihn zum Fußballtraining bringt? Nimmt das Fahrzeug Sprachbefehle von 12-Jährigen an, oder hört es nicht zu? Es gibt unglaublich viele praktische und regulatorische Probleme, über die noch nicht gesprochen wurde, die aber gelöst werden müssen. Heutzutage können Sie einen 12-Jährigen in ein Taxi setzen, das ihn irgendwo hinbringt. Mit selbstfahrenden Autos wird das so bald nicht möglich sein.
Martin Ford: Kommen wir auf eine Ihre Bemerkungen über Ihre Forschung mit Insekten zurück. Das ist interessant, denn ich dachte eigentlich, dass Insekten sehr gute biologische Roboter sind. Ich weiß, dass Sie selbst kein Forscher mehr sind, aber ich frage mich, wie der Stand der Dinge bei der Entwicklung eines Roboters oder einer Intelligenz mit Fähigkeiten, die ansatzweise denen eines Insekts entsprechen, aussieht, und wie dadurch die Schritte auf dem Weg zu einer Super-intelligenz beeinflusst werden.
Rodney Brooks: Vereinfacht gesagt, haben wir nichts vorzuweisen, was einem Insekt auch nur nahekommt, deshalb mache ich mir keine Sorgen, dass es in absehbarer Zeit eine Superintelligenz geben wird. Wir können die Lernfähigkeiten von Insekten nicht anhand nur einiger weniger unüberwachter Beispiele reproduzieren. Wir können die Resilienz, die ein Insekt bei der Anpassung an die Welt zeigt, nicht erreichen. Und die wirklich erstaunliche Mechanik von Insekten können wir ganz sicher nicht reproduzieren. Niemand hat etwas vorzuweisen, das die gezielte Handlungsweise eines Insekts erreicht. Wir verfügen über tolle Modelle, die sich etwas ansehen, es klassifizieren und in bestimmten Fällen sogar mit einer Kennzeichnung versehen können, aber das ist selbst beim Vergleich mit der Intelligenz eines Insekts etwas ganz anderes.
Martin Ford: Hat die Robotik seit den 90ern und der Zeit, als Sie iRobot gegründet haben, Ihre Erwartungen erfüllt oder sogar übertroffen, oder sind Sie enttäuscht?
Rodney Brooks: Als ich 1977 in die Vereinigten Staaten kam, war ich sehr an Robotern interessiert und arbeitete schließlich an Computer Vision. Damals gab es auf der Welt drei mobile Roboter. Einer dieser Roboter befand sich in Stanford, wo Hans Moravec Experimente durchführte und versuchte, den Roboter dazu zu bringen, in sechs Stunden einen knapp 20 Meter langen Raum zu durchqueren. Ein weiterer Roboter war beim Jet Propulsion Laboratory (JPL) der NASA, und der dritte war beim Laboratory for Analysis and Architecture of Systems (LAAS) in Toulouse in Frankreich.
Auf der ganzen Welt gab es drei mobile Roboter. iRobot liefert pro Jahr Millionen mobiler Roboter aus, also bin ich in dieser Hinsicht ziemlich zufrieden. Wir haben große Anstrengungen unternommen und sind wirklich sehr weit gekommen. Dass den Fortschritten in der Robotik nicht mehr Beachtung geschenkt wurde, liegt nur daran, dass wir im gleichen Zeitraum von zimmergroßen Mainframe-Computern zu Milliarden von Smartphones überall auf der Welt gelangt sind.
Martin Ford: So viel zu den Insekten. Ich weiß, dass Sie an Roboterhänden gearbeitet haben. Es gibt einige verblüffende Videos von Roboterhänden verschiedener Teams. Können Sie etwas dazu erzählen, welche Fortschritte es auf diesem Gebiet gibt?
Rodney Brooks: Ja, ich wollte die Arbeit an den kommerziellen mobilen Robotern bei iRobot von dem abgrenzen, was ich am MIT mit meinen Studenten unternahm, deshalb wechselte ich bei der Forschung am MIT von Insekten zu Humanoiden, was dazu führte, dass ich anfing, dort an Roboterarmen zu arbeiten. Die Arbeit macht nur langsam Fortschritte. Bei den Prototypen gibt es einige spannende Entwicklungen. Allerdings konzentrieren sie sich auf eine bestimmte Aufgabe, die sich sehr von unserem eher allgemeinen Vorgehen unterscheidet,
Martin Ford: Ist der langsame Fortschritt einem Hardware- oder einem Software-Problem geschuldet? Liegt es an der Mechanik oder nur an der Steuerung?
Rodney Brooks: Es ist alles auf einmal. Man muss hier in mehreren Bereichen gleichzeitig Fortschritte erzielen. Sie müssen Fortschritte bei der Mechanik erzielen, beim Material, aus dem Haut besteht, bei den in der Hand eingebetteten Sensoren und bei den Algorithmen, die sie steuern – und all das gleichzeitig. Man kommt nicht voran, indem man nur einen der Faktoren verbessert, die andern müssen ebenfalls verbessert werden.
Ich gebe Ihnen ein Beispiel, um das zu verdeutlichen. Sie kennen vielleicht diese Greifer aus Kunststoff, die an einem Ende einen Griff besitzen, den Sie zusammendrücken, um am anderen Ende eine kleine Hand zu öffnen und zu schließen. Sie können sie verwenden, um schwer erreichbare Gegenstände zu ergreifen oder eine Lampe in die Fassung zu drehen, an die Sie sonst nicht ganz herankommen.
Sie können mit dieser wirklich primitiven Hand fantastische Manipulationen vornehmen, die weit über das hinausreichen, was Roboter derzeit können, obwohl es ein erstaunlich primitives Stück Plastikspielzeug ist. Ausschlaggebend ist, dass Sie als Mensch die Manipulation vornehmen. In Videos, in denen Forscher eine neue von ihnen entwickelte Roboterhand vorstellen, sieht man oft, dass ein Mensch die Roboterhand bedient und herumbewegt, um eine Aufgabe zu erledigen. Sie hätten für die gleiche Aufgabe auch das Plastikspielzeug verwenden können, denn es ist der Mensch, der die Aufgabe erledigt. Wenn es so einfach wäre, könnten wir den Plastikgreifer am Ende eines Roboterarms montieren und die Aufgaben erledigen lassen. Einem Menschen gelingt das mit dem Spielzeug am Ende des Arms, aber wieso kann ein Roboter das nicht? Irgendetwas wirklich Wichtiges fehlt.
Martin Ford: Ich habe Berichte darüber gesehen, dass Deep Learning und Re-inforcement Learning dazu verwendet werden, dass Roboter Dinge durch Übung oder sogar nur durch das Ansehen von YouTube-Videos erlernen. Was halten Sie davon?
Rodney Brooks: Denken sie daran, dass es Prototypen sind. Bei DeepMind gibt es eine Gruppe, die unsere Roboter verwendet, die kürzlich eine interessante Arbeit über Kraftsensoren veröffentlicht hat. Die Roboter versuchen, Klammern an Objekten zu befestigen. An jedem der Roboter hat ein Team wirklich guter Forscher monatelang akribisch gearbeitet. Die Leistung ist aber weit von der eines Menschen entfernt. Wenn sie einem Menschen zeigen, wie er eine Aufgabe geschickt erledigen kann, ist er dazu sofort in der Lage. Bei Robotern sind wir noch nicht annähernd so weit.
Ich habe kürzlich ein paar IKEA-Möbel zusammengebaut. Manche Leute meinen, das wäre ein ausgezeichneter Test für Roboter. Stellen Sie einen IKEA-Bausatz und die Bauanleitung bereit, und lassen Sie den Roboter das Möbelstück zusammenbauen. Ich musste beim Zusammenbau des Möbelstücks ungefähr 200 Aufgaben erledigen, die Fingerfertigkeit erfordern. Nehmen wir nun an, wir versuchen, das zu reproduzieren, und zwar mit meinen Robotern, die wir zu Tausenden verkaufen, die auf dem neuesten Stand der Technik sind und mehr Sensoren besitzen, als irgendwelche anderen Roboter, die heutzutage angeboten werden. Wenn wir einige Monate in einer sehr eingeschränkten Umgebung daran arbeiten, würden wir vielleicht eine einfache Demonstration von einer dieser 200 Aufgaben hinbekommen, die ich aus dem Stehgreif erledigen konnte. Hier geht wieder die Fantasie mit einem durch, wenn man glaubt, dass ein Roboter schon bald all diese Aufgaben erledigen kann. Die Realität sieht völlig anders aus.
Martin Ford: Was ist die Realität? Was wird es in fünf bis zehn Jahren auf dem Gebiet der Robotik und der KI Neues geben? Welche Art von Durchbrüchen sollten wir realistischerweise erwarten?
Rodney Brooks: Man kann Durchbrüche niemals erwarten. Ich erwarte, dass Deep Learning in zehn Jahren nicht mehr so viel Aufmerksamkeit geschenkt wird. Es wird etwas Neues geben, das den Fortschritt vorantreibt.
Deep Learning ist für uns eine wunderbare Technologie gewesen. Sie hat die Sprach-erkennung von Amazon Echo und Google Home ermöglicht, und das war ein gewaltiger Schritt nach vorn. Ich weiß, dass Deep Learning noch weitere Schritte nach vorn ermöglichen wird, aber irgendwann wird es durch etwas anderes ersetzt werden.
Martin Ford: Wenn Sie von Deep Learning sprechen, meinen Sie damit neuronale Netze mit Backpropagation?
Rodney Brooks: Ja, aber mit vielen Schichten.
Martin Ford: Dann werden vielleicht neuronale Netze mit einem anderen Algorithmus die Rolle übernehmen? Oder Bayes-Netze?
Rodney Brooks: Das könnte sein, es könnte aber auch etwas ganz anderes sein, das wissen wir nicht. Ich garantiere Ihnen aber, dass es innerhalb der nächsten 10 Jahre etwas Neues geben wird, das für Anwendungen eingesetzt wird und bestimmten anderen Technologien einen Schub gibt. Ich weiß zwar nicht, was das sein wird, aber bei einem Zeitrahmen von 10 Jahren wird das sicherlich passieren.
Es ist unmöglich, zu prognostizieren, was funktionieren wird und weshalb, aber man kann auf vorhersehbare Weise etwas über den Market Pull sagen, den ein paar Megatrends verursachen werden, die gerade stattfinden.
Das Verhältnis von älteren Menschen zu Menschen im erwerbsfähigen Alter beispielsweise ändert sich drastisch. Je nachdem, wessen Zahlen man betrachtet, wird sich das Verhältnis von etwa neun Menschen im erwerbsfähigen Alter pro Ruheständler (9:1) auf etwa zwei (2:1) ändern. Es gibt immer mehr ältere Menschen auf der Welt. Das hängt vom jeweiligen Land und anderen Faktoren ab, bedeutet aber, dass es einen Market Pull in Richtung Hilfe für ältere Menschen geben wird, wenn sie gebrechlicher werden. In Japan kann man das auf Robotermessen schon beobachten, bei denen viele Prototypen von Robotern gezeigt werden, die älteren Menschen helfen, einfache Aufgaben zu erledigen, wie etwa aus dem Bett aufzustehen oder ins Badezimmer zu gelangen, eben einfache Dinge des Alltags. Für diese Tätigkeiten wurden früher Menschen benötigt, aber wenn sich das Verhältnis von Menschen im erwerbsfähigen Alter zu den Älteren ändert, wird es nicht genügend Arbeitskräfte geben, um diese Nachfrage zu decken. Dann werden Roboter zum Einsatz kommen, um den älteren Menschen zu helfen.
Martin Ford: Ich stimme zu, dass sich der Robotik- und KI-Branche im Bereich der Altenpflege viele Möglichkeiten bieten, aber die Geschicklichkeit, die erforderlich ist, um einem älteren Menschen wirklich zu helfen, allein zurechtzukommen, scheint mir eine ziemliche Herausforderung zu sein.
Rodney Brooks: Es sollen nicht einfach nur Menschen durch Robotersysteme ersetzt werden. Aber es wird eine Nachfrage geben, und dementsprechend wird es motivierte Entwickler geben, die versuchen werden, Lösungen zu finden, denn dieser Markt wird enorm sein.
Ich glaube auch, dass es eine erhöhte Nachfrage nach Bauarbeiten geben wird, denn wir urbanisieren die Welt in einem unglaublichen Tempo. Viele der Verfahren, die wir beim Bau einsetzen, sind schon von den Römern erfunden worden. Da ist durchaus Raum für ein paar technologische Neuerungen.
Martin Ford: Denken Sie dabei an Bauroboter oder eher an 3D-Druck in großem Maßstab?
Rodney Brooks: Für einige Dinge könnte 3D-Druck gut geeignet sein. Wir werden kaum das gesamte Gebäude drucken, aber vielleicht einige vorgeformte Komponenten. Wir werden viele fertige Bauteile verwenden können, die nicht vor Ort hergestellt werden müssen, was wiederum zu Innovationen bei der Lieferung, beim Transport und beim Bewegen dieser Bauteile führen wird. Hier gibt es Spielraum für viele Innovationen.
Die Landwirtschaft ist eine weitere Branche, in der Robotik und KI-Innovationen sich als nützlich erweisen können, insbesondere in Anbetracht des Klimawandels, der unsere Lebensmittelversorgung bedroht. Landwirtschaft in Städten (»Urban Farming«) ist schon in aller Munde und kann die Produktion vom Feld in eine Fabrik verlagern. Hier kann sich Machine Learning als äußerst hilfreich erweisen. Wir verfügen jetzt über die Rechenleistung, um Pflanzen zu überwachen, sie mit genau den richtigen Nährstoffen zu versorgen und ihnen die Bedingungen zu bieten, die sie brauchen, ohne dass wir uns Sorgen über das Wetter machen müssten. Ich denke, dass der Klimawandel die Automatisierung der Landwirtschaft auf andere Weise als bisher vorantreiben wird.
Martin Ford: Was ist mit Haushaltsrobotern für Privatkunden? Man hört immer von dem Beispiel, dass ein Roboter Ihnen ein Bier bringt. Es hört sich so an, als ob das auch noch nicht machbar ist.
Rodney Brooks: Colin Angle, der Geschäftsführer von iRobot, der das Unternehmen 1990 zusammen mit mir gegründet hat, spricht seit 28 Jahren davon. Ich denke, dass ich noch eine Weile selbst zum Kühlschrank gehen werde.
Martin Ford: Glauben Sie, dass es jemals einen allgegenwärtigen Roboter für Privatkunden geben wird, der den Endkundenmarkt abdeckt, indem er etwas leistet, das als unentbehrlich betrachtet wird?
Rodney Brooks: Ist Roomba unentbehrlich? Nein, aber er leistet etwas Nützliches zu einem Preis, der so niedrig ist, dass die Leute bereit sind, ihn zu zahlen. Er ist nicht unentbehrlich, es geht mehr um Bequemlichkeit.
Martin Ford: Wann wird es einen Roboter geben, der mehr kann, als herumzufahren und den Fußboden zu staubsaugen? Einen Roboter, der geschickt genug ist, um einfache Aufgaben zu erledigen?
Rodney Brooks: Das würde ich auch gerne wissen! Aber das weiß wohl niemand. Alle reden davon, dass Roboter die Welt beherrschen werden, aber wir können noch nicht einmal die Frage beantworten, wann sie in der Lage sein werden, uns ein Bier zu holen.
Martin Ford: Ich habe kürzlich einen Artikel gelesen, in dem der Geschäftsführer von Boeing, Dennis Muilenburg, gesagt hat, dass es im nächsten Jahrzehnt autonome Drohnentaxis geben wird, die Passagiere herumfliegen. Was halten Sie von dieser Prognose?
Rodney Brooks: Ich würde das mit der Prognose vergleichen, dass es fliegende Autos geben wird. Fliegende Autos, mit denen man herumfahren und dann einfach abheben kann, sind schon lange ein Wunschtraum, aber ich glaube nicht, dass es sie geben wird.
Ich glaube, es war Travis Kalanick, der ehemalige Geschäftsführer von Uber, der behauptet hat, dass Uber im Jahr 2020 autonome fliegende Autos einsetzen wird. Aber so wird es nicht kommen. Das soll nicht heißen, dass ich nicht daran glaube, dass es irgendeine Form von autonomer persönlicher Beförderung geben wird. Es gibt ja jetzt schon Helikopter und ähnliche Luftfahrzeuge, die zuverlässig von A nach B fliegen können, ohne dass sie jemand steuert. Ich glaube, es ist eher die Wirtschaftlichkeit, die festlegt, wann es soweit sein wird, aber wann es geschehen wird, kann ich nicht sagen.
Martin Ford: Und was ist mit einer AGI? Glauben Sie, dass sie erreichbar ist? Und wenn ja: In welchem Zeitrahmen werden wir eine Chance von 50 Prozent haben, sie zu erreichen?
Rodney Brooks: Ja, ich glaube, dass eine AGI erreichbar ist. Meine Schätzung ist das Jahr 2200. Aber das ist nur eine Schätzung.
Martin Ford: Auf welchem Weg werden wir eine AGI erreichen? Mit welchen Hindernissen müssen wir rechnen?
Rodney Brooks: Über das Hindernis der mangelnden Geschicklichkeit haben wir bereits gesprochen. Die Fähigkeit, zu navigieren und die Umgebung zu manipulieren, ist wichtig, um die Welt zu verstehen, aber bei der Welt gibt es einen viel umfassenderen Kontext, als nur den physischen. Roboter und KI-Systeme begreifen beispielsweise nicht, dass heute ein anderer Tag ist als gestern – abgesehen davon, dass sich die Ziffer des Kalenderdatums geändert hat. Sie haben kein Gedächtnis mit Erfahrungen, kein Bewusstsein dafür, dass sie einen Tag nach dem anderen vorhanden sind und verstehen langfristige Ziele nicht, und dass man inkrementelle Fortschritte erzielen kann, um sie zu erreichen. Jedes heutige KI-Programm ist ein »Idiot savant«, der in einem Meer des Jetzt lebt. Es erhält eine Eingabe und reagiert darauf.
Das Programm AlphaGo und Schachprogramme wissen nicht, was ein Spiel ist, sie wissen nichts über das Spielen eines Spiels, sie wissen nicht, dass Menschen existieren, sie wissen nichts von alledem. Wenn eine AGI einem Menschen ebenbürtig ist, muss sie sich allerdings all dieser Dinge bewusst sein.
Vor 50 Jahren arbeiteten Menschen an Forschungsprojekten über diese Dinge. Es gab eine ganze Community, die in den 1980er- und 1990er-Jahren an der Simulation von adaptivem Verhalten arbeitete. Seitdem haben wir keine großen Fortschritte erzielt, und wir wissen nicht, wie wir es anstellen könnten. Derzeit arbeitet niemand daran, und die Leute, die behaupten, einer AGI näherzukommen, wiederholen nur die gleichen Dinge, von denen John McCarthy in den 1960er-Jahren gesprochen hat, und sie machen ungefähr genauso viele Fortschritte.
Es ist eine schwierige Aufgabe. Es bedeutet nicht, dass man keinen Fortschritt in vielen verschiedenen Technologien erzielt, aber um manche Dinge zu erreichen, sind einfach Hunderte von Jahren erforderlich. Wir glauben, die glückliche Generation am entscheidenden Zeitpunkt zu sein, aber das haben viele Leute schon oft gedacht, und es wird für uns nicht plötzlich wahr, jedenfalls kann ich keine Anzeichen dafür erkennen.
Martin Ford: Es gibt Bedenken, dass wir beim Wettlauf um eine fortgeschrittene Künstliche Intelligenz mit China nicht Schritt halten können. China besitzt eine größere Bevölkerung, verfügt somit über mehr Daten und die Datenschutzvorschriften, die beschränken könnten, was sie mit KI anstellen, sind nicht so streng. Glauben Sie, dass uns ein neuer KI-Rüstungswettlauf bevorsteht?
Rodney Brooks: Sie haben recht, es wird einen Wettlauf geben. Es gab einen Wettlauf von Unternehmen, und es wird einen Wettlauf von Ländern geben.
Martin Ford: Halten Sie es für eine große Gefahr für den Westen, wenn ein Land wie China einen beträchtlichen Vorsprung in der KI hätte?
Rodney Brooks: Ich glaube nicht, dass es so einfach ist. Es wird einen uneinheitlichen Einsatz von KI-Technologien geben. Ich glaube, in China können wir das beim Einsatz von Gesichtserkennung schon beobachten, der auf eine Weise erfolgt, die wir hier bei uns in den USA lieber nicht sehen würden. Bei der Entwicklung von KI-Chips kann es sich ein Land wie die USA nicht erlauben, auch nur ein wenig ins Hintertreffen zu geraten. Um allerdings nicht ins Hintertreffen zu geraten, müssten die USA hier die Führungsrolle einnehmen, was derzeit nicht der Fall ist.
Es hat politische Weisungen gegeben, die besagen, dass wir mehr Bergleute brauchen, während wissenschaftliche Budgets wie das des National Institute of Standards and Technology zusammengestrichen werden. Das ist verrückt, das ist wahnhaft, es ist rückschrittliches Denken, und es ist zerstörerisch.
Martin Ford: Kommen wir auf die Risiken oder potenziellen Gefahren zu sprechen, die mit KI und Robotik in Verbindung gebracht werden. Viele Menschen glauben, dass wir kurz vor einer großen Umwälzung stehen, die einer neuen industriellen Revolution gleichkommt. Glauben Sie das auch? Wird es große Auswirkungen auf den Arbeitsmarkt und die Wirtschaft geben?
Rodney Brooks: Ja, aber nicht auf die Art und Weise, wie die Menschen sich das vorstellen. Ich glaube nicht, dass KI an sich die Ursache ist, sondern die Digitalisierung und die Entwicklung neuer digitaler Schnittstellen. Ich führe als Beispiel gern mautpflichtige Straßen an. In den USA gibt es bei mautpflichtigen Straßen und Brücken kaum noch menschliche Geldeinnehmer. Nicht hauptsächlich, weil sie durch KI ersetzt wurden, sondern weil in unserer Gesellschaft in den letzten 30 Jahren die verschiedensten digitalen Schnittstellen entwickelt worden sind.
Die Geldeinnehmer zu ersetzen, wurde beispielsweise durch die Aufkleber möglich, die Sie an der Windschutzscheibe anbringen und die Ihrem Auto eine digitale Signatur verleihen. Ein weiterer Fortschritt, der es ermöglichte, die Geldeinnehmer zu ersetzen, ist Computer Vision, bei dem ein KI-System mithilfe von Deep Learning ein Foto des Kfz-Kennzeichens aufnimmt und es zuverlässig erkennt. Es betrifft aber nicht nur die Mautstellen. Digitalisierung findet auch in vielen anderen Bereichen statt. Sie können beispielsweise eine Website aufsuchen, den Aufkleber in ihrem Auto und die Ihnen zugeordnete Seriennummer registrieren sowie Ihr Kfz-Kennzeichen angeben, damit es ein Backup gibt.
Dann gibt es noch das digitale Onlinebanking, das es Dritten ermöglicht, Ihre Kreditkarte regelmäßig zu belasten, ohne dass sie physisch vorliegen muss. Früher brauchten Sie die physische Kreditkarte, heutzutage gibt es ein digitales Verfahren. Darüber hinaus gibt es für den Betreiber der Mautstellen noch den Nebeneffekt, dass er das Bargeld nicht mehr per Geldtransporter einsammeln und zur Bank transportieren muss, weil alles digital abgewickelt wird. Es gibt eine ganze Reihe digitaler Verfahren, die zwecks Automatisierung dieser Dienstleistung zusammengekommen sind und den menschlichen Geldeinnehmer ersetzten. KI spielte dabei nur ein kleine, wenngleich unverzichtbare Rolle. Die Menschen wurden nicht über Nacht durch KI-Systeme ersetzt. Diese zunehmend vorhandenen digitalen Schnittstellen sind es, die Veränderungen auf dem Arbeitsmarkt verursachen, aber es ist keine einfache Eins-zu-eins-Ersetzung.
Martin Ford: Glauben Sie, dass diese digitalen Abläufe bei vielen der einfachen Dienstleistungsjobs Umwälzungen verursachen werden?
Rodney Brooks: Digitale Abläufe können vieles leisten, aber nicht alles. Sie sind etwa völlig ungeeignet für Aufgaben, die wir typischerweise kaum zu schätzen wissen, die aber unverzichtbar sind, um unsere Gesellschaft am Laufen zu halten, wie etwa älteren Menschen auf der Toilette oder beim Betreten und Verlassen der Dusche zu helfen. Es sind aber nicht nur Aufgaben dieser Art – denken Sie beispielsweise an Lehrtätigkeiten. In den USA haben wir es nicht geschafft, Lehrern die Anerkennung zu zollen oder die Gehälter zu zahlen, die sie verdienen würden, und ich weiß nicht, wie wir unsere Gesellschaft dazu bewegen können, diese wichtige Arbeit wertzuschätzen und finanziell lohnend zu machen. Wenn einige der Jobs durch Automatisierung verlorengehen, wie können wir dann die anderen Jobs erkennen und in den Vordergrund stellen, bei denen das nicht so ist?
Martin Ford: Das hört sich so an, als ob Sie keine Massenarbeitslosigkeit erwarten, aber dass sich die Jobs verändern werden. Ich glaube, dass viele begehrte Jobs verschwinden werden. Denken Sie an all die Angestelltentätigkeiten, bei denen man vor einem Computer sitzt, irgendwelche vorhersehbaren und monotonen Aufgaben erledigt, und immer wieder die gleichen Berichte erstellt. Das sind sehr begehrte und gut bezahlte Jobs, für die Leute ein College besuchen müssen, und diese Jobs werden bedroht sein, aber das Zimmermädchen, das Hotelzimmer putzt, wird auf der sicheren Seite sein.
Rodney Brooks: Das kann ich nicht abstreiten, ich bestreite aber sehr wohl, dass die Leute sagen: »Oh, hier sind KI und Roboter im Einsatz!«. Wie ich schon sagte, glaube ich, dass eher die Digitalisierung ausschlaggebend ist.
Martin Ford: Dem stimme ich zu, aber es ist auch eine Tatsache, dass auf solch einer Plattform KI eingesetzt wird.
Rodney Brooks: Ja, es ist eindeutig einfacher, KI auf solch einer Plattform einzusetzen. Eine weitere Sorge ist natürlich, dass die Plattform aus völlig unsicheren Komponenten aufgebaut wird und jeder sie hacken kann.
Martin Ford: Kommen wir zum Thema Sicherheit. Über welche Dinge sollten wir uns, abgesehen von den wirtschaftlichen Umwälzungen, wirklich Sorgen machen? Was sind die wirklichen Risiken, wie etwa Sicherheit, die tatsächlich vorhanden sind und denen wir Beachtung schenken sollten?
Rodney Brooks: Am wichtigsten ist die Sicherheit. Ich mache mir Sorgen um die Sicherheit der digitalen Verfahren und um den Datenschutz, den wir alle im Austausch gegen eine gewisse Bequemlichkeit bereitwillig aufgegeben haben. Wir haben schon erlebt, dass soziale Plattformen zu einer Waffe gemacht wurden. Anstatt sich über eine KI mit Selbstbewusstsein Sorgen zu machen, die etwas Böswilliges oder Schlechtes tut, sollten wir etwas anderem Beachtung schenken. Es ist sehr viel wahrscheinlicher, dass menschliche Akteure Böses tun, die herausgefunden haben, wie sie die Schwachstellen der digitalen Verfahren ausnutzen können, seien es nun Nationalstaaten, kriminelle Unternehmen oder sogar der einzelne Hacker im heimischen Schlafzimmer.
Martin Ford: Was ist mit der Bewaffnung von Robotern und Drohnen? Stuart Russell, einer meiner Gesprächspartner in diesem Buch, hat einen ziemlich erschreckenden Film mit dem Titel Slaughterbots produziert, der sich mit diesem Problem befasst.
Rodney Brooks: Ich denke, dass derartige Dinge schon heute durchaus möglich sind, weil dafür keine KI erforderlich ist. Slaughterbots war eine reflexartige Reaktion mit der Aussage, dass Roboter und Krieg eine schlechte Kombination sind. Bei mir löst das noch eine andere Reaktion aus. Ich hatte immer den Eindruck, dass Roboter es sich leisten können, als Zweiter zu schießen. Ein 19 Jahre alter Junge, der gerade die Highschool verlassen hat und sich in einem fremden Land im Dunkel der Nacht befindet und um sich herum Schüsse hört, kann es sich nicht leisten, als Zweiter zu schießen.
Manche Menschen meinen, dass KI dem Militär vorenthalten werden sollte, um das Problem zu lösen. Ich bin der Ansicht, man sollte stattdessen lieber darüber nachdenken, was man eigentlich verhindern möchte und das gesetzlich regeln, anstatt die verwendete Technologie zu verbieten. Viele dieser Dinge könnten auch ohne KI entwickelt werden.
Ein Beispiel: Wenn wir das nächste Mal auf dem Mond landen, werden dabei jede Menge KI und Machine Learning zum Einsatz kommen, aber in den 1960ern haben wir es auch ohne KI und Machine Learning dorthin und wieder zurück geschafft. Wir müssen über die Handlung selbst nachdenken, nicht über die zur Ausführung der Handlung eingesetzte Technologie. Es wäre naiv, eine Technologie zu verbieten, ohne die guten Dinge zu berücksichtigen, die sie bewirken kann – wie etwa als Zweiter zu schießen, nicht als Erster.
Martin Ford: Was ist mit dem AGI-Kontrollproblem und Elon Musks Bemerkungen über das »Heraufbeschwören eines Dämons«? Sollten wir darüber schon jetzt diskutieren?
Rodney Brooks: Als die Menschen in Paris 1789 zum ersten Mal Heißluftballons sahen, machten sie sich Sorgen, dass den Ballonfahrern in der Höhe die Seele aus dem Leib gesaugt wird. Das ist das gleiche Niveau des Verständnisses, das bei einer AGI vorliegt. Wir haben keine Ahnung, wie sie aussehen wird. Ich habe einen Artikel mit dem Titel The Seven Deadly Sins of Predicting the Future of AI (Die sieben Todsünden der Vorhersage der Zukunft der KI, siehe https://rodneybrooks.com/the-seven-deadly-sins-of-predicting-the-future-of-ai/) geschrieben, der das Ganze zusammenfasst. Die Welt wird eine andere als heute sein, wenn in ihrem Zentrum eine Superintelligenz steht. Sie wird sich im Lauf der Zeit ganz allmählich entwickeln. Wir haben überhaupt keine Ahnung, wie die Welt oder das KI-System aussehen werden. Das Vorhersagen einer KI-Zukunft ist lediglich ein Machtspielchen für vereinzelte Akademiker, die in einem realitätsfernen Elfenbeinturm leben. Das soll nicht heißen, dass es die Technologie nicht geben wird, aber wir werden nicht wissen, wie sie aussieht, bevor es soweit ist.
Martin Ford: Wenn diese technologischen Durchbrüche eintreten, ist dann Ihrer Meinung nach eine Regulierung erforderlich?
Rodney Brooks: Wie ich vorhin schon gesagt habe: Reguliert werden muss, was diesen Systemen erlaubt ist und was nicht, nicht die Technologie, die ihnen zugrunde liegt. Sollten wir die Forschung an optischen Computern einstellen, weil sie Ihnen viel schnellere Matrizenmultiplikationen ermöglichen, sodass Sie umfassenderes Deep Learning viel zügiger anwenden könnten? Nein, das ist verrückt. Sollte es selbstfahrenden Lieferwagen gestattet sein, in verstopften Bereichen von San Francisco in zweiter Reihe zu parken? Das zu regulieren, wäre sinnvoll, nicht die dazu nötige Technologie.
Martin Ford: Wenn ich all dies berücksichtige, nehme ich an, dass Sie insgesamt ein Optimist sind? Sie arbeiten weiterhin daran, also müssen sie glauben, dass die Vorteile die möglichen Risiken wettmachen.
Rodney Brooks: Ja, unbedingt. Wir haben die Überbevölkerung der Welt zugelassen, deshalb müssen wir diesen Weg gehen, um zu überleben. Ich mache mir große Sorgen, dass der Lebensstandard sinkt, weil es nicht genügend Arbeit gibt, wenn ich älter werde. Ich mache mir Sorgen um die Sicherheit und um den Datenschutz, um zwei weitere Punkte zu nennen. All das sind echte und gegenwärtige Gefahren, und wir können allmählich erahnen, wie sie aussehen werden.
Hollywoods Vorstellung, dass eine AGI die Weltherrschaft übernehmen könnte, liegt noch in ferner Zukunft, und wir wissen noch nicht einmal, wie wir uns das vorstellen sollen. Wir sollten uns um die echten Gefahren und Risiken Sorgen machen, denen wir jetzt schon gegenüberstehen.