Max TegmarkVintage Life 3.0: Being Human in the Age of Artificial Intelligence

The book touches on AI but it does no really dive into AI. It goes into different imaginary scenarios then jumps to black holes and the universe and how to travel between galaxies. Not sure how all that relates to what it means to be human in the age of AI.The author is very conventional in his approach for a physicist who is tackling artificial intelligence. For example, he assumes that humans will maintain their current life forms from now until eternity ignoring the fact that evolution never stops and that this is not the shape we started with. So he spends a lot of pages on how humans can travel through space and spending thousands of years on a spaceship.There is not one single though provoking chapter in the whole book as it gets boring and boring until the end.

En bok alla borde läsa

Kartonnen verpakking was bij aankomst niet nat maar boek wel.duidelijk nat geweest dus wellicht al beschadigd verzonden. Erg jammer want was een kadootje.

Artificial Intelligence or AI is the buzzword at top at present and everyone has a take on it and so Prof. Max Tegmark is not alone. Just before reading Life3.0, which is now few years old. Just before reading this I completed “Human Compatible” by Stuart Russel, another AI Pioneer. Just to mention that my reading of all the three books of Yuval Harari is still fresh. I am mentioning these references just to highlight that it is about the same great story – the past, present and future of humanity.I know Tegmark since I started doing my Ph.D. in cosmology and some of the early papers I read were written by Tegmark. I found him warm and remarkable, in the way his approach was lively and engaging and not cold and authoritarian as mostly is the case if academics. His curiosity looked genuine and his enthusiasm childlike. In early 2000s he was growing and has more enthusiasm and may be less depth. His scientific American article “Parallel Universe” was blockbuster. His account of the historical development of quantum mechanics remarkable and obviously from the very beginning he had privilege of being in company of John Wheeler, Nick Bostrom and Frank Wilczek. When I got a chance to meet Tegmark in 2006 in ICTP, Italy, where he as giving a course and I was one of the attendees, I had a chance to spend some time with him and I had a long list of questions which I was able to ask him and he answered most of them. Just to mention that at that time there was not much hype about AI and occasional philosophers with roots in physics and astrophysics were more interested in origin of the universe, definition of life, free will, space-time singularities and interpretation of quantum mechanics. Now fast forward 15 years and AI has overshadowed other profound questions and Tegmark switched the great and find himself engaging with AI questions. Some of the plus points of the books are as follows:1. It looks like a single coherent story, rather a bunch of disconnected story.2. The approach is quite honest, Tegmark mostly asks big questions and he never tries to give authentic answers of those, science there are none !3. This is a book which is written to be read and not put on bookshelf. He brings minimum technical stuff as required and fill the rest with ideas from other experts and his personal accounts.4. Whether AI will overtake humanity or not and for that what kind of safety protocols to be put in place that may be hard to converge on but Max is able to convince the need to solve the problem.5. The books has important references and the readers can check for more details.There are some negative points also of the book, or approach like the followings.1. Most of the ideas presented in the book are not new and Max just presented them in a new format.2. Money is important and it can be a great enabler or distractor and in most cases it is the second. So it is not clear how securing funding for AI safety can be considered an achievement.The last part of the book mostly talks about how we can regulate the AI research to make it safe and there are many suggestions. But now problem is that we know this approach does not work. After WWII we created United Nations but we know it failed to stop the misery of millions of people by superpower. Ukraine war is an example – the entire world is left on the mercy of one single detector who can press the red button any time. AI empowered superpowers may be much more dangerous than nuclear powered.Apart from AI safety, the book raises many other questions such as purpose and meaning of life, computation, complexity and consciousness. In short I will say anyone who is interested in deep questions must read this book.

The book does a very good job at explaining what would likely be the challenges humanity will face in building an AI capable of outgrowing human intelligence, along with opportunities not only for humans in the short term but for life overall in the universe.The competence of the author as a subject matter expert in the field of AI and as a scientist overall permeates every chapter (some of them quite heavy on computer science or astrophysics), and I particularly enjoyed the rigorous arguments backing up all the scenarios explored.

Life 3.0 nimmt uns mit auf eine Reise in die nahe und die ganz ferne Zukunft, deren Grundlagen aber gleichermaßen bereits heute geschaffen werden. Das rasante Fortschreiten der IT, nicht nur in Fragen der Speicherkapazitäten, der zugrundeliegenden Modulationen, der Algorithmen und der immer schnelleren Datenprozessierung - nicht zuletzt die weiter fortschreitende und faszinierende Forschung im Bereich Quantum Computing -, sondern auch und gerade deren Vordringen in Fragestellungen und Bereiche, die wir einst ausschließlich dem bewusst-intelligenten Menschen vorbehalten hatten, wirft in immer dringenderem Maße die Frage nach dem Streben nach und dem Umgang mit künstlicher Intelligenz auf.Diese Fragen betreffen letztlich alle Menschen, nicht nur jene die in IT oder IT-gesteuerten Industrien tätig sind (und das werden bald so gut wie alle sein) und umso wichtiger ist es, dass auch immer mehr Menschen, gerade die Entscheider für die das Internet noch "Neuland" ist, sich mit den daraus ergebenden Herausforderungen nachhaltig auseinandersetzen. Max Tegmark ruft in seinem Buch Life 3.0 exakt dazu auf.Tegmark beschäftigt sich zunächst intensiv mit dem Begriff der Intelligenz selbst und ihrer Substratunabhängigkeit; ein Kapitel das an Faszination kaum zu überbieten ist und schafft somit das Fundament zum Verständnis künstlicher Intelligenz. Der Maßstab der an jede künstliche Intelligenz angelegt werden muss, ist das Maß menschlicher Intelligenz. Erreicht AI eines Tages dieses Maß und wird zu human-level artificial intelligence, ergeben sich neue, beunruhigende Fragen die uns alle betreffen.Wer Filme wie Ex Machina gesehen hat, weiß, dass eine human-level artificial intelligence sehr leicht in superhuman-level artificial intelligence/ artificial general intelligence (AGI) umschlagen kann - die sogenannte Singularität. Die Singularität bezeichnet den Moment, in dem die AGI ein Maß an Intelligenz erreicht die es ihr erlaubt, sich über den Willen ihrer Schöpfer zu erheben und den "Ausbruch" aus ihrem confinement hinaus in die Welt, dh die Datennetze der Welt zu bewältigen. Ex Machina, der u.a. auch im Buch zitiert wird, visualisiert diese Bedrohung ganz plastisch und hoch dramatisiert in einer vermenschlichten Roboterfigur, die ihren Schöpfer tötet, den manipulierten Tölpel, der ihr die Schlüssel zu ihrem confinement überreicht hat nun selbst gefangensetzt und ihn dem Tod überlasst und letztlich hinaustritt ins Licht, in die Welt. Ex Machina ist filmische Allegorie um Identifikation zu erleichtern; aber die Singularität könnte sich in ihren Grundzügen in der Art und Weise zutragen, durch gezielte Manipulation der geringeren Intelligenz (Mensch) durch die höhere (AGI). AGI ist qua Definition dem Menschen an Intelligenz überlegen - in allen relevanten Feldern und nicht nur in ausgewählten wie derzeit (noch).Wie weit sind wir von der Singularität entfernt? Niemand weiß es und Tegmark beschönigt diese Tatsache auch nicht; es gibt widerstreitende Meinungen, die einen glauben, dass AGI in 100 Jahren Realität sein wird, anderen wiederum glauben, dass AGI niemals Realität sein wird. Aber das ist nicht relevant. Relevant ist, dass die Möglichkeit einer Singularität besteht und Tegmark legt den Finger in die Wunde wenn er schreibt, dass man nicht erst dann anfangen kann nach Lösungen zu suchen für die herandrängenden Fragen wenn die Singularität bereits vor der Tür steht oder bereits geschehen ist, dann ist es nämlich zu spät. Darum plädiert Tegmark dafür, bereits jetzt damit zu beginnen, sich mit der Frage auseinanderzusetzen, die das Schicksal der Menschheit mehr als jede andere positiv oder negativ beeinflussen könnte:Welche Ziele geben wir der AGI? Und wie stellen wir sicher, dass diese Ziele nicht so interpretiert werden können, dass sich die AGI selbst in Erfüllung dieser Ziele noch gegen die Ziele und Interessen der Menschen wendet?Ausgehend davon, dass diese Fragen in einer für die Menschheit befriedigenden Weise beantwortet wurden, gibt Tegmark einen Ausblick auf eine Zukunft, in der die Menschheit qua ihrer selbst geschaffen und sich quasi-evolutionär entwickelnden AGI das Leben über das gesamte Universum verbreitet. Es ist dieser Science Fiction Teil des Werkes der wie ein Thriller fesselt.Im letzten Kapitel des Buches geht Tegmark dann der Frage nach, ob AGI Bewusstsein haben könnte. Erschreckenderweise ist uns Menschen selbst in Bezug auf den Menschen nicht klar, was Bewusstsein ist, was es hervorruft und in welchen Ausgestaltungen es uns begegnen kann. Die Bewusstseinsforschung war bislang ein Stiefkind, da sie als esoterisch verschrien war. Aber auch diese Disziplin erhält neue Dringlichkeit, denn unser Verhalten, unsere Einstellung gegenüber AGI wird auch maßgeblich davon beeinflusst werden, ob Bewusstsein in ihr nachgewiesen werden kann. Es ist eine Sache, dem MacBook auf dem diese Rezension geschrieben wurde, den Stecker zu ziehen, den Harddrive zu formattieren und dann zu einem neuen MacBook zu greifen, oder ob man einem Bewusstsein den Stecker zieht.Die Rezension kann der Komplexität und Tiefe des Buches kaum gerecht werden und soll auch lediglich als Appetithappen dienen für jene, die sich vor IT Themen scheuen. Ja, man muss den inneren Nerd channeln aber das ist es allemal wert.Max Tegmark hat ein wundervolles Werk geschaffen, bewusstseinserweiternd im wahrsten Sinne. Das Buch ist eine sinnvolle Ergänzung zu Homo Deus und wer zuvor noch eine kurzweilige Einführung benötigt, sollte zunächst zu Future Rising greifen.