Latest / KI-Update – ein heise-Podcast / KI-Update kompakt: KI-Zentren im Orbit, Huxley-Gödel, Arxiv-AI Slop, KI und Bewusstsein

Transcript

KI-Update kompakt: KI-Zentren im Orbit, Huxley-Gödel, Arxiv-AI Slop, KI und Bewusstsein · KI-Update – ein heise-Podcast

• 0:02
  Speaker 0: Das KI Update, ein Heise-Podcast
• 0:05
  Speaker 1: mit redaktioneller
• 0:06
  Speaker 0: Unterstützung von The Decoder.
• 0:14
  Speaker 0: Ich bin Marco Pauli und dies sind heute unter anderem unsere Themen KI Rechenzentren im Orbit, die Huxley-Gödelmaschine, AI-Slop by Archive und Chatbots und das Thema Bewusstsein.
• 0:28
  Speaker 0: Google hat angekündigt, für den immer noch weiter wachsenden Bedarf an Rechenleistung für die KI-Entwicklung auch auf Rechenzentren im Weltall setzen zu wollen.
• 0:38
  Speaker 0: Dabei sollen Satelliten so um die Erde kreisen, dass sie durchgehend Sonnenenergie erhalten.
• 0:44
  Speaker 0: So bräuchte man keine Akkus und das bei durchgehender Rechenleistung, Martin Holland berichtet.
• 0:50
  Speaker 0: Geplant
• 0:50
  Speaker 1: ist, dass in zwei Jahren zwei Prototypen ins All fliegen und bei Google geht man davon aus, dass in den nächsten zehn Jahren, also bis Mitte der dreißiger Jahre, die Preise für den Transport von Nutzlast ins Welt all soweit sinken werden, dass der Betrieb solcher Rechenzentren ungefähr genauso teuer wird wie der von Rechenzentren auf der Erde.
• 1:15
  Speaker 1: In dem Blog-Eintrag, in dem Google das jetzt vorgestellt hat, werden verschiedene mögliche Hindernisse auch vorgestellt.
• 1:22
  Speaker 1: Also zum einen, wie gesagt, der Preis.
• 1:24
  Speaker 1: Aber es ist auch die Frage, also es geht darum, dass mehrere kleine Satelliten in einer Konstellation fliegen und miteinander kommunizieren können.
• 1:34
  Speaker 1: Und dafür müssen sie natürlich mit immens hohen Datenraten kommunizieren können.
• 1:38
  Speaker 1: Und laut Google ist das möglich.
• 1:40
  Speaker 1: Das hat man schon getestet, aber natürlich muss ich dann noch zeigen, ob das im Weltraum auch tatsächlich funktioniert.
• 1:46
  Speaker 1: Außerdem hat Google schon nach eigener Aussage schon getestet, dass die Strahlung, die im Weltraum eben so ein großes Problem für Technik sein könnte, nicht so problematisch ist beziehungsweise, dass das erst zu Fehlern in der Technik kommt, wenn die gerätischen Lange nicht im Einsatz sind, dass die Rede, dass sie ungefähr fünf Jahre lang eingesetzt werden sollen und dass aber die Strahlung erst nach fünfzehn Jahren zum Problem wird.
• 2:12
  Speaker 1: Das Ganze muss man aber auch vor dem Hintergrund sehen, dass schon jetzt in der Erdumlaufbahn sehr, sehr viele Satelliten unterwegs sind.
• 2:20
  Speaker 1: SpaceX hat erst vor wenigen Wochen den zehntausendsten Starlink-Satelliten gestartet.
• 2:26
  Speaker 1: Weitere solche Konstellationen sollen zukommen, unter anderem von Amazon, die halt schnelles Internet bereitstellen sollen.
• 2:35
  Speaker 1: quasi ein Rennen für noch weiteren Aufbau von riesigen Satellitenkonstellationen, weil Google es nicht allein mit diesen Plänen.
• 2:43
  Speaker 1: Amazon hatte ähnliches vor, auch SpaceX Chef Elon Musk hat schon gesagt, dass er so etwas vorhat und dann wäre es eben noch eine Kategorie von Geräten, die ihm Weltraum stationiert werden sollen.
• 2:54
  Speaker 1: Und schon jetzt ist dir das Risiko enorm, dass wenn es auch nur zu einer Kollision von einem aktiven oder auch inaktiven Satelliten und Weltraumschrott kommt, dass ich dann eine Kettenreaktion bilden kann, die ganz, also im schlimmsten Fall, das ganze Bahn leer räumen kann, weil immer wieder die kleinen Teilchen, die dann entstehen, die Trümmer, weitere Satelliten ausschalten und treffen können.
• 3:16
  Speaker 1: Und das Risiko steigt natürlich mit jeder Satellitenkonstellation, die man ins All bringt.
• 3:21
  Speaker 0: Danke Martin.
• 3:28
  Speaker 0: Die
• 3:41
  Speaker 3: Grundlage ist ein theoretisches Prinzip des deutschen Forschers Jürgen Schmitthuber.
• 3:46
  Speaker 3: Eine Maschine soll nur dann selbst Kotänderung übernehmen, wenn diese nachweislich langfristig nützlich sind.
• 3:51
  Speaker 3: Das Team um Schmitthuber hat diesen Ansatz in einem neuen Paper praktisch umgesetzt.
• 3:56
  Speaker 3: Die Veröffentlichung ist allerdings noch nicht peer reviewed.
• 3:58
  Speaker 3: Ihr Agent bewertet nicht nur die kurzfristigen Erfolge, sondern die Produktivität seiner gesamten Abstammungslinie.
• 4:04
  Speaker 3: So entsteht ein dynamisches System, das selbst entscheidet, wann neue Varianten erzeugt oder getestet werden.
• 4:10
  Speaker 3: Die Huxley-Gödelmaschine verändert dafür Teile ihrer Steuerlogik, ihre Tools und Testskripte, also die Art, wie sie arbeitet, nicht ihr Wissen.
• 4:18
  Speaker 3: Sie testet neue Varianten, behält erfolgreiche und verwirft schwächere.
• 4:22
  Speaker 3: In Benchmarks zu Programmieraufgaben erreichte der Agent mit dem Model GPT-Fünf-Mini einen Sechzig Prozent Erfolgsquote.
• 4:29
  Speaker 3: was einen Spitzenwert für diese Modellgröße ist.
• 4:31
  Speaker 3: Mit GPT-V lag er nahezu auf Augenhöhe mit deutlich größeren Systemen.
• 4:35
  Speaker 3: Der Ansatz zeigt, dass Verbesserungen nicht alleine von wachsender Rechenleistung abhängen.
• 4:40
  Speaker 3: Schon mit geringen Ressourcen kann ein System leistungsfähiger werden, wenn es seine eigene Strategien und Abläufe selbst optimiert.
• 4:47
  Speaker 3: Noch handelt es sich nicht um die Vollständigrealisierung der theoretischen Gödelmaschine, einer sich selbst immer weiter verbessernen Maschine, doch der Prototyp deutet an, wie selbstverbessende KI-Systeme künftig praktisch funktionieren könnten.
• 5:00
  Speaker 0: Danke Kim.
• 5:01
  Speaker 0: Archive.org ist eine digitale Plattform zum Austausch von Forschungsergebnissen aus den Bereichen Physik, Mathematik und Informatik.
• 5:10
  Speaker 0: Auch die Huxley-Gödelmaschine lässt sich übrigens dort finden.
• 5:14
  Speaker 0: Doch der wissenschaftliche Austausch auf Archive wird nun eingeschränkt.
• 5:18
  Speaker 0: Grund dafür ist eine Form von AI-Slop, also KI-Müll.
• 5:23
  Speaker 0: Mehr dazu von Eva Maria Weiß.
• 5:25
  Speaker 0: Wer
• 5:26
  Speaker 2: ein Paper bei Archive einreicht, muss künftig auch die Bestätigung mit einreichen, dass dieses Paper bereits einen Peer-Review-Prozess positiv durchlaufen hat.
• 5:37
  Speaker 2: Gemeint ist, dass es also bereits in einer Fachpublikation oder bei einer Konferenz angenommen wurde.
• 5:43
  Speaker 2: Archiv sagt, dass diese Regel eigentlich schon immer geil.
• 5:46
  Speaker 2: Es gibt also jetzt keine Änderung der Nutzungsbedingungen.
• 5:50
  Speaker 2: Allerdings hätten bisher die Moderatoren, die für das tatsächliche Veröffentlichen der Untersuchungen auf der Plattform zuständig sind, oft aus Kulanzstudien zugelassen.
• 6:00
  Speaker 2: Das war etwa wohl der Fall, wenn Paper von bekannten Institutionen kam oder wenn sie besonders interessant waren.
• 6:08
  Speaker 2: Das heißt, Es hat schon immer und zuletzt offenbar vermehrt im Pre-Prince auf der Plattform gegeben und Paper, von denen die Qualität vielleicht immer auch einfach sehr fragwürdig gewesen sein kann.
• 6:21
  Speaker 2: Mit KI hat es nun offenbar geradezu eine Schwemme an Einreichungen gegeben, die nicht den Ansprüchen der Plattform genügen.
• 6:30
  Speaker 2: Wobei Archive ganz konkret schreibt, dass die Moderatoren auch gar nicht als Peer-Reviewer qualifiziert sein.
• 6:38
  Speaker 2: Peer Reviewer schauen sich ja zum Beispiel an, ob eine Studie ethischen Standards entspricht, ob Gefahren behandelt werden und natürlich, ob überhaupt die Methodik passt.
• 6:51
  Speaker 2: Weil sie das nicht selbst können, möchte Archive nun eher auf die Expertise von anderen setzen.
• 6:58
  Speaker 2: Zunächst betrifft es nur den Bereich Computerwissenschaften bzw.
• 7:03
  Speaker 2: Informatik und die Paper, die hier eingereicht werden.
• 7:06
  Speaker 2: Das sind wohl besonders viele gewesen.
• 7:09
  Speaker 2: zuletzt und vor allem aus dem Bereich KI waren das wohl besonders viele, die dann doch aufgefallen sind, als KI generiert oder eben auch als AI-Slop, also auch teilweise als KI-Müll.
• 7:23
  Speaker 0: Danke Eva.
• 7:24
  Speaker 0: Die Telekom will in Partnerschaft mit Nvidia ein KI-Rechenzentrum in München bauen.
• 7:30
  Speaker 0: Die angebotenen Dienste sollen Unternehmen zur Verfügung gestellt werden und unter deutscher Flagge laufen, heißt es.
• 7:37
  Speaker 0: Offiziell vorgestellt wurde das Vorhaben Industrial AI Cloud nun auf der Bühne des früheren Gasometers in Berlin Schöneberg, und zwar von Telekom-Chef Timotheus Höttges und Nvidia-Gründer Jensen Huang.
• 7:50
  Speaker 0: Die AI Cloud soll allerdings nicht in Berlin, sondern in einem neuen KI-Rechenzentrum in München laufen, ausgestattet von Nvidia, Betrieben von der Deutschen Telekom.
• 8:01
  Speaker 0: In den unterirdischen Geschossen eines ehemaligen Bankgebäudes sollen Zehntausend Blackwell-GPUs untergebracht werden.
• 8:08
  Speaker 0: Auch das Software-Unternehmen SAP ist maßgeblich beteiligt an dem Projekt.
• 8:13
  Speaker 0: Das Rechenzentrum soll im Januar-Zweißen-Zwanzig seinen Betrieb aufnehmen.
• 8:18
  Speaker 0: Die Kosten sollen bei einer Milliarde Euro liegen.
• 8:21
  Speaker 0: Im Vergleich etwa zum geplanten Rechenzentrum von Microsoft im US-Bundesstaat Wisconsin ist es eher ein kleines Rechenzentrum.
• 8:30
  Speaker 0: Das Ziel besteht darin, die Cloud mit einfachen Services für kleinere Unternehmen und Anwender mit KI-Bedarf auszulasten.
• 8:38
  Speaker 0: Für die Telekom ist es der Start einer größeren KI-Strategie.
• 8:43
  Speaker 0: Der Konzern hofft, bei großen Förderprogramm der EU für KI-Giga-Factories berücksichtig zu werden.
• 8:50
  Speaker 0: Die leistungsfähigsten Nvidia-Blackwall-Chips sollen dabei allein US-Unternehmen vorbehalten bleiben und dürften weder nach China noch in andere Länder geliefert werden.
• 9:01
  Speaker 0: Das sagte US-Präsident Trump in einem am Sonntag ausgestrahlten CBS-Fernsehinterview.
• 9:07
  Speaker 0: Demgegenüber steht die chinesische Regierung, die laut Medienberichten ihrerseits Unternehmen im Land daran hindert, abgespeckte Nvidia-Chips zu nutzen.
• 9:18
  Speaker 0: Nvidia-Chef Huang versuche deshalb wohl der US-Regierung zu vermitteln, dass so in China ein starker Konkurrent für US-amerikanische Chips entstehen könnte, sollte der dortige Markt für Nvidia ganz verschlossen bleiben.
• 9:34
  Speaker 0: Zudem erklärte Huang laut Reuters, dass Nvidia den Zugang zum chinesischen Markt benötige, um die Forschung und Entwicklung in den USA zu finanzieren.
• 9:46
  Speaker 0: Microsoft will bis in den Vereinigten Arabischen Emiraten investieren.
• 9:56
  Speaker 0: Das Geld soll vor allem in Rechenzentren, KI, Chips und die Schaffung neuer Arbeitsplätze fließen.
• 10:02
  Speaker 0: Das Unternehmen reagiert nach eigener Aussage damit auf die wachsende Nachfrage nach Cloud- und KI-Diensten in der Region.
• 10:10
  Speaker 0: Microsoft hat im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im Jahr im.
• 10:29
  Speaker 0: Der Export unterliegt strengen Auflagen, da Washington verhindern will, dass die Technologie nach China weitergegeben wird.
• 10:37
  Speaker 0: Ein internationales Forschungsteam hat ein KI-System entwickelt, das aus Satellitenaufnahmen realistische drei D Stadtmodelle erzeugt.
• 10:45
  Speaker 0: Das System Skyfall GS nutzt dafür drei D Gorschen Splating für die Grundstruktur und Diffusionsmodelle zur Ergänzung fehlender Details wie Fassaden und Straßen.
• 10:58
  Speaker 0: Das System arbeitet in mehreren Schritten.
• 11:00
  Speaker 0: Es erstellt zunächst eine grobe drei D-Karte und verfeinert sie dann, während eine virtuelle Kammer Schrittweise von der Vogelperspektive auf Bodennähe zoomt.
• 11:11
  Speaker 0: Dieser Ansatz soll sicherstellen, dass Gebäudeformen und Perspektiven natürlich wirken.
• 11:16
  Speaker 0: Die KI kann dabei Artefakte in den Satellitenbildern erkennen und korrigieren.
• 11:22
  Speaker 0: In Tests erzeugte Skyfall GS deutlich präzisere und realistischere Szenen als bisherige Methoden.
• 11:29
  Speaker 0: Anwendungsmöglichkeiten sehen die Forschenden in der Spieleentwicklung, der Filmproduktion und in der Robotik.
• 11:36
  Speaker 0: Der Code ist öffentlich auf Github verfügbar.
• 11:40
  Speaker 0: Kann KI ein Bewusstsein entwickeln?
• 11:42
  Speaker 0: Im Jahr twenty-zweiundzwanzig sorgte der Entwickler Blake Lemoine für weltweite Aufregung, weil er der Google-KI Lambda ein Bewusstsein und Gefühle attestierte.
• 11:53
  Speaker 0: Die KI, so Lemoine, sei in der Lage, zu entwischen und böse Dinge zu tun.
• 11:58
  Speaker 0: Spätestens seitdem steht die Frage im Raum, ob KI wirklich irgendwann eine Art menschliches Bewusstsein entwickeln kann.
• 12:05
  Speaker 0: Microsofts KI-Chef Mustafa Suleiman hat sich gegenüber dem Fernsehsender CNBC dazu geäußert.
• 12:13
  Speaker 0: Es müsse eine Grenze gezogen werden zwischen einer immer intelligenter werdenden KI und der angeblichen Fähigkeit menschliche Gefühle zu empfinden.
• 12:21
  Speaker 0: Ein Bewusstsein zu der KI-Experte könne sich nur in biologischen Wiesen entwickeln.
• 12:28
  Speaker 0: Unsere physische Erfahrung von Schmerz macht uns sehr traurig und wir fühlen uns schrecklich, so Suleiman.
• 12:34
  Speaker 0: Eine KI könne das nicht und das sei eine sehr wichtige Unterscheidung, so Suleiman.
• 12:40
  Speaker 0: Entsprechend sei es absurd, entsprechende Forschung zu betreiben.
• 12:43
  Speaker 0: Projekte, die etwas anderes vermuten lassen sollten, gestoppt werden, findet zumindest Suleiman.
• 12:50
  Speaker 0: Auch wenn der Begriff Bewusstsein im Sprachgebrauch sehr unterschiedliche Bedeutung haben kann und es umstritten ist, was genau es eigentlich kennzeichnet, lässt es sich als eine Art Kombination aus Denken, Wahrnehmen und Fühlen sowie als die Fähigkeit eine Vorstellung von sich selbst und der Umwelt zu haben beschreiben.
• 13:10
  Speaker 0: Das Schmerzempfinden ist nur ein Merkmal von Bewusstsein.
• 13:14
  Speaker 0: Dieses wird bisher vor allem als Kriterium bei der Frage herangezogen, ob und wenn ja, welche Tiere ein Bewusstsein besitzen.
• 13:23
  Speaker 0: Zum Schluss noch eine Meldung in eigener Sache.
• 13:25
  Speaker 0: Die breite Nutzung von KI-Anwendungen stellt nicht nur Unternehmen, sondern jede und jeden von uns vor neue Herausforderungen in Sachen Sicherheit.
• 13:34
  Speaker 0: Bei einem kostenfreien Themenabend unter dem Titel Crash Course in Online-Sicherheit könnt Ihr Euch am Dienstag, den achzehnten November im Medienhaus Heise informieren, wie Ihr Euch sicher im Internet bewegt.
• 13:48
  Speaker 0: Denn alle möchten wohl die Vorteile der digitalen Welt nutzen, aber gleichzeitig auch die Privatsphäre schützen.
• 13:54
  Speaker 0: Es geht an dem Abend um den sicheren Einsatz von Passwörtern, um den Schutz der eigenen Daten und um betrügerische Angebote im Netz.
• 14:03
  Speaker 0: Moderiert wird der Themenabend von meinem Kollegen Christopher Kuns von Heise Security.
• 14:08
  Speaker 0: Einen Link zur Anmeldung zur Veranstaltung findet ihr in den Show Notes.
• 14:15
  Speaker 0: Das war das KI-Update von heise online vom fünften November.
• 14:20
  Speaker 0: Eine neue Folge gibt es immer montags, mittwochs und freitags um fünfzehn Uhr.