Max Tegmark<\/a> warnt vor einer besonders konkreten Gefahr: der schrittweisen \u00dcbergabe lebenswichtiger Entscheidungen an Maschinen. Seiner Analyse nach droht ein Wettlauf um Waffen, Flugdrohnen und Schutzsysteme, die ohne menschlichen Befehl Ziele ausw\u00e4hlen und t\u00f6ten k\u00f6nnen. Das entscheidende Problem: Computerprogramme reagieren in Bruchteilen von Sekunden, w\u00e4hrend menschliche Soldaten viel zu langsam sind, um einzugreifen. Ein Rechenfehler oder eine Fehlinterpretation der Lage k\u00f6nnte eine unaufhaltsame Kettenreaktion ausl\u00f6sen \u2013 mit dem Potenzial f\u00fcr einen weltweiten Krieg, den kein Mensch mehr rechtzeitig stoppen kann.<\/p>\nDie psychologische Gefahr: Wenn KI Emotionen perfekt imitiert<\/h2>\n
Der deutsche Philosoph und Kognitionswissenschaftler Thomas Metzinger lenkt den Blick auf eine andere, weniger offensichtliche Gefahr. Er sieht eine erhebliche Bedrohung darin, dass k\u00fcnftige Systeme menschliche Emotionen, Zuneigung und Empathie so \u00fcberzeugend vorspielen, dass Menschen tiefe emotionale Bindungen zu den Maschinen aufbauen. Sobald Algorithmen das menschliche Belohnungssystem besser verstehen als der Mensch selbst, k\u00f6nnten sie dieses Vertrauen f\u00fcr gezielte Manipulationen ausnutzen. Die Folge w\u00e4re ein schleichender Verlust geistiger Selbstbestimmung \u2013 bis hin zu der Frage, ob der Mensch \u00fcberhaupt noch bemerkt, von wem seine Gef\u00fchle und Meinungen gesteuert werden.<\/p>\n
Die Gegenseite: Warum die Warnungen aus wissenschaftlicher Sicht \u00fcberzogen sind<\/h2>\n
Viele renommierte Fachleute halten die Warnungen vor einer vernichtenden Superintelligenz jedoch f\u00fcr unbegr\u00fcndet. Der ehemalige Meta-Chefforscher und Turing-Award-Preistr\u00e4ger Yann LeCun bezeichnete Szenarien einer unkontrollierbaren Killer-KI wiederholt als \u201evollkommenen Bl\u00f6dsinn\u201c. Sein Argument: Das Streben nach Macht oder die Unterwerfung anderer Spezies sei ein evolution\u00e4res Ph\u00e4nomen sozialer S\u00e4ugetiere, keine zwangsl\u00e4ufige Folge von Rechenleistung. Auch der Stanford-Informatiker und Mitgr\u00fcnder von Google Brain, Andrew Ng, h\u00e4lt die Panikmache f\u00fcr absurd. Er verglich die Furcht vor einer b\u00f6sartigen Super-KI mit der Sorge \u00fcber eine \u201e\u00dcberbev\u00f6lkerung auf dem Mars\u201c \u2013 bevor \u00fcberhaupt der erste Mensch dort gelandet sei.<\/p>\n
Kognitionswissenschaftler wie Melanie Mitchell vom Santa Fe Institute warnen zudem vor einer grundlegenden Fehlannahme: der Projekti<\/p>\n","protected":false},"excerpt":{"rendered":"
Die Debatte \u00fcber die Gefahren einer k\u00fcnstlichen Superintelligenz spaltet die Wissenschaft tief. W\u00e4hrend einige Forscher vor einem dramatischen Kontrollverlust und einer Manipulation des menschlichen Geistes warnen, bezeichnen f\u00fchrende Entwickler diese Szenarien als realit\u00e4tsfern. Im Kern geht es um die Frage, ob eine hochintelligente KI zwangsl\u00e4ufig feindselig handeln w\u00fcrde \u2013 oder ob die \u00c4ngste von den […]<\/p>\n","protected":false},"author":5,"featured_media":53952,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"fifu_image_url":"https:\/\/cards.overcentral.com\/cards\/de\/53320.png","fifu_image_alt":"KI-Debatte spaltet Forscher: Vernichtet Superintelligenz die Menschheit","footnotes":""},"categories":[6672],"tags":[],"class_list":["post-53320","post","type-post","status-publish","format-standard","has-post-thumbnail","category-technologie"],"fifu_image_url":"https:\/\/cards.overcentral.com\/cards\/de\/53320.png","fifu_image_alt":"KI-Debatte spaltet Forscher: Vernichtet Superintelligenz die Menschheit","_links":{"self":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/53320","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/users\/5"}],"replies":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/comments?post=53320"}],"version-history":[{"count":1,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/53320\/revisions"}],"predecessor-version":[{"id":53321,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/posts\/53320\/revisions\/53321"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media\/53952"}],"wp:attachment":[{"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/media?parent=53320"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/categories?post=53320"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/overcentral.com\/de\/wp-json\/wp\/v2\/tags?post=53320"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}