• Frage: Was ist wenn KI zu krank wird und die Menschen zerstört

    Frage gestellt Luis am 16 Jun 2022.
    • Foto: Sten Hanke

      Sten Hanke Beantwortet am 16 Jun 2022:


      Das ist im Prinzip auch eine gute Frage. Wichtig ist zu verstehen, das eine KI nicht selber denkt und auch keine eigenen Emotionen hat und nur gelernte Entscheidungen trifft basierend auf Daten / Informatioen die wir ihr geben. Das heißt eine KI wie vielleicht der Terminator oder KIs aus Filmen sind leider eine sehr falsche Darstellung von KI. Man muss aber in der Tat sagen noch. Wir wissen nicht was die Zukunft bringt und verstehen auch viele Sachen noch nicht im Menschen – zum Beispiel was ein Bewusstsein ist – und können es dadurch auch nicht künstlich nachbilden.
      Interessant ist zb das Google gerade diese Woche berichtet das der Google Chatbot LaMDA über Gefühle sprechen kann. Da muss man aber vorsichtig sein, was hier gemeint ist. Aber wie gesagt – was die Zukunft bringt ist offen.
      Und ja auch ein theoretisches Szenrio, wie die Zerstörung würde dann ev. im Raum stehen.
      Hier liegt es auch an den Menschen und Wissenschaftlern bestimmte Sachen bei der Entwicklung zu beachten und am besten KI nur in ethisch sinnvollen Anwendungen einzusetzen.
      Eine sehr komplizierte Frage 🙂

    • Foto: Christoph Palm

      Christoph Palm Beantwortet am 16 Jun 2022:


      Bei einer KI hat man sich verschiedene Stufen überlegt. Die Stufe, die dem Menschen am nächsten kommt ist eine generelle KI, die auch starke KI genannt wird. Die ist kreativ und innovativ und kann sich auf neue Situationen selbstständig einstellen. Die nächste (und letzte) Stufe ist dann die Künstliche Superintelligenz, die ein eigenes Bewusstsein hat und die menschliche Intelligenz weit übertrifft. Meiner Meinung nach hätte nur eine solche Super-KI das Potential, die Menschen selbstständig zu zerstören.

      Obwohl die Entwicklung genereller KI oder gar einer Super-KI schon immer in den Hinterköpfen der KI-Wissenschaftler gesteckt hat, sind wir noch weit von einer generellen KI entfernt und noch viel weiter von einer Super-KI. Keine weiß, was die Zukunft bringt und natürlich gibt es so etwas wie Sprunginnovationen, wo plötzlich etwas geht, was man lange für unmöglich gehalten hat. Trotzdem glaube ich, dass es noch sehr lange dauern wird, bis eine Super-KI technisch möglich wird. Und auf dem Weg dahin sollte man die KI-Entwicklung ethisch begleiten und sich bei jedem Entwicklungsschritt fragen, ob wir Menschen diesen Weg einschlagen wollen.

      Gehen wir aber in einem Gedankenexperiment einmal davon aus, dass es eine Super-KI gibt. Warum sollte eine solche Super-KI die Menschheit zerstören? Wir Menschen zerstören ja auch nicht alles, was weniger intelligent ist als wir selbst sind. Vielleicht wäre eine solche Super-KI ja auch ethisch höher entwickelt und ist nicht so dumm wie wir Menschen, die die eigenen Lebensgrundlagen durch kurzfristige Eigeninteressen zerstören (Stichwort: Klimawandel, Krieg, …).

    • Foto: Svenja Wiertz

      Svenja Wiertz Beantwortet am 17 Jun 2022:


      Wie schon gesagt sind wir weit davon entfernt, KIs zu entwickeln, die das vielleicht könnten. Aber mit der Perspektive darauf, dass dies irgendwann möglich sein könnte, befassen sich auch heute schon WissenschaftlerInnen mit einer KI-Ethik in dem Sinne, dass sie die Frage stellen, wie wir künstlich-intelligenten Systemen eigentlich ethische Wertmaßstäbe und ethsiche Entscheidungsmuster beibringen könnten. Hoffen wir, dass sie damit Erfolg haben, bevor wir eine Super-KI entwickeln! (Ich nehme aber stark an, dass wir bis dahin noch eine ganze Menge Zeit haben.)

    • Foto: Karsten Weber

      Karsten Weber Beantwortet am 19 Jun 2022:


      Ich neige dazu den Antworten meiner Kolleg*innen zuzustimmen, aber seit einigen Tagen wird (mal wieder) sehr kontrovers über die Frage diskutiert (https://www.heise.de/news/Hat-Chatbot-LaMDA-ein-Bewusstein-entwickelt-Google-beurlaubt-Angestellten-7138314.html), ob KI-Systeme denken können und ein Bewusstsein besitzen. Nur wenn man davon ausgeht, dass KI-Systeme selbst denken und Bewusstsein haben, könnten sie den Plan fassen uns Menschen zu zerstören. Davon, so denke ich, sind wir aber weit entfernt.

Kommentare