• Frage: wie sollen KI biologische vorgänge überprüfen

    Frage gestellt Sugmarcoc am 16 Jun 2022.
    • Foto: Christoph Palm

      Christoph Palm Beantwortet am 16 Jun 2022:

      Ich weiß nicht, ob ich die Frage richtig verstehe. Meinst Du, ob eine KI versteht, was biologisch hinter einer Krankheit steht, die sie vorhersagt? Dann wäre meine Antwort: Sie versteht die biologischen Vorgänge in der Regel nicht, sondern versucht, aus den Trainingsdaten Muster abzuleiten. Eine KI ist aber nicht intelligent in dem Sinne, dass sie verstanden hat, wie aus einer Ursache eine Wirkung entsteht und logische Schlüsse für andere Sachverhalte daraus ziehen könnte, die nicht Teil des Trainings waren.

    • Foto: Svenja Wiertz

      Svenja Wiertz Beantwortet am 17 Jun 2022:

      Wir sind noch weit davon entfernt, Ärztinnen durch künstlich-intelligente Systeme zu ersetzen. In der Forschung geht es im Moment meist um die Frage, wie solche Systeme uns mit konkreten Einzelproblemen helfen können. So können etwa Roboter einige chirurgische Eingriffe im Operationssaal heute besser durchführen als Menschen. Aber das gilt nur für ganz bestimmte Eingriffe!
      Wenn Du von ‚überprüfen‘ schreibst, dann nehme ich an, dich interessiert der Bereich der Diagnostik – was ist mit einem Menschen los, welche Krankheit hat er vielleicht? Da ist aktuell nicht davon auszugehen, dass ein künstlich-intelligenter Roboter das allein übernimmt. Eine Ärztin wird Fragen stellen, und Untersuchungen anordnen. Viele davon werden mit technischen Apparaten durchgeführt. Aus all diesen Untersuchungen ergeben sich Daten. Die könnte man in ein System eingeben, und eventuell kann uns dann die künstliche Intelligenz auf Basis dieser Daten sagen, an welcher Krankheit die Person vermutlich leidet. Diese Information bekäme dann auch erstmal die Ärztin, die selbst noch einmal überprüfen kann, ob das plausibel ist, oder ob sie nicht lieber noch weitere Tests machen möchte, bevor sie mit ihrer Patientin spricht.

    • Foto: Elisabeth Pachl

      Elisabeth Pachl Beantwortet am 20 Jun 2022:

      Ich wollte zu dem Thema noch einen Punkt hinzufügen:

      Es gibt einen Bereich der KI, der nicht nur vor Vorhersage oder Erkennung dient. Vorhersage wäre zum Beispiel, der bereits beschriebene Vorgang in der Diagnostik. Für die Anwendung der Erkennung wäre ein Beispiel, dass die KI aus 1000 Bilder diejenigen markiert, die einen bösartigen Tumor zeigen. Das heißt wir wissen hinterher erstmal nur „dass“ aber nicht das „warum hat die KI gemacht was sie gemacht hat“ oder „warum hat die KI genau diese Entscheidung getroffen“.
      Und selbst wenn man versucht die Ergebnisse der KI zu erklären (siehe hierzu die Antwort auf die Frage über „explainable AI“), hat man nur eine Erklärung dafür, warum die KI basierend auf der ihr zur Verfügung stehenden Trainingdaten diese Entscheidung getroffen hat.
      Das heißt die KI weiß nur so viel über den biologschen Vorgang, wie die Trainingsdaten ihr verraten. Und selbst mit solchen Erklärungsversuchen findet man nur so genannte Korrelationen. Das heißt in den Daten zum Beispiel herrscht der Trend, dass ältere Patienten häufiger eine bestimmte Krankheit haben. Das heißt es herrscht eine positive Korrelation von Krankheit und Alter. Das heißt aber im Umkehrschluss, dass wir nicht sagen können ob das Alter auch die Ursache für die Krankheit ist.
      Deswegen weiß die KI grundsätzlich erstmal nichts über die Ursache von biologischen Vorgängen oder Krankheiten.

      Das Feld in der KI/maschinellem Lernen, welches Licht ins Dunkle hier bringen kann heißt „kausale Inferenz“ und versucht eben nicht nur Korrelation in den Daten zu finden, sondern auch einen kausalen Zusammenhang festzustellen.

      Ein viel benutzen Beispiel hierzu:
      Wir haben Daten dazu gesammelt, wie viel Eis verkauft wurde an einem Tag und die Leute befragt ob sie am gleichen Tag Sonnenbrand hatten. Wir nehmen jetzt mal, dass es eine positive Korrelation zwischen der Menge an verkauftem Eis und der Anzahl an Sonnenbränden gibt. Das heißt, je mehr Eis verkauft wird, desto mehr Menschen haben also auch einen Sonnenbrand. Das bedeutet allerdings natürlich nicht, dass es mehr Sonnenbrände gibt, WEIL mehr Eis verkauft wurde. Stattdessen wird sowohl die Menge des Speiseeises als auch die Anzahl der Sonnenbrände durch die Außentemperatur beeinflusst. Ist es draußen wärmer, dann kaufen die Leute mehr Eis und sie bekommen gleichzeitig auch häufiger einen Sonnenbrand, als wenn es kalt ist. Das bedeutet, die Variablen „Speiseeis“ und „Sonnenbrände“ korrelieren zwar miteinander, es besteht zwischen ihnen aber kein kausaler Ursache-Wirkungs-Zusammenhang (für eine besser Darstellung mit Bildern kann man hier sich mal umsehen: https://studyflix.de/statistik/korrelation-und-kausalitat-2216).

Kommentare

Kürzlich gestellte Fragen

Alle beantworteten Fragen ansehen