-
German
Talk
Beginner
Dr. Algorithmus – Das berechnete Gesundheitsrisiko

Short thesis

Im Gesundheitsbereich werden große Erwartungen an die Nutzung von Big Data, Algorithmen und Machine Learning gestellt. Ein Beispiel dafür sind Risikorechner, mit denen das persönliche Krankheitsrisiko bestimmt werden kann. Sie sollen Gesunden, Kranken und ÄrztInnen Orientierung geben und Entscheidungen erleichtern. Die Tools sind komplex, aber verlockend einfach zu bedienen. Zeit, sie zu hinterfragen.

Description

Online sind zahllose Tools verfügbar, mit denen das individuelle Risiko für Herzinfarkt, Krebs oder sogar eine verkürzte Lebenserwartung mit wenigen Mausklicks berechnet werden kann. Aber lässt sich die eigene gesundheitliche Zukunft so einfach bestimmen? 

Für die NutzerInnen ist oft unklar, wie Risikorechner funktionieren. Das macht es schwer, die Ergebnisse richtig zu interpretieren. Bei der aufwändigen  Entwicklung der Tools muss zunächst geklärt werden, welche Risikofaktoren bei welcher Erkrankung eine Rolle spielen. Dazu sind große Datenmengen erforderlich. Im nächsten Schritt wird ein Vorhersagemodell entwickelt, das alle relevanten Faktoren einbezieht. Diese Entwicklung erfolgt an einer Lernstichprobe, gefolgt von einer Validierungsstichprobe, um die Qualität der Vorhersage zu überprüfen. Wichtige Kriterien sind hier Diskriminierung und Kalibrierung – wir zeigen, warum. Die Modelle selbst basieren auf komplexen statistischen Verfahren oder Algorithmen des Machine Learning. Die Algorithmen bilden die Grundlage für Risikorechner, die online oder als App angeboten werden. Mit ihnen kann, so das Versprechen, jede Person das individuelle Gesundheitsrisiko berechnen. Offen bleibt, ob dieses Versprechen eingehalten wird.

Dem gehen wir nach und werfen einen Blick in die Nutzungsbedingungen. Wir nehmen uns Zeit für das Kleingedruckte, für Formulierungen wie "Der Anbieter übernimmt keine Haftung für Folgen der Nutzung". Wir diskutieren, welchen Schaden Risikorechner anrichten können und wie sich NutzerInnen davor schützen können. Laut AGBs sind "Risikorechner kein Ersatz für ärztlichen Rat oder Diagnosen". Nur – was sind sie dann? Wozu dienen sie, wo liegen die Risiken, wo die Chancen? Wie lässt sich nachweisen, ob und wie Entscheidungen mit den neuen Algorithmen konsistenter, genauer und rigoroser werden?