Das Wichtigste von der GDI-Konferenz «The Power of Predictions»

Von schwarzen Schwänen und warnenden Ziegen: An der Konferenz «The Power of Predictions» diskutierten international anerkannte Experten die Chancen und Risiken von Prognosen mittels Künstlicher Intelligenz. Eine Zusammenfassung.

Eröffnungspodium
David Bosshart (GDI), Rainer Baumann (Swiss Re Management), Alessandro Curioni (IBM Research Zurich)

Der Erfolg von Prognosen hängt von der Verfügbarkeit von genügend und hochwertigen Daten ab. Der Effekt von Prognosen wird sich auf alle Branchen auswirken. In der Schweiz wollen wir die Vorteile guter Prognosen nutzen, aber nicht für die Infrastruktur bezahlen. Spezielle Anwendungen der Künstlichen Intelligenz haben heute schon übermenschliche Fähigkeiten. Sie erkennen beispielsweise Fehler in einer Produktionskette. Die Herausforderung ist, diese Anwendungen für die breite Masse zu adaptieren. Zentral ist auch die Entschlüsselung der Black-Box KI: Sie muss darlegen, warum bestimmte Entscheidungen besser als andere sind. Die Vorhersage von Schwarzen Schwänen steht in ferner Zukunft. Wir können immer komplexerer Probleme lösen, aber es wird immer noch komplexerer Probleme geben.

Ajay Agrawal (Universität Toronto): «Die Zutaten sind da, dass Prognosen der nächste «Sputnik-Moment» sind»

Agrawals Creative Destruction Lab hilft Gründern, ihre Projekte in skalierbare Projekte zu transformieren. Die zentrale Frage ist: wofür reduziert meine Idee die Kosten? Der Erfolg von Künstlicher Intelligenz lässt sich in einem einfachen Satz erklären: KI reduziert die Kosten von Prognosen. Wenn Prognosen billig werden, hat das zur Folge, dass wir Probleme als Prognoseprobleme definieren, die vorher nicht als solche definiert wurden. So wurde das Wenn-dann Problem des autonomen Fahrens ein Prognoseproblem: Was würde der Mensch hinterm Steuer tun? Prognosen helfen heute Personalabteilungen, bei der Entwicklung von Übersetzungssoftware, bei medizinischen Diagnosen, bei der Kreditvergabe, der Betrugserkennung. Der Kreis des Erfolges schliesst sich für die grossen Firmen wie Google: Mehr Daten bedeuten bessere Prognosen. Das dadurch verbesserte Angebot zieht mehr Nutzer an, die wieder mehr Daten liefern. Die Zutaten sind da, dass Prognosen der nächste «Sputnik-Moment» sind. Die Investitionssummen sind sehr hoch, China investiert in grossem Umfang. Nun stehen alle vor einer Entscheidung: warten, oder mitmachen.

Ran Balicer (Clalit Research Institute): «Doktoren werde nicht durch Algorithmen ersetzt werden, aber ihr Berufsbild wird sich ändern»

Die Vorhersage eines Herzinfarkts mittels Datenauswertung ist keine Science Fiction mehr. Wenn Patienten die Symptome einer Nierenkrankheit haben, ist es zu spät und sie müssen an die Dialyse. In Zukunft werden wir schon vorher wissen, wer bald eine Nierenkrankheit haben wird. Von reaktiver Medizin zu proaktiver, präventiver Medizin. Künstliche Intelligenz, die Daten analysiert, sieht, was Menschen nicht sehen. Präventive Medizin macht auch ökonomisch Sinn, sie ist kostengünstiger. Das Problem ist: Wir sind Dinosaurier, wir haben Angst vorm Wandel. Aber wir müssen uns anpassen, sonst haben wir irgendwann keine Chance mehr. Doktoren werde nicht durch Algorithmen ersetzt werden, aber ihr Berufsbild wird sich ändern. Mediziner werden immer noch für die menschliche Interaktion wichtig sein. Demzufolge muss sich auch deren Ausbildung ändern.

Martin Weymann (Swiss Re Management): «Jede Organisation braucht eine Abteilung für Prognosen»

Swiss Re ist ein Aggregator aller Risiken, die auf der Welt entstehen. Dank Prognosen mittels Künstlicher Intelligenz können Risiken, beispielsweise im Gesundheitsbereich oder von Naturkatastrophen, viel individueller versichert werden. Die Risikolandschaft von morgen ist geprägt von Makrotrends. Fortschritte in der Medizin wie Gentherapien, Wassermangel, der Stadt-Land-Graben, das Logistikzentrum der Zukunft und der Klimawandel sind Risiken und Trends, die der Swiss Re Sonar Report 2019 identifiziert hat. Der Gesundheitszustand eines Menschens in 20 Jahren kann heute simuliert werden und somit seine Versicherungsrisiken definiert werden. Algorithmen sind auch nur Menschen: Sie lassen sich manipulieren und können auch falsch liegen.

Michelle Ufford (Netflix): «Systeme sind dafür da, Angestellten bei ihren Entscheidungen zu helfen»

Netflix ist eines der erfolgreichsten Unternehmen der Welt und gleichzeitig eins der datengetriebensten. Das ist kein Zufall. Netflix hatte knapp 150 Millionen Abonnenten Anfang 2019 in 190 Ländern. Sie sind verantwortlich für 15 % des gesamten Downstream-Traffics des Internets. 2018 gab Netflix 12 Milliarden Dollar für Inhalte aus, 2019 sollen es 15 werden. Prognose-Modelle sagen dem Team, wie viele Nutzer welcher Inhalt haben wird, danach wird investiert. Anhand von Big-Data-Auswertungen werden auch eigene Filme produziert. Netflix testet seine Website fortwährend und führt A/B-Testings durch. Jeder Bereich der Website ist personalisiert auf jeden einzelnen Nutzer. Aber KI hilft nur bis zu einem gewissen Grad. Angestellte sollen schlussendlich die Entscheidungen treffen.

James Bridle (Künstler und Publizist): «Prognosen reduzieren die Fähigkeit, eigene Entscheidungen zu treffen»

Heute leben wir alle in einer computergestützten Welt, in der alles berechnet und analysiert werden kann. Das Ziel der Kontrolle durch Prognosen ist das menschliche Verhalten. Es wird schwerer, die Zukunft vorherzusagen, da die Auswirkungen von Phänomenen wie dem Klimawandel schwer vorhersagbar sind. Prognosen reduzieren die Fähigkeit, eigene Entscheidungen zu treffen. Suchmaschinen und Soziale Netzwerke sind Prognose-Maschinen. Sie prognostizieren aber anhand unserer Präferenzen und treiben uns so zu immer extremeren Positionen. Angst und Wut sind das Ergebnis. Auch, weil wir Entscheidungen der Maschinen vertrauen und folgen müssen, sie aber nicht verstehen. Computer geben uns nicht die Antworten für eine bessere Welt. Es liegt an uns, die richtigen Entscheidungen zu treffen.

Parallele Sessions

GDI Gottlieb Duttweiler Institute
Predictions in Society

Gemeinsam mit der «Stiftung Risikodialog» und dem GDI spielten die Teilnehmenden ein Kartenspiel, das eine Diskussion über Chancen und Risiken von Prognose-Algorithmen ermöglicht. Das Spiel deckte die Möglichkeiten der Kommunikation und Diskussion über die Umsetzung von Zukunftstechnologien auf.

Swiss Re Institute
Predictions in Financial Services and Beyond

Bei der Konferenz «Power of Predictions» trug eine der drei Nachmittagssitzungen den Titel "Predictions in Financial Services and Beyond". Unter der Leitung des Swiss Re Institute war dies ein faszinierender Blick auf das Potenzial, die Herausforderungen und die Grenzen von Prognosen. Die drei Experten waren Evangelos Avramakis (Head Digital Ecosystems R&D, Swiss Re Institute), Sandra Andraszewicz (Forscherin und Projektleiterin, Behavioral Finance Team, ETH Zürich) und Christian Klose (Senior Analytics Professional, Swiss Re) und boten den Teilnehmern drei interessante Rapid-Fire-Präsentationen.
 
Evangelos Avramakis gab Einblicke darüber, wie schnell sich die Technologie entwickelt hat. Er betrachtete Beispiele für Vorhersagemodelle von der Gesundheitsversorgung bis zur Mobilität und vom Einzelhandel bis zu Naturkatastrophen. Trotz des enormen Wertes, der mit Hilfe von KI-gesteuerter Technologie für die Menschheit geschaffen werden kann, wies er auch auf die Gefahren hin, dass die zunehmende Informationsasymmetrie zu einem wachsenden wirtschaftlichen und sozialen Problem wird und politische Kräfte die demokratischen Prinzipien untergraben.

Sandra Andraszewicz sprach über die Grenzen der Vorhersehbarkeit menschlicher Finanzentscheidungen. Seit 300 Jahren entwickeln Wissenschaftler genaue Modelle, die helfen, menschliche Finanzentscheidungen zu beschreiben, zu erklären und vorherzusagen. Doch während das Zeitalter der Digitalisierung und Big Data zu einem Durchbruch bei der Erhebung und Analyse von verhaltensbezogenen Daten geführt hat, zeigte Sandra Adraszewicz, dass Algorithmen oft blind für menschliche Absichten und nicht aufgezeichnete Variablen sind.

In der dritten Präsentation untersuchte Christian Klose, wie Deep-Learning-Techniken helfen können, Waldbrände vorherzusagen. Die gesellschaftlichen und wirtschaftlichen Risiken von Waldbränden haben in den letzten Jahren an Bedeutung gewonnen, insbesondere in dicht besiedelten und industriell genutzten Gebieten. Christian Klose zeigte, wie Deep-Learning-Techniken die Vorhersage von Waldbränden mit Hinblick auf Vorkommen, Schweregrad und Muster Monate im Voraus ermöglichen und Entscheidungsträgern so helfen, präventive Maßnahmen zu ergreifen.

IBM Research
Vorhersagetechnologien für Unternehmen

Diese Breakout-Sitzung bot den Teilnehmern die Möglichkeit, Einblicke in den Stand der Forschung zu KI-gestützten Vorhersagetechnologien für Unternehmen zu gewinnen, die erklärbar, sicher und fair sowie robust und skalierbar sind. Bereits heute gibt es sehr leistungsfähige und allgegenwärtige Anwendungen von Vorhersagetechnologien. Sie konzentrieren sich jedoch auf enge Anwendungsfälle in einem bestimmten Bereich für eine spezielle Aufgabe. Diese reichen von Geräteausfallprognosen über Nachfrageprognosen in der Modebranche bis hin zur Vorhersage des Auftretens epileptischer Anfälle. Darüber hinaus ist Zeit in einigen Kontexten kein kritischer Aspekt, in anderen, z.B. in medizinischen und Notfallanwendungen oder beim autonomen Fahren, ist Echtzeit-Vorhersage, Alarmierung und Aktion unerlässlich. Abdel Labbi, IBM Distinguished Engineer & Researcher, hob einige der neuesten Forschungsergebnisse im Bereich der technologischen und algorithmischen Weiterentwicklungen hervor, einschließlich des so genannten In-Memory-Computing sowie neuartiger ultraschneller automatisierter maschineller Lern- und Trainingsmethoden. Diese helfen, Prognosemaschinen zu beschleunigen und skalierbarer und genauer zu machen - auf diese Weise auch komplexere Modelle und Anwendungen zu ermöglichen.

Anika Schumann, Managerin KI für Industrie und Dienstleistungen, und Dorothea Wiesmann, Abteilungsleiterin für KI-Forschung im Zurich Lab von IBM, konzentrierten sich in ihren Vorträgen auf Erklärbarkeit, Fairness und Vertrauen, die allesamt entscheidende Aspekte für die Akzeptanz und Nutzung von Vorhersagetechnologien in Industrie und Gesellschaft sind und deren Gesamtwirkung bestimmen. Bisher wurden Vorhersage-Systeme als Black Boxes entwickelt, ohne zu erklären, warum das System einem bestimmten Benutzer etwas vorschlägt. Mit den jüngsten Entwicklungen bei den Vorschriften und Datenschutzanforderungen rund um Daten und KI haben die Nutzer nun das Recht, jede datenbasierte Entscheidung, die sie erhalten, zu kennen und anzufechten. Für neue Anwendungsfälle in den Bereichen Gesundheit, Bildung, Energie, Finanzen, Personalbeschaffung, Mobilität und in vielen weiteren Bereichen sind Erklärungen wichtig, um Vorhersagen umsetzbar zu machen und Vertrauen aufzubauen. Mit Technologien wie dem Open-Source IBM AI 360 Fairness Toolkit ist es beispielsweise bereits möglich, Verzerrungen in Datensätzen zu erkennen, zu quantifizieren und zu mildern, die für das Training von KI-Modellen verwendet werden. Das Toolkit hilft KI-Entwicklern auch, über eine Reihe von Dashboards in ihre Kreationen einzusehen und herauszufinden, warum sie Entscheidungen treffen - und es gibt mehr Bemühungen bei IBM Research, Echtzeit-Einblicke in die algorithmische Entscheidungsfindung zu geben.

Martin Wikelski (Max-Planck-Institut für Ornithologie): «Natural intelligence is more interesting and efficient than AI»

Die Idee, Tiere für Prognosen zu nutzen, ist nicht neu. Das neue ist, die Informationen, die Tiere geben, zum «Internet der Tiere» zu vernetzen. Tiere können zoonotische Krankheiten und deren Ausbreitung, das Wetter und Klima, Ernteausfälle und Naturkatastrophen vorhersagen. Tiere werden dafür mit Sendern ausgestattet, und so ihr Verhalten und ihre Ernährung gemessen. Von Elefanten über Ziegen und Greifvögel bis hin zu Bienen und Schmetterlingen: all diese Tiere können für Prognosen genutzt werden. In real-time auf der ganzen Welt. Dafür wurde auf der ISS mit dem Projekt Icarus eine Empfangsstation für die Signale der Sender eingerichtet. Die Natürliche Intelligenz ist viel interessanter und effizienter als die Künstliche. Und sie hat sich über Millionen von Jahren bewährt.

Thomas Ramge (Journalist und Buchautor): «Die nächste Stufe des Kapitalismus hat begonnen»

Märkte werden datenreich, Angebot und Nachfrage finden besser zusammen. Märkte werden zu dem, was sie immer sein wollten: effiziente Mittel der Koordination. Sie gewinnen an Wettbewerbsfähigkeit gegen Firmen. Superstarfirmen sind Märkte im Gewand von Firmen, die Rahmen für Transaktionen setzten. Daten sind das neue Geld. Daten übernehmen die Informationsfunktion des Preises. Datenreiche Märkte haben ein grosses Problem, das wir schon heute sehen: Monopolisierung. Grund ist der Feedbackeffekt: Aus Daten lernende Systeme werden immer besser, je mehr Feedbackdaten sie generieren. Wir brauchen ein neues Kartellrecht für das digitale Zeitalter und datenreiche Märkte. Das mündet in einer Datensteuer, damit alle profitieren können. Datenkapitalismus: Die nächste Stufe des Kapitalismus hat begonnen. Aufgabe unserer Generation ist es, sie so zu gestalten, dass der Markt Mehrwert für alle schafft.

Norbert Bolz (Technische Universität Berlin): «Alles wirklich Wichtige sind Schwarze Schwäne»

Computergestützte Prognosen machen dann Sinn, wenn es darum geht, dass das Leben wieder normal wird, wie bei der Bekämpfung von Krankheiten oder dem Klimaschutz. Selbst im Konsum geht es um Normalisierung. Jedoch, der Fall der Berliner Mauer, 9/11, Fukushima haben gezeigt: Alles wirklich Wichtige sind Schwarze Schwäne, das absolut Unvorhersehbare. Die Ausreisser sind das Interessante. Die Frage ist: Wie kann Künstliche Intelligenz zur Augmentierung der natürlichen Intelligenz eingesetzt werden? Im Bereich des Lebendigen gibt es Funktionsmechanismen, die effektiver sind als Maschinen. Robustheit hilft, nicht Prognosen. Wir müssen das Unerwartete lieben lernen.