Das Wichtigste von der GDI-Konferenz «The Power of Predictions»

Von schwarzen Schwänen und warnenden Ziegen: An der Konferenz «The Power of Predictions» diskutierten international anerkannte Experten die Chancen und Risiken von Prognosen mittels Künstlicher Intelligenz. Eine Zusammenfassung.

Eröffnungspodium
David Bosshart (GDI), Rainer Baumann (Swiss Re Management), Alessandro Curioni (IBM Research Zurich)

Der Erfolg von Prognosen hängt von der Verfügbarkeit von genügend und hochwertigen Daten ab. Der Effekt von Prognosen wird sich auf alle Branchen auswirken. In der Schweiz wollen wir die Vorteile guter Prognosen nutzen, aber nicht für die Infrastruktur bezahlen. Spezielle Anwendungen der Künstlichen Intelligenz haben heute schon übermenschliche Fähigkeiten. Sie erkennen beispielsweise Fehler in einer Produktionskette. Die Herausforderung ist, diese Anwendungen für die breite Masse zu adaptieren. Zentral ist auch die Entschlüsselung der Black-Box KI: Sie muss darlegen, warum bestimmte Entscheidungen besser als andere sind. Die Vorhersage von Schwarzen Schwänen steht in ferner Zukunft. Wir können immer komplexerer Probleme lösen, aber es wird immer noch komplexerer Probleme geben.

Ajay Agrawal (Universität Toronto): «Die Zutaten sind da, dass Prognosen der nächste «Sputnik-Moment» sind»

Agrawals Creative Destruction Lab hilft Gründern, ihre Projekte in skalierbare Projekte zu transformieren. Die zentrale Frage ist: wofür reduziert meine Idee die Kosten? Der Erfolg von Künstlicher Intelligenz lässt sich in einem einfachen Satz erklären: KI reduziert die Kosten von Prognosen. Wenn Prognosen billig werden, hat das zur Folge, dass wir Probleme als Prognoseprobleme definieren, die vorher nicht als solche definiert wurden. So wurde das Wenn-dann Problem des autonomen Fahrens ein Prognoseproblem: Was würde der Mensch hinterm Steuer tun? Prognosen helfen heute Personalabteilungen, bei der Entwicklung von Übersetzungssoftware, bei medizinischen Diagnosen, bei der Kreditvergabe, der Betrugserkennung. Der Kreis des Erfolges schliesst sich für die grossen Firmen wie Google: Mehr Daten bedeuten bessere Prognosen. Das dadurch verbesserte Angebot zieht mehr Nutzer an, die wieder mehr Daten liefern. Die Zutaten sind da, dass Prognosen der nächste «Sputnik-Moment» sind. Die Investitionssummen sind sehr hoch, China investiert in grossem Umfang. Nun stehen alle vor einer Entscheidung: warten, oder mitmachen.

Ran Balicer (Clalit Research Institute): «Doktoren werde nicht durch Algorithmen ersetzt werden, aber ihr Berufsbild wird sich ändern»

Die Vorhersage eines Herzinfarkts mittels Datenauswertung ist keine Science Fiction mehr. Wenn Patienten die Symptome einer Nierenkrankheit haben, ist es zu spät und sie müssen an die Dialyse. In Zukunft werden wir schon vorher wissen, wer bald eine Nierenkrankheit haben wird. Von reaktiver Medizin zu proaktiver, präventiver Medizin. Künstliche Intelligenz, die Daten analysiert, sieht, was Menschen nicht sehen. Präventive Medizin macht auch ökonomisch Sinn, sie ist kostengünstiger. Das Problem ist: Wir sind Dinosaurier, wir haben Angst vorm Wandel. Aber wir müssen uns anpassen, sonst haben wir irgendwann keine Chance mehr. Doktoren werde nicht durch Algorithmen ersetzt werden, aber ihr Berufsbild wird sich ändern. Mediziner werden immer noch für die menschliche Interaktion wichtig sein. Demzufolge muss sich auch deren Ausbildung ändern.

Martin Weymann (Swiss Re Management): «Jede Organisation braucht eine Abteilung für Prognosen»

Swiss Re ist ein Aggregator aller Risiken, die auf der Welt entstehen. Dank Prognosen mittels Künstlicher Intelligenz können Risiken, beispielsweise im Gesundheitsbereich oder von Naturkatastrophen, viel individueller versichert werden. Die Risikolandschaft von morgen ist geprägt von Makrotrends. Fortschritte in der Medizin wie Gentherapien, Wassermangel, der Stadt-Land-Graben, das Logistikzentrum der Zukunft und der Klimawandel sind Risiken und Trends, die der Swiss Re Sonar Report 2019 identifiziert hat. Der Gesundheitszustand eines Menschens in 20 Jahren kann heute simuliert werden und somit seine Versicherungsrisiken definiert werden. Algorithmen sind auch nur Menschen: Sie lassen sich manipulieren und können auch falsch liegen.

Michelle Ufford (Netflix): «Systeme sind dafür da, Angestellten bei ihren Entscheidungen zu helfen»

Netflix ist eines der erfolgreichsten Unternehmen der Welt und gleichzeitig eins der datengetriebensten. Das ist kein Zufall. Netflix hatte knapp 150 Millionen Abonnenten Anfang 2019 in 190 Ländern. Sie sind verantwortlich für 15 % des gesamten Downstream-Traffics des Internets. 2018 gab Netflix 12 Milliarden Dollar für Inhalte aus, 2019 sollen es 15 werden. Prognose-Modelle sagen dem Team, wie viele Nutzer welcher Inhalt haben wird, danach wird investiert. Anhand von Big-Data-Auswertungen werden auch eigene Filme produziert. Netflix testet seine Website fortwährend und führt A/B-Testings durch. Jeder Bereich der Website ist personalisiert auf jeden einzelnen Nutzer. Aber KI hilft nur bis zu einem gewissen Grad. Angestellte sollen schlussendlich die Entscheidungen treffen.

James Bridle (Künstler und Publizist): «Prognosen reduzieren die Fähigkeit, eigene Entscheidungen zu treffen»

Heute leben wir alle in einer computergestützten Welt, in der alles berechnet und analysiert werden kann. Das Ziel der Kontrolle durch Prognosen ist das menschliche Verhalten. Es wird schwerer, die Zukunft vorherzusagen, da die Auswirkungen von Phänomenen wie dem Klimawandel schwer vorhersagbar sind. Prognosen reduzieren die Fähigkeit, eigene Entscheidungen zu treffen. Suchmaschinen und Soziale Netzwerke sind Prognose-Maschinen. Sie prognostizieren aber anhand unserer Präferenzen und treiben uns so zu immer extremeren Positionen. Angst und Wut sind das Ergebnis. Auch, weil wir Entscheidungen der Maschinen vertrauen und folgen müssen, sie aber nicht verstehen. Computer geben uns nicht die Antworten für eine bessere Welt. Es liegt an uns, die richtigen Entscheidungen zu treffen.

Parallele Sessions

GDI Gottlieb Duttweiler Institute
Predictions in Society

Gemeinsam mit der «Stiftung Risikodialog» und dem GDI spielten die Teilnehmenden ein Kartenspiel, das eine Diskussion über Chancen und Risiken von Prognose-Algorithmen ermöglicht. Das Spiel deckte die Möglichkeiten der Kommunikation und Diskussion über die Umsetzung von Zukunftstechnologien auf.

Swiss Re Institute
Predictions in Financial Services and Beyond

At the Power of Predictions conference, one of the three afternoon sessions was entitled "Predictions in Financial Services and Beyond. Hosted by Swiss Re Institute, this was a fascinating look across the globe into the potential, the challenges and the limitations of predictions. The three experts on hand were Evangelos Avramakis (Head Digital Ecosystems R&D, Swiss Re Institute), Sandra Andraszewicz (Researcher and Project Leader, Behavioral Finance Team, ETH Zurich) and Christian Klose (Senior Analytics Professional, Swiss Re) and they offered participants three inspired rapid-fire presentations.
 
Evangelos Avramakis shared insights into just how quickly technology has evolved. He looked at examples of prediction models from healthcare to mobility and from the retail sector to natural catastrophes Despite the massive value that can be generated for humanity with the help of AI-driven technology, he also pointed out dangers of increasing information asymmetry becoming a growing economic and social concern as well as political powers undermining democratic principles.
 
Sandra Andraszewicz talked about the limits of predictability of human financial decisions. For 300 years scientists have aimed to develop accurate models that would help describe, explain and predict human financial decisions. But while the age of digitalization and big data has led to a breakthrough in collecting and analyzing behavioral data, Sandra Adraszewicz showed that algorithms are often blind to human intentions and unrecorded variables.

In the third presentation, Christian Klose explored how Deep Learning techniques can help predict wildfires. The societal and economic risks of wildfires have become more concerning in recent years, especially in densely populated areas and areas with industrial operations. Christian Klose showed how Deep Learning techniques allow for the prediction of wildfire occurrence, severity and patterns months in advance – thus helping decision makers take preventive action.

IBM Research
Prediction Technologies for Enterprises

This breakout session provided attendants the opportunity to gain insights into state-of-the-art research on AI-powered predictions technologies for enterprises which are explainable, secure and fair as well as robust and scalable. Today, there are already very powerful and pervasive applications of prediction technologies. However, they focus on narrow use cases in a specific field for one specialized task. These range from equipment failure predictions to demand predictions in the fashion industry, to predicting the onset of epileptic seizures. In addition, while in some contexts, time is not a critical aspect, in others, for example in medical and emergency response applications or autonomous driving, real-time prediction, alerting, and action is essential. Abdel Labbi, IBM Distinguished Engineer and Researcher, highlighted some of the latest research in technological and algorithmic advancements, including so-called in-memory computing as well as novel ultra-fast automated machine learning and training methods. These help to speed-up prediction machines and make them more scalable and accurate – in this way also allowing for more complex models and applications.

Anika Schumann, Manager AI for Industries and Services, and Dorothea Wiesmann, Department Head for AI Research at IBM’s Zurich Lab, focused in their talks on explainability, fairness and trust, which are all crucial aspects for the acceptance and use of predictions technologies in industry and society – eventually determining their overall impact. Up until now, prediction systems have been developed as black-boxes, without explaining why the system suggests something to a specific user. With recent developments in regulations and privacy requirements around data and AI, users now have the Right to Know and the Right to Contest any data-based decision that they may receive. For new use cases in healthcare, education, energy, finance, recruiting, mobility and in many more fields, explanations are important to make predictions actionable and to build trust. With technologies such as the open-source IBM AI 360 Fairness toolkit, it is for example already possible to detect, quantify and mitigate biases in data sets used for training AI models. The toolkit is also helping AI developers to see inside their creations via a set of dashboards and dig into why they make decisions – and there are more efforts at IBM Research aimed at providing real-time insights into algorithmic decision making.

Martin Wikelski (Max-Planck-Institut für Ornithologie): «Natural intelligence is more interesting and efficient than AI»

Die Idee, Tiere für Prognosen zu nutzen, ist nicht neu. Das neue ist, die Informationen, die Tiere geben, zum «Internet der Tiere» zu vernetzen. Tiere können zoonotische Krankheiten und deren Ausbreitung, das Wetter und Klima, Ernteausfälle und Naturkatastrophen vorhersagen. Tiere werden dafür mit Sendern ausgestattet, und so ihr Verhalten und ihre Ernährung gemessen. Von Elefanten über Ziegen und Greifvögel bis hin zu Bienen und Schmetterlingen: all diese Tiere können für Prognosen genutzt werden. In real-time auf der ganzen Welt. Dafür wurde auf der ISS mit dem Projekt Icarus eine Empfangsstation für die Signale der Sender eingerichtet. Die Natürliche Intelligenz ist viel interessanter und effizienter als die Künstliche. Und sie hat sich über Millionen von Jahren bewährt.

Thomas Ramge (Journalist und Buchautor): «Die nächste Stufe des Kapitalismus hat begonnen»

Märkte werden datenreich, Angebot und Nachfrage finden besser zusammen. Märkte werden zu dem, was sie immer sein wollten: effiziente Mittel der Koordination. Sie gewinnen an Wettbewerbsfähigkeit gegen Firmen. Superstarfirmen sind Märkte im Gewand von Firmen, die Rahmen für Transaktionen setzten. Daten sind das neue Geld. Daten übernehmen die Informationsfunktion des Preises. Datenreiche Märkte haben ein grosses Problem, das wir schon heute sehen: Monopolisierung. Grund ist der Feedbackeffekt: Aus Daten lernende Systeme werden immer besser, je mehr Feedbackdaten sie generieren. Wir brauchen ein neues Kartellrecht für das digitale Zeitalter und datenreiche Märkte. Das mündet in einer Datensteuer, damit alle profitieren können. Datenkapitalismus: Die nächste Stufe des Kapitalismus hat begonnen. Aufgabe unserer Generation ist es, sie so zu gestalten, dass der Markt Mehrwert für alle schafft.

Norbert Bolz (Technische Universität Berlin): «Alles wirklich Wichtige sind Schwarze Schwäne»

Computergestützte Prognosen machen dann Sinn, wenn es darum geht, dass das Leben wieder normal wird, wie bei der Bekämpfung von Krankheiten oder dem Klimaschutz. Selbst im Konsum geht es um Normalisierung. Jedoch, der Fall der Berliner Mauer, 9/11, Fukushima haben gezeigt: Alles wirklich Wichtige sind Schwarze Schwäne, das absolut Unvorhersehbare. Die Ausreisser sind das Interessante. Die Frage ist: Wie kann Künstliche Intelligenz zur Augmentierung der natürlichen Intelligenz eingesetzt werden? Im Bereich des Lebendigen gibt es Funktionsmechanismen, die effektiver sind als Maschinen. Robustheit hilft, nicht Prognosen. Wir müssen das Unerwartete lieben lernen.