„Den Robo-Politiker gibt es längst“.

Stefan Szeider, Professor für Algorithmen an der TU Wien, spricht über den Einsatz von Algorithmen, darüber, wie sie Journalisten und Politiker ersetzen und wie sie sich künftig weiterentwickeln.

© Wallpaper Vortex

Was ist State of the Art, wenn es um die Nutzung von Algorithmen durch Onlinemedien geht?

Stefan Szeider: Algorithmen werden genutzt, um sowohl die Ausspielung der Beiträge als auch den Inhalt des einzelnen Beitrags auf den jeweiligen Nutzer zuzuschneiden. Die automatische Textgenerierung ist der nächste Schritt in diese Richtung. Es ist in sozialen Medien schon jetzt Usus, dass Algorithmen aus verschiedenen Kriterien herausfinden, ob man sich für bestimmte News-Beiträge interessiert. In Zukunft werden aber auch die Artikel selbst auf den einzelnen User zugeschnitten. Das verstärkt natürlich die Gefahr von Filterblasen, weil sich der Einzelne dann stärker mit dem Inhalt des Beitrags identifiziert und weniger kritisch ist, um Fake News zu erkennen.

Wo kann automatische Textgenerierung durch Algorithmen besonders eingesetzt werden?

Die automatische Textgenerierung funktioniert besonders gut bei Beiträgen, die auf Daten beruhen – wie etwa Wetter-, Sportoder Börsenberichte. Hier kann man Algorithmen schon heute im großen Stil einsetzen, um entsprechende Berichte zu schreiben. Man kann dem Algorithmus nun auch emotionale Sprache beibringen, sodass der Text so wirkt, als sei er von einem Menschen geschrieben. Hier erwarte ich in Zukunft noch signifikante weitere Entwicklungen.

Automatische Textgenerierung wird schon von namhaften  Zeitungen wie der Washington Post und New York Times in Testprogrammen eingesetzt.  Sind dadurch die Jobs der Redakteure in Gefahr?

Bei jenen Artikeln, bei denen es nicht um das Wer, Was und Wann, sondern das Warum geht, können die Algorithmen den menschlichen Redakteur nicht ersetzen. Wenn man Routineaufgaben automatisiert, macht man Ressourcen frei, damit sich der hochqualifizierte Redakteur auf Analysen und Meinungsbeiträge konzentrieren kann.

Was ist in der Onlinewerbebranche State of the Art?

Hier ist die feingliedrige Personalisierung auf kleine Zielgruppen derzeit ein sehr heißes Thema – Stichwort: Cambridge Analytica. Man kann eine Werbung hier so genau platzieren, dass die Kriterien bloß auf zehn Menschen zutreffen. Außerdem kann man traditionelle Werbung in kleinem Umfang testen und Feedback einholen, bevor man die Werbung großflächig einsetzt.

Oft wird spekuliert, dass Onlinehändler Preise dynamisch an die persönlichen Daten des Users anpassen – basierend etwa auf seinem Device oder seinem Wohnort. Stimmt das?

Man muss unterscheiden zwischen Diskriminierung, die gesetzlich verboten ist – etwa  unterschiedliche Preise basierend auf Wohnort oder Geschlecht –, und anderen Kriterien: In Bezug auf das Endgerät des Kunden ist die Gesetzeslage zum Beispiel noch etwas unklar. Derartige Praktiken sind auch relativ schwer nachzuweisen. Technologisch sind sie auf jeden Fall möglich.

Sie erwähnten das Thema Filterblasen. Sind diese nicht eine Gefährdung für die Demokratie, wie wir sie kennen, wenn sie auf Social Media und Nachrichtenseiten eingesetzt werden?

Es gibt Anzeichen, dass sich diese Problematik in den nächsten Jahren noch verstärken wird. Schlimm genug ist es, wenn man nur jene Nachrichten  sieht, die ins eigene Weltbild passen. Wenn dann noch Fake News dazukommen, wird die Sache wirklich problematisch. Fake News können auch mithilfe von Algorithmen immer glaubwürdiger produziert werden – auch im Fall von Videos: Kollegen von der University of Washington haben ein Video künstlich erzeugt, in dem Barack Obama etwas  verkündet, was er niemals gesagt hatte. Wenn also sogar bewegte Bilder gefälscht werden können, dann fürchte ich, dass das Ganze eine neue Dimension erreicht.

Angesichts der vielen Negativschlagzeilen drängt sich die Frage auf: Gibt es auch „gute“ Algorithmen?

Als Professor für Algorithmen sehe ich dieses Feld vielschichtiger. In den Medien wird der Algorithmus oft als eine dunkle Macht dargestellt, mit einem negativen Kontext. Man muss aber  auch dazusagen, dass der Wohlstand unserer zivilisierten Welt sehr stark auf Algorithmen beruht. Es gibt viele Algorithmen, die unter der Haube ablaufen und von denen man überhaupt nichts  mitbekommt. Sie sorgen dafür, dass die U-Bahn rechtzeitig kommt, dass der Wetterdienst eine gute Prognose abgibt und die Heizung gesteuert wird. Es gibt also viele Aspekte des täglichen Lebens, bei denen man gar nicht an Algorithmen denkt, bei denen diese aber ihren Dienst verrichten. Forscher arbeiten auch daran, Algorithmen zu entwickeln, die Fake News automatisch erkennen können. Andere Algorithmen tragen zu Datensicherheit und  Anonymisierung bei.

Mittlerweile wird auch ein großer Teil des Aktienhandels nicht von Menschen, sondern von Algorithmen gesteuert. Werden High-Level-Management-Entscheidungenimmer häufiger von Algorithmen gefällt? Kommt der Robo-Politiker?

Ich glaube zwar, dass man in nächster Zeit nicht auf Menschen in der Politik verzichten wird – aber  was der Politiker sagt und vertritt, wird bereits oft durch Algorithmen bestimmt. Mit Mediaanalysen ermitteln die Spindoktoren, welche  Aussagen bei den Menschen besser oder schlechter ankommen. So gesehen kann also auch der Mensch zu einem Roboter-Politiker werden, der eigentlich nur nachplappert, was aufgrund von algorithmischen Berechnungen als optimal erkannt wurde. Auch bei großen Unternehmen sind Algorithmen problematisch, wenn etwa Bewerber um einen Job vorab herausgefiltert werden. In den USA kommt es bereits vor, dass Richter Strafen mithilfe von  Algorithmen festlegen. Ich bekomme eine Gänsehaut, wenn ich so etwas höre: Denn man darf nicht dem Irrtum erliegen, dass eine Entscheidung neutral, fair und objektiv ist, nur weil sie von einem Algorithmus gefällt wird.

Ein Algorithmus ist nicht neutral?

Ein Algorithmus ist nicht besser als die Daten, auf denen er beruht – und leider sind die Daten oft voreingenommen. Dazu gibt es ein eigenes Forschungsthema, den „algorithmic bias“, wo es darum geht, diese Problematik zu verstehen und Gegenmaßnahmen zu entwickeln. Am Beispiel der Jobbewerber: Wenn ein Algorithmus programmiert wird, jene Bewerber herauszufiltern, die ähnlich sind wie die bestehenden Mitarbeiter, dann werden gewisse Teile der Bevölkerung bevorzugt. Man muss sich bewusst sein, wenn man diese Werkzeuge einsetzt, dass unten nichts Besseres  herauskommen kann als die Daten, die man oben einfügt.

Was wird sich in den nächsten fünf Jahren in Sachen Algorithmen tun?

Erstens wird es für die Forschung interessant, Algorithmen so zu verbessern, dass sie auch Begründungen für ihre Entscheidungen geben können. Algorithmen, die auf neuronalen Netzen beruhen, treffen derzeit zwar Entscheidungen, können sie aber nicht begründen – dadurch kann man die Entscheidungen auch  schwer nachvollziehen und auf ihre Korrektheit überprüfen. Man versucht nun also, Logik und maschinelles Lernen zusammenzubringen. Zweitens wird das erwähnte „algorithmic bias“ weiter erforscht – Voreingenommenheiten, die über die Hintertür in den Algorithmus kommen.  Der erste Schritt zur Lösung dieses Problems ist, es als solches wahrzunehmen und verantwortungsvoll mit dem Algorithmus umzugehen. Für Entscheidungen, die wichtig sind, muss man als Mensch trotzdem noch die Letztverantwortung tragen.

Wenn das Feld insgesamt wächst: Wird es mehr staatliche Regulierung brauchen?

Staatliche Regulierung ist problematisch, weil die Algorithmen in großen internationalen  Unternehmen eingesetzt werden, die sich nicht um nationale Gesetze kümmern. Mit Gesetzen auf EU-Ebene hat man mehr Durchschlagskraft, aber auch das ist zu schwerfällig. Man sollte auf die Konzerne Druck ausüben, dass sie eine gewisse Selbstregulierung betreiben.

Wird das Wachstum der Algorithmen dadurch gebremst?

Ich glaube nicht, dass sich dieses Wachstum bremsen lässt.

Digital-News aus der Branche in Ihr Postfach

updatedigital.at hat viele Ausprägungen mit einem Ziel: Die österreichische Digital-Marketing-Branche bestmöglich zu versorgen. Melden Sie sich jetzt für unseren Newsletter an und erhalten Sie einmal pro Tag eine Übersicht mit den aktuellsten Nachrichten der Digital-Branche.

Newsletter abonnieren