Sber-Topmanager: „Hinter der Technologie steckt immer ein Mensch, jedenfalls noch“

Autonome Fahrzeuge, virtuelle Gesprächspartner, Taxi- oder Lieferservice-Apps – in vielen Alltagstechnologien steckt Künstliche Intelligenz (KI). Der Sber-Topmanager Andrej Nesnamow erklärt im Interview für Impuls, wie KI Menschenleben retten kann, ob Russland das Zeug zum Spitzenreiter hat und warum Elon Musk Raketen zum Mars schicken will.

Sber-Topmanager: „Hinter der Technologie steckt immer ein Mensch, jedenfalls noch“

Andrej Nesnamow ist Geschäftsführer eines Datenforschungszentrums der Sberbank. Im November 2020 übernahm er den Vorsitz einer Expertengruppe für KI-Technologien im Europarat.

Wie würden Sie jemandem Künstliche Intelligenz erklären, der zum ersten Mal davon hört?

Laut Marvin Minsky, Begründer der amerikanischen KI-Theorie, gibt es Kofferwörter, die jeder mit seinem eigenen Inhalt füllt. Künstliche Intelligenz ist ein klassisches Kofferwort, denn es weckt unterschiedliche Assoziationen. Momentan wird überall auf der Welt nach einer einheitlichen Definition des Begriffs „Künstliche Intelligenz“ gesucht, doch nicht gefunden. Kurz zusammengefasst: Unter KI versteht man das Bemühen um die künstliche Nachahmung des menschlichen Gehirns. KI ist ein selbstlernendes System, ein im Computer existierender Algorithmus.

Und wenn ein Kind nach einem Beispiel fragen würde?

Alexa, Siri, Alisa, Salut. Das ist am greifbarsten und verständlichsten für Kinder. Etwas, das wie ein Mensch mit Dir spricht, ohne Mensch zu sein. Den allermeisten Kindern und Jugendlichen reichen Gegner aus Computerspielen als Beispiel: Du spielst nicht gegen Freunde, sondern gegen die Künstliche Intelligenz. Die junge Generation versteht das problemlos.

In welcher Form begegnen Sberbank-Kunden Künstlicher Intelligenz? Wie nutzt die Bank KI-Technologien?

Wir nutzen Künstliche Intelligenz seit ca. fünf Jahren. Anfänglich wurde mit maschinellem Lernen die Kreditwürdigkeit eingeschätzt, um die Parameter für Kreditkarten noch exakter festzulegen. Kurze Zeit später wurde diese Technologie auch auf andere Bereiche angewendet. Mit Hilfe von KI können wir jedem einzelnen Kunden maßgeschneiderte Produkte anbieten, im Bereich Finanzierung besser Risiken bewerten, Kundenanfragen schneller auswerten und auch unseren Kundenservice optimieren. Künstliche Intelligenz ist die funktionelle Grundlage der systembasierten Unterstützung von Entscheidungsfindungen und des biometrischen Systems, das inzwischen nicht nur bei Zugangskontrollen in unseren Büros zum Einsatz kommt, sondern auch in unseren Apps. Auch Sprachassistenten sind Künstliche Intelligenz. In den kommenden drei Jahren wollen wir KI in alle Prozesse integrieren.

Welche großen KI-Projekte hat die Sberbank zuletzt verwirklicht?

Im vergangenen Jahr haben wir das sogenannte ruGPT-3 gestartet – das größte generative neuronale Netzwerk für die russische Sprache. Es kann tiefergehende Textteile verfassen, grammatikalische Fehler korrigieren, mit Nutzern kommunizieren und sogar Programmcodes schreiben. Außerdem haben wir LAMA entwickelt: ein Modell automatisierten maschinellen Lernens. Den Großteil unserer internen Services haben wir in die SberCloud verschoben. In der Pandemie haben wir einen Corona-Test entwickelt, bei dem KI die Daten des Patienten auswertet, seinen Gesundheitszustand einschätzt und Empfehlungen gibt. Zudem haben wir kürzlich eine Anwendung lanciert, die am Klang des Hustens und der Atmung eine Corona-Infektion erkennen kann.

Wie weit entwickelt sind KI-Technologien auf dem russischen Markt? Kann Russland auf diesem Gebiet zum weltweiten Spitzenreiter werden?

Es gibt zwei Vorreiter mit großem Abstand: USA und China. Alle anderen, auch Russland, zählen zur langen Liste der Aufholländer. Und hier kommt mein Lieblingsthema: „Welchen Einfluss hat die Regulierung darauf?“ Wir haben viele internationale Studien herangezogen, mit Schwerpunkt auf Datenregulierung und deren Einfluss auf die Entwicklung der Künstlichen Intelligenz in Europa, China und den USA. Die Studien haben gezeigt, dass Künstliche Intelligenz bei einer restriktiven Datenregulierung wie in Europa verkümmert. In China ist die Situation um die Datenregulierung ziemlich eigenartig: Auf dem Papier erscheint alles ziemlich streng, doch in der Praxis gibt es eine kulante und unkomplizierte Grauzone. In den USA hingegen setzt man auf die Selbstregulierung der Konzerne. Die Folgen sieht man ja: Dort fahren autonome Autos, es gibt große soziale Netzwerke und mehrere Weltkonzerne. Bedeutet: Wer weniger reguliert, kommt schneller voran. Ihnen würden drei oder vier chinesische Firmen einfallen, wenn sie weitere internationale Konzerne aus dem KI-Bereich nennen müssten. Nennen Sie mir aber mal drei vergleichbare Firmen aus Europa… Ihre Antwort wäre diesbezüglich sehr aufschlussreich.

Wie reguliert Russland den Umgang mit Daten?

Russlands KI-Strategie 2019 enthält einen Passus, in dem viel von Daten die Rede ist, weil Künstliche Intelligenz ohne Daten nicht vorankommt. Gegenwärtig arbeiten wir daran, dass die Regulierung einfacher gestaltet wird. Russland steht an der Schnittstelle zwischen Europa und Asien. Einerseits ist es Mitglied im Europarat, andererseits steht es mit einem Bein in Asien, wo es originelle Regulierungsansätze gibt. Russland sollte seinen eigenen Weg gehen, ohne jedoch in die Sackgasse zu geraten. Das größte Datenproblem, das dem russischen Markt schon seit Langem zu schaffen macht, sind die Graubereiche, die Unwägbarkeiten schaffen und Investitionen verhindern. Die KI-Strategie 2019 setzte da einen Impuls.

Die russische Regierung hat im August vergangenen Jahres ein Konzept zur Entwicklung der Regulierung von KI und Robotik bis 2024 beschlossen. Sie hatten das Konzept miterarbeitet. Ist es das erste Dokument dieser Art in Russland? Worum geht es dabei?

Es ist nicht nur in Russland das erste Dokument dieser Art, sondern in der ganzen Welt. Aber es existieren zwei Pendants. Das europäische „Weißbuch zur Künstlichen Intelligenz“ ist im Februar vergangenen Jahres veröffentlicht, aber bisher offiziell nicht angenommen worden. Das Gegenstück der Amerikaner ist, glaube ich, im Dezember vergangenen Jahres vom US-Präsidenten unterzeichnet worden. Also war das russische Konzept zum Zeitpunkt seiner Annahme das weltweit erste Dokument dieser Art. Der Sinn solcher Dokumente besteht darin, Wegmarken zu setzen, Signallichter für die gesetzliche Entwicklung im Zusammenhang mit dem Aufkommen einer neuen Technologie aufzustellen. Das russische Konzept ist ein Katalog von Problemstellungen, Richtungsvorgaben, Aufgaben und Grundsätzen. Es kommt auf das Gleichgewicht an: den Schutz der Menschen- und Gesellschaftsrechte wahren, ohne den Fortschritt zu bremsen. Im Grunde ist das Konzept ein einziges riesiges Leuchtfeuer.

Worin unterscheidet sich das russische Konzept von vergleichbaren Dokumenten in Europa und den USA?

Darin, wie diese Signallichter positioniert werden. Die Europäer – darin sind wir uns ähnlich – skizzieren annähernd, welche Probleme es gibt: Es existieren diverse KI-Systeme, und die lösen wir auf diese und jene Weise. Anschließend gibt es unendlich viele Thesen mit der Ausrichtung auf vielerlei Arten der Kontrolle etc. Der Ansatz der Amerikaner ist da ausgewogener: Es geht nicht nur um Einschränkungen und Verbote. Sie formulieren allgemeiner, wie sie die Technologien fördern wollen, welche Probleme es dabei gibt, und was unternommen werden muss, damit Menschen KI vertrauen. Auch in Russland geht es eigentlich ums Vertrauen: Wir stellen fest, dass die Regulierung nicht einfach nur restriktiv sein muss, sondern auch erleichternd sein kann. Der grundlegende Teil unseres Konzepts handelt von tatsächlichen rechtlichen Problemen und davon, wie sie zu lösen sind. Häufig besteht die Lösung nicht darin, etwas zu verbieten.

Welche Risiken sind mit der Entwicklung der Künstlichen Intelligenz verbunden? Kann KI der Gesellschaft schaden?

Darauf möchte ich zweiteilig antworten. Es gibt den Begriff „Artificial general intelligence (AGI)“. Gemeint ist damit das Mastermind, das bisher nicht entwickelt worden ist, und ich weiß nicht, ob es jemals entwickelt wird. Elon Musk sagt, einer der Gründe, warum er Raketen zum Mars schicken wolle, sei die Rettung der Menschheit, falls KI außer Kontrolle gerate. Aber Zuckerberg wagt eine Wette mit Musk und sagt: „Ist doch alles Unsinn. Wir halten starke Künstliche Intelligenz unter Kontrolle. Sie wird zum Wohle des Menschen arbeiten“. Wie es tatsächlich sich entwickeln wird, ist schwer zu prognostizieren.

Der zweite Aspekt ist die Anwendung der KI-Technologie. Das sind Computerprogramme. In diesem Fall sind die Risiken, wie ich finde, damit verbunden, wie der Mensch diese Programme einsetzt. Hinter der Technologie steckt immer ein Mensch. Absolut immer, jedenfalls noch.

Welche KI-Technologien in Russland würden Sie als besonders aussichtsreich hervorheben?

Die heutige Marktkonjunktur ermöglicht jedem Start-up, jedem Menschen, einfach alles auf Anhieb zu verändern. Hört sich wie ein Wahlslogan an, aber ich bin wirklich davon überzeugt. Irgendeine konkrete Technologie will ich jetzt nicht herausstellen. Eines kann ich aber sagen: Der russische Markt ist wirklich top. Die Gesamtaufgabe ist momentan, dahin zu kommen, dass Talente und Firmen nicht auszuwandern brauchen. Es gibt in Russland viele hervorragende Nachwuchsingenieure und -programmierer, die eine Vielzahl großartiger Start-ups gründen. Nur ist unsere Regulierung ein Hindernis für sie, sodass sie das Land verlassen, manchmal für immer. Mein Lieblings- und gleichzeitig Hassbeispiel sind die autonomen Autos. Mit deren Hilfe könnten Verkehrsunfälle reduziert und mehr Leben gerettet werden. Deshalb schmerzt es mich persönlich, dass wir dieser Technologie kein grünes Licht erteilen. Würde man die Entwicklung dieses Marktes fördern, würden auch Menschen und Start-ups aufkommen, die wirklich eine Menge bewegen könnten.

Welcher Science-Fiction-Autor oder -Film hat Ihnen die aufregendste Vorstellung von der Zukunft gegeben? Davon, wie KI sich entwickeln wird?

Die Massenkultur hat in der Tat einen immensen Einfluss auf die KI-Regulierung. Ich halte es für ein beispielloses Phänomen, dass auf dem Rechtsgebiet allen Ernstes die Anwendung von Robotergesetzen vorgeschlagen wird, die vom Science-Fiction-Autor Isaac Asimov stammen. Richtungsweisend ist zweifelsohne seine Erzählreihe „I, Robot“, in der Asimov zunächst die Grundlagen der Robotik einführt und sie anschließend mehrfach weiterentwickelt. Zu den Gründervätern zählt auch Karel Čapek mit seinem Theaterstück „R.U.R“ aus dem Jahr 1920. Das Witzige ist, das ausgerechnet in diesem Schauspiel, in dem das Wort „Roboter“ überhaupt zum ersten Mal vorkommt, zum ersten Mal auch der Aufruf zu hören ist, dass man Roboter nicht länger schinden, sondern menschlich behandeln solle. Das ist schon spannend: Das weltweit erste Robotergesetz entstand gleichzeitig mit dem Wort „Roboter“. Einen sehr großen Einfluss übt die Filmindustrie aus: „Terminator“, „2001: Odyssee im Weltraum“, „Her“. Und jeder neue Film fügt dem Gesamtbild allgemeiner Vorurteile mehr Farbtöne hinzu. Natürlich verzerrt dies das Bild in Bezug auf die reale Regulierung. Estland hatte vorletztes Jahr sogar eine Kommission gegründet, um als erstes Land in der Welt Künstliche Intelligenz mit Rechten auszustatten. Ein halbes Jahr hatte die Kommission getagt, um dann der Regierung zu berichten, dass dies bei derzeitigem Technologiestand nicht zweckmäßig sei.

Welches Endgerät wäre aus Ihrem heutigen Alltag nicht mehr wegzudenken?

Ohne das Smartphone geht in der heutigen Welt sicherlich nichts mehr, weil es eine Vielzahl neuer Technologien in sich vereint. Die enorme Verbreitung von Smartphones als leicht zugänglicher Informationsquelle ist sicherlich einer der Hauptreiber für die Weiterentwicklung. Diese Geräte bieten Zugang zum Wissen der gesamten Menschheit. Damit können wir diverse Informationen bekommen und auch selbst der Welt etwas mitteilen, verschwenden allerdings dieses Potential größtenteils doch für Katzenfilmchen.

Interview: Ivan Povarnitsyn, AHK Russland 

Feedback
Kontakt
Business-Center Fili Grad, Beregovoy Proezd 5A K1, Etage 17, 121087 Moskau. Fili
Google Map
Telefon:

+7 495 234 49 50

Fax:

+7 495 234 49 51

Danke für Ihre Anfrage!