News & Views: Ideen und Brancheneinblicke

Chatbots in der Kundenkommunikation – sind die Risiken beherrschbar? Datenschutz, Online Marketing, Web Entwicklung 20. November 2017

Chatbots in der Kundenkommunikation – sind die Risiken beherrschbar?

Text- und sprachbasierte Dialogsysteme sind dabei die Kommunikation von Unternehmen mit Kunden, von Behörden mit Bürgern, von Institutionen mit Interessenten für unterschiedlichste Zwecke zu automatisieren und damit auch zu revolutionieren. Das wirft eine Menge neuer Fragen auf zu den Möglichkeiten, die die digitalen Helfer eröffnen, wie zu den rechtlichen Risiken, die sie in Sachen Haftung und Verbraucherschutz bergen. Die Ambivalenz zwischen Segen und Fluch kommt in divergierenden Experten-Statements (vgl. https://www.integr8.com/blog/die-schattenseiten-von-kuenstlicher-intelligenz/) ebenso zum Ausdruck wie in den Umfragen, die in immer kürzeren Abständen zum Thema erhoben werden. In einer der jüngsten Studien, die der Bundesverband Informationswirtschaft, Telekommunikation und neue Medien (Bitkom) in Auftrag gegeben hat, halten zwei Drittel der Befragten in Deutschland Künstliche Intelligenz für ein entscheidendes Kriterium für den Erfolg von Unternehmen. Gleichzeitig sehen sie die Risiken und fragen sich, ob die neue Technologie auf Dauer beherrschbar sei.

Schwanken zwischen Fluch und Segen

Von selbstfahrenden Autos zum Beispiel erhofft sich eine große Mehrheit der Befragten einen reibungsloseren Verkehr, von Robotern eine Entlastung von körperlich schwerer Arbeit, von Künstlicher Intelligenz ganz allgemein eine bessere Organisation der Arbeits- und Verwaltungsprozesse. 42 Prozent der Befragten in dieser Bitkom-Studie versprechen sich davon sogar, dass sie sich künftig auf sinnvollere Arbeiten konzentrieren können. Den positiven Erwartungen stehen jedoch ebenso viele Bedenken gegenüber im Hinblick auf die negativen Nebenfolgen dieser neuen Technologie. Etwa, dass Künstliche Intelligenz dem Machtmissbrauch und der Manipulation Tür und Tor öffne, nur Vorurteile ihrer Programmierer abbilde und vermeintlich faktenbasierte Entscheidungen lediglich vorgaukele. Mehr als die Hälfte der Befragten befürchtet, dass sich Künstliche Intelligenz auch irgendwann gegen den Menschen richten werde, und immerhin 90 Prozent erwarten von der Politik, dass sie der Entwicklung klare Grenzen setzt. Der Digitalverband Bitkom fordert auf der Grundlage dieser und ähnlicher Ergebnisse eine bundesweite Strategie zur Entwicklung und zum Einsatz von Künstlicher Intelligenz. Sein Präsident Achim Berg befürchtet in dem Zusammenhang: „Wenn wir die nächsten Jahre darauf verwenden, alleine das Für und Wider der Technologie zu debattieren, werden wir international abgehängt.“

Die Schwierigkeit der Grenzziehungen

Wie schwierig es ist, auf dem Feld der digitalen Kommunikation rechtliche Grenzen einzuziehen, zeigt allein schon die höchst komplexe Diskussion um die EU-Datenschutz-Grundverordnung und die E-Privacy-Verordnung (vgl. etwa https://www.integr8.com/blog/eugh-generalanwalt-zum-datenschutz-betreiber-von-facebook-fanpages-sind-mitverantwortlich/, https://www.integr8.com/blog/e-privacy-werber-und-verleger-laufen-sturm/, https://www.integr8.com/blog/eu-datenschutz-grundverordnung-nicht-alle-unternehmen-sind-gut-vorbereitet/). Bereits heute ist die Frage der rechtlichen Haftung beim Einsatz von Chatsystemen, die Bestellungen entgegennehmen oder sogar auslösen, Supportanfragen bearbeiten, Kühlschrank und Heizung bedienen oder als lernende Systeme auf der Grundlage von Big Data-Prognosen selber Entscheidungen fällen können, alles andere als trivial. Der Jurist Nico Brunotte zitiert in seinem Aufsatz zu Haftungsfragen und Verbraucherschutz in der digitalen Kundenkommunikation eine Studie zu algorithmischen Prozessen, die sich auf den Standpunkt stellt, dass Algorithmen zu einem Machtinstrument geworden sind und die Welt nach undurchsichtigen Kriterien interpretieren. Wenn die Entwicklung dahin führt, so Brunotte, dass virtuelle Assistenten Entscheidungen von weitreichender Bedeutung träfen – zum Beispiel Krankheitsdiagnosen erstellen, Rückfallrisiken von Straftätern prognostizieren oder Verträge abschließen – dann stellt sich die Frage nach der Beherrschbarkeit von Künstlicher Intelligenz in aller Schärfe. Ein steigender Grad an Komplexität könne dazu führen, dass der Algorithmus nicht einmal mehr auf Korrektheit überprüfbar sei. Und wenn diese These zutreffe, dann könne schon heute „nicht mehr von einer Beherrschbarkeit ausgegangen werden“.

Das Dilemma des Gesetzgebers

In seiner Analyse der Haftungsgründe kommt Brunotte zu dem Schluss, dass die bislang bestehenden rechtlichen Regelungen „in Teilen die bezweckte Schutzwirkung konterkarieren könnten, wenn das bestehende Normenwerk auf innovative Technologien wie virtuelle Assistenten zu eng angewendet wird“. Vielleicht habe der Gesetzgeber bei der vor über 15 Jahren verabschiedeten E-Commerce-Richtlinie nicht bedacht, welcher technologische Wandel sich binnen kürzester Zeit vollziehen würde. Der Gesetzgeber, so Brunotte, sollte sich also selbstkritisch fragen, „ob den wirklichen Gefahren neuartiger Technologien noch angemessen begegnet werden kann und ob nicht eher eine Blockade von Innovationen eintritt“.

Die Furcht vor Bußgeldern hemmt Innovationen

Dieser Gedanke macht das Dilemma deutlich, in dem der Gesetzgeber steckt. Bei neuen Technologien wie Big Data und Machine Learning sieht auch Luka Mucic, Finanzvorstand von SAP, in einem Beitrag für die F.A.Z. in zu restriktiven Datenschutzbestimmungen ein Innovationshemmnis: „Die Furcht vieler Unternehmer vor hohen Bußgeldern bei Fehlern im Datenschutz hemmt Innovationsprozesse in Deutschland und Europa und bringt uns international ins Hintertreffen.“ Ein grundsätzliches Nein zur Verarbeitung personenbezogener Daten gehöre auf den Prüfstand. „Wir sollten uns“, so Mucic, „nicht zur verlängerten Werkbank von Ländern machen, die der Internetwirtschaft mehr Freiraum geben.“ Für Christof Baron, den Media-Chef beim Pharmakonzern Sanofi, scheint der Zug, geht es nach seinem jüngsten Interview in HORIZONT Online, ohnehin längst abgefahren zu sein: Die Silicon Valley Giants seien nicht mehr zu bremsen, und die Kommunikationsindustrie fokussiere zudem ihre Investments immer stärker auf deren Plattformen und mache sie somit immer noch mächtiger. „Der Rest“, so Baron, „ist eben der Rest – und der muss schauen, was übrig bleibt.“ (rst, faz.net, horizont.net, juris.de)

0

Dein Kommentar