Künstliche Intelligenz: Wettlauf ohne Ethik

Die Künstliche Intelligenz (KI) boomt: Schon jetzt können Computersysteme schwarzen Hautkrebs schneller und besser diagnostizieren als Dermatologen. Am vollautonomen Auto tüftelt längst nicht nur Tesla, sondern werkeln auch VW, BMW und Audi. Und wer sein Vermögen vermehren will, kann damit einen „Anlageroboter“ betrauen.

Das enorme Potential der KI hat auch die Bundesregierung erkannt. Laut ihrem jüngst veröffentlichten Eckpunktepapier will sie die künftige Schlüsseltechnologie dabei nicht dem Silicon Valley überlassen. Stattdessen müsse KImade in Germanyzum neuen Qualitätsprädikat werden. Um Deutschland „auf ein weltweit führendes Niveau“ zu bringen, werde man Wirtschaft und Wissenschaft massiv fördern.

Aus wirtschaftspolitischer Sicht erscheint dieser Vorstoß durchaus nachvollziehbar. Laut Pricewaterhouse-Coopers soll KI – mittels Produktinnovationen auf der einen und Effizienzsteigerungen auf der anderen Seite – der deutschen Wirtschaft in den kommenden Jahren ein beachtliches Umsatzplus bescheren. Bis 2030 soll das Bruttoinlandsprodukt dank KI um mehr als elf Prozent ansteigen.

Allerdings werden Fördermittel allein nicht ausreichen, um die ambitionierten Regierungsziele zu erreichen – erst recht nicht im nationalen Alleingang. Denn KI meint und verlangt vor allem das Zusammenspiel von Rechenkraft und Big Data: Ein Computersystem nutzt dabei eine Abfolge von Rechenschritten – Algorithmen –, um Rohdaten auf bestimmte Muster hin zu untersuchen und aus diesen Gesetzmäßigkeiten abzuleiten. Diese ermöglichen dann eine Automatisierung „intelligenten“ Verhaltens. Um KI zu entwickeln, braucht es somit hauptsächlich zweierlei: Kapazitäten für deren Erforschung und Entwicklung sowie möglichst viele Daten. An dem einen wie dem anderen herrscht hierzulande jedoch großer Mangel.

Hinzu kommt ein weiteres Problem: Bei der Entwicklung von KI sollte es um weit mehr gehen als um Wettbewerbsfähigkeit, nämlich auch um die Frage, wie wir künftig leben wollen. Selbst KI-Forscher räumen ein, dass die Algorithmen für sie mitunter eine „Black Box“ darstellen – sie also gar nicht genau wissen, wie diese zu Schlussfolgerungen gelangen. Damit aber ist auch nicht absehbar, welche Folgen die KI hat, geschweige denn, ob diese kontrollier- und umkehrbar sind.

Weiterlesen auf www.blaetter.de

Fünf Jahre NSA-Affäre: Die neue Macht des BND

In der Chausseestraße 96 in Berlin-Mitte fahren dieser Tage reihenweise die Laster vor: Bis zum Herbst will der Bundesnachrichtendienst (BND) den Umzug aus dem oberbayerischen Pullach in seine neue Zentrale abschließen. Dann betreiben hier unter einem Dach rund 4000 Geheimdienstmitarbeiter strategische Auslandsaufklärung.

Mit dem Ortswechsel geht auch ein Imagewandel einher: „Transparent“ und „selbstbewusst“ wolle sich der Dienst künftig präsentieren, so BND-Chef Bruno Kahl. In einem Besucherzentrum werde man ab 2019 auch die „Qualitätsarbeit“ des Dienstes vorstellen. Offiziell versorgt dieser die Bundesregierung mit außen- und sicherheitspolitischen Informationen. Dazu zählen terroristische Bestrebungen, illegale Finanzströme oder auch der Export von Rüstungsgütern nach Syrien oder Afghanistan.

Die PR-Offensive des BND ist auch eine Reaktion auf den eklatanten Vertrauensbruch zwischen dem Dienst und der Bevölkerung, den die NSA-Affäre vor genau fünf Jahren herbeiführte. In deren Zentrum steht weniger Qualität als vielmehr Quantität – nämlich die weltweite Ausspähung von Millionen Menschen. Ausgelöst hatten den Skandal hochbrisante Geheimdokumente, die der ehemalige NSA-Mitarbeiter Edward Snowden am 6. Juni 2013 in Kooperation mit dem britischen „Guardian“ und der US-amerikanischen „Washington Post“ veröffentlichte. Sie belegen die systematische und anlasslose Massenüberwachung durch die Big Five Eyes – eine Kooperation der amerikanischen National Security Agency (NSA) und des britischen Government Communications Headquarters (GHCQ) mit deren Partnerdiensten in Kanada, Australien und Neuseeland.

Auch der BND beteiligte sich – unter dem Deckmantel des gemeinsamen Kampfes gegen den internationalen Terrorismus – an der weltweiten Bespitzelung. Er nahm nicht nur nahezu alle europäischen Regierungen ins Visier, sondern auch das US-Außenministerium, das FBI, die UNO, den IWF, das Kinderhilfswerk UNICEF, die OSZE, das Rote Kreuz, Oxfam, die Welthungerhilfe sowie zahlreiche Banken, Rating-Agenturen und Journalisten. Welchen Nutzen sich der Dienst davon jeweils versprach, ist bis heute ungeklärt.

Die Ausspähung löste hierzulande große Empörung aus. Zumal deutlich wurde, dass der BND selbst vor der eigenen Bevölkerung nicht Halt macht: Im Auftrag der NSA hat er auch die Kommunikation deutscher Bürger und Unternehmen überwacht und mit Hilfe vorgegebener Suchbegriffe, sogenannter Selektoren, ausgewertet. Selbst Mitarbeiter der Bundesregierung horchte der Dienst aus.

Umso mehr überrascht es rückblickend, dass die politische und juristische Aufarbeitung des Abhörskandals hierzulande keine nennenswerten Konsequenzen zeitigte. Im Gegenteil hat die Macht des BND in den vergangenen Jahren erheblich zugenommen.

Weiterlesen auf blaetter.de

 

Cambridge Analytica: Die Demokratiehacker

Als Mark Zuckerberg am 11. und 12. April Abgeordneten des US-Kongresses Rede und Antwort stehen musste, gab er sich betont reumütig: Er persönlich übernehme die Verantwortung für den bislang größten Datenskandal in der Geschichte von Facebook. Zugleich aber blieb der Konzern-Chef wichtige Antworten schuldig. So konnte er weiterhin keine Auskunft darüber erteilen, welche Datenmengen genau das Unternehmen Cambridge Analytica (CA) vier Jahre zuvor aus dem Netzwerk abgesaugt hatte.

Ins Rollen gebracht hatte den Skandal der Whistleblower Christopher Wylie einige Wochen zuvor im britischen „Guardian“. Ihm zufolge hat CA, das Wylie mitbegründete und 2014 verließ, unerlaubterweise die persönlichen Daten von knapp 90 Millionen Menschen abgegriffen und für politische Zwecke missbraucht. Dies ist gewiss nicht der einzige Fall: Zwischen 2008 und 2015 erlaubte Facebook Tausenden Apps, Daten von Nutzern sowie von deren Freundinnen und Freunden zu sammeln.

CA jedenfalls nutzte die Daten für sogenanntes Microtargeting – Werbebotschaften, die auf spezifische Personengruppen zugeschnitten sind. Laut Wylie ermittelte das Unternehmen gezielt die „seelischen Schwachstellen“ von Nutzern und optimierte damit den Einsatz von politischer Online-Werbung erheblich. Auf diese Weise habe CA entscheidend zum Ausgang der letzten US-Präsidentschaftswahl und des Brexit-Referendums beigetragen.

All dies führt einmal mehr vor Augen, wie fahrlässig Facebook mit den Daten seiner Nutzerinnen und Nutzer umgeht. Vor allem aber wirft es ein grelles Licht auf jene dubiose Branche, die bislang im Verborgenen agierte: die der Demokratiehacker. Denn das Ziel von Unternehmen wie CA ist es, demokratische Meinungsbildungs- und Entscheidungsprozesse mit Hilfe von Daten gezielt zu manipulieren. Der Wille des Volkes soll so dem Wunsch der Auftraggeber entsprechend umgeformt werden.

Weiterlesen auf www.blaetter.de

Amazon Fresh oder: Die Schlacht um die Supermarktkunden

Auch wenn sich der Einzelhandel mit dem diesjährigen Weihnachtsgeschäft zufrieden zeigt, befindet er sich doch in einer existentiellen Krise: Zwar stiegen die Nettoumsätze 2016 im Vergleich zum Vorjahr insgesamt um gut drei Prozent. Zugleich aber schätzt der Handelsverband Deutschland, dass zwischen 2015 und 2020 bundesweit rund 50 000 Läden schließen müssen – und damit rund zehn Prozent aller bestehenden Geschäfte.

Verantwortlich dafür ist die erdrückende Konkurrenz aus dem Netz. Mehr als zwei Drittel der deutschen Verbraucher bestellen regelmäßig Produkte im Internet – rund um die Uhr und dank Smartphone längst auch von unterwegs. Rund 90 Prozent davon sind Amazon-Kunden, von denen wiederum etwas weniger als die Hälfte dessen Premiummitgliedschaft Prime nutzen. Sie gehören somit zur Stammkundschaft des Konzerns.

Amazon ist seit 1998 – und damit seit 20 Jahren – auf dem deutschen Markt vertreten. Seitdem arbeitet der Konzern beständig daran, zum „Allesverkäufer“ zu werden. Der jüngste Schritt auf dem Weg dahin erfolgte im Mai 2017, als der Dienst Amazon Fresh hierzulande an den Start ging. Nun kann man bei Amazon nicht nur Bücher, Elektroartikel und Babywindeln, sondern auch Milch, Gemüse und backfrisches Brot bestellen. Geliefert wird vorerst allerdings nur in ausgewählte Städte wie Berlin, Potsdam, Hamburg und München.

Amazon hofft, dem Lebensmittelhandel im Netz zum Durchbruch zu verhelfen. Die Konkurrenz hingegen befürchtet vor allem, dass der Konzern, wie zuvor im Buchhandel, einen gewaltigen Umbruch in der gesamten Branche einleitet. Derzeit ist das Lebensmittelgewerbe noch eine der letzten „stationären“ Bastionen: Weniger als zwei Prozent des gesamten Branchenumsatzes entfielen 2016 auf das Onlinegeschäft. Allerdings wünscht sich derzeit knapp die Hälfte der Verbraucher laut einer Umfrage des Instituts für Handelsforschung mehr Entlastung beim Lebensmitteleinkauf. Sie hoffen, auf diese Weise mehr frei verfügbare Zeit zu gewinnen, die bei vielen Erwerbstätigen zur knappen Ressource geworden ist – unter anderem infolge eines erhöhten Lebenstempos, einer zunehmenden Arbeitszeitverdichtung und der daraus resultierenden ungleichen Work-Life-Balance. Auch aus diesem Grund zählt der Lebensmittelhandel gegenwärtig zu den wachstumsstärksten Bereichen im E-Commerce: 2017 haben sich die Umsätze um schätzungsweise 20 Prozent erhöht.

Dass der Lebensmittelhandel dennoch ein digitaler Spätzünder ist, hat vor allem logistische Gründe: Anders als Bücher müssen leicht verderbliche Waren wie Milch- und Fleischprodukte mit größter Sorgfalt gelagert, kommissioniert und zugestellt werden; zu keiner Zeit darf die Kühlkette unterbrochen werden. Dazu braucht es eine ausgefeilte Logistik – von der Lagerhalle bis zum Endkunden. Über die dafür notwendigen Erfahrungen verfügt Amazon inzwischen zweifelsohne. In den USA startete Amazon Fresh bereits 2007; der Dienst ist dort in gut einem Dutzend Städten verfügbar. Auf den Markteintritt Amazons hat sich der hiesige Lebensmittelhandel daher auch mit eigenen Angeboten vorbereitet. Dennoch zeigte sich der damalige Rewe-Chef Alain Caparros nicht allzu optimistisch, dass dies ausreicht: Er befürchtete, dass Amazon nicht nur Staub aufwirbelt, sondern „einen Sturm entfacht“. Derlei Sorgen sind durchaus berechtigt: Schließlich hat Amazon in den nunmehr 23 Jahren seines Bestehens mehr als einmal bewiesen, dass es über die Beharrlichkeit und das Kapital verfügt, um selbst etablierte Industriezweige in die Knie zu zwingen.

Weiterlesen auf www.blaetter.de

Bitcoin: Demokratiefeindlicher Irrweg

Es sollte die Vision einer von Finanzinstitutionen und Nationalstaaten gänzlich unabhängigen Währung sein: Als Reaktion auf den Ausbruch der globalen Finanzkrise legte im Jahr 2008 ein Programmierer mit dem Pseudonym Satoschi Nakamoto (dessen wahre Identität bis heute ungeklärt ist) in einem wissenschaftlichen Papier den Grundstein für Bitcoins.

Umso überraschender ist es, dass nun ausgerechnet zahlreiche Staaten auf den Bitcoin-Zug aufspringen. In den USA sind Kryptowährungen als Zahlungsmittel wie auch als Wertanlage akzeptiert. Japan erlaubte Bitcoins im April dieses Jahres als legale Bezahlmöglichkeit im Einzelhandel. Und der russische Präsident Wladimir Putin versprach Anfang des Jahres ebenfalls, Kryptowährungen 2018 in Russland zuzulassen. Auch einige europäische sowie zahlreiche afrikanische Staaten fördern Bitcoins und andere Kryptowährungen gezielt.

Aus politischer Sicht ist dies eine verhängnisvolle Entwicklung. Denn dem Bitcoin-Netzwerk liegt eine anti-etatistische, mitunter sogar anarchokapitalistisch eingefärbte Ideologie zugrunde. Deren Anhänger verteufeln den Staat und streben nach einer Gesellschaft, in der Unternehmer und Eigentümer in einem „freien“ Markt nach Belieben schalten und walten dürfen – unbehelligt von Behörden und Regierungen. Ausgerechnet Letztere scheinen jedoch allzu sehr vom Bitcoin-Hype geblendet zu sein, um dies zu erkennen. Hinzu kommt, dass sich die Utopie einer vermeintlich sicheren und demokratischeren Bitcoin-Welt längst in ihr Gegenteil verkehrt hat: Innerhalb des Netzwerks sind nicht nur die Vermögen hochgradig ungleich verteilt, sondern auch die Produktionsverhältnisse zunehmend vermachtet.

Weiterlesen auf www.blaetter.de

Rechte Hetze im Netz und die Grenzen des Rechtsstaats

Die Ausschreitungen in der Universitätsstadt Charlottesville im August dieses Jahres haben die US-amerikanische Öffentlichkeit aufgeschreckt und eine Debatte über das Wirken rechtsextremer Bewegungen im Internet ausgelöst. Im Zentrum stand dabei die Frage, wo die Grenzen der Redefreiheit verlaufen.

Nur wenige Tage nach den Naziaufmärschen kündigte der Massenhoster GoDaddy dem Portal „The Daily Stormer“, die bis dato mit über 300.000 registrierten Nutzern vermutlich größte Neonazi-Website der USA, den Vertrag. Wiederholt hatten sich Autoren der Seite in herabwürdigender Weise über eine Frau geäußert, die bei den Ausschreitungen ums Leben gekommen war. Die 32-Jährige starb, als ein mutmaßlicher Rechtsextremist mit einem Auto in eine Gruppe von Gegendemonstranten raste. Als die Seitenbetreiber daraufhin auf Google-Server ausweichen wollten, lehnte der Suchmaschinenkonzern dies ab. Das Portal tauchte daraufhin vorübergehend unter einer russischen Domain im Netz auf.

Dass die Wahl der Seitenbetreiber ausgerechnet auf Russland fiel, ist beileibe kein Zufall. Seit Jahren werben rechtsextreme Gruppierungen zunehmend im Internet um neue Sympathisanten. Dabei nutzen sie nur allzu gerne die Dienstleistungen russischer Hoster und Netzwerkanbieter. Zum einen unterliegen sie in Russland vergleichsweise wenigen Beschränkungen hinsichtlich rassistischer, antisemitischer und anderer menschenfeindlicher Äußerungen. Zum anderen sind sie damit dem Zugriff und der Strafverfolgung durch die Behörden ihrer Heimatstaaten weitgehend entzogen.

Das bedeutet allerdings nicht, dass sich mit der virtuellen Auswanderung auch das politische Wirken der Rechtsextremen ebenfalls nur auf die russische Sphäre beschränken würde – im Gegenteil: Weil dort eine Zensur ihrer Inhalte unterbleibt, können Neonazis ihre Propaganda 1 sogar noch ungehinderter verbreiten als anderswo. Die Internetnutzer merken in der Regel nicht, in welchem Land die Server stehen, deren Inhalte sie abrufen.

Gerade westliche Demokratien stehen damit vor gewaltigen Herausforderungen: Auf der einen Seite gibt das Internet rechtsextremen Bewegungen überaus mächtige Propagandainstrumente zur Hand. Mit vergleichsweise geringem Aufwand können sie in sozialen Netzwerken, auf Webseiten und in Chats ein weltweites Publikum erreichen. Auf der anderen Seite erschwert es das globale, nahezu grenzenlose Internet, dass die Nationalstaaten mit ihren buchstäblich begrenzten rechtsstaatlichen Mitteln gegen diese Hetze vorgehen können.

Weiterlesen auf netzpolitik.org | English version »No freedom to hate: Germany’s new law against online incitement« on eurozine.com

Facebook und der lange Kampf gegen den Hass

„Geh sterben, du schwule Sau.“ „Merkel sollte gesteinigt werden.“ „Man sollte die ganze Brut vergasen.“ – Beleidigungen, Bedrohungen und Hetze wie diese sind im Internet allgegenwärtig. Dagegen will Bundesjustizminister Heiko Maas nun entschieden vorgehen: Anfang April beschloss das Kabinett seinen Entwurf des Netzwerkdurchsetzungsgesetzes (NetzDG). Es soll die Betreiber sozialer Netzwerke dazu zwingen, sogenannte Hassrede umgehend zu löschen; bei Verzug drohen drakonische Strafen.

Der Gesetzentwurf ist auch das Eingeständnis, dass die freiwillige Selbstkontrolle der sozialen Netzwerke endgültig gescheitert ist. Im Herbst 2015 hatte das Bundesjustizministerium noch eine Task-Force eingerichtet, der Vertreter von Facebook, Google und Twitter sowie zahlreicher Nichtregierungsorganisationen angehörten. Gemeinsam erarbeiteten sie Empfehlungen für den Umgang mit Hassbotschaften im Netz. Diese zeigen jedoch kaum Wirkung: Laut einer Erhebung von jugendschutz.net von Anfang dieses Jahres löscht YouTube inzwischen zwar immerhin rund 90 Prozent der von Nutzern gemeldeten Inhalte, Facebook allerdings nur 39 Prozent und Twitter gerade einmal 1 Prozent.

Der Bundestag soll das NetzDG nun im Eiltempo noch vor der Sommerpause verabschieden. Doch so sehr das Engagement der Regierung zu begrüßen ist, droht sie das Kind mit dem Bade auszuschütten: Denn zum einen verletzt der Entwurf die Persönlichkeitsrechte einzelner Nutzerinnen und Nutzer, und zum anderen gefährdet er deren Grundrecht auf Meinungsfreiheit. Beides zeigt allzu deutlich, wie überfordert wir als Gesellschaft noch immer vor dem Problem der Hassrede stehen.

Weiterlesen auf www.blaetter.de

Donald Trump: Fake the system!

Eigentlich wollte Donald Trump am vergangenen Donnerstag nur seinen designierten Arbeitsminister, Alexander Acosta, der Öffentlichkeit vorstellen. Doch die eigens dafür anberaumte Pressekonferenz geriet zu einer überaus bizarren Veranstaltung, auf der Trump einmal mehr die Medien aufs Heftigste attackierte.

Diese seien geradezu „außer Kontrolle“, schnaubte der Präsident, statt von Fake News spreche er fortan lieber von „very fake news“. Einen Tag später legte Trump noch einen drauf: „Fake news media“ sind nicht „mein Feind“, twitterte er, „sie sind der Feind des amerikanischen Volkes“. Namentlich nannte er die „New York Times“ sowie die Sender NBC News, ABC, CBS und CNN.

Mit seinen Tiraden geht es Trump um weit mehr, als nur vom missglückten Start seiner Regierung abzulenken. Langfristig will er vor allem die radikale Agenda des Oval Office durchsetzen. Aus diesem Grund versucht der Präsident der vierten Gewalt, die er fortwährend als unseriös schmäht, die Deutungshoheit im öffentlichen Diskurs zu entreißen. Die Lügen des Weißen Hauses verkauft das Oval Office hingegen als „alternative Fakten“.

Weiterlesen auf carta.info

Der Fall Amri: Anschlag ohne Aufklärung?

Bereits seit langem hatten die Sicherheitsbehörden vor einem großen islamistischen Attentat gewarnt. Dennoch konnten sie nicht verhindern, dass der Tunesier Anis Amri am 19. Dezember mit einem gestohlenen Sattelzug in einen Berliner Weihnachtsmarkt raste. 12 Menschen kamen dabei ums Leben, mehr als 50 wurden verletzt.

Den Behörden war Amri wohlbekannt: Sie wussten, dass er zahlreiche Alias-Identitäten nutzte und Kontakte zum Islamischen Staat unterhielt. Auch dass der 24jährige im Internet nach Anleitungen zum Bombenbau gesucht hatte, war aktenkundig.

Zwei Fragen bestimmen daher derzeit die erregte Debatte um die deutsche Sicherheitspolitik. Erstens: Warum haben die Sicherheitsbehörden die Gefahr, die von Amri ausging, unterschätzt? Und zweitens: Reichen die zur Verfügung stehenden Rechtsmittel möglicherweise nicht aus, um sogenannte Gefährder wie Amri von weiteren Anschlägen abzuhalten?

Weiterlesen auf blaetter.de

The limits of solidarity

Last year’s global displacement crisis has shaken Germany’s political-ethical coordinates to the core and changed the country as a whole – its identity, its role within Europe and not least its political discourse. At the core of current debates is one question: What is our understanding of solidarity?

We all remember: over a year ago thousands of refugees arrived at Europe’s borders. They came mostly from Syria, Afghanistan, Iraq, Eritrea, Nigeria, Somalia and the Maghreb states.

Europe was ill-prepared to shelter so many people. Most European governments were also not willed to do so. For weeks, thousands of refugees waited in states at the south-eastern border of the European Union, enduring chaotic and undignified conditions. When the situation escalated dramatically – especially in Hungary – the German government finally decided to open its borders to the refugees (primarily in response to pressure from Hungary’s prime minister Victor Orbán). In support of those that welcomed the move, Angela Merkel pronounced the now famous words: ‚We can manage!‘ (Wir schaffen das).

The decision to open the borders marked the beginning of the ’summer of migration‘. Over a thousand refugees arrived in Germany every day. By the end of the year they totalled around one million.

Initially, the refugees‘ were greeted by cheering crowds at main stations and border crossings. They received water, cookies and toys. Thousands of helpers donated money, distributed meals, taught German or housed refugees. This ‚culture of welcome‘ stemmed from heartfelt sympathy for those who had suffered so much and travelled for so long. The atmosphere was compared to the colourful, friendly patriotism during the soccer world cup in Germany in 2006.

But when people continued to arrive and things got increasingly out of hand, criticism became louder and harsher. The decision to open the borders was even declared to have been illegal. Agitation against Merkel’s policy went hand in hand with brutal violence: in 2015, more than 1000 attacks on accommodation for refugees were registered. Fearing a further radicalization on the Right, the European states decided in late summer 2015 to restore border controls and introduce entry restrictions.

Weiterlesen auf eurozine.com