{"id":1987,"date":"2014-09-29T08:48:19","date_gmt":"2014-09-29T07:48:19","guid":{"rendered":"http:\/\/www.cr-online.de\/blog\/?p=1987"},"modified":"2014-09-29T10:12:58","modified_gmt":"2014-09-29T09:12:58","slug":"keine-angst-vor-algorithmen","status":"publish","type":"post","link":"https:\/\/www.cr-online.de\/blog\/2014\/09\/29\/keine-angst-vor-algorithmen\/","title":{"rendered":"Keine Angst vor Algorithmen"},"content":{"rendered":"<p>Algorithmen wecken Ur-Gef\u00fchle:<\/p>\n<ul>\n<li>Algorithmen sind <strong>allgegenw\u00e4rtig<\/strong>:<br \/>\nSie bestimmen die Kaufempfehlungen bei Amazon und die Suchergebnisse bei Google. Algorithmen berechnen Routenvorschl\u00e4ge bei der Verkehrslenkung und Werbeeinblendungen auf zahlreichen Websites. Ohne Algorithmen g\u00e4be es keine Taxi-Apps und kein Uber, kein Spotify und kein Netflix. Algorithmen steuern fahrerlose Fahrzeuge und Drohnen, sie werden beim Smart Metering ebenso eingesetzt wie in der Logistik.<\/li>\n<li>Algorithmen sind <strong>nicht transparent:<br \/>\n<\/strong>Es handelt sich um komplexe Rechenformeln, die ein Normalb\u00fcrger nicht verstehen und nachvollziehen kann. Wenn das Auto eine bestimmte Wegstrecke vorschl\u00e4gt, kann der Fahrer nicht \u00fcberpr\u00fcfen, ob es sich jetzt tats\u00e4chlich um die beste Route handelt. Und wenn eine Musik-App einen Titel zum Kauf vorschl\u00e4gt, wei\u00df der Nutzer nicht, ob der Musiktitel wirklich der Titel ist, der seinem Musikgeschmack am meisten entspricht.<\/li>\n<\/ul>\n<p style=\"padding-left: 60px;\">=&gt; Die Intransparenz und Allgegenwart der Algorithmen weckt <strong>\u00c4ngste:<br \/>\n<\/strong>Angst davor, dass die Formeln nicht halten, was ihre Macher\u00a0versprechen. Angst davor, dass die Formeln trickreich programmiert werden, um den Nutzer zum Kauf bestimmter Produkte zu manipulieren. Angst davor, dass sich in den Formeln diskriminierende Voreinstellungen verbergen. Angst davor, dass die Maschine den Menschen regiert und wir alle schutzlos der Willk\u00fcr von Unternehmen und Regierungsstellen ausgeliefert sind, die die Herrschaftsmacht \u00fcber die Algorithmen haben.<\/p>\n<p><strong>Erste Anf\u00e4nge einer rechtlichen Diskussion<\/strong><\/p>\n<p>Algorithmen sind gekommen, um zu bleiben: Ihr Einsatz wird sich in den kommenden Jahren und Jahrzehnten weiter ausbreiten und noch viel st\u00e4rker als heute unseren Alltag begleiten.<\/p>\n<p><span style=\"text-decoration: underline;\">In Deutschland:<\/span>\u00a0 Daher ist es richtig, dass \u00fcber <span style=\"text-decoration: underline;\">Regularien und Rahmenbedingungen<\/span> diskutiert wird, die f\u00fcr den Einsatz von Algorithmen gelten sollten (vgl. einerseits Justizminister Heiko Maass, <a title=\"externer Link\" href=\"http:\/\/http:\/\/www.bmjv.de\/SharedDocs\/Interviews\/DE\/2014\/Print\/20140929_Maas_BAMS.html\" target=\"_blank\">&#8222;Interview Bild am Sonntag: Justizminister Heiko Maas nutzt Google beinahe t\u00e4glich.&#8220;, BMJV.de v. 29.9.2014<\/a>\u00a0und andererseits Google Deutschland, <a title=\"externer Link\" href=\"http:\/\/https:\/\/plus.google.com\/+GoogleDeutschland\/posts\/FgeXzAQPACR\" target=\"_blank\">\u00f6ffentlicher Brief an Bundesminister\u00a0Maass v. 28.9.3014<\/a>).<\/p>\n<p><span style=\"text-decoration: underline;\">Auf EU-Ebene:<\/span>\u00a0 Der Minister und Google sind den Br\u00fcsseler Reformern weit voraus: Protagonisten der <span style=\"text-decoration: underline;\">EU-Datenschutzreform<\/span> wie Paul Nemitz und Jan Philipp Albrecht haben in ihren Vorschl\u00e4gen f\u00fcr ein neues EU-Datenschutzrecht auf konkrete, schl\u00fcssige Konzepte und Regularien f\u00fcr Big Data und Algorithmen verzichtet und gemeint, es bei einer \u201eFortschreibung\u201c des \u00fcberkommenen Datenschutzrechts belassen zu k\u00f6nnen. Ein <span style=\"text-decoration: underline;\">kardinaler Irrtum<\/span>.<\/p>\n<p><strong>Die Instrumentarien des Datenschutzrechts<\/strong><\/p>\n<ul>\n<li><span style=\"text-decoration: underline;\">klassisch: Statik<\/span><\/li>\n<\/ul>\n<p>Die klassischen Instrumentarien des Datenschutzrechts sind\u00a0statisch, da bei ihnen die <span style=\"text-decoration: underline;\">Erfassung<\/span> und <span style=\"text-decoration: underline;\">Speicherung<\/span> von Daten im Mittelpunkt steht. Wenn beispielsweise ein Fahrzeug laufend Orts- und Verkehrsdaten sowie Daten \u00fcber Fahrverhalten und Fahreigenschaften erfasst, kann das herk\u00f6mmliche Datenschutzrecht Regeln aufstellen, ob und unter welchen Voraussetzungen eine solche Datenerfassung zul\u00e4ssig ist und wie lange die Daten gespeichert werden d\u00fcrfen.<\/p>\n<p>Das Datenschutzrecht enth\u00e4lt in seiner jetzigen Gestalt jedoch keine Instrumente und Mechanismen, die auf die Auswertung der Daten abzielen und den Gefahren einer Manipulation, Diskriminierung und Fremdbestimmung entgegenwirken. Trotz jahrelanger Reformdebatte stehen wir in Europa bei den Bem\u00fchungen um ausgewogene Regelungsmodelle erst ganz am Anfang.<\/p>\n<ul>\n<li><span style=\"text-decoration: underline;\">in Zukunft: auch Dynamik<\/span><\/li>\n<\/ul>\n<p>Bei jedweder Regelung muss <strong>Transparenz<\/strong> das oberste Gebot sein. Wenn Algorithmen eine Technologie steuern, muss der Nutzer \u00fcber die Funktionsweise der Algorithmen in ihren Grundz\u00fcgen informiert werden. Jedwede Forderung nach schlichter\u00a0\u201eOffenlegung\u201c und vollst\u00e4ndiger Transparenz w\u00e4re jedoch aus zwei Gr\u00fcnden illusion\u00e4r:<\/p>\n<ul>\n<ul>\n<ul>\n<li><span style=\"text-decoration: underline;\">Geheimnisschutz:<\/span>\u00a0 Zum \u00a0einen geht es zumeist um <strong>Gesch\u00e4ftsgeheimnisse <\/strong>der Unternehmen. Eine\u00a0\u201eOffenlegung\u201c kann daher immer nur auf freiwilliger Basis erfolgen, Jeglicher\u00a0gesetzliche Zwang k\u00e4me einer (entsch\u00e4digungspflichtigen) Enteignung\u00a0gleich.<\/li>\n<li><span style=\"text-decoration: underline;\">Verst\u00e4ndlichkeit:<\/span>\u00a0 W\u00fcrde Google mir zum anderen alle Algorithmen \u201eoffenlegen\u201c, die Google beispielsweise bei\u00a0der Personensuche einsetzt, so w\u00fcrde mir ein solcher \u201e<strong>Formelsalat<\/strong>\u201c wenig\u00a0n\u00fctzen. Ich bin kein Mathematiker und w\u00e4re\u00a0trotz \u201eOffenlegung\u201c so schlau wie\u00a0zuvor.<\/li>\n<\/ul>\n<\/ul>\n<\/ul>\n<p><strong>Sachkunde\u00a0+ Neutralit\u00e4t =&gt; Internettauglichkeit<\/strong><\/p>\n<p>Wenn man den B\u00fcrgern ernsthaft die Angst vor Manipulation, Diskriminierung und Fremdbestimmung nehmen m\u00f6chte, m\u00fcssen\u00a0Instanzen geschaffen werden, die Algorithmen sachkundig pr\u00fcfen k\u00f6nnen. <em>Viktor Mayer-Sch\u00f6nberger<\/em> hat dementsprechend sogar gefordert, eine neue Berufsgruppe der <span style=\"text-decoration: underline;\">\u201eAlgorithmiker\u201c<\/span> zu schaffen, die eine solche Kontrollfunktion wahrnehmen kann (<a title=\"externer Link\" href=\"http:\/\/http:\/\/www.deutschlandradiokultur.de\/netzpolitik-dem-datenschutz-wieder-zaehne-geben.954.de.html?dram:article_id=272194\" target=\"_blank\">&#8222;Dem Datenschutz wieder Z\u00e4hne geben&#8220;, Deutschlandradio Kultur v. 16.12.2013<\/a>).<\/p>\n<p>F\u00fcr das Scoring gibt es bereits eine Regelung, die in die richtige Richtung weist: Nach \u00a7 28b Nr. 1 BDSG ist das Scoring nur auf der Basis eines \u201ewissenschaftlich anerkannten mathematisch-statistischen Verfahrens\u201c zul\u00e4ssig. Ein entsprechendes <span style=\"text-decoration: underline;\">\u201eNeutralit\u00e4tsgebot\u201c<\/span> brauchen wir auch in anderen Bereichen, in denen Algorithmen eingesetzt werden.<\/p>\n<p>Zu einem wahrhaft internettauglichen, zukunftsf\u00e4higen Datenschutzrecht geh\u00f6ren \u201eNeutralit\u00e4tsgebote\u201c ebenso wie f\u00e4hige und gut ausgebildete \u201eAlgorithmiker\u201c, die die \u201eNeutralit\u00e4t\u201c kontrollieren. Wenn beides erreicht ist, k\u00f6nnen wir in Zukunft auch angstfrei \u00fcber Algorithmen diskutieren.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Algorithmen wecken Ur-Gef\u00fchle: Algorithmen sind allgegenw\u00e4rtig: Sie bestimmen die Kaufempfehlungen bei Amazon und die Suchergebnisse bei Google. Algorithmen berechnen Routenvorschl\u00e4ge bei der Verkehrslenkung und Werbeeinblendungen auf zahlreichen Websites. Ohne Algorithmen g\u00e4be es keine Taxi-Apps und kein Uber, kein Spotify und kein Netflix. Algorithmen steuern fahrerlose Fahrzeuge und Drohnen, sie werden beim Smart Metering ebenso eingesetzt [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/1987"}],"collection":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/comments?post=1987"}],"version-history":[{"count":4,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/1987\/revisions"}],"predecessor-version":[{"id":2137,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/1987\/revisions\/2137"}],"wp:attachment":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/media?parent=1987"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/categories?post=1987"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/tags?post=1987"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}