Schlagwort: AI

  • „Video-Lügendetektor“ – EU bleibt Antworten schuldig

    „Video-Lügendetektor“ – EU bleibt Antworten schuldig

    Die EU-Kommission lässt Fragen zu Falschbeschuldigungen und diskriminierenden Auswirkungen der „Video-Lügendetektor-Technologie“, die an mehreren EU-Grenzen mit EU-Mitteln getestet wurde, unbeantwortet. Auf Anfrage des Europaabgeordneten Dr. Patrick Breyer (Piratenpartei) nach der Fehlerquote allgemein und bei Personen bestimmten Geschlechts oder Hautfarbe, vertröstete EU-Sicherheitskommissarin Johansson lediglich auf Forschungsberichte im späteren Verlauf des Jahres.

    „Der Video-Lügendetektor ist von der EU geförderte, nicht vertrauenswürdige und pseudowissenschaftliche ‚künstliche Intelligenz‘. Kommissarin Johansson täuscht die Öffentlichkeit über den Zweck des Forschungsprojekts iBorderCtrl, mit dem ein Prototyp zur späteren Anwendung bei allen Einreisenden an EU-Grenzen entwickelt worden ist. Der Entwickler des Lügendetektor-Moduls ist bereits dabei, diese Scharlatanerie an Anwaltskanzleien, Banken und Versicherungsgesellschaften zu verkaufen, wo es Arbeitssuchende und Versicherte zu Unrecht der Lüge zu bezichtigen droht,“

    kommentiert Breyer.

    Hintergrund: Im Rahmen des iBorderCtrl-Forschungsprojekts förderte die EU die Entwicklung eines „Video-Lügendetektors“, der Lügen Einreisewilliger anhand von Videoaufnahmen ihres Gesichts bei der Beantwortung von Fragen erkennen soll. Breyer verklagt die EU-Forschungsagentur zurzeit wegen ihrer Weigerung, die ethische und rechtliche Bewertung des iBorderCtrl-Projekts und die Ergebnisse der Tests offenzulegen. Die Agentur hat vor Gericht inzwischen zugegeben, dass sie nicht geprüft hat, „ob der Gegenstand und die Methoden des Projekts in der Wissenschaft anerkannt sind“.

  • PIRATEN zu EU-Digitalplänen: „Citizens first“ statt „Europe first“!

    PIRATEN zu EU-Digitalplänen: „Citizens first“ statt „Europe first“!

    Zu der heute von der europäischen Kommission vorgelegten Digitalstrategie kommentiert der Europaabgeordnete der Piratenpartei Dr. Patrick Breyer:

    „Unsere Antwort auf die digitale Revolution kann nicht bloße Standortpolitik und Industrieförderung nach dem Motto ‚Europe first‘ sein. Der von der Leyen-Kommission fehlt der Wille, den Überwachungskapitalismus im Netz durch offene, dezentrale und datenschutzfreundliche Geschäftsmodelle zu ersetzen, beispielsweise indem Facebook seinen Nutzern und Nutzerinnen einen Anbieterwechsel unter Aufrechterhaltung ihrer bestehenden Kontakte ermöglicht (Interkonnektivität).“

    Zu der anstehenden EU-Konsultation zu Regeln für den Einsatz „Künstlicher Intelligenz“ erläutert Dr. Breyer:

    „Die EU-Kommission muss dringend ein Moratorium für Massenüberwachung durch Gesichtserkennung und automatisierte Verhaltenskontrolle auf den Weg bringen, statt ihr durch vermeintliche ‚Regulierung‘ in Wahrheit den Weg zu ebnen. In einer freien Gesellschaft können wir ständige Kontrolle, massenhafte Falschmeldungen und systematische Diskriminierung nicht dulden. Viele Fortschritte im Bereich der künstlichen Intelligenz sind faszinierend. Dass der Politik nichts anderes einfällt, als diese Technologie für die Überwachung von Menschen an Grenzen und im öffentlichen Raum zu missbrauchen, ist ein Skandal. China setzt bereits heute Gesichtserkennung, verbunden mit dem sogenannten Sozialkredit-System ein, um seine Bürgerinnen und Bürger fremdzusteuern. Solche Technologie darf in einer freiheitlichen Gesellschaft niemals zum Einsatz kommen, da ständige Überwachung einen Konformitäts- und Anpassungsdruck ausübt. Daher brauchen wir dieses Moratorium. Wer ethische KI fordert, muss unethische KI verbieten.“

    Die vorgestellte Datenstrategie kritisiert Breyer scharf:

    „Auch wenn die Kommission wiederholt auf die Datenschutzgrundverordnung verweist, wird beim Durchlesen des vorgelegten Konzepts schnell klar, worum es hier im Grunde geht: Die Kommerzialisierung unser Daten. Daten sind aber nicht einfach ein Rohstoff, den es zu fördern gilt, sondern bestehen in vielen Fällen aus privatesten Informationen, die von Konzernen und Staaten jetzt wirtschaftlich ausgebeutet werden sollen. Anonymisierte Daten können und sollen gerne für Forschung und für kommerzielle Anwendungen eingesetzt werden. Wenn es hingegen um persönliche Informationen über Einzelpersonen geht, müssen diese Daten vor ungefragter Zweckentfremdung geschützt werden. Insbesondere die wirtschaftliche Ausbeutung von Informationen über unsere Gesundheit ist inakzeptabel.“

  • Notre-Dame als GAU des Internet der freien Kommunikation

    Notre-Dame als GAU des Internet der freien Kommunikation

    Notre-Dame brennt, ein Ereignis von historischem Ausmaß. Youtube untertitelt die Videos jedoch mit Infobox-Texten aus der Encyclopedia Britannica zu den Terroranschlägen vom 11. September 2001. Zensur-Bots hatten vorsorglich die Videos als Fake News identifiziert und den Inhalt entsprechend kommentierend „richtig“ gestellt.
    Einen besseren Live-Test für die Fehlbarkeit der schöngedachten neuen Internet Welt kann es nicht geben. Die Dimension der Fehlinterpretation AI-getriebener Bots, einer künstlichen Intelligenz (KI, im englischen Artifical Intelligence: AI), prallt frontal gegen frisch verabschiedete Gesetze. Gesetze, die davon ausgehen, dass AI in der Lage sein würde, intelligent zu zensieren.
    Die deutsche Geschichte ist reich an Satire über Zensurbehörden. Da haben jedes deutsche Reich und jede deutsche Republik ihre ganz eigenen Qualitäten entwickelt. Aber: Immer waren es Funktionäre, Beamte oder andere Funktionsträger. Immer waren es Menschen.

    Mit AI-Zensur-Bots, darunter auch der Upload Filter, wird ein neues Kapitel in der Zensurgeschichte aufgeschlagen. Es könnte heißen „Zensur im Zeitalter der fremdgesteuerten Ahnungslosigkeit – alienated ignorance-AI“. Bis dato war es eine Amtshandlung, eine Entscheidung, eine Weisung, ein Verbot, gegen das man sich zum Teil wehren, das man vielleicht austricksen konnte. Jetzt wird die Verantwortung auf eine dritte Macht, götter- oder schicksalsgleich verschoben. In den Medien heißt das dann, dass der „Youtube-Algorithmus .. gescheitert“ sei. Ein Algorithmus ist eine Handlungsvorschrift, eine Dienstanweisung, ein Script Code, programmiert von einem verschlafenen Programmierer mittlerer Intelligenz, geplant von einem Systemarchitekten mit mittlerer Intelligenz in Erwartung einer höheren Intelligenz. Später wird man sagen: „so entstand die Matrix“.
    Was für eine Informationswelt entsteht, wenn unsere Bilder und Töne von AI vorzensiert werden? Wer verbreitet dann Fake News? Die aktuelle Entwicklung der großen Informationskanäle, in Reaktion auf neue Internet Gesetze ist jetzt schon verheerend, obwohl sie noch in keinem europäischen Land verabschiedet wurden.

    Vom Profit getriebene Interessen der traditionellen Kunstverwerter zerstören organisch gewachsene Suchalgorithmen, entstanden aus dem Bedürfnis, das zu finden was man sucht. Inzwischen kann man sich nicht mehr sicher sein, ob das Angebotene nur scheinbar das Gewünschte ist. Vielleicht entschied ein Zensur-Bot, lieber die „Richtige“ Alternative abzuspielen.
    Vielleicht ist es aber auch ein Marketing-Bot, der (nach der Werbung) bezahlten Inhalt präsentiert, der zu irgendetwas überreden soll, geschickt zugeschnitten auf die Suchanfrage.
    Wo wird mein hochgeladenes Material eingeordnet? Gibt es vielleicht wieder schwarze Listen? Klopft irgendwann ein Sicherheitsorgan an meine Tür? Wer kontrolliert das Ganze?

    Notre-Dame ist nicht nur ein Sinnbild der Verletzlichkeit unserer Symbole, die im Anblick ihrer Zerstörung Gefühle auslösen, einen besten Freund verloren zu haben. Notre-Dame ist zugleich ein Symbol dafür, wie das Internet der freien Kommunikation geschlachtet wurde. Geschlachtet und ausgeweidet, im vorauseilenden Gehorsam, von den Internet-Giganten selbst.
    Die Triade aus geldgeilen Verlagen, an Selbstüberschätzung leidenden Politikern und moralinsauren Mediendebatten macht die Weiten der Ozeane zu einer nebligen Brühe aus Geisterbildern und Truglichtern. Folgen Sie bitte dem grünen Licht…
    Es ist Zeit, sich neue Surfreviere zu suchen. Piraten lieben das freie Meer und die freie Sicht.

  • Von der Öffentlichkeit gehört, von Menschenrechtsverletzern gefürchtet: Amnesty International

    Amnesty International setzt sich seit 55 Jahren für die Menschenrechte ein

    Am Anfang standen zwei portugiesische Studenten, die in Lissabon in einem Café auf die Freiheit angestoßen hatten und dafür eingesperrt wurden. Als der Londoner Rechtsanwalt Peter Benenson dies hörte, war er so empört, dass er sich vornahm, etwas dagegen zu unternehmen: Er schrieb einen langen Artikel, der am 28. Mai 1961 unter dem Titel „The Forgotten Prisoners“ in der britischen Zeitung „The Observer“ erschien. Darin machte Benenson auf das Schicksal von Gefangenen aufmerksam, die wegen ihrer politischen Einstellung inhaftiert, gefoltert und ermordet wurden. Der Anwalt rief die Leserinnen und Leser dazu auf, sich in Briefen an die Regierungen für diese Menschen einzusetzen. Damit war Amnesty International geboren.

    Amnesty International ist eine weltweite, von Regierungen, politischen Parteien, Ideologien, Wirtschaftsinteressen und Religionen unabhängige Mitgliederorganisation. Auf Grundlage der Allgemeinen Erklärung der Menschenrechte wendet sich Amnesty gegen schwerwiegende Menschenrechtsverletzungen. Amnesty ist Teil einer Bewegung, in der Menschen zusammenkommen, um sich gemeinsam gegen Menschenrechtsverletzungen einzusetzen – und zwar nicht abstrakt, sondern ganz konkret und für Tausende, die in Gefahr sind. 1977 erhielt Amnesty International den Friedensnobelpreis.

    Die Stärke von Amnesty liegt im freiwilligen Engagement von mehr als sieben Millionen Mitgliedern und Unterstützerinnen und Unterstützern weltweit: Junge und Alte verschiedenster Nationalitäten und Kulturen beteiligen sich. Sie alle bringen unterschiedliche religiöse und politische Einstellungen und Lebenserfahrungen mit. Aber alle setzen ihre Kraft und Fantasie ein für eine Welt ohne Menschenrechtsverletzungen. Sie engagieren sich für die Opfer und unterstützen und schützen Menschenrechtsverteidiger. Jeder kann sich an solchen Aktionen beteiligen und Veränderungen bewirken. Das Credo von Amnesty International lautet: Du kannst.

    Amnesty International setzt sich für die Durchsetzung aller in der Allgemeinen Erklärung der Menschenrechte formulierten Rechte ein.

    Besonders engagiert sich Amnesty:

    • gegen Folter, Todesstrafe, politischen Mord, grausame, unmenschliche oder erniedrigende Behandlung oder Strafe und das „Verschwindenlassen“ von Menschen,
    • für die Aufklärung von Menschenrechtsverletzungen und die Bestrafung der Täter,
    • für die Freilassung gewaltloser politischer Gefangener, die aufgrund ihrer Herkunft, Hautfarbe, Sprache, Religion oder Überzeugung inhaftiert sind,
    • für den Schutz von Menschenrechtsverteidigern,
    • für den Schutz von MigrantInnen, Flüchtlingen und Asylsuchenden,
    • für den Schutz der Menschenrechte in bewaffneten Konflikten,
    • für eine wirksame Kontrolle des Waffenhandels,
    • für den Schutz von Frauen und Mädchen vor Gewalt und Unterdrückung,
    • für die Förderung der wirtschaftlichen, sozialen und kulturellen Rechte,
    • für den Eingang der Menschenrechte in internationale sowie regionale Vereinbarungen und Konventionen,
    • für faire und zügige Gerichtsverfahren, insbesondere bei politischen Gefangenen,
    • für Programme zur Menschenrechtserziehung und zur Förderung des Bewusstseins für die Menschenrechte,
    • für die Zusammenarbeit von nichtstaatlichen Organisationen, den Vereinten Nationen und regionalen zwischenstaatlichen Organisationen zur Verteidigung der Menschenrechte

    Aktuell beschäftigt sich Amnesty International mit den Themen Massenüberwachung und Menschenrechte im digitalen Zeitalter. Bereits im vergangenen Jahr positionierte sich Amnesty mit der Kampagne „Anlasslos“ gegen weltweite Massenüberwachung und für die aktive Aufklärung der NSA-Affäre durch die Bundesregierung. Trotz einigen positiven Entwicklungen wird das Recht auf Privatsphäre in vielen Staaten weiterhin eingeschränkt und durch neue Gesetze weiter ausgehöhlt. Das Recht auf Privatsphäre ist Teil der Allgemeinen Erklärung der Menschenrechte, hat aber bis zu den Enthüllungen durch Edward Snowden nur wenig Aufmerksamkeit bekommen. Dabei ist es auch Grundlage für die Ausübung weiterer Rechte: Wer Angst hat, überwacht zu werden, sagt zum Beispiel weniger frei seine Meinung oder traut sich nicht, im Internet nach bestimmten Informationen zu suchen. Auf diese Weise geraten nicht nur Menschenrechte, sondern auch Grundpfeiler der Demokratie in Gefahr.

    Überwachung erleichtert es außerdem, Menschenrechtsaktivist_innen, Oppositionellen, Berufsgeheimnisträger_innen wie Journalist_innen, Ärzt_innen und Anwält_innen und sogar „die Masse“ zu kontrollieren. Damit kann sie das Kräfteverhältnis zwischen Herrschenden und Bevölkerung empfindlich stören. Sie kann außerdem zu Vorverurteilungen führen, in geschützte Kommunikation zwischen Angeklagten und Verteidiger_innen eindringen und damit den Rechtstaat untergraben. Eine geschützte Privatsphäre ist deshalb Voraussetzung für weitere Menschenrechte, Demokratie und Rechtsstaat. Die Einschränkung der Privatsphäre wird von Staaten zunehmend als vorgebliche Schutzmaßnahme vor terroristischen Angriffen ausgegeben. Inwieweit Massenüberwachung und die Aufweichung bestimmter Verschlüsselungstechnologien tatsächlich zur Verhinderung oder Eindämmung von Terrorismus führt ist heftig umstritten.

    Am 5. Juni jähren sich die Snowden-Enthüllungen zum dritten Mal. Dies nimmt Amnesty zum Anlass, rund um den Aktionstag erneut gegen die Einschränkung der Privatsphäre zu protestieren. Mit unseren Aktionen fordert Amnesty:

    • Sensibilisierung der Öffentlichkeit für die menschenrechtliche Bedeutung von Massenüberwachung – einschließlich ihres zweifelhaften Beitrages zur Terrorismusbekämpfung
    • Aufnahme der Themen Verschlüsselung und Anonymisierung auf gesetzgeberischer Ebene
    • Einheitliche Menschenrechtsstandards bei gezielter Überwachung
    • Verhinderung neuer Gesetzesvorhaben zum Ausbau der Massenüberwachung
    • Beendigung von Massenüberwachungsprogrammen

    Markus Braun, Landeslobbybeauftragter des Vorstands für NRW
    AMNESTY INTERNATIONAL Sektion Bundesrepublik Deutschland e.V.
    Elberfelder Str. 49a. 58285 Gevelsberg. T: +49 (0) 172 2028028 .
    E: vorstandsbeauftragte.nrw@amnesty.de. W: www.amnesty.de