Schlagwort: iBorderCtrl

  • „KI-Video-Lügendetektor“: EU-Forschungsgelder werden für Lobbyismus zweckentfremdet

    „KI-Video-Lügendetektor“: EU-Forschungsgelder werden für Lobbyismus zweckentfremdet

    Ein Teil des von der EU zu 100% finanzierten Forschungsprojekts „iBorderCtrl“ diente dazu, Lobbyarbeit für Grundrechtseinschränkungen durch den Gesetzgeber zu betreiben, um den Einsatz eines höchst umstrittenen „KI-Video-Lügendetektors“ an Reisenden zu ermöglichen. Dies versuchte die EU in einem teilweise geschwärzten Dokument zu verbergen, das nun mit technischen Mitteln rekonstruiert werden konnte.

    Während die EU-Kommission öffentlich behauptet, iBorderCtrl sei lediglich „ein Forschungsprojekt, bei dem es nicht darum ging, ein tatsächlich funktionierendes System zu erproben oder einzuführen“, enthüllen die bislang geschwärzten Teile des „Kommunikationsplans“, dass das iBorderCtrl-Konsortium bereits mit der Industrie zusammenarbeitete, um das System als „Grundlage vieler anderer Anwendungen für andere Zielgruppen und sogar andere Anwendungsbereiche“ einsetzen zu lassen. Im Dokument heißt es weiter, dass eine gesetzliche Grundlage erforderlich sein werde, um den „Video-Lügendetektor“ und ähnliche Technologien an Landesgrenzen einsetzen zu können. Um auf solche Gesetzesänderungen „hinzuwirken“, plante das Konsortium „Kommunikationsaktivitäten“ gegenüber Abgeordneten, EU-Kommission und Grenzbehörden.

    Bezüglich der öffentlichen Kommunikation über das Projekt war das Konsortium der Ansicht, dass es „schwierig sein könnte, die breite Öffentlichkeit zu nutzen, um eine Umsetzung von iBorderCtrl zu erreichen“, da „andere die Meinung vertreten könnten, dass die von iBorderCtrl vorgeschlagenen Technologien aufgrund ethischer Bedenken nicht genutzt werden sollten“. „Es ist unwahrscheinlich, dass […] eine robuste Mehrheit der Bürger für die Einführung / Umsetzung von iBorderCtrl-Technologien […] erreicht werden könnte“, und „eine kontroverse öffentliche Debatte könnte die Umsetzung der für iBorderCtrl erforderlichen Maßnahmen sogar behindern“.

    Während das Konsortium ursprünglich mehrere Dokumente über das umstrittene Forschungsprojekt veröffentlichen wollte, entschied es sich nach öffentlicher Kritik, diese der Öffentlichkeit vorzuenthalten. Der Europaabgeordnete Dr. Patrick Breyer verklagt die EU-Forschungsexekutivagentur wegen ihrer Weigerung, Dokumente zu dem Projekt offenzulegen, darunter eine ethische Bewertung und einen Bericht über die Zulässigkeit der Technologie.

    „Ich bin schockiert darüber, dass EU-Forschungsgelder verwendet werden, um für Gesetzesänderungen zu lobbyieren, die unsere Grundrechte beschneiden.“

    kommentiert Breyer.

    „Ich erwarte von der Kommission, dass sie offenlegt, wie weit verbreitet diese Praxis ist, und dass sie den skandalösen Missbrauch von Forschungsgeldern für Lobbyarbeit sofort stoppt! Es ist kaum zu glauben, dass die EU-Forschungsexekutivagentur den Versuch der Industrie unterstützt, die Öffentlichkeit zu manipulieren und zu instrumentalisieren, indem sie den Bürger*innen wesentliche Fakten über dystopische Technologien vorenthält. Wir müssen der Forschung an Überwachungs- und Kontrolltechnologien, die sowohl unethisch als auch illegal sind, dringend Einhalt gebieten. So etwas wie harmlose Forschung gibt es nicht.“

    Diese Woche stimmt das Europäische Parlament über das nächste Horizon-Forschungsprogramm ab. Das iBorderCtrl-Forschungsprojekt zum Einsatz eines „KI-Video-Lügendetektors“ an Reisenden wird dafür kritisiert, dass die unzuverlässige Technologie unzählige Reisende zu Unrecht der Lüge bezichtigen würde und Minderheiten dabei besonders diskriminiert werden könnten.

  • „Video-Lügendetektor“ – EU bleibt Antworten schuldig

    „Video-Lügendetektor“ – EU bleibt Antworten schuldig

    Die EU-Kommission lässt Fragen zu Falschbeschuldigungen und diskriminierenden Auswirkungen der „Video-Lügendetektor-Technologie“, die an mehreren EU-Grenzen mit EU-Mitteln getestet wurde, unbeantwortet. Auf Anfrage des Europaabgeordneten Dr. Patrick Breyer (Piratenpartei) nach der Fehlerquote allgemein und bei Personen bestimmten Geschlechts oder Hautfarbe, vertröstete EU-Sicherheitskommissarin Johansson lediglich auf Forschungsberichte im späteren Verlauf des Jahres.

    „Der Video-Lügendetektor ist von der EU geförderte, nicht vertrauenswürdige und pseudowissenschaftliche ‚künstliche Intelligenz‘. Kommissarin Johansson täuscht die Öffentlichkeit über den Zweck des Forschungsprojekts iBorderCtrl, mit dem ein Prototyp zur späteren Anwendung bei allen Einreisenden an EU-Grenzen entwickelt worden ist. Der Entwickler des Lügendetektor-Moduls ist bereits dabei, diese Scharlatanerie an Anwaltskanzleien, Banken und Versicherungsgesellschaften zu verkaufen, wo es Arbeitssuchende und Versicherte zu Unrecht der Lüge zu bezichtigen droht,“

    kommentiert Breyer.

    Hintergrund: Im Rahmen des iBorderCtrl-Forschungsprojekts förderte die EU die Entwicklung eines „Video-Lügendetektors“, der Lügen Einreisewilliger anhand von Videoaufnahmen ihres Gesichts bei der Beantwortung von Fragen erkennen soll. Breyer verklagt die EU-Forschungsagentur zurzeit wegen ihrer Weigerung, die ethische und rechtliche Bewertung des iBorderCtrl-Projekts und die Ergebnisse der Tests offenzulegen. Die Agentur hat vor Gericht inzwischen zugegeben, dass sie nicht geprüft hat, „ob der Gegenstand und die Methoden des Projekts in der Wissenschaft anerkannt sind“.

  • Dr. Patrick Breyer, Spitzenkandidat der Piratenpartei eröffnet No-Spy-Konferenz in Stuttgart

    Dr. Patrick Breyer, Spitzenkandidat der Piratenpartei eröffnet No-Spy-Konferenz in Stuttgart

    Am kommenden Wochenende findet in Stuttgart die 8. No-Spy Konferenz statt.
    Dr. Patrick Breyer, Jurist, Bürgerrechtler und Spitzenkandidat der Piratenpartei zur Europawahl, eröffnet die Konferenz am Freitag mit einer Keynote zum Thema „Video-Lügendetektorforschung der EU“. Breyer stellt in seinem Vortrag unter anderem seine Klage gegen die Geheimhaltung dieses EU-Projektes (iBorderCtrl) vor.

    Wann: Freitag, 17. Mai 18:00 – 19:00 Uhr
    Wo: Literaturhaus Stuttgart, Breitscheidstr. 4, 70174 Stuttgart

    Breyer warnt:

    „Die geheime Entwicklung solcher Hokuspokus-Technologien schafft Begehrlichkeiten. Der einmal für die Einreise entwickelte ‚Video-Lügendetektor‘ könnte schnell auch im sonstigen behördlichen und kommerziellen Bereich zum Einsatz kommen, um Menschen auszuforschen und ihre Angaben zu kontrollieren.
    Ständiges Misstrauen und Generalverdacht zerstören unsere freie und offene Gesellschaft. Europa sollte lieber etwas gegen die gefährliche Unsicherheit unserer Informationstechnik tun, statt der rechten Bedrohungs- und Migrationshysterie nachzugeben.“

    Die No-Spy Konferenz vom 17.-19. Mai bildet den Auftakt der erstmals in Stuttgart stattfindenden Privacy Week; eine Woche mit dezentralen Veranstaltungen, Workshops, Vorträgen aller interessierten Organisationen, Verbände, Hochschulen etc. überall in Stuttgart. Eine Woche, die ganz im Zeichen von Privatsphäre, Datenschutz und persönlicher Cybersicherheit steht.

    Patrick Breyer erklärt „iBorderCtrl“

  • Piratenpartei fordert Konsequenzen nach Kritik des Bundesdatenschutzbeauftragten

    Piratenpartei fordert Konsequenzen nach Kritik des Bundesdatenschutzbeauftragten

    In seinem heute veröffentlichten Tätigkeitsbericht kritisiert der Bundesdatenschutzbeauftragte die EU-Systeme zur Überwachung von Reisenden als „höchst besorgniserregend“.
    Dr. Patrick Breyer, Spitzenkandidat der Piratenpartei zur Europawahl, fordert einen neuen Ansatz in der Sicherheitspolitik.

    „Die scharfe Kritik des Bundesdatenschutzbeauftragten am anlasslosen Generalverdacht gegen Reisende in der EU muss Konsequenzen haben:

    Dass umfangreiche Informationen über die Passagiere jedes Fluges in die EU oder aus der EU erfasst werden und ihre Maschinenanalyse zur Verdächtigung unbescholtener Bürger genutzt wird, ist längst für grundrechtswidrig erklärt worden und muss beendet werden!

    An Nicht-EU-Bürgern wird ein biometrisches Identitätsregister erprobt, das schon bald auch EU-Bürger zu erfassen droht.

    Das EU-Forschungsprojekt iBorderCtrl zur Entwicklung eines Video-Lügendetektors zeigt sehr deutlich, dass die vermeintlichen intelligenten Grenzen in Wirklichkeit auf dummer Statistik beruhen und zu Verdächtigungsmaschinen ausufern. Ich klage vor dem Europäischen Gerichtshof gegen die weitgehende Geheimhaltung dieses Projekts.

    Ständige Beobachtung und Verdächtigung zerstört unsere freie und offene Gesellschaft. Europa sollte die gefährliche Unsicherheit unserer Informationstechnik in Angriff und die Hersteller in die Pflicht nehmen, statt der rechten Bedrohungs- und Migrationshysterie nachzugeben.“

  • „Video-Lügendetektor“ für Reisende: Patrick Breyer verklagt EU-Kommission wegen Geheimhaltung des Projekts

    „Video-Lügendetektor“ für Reisende: Patrick Breyer verklagt EU-Kommission wegen Geheimhaltung des Projekts

    Die EU fördert die Entwicklung eines „Video-Lügendetektors“, der verdächtiges Verhalten von Einreisewilliger anhand von Videoaufnahmen des Gesichts erkennen soll. Weil die EU Informationen zu der wissenschaftlich hoch umstrittenen Technologie geheim hält, hat der Bürgerrechtler und Spitzenkandidat der Piratenpartei zur Europawahl Dr. Patrick Breyer jetzt Klage eingereicht.

    Das von der EU mit 4,5 Millionen geförderte Forschungsprojekt iBorderCtrl
    soll Europa unter Einsatz „künstlicher Intelligenz“ stärker abschotten: Reisewillige sollen künftig zu Hause vor der Webcam einen Lügendetektor-Test absolvieren. Anhand der Mimik und des Verhaltens beim Beantworten von Standardfragen soll eine Spezialsoftware bestimmen, ob die Wahrheit gesagt wird. Auch das Facebook-Profil des Reisenden und seine anderen Aktivitäten in sozialen Netzwerken sollen in die Bewertung mit einfließen.

    Ob ein solcher Lügendetektor-Test überhaupt funktioniert, ist höchst umstritten. Wohl aus diesem Grund hat ein ‚Ethik-Berater‘ das Projekt unter die Lupe genommen. Doch zu welchem Ergebnis er gekommen ist, hält die EU-Kommission ebenso unter Verschluss wie die aus Steuergeldern finanzierte ‚Strategie zur Öffentlichkeitsarbeit‘ für das Projekt. Breyers Anfrage nach diesen Unterlagen lehnt die EU-Forschungsagentur mit der Begründung ab, Ethik-Bericht und PR-Strategie seien „kommerzielle Informationen“ der beteiligten Unternehmen und von „kommerziellem Wert“.
    Dr. Patrick Breyer hat die EU-Kommission nun beim Europäischen Gericht verklagt und verlangt die Offenlegung der Projektunterlagen (Az. T-158/19).

    „Die Begründung der Geheimhaltung zeigt: Es geht selbst hier um Profite der Wirtschaft“,

    erklärt Breyer und ergänzt:

    „Bei dieser hochgefährlichen Entwicklung muss das Transparenzinteresse von Wissenschaft und Öffentlichkeit aber Vorrang vor privaten Gewinninteressen haben. Systeme zur Erkennung auffälligen Verhaltens erzeugen schrittweise eine gleichförmige Gesellschaft passiver Menschen, die bloß nicht auffallen wollen. Eine solche tote Überwachungsgesellschaft ist nicht lebenswert.“

    Breyer weiter:

    „Ich bin davon überzeugt, dass man mit diesem pseudowissenschaftlichen Sicherheits-Hokuspokus keine Terroristen findet. Für gestresste, nervöse, auffällig angezogene oder müde Menschen kann eine solche Verdächtigungsmaschine schnell zum Alptraum werden. Lügendetektoren sind hierzulande vor Gericht gerade deshalb nicht als Beweismittel zugelassen, weil sie nicht funktionieren. Mit der Entwicklung von Technologien zur immer stärkeren Überwachung, Erfassung und Kontrolle von Menschen muss Schluss sein!“

    Schon einmal ist Breyer erfolgreich gegen die EU-Kommission bis vor den Europäischen Gerichtshof gezogen. Damals verweigerte die Kommission die Herausgabe von Dokumenten zur verdachtslosen Vorratsdatenspeicherung.