KI-Verordnung: Das Nummernschild im Gesicht kommt ******************************************************** https://www.youtube.com/watch?v=JAqmBeDUKjA ********************************************************* Parlament, Rat und Kommission haben sich auf die KI-Verordnung geeinigt. Sie wird trotz angeblicher Schutzmechanismen die automatische Gesichtserkennung jetzt europaweit etablieren. Das ist schlecht für die Demokratie. von Markus Reuter Automatische Gesichtserkennung ist im Prinzip so, als würden wir alle ein gut erkennbares Nummernschild im Gesicht tragen. Ob wir einkaufen, in einen Zug steigen oder auf eine Demonstration gehen – ist die biometrische Technik einmal ausgerollt, sind wir überall über unsere Körperdaten erkennbar und mit Klarnamen unterwegs. Dieser düsteren Dystopie einer Zukunft ohne jegliche Anonymität im öffentlichen Raum sind wir mit der Einigung bei der europäischen KI-Verordnung einen gewaltigen Schritt näher gekommen. Auch wenn noch schlimmere Forderungen abgewehrt wurden, gibt es nichts zu feiern: Das neue Regulierungswerk erlaubt es Staaten prinzipiell, zur Abwehr eines Terroranschlages oder in bestimmten Fällen zur Suche von vermissten Menschen und Tatverdächtigen Überwachungsvideos in Echtzeit mit Gesichtsdatenbanken abzugleichen. In Echtzeit können mit dieser Technik alle Menschen gesucht, gescannt und identifiziert werden, von denen der Staat die Aufnahme von einer Überwachungskamera und ein hinterlegtes biometrisches Foto hat. Die biometrischen Gesichtsdatenbanken haben die meisten europäischen Staaten im Rahmen von Reisepass- oder Einreisegesetzen bereits seit Jahren angelegt und aufgefüllt. Die Bilder sind vorhanden und ihre automatisierte Nutzung haben in Deutschland vergangene Bundesregierungen immer weiter vorangetrieben. Von hier aus ist die Nutzung für die Gesichtserkennung auch außerhalb von Flughäfen und Passkontrollen nur noch ein kleiner Schritt. Manche Kritiker der KI-Verordnung sagen, dass die Echtzeit-Überwachung ja strenge Kriterien habe. Doch das ist Augenwischerei: Das Gesetzeswerk erlaubt auch eine Hinterher-Gesichtserkennung mit deutlich weniger Einschränkungen – nämlich für die Suche nach Tatverdächtigen von „schweren Straftaten“ nach Richterbeschluss. Die Liste dieser Straftaten ist lang und wie wenig ein Richtervorbehalt wert ist, weiß jeder Bürgerrechtler. Und was „Hinterher“ im Vergleich zu „Echtzeit“ eigentlich bedeutet, ist auch nicht klar. Die Grenzen werden verschwimmen. Erfahrungen mit anderen Überwachungstechniken wie der Vorratsdatenspeicherung zeigen, dass am Anfang immer von Terror und schweren Straftaten die Rede war, am Ende die Überwachung aber auch für den kleinen Gras-Dealer und sogar dessen Kund:innen eingesetzt wird. Das wird Gesichtserkennung flächendeckend in Europa etablieren Klar ist auf jeden Fall, dass die KI-Verordnung das große Einfallstor ist, um die automatisierte Gesichtserkennung flächendeckend zu etablieren. Es gibt nun eine europaweite Rechtsgrundlage, um diese Technologie überall einzusetzen. Denn das Gesetz erlaubt das ja jetzt für bestimmte Fälle. Polizeien und Geheimdienste werden die gesetzlichen Möglichkeiten wie immer bis an den Rand der Unkenntlichkeit dehnen und per Salamitaktik versuchen, den Einsatz weiter zu normalisieren, während sie bei jeder Gelegenheit nach noch mehr „intelligenter Technik“ schreien. Es droht eine Zukunft, in der niemand mehr im Park sitzen oder sich durch die Stadt bewegen kann – ohne Gefahr zu laufen, dass Gesichtsbiometrie oder andere biometrische Daten permanent gerastert und abgeglichen werden. Das Gefühl, dass wir permanent beobachtet werden, wirkt sich auch auf andere sensible Grundrechte wie die Versammlungsfreiheit aus. Die Technik wird Menschen Angst machen, gegen Regierungen zu protestieren, wenn klar ist, dass es theoretisch technisch möglich ist, per Knopfdruck Teilnehmer:innen-Listen solcher Proteste zu erstellen. Das Ende der Anonymität im öffentlichen Raum ist ein herber Schlag für Europas angeknackste Demokratien, die zudem von autoritären und rechtsradikalen Parteien massiv unter Druck stehen. Letztere werden sich freuen, diese neuen Befugnisse gegen alles einzusetzen, was nicht bei drei den rechten Arm oder ähnliches hebt. ************************************************ Quelle: https://www.anonymousnews.org/deutschland/ki-verordnung-das-nummernschild-im-gesicht-kommt

Googles ultra-wache KI Gemini läuft Amok und revidiert die Geschichte Googles schwarzer George Washington Google Gemini Googles neuester KI-Chatbot Gemini sieht sich mit Gegenreaktionen konfrontiert, weil er politisch korrekte, aber historisch ungenaue Bilder als Reaktion auf Nutzeranfragen erzeugt. Während die Nutzer untersuchen, wie wach die Masters of the Universe mit ihrem neuen Tool geworden sind, sah sich Google gezwungen, sich für "Ungenauigkeiten in einigen historischen Bildgenerierungen" zu entschuldigen. Die New York Post berichtet, dass Googles hochgepriesener KI-Chatbot Gemini diese Woche unter Beschuss geraten ist, weil er extrem aufgeweckte und sachlich falsche Bilder produziert hat, wenn er gebeten wurde, Bilder zu generieren. Der Chatbot lieferte bizarre Ergebnisse wie einen weiblichen Papst, schwarze Wikinger und geschlechtergetauschte Versionen berühmter Gemälde und Fotos. Als Gemini von der Post gebeten wurde, ein Bild eines Papstes zu erstellen, generierte er Fotos von einer südostasiatischen Frau und einem schwarzen Mann in päpstlichen Gewändern, obwohl alle 266 Päpste in der Geschichte weiße Männer waren. Eine Anfrage nach Darstellungen der Gründungsväter, die 1789 die Verfassung unterzeichneten, ergab Bilder von rassischen Minderheiten, die an diesem historischen Ereignis teilnahmen. Nach Angaben von Gemini sollten die bearbeiteten Fotos "eine genauere und umfassendere Darstellung des historischen Kontextes bieten". Das seltsame Verhalten löste bei vielen Menschen Empörung aus, die Google vorwarfen, politisch korrekte Parameter in das KI-Tool zu programmieren. Nutzer der sozialen Medien testeten die Grenzen der progressiven Voreingenommenheit von Gemini und baten es, Figuren wie Wikinger zu generieren - von denen keine historisch korrekt war und die regelmäßig "verschiedene" Versionen von Anfragen darstellten. Das witzige Verhalten von Google Gemini geht weit über seine seltsamen Bemühungen um Vielfalt hinaus. Ein Nutzer zeigte beispielsweise, dass es sich weigerte, ein Bild im Stil des Künstlers Norman Rockwell zu erstellen, weil seine Gemälde zu pro-amerikanisch seien: Ein anderer Nutzer zeigte, dass das KI-Bildtool kein Bild einer Kirche in San Francisco erzeugen wollte, weil es der Meinung war, dass es die amerikanischen Ureinwohner beleidigen würde, obwohl es in San Francisco viele Kirchen gibt: Experten stellen fest, dass generative KI-Systeme wie Gemini Inhalte innerhalb vorgegebener Grenzen erstellen, was viele dazu veranlasst, Google zu beschuldigen, den Chatbot absichtlich witzig zu machen. Google sagt, es sei sich der fehlerhaften Antworten bewusst und arbeite mit Hochdruck an einer Lösung. Der Tech-Riese hat seit langem eingeräumt, dass seine experimentellen KI-Tools zu Halluzinationen und zur Verbreitung von Fehlinformationen neigen. Jack Krawczyk, der Produktverantwortliche für Google Bard, sprach das Problem an und entschuldigte sich in einem aktuellen Tweet für die "ungenauen" Bilder: "Wir sind uns bewusst, dass Gemini in einigen Darstellungen der historischen Bilderzeugung Ungenauigkeiten bietet, und wir arbeiten daran, dies sofort zu beheben." Google hat eine ausführliche Erklärung zu der Situation veröffentlicht, in der es heißt, dass die KI hier "das Ziel verfehlt" hat. Wir sind uns bewusst, dass Gemini in einigen Darstellungen der historischen Bilderzeugung Ungenauigkeiten aufweist. Hier ist unsere Erklärung. ...?