Künstliche Intelligenz ist mittlerweile überall.
Und auf Discord? Dadurch wurden etwa achttausend Menschen von der App ausgeschlossen. Auch kein guter Grund. Nur Lärm.
Das Unternehmen bestätigte dieses Durcheinander in einem Thread auf X. Es scheint, dass ein KI-Moderationssystem harmlose Bilder sah und in Panik geriet.
Die Rede ist von Texturen für Videospiele.
Wie Schachbrettmuster. Völlig harmloses Zeug. Die KI hat alles als „schädliches Material“ gekennzeichnet. Laut Discord überprüft ein Mitarbeiter von Trust and Safety immer zuerst markierte Inhalte. Sicher. Aber dieses Sicherheitsnetz hat hier versagt. Tausende verloren bereits im Mai den Zugriff auf ihre Konten.
Es passiert.
Und doch reparieren sie es.
„Ein Mitglied unseres Trust & Safety-Teams überprüft gemeldete Inhalte“
Technisch gesehen wahr. Praktisch nutzlos, wenn Sie gesperrt werden, während Sie darauf warten, dass jemand es sich ansieht. Discord ist derzeit dabei, diese Konten wiederherzustellen.
Betrachten Sie es so. TechCrunch hat auf etwas hingewiesen, das in einer verdrehten algorithmischen Logik Sinn macht. Schachbrettmuster ähneln Techniken, mit denen schlechte Inhalte ausgeblendet werden. Insbesondere Ausbeutungsmaterial.
Der Bot hat also seinen Job gemacht? Es erkannte das Muster, löste Alarm aus und schloss die Tür.
Leicht zu rationalisieren.
Es ist schwieriger, damit zu leben, wenn Sie einer dieser achttausend Benutzer sind. Das ist der genaue Beweis dafür, warum wir den Schlüssel nicht einfach an Maschinen übergeben können. Das menschliche Auge erkennt den Unterschied sofort. Der Kontext ist wichtig.
KI kennt keinen Kontext. Es sieht Formen und Vermutungen.
Aber hier ist die Realität, in die wir geraten. KI wird zu einem immer größeren Teil von allem. Es befindet sich in unseren Telefonen, unseren Autos, unseren Posteingängen. Erwarten Sie, dass dies weiterhin geschieht.
Ist das die Zukunft der Online-Sicherheit? Oder nur der Anfang langer Kopfschmerzen?
Hier gibt es keine ordentliche Verbeugung.
