Umělá inteligence je všude.
A na Discordu to vedlo k zákazu přibližně 8 000 uživatelů. Bez dobrého důvodu. Jen závada.
Společnost potvrdila zmatek v diskusi na X. Zdá se, že systém moderování AI viděl neškodné obrázky a propadl panice.
Mluvíme o texturách z videoher.
Například o šachových polích. Naprosto neškodný obsah. AI toto vše označila za „škodlivý materiál“. Discord říká, že osoba z oddělení důvěry a bezpečnosti vždy nejprve zkontroluje označený obsah. No ano. Tady ale tento „strach“ nefungoval. Ještě v květnu ztratily přístup ke svým účtům tisíce lidí.
To už je realita.
A přesto se to snaží napravit.
„Zástupce našeho týmu pro důvěryhodnost a bezpečnost kontroluje označený obsah.“
Technicky správně. V praxi je to k ničemu, pokud jste blokováni, zatímco někdo kontroluje. Discord aktuálně tyto účty obnovuje.
Podívejte se na to takto. TechCrunch zaznamenal něco logického o zvrácené logice algoritmů. Šachová políčka připomínají techniky používané ke skrytí špatného obsahu. Zejména materiály provozního charakteru.
Takže robot udělal svou práci? Uviděl vzor, spustil se alarm a dveře se zavřely.
Snadno racionalizovatelný.
Je mnohem těžší s tím žít, pokud jste jedním z těch 8 000 uživatelů. To je přímý důkaz toho, proč nelze klíče od aut jen tak odevzdat. Lidské oko okamžitě zaznamená rozdíl. Na kontextu záleží.
AI nezná kontext. Vidí tvary a hádá.
Ale to je realita, do které vstupujeme. AI se stává větší součástí všeho. Je to v našich telefonech, autech, poštovních schránkách. Očekává se, že tomu tak bude i nadále.
Je tohle budoucnost online bezpečnosti? Nebo jen začátek dlouhé bolesti hlavy?
Není zde žádný krásný konec.
