Sztuczna inteligencja jest wszędzie.
Na Discordzie doprowadziło to do zablokowania około 8 000 użytkowników. Bez dobrego powodu. Po prostu usterka.
Firma potwierdziła zamieszanie w dyskusji na temat X. Wygląda na to, że system moderacji AI zobaczył nieszkodliwe obrazy i wpadł w panikę.
Mówimy o teksturach z gier wideo.
Na przykład o polach szachowych. Absolutnie nieszkodliwa treść. Sztuczna inteligencja oznaczyła to wszystko jako „materiał szkodliwy”. Discord twierdzi, że osoba z działu Zaufania i Bezpieczeństwa zawsze najpierw sprawdza oznaczone treści. Cóż, tak. Ale tutaj ten „strach” nie zadziałał. W maju tysiące osób straciło dostęp do swoich kont.
To już rzeczywistość.
A mimo to próbują to naprawić.
„Przedstawiciel naszego zespołu ds. zaufania i bezpieczeństwa sprawdza oznaczone treści”.
Technicznie poprawne. W praktyce nie ma sensu, jeśli jesteś blokowany, gdy ktoś sprawdza. Discord obecnie przywraca te konta.
Spójrz na to w ten sposób. TechCrunch zauważył coś logicznego w pokrętnej logice algorytmów. Kwadraty szachowe przypominają techniki stosowane do ukrywania złych treści. W szczególności materiały o charakterze użytkowym.
Czy bot spełnił swoje zadanie? Zobaczył wzór, włączył się alarm i drzwi się zamknęły.
Łatwo to zracjonalizować.
Dużo trudniej jest z tym żyć, jeśli jesteś jednym z tych 8 000 użytkowników. To bezpośredni dowód na to, dlaczego nie można po prostu oddawać kluczyków do samochodu. Ludzkie oko natychmiast zauważa różnicę. Kontekst ma znaczenie.
AI nie zna kontekstu. Widzi kształty i domyśla się.
Ale taka jest rzeczywistość, w którą wkraczamy. Sztuczna inteligencja staje się coraz większą częścią wszystkiego. Jest w naszych telefonach, samochodach i skrzynkach pocztowych. Oczekuje się, że sytuacja ta będzie się powtarzać.
Czy to przyszłość bezpieczeństwa w Internecie? A może dopiero początek długiego bólu głowy?
Nie ma tu pięknego zakończenia.
