Искусственный интеллект повсюду.
А на Discord это привело к блокировке примерно 8 000 пользователей. Без веских причин. Просто сбой.
Компания подтвердила эту путаницу в обсуждении в X. Похоже, система модерации на базе ИИ увидела безобидные изображения и вошла в панику.
Речь идет о текстурах из видеоигр.
Например, о шахматных клетках. Абсолютно безвредный контент. ИИ пометил все это как «вредоносные материалы». В Discord утверждают, что человек из отдела доверия и безопасности всегда проверяет отмеченный контент первым. Ну да. Но здесь этот «страх» не сработал. Тысячи людей потеряли доступ к своим аккаунтам еще в мае.
Это уже реальность.
И все же они пытаются это исправить.
«Представитель нашей команды доверия и безопасности проверяет отмеченный контент»
Технически верно. На практике бесполезно, если вас заблокировали, пока кто-то занимается проверкой. Сейчас Discord восстанавливает эти аккаунты.
Посмотрите на это под таким углом. TechCrunch отметила нечто логичное в извращенной логике алгоритмов. Шахматные клетки напоминают техники, используемые для сокрытия плохого контента. В частности, материалов эксплуатационного характера.
Так что бот сделал свою работу? Он увидел паттерн, сработала тревога, и дверь закрылась.
Легко рационализировать.
Гораздо сложнее жить с этим, если ты один из тех 8 000 пользователей. Это прямое доказательство того, почему нельзя просто передавать ключи машинам. Человеческий глаз мгновенно замечает разницу. Контекст имеет значение.
ИИ не знает контекста. Он видит формы и угадывает.
Но вот реальность, в которую мы вступаем. ИИ становится все большей частью всего. Он в наших телефонах, наших машинах, наших почтовых ящиках. Ожидается, что такое будет происходить дальше.
Это будущее онлайн-безопасности? Или только начало долгой головной боли?
Здесь нет красивой развязки.
