Штучний інтелект усюди.
А на Discord це призвело до блокування приблизно 8000 користувачів. Без вагомих причин. Просто збій.
Компанія підтвердила цю плутанину в обговоренні у X. Схоже, система модерації на базі ІІ побачила невинні зображення та увійшла в паніку.
Йдеться про текстури з відеоігор.
Наприклад, про шахові клітини. Абсолютно нешкідливий контент. ІІ помітив усе це як «шкідливі матеріали». У Discord стверджують, що людина з відділу довіри та безпеки завжди перевіряє зазначений контент першим. Так. Але тут цей страх не спрацював. Тисячі людей втратили доступ до своїх облікових записів ще в травні.
Це вже дійсність.
І все ж таки вони намагаються це виправити.
«Представник нашої команди довіри та безпеки перевіряє зазначений контент»
Технічно правильно. На практиці марно, якщо вас заблокували, поки хтось займається перевіркою. Зараз Discord відновлює ці облікові записи.
Подивіться це під таким кутом. TechCrunch відзначила щось логічне в перекрученій логіці алгоритмів. Шахові клітини нагадують техніки, що використовуються для приховування поганого контенту. Зокрема матеріалів експлуатаційного характеру.
Так що робот зробив свою роботу? Він побачив патерн, спрацювала тривога, і двері зачинилися.
Легко раціоналізувати.
Набагато складніше жити з цим, якщо ти один із тих 8000 користувачів. Це пряме підтвердження того, чому не можна просто передавати ключі машинам. Людське око миттєво помічає різницю. Контекст має значення.
ІІ не знає контексту. Він бачить форми та вгадує.
Але реальність, у яку ми вступаємо. ІІ стає все більшою частиною всього. Він у наших телефонах, наших машинах, наших поштових скриньках. Очікується, що таке відбуватиметься далі.
Це майбутнє онлайн безпеки? Чи тільки початок довгого головного болю?
Тут немає гарної розв’язки.
