Европейский парламент недавно принял Закон об ИИ. Это первый всеобъемлющий закон в мире, регулирующий искусственный интеллект. У государств-членов есть два года, чтобы перевести эти правила в национальное законодательство. Однако сам текст сложен для восприятия. Что именно он охватывает? Какие применения запрещаются? И почему технологические компании нервничают?
Мы взаимодействуем с ИИ каждый день. Он фильтрует спам. Он пишет электронные письма. Он создает плейлисты, которые действительно соответствуют вашему настроению. Генеративные инструменты, такие как ChatGPT, DALL-E и Stable Diffusion, больше не являются футуристическими концепциями. Они прочно вошли в частную и профессиональную жизнь.
Тем не менее, ИИ остается «черным ящиком». Разработчики часто не знают точно, что происходит внутри «цифрового мозга» их творений. Почему системы галлюцинируют? Почему они выдают дискриминационные заявления? Ответы неполны. Несмотря на широкое применение, отсутствовала обширная правовая база. Этот пробел затруднял сдерживание вредоносных применений. В этом вакууме процветали дипфейки, мошеннические боты и нарушения конфиденциальности.
Четыре категории риска определяют регулирование ИИ
Закон об ИИ решает эту проблему, классифицируя ИИ по четырем уровням риска. Классификация определяет строгость регулирования.
Приложения с минимальным или нулевым риском не сталкиваются с новыми препятствиями. К ним относятся фильтры спама в электронной почте или видеоигры, использующие ИИ для создания диалогов персонажей. Вы можете продолжать использовать их без беспокойства.
Ограниченный риск требует прозрачности
ИИ с ограниченным риском напрямую взаимодействует с людьми. Подумайте о чат-ботах, таких как ChatGPT. Закон обязывает эти системы четко раскрывать, что они не являются людьми. Пользователи не должны вводить в заблуждение, думая, что общаются с человеком. Цель проста: предотвратить случайное обманывание.
ИИ высокого риска подвергается гораздо более тщательной проверке. Эти системы влияют на критическую инфраструктуру, здравоохранение или судебную систему. Ошибочное решение здесь может стоить жизней или средств к существованию.
Закон об ИИ требует человеческого надзора для всех приложений высокого риска. Человек должен иметь последнее слово. Эти системы также должны соответствовать высоким стандартам прозрачности и безопасности. Тестовые наборы данных и журналы должны соответствовать строгим требованиям. Обязательной является внутренняя система управления рисками. Европейская комиссия оценивает, что только от 5 до 15 процентов всех приложений ИИ попадут в эту категорию.
Запрет на неприемлемый ИИ
ИИ, признанный «неприемлемым», представляет угрозу для основных прав. Эти приложения запрещены полностью. Закон нацелен на технологии, которые противоречат европейским ценностям.
К неприемлемым видам использования относятся:
— Идентификация по биометрическим данным в режиме реального времени на расстоянии в общественных местах, за исключением узкого круга случаев для правоохранительных органов.
— Системы, оценивающие эмоции на рабочем месте.
— Механизмы социального рейтинга, используемые правительствами для оценки граждан.
Китай использует социальный рейтинг для мониторинга поведения. «Правильное» поведение может обеспечить место в университете или одобрение кредита. ЕС полностью отвергает эту логику. Распознавание лиц в общественных местах остается разрешенным только для служб безопасности при определенных, обоснованных условиях.
Несоблюдение влечет за собой суровые штрафы. Компании, использующие запрещенные технологии, могут столкнуться с штрафами до 35 миллионов евро или 7 процентов от их глобального годового оборота. Другие нарушения могут повлечь штрафы в размере 15 миллионов евро или 3 процентов от выручки. Ставки высоки.
Регулирование как конкурентная стратегия
Цифровые эксперты разделены во мнениях. Некоторые приветствуют Закон об ИИ как исторический, давно назревший шаг. Они утверждают, что без правил доверие к ИИ рухнет.
Другие видят в этом конкурентное преимущество. Европейские технологические компании опасаются бремени регулирования. По сравнению с конкурентами в США или Китае европейские компании могут быть менее гибкими. Более строгие правила могут подавить творчество и скорость. Аргумент заключается в том, что жесткий надзор делает инновации более медленными и дорогостоящими.
Анита Клингель, эксперт по ИИ, не согласна. Она видит возможность в ограничениях.
«Я вижу огромный шанс. Мы не выиграем гонку за сырую скорость и высокую производительность. Это вы можете получить от Илона Маска. Но в ЕС вы получаете тщательные, чистые и надежные решения».
ЕС делает ставку на то, что безопасность и этика станут его преимуществом. Вопрос остается открытым: наградит ли глобальный рынок надежность превыше сырой скорости? Покажет двухлетний период внедрения. На данный момент закон действует. Часы тикают для государств-членов, чтобы адаптироваться.
