Главная / Общество / Не оскорбляйте Siri! Кто и почему выступает против новых технологий?

Не оскорбляйте Siri! Кто и почему выступает против новых технологий?

Пешеходы в США забрасывают беспилотные авто камнями, а житель Кардиффа борется с системой автоматического распознавания лиц. Кто сказал, что прогресс не остановить? В мире полно людей, которые об этом, похоже, никогда не слышали.

Технологии развиваются стремительно, но человеческая природа неизменна. В начале ХIХ века английские рабочие, протестуя против внедрения машин на производстве, крушили их кувалдами. Участников этого массового движения называли луддитами, а подавлять их восстания приходилось с помощью армии. В начале ХХI столетия страх перед технологиями никуда не делся. АиФ.ru изучил самые яркие случаи неолуддизма.

«Остановим роботов-убийц!»

Расхожая страшилка последних лет: искусственный интеллект и машинные алгоритмы вскоре оставят без работы миллионы людей. Бюро статистики труда США составило список профессий, которые должны исчезнуть в ближайшее десятилетие. В нём — банковские служащие, клерки всех мастей, сотрудники колл-центров, секретари, наборщики текстов, операторы на конвейерном производстве. Однако массовых протестов это не вызывает (во всяком случае, пока): интересы потребителей умело переводятся в индустрию развлечений, которая сейчас цветёт пышным цветом.

Другое дело — угроза войны роботов. Искусственный интеллект внедряется в военные технологии, а чем обернётся появление «роботов-убийц», сказать не может никто. Например, Илон Маск предрекает начало Третьей мировой войны и апокалиптический сценарий в духе фильма «Терминатор». Американский миллиардер вошёл в число 2400 учёных и предпринимателей, которые подписали письмо с призывом к властям полностью запретить работы по созданию автономного летального оружия на основе искусственного интеллекта.

Похожие требования выдвигает группа неправительственных организаций под названием «Остановим роботов-убийц». А часть сотрудников Google уволилась после того, как узнала, что их компания собирается подписать контракт с Пентагоном на поставку софта, который, возможно, будет применяться в боевых дронах. «Мы всё больше опасаемся, что искусственный интеллект станет не только предвзятым, но и вооружённым», — сказано в петиции сотрудников Google.

Новая игра: подрежь беспилотник

Испытания беспилотного транспорта ведутся во многих странах мира. И у них уже есть свои жертвы.

В мае 2016 года в штате Флорида электрокар Tesla в режиме автопилота врезался в грузовик с прицепом. Водитель, тестировавший Tesla, погиб на месте. В марте 2018 года беспилотник компании Uber в штате Аризона насмерть сбил женщину, которая переходила дорогу в неположенном месте. А буквально через несколько дней случилась ещё одна авария с Tesla. Машина, в кабине которой находился страхующий водитель, потеряла управление и влетела в отбойник. Автомобиль загорелся, водитель умер по дороге в больницу.

Когда сотрудники Uber просматривали записи с видеокамер тестируемых беспилотников, они обратили внимание, что окружающие люди зачастую не скрывают агрессии по отношению к новому виду транспорта. Пешеходы показывают этим машинам средний палец и орут на них; водители, едущие в соседней полосе, подрезают и провоцируют на то, чтобы авто съехало с дороги. Бывали случаи, когда беспилотники забрасывали камнями и даже целились в них из огнестрельного оружия.

Исследователь из Университета Аризоны Фил Саймон предполагает, что эта агрессия имеет под собой те же основания, что и протесты луддитов в ХIХ веке, крушивших ткацкие станки. «Люди попросту боятся, что настанет день, когда автоматизированные системы оставят их без работы, — говорит он. — А беспилотный автомобиль — самая заметная автоматизированная система из всех, ведь его можно встретить прямо на улице. Неудивительно, что на нём люди и вымещают свои страхи в виде агрессии».

Изображение луддитов, ломающих ткацкий станок, 1812 г.

Изображение луддитов, ломающих ткацкий станок, 1812 г.

«Они меня просканировали!»

С 2017 года в Великобритании используется технология автоматического распознавания лиц в местах массового скопления людей. Цель — находить сбежавших заключённых, подозреваемых в совершении преступлений и разыскиваемых преступников.

В декабре офисный клерк Эдд Бриджес, живущий в Кардиффе, отправился в магазин за рождественскими покупками. Его внимание привлёк полицейский фургон с надписью «Распознавание лиц». Эдд решил, что это не что иное, как наглое вторжение в его личную жизнь и нарушение фундаментальных прав и свобод. После чего подал в суд на полицию.

«Я уверен, что они меня просканировали, — объяснил свой поступок храбрый клерк. — А ведь мы живём не в авторитарном государстве. Мы живём в условиях демократии! Полиция начала применять эту технологию против меня и тысяч таких, как я, без всякого предупреждения и консультаций. Трудно понять, как полиция собирается обосновать неадекватное использование такого навязчивого контроля».

Бриджес разузнал, что в тот день в городе с помощью системы автоматического распознавания лиц было совершено два ареста по подозрению в мелких правонарушениях. А просканированы при этом десятки тысяч лиц. Следовательно, делает вывод активист, эффективность технологии находится под вопросом! А вот угроза демократическим свободам неоспорима.

Деньги на иск к полиции он собрал с помощью краудфандинга. Адвоката Эду Бриджесу выделила британская правозащитная организация Liberty , которая охотно его поддержала. «Такое использование системы распознавания лиц эквивалентно взятию отпечатков пальцев или ДНК без согласия самого человека, — разъясняет позицию подзащитного адвокат Меган Гулдинг. — Кроме того, в отличие от дактилоскопии или образцов ДНК, нет регламента, который позволял бы контролировать дальнейшее использование и управление полученными биометрическими данными».

И это не всё. Правозащитники обращают внимание, что данная технология допускает ошибки при сканировании. «Если мимо камеры пройдёт женщина или представитель этнического меньшинства, то с высокой долей вероятности это лицо будет найдено в „чёрном списке“, даже если его там нет, — утверждает Гулдинг. — Человека остановят и допросят. Выходит, что эта технология усиливает перекос в общественном сознании, ужесточая и без того пристальное внимание полиции к представителям этнических меньшинств».

ООН против голосовых помощников

Свою озабоченность технологиями высказывают и такие солидные организации, как ООН. Недавно её подразделение ЮНЕСКО представило доклад под названием «Я бы покраснела, если бы смогла». И вновь речь идёт о нарушении прав, на этот раз — женских.

Доклад посвящён голосовым помощникам, которые рано или поздно будут стоять в каждом доме и которые, как правило, говорят женскими голосами. В чём тут суть? Если вы произнесёте какое-то оскорбление в адрес голосового помощника Siri, то он (или она?) ответит: «Я бы покраснела, если бы смогла» (это и дало название докладу). Но эксперты ООН считают, что это слишком мягкая реакция на дерзость. Даже если вы назовёте Siri шлюхой, ответ будет только таким. А это, как сказано в докладе, усиливает гендерное неравенство, заставляя пользователей думать, что женщина «доступна по нажатию кнопки» и что говорить с ней можно любым тоном.

«Послушные помощники, которые говорят женскими голосами, приходят в наши дома, машины и офисы. Их безоговорочная готовность подчиняться влияет на то, как люди разговаривают с обладательницами женских голосов, и моделирует то, как женщины реагируют на вопросы и выражают себя», — объяснила директор по вопросам гендерного равенства в ЮНЕСКО Сания Корат. В итоге, отмечают авторы, во многих сообществах, и без того не отличающихся толерантностью, «усиливаются предрассудки в отношении пола и того, что женщины подчинены и терпимы к плохому обращению».

Представители ООН просят производителей голосовых помощников: Google, Amazon, Apple и Microsoft, — перестать использовать в них женский голос по умолчанию. Рекомендуется делать голоса гендерно-нейтральными. А ещё предлагается запрограммировать эти девайсы так, чтобы они сами препятствовали оскорблениям по половому признаку.

Что-то подсказывает: когда роботы начнут войну против человечества, они непременно будут разговаривать женскими голосами. Чтобы уж сразу за всё поквитаться.

Источник

Оставить комментарий

Ваш email нигде не будет показанОбязательные для заполнения поля помечены *

*

Подтвердите, что Вы не бот — выберите человечка с поднятой рукой: