- Регистрация
- 26 Июн 2016
- Сообщения
- 134
- Реакции
- 592
«Алекса, ты вторгаешься в мою личную жизнь?»: темная сторона голосовых помощников
Однажды житель Лондона Мартин Джозефсон (имя изменено) вернулся домой с работы и услышал, как его колонка Amazon Echo Dot произносит отрывистые команды, по-видимому, основанные на его предыдущих запросах. Похоже, она пыталась забронировать билеты на поезд для уже предпринятых Джозефсоном поездок и записать телепередачи, которые он уже посмотрел.
При этом мужчина не включал колонку специальным словом — «Алекса» — и потом никак не мог выключить ее. По его словам, это была ситуация в духе произведений Франца Кафки.
Этот случай особенно интересен тем, что Джозефсон оказался бывшим сотрудником Amazon. За три года до инцидента он вызвался проговаривать для записи явно бессмысленные фразы, цели этого задания не раскрывались. Только когда Amazon выпустил Echo в 2014 году, мужчина понял, над чем работал. Он купил Dot, более дешевую модель Echo, появившуюся в 2016 году, и считал ее достаточно полезной до того дня, когда она будто сошла с ума. Когда это произошло, Джозефсон отключил колонку и убрал ее подальше.
Голосовые помощники часто совершают действия, которые они не должны были делать. В прошлом году клиенту Amazon из Германии по ошибке отправили около 1700 аудиофайлов, записанных чьим-то Echo. В них содержалось достаточно информации, чтобы узнать имя и место жительства владельца колонки и его подруги. Amazon тогда заявил, что причиной недоразумения стал человеческий фактор.
Житель Сан-Франциско Шон Киннер утверждает, что его колонка Echo однажды включилась и радостно произнесла: «Каждый раз, когда я закрываю глаза, единственное, что я вижу, — это умирающие люди». В Портленде, штат Орегон, женщина обнаружила, что колонка решила отправить записи личных разговоров одному из сотрудников ее мужа. В заявлении Amazon говорилось, что Echo скорее всего ошибочно услышало пробуждающее слово, запрос на отправку сообщения, имя из списка контактов, а затем подтверждение отправки сообщения, — и все это произошло во время разговора о паркетных полах.
К технологии часто формируется двойственное отношение: мы понимаем, что Facebook и Google слишком много знают, но продолжаем пользоваться ими, потому что они очень удобны. Отношение к голосовым помощникам, как правило, более конкретно. Их противники называют техноэнтузиастов беспечнымии, а те, в свою очередь, считают оппонентов параноидальными технофобами.
В январе старший вице-президент Amazon по устройствам Дэвид Лимп объявил, что компания продала более 100 млн устройств с поддержкой Alexa. В прошлом году в США, где на тот момент у каждого пятого взрослого был домашний голосовой помощник, Alexa занимала 70% рынка по сравнению с 24% у Google Assistant.
Однако Alexa появилась в эпоху растущего скептицизма по отношению к моральным принципам большой пятерки технологических компаний: Amazon, Apple, Facebook, Google и Microsoft. Скандалы, связанные с Эдвардом Сноуденом и Cambridge Analytica, бросили тень на утопические обещания Кремниевой долины.
2019 год был особенно сложным. За последние шесть месяцев Bloomberg, Guardian, Vice News и бельгийский новостной канал VRT показали, что все компании из большой пятерки используют людей-подрядчиков для анализа некоторых записей с умных колонок. Хотя аудио анонимны, они часто содержат достаточно информации, чтобы идентифицировать пользователя и поставить его в неловкое положение — особенно, если на них случайно попала конфиденциальная медицинская информация или запись секса.
Голосовые помощники олицетворяют противоречие между эффективностью и конфиденциальностью. Эта технология все еще глубоко несовершенна: как минимум в одной из 10 записей, проанализированных одним из источников Bloomberg, Alexa включалась случайно. Точная интерпретация голосовых команд с учетом разных языков, акцентов, тонов, контекстов и внешних шумов требует вычислительных мощностей, которые во много раз превышают воможности одного устройства. Таким образом, большую часть данных приходится отправлять на обработку в облако.
Не все голосовые помощники одинаковы. Apple, основной объем прибыли которой формируется не за счет сбора данных, применяет более совершенное шифрование. «Apple — лучший вариант с точки зрения конфиденциальности. В то же время, думаю, все согласны с тем, что Сири работает так себе», — отметил редактор Gizmodo Кларк Эстес. Amazon Echo и Google Assistant гораздо удобнее, потому что успех бизнеса их производителей зависит от того, как много они знают о покупателях и насколько точно могут настроить таргетированную рекламу.
Конечно, Google и Amazon могут развивать эту технологию, нанимая дополнительных сотрудников, а не рассматривая клиентов как бесплатную базу данных. Кроме того, они могли бы открыто заявлять о том, что записи будут прослушивать подрядчики-люди. «Об этом должно сообщаться повсюду», — уверен Джереми Джилла, проектный директор в Electronic Frontier Foundation — объединении, которое выступает против неправомерного использования технологий. По его мнению, оправдание мотивов технологических компаний — это безрассудный утопизм: если бы они действительно не подозревали о последствия применения своих технологий, то не пошли бы на все, чтобы их скрыть.
В Amazon заявили, что очень серьезно относятся к защите личной информации клиентов и не используют ее без разрешения. Тем не менее, снова и снова демонстрируется, что технологические компании постоянно скрывают масштабы и характер сбора данных.
«Google и Amazon продемонстрировали свою манеру брать столько, сколько могут, пока кто-то не схватит их за руку. Ненавижу драматизировать, но я не думаю, что мы когда-нибудь будем чувствовать себя свободными от сбора данных. Государственное регулирование — единственное, что может уменьшить ущерб», — заявляет Эстес.
Правительство США действует неохотно. В июле 2015 года Электронный информационный центр конфиденциальности (Electronic Privacy Information Center, EPIC), некоммерческая организация, которая защищает «демократические ценности в цифровую эпоху», призвала власти провести расследование в отношении голосовых помощников. Пока EPIC не получила ответ.
В июле представитель Демократической партии Сет Моултон продемонстрировал закон об автоматическом прослушивании, который предлагает наказывать компании, чьи голосовые помощники записывают разговоры без разрешения, но Джилла считает это довольно слабым ходом. В Европе, которая помнит о горьком опыте массового наблюдения при тоталитарных режимах, все строже. Недавно Google заставили приостановить транскрипцию голосовых записей в Евросоюзе, в то время как Apple и Facebook одновременно прекратили делать это по всему миру. Amazon же просто разрешил пользователям отказаться от прослушиваний их разговоров подрядчиками-людьми.
Никто из опрошенных экспертов не пользуется домашними голосовыми помощниками и не советует их покупать. Однако все они согласны с тем, что вполне возможно разработать устройство, которое будет предоставлять самые популярные услуги и при этом не нарушать конфиденциальность. Если бы вся индустрия последовала примеру Apple и явно запрашивала бы разрешение на запись разговоров, это во многом изменило бы ситуацию. Но, конечно, в то же время это вызвало бы значительную потерю монетизируемых данных.
Источник:
Однажды житель Лондона Мартин Джозефсон (имя изменено) вернулся домой с работы и услышал, как его колонка Amazon Echo Dot произносит отрывистые команды, по-видимому, основанные на его предыдущих запросах. Похоже, она пыталась забронировать билеты на поезд для уже предпринятых Джозефсоном поездок и записать телепередачи, которые он уже посмотрел.
При этом мужчина не включал колонку специальным словом — «Алекса» — и потом никак не мог выключить ее. По его словам, это была ситуация в духе произведений Франца Кафки.
Этот случай особенно интересен тем, что Джозефсон оказался бывшим сотрудником Amazon. За три года до инцидента он вызвался проговаривать для записи явно бессмысленные фразы, цели этого задания не раскрывались. Только когда Amazon выпустил Echo в 2014 году, мужчина понял, над чем работал. Он купил Dot, более дешевую модель Echo, появившуюся в 2016 году, и считал ее достаточно полезной до того дня, когда она будто сошла с ума. Когда это произошло, Джозефсон отключил колонку и убрал ее подальше.
«Я чувствовал себя немного глупо. Поработав в Amazon и увидев, как они используют данные людей, я понял, что не могу им доверять», — вспоминает Джозефсон.
Голосовые помощники часто совершают действия, которые они не должны были делать. В прошлом году клиенту Amazon из Германии по ошибке отправили около 1700 аудиофайлов, записанных чьим-то Echo. В них содержалось достаточно информации, чтобы узнать имя и место жительства владельца колонки и его подруги. Amazon тогда заявил, что причиной недоразумения стал человеческий фактор.
Житель Сан-Франциско Шон Киннер утверждает, что его колонка Echo однажды включилась и радостно произнесла: «Каждый раз, когда я закрываю глаза, единственное, что я вижу, — это умирающие люди». В Портленде, штат Орегон, женщина обнаружила, что колонка решила отправить записи личных разговоров одному из сотрудников ее мужа. В заявлении Amazon говорилось, что Echo скорее всего ошибочно услышало пробуждающее слово, запрос на отправку сообщения, имя из списка контактов, а затем подтверждение отправки сообщения, — и все это произошло во время разговора о паркетных полах.
К технологии часто формируется двойственное отношение: мы понимаем, что Facebook и Google слишком много знают, но продолжаем пользоваться ими, потому что они очень удобны. Отношение к голосовым помощникам, как правило, более конкретно. Их противники называют техноэнтузиастов беспечнымии, а те, в свою очередь, считают оппонентов параноидальными технофобами.
В январе старший вице-президент Amazon по устройствам Дэвид Лимп объявил, что компания продала более 100 млн устройств с поддержкой Alexa. В прошлом году в США, где на тот момент у каждого пятого взрослого был домашний голосовой помощник, Alexa занимала 70% рынка по сравнению с 24% у Google Assistant.
Однако Alexa появилась в эпоху растущего скептицизма по отношению к моральным принципам большой пятерки технологических компаний: Amazon, Apple, Facebook, Google и Microsoft. Скандалы, связанные с Эдвардом Сноуденом и Cambridge Analytica, бросили тень на утопические обещания Кремниевой долины.
2019 год был особенно сложным. За последние шесть месяцев Bloomberg, Guardian, Vice News и бельгийский новостной канал VRT показали, что все компании из большой пятерки используют людей-подрядчиков для анализа некоторых записей с умных колонок. Хотя аудио анонимны, они часто содержат достаточно информации, чтобы идентифицировать пользователя и поставить его в неловкое положение — особенно, если на них случайно попала конфиденциальная медицинская информация или запись секса.
Голосовые помощники олицетворяют противоречие между эффективностью и конфиденциальностью. Эта технология все еще глубоко несовершенна: как минимум в одной из 10 записей, проанализированных одним из источников Bloomberg, Alexa включалась случайно. Точная интерпретация голосовых команд с учетом разных языков, акцентов, тонов, контекстов и внешних шумов требует вычислительных мощностей, которые во много раз превышают воможности одного устройства. Таким образом, большую часть данных приходится отправлять на обработку в облако.
«Сейчас создается инфраструктура, которую впоследствии могут использовать транснациональные корпорации и государственные системы наблюдения и которую гипотетически способны взломать злоумышленники», — убежден специалист по цифровому праву Майкл Веал.
Не все голосовые помощники одинаковы. Apple, основной объем прибыли которой формируется не за счет сбора данных, применяет более совершенное шифрование. «Apple — лучший вариант с точки зрения конфиденциальности. В то же время, думаю, все согласны с тем, что Сири работает так себе», — отметил редактор Gizmodo Кларк Эстес. Amazon Echo и Google Assistant гораздо удобнее, потому что успех бизнеса их производителей зависит от того, как много они знают о покупателях и насколько точно могут настроить таргетированную рекламу.
Конечно, Google и Amazon могут развивать эту технологию, нанимая дополнительных сотрудников, а не рассматривая клиентов как бесплатную базу данных. Кроме того, они могли бы открыто заявлять о том, что записи будут прослушивать подрядчики-люди. «Об этом должно сообщаться повсюду», — уверен Джереми Джилла, проектный директор в Electronic Frontier Foundation — объединении, которое выступает против неправомерного использования технологий. По его мнению, оправдание мотивов технологических компаний — это безрассудный утопизм: если бы они действительно не подозревали о последствия применения своих технологий, то не пошли бы на все, чтобы их скрыть.
«Сомневаюсь, что они предполагали, будто всем это будет безразлично. Думаю, они пытались хранить молчание, потому что если бы пользователи знали о происходящем, то они перестали бы покупать устройства. Это было взвешенное бизнес-решение», — говорит Джилла.
В Amazon заявили, что очень серьезно относятся к защите личной информации клиентов и не используют ее без разрешения. Тем не менее, снова и снова демонстрируется, что технологические компании постоянно скрывают масштабы и характер сбора данных.
«Google и Amazon продемонстрировали свою манеру брать столько, сколько могут, пока кто-то не схватит их за руку. Ненавижу драматизировать, но я не думаю, что мы когда-нибудь будем чувствовать себя свободными от сбора данных. Государственное регулирование — единственное, что может уменьшить ущерб», — заявляет Эстес.
Правительство США действует неохотно. В июле 2015 года Электронный информационный центр конфиденциальности (Electronic Privacy Information Center, EPIC), некоммерческая организация, которая защищает «демократические ценности в цифровую эпоху», призвала власти провести расследование в отношении голосовых помощников. Пока EPIC не получила ответ.
«В это области рыночные решения не работают, потому что компаниям разрешено скрывать недостатки своих продуктов. Если бы вы или я разместили в чужом доме устройство с возможностью перехвата личных сообщений, мы бы нарушили федеральный закон о прослушивании», — указывает исполнительный директор EPIC Марк Ротенберг.
В июле представитель Демократической партии Сет Моултон продемонстрировал закон об автоматическом прослушивании, который предлагает наказывать компании, чьи голосовые помощники записывают разговоры без разрешения, но Джилла считает это довольно слабым ходом. В Европе, которая помнит о горьком опыте массового наблюдения при тоталитарных режимах, все строже. Недавно Google заставили приостановить транскрипцию голосовых записей в Евросоюзе, в то время как Apple и Facebook одновременно прекратили делать это по всему миру. Amazon же просто разрешил пользователям отказаться от прослушиваний их разговоров подрядчиками-людьми.
Никто из опрошенных экспертов не пользуется домашними голосовыми помощниками и не советует их покупать. Однако все они согласны с тем, что вполне возможно разработать устройство, которое будет предоставлять самые популярные услуги и при этом не нарушать конфиденциальность. Если бы вся индустрия последовала примеру Apple и явно запрашивала бы разрешение на запись разговоров, это во многом изменило бы ситуацию. Но, конечно, в то же время это вызвало бы значительную потерю монетизируемых данных.
Источник:
Для просмотра скрытого содержимого вам нужно войти или зарегистрироваться.
