- Регистрация
- 27 Дек 2015
- Сообщения
- 138
- Реакции
- 642
Предприниматель и инвестор Сунил Пол размышляет на тему того, могут ли города доверять беспилотным автомобилям. Он считает, что об этических аспектах новой технологии должны думать не производители, а регулирующие и законодательные органы.
Представьте, что вы едете по улице, и на дорогу выбегает ребенок, пытающийся поймать мячик. Вы уже не можете остановиться. Выедете ли вы на встречную полосу, по которой мчится грузовик?
Этой и другими вариациями «Проблемы вагонетки», мысленного этического эксперимента, сформулированного в 1967 году британским философом Филиппой Фут, обеспокоены технологи, этики и политики, по мере того как все больше беспилотных автомобилей начинают рассекать по улицам городов мира. Как и человеку-водителю, автоматизированному ПО придется принимать решения за секунду.
По крайней мере один производитель беспилотных автомобилей Daimler заявил, что их приоритетом будет безопасность пассажира. Таким образом, их автомобиль в будущем убил бы ребенка, но не рискнул бы ранить пассажиров. Вы подумаете: как автопроизводитель может создать настолько аморальную систему? Во-первых, это проще. Проектирование системы, которая будет учитывать все возможные сценарии, добавляет сложности в уже сложный проект. Во-вторых, Daimler будет продавать машины владельцам, а не пешеходам или детям.
Технологии – вперед, законы – назад
Решение о том, как управлять нашим автоматизированным будущем, является сложным. К тому же, оно потребует того, чтобы технологи и политики мыслили в одном направлении и признавали два разных мировоззрения: инстинкт технолога двигаться вперед как можно быстрее и регулятора – замедлять вещи.
Сегодня технологические и автомобильные компании, работающие над беспилотными транспортными средствами, утверждают, что проектируют «законопослушные, всегда бдительные и параноидальные автомобили». ПО запрограммировано таким образом, чтобы максимально почтительно относиться к пешеходам.
Однако решения Daimler и серьезные аварии – например, когда автомобиль Tesla в режиме автопилота въехал в полуприцеп и убил пассажира – могут стать причиной для ускорения и усиления регулирования.
Общая картина
Беспилотные автомобили и грузовики могут привести города ближе к абсолютной безопасности на дорогах, чем когда-либо прежде. На этой стадии развития технологии фокусирование на авариях сродни проблемам, которые предшествовали внедрению подушек и ремней безопасности. Многие переживали, что эти спасающие жизнь технологии причинят вред детям еще задолго до того, как их начали широко тестировать, внедрять или регулировать. Суть общей картины лежит в потенциале для действительно безопасных городских улиц для пассажиров, пешеходов и велосипедистов. Регулирующие и законодательные органы могут ускорить это будущее.
Представьте районы города, где разрешены только беспилотные транспортные средства. Впервые с момента появления автомобиля пешеходы и велосипедисты в этих зонах могут быть уверены в том, что транспортные средства будут подчиняться закону. Правила о переходе улицы в неположенном месте могут быть отменены в зоне беспилотных автомобилей. Некоторые аналитики даже использовали теорию игр для предсказания того, что пешеходы могут почувствовать себя настолько уверенно с беспилотными автомобилями, что будут затруднять транспорту передвижение по городу.
Проектирование параноидального транспорта
Мы можем предсказать, что в один прекрасный день беспилотным автомобилям понадобится районное регулирование из-за характера разработки автоматизированных систем. До полностью беспилотных автомобилей пятого уровня, способных заменить водителя-человека, нам еще очень далеко. Беспилотные автомобили четвертого уровня, находящиеся на стадии тестового внедрения, могут ездить без водителя, но лишь в определенных ситуациях. Таким образом, службы доставки и райдшеринг могут использовать беспилотные транспортные средства четвертого уровня в определенных районах, например, на улицах с низким скоростным ограничением или на стандартизированных высокоскоростных шоссе. Для других зон или более сложного вождения все еще требуется человек.
Вопрос об ответственности вероятнее всего будет способствовать тому, чтобы беспилотные автомобили оставались параноидальными и подчинялись закону. В 2015 году Volvo объявила, что возьмет на себя ответственность за проектирование будущих беспилотных систем по аналогии с тормозами и другими функциями безопасности. В результате судебных разбирательств автопроизводители скорее всего возьмут на себя некоторые или даже все убытки, связанные с ошибками, допущенными их системами. Проектировщики беспилотного транспорта, таким образом, будут сильно мотивированы, чтобы создать параноидально осторожные машины.
В результате таких судебных процессов, регуляторы, оценивающие автоматизированные системы, столкнутся с новым препятствием, незнакомым им прежде. Техники машинного обучения, используемые для проектирования беспилотных автомобилей, такие как нейронные сети и статистические системы, эффективны потому, что могут анализировать огромное количество данных и сценариев, с которыми может столкнуться автомобиль. Но этот процесс обучения усложняет прогнозирование того, как беспилотное транспортное средство поведет себя в будущем, потому что не каждому сценарию можно обучить, и порой будет невозможно определить, почему система машинного обучения сработала определенным образом.
Традиционное ПО, а также определенные типы машинного обучения ведут себя предсказуемо. Это не значит, что в софте нет багов; это значит, что есть предсказуемые способы, как найти недостатки и исправить лежащие в основе проблемы. Когда в новой системе машинного обучения есть баги, их сложно найти и исправить. Более того, сложно даже подтвердить, что ошибка была исправлена.
Проводятся исследования на предмет того, как заставить нейронные сети и статистические системы объяснять свое поведение. Эти инструменты будут важны для эффективного регулирования беспилотного транспорта. Поэтому правительство должно финансировать исследования и разработку, выдавать поощрительные премии и сотрудничать с учеными.
Политика завтрашнего дня
Законодательные и регулирующие органы контролируют очень мощную форму «кода» – законы и правила, которые мы уже используем для оценки этических соображений. Ни беспилотный транспорт, ни его производителей, не должны просить оценить «Проблему вагонетки» или другие сложные этические вопросы. У нас уже есть законодательные и регулирующие органы для арбитражного разбирательства и взвешивания решений о правильном и неправильном.
В случае с ребенком с мячом, не производитель авто должен решать, стоит ли пересекать двойную полосу для сохранения жизни. Автопроизводители должны будут ориентироваться на законы и правила для таких сложных ситуаций. Если автоматизированные системы не смогут обеспечить безопасность пешеходов сегодня, следуя уже существующим законам, власти могут изменить их, и производителям ПО придется подчиниться.
Технология беспилотных автомобилей позволит нам переосмыслить наш мир, особенно наши города и пригороды. Со времен Второй мировой войны мы проектировали машины, учитывая их механические ограничения. Сейчас же мы учитываем ограничения ПО, а не тормоза или двигатели. Как люди, желающие увидеть безопасные дороги в своих городах, нам нужно укрепить суды, регулирующие и законодательные органы, которые позволят нам доверять беспилотным автомобилям и сделают эту технологию такой, какой видим ее мы, а не только владельцы транспортного средства.
Представьте, что вы едете по улице, и на дорогу выбегает ребенок, пытающийся поймать мячик. Вы уже не можете остановиться. Выедете ли вы на встречную полосу, по которой мчится грузовик?
Этой и другими вариациями «Проблемы вагонетки», мысленного этического эксперимента, сформулированного в 1967 году британским философом Филиппой Фут, обеспокоены технологи, этики и политики, по мере того как все больше беспилотных автомобилей начинают рассекать по улицам городов мира. Как и человеку-водителю, автоматизированному ПО придется принимать решения за секунду.
По крайней мере один производитель беспилотных автомобилей Daimler заявил, что их приоритетом будет безопасность пассажира. Таким образом, их автомобиль в будущем убил бы ребенка, но не рискнул бы ранить пассажиров. Вы подумаете: как автопроизводитель может создать настолько аморальную систему? Во-первых, это проще. Проектирование системы, которая будет учитывать все возможные сценарии, добавляет сложности в уже сложный проект. Во-вторых, Daimler будет продавать машины владельцам, а не пешеходам или детям.
Технологии – вперед, законы – назад
Решение о том, как управлять нашим автоматизированным будущем, является сложным. К тому же, оно потребует того, чтобы технологи и политики мыслили в одном направлении и признавали два разных мировоззрения: инстинкт технолога двигаться вперед как можно быстрее и регулятора – замедлять вещи.
Сегодня технологические и автомобильные компании, работающие над беспилотными транспортными средствами, утверждают, что проектируют «законопослушные, всегда бдительные и параноидальные автомобили». ПО запрограммировано таким образом, чтобы максимально почтительно относиться к пешеходам.
Однако решения Daimler и серьезные аварии – например, когда автомобиль Tesla в режиме автопилота въехал в полуприцеп и убил пассажира – могут стать причиной для ускорения и усиления регулирования.
Общая картина
Беспилотные автомобили и грузовики могут привести города ближе к абсолютной безопасности на дорогах, чем когда-либо прежде. На этой стадии развития технологии фокусирование на авариях сродни проблемам, которые предшествовали внедрению подушек и ремней безопасности. Многие переживали, что эти спасающие жизнь технологии причинят вред детям еще задолго до того, как их начали широко тестировать, внедрять или регулировать. Суть общей картины лежит в потенциале для действительно безопасных городских улиц для пассажиров, пешеходов и велосипедистов. Регулирующие и законодательные органы могут ускорить это будущее.
Представьте районы города, где разрешены только беспилотные транспортные средства. Впервые с момента появления автомобиля пешеходы и велосипедисты в этих зонах могут быть уверены в том, что транспортные средства будут подчиняться закону. Правила о переходе улицы в неположенном месте могут быть отменены в зоне беспилотных автомобилей. Некоторые аналитики даже использовали теорию игр для предсказания того, что пешеходы могут почувствовать себя настолько уверенно с беспилотными автомобилями, что будут затруднять транспорту передвижение по городу.
Проектирование параноидального транспорта
Мы можем предсказать, что в один прекрасный день беспилотным автомобилям понадобится районное регулирование из-за характера разработки автоматизированных систем. До полностью беспилотных автомобилей пятого уровня, способных заменить водителя-человека, нам еще очень далеко. Беспилотные автомобили четвертого уровня, находящиеся на стадии тестового внедрения, могут ездить без водителя, но лишь в определенных ситуациях. Таким образом, службы доставки и райдшеринг могут использовать беспилотные транспортные средства четвертого уровня в определенных районах, например, на улицах с низким скоростным ограничением или на стандартизированных высокоскоростных шоссе. Для других зон или более сложного вождения все еще требуется человек.
Вопрос об ответственности вероятнее всего будет способствовать тому, чтобы беспилотные автомобили оставались параноидальными и подчинялись закону. В 2015 году Volvo объявила, что возьмет на себя ответственность за проектирование будущих беспилотных систем по аналогии с тормозами и другими функциями безопасности. В результате судебных разбирательств автопроизводители скорее всего возьмут на себя некоторые или даже все убытки, связанные с ошибками, допущенными их системами. Проектировщики беспилотного транспорта, таким образом, будут сильно мотивированы, чтобы создать параноидально осторожные машины.
В результате таких судебных процессов, регуляторы, оценивающие автоматизированные системы, столкнутся с новым препятствием, незнакомым им прежде. Техники машинного обучения, используемые для проектирования беспилотных автомобилей, такие как нейронные сети и статистические системы, эффективны потому, что могут анализировать огромное количество данных и сценариев, с которыми может столкнуться автомобиль. Но этот процесс обучения усложняет прогнозирование того, как беспилотное транспортное средство поведет себя в будущем, потому что не каждому сценарию можно обучить, и порой будет невозможно определить, почему система машинного обучения сработала определенным образом.
Традиционное ПО, а также определенные типы машинного обучения ведут себя предсказуемо. Это не значит, что в софте нет багов; это значит, что есть предсказуемые способы, как найти недостатки и исправить лежащие в основе проблемы. Когда в новой системе машинного обучения есть баги, их сложно найти и исправить. Более того, сложно даже подтвердить, что ошибка была исправлена.
Проводятся исследования на предмет того, как заставить нейронные сети и статистические системы объяснять свое поведение. Эти инструменты будут важны для эффективного регулирования беспилотного транспорта. Поэтому правительство должно финансировать исследования и разработку, выдавать поощрительные премии и сотрудничать с учеными.
Политика завтрашнего дня
Законодательные и регулирующие органы контролируют очень мощную форму «кода» – законы и правила, которые мы уже используем для оценки этических соображений. Ни беспилотный транспорт, ни его производителей, не должны просить оценить «Проблему вагонетки» или другие сложные этические вопросы. У нас уже есть законодательные и регулирующие органы для арбитражного разбирательства и взвешивания решений о правильном и неправильном.
В случае с ребенком с мячом, не производитель авто должен решать, стоит ли пересекать двойную полосу для сохранения жизни. Автопроизводители должны будут ориентироваться на законы и правила для таких сложных ситуаций. Если автоматизированные системы не смогут обеспечить безопасность пешеходов сегодня, следуя уже существующим законам, власти могут изменить их, и производителям ПО придется подчиниться.
Технология беспилотных автомобилей позволит нам переосмыслить наш мир, особенно наши города и пригороды. Со времен Второй мировой войны мы проектировали машины, учитывая их механические ограничения. Сейчас же мы учитываем ограничения ПО, а не тормоза или двигатели. Как люди, желающие увидеть безопасные дороги в своих городах, нам нужно укрепить суды, регулирующие и законодательные органы, которые позволят нам доверять беспилотным автомобилям и сделают эту технологию такой, какой видим ее мы, а не только владельцы транспортного средства.
Для просмотра скрытого содержимого вам нужно войти или зарегистрироваться.
