Андрей Кузнецов ― кандидат социологических наук, доцент Университета ИТМО и научный сотрудник Центра STS (Science and Technology Studies) Европейского университета в Санкт-Петербурге. А также научный руководитель магистерской программы «Наука и технологии в обществе».

Автозависимость

Мы живем в мире, где автомобиль занимает центральное место: большинство городов «автомобиле-центричны», другие — «автомобиле-зависимы». Их инфраструктура и интересы подчинены дорожным развязкам, «кольцам» и парковкам.

Это не принято широко обсуждать, потому что принимается как данность, но существующая система автомобильности неприемлема. Вот ее основные слабые места:

НЕ

— экологичность;

— социальность — ежегодно при ДТП в РФ гибнет 18 тысяч человек, еще 200 тысяч получают ранения. В машине остается не только здоровье, но и время: за 240 рабочих дней жители Москвы стоят в пробках 91 час (второй показатель после Лос-Анджелеса). В Санкт-Петербурге — 53 часа. Это только пробки, добавьте к ним еще время в пути;

— этичность — автомобилем, и часто не одним, владеют состоятельные люди, а стоят машины, например, в центре — занимая и загрязняя публичные пространства. Это хорошо иллюстрирует Лос-Анджелес, где 24% территории занимают автомобильные дороги и парковки, а строительство дорожной инфраструктуры является причиной разрушения городских сообществ.

С одной стороны, машина — это комфорт и скорость, а с другой — она же сочетается с дикой неэффективностью в пробках. Мы бы хотели представить жизнь без машин или с «другими» машинами, но боимся, отсюда страх и восхищение при мысли о беспилотных автомобилях.

Сама задумка приводит в восторг, дает надежду на более безопасное, комфортное и эффективное передвижение ― никаких пробок на дорогах, меньше вреда для экологии. Но с другой стороны, пока беспилотный транспорт пугает. Поскольку жизнь в городах автомобилецентрична, и радикальная инновация в этой области способна непредсказуемо изменить организацию нашей жизни: логистику, землепользование, городское планирование, экономику, информационную безопасность, правовое регулирование и т.д.

Беспилотный транспорт не выдумка футурологов, а реальная разработка, в которой заинтересованы IT-компании, автоконцерны, платформенный бизнес, сервисы каршеринга. В идеале беспилотный транспорт исключит эксклюзивное владение машиной, что заодно сократит экологический ущерб от автомобилей, а также сделает авто доступным для каждого. Но на деле вопросов к беспилотному транспорту будет много ― и технических, и инфраструктурных.

Философия мобильности

Философия не способ решения проблем, а способ постановки проблем.

В разговоре об автомобилях (или точнее «мобилях») будущего интересны мысли Илона Маска. Однажды он заявил, что порядка 95% аварий на дорогах происходят по вине человека, а не техники. Маск сделал акцент на то, что, чем хуже мы отзываемся о беспилотных авто, тем больше людей сами же убиваем. Это и есть философское высказывание. Речь Илона Маска направлена на то, чтобы обозначить проблему там, где ее раньше не было.

Давайте немного лучше присмотримся к беспилотным автомобилям: в чем их задача, и такие уж они «беспилотные»?

На заре автопрома у производителей стояла проблема движения: как привести машину в движение без использования мускульной силы животного или человека? Сегодня перед разработчиками беспилотных автомобилей стоит проблема вождения: как заменить человеческого пилота машины нечеловеческим?

В строгом смысле слова «беспилотные» машины не являются беспилотными. Они пилотируются — просто не человеком, а иными сущностями ― алгоритмами искусственного интеллекта, киберфизическими устройствами, датчиками и цифровыми инфраструктурами. Но если развивать мысль, то и современные машины близки к этому, потому что в них вшито так много компонентов систем продвинутой помощи водителю, что мы едва ли можем сказать: они на 100% управляются человеком.

Еще один миф — это автономность. Разумеется, беспилотные машины не требуют вашего прямого участия в процессе вождения, но на деле современный транспорт не более автономный. В отличие от своих предшественников, «беспилотные» авто будут сильнее зависеть от своей инфраструктуры и институтов, которые ее обслуживают. И речь не только о заправках, дорогах и автомастерских, но и цифровых картах, базах данных, спутниковой связи, новых протоколах безопасности и стандартах регулирования.

Умная машина

Цель производителей беспилотного транспорта ― создать «умную» технику, которая без человека, а точнее, лучше него справится с задачей вождения.

Когда мы говорим об умной технике, то речь идет о точности, о ее эффективности. Но «умный» — это еще и обучаемый, соответственно, беспилотные машины будут учиться. А где учеба, там и ошибки, поэтому важно понимать, как они выглядят у машин. Если у традиционного программного обеспечения ошибки ― это сбои в работе, потеря или утечка данных, то ошибки софта умных автомобилей ― это аварии.

Яркий пример ошибки алгоритмов, глубокого машинного обучения произошел с беспилотным автомобилем Uber. В марте 2018 года машина насмерть сбила пешехода, Элен Херцберг, которая переходила дорогу в неположенном месте в ночное время и катила перед собой велосипед. Образ человека, идущего через дорогу рядом с велосипедом, оказался слишком трудным для распознавания алгоритмом, управлявшим машиной. Он слишком поздно распознал Херцберг как объект, столкновение с которым опасно. После чего дал сигнал экстренного автоматического торможения, но инженеры безопасности Uber отключили эту функцию накануне из-за потенциального конфликта оборудования. Почему?

Дело в том, что алгоритм давал много ложноположительных ответов. А разве в машине не должно было быть инженера-испытателя? В момент аварии там была инженер Uber, но она вопреки инструкции большую часть дороги смотрела музыкальное шоу на своем планшете и не успела среагировать на пешехода.

Этот пример показывает не только внутреннюю сложность процесса обучения умных машин, их разработчиков и пользователей, но и поднимает вопрос безопасности в контексте сближения IT и автопрома. По сути это конвергентность, объединение различных, порой, даже полярных функций в одном устройстве. Можно сказать, мы движемся к тому, чтобы ездить на смартфонах, и отчасти это будет правдой.

Что до безопасности, то, умнея, машины парадоксально могут становиться менее надежными. С точки зрения автопрома они могут оставаться такими же надежными, но с точки зрения IT — нет. С появлением сложного софта в автомобиле появляется возможность удаленно взломать его, угнать, запрограммировать на аварийную ситуацию и т.д.

Соответственно, к технической безопасности должен прибавиться запрос на киберустойчивость. Это не единственное, что изменится в машине, если она станет беспилотной. Например, отношение к IT-термину «баг», который прежде говорил об ошибке. Теперь последствием «ошибки» может стать человеческая жизнь — и это уже сложно назвать багом.

Вообще, трудно представить то, как сложится союз автомобильных концернов и IT-компаний — двух достаточно разных миров. В мире автопрома машина — это законченный продукт. Если в нем обнаруживается дефект, то производитель отзывает товар с рынка и несет серьезные убытки. Поэтому в автопроме тщательно подходят к разработке продуктов.

IT-компании продают, как правило, не законченные продукты, а услуги (программы, сервисы). На обнаружение ошибки в ПО они реагируют выпуском обновления или патча. Это две разные бизнес-логики, которые имеют дело с двумя разными режимами государственного регулирования, и будет крайне интересно наблюдать, как они начнут уживаться.