Подключение человеческого фактора

Одна из наиболее важных и сложных задач в любых технологиях – это создать такие системы, которые будут достаточно надежны и безопасны. Несмотря на то что здесь отсутствуют риски, связанные с суждением человека, принятием им решений и его невнимательностью, в области технологий существуют иные опасности. На смену потенциальной угрозе небольших происшествий и аварий приходят более масштабные проблемы. Например, в июне 2009 г. в Вашингтоне столкнулись два поезда метро. Причиной аварии, в результате которой погибло девять человек и пострадало 80, предположительно стала неисправность компьютера и неспособность машиниста быстро затормозить вручную.

Эксперты в области человеческого фактора называют это явление «парадоксом автоматизации». По мере того как автоматизированные системы становятся все более надежными и эффективными, повышается вероятность того, что человек, управляющий системой, может «отключиться», целиком полагаясь на машины. Автоматизированные системы становятся все более сложными, и вероятность аварии или сбоя снижается, однако степень тяжести потенциальной опасности во много раз повышается. Дональд Норман, заслуженный профессор приборостроения и вычислительной техники в Северо-Западном университете в Чикаго, один из основателей компании Neilson Norman Group и автор книги «Дизайн вещей будущего»[39], говорит: «Разработчики часто строят догадки и предпринимают действия, опираясь на неполную информацию. Они просто не в состоянии предвидеть, как будут использоваться системы и к каким непредвиденным событиям и последствиям это может привести».

Интернет вещей принесет новые трудности и задачи, касающиеся безопасности, конфиденциальности и вообще нашей жизни в новом цифровом мире. Он определенно станет предметом разногласий и споров в обществе и при этом вызовет новые вопросы по поводу цифровых имущих и неимущих. Более того, Интернет вещей потребует введения новых законов, которые принесут значительные изменения.

Сегодня не нужно далеко ходить за примерами того, как у человека возникают неприятности из‑за автоматизированных систем. Например, водители порой слепо следуют неправильным указаниям навигационной системы, хотя одного взгляда на дорогу было бы достаточно, чтобы понять, что система допустила ошибку. Случалось, что автомобили падали в обрыв и даже сталкивались со встречным транспортом на полосе одностороннего движения, когда водители вместо того, чтобы думать головой и смотреть по сторонам, полагались на электронику. Более того, исследования показывают, что многие водители неправильно используют некоторые автоматические функции, например, адаптивный круиз-контроль. По словам Нормана, в некоторых случаях автоматические системы подсказывают, что автомобиль должен ехать быстрее на съезде с шоссе, потому что перед ним нет других машин. Если водитель не будет внимателен, может случиться столкновение.

Водители, пилоты и машинисты поездов склонны излишне полагаться на автоматические системы – и расслабляться в том, что касается использования навыков и реакций, чтобы избегать опасных ситуаций. Что еще хуже, иногда сами разработчики при проектировании систем исходят из неправильных предпосылок или неполного набора фактов. Иногда они не до конца понимают то, как люди используют персональные устройства или инструменты, или недооценивают влияние культурных различий. Они могут не заметить, как на рабочие показатели или поведение человека влияет сочетание устройств. Норман, один из ведущих мировых экспертов по промышленному дизайну, утверждает, что логика машины не всегда соответствует тому, что происходит в мозгу человека. «Если вы посмотрите на инциденты с человеческим фактором, вы увидите, что почти во всех случаях они произошли, потому что люди должны были думать и действовать как машины», – предостерегает Норман.

Интернет вещей существенно повышает ставки. Десятки, сотни, тысячи устройств создают множество точек пересечения информации в физическом мире. Кроме того, поскольку устройства и алгоритмы обмениваются информацией, но в силу разных требований разработчиков и компаний отвечают разным стандартам и критериям качества, существует реальный риск возникновения систем, которые не смогут обеспечить желаемый уровень взаимодействия человека и машины. Профессор гуманитарных наук в Университете Гриффита в городе Брисбен в Австралии и автор книги «Что стоит за человеческим фактором» Сидни Деккер объясняет это так: «В любом процессе или деятельности всегда присутствует изрядная доля интуиции человека, а это фактор, который не воспроизведет никакая машина».

История развития технологий изобилует посредственными пользовательскими интерфейсами, мудреными панелями управления и ошибками производительности. Развитие технологий требует времени, настройки, корректировки и работы над ошибками. Поэтому не удивляйтесь, что домашняя автоматика и подключенные устройства существуют в том или ином виде уже более 25 лет. Однако бóльшую часть этого времени считалось, что установить систему, которая будет способна эффективно и бесперебойно работать, практически невозможно. Многие потребители, которые начали пользоваться системой домашней автоматизации Х-10 или системами подключения замков и освещения первого поколения, сталкивались с тем, что замысловатый интерфейс и устройства не соответствуют тому, что о них говорилось в рекламе.

Интернет вещей только начинает подходить к критическому порогу практичности и удобству использования. С увеличением вычислительной мощности, повышением мобильности, ростом облачных сервисов и развитием больших данных и аналитики инженеры, разработчики и программисты начали строить такие подключенные системы, которые действительно работают. Многие из них достаточно сложны, чтобы основываться на технологии «включай и используй». Однако Интернет вещей, особенно в сфере промышленного Интернета, должен достичь уровня функциональной надежности, который будет способствовать повышению доверия. Одно дело, если сломается один подключенный автомобиль. Совсем другое, если выйдет из строя целая транспортная система. Последнее приведет к множеству пробок на дорогах и повсеместным столкновениям, а значит, травмам, смертям, всеобщему хаосу и тяжелым последствиям для экономики.

Однако нет ничего невозможного в том, чтобы разработать безотказные системы для медицинской отрасли, сферы транспорта или других областей. За последние 25 лет случаи крушения пассажирских самолетов стали исключительно редки. Конечно, критически важными элементами являются резервирование систем и обучение персонала. Но способность обрабатывать большие данные и создавать компьютерные модели помогает инженерам понимать, какие нагрузки действуют на самолет и как со временем влияют на его конструкции погодные и другие условия. В подключенной системе сложные датчики для измерения вибрации и других нагрузок могут обнаружить признаки износа металла задолго до того, как возникнет опасная ситуация.

В то же время технологии Интернета вещей должны функционировать практически, и все сложности, связанные с его системами, должны поддаваться управлению обществом. Иначе потребители, предприятия и государственные структуры станут отказываться от использования многих из них. Ханна Андерсон, директор исследовательского центра Imagining the Internet Center и соавтор отчета по проекту, реализованному Исследовательским центром Пью («Интернет вещей расцветет к 2025 г.»), указывает на вероятность возникновения определенных трудностей[40]. «Мы будем жить в мире, в котором многие вещи работать не будут, и никто не будет знать, как их починить», – отмечает она. Кроме того, любая новая технология постепенно теряет прелесть новизны. То, что сначала казалось привлекательным и интересным, в конце концов становится обыденным, иногда даже надоедливым и угнетающим. Хорошим примером служит электронная почта, которая для многих уже стала обузой. Сегодня немало пользователей завалены письмами, в которых полно спама и вирусов. Технологии движутся вперед, и на экранах компьютеров поселяется все больше новых приложений и инструментов. Передовые операционные системы и программные интерфейсы постепенно становятся все более сложными и неудобными.

История развития технологий изобилует посредственными пользовательскими интерфейсами, мудреными панелями управления и ошибками производительности. Развитие технологий требует времени, настройки, корректировки и работы над ошибками. Поэтому не удивляйтесь, что домашняя автоматика и подключенные устройства существуют в том или ином виде уже более 25 лет. Однако бóльшую часть этого времени считалось, что установить систему, которая будет способна эффективно и бесперебойно работать, практически невозможно.

В конечном итоге системы Интернета вещей должны приносить госучреждениям, коммерческим компаниям и потребителям пользу, не создавая при этом никаких сложностей. Они призваны решать проблемы физического мира, не принося при этом новых проблем и не усложняя существующие, такие как преступность или загрязнение окружающей среды. Но самое главное – подключенные устройства должны просто включаться и использоваться – как лампочка или тостер. Они призваны передавать нужные данные и информацию в нужном контексте в нужный момент – причем последние должны быть надежны. Все это требует понимания человеческого поведения и учета безопасности и приватности.

Умные системы, глупые люди?

Один из основных вопросов сейчас таков: не становятся ли люди из‑за использования умных устройств глупее? Не повлияют ли умные устройства на интеллект человека? Сегодня смартфоны содержат десятки тысяч контактов, GPS-навигаторы ведут нас к месту назначения, не требуя, чтобы мы следили за маршрутом, а браслеты с приложениями отслеживают расход калорий и физические нагрузки так, как было невозможно себе представить еще десять лет назад. Какова же обратная сторона медали? В результате люди не помнят важные номера телефонов; использование карт – это утраченное искусство; и невзирая на беспрецедентную доступность инструментов для фитнеса, ожирение и другие болезни, связанные с неправильным образом жизни, становятся хроническими проблемами. Парадокс в том, что чем больше для нас делают умные устройства, тем меньше мы соприкасаемся с естественной средой, тем меньше следуем своему естественному ритму и, как следствие, меньше упражняем свое тело и мозг.

Психолог и писатель Дуглас Лайл называет это «ловушкой удовольствия». Человеческий мозг, по его словам, естественным образом склоняется к наиболее простому и приятному способу совершения действия. Но самый простой – далеко не всегда самый лучший. Николас Карр, автор книги «Пустышка. Что Интернет делает с нашими мозгами»[41], ставит под сомнение культуру мгновенного получения информации в Интернете, – того, что с появлением Интернета вещей должно ускоряться. «Теперь мой разум считает, что информацию надо воспринимать так, как ее выдает Сеть: в виде стремительного потока частиц. Когда-то я был аквалангистом в море слов. Теперь я скольжу по поверхности, будто на водных лыжах», – писал Карр в 2008 г. в своей статье для The Atlantic Monthly [42]. Хотя исследователи только начинают изучать когнитивное мышление и то, как его формирует и меняет цифровой мир, одно ясно: наш мозг развивается и приспосабливается к новым технологиям. А можем ли мы развить свой интеллект или наши способности померкнут на фоне искусственного интеллекта, нам еще предстоит узнать.