Скільки телефонних номерів ви можете згадати, не заглядаючи в смартфон? А ділити і множити без калькулятора вмієте? Чи зможете прокласти маршрут від точки А в точку Б без навігатора?
Машини звільнили нас від необхідності виконувати багато операцій. Наприклад, вся користь від технології блокчейн ще не усвідомлена, але той мінімум, який вже усвідомлений, і подекуди впроваджується, вже здатен здійснити революцію. Ми із задоволенням користуємося наданою свободою, поки не трапиться щось незаплановане. У такий момент ми розуміємо, що без комп'ютера зовсім безпорадні. Ця проблема називається парадокс автоматизації: чим краще автоматичні системи, тим менш досвідченими є оператори, тобто ми. Проблема виникає повсюдно — від помилок в роботі співробітників атомних станцій до нашої нездатності запам'ятовувати телефонні номери.
Штраф за парковку
Одного разу Віктор Хенкінс, звичайний громадянин Великобританії, отримав небажаний подарунок на Різдво — штраф за парковку в недозволеному місці. Його машина перекрила автобусну зупинку і була зфотографована камерою. Комп'ютер визначив номерний знак, знайшов його в базі даних і виявив адресу Хенкінса. Був автоматично створений «пакет доказів», що включає відеозапис з місця, тимчасову позначку і місце розташування. Лист, що вимагає оплати штрафу або судового розгляду, було складено, роздруковано та надіслано поштою через такий же автоматичний процес (зменшена версія Big Data). Була лише одна проблема: містер Хенкінс взагалі не припарковував автомобіль. Він просто стояв в заторі.
Вдала подорож
У березні 2012 року три студенти з Японії, що приїхали в Австралію, вирішили відправитися в Норт-Страдброк, керуючись GPS-навігатором. З якихось причин навігатор не знав, що на прокладеному маршруті потрібно пробратися 9 миль через Тихий океан. Підкорившись технологіям, студенти виїхали на пляж і мулисті ділянки океану. Коли вода почала плескатися навколо їхнього Hyundai, вони зрозуміли, що застрягли. Під поглядами здивованих пасажирів порома студенти залишили машину і побрели до берега. Машина не підлягала відновленню.
Випадок зовсім не унікальний. Відомі епізоди, коли люди, довіряючи GPS-навігатору, вели свої машини в озеро, в будинок, вниз сходами, скелястою стежкою до обриву скелі і в величезний піщаний кар'єр. Офіційні представники туристичних організацій в італійському материковому місті Капрі були одного разу збентежені питаннями приїжджих шведів, які вважали, що прибули на острів Капрі, який перебував за 640 кілометрів.
Пілот на автопілоті
Автоматизовані системи відповідають не тільки за наш комфорт, але і за безпеку. Автопілоти сучасних літаків дуже надійні. Вони покликані полегшити навантаження екіпажу, щоб він міг зосередитись на більш важливих завданнях. Але замість цього пілоти засинають на штурвалах — образно або буквально. В кінці 2009 року стався гучний інцидент, коли два пілоти на автопілоті (не в переносному значенні) пролетіли повз аеропорт Міннеаполіса більш ніж на 160 кілометрів. Вони просто вперлися в свої ноутбуки і відволіклися. Іноді подібні інциденти закінчуються трагічно. Рейс Air France 447 впав у води Атлантичного океану на швидкості 201 кілометр на годину, тому що пілоти не змогли впоратися з керуванням, коли відключився автопілот. Вони навіть не зрозуміли, що відбувається. Всі, хто знаходилися на борту, загинули.
Замість маленьких помилок великі проблеми
Ерл Вінер, культова фігура в області авіаційної безпеки, винайшов те, що зараз відомо як «Закони Вінера» про авіацію і людські помилки. Ось один з них.
Цифрові пристрої виправляють маленькі помилки, створюючи можливості для великих.
Парадокс автоматизації має три напрямки. По-перше, чим простіше поводження з машиною і краща система коригування помилок, тим менш компетентними ми стаємо. По-друге, навіть експертні навички погіршуються, тому що машини позбавляють нас практики. По-третє, автоматика дає збої в нестандартних ситуаціях або сама служить їх причиною, вимагаючи втручання надкомпетентної людини. У кожному з цих трьох випадків підвищення ефективності та надійності електроніки лише посилить проблему.
Хто кого контролює
Ніхто не заперечує користь автоматизованих систем. Автоматизація робить наше життя простішим, комфортнішим і безпечнішим. Веб-сторінка або чат бот сервісного центру може обробляти рутинні скарги і запити, позбавляючи співробітників від одноманітної роботи. Польоти з автопілотом стали в рази безпечніші за ті, що здійснювалися під контролем людини. Але, чим більше ми довіряємо машинам, тим серйозніші наслідки їхніх помилок.
Одне з можливих рішень цієї проблеми — поміняти роль комп'ютера і людини.
Замість того щоб дозволяти комп'ютеру керувати літаком з людиною, готовим перейняти контроль, коли комп'ютер не може впоратися, можливо, буде краще дозволити людині керувати літаком, а машина буде відслідковувати ситуацію, готова втрутитися в потрібний момент. Зрештою, комп'ютери не втомлюються, терплячі, не потребують практики і здатні до навчання. То ж чому ми просимо людей спостерігати за машинами, а не навпаки? База даних і алгоритми, так само як і автопілот, повинні існувати для підтримки рішень людини. Якщо ми повністю довіримося машинам, катастрофа неминуча. Не попадайтеся на парадокс автоматизації: приймайте рішення розумом, а не комп'ютером.
Обробка: Vinci