Чому вчені та дослідники ІІ сперечаються про те, чи потрібні нам роботи? Наскільки реальним є сценарій, за яким штучний інтелект захоче (і зможе) знищити людство? Коли робот займе моє робоче місце?
Наводимо уривок із книги письменника та журналіста The New York Times Джона Маркоффа «Homo Roboticus? Люди та машини у пошуках взаєморозуміння», який допоможе у всьому розібратися.
Кінець ери друкарів
Пізнього весняного вечора 1992 р. на Центральному вокзалі літній чоловік у синій ветровке з написом New York Times чекав на платформі поїзд до округу Вестчестер. Я працював у Times деякий час, та мені зацікавила примарна фігура. "Ви співробітник газети?" - Запитав я.
Як виявилося, багато років тому він був складачем у Times. У 1973 р. його профспілка підписала угоду про поступове скорочення робочих місць у міру впровадження компанією комп'ютеризованих систем друку в обмін на гарантію зайнятості до виходу на пенсію. Хоча ця людина не працювала вже більше десятиліття, вона, як і раніше, приїжджала в друкарню на Таймс-сквер і проводила вечори з друкарями, що залишилися.
Друкарі та поліграфісти були висококваліфікованими працівниками, які особливо постраждали від появи у 1970-ті міні-комп'ютерів та різкого падіння їх вартості у міру переходу з транзисторів на інтегральні схеми. Сьогодні доля друкаря є яскравим прикладом того, що відбувається з живою працею під впливом нової хвилі автоматизації.
Куди піде ІІ?
Сьогодні однаково можна як включити людей до комп'ютерних систем, так і виключити їх. Подальший розвиток і штучного інтелекту, і засобів посилення інтелекту змусить робототехніків та вчених-комп'ютерників вибирати, як виглядатимуть системи на робочих місцях та в навколишньому світі. Хочемо ми цього чи ні, але скоро нам доведеться співіснувати з автономними машинами.
Розробник програмного забезпечення та консультант автомобільного проекту Google Бред Темплтон якось зауважив: "Робот стане дійсно автономним, коли ви накажете йому йти на роботу, а він вирішить вирушити на пляж". Це чудова фраза, у якій самосвідомість поєднується з автономністю. Сьогодні машини починають діяти без значного втручання людей або на рівні незалежності, яку можна вважати автономністю. Це ставить найважчі питання перед розробниками інтелектуальних машин. Проте здебільшого інженери ігнорують етичні проблеми, що виникають під час використання комп'ютерних технологій. Лише зрідка суспільство дослідників штучного інтелекту піддається поганим передчуттям.
Роботи на війні
На конференції Humanoids, що проходила в Атланті в 2013 р., присвяченій розробці та застосуванню антропоморфних роботів, робототехнік з Технологічного інституту Джорджії Рональд Аркін звернувся до аудиторії зі пристрасною промовою під назвою «Як НЕ створити Термінатора». Він нагадав присутнім, що до своїх трьох знаменитих законів Азімов пізніше додав фундаментальний «нульовий» закон робототехніки, який говорить: «Робот не може завдати шкоди людству або, не діючи, допустити, щоб людству було завдано шкоди».
Звертаючись до більш ніж 200 робототехнік і фахівців зі штучного інтелекту з університетів і компаній, Аркін закликав глибше задуматися про наслідки автоматизації. «Всі ми знаємо, що змагання проходять з прицілом на надзвичайні ситуації під девізом “знайти та знищити”, - сказав він сардонічно, додавши: Вибачте, я мав на увазі девіз “знайти та врятувати”».
Кордон між роботами, які діють як рятувальники та як наглядачі, вже зараз нечітка, якщо взагалі існує. Аркін показав уривки з науково-фантастичних фільмів, включаючи "Термінатор" 1984 Джеймса Кемерона. У кожному з них фігурували злі роботи, які виконували завдання, які DARPA ставило у своїх змаганнях: розчищення завалів, розтин дверей, проламування стін, підйом сходами і водіння автомобілів. Розробники можуть використовувати ці можливості як конструктивно, і деструктивно залежно від своїх намірів. Аудиторія нервово сміялася, але Аркін не давав їй розслабитись. "Я жартую, - сказав він, - але мені хочеться показати, що технології, які ви розробляєте, можуть використовуватися в таких цілях, про які ви навіть не замислювалися".
У сфері озброєнь потенціал несподіваних наслідків довгий час був особливістю так званих технологій подвійного призначення, наприклад ядерної енергії, яка може використовуватися як джерело електрики, і як зброя. Тепер це все більш справедливо для робототехніки та .
Це технології подвійного призначення не лише з точки зору можливості використання як зброї, а й з точки зору їхнього потенціалу розширювати можливості людей або замінювати їх.
Сьогодні ми все ще «в контурі управління» - машини, які замінюють людей або розширюють їх можливості, розробляються людьми, які не можуть скинути з себе відповідальність за наслідки винаходів. «Якщо ви хочете створити Термінатора, то продовжуйте робити свою справу не замислюючись і ви отримаєте саме такий пристрій, – сказав Аркін. - Але світу навколо нас не байдуже, які будуть наслідки у того, що ми створюємо».
Питання та проблеми автоматизації вийшли за межі технічної спільноти. У відкритому звіті Пентагону «Роль автономності в оборонних системах», що залишився непоміченим, автори звернули увагу на етичні проблеми автоматизації бойових систем. Військові вже безпосередньо стикаються з протиріччями, пов'язаними з автономними системами на кшталт дронів і наближенням до межі, за якою питання життя та смерті вже вирішуватимуть не люди. В одному зі своїх виступів Аркін стверджував, що, на відміну від людей, автономні бойові роботи не відчуватимуть загрози особистої безпеки, а це потенційно може зменшити супутні збитки та уникнути військових злочинів.
Аркін, крім того, сформулював новий набір етичних питань.Що, якщо у нас будуть роботи, які володіють мораллю, а у противника – ні? На це питання немає простої відповіді. Справді, технології все більш інтелектуальної та автоматизованої зброї спровокували нову гонку озброєнь. Додавання недорогого інтелекту до систем озброєння загрожує змінити баланс сил між країнами.
Коли Аркін завершив виступ у величній будівлі Медичної академії в Атланті, одним із перших йому відповів директор DARPA Robotics Challenge Гілл Пратт. Він не став спростовувати думку Аркіна, а підтвердив, що роботи – технологія подвійного призначення: «Дуже легко критикувати роботів, яких фінансує Міністерство оборони, – сказав він. - Дуже легко намалювати робота, який схожий на Термінатора, але оскільки все навколо нас має подвійне призначення, це нічого не змінює. Якщо ви створюєте робота для охорони здоров'я, то вам доведеться зробити його автономнішим, ніж робота-рятувальника для роботи в надзвичайних ситуаціях».
Передові технології завжди викликали питання щодо подвійного призначення. У наші дні штучний інтелект та автономність машин призвели до переосмислення цієї проблеми. Досі технології подвійного призначення прямо вимагали від людей ухвалення етичних рішень щодо їх використання. Автономність машин чи віддаляє прийняття етичних рішень людиною, чи повністю виключає його.
Чи автономні сучасні роботи?
У нас вже є приклади, коли вчені та інженери в інших галузях замислювалися про потенційні наслідки того, що вони роблять, і багато хто з них ставав на захист людства. У лютому 1975 р., наприклад, нобелівський лауреат Пол Берг закликав еліту нової тоді біотехнології зустрітися у конференц-центрі Асиломар у Пасіфік-Гроув, Каліфорнія. Тоді рекомбінантна ДНК, отримана додаванням нових генів в ДНК живих організмів, була останнім досягненням. Воно одночасно обіцяло глобальний прогрес у , і нових матеріалах і відкривало страшну можливість ненавмисного знищення людства внаслідок появи нових мікроорганізмів. Зустріч вчених призвела до екстраординарного рішення.
Група рекомендувала молекулярним біологам утримуватися від певних видів досліджень та зупиняти дослідження для пошуку шляхів забезпечення безпеки. Для моніторингу галузі біотехнологи створили незалежний комітет Національного інституту охорони здоров'я. За десятиліття вдалося зібрати достатньо даних, щоб зняти обмеження на дослідження. То справді був яскравий приклад розумного підходу суспільства до оцінки наслідків наукового прогресу.
За прикладом біологів у лютому 2009 р. група дослідників штучного інтелекту та робототехніків також зустрілася в Асиломарі, щоб обговорити розвиток галузі. Зустріч скликав дослідник із Microsoft Ерік Хорвіц, президент Асоціації розвитку штучного інтелекту. У попередні п'ять років предметом обговорення у дослідників у цій галузі були два тривожні сигнали. Один надійшов від , який оголосив про відносно швидку появу комп'ютерного надінтелекту. Засновник Sun Microsystems Білл Джой також малював похмуру картину розвитку штучного інтелекту. Він опублікував статтю в журналі Wired, де детально описував тріо технологічних загроз: робототехніку, генну інженерію та нанотехнологію. Джой вважав, що ці галузі досліджень створюють потрійну загрозу виживанню людства, і бачив очевидного рішення.
Дослідники штучного інтелекту, що зустрілися в Асиломарі, воліли діяти менш обережно, ніж їх попередники біотехнологи. Група світил в галузі комп'ютерної науки і робототехніки, включаючи Себастьяна Труна, Ендрю Ына, Мануелу Велосо і Орена Етціоні, нинішнього директора Інституту досліджень штучного інтелекту Пола Аллена, в цілому відкинула можливість появи надінтелекту, який перевершить людей, спонтанно з'явитися в інтернеті. Вони погодилися, що вже розробляються здатні вбивати автономні роботи, але їхній звіт, що з'явився до кінця 2009 р., виявився досить спокійним. Штучний інтелект ще досяг того моменту, що він перетворюється на безпосередню загрозу.
«На зустрічі 1975 р. йшлося про мораторій на дослідження рекомбінантної ДНК. Контекст наради американської Асоціації розвитку штучного інтелекту був зовсім іншим. Ця сфера демонструє досить успішний, сталий розвиток, проте дослідники штучного інтелекту відкрито висловлюють розчарування прогресом, недостатньо швидким з урахуванням існуючих надій та очікувань», - написали автори підсумкового звіту про зустріч.
Так чи інакше через п'ять років питання автономності машин виникло знову. У 2013 р., коли Google придбала спеціалізовану британську фірму DeepMind, вважалося, що робототехніки дуже близькі до створення повністю автономних роботів. Крихітний стартап продемонстрував програму, яка грала у відеоігри часом краще за людей. Звіти про придбання супроводжувалися заявою, що Google створює «раду з етики» через побоювання щодо потенційного використання технології та можливих зловживань.
Один із співзасновників - Шейн Легг - визнав, що технологія зрештою може мати негативні наслідки для людства. "Думаю, що людство зникне, і технологія, швидше за все, відіграє в цьому певну роль". Для дослідника штучного інтелекту, який щойно отримав сотні мільйонів доларів, це була дивна позиція. Якщо хтось вважає, що технологія може знищити людство, з якою метою він продовжує розробляти її?
Наприкінці 2014 р. зустріч із штучним інтелектом повторилася - нова група дослідників, фінансована одним із засновників Skype, зібралася в Пуерто-Ріко, щоб обговорити безпеку досліджень. Незважаючи на нову хвилю тривожних сигналів від таких світил, як Ілон Маск та Стівен Хокінг, у відкритому листі учасників не було того заклику до дії, який пролунав на зустрічі біотехнологів у Асиломарі у 1975 році.
Враховуючи, що DeepMind була куплена Google, публічне філософствування Легга набуває особливого значення. Сьогодні Google - найяскравіший приклад потенційних наслідків розвитку ІІ та посилення інтелекту. Побудована на алгоритмі, що ефективно збирає знання, а потім повертає їх людям у процесі пошуку інформації, Google тепер зайнята створенням імперії роботів. Компанія може створити машини, які замінять людей: водіїв, працівників служб доставки та збирачів електроніки. Поки неясно, чи залишиться вона компанією «посилення інтелекту», чи орієнтуватиметься на ІІ.
І знову етичні питання
Нову хвилю занепокоєння з приводу потенційної загрози з боку штучного інтелекту та робототехніки породжують етичні проблеми, показані в науково-фантастичному фільмі «Той, що біжить по лезу». На початку фільму детектив Декард зустрічається з Рейчел, співробітницею компанії, яка виробляє роботів (або реплікантів), і запитує її, чи дорого коштує «нічний метелик». Вона висловлює припущення, що не розуміє цінності роботи компанії. «Репліканти подібні до будь-якої іншої машини, - відповідає Декард. - Вони чи благо, чи небезпека. Якщо вони благо, це не моя турбота».
Скільки мине часу, перш ніж інтелектуальні машини Google, засновані на технологіях від DeepMind та робототехнічного підрозділу Google, будуть викликати такі самі питання? Мало які фільми мали такий самий культурний ефект, як «Той, що біжить по лезу». Усього вийшло сім його версій, одна з яких режисерська, зараз знімається сіквел. У ньому розповідається історія відставного детектива з Лос-Анджелеса, якого у 2019 р. викликали, щоб вистежити та знищити групу штучно створених істот, відомих як репліканти. Репліканти призначалися до роботи поза планети, але незаконно повернулися Землю, щоб змусити свого творця збільшити обмежену тривалість їх життя. Цей фільм, що став сучасним «Чарівником Країни Оз», відображає надії та страхи технологічно грамотного покоління.
Від Залізного Дроворуба, який отримує серце і, таким чином, певною мірою стає людиною, до реплікантів, що настільки перевершують людей, що Декард отримує наказ знищити їх, ставлення людства до робіт перетворюється на визначальне питання епохи.
Ці «інтелектуальні» машини ніколи, можливо, не стануть інтелектуальними в людському розумінні або самосвідомістю. Справа не в цьому. Штучний інтелект швидко вдосконалюється і наближається до рівня, коли він все більшою мірою здаватиметься інтелектом.
Фільм «Вона», який вийшов у грудні 2013 р., знайшов широкий відгук у суспільстві, швидше за все, тому, що мільйони людей вже взаємодіють з персональними помічниками, такими як Siri компанії Apple. Взаємодія, подібна до показаного у фільмі, стала звичайною. У міру того, як комп'ютери зменшуються в розмірах і вбудовуються в предмети повсякденного користування, ми очікуємо, що взаємодія з ними буде розумною. Працюючи над Siri, поки проект ще прихований від суспільної уваги, Том Грубер називав систему «інтелект в інтерфейсі». Йому здавалося, що він зумів поєднати конкуруючі світи штучного інтелекту та посилення інтелекту.
І справді, поява програмних інтелектуальних помічників начебто натякає на зближення таких несумісних спільнот, як розробники систем людино-машинної взаємодії та дослідники штучного інтелекту. Алан Кей, який стояв біля витоків індустрії сучасних персональних комп'ютерів, сказав, що, займаючись комп'ютерними інтерфейсами, він працював на майбутнє, яке настане через 10–15 років. Ніколас Негропонте, один із перших дослідників вбудованих медіа, та мовних інтерфейсів, працював на 25–30-річну перспективу. Як і Негропонте, Кей стверджує, що найкращі комп'ютерні інтерфейси – ті, які більше схожі на театр, а найкращий театр настільки залучає публіку у свій світ, що люди почуваються його частиною. Цей підхід безпосередньо веде до інтерактивних систем, які функціонуватимуть швидше як інтелектуальні колеги, а не як комп'ютеризовані інструменти.
Як ці комп'ютерні аватари перетворять суспільство? Люди вже зараз витрачають істотну частину неспання на взаємодію через комп'ютери один з одним або з подібними до людини машинами у відеоіграх або у віртуальних системах від FAQbots до Siri. Ми використовуємо пошукові системи навіть у щоденних розмовах.
Машини вже вибудовують нашу повсякденність
Чи стануть ці інтелектуальні аватари нашими слугами, помічниками та колегами чи водночас одним, іншим та третім? Чи на нас чекає похмуріший сценарій, за якого вони перетворяться на наших господарів? Підхід до робіт і штучного інтелекту з погляду соціальних взаємин може у перший час здатися абсурдним. Тим не менш, з урахуванням нашої схильності до олюднення машин, ми напевно вступатимемо з ними в соціальні відносини в міру підвищення їхньої автономності.
Це підводить нас до ще однієї великої проблеми: ризику поступитися контролем над прийняттям повсякденних рішень все більш складним алгоритмам. Нещодавно ветеран венчурного бізнесу Кремнієвої долини Ренді Комісар був на конференції і слухав виступ, який описував конкурента Siri - сервіс Google Now. «Схоже, людям до смерті хочеться, щоби якийсь інтелект підказував їм, що треба робити, - сказав він. - Що вони мають їсти, з ким мають зустрічатися, на які вечірки мають ходити».
На його погляд, для сьогоднішнього молодого покоління світ перекинувся нагору ногами. Замість використання комп'ютерів для здобуття свободи і можливості мислити масштабно, для встановлення близьких відносин, для реалізації своєї індивідуальності та творчого потенціалу, молоді люди настільки прагнуть вказівок, що готові передати цю відповідальність штучному інтелекту у хмарі.
Протиріччя, властиве ідеологіям штучного інтелекту та посилення інтелекту, вперше вразило мене, коли я зрозумів, що Енгельбарт і Маккарті займалися створенням комп'ютерних технологій з абсолютно різними цілями. У їхніх підходах була двоїстість, і парадоксальність. І це зрозуміло – якщо ви розширюєте можливості людини за допомогою комп'ютерної технології, то неминуче витісняєте людей. Водночас вибір тієї чи іншої сторони у суперечці – це питання етики, хоча його й не можна розглядати як вибір між чорним та білим.
Звичайно, ці технології мають межі. Американський дослідник ІІ Террі Виноград каже, що цілі застосування комп'ютерних технологій – розширення можливостей людей або їх заміна – залежать більшою мірою від характеру економічної системи, а не від властивостей самих технологій. У капіталістичній економіці, якщо технології штучного інтелекту зможуть замінювати білі комірці та працівників інтелектуальної праці, то вони неминуче використовуватимуться саме таким чином. Саме в цьому полягає урок для таких, що по-різному підходять до систем майбутнього дослідників штучного інтелекту, робототехніків і програмістів. Зрозуміло, що попередження Білла Джоя («майбутнє не потребує нас») - це лише один із можливих результатів. Не менш очевидно, що перетворений цими технологіями світ не повинен обернутися катастрофою.
На те, що почалося для мене як парадокс, є простою відповіддю. Усунення протиріччя між штучним інтелектом та посиленням інтелекту залежить від рішень людей – інженерів та вчених, які усвідомлено обрали антропоцентричний підхід.
Це проблема нас як людей та світу, який ми створюємо. Це не проблема машин.
Фантасти вигадали роботів десятки років тому, але розумні металеві люди так і не з'явилися на наших вулицях. Втіленню мрії в реальність заважає багато. У тому числі і сама людина
Неуніверсальні помічники
Симпатичні створення з новітніх пластиків і сплавів, на думку людей, повинні виконувати важку чи нудну роботу: ходити до магазину, мити посуд, пилососити, робити з дітьми уроки та розмовляти з бабусею про погоду. Якщо знадобиться, вони віднесуть квитанції до банку та довезуть господаря до роботи.
Кожна з цих дій сама по собі не потребує особливих зусиль, але разом вони забирають багато часу, тому побутові роботи мають бути універсальними.
«Сьогодні в лабораторіях є роботи, які вміють вирішувати кілька завдань паралельно, але, по-перше, у кожний момент вони зайняті лише однією з них, а по-друге, вони самостійно не можуть вибрати, яке із завдань віддати перевагу. Більше того, роботи зовсім не розуміють, чого не потрібно робити у конкретній ситуації»— пояснює старший лектор Школи комп'ютерних наук у Бірмінгемі, фахівець у галузі штучного інтелекту Нік Хоз.
Щоб пропилососити квартиру, роботу потрібен один алгоритм, для походу в магазин — інший, і вони повинні бути прописані в електронних «мозках». Невелика зміна параметрів, якщо вона не задано спочатку, наприклад, продуктові секції в магазині поміняли місцями, робить завдання нездійсненним. Машина виконує лише встановлені команди і не може «зрозуміти», що в магазині, по суті, все залишилося незмінним. «Одне з вирішення проблеми — створити подобу соціальної мережі для роботів, куди вони завантажуватимуть дані, отримані в нових ситуаціях, а інші роботи зможуть їх завантажити», - Каже Нік.
Обмежений розум
Інша риса, яку сценаристи майбутнього приписують роботам поряд із універсальністю, – фантастичний розум. Відколи створений IBMкомп'ютер Deep Blueобіграв одного з найбільших шахістів планети Гаррі Каспарова, багатьом здається, що в частині інтелекту машини перевершили людей. Суперкомп'ютери та процесори в мобільних телефонах, що виконують тисячі операцій на секунду, підкріплюють цю впевненість. Але насправді людям нема чого боятися.
|
Naoобладнаний процесором Intel Atom, як і прості нетбуки |
Розум роботів обмежений так званою проблемою значення. «Це колосальна проблема робототехніки, - Каже Хоз. — Роботи не розуміють, що означає «квітка», чи «небо», чи будь-що. Найгірше, люди й самі не знають, що таке значення — вони просто розуміють його, і все». Машина може вивчити, що об'єкт на чотирьох ніжках з сидінням і спинкою - це стілець, але сенс поняття стільця їй недоступний. Тому дизайнерський стілець без ніжок і з роздвоєною спинкою робот навряд чи впізнає, при тому, що у людини жодних проблем із цим не виникне.
«Люди створюють величезні основи, куди записують усі можливі значення слів. Але це лише часткове рішення: якщо те, про що ви кажете, є в базі, робот вас зрозуміє. А якщо слова там нема? Існує й інший підхід, коли роботів навчають значення через досвід. Але знову-таки вони вивчать лише значення тих понять, із якими зіткнулися особисто», – розповідає Нік Хоз.
|
Антропоморфність- Підступна штука. Якщо робот сильно нагадує людину, але деякі риси все ж таки відрізняються, люди починають відчувати огиду. Цей феномен отримав назву «зловісна долина» (uncanny valley ). Термін придумав у 1970 році японський фахівець із робототехніки Масахіро Морі. Спочатку реакцію відторгнення пояснювали особливостями людської психіки, але в 2009 році вчені з Прінстона показали, що мавпи поводяться так само. Це означає, що страх начебто таких самих, але трохи несхожих на себе істот має серйозні еволюційні підстави. Мозок сприймає ці відмінності як ознака здоров'я та прагне обмежити контакти з потенційно небезпечним об'єктом. На фото: Симпатичні роботи зовсім невисокі - їх зростання 58 см |
СКЛАДНОСТІ Відсутність бажань
Мабуть, найбільше люди бояться, що одного разу роботам набридне підкорятися людині, і вони захоплять світ. Перспектива малоймовірна не тільки тому, що роботи не розуміють сенсу слів «захопити» та «світ». Набагато більш вагома причина в тому, що поки що інженерам не вдалося наділити роботів свідомістю. Це важковизначене поняття дає людям свободу вибору та бажання, зокрема й світового панування.
«Поки що ми не розуміємо, як формується свідомість у людей, а отже, не можемо відтворити її у роботів. На мій погляд, річ у тому, як саме пов'язані між собою різні відділи мозку. Якщо ми колись розберемося в цьому, то, можливо, зуміємо повторити структуру мозку і забезпечити роботів свідомістю., - Вважає Госп.
|
Багато дій, які вимагають від людини зусиль, для роботів виявляються нездійсненними. Механічним істотам важко розрахувати силу захоплення, коли вони тиснуть руку або беруть щось тендітне, вони дуже погано ходять і не вміють бігати. На щорічному чемпіонаті з робофутболу RoboCupгравці пересуваються зі швидкістю близько 3 м/с (10,8 км/год), а у найкращих футболістів замість ніг колеса чи гусениці. Двоногим роботам дуже складно утримувати рівновагу, при ходьбі процесор прораховує кожен крок, визначаючи, як саме розподілити вагу. Найстійкішими в русі виявилися роботи з чотирма кінцівками, наприклад, створений компанією Boston Dynamicsспільно з Лабораторією реактивного руху NASA«великий пес», BigDog (на світлині). Істота на гнучких лапах вміє ходити рівною землею, піском, снігом і неглибокими водоймами, забирається в гори і спускається з них і при цьому тягне на «спині» до 150 кілограмів ваги. Повалити його на землю не так просто: на демонстраційних відео інженери штовхають робота ногами, але він все одно залишається на чотирьох кінцівках. |
ПРАКТИКА Машини, які не розуміють значень слів і не мають свідомості, не зможуть замінити людей там, де потрібно діяти не за шаблоном, навіть складним. Наприклад, хоча роботам невідомий страх, вони не бояться болю, можуть існувати без кисню та води, витримувати екстремальні температури — з них дуже погані космонавти. «Ту інформацію, яку марсохід збирає три місяці, людина отримала б за три години, - Пояснює Нік. — Люди з Землі переглядають телеметрію і надсилають апарату завдання, скільки сантиметрів проїхати, до якого каменю наблизитися, який інструмент використати. Людина прийняла б усі ці рішення за частки секунди». У середньому сигнал йде від Марса до Землі близько 15 хвилин (і стільки ж назад), але комунікація не завжди можлива через перешкоди. Тому «вихлоп» навіть від короткої подорожі людини на Марс виявився б у сотні разів більшим за кілька роботизованих місій, кожна з яких тривала роки. Рекордсмен серед марсіанських довгожителів, ровер «Опортьюніті», за понад 10 років на Червоній планеті проїхав лише 40 кілометрів.
Так, роботи добре вважають, вони сильні, витривалі і працюють без перерв на сон та їжу. Але, як це не парадоксально, з машин не вийде універсальних помічників до тих пір, поки вони не стануть людянішими і не обзаведуться свідомістю (або, можливо, душею).
Фото: Diomedia (x6), PAL Robotics SL (x2), DARPA
Періодично з'являються статті про те, коли роботи замінять людей і залишать їх без роботи. На тлі цього все частіше публікуються матеріали, автори яких перераховують професії, які «не вимруть», і звуть на курси складання «правильного резюме». Чи насправді технології змогли настільки змінити доступність роботи для людей?
Нічого нового вже півтора століття
Вважаю, що насправді роботизація – просто черговий виток технологічної революції. Це історичний процес, який не має початку чи кінця.
Найбільший страх роботи викликають у громадян економічно розвинених країн: високий технологічний рівень дозволяє максимально автоматизувати виробництво. Але глобальна статистика показує, що поки що заміщення людей не відбувається. В іншому випадку рівень безробіття мав би зростати, але все навпаки. За даними Міжнародної організації праці, рівень безробіття в економічно розвинених країнах опуститься у 2018 році до небувалих 5,5% уперше з 2007 року (при цьому у звіті наголошується, що загальний рівень безробіття у світі залишається відносно високим).
На початку XIX століття машиніст та нечисленна поїзна бригада замінили сотні кучерів, які працювали у міжміському диліжансі. На перший погляд – трагедія для кучерів. Але зайнятість населення в транспортній сфері на той час була лише 2%, а на даний момент вона зросла до 5%. Так відбувається завжди, коли галузь стає ефективнішою, починає швидше та якісніше виконувати своє основне призначення. Підвищення якості послуг завжди формує вищий попит, і це, зрештою, лише збільшує зайнятість у цій сфері, а не зменшує її.
Роботизацією лякають, як чимось новим та небезпечним. Але вона розпочалася у 70-х роках минулого століття (якщо не раніше): перший мікропроцесор, перший персональний комп'ютер, перша стільникова телефонна мережа. Розкажи ви тоді касиру в банку, що можна підійти до коробки, вставити в неї пластикову картку і отримати готівку, він, швидше за все, теж подумав би, що його роботі загрожує робот. Але насправді кардинальна зміна відбулася із самим касиром: тепер він займається сервісом, а вся механічна робота перейшла машинам. Чи зросла від цього якість послуг? Безперечно.
Банкомат – це автоматизація механічної роботи, а от нейромережі – це вже якась інтелектуальна система. Припустимо, нейромережі, наприклад, зможуть повністю автономно складати акти та платіжні документи, на якомусь рівні контролювати фінансові потоки всередині компанії. Тоді, власне, професія бухгалтера вимре. Можливо, повністю, а можливо, залишиться спеціалізація певного ревізора, який контролюватиме роботів.
Але коли одні робочі місця зникають, їхньому місці з'являються нові. Перетікання зайнятості з однієї сфери в іншу за останні 50 років стало швидшим. І все, що, власне, зроблять нейромережі - лише прискорять цей процес. Професія бухгалтера може зникнути, але співробітники клієнтської підтримки для умовної автоматизованої бухгалтерії з досвідом ведення корпоративних фінансів будуть потрібні ще щонайменше 10-15 років, а потім для них з'явиться якась інша робота.
Зміна професії
Роботизація не тягне за собою підвищення рівня безробіття. Робота для людей не зникає, просто вона перетікає до сфер, де від людини залежить прийняття рішень.
Це основний тренд 2018 року. Зайнятість перерозподілятиметься між секторами виробництва. Зокрема, зберігається тенденція перерозподілу зайнятості у сільському господарстві на користь робочих місць у сфері послуг. Кількість місць на виробництві повільно падає: людина все менше потрібна там, де потрібна механічна праця, вона або вчить автоматику, або контролює її.
Робот не замінить людину там, де необхідно вибудовувати систему та приймати виважені управлінські рішення. Процес побудови систем цілком інтелектуальний – комп'ютер не може створити собі такого. Банкомат може видати вам грошей, але не він вирішує скільки: скоринг по соціальних мережах і попередніх витратах проводить штучний інтелект, але фінальне оціночне управлінське рішення залишається за банківським аналітиком.
Саме тому машини ніколи повністю не захоплять сферу HR, а тим більше сектор продажу. Завжди залишається набір критеріїв, які поки що не завантажені в машину. Великі дані - це система, побудована і зібрана людиною, яка шукає взаємозв'язку в даних, щоб людині було легше далі нею керувати.
Яка робота точно буде
Те, що відбувається зі світом, - це просто прискорення транзакцій. 200 років тому лист поштою тривав три тижні, а зараз у месенджерах можна обмінятися інформацією за дві хвилини.
Якщо на нас не чекає масове безробіття, то звідки інформаційний шум? Згадайте соціальні мережі: з більшою ймовірністю буде розшарована стаття про світ і нову реальність, що змінився, ніж про те, що по суті навколо нас нічого не змінилося.
Поки що світ змінюється закономірно. Зайнятість перетікає з однієї сфери до іншої, і навіть у цих умовах завжди знайдеться місце звичайної, не високоінтелектуальної роботи.
Бізнеси, які займаються розробкою безпілотних систем управління, створили сотні тисяч робочих місць в Індії. Це величезні дата-центри, де співробітники щодня допомагають навчати системи та отримують за це 200 $ на день. На монітор виводять зображення з камер тестових автомобілів, яке співробітник має назвати: пожежний гідрант, дитина, дерево: фактично ці люди ухвалюють рішення, займаються побудовою автоматизованої системи. Хоча це і не найінтелектуальніша праця.
Навіть у століття, коли відбуваються, як нам здається, турбулентні зміни, безробіття не поглине людство. Світ справді розвивається, автоматизація приходить на виробництва. Але людина залишиться, щоб навчати чи контролювати машину. Дії автоматики, роботів та всіляких інтелектуальних систем завжди потребуватимуть нашого схвалення.
Мова природно не йде про промислові роботи, ті міцно зайняли свою нішу і у них все добре. Але ось «побутові» роботи, роботи для простих людей якось досі не набули хоч якогось пристойного поширення.
У цьому фантастичні твори, та й теоретична концепція робототехніки, малювали райдужні картини повсюдного використання роботів. Роботи мали допомагати людям, беручи він складну чи нудну роботу.
Однак, коли справа дійшла до власне розробок, розробники натрапили на відсутність нормальних ідей щодо використання роботів. При тому, що з технологічного боку все, загалом, непогано, але куди застосовувати цей досвід не дуже зрозуміло, а ті спроби, що є, виглядають непереконливо.
Але все по порядку, і почну я, власне, з того гарного, що є.
Роботи-конструктори
Перше, що можливо спадає на думку, це конструктори роботів. Lego mindstorms і тому подібні речі.
Конструкторів роботів досить багато і являють собою зазвичай набір деталей для збору шасі робота, контролер у тому чи іншому вигляді («мозок робота») і набір різних датчиків.
Маючи невелику інструкцію і трохи завзятості, з цих деталей можна зібрати невеликого робота, хоч це і буде по суті лише машинка, що пересувається.
Використовуючи можливості Lego, можна збирати просто божевільні механізми. Від гексаподів, до танків із ракетницями. Від механізму для збирання кубика Рубіка до механічного художника, який малює Мону Лізу.
Всім добрі такі конструктори, і особливо гарний Lego. Однак є одне але. Це жодного разу не продукт для пересічних людей. Це продукти інженерів. Інженерів, можливо, не за професією, а за покликанням, але все ж таки інженерів, тобто для тих людей, які люблять конструювати механізми, а таких за визначенням не так щоб багато, що означає, що ці конструктори не зроблять роботів чимось природним для суспільства. Чимось природним, як, наприклад, свого часу стали комп'ютери.
Роботи-пилососи
Саме, мабуть, масове використання роботів у побуті зараз, це роботи-пилососи. При тому, що їх вартість з часом все зменшується, вони цілком непогано виконують свою функцію, допомагаючи в прибиранні в будинку.
Звичайно, повністю зробити прибирання за людину вони не здатні, проте їхнє використання точно підвищує чистоту в будинку. І ось це поки що найвдаліше використання роботів у побуті, про що говорять і продаж таких роботів, люди їх купують мільйонами.
У результаті ми маємо один дійсно масовий продукт, і один продукт для навчання. І поки що це все, що може похвалитися робототехніка. Інші представники роботів, вже не так вражають.
Роботи-собака
Свого часу Sony випустила смішного собаку-робота Aibo. Тоді здавалося, що нарешті роботи прийдуть до будинку кожної людини. Однак за підсумками, хороших продажів ці собаки не показали, і справа була не тільки в не найменшій ціні, зараз аналогів дешевше вистачає, та ось продажі у них також посередні. Справа в тому, що такі роботи є лише дорогою іграшкою, а у подібних речей існує не найкращі властивості, з ними грають тиждень – два, а потім закидають у дальній кут, через непотрібність. Тому вони й не стали масовим продуктом. Ними довго не користуватимуться.
Роботи «андроїди»
Nao, Darwin OP та низку інших. З одного боку використовується як навчальний, і тоді виступають в одній категорії з Lego mindstorms, а з іншого використовуються для розваги. У цьому випадку у них ті самі проблеми, як і у роботів-собак. Це дорога іграшка, з якою граються тиждень, а потім закидають кудись подалі.
Виставкові роботи
Тут із особистого досвіду. Був на томському форумі молодих учених U-novus і там їздив робот від Московського технологічного інституту. Про самого робота нічого не скажу, але так як я хотів на практиці підтвердити свої теоретичні здогади, то поряд з ним я провів досить багато часу, спостерігаючи за людьми, які підходили до нього.
І народу зацікавлених було чимало! Одна проблема, погравши з цим роботом кілька хвилин, усі втрачали до нього інтерес.
Це і є основною проблемою таких «промоботів». Вони одноразові. Вони дійсно привертають до себе увагу, але тільки один раз, далі на них вже всім начхати, а значить, ті завдання, які їм теоретично приписуються, як краще залучення клієнтів, виконуватимуться, але рівно до того моменту, поки всі не надивляться на цих роботів.
Заради справедливості, треба зазначити, що як екскурсоводи або пересувні довідкові вони цілком собі можуть непогано справлятися, але тут питання в тому, чи багато потрібно екскурсоводів, чи потрібні пересувні довідкові, коли є просто таблички з інформацією.
Квадрокоптери
Умовимося, що ми не розглядаємо ті коптери, які управляються безпосередньо з пультів, а отже роботами не є.
Залишиться у нас не так багато застосувань, які поки що придумали.
Ну, по-перше, «дорога палиця для селфі». Квадрокоптер, що літає за господарем і знімає його на відео. Загалом і в цілому ідея непогана, не те, щоб екстремалів було дуже багато, але відеоролики з ними, які виходять з коптерів, виглядають завжди просто приголомшливо. Однак є одне але, про яке скажу трохи згодом. Ну, і крім того, здебільшого це для екстремалів, у крайньому випадку для туристів, тож про масовість тут, напевно, говорити не доводиться.
Друге це доставка вантажів. Від маленьких дронів у ресторані до перевезення піци або інших дрібних посилок. Ну, дрони в ресторанах ідея відразу погана, всі хто бачив рвані рани від лопат квадрокоптера, відразу зрозуміють весь жах використання їх у закритих приміщеннях.
Перевезення вантажів це вже краще. Якщо прибрати ризики того, що малолітні вандали з радістю почнуть на такі штуки полювати, ми отримуємо відмінну альтернативу «людським» кур'єрам. Швидкість пересилання, незалежність від пробок на дорозі, та й загальна дешевизна і в результаті чудовий продукт! Був би…
Був би, якби не одна важлива проблема, що стоїть в іншому не тільки саме перед індустрією роботів, а й, загалом, перед людством. І проблема – низька ємність сучасних акумуляторів. Усі нинішні квадрокоптери можуть літати близько 30 хвилин. Деякі примудряються до цілої години розтягнути час польоту, але не більше. Чи багато можна зробити за півгодини? Не дуже.
Для тих же екстремалів, що загрожує коптерові, коли пройде півгодини? Він упаде кудись у печеру/воду/вулкан/що завгодно, а це втрата не найдешевшого коптера і вже точно дорогої камери. Перевезення вантажів також не дуже реалістичною бачиться, ти або перевіз одну посилку і потім сидиш заряджаєшся, або ризикуєш впустити якусь порцеляну на голови вуличних перехожих.
Тут, щоправда, треба уточнити, що великі компанії намагаються обійти це обмеження, наприклад, створюючи станції для підзарядки дронів, у яких коптер або перезарядиться і продовжить перевозити посилку, або передасть її іншому дрону, який вже заряджений.
Але це все напівзаходи, і поки не зможуть важливо поліпшити ємність акумуляторів дрони навряд чи зможуть виконувати свої функції так, як це думалося.
інше
Є ще кілька видів роботів, роботи телеприсутності, роботи няньки, роботи вчителя тощо. Але деякі з них у принципі мало потрібні, а інші поки що на ранньому етапі розробки, щоб говорити про їхній успіх. Ну і в будь-якому випадку ці роботи, навіть якщо вийдуть, займатимуть дуже вузьку нішу.
Якщо ж чогось забув чи дурень і нічого не розумію, пишіть у коментарях.
Підсумок
А врешті-решт досить сумна ситуація. За рідкісними винятками люди ще не придумали, навіщо саме потрібно використовувати роботів, так, щоб вони міцно увійшли в життя простих людей, і стали таким самим природним супутником людини, як, наприклад, комп'ютери.
P.S. автопілоти в автомобілів не розглядав, тому що вони трохи вибиваються із стандартного «облику» роботів
Моделі андроїдів на виставці Tokyo Game Show. 2017 рік. Фото: Kim Kyung Hoon/Reuters
Влада Каліфорнії підписала закон, який забороняє роботам, роботам і нейромережам прикидатися людьми. Він набуде чинності 1 липня 2019 року.
Як пояснив губернатор штату Джеррі Браун, насамперед закон торкнеться автоматичних ботів у соцмережах, яких компанії використовують у комерційних цілях, наприклад, продаючи товари чи послуги. Тепер творці ботів повинні налаштувати їх так, щоб вони відразу заявляли про своє штучне походження і не вводили людей в оману. Це також стосується голосових помічників, які розмовляють телефоном від імені власника.
Про важливість такого закону говорить керівник Дослідницького центру проблем регулювання робототехніки та штучного інтелекту Андрій Незнамов:
Андрій Незнамов керівник Дослідницького центру проблем регулювання робототехніки та штучного інтелекту«Необхідність така є. Можливо, США зараз йдуть трошки попереду реальної потреби, але зрозуміло, що ми до цього рано чи пізно прийдемо. Коли компанія Google анонсувала свого голосового помічника кілька місяців тому, вона на демонстрації робила дзвінок до ресторану, перукарні. Цей дзвінок робив голосовий помічник, і ніхто з того боку не зрозумів, що з ним розмовляє робот. Тому, найімовірніше, це був формальний привід, чому такий закон з'явився. Усіх справді це вразило. Спочатку люди пораділи, а потім злякалися. Адже якщо система з того боку, наприклад, здійснює автоматичну обробку інформації, то, спілкуючись із нею, ти довіряєш їй, наприклад, свої персональні дані. По-друге, людина може бути введена в оману щодо того, що їй сказав робот або штучний інтелект і, ґрунтуючись на цьому, прийняти якесь рішення або зробити якусь дію, яка, якби вона знав, що це робот чи штучний інтелект, він би робити не став. Наприклад, біржа: можливо, що людина з якихось причин не стала б довіряти роботу, а віддала б перевагу фінансовій пораді від біржової людини».
